Kan man stole på AI?

Tillid, der er bygget ind.

Kan AI få ansvar og løse opgaven forsvarligt?

Vi stoler på AIen. Det skal kunne mærkes i designet.

Uden indbygget tillid bliver en stor del af potentialet aldrig udnyttet. Hvis mennesket stadig skal sætte hvert skridt i gang, holde alle trådene samlet og kontrollere alt undervejs, har vi bevaret den arbejdsbyrde, AI skulle overtage. Et AI-projekt kan fungere teknisk og stadig fejle som ny arbejdsform.

Derfor giver vi AI ansvaret for at drive processen og udføre arbejdet. Mennesket sætter mål og retning og skal kunne stå inde for resultatet. Vi bygger virksomhedens viden, kvalitetskontrol og sikkerhed ind i systemet, så tilliden har noget at stå på.

Hvem holder opgaven i gang?

AI som assistent er allerede nyttig. Den kan hjælpe med at skrive, undersøge, analysere og finde løsninger. Det kan gøre den enkelte del af arbejdet hurtigere og nemmere.

Men nogen skal stadig huske, hvad der mangler. Beslutte, hvad der skal ske nu. Indhente oplysningerne, flytte resultatet til det rigtige system og følge op.

Når den person er dig, beholder du den mentale belastning. AI hjælper med arbejdet, mens du holder hele processen i hovedet.

Giv AI hele opgaven

Forestil dig, at en kunde beder om et tilbud. En assistent kan hjælpe dig med at formulere det. Du skal selv finde kundens oplysninger, undersøge mulighederne, afklare de manglende detaljer og sikre, at sagen kommer videre.

En agent kan få opgaven: Udarbejd et tilbud, som matcher kundens behov og vores måde at levere på.

Så bliver det agentens arbejde at undersøge sagen, bruge de relevante systemer og samle et forslag. Når noget kræver din vurdering, spørger den. Når dit input er på plads, fortsætter den.

Det er den arbejdsform, vi designer til. Du skal kunne give retning og slippe opgaven, mens arbejdet bevæger sig fremad.

Den skal kende virksomheden

Tillid kræver mere end en stærk model. Agenten skal kende de forhold, der afgør, hvad et godt resultat er hos jer: processer, begreber, prioriteringer og erfaringer.

Hvad gør I normalt? Hvornår gælder en undtagelse? Hvilke oplysninger skal undersøges, før der kan træffes et valg?

Den forståelse skal være tilgængelig i arbejdet og kunne forbedres. Når en medarbejder retter et forslag, er begrundelsen vigtig. Den kan gøre agentens vidensgrundlag bedre til næste opgave.

AI kan stadig misforstå og give forkerte svar. Derfor skal kvaliteten afprøves på konkrete opgaver, også når modellen eller vidensgrundlaget ændrer sig.

OpenAI beskriver betydningen af evaluering og relevant kontekst.

Tilliden skal bygges ind

Hvis mennesker skal kontrollere hver eneste handling, bliver de let flaskehalsen igen. Derfor skal systemet kunne håndtere almindeligt arbejde inden for tydelige rammer.

Adgang til data og systemer skal være afgrænset. Handlinger med store konsekvenser skal have passende kontrol. Agenten skal kunne opdage, når den mangler viden, og arbejdet skal være synligt nok til, at mennesker kan gribe ind.

Kontrollen kan ligge forskellige steder: i værktøjerne, i automatiske kontroller eller ved menneskelig stillingtagen. Den skal passe til risikoen ved den konkrete handling.

Mennesket bevarer retningen

At overdrage processen betyder, at menneskets rolle ændrer sig.

I sætter mål, prioriterer og bidrager med faglig dømmekraft. I kan ændre retningen undervejs og vurdere, om resultatet løser den rigtige opgave.

AI får plads til at undersøge, udføre og følge op.

Ambitionen er, at I kan bruge jeres opmærksomhed på det, der kræver jer, mens agenten holder arbejdet i gang.