Før den tjuende agenten: spørsmålene hver gjennomgang vil stille

Den første AI-agenten i en organisasjon blir godkjent på entusiasme. Noen bygde den, den gjør noe nyttig, og de som må si ja, vet nøyaktig hvem de skal spørre hvis den oppfører seg feil. Den tiende er vanskeligere. Ved den tjuende tar gjennomgangen som før tok en ettermiddag, en måned, fordi ingen med sikkerhet kan si hva som kjører, hva det når, og hva som er endret siden sist noen så på det.

Styring er ikke det som bremser agentene. Mangelen på styring er det.

Fire spørsmål som kommer tilbake hver gang

Enten gjennomgangen gjøres av sikkerhetsavdelingen, av en revisor eller av en forretningseier som må godkjenne et budsjett, koker det ned til de samme fire spørsmålene.

• Hva finnes? En liste over agenter, hver med en eier, et formål og prosessen den tjener. Hvis listen må settes sammen ved å spørre rundt, er den allerede utdatert.
• Hva kan hver av dem nå? Dataene den leser, systemene den skriver til og identiteten den kjører under. “Den bruker kontoen til den som laget den” er et svar, men ikke et godt et.
• Hvem sa ja, og til hva? Godkjenningen, vilkårene som fulgte med, og versjonen den gjaldt for. En agent som er endret tjue ganger siden godkjenningen, har i praksis aldri blitt godkjent.
• Hva er endret? Nye koblinger, nye instruksjoner, et bredere publikum. Endring er normalt; usynlig endring er problemet.

Besvar dem ved design, ikke ved etterforskning

Forskjellen mellom organisasjoner som skalerer bruken av agenter og de som stopper opp, ligger sjelden i kvaliteten på retningslinjene. Den ligger i om de fire svarene finnes som et biprodukt av hvordan agentene bygges, eller må rekonstrueres hver gang noen spør.

Ved design betyr noen få konkrete ting. Hver agent registreres før den settes i drift, med en eier som er en person, ikke en felles postkasse. Tilgang gis til agentens egen identitet, avgrenset til det prosessen trenger, slik at spørsmålet om rekkevidde har et faktisk svar. Godkjenning registreres mot en versjon, og en vesentlig endring utløser en kort gjennomgang i stedet for en lang. Og hele bildet er synlig på ett sted, slik at den som gjennomgår slår det opp i stedet for å sende en e-post.

Ingenting av dette krever et stort program. Det krever at reglene bestemmes én gang, tydelig, og at den enkle veien for dem som bygger blir den styrte veien.

Hva dere får igjen

Godkjenninger blir rutine. Hendelser blir mindre, fordi rekkevidden til hver agent er kjent på forhånd. Og ledelsen kan svare på spørsmålet den før eller senere vil få, fra et styre, en tilsynsmyndighet eller en kunde: hva gjør AI-en deres, og hvem er ansvarlig for den?

Det svaret er verdt å ha før den tjuende agenten, ikke etter.