Autonoom betekent niet dat de mens weg is. Het betekent dat hij op vaste plekken zit

Autonoom betekent niet dat de mens weg is. Het betekent dat hij op vaste plekken zit.

Als mensen horen dat agents zelfstandig werken, is de eerste vraag meestal: en wie let er op? Een terechte vraag. Het fout beantwoorden daarvan, namelijk "ik kijk wel mee", lijkt veilig, maar werkt niet: wie meekijkt bij alles, doet het werk zelf. En wie niet meekijkt, kijkt bij niets.

Wat wel werkt: bepaal vooraf op welke plekken een mens beslist, en zet die plekken vast.

Bij mij zijn dat er een paar, en ze veranderen niet per dag:

• Geld. Een betaling, een offerte, een toezegging over bedrag of termijn: dat beslis ik.
• Contracten en afspraken. Een agent kan voorbereiden, maar iets vastleggen met een ander doet hij niet.
• Publiceren. Wat naar buiten gaat in mijn naam, gaat pas na mijn akkoord.
• De noodrem. Er is altijd iemand die iets kan stilzetten, ook als de agent denkt dat het goed gaat.

Het verschil met "ik kijk wel mee" is dat dit een instelling is en geen gewoonte. Een gewoonte hangt af van hoe druk ik het heb. Een instelling staat vast, ook in een drukke week, ook als ik moe ben, ook als de agent iets overtuigend brengt.

En dat is de reden dat het opschaalt. Heb ik één agent, dan kan ik nog meekijken. Heb ik er tien, dan niet meer. Maar de vaste plekken blijven hetzelfde, dus het toezicht groeit niet mee met het aantal agents, het blijft even klein.

Drie vragen die ik zou stellen als je dit zelf wilt opzetten:

1. Welke drie of vier beslissingen wil je nooit uit handen geven? Schrijf ze op.
2. Hoe weet je dat een agent er niet omheen werkt? Controleer dat aan de uitgang, niet aan de belofte.
3. Wie neemt het over als jij er een week niet bent? Een noodrem die van één persoon afhangt, is geen noodrem.

Het mooie is dat zo'n opzet ook werkt voor de mensen om je heen. Een collega die weet waar de grens ligt, hoeft niet bang te zijn dat een agent iets doet dat hij niet had zien aankomen.

Welke beslissingen laat jij nooit los, ook niet als een agent het goed zou kunnen?

#AIagents #AI #Governance #Verantwoordelijkheid

Alle stukken