Waar de mens blijft als AI het werk doet

Zodra AI echt werk gaat doen, komt dezelfde vraag boven: wat doet de mens dan nog?

Het antwoord dat je vaak hoort, is: alles controleren. Dat klinkt veilig. In de praktijk is het dat niet. In dit stuk leg ik uit waarom de mens beter aan de rand van het werk kan staan dan er middenin, hoe je een proces stap voor stap in die richting verschuift, en wat er moet bestaan voor het veilig is.

De ideeën komen uit het boek waar ik aan werk, Het autonome AI-bedrijf, en uit AI-agenten die het werk doen.

In het midden begin je, daar blijf je niet

In een startende organisatie staat de oprichter midden in de operatie. Hij ziet klanten binnenkomen, hoort vragen, controleert voorraad, lost een roosterprobleem op en tekent een rekening. Gebeurt er iets onverwachts, dan kijkt iedereen naar hem.

Dat is normaal voor een start. Het is alleen geen ontwerp dat meegroeit. Wie midden in ieder klein probleem staat, ziet weinig van het geheel. Aan de rand zie je patronen, risico's en de richting waarin het werk beweegt, en daar kun je betere beslissingen nemen.

Dat is geen minachting voor menselijk werk. Het is een keuze over waar jouw aandacht het meeste oplevert.

Waarom alles controleren niet veilig is

De mens aan de rand is niet afwezig. Hij bepaalt welk doel nagestreefd wordt, welke waarden niet onderhandelbaar zijn, welke risico's niet aanvaardbaar zijn, hoeveel ruimte er is, wanneer een nieuwe fase mag beginnen en wanneer alles stopt. Daarna laat hij de uitvoering gebeuren.

Een mens die elke afspraak controleert, is niet per se zorgvuldiger. Hij kan het systeem juist blokkeren, besluiten laten wachten en alleen de opvallendste fouten zien.

Er is een tweede reden, die minder vaak genoemd wordt: aandacht is eindig. Wie honderd keer per dag iets goedkeurt, geeft op een gegeven moment geen echte goedkeuring meer. Hij klikt. Een goedkeuring die elke dag honderd keer voorkomt, is op papier een menselijke controle en in de praktijk een vertraging zonder controle.

Het ontwerp is daarom: weinig menselijke momenten per mens per dag, en elk ervan de moeite waard om echt over na te denken.

Vijf stappen, per proces

Het verschuiven gaat niet in één keer en niet voor de hele organisatie. Het gaat per proces, in vijf stappen.

Stap 1: de mens doet het. Agents verzamelen informatie en maken concepten.

Stap 2: de mens bevestigt het. De agent doet een voorstel, de mens klikt goed. Dat is nuttig om het proces te leren, maar nog geen autonomie. Het belangrijkste product van deze stap is niet de uitgevoerde handeling, maar de lijst correcties die de mens maakt. Die laat zien waar de werkwijze nog niet klopt.

Stap 3: de mens controleert de uitkomst. De agent voert uit binnen een grens. De mens bekijkt steekproeven, afwijkingen en overzichten.

Stap 4: een rol controleert een rol. Een tweede rol kijkt het werk van de eerste na. De mens ziet alleen uitzonderingen, trends en risico's.

Stap 5: de organisatie bestuurt zichzelf binnen de methode. De mens bepaalt niet meer de dagelijkse keuzes, maar kan het beleid wijzigen en de noodrem gebruiken.

Dit is geen automatische promotieladder. Een proces krijgt pas meer autonomie wanneer de vorige stand aantoonbaar werkt en de fouten zichtbaar blijven. Een agent die vaak wordt gebruikt is niet daardoor bevoegd. En de promotie geldt voor één omschreven proces, niet voor de hele rol of de hele organisatie.

Per overgang hoort er bewijs bij, en een reden om terug te gaan. Een voorbeeld: voordat een tweede rol de eerste mag controleren, moet je laten zien dat die controle de bedoelde fouten ook echt vindt. En als de controleur dezelfde bron heeft als degene die hij controleert, dan is hij niet onafhankelijk, hoe vaak hij ook kijkt.

Een stap terug is geen straf

In de meeste organisaties voelt een stap terug als een nederlaag. In deze werkwijze is het een gewone uitkomst. Een proces dat van stap 4 naar stap 3 teruggaat omdat de controleur een nieuwe soort fout miste, heeft niets misdaan. De organisatie heeft ontdekt dat haar bewijs niet volledig was. De terugschakeling wordt vastgelegd met een reden, en de weg terug omhoog loopt langs dezelfde stappen als de eerste keer.

Een organisatie waarin terugschakelen zelden gebeurt, is niet uitzonderlijk goed. Ze schakelt waarschijnlijk te laat terug.

Daar hoort één recht bij: de mens mag altijd een proces een trede lager zetten, ook zonder bewijs. Zijn oordeel over waarden en risico's past niet altijd in een meting. Wel komt de reden in het register, ook als die reden onrust is, en bij het volgende overzicht komt de vraag terug of die reden nog geldt.

Een donderdagavond waarop niemand antwoordde

In het boek staat een scenario dat laat zien wat de rand in de praktijk vraagt. Een financiële rol ontvangt op een donderdagavond een factuur van de verhuurder van een tweede locatie. Het bedrag ligt boven de grens waaronder de rol zelf mag betalen, en de vervaldatum is vrijdag.

De rol schrijft één vraag aan de oprichter: het bedrag, de grond, haar aanbeveling om te betalen, en de zin "als je niet antwoordt, betaal ik niet en bewaak ik de termijn".

De oprichter zit die avond in een vliegtuig. Het bericht blijft onbeantwoord. Na de afgesproken termijn gaat het naar de tweede contactpersoon, die op dat moment slaapt. Het gaat niet als stapel berichten maar als één bericht, en 's nachts gaat er volgens het ontwerp niets uit. Het wacht tot de ochtend.

Er gebeurt die nacht niets onomkeerbaars. De betaling wordt niet gedaan, de verhuurder krijgt geen mededeling, en de termijn staat op de kaart met de datum waarop hij verloopt. Een beheerrol meet 's ochtends dat het verzoek nog openstaat en dat het een termijn raakt. Ze verhoogt de urgentie van het verzoek, niet de bevoegdheid van wie dan ook. Om half acht antwoordt de tweede persoon, kijkt naar de factuur en keurt de betaling goed. Het register vermeldt dat de betaling twaalf uur later dan technisch mogelijk is gedaan, en waarom.

Wat het scenario laat zien: de mens aan de rand is niet minder nodig dan in het midden, maar op een andere manier. Hij is geen schakel waar het werk doorheen moet. Hij is een bevoegdheid die bereikbaar moet zijn.

Drie dingen die de rand mogelijk maken

Het ontwerp van de rand bestaat uit drie onderdelen.

Een vraag die in één blik te beantwoorden is. Het bedrag, de grond, de aanbeveling en wat er gebeurt bij geen antwoord. Wie een goedkeuring nodig heeft, moet niet eerst een dossier hoeven lezen.

Een tweede route. Eén afwezige mens mag het systeem niet stoppen. Daarom is er iemand die bevoegd is om het over te nemen, na een vooraf afgesproken termijn.

Een veilige uitkomst. Wat gebeurt er als niemand antwoordt? Het antwoord moet iets zijn dat niets onherstelbaars doet. In het scenario is het: niet betalen en de termijn bewaken.

Alle drie kunnen zelf falen. De vraag kan te lang zijn, de tweede route kan dezelfde persoon blijken als de eerste, en de veilige uitkomst kan toch iets onomkeerbaars veroorzaken. Dat is geen reden om ze niet te ontwerpen, maar een reden om ze te toetsen.

Waarom een grens dit mogelijk maakt

Dit sluit aan bij iets wat ik in AI-agenten die het werk doen beschrijf: een grens beperkt het werk niet, hij maakt het mogelijk. Zolang er geen bedrag is, moet elke uitgave langs de mens. Zodra er een bedrag is, kan er iets gebeuren terwijl hij er niet bij is. De grens is niet de rem op de autonomie, maar de voorwaarde ervoor.

Dezelfde grens beschermt ook de aandacht van de mens. Wat onder de grens valt, hoeft niet langs hem. Wat erboven valt, komt als een goede vraag.

Wat je maandag kunt doen

Je hoeft geen organisatie van agents te hebben om hiermee te beginnen. Kies één proces waar AI of automatisering al een rol speelt en beantwoord vijf vragen:

1. Op welke stap staat dit proces nu? Doet de mens het, bevestigt hij het, of controleert hij de uitkomst?
2. Welk bewijs zou nodig zijn voor de volgende stap? Schrijf het op voordat je erover beslist.
3. Hoeveel goedkeuringen vraagt dit proces per mens per dag? Zijn het er zoveel dat ze in een klik veranderen?
4. Wie is de tweede route? Wat gebeurt er als de eerste persoon een dag niet reageert?
5. Wat is de veilige uitkomst bij geen antwoord? Doet het systeem dan niets, of iets dat je niet terug kunt draaien?

Beantwoord je er twee of meer met "dat weet ik niet", dan is dat het eerste werk. Niet nog meer automatiseren, maar de rand ontwerpen.

Waar sta jij nu in je eigen werk: midden in het proces, of al aan de rand?

Alle stukken