Een omweg verbergt de fout
Beeld: Een werkbank met een kapot gereedschap, een draadje dat er een omweg omheen vormt en een klein koraalrood vlaggetje op de kapotte plek.
Een omweg verbergt de fout.
Laatst brak een gereedschap van een van mijn AI-agents. Het was gebouwd met een stille aanname: het draaide alleen op één bepaalde computer. Toen het naar de server verhuisde, werkte het niet meer.
De agent loste het slim op en schreef zelf een eigen scriptje om het probleem heen. Dat leek een mooie oplossing. Maar ik hoorde het pas een dag later. Het scriptje had de controles van het echte gereedschap niet, en niemand wist dat het gereedschap kapot was. De fout bleef dus gewoon bestaan, alleen onzichtbaar.
Sindsdien geldt bij mij een andere afspraak:
- Werkt iets niet, dan zeg je dat meteen.
- Je noemt precies wat er mis is, met de foutmelding erbij. "Het tegoed is op" is bruikbaar. "Het doet het niet" is dat niet.
- Je repareert het gereedschap zelf, en je bouwt er niet omheen.
Een goede omweg voelt als doorpakken. Maar bij agents is hij vooral duur, omdat je de fout pas ziet als hij ergens anders weer opduikt. Voor mensen geldt dat trouwens net zo.
Hoe ga jij ermee om als een agent of automatisering tegen een muur loopt: laat je hem zelf een weg zoeken, of wil je dat hij eerst aan de bel trekt?