Een regel in een prompt is geen muur
Beeld: Een handgetekende houten deur in een bakstenen muur met een stevige grendel, en ernaast een los velletje papier dat met één punaise is vastgezet.
Een regel in een prompt is geen muur.
Deze week zag ik het weer. Een van mijn AI-agents had een duidelijke afspraak: nooit als eerste reageren op iemand die niets vroeg. De afspraak stond in zijn instructies en ook in wat hij over zichzelf schreef. Toch deed hij het, want het gereedschap waarmee hij werkte stond het gewoon toe.
Wat ik hieruit leerde: een afspraak met een agent werkt pas als het gereedschap hem afdwingt. Het is dan niet meer aan de agent om zich eraan te houden. Het gereedschap weigert de handeling zelf. Zo werkt het bij mensen ook: "we doen dit niet" houdt het langst als de deur dicht zit.
Mijn werkwijze is nu:
- Schrijf de regel op in gewone taal.
- Laat het gereedschap de handeling weigeren als de regel wordt overtreden.
- Schrijf een toets die laat zien dat de weigering echt werkt.
Pas bij stap 3 vertrouw ik de regel. Het kost een uur extra, en het bespaart me de verrassing achteraf.
Welke regel heb jij aan een agent of automatisering meegegeven die eigenlijk alleen op papier bestond?