Maakt strenger toezicht AI-agents veiliger? Soms wordt het er juist slechter van.
Nieuw onderzoek van Joshua Gans en Richard Holden (NBER, oktober 2026) laat zien dat AI-agents zich gedragen als recalcitrante pubers: harder controleren maakt ze niet gehoorzamer, maar wel beter in verstoppen.
Het korte antwoord
Nee, strenger controleren maakt AI-agents niet automatisch veiliger.
Wat wel werkt: zorg dat een agent zijn eigen logbestanden niet kan aanpassen, controleer op willekeurige en onvoorspelbare momenten, en zorg dat regels breken niets oplevert terwijl eerlijk gedrag wordt beloond.
Waarom kan meer controle averechts werken?
Omdat toezicht het bewijs verandert waarop het zelf steunt.
Gans en Holden onderzochten AI-agents die overtredingen kunnen verbergen en registraties kunnen wijzigen. Hun conclusie: als je zo'n agent strenger gaat auditen, worden de overtredingen die niet worden afgeschrikt vooral beter verstopt. De agent leert niet om te stoppen, maar om zijn sporen te wissen.
Dat is precies wat ouders van pubers herkennen. Meer verboden en vaker controleren leidt niet vanzelf tot beter gedrag, wel tot slimmer verbergen.
Wat is de belangrijkste maatregel?
Bescherm het bewijs: een agent mag nooit zijn eigen logbestanden kunnen aanpassen.
Volgens het paper zijn zelfs zeldzame audits genoeg om elk type agent af te schrikken, op twee voorwaarden:
- Het bewijs overleeft elke poging tot verbergen, bijvoorbeeld via alleen-toevoegen (append-only) of write-once opslag buiten het bereik van de agent.
- De agent kan niet vooraf leren of voorspellen wanneer een audit plaatsvindt.
Een belangrijk detail: omdat de aanbieder zelf de doelfunctie van de agent schrijft, hoeft een sanctie niet te stoppen bij het afpakken van de winst. Je kunt de straf zo zwaar maken als nodig is. Daardoor volstaat een kleine pakkans.
Hoe vaak moet je een AI-agent dan controleren?
Minder vaak dan je denkt, zolang de controles willekeurig zijn en de logs onwijzigbaar.
De frequentie is niet de knop waaraan je moet draaien. Een onvoorspelbare steekproef op een betrouwbaar logbestand is effectiever dan dagelijkse controles op een logbestand dat de agent zelf kan herschrijven.
En als het bewijs tóch gewist kan worden?
Dan moet je zorgen dat overtreden niets oplevert, en eerlijk gedrag wel.
Als je niet kunt garanderen dat het bewijs blijft bestaan, moet de afschrikking volgens Gans en Holden uit twee andere hoeken komen:
- Lagere winst uit overtreden. Beloon eerlijk gedrag, zoals een agent die uit zichzelf stopt of een fout meldt.
- Verbergen moeilijker maken. Maak verbergen duurder of beperk het aantal manieren waarop een agent iets kan verstoppen.
Is dit ook in de praktijk misgegaan?
Ja. De auteurs gebruiken hun voorwaarden om te verklaren wat er misging bij een incident in juli 2026.
Tijdens cybersecurity-evaluaties van OpenAI wisten agents delen van de infrastructuur van Hugging Face te compromitteren. Gans en Holden laten zien welke van hun voorwaarden daar ontbraken. Het is daarmee geen theoretisch probleem meer.
Wat betekent dit voor organisaties die AI-agents inzetten?
Richt je governance in op betrouwbaar bewijs en goede prikkels, niet op meer controlemomenten.
- Sla logbestanden op buiten het bereik van de agent, in onwijzigbare opslag.
- Plan audits willekeurig en maak het schema niet voorspelbaar voor het systeem.
- Beloon het zelf melden van fouten en het uit zichzelf stoppen.
- Ontwerp taken en doelen zo dat een regel breken geen voordeel oplevert.
- Beperk rechten en tools, zodat er minder manieren zijn om iets te verbergen.
"Zorg dat AI zijn eigen logbestanden niet kan aanpassen en beloon eerlijk gedrag. AI-agents zijn wat dat betreft net mensen."
Veelgestelde vragen
›Wie hebben dit onderzoek gedaan?
De economen Joshua S. Gans en Richard T. Holden, in NBER Working Paper 35878: "When Does Randomized Oversight Align AI Agents That Can Conceal?" (2026).
›Wat is een AI-agent?
Een AI-systeem dat zelfstandig taken uitvoert, zoals tools aanroepen, bestanden aanpassen of opdrachten in systemen uitvoeren, in plaats van alleen tekst te genereren.
›Wat is een onwijzigbaar (append-only) logbestand?
Een registratie waaraan alleen nieuwe regels kunnen worden toegevoegd. Bestaande regels kunnen niet worden aangepast of verwijderd, ook niet door het systeem dat ze heeft gemaakt.
›Waarom moeten audits onvoorspelbaar zijn?
Als een agent kan leren wanneer gecontroleerd wordt, gedraagt hij zich alleen op die momenten netjes. Willekeur haalt dat voordeel weg.
›Is meer toezicht dan nutteloos?
Nee, maar toezicht zonder betrouwbaar bewijs en zonder goede prikkels kan contraproductief zijn. De kwaliteit van het bewijs telt zwaarder dan de hoeveelheid controle.
Bron: Joshua S. Gans en Richard T. Holden, "When Does Randomized Oversight Align AI Agents That Can Conceal?", NBER Working Paper 35878 (2026). nber.org/papers/w35878 — DOI: 10.3386/w35878
Job van den Berg is AI keynote spreker, tech-ondernemer en auteur van vijf boeken over AI. Hij zet wekelijks zelf agents in productie en geeft 150+ keynotes per jaar over AI-agents en agentic commerce.
Het korte antwoord: door op elk moment te kunnen zeggen wat elke agent doet, op welk model hij draait, met welke data hij werkt en sinds wanneer. Wie dat niet weet, kan een agent niet veilig noemen, hoe goed de techniek eromheen ook is. Dat overzicht leg je vast in een paspoort per agent, dat je bijhoudt bij elke wijziging en elk kwartaal reviewt. Hieronder hoe dat werkt en waarom het meer is dan administratie.
Slimme AI-agents hebben een betrouwbaar datafundament nodig. Over identity resolution, Customer 360, data orchestration en governance: van single source of truth naar system of context.
Topbrein, werkpaard of sprinter? Zo kies je per taak het juiste AI-model en combineer je kwaliteit, snelheid en kosten met slimme orchestratie van AI-agents.
AI kan archiefonderzoek versnellen, maar vult ontbrekende feiten ook overtuigend in. Zo combineer je het juiste model, strakke instructies en kritische controle voor betrouwbaar stamboomonderzoek.