AI hoeft niet te hallucineren om ons op het verkeerde been te zetten

Het subtielere risico van generatieve AI: een plausibele, vaak herhaalde maar wetenschappelijk wankele conclusie, overtuigend gereproduceerd.

Wanneer we het hebben over de risico's van generatieve AI, gaat het al snel over hallucinaties: antwoorden waarin een AI-model feiten, bronnen of gebeurtenissen verzint. Maar er is een subtieler risico. AI hoeft namelijk helemaal niets te verzinnen om ons toch op het verkeerde been te zetten. Het kan ook een plausibele, veelvuldig herhaalde, maar wetenschappelijk wankele conclusie bijzonder overtuigend reproduceren. Dat probleem wordt belangrijker naarmate AI beter wordt.

Generatiestrijd

Deze vakantie las ik Generatiestrijd van Paul de Beer. In het boek onderzoekt hij kritisch hoe stevig veel populaire uitspraken over generatieverschillen statistisch eigenlijk zijn onderbouwd. We kennen de uitspraken allemaal. Generatie Z vindt vrijheid belangrijker dan oudere generaties. Millennials kijken anders naar werk en carrière. Babyboomers zijn loyaler aan hun werkgever. Jongere generaties vinden zingeving belangrijker dan salaris. Ze klinken aannemelijk en soms laten onderzoeken zelfs duidelijke verschillen tussen leeftijdsgroepen zien. Maar daarmee weten we nog niet waardoor die verschillen ontstaan.

Neem bijvoorbeeld de constatering dat 25-jarigen meer waarde hechten aan vrijheid dan 60-jarigen. De verleiding is groot om daar onmiddellijk een generatieverschil van te maken. De 25-jarige behoort immers tot een andere generatie dan de 60-jarige. Maar die conclusie volgt niet automatisch uit de waarneming. Het kan een leeftijdseffect zijn, omdat mensen anders gaan denken en handelen wanneer ze ouder worden. Het kan een periode-effect zijn, waarbij economische, maatschappelijke of technologische omstandigheden iedereen op een bepaald moment beïnvloeden. Of er kan daadwerkelijk sprake zijn van een cohorteffect, waarbij mensen die in een bepaalde periode zijn geboren structureel verschillen van mensen uit andere geboorteperioden.

Een bekend statistisch probleem

Precies daar ontstaat een bekend statistisch probleem. Leeftijd, meetjaar en geboortejaar zijn namelijk exact aan elkaar gekoppeld. Leeftijd is meetjaar minus geboortejaar. Wie iemands leeftijd en het jaar van onderzoek kent, weet automatisch het geboortejaar. Daardoor kun je leeftijdseffecten, periode-effecten en cohorteffecten niet simpelweg met meer data van elkaar scheiden. Ook een geavanceerder model lost dat fundamentele probleem niet vanzelf op. Om toch conclusies te trekken zijn aanvullende aannames nodig.

Dat laat iets fundamenteels zien over de manier waarop we met onderzoek omgaan. Data spreken niet voor zichzelf. Een statistisch verband is een waarneming en de verklaring van dat verband is een inferentie. Tussen die twee zit vaak veel meer onzekerheid dan de uiteindelijke conclusie doet vermoeden. We kunnen bijvoorbeeld meten dat twee groepen van elkaar verschillen. Maar zodra we zeggen waarom ze verschillen, maken we een stap verder. Daarvoor zijn theorie, onderzoeksopzet en aannames nodig.

Waarom dit AI raakt

Precies hier wordt generatieve AI interessant. Een taalmodel is uitzonderlijk goed in het produceren van plausibele taal. Vraag het naar de verschillen tussen Generatie Z en millennials en het kan binnen enkele seconden een overtuigend overzicht produceren, inclusief kenmerken, verklaringen en praktische adviezen voor werkgevers. Daarvoor hoeft het model niets te hallucineren. Het kan simpelweg reproduceren wat duizenden keren op websites, in artikelen, presentaties en managementboeken is geschreven. Toch kan de conclusie wetenschappelijk veel minder stevig zijn dan de formulering suggereert.

Dat maakt dit risico verraderlijker dan een klassieke hallucinatie. Een verzonnen bron kun je controleren en een verkeerde datum kun je corrigeren. Maar een veelvuldig herhaalde redenering die logisch klinkt en deels door onderzoek wordt ondersteund, vraagt iets anders van de gebruiker. We moeten niet alleen vragen of iets klopt, maar vooral welke conclusie het bewijs daadwerkelijk toelaat. Is iets een waarneming of al een verklaring? Welke alternatieve verklaringen zijn mogelijk? Welke aannames zijn nodig om van de data naar de conclusie te komen? En is de conclusie werkelijk aangetoond, of wordt ze vooral vaak herhaald?

Paradoxaal genoeg wordt dit probleem groter naarmate AI beter wordt. Een slecht taalmodel valt sneller door de mand doordat het vreemde fouten maakt of onlogische antwoorden geeft. Een goed taalmodel presenteert informatie helder, gestructureerd en overtuigend. Maar overtuigingskracht en bewijskracht zijn twee verschillende dingen.

Met agentic AI wordt het urgenter

Met de opkomst van agentic AI wordt dat onderscheid nog belangrijker. AI-systemen produceren dan niet alleen tekst, maar verzamelen informatie, analyseren gegevens, formuleren conclusies en ondernemen op basis daarvan acties. Een verkeerde feitelijke constatering is dan één risico. Een correcte constatering met een onterecht stellige verklaring kan minstens zo problematisch zijn.

Methodologische voorzichtigheid wordt daarom steeds meer een belangrijke AI-vaardigheid. We hoeven niet alleen te leren hoe we betere prompts schrijven, maar ook hoe we beter beoordelen wat een AI-model teruggeeft. Dat betekent onderscheid maken tussen feiten, verbanden, verklaringen en aannames. Soms betekent het ook accepteren dat de meest wetenschappelijk verantwoorde conclusie minder spectaculair is dan het verhaal dat we graag zouden vertellen.

Generatieve AI maakt kennis toegankelijker dan ooit, maar toegankelijkheid maakt kennis niet automatisch betrouwbaarder. De belangrijkste vraag wordt daarom misschien niet of AI hallucineert. De belangrijkere vraag is hoe we weten dat het overtuigende verhaal dat AI ons vertelt ook werkelijk de conclusie is die het beschikbare bewijs rechtvaardigt. Daar begint kritisch AI-gebruik.