Gaat AI ons als mens vernietigen?

Onderzoekers binnen de grootste AI-labs stellen zelf de vraag naar existentieel risico. Waarom dat debat een serieus antwoord verdient in plaats van een krantenkop.

Onlangs was ik te gast bij EditieNL om een vraag te bespreken die een paar jaar geleden misschien nog als sciencefiction zou zijn afgedaan, maar die inmiddels serieus wordt gesteld door onderzoekers die zelf aan de meest geavanceerde AI-systemen ter wereld werken: kan kunstmatige intelligentie uiteindelijk een bedreiging vormen voor het voortbestaan van de mens?

De directe aanleiding was een opmerkelijke uitspraak van Evan Hubinger, die bij Anthropic leidinggeeft aan het onderzoek naar AI alignment. Hubinger stelde publiekelijk dat hij persoonlijk de kans op een scenario waarin toekomstige AI uiteindelijk alle mensen zou kunnen doden op meer dan 10 procent binnen het komende decennium inschat. Daarmee bedoelt hij nadrukkelijk niet dat Claude, ChatGPT of een ander huidig AI-model morgen besluit de mensheid aan te vallen. Zijn zorg richt zich op een mogelijke volgende generatie systemen: AI die bovenmenselijke capaciteiten bereikt, in toenemende mate zelfstandig kan handelen en mogelijk zelfs bijdraagt aan het ontwikkelen van steeds krachtigere opvolgers.

Het is een uitzonderlijk zware uitspraak, en juist daarom moeten we oppassen dat we hem niet reduceren tot een sensationele krantenkop. Hubinger is geen buitenstaander die vanaf de zijlijn waarschuwt voor technologie die hij niet begrijpt; zijn dagelijkse werk draait juist om de vraag hoe we ervoor kunnen zorgen dat steeds krachtigere AI-systemen blijven handelen in overeenstemming met menselijke doelen en belangen. Hij schreef bovendien dat Anthropic volgens hem serieus probeert het probleem op te lossen, maar dat er op dit moment nog geen overtuigend plan bestaat voor het veilig beheersen van superintelligente AI. Dat onderscheid is belangrijk: de boodschap is niet dat een ramp onvermijdelijk is, maar dat de mogelijke gevolgen zo groot zijn dat onzekerheid op zichzelf al serieus genomen moet worden.

Die waarschuwing kwam bovendien niet uit het niets. Ze volgde op het vertrek van Anthropic-onderzoeker Jacob Coxon, die publiekelijk zijn zorgen uitsprak over de snelheid waarmee bedrijven als Anthropic en OpenAI naar steeds krachtigere systemen toewerken. In een interview met WIRED sprak Coxon over de komende een a twee jaar als een cruciale periode voor AI-ontwikkeling en stelde hij dat vergelijkbare zorgen ook intern bij AI-labs leven. Dat betekent niet dat er binnen de sector consensus bestaat over een naderende AI-catastrofe, die is er nadrukkelijk niet, maar wel dat het debat over veiligheid steeds minder een discussie tussen technologiebedrijven en hun critici is. De discussie speelt inmiddels midden in de organisaties die deze systemen bouwen.

Waarom neemt die angst toe terwijl we steeds meer over AI weten?

Dat lijkt op het eerste gezicht paradoxaal. Je zou verwachten dat meer kennis over een technologie automatisch leidt tot minder onzekerheid. Bij AI zien we deels het tegenovergestelde, omdat onze kennis weliswaar snel groeit, maar de capaciteiten van de systemen tegelijkertijd nog sneller lijken te groeien.

Een belangrijke factor daarin is de enorme schaalvergroting van moderne AI. In relatief korte tijd zijn modellen beter geworden in redeneren, programmeren, analyseren, plannen, beeldinterpretatie en het verwerken van grote hoeveelheden informatie. Een mens leest een document van enkele duizenden woorden bewust en lineair; een modern AI-systeem kan enorme hoeveelheden tekst vrijwel onmiddellijk verwerken, verschillende informatiebronnen met elkaar verbinden en vervolgens binnen seconden een analyse produceren. Het gaat daarbij niet alleen om snelheid. Het gaat om het feit dat de schaal waarop deze systemen informatie kunnen verwerken steeds verder verwijderd raakt van onze eigen cognitieve ervaring.

Juist daardoor wordt het moeilijk om hun toekomstige ontwikkeling intuitief te beoordelen. Mensen zijn van nature redelijk goed in lineaire ontwikkelingen: iets wordt ieder jaar vijf of tien procent beter en we kunnen ons ongeveer voorstellen waar dat eindigt. Exponentiele technologische ontwikkeling is veel moeilijker te bevatten. Anthropic schreef eerder zelf over dit probleem en wees erop dat relatief grote sprongen in beschikbare rekenkracht ook grote sprongen in capaciteiten kunnen veroorzaken. Het bedrijf stelde daarbij al jaren geleden dat verdere schaalvergroting een reele kans bood op systemen met zeer brede, mensachtige cognitieve prestaties.

Van chatbot naar digitale actor

Een tweede reden waarom de discussie verandert, is dat AI steeds minder uitsluitend een systeem is waaraan je een vraag stelt en steeds meer een systeem wordt dat handelingen kan uitvoeren.

De eerste golf van generatieve AI was betrekkelijk overzichtelijk: je schreef een prompt, het systeem gaf antwoord en daarna stopte het. De huidige ontwikkeling richting agentic AI verandert dat model fundamenteel. Een AI-agent kan een doel krijgen, vervolgens zelf bepalen welke tussenstappen nodig zijn, informatie verzamelen, software gebruiken, resultaten beoordelen en zijn aanpak aanpassen wanneer iets niet werkt.

Dat lijkt misschien een technisch detail, maar conceptueel is het een grote verschuiving. Zodra AI niet alleen informatie genereert, maar ook zelfstandig een reeks acties kan ondernemen, wordt de vraag naar controle veel belangrijker. Een fout antwoord van een chatbot is vervelend. Een foutieve beslissing van een autonoom systeem dat ondertussen toegang heeft tot software, financiele processen, infrastructuur of andere digitale systemen kan veel grotere gevolgen hebben.

Dat is ook de context waarin onderzoekers als Hubinger spreken over alignment: hoe zorgen we ervoor dat een AI-systeem niet alleen op het eerste gezicht doet wat wij vragen, maar dat zijn onderliggende doelen en gedrag ook betrouwbaar blijven wanneer het systeem veel autonomer, intelligenter en krachtiger wordt?

Het ongemakkelijkste probleem: we begrijpen de binnenkant maar beperkt

Daar komt een derde probleem bij dat naar mijn idee in het publieke debat nog te weinig aandacht krijgt: de black box.

We weten buitengewoon veel over hoe moderne AI-modellen worden gebouwd. We kennen de architecturen, trainingsmethoden, datasets, optimalisatietechnieken en evaluaties waarmee hun prestaties worden gemeten. Tegelijkertijd betekent dat nog niet dat we op ieder moment precies kunnen uitleggen waarom een groot neuraal netwerk intern tot een bepaalde representatie, redenering of beslissing komt.

Dat klinkt vreemd. Hoe kun je iets bouwen zonder volledig te begrijpen hoe het werkt?

Toch is dat precies het bijzondere aan machine learning. We schrijven niet iedere denkregel van zo’n model vooraf uit. We creeren een leerproces waarin een netwerk uit enorme hoeveelheden voorbeelden zelf interne structuren ontwikkelt. Vervolgens kunnen we observeren wat het systeem doet, experimenten uitvoeren, onderdelen analyseren en steeds beter proberen te begrijpen welke mechanismen achter bepaald gedrag zitten. Onderzoek naar interpretability probeert die binnenwereld zichtbaar te maken, maar het probleem is nog lang niet opgelost.

En juist wanneer systemen autonomer en krachtiger worden, wordt die onzekerheid relevanter. Niet omdat iedere onbekende automatisch gevaarlijk is, maar omdat de combinatie van grote capaciteit, autonomie en beperkt inzicht in interne besluitvorming vraagt om veel strengere veiligheidsmarges dan bij een relatief eenvoudig softwaresysteem.

We bouwen sneller dan we begrijpen

Voor mij zit daar de kern van de discussie.

De verkeerde conclusie uit dit alles is dat AI per definitie levensgevaarlijk is en dat we daarom onmiddellijk moeten stoppen met ontwikkelen. AI kan tegelijkertijd enorme maatschappelijke en economische voordelen opleveren: van wetenschappelijk onderzoek en gezondheidszorg tot onderwijs, productiviteit en nieuwe vormen van ondernemerschap.

Maar de tegenovergestelde reactie, dat zorgen over existentiele risico’s vooral paniek of sciencefiction zijn, vind ik eveneens te makkelijk.

Wanneer mensen die dagelijks werken aan de veiligheid van de krachtigste AI-systemen ter wereld zelf aangeven dat zij fundamentele problemen nog niet hebben opgelost, verdient dat aandacht. Je hoeft Hubingers persoonlijke kansberekening van meer dan 10 procent niet te delen om zijn onderliggende punt serieus te nemen. Zelfs wanneer je denkt dat de werkelijke kans veel kleiner is, blijft de combinatie van een kleine kans en extreem grote mogelijke gevolgen relevant.

Dat is uiteindelijk ook waarom ik het belangrijk vond om hierover bij EditieNL te spreken.

Het belangrijkste AI-debat van de komende jaren gaat niet over de keuze tussen innovatie of veiligheid. De echte uitdaging is ervoor zorgen dat ons vermogen om AI te begrijpen, controleren en begrenzen ongeveer even snel groeit als ons vermogen om steeds krachtigere systemen te bouwen.

Op dit moment is niet vanzelfsprekend dat die twee ontwikkelingen gelijk opgaan.

En precies daarom moeten we dit gesprek nu voeren, niet omdat we zeker weten dat AI de mensheid zal vernietigen, maar omdat we voor het eerst technologie bouwen waarbij de vraag of wij ook over tien jaar nog volledig de controle hebben, serieus genoeg is geworden om door de makers zelf gesteld te worden.