Het shirt dat AI gezichtsherkenning in verwarring brengt

Waarom een regenboog-camouflageshirt een surveillancesysteem op het verkeerde been zet, en waarom dat maar tijdelijk werkt.

Deze week mocht ik bij EditieNL duiding geven over een opvallend kledingstuk: het regenboog-camouflageshirt, ontworpen om activisten te beschermen tegen gezichtsherkenningscamera's. Een shirt dat je onzichtbaar maakt voor AI, dat klinkt bijna als sciencefiction. Maar de techniek erachter is verrassend logisch, als je eenmaal begrijpt hoe zulke systemen naar de wereld kijken. En dat is meteen het interessante: hoe brengt een simpel shirt een geavanceerd AI-systeem in verwarring?

AI kijkt niet zoals wij kijken

Om dat te snappen, moeten we eerst iets belangrijks vaststellen: AI-modellen kijken niet naar een mens zoals wij dat doen. Wanneer jij iemand op straat ziet lopen, herken je moeiteloos een persoon. Je hersenen begrijpen wat een mens is, ook als diegene een gekke hoed draagt, half achter een lantaarnpaal staat of een felgekleurde jas aanheeft. Een neuraal netwerk in een surveillancesysteem werkt fundamenteel anders. Het kijkt naar pixels en unieke kenmerken, naar patronen van licht, kleur, contrast en vorm, en doet op basis daarvan een voorspelling. Pure statistiek dus, over wát het ziet en wíe het ziet.

Het model heeft tijdens zijn training miljoenen beelden van mensen gezien en heeft daaruit geleerd welke combinaties van kenmerken statistisch gezien bij "mens" horen. Belangrijk daarbij: het model kijkt naar het totaalplaatje. Niet alleen naar je gezicht, maar naar de hele verschijning, de contouren van je lichaam, de verhoudingen, de context.

De truc van het shirt

En precies daar zit de truc van dit shirt. De drukke patronen en felle kleuren verstoren dat totaalplaatje. Waar het model normaal een herkenbare menselijke vorm ziet, ziet het nu een chaos aan lijnen, kleuren en contrasten die niet passen bij wat het geleerd heeft. De voorspelling raakt in de war: is dit een mens? Iets anders? Meerdere objecten? De statistiek klopt niet meer, en de herkenning faalt.

In vaktermen heet dit een adversarial attack: je voedt het systeem met input die speciaal ontworpen is om het op het verkeerde been te zetten. Het is te vergelijken met een optische illusie, maar dan eentje die alleen werkt op machines. Voor het menselijk oog is het gewoon een druk, kleurrijk shirt. Voor een algoritme is het ruis die het hele beeld onbetrouwbaar maakt.

Ouder dan AI zelf

Het idee is overigens ouder dan AI zelf. In de Eerste Wereldoorlog beschilderden marines hun schepen met zogeheten dazzle camouflage: wilde, contrasterende patronen die een schip niet onzichtbaar maakten, maar het voor de vijand onmogelijk maakten om snelheid en koers goed in te schatten. Het regenboogshirt doet in feite hetzelfde, alleen is de tegenstander nu geen periscoop maar een camera met een neuraal netwerk erachter.

Waarom dit maar tijdelijk werkt

Klinkt als een geniale oplossing voor iedereen die zich zorgen maakt over surveillance. Maar er zit een belangrijke kanttekening aan: dit werkt tijdelijk. Want nu we weten dat dit shirt bestaat, en nu het op televisie en in de media verschijnt, worden AI-modellen daar simpelweg op gecorrigeerd. Ontwikkelaars voegen precies dit soort beelden toe aan de trainingsdata, mensen in drukke, verstorende patronen, en het model leert dat ook dát een mens is. Daarmee verliest de verstoring zijn kracht. Wat vandaag nog werkt als digitale onzichtbaarheidsmantel, is over een paar modelversies gewoon herkenbare kleding.

En er is nog iets. Het shirt is ontworpen om te verstoren vanuit een bepaald perspectief, doorgaans van voren. Maar wat als een camera je van de zijkant traceert? Of van bovenaf, zoals veel surveillancecamera's hangen? Grote kans dat het model je dan alsnog goed voorspelt en herkent. Daar komt bij dat moderne systemen niet alleen naar je kleding of gezicht kijken. Er bestaat technologie die mensen herkent aan hun manier van lopen, hun houding, hun silhouet. Eén verstoord kenmerk is dan niet genoeg om buiten beeld te blijven.

Toch niet zinloos

Betekent dat dat zo'n shirt zinloos is? Nee, dat zou te kort door de bocht zijn. Het maakt iets zichtbaar wat normaal onzichtbaar blijft: dat we voortdurend worden geanalyseerd door systemen waar we geen weet van hebben en geen invloed op hebben. Het shirt is misschien vooral een statement, een manier om het gesprek over gezichtsherkenning en privacy op scherp te zetten. En dat gesprek is hard nodig, want de technologie ontwikkelt zich sneller dan de wetgeving eromheen.

Uiteindelijk is dit een kat-en-muisspel tussen privacy en technologie. Elke slimme verstoring wordt beantwoord met een slimmer model, en elk slimmer model lokt weer nieuwe creatieve tegenmaatregelen uit. De vraag is niet wie dat spel wint, maar of we als samenleving willen dat het gespeeld moet worden. Zolang dat debat niet is beslecht, zullen mensen blijven zoeken naar manieren om zich aan het algoritmische oog te onttrekken. Desnoods met een regenboogshirt.