De in Berlijn gevestigde kunstenaar Simon Weckert heeft een button-downoverhemd gemaakt met de naam Digital Camouflage dat door AI-surveillancecamera's naar verluidt niet als mens wordt geregistreerd. Het kledingstuk werd ontworpen als directe reactie op het AI-gestuurde videosysteem dat deze maand wordt geactiveerd bij het verkeersknooppunt Kottbusser Tor in de stad.

Hoe kan een shirt je beschermen tegen surveillance?

Weckert, een kunstenaar uit Berlijn, bracht Digital Camouflage uit, een shirt dat naar verluidt het vertrouwen van een objectdetectiesysteem in het herkennen van een mens kan verminderen. Volgens Weckert hebben deze systemen nooit daadwerkelijk geleerd wat een persoon is — ze hebben alleen geleerd hoe mensen er doorgaans uitzien op miljoenen trainingsfoto's: randen en texturen in de vroege lagen, daarna de omtrek van hoofd en schouders en de verhoudingen van ledematen in diepere lagen.

Digital Camouflage maakt misbruik van die trainingsmethode met een luidruchtige wirwar van roze, oranje en groene vormen. Weckert legde uit dat de verzadigde kleuren de eerste lagen van een netwerk activeren, terwijl de overlappende vormen de omtrek van het lichaam zodanig vervormen dat de detector de delen niet meer tot één figuur kan samenvoegen. Voor het menselijk oog lijkt het shirt op een hypnotiserende Hawaïaanse print; voor surveillancemodellen leest het als niets.

Weckert bouwde het patroon via een "adversarial loop": hij genereerde een kandidaat-print, toonde die aan een detector, mat hoe zeker de software nog was dat het een persoon zag, paste vervolgens aan en herhaalde dit tot hij bevredigende resultaten behaalde. Hij gebruikte naar verluidt een generatieve methode met de naam TC-EGA (Toroidal-Cropping-based Expandable Generative Attack) om die rondes uit te voeren, en testte de resultaten tegen YOLO, een open-source realtime detectiesysteem dat is gebouwd op dezelfde klasse technologie die ten grondslag ligt aan veel commerciële surveillanceproducten.

De aanpak voortbouwt op een goed gevestigd onderzoeksgebied binnen computer vision: adversarial examples — kleine, vaak onmerkbare of patroonmatige verstoringen die neurale netwerken objecten doen verkeerd classificeren — worden sinds ten minste 2013 beschreven in academische literatuur, en onderzoekers hebben het concept eerder toegepast op fysieke kledingstukken, van adversarial brilmonturen tot patroonpatches die detectoren moesten verwarren. Weckerts bijdrage is dat hij dat onderzoek omzet in een draagbaar consumentenproduct dat expliciet is gericht op een openbare inzet.

Weckert verduidelijkte echter dat het shirt niet is ontworpen om één specifieke overheidscamera te verslaan, maar om de vraag op te werpen hoeveel vertrouwen een systeem verdient als goedkope stof het kan verslaan. Op zijn eigen site benadrukt hij dat het shirt "geen belofte van anonimiteit" is en dat hij geen claims maakt over specifieke inzet, juist omdat buitenstaders die systemen niet kunnen testen. Het kledingstuk wordt verkocht voor ongeveer $88, waarbij een deel van elke verkoop naar digitale burgerrechtenorganisaties gaat.

Waarom zoeken mensen ineens bescherming tegen surveillance?

Weckerts website legt uit dat camera's — die hij gedragsscanners noemt — geplaatst zullen worden op Kottbusser Tor, een druk U-Bahn-station in het Berlijnse district Kreuzberg. De software is bedoeld om voorbijgangers te sorteren in "normaal" en "verdacht". Hij verwacht dat drie andere Berlijnse locaties volgen.

De inzet vindt plaats in een Duitsland met een sterke historische afkeer van grootschalige monitoring, geworteld in de surveillancepraktijken van zowel het nazi-tijdperk als de Stasi van Oost-Duitsland, en rond Kottbusser Tor in het bijzonder hebben de afgelopen jaren herhaaldelijk privacyprotesten plaatsgevonden tegen voorstellen voor videomonitoring. Het komt ook terwijl de AI-wet van de Europese Unie — de verregaande wetgeving van de blok die AI-systemen classificeert en beperkt op risico, inclusief die in openbare ruimten — geleidelijk wordt ingevoerd.

In de Verenigde Staten gaf de gouverneur van Texas, Greg Abbott, staatsagentschappen op een donderdagavond op de financiering van Flock Safety stop te zetten; het bedrijf heeft meer dan 120.000 kentekenplaatslezers in 49 staten. Republikeinse senator Josh Hawley opende ook een onderzoek naar hoe het bedrijf met verzamelde gegevens omgaat.

De kentekenplaatslezers van Flock Safety hebben veel kritiek gekregen na berichten dat politieagenten het systeem ernstig misbruikten voor persoonlijke doeleinden, zoals het volgen van ex-vriendinnen, partners en romantische rivalen. In één extreem geval raadpleegde een agent in Kentucky het Flock-systeem ongeveer 2.000 keer om de bewegingen van zijn voormalige partner te volgen. Een andere agent in Georgia, die ook politiechef was, voerde ruim 600 zoekopdrachten uit op zijn ex-vriendin en haar dochter, voordat hij later zelfmoord pleegde terwijl hij werd vervolgd voor stalking en misbruik van politie-uitrusting.

Het shirt is niet Weckerts eerste poging om zich tegen deze systemen te verzetten of een boodschap uit te dragen. In 2020 trok hij al een kar met 99 telefoons door Berlijn om een file op Google Maps te vervalsen, waarmee hij aantoonde dat AI-gestuurde systemen gemakkelijk te manipuleren zijn.