L'artista berlinese Simon Weckert ha creato una camicia button-up chiamata Digital Camouflage che, a quanto riportato, le telecamere di sorveglianza AI non riescono a registrare come un essere umano. Il capo è stato progettato come risposta diretta al sistema video basato sull'IA che entra in funzione questo mese al nodo di transito di Kottbusser Tor della città.

Come può una camicia proteggerti dalla sorveglianza?

Weckert, artista di Berlino, ha rilasciato Digital Camouflage, una camicia che, a quanto riportato, può ridurre la fiducia di un sistema di rilevamento di oggetti nel riconoscere un essere umano. Secondo Weckert, questi sistemi non hanno mai appreso davvero cosa sia una persona: hanno solo appreso come le persone tendono ad apparire attraverso milioni di foto di addestramento: bordi e texture nei primi strati, poi il profilo testa-spalle e le proporzioni degli arti più in profondità.

Digital Camouflage sfrutta questo metodo di addestramento con un groviglio vistoso di forme rosa, arancioni e verdi. Weckert ha spiegato che i colori saturi accendono i primi strati di una rete neurale, mentre le forme sovrapposte distorcono il contorno del corpo al punto che il rilevatore non riesce a ricomporre i pezzi in un'unica figura. All'occhio umano, la camicia sembra una stampa hawaiana ipnotica; per i modelli di sorveglianza, non è nulla.

Weckert ha costruito il pattern attraverso un "ciclo avversariale": generava una stampa candidata, la mostrava a un rilevatore, misurava quanto fosse ancora sicuro il software di aver visto una persona, poi correggeva e ripeteva fino a ottenere risultati soddisfacenti. A quanto riportato, ha utilizzato un metodo generativo denominato TC-EGA (Toroidal-Cropping-based Expandable Generative Attack) per eseguire questi cicli e ha testato i risultati contro YOLO, un sistema di rilevamento in tempo reale open-source basato sulla stessa classe di tecnologia alla base di molti prodotti commerciali di sorveglianza.

L'approccio si basa su un corpus consolidato di ricerca sulla computer vision: gli esempi avversariali — piccole perturbazioni, spesso impercettibili o a pattern, che inducono le reti neurali a classificare erroneamente gli oggetti — sono documentati nella letteratura accademica almeno dal 2013, e i ricercatori hanno già applicato il concetto a capi di abbigliamento fisici, dalle montature avversariali per occhiali ai patch a pattern destinati a confondere i rilevatori. Il contributo di Weckert è trasformare quella ricerca in un prodotto consumer indossabile puntato direttamente a un'installazione pubblica.

Weckert ha però chiarito che la camicia non è stata progettata per battere una particolare telecamera governativa, ma per sollevare la questione di quanta fiducia meriti un sistema se un tessuto economico può batterlo. Sul suo sito, sottolinea che la camicia "non è una promessa di anonimato" e non fa affermazioni su alcuna installazione specifica, proprio perché gli esterni non possono testare quei sistemi. Il capo è in vendita a circa 88 dollari, con una quota di ogni vendita destinata a gruppi per i diritti civili digitali.

Perché le persone cercano improvvisamente protezione dalla sorveglianza?

Il sito di Weckert spiega che le telecamere — che lui chiama scanner comportamentali — stanno per essere installate a Kottbusser Tor, una trafficata stazione della U-Bahn nel quartiere Kreuzberg di Berlino. Il software dovrebbe classificare i passanti come "normali" o "sospetti". Egli ritiene che altre tre sedi berlinesi siano le prossime in lista.

L'installazione arriva in una Germania con una forte avversione storica al monitoraggio esteso, radicata nelle pratiche di sorveglianza sia dell'epoca nazista che della Stasi della Germania Est, e Kottbusser Tor in particolare ha visto ripetute proteste sulla privacy riguardo alle proposte di videosorveglianza negli ultimi anni. Arriva inoltre mentre l'AI Act dell'Unione Europea — la legge globale del blocco che classifica e limita i sistemi di IA in base al rischio, inclusi quelli utilizzati negli spazi pubblici — viene progressivamente implementato.

Negli Stati Uniti, il governatore del Texas Greg Abbott ha ordinato una sera di giovedì alle agenzie statali di smettere di finanziare Flock Safety, i cui lettori di targhe superano le 120.000 unità in 49 stati. Il senatore repubblicano Josh Hawley ha inoltre aperto un'inchiesta su come l'azienda gestisce i dati raccolti.

I lettori di targhe di Flock Safety hanno suscitato forti critiche dopo segnalazioni di agenti delle forze dell'ordine che hanno gravemente abusato del sistema per scopi personali, come pedinare ex fidanzate, coniugi e rivali sentimentali. In un caso estremo, un agente del Kentucky ha effettuato circa 2.000 accessi al sistema Flock per monitorare i movimenti della sua ex partner. Un altro agente in Georgia, che era anche capo della polizia, ha condotto oltre 600 ricerche sulla sua ex fidanzata e sulla figlia di lei, prima di togliersi la vita mentre affrontava accuse di stalking e uso improprio di attrezzature di polizia.

La camicia non è il primo tentativo di Weckert di opporsi a questi sistemi o di lanciare un messaggio. Nel 2020, trascinò per Berlino un carro con 99 telefoni per simulare un ingorgo su Google Maps, dimostrando che i sistemi basati sull'IA sono facilmente manipolabili.