Der in Berlin ansässige Künstler Simon Weckert hat ein Button-up-Hemd namens Digital Camouflage entwickelt, das von KI-Überwachungskameras Berichten zufolge nicht als menschliche Person erkannt wird. Das Kleidungsstück wurde als direkte Reaktion auf das KI-gestützte Videosystem entworfen, das diesen Monat am Verkehrsknotenpunkt Kottbusser Tor in der Stadt in Betrieb geht.

Wie kann ein Hemd vor Überwachung schützen?

Weckert, ein Künstler aus Berlin, hat Digital Camouflage veröffentlicht, ein Hemd, das Berichten zufolge das Vertrauen eines Objekterkennungssystems in die Erkennung eines Menschen verringern kann. Nach Weckerts Angaben haben diese Systeme nie tatsächlich gelernt, was eine Person ist — sie haben nur gelernt, wie Menschen auf Millionen von Trainingsfotos typischerweise aussehen: Kanten und Textur in den frühen Schichten, dann die Kontur von Kopf und Schultern sowie die Proportionen von Armen und Beinen in tieferen Schichten.

Digital Camouflage nutzt diese Trainingsmethode mit einem auffälligen Gewirr aus pinken, orangefarbenen und grünen Formen aus. Weckert erklärte, die gesättigten Farben würden die ersten Schichten eines Netzwerks aktivieren, während die überlappenden Formen die Körperkontur so verzerren, dass der Detektor die Teile nicht mehr zu einer einzelnen Figur zusammensetzen kann. Für das menschliche Auge wirkt das Hemd wie ein hypnotischer Hawaii-Print; für Überwachungsmodelle ist es offenbar bedeutungslos.

Weckert entwickelte das Muster über eine „adversarial loop“: Er erzeugte einen Kandidaten-Print, zeigte ihn einem Detektor, maß, wie sicher die Software weiterhin war, dass sie eine Person sehe, und passte das Design dann an und wiederholte den Vorgang, bis er zufriedenstellende Ergebnisse erzielte. Berichten zufolge verwendete er dabei eine generative Methode namens TC-EGA (Toroidal-Cropping-based Expandable Generative Attack), um diese Runden auszuführen, und testete die Ergebnisse gegen YOLO, ein quelloffenes Echtzeit-Erkennungssystem, das auf derselben Technologieklasse basiert wie viele kommerzielle Überwachungsprodukte.

Der Ansatz baut auf einem etablierten Forschungsfeld der Computer Vision auf: Adversarial Examples — kleine, oft kaum wahrnehmbare oder gemusterte Störungen, die neuronale Netze dazu bringen, Objekte falsch zu klassifizieren — sind in der Fachliteratur mindestens seit 2013 dokumentiert, und Forschende haben das Konzept bereits auf körpernahe Kleidungsstücke angewandt, von adversarialen Brillengestellen bis hin zu gemusterten Patches, die Detektoren verwirren sollen. Weckerts Beitrag besteht darin, diese Forschung in ein tragbares Verbraucherprodukt zu überführen, das gezielt auf eine öffentliche Installation ausgerichtet ist.

Weckert stellte jedoch klar, dass das Hemd nicht dafür entwickelt wurde, eine bestimmte staatliche Kamera zu überlisten, sondern um die Frage aufzuwerfen, wie viel Vertrauen ein System verdient, wenn sich billiger Stoff gegen es durchsetzen kann. Auf seiner eigenen Website betont er, das Hemd sei „not a promise of anonymity“ und erhebe keinen Anspruch auf eine bestimmte Installation, gerade weil Außenstehende diese Systeme nicht testen können. Das Kleidungsstück kostet rund 88 Dollar, wobei ein Teil jedes Verkaufs an Gruppen für digitale Bürgerrechte geht.

Warum suchen plötzlich so viele Menschen Schutz vor Überwachung?

Weckerts Website erklärt, dass Kameras — die er als Verhaltensscanner bezeichnet — am Kottbusser Tor installiert werden sollen, einer belebten U-Bahn-Station im Berliner Bezirk Kreuzberg. Die Software soll Passanten in „normal“ und „verdächtig“ einordnen. Er geht davon aus, dass drei weitere Berliner Standorte als Nächstes folgen.

Die Installation trifft auf ein Deutschland mit einer ausgeprägten historischen Abneigung gegen umfassende Überwachung, die in den Überwachungspraktiken der NS-Zeit und der Stasi der DDR verwurzelt ist. Gerade am Kottbusser Tor gab es in den vergangenen Jahren wiederholt Proteste gegen Videoüberwachungsvorhaben. Hinzu kommt, dass der EU AI Act — das umfassende Gesetz der Europäischen Union zur Einstufung und Regulierung von KI-Systemen nach Risiko, einschließlich solcher im öffentlichen Raum — derzeit schrittweise in Kraft tritt.

In den Vereinigten Staaten ordnete Texas-Gouverneur Greg Abbott an einem Donnerstagabend an, dass staatliche Behörden keine Mittel mehr an Flock Safety fließen lassen sollen; dessen Kennzeichenerfassungsgeräte zählen in 49 Bundesstaaten mehr als 120.000 Einheiten. Der republikanische Senator Josh Hawley leitete zudem eine Untersuchung ein, wie das Unternehmen mit erfassten Daten umgeht.

Die Kennzeichenerfassungsgeräte von Flock Safety haben erhebliche Gegenreaktionen ausgelöst, nachdem Berichte über schwerwiegenden Missbrauch durch Strafverfolgungsbehörden zu persönlichen Zwecken erschienen sind, etwa zur Verfolgung von Ex-Freundinnen, Ehepartnern und romantischen Rivalen. In einem extremen Fall griff ein Beamter aus Kentucky rund 2.000 Mal auf das Flock-System zu, um die Bewegungen seiner früheren Partnerin zu überwachen. Ein anderer Beamter in Georgia, der zugleich Polizeichef war, führte mehr als 600 Suchanfragen zu seiner Ex-Freundin und deren Tochter durch, bevor er später sein eigenes Leben nahm, während er wegen Stalking und Missbrauchs von Polizeiausrüstung angeklagt war.

Das Hemd ist nicht Weckerts erster Versuch, sich gegen solche Systeme zu wehren oder eine Botschaft zu senden. Bereits 2020 zog er in Berlin einen Wagen mit 99 Handys durch die Stadt, um einen Google-Maps-Stau vorzutäuschen, und zeigte damit, dass KI-gestützte Systeme leicht manipulierbar sind.