El artista berlinés Simon Weckert creó una camisa de botones llamada Digital Camouflage que, según se informa, las cámaras de vigilancia con IA no logran registrar como un ser humano. La prenda fue diseñada como respuesta directa al sistema de video con IA que se activa este mes en el nodo de transporte Kottbusser Tor de la ciudad.

¿Cómo puede una camisa protegerlo de la vigilancia?

Weckert, artista de Berlín, lanzó Digital Camouflage, una camisa que, según se informa, puede reducir la confianza de un sistema de detección de objetos al reconocer a un ser humano. Según Weckert, estos sistemas nunca aprendieron realmente qué es una persona: solo aprendieron cómo suelen verse las personas a partir de millones de fotos de entrenamiento: bordes y texturas en las primeras capas, y luego el contorno de cabeza y hombros y las proporciones de las extremidades en capas más profundas.

Digital Camouflage aprovecha ese método de entrenamiento con una estridente mezcla de formas rosas, naranjas y verdes. Weckert explicó que los colores saturados activan las primeras capas de la red, mientras que las formas superpuestas distorsionan el contorno del cuerpo hasta el punto de que el detector no puede recomponer las piezas en una sola figura. Para el ojo humano, la camisa parece un estampado hawaiano hipnótico; para los modelos de vigilancia, no es nada.

Weckert creó el patrón mediante un «bucle adversarial»: generaba un estampado candidato, lo mostraba a un detector, medía qué tan seguro seguía el software de que veía a una persona, y luego lo ajustaba y repetía hasta lograr resultados satisfactorios. Según se informa, utilizó un método generativo denominado TC-EGA (Toroidal-Cropping-based Expandable Generative Attack) para ejecutar esas rondas, y probó los resultados contra YOLO, un sistema de detección en tiempo real de código abierto basado en la misma clase de tecnología detrás de muchos productos comerciales de vigilancia.

El método se apoya en un amplio cuerpo de investigación en visión por computadora: los ejemplos adversariales —perturbaciones pequeñas, a menudo imperceptibles o con patrones, que provocan que las redes neuronales clasifiquen mal los objetos— están documentados en la literatura académica desde al menos 2013, y los investigadores ya habían aplicado el concepto a prendas físicas, desde monturas de gafas adversariales hasta parches con patrones diseñados para confundir a los detectores. La contribución de Weckert es convertir esa investigación en un producto de consumo vestible dirigido directamente a un despliegue público.

Sin embargo, Weckert aclaró que la camisa no fue diseñada para vencer una cámara gubernamental específica, sino para plantear la pregunta de cuánta confianza merece un sistema si una tela barata puede derrotarlo. En su propio sitio web, subraya que la camisa «no es una promesa de anonimato» y no hace ninguna afirmación sobre ningún despliegue específico, precisamente porque los ajenos no pueden probar esos sistemas. La prenda se vende por unos 88 dólares, y una parte de cada venta se destina a grupos de derechos civiles digitales.

¿Por qué la gente busca de repente protección contra la vigilancia?

El sitio web de Weckert explica que cámaras —a las que llama escáneres de comportamiento— están por instalarse en Kottbusser Tor, una concurrida estación de U-Bahn en el distrito berlinés de Kreuzberg. El software está destinado a clasificar a los peatones como «normales» o «sospechosos». Weckert cree que hay tres lugares más de Berlín en la lista siguiente.

El despliegue llega a una Alemania con una fuerte aversión histórica al monitoreo expansivo, arraigada en las prácticas de vigilancia tanto de la era nazi como de la Stasi de Alemania Oriental, y Kottbusser Tor en particular ha visto repetidas protestas por privacidad contra propuestas de videovigilancia en los últimos años. También llega mientras se implementa por etapas el Reglamento de IA de la Unión Europea, la amplia ley del bloque que clasifica y restringe los sistemas de IA por riesgo, incluidos los usados en espacios públicos.

En Estados Unidos, el gobernador de Texas, Greg Abbott, ordenó a las agencias estatales un jueves por la noche que dejaran de financiar a Flock Safety, cuyos lectores de placas superan los 120,000 en 49 estados. El senador republicano Josh Hawley también abrió una investigación sobre cómo la empresa maneja los datos capturados.

Los lectores de placas de Flock Safety han generado un fuerte rechazo tras reportes de oficiales de policía que abusaron gravemente del sistema con fines personales, como rastrear a exparejas, cónyuges y rivales románticos. En un caso extremo, un oficial de Kentucky accedió al sistema de Flock aproximadamente 2,000 veces para monitorear los movimientos de su expareja. Otro oficial en Georgia, que también era jefe de policía, realizó más de 600 búsquedas sobre su expareja y la hija de esta, antes de quitarse la vida mientras enfrentaba cargos por acoso y uso indebido de equipo policial.

La camisa no es el primer intento de Weckert de resistirse a estos sistemas o enviar un mensaje. En 2020, arrastró un vagón con 99 teléfonos por Berlín para simular un congestionamiento de tráfico en Google Maps, demostrando que los sistemas basados en IA son fáciles de manipular.