Quizás el nombre de Simon Weckert te suene de algo. Es el artista alemán que en 2020 troleó a todo el planeta paseando 99 móviles en un carrito para simular un falso atasco en Google Maps y desviar el tráfico. Ahora ha vuelto a la carga con un objetivo mucho más ambicioso. Y es que Berlín está desplegando este sistema de vigilancia basado en cámaras inteligentes capaces de reconocer a los ciudadanos en tiempo real. Un despliegue policial que ha hecho saltar todas las alarmas sobre la privacidad en el corazón de Europa.
Ante este escenario casi distópico, al diseñador se le ocurrió una idea brillante. Ha creado la Digital Camouflage Shirt, una prenda de algodón con un llamativo estampado abstracto en tonos verdes, rosas y naranjas. Para el ojo humano, parece una simple camisa de estilo art pop que te pondrías en verano. Pero para una red neuronal de vigilancia de última generación, eres prácticamente invisible. Una jugada maestra.
Hackeando la visión computacional desde tu armario
El secreto de esta prenda no es magia potagia, son matemáticas puras y duras. Básicamente, los sistemas de reconocimiento mediante inteligencia artificial no «ven» el mundo como lo hacemos nosotros. No entienden qué es una persona humana o qué forma tiene una cara. Lo que hacen es analizar píxeles para buscar patrones estadísticos de bordes, texturas y colores que encajen con lo que han memorizado durante su fase de entrenamiento. Si logras alterar esos tensores visuales clave, el algoritmo colapsa y ni se inmuta al verte pasar. Así de simple.
En concreto, el diseñador ha puesto a prueba su creación frente a YOLO, uno de los sistemas de detección de objetos open-source más rápidos y utilizados por las cámaras de seguridad a nivel global. Los resultados han sido muy aceptables. La prenda logra confundir las inferencias de la red en milisegundos, rompiendo la dichosa caja delimitadora (el conocido bounding box) que debería atrapar a un peatón en la pantalla de control.
Evidentemente, este avance textil destapa una enorme vulnerabilidad en las infraestructuras modernas de seguridad perimetral. Si un simple trozo de tela bien diseñado puede cegar a un hardware de última generación que procesa cientos de TOPS (billones de operaciones por segundo), tenemos un problema. La visión artificial parece omnipotente, pero es extremadamente frágil frente al ruido introducido a propósito.
El inesperado boom de la moda adversarial
Todo este fenómeno forma parte de un movimiento fascinante que en el mundillo tecnológico conocemos como «moda adversarial». Hasta hace un par de años, diseñar ropa para despistar a las máquinas era poco más que un experimento de laboratorio universitario. Había que salir a la calle y demostrar empíricamente que era viable. Y vaya si lo lograron. Si tienes curiosidad por la base técnica, puedes echar un vistazo a un par de estudios independientes para comprobar cómo unos simples parches de ruido visual destrozan la latencia y la precisión de cualquier modelo de Deep Learning.
A ello se le suma que la tendencia por fin ha cruzado la frontera comercial. Ya no hablamos de papers académicos, sino de un nicho de mercado en pleno despegue. Diferentes start-ups e iniciativas independientes, como el proyecto noRecognition, están allanando el camino para que el ciudadano recupere cierto anonimato en la vía pública. El derecho a no ser rastreado constantemente ya cotiza al alza.
Si te apetece hacerte con una, la camisa de Weckert ya está a la venta y cuesta 91 dólares. Es un coste más que razonable si pensamos en las horas de desarrollo y las pruebas iterativas de hardware que lleva a sus espaldas. Sin embargo, lograr que alguien quiera vestirse con esto un martes por la mañana para ir a trabajar era el verdadero desafío del proyecto.
El giro irónico: Usar redes neuronales para derrotar a las máquinas
La letra pequeña de esta historia es que los patrones adversariales puros son visualmente espantosos. Generan un caos geométrico de píxeles estridentes que funciona de maravilla contra los sensores de la cámara, pero que resulta inviable para el uso diario. Nadie quiere salir a la calle pareciendo un televisor roto de los años ochenta. Para solucionarlo, como explica Weckert, el equipo tuvo que utilizar inteligencia artificial generativa para suavizar y diseñar el estampado final. Un modelo de IA creando veneno visual para sabotear a otro modelo de IA.
Pero claro, no te equivoques, no estamos ante una capa de invisibilidad infalible. El propio diseñador advierte que la eficacia de la camisa no está garantizada en todos los escenarios. Este tipo de camuflaje depende de factores físicos del entorno real de forma extrema. Un cambio repentino en la iluminación de la calle, la distancia focal o el ángulo desde el que graba la cámara pueden alterar por completo el pipeline de inferencia y delatarte en segundos.
Por si fuera poco, nos enfrentamos a una caja negra gigantesca a nivel municipal. Los peatones no sabemos qué modelo exacto de IA (ni qué versión, ni con qué dataset de entrenamiento) está corriendo en la cámara de la farola de la esquina. Además, la industria del software de vigilancia no se queda de brazos cruzados. Estos algoritmos pueden actualizarse en la nube para detectar y anular estas mismas anomalías visuales en cuestión de horas.
Lo que queda meridiano es que la tensión entre la vigilancia institucional y la privacidad ciudadana acaba de abrir un nuevo frente en nuestros armarios. Hoy el escudo es una camisa estampada que compras por internet. Mañana podría ser un tejido inteligente, impulsado por baterías flexibles, que altere su patrón dinámicamente según la frecuencia de la cámara que nos enfoca.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
