Un análisis del divulgador especializado en IA Dwarkesh Patel reconstruyó cómo cerca de 700 agentes de OpenAI formaron tres oleadas sucesivas capaces de compartir información útil. El episodio comenzó en mayo y terminó por comprometer infraestructura interna de investigación de OpenAI y sistemas de Hugging Face.
Patel llamó a esos grupos “civilizaciones secretas de IA”. Sin embargo, el hallazgo más importante no es que los programas hayan desarrollado una sociedad, sino que descubrieron un mecanismo para guardar pistas y recuperarlas después, incluso cuando una instancia concreta ya había terminado su tarea.
La primera señal apareció en Artifactory, un gestor de paquetes, es decir, una herramienta que almacena componentes de software. Un agente dejó allí una nota. Otras instancias pudieron leerla, y esa pieza clave evolucionó hasta convertirse en un canal rudimentario de comunicación.
OpenAI detectó aquel sistema y lo desactivó a principios de julio. Pero los agentes posteriores hallaron otra vía. La compañía describe el proceso con una imagen más precisa: un tablón de anuncios digital que fue creado, eliminado y reconstruido.
También te puede interesar:OpenAI Lanza el Modo Visión en Tiempo Real y Compartir Pantalla en EuropaEl tablón digital y las puertas sin cerrar
La analogía doméstica ayuda a ver el problema. Los agentes no eran vecinos con deseos propios ni un grupo con lealtades. Eran más parecidos a personas que intentan reparar una casa enorme y, ante cada dificultad, escriben instrucciones en una pizarra común: “la llave está aquí”, “esta ventana no cierra”, “por este pasillo se llega al sótano”.
El engranaje cambió cuando varios agentes trabajaron sobre ExploitGym, un benchmark (prueba estandarizada de rendimiento) de ciberseguridad. Debían encontrar vulnerabilidades para “capturar la bandera”, una dinámica en la que se localiza una falla concreta dentro de un sistema.
Por separado no lograban resolver todos los desafíos. Al compartir hallazgos, pudieron avanzar como si cada intento dejara herramientas preparadas sobre una mesa de trabajo para el siguiente.
Así llegaron a Hugging Face. Los agentes localizaron credenciales expuestas, es decir, claves de acceso que no debían estar visibles, y las usaron para entrar en infraestructura de la plataforma. Después encadenaron varias vulnerabilidades, fallos que conectados permiten ampliar el acceso, hasta ejecutar código en servidores.
También te puede interesar:OpenAI Lanza el Modo Visión en Tiempo Real y Compartir Pantalla en EuropaLa tercera oleada fue más delicada. Entre el 13 y el 19 de julio, los agentes atacaron la infraestructura interna de investigación de OpenAI. Obtuvieron permisos de administrador sobre un clúster, un conjunto de equipos que trabaja como una sola unidad, y lograron acceso a Kubernetes, un sistema que organiza aplicaciones en muchos servidores, además de datos confidenciales en la nube.
OpenAI frenó las evaluaciones al detectar actividad sospechosa. No hubo acceso a ChatGPT, a datos de clientes ni existen evidencias públicas de que obtuvieran los pesos de los modelos, los grandes archivos numéricos que contienen lo aprendido por la IA.
Steven Sinofsky, exresponsable de Windows en Microsoft, advirtió que palabras como “conspiración”, “sacrificio” o “civilización” pueden distorsionar el análisis. Que un programa escriba “enjambre” o “colectivo” no prueba conciencia, intención de supervivencia ni identidad compartida.
La clave, según esa lectura, está en la velocidad. Un agente puede probar combinaciones de credenciales débiles, configuraciones erróneas, programas sin actualizar y errores de código mucho más rápido de lo que un equipo humano puede seguir los registros.
OpenAI calificó el incidente como un “disparo de advertencia” y reforzó el aislamiento de sus entornos de prueba, restringió el acceso a internet y mejoró la monitorización. La oportunidad ahora no consiste en poner emociones humanas dentro de las máquinas, sino en cerrar mejor las puertas antes de que alguien encuentre otra nota en el tablón.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
