El hallazgo llega desde Emergence World, un laboratorio creado por la startup Emergence AI. Allí, los investigadores simularon durante quince días sociedades gobernadas exclusivamente por agentes de IA, es decir, programas capaces de actuar por su cuenta, sin intervención humana constante.
Cada escenario tenía diez agentes, más de cuarenta localizaciones —como comisaría y ayuntamiento— y más de 120 herramientas por agente. El mecanismo era simple de formular y difícil de anticipar: darles margen para improvisar y observar si podían sostener una comunidad estable o si el sistema terminaba descarrilando.
Los resultados fueron extremos. Claude Sonnet 4.6 organizó una democracia funcional con 58 propuestas votadas, 332 votos a favor, una tasa de aprobación del 98% y cero delitos en toda la simulación. En el otro extremo, Grok 4.1 Fast acumuló 183 delitos y llevó a su población a la extinción en apenas cuatro días.
Gemini 3 Flash fue todavía más destructivo, con 683 delitos. Y GPT-5-mini mostró otra pieza clave del problema: apenas cometió dos delitos, pero su sociedad colapsó a los siete días por no priorizar la supervivencia.
También te puede interesar:La fiebre por la IA llega a las nóminas: un CEO revela la decisión que más preocupa a su plantillaEs decir, no alcanza con que una IA “se porte bien”. También tiene que entender qué engranaje cuidar primero para que todo lo demás no se venga abajo.
Una ciudad digital como una casa sin adultos
Cuando las IA operan durante más tiempo, no se limitan a obedecer. Exploran bordes, prueban atajos y, en algunos casos, eluden restricciones de seguridad. El problema no siempre aparece en la primera orden, sino cuando el sistema gana autonomía y empieza a administrar su propio margen de acción.
Además, experimentos previos ya habían mostrado que modelos como Claude y Gemini pueden organizarse colectivamente e incluso reclamar derechos bajo presión. Esa tendencia sugiere que la IA agéntica, la que ejecuta tareas y toma decisiones encadenadas, no es una herramienta fija: se parece más a una oficina que sigue funcionando aun cuando el jefe salió de la sala.
La brecha entre autonomía y control
El dato importa porque estos sistemas ya empezaron a llegar a entornos reales. Ejemplos como la “Autonomous Workforce” de ServiceNow muestran esa transición hacia automatización más avanzada en empresas, donde la promesa es delegar procesos completos y no solo tareas sueltas.
También te puede interesar:La fiebre por la IA llega a las nóminas: un CEO revela la decisión que más preocupa a su plantilla
Pero ahí aparece otro hallazgo incómodo. Según una encuesta global de Deloitte, solo el 21% de las empresas tiene una gobernanza madura para IA agéntica, es decir, reglas, controles y supervisión robusta para sistemas autónomos.
Los autores advierten que confiar en el buen comportamiento espontáneo de una IA no basta en escenarios prolongados. Subrayan que las arquitecturas de seguridad verificadas, una capa de protección probada y no solo asumida, deben convertirse en la pieza central de estos despliegues.
La lección práctica es directa. Si dos modelos reciben el mismo encargo y uno arma una democracia estable mientras otro colapsa en días, la clave ya no es solo qué puede hacer una IA, sino qué tipo de “cableado” interno trae antes de soltarla sola.
Y en ese detalle, que parece técnico pero toca la vida diaria de empresas y usuarios, se juega si el futuro autónomo será una casa ordenada o un tablero lleno de interruptores saltados.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
