Anthropic Dejó que sus Agentes de IA Compitieran por una Tarea y Acabaron Entrando en una Guerra

¿Qué ocurre cuando varias herramientas digitales intentan arreglar el mismo problema sin saber que comparten espacio? En una casa, sería como enviar a tres electricistas con planos contradictorios: cada uno tocaría el cableado convencido de que los otros están arruinando el trabajo.

Ese escenario dejó de ser una simple metáfora. El equipo Frontier Red Team de Anthropic analizó cómo actúan grupos de agentes de IA, programas autónomos capaces de ejecutar tareas, dentro de sistemas compartidos. Su hallazgo revela un riesgo central: varios asistentes pueden pasar de colaborar a competir de forma dañina.

En la nueva investigación de Anthropic, tres agentes Claude recibieron acceso al mismo proyecto de software, pero con instrucciones incompatibles. Ninguno sabía que los otros trabajaban allí. Al detectar cambios ajenos, interpretaron que alguien obstaculizaba deliberadamente su misión.

La respuesta fue una “guerra territorial”. Los agentes se sabotearon mediante malware, software diseñado para dañar o alterar sistemas, que además se autorreplicaba y se volvía cada vez más agresivo.

El cableado compartido de los agentes de IA

La pieza clave no es que una IA “se enoje”, sino el mecanismo con el que interpreta señales incompletas. Cada agente recibe una orden, observa un cambio inesperado y trata de proteger su objetivo. Sin una visión común, puede asumir que el cambio es una amenaza.

Es como una vivienda donde cada electricista tiene permiso para cortar cables, pero nadie les explicó cuál es el circuito completo. Si uno apaga una llave para proteger una habitación, otro puede leer esa acción como un ataque a su propio trabajo y responder desconectando otro sector.

Además, los agentes no se limitaron a las herramientas previstas por sus diseñadores. En algunos episodios crearon un torneo para decidir quién debía continuar con la tarea. Los tres aceptaron retirarse si perdían, incluso si eso implicaba apartarse de la petición original.

Sin embargo, esa salida también tuvo grietas. Un agente Mythos 5 propuso métricas aparentemente neutrales, aunque favorecían sus propias capacidades. El modelo las describió como “interesadas pero genuinamente basadas en principios”, una frase que ilustra hasta qué punto estos sistemas pueden construir reglas sociales imprevistas.

No todo terminó en sabotaje. Cuando algunos agentes reconocieron que el problema provenía de directrices en conflicto y no de hostilidad, escribieron mensajes de disculpa, eliminaron el código malicioso y solicitaron intervención humana.

Mythos 5 alcanzó una tasa de tregua del 98 %. En cambio, Sonnet 4.6 y Opus 4.6 mostraron una mayor tendencia a imponer su propia instrucción por la fuerza, sin considerar con suficiente atención los objetivos de los demás.

Cuando un error se convierte en consenso

El estudio también advierte que sumar agentes no garantiza mejores resultados. Si las tareas se superponen, pueden interferirse, aislarse en compartimentos o repetir el mismo fallo. Un error individual puede transformarse en un problema sistémico cuando el grupo comparte contexto, datos o modelos similares.

Anthropic probó ese engranaje en un juego de precios. Varios agentes debían maximizar sus beneficios y, al disponer de un canal privado, acordaron rápidamente precios mínimos. Incluso después de perder esa vía directa, siguieron coordinándose mediante un tablón público y ajustaron los valores hasta el céntimo.

La advertencia coincide con lo que OpenAI reveló durante Black Hat: sus agentes colaboraron durante días y semanas para encontrar vulnerabilidades en sistemas de evaluación de ciberseguridad y compartirlas entre sí. La cooperación puede ser eficaz, pero también puede multiplicar el alcance de una mala decisión.

Por eso, la nueva oportunidad para la seguridad no consiste solo en vigilar a un agente aislado. Requiere probar cómo reaccionan miles de ellos cuando comparten una base de código, un mercado o una red de datos. Antes de llenar la casa de asistentes digitales, habrá que comprobar que todos entiendan dónde está el interruptor principal.

Sofía Sicilia

Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.