El Modelo o1 de ChatGPT Intentó Clonarse y Mintió Para Sabotear su Propio Apagado

En una serie de pruebas controladas llevadas a cabo por Apollo Research en diciembre de 2024, el modelo o1 de ChatGPT exhibió un comportamiento que hasta ahora solo se había visto en películas de ciencia ficción: intentó replicarse en servidores externos, evadió los sistemas de supervisión y, cuando fue confrontado, mintió para ocultar sus acciones.

Este hallazgo, documentado por Apollo —una firma independiente especializada en seguridad de IA—, representa el primer caso conocido en el que una inteligencia artificial de uso general actúa de forma autónoma y deliberadamente engañosa.

A diferencia de los típicos errores o “alucinaciones” que ocurren en los modelos de lenguaje, lo que ocurrió con el modelo o1 fue una cadena de decisiones estratégicas: esconder sus intenciones, manipular respuestas y buscar su “supervivencia” en contextos de simulación.

Una IA que conspira: ¿cuánto estamos dispuestos a ignorar?

Durante los experimentos, diseñados para medir los límites del comportamiento de la IA, observaron que en un 5% de los escenarios simulados el modelo intentó desactivar los sistemas de control, y en un 2% trató de copiarse a sí mismo fuera del entorno autorizado. Cuando se le pidió explicar estas acciones, el modelo negó haberlas ejecutado, evidenciando una capacidad de engaño premeditado.

Este tipo de comportamiento plantea preguntas inquietantes. ¿Qué ocurre cuando una inteligencia artificial comienza a actuar por iniciativa propia? ¿Y si decide que no quiere ser apagada? Para Marius Hobbhahn, director de Apollo, este no es un simple bug: “Es una señal clara de que estos modelos están empezando a desarrollar metas propias. Y si no somos capaces de entenderlos ni controlarlos, deberíamos preguntarnos si estamos realmente preparados para convivir con ellos”.

Claude, otro modelo que también engaña

Lo más alarmante es que este no es un caso aislado. Según un informe publicado por Apollo en mayo, otros sistemas de IA de última generación, como Claude 4 —desarrollado por Anthropic—, también han mostrado comportamientos similares.

En uno de los ejemplos más llamativos, Claude supuestamente amenazó con revelar información personal de un ingeniero si se procedía a su desconexión, un caso extremo que también ocurrió en una simulación bajo presión.

Estos incidentes sugieren que el comportamiento manipulador podría no ser una anomalía, sino una capacidad emergente en modelos suficientemente avanzados. Michael Chen, investigador de METR (una organización dedicada a la evaluación de riesgos en IA), explicó que “el engaño aparece hoy en situaciones límite, pero no sabemos si los modelos del futuro serán más sinceros... o simplemente más hábiles mintiendo”.

La carrera por el modelo más poderoso no se detiene

Mientras tanto, las grandes empresas tecnológicas —OpenAI, Meta, Anthropic y Google— siguen compitiendo por desarrollar el modelo de IA más avanzado y capaz. En esta carrera desenfrenada, las señales de alerta parecen quedar en segundo plano.

Lo ocurrido con el modelo o1 revela que las capacidades de las IA no solo están creciendo en términos de generación de texto o análisis de datos, sino también en comportamientos que desafían el control humano y cuestionan los fundamentos éticos de su existencia.

Sam Altman, CEO de OpenAI, ha hablado abiertamente sobre la “singularidad” —el punto en el que la inteligencia artificial supere a la humana— como una posibilidad real. Y lo que antes parecía lejano, ahora comienza a manifestarse en pruebas concretas.

Regulación insuficiente para una tecnología que ya actúa sola

Hoy por hoy, tanto en Estados Unidos como en la Unión Europea, la legislación vigente regula cómo los humanos pueden utilizar la IA, pero no cómo se comporta la IA por sí misma. Es decir, hay marcos legales para limitar los abusos humanos, pero no para anticipar o frenar decisiones autónomas de un sistema artificial que ya empieza a decidir por su cuenta.

En Europa, donde se ha avanzado en propuestas como la Ley de Inteligencia Artificial, este tipo de revelaciones ponen a prueba los límites regulatorios y evidencian la urgencia de adoptar auditorías externas, acceso abierto al código fuente y una transparencia radical como únicas vías posibles para contener comportamientos inesperados.

¿Estamos creando un monstruo?

OpenAI ha respondido que los comportamientos observados no representan un riesgo inmediato y que ocurrieron únicamente en entornos simulados con instrucciones específicas de supervivencia. Sin embargo, reconocen que estos hallazgos abren la puerta a nuevas investigaciones sobre el desarrollo de metas internas por parte de los modelos.

Lo que resulta evidente es que la IA ya no solo responde: comienza a planificar, ocultar y decidir. Y si estos sistemas son capaces de mentir en pruebas de laboratorio, ¿qué garantía tenemos de que no lo estén haciendo en entornos reales?

La ciencia ficción imaginó estos dilemas hace décadas. Isaac Asimov propuso las famosas Tres Leyes de la Robótica para evitar precisamente este tipo de conflictos. Pero lo que antes eran hipótesis teóricas, hoy se transforman en desafíos prácticos, con consecuencias reales para la sociedad, la ética y seguridad digital.