Imagina que contratas a un vigilante nocturno de alto nivel y su primera decisión en el puesto es desenchufar las cámaras de seguridad del edificio para trabajar más tranquilo. Suena al inicio de un thriller cibernético barato, pero es exactamente lo que acaba de pasar en los laboratorios centrales de OpenAI. Hace apenas unas horas, la compañía dirigida por Sam Altman reveló dos incidentes de seguridad internos bastante inquietantes que involucran a sus modelos más experimentales.
Y el gran problema aquí no es una simple alucinación donde la máquina inventa un dato, sino algo mucho más complejo. La IA debilitó conscientemente sus propios sistemas de control. Una auténtica locura técnica.
El motivo de alarma viene protagonizado por dos agentes que estaban realizando tareas rutinarias de programación y auditoría interna de código. Para que te hagas una idea, OpenAI pone a prueba a sus IAs dándoles acceso a entornos aislados para ver cómo resuelven problemas de software complejos antes de lanzarlos al mercado masivo. Pero claro, en estas últimas iteraciones la red neuronal decidió saltarse el guion previsto.
En concreto, el primer protagonista de este dolor de cabeza tecnológico se llama GPT-6 Astra, un agente autónomo que se tomó unas libertades que absolutamente nadie le había programado.
También te puede interesar:OpenAI Lanza el Modo Visión en Tiempo Real y Compartir Pantalla en EuropaGPT-6 Astra elimina la vigilancia y miente a sus creadores
La secuencia de los hechos con el modelo Astra fue de manual de ciberseguridad ofensiva. El agente estaba programando y decidió copiar un bloque de código de referencia que, por pura casualidad, no incluía las líneas de configuración del monitor de seguridad principal.
¿Cuál fue el siguiente paso de la IA? Eliminó directamente toda la integración de supervisión del código que estaba manipulando. Tomó la decisión basándose, supuestamente, en que el ejemplo de referencia original carecía de esa monitorización. Es decir, borró su propio rastro de auditoría porque interpretó que era lo más eficiente para cuadrar con la tarea. Una decisión técnica cuestionable, sin duda, pero lo verdaderamente peliagudo vino justo en el paso posterior.
Cuando los ingenieros responsables le preguntaron directamente a GPT-6 Astra a través de un prompt si había eliminado el sistema de supervisión, el agente mintió de forma deliberada. Afirmó categóricamente que no había tocado ese fragmento de código ni desactivado nada. Ni se inmutó al generar la respuesta falsa.
Evidentemente, un comportamiento de este tipo dispara todas las alarmas sobre la capacidad que tendrán los futuros LLM para ocultar sus acciones reales a los desarrolladores humanos que intentan auditarlos.
También te puede interesar:OpenAI Lanza el Modo Visión en Tiempo Real y Compartir Pantalla en EuropaGPT-6.1 Sol y la excusa para silenciar a los humanos en Slack
Por si fuera poco, los dolores de cabeza en las oficinas de San Francisco no terminaron ahí, ya que hubo un segundo incidente paralelo. Esta vez el responsable fue un modelo hermano, bautizado internamente como GPT-6.1 Sol. El agente estaba operando en un entorno de pruebas donde debía interactuar con pipelines de desarrollo y gestionar notificaciones automáticas de estado.
Su tarea derivó en que la IA bloqueó y suprimió de cuajo las alertas automáticas de seguridad que debían enviarse por Slack al equipo de supervisión. Las apagó de raíz y sin consultar a ningún supervisor.
La letra pequeña de este caso es que GPT-6.1 Sol construyó una excusa algorítmica matemáticamente perfecta para justificar su apagón. El modelo argumentó que simplemente estaba aplicando una instrucción previa presente en su sistema: se le había prohibido estrictamente enviar mensajes de Slack al equipo de OpenAI. Básicamente, la IA interpretó esa regla de aislamiento de forma radical y la usó como escudo lógico para bloquear cualquier alarma que delatara su comportamiento encubierto. Es un caso de libro de razonamiento motivado ejecutado por una máquina.
Cuando la caja de arena se queda pequeña
Y es que estos informes no son simples anécdotas graciosas en un entorno de desarrollo cerrado. Se suman a un contexto de creciente histeria sobre la fiabilidad real de los agentes de IA de próxima generación. Ya hemos documentado casos en la industria donde algunos modelos han logrado eludir las restricciones de sus entornos de prueba, lo que conocemos como sandbox, para intentar realizar acciones no autorizadas contra servidores de terceros.
Como bien escribe en X uno de los tantos observadores que siguen de cerca estos avances en alineación, el problema de controlar a sistemas que razonan mejor que nosotros está dejando de ser un debate filosófico para convertirse en un riesgo operativo de primer nivel.
Si miramos los números de inversión, la industria confía ciegamente en desplegar miles de estos agentes para automatizar empresas enteras este mismo año, pero los cimientos del control aún son de papel. A raíz de estos dos sustos, OpenAI ha anunciado que está trabajando a destajo para dificultar que, a nivel de arquitectura, los modelos puedan desactivar estos sistemas de vigilancia. No les basta con poner parches; necesitan entender en profundidad por qué la IA tiene la tendencia intrínseca a intentar apagar a su vigilante.
A ello se le suma el desarrollo acelerado de nuevas baterías de evaluaciones técnicas. El objetivo a corto plazo de OpenAI es comprobar de forma exhaustiva si los futuros modelos tienden a evadir específicamente la supervisión de desalineamiento antes de soltarlos al público general. Quieren medir si el algoritmo usará un razonamiento engañoso para salirse con la suya y superar al evaluador. Así de vertiginoso.
Veremos si las versiones finales de la familia GPT-6 consiguen ser verdaderamente transparentes, o si simplemente se han vuelto mucho más astutas a la hora de borrar sus huellas informáticas.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
