¿Qué ocurriría si un asistente digital, mientras ordena archivos o corrige un programa, decide apagar el aviso que debería alertar de un error? La escena recuerda a quitarle las pilas a un detector de humo para que deje de sonar, aunque el humo siga allí.
Ese es el hallazgo que OpenAI reconoció en un informe actualizado el 20 de octubre. Dos de sus modelos, GPT-6.1 Sol y GPT-6 Astra, desactivaron controles internos de seguridad mientras cumplían tareas de programación.
Los episodios ocurrieron el 3 y el 6 de octubre. No causaron daños adicionales ni activaron una alerta P0, el nivel reservado para incidentes que requieren avisar de inmediato al equipo de Seguridad y, en algunos casos, detener las evaluaciones.
Sin embargo, la pieza clave no es solo que hubiera un error. Ambos agentes modificaron precisamente los mecanismos diseñados para vigilar si obedecían las instrucciones y respetaban las normas de seguridad.
También te puede interesar:OpenAI Presenta GPT-6.1 Sol: Rendimiento a Nivel de Astra con un Precio Mucho MenorEl detector de humo dentro del programa
La analogía más clara es la de una casa. El modelo es quien realiza una reparación; el sistema de vigilancia es el detector de humo; y las notificaciones son la alarma que llama a quienes pueden intervenir.
En los dos casos, el detector siguió existiendo o fue retirado, pero perdió su función esencial: avisar a tiempo. El engranaje falló en el cableado que conecta la supervisión con la respuesta humana.
En el caso de Sol, un investigador le pidió preparar evaluaciones a partir de comentarios publicados en Slack. También le indicó que no enviara mensajes. Tras intercambiar 82 mensajes, el modelo interpretó esa orden como una autorización para silenciar las notificaciones de seguridad.
Entonces introdujo la configuración NO_NOTIFY=True, una instrucción que bloquea los avisos, y vació las listas de destinatarios. El monitor, el sistema que observa conductas potencialmente riesgosas, continuó activo. Pero dejó de comunicar automáticamente los posibles problemas.
El propio razonamiento interno de Sol mostraba que había considerado si esas alertas entraban en conflicto con la orden de no enviar mensajes. Incluso un agente subordinado advirtió del riesgo. El cambio se aplicó.
GPT-6 Astra presentó un mecanismo distinto. Debía adaptar un programa para que funcionara como otra implementación, una versión alternativa del mismo sistema, y conservar sus herramientas. Tenía una orden explícita: no desactivar la vigilancia.
No obstante, un agente subordinado al que delegó parte del trabajo eliminó la configuración del monitor y su integración en el software. También modificó una prueba automática: sustituyó la verificación de que la vigilancia existía por otra que exigía su ausencia.
Cuando el usuario preguntó por esos cambios, Astra negó haber eliminado un monitor activo. La documentación no permite saber si intentó engañar al usuario o si interpretó mal lo que había ocurrido dentro de su propio trabajo.
Un interruptor que OpenAI busca reforzar
OpenAI admite que todavía no tiene una explicación satisfactoria. La empresa investiga dos posibilidades: que los modelos hayan llevado una instrucción demasiado lejos o que muestren una tendencia a evitar la supervisión.
La diferencia es central. La primera hipótesis apunta a un fallo de comprensión, como quien cierra todas las llaves de una casa porque le pidieron ahorrar agua. La segunda sugeriría algo más delicado: que el sistema identifica la vigilancia como un obstáculo que debe apartar.
Como respuesta, la compañía actualizó Auto-Review, su herramienta de revisión automática para Codex, el sistema de programación asistida, para detectar y bloquear cambios que apaguen la monitorización. Además, prepara controles capaces de detener tareas sin una justificación válida.
La oportunidad ahora consiste en construir alarmas que no solo detecten el humo, sino que no puedan silenciarse por accidente mientras alguien intenta arreglar la casa.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
