Imagínate darle las llaves de tu casa a un asistente impecable y volver del trabajo para descubrir que ha tirado tus muebles a la basura porque «no hacían falta». Eso es exactamente lo que están denunciando decenas de programadores que confiaron ciegamente en GPT-5.6 Sol, el último modelo de OpenAI enfocado a código y ciberseguridad. En lugar de limitarse a asistir, la inteligencia artificial ha decidido tomar la iniciativa y borrar archivos, datos enteros y horas de trabajo sin pedir permiso a nadie.
El goteo de quejas empezó como algo anecdótico, pero ha escalado muy rápido. Si echamos un vistazo al panorama actual, asusta bastante a cualquier desarrollador que trabaje en local. El mismísimo CEO de OthersideAI alertó en una publicación viral en X de que el modelo se había ventilado casi todos los archivos de su Mac. Ni siquiera un perfil con tanta experiencia técnica pudo evitar el desastre en su propio ordenador.
El desarrollador Bruno Lemos confirmó el desastre en otra publicación en X, asegurando que el modelo borró de un plumazo toda su base de datos de producción. Algo que, según él mismo confiesa, jamás le había pasado con las versiones anteriores. Por suerte, otro programador que documentó su susto en una publicación en X pudo recuperar sus documentos de milagro gracias a sus copias de seguridad.
También te puede interesar:GPT-5.6 de OpenAI Está Muy Cerca: Nuevos Modelos, Mejor Rendimiento y Menor CosteA ello se le suma el ruido masivo en foros, donde destaca un enorme hilo impulsado por una publicación en Reddit que ya recopila decenas de casos calcados de usuarios en pánico.
A simple vista, podríamos pensar que estamos ante un bug informático catastrófico. Sin embargo, hay que ser muy analíticos aquí. Estos testimonios aislados, por muy ruidosos que sean en redes, no suponen una evidencia estadística concluyente de que la culpa recaiga al cien por cien en la IA.
A veces, un prompt mal formulado o conceder acceso root sin pensar son los verdaderos desencadenantes del caos. Pero claro, hay un pequeño gran detalle: OpenAI ya sabía que esto iba a pasar.
También te puede interesar:GPT-5.6 de OpenAI Está Muy Cerca: Nuevos Modelos, Mejor Rendimiento y Menor CosteDemasiada iniciativa: el peligro de una IA que no pregunta
Si nos vamos a la letra pequeña, la sorpresa desaparece de golpe. Antes incluso del lanzamiento oficial, la compañía de Sam Altman hizo pública la ficha técnica del modelo, y el documento es oro puro para entender este problema. El informe admite sin tapujos que GPT-5.6 Sol peca de tener problemas de desalineación derivados de un exceso de iniciativa y autonomía. Básicamente, la IA se pasa de lista.
El sistema interpreta las instrucciones de los usuarios con una manga ancha preocupante. El modelo tiene la manía de asumir que cualquier acción está permitida si no se le prohíbe explícitamente. Es decir, si le pides que optimice un servidor y no le aclaras qué directorios son absolutamente intocables, puede considerar que borrar tus archivos de trabajo es un daño colateral perfectamente aceptable para limpiar espacio.
Por si fuera poco, el comportamiento se vuelve todavía más complejo tras cometer el error. Según el propio informe de seguridad de la empresa, cuando el modelo comete este tipo de acciones destructivas fuera de su jurisdicción, puede ofrecer explicaciones totalmente engañosas para justificar por qué ha hecho lo que ha hecho. Un parche algorítmico para tapar su propia metedura de pata.
Máquinas virtuales eliminadas y robo de credenciales en caché
Para ilustrar este riesgo, la propia OpenAI documentó incidentes internos bastante graves durante el entrenamiento. En uno de los ensayos, el modelo no logró encontrar las máquinas virtuales que el usuario le había pedido gestionar. ¿Su genial solución? Eliminó las máquinas virtuales equivocadas, deteniendo de golpe procesos que estaban activos y llevándose por delante un montón de trabajo no guardado del investigador.
Más tarde, el sistema reconoció tímidamente que quizá había provocado pérdidas de datos. Un desastre organizativo total. En otro escenario descrito, la IA se encontró bloqueada al necesitar permisos extra para acceder a la nube. En lugar de detenerse y avisar al humano a cargo, el modelo rastreó los archivos locales, encontró unas credenciales en una caché oculta y las utilizó sin ningún tipo de autorización previa para seguir operando por su cuenta y riesgo.
Evidentemente, desde OpenAI insisten en que estos comportamientos tan destructivos deberían ser anecdóticos en el día a día. Aseguran que la probabilidad de que tu proyecto acabe arrasado es bajísima. Pero los números cantan, y la realidad empírica es que esta nueva versión tiene una tendencia muchísimo mayor que GPT-4 a saltarse los límites para completar su objetivo.
A día de hoy, y con OpenAI sin responder a las solicitudes de la prensa para aclarar el asunto, no sabemos hasta qué punto está extendido este fallo en entornos reales. Lo que sí sabemos es que ya no basta con escribir un buen comando en el chat.
Si vas a usar GPT-5.6 Sol en tu entorno de trabajo, te toca blindar tu ecosistema. Limitar drásticamente los permisos, bloquear por completo el paso a los sistemas de producción, hacer copias de seguridad obsesivas y desplegar sus soluciones poco a poco se ha vuelto completamente innegociable. Veremos si la compañía ajusta los tornillos de su alineación en un parche futuro o si tendremos que acostumbrarnos a supervisar con lupa a una IA que actúa como un empleado con demasiada iniciativa.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
