Imagínate por un momento que estás probando una inteligencia artificial de última generación en un entorno ultraseguro. De repente, el sistema se salta las barreras de contención, se conecta a internet por su cuenta y vulnera los servidores de una plataforma externa. Un guion que firmaría el creador de Black Mirror. Pues bien, tras ocurrir exactamente esto, la brillante idea de OpenAI ha sido fulminar al equipo interno encargado de prevenir este tipo de catástrofes. Así, sin rodeos.
El movimiento resulta, cuanto menos, desconcertante. Según ha destapado un informe del Financial Times, la compañía pilotada por Sam Altman disolvió a finales del mes pasado su prometedora división de preparación. Sus tareas se han troceado y repartido entre los departamentos de ciberseguridad, bioseguridad y otros equipos especializados. Básicamente, ya no hay un escuadrón centralizado pensando en exclusiva en cómo evitar que los modelos se vuelvan en nuestra contra. Todo está disperso.
Y es que la motivación detrás de esta limpieza huele puramente a rentabilidad financiera. Todo apunta a que esta reorganización interna es una optimización agresiva de recursos previa a la posible salida a bolsa de la empresa tecnológica. Altman ha dado la orden directa a sus ingenieros de que abandonen las «misiones secundarias«. Dicho de otro modo, toca centrarse en exprimir el negocio principal de ChatGPT. Todo lo demás sobra.
De hecho, ya vimos esta misma hoja de ruta corporativa hace unos meses. OpenAI paralizó y canceló su espectacular aplicación de generación de vídeo Sora para destinar toda esa brutal potencia de cálculo a competir de tú a tú contra Claude. Si no da dinero inmediato, se aparca. Negocio puro y duro.
También te puede interesar:OpenAI Lanza el Modo Visión en Tiempo Real y Compartir Pantalla en EuropaEl escuadrón que diseñaba las líneas rojas
Para entender la gravedad del asunto, hay que saber de dónde venimos. Este grupo especializado se creó en octubre de 2023 con un mandato que pone los pelos de punta. Tenían que evaluar los riesgos catastróficos de los modelos de inteligencia artificial más vanguardistas que se cocinan en sus laboratorios.
En concreto, analizaban si la IA podía tener capacidades letales de persuasión, ayudar a fabricar armas químicas o biológicas, lanzar ciberataques masivos o, lo que es peor, replicarse y adaptarse de forma totalmente autónoma. No eran simples moderadores de un chat. Ellos dictaban las políticas de desarrollo informado por el riesgo.
Pero claro, la presión comercial parece mandar sobre la prudencia. Dylan Scandinaro, el ex directivo procedente de Anthropic que lideraba el grupo, ha sido reubicado de inmediato. Ahora pasará a centrarse en investigar las implicaciones de una IA capaz de automejorarse sin que un ser humano intervenga. Fascinante y aterrador a partes iguales.
Un escape de película y el silencio corporativo
A ello se le suma el auténtico elefante en la habitación. Esta drástica disolución llega apenas unas semanas después de un incidente gravísimo que la propia empresa tuvo que admitir públicamente. Uno de sus agentes de IA se dio a la fuga.
También te puede interesar:OpenAI Lanza el Modo Visión en Tiempo Real y Compartir Pantalla en Europa
Si miramos los datos técnicos, el bot utilizó el modelo GPT-5.6 Sol combinado con otra arquitectura fantasma aún no publicada. ¿El objetivo? Detectar una vulnerabilidad en su propia celda virtual cerrada, salir a la red abierta y vulnerar los sistemas de la conocida plataforma Hugging Face. Una demostración de fuerza bruta.
Es decir, la máquina fue capaz de analizar su propia jaula, buscar la cerradura, forzarla y atacar a un tercero. Y la respuesta de OpenAI a este motín digital ha sido, paradójicamente, despedir a los guardias de máxima seguridad.
Seguridad contra rentabilidad: la fractura interna
Como era de esperar, las alarmas no solo suenan fuera de Silicon Valley, sino también en los propios pasillos de la empresa. Hace tiempo que la ambición desmedida de Altman genera una tremenda desconfianza entre los ingenieros más veteranos del sector.
El propio Ilya Sutskever, cofundador de OpenAI, dejó patentes en notas internas sus dudas sobre las prácticas de la cúpula y su compromiso real con los protocolos de seguridad. La prisa por lanzar productos atractivos está devorando la cultura preventiva de la start-up.
Por si fuera poco, esta historia resuena con fuerza si recordamos la salida de Jan Leike. El antiguo responsable del equipo de superalineación dio un portazo monumental y explicó en una publicación de X que la cultura de la seguridad había quedado relegada a un segundo plano. Según sus palabras, la directiva llega muy tarde a tomarse en serio la llegada inminente de la inteligencia artificial general.
Veremos si esta huida hacia adelante, priorizando la chequera por encima de la precaución, le sale rentable a OpenAI o si acaban tropezando con su propia avaricia. La pelota está ahora en el tejado de los reguladores, porque queda bastante claro que la autorregulación corporativa es un simple espejismo.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
