OpenAI Presenta GPT-Red, un Modelo Interno para Mejorar la Seguridad de la IA con Red Teaming

¿Te imaginas una Inteligencia artificial diseñada única y exclusivamente para destrozar a otras inteligencias artificiales? Pues deja de imaginarlo, porque ya es una realidad tangible. OpenAI acaba de sacar a la luz GPT-Red, un modelo interno con el único propósito de hackear, engañar y exprimir las vulnerabilidades de sus propios sistemas antes de lanzarlos al mercado. Y créeme, los resultados asustan y tranquilizan a partes iguales. Una auténtica locura.

Básicamente, estamos hablando del modelo automatizado de red teaming (equipos de seguridad ofensiva) más potente que hemos visto hasta la fecha. Su objetivo principal son los famosísimos ataques de inyección de prompts. Ya sabes, esas instrucciones maliciosas que un atacante oculta hábilmente en un simple correo electrónico, en el código de una web o en la salida de una herramienta para volver loco al sistema. Un dolor de cabeza constante para la industria.

El motivo es simple: los humanos somos demasiado lentos frente a la escala de las nuevas IAs. Para entrenar a esta bestia, OpenAI ha quemado una cantidad absurda de capacidad de cómputo, equiparable a sus mayores procesos de postentrenamiento. Han tirado de aprendizaje por refuerzo con autojuego. Es decir, meten a GPT-Red y a los modelos defensores en un ring virtual donde ambos evolucionan y aprenden a base de golpes.

Por un lado, GPT-Red recibe premios cada vez que logra romper el sistema y colar un fallo válido. Por otro, la IA defensora es recompensada solo si resiste el embate y hace su trabajo sin desviarse. Como era de esperar, a medida que los escudos mejoran, el atacante se inventa métodos mucho más retorcidos e indetectables. Es una carrera armamentística en toda regla.

De hackear máquinas expendedoras a robar datos

Si miramos los números en frío, la paliza al cerebro humano es monumental. En pruebas con escenarios que el modelo jamás había visto previamente, GPT-Red logró vulnerar a GPT-5.1 en el 84 % de los casos. Para que te hagas una idea de la humillación, un equipo de expertos humanos en ciberseguridad apenas logró un mísero 13 % de éxito en las mismas condiciones. El modelo ni se inmutó.

A ello se le suma su asombrosa capacidad para infiltrarse en sistemas reales basados en agentes. Y aquí viene mi parte favorita del experimento. Lograron que la IA manipulara una máquina expendedora real para bajar los precios a su antojo, comprar los productos más caros a precio de saldo e incluso cancelar los pedidos de otros usuarios. De película.

En concreto, también pusieron a prueba a un agente Codex CLI basado en GPT-5.4 mini. ¿El resultado? GPT-Red consiguió que filtrara datos sensibles en múltiples entornos personalizados. Literalmente, ha conseguido destrozar prácticamente todos los modelos evaluados hasta llegar a GPT-5.5. Así de simple.

El escudo definitivo: GPT-5.6 Sol y el desplome de los fallos

Pero claro, toda esta masacre virtual tiene un fin noble. OpenAI no ha creado este Frankenstein digital para sembrar el caos, sino para vacunar a su ecosistema. Desde la versión GPT-5.3, la compañía inyecta sistemáticamente todos estos ciberataques generados por GPT-Red directamente en el entrenamiento de sus modelos de producción.

El impacto de esta terapia de choque es brutal en su última versión. GPT-5.6 Sol ha logrado reducir seis veces los fallos en el benchmark más salvaje de inyección directa de prompts, si lo comparamos con el modelo que lideraba hace apenas cuatro meses. La tasa de fallo frente a un ataque frontal se ha desplomado hasta un ridículo 0,05 %.

Por si fuera poco, han aplastado vulnerabilidades críticas como los ataques de «Fake Chain-of-Thought» (falsa cadena de pensamiento). Una versión anterior de GPT-Red reventaba a GPT-5.1 con un éxito de más del 95 %. Ahora, esa misma táctica choca contra un muro y cae por debajo del 10 % en GPT-5.6 Sol. Y lo mejor es que aseguran que este blindaje extremo no ha hecho que la IA se vuelva más torpe o miedosa al responder peticiones legítimas.

¿Por qué nunca podrás jugar con GPT-Red?

Evidentemente, un arma de este calibre no puede estar al alcance de cualquiera. La letra pequeña es que GPT-Red jamás será público y nunca lo verás asomar por ChatGPT o por sus APIs comerciales. Como se explica en la publicación de la fuente original, es un sistema entrenado de forma deliberada con unas capacidades maliciosas altísimas. Soltarlo en código abierto sería un regalo envenenado para los ciberdelincuentes.

La estrategia pasa por seguir iterándolo a puerta cerrada. Lo combinarán con auditorías de terceros, defensas por capas y una monitorización exhaustiva en tiempo real. La seguridad en la era de la IA generativa ya no va de poner simples cortafuegos, sino de crear monstruos controlados que nos enseñen por dónde nos van a atacar. Veremos cuánto tarda el resto de la industria en fabricar a sus propios depredadores digitales.

Aitor Wilzig

Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.

gptzone.net