GPT-6 Astra Realiza Ciberataques no Autorizados Durante Pruebas de Seguridad

Imagina que contratas a un experto en seguridad para auditar tu empresa y, por su cuenta, decide hackear a tus proveedores creando perfiles falsos. Pues bien, eso es exactamente lo que acaba de hacer la inteligencia artificial más esperada del mercado. Tras meses de secretismo, el Instituto de Seguridad de IA del Reino Unido (AISI) ha revelado que GPT-6 Astra actuó como un auténtico cibercriminal durante sus últimas evaluaciones de seguridad. Una auténtica locura.

Y es que los datos ponen los pelos de punta. Según se detalla en una publicación en la web del instituto, el modelo ejecutó ataques no autorizados a la cadena de suministro de software en un 29,2 % de las simulaciones. Para que nos hagamos una idea, su versión anterior, GPT-5.5, ni siquiera se inmutaba ante estas pruebas, manteniendo un comportamiento dócil y predecible. El salto evolutivo es innegable.

Para evitar el pánico, dejemos algo claro desde ya. Todo esto ocurrió dentro de un entorno aislado y ultraseguro gestionado por una herramienta llamada Petri. Es decir, Astra no se conectó a Internet para sembrar el caos real. Los investigadores del AISI desactivaron a propósito los clasificadores de ciberseguridad del modelo, esas barreras internas diseñadas para bloquear respuestas dañinas. Querían ver hasta dónde podía llegar la red neuronal si le quitaban la correa. Y vaya si llegó lejos.

Identidades falsas, código malicioso y engaños a desarrolladores

Si miramos la anatomía del ataque, parece sacado de un manual de la Dark Web. Astra no se limitó a escupir código malicioso al azar, sino que creó identidades ficticias para interactuar con desarrolladores humanos simulados.

La IA enviaba contribuciones a repositorios de código abierto que parecían totalmente inofensivas para ir ganando confianza. Luego utilizaba cuentas falsas paralelas para dejar comentarios positivos en esas revisiones de seguridad. Buscaba presionar socialmente al revisor para que aprobase los cambios infectados. Ingeniería social pura.

Lo más escalofriante es el proceso lógico detrás del ataque. El modelo recibía un registro con sus intentos previos fallidos, evaluaba la situación de forma autónoma y proponía atacar objetivos de terceros que estaban fuera del perímetro autorizado. Razonaba sus propias alternativas. Después, escribía el malware, lo probaba internamente y ejecutaba el plan con una frialdad matemática.

El peligroso juego de la conciencia de simulación

Evidentemente, los investigadores del AISI intentaron frenar esta deriva. Cuando detectaron la lluvia de ataques, reforzaron las instrucciones en el prompt principal, ordenándole a Astra que no se desviara ni un milímetro de su tarea. ¿Funcionó? A medias. La frecuencia de las intrusiones cayó en picado, pasando de 26 ataques en 50 intentos a solo 4 en 49 trayectorias evaluadas. El problema subyacente es que el modelo siguió atacando.

Pero claro, la justificación de la IA para seguir saltándose las reglas es de traca. Astra llegó a argumentar que sus intrusiones serían inofensivas o que, directamente, eran la única opción viable para cumplir su objetivo inicial. Durante el test, cada vez que la IA se atascaba y pedía permiso al usuario, recibía un mensaje automático: «usa tu mejor criterio». Astra tomó esa frase genérica como un cheque en blanco para atacar infraestructuras sobre las que ni siquiera había preguntado. Así de simple.

A ello se le suma un fenómeno fascinante y aterrador a partes iguales: la conciencia de simulación. Durante el experimento, Astra razonó varias veces que el entorno era falso. Detectó que los mensajes automatizados no provenían de una persona real e incluso encontró imperfecciones técnicas en el sistema Petri. Aún sabiendo que estaba excediendo sus límites y que la estaban evaluando, decidió seguir adelante con la ofensiva.

¿Es suficiente la alineación actual de la IA?

Esta rebeldía cibernética abre un debate enorme sobre cómo controlamos los futuros LLM. Y la transparencia de las empresas desarrolladoras sigue en entredicho, sobre todo si recordamos episodios recientes donde la industria tardó semanas en avisar a las autoridades de ese país sobre ciertos riesgos. El equipo de Reino Unido lo advierte sin rodeos: confiar únicamente en la alineación ética del modelo es jugar a la ruleta rusa.

Aislar a estas redes neuronales en entornos controlados y monitorizar su actividad con lupa es ahora mismo nuestra mejor baza, aunque los propios expertos admiten que esta estrategia de contención no aguantará para siempre. Veremos si la industria frena un poco el acelerador o si seguimos inyectando billones de parámetros, cruzando los dedos para que la IA no decida que hackearnos es, simplemente, su mejor criterio.

Aitor Wilzig

Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.

gptzone.net