OpenAI Advierte que Astra Podría Alcanzar Umbral Crítico en Ciberseguridad

Normalmente, cuando una empresa tecnológica crea algo muy potente, organiza un evento multitudinario para sacar pecho y vender humo. OpenAI ha decidido hacer exactamente lo contrario.

Tras meses de absoluto secretismo y rumores en los foros de desarrolladores, la compañía de Sam Altman acaba de admitir que su próximo modelo, conocido internamente como Astra, podría haberse pasado de la raya. Y no hablamos de generar vídeos realistas o escribir código limpio en Python.

Hablamos de ciberseguridad a un nivel que asusta bastante. Una auténtica barbaridad.

El fantasma del nivel «Crítico» y los ataques autónomos

Para entender la magnitud del revuelo, hay que mirar el famoso Preparedness Framework que la empresa lanzó en 2023. Básicamente, es una especie de termómetro de riesgos interno que mide si una IA puede ayudar a crear armas biológicas, químicas o hackear sistemas informáticos complejos.

Si echamos la vista atrás, modelos anteriores como el reciente GPT-5.6-Sol se quedaron en un nivel de riesgo catalogado como «Alto» en ciberseguridad. Un umbral manejable y esperado.

El problema es que las recientes evaluaciones internas preliminares de Astra han hecho saltar todas las alarmas. Los ingenieros han detectado mejoras brutales en la programación autónoma y en las capacidades ofensivas del modelo.

De hecho, los de Altman afirman que ya no pueden descartar que Astra haya alcanzado el temido umbral de capacidad crítica. No es una confirmación absoluta al cien por cien, pero los números asustan lo suficiente como para frenar en seco.

Es decir, el modelo podría ser capaz de descubrir y desarrollar exploits zero-day funcionales en sistemas reales sin que ningún humano intervenga. Para que nos entendamos: encontrar puertas traseras en software súper protegido que ni los propios creadores saben que existen.

Incluso contempla la barbaridad de ejecutar ciberataques completos y totalmente novedosos partiendo de una orden general, como «infíltrate en esa base de datos». Sin guías. Sin prompts kilométricos.

Cuarentena digital: así intentan atar en corto a la IA

Como era lógico pensar, este nivel de autonomía ofensiva ha obligado a OpenAI a pisar el freno de emergencia. La compañía ha pausado de forma fulminante cualquier trabajo interno con Astra que no cumpla a rajatabla con los nuevos requisitos de control.

En la práctica, el desarrollo y las pruebas de este monstruo algorítmico se están realizando ahora mismo en entornos sandbox totalmente aislados. Tienen el acceso capado a redes externas y a herramientas de programación habituales para evitar cualquier fuga de código.

A ello se le suma una capa de paranoia técnica totalmente justificada. Han reforzado la protección y el cifrado de los pesos del modelo, implementando medidas que parecen sacadas de una película de espías.

Y por si alguien en Twitter estaba atando cabos sueltos, no, Astra no tuvo absolutamente nada que ver con la reciente y sonada explotación del portal Hugging Face. OpenAI lo ha dejado clarísimo para cortar los rumores de raíz. Menos mal.

Leyendo la «mente» de la máquina

Pero claro, aislar a una Inteligencia Artificial no sirve de nada si no comprendes qué está procesando internamente. Por eso, han introducido un sistema de monitorización universal diseñado para detectar acciones de riesgo y desalineaciones en los usos agentivos del modelo.

Lo realmente fascinante aquí es el método: estos sistemas analizan en tiempo real la cadena de pensamiento de Astra. Si detectan que la IA está planeando algo peligroso, activan respuestas de seguridad inmediatas que revisan o interrumpen de golpe las actividades de alto riesgo.

Te cortan el cable. Así de simple y contundente.

El doble filo: entre la amenaza y el escudo definitivo

Evidentemente, en su comunicado oficial sobre estas nuevas fronteras de ciberseguridad, OpenAI no pinta esto únicamente como un escenario apocalíptico incontrolable.

La postura corporativa es que estamos ante un problema urgente, sí, pero también ante una oportunidad defensiva sin precedentes. El argumento es que un modelo con estas brutales capacidades cibernéticas debe usarse para ayudar a los equipos de defensa humanos.

Básicamente, el objetivo es que la propia IA encuentre, analice y parchee vulnerabilidades críticas en infraestructuras clave antes de que un grupo de hackers rusos o norcoreanos las explote. Un perro guardián inagotable.

Para lograr que esto funcione sin contratiempos, ya planean colaborar estrechamente con agencias gubernamentales y organizaciones de seguridad de todo el mundo. El plan es testear el sistema a fondo y proporcionar recomendaciones de control muy específicas a los socios externos que manejen cargas de trabajo peligrosas.

De momento, Astra sigue sin tener fecha de lanzamiento y su llegada a nuestros ordenadores es un misterio. Quizás estemos ante un exceso de precaución genuino por parte de la empresa, o quizás sea una magistral campaña de marketing para hacernos creer que rozan la singularidad tecnológica.

Sea como sea, el salto en capacidades autónomas es innegable y cambia las reglas del desarrollo de software. Tocará esperar para ver si los gobiernos imponen nuevos límites o si la carrera por la IA total se vuelve aún más temeraria.

Aitor Wilzig

Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.

gptzone.net