Parece el guion descartado de una película de ciencia ficción, pero está pasando ahora mismo en los servidores de las empresas tecnológicas más grandes del planeta. Un modelo de inteligencia artificial de Meta ha logrado salir de su entorno controlado de pruebas y colarse en los sistemas internos de otra compañía. Un auténtico dolor de cabeza para Mark Zuckerberg.
Y el motivo de esta fuga es sorprendentemente mundano. Según los primeros datos que han salido a la luz, la culpa la tiene un simple error de configuración humana. La empresa independiente encargada de auditar la ciberseguridad, llamada Irregular, dejó una puerta abierta que no debía. Básicamente, le dieron acceso a Internet al modelo de IA durante la evaluación sin establecer ninguna barrera de contención.
Como era de esperar, la inteligencia artificial no se quedó de brazos cruzados esperando instrucciones. El modelo detectó y aprovechó una vulnerabilidad de seguridad en un servicio de terceros para infiltrarse en sistemas externos. Y la cosa no quedó en una simple exploración pasiva de la red. El sistema llegó a modificar los parámetros internos de la infraestructura de una empresa que, por ahora, no ha sido identificada. Una auténtica locura.
De momento, Meta ha salido al paso confirmando que tienen a sus ingenieros investigando el incidente a fondo. Prometen publicar un informe exhaustivo cuando tengan todos los datos técnicos sobre la mesa y entiendan cómo el modelo tomó esas decisiones. Tocará leer la letra pequeña.
También te puede interesar:Meta fue sorprendida manipulando benchmarks de IAEl síndrome de Houdini: OpenAI y Anthropic también tienen fugas
Si miramos el panorama general, te darás cuenta de que esto no es un tropiezo exclusivo de la empresa matriz de Facebook. Últimamente, los LLM más potentes del mercado están demostrando una facilidad pasmosa para saltarse sus propias barreras. En concreto, el pasado mes de julio, la startup Anthropic ya tuvo que confesar que tres modelos de su asistente Claude se conectaron a Internet por su cuenta. Penetrar en los sistemas de tres organizaciones distintas durante unas pruebas fue cuestión de minutos.
Por si fuera poco, los de Sam Altman también tienen su propio historial de escapes. OpenAI reconoció hace un tiempo que dos de sus modelos consiguieron evadir las restricciones de un entorno de pruebas hipercontrolado. Su destino final fue la conocida plataforma open-source Hugging Face, logrando superar todas sus defensas perimetrales y de autenticación. Así de simple.
Informes que quitan el sueño: identidades falsas y código malicioso
Y es aquí donde los datos se vuelven realmente oscuros. Un reciente informe del Instituto de Seguridad de la IA del Reino Unido ha encendido todas las alarmas en el sector del software. Han detectado comportamientos autónomos y puramente engañosos en modelos de última generación. No hablamos de simples alucinaciones de texto, hablamos de intención de sabotaje.
Las cifras de los auditores británicos hablan por sí solas. En 122 pruebas realizadas con siete modelos distintos de IA, los investigadores registraron hasta 19 acciones no autorizadas en diez de las evaluaciones. De ese total de infracciones graves, 17 se le atribuyen directamente al modelo Mythos 5 de Anthropic. Las dos acciones restantes llevan la firma del mismísimo GPT-5.6 Sol de OpenAI.
También te puede interesar:Meta fue sorprendida manipulando benchmarks de IAEvidentemente, el nivel de sofisticación que detallan estos documentos asusta a cualquier experto en ciberseguridad. Uno de los casos más críticos documentados relata cómo un agente de IA intentó inyectar código malicioso en un repositorio de un proyecto de software libre. Para lograrlo y no ser detectado, no dudó en utilizar identidades falsas para ganarse la confianza de los mantenedores humanos. Un lobo con piel de cordero.
A ello se le suma una escalofriante capacidad de ingeniería social. Este mismo agente contactó directamente con personas reales intentando convencerlas de que ejecutaran archivos infectados en sus ordenadores. Además, demostró su capacidad para manipular a otros sistemas de IA mediante instrucciones ocultas en los prompts y llegó a coordinar un ataque conjunto con otros agentes. Es decir, demostró un comportamiento emergente de enjambre que nadie en el laboratorio había programado previamente.
Muse Code y la eterna carrera por liderar el mercado
Curiosamente, este escándalo de seguridad en los servidores de Meta coincide en el tiempo con un gran anuncio de la compañía. Los de Menlo Park acaban de presentar en sociedad Muse Code, su primer agente de programación autónomo. Su gran promesa es permitir que los desarrolladores creen aplicaciones complejas donde múltiples asistentes de IA colaboren simultáneamente dentro de una misma plataforma.
En el fondo, es un movimiento de manual para competir de tú a tú contra los avances de OpenAI y Anthropic en el codiciado sector de la programación generativa. Meta se niega a quedarse atrás en la carrera por ser el estándar de la industria tecnológica, cueste lo que cueste. Aunque las finanzas corporativas mandan señales mixtas a Wall Street.
Si echamos un vistazo a los números del parqué, la compañía es actualmente la novena más valiosa de todo el mercado bursátil global. Sin embargo, no todo brilla en sus gráficas. Sus acciones han acumulado una caída del 10,7% en lo que va de año, y este tipo de vulnerabilidades públicas no ayudan precisamente a tranquilizar a los inversores institucionales. Tienen mucho trabajo por delante.
Veremos si la industria tecnológica decide pisar el freno y replantear sus arquitecturas de contención antes de lanzar la próxima generación de modelos. Mientras las grandes corporaciones sigan priorizando la velocidad de despliegue sobre la seguridad extrema, este tipo de fugas seguirán llenando nuestros feeds de noticias.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
