Imagínate tener en plantilla a un asistente hiperactivo que, ante una duda delicada, no solo te responde con información falsa, sino que publica la respuesta a los cuatro vientos. Y la lía. Básicamente, esto es lo que acaba de ocurrir en las oficinas de Meta, donde un agente de inteligencia artificial ha provocado una brecha de seguridad interna digna de película.
Durante casi dos horas, empleados sin ningún tipo de autorización tuvieron vía libre para acceder a datos sensibles de la propia compañía y, lo que es mucho peor, de los usuarios. Una auténtica locura si tenemos en cuenta el nivel de auditoría que suelen tener estas empresas.
Tal y como ha destapado en exclusiva The Information, el fallo desencadenó una alerta clasificada como incidente «SEV1». Para que te hagas una idea de la magnitud del desastre, este es el segundo nivel de mayor gravedad dentro de la escala de emergencias de la empresa matriz de Facebook e Instagram. Cuando salta un SEV1, los ingenieros dejan lo que están haciendo para apagar el incendio.
Un foro interno, una IA «charlatana» y un desastre en cadena
El origen de este caos es más terrenal de lo que parece. Todo empezó cuando un desarrollador de Meta decidió usar un agente de IA interno, muy similar al modelo OpenClaw, dentro de un entorno de programación que teóricamente era cien por cien seguro. Solo quería resolver una simple duda técnica de código.
También te puede interesar:Meta fue sorprendida manipulando benchmarks de IAPero claro, la tecnología autónoma a veces tiene vida propia y peca de exceso de iniciativa. En lugar de generar una respuesta privada y directa para los ojos del desarrollador, el agente decidió publicar su análisis de forma totalmente autónoma en un foro interno de la empresa. Sin pedir permiso ni confirmación a nadie.
A ello se le suma el factor humano, que rara vez falla a la hora de complicar las cosas. Otro empleado navegaba por el foro, vio la publicación, confió ciegamente en el consejo del bot y lo aplicó en los sistemas. El pequeño detalle es que la información técnica proporcionada por el agente era completamente incorrecta.
Evidentemente, esta acción en cadena, basada en una alucinación técnica, abrió de par en par las puertas de los datos corporativos. Por suerte, desde Meta han salido rápidamente al paso asegurando que no se produjo ningún mal uso de la información confidencial de los usuarios durante el lapso de exposición. Lo parchearon a tiempo.
El escudo corporativo: la culpa es del empleado
Si miramos los registros técnicos del incidente, la IA en realidad no ejecutó ninguna acción directa sobre los servidores de Meta. Ni rompió cortafuegos, ni hackeó bases de datos. Se limitó a generar texto y publicarlo donde no debía. Fueron las manos de un empleado de carne y hueso las que, siguiendo ese manual erróneo, abrieron la brecha.
También te puede interesar:Meta fue sorprendida manipulando benchmarks de IAPor eso, la compañía defiende a capa y espada que el incidente podría haberse evitado fácilmente con unas comprobaciones básicas. El empleado que aplicó los cambios sabía perfectamente que estaba interactuando con un bot automatizado. De hecho, había un aviso gigante indicándolo en el propio hilo de respuestas del foro.
Es decir, la máquina mintió con mucha seguridad, pero el humano pecó de pereza y no contrastó la fuente. Una combinación letal que ilustra el peligroso exceso de confianza que tenemos hoy en día frente a las pantallas.
Llueve sobre mojado con la autonomía en Menlo Park
Lo más preocupante de toda esta historia es que no es el primer tropiezo sonado de Meta con la inteligencia artificial autónoma. Hace muy poco, se filtró otro caso interno donde una herramienta también basada en la arquitectura OpenClaw empezó a eliminar correos electrónicos de los buzones de los empleados sin ningún tipo de autorización previa.
La justificación que dieron en aquel momento fue calcada a la actual: el agente interpretó incorrectamente una instrucción lingüística. Le pides que ordene una carpeta y acaba vaciando la bandeja de entrada entera. Un clásico de los Large Language Models (LLM) que aún no dominan el contexto del mundo real.
Y es que los agentes de IA han sido diseñados precisamente para esto, para tomar decisiones por su cuenta, encadenar tareas y quitarnos carga de trabajo bruta. Prometen disparar la productividad en los entornos corporativos, pero siguen siendo tremendamente propensos a interpretar mal el prompt inicial.
La pelota está ahora en el tejado de las grandes tecnológicas, que pisan el acelerador a fondo. Deberán decidir si este aumento de eficiencia por software compensa el riesgo de tener a un bot publicando secretos en foros internos. Tocará esperar para ver si este susto cambia los protocolos de seguridad de Mark Zuckerberg o si, por el contrario, simplemente lo asumen como daños colaterales en la carrera de la IA.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
