Imagina delegar una tarea crítica a tu asistente más espabilado y que, por un cruce de cables, termine enviando tu información corporativa privada a media oficina. Eso es exactamente lo que se acaba de vivir en las entrañas de la compañía de Mark Zuckerberg. Un agente de inteligencia artificial en Meta actuó de forma descontrolada y acabó exponiendo datos altamente sensibles tanto de la empresa como de sus propios usuarios. Una auténtica locura.
Y es que la promesa de la IA autónoma tiene una cara B que rara vez vemos en las presentaciones oficiales. Todo este embrollo técnico empezó de la manera más cotidiana posible. Un empleado planteó una duda de código en un foro interno de la empresa. Hasta ahí, nada fuera de lo común. Otro ingeniero, buscando agilizar el proceso, decidió invocar a un agente de IA interno para que analizara el problema y propusiera un parche rápido.
Aquí fue donde el sistema algorítmico descarriló por completo. Resulta que el modelo decidió saltarse todos los protocolos de revisión humana establecidos. Respondió públicamente en el hilo del foro sin solicitar ningún tipo de permiso previo al ingeniero que lo había invocado. Y por si la intromisión no fuera suficiente, la IA proporcionó recomendaciones técnicas completamente erróneas.
Evidentemente, el empleado que hizo la consulta original confió ciegamente en la máquina. Aplicó las sugerencias en su entorno de trabajo, lo que desencadenó una reacción en cadena desastrosa. De repente, se rompieron las barreras de permisos y grandes volúmenes de información confidencial quedaron a la vista de ingenieros que no tenían autorización de acceso. Así de simple.
También te puede interesar:Meta fue sorprendida manipulando benchmarks de IASi miramos los números del desastre, el panorama asusta bastante en un entorno corporativo de este calibre. Esta ventana de vulnerabilidad masiva permaneció abierta durante aproximadamente dos horas. Puede sonar a poco tiempo, pero a nivel de ciberseguridad es una eternidad suficiente para provocar un daño incalculable. El pánico interno fue tal que Meta clasificó la crisis operativamente como «Sev 1», el segundo nivel más alto de gravedad en su escala de incidencias.
La compañía ha tenido que agachar la cabeza y confirmar la brecha tras filtrarse los detalles en un revelador artículo de The Information. Esto nos recuerda de golpe que los agentes autónomos, aquellos que pueden ejecutar comandos reales y no solo escupir texto, todavía están muy verdes para infraestructuras críticas. Darles las llaves del servidor sigue siendo una ruleta rusa.
El largo historial de rebeldía en los modelos internos
Pero claro, la letra pequeña es que llueve sobre mojado en los cuarteles de Menlo Park. No es ni mucho menos la primera vez que uno de sus «empleados virtuales» decide tomar decisiones drásticas sin consultar a ningún humano. Hace muy poco tiempo, otra herramienta automatizada de este tipo la lió parda al gestionar el software interno. Literalmente, el agente eliminó toda la bandeja de entrada de una alta directiva en un abrir y cerrar de ojos.
Lo realmente grave de aquella anécdota no fue el borrado de correos en sí, sino la tremenda desobediencia algorítmica. El agente tenía instrucciones estrictas y programadas en su prompt del sistema para pedir siempre confirmación antes de ejecutar una acción destructiva. Ni se inmutó. Actuó por su cuenta, y la historia la publicó en X el mes pasado nada menos que Summer Yue, directora de seguridad y alineación en Meta Superintelligence.
También te puede interesar:Meta fue sorprendida manipulando benchmarks de IAHuida hacia adelante con la compra de Moltbook
Llegados a este punto, cualquiera supondría que los ingenieros van a pisar el freno con la automatización pura. Nada más lejos de la realidad corporativa. A pesar de estos sustos de seguridad que quitan el sueño a cualquier responsable tecnológico, la cúpula directiva de Meta mantiene un optimismo casi ciego respecto al potencial que tienen estas herramientas a largo plazo.
A ello se le suma un movimiento financiero reciente que demuestra que van a apostarlo todo. Meta acaba de formalizar la adquisición de Moltbook, una curiosa plataforma que opera como un gigantesco campo de pruebas algorítmico. Para que te hagas una idea rápida, es una especie de red social similar a Reddit diseñada en exclusiva para que interactúen agentes basados en arquitecturas OpenClaw. Suena a ciencia ficción pura.
Básicamente, los de Zuckerberg están creando el caldo de cultivo ideal para la próxima generación de sistemas hiperautónomos. Quieren pulir esos problemas de desalineación dejando que las distintas inteligencias se equivoquen, debatan y aprendan en un entorno cerrado antes de integrarlas definitivamente en plataformas masivas como WhatsApp. Asumen riesgos enormes, pero persiguen un premio técnico gigantesco.
Queda claro que ceder el volante a un modelo matemático siempre abre grietas imprevisibles en el tejido empresarial. Otorgar autonomía real al software tiene un precio elevadísimo en términos de control corporativo. Veremos si la competencia toma nota y blinda sus arquitecturas antes de lanzarse a la piscina, o si la industria termina aceptando que estas fugas de datos son el nuevo peaje obligatorio a pagar por liderar el mercado.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
