Cuando juntas a la empresa de Mark Zuckerberg, una inteligencia artificial de crecimiento explosivo y el acceso a tus datos personales, el cóctel rara vez pasa desapercibido. Según unas recientes filtraciones, las peores pesadillas sobre la privacidad de los modelos de lenguaje están tomando forma en las propias oficinas de la compañía. Y el protagonista no es otro que Muse, el agente IA de Meta, que parece tener un serio problema manteniendo sus bases de datos separadas.
El asunto es bastante grave. Hablamos de cruce de conversaciones, saldos bancarios ajenos y accesos fantasma a aplicaciones de terceros que nadie había solicitado. Una auténtica locura.
Toda esta información sale a la luz gracias a un extenso reportaje de Reuters, construido directamente a partir de las publicaciones y quejas internas de los propios trabajadores de la matriz de Facebook e Instagram. Los empleados han dado la voz de alarma al notar que el agente empezaba a comportarse como una trituradora de contextos.

Y es que no estamos ante las típicas alucinaciones donde el LLM se inventa un dato histórico, sino ante fugas de información privada en toda regla. Durante las pruebas internas, la IA de Meta comenzó a mostrar a los ingenieros mensajes sobre solicitudes de cuidado infantil y consejos profesionales que ellos jamás habían tecleado en sus móviles.
También te puede interesar:Meta Muse y el Modelo Ava: la Superapp de IA para Controlar el OrdenadorSaldos bancarios y mensajes de Signal en la pantalla equivocada
Imagínate que estás probando un chatbot simplemente para preguntarle por el tiempo o la marea de tu ciudad. Así de simple. Pues bien, según los informes filtrados, un trabajador recibió en esa misma conversación una actualización sorpresa fuera de lugar: dos saldos bancarios de cuentas de Capital One por valor de 2.722,58 dólares y de Charles Schwab por 5.899,57 dólares. Evidentemente, ese dinero no era suyo, sino de otro usuario.
A ello se le suma un caso todavía más inquietante protagonizado por otra empleada que utilizaba a Muse directamente en su teléfono móvil personal. De buenas a primeras, la IA le lanzó un recordatorio automático para que respondiera a un mensaje que su hermana le había dejado en Signal.
Pero claro, aquí viene el verdadero problema técnico y de seguridad. Signal es una plataforma archiconocida por su estricto cifrado de extremo a extremo y su aislamiento. La trabajadora confirmó que en ningún momento había concedido a este agente de Meta los permisos del sistema operativo para leer sus notificaciones o husmear en otras apps.
Como era de esperar, la empleada calificó el suceso en los foros internos de la empresa como una vulneración extrema de la privacidad. Si un modelo de IA es capaz de saltarse las barreras de permisos de un móvil comercial para rastrear mensajes de terceros, el agujero de seguridad es colosal.
También te puede interesar:Meta Muse y el Modelo Ava: la Superapp de IA para Controlar el OrdenadorLa defensa de Meta: «Son solo versiones experimentales»
Desde las oficinas de Menlo Park han intentado apagar el incendio con una respuesta corporativa de manual. Un portavoz de Meta ha salido al paso afirmando que estas pruebas internas por parte de los empleados son esenciales para detectar fallos. Es lo que en el sector conocemos como dogfooding, comerse tu propia comida para ver si envenena.
Es decir, argumentan que el Muse que están utilizando los trabajadores es una versión radicalmente diferente a la que tiene el público. Aseguran que cuenta con funciones, comportamientos y privilegios de acceso al sistema que no están activos en la versión externa, y que el objetivo es cazar estos errores antes del despliegue masivo. Todo queda en casa, o eso nos quieren vender.
Sin embargo, desde un punto de vista puramente de arquitectura, que un modelo cruce los hilos de memoria y le asigne la información confidencial de un usuario a la pantalla de otro asusta bastante. Refleja un fallo grave en el aislamiento de las sesiones dentro del pipeline del sistema.

Si miramos los números, el tiempo corre en contra de los controles de calidad de la empresa. Muse se lanzó oficialmente el pasado mes de septiembre y su adopción inicial ha sido una barbaridad. La herramienta ya ha superado los 10 millones de descargas, situándose entre las aplicaciones con la curva de crecimiento más agresiva que hemos visto recientemente.
Básicamente, Meta está acelerando a fondo en la carrera por liderar el software de inteligencia artificial, intentando no quedarse rezagada frente a gigantes como OpenAI o Google. Han roto el mercado del open-source con Llama, pero el despliegue de sus agentes orientados al consumidor está siendo mucho más espinoso.
Tocará esperar para ver si estos fallos internos de cruce de datos se quedan realmente aislados en el laboratorio de pruebas, o si algún día nos despertamos con un escándalo de privacidad a escala global. La pelota está ahora mismo en el tejado de Mark Zuckerberg, pero cuando hablamos de Meta y de nuestros datos, la confianza siempre pende de un hilo muy fino.

Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.










