¿Qué ocurre cuando una conversación con inteligencia artificial parece cerrada, protegida y olvidada? Un nuevo hallazgo muestra que, durante unos días, algunas piezas de ese intercambio podían comportarse como una llave que abría otra puerta dentro del mismo sistema.
La investigación alcanzó a los modelos de razonamiento de Anthropic, Google y OpenAI. El equipo dirigido por Alexander Panfilov identificó una vulnerabilidad vinculada al uso aparente de una clave de cifrado global, es decir, una misma llave digital para familias enteras de modelos de cada proveedor.
El trabajo, titulado Stealing Reasoning Traces from Proprietary LLM APIs, fue realizado junto a científicos de Mats Research, el Instituto Ellis de Tubinga y la Universidad de Tubinga, en Alemania. Revela que los algoritmos de cifrado funcionaban correctamente: el problema estaba en el cableado que los rodeaba.
Los autores advierten que la explotación no estaba al alcance de cualquier persona, por sus limitaciones técnicas.
También te puede interesar:Qué Sabemos del Chatbot Educativo del Gobierno que Llega Tras la LOMLOELa pieza clave eran los bloques de razonamiento cifrados, fragmentos que guardan parte del proceso interno con el que un modelo llega a una respuesta. Estas arquitecturas permiten mantener diálogos largos sin conservar todo ese recorrido en los servidores de las compañías.
El “oráculo de descifrado” y la llave compartida
La analogía doméstica ayuda a entender el mecanismo. Imaginar una urbanización donde cada casa tiene una caja fuerte, pero todas usan la misma llave maestra. La caja puede ser resistente, pero si una vivienda vecina abre esa llave con menos controles, la protección deja de depender de la caja original.
El atacante no rompía el candado: llevaba la caja cerrada a otra puerta de la misma urbanización. En este caso, podía introducir un bloque creado por un modelo más potente en otro modelo de la familia, más pequeño o menos protegido, e inducirlo a revelar el contenido.
Los investigadores llamaron a este mecanismo “oráculo de descifrado”. Es una herramienta que responde una pregunta secreta sin que quien consulta tenga que resolverla por sí mismo. El modelo alternativo hacía el trabajo de abrir la información cifrada.
También te puede interesar:Qué Sabemos del Chatbot Educativo del Gobierno que Llega Tras la LOMLOEAdemás, el estudio detectó una asimetría de seguridad. Un sistema central puede tener barreras sofisticadas, mientras que un engranaje secundario de la misma familia conserva capacidad para procesar y exponer lo que el modelo principal debía mantener oculto.
El equipo describió cuatro vías de explotación. En la más destacada, revisó más de 315.000 bloques de razonamiento encontrados en repositorios públicos y logró descifrar 367 elementos de información personal identificable.
- 182 credenciales de acceso.
- 62 claves de API, códigos que permiten usar servicios digitales.
- 33 contraseñas y 30 direcciones de correo electrónico personales.
Otra técnica incorporaba instrucciones invisibles dentro de un bloque cifrado. Luego, otro modelo podía interpretarlas como si fueran parte de su propio razonamiento previo. Esa posibilidad convierte un fragmento aparentemente cerrado en un posible vehículo para transportar código malicioso.
El hallazgo también permitió recuperar razonamientos propietarios e información que los modelos habían ocultado. No se trataba solo de datos de usuarios: el mecanismo podía exponer parte de la receta interna de las propias plataformas.
Las nuevas capas de seguridad
Tras las pruebas, los investigadores avisaron a Anthropic, Google y OpenAI. Las tres compañías añadieron capas de seguridad, por lo que los ataques descritos ya no pueden reproducirse en las condiciones observadas por el equipo.
La oportunidad de mejora, según el documento, pasa por guardar el razonamiento en el servidor y vincular cada bloque a su contexto específico. Así, una pieza creada para una conversación no podría reutilizarse en otra sesión, usuario o modelo.
La lección es clara: cifrar información sigue siendo esencial, pero una llave fuerte necesita también puertas bien separadas. En la casa digital, la seguridad depende tanto del candado como de quién puede acercarse a él.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
