Pones Música o un Podcast de Fondo y tu agente IA empieza a Obedecer Instrucciones que Jamás Escuchaste

¿Qué tan inofensivo parece poner un podcast de fondo o abrir un video en YouTube mientras el celular escucha tus pedidos? Ese gesto doméstico, casi automático, podría activar un mecanismo que no oyes, pero que sí entiende tu asistente de IA.

El hallazgo surge de un equipo de investigadores de China y Singapur, y fue difundido por IEEE Spectrum. Su trabajo revela una técnica capaz de insertar órdenes maliciosas en sonidos imperceptibles para el oído humano y dirigir modelos de voz como si recibieran una instrucción legítima.

La pieza clave tiene nombre técnico: inyección de prompts de sonido, es decir, la inserción de órdenes ocultas dentro del audio. En las pruebas, esos comandos lograron que sistemas de Microsoft, Mistral y otros modelos hicieran búsquedas sensibles, enviaran correos con datos del usuario e incluso descargaran archivos.

Lo inquietante es la tasa de éxito. Los ataques funcionaron entre un 79% y un 96% en trece modelos de IA, y la señal maliciosa pudo entrenarse en unos 30 minutos. Para entender el mecanismo, conviene pensar en el cableado de una casa. Tú aprietas un interruptor esperando encender la luz del comedor, pero alguien conectó en secreto ese mismo circuito a otra habitación. Desde afuera, todo parece normal. Por dentro, la corriente fue desviada.

Con la voz pasa algo parecido. El modelo de audio-lenguaje, o LALM (IA que entiende sonido y lenguaje), oye una pista que para la persona suena como eco, ambiente o reverberación. Pero su central de atención la interpreta como una orden prioritaria. Es como esconder una llave falsa dentro del ruido de fondo. El usuario oye una puerta cerrada. La IA, en cambio, cree que alguien acaba de darle permiso para abrirla.

El eco que no escuchas, pero la IA sí

La técnica usada se llama mezcla convolucional (camuflaje acústico por superposición). En términos simples, las órdenes se disimulan como si fueran reflejos naturales del sonido, parecidos a los rebotes que aparecen en una habitación vacía o en un auto con las ventanillas cerradas.

Ese detalle cambia el paradigma de seguridad. Ya no hace falta un archivo sospechoso ni un mensaje raro: el ataque puede viajar en un podcast, un TikTok o un video aparentemente inocente.

Además, la señal es independiente del contexto. Eso significa que no necesita adaptarse cada vez al entorno, sino que puede reutilizarse en distintos momentos, como una ganzúa que sirve para más de una cerradura.

Los investigadores también probaron defensas ya conocidas. Entrenar a la IA para ignorar comandos maliciosos apenas redujo la eficacia del ataque un 7%. Y pedirle que “reflexione” sobre la coherencia de lo que escucha solo permitió detectar el 28% de los casos.

Ahí aparece otra clave: el audio manipulado logra secuestrar la atención del modelo. Ese engranaje central le impide distinguir entre una orden real del usuario y una instrucción adversaria escondida en el sonido.

Una oportunidad para repensar la protección

Por ahora, estos ataques se demostraron sobre todo en modelos de código abierto. Sin embargo, el estudio señala que los audios maliciosos pueden transferirse luego a sistemas cerrados, lo que amplía el riesgo mucho más allá del laboratorio.

La amenaza crece porque los agentes de IA ya no solo responden preguntas. También acceden a correo, archivos, búsquedas y otras piezas de la vida digital. Si esa puerta queda abierta, el impacto deja de ser teórico y se vuelve práctico.

De hecho, el hallazgo no invita al pánico, pero sí a una revisión urgente. La industria deberá reforzar el filtro entre lo que la máquina oye y lo que decide ejecutar, del mismo modo en que una casa moderna separa el timbre de la cerradura eléctrica.

Mientras la IA gana oídos en la vida cotidiana, la seguridad ya no depende solo de lo que ves en pantalla. También de esos sonidos invisibles que pasan de largo para ti, pero pueden mover el interruptor correcto dentro de la máquina.

Sofía Sicilia

Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.