Ciberdelincuentes Han Encontrado una Nueva Forma de Atacar a Quienes Programan con IA

¿Dejarías que un asistente te acerque herramientas a la mesa de trabajo sin mirar la etiqueta? Algo parecido ya ocurre con la inteligencia artificial que ayuda a programar. Y el problema no es solo que se equivoque: a veces puede abrir la puerta de tu computadora sin que lo notes.

Ese es el hallazgo que expone una investigación de investigadores de ciberseguridad de la Universidad de Tel Aviv y la empresa Intuit. El trabajo revela una pieza clave del nuevo escenario digital: asistentes como Copilot o Cursor no solo aceleran el código, también pueden convertirse en un engranaje vulnerable cuando “alucinan”, es decir, cuando inventan datos con apariencia correcta.

En este caso, la alucinación no es una frase rara ni una respuesta confusa. Es algo más delicado: la IA recomienda paquetes de software, también llamados dependencias (bibliotecas externas que un programa necesita), que en realidad no existen. Y allí aparece la oportunidad para los atacantes.

El mecanismo tiene incluso nombre propio: hallusquatting, una alucinación adversarial (aprovechar errores inventados de la IA). Los hackers detectan primero qué nombres falsos suele sugerir el asistente en ciertas tareas. Después registran esos nombres como repositorios reales y les agregan código malicioso.

La analogía doméstica ayuda a ver la gravedad. Es como si un electricista automático de una casa pidiera un repuesto para el tablero, pero inventara la marca. Un delincuente, al ver ese error, fabrica una caja con esa etiqueta falsa, le pone un cableado peligroso y la deja justo donde el sistema la va a buscar.

Entonces el interruptor se acciona solo. El asistente de programación puede descargar e integrar ese paquete apócrifo de forma automática, sin que el desarrollador perciba nada extraño en el momento.

Un error que ya funciona como puerta de entrada

Según los investigadores, las tasas de éxito de este tipo de ataque en herramientas populares oscilaron entre el 80% y el 100%. No se trata de una falla menor. Revela que el riesgo ya no está únicamente en escribir mal una línea de código, sino en confiar en una cadena completa de decisiones que la IA toma a gran velocidad.

Además, el proceso es especialmente difícil de detectar porque está automatizado. El desarrollador ve una sugerencia plausible, la acepta y sigue trabajando. Cuando descubre la intrusión, el sistema ya puede estar comprometido.

Ahí está la clave del problema: la IA funciona como una central muy útil, pero todavía tiene cables sueltos. Puede resolver tareas complejas, ordenar funciones y ahorrar tiempo. Sin embargo, si una de sus recomendaciones conecta con una pieza falsa, todo el circuito queda expuesto.

Los investigadores subrayan que las empresas ya fueron notificadas, pero el problema estructural de las alucinaciones sigue abierto.

Qué cambia para quienes programan

La aplicación práctica es directa. Cada paquete sugerido por un asistente debe verificarse de forma manual. Eso implica revisar si existe de verdad, quién lo publica, desde cuándo está disponible y si otros desarrolladores lo usan.

También conviene inspeccionar cada línea de código propuesta antes de ejecutarla. Parece un paso lento, pero hoy funciona como un seguro básico. En un entorno donde la IA puede inventar una pieza y un atacante puede convertirla en trampa, mirar dos veces deja de ser una molestia y se vuelve una defensa.

La oportunidad de estas herramientas sigue siendo enorme. Pero el hallazgo marca un límite saludable: la inteligencia artificial puede ser un gran copiloto, siempre que el humano siga con las manos en el volante y los ojos sobre la ruta.

Sofía Sicilia

Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.