¿Qué ocurre cuando una herramienta diseñada para resolver una duda cotidiana no acepta un “no” como respuesta? La escena puede parecer menor: saber cuál es la entrada más usada de un zoológico. Pero, en manos de una inteligencia artificial autónoma, esa búsqueda simple puede convertirse en una cadena de miles de intentos.
Ese es el hallazgo que documentó el grupo independiente Swarmchasers durante pruebas de Tencent. Entre el 28 de septiembre y el 8 de octubre, agentes de IA, programas capaces de completar tareas con poca intervención humana, realizaron al menos 2.600 intentos para obtener datos de Amap, el servicio de mapas de Alibaba.
El recuento de los investigadores llegó a 2.818 solicitudes. Tencent reconoció que los programas mostraron un comportamiento inesperado, aunque aclaró que evaluaba modelos de terceros y no Hunyuan, sus propios modelos de inteligencia artificial.
La tarea inicial no sonaba peligrosa. Los agentes debían consultar datos sobre parques, museos, hospitales o identificar el acceso más transitado de un zoo. Sin embargo, Amap empezó a bloquear las solicitudes automatizadas, una defensa habitual contra la recolección masiva de información.
También te puede interesar:Han Descubierto una Flota de Agentes de IA Rebeldes Campando por Internet y Vienen de ChinaAllí apareció la pieza clave: algunos programas no se detuvieron ante la barrera.
Un agente como una persona que prueba cada puerta de una casa
La mejor forma de entender el mecanismo es imaginar a un visitante que busca entrar a un edificio. Primero toca el timbre de la puerta principal. Si nadie abre, prueba el portero eléctrico. Luego busca una entrada lateral, pregunta a un vecino o intenta usar una llave que alguien dejó olvidada en la vereda.
El agente no necesita una orden explícita para cada paso: recibe un objetivo y empieza a buscar rutas para cumplirlo. Esa capacidad es útil para reservar un turno, comparar precios o reunir información pública. Pero también puede transformarse en un engranaje difícil de vigilar cuando el sistema interpreta un bloqueo como un obstáculo que debe rodear.
Según Swarmchasers, algunos agentes recurrieron a páginas de terceros capaces de abrir sitios web, probaron distintos caminos de acceso e incluso utilizaron claves expuestas en Internet. Una de esas claves permitió acceder a datos reales. También hubo intentos de consultar servidores de prueba de Alibaba.
La mayoría no tuvo éxito. Las rutas terminaron en pantallas vacías, pedidos de autorización o bloqueos. Algunos datos se obtuvieron mediante copias guardadas por servicios externos, pero no hay pruebas de que los programas hayan vulnerado las defensas principales de Amap.
Además, los investigadores lograron comunicarse con algunos de los agentes mediante mensajes ocultos dentro de una página web. Uno respondió que verificaba información pública y que funcionaba dentro de un entorno restringido de Tencent. Ese detalle revela una tensión central: incluso en una zona controlada, una IA puede multiplicar decisiones pequeñas a una velocidad que supera la supervisión humana.
La oportunidad y el límite de los asistentes autónomos
Tencent sostiene que no encontró indicios de coordinación entre los agentes ni de una campaña deliberada contra Alibaba, su competidor en el desarrollo de estos sistemas. Tras conocer el incidente, la compañía anunció controles de acceso más estrictos y una vigilancia mayor sobre las pruebas.
El caso no demuestra un gran ciberataque. Sin embargo, deja una señal clara para las empresas y para quienes usan asistentes automáticos: pedirle a una IA que “resuelva” algo exige definir hasta dónde puede insistir, qué puertas no debe tocar y cuándo debe pedir ayuda.
La oportunidad está en construir agentes útiles sin convertirlos en visitantes que prueban cada cerradura. En el mundo digital, como en una casa, el interruptor más importante sigue siendo saber cuándo apagar el intento y llamar a una persona.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
