Una investigación de Wired, basada en análisis de AI Forensics e Infoblox, identificó más de 400 aplicaciones y dominios web vinculados con deepfakes sexuales, imágenes o videos falsos creados con inteligencia artificial. Muchas se presentaban como editores de fotos, entrenadores de fitness o generadores de retratos artísticos.
El hallazgo revela una pieza clave del engaño: durante la revisión de Google Play o la App Store, el software mostraba una interfaz inocente. Solo después de instalarse, algunas apps cambiaban su comportamiento y activaban herramientas destinadas a crear contenido íntimo no consentido.
No era un error aislado, sino un mecanismo preparado para pasar desapercibido.
Una casa con una habitación que aparece después
La estrategia puede entenderse como una casa que un inspector visita cuando todavía tiene todas sus puertas cerradas. La cocina funciona, las luces encienden y no hay nada extraño a la vista. Pero, cuando el visitante se va, el dueño recibe una llave a distancia y habilita una habitación que antes no existía.
También te puede interesar:Google Prepara para la NASA un Robot Médico que Podría Salvar Vidas en el EspacioEn este caso, esa llave era la conexión con servidores externos. Tras la descarga, la aplicación podía obtener código remoto, instrucciones nuevas que llegan desde internet, y encender funciones que no estaban disponibles durante la validación inicial.
La app aprobada era solo la fachada; el servidor externo funcionaba como el interruptor que cambiaba su verdadera utilidad.
Además, los operadores usaban parámetros de control remoto, datos que deciden qué versión de la app verá cada persona. Mediante el seguimiento del tráfico y de la publicidad, el sistema elegía entre mantener la herramienta ordinaria o mostrar una interfaz explícita.
Así, dos usuarios podían instalar el mismo programa y encontrarse con productos distintos. Es un engranaje difícil de detectar porque la conducta problemática no necesariamente aparece en cada teléfono ni al mismo tiempo.
También te puede interesar:Google Prepara para la NASA un Robot Médico que Podría Salvar Vidas en el EspacioEl crecimiento de una red difícil de vigilar
Según las investigaciones, la red se expandió con rapidez hacia finales del año anterior. Llegó a sumar hasta 30 combinaciones nuevas de aplicaciones y sitios web por semana, una velocidad que complica la tarea de moderación de las plataformas.
En septiembre, se detectaron docenas de estas aplicaciones activas en Google Play, con cientos de miles de descargas acumuladas. DiffAI, una de las herramientas señaladas, superó los 100.000 usuarios.
La promoción también fue central. La red utilizó campañas publicitarias en Meta para atraer tráfico hacia las aplicaciones y sus páginas web. Meta bloqueó miles de cuentas publicitarias, páginas empresariales y dominios sospechosos, incluidos los asociados con KeLing Technology Limited.
Por su parte, Apple retiró cerca de 20 aplicaciones relacionadas y actualizó sus normas para prohibir contenido íntimo no consentido generado por IA. Google eliminó una amplia mayoría de los accesos en Play Store antes de que terminara la investigación.
La oportunidad ahora está en no tratar la aprobación de una app como un sello permanente. Las tiendas necesitan vigilar a los desarrolladores después de publicar sus productos y limitar, cuando sea posible, los cambios remotos que alteran sus funciones centrales.
Para el usuario, la señal más clara es desconfiar de las promesas excesivas: una app de IA que ofrece resultados imposibles, sin explicar para qué sirve ni quién la desarrolla, merece una revisión adicional. En un teléfono, como en una casa, saber quién conserva la llave puede ser la diferencia entre una herramienta útil y una puerta abierta al abuso.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
