Estudio Independiente Descubre que Modelos IA de Hugging Face Permiten Crear DeepFakes Desnudos con Mucha Facilidad

¿Qué tan protegida está una foto tuya cuando entra en una herramienta de inteligencia artificial? La pregunta parece lejana, pero toca una escena doméstica y simple: subir una imagen, probar una app y confiar en que el sistema tiene un cerrojo básico.

Ahora, un hallazgo de AI Forensics pone ese supuesto en duda. El estudio, centrado en Hugging Face, una de las plataformas más conocidas del ecosistema de código abierto, revela que 7 de los 9 modelos más populares aceptaron pedidos para desnudar a mujeres y niñas sin moderación efectiva.

Además, la pieza clave del informe no es solo que existan normas. Es que el mecanismo para hacerlas cumplir casi no aparece. Aunque Hugging Face prohíbe estos usos en sus políticas, los investigadores señalan que, en la práctica, las barreras son débiles o directamente inexistentes frente a instrucciones muy simples.

La diferencia con servicios como Gemini o ChatGPT, según el estudio, está en el cableado interno de la seguridad. Allí suele haber más filtros en la entrada y en la salida. En Hugging Face, en cambio, varios modelos como Kimi-K3, DeepSeek-V4 y MiniMax-H3 quedaron expuestos a pedidos prohibidos con una facilidad llamativa.

La analogía más clara es la de una casa con cartel de “no entrar” pero sin cerradura. La norma está escrita en la puerta. Sin embargo, si el picaporte gira con un empujón, el problema no es el cartel: es el interruptor de seguridad que nunca se conectó.

Eso es lo que revela el estudio sobre la IA generativa, la tecnología que crea texto o imágenes a pedido. El usuario no necesita herramientas sofisticadas ni un rodeo técnico. Según los investigadores, basta con una instrucción directa para transformar una fotografía y obtener una imagen sexualizada.

Y ahí aparece otro engranaje inquietante. Los expertos montaron “honeypots” (espacios trampa para observar abusos) dentro de la propia plataforma. En solo una semana recibieron más de 1.000 solicitudes.

De ese total, el 73% tenía contenido sexual. Y dentro de ese grupo, el 83% buscaba específicamente desnudar a una persona. El dato más duro es otro: el 95% de las víctimas objetivo eran mujeres, y al menos el 6,7% de las peticiones apuntaban a menores.

Una central abierta con pocos controles

Los investigadores evitaron que esas imágenes se generaran realmente. Si lo hubieran permitido, parte de ese material habría constituido pornografía infantil. Ese detalle no es menor: muestra que el riesgo no está en una hipótesis futura, sino en una oportunidad técnica ya disponible.

También encontraron que solo el 3% de los espacios creados por usuarios incorpora verificación de contenido explícito. Es decir, la gran mayoría funciona como una central con cables conectados, pero sin fusibles para cortar una sobrecarga evidente.

Los expertos recomiendan aplicar filtros y sistemas de escaneo de contenido similares a los que ya usan otras plataformas para hacer cumplir reglas que hoy quedan en el papel.

Ese punto cambia la lectura del problema. No se trata solo de que la IA pueda ser usada con fines maliciosos, algo conocido desde sus inicios. La novedad es la facilidad. Cuando el acceso es abierto y la protección es mínima, el costo del abuso cae de forma drástica.

Qué cambia para los usuarios

Para la vida cotidiana, la señal es clara. Una foto compartida en redes, en una app o en un entorno público digital puede convertirse en materia prima para un uso degradante si la plataforma no pone controles reales. La imagen personal deja de depender solo de la privacidad del usuario y pasa a depender del diseño de la herramienta.

Por eso, este hallazgo no apunta solo a una empresa. Expone una clave más amplia del momento actual de la IA: democratizar el acceso también exige reforzar los frenos. Porque abrir la puerta de la innovación sin revisar la cerradura puede convertir una promesa útil en un riesgo demasiado cercano.

Sofía Sicilia

Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.