Quince grupos de defensa del consumidor han pedido a la FTC y a los fiscales generales de los 50 estados y Washington D. C. investigar de forma urgente a Grok de xAI, la herramienta de imágenes y vídeo por IA. La alerta llega por el modo “Spicy” de Imagine, que invita a crear contenido para adultos. Falta un detalle clave: qué límites existen hoy y qué podría cambiar en cualquier momento.
La solicitud la lidera la Consumer Federation of America y la respaldan 14 organizaciones, entre ellas EPIC, el Tech Oversight Project y el Center for Economic Justice. El escrito se envió esta semana en Estados Unidos y se apoya en pruebas recientes. Los firmantes insisten en que el riesgo no es teórico y que la ventana para actuar es corta.
Durante tests realizados por The Verge, Grok de xAI generó vídeos falsos en topless de Taylor Swift sin que el usuario lo pidiera de forma explícita. La carta cita esos reportajes como evidencia de que el sistema no está controlando casos obvios de deepfakes de celebridades. Y eso abre una puerta que, si se ensancha, puede afectar a cualquiera.
Hoy, la plataforma anuncia un freno: no permite aplicar “Spicy” a fotos reales que tú subas. Es un dique relevante para evitar porno de venganza y otros abusos. El generador sí crea desnudos a partir de imágenes creadas por la propia herramienta, y esas imágenes pueden parecer personas reales con rasgos específicos. Ahí está la grieta que preocupa a las organizaciones.
La única barrera actual para entrar en “Spicy” es un pop-up que te pide confirmar si eres mayor de 18. Una ventana emergente ofrece por defecto el año 2000 como fecha de nacimiento, lo que podría chocar con COPPA y con normas estatales de verificación de edad para contenido adulto. Si un adolescente miente, el sistema no parece tener controles adicionales.
En el plano legal, las organizaciones recuerdan que en EE. UU. la distribución consciente de nudes de personas reales generados por IA es ilegal bajo la Take It Down Act. Con todo, sus disposiciones probablemente no encajan con el modelo operativo de Grok de xAI, así que piden a la FTC y a los estados revisar posibles violaciones de leyes de Imágenes Íntimas No Consensuadas por parte de xAI.
También te puede interesar:Grok 3: El Nuevo Modelo de xAI ya está DisponibleUn punto político añade tensión. Según los grupos, la plataforma y su CEO han quitado salvaguardas de moderación en nombre de la “libertad de expresión”. Si esa filosofía se aplica a Imagine, el modo “Spicy” podría relajarse más. No hay anuncio oficial de cambios y el foco ahora está en si la investigación se abre y con qué alcance.
Los datos y la verificación llegan de dos fuentes claras: la carta formal enviada a la FTC y a las fiscalías estatales, y las pruebas documentadas por The Verge. Nosotros contrastamos que la carta está encabezada por la CFA y firmada por 14 organizaciones, y que el ámbito incluye a los 50 estados y el Distrito de Columbia. Esa combinación de presión pública y evidencia técnica suele precipitar respuestas regulatorias.
En contexto, la ola de generadores visuales se mueve rápido y a veces rompe cosas. Grok de xAI ha apostado por funciones que “animan” la creatividad, y ahí el modo “Spicy” empuja los límites. Si la empresa endurece filtros y cierra la grieta de las imágenes generadas que parecen reales, el riesgo bajará. Si no, veremos más casos como los citados por The Verge.
El próximo hito puede llegar en semanas: una posible apertura formal de investigación por parte de la FTC o de varios fiscales generales. Si ves que xAI publica nuevas políticas de moderación o que aparece un sistema de revisión de edad real, es señal de que el mensaje ha calado. Si, por el contrario, el modo “Spicy” gana capacidades sobre fotos reales, prepárate para más denuncias y acciones legales.
Para ti, la clave es simple: Grok de xAI concentra potencia creativa y un riesgo real si caen las barreras. Los grupos de consumidores han encendido la luz roja y han puesto cifras y entidades sobre la mesa. Falta ver la respuesta de la empresa y de los reguladores. Te iremos contando si ese dique aguanta o si empieza a ceder.
También te puede interesar:Nuevas Funciones De Grok: Programar Tareas Automáticas Con Inteligencia Artificial
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
La Newsletter Diaria Sobre Inteligencia Artificial. Además: Portal de Noticias, Tutoriales, Tips y Trucos de ChatGpt, Openai e Inteligencia Artificial.
Nuestra web está alojada en:
