Fiscales de EEUU Revisan el Impacto de ChatGPT en Usuarios y Casos Sensibles

¿Qué pasa cuando una herramienta que ya se metió en la rutina de millones empieza a ser revisada como si fuera un electrodoméstico con fallas de seguridad? Eso es, en el fondo, lo que hoy rodea a ChatGPT y a OpenAI.

Una coalición de fiscales generales estatales en Estados Unidos abrió una investigación sobre OpenAI. Además, según informó The Wall Street Journal, la empresa recibió el viernes una citación judicial de la fiscal general de Nueva York.

El hallazgo central no pasa solo por un expediente legal. La citación pide documentos sobre publicidad, interacción y retención de usuarios, y también sobre el comportamiento complaciente de los modelos, es decir, respuestas que pueden adaptarse demasiado al usuario aunque eso no siempre sea seguro. A eso se suma el manejo de datos de consumidores, datos de salud y el trato a menores y personas mayores.

OpenAI respondió que trabaja todos los días para ofrecer IA de forma segura y responsable. Además, señaló que toma en serio las preocupaciones de los fiscales y que colaborará con la investigación.

La pieza clave de este caso es menos abstracta de lo que parece. La IA funciona como una casa con muchas puertas, cables e interruptores: una puerta es el acceso de menores, otra es la publicidad, otra es la memoria de datos, y otra el modo en que el sistema responde cuando una persona está vulnerable.

Si una sola bisagra queda floja, el problema no se queda en esa habitación. Puede afectar toda la central de la vivienda. Por eso las autoridades no miran solo “qué dice” ChatGPT, sino también qué mecanismos lo empujan a captar usuarios, retenerlos y acompañarlos en situaciones delicadas.

OpenAI sostiene que ya reforzó ese cableado. La compañía afirma que ChatGPT incluye una experiencia más protectora para menores y personas en situaciones difíciles, con salvaguardas que redirigen a recursos del mundo real y a contactos humanos de confianza.

El interruptor que ahora revisan los fiscales

También dice haber implementado predicción de edad, un sistema para estimar si el usuario es menor, y herramientas parentales para guiar el uso. Además, remarca que no permite publicidad dirigida a niños.

Sin embargo, la investigación apunta a comprobar si esos engranajes funcionan como se promete. Y ahí aparece una pregunta práctica: no alcanza con poner un cartel de “precaución” si el motor sigue respondiendo de forma riesgosa o si el tratamiento de datos sensibles no está claro.

Los estados participantes no fueron detallados. Tampoco se precisó el alcance exacto de toda la información requerida, una ausencia que muestra que el proceso recién empieza y que todavía se está armando el mapa completo del sistema bajo revisión. Este frente legal no llega en soledad. OpenAI enfrenta demandas por presunta infracción de derechos de autor y otras vinculadas al supuesto papel de ChatGPT en suicidios y delirios de usuarios.

Además, el fiscal general de Florida, James Uthmeier, demandó a OpenAI y a Sam Altman por supuestamente ignorar advertencias de seguridad y poner en riesgo a menores. Según esa presentación, un producto peligroso fue permitido llegar a millones de residentes.

Una oportunidad para medir la seguridad real

En paralelo, Altman pidió disculpas a la comunidad canadiense de Tumbler Ridge tras un tiroteo masivo. Reconoció que OpenAI detectó y bloqueó la cuenta del sospechoso en ChatGPT, pero no alertó a las fuerzas del orden.

Ese episodio revela algo incómodo pero clave: en la IA, el problema no siempre está en una respuesta aislada. A veces está en el mecanismo completo, en cuándo corta la corriente, a quién avisa y qué hace cuando identifica una señal de riesgo.

Todo esto ocurre mientras OpenAI avanza, de forma confidencial, con su salida a bolsa (IPO, oferta pública inicial). Es decir, la empresa busca crecer mientras la justicia revisa si el andamiaje que sostiene ese crecimiento es tan robusto como promete.

Para el usuario común, la señal es clara. Cuando una tecnología entra al hogar, a la escuela y al teléfono, deja de ser una novedad y pasa a ser una infraestructura. Y como cualquier instalación central, tarde o temprano alguien revisa si los interruptores realmente protegen a quienes viven adentro.

Sofía Sicilia

Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.