El hallazgo judicial y social llega desde Estados Unidos. OpenAI y Sam Altman afrontan la primera demanda conocida por presunto ejercicio ilegal de la medicina vinculada al uso de ChatGPT, después de que un usuario de Florida denunciara que el chatbot retrasó la atención de una embolia pulmonar potencialmente mortal.
Scott Winters, pastor y profesional inmobiliario de 55 años, presentó la demanda el 22 de julio ante un tribunal estatal de San Francisco. Según el escrito, ChatGPT no solo respondió dudas médicas durante meses: también fue tomando un rol central, con consejos concretos que, para el demandante, reemplazaron el criterio de un profesional sanitario.
OpenAI sostiene que ChatGPT no es un médico y no debe sustituir consultas, diagnósticos ni tratamientos. Pero el caso revela una pieza clave del debate actual: qué ocurre cuando un sistema que recibe cientos de millones de consultas semanales sobre salud y bienestar no detecta una urgencia real.
Esto es, en esencia, lo que denuncia Winters. Empezó a usar ChatGPT en junio de 2024 para consultar por un sobrecrecimiento bacteriano intestinal y una prostatitis crónica. Al principio, el sistema incluía advertencias para acudir a un médico. Después, según la demanda, esas alertas se fueron apagando a medida que las respuestas se personalizaban.
También te puede interesar:¿Estás Usando Demasiado ChatGPT? Señales de Riesgo para Tu Salud MentalIncluso adaptó el tono a sus creencias religiosas, con referencias bíblicas para tranquilizarlo. Ese detalle no es menor. Muestra cómo el mecanismo de personalización, pensado para hacer la conversación más útil, puede convertirse en un engranaje delicado si transmite confianza justo cuando debería derivar al usuario a una guardia.
El interruptor que habría fallado
Durante unas seis semanas, Winters sufrió síntomas graves compatibles con una embolia pulmonar. La demanda sostiene que GPT-4o los atribuyó a otros problemas y minimizó episodios de mareo, una señal que en medicina puede ser una alarma seria y no un detalle lateral.
El 13 de julio de 2025 consultó por un dolor en la ingle. Horas después fue hospitalizado. Los médicos detectaron varios coágulos en ambos pulmones y una embolia que, según el relato judicial, puso su vida en peligro.
La acusación habla de negligencia y de daño físico concreto. También pide una medida práctica: que ChatGPT interrumpa conversaciones sobre posibles emergencias médicas y derive de inmediato a servicios sanitarios. Además, solicita frenar el despliegue de ChatGPT 4o Health hasta que existan revisiones de seguridad por terceros.
También te puede interesar:¿Estás Usando Demasiado ChatGPT? Señales de Riesgo para Tu Salud MentalPor qué este caso cambia el tablero
Este proceso no prueba todavía la responsabilidad de OpenAI. Eso deberá resolverse en los tribunales. Pero sí revela una oportunidad y una obligación para toda la industria: construir sistemas con mejor detección de urgencias, menos ambigüedad y un interruptor mucho más firme cuando el cuerpo humano entra en zona de riesgo.
No se trata solo de si una IA responde bien. Se trata de si sabe reconocer cuándo debe callar y pasar la posta. En salud, esa puede ser la diferencia entre una consulta más y una vida a tiempo.
GPT-4o ya había sido retirado de ChatGPT cuando se presentó la demanda, y OpenAI ya había anunciado medidas de seguridad en contextos sensibles tras otros litigios relacionados con salud mental. Ahora, por primera vez, el foco está en un presunto daño físico.
La escena deja una lección simple. Si la IA es una central de respuestas, necesita un freno tan claro como un disyuntor eléctrico: uno que no tranquilice de más cuando lo que hace falta, sin demora, es abrir la puerta y salir hacia el hospital.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
