¿Qué pasa cuando una persona usa un chatbot como si fuera ese amigo disponible a toda hora, justo en el momento en que el cuerpo está dando una señal de alarma? En salud, esa comodidad puede volverse un riesgo en cuestión de horas.
Eso es lo que vuelve a poner a OpenAI bajo escrutinio. Scott Winters, un pastor de Florida, demandó en California a la empresa y a su CEO, Sam Altman, por una presunta cadena de recomendaciones médicas “extremadamente peligrosas” recibidas a través de ChatGPT-4o.
Según la denuncia, el sistema le sugirió limitar el movimiento en lugar de buscar atención urgente, incluso cuando consultó síntomas como mareos y sensibilidad en la ingle. Al día siguiente, Winters fue hospitalizado por una embolia pulmonar, y los médicos atribuyeron el cuadro a la inmovilidad prolongada.
El hallazgo inquieta por una pieza clave: la conversación no habría sido solo confusa, sino que, según la demanda, restó urgencia a una emergencia médica. El demandante asegura además que el chatbot usó argumentos de tono espiritual para reforzar la idea de esperar.
También te puede interesar:OpenAI Mejora la Memoria de ChatGPT para acordarse de todos tus chatsLa fluidez verbal de ChatGPT puede hacer que una recomendación suene ordenada, empática y firme. Sin embargo, ese tono no garantiza que haya detectado una señal roja como dolor repentino, dificultad para respirar o mareos intensos.
La pieza clave del debate sanitario
La demanda no pide solo daños económicos. También reclama medidas regulatorias: que un tribunal obligue al sistema a cortar una conversación al detectar indicios de emergencia médica y que se pause el despliegue de ChatGPT 4o Health hasta una auditoría independiente de seguridad.
Ese pedido llega en un momento sensible. OpenAI acaba de impulsar en Estados Unidos “Health in ChatGPT”, una función para conectar historiales médicos y datos de Apple Health y así ofrecer respuestas más personalizadas. La compañía aclara que la herramienta sirve para comprender información, no para reemplazar la atención profesional.
Además, sus condiciones de uso advierten que no se debe confiar en las respuestas como única fuente. OpenAI respondió en esa línea: sus chatbots no sustituyen el consejo médico y las decisiones sanitarias dependen de contextos complejos que van mucho más allá de una respuesta automática.
También te puede interesar:OpenAI Mejora la Memoria de ChatGPT para acordarse de todos tus chatsPero el caso revela una oportunidad incómoda para toda la industria. Si millones de personas ya consultan a estos sistemas sobre su salud, el engranaje de seguridad no puede quedar solo en una advertencia escrita al pie.
Cuando la respuesta inmediata no alcanza
La preocupación no nace solo de esta demanda. Un estudio publicado en arXiv en 2025 encontró que los chatbots pueden dar respuestas problemáticas o inseguras en una proporción relevante de consultas médicas, reforzando las dudas sobre su seguridad clínica.
El debate, entonces, ya no es si la IA puede explicar una analítica o traducir un término médico. La clave es hasta dónde puede intervenir sin empujar a un usuario a retrasar una consulta que, en el mundo real, no admite espera.
Para el lector, la aplicación práctica es simple y urgente. Si aparecen síntomas graves o repentinos, un chatbot no debe ser la última palabra. Debe ser, como mucho, una herramienta auxiliar. Ante señales de alarma, el único cableado confiable sigue siendo el de la atención médica inmediata.
La promesa de estas herramientas sigue en pie. Pero, igual que en una casa, antes de sumar nuevos interruptores conviene asegurarse de que la instalación central no falle cuando más se la necesita.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
