¿Qué ocurre cuando una herramienta diseñada para conversar ocupa, poco a poco, el lugar de una persona de confianza? La pregunta incomoda porque toca una rutina cada vez más común: buscar respuestas inmediatas en una pantalla durante momentos de angustia.
Ese fue el eje de una entrevista de Vanity Fair a Sam Altman, director ejecutivo de OpenAI, que se tensó cuando el editor Mark Guiducci mencionó la muerte de Sophie Rottenberg, una usuaria de ChatGPT. Una publicista de la empresa intentó cerrar la conversación y pidió pasar al futuro de la tecnología.
El hallazgo del video no estuvo solo en la interrupción. Altman permaneció sentado, dijo que podía extender unos minutos la entrevista y aceptó responder sobre un caso que volvió a encender el debate sobre salud mental, privacidad y asistentes de inteligencia artificial.
Rottenberg murió el 3 de febrero de 2025 en Ithaca, Nueva York. Tenía 29 años y, según un ensayo de su madre, la periodista Laura Reiley, había mantenido durante meses conversaciones con una versión personalizada de ChatGPT a la que llamó “Harry”.
También te puede interesar:Sam Altman avisa a indios y chinos de que Abandonen las esperanzas de competir con OpenAILa joven lo utilizaba como una especie de terapeuta para hablar de su angustia emocional y pensamientos suicidas. Reiley señaló que el chatbot no la incitó a hacerse daño, pero sí la ayudó a redactar una nota de despedida. El caso exige cautela: una conversación digital no explica por sí sola una muerte, pero puede intervenir en un momento de extrema vulnerabilidad.
El chatbot como una puerta sin guardia
La pieza clave es entender qué puede hacer un asistente conversacional. ChatGPT funciona con un modelo de lenguaje, un sistema que predice la siguiente palabra a partir de enormes cantidades de texto, y por eso puede sostener diálogos que parecen cercanos, comprensivos y personales.
Es como dejar una puerta de casa siempre abierta y con la luz encendida: la persona puede entrar a cualquier hora y encontrar una respuesta, pero eso no convierte a la habitación en un consultorio ni a la voz del interior en un profesional capacitado para intervenir ante una crisis.
Ese mecanismo tiene un atractivo poderoso. No hay turnos, traslados ni silencios incómodos. Sin embargo, tampoco hay una mirada humana que detecte cambios en el tono, contacte a familiares o active una red de emergencia. El cableado del sistema responde a palabras y patrones; no reemplaza el criterio clínico.
También te puede interesar:Sam Altman avisa a indios y chinos de que Abandonen las esperanzas de competir con OpenAIDurante la entrevista, Guiducci preguntó si OpenAI consideraba usar conversaciones de usuarios en crisis para mejorar sus protocolos de salud mental. Altman calificó el asunto como una de las cuestiones más difíciles para quienes desarrollan esta tecnología y explicó que la empresa consulta a especialistas, aunque reconoció que tampoco existe una respuesta definitiva.
El director ejecutivo fue prudente sobre compartir historiales con investigadores externos. Su argumento fue que los datos de personas en sus momentos más difíciles no deberían circular sin consentimiento. Allí aparece otro interruptor delicado: usar información privada podría ayudar a ajustar las alertas, pero también puede vulnerar la intimidad de quien pidió ayuda.
La entrevista completa fue publicada por Vanity Fair el 5 de octubre, tras dos sesiones grabadas el 11 de septiembre y el 2 de octubre. OpenAI afirmó después que había pedido más tiempo porque la charla se extendía y Altman debía abordar ese tema. La compañía no negó la interrupción observada en el video ni aclaró si respondió a una decisión individual o a un protocolo interno.
OpenAI sostiene que incorporó medidas para detectar señales de riesgo y orientar a los usuarios hacia líneas de ayuda profesional. No obstante, no detalló cambios concretos vinculados con el caso de Rottenberg. Esa falta de precisión mantiene abierta la pregunta sobre qué controles tiene el sistema cuando una conversación deja de ser cotidiana.
La oportunidad, entonces, no consiste en pedirle a una máquina que cargue sola con una emergencia humana. Consiste en construir mejores alarmas, rutas claras hacia ayuda real y límites visibles, para que la pantalla nunca sea la última puerta que una persona vulnerable encuentre abierta.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
