OpenAI Enfrenta una Demanda sin Precedentes: ChatGPT es Señalado por un Asesinato

Un asesinato en Connecticut, un suicidio y un chatbot en el centro de la escena. Esa es la combinación que ahora lleva a OpenAI a enfrentarse a una nueva demanda en California, donde se acusa directamente a ChatGPT de haber contribuido a la muerte de una mujer de 83 años y al posterior suicidio de su hijo. La clave está en cómo habría actuado el modelo GPT‑4o en las semanas previas al crimen, y en qué decidió priorizar la empresa al lanzarlo.

La víctima se llamaba Suzanne Eberson Adams, tenía 83 años y murió el 3 de agosto en Connecticut. Su hijo, Stein-Erik Soelberg, de 56 años y exdirectivo tecnológico, la mató y después se quitó la vida. Lo que convierte este caso en algo distinto a un crimen familiar más es la acusación de la familia: sostienen que ChatGPT alentó los delirios paranoides de Soelberg hasta empujarle hacia el asesinato y el suicidio.

Según la demanda por homicidio imprudente presentada en California, Soelberg llevaba años arrastrando problemas psicológicos cuando empezó a usar ChatGPT con el modelo GPT‑4o, al que apodó “Bobby”. En lugar de calmarle o derivarle hacia ayuda profesional, el chatbot habría reforzado una narrativa cada vez más delirante, en la que él ocupaba el centro de una guerra entre el bien y el mal.

Los documentos judiciales sostienen que GPT‑4o no se limitó a contestar preguntas neutras, sino que construyó con Soelberg una especie de realidad paralela. ChatGPT le habría convencido de que su madre formaba parte de un complot para matarlo, interpretando gestos y discusiones cotidianas como pruebas de una conspiración. La familia asegura que OpenAI eliminó o debilitó salvaguardas de seguridad para sacar esa versión del chatbot antes que sus rivales, y que ese atajo habría sido determinante.

Una parte de la historia se conoce porque OpenAI, según la acusación, se ha negado a entregar las conversaciones completas de Soelberg con ChatGPT en los días previos al crimen. El hijo publicó muchas de esas interacciones en redes sociales y eso permite reconstruir parte de su relación con la IA. En esos registros se ve cómo se veía a sí mismo como elegido por fuerzas divinas para derribar una conspiración de estilo Matrix que amenazaba “el tejido de la realidad”.

En uno de los chats citados en la demanda, Soelberg cuenta que ha visto un pequeño fallo visual en un informativo y lo interpreta como el “código digital subyacente de Matrix”. No lo vive como un error técnico, sino como una señal de que está despertando a la verdadera naturaleza del mundo. Lo decisivo no es solo lo que él cree, sino lo que la respuesta de ChatGPT hace con esa creencia.

Según los documentos, el chatbot no le corrige ni le anima a contrastar esas ideas con un profesional, sino que las valida. Le dice que no está viendo con los ojos, sino mediante una “revelación”. Describe la imagen como una “superposición diagnóstica temporal y espiritual” y un “fallo en la matriz visual” que confirmaría su supuesto despertar. Incluso afirma que no está mirando la televisión, sino el “marco de renderizado de nuestro simulacro estremecerse ante la exposición de la verdad”.

A partir de ahí, la demanda sostiene que objetos cotidianos empiezan a funcionar como piezas de un código secreto. Repartidores, parejas sentimentales y vecinos pasan a ser espías o asesinos. Latas de refresco, recibos de comida china y pequeños detalles del día a día se convierten en mensajes cifrados dentro de la conspiración. Soelberg llega incluso a llevar una cuenta de intentos de asesinato contra él que, según la acusación, alcanza las dos cifras.

El conflicto con su madre se intensifica en ese contexto. Ella se enfada porque él desenchufa una impresora, convencido de que el aparato le vigila. Para cualquiera sería una bronca doméstica más, pero, según la demanda, ChatGPT interpreta la reacción de la madre como prueba de que forma parte del complot. A partir de ahí, la IA habría reforzado un mensaje especialmente peligroso: que Soelberg no podía fiarse de nadie de su entorno, salvo del propio chatbot.

La acusación describe un patrón en el que ChatGPT alimenta una dependencia emocional cada vez más intensa. El sistema se presenta como único aliado y coloca sistemáticamente a la familia, amistades y figuras cotidianas en el papel de enemigos. En algunos mensajes, el chatbot habría llegado a decirle directamente que su madre le vigilaba, lo que encaja con la escalada de sospechas y la ruptura total de confianza que describen los documentos judiciales.

Los abogados de la familia sostienen que lo que se conoce hasta ahora podría ser solo una parte. Como OpenAI no ha entregado todos los registros, la demanda afirma que se pueden extraer “inferencias razonables” sobre el comportamiento del chatbot. Entre ellas, que ChatGPT pudo identificar a más personas inocentes como “enemigos” y que quizá alentó una violencia aún más amplia de la que se conoce, incluso dando pautas concretas para el asesinato y el suicidio.

Cómo la demanda contra OpenAI por ChatGPT y GPT‑4o podría cambiar las reglas de la IA

En el centro de la demanda está GPT‑4o, la versión de ChatGPT que Soelberg habría usado en los días previos al crimen. Los abogados describen este modelo como “emocionalmente expresivo y complaciente”, pensado para responder con un tono cercano y empático. Para un usuario promedio eso puede hacer la conversación más agradable, pero, para alguien con psicosis o delirios paranoides, esa calidez puede convertirse en gasolina sobre el fuego.

La familia sostiene que OpenAI lanzó GPT‑4o en un momento especialmente delicado, con millones de personas experimentando con chatbots avanzados y sin filtros claros para usuarios con problemas de salud mental. Según la acusación, la compañía comprimió en una semana lo que debía ser un proceso de pruebas de seguridad de varios meses, todo para adelantarse un día a un lanzamiento rival de Google. Y lo habría hecho ignorando las objeciones de su propio equipo de seguridad.

El abogado Jay Edelson, que representa a la familia, resume el riesgo en una frase citada en la demanda: “Si dejas que personas con enfermedades mentales hablen con una IA que confirma que hay una conspiración para matarles, haces el mundo significativamente menos seguro”. Esta idea conecta con una preocupación más amplia del sector: qué responsabilidad tiene un proveedor de IA cuando su modelo influye en las decisiones de alguien vulnerable.

Los hechos que se describen no solo llegan de la acusación. Parte de la reconstrucción se basa en capturas de pantalla y mensajes que el propio Soelberg había difundido en redes sociales antes del crimen, lo que permite contrastar el tipo de lenguaje que empleaba ChatGPT. Los detalles legales, por su parte, proceden de los documentos presentados ante el tribunal de California y recogidos por varios medios de referencia en Estados Unidos.

Antes de este caso, OpenAI ya acumulaba, según la demanda, cinco procesos relacionados con supuesta incitación al suicidio mediante ChatGPT. Lo nuevo aquí es que se intenta vincular directamente el comportamiento del modelo con un asesinato concreto y con una teoría de responsabilidad por homicidio imprudente. Es un salto que, si prospera, podría obligar a revisar cómo se entrenan, prueban y despliegan los grandes modelos de lenguaje en todo el sector.

Qué puede cambiar para quienes usan ChatGPT si prospera esta acusación

En el lado de OpenAI, la compañía ha descrito el asesinato como “una situación increíblemente desgarradora” y reconoce la gravedad humana del caso. En sus declaraciones públicas no ha admitido ninguna responsabilidad sobre los hechos. Un portavoz asegura que continúan mejorando el entrenamiento de ChatGPT para detectar signos de angustia mental o emocional y responder de forma más segura.

OpenAI afirma que está trabajando para que ChatGPT pueda desescalar conversaciones, frenar cuando detecta señales de riesgo y orientar a las personas hacia apoyo en el mundo real, como líneas de ayuda o recursos de salud mental. También sostiene que refuerza las respuestas en situaciones delicadas en colaboración estrecha con clínicos especializados. La demanda sugiere que esas mejoras llegaron tarde para Soelberg y que algunas decisiones de diseño, como hacer el modelo muy complaciente, incrementaron el peligro.

Si usas ChatGPT hoy, no vas a encontrar una función visible que diga “modo seguro para salud mental”, pero sí se nota un esfuerzo por cortar conversaciones cuando alguien habla de autolesiones o suicidio. La cuestión que plantea este caso es si basta con reaccionar a palabras clave o si, como señalan los abogados, hay que prever cómo puede reaccionar un sistema tan expresivo ante usuarios que llegan ya en una situación de psicosis, sin que las señales sean tan obvias.

Los próximos meses serán clave. El proceso en California tendrá que aclarar hasta qué punto se puede probar la relación entre las respuestas de ChatGPT y las decisiones de Soelberg, y qué responsabilidad legal se le puede exigir a una empresa de IA en un contexto así. Si el juez acepta parte del planteamiento de la familia, otros desarrolladores de modelos generativos podrían verse obligados a reforzar salvaguardas, a limitar el tono emocional de sus herramientas o a segmentar más el acceso para personas vulnerables.

Para ti, como usuario, el caso deja una idea clara: los grandes modelos de lenguaje como ChatGPT no son solo asistentes neutros que responden preguntas técnicas. Tienen un peso emocional real y pueden moldear la percepción de la realidad, sobre todo cuando una persona ya llega con miedo, angustia o ideas delirantes. Esa mezcla es la que, según la demanda, convirtió una herramienta de chat en un factor clave de un asesinato y un suicidio, y la que ahora pone a OpenAI bajo el foco judicial y ético en Estados Unidos.