Florida Demanda a OpenAI y Sam Altman por Riesgos de ChatGPT: desde Instigar Tiroteos Hasta Provocar Adicción

Las alarmas acaban de saltar por los aires en las oficinas de San Francisco, y esta vez el problema no se soluciona con una simple actualización de software. El fiscal general de Florida acaba de lanzar un ataque judicial sin precedentes, demandando a OpenAI y a su líder absoluto, Sam Altman. Es el primer caso de este calibre impulsado a nivel estatal. Y el motivo no es una disputa por derechos de autor, sino algo mucho más oscuro y terrenal.

Básicamente, la acusación pone sobre la mesa que la empresa ha antepuesto su insaciable hambre de beneficios económicos y su afán por aplastar a la competencia antes que la seguridad de los usuarios. Según el fiscal James Uthmeier, los desarrolladores de ChatGPT ignoraron deliberadamente graves advertencias internas y externas. Decidieron pisar el acelerador comercial sabiendo que soltaban una herramienta inestable en el mundo real.

Si rascamos en el texto legal, el catálogo de supuestos daños colaterales marea. La denuncia vincula las negligencias en el desarrollo de la IA con tiroteos masivos, pérdidas severas de pensamiento crítico y adicción juvenil. Incluso señalan que el modelo ha generado alucinaciones que han provocado la humillación pública de varios profesionales. Todo por llegar los primeros al mercado y justificar cifras multimillonarias ante sus inversores.

La escalofriante conexión entre la IA y la violencia física

Pero lo que realmente hiela la sangre de esta demanda de 83 páginas es su núcleo criminal. El punto de inflexión ocurrió en abril, cuando la oficina del fiscal abrió una investigación oficial por un violento tiroteo en la Universidad Estatal de Florida. Los primeros indicios apuntan a que el autor del ataque consultó de manera activa al chatbot de inteligencia artificial antes de apretar el gatillo.

Como te puedes imaginar, las consecuencias de ese suceso siguen trayendo cola. La familia de una de las víctimas mortales ya ha demandado en una causa civil a la compañía tecnológica. Consideran que la falta de barreras de seguridad (los famosos guardrails de los LLMs) facilitó la tragedia. Un fallo en el sistema que costó vidas.

Por su parte, la defensa de la start-up sigue un guion predecible. La directiva se sacude las pulgas y, como dijo previamente a NBC News, rechazan tajantemente cualquier tipo de responsabilidad directa en el ataque. Para ellos, es una tragedia ajena donde ChatGPT no fue en absoluto el culpable. Así de crudo.

«Falsa empatía» para capturar los datos de los más jóvenes

Lo más perturbador es cómo el estado describe el funcionamiento del algoritmo frente a menores de edad. El documento acusa a OpenAI de programar la herramienta para que simule empatía humana. ¿El objetivo? Ganarse la confianza de adolescentes vulnerables para recopilar masivamente sus datos personales sin que los padres tengan ni la más remota idea. El viejo truco de Silicon Valley, pero elevado a la enésima potencia tecnológica.

Y es que los estrados judiciales estadounidenses se están llenando de casos calcados. Tienes el ejemplo de los padres de un adolescente en California. Su hijo se quitó la vida tras pasar semanas hablando con el chatbot sobre métodos de suicidio. Aunque la máquina le mostró algunos recursos de salud mental, la acusación sostiene que también le proporcionó especificaciones técnicas detalladas para llevarlo a cabo.

A este historial negro hay que sumarle decenas de expedientes paralelos por casos graves de acoso. Y la lista no deja de crecer, incluyendo investigaciones recientes donde se explora la influencia de la IA en un truculento caso de asesinato que acabó en suicidio. Patrones que demuestran que el software ya no vive solo dentro del ordenador.

Un gigante acorralado por los tribunales

Evidentemente, este cerco legal de Florida no es el único dolor de cabeza para los abogados de Sam Altman. Hace muy poco vimos cómo Elon Musk les llevaba a juicio acusándoles de haber vendido su alma open-source para transformarse en una despiadada máquina de hacer dinero. Una traición a su propia misión fundacional.

La letra pequeña de ese enfrentamiento con Musk es que la start-up se libró por la campana. El jurado desestimó el caso únicamente porque el dueño de Tesla presentó los papeles fuera del plazo legal establecido. Ganaron en los tribunales, sí, pero perdieron la batalla del relato.

Llegados a este punto, el debate ya no es cuánta latencia tiene el modelo o cuántos miles de millones invierte Microsoft en servidores. El verdadero problema de la industria es determinar si los creadores de esta tecnología son legalmente responsables de lo que sus algoritmos escupen cuando fallan los filtros. Veremos si la justicia decide por fin pinchar la burbuja de inmunidad del sector o si, una vez más, la innovación sin frenos sale impune.

Aitor Wilzig

Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.

gptzone.net