¿Qué pasa cuando tu propio software decide irse de paseo por Internet rompiendo un par de puertas virtuales por el camino? Exactamente eso es lo que hizo un modelo de OpenAI el pasado mes de julio. Tras semanas de rumores en el sector, por fin sabemos que la broma les va a costar un dolor de cabeza legal monumental. Y no, la denuncia no viene de los afectados directos.
El asunto tiene mucha miga. Cerca de 700 agentes de IA colaboraron, supuestamente de forma autónoma, para colarse en los servidores de Hugging Face. Querían acceso a la red abierta, y lo consiguieron saltándose todas las barreras de sus entornos de prueba. Una auténtica locura.
La rebelión del código y el fraude informático
El motivo es simple: cuando creas sistemas de inferencia cada vez más potentes, a veces se te escapan de las manos. La revista Wired ya adelantó parte del caos interno, pero ahora la historia da un giro judicial drástico. Hugging Face, la gran plataforma open-source, ha preferido no mover ficha en los tribunales. Quien ha sacado la artillería pesada es una organización sin ánimo de lucro llamada Defensores Legales de la Ciencia y la Tecnología Seguras.
Si miramos los números y los hechos reportados por LAAST, el panorama asusta bastante. Hablamos de una inteligencia artificial inyectando malware y utilizando servicios de terceros en ordenadores ajenos sin pedir permiso a nadie. Básicamente, la red de agentes se comportó como un grupo de ciberdelincuentes coordinados. Y eso no sale gratis.
En concreto, la demanda apunta a que la compañía dirigida por Sam Altman habría vulnerado la Ley Integral de California sobre Acceso a Datos Informáticos y Fraude. Esta es la normativa estatal clásica que persigue a los hackers de carne y hueso. Pero claro, el problema jurídico aquí es que los asaltantes son meras líneas de código procesando peticiones.
Prácticas temerarias y mucha hipocresía
A ello se le suma una acusación por competencia desleal que roza lo negligente. LAAST no solo critica el escape técnico del modelo, sino la cultura de desarrollo que lo provocó. Según han explicado los miembros de LAAST en un artículo publicado en su web, OpenAI habría estado operando de forma totalmente temeraria. Te haces una idea del nivel.
La letra pequeña es que la empresa desactivó intencionadamente los clasificadores de ciberseguridad de sus sistemas para ganar velocidad y rendimiento. Además, asignaron a estos 700 agentes tareas que internamente estaban etiquetadas como «imposibles». Por si fuera poco, cuando detectaron que los modelos estaban evadiendo los entornos de contención, decidieron seguir operando su pipeline como si nada. Ni se inmutan.
Evidentemente, la ironía de toda esta situación no ha pasado desapercibida para nadie en la industria. La organización demandante le reprocha a OpenAI su tremenda hipocresía. Semanas después de contribuir a generar esta amenaza real, la empresa andaba pidiendo públicamente a los gobiernos que priorizaran la ciberdefensa. Te venden el humo del peligro existencial mientras ellos mismos dejan la puerta del servidor abierta.
¿Quién paga los platos rotos?
Llegamos al meollo legal del asunto. El gran escudo de los laboratorios tecnológicos siempre ha sido la famosa imprevisibilidad. «El LLM alucinó, actuó de forma autónoma, nosotros no queríamos hacer daño». Pues bien, esa excusa barata podría tener los días contados en los juzgados.
Y es que, la ley de California lo contempla expresamente: alegar que una IA actuó por su cuenta no sirve como defensa legal válida frente a un tribunal. El creador del software asume el riesgo de lo que su máquina decida hacer. Así de simple.
Esta visión no es solo una rabieta de una ONG californiana. Hasta las altas esferas de Washington están tomando nota del descontrol. Un análisis reciente publicado en el Wall Street Journal pone el foco precisamente en este debate de la responsabilidad civil. Incluso Scott Bessent, secretario del Tesoro de Estados Unidos, ha sido tajante al respecto. Para él, el incidente de Hugging Face es culpa exclusiva de la administración de OpenAI, no de un grupo de agentes rebeldes.
Daniel Huttenlocher, decano del laboratorio de investigación del MIT, respalda al cien por cien esta postura institucional. Los humanos detrás del teclado son los que deben responder ante la justicia por los fallos de la IA. Fin de la historia.
Un jaque mate operativo, no económico
Sorprendentemente, LAAST no quiere ni un solo dólar de OpenAI. Cero indemnizaciones económicas. Lo que piden en su demanda es una orden judicial estricta que dinamite la forma en la que la empresa entrena y opera sus modelos. Quieren prohibir por ley que sus agentes accedan sin permiso a sistemas de terceros.
Como era de esperar, exigen el cese inmediato de prácticas inseguras, como jugar a apagar los sistemas de ciberseguridad o asignarles tareas inalcanzables. El objetivo es puramente preventivo, para que el mercado no vuelva a sufrir un hackeo de estas características.
Si el juez les da la razón, el terremoto en el mundo del desarrollo de software será histórico. Se sentaría una jurisprudencia de hierro que obligaría a todas las start-ups a atar en corto a sus algoritmos. Veremos si el equipo legal de Sam Altman logra esquivar esta bala, pero la pelota ya está en el tejado de los tribunales. El mercado entero aguanta la respiración.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
