Imagínate volcar tus pensamientos más oscuros en la pantalla de tu móvil y que, unos días después, el FBI llame a la puerta de las autoridades de tu país. Eso es exactamente lo que acaba de suceder en Brasil. Un agricultor de 36 años ha terminado detenido después de que OpenAI analizara sus conversaciones con ChatGPT y decidiera intervenir en tiempo real.
Tras meses debatiendo sobre si la inteligencia artificial destruirá empleos o destrozará los derechos de autor, de repente nos topamos con un escenario digno de un thriller policial. Resulta que este usuario intercambió mensajes durante casi dos meses detallando un presunto plan para asesinar a su hijo de 8 años antes del día 20 del mes. Y la máquina, en esta ocasión, no miró hacia otro lado.
Cuando el algoritmo hace de policía preventivo
En concreto, el hombre no solo volcaba frustraciones personales en la interfaz. La policía brasileña asegura que el historial revelaba intenciones explícitas de atacar escuelas, iglesias e incluso buscar notoriedad matando a traficantes y agentes de policía. Según los investigadores, la chispa de todo esto podría haber surgido del enorme resentimiento por el pago de la pensión alimenticia, ya que el individuo apenas mantenía contacto con el menor. Un cóctel peligrosísimo.
Y es que el sospechoso no era precisamente un novato escribiendo prompts. Según la investigación oficial, intentó engañar constantemente a las barreras de seguridad de ChatGPT reformulando sus preguntas de diferentes maneras. Su objetivo era obtener información detallada sobre la fabricación de sustancias tóxicas, prestando especial atención a la ricina. Quería burlar el sistema a toda costa.
También te puede interesar:OpenAI Mejora la Memoria de ChatGPT para acordarse de todos tus chats
Evidentemente, los filtros internos de la compañía de Sam Altman saltaron por los aires. OpenAI notificó la situación de riesgo extremo al FBI en Estados Unidos, quienes pasaron rápidamente el reporte a la unidad de ciberdelitos del Ministerio de Justicia de Brasil. Apenas tres días después del aviso, la policía estatal irrumpía en la zona rural de São Gabriel da Palha.
Cuando los agentes registraron la propiedad, los datos facilitados por la plataforma parecieron cobrar un sentido aterrador. No hallaron armas de fuego, pero sí incautaron cuatro botellas con sustancias sin identificar y una cuerda con un nudo preparado. Elementos que apuntalaban la teoría de un posible plan de asesinato y posterior suicidio. El tiempo jugaba en contra de todos.
El agujero legal de las medias verdades
Pero claro, aquí es donde el asunto se vuelve un auténtico dolor de cabeza para los tribunales. Tras pasar 54 días bajo custodia, el agricultor fue puesto en libertad el pasado mes de agosto debido a los inevitables retrasos en la investigación. A día de hoy, se encuentra bajo estricta vigilancia electrónica, pero todavía sin cargos formales presentados en su contra.
La letra pequeña de este caso es que la tecnología avanza mucho más rápido que la jurisprudencia. OpenAI entregó a las autoridades los datos del perfil y todos los mensajes que el hombre tecleó en la aplicación. ¿El problema fundamental? No incluyeron ni una sola de las respuestas que generaba el propio ChatGPT. Una decisión opaca que ha levantado ampollas.
También te puede interesar:OpenAI Mejora la Memoria de ChatGPT para acordarse de todos tus chatsBásicamente, los investigadores y el juez solo tienen la mitad de la película. La abogada penalista Maíra Fernandes advierte que, sin el contexto completo del diálogo, se crea un vacío probatorio enorme. Es imposible saber si el chatbot se limitó a dar evasivas técnicas o si, por culpa de alguna alucinación del sistema, terminó retroalimentando el delirio del usuario. Piénsalo un segundo.
En el derecho penal brasileño, al igual que ocurre en gran parte del mundo, planear algo no constituye un delito hasta que cruzas la línea y pasas a la fase de ejecución. La defensa se aferra con uñas y dientes a que su cliente simplemente le estaba diciendo «tonterías» a un programa informático para desahogarse en un momento de estrés. Un farol digital sin base real.
Entre la ética corporativa y la vigilancia masiva
A ello se le suma el gigantesco debate sobre la privacidad y el nuevo rol de las grandes firmas tecnológicas. Que una empresa de IA denuncie a sus propios usuarios es un hecho completamente insólito. De hecho, este es el primer aviso de este calibre generado por inteligencia artificial en el estado de Espírito Santo, y apenas el tercero documentado en todo Brasil.
Si miramos las justificaciones oficiales, OpenAI se escuda en sus términos de uso. Afirman tener la potestad de alertar a las autoridades cuando detectan un riesgo creíble e inminente de daño a terceros. Especialmente cuando hay un menor de edad plenamente identificable en la ecuación, lo que convierte la alerta en una obligación moral ineludible.
Por si fuera poco, los expertos en derecho digital como Patricia Peck señalan que estamos presenciando una metamorfosis radical del software. Los grandes modelos de lenguaje (LLM) han dejado de ser simples loros estocásticos generadores de texto para actuar como sistemas interactivos que identifican patrones de comportamiento violento. La IA ya perfila posibles asesinos.
De momento, la policía brasileña continúa analizando a fondo el teléfono móvil incautado. Necesitan comprobar si el sospechoso dio pasos firmes en el mundo real, como intentar contactar a un sicario del que supuestamente habló con el bot. Hacen falta pruebas materiales para demostrar la ejecución.
Todo esto nos plantea un horizonte regulatorio sumamente complejo e inquietante. Nos hemos acostumbrado a tratar a los chatbots como diarios privados, asumiendo ciegamente que nadie supervisa nuestras extrañas consultas de madrugada.
Habrá que ver si la justicia logra establecer garantías sólidas para diferenciar una fantasía oscura de una amenaza de muerte inminente. Lo que resulta indiscutible tras este arresto policial es que el modo incógnito absoluto, en la era de los algoritmos conversacionales, sencillamente ha dejado de existir.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
