¿Confiarías en un escrito legal si supieras que parte de sus citas salió de una máquina que responde incluso cuando no sabe? Eso fue lo que quedó al descubierto en un tribunal de Mississippi, donde la IA generativa entró por la puerta grande y terminó apagando el juicio.
Según contó 404 Media, tanto la acusación como la defensa usaron herramientas de inteligencia artificial para redactar documentos en un caso sobre honorarios impagados. El litigio enfrentaba al abogado Tom Withers con la ciudad de Aberdeen, y el hallazgo clave fue tan simple como grave: ambos bandos citaron fallos judiciales que no existían.
La jueza Sharion Aycock detectó la irregularidad al revisar las referencias. Luego suspendió el juicio, sancionó a los abogados implicados con multas de entre 1.000 y 3.500 dólares e inhabilitó durante dos años a dos de ellos para comparecer ante ese tribunal. Withers no fue castigado porque no se representaba a sí mismo.
El mecanismo detrás del problema no es misterioso, pero sí engañoso. Los modelos de lenguaje, sistemas entrenados para predecir la siguiente palabra, pueden sufrir “alucinaciones” (respuestas plausibles pero falsas). Es decir, la IA no siempre miente: muchas veces completa huecos como quien rellena una estantería con libros de cartón.
Ahí aparece la analogía doméstica que mejor traduce el caso. Usar una IA generalista en un escrito judicial sin verificación es como pedirle a un electricista que revise el cableado de una casa con una linterna que ilumina mucho, pero también inventa interruptores donde no los hay. Desde fuera, todo parece ordenado. Cuando se enciende la luz, salta la falla.
Además, el problema no fue que los abogados tocaran la herramienta, sino que soltaran el control. La pieza clave de cualquier uso profesional sigue siendo la supervisión humana. Si esa revisión falla, el engranaje entero pierde fiabilidad.
Cuando la IA “discute” en tribunales
Este caso revela algo más inquietante: no fue una sola parte la que presentó citas falsas. Fueron las dos. En la práctica, el tribunal se encontró con un escenario en el que ambas partes parecían discutir entre sí a través de asistentes como ChatGPT, cada uno aportando textos convincentes pero con referencias inventadas.
No se trata de un episodio aislado. 404 Media recopiló numerosos antecedentes de abogados sancionados por usar IA sin control. Y en X, el abogado Rob Freund subrayó el carácter insólito del caso: aquí no falló una sola estrategia, falló el sistema de comprobación de ambos lados.
En España también hay señales de alarma. El Mundo informó que el Tribunal Superior de Justicia de Galicia investiga a un abogado por incluir 24 citas jurisprudenciales falsas. Y el Poder Judicial confirmó en Canarias una multa de 420 euros a otro letrado por introducir 48 sentencias inexistentes sugeridas por IA.
La clave no es prohibir, sino verificar
La oportunidad que abre esta tecnología sigue ahí. La abogacía fue una de las primeras profesiones en adoptar IA generativa porque ahorra tiempo, ordena documentos y acelera búsquedas. También existen herramientas específicas para el sector legal, diseñadas para ofrecer una respuesta más robusta que los modelos generalistas.
Pero el interruptor central no cambió: cada cita, cada dato y cada precedente deben comprobarse. En un oficio donde una palabra puede mover dinero, reputación o libertad, delegar sin revisar es como dejar las llaves de casa puestas del lado de afuera.
La lección de Mississippi no apunta contra la IA en sí. Revela, más bien, que cuando el piloto automático entra en una sala de justicia sin una mano en el volante, el primer daño no es técnico: es la confianza.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
