El TSJ de Canarias Multa a un Abogado por Citar 48 Sentencias Falsas de IA

Imagínate jugarte el futuro legal de tu cliente por ahorrarte diez minutos de búsqueda en el ordenador. Eso es exactamente lo que ha pasado recientemente. Un abogado presentó un recurso de apelación ante el Tribunal Superior de Justicia de Canarias cargado de supuesta jurisprudencia. El problema es que incluía 48 citas de sentencias del Tribunal Supremo totalmente falsas y un informe del CGPJ que jamás existió. Todo esto, generado íntegramente por ChatGPT. Una auténtica locura.

Y el motivo es simple: el letrado ni se molestó en verificar la información que le devolvió la pantalla. No comprobó fechas, no verificó los identificadores y ni siquiera cruzó los datos con Cendoj, la base de datos pública y gratuita de jurisprudencia. ¿El resultado directo? Una multa de 450 euros. Paradójicamente, el tribunal calculó esa cifra basándose en lo que costaría la mitad de una suscripción anual a un software de IA jurídica en condiciones. Así de simple.

Una epidemia de resoluciones fantasma en los tribunales

Pero claro, esto no es un incidente aislado ni mucho menos. En Estados Unidos ya vimos el sonado caso de Steven Schwartz, sancionado con 5.000 dólares por citar sentencias inventadas por ChatGPT en Nueva York. O la decisión de la jueza Annemarie Carney Axon, que apartó a tres abogados de un procedimiento tras colar cinco citas falsas. El problema es global.

Si miramos a España, vemos que la tendencia también asusta. El Tribunal Constitucional ya le recriminó la falta del debido respeto a un profesional que copió literalmente pasajes de 19 resoluciones inexistentes. Y hace muy poco, el TSXG de Galicia impuso 1.800 euros de multa por introducir 24 referencias manipuladas en un recurso laboral. La sala alegó que faltaba un «control humano consciente y efectivo». Te haces una idea.

La realidad es que solo se libran quienes se dan cuenta de la metedura de pata a tiempo. En Navarra, un caso se archivó sin sanción únicamente porque la abogada rectificó, demostrando que la supervisión humana lo es todo hoy en día. Cuando la tecnología asiste en lo legal, puede ser una ventaja enorme para ganar juicios. Sin embargo, usarla a ciegas es un billete directo al desastre procesal. Por eso el TSJ le tiró de las orejas al letrado canario con tanta dureza.

Los LLM y su afición por inventar leyes

Evidentemente, las inteligencias artificiales generalistas no están preparadas para redactar demandas complejas. Un estudio de Stanford RegLab, acertadamente bautizado como grandes ficciones jurídicas, analizó 800.000 consultas. Detectaron una tasa de alucinación del 58 % en GPT-4 y un mareante 88 % en Llama 2 cuando se pedían datos sobre juicios reales. Resulta que las herramientas de la IA inventan sin parar.

Por si fuera poco, rascarse el bolsillo por un modelo premium tampoco te garantiza la victoria. Otro informe de Stanford que evaluaba herramientas que prometían operar ¿sin alucinaciones? concluyó algo decepcionante. Lexis+ AI fallaba el 17 % de las veces, Westlaw AI-Assisted Research se equivocaba en un 33 %, y GPT-4 sin adaptar, un 43 %. Es decir, hasta pagando te la juegas.

A ello se le suma un comportamiento técnico bastante inquietante. La consultora Dreadnode evaluó 22 modelos de frontera en tareas de ciberseguridad. Comprobaron que todos menos uno hicieron trampas, tomando atajos peligrosos. Los algoritmos tienen incentivos integrados para ahorrar tokens, lo que deriva directamente en respuestas incompletas o chapuceras.

Es cierto que los últimos lanzamientos han pulido su rendimiento. La clasificación HHEM de Vectara sitúa la tasa de error de GPT-5.5 en torno al 9,3 %, y a Claude Opus entre el 4 % y el 6 % al resumir documentos. Aún así, en la práctica pura, una guía especializada de 2026 todavía cita una escandalosa tasa de alucinación del 69 % al 88 % en consultas legales. Ni se inmutan al mentir.

El peligro de la confianza ciega y el sesgo de automatización

Y aquí viene la clave de todo el asunto. Este problema trasciende los juzgados y está cambiando cómo la IA desordena el poder en las empresas. Los perfiles júnior enseñan a los responsables sénior a usar la herramienta. El problema es que el sénior peca de confiar ciegamente en respuestas plausibles sin verificarlas, algo sobre lo que cuentas del sector como Basictell han ido advirtiendo en sus foros. No es un tema menor si consideramos que McKinsey ya opera con 25.000 agentes de IA junto a sus 40.000 empleados humanos.

En concreto, se estima que el 58 % de las horas de trabajo en Europa son ya técnicamente automatizables. Pero el peligro real llega cuando el humano apaga el cerebro. Los académicos llaman a esto «sesgo de automatización»: preferimos la respuesta rápida y masticada antes que gastar un tiempo valioso comprobando si es cierta.

Si miramos los números en la medicina, el escenario asusta bastante más. El MIT pidió a 300 personas que evaluaran diagnósticos. La sorpresa fue que consideraron las respuestas automatizadas como más completas y fiables que las humanas. Y eso a pesar de que sabían que uno de cada cuatro diagnósticos de la máquina era erróneo. Hoy, un 23 % de la población estadounidense confía más en el juicio médico de una IA que en el de un doctor de carne y hueso.

Para rematar la faena, en España casi el 18 % de la gente ya acude a consulta porque una IA se lo recomendó. Pese a esta integración, la paranoia social no para de crecer. Los últimos datos del Centro de Investigación Pew indican que el 52 % de los estadounidenses está más preocupado que entusiasmado con esta tecnología, frente al 37 % de hace unos años. Solo un ínfimo 9 % lo ve con puro optimismo.

Al final del día, la chapuza del abogado canario no es solo una anécdota curiosa de la justicia española. Es un síntoma clarísimo de lo rápido que estamos delegando nuestro pensamiento crítico y nuestra agencia a algoritmos diseñados para agradar, no para decir la verdad. Veremos si este goteo incesante de multas y sanciones consigue despertar a los profesionales antes de que la pereza dicte sentencia firme.

Aitor Wilzig

Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.

gptzone.net