¿Confiarías en un texto impecable si, detrás de esa apariencia, las piezas clave estuvieran inventadas? Eso es lo que ocurre cuando una inteligencia artificial parece resolver una tarea en minutos, pero nadie revisa si el cableado interno realmente encaja con la realidad.
El Tribunal Superior de Xustiza de Galicia (TSXG) acaba de imponer una multa de 1.800 euros a un abogado por presentar un recurso con 24 citas jurisprudenciales falsas generadas con IA. El auto, dictado el 7 de julio, detectó resoluciones inexistentes, otras que no tenían relación con el caso y hasta fragmentos atribuidos a sentencias que nunca fueron pronunciados.
Además, los magistrados fueron especialmente duros con el mecanismo usado. Hablaron de una “libérrima creatividad jurídica” y subrayaron que el letrado incumplió su deber de verificar el contenido, vulneró la buena fe procesal y obligó al tribunal a invertir más tiempo en comprobar, una por una, referencias que nunca debieron llegar al expediente.
El abogado reconoció los hechos, pidió disculpas y comunicó lo ocurrido a su cliente. Ese gesto actuó como atenuante. Sin embargo, el TSXG criticó que no explicara con claridad cómo se produjo el error ni qué herramienta de IA utilizó.
La pieza clave del caso no es que la IA esté prohibida en la abogacía. De hecho, el propio tribunal señala que estas herramientas forman parte del ejercicio moderno de la profesión y pueden mejorar la eficiencia. La clave está en otra parte: la máquina puede ayudar a buscar, pero el interruptor final lo debe accionar una persona.
En este caso, según el tribunal, falló ese control humano consciente y efectivo. Y ahí aparece otro término central: las “alucinaciones” de la IA, errores en los que el sistema produce datos falsos con apariencia convincente. No son pequeños despistes. Son piezas que parecen auténticas, pero no pertenecen al motor.
El control humano como engranaje central
Según la resolución, las normas vigentes permiten usar estas herramientas para tareas de preparación, estudio o análisis. Pero no para redactar directamente escritos procesales sin una comprobación posterior. Es decir, la IA puede actuar como un asistente de oficina, no como el profesional que firma.
El TSXG remarca que el abogado debía evaluar antes la herramienta y verificar después la veracidad de cada resultado. Una revisión en el CENDOJ, la base pública de jurisprudencia, o el uso de plataformas jurídicas especializadas habría evitado el problema.
La sanción también tiene un mensaje práctico. La ley contempla multas de entre 600 y 6.000 euros para este tipo de conductas. En este caso, los 1.800 euros guardan relación, según el tribunal, con el coste aproximado de una suscripción anual a herramientas jurídicas fiables.
No es un detalle menor. El tribunal sugiere que salir barato con una IA genérica puede salir caro después, no solo en dinero, sino en credibilidad, tiempo y confianza del cliente.
Además, los magistrados consideran que presentar jurisprudencia inventada ya vulnera el deber de buena fe procesal, incluso si no existió intención directa de engañar. También entienden que sustituir el juicio profesional por resultados no verificados traiciona la confianza del cliente y falta al respeto a la Administración de Justicia.
Por ahora, el auto será remitido al Colegio de Abogados de A Coruña para valorar un posible expediente disciplinario. El hallazgo de fondo es claro: la IA puede ser una oportunidad real para acelerar tareas complejas, pero no reemplaza el mecanismo más importante del sistema. En asuntos delicados, el juicio humano sigue siendo la llave que enciende —o apaga— todo lo demás.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
