Error de un Abogado que Confió en IA para Redactar una Demanda y Terminó con el Caso Descartado

¿Alguna vez copiaste y pegaste un texto “que suena bien” sin leerlo del todo, confiando en que el resto se acomoda solo? En un expediente judicial, ese gesto cotidiano puede convertirse en un engranaje que se traba. Y el costo no es un error de estilo: puede ser perder un caso.

Eso es lo que revela un fallo de la Cámara de Apelaciones en lo Civil y Comercial de General Roca, en Río Negro. El tribunal confirmó una sentencia que rechazó una demanda por daños tras un siniestro vial en Villa Regina, en la esquina de Juan XXIII y Araucanos, y apuntó a una pieza clave: la redacción confusa de los hechos y la cita de antecedentes legales inexistentes.

Según la resolución, esos precedentes inventados surgieron por un uso indebido de inteligencia artificial generativa (programas que redactan texto a pedido). Los jueces verificaron las citas atribuidas a la Corte Suprema y al Superior Tribunal de Justicia de Río Negro en buscadores y registros oficiales. Y no estaban.

Además, el caso ya venía con un cableado flojo desde el inicio. La mujer demandante acusó al conductor de un Peugeot de girar intempestivamente a la izquierda y provocar la colisión. Pero las pericias mecánicas incorporadas al expediente mostraron una dinámica distinta: la moto habría intentado un sobrepaso justo antes de llegar a la esquina.

En primera instancia, la jueza detectó inconsistencias que funcionaron como un “interruptor” apagado para la reconstrucción del hecho. El escrito no aclaró si la reclamante iba conduciendo la moto o como acompañante, lo que abría dudas sobre su legitimidad para demandar. También mencionó calles inexistentes y daños que no coincidían con reportes policiales.

La sentencia fue categórica: el relato resultó “impreciso y contradictorio”, al punto de que, con una lectura estricta, hasta podía interpretarse que ni siquiera hubo contacto entre los vehículos. Sin una historia clara, el tribunal no logró formar convicción sobre la responsabilidad alegada.

¿Cómo funciona la “alucinación” de la IA en un escrito?

La Cámara identificó el problema como alucinaciones (información falsa presentada como verdadera). Traducido a vida doméstica: es como pedirle a un asistente que arme la lista del súper y te agregue “leche azul marca X” con total seguridad. El papel se ve prolijo. Pero cuando llegás a la góndola, esa marca no existe.

En un escrito judicial pasa algo parecido. La IA puede redactar con tono convincente, insertar comillas, fechas y nombres de fallos. Pero si nadie revisa, ese texto queda como una instalación eléctrica sin tester: parece conectada, aunque no conduce verdad.

Por eso el tribunal subrayó un mecanismo central: la tecnología puede ser auxiliar, pero no reemplaza la supervisión humana. El deber de verificación recae siempre en quienes firman los escritos. Dicho de otro modo, la responsabilidad profesional no se terceriza en un algoritmo.

Qué cambió con este fallo y qué puede pasar

La Cámara confirmó el rechazo de la demanda y realizó un severo llamado de atención a las abogadas por citar precedentes ficticios. Y agregó un dato con consecuencias prácticas: recordó que la Acordada 22/2025 del Superior Tribunal de Justicia prevé sanciones correctivas ante el uso inadecuado de IA en procesos judiciales.

El mensaje no es “prohibido usar IA”. Es más específico: usar sistemas automáticos sin control humano activa un interruptor de riesgo. En especial cuando el texto trae “autoridades” que suenan sólidas pero no existen.

Para el ciudadano común, este hallazgo deja una oportunidad incómoda y útil: pedir claridad. Si una historia está mal contada, si los datos no cierran, si los antecedentes no se pueden rastrear, el expediente puede quedarse sin piso. Y en tribunales, como en la ruta, un segundo de confianza ciega puede torcer todo el recorrido.