Un tribunal de Aquisgrán, Alemania, ha ordenado a la compañía Google impedir que su Modo IA vuelva a difundir afirmaciones falsas sobre un médico. El hallazgo judicial es claro: las respuestas generadas por la IA pueden considerarse declaraciones propias de Google.
El caso gira alrededor de los AI Overviews, los resúmenes escritos por inteligencia artificial que Google muestra antes de los enlaces tradicionales. Aunque suelen incluir fuentes para ampliar la información, el tribunal entendió que el texto visible funciona como una respuesta completa y no como una simple sugerencia de lectura.
El médico, que había sido jefe de un hospital alemán hasta el verano anterior, descubrió a finales de agosto que una búsqueda de su nombre junto al término “exención” activaba un relato grave y falso. La IA le atribuía acoso a su secretaria durante un viaje laboral, un despido, una condena condicional por agresión sexual y una indemnización de seis cifras.
Sin embargo, esos hechos aparentemente correspondían a otro antiguo directivo de la misma clínica. La pieza clave fue todavía más incómoda: los artículos enlazados por Google ni siquiera nombraban al médico afectado.
También te puede interesar:Google expande su herramienta de prueba virtual con IA para incluir vestidosEl resumen como una tubería mal conectada
Con la IA el sistema toma fragmentos de información disponibles, busca relaciones entre nombres, cargos y sucesos, y redacta una respuesta. Pero si confunde dos piezas del engranaje, puede ensamblar una historia coherente en apariencia y completamente errónea en los hechos.
Los enlaces pueden estar al final del recorrido, pero el daño aparece en la primera frase que lee el usuario.
El médico pidió a Google que retirara el contenido por correo electrónico. La empresa revisó la reclamación y no adoptó medidas. Después, una advertencia del bufete Höcker de Colonia tampoco logró modificar el resultado, según Según el medio jurídico Beck-Aktuell.
El tribunal actuó mediante una medida cautelar, una decisión urgente y provisional, sin escuchar previamente a Google. Consideró que las acusaciones lesionaban el derecho general de la personalidad del médico y comprometían de forma inmediata su vida profesional y social.
También te puede interesar:Google expande su herramienta de prueba virtual con IA para incluir vestidosLa orden todavía no es firme y Google puede recurrirla. La empresa podría afrontar una multa de hasta 250.000 euros por cada incumplimiento.
Una señal para las respuestas automáticas
La decisión de Aquisgrán no surge de cero. Se apoya en un fallo de Múnich de mayo, donde dos editoriales fueron vinculadas de forma errónea con estafas de suscripción y esquemas fraudulentos. En ese caso, Google sostuvo que los usuarios podían verificar las fuentes y no confiar ciegamente en la IA.
El tribunal de Múnich rechazó esa defensa. Entendió que el resumen se presenta como una afirmación autónoma y no advierte de manera clara que podría ser poco fiable. El recurso anunciado por Google no llegó a resolverse porque las partes cerraron el conflicto con un acuerdo extrajudicial.
Para los usuarios, la oportunidad es sencilla pero importante: tratar los resúmenes de IA como una primera orientación, no como un veredicto. Y para las plataformas, el nuevo aviso alemán apunta a un interruptor central: si la respuesta parece propia, también debe asumir la responsabilidad de ser correcta.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
