Imagina que estás en el salón de tu casa tranquilamente cuidando a unos niños y, de repente, un equipo táctico echa la puerta abajo. Eso es exactamente lo que le pasó a Angela Lipps, una residente de Tennessee que acaba de protagonizar una pesadilla judicial digna de una película distópica. Un software de reconocimiento facial por IA la señaló como sospechosa de un gran fraude bancario a miles de kilómetros de su hogar. Y el sistema falló estrepitosamente.
El origen del desastre es una mezcla tóxica entre tecnología aún inmadura y una alarmante falta de rigor policial. La policía de Fargo, en Dakota del Norte, andaba tras la pista de una mujer que utilizaba identificaciones militares falsas para vaciar cuentas de distintos bancos. Pasaron las imágenes borrosas de las cámaras de seguridad por su flamante sistema inteligente. El algoritmo devolvió el nombre de Lipps como la principal coincidencia. Y ahí acabó todo el esfuerzo investigador.
De manera sorprendente, un agente local simplemente entró en las redes sociales de Angela, decidió que el peinado se parecía bastante y firmó la orden de captura. Básicamente, le robaron la libertad por culpa de un «parecido razonable» validado por una caja negra informática. Poco después, un operativo de los US Marshals irrumpió en su casa y la detuvo a punta de pistola frente a su familia. Ni una sola pregunta previa. Ni una sola prueba física real.
Más de tres meses entre rejas por un falso positivo
Al ser catalogada inmediatamente como prófuga de la justicia de otro estado, a Lipps se le denegó cualquier derecho a fianza. Se pasó 108 días encerrada en su propio estado natal, cruzando los dedos mientras esperaba su extradición. Lo más surrealista de todo es que esta mujer de Tennessee nunca en su vida se había subido a un avión. Mucho menos había pisado el estado donde la acusaban de operar.
A finales de octubre la maquinaria judicial por fin la trasladó a Dakota del Norte, donde terminó en una celda de seguridad a la espera de un juicio absurdo. Durante más de seis meses de calvario, a ningún miembro del departamento de policía se le ocurrió hacer el trabajo básico de calle. Absolutamente nadie se molestó en comprobar si la acusada tenía una coartada sólida.
Pero lo verdaderamente indignante es lo rápido que se derrumbó el caso en cuanto un cerebro humano quiso mirar los números. Su abogado defensor solicitó el historial de transacciones y los registros del móvil. Magia pura: mientras la estafadora real robaba bancos en el gélido norte, Angela Lipps estaba en Tennessee repostando gasolina, pidiendo cena por Uber Eats y cobrando su cheque de la Seguridad Social. Es decir, era físicamente imposible que estuviera en la escena del crimen.
El coste de fiarlo todo al algoritmo
Como era de esperar ante semejante bofetada de realidad, el 24 de diciembre la fiscalía retiró corriendo todos los cargos. Sin embargo, la forma en la que el estado intentó tapar su error fue casi tan negligente como el propio arresto. La dejaron en la calle, en pleno invierno bajo cero de Dakota del Norte, vistiendo únicamente la ropa de verano con la que había sido esposada medio año atrás. Cero apoyo institucional.
A ello se le suma el daño patrimonial y psicológico, que es totalmente irreparable. Gracias a la ONG F5 Project y a sus abogados defensores, que le pagaron de su bolsillo una habitación de hotel, pudo volver a casa. Pero al llegar, su vida anterior ya no existía. Tras seis meses sin ingresos por estar presa, había perdido su vivienda, su coche, todos sus ahorros de vida e incluso a su perro. Lo había perdido todo. Así de crudo.
Por si fuera poco, los responsables miran hacia otro lado. El jefe de policía de Fargo esquivó cualquier pregunta incómoda sobre este desastre durante una reciente rueda de prensa por su jubilación. Hasta el momento en el que lees esto, no hay una sola disculpa oficial sobre la mesa. Tampoco existe ninguna oferta de compensación económica a la vista para reparar la vida que le han destrozado.
Este drama no es exclusivo de los norteamericanos, ya que en España y otros países europeos también han saltado las alarmas por la automatización excesiva en el ámbito policial. Los LLM y el machine learning son unas herramientas espectaculares para agilizar burocracia, pero delegar la libertad de un ciudadano en un porcentaje de probabilidad es jugar con fuego. Veremos si esta ruina personal sirve de precedente para exigir que, detrás de cada predicción algorítmica, haya siempre un humano haciendo las preguntas incómodas que la máquina no sabe hacer.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
