¿Qué ocurre cuando una compra tan simple como elegir vitaminas termina con una acusación de robo? Para algunos residentes de Reino Unido, entrar a una tienda dejó de ser una rutina y se convirtió en una situación de ansiedad ante una cámara que puede equivocarse.
El hallazgo pone el foco en Facewatch, un sistema de reconocimiento facial con inteligencia artificial, es decir, un programa que compara rasgos del rostro con imágenes almacenadas. La herramienta opera en comercios británicos como Home Bargains, B&M, Budgens, Costcutter y Sports Direct.
Uno de los casos conocidos ocurrió en una sucursal de Home Bargains. Un hombre que había ido con su esposa a comprar vitaminas fue acusado de haber robado en otros establecimientos. Tras el episodio, explicó a TechRadar que sentía miedo de volver a entrar en una tienda.
Facewatch se integra en las cámaras de seguridad. Graba la actividad en tiempo real y revisa los rostros de quienes cruzan la puerta para buscar coincidencias con una base de datos de personas vinculadas a presuntos hurtos u otros incidentes.
El engranaje que puede señalar a la persona equivocada
La lógica parece directa: si el sistema detecta a alguien marcado como sospechoso, emite una alerta para que el comercio actúe. Sin embargo, el mecanismo tiene una pieza clave frágil: una coincidencia visual no siempre significa que dos personas sean la misma.
Funciona como el timbre de una casa que abre la puerta al escuchar un sonido parecido, no necesariamente la voz de quien vive allí. La cámara recoge una imagen, el software mide patrones faciales y busca parecidos. Si el parecido supera cierto umbral, el interruptor digital se activa.
Ese umbral es el punto central. Si está demasiado bajo, puede generar falsos positivos, es decir, alertas que señalan por error a compradores inocentes. Si está demasiado alto, podría dejar pasar a una persona realmente buscada por un comercio.
Por eso, una tecnología pensada para proteger mercancías y trabajadores puede trasladar el problema a la persona que solo quería hacer una compra. La alerta llega rápido; reparar el daño a la imagen, no tanto.
Los comercios que usan Facewatch comparten entre sí avisos y datos asociados a incidentes. Ese cableado entre tiendas busca prevenir robos en tiempo real, pero también amplía el alcance de un error: una identificación equivocada puede acompañar a alguien más allá de un único local.
El grupo de libertades civiles Big Brother Watch documentó varios casos de compradores legítimos señalados por el sistema y cuyos datos fueron compartidos entre minoristas. La preocupación no se limita a que una cámara analice un rostro, sino a la posibilidad de que ese rostro termine incluido en una lista de sospechosos.
Una carga que recae sobre clientes y empleados
Facewatch sostiene que no conserva de forma permanente los datos biométricos, datos físicos que permiten identificar a una persona, de quienes no figuran en su base. También afirma que asume la responsabilidad por su tecnología y sus procesos.
No obstante, la empresa atribuye a cada minorista la forma en que su personal trata a un cliente después de recibir una alerta. Ahí aparece otra grieta: el algoritmo puede encender la señal, pero un trabajador debe decidir qué hacer frente a una persona.
Parlamentarios británicos denunciaron que empleados de algunas grandes tiendas, incluso con salarios mínimos, han sido expuestos a riesgos y procedimientos disciplinarios por fallos de las cámaras. Según esas denuncias, el sistema puede convertir al trabajador en el último engranaje de una decisión que no diseñó.
La legislación británica de protección de datos permite impugnar una identificación errónea. Sin embargo, expertos en libertades civiles advierten que el proceso impone una carga injusta sobre quien ya fue señalado.
La oportunidad está en no tratar una alerta como un veredicto. Si las tiendas incorporan una revisión humana cuidadosa, el sistema podría ser una herramienta de seguridad y no una puerta cerrada para clientes inocentes.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
