Imagina que vas tranquilamente en el autobús de camino a casa, el conductor pega un frenazo de pánico y acabas en el suelo por culpa de una nevera con ruedas que se ha saltado un semáforo. Esto ya no es ciencia ficción ni un capítulo de Black Mirror. El pasado 26 de octubre, un robot autónomo de reparto de Bolt, fabricado por la firma Starship, cruzó en rojo un paso de peatones en Tallin, dejando un saldo de nueve pasajeros heridos en el autobús que intentó esquivarlo. Y el debate que ha provocado sobre la responsabilidad de la Inteligencia Artificial en el mundo real es gigantesco.
Para ponernos en situación, la escena fue digna de estudio. Según informaba la prensa local, el autobús municipal circulaba legalmente con su luz en verde cuando el sistema autónomo se cruzó de imprevisto en su trayectoria. La frenada de emergencia fue tan violenta que los viajeros que iban de pie salieron despedidos dentro del habitáculo. Una auténtica locura.
Lo más surrealista de todo es que, tras el tremendo impacto, la máquina siguió a lo suyo. Las imágenes de seguridad del vídeo del autobús muestran con total frialdad cómo el robot fue empujado por la calzada y continuó su marcha sin que el sistema se bloqueara. Andrei Novikov, directivo del transporte municipal (TLT), afirmó indignado que el dispositivo, de alguna manera, «se dio a la fuga». Desde la agencia de transportes advirtieron rápidamente que abandonar un siniestro sin cumplir las obligaciones legales puede constituir un delito.
La excusa algorítmica: luces de neón y ceguera artificial
Como era lógico, el fabricante de la máquina no tardó en salir a dar explicaciones para proteger su reputación. La empresa Starship echó balones fuera señalando que el hardware de visión del robot falló por las condiciones nocturnas. Un portavoz recogió en sus declaraciones un detalle técnico fascinante: un anuncio luminoso situado justo detrás del semáforo saturó los sensores de la IA.
Es decir, el pipeline de procesamiento de imágenes del robot no tuvo la capacidad de distinguir entre el rojo del semáforo peatonal, las luces de los coches y el brillo del maldito anuncio. Reconocieron un fallo crítico en la sensibilidad a la luz de sus cámaras, una lección dolorosa para sus ingenieros de machine learning. No obstante, negaron categóricamente la «fuga». Aseguran que el robot se detuvo unos diez minutos cerca de la zona, avisó por telemetría a su equipo de soporte remoto y, al no detectar presencia policial ni ambulancias, fue retirado. Ni se inmutó.
Un vacío legal que da verdadero vértigo en Europa
Pero aquí viene el drama de fondo. Este accidente evidencia que Europa tiene un agujero legal del tamaño de un estadio cuando se trata de robótica autónoma. La nueva directiva europea sobre productos defectuosos por fin considera al software y a la IA como productos a efectos de responsabilidad civil. Parece un paso en la dirección correcta para proteger a los ciudadanos.
La letra pequeña es que esta esperada normativa solo se aplicará a los modelos comercializados a partir del 9 de diciembre de 2026. Básicamente, todos los miles de robots de reparto que ya esquivamos por las aceras operan bajo una anticuada ley de 1985. A esto se le suma un jarro de agua fría reciente: la Comisión Europea retiró su propuesta específica sobre responsabilidad por daños causados por IA. El eurodiputado Axel Voss no se cortó y lo tildó de «error estratégico» cuando se lo dijo a la prensa internacional.
Si analizamos el plano penal, la situación roza el absurdo. La Unión Europea solo puede establecer reglas mínimas para delitos extremadamente graves, por lo que castigar a un robot por «darse a la fuga» depende exclusivamente de cada país. Estonia, irónicamente, es pionera. Su ley de tráfico actualizada en 2017 equipara a estas máquinas con vehículos convencionales, haciendo responsable directo al poseedor (como Bolt) o al fabricante, obligándoles a tener un seguro de responsabilidad civil a punto.
La invasión silenciosa que ya está en nuestras calles
Y los datos hablan solos, no estamos ante un experimento universitario de cuatro geeks. Starship anunció el pasado junio que había superado la barrera de las diez millones de entregas. Cuentan con un ejército de más de 3.000 robots repartidos por 300 ubicaciones en ocho países. Uber Eats tampoco se queda atrás; ya usa estos dispositivos en Leeds y prevé extender este ecosistema de última milla a media Europa en 2026.
Si miramos a casa, España ya ha flirteado con esta tecnología. Zaragoza introdujo en 2022 los robots autónomos de Goggo Network. Sin embargo, la perspectiva fue radicalmente distinta a la estonia. La entonces responsable de Movilidad, Natalia Chueca, dijo públicamente que no hacía falta modificar las normativas porque estos aparatos «no son vehículos». Un enfoque que hoy, viendo las caídas y los heridos en Tallin, parece cuanto menos arriesgado.
Viendo el panorama y la inyección de capital en estas start-ups, el incidente del semáforo rojo es solo el primer aviso serio de la convivencia forzosa entre humanos y algoritmos. La tecnología de inferencia visual avanza a paso de gigante, pero nuestros legisladores siguen en primera marcha. La pelota está en el tejado de las instituciones europeas, y más vale que diseñen un marco legal robusto antes de que el próximo pantallazo azul de un repartidor autónomo termine en una tragedia que no se pueda solucionar con un parche de software.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
