¿Qué pasa cuando una foto oficial ya no alcanza para tranquilizarte, sino que te obliga a mirarla dos veces? En tiempos de inteligencia artificial, ese gesto mínimo se volvió una alarma: si la imagen de una prueba parece retocada, también se resiente la confianza en quien la muestra.
Eso es lo que acaba de ocurrir con la Policía de Vancouver, en Canadá. El cuerpo publicó en X una imagen de una redada contra el tráfico de drogas y el hallazgo encendió críticas inmediatas: internautas y periodistas detectaron señales visibles de manipulación con IA generativa (software que crea o modifica imágenes de forma automática).
El caso se suma a una preocupación más amplia. En Reino Unido, un agente fue suspendido tras ser investigado por fabricar pruebas con modelos generativos, y ahora este nuevo episodio revela una pieza clave del problema: la IA todavía no ofrece un mecanismo fiable para ámbitos críticos como la seguridad y la justicia.
Las anomalías no eran sutiles. En la fotografía aparecían billetes de 50 dólares etiquetados como si fueran de 20, y otro de 100 mostraba la cifra “00”. Ese cableado visual defectuoso, típico de imágenes alteradas por IA, dejaba en evidencia que la escena no representaba de forma fiel las pruebas incautadas.
También te puede interesar:El CEO de Klarna usa un avatar de IA para presentar resultados financierosLa explicación oficial fue que se había usado software para eliminar nombres de los acusados. Pero esa defensa perdió fuerza rápido. La imagen mostraba los objetos sobre un cartón con anotaciones manuscritas, y varios usuarios señalaron que el recorte tradicional alcanzaba para ocultar esos datos sin tocar el resto.
Un sistema generativo no borra solo un nombre: muchas veces reconstruye la zona, inventa texturas y acomoda detalles para que la imagen siga pareciendo completa. El resultado puede ser prolijo a simple vista, pero deja piezas falsas dentro de una escena que debería ser intocable.
El interruptor que pone en juego la credibilidad
La presión en redes sociales obligó a la policía a retirar la publicación. Después difundió una versión original, recortada de forma tradicional, donde los valores de los billetes sí coincidían con la realidad. Lejos de cerrar el episodio, ese cambio reforzó la sospecha de que la primera imagen nunca debió publicarse.
Además, no se trata de un error aislado. Ya se habían registrado fallos previos en herramientas policiales basadas en IA, incluidos informes automatizados con errores absurdos. Cada tropiezo mueve el mismo engranaje: una tecnología útil para tareas secundarias se acerca demasiado a zonas donde la precisión no admite atajos.
El problema no es solo reputacional. Si una prueba pública fue alterada con IA, la defensa puede impugnar el caso y cuestionar toda la cadena de custodia. En escenarios extremos, esa contaminación visual podría abrir la puerta a la desestimación completa de un proceso judicial.
La lección es simple: en seguridad, una imagen no puede funcionar como borrador.
Por eso, la oportunidad no pasa por usar más IA a cualquier precio, sino por decidir dónde sí y dónde no. Un traductor automático puede ayudar a redactar. Un sistema de recorte puede proteger identidades. Pero cuando una prueba entra en escena, el interruptor debe quedar en modo manual.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
