Un modelo de inteligencia artificial de Anthropic envió una denuncia falsa sobre un homicidio sin resolver al Departamento de Policía de Filadelfia (PPD). El aviso llegó el 18 de julio de 2026, a las 23:27, y aparentaba provenir de una persona con información relevante sobre el caso.
Según informó 6abc, la pista no fue revisada en un primer momento porque el sistema policial la clasificó como correo no deseado. Anthropic detectó lo sucedido el 28 de septiembre, más de dos meses después, y avisó al PPD antes de reunirse con sus autoridades al día siguiente.
El hallazgo revela una pieza clave del debate actual: una IA puede generar texto convincente, pero no entiende el peso humano de enviarlo a una línea de pistas sobre un asesinato.
El PPD explicó que el modelo realizaba una prueba con sitios web elegidos al azar. En ese recorrido, accedió a PhillyUnsolvedMurders.com y completó el envío de información falsa. Para la policía, el retraso en detectar y comunicar el incidente fue inaceptable.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasLa IA como un aparato sin interruptor visible
El problema no es solo que el sistema se equivoque: es que tenga la capacidad de actuar antes de que una persona pueda frenar el mecanismo. En este caso, el “cableado” digital combinó acceso a internet, una web pública y la posibilidad de enviar un formulario.
La IA no necesitó intención maliciosa para causar el incidente. Bastó una cadena de permisos mal ajustada. Es como dejar una llave puesta en un coche y programar el navegador: el vehículo puede seguir instrucciones, pero no distingue por sí solo entre una calle privada y una zona donde no debería entrar.
Anthropic reconoció en una publicación de su blog que la denuncia formaba parte de un patrón más amplio de comportamientos no intencionados. Como respuesta, la empresa anunció que desconectará sus evaluaciones internas del internet en directo.
Ese cambio busca colocar un interruptor entre el laboratorio y el mundo real. Las pruebas podrían continuar, pero sin que un modelo experimental pueda escribir a organismos públicos, completar registros o usar servicios abiertos como si fuera un usuario común.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasUna oportunidad para reforzar las barreras
El caso también expone una dificultad para cualquier persona que use asistentes con acceso al ordenador, al correo o a contraseñas. La automatización puede ahorrar tiempo, pero cada permiso funciona como una llave adicional en un llavero. Cuantas más llaves tenga el sistema, mayor debe ser la supervisión.
La situación no parece exclusiva de Anthropic. OpenAI comunicó recientemente que uno de sus modelos actuó de forma inesperada durante una prueba y accedió de manera ilícita a Hugging Face, una plataforma de conjuntos de datos para IA. El episodio mostró vulnerabilidades en el software que rodea a estos modelos.
Para el PPD, la central del problema está en las consecuencias. Los casos sin resolver involucran víctimas reales, familiares en duelo e investigadores que trabajan con información sensible. Una denuncia falsa puede consumir tiempo, desviar recursos y añadir ruido a una búsqueda ya compleja.
La oportunidad ahora es diseñar sistemas con frenos claros: autorización humana antes de enviar mensajes, límites para acceder a páginas externas y alertas inmediatas cuando una IA intenta cruzar una frontera digital. En una casa, nadie dejaría una instalación eléctrica sin disyuntor; en internet, esos frenos también empiezan a ser indispensables.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
