¿Puede la IA Decidir Quién Vive o Muere? el Aviso Urgente de la ONU

¿Le darías a una máquina la llave de una decisión irreversible? Esa pregunta, que parece de ciencia ficción, ya está en la mesa de la ONU por el avance de sistemas con inteligencia artificial capaces de identificar un blanco y atacar sin una mano humana en el interruptor final.

El hallazgo político y moral lo puso en primer plano António Guterres, secretario general de la ONU. Su advertencia apunta a las llamadas armas autónomas letales, una pieza clave del nuevo cableado militar que combina drones, sensores, reconocimiento automatizado y análisis de datos para ejecutar partes críticas de la cadena de ataque.

Según la ONU, el problema central no es solo que una IA vea más datos o reaccione más rápido. La clave es otra: que el sistema no solo detecte una amenaza, sino que decida cuándo disparar, sin control humano directo sobre una decisión de vida o muerte.

Guterres fue categórico al describirlas como “máquinas que quitan vidas sin control humano” y las consideró moralmente repugnantes. Además, pidió que el derecho internacional las prohíba y defendió incluso un nombre más crudo para el debate: “robots asesinos”.

Para entender el mecanismo, sirve una analogía doméstica. Una casa moderna puede tener cámaras, alarmas, sensores de movimiento y cerraduras inteligentes. Todo ese sistema ayuda a vigilar. Pero otra cosa muy distinta sería que esa misma casa, al detectar una sombra, activara por sí sola una respuesta letal sin que nadie revise si era un ladrón, un vecino o un chico buscando una pelota.

Ese es el salto que preocupa a la ONU. La IA funciona como una central que recibe señales, cruza patrones y propone una respuesta inmediata. El riesgo aparece cuando esa central deja de ser asistente y se convierte en el dedo que aprieta el gatillo.

Y ahí entra un engranaje especialmente delicado: el error de identificación. Un algoritmo puede confundir civiles con combatientes, sobre todo en escenarios caóticos, con imágenes incompletas o datos sesgados. Lo que en una app puede ser una falla molesta, en una guerra puede ser una tragedia.

El “interruptor” humano que la ONU no quiere perder

Izumi Nakamitsu, alta representante de la ONU para asuntos de desarme, subrayó que no debería aceptarse que las máquinas tengan poder para decidir sobre la vida humana. Su planteo busca mantener una pieza clave del sistema: el juicio humano como límite antes del uso de la fuerza.

Además, estas armas no son solo robots humanoides. El concepto incluye sistemas terrestres, aéreos y marítimos. Es decir, desde drones hasta plataformas navales capaces de operar con autonomía (capacidad de actuar por cuenta propia) en fases sensibles del ataque.

La preocupación también tiene una dimensión práctica. Si la automatización reduce el riesgo para el país que ataca, puede bajar el costo político de iniciar una guerra. En otras palabras, si combatir se parece más a operar un tablero que a exponer soldados, el umbral para apretar el botón puede hacerse más bajo.

Human Rights Watch advierte sobre una “deshumanización digital”, es decir, el traslado de decisiones humanas críticas a sistemas automáticos. La alerta no se limita al campo de batalla. También roza la vigilancia, el control de fronteras y la aplicación de la ley.

Mientras tanto, varios países invierten fuerte en este terreno. Estados Unidos aparece como el principal impulsor, seguido por Rusia, China, Israel y Corea del Sur. Los defensores de estos sistemas sostienen que la IA puede ganar precisión y rapidez frente al cansancio o el error humano.

Pero el debate ya no gira solo sobre eficiencia. También expone una fractura en el sector tecnológico. Dario Amodei, CEO de Anthropic, se negó a permitir que su IA Claude se use en operaciones militares o de vigilancia masiva del Departamento de Defensa de Estados Unidos.

La guerra moderna depende cada vez más de datos masivos, y ese flujo alimenta a estas plataformas como si fuera electricidad en una red. La discusión, entonces, no es solo técnica. Es decidir si el interruptor final seguirá en manos humanas o si una máquina podrá quedarse sola en la sala de control.

Por ahora, la ONU intenta cortar ese circuito antes de que se vuelva normal.

Sofía Sicilia

Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.