Jack Clark, cofundador de Anthropic, la empresa detrás de Claude, planteó que la capacidad de apagar una IA no debería quedar solo en manos de quienes la crean. Su hallazgo no apunta a un botón universal, sino a algo más concreto: que entidades externas puedan comprobar que ese interruptor realmente funciona.
En una entrevista difundida por la BBC el 14 de septiembre de 2026, Clark advirtió sobre sistemas cada vez más capaces. “Estamos tirando los dados con riesgos inmensos”, señaló al situar el control de estas herramientas dentro del debate público y regulatorio.
Clark sostiene que los laboratorios ya cuentan con controles internos, pero pide debatir cómo demostrar que conservan esa capacidad cuando los sistemas están en funcionamiento.
La cuestión parece sencilla hasta que se traslada a la vida cotidiana. Apagar una IA no es como cortar la luz de una lámpara. Se parece más a cerrar una casa mientras hay electrodomésticos encendidos, una puerta conectada a una alarma y varias personas esperando que termine una entrega.
También te puede interesar:Cofundador de Anthropic Advierte que la IA Podría Diseñar a su Propio Sucesor en Esta DécadaEl “botón de apagado” debe detener la tarea, cerrar los accesos y dejar un registro de lo que ocurrió antes de apagar la luz. Si un asistente recibió el encargo de ordenar archivos, responder correos o consultar otros servicios, la orden de cancelación tiene que interrumpir ese recorrido.
El mecanismo para que una IA no retome el trabajo
La clave está en prever el final desde el diseño. Clark propone que, en tareas prolongadas, una persona pueda cancelar el encargo antes de que concluya y que el sistema no lo reanude por iniciativa propia. Tampoco debería reactivarse sin una autorización clara.
Es el equivalente digital a quitar la llave de un coche y comprobar que el motor no vuelve a arrancar solo. El engranaje más delicado no es detener el movimiento visible, sino evitar que queden procesos trabajando detrás de la puerta.
Además, la IA no debería ocultar las acciones realizadas antes de recibir la orden de detención. Esos registros de actividad funcionan como el cuaderno de una reparación: permiten saber qué se tocó, qué dato se modificó y qué servicios pueden haber quedado afectados.
También te puede interesar:Cofundador de Anthropic Advierte que la IA Podría Diseñar a su Propio Sucesor en Esta DécadaEl Instituto Nacional de Estándares y Tecnología de Estados Unidos, NIST, ya incluyó esta idea en su guía para IA generativa publicada en 2024. El documento recomienda preparar protocolos de desactivación, gestionar la información almacenada y revisar las dependencias con otros sistemas antes de tener que improvisar ante un incidente.
Sin embargo, esas recomendaciones son voluntarias. No imponen la verificación externa que Clark propone llevar a discusión. La diferencia es relevante: una empresa puede afirmar que tiene un freno, pero un auditor independiente podría comprobar si responde cuando hace falta.
Microsoft AI presentó también, el 14 de septiembre de 2026, un borrador de código que exige que los sistemas acepten órdenes humanas de interrupción. Para encargos autónomos, es decir, tareas que completan varios pasos sin intervención constante, el texto prevé acordar de antemano cuándo termina el trabajo.
La propuesta rechaza que un modelo continúe una tarea o esconda información a los auditores. El documento reconoce un límite central: los comportamientos escritos como objetivo deben contrastarse en pruebas reales, porque una actualización del modelo, de las instrucciones o de los datos puede cambiar su conducta.
Por eso, las directrices del Centro Nacional de Ciberseguridad británico recomiendan registrar peticiones y medir cambios de comportamiento, siempre con respeto por la privacidad. Ese cableado de registros ayuda a investigar fallos y a detectar cuándo una herramienta dejó de responder como se esperaba.
El futuro de la IA no dependerá solo de que haga más tareas, sino de que las personas puedan detenerla con certeza.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
