¿Confiarías en un coche sin frenos de emergencia o en una lavadora que nadie hubiera revisado antes de enchufarla? Para Brad Smith, presidente de Microsoft, eso se parece demasiado a la forma en que hoy se despliega la inteligencia artificial.
El hallazgo que plantea Smith es incómodo por su sencillez: los sistemas de IA más potentes tienen menos controles previos que muchos productos cotidianos. Microsoft, que opera infraestructura de nube y es accionista de OpenAI, reclama reglas globales antes de que la tecnología gane más autonomía.
Smith “Ahora mismo, tu lavadora está sujeta a más normas de seguridad que la IA”. El directivo define a la IA como una herramienta y también como un arma, porque su avance corre más rápido que el cableado de seguridad destinado a contenerla.
La discusión choca con la postura de Donald Trump y la Casa Blanca, que prefieren que la industria se autorregule para no ceder terreno frente a China. Sin embargo, Smith advierte que ese mecanismo tiene una falla central: las empresas más responsables suelen cumplir, pero no son las que generan mayor preocupación.
La pieza clave de su propuesta es una revisión independiente antes de lanzar los llamados modelos de frontera, sistemas de IA con capacidades muy avanzadas. La idea se parece al proceso que debe superar un avión comercial antes de transportar pasajeros.
El freno de emergencia para una IA
Smith propone que la IA tenga su propia llave térmica: un freno de emergencia capaz de pausarla o ralentizarla. No sería un botón decorativo, sino un interruptor preparado para actuar cuando un sistema se descontrole.
Ese freno cobraría especial importancia en dispositivos autónomos, máquinas que toman decisiones sin una orden humana inmediata, y en infraestructuras críticas, servicios esenciales como redes eléctricas, hospitales o transporte. En esos escenarios, un error no queda encerrado en una pantalla: puede afectar una ciudad o una rutina familiar.
La responsabilidad, según Smith, debería recaer en quienes ejecutan los modelos y sostienen la infraestructura de nube, servidores remotos que procesan datos y tareas. Satya Nadella, consejero delegado de Microsoft, también hizo referencia a la necesidad de contar con mecanismos de interrupción.
Otro engranaje sería la comunicación obligatoria de incidentes. Si un agente de IA, programa que realiza acciones por cuenta propia, accede de forma furtiva o maliciosa a un sistema, las víctimas deberían recibir un aviso parecido al que llega después de una brecha de seguridad.
El dato revela una diferencia importante entre detectar y reparar. Avisar no evita el fallo inicial, pero permite cambiar contraseñas, aislar equipos y limitar daños antes de que un pequeño problema se convierta en una fuga mayor.
A finales del mes anterior, varias tecnológicas firmaron en la Casa Blanca un documento voluntario para colaborar con auditores independientes y comprobar comportamientos erráticos. Microsoft no lo firmó inicialmente, aunque Smith señaló que está dispuesta a hacerlo; Considera que ese paso ya resulta insuficiente.
También ve al Reino Unido en una posición favorable para impulsar normas comunes gracias a su Instituto de Seguridad de la IA. Según el medio Politico, la Casa Blanca habría pedido a OpenAI y Anthropic que no entregaran sus modelos más nuevos a evaluadores británicos antes de una revisión estadounidense, aunque el organismo confirmó que conserva acceso para probarlos.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
