¿Qué ocurre cuando una empresa detecta una falla en una herramienta que millones de personas usan, pero no está obligada a contarla? La pregunta parece propia de una cocina con una pérdida de gas: nadie quiere esperar a que el olor sea insoportable para abrir las ventanas.
OpenAI y Anthropic pidieron al Parlamento británico que la seguridad de la inteligencia artificial deje de depender de promesas voluntarias. Durante una audiencia en la Cámara de los Comunes, ambas compañías reclamaron leyes obligatorias para los sistemas de IA más avanzados.
La sesión reunió al Comité de Negocios, Innovación, Ciencia y Comercio, a representantes de OpenAI, Anthropic, Google DeepMind y Meta, además de denunciantes y funcionarios públicos. El hallazgo central fue incómodo: las empresas que construyen estas herramientas no coinciden sobre quién debe vigilar sus riesgos.
Liam Booth-Smith, responsable de Anthropic para Europa, sostuvo que las reglas deben ser vinculantes. Tom Duff Gordon, vicepresidente de OpenAI, coincidió con cautela y señaló que la notificación de incidentes debería ser una pieza clave de cualquier marco legal.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanas“Depender exclusivamente de compromisos voluntarios no constituye un buen plan a largo plazo”, afirmó Duff Gordon sobre los riesgos de los modelos más avanzados.
El engranaje que hoy funciona por voluntad propia
El mecanismo británico se parece a una inspección técnica de autos donde el conductor decide si quiere llevar el vehículo al taller. El Instituto de Seguridad de la IA del Reino Unido, conocido como AISI, evalúa modelos de inteligencia artificial, es decir, sistemas entrenados para reconocer patrones y generar respuestas, antes de su lanzamiento.
Pero el AISI depende de que cada compañía le entregue voluntariamente su modelo. Si detecta un problema, no puede frenar su publicación, emitir una certificación ni rechazar formalmente su salida al mercado.
Es como tener un detector de humo que puede avisar del incendio, pero no tiene conexión con el interruptor que corta la corriente.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasHenry de Zoete, director del organismo, reconoció ese límite ante los legisladores. Cat Little, alta funcionaria de la Oficina del Gabinete, confirmó que el régimen británico actual es voluntario.
La discusión no gira solo alrededor de formularios o controles burocráticos. Mientras se celebraba la audiencia, el director del MI5, Ken McCallum, alertaba sobre el posible uso indebido de la IA para transformar armas biológicas existentes o facilitar la creación de otras nuevas.
Ese riesgo funciona como una tubería de alta presión: la mayoría de los días no se nota, pero una pequeña grieta puede tener consecuencias fuera de escala. Por eso, los diputados preguntaron por pruebas de seguridad obligatorias, acceso a los modelos y a los datos de entrenamiento, el material usado para enseñar al sistema, y responsabilidad personal de quienes autorizan un lanzamiento.
Dos posturas frente a la misma alarma
Google DeepMind y Meta no respaldaron de forma directa una ley obligatoria. Owen Larter, responsable de política pública de Google DeepMind, puso el foco en los estándares, reglas técnicas compartidas para medir seguridad. Rob Sherman, de Meta, recordó que el Reino Unido ya cuenta con reguladores para sectores específicos.
Sin embargo, Liam Byrne, diputado laborista y presidente del comité, subrayó que la audiencia expuso diferencias profundas entre algunas de las empresas más ricas del mundo. Para él, la autorregulación no ofrece una garantía suficiente cuando la tecnología puede afectar desde una estafa cotidiana hasta la seguridad nacional.
El comité había enviado cartas formales a las cuatro compañías el 22 de septiembre y publicará un informe con recomendaciones tras analizar los testimonios. Ese documento podría aumentar la presión para exigir pruebas obligatorias y avisos rápidos ante incidentes.
La oportunidad, finalmente, consiste en instalar el cableado de seguridad antes de que la casa digital quede completamente habitada.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
