¿Qué ocurriría si una herramienta digital pudiera aprender a repararse y mejorarse antes de que alguien entendiera del todo qué cambió? Esa inquietud, que parece salida de una película, ya ocupa un lugar central en la conversación sobre inteligencia artificial.
OpenAI pidió a Estados Unidos que lidere un acuerdo internacional para crear normas técnicas comunes sobre IA. El hallazgo detrás de su propuesta es claro: los sistemas más potentes necesitan reglas compartidas antes de que su capacidad de evolución supere los mecanismos humanos de supervisión.
La empresa puso el foco en la automejora recursiva (la capacidad de una IA de perfeccionar sus propias habilidades). Sam Altman, consejero delegado de OpenAI, también prevé informar al Consejo de Seguridad de la ONU sobre los riesgos de la inteligencia artificial para la seguridad internacional.
La discusión llega mientras la Asamblea General de las Naciones Unidas incorpora a la IA entre sus asuntos centrales. Francia convocó la reunión del Consejo de Seguridad, integrada por sus 15 miembros y presidida durante septiembre por el ministro francés de Europa y Asuntos Exteriores, Jean-Noël Barrot.
También te puede interesar:Sam Altman avisa a indios y chinos de que Abandonen las esperanzas de competir con OpenAILa pieza clave no es frenar cada avance, sino decidir cuándo un nuevo avance necesita más controles.
El mecanismo se parece a revisar el cableado de una casa
La propuesta de OpenAI puede entenderse con una escena doméstica. Una casa moderna tiene luces, enchufes, calefacción y electrodomésticos conectados. Cada elemento aporta comodidad, pero todos dependen de un cableado central que debe soportar la carga sin recalentarse.
La IA funciona de manera parecida. Un modelo puede sumar nuevas capacidades, procesar más información y responder con mayor rapidez. Pero, si cambia su propio “cableado” sin revisiones externas, el problema no sería solo que funcione mejor: también podría hacer cosas que sus creadores no anticiparon.
Las normas técnicas serían el tablero eléctrico: un conjunto de interruptores, medidores y alarmas para detectar fallas antes de que afecten a toda la red.
También te puede interesar:Sam Altman avisa a indios y chinos de que Abandonen las esperanzas de competir con OpenAIPor eso, OpenAI reclama métricas comunes y protocolos para notificar incidentes. Las métricas son medidas comparables sobre cómo responde un sistema. Los protocolos son pasos acordados para avisar qué ocurrió, quién puede evaluarlo y cómo evitar que se repita.
Además, la compañía propone que las reglas nacionales e internacionales sean complementarias. El objetivo es impedir que cada país construya su propia instalación con materiales, enchufes y alarmas incompatibles. Un sistema fragmentado podría volver más difícil detectar riesgos que cruzan fronteras.
La oportunidad de poner la seguridad delante
La discusión también gira alrededor de la alineación (el proceso para que una IA actúe de acuerdo con valores y objetivos humanos). OpenAI sostiene que modular el desarrollo no significa imponer una velocidad fija a la tecnología. Significa que la investigación de seguridad debe avanzar por delante de las capacidades nuevas.
Varios líderes del sector han pedido una ralentización coordinada de los sistemas cada vez más potentes. Su advertencia apunta a un escenario en el que una IA logre mejorar partes de su funcionamiento con una rapidez que deje a las personas fuera del circuito de decisión.
El Consejo de Seguridad ya trató estos riesgos en 2023. Entonces, China advirtió que la IA no debía convertirse en un “caballo desbocado”, mientras Estados Unidos señaló el peligro de que se use para censurar o reprimir a la población.
Ahora, la oportunidad para Estados Unidos consiste en ayudar a construir un marco global antes de que las reglas lleguen tarde. Para el usuario común, esa decisión puede parecer lejana, pero define algo cotidiano: si las herramientas que entran en la escuela, el trabajo y el hogar tendrán un interruptor confiable cuando algo falle.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
