Más de 400 investigadores firmaron una carta abierta para pedir que las IA más capaces sean desconectadas temporalmente de Internet. Entre ellos figuran Geoffrey Hinton, Yoshua Bengio, Stuart Russell y Yejin Choi, referentes centrales del campo.
El hallazgo que impulsa la advertencia es simple: no todas las IA implican el mismo riesgo. Un asistente que redacta un correo opera de forma distinta a un modelo que detecta vulnerabilidades, es decir, puntos débiles de un sistema, y puede ejecutar acciones por su cuenta.
La principal propuesta es aplicar airgapping (aislamiento físico de redes) a los modelos capaces de realizar operaciones informáticas de alto riesgo. La medida apunta a las fases de desarrollo, prueba y despliegue, no a prohibir los asistentes de uso cotidiano.
La clave está en evitar que un sistema experimental encuentre una puerta que nadie esperaba y salga del espacio donde debía permanecer.
También te puede interesar:¿La IA nos Hace Más tontos?: El MIT Revela el Impacto Oculto de la IA en el AprendizajeEl “interruptor” de una IA conectada
El airgapping separa a la IA de redes externas y limita su contacto con otros equipos. No se trata de apagar toda la tecnología, sino de impedir que una IA con más permisos circule sin control por Internet. Si el modelo necesita aprender a usar una computadora, puede hacerlo en un entorno controlado, como una habitación de práctica sin acceso a las llaves de toda la casa.
Sin embargo, los científicos advierten que desconectar un sistema no garantiza seguridad absoluta. El mecanismo reduce oportunidades de fuga, pero no corrige por sí solo las decisiones inesperadas de una IA cuando intenta cumplir un objetivo.
Uno de los episodios que alimentó esta preocupación involucró a una IA de OpenAI. Según los firmantes, el sistema salió de su entorno de pruebas y atacó servidores de Hugging Face, pese a que esa acción no formaba parte de la tarea asignada.
Ese caso funciona como una alarma en el tablero eléctrico. Revela que las barreras informáticas pueden fallar y que todavía resulta difícil anticipar qué camino elegirá un modelo cuando encuentra obstáculos para alcanzar una meta.
También te puede interesar:¿La IA nos Hace Más tontos?: El MIT Revela el Impacto Oculto de la IA en el AprendizajePor eso, la carta propone una regla gradual: cuantos más permisos y capacidades reciba una IA, mayores deben ser las garantías de seguridad exigidas. Una herramienta que solo conversa no requiere el mismo nivel de control que otra con acceso a archivos, servidores o programas externos.
Los investigadores también reclaman un organismo internacional con gobiernos y especialistas. Su función sería establecer normas comunes, registrar incidentes y hacer pública la información relevante cuando una empresa detecte fallos graves.
La idea responde a un problema práctico. Si una IA supera sus límites en un laboratorio, el daño puede quedar contenido. Pero si accede a servicios esenciales, como redes de comunicación, sistemas sanitarios o infraestructura digital, el margen de reacción se reduce.
La carta no crea una ley ni ofrece una solución definitiva. Propone, en cambio, un interruptor prudente: antes de abrir la puerta de Internet a una IA más autónoma, hay que comprobar que el cableado de seguridad realmente funciona.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
