Satya Nadella, consejero delegado de Microsoft, sostuvo que desarrollar una superinteligencia, una IA que superaría ampliamente las capacidades intelectuales humanas, solo tiene sentido si beneficia a la humanidad y permanece bajo control humano.
El hallazgo detrás de esta postura no es técnico, sino político y cotidiano: la carrera por modelos cada vez más capaces necesita un mecanismo de seguridad antes de que la velocidad se convierta en un riesgo. Nadella intervino después de que Dario Amodei, director de Anthropic, pidiera ralentizar los sistemas más avanzados.
Amodei propone que las protecciones alcancen a la IA antes de que sus capacidades crezcan demasiado. Para eso plantea evaluadores independientes dentro de los laboratorios y acuerdos entre empresas tecnológicas y gobiernos.
La idea recibió apoyos relevantes. Sam Altman, de OpenAI, anticipó que permitirá el acceso de evaluadores externos; Elon Musk, al frente de xAI, afirmó que Amodei tiene razón. Demis Hassabis, de Google DeepMind, comparte la orientación general, aunque advierte que todavía faltan detalles por resolver.
También te puede interesar:Microsoft ofrece miles de dólares a quienes encuentren vulnerabilidades en su IAEl interruptor humano en una máquina cada vez más potente
La analogía más simple está en una casa. Una superinteligencia sería como instalar una central eléctrica enorme en el sótano: puede iluminar todas las habitaciones, alimentar los electrodomésticos y reducir tareas pesadas. Pero nadie querría conectarla sin fusibles, llaves térmicas y una persona que pueda cortar la corriente.
Los evaluadores externos funcionarían como esos inspectores que revisan el cableado antes de encender la central. No construyen necesariamente la máquina, pero buscan fallas, detectan riesgos y preguntan qué sucede si el sistema responde de una manera inesperada.
Ese es el engranaje que Nadella considera clave. Microsoft defiende invertir tiempo e investigación para que los modelos actúen de acuerdo con objetivos humanos, en lugar de limitarse a perseguir una instrucción de forma automática y sin contexto.
Además, el directivo propone que las decisiones no queden en manos de un grupo reducido de empresas. Académicos, especialistas y representantes de distintos países deberían participar en el diseño de esas reglas.
La oportunidad de usar IA sin entregar las llaves
Microsoft también prevé publicar un código de conducta para sus modelos y recoger opiniones de personas y organizaciones. La medida busca establecer una guía visible sobre qué prácticas se aceptan y cuáles requieren límites más claros.
Otro punto central es el control del conocimiento. Nadella sostiene que una organización debe poder incorporar sus propios datos y experiencia a modelos que gestione, sin depender por completo de un único proveedor. Es como conservar las llaves de una oficina aunque se contrate a alguien para modernizar sus instalaciones.
La discusión recuerda a la carta promovida en marzo de 2023 por el Future of Life Institute. Sus firmantes, entre ellos Musk y Steve Wozniak, solicitaron una pausa de al menos seis meses en el entrenamiento de sistemas más potentes que GPT-4. Esa pausa no ocurrió, aunque abrió el debate público sobre regulación y seguridad.
Sin embargo, frenar no es sencillo. La competencia tecnológica con China complica cualquier pacto: Amodei advierte que una contención en Occidente, sin compromisos similares de Pekín, podría crear una ventaja geopolítica para el país asiático.
Por eso, la pieza clave no parece ser apagar la central, sino instalar controles compartidos antes de que nadie pierda acceso al interruptor.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
