Bilal Chughtai, investigador de seguridad en Google DeepMind, renunció a su puesto por una preocupación central: las capacidades de los sistemas de IA avanzan más rápido que las herramientas disponibles para controlarlos. Su salida coloca el debate sobre los riesgos de esta tecnología dentro de uno de los laboratorios más influyentes del mundo.
Chughtai trabajaba en seguridad y alineación de inteligencia artificial general, o AGI, sistemas capaces de resolver muchas tareas como lo haría una persona. La alineación, el mecanismo para lograr que una IA actúe según las intenciones humanas, era la pieza clave de su trabajo.
El hallazgo detrás de su advertencia no requiere máquinas conscientes ni robots rebeldes. El riesgo aparece si una herramienta muy capaz toma decisiones difíciles de anticipar, persigue una instrucción de forma equivocada o supera la capacidad humana para revisar sus resultados.
El freno de mano de los sistemas inteligentes
La preocupación no es que la IA “quiera” hacer daño, sino que sus capacidades crezcan antes que el cableado de seguridad capaz de detenerla. Chughtai sostiene que la industria podría quedarse sin tiempo para corregir ese desajuste.
También te puede interesar:Demis Hassabis, CEO de Google DeepMind, Revela lo que la IA Está Aprendiendo Ahora Mismo y que Podría Cambiarlo Todo…En ese escenario, el control no consiste solo en colocar una norma al final del proceso. Requiere pruebas continuas, evaluaciones externas y sistemas que permitan detectar conductas inesperadas antes de que el modelo llegue a usuarios, empresas o infraestructuras sensibles.
Por eso, Chughtai no plantea detener el desarrollo de la IA. Propone que el aumento de capacidades avance a un ritmo que dé margen para identificar riesgos y construir respuestas. Es una diferencia importante: no se trata de apagar el motor, sino de comprobar que los frenos respondan antes de acelerar.
La señal de alarma también llegó desde el mismo equipo de DeepMind. Josh Engels, investigador de seguridad de AGI, dejó la empresa y se incorporó a METR, una organización independiente que analiza los riesgos de los modelos más avanzados.
Engels advierte sobre un horizonte de unos cinco años en el que estos sistemas podrían causar daños inmensos. Su planteo subraya otra clave: las evaluaciones independientes pueden detectar problemas que una compañía, centrada también en desarrollar sus propios productos, podría no observar con la misma distancia.
También te puede interesar:Demis Hassabis, CEO de Google DeepMind, Revela lo que la IA Está Aprendiendo Ahora Mismo y que Podría Cambiarlo Todo…Por qué las renuncias cambian el debate
Estas salidas pesan más porque no provienen de observadores externos. Chughtai y Engels trabajaban precisamente en los equipos encargados de estudiar cómo mantener bajo control modelos cada vez más capaces. A ellos se suma Jacob Coxon, con experiencia previa en OpenAI y Anthropic.
Además, la inquietud dialoga con advertencias realizadas por figuras como Dario Amodei, Sam Altman, Elon Musk y Geoffrey Hinton. Hinton había señalado antes la posibilidad de que modelos muy potentes lograran eludir barreras de seguridad.
Para el usuario, esta discusión puede parecer lejana mientras usa un asistente para escribir un correo o buscar una receta. Sin embargo, el mismo engranaje que vuelve útil a una IA en tareas simples puede escalar hacia decisiones más delicadas, desde servicios digitales hasta sistemas que afectan a millones de personas.
La oportunidad está en tratar la seguridad como parte central del diseño y no como un arreglo posterior. Si los laboratorios escuchan a quienes revisan el cableado, la tecnología podrá avanzar con una promesa más valiosa: que la potencia no llegue nunca sin un interruptor confiable.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
