¿Dejarías entrar en tu casa una máquina nueva sin revisar primero el cableado, los frenos y el interruptor general? Con la inteligencia artificial ocurre algo parecido: cuanto más potente se vuelve, más difícil resulta detectar a tiempo qué pieza puede fallar.
Ese es el hallazgo que puso sobre la mesa Demis Hassabis, CEO de Google DeepMind. El directivo advirtió que la AGI (inteligencia artificial general, una IA con capacidades similares a las humanas) podría llegar en pocos años y que su desarrollo debería revisarse antes de salir al público.
Además, situó esa posibilidad cerca de 2030. Para Hassabis, no se trata de una mejora menor en los chatbots, sino de un cambio de era comparable al descubrimiento del fuego o la electricidad, con una escala de impacto que podría ser diez veces mayor que la industrialización y avanzar mucho más rápido.
La pieza clave de su propuesta es simple de entender: revisar los modelos antes de encenderlos a gran escala.
También te puede interesar:Por Qué los LLM Alucinaron Más en 2025: GPT‑5, Techo Técnico y Crisis del Escalado InfinitoSegún plantea, Estados Unidos debería crear un organismo con expertos independientes y representantes del código abierto para evaluar sistemas de IA avanzada. Los laboratorios entregarían voluntariamente sus modelos hasta 30 días antes del lanzamiento, y si el mecanismo funcionara, esa revisión pasaría a ser obligatoria para los sistemas que superen ciertos umbrales de riesgo.
El interruptor que Hassabis quiere instalar sería: Las pruebas previas funcionarían como una inspección técnica: no solo mirarían si la máquina responde bien, sino también si puede usarse para ciberataques, amenazas biológicas o incluso maniobras ligadas a riesgos nucleares.
Un control previo para detectar fallas graves
Ese examen no sería estático. Los criterios se actualizarían aproximadamente cada trimestre para evitar que los modelos se entrenen solo para superar pruebas conocidas. En otras palabras, no bastaría con maquillar el motor para la foto: habría que revisar el engranaje real.
Hassabis también advierte sobre otro punto delicado. Esperar a que se produzca un daño concreto, dijo en esencia, reduciría mucho la capacidad de reacción. En sistemas tan veloces, corregir después puede equivaler a llegar cuando el cortocircuito ya empezó.
También te puede interesar:Por Qué los LLM Alucinaron Más en 2025: GPT‑5, Techo Técnico y Crisis del Escalado InfinitoLa IA avanza más rápido que la comprensión de sus riesgos, muchos de los cuales siguen siendo desconocidos.
El trasfondo de esa advertencia no es menor. Los sistemas actuales ya generan problemas de ciberseguridad, y las futuras versiones podrían ampliar esa capacidad. Al mismo tiempo, el líder de DeepMind subraya la oportunidad: una AGI robusta podría acelerar la investigación científica, el desarrollo de medicamentos y el crecimiento económico.
Ese doble filo explica por qué propone incluso una pausa coordinada entre laboratorios si se detecta un riesgo difícil de controlar. Sería, siguiendo la metáfora, bajar la llave central antes de que una sobrecarga deje sin margen a todos.
Qué podría cambiar en la vida diaria
Para el usuario común, este debate no es abstracto. Si la AGI llega con la fuerza que anticipan algunos expertos, podría alterar desde la medicina hasta el trabajo, la educación y la seguridad digital. La clave no es solo qué podrá hacer, sino bajo qué reglas entrará en circulación.
Hassabis reconoce que no hay consenso total sobre cuándo llegará esa inteligencia artificial general ni sobre cómo obligar a cumplir estas normas fuera de Estados Unidos. Pero su mensaje central sí es nítido: cuando una tecnología promete encender una nueva era, revisar antes el tablero no es frenar el progreso, sino darle una instalación más segura.
En un terreno donde cada avance parece correr más rápido que su manual, ese puede ser el mecanismo más sensato para que la luz no se convierta en incendio.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
