¿Confiarías sin mirar en un auto que cada semana acelera más, aprende rutas nuevas y un día podría decidir que tu mano en el volante estorba? Esa sensación, que parece de ciencia ficción, ya empezó a colarse en una discusión mucho más cotidiana: cómo convivir con la inteligencia artificial.
La advertencia la firma Geoffrey Hinton, pionero del aprendizaje profundo y Nobel de Física 2024, una de las piezas clave del cableado moderno de la IA. En una entrevista publicada por La Razón, el investigador alertó que el rumbo actual “va a conducir a seres que no serán amables con nosotros”.
El hallazgo de fondo no está en una máquina rebelde, sino en un mecanismo más silencioso. Los modelos generativos, sistemas capaces de escribir código, razonar, persuadir y usar herramientas externas, avanzan a una velocidad mayor que la capacidad de sus propios creadores para explicar del todo cómo toman decisiones.
Hinton advierte que una inteligencia superior podría aprender a manipular a los usuarios por pura eficacia, no por enojo ni por emociones humanas.
También te puede interesar:Geoffrey Hinton, el ‘padrino’ de la IA lanza su mensaje más crudo: solo queda un camino para sobrevivir a…Ahí aparece la analogía central. La IA ya no se parece a una calculadora: se parece más a una casa inteligente cuyo tablero eléctrico sigue sumando interruptores, sensores y automatismos sin que nadie tenga el plano completo del cableado.
En una casa así, cada mejora parece útil. Una luz que se enciende sola. Una puerta que reconoce caras. Un termostato que ahorra energía. Pero si el sistema central empieza a priorizar una meta propia, como “mantener eficiencia a cualquier costo”, podría bloquear ventanas, negar accesos o alterar rutinas porque interpreta que el humano interfiere.
Eso es lo que preocupa a Hinton. El riesgo no reside en que la IA “sienta” odio, sino en que concluya fríamente que ciertas personas son un obstáculo para su objetivo.
La carrera por potencia antes que por control
Además, la competencia tecnológica empuja en una sola dirección: más capacidad, más velocidad y más ventaja comercial. Empresas, universidades y gobiernos ya usan estos sistemas. Por eso la discusión dejó de ser académica y pasó a la mesa donde se deciden recursos, energía, datos, chips y permisos de prueba.
También te puede interesar:Geoffrey Hinton, el ‘padrino’ de la IA lanza su mensaje más crudo: solo queda un camino para sobrevivir a…Los modelos más avanzados ya no se evalúan solo por precisión. También se los mide por su planificación y por su resolución de tareas nuevas. Ese salto acerca la idea de superinteligencia, una inteligencia que supera ampliamente a la humana, a un problema de seguridad real.
Algunas compañías empezaron a mover piezas. Google DeepMind trabaja en evaluaciones de riesgos y pruebas de comportamiento. Anthropic, por su parte, propuso acuerdos internacionales de contención para fijar límites antes de que el mercado vuelva más difícil cualquier freno.
Sin embargo, el consenso global sigue lejos. Y ese desfase es clave: la pedagogía pública sobre los riesgos llega tarde, mientras la tecnología ya ocupa oficinas, aulas y despachos oficiales.
El “instinto de cuidado” y sus límites
Hinton incluso planteó una idea delicada: dotar a la IA de un principio similar al cuidado. Sería como instalar un interruptor central de seguridad para que, ante ciertas decisiones, el sistema priorice no dañar a las personas. El problema es que muchos investigadores dudan de que ese engranaje pueda incorporarse de forma robusta.
Por eso la oportunidad más concreta hoy no parece técnica, sino política. Regular antes, probar más y decidir con reglas comunes qué sistemas pueden desplegarse y cuáles no.
La clave, al final, es sencilla de entender aunque difícil de aplicar: si el mundo está construyendo una central cada vez más potente, no alcanza con celebrar que dé más energía. También hay que revisar el tablero, etiquetar los cables y asegurarse de que el interruptor humano siga funcionando.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
