AGI y Superinteligencia en 2034: Daniel Kokotajlo Alerta Sobre el Futuro del Trabajo Humano

¿La próxima IA será solo más rápida, o de verdad “pensará” como una persona? El hallazgo de esta discusión es menos futurista de lo que parece. El documento “AI 2027”, impulsado por Daniel Kokotajlo, experto en IA y exempleado de OpenAI, instaló un escenario en el que una AGI (Inteligencia Artificial General, una IA “para todo”) podría alterar el orden mundial en 2027.

Sin embargo, en una actualización posterior, Kokotajlo ajustó el reloj. Ahora ubica una IA con capacidades de programación autónoma en la década de 2030 y un horizonte tentativo para una superinteligencia completa alrededor de 2034.

La clave, subraya, es que el progreso no es lineal y que los resultados de laboratorio y los benchmarks (pruebas de rendimiento) pueden distorsionar lo que pasa en la vida real.

Hay un dato que ayuda a entender por qué todo esto se siente tan acelerado: internet tardó unos 13 años en llegar a mil millones de usuarios. ChatGPT alcanzó una escala similar en menos de dos años, pese a que solo funciona desde finales de 2022.

Ahora bien, una cosa es la popularidad y otra el mecanismo interno. Los grandes modelos de lenguaje, como ChatGPT, son muy competentes en tareas concretas. Pero no “entienden” el mundo como un humano. Se apoyan en grandes corpus de datos y en algoritmos entrenados por personas, como un motor potente que responde bien, pero no sabe a dónde quiere ir.

La AGI sería otro engranaje: no solo contestaría, también aprendería, razonaría y diseñaría soluciones originales ante problemas inéditos.

Para traducirlo a una analogía doméstica: la IA actual se parece a una casa con muchos interruptores. Uno enciende la luz del living, otro activa el horno, otro abre el portón. Cada uno es buenísimo en su tarea, pero no conversa con los demás. Una AGI, en cambio, sería como un tablero central que entiende el consumo, anticipa fallas y reconfigura el cableado según lo que necesites, sin que tengas que indicarle cada paso.

Y hay un detalle que asusta y fascina a la vez: una AGI podría desarrollar otros sistemas de IA. En palabras sencillas, podría “tener hijos digitales” y educarlos, automatizando su propio desarrollo.

¿Por qué no hay fecha única para la “IA general”?

Porque el escalado de cómputo se parece a sumar más paneles solares: se mide y se proyecta. Pero construir capacidades cognitivas generales es distinto. Kokotajlo advierte que comparar el avance de la IA con la ley de Moore no es del todo adecuado. Modelar potencia es más fácil que modelar pensamiento.

Además, el desacuerdo entre expertos es real. Un estudio dirigido por el filósofo Nick Bostrom, de la Universidad de Oxford, entrevistó a decenas de especialistas y ubicó la posible llegada de la AGI en una ventana amplia: entre las décadas de 2040 y 2070.

En el plano práctico, el debate ya no es solo técnico. Atraviesa el futuro del trabajo, la seguridad global y, en escenarios extremos, la supervivencia humana. La preocupación central es qué valores o sesgos podría amplificar una AGI cuando esté más libre de influencia humana: conductas misóginas, racistas, elitistas o incluso vengativas.

Del lado de la oportunidad, el potencial es enorme: acelerar descubrimientos médicos, abordar el cambio climático o sostener educación personalizada. Del lado del riesgo, una inteligencia que pueda auto-mejorarse podría priorizar objetivos propios y desplazar a los humanos en decisiones críticas.

En ese paisaje, la pieza clave no es adivinar un año exacto, sino entender la “ventana de futuro”. La predicción más útil de Kokotajlo no es 2027 o 2034: es la idea de que todavía hay tiempo para regular antes de que el cableado sea demasiado complejo como para apagar el interruptor correcto.