Por Qué los LLM Alucinaron Más en 2025: GPT‑5, Techo Técnico y Crisis del Escalado Infinito

Para el 2025, la AGI se convirtió en la “Idea del Año” más por su ausencia ruidosa que por logros concretos. Silicon Valley volcó miles de millones en esa expectativa, con un gran anuncio esperado para 2026 que alimenta un tono casi mesiánico en la industria.

En este tablero aparecen nombres propios que empujan en direcciones distintas: DeepMind y Demis Hassabis como cara científica y optimista, y críticos como Gary Marcus, François Chollet, Ramón López de Mantarás y Melanie Mitchell, que señalan el mecanismo detrás del entusiasmo: un objetivo móvil que se desplaza cada vez que la tecnología no llega.

Gary Marcus afirma sentirse reivindicado: el escalado, es decir, hacer modelos cada vez más grandes con más datos y más GPUs (chips para cálculos masivos), entró en rendimientos decrecientes. Incluso compara a OpenAI con “el WeWork de la IA”, una valoración inflada desconectada de la realidad técnica. Según su mirada, GPT‑5 llegó tarde y fue decepcionante.

Ahora bien, la paradoja no es solo financiera. Un informe interno de Apple, “The illusion of thought” (2025), sostiene que los chatbots actuales fallan en problemas lógicos simples. Es el mismo sistema que escribe un poema perfecto y, minutos después, no puede sostener una cadena básica de razonamiento.

La analogía doméstica ayuda a ver el engranaje: hoy la IA se parece a una casa con luces automáticas que a veces iluminan como un estadio, pero tienen el cableado suelto en habitaciones clave. Enciende y apaga con rapidez, pero no “entiende” la casa.

Ese “encendido rápido” es lo que Hassabis llama Sistema 1 (respuesta veloz e intuitiva, propensa a errores y “alucinaciones”). Y eso es, en gran medida, ChatGPT, Claude o Gemini: modelos de lenguaje (LLM, programas que predicen la siguiente palabra) muy buenos completando texto por probabilidad.

El problema es el interruptor que falta: el Sistema 2 (lento, deliberativo, planificador), el que revisa, calcula y duda. Hassabis sostiene que una AGI real va a necesitar ese segundo modo para no confundir fluidez verbal con pensamiento.

La pieza clave: del “cerebro en una cubeta” a la IA con ojos y manos

Shane Legg, cofundador de DeepMind, describe una “meseta engañosa”. No hay fuegos artificiales para el público, pero se prepara un cambio: integrar robótica, visión y código. Dicho simple: sacar a la IA del escritorio y darle percepción y acción, “ojos y manos”, para que aprenda del mundo físico.

Legg pone una cifra que funciona como reloj de cocina: 50% de probabilidad de una AGI mínima para 2028. Para él, sería un sistema capaz de aprender cualquier tarea cognitiva humana, no solo trucos de examen.

Del otro lado, Chollet advierte que los LLM son ineficientes: necesitan cantidades descomunales de datos para aprender lo que una persona capta con pocos ejemplos. Los define como “bases de datos de conocimiento cristalizado”, no como inteligencia fluida. Y Mitchell agrega que falta memoria episódica (recuerdo de experiencias), integración de modalidades (ver, oír, tocar) y metacognición (pensar sobre lo que se sabe).

En paralelo, DeepMind exhibe una prueba de utilidad sin mística: AlphaFold, un algoritmo que predice el plegamiento de proteínas, ganó el Nobel de Química 2024 y Hassabis lo comparó con el “telescopio Hubble de la biología”. No “imagina” por estilo: predice estructuras reales con enorme precisión y jubiló décadas de trabajo manual.

La aplicación práctica de este choque de narrativas es concreta. Si la AGI tarda, el riesgo inmediato no es Skynet. Marcus alerta sobre “la manguera de la falsedad”: una inundación de contenido sintético plausible que erosiona la confianza pública y vuelve frágil a la democracia.

Y, sin embargo, también hay oportunidad: si el Sistema 2 llega, la apuesta de Hassabis es usarlo para nudos que el cerebro humano no resuelve a tiempo, como clima, Alzheimer o fusión. La moneda sigue en el aire, pero el cableado ya se ve: menos fe, más ingeniería.