Bender y Hanna Alertan: la Burbuja de la IA Mueve 50.000 Millones y Oculta Daños Reales

¿Alguna vez leíste una respuesta de ChatGPT o Gemini y sentiste que “alguien” te estaba hablando, con intención, con criterio, casi con humor propio? Esa sensación es cotidiana. Y, justamente por familiar, puede volverse un punto ciego cuando la conversación parece demasiado humana.

Ese es el engranaje que Emily M. Bender y Alex Hanna quieren dejar a la vista en su libro La estafa de la IA. El hallazgo central, según plantean, es incómodo: lo que hoy se vende como “inteligencia artificial” funciona más como una máquina generadora de contenidos sintéticos que como una mente que comprende.

Además, las autoras sostienen que alrededor de esta tecnología se montó un mecanismo de expectativas infladas. Hablan de “trampa” y “engaño” porque, afirman, la promesa de automatización total oculta errores frecuentes, costos materiales y trabajo humano remoto y precario que mantiene el sistema andando.

“Cuando leemos un texto escrito por una IA, pensamos que hay una mente detrás, pero solo hay números”, sintetiza Bender. Ella es profesora en la Universidad de Washington y dirige un máster de Lingüística Computacional. Hanna, por su parte, trabajó en Google y hoy es directora de investigación en DAIR, el instituto fundado por Timnit Gebru.

La clave, explican, está en cómo los humanos procesan el lenguaje. Cuando uno lee en su idioma, tiende a experimentar el significado de forma directa. Se olvida de que hay forma (palabras, orden, estilo) y contenido (ideas, intención). Esa confusión es un “interruptor” mental que se activa solo.

Ahora, ¿qué hace un modelo de lenguaje grande, o LLM (programa que predice texto)? Bender lo describió con una metáfora que quedó instalada: el “loro estocástico”, es decir, un sistema que repite patrones de manera probabilística. No “entiende” lo que dice. Calcula qué palabra suele venir después, como si siguiera un cableado estadístico.

Y ahí aparece la pieza clave del engaño, según el libro: el texto suena coherente y eso nos empuja a imaginar intención. Bender subraya que, al leer, las personas también consideran creencias del autor, su objetivo y por qué eligió esas palabras. Con un sistema automático, ese “autor” no existe. Hay operaciones matemáticas sobre datos.

El costo real detrás del texto “fluido”

Hanna aporta un dato de contexto que explica la presión del mercado: en 2025, afirma, se invirtieron unos 50.000 millones de dólares en IA, el 70% de toda la inversión de capital riesgo en Norteamérica. Con ese volumen, la publicidad constante no es un detalle. Es la central que alimenta la burbuja.

Además, Bender cuestiona la promesa repetida de “mejora de la productividad” en medicina, educación, servicios legales o industria militar. La oportunidad existe, pero no es automática. Si el sistema se equivoca más de lo que se admite, el trabajo se traslada: verificar, corregir, auditar, asumir riesgos.

En paralelo, las autoras también desinflan el relato apocalíptico. Dicen que no hay razones sólidas para pensar que la IA provoque un fin del mundo. Para ellas, ese debate entre “boosters” (entusiastas) y “doomers” (catastrofistas) comparte un mismo cableado: asumir que la IA es inevitable y total, y discutir solo si será salvadora o destructiva.

La aplicación práctica, entonces, es más simple que grandilocuente. Usar estas herramientas como lo que son: generadores rápidos de borradores y patrones, no árbitros de la verdad. Pedir fuentes, contrastar datos y desconfiar cuando el texto suena perfecto. En especial en temas sensibles como salud, trámites legales o decisiones educativas.

Porque, si el truco es que el lenguaje nos hace imaginar una mente, el antídoto es doméstico: apagar ese interruptor por un segundo, mirar el mecanismo y recordar que, detrás de la voz, no hay conciencia. Hay números. Y el futuro —insiste Bender— todavía no está escrito.