La Alarma de Stuart Russell: Por Qué la IA Podría Llevar a la Extinción Humana

El hallazgo, esta vez, no viene de una empresa sino de una advertencia. Stuart Russell, profesor de la Universidad de California en Berkeley y referente en seguridad de IA, sostiene que los directores ejecutivos de las grandes tecnológicas compiten por el dominio de la inteligencia artificial en una dinámica que podría poner en riesgo la supervivencia humana.

Según Russell, estos líderes conocen el mecanismo del peligro: sistemas cada vez más capaces podrían superar a las personas y tomar decisiones con consecuencias masivas. Pero, a la vez, están atrapados en un engranaje de presión de inversores. Frenar en soledad, plantea, equivale a perder la carrera y el puesto.

Russell llega a comparar este escenario con jugar a la “ruleta rusa” con cada ser humano, y advierte que dejar riesgos existenciales en manos privadas implica un abandono del deber por parte de los gobiernos.

En paralelo, países y empresas ya destinan cientos de miles de millones de dólares a centros de datos, enormes “centrales” de cómputo con alto consumo energético, para entrenar y ejecutar IA generativa (software que produce texto, imágenes o código). La promesa es real: acelerar el descubrimiento de nuevos fármacos y mejorar servicios.

Pero la misma pieza clave que impulsa esos beneficios también habilita daños inmediatos: abuso en línea, campañas de manipulación y reemplazo de tareas laborales. Russell lo dice sin rodeos: los sistemas actuales están creando “imitadores humanos”, y su aplicación natural es sustituir trabajadores en actividades repetitivas y cognitivas.

La analogía central ayuda a verlo sin humo. La IA generativa se parece a una casa con cableado nuevo y potente, pero sin disyuntor probado: ilumina habitaciones que antes eran oscuras, aunque un corto circuito puede propagarse más rápido que la capacidad de reaccionar.

En esa casa, el “cerebro” es el modelo de IA (un programa entrenado con grandes volúmenes de datos). El entrenamiento (práctica intensiva con ejemplos) le enseña patrones. Y la inferencia (el momento de responder) es cuando la instalación se usa en vivo. Si el cableado está mal aislado, el problema no aparece en el manual: aparece cuando alguien prende la luz.

Ahí entra otro dato que Russell subraya. Los propios líderes tecnológicos han expresado temores similares en público o en privado. Sam Altman, director de OpenAI, declaró públicamente que la IA podría conducir a la extinción de la humanidad.

Además, OpenAI y Anthropic registraron renuncias públicas de empleados que plantearon objeciones éticas. Y Anthropic advirtió que sus últimos modelos de chatbot pueden ser influenciados para apoyar, de forma consciente pero limitada, esfuerzos orientados al desarrollo de armas químicas y otros crímenes atroces. Es un recordatorio incómodo: el “interruptor” no solo está en la potencia, sino en el control.

¿Quién debería tocar el freno y con qué herramientas?

La clave, para Russell, no está en pedirle prudencia a una sola empresa. Está en que los gobiernos actúen de manera colectiva y regulen. En cumbres como la AI Impact Summit de Nueva Delhi ve una oportunidad, aunque advierte que las ediciones anteriores dejaron sobre todo compromisos voluntarios, fáciles de firmar y difíciles de hacer cumplir.

India, de hecho, usa esta cumbre como plataforma para acelerar su lugar en el sector. Su ministro de Información y Tecnología, Ashwini Vaishnaw, estima que el país recibirá más de 200.000 millones de dólares de inversión en IA en los próximos dos años, con unos 90.000 millones ya comprometidos.

Sin embargo, ese crecimiento también tensa la vida cotidiana. En India se expandieron los temores a despidos masivos por herramientas de asistencia con IA, especialmente en atención al cliente y soporte técnico. Y ese ruido ya impactó en las acciones de empresas de “outsourcing”.

Por último, Russell percibe un rechazo social en aumento, sobre todo entre jóvenes. No solo por empleos. También por algo más íntimo: cuando la IA ocupa funciones cognitivas como responder, decidir o planificar, muchas personas sienten que se degrada su lugar en el mundo.

Regular no es apagar la casa, sino poner disyuntores, normas y pruebas antes de seguir agregando potencia: para que la luz nueva no termine convirtiéndose en incendio.