Experto Yoshua Bengio Advierte que la IA Podría Superar Nuestra Capacidad de Supervisión

¿Te subirías a un auto nuevo si el fabricante admitiera que acelera cada vez mejor, pero todavía no sabe dónde está el freno de emergencia? Esa sensación, tan doméstica y concreta, es la que hoy rodea a una parte central de la inteligencia artificial.

El hallazgo no sale de una voz marginal. Lo plantea Yoshua Bengio, uno de los pioneros del aprendizaje profundo, la técnica que permitió a la IA aprender patrones a gran escala. Su advertencia es directa: la capacidad de estos sistemas crece más rápido que los mecanismos para controlarlos.

Además, el problema no nace solo en los laboratorios. La presión llega de inversores, clientes, contratos, competencia y hasta de la carrera por chips, el hardware que funciona como la central eléctrica de esta industria. Cuanto más útil se vuelve la IA, más fuerte es el incentivo para lanzar primero y revisar después.

“Estamos construyendo algo que podría volverse extremadamente poderoso y que no sabemos controlar”, advierte Bengio. La frase resume una grieta que inquieta a buena parte de la comunidad científica: se están desarrollando herramientas avanzadas antes de contar con un interruptor confiable para detenerlas si algo sale mal.

La analogía más clara es la de una casa que suma artefactos inteligentes a toda velocidad. Primero se instala una cerradura automática. Luego el termostato, las cámaras, las persianas y un asistente que coordina todo. El sistema se vuelve cómodo y eficiente, pero también más difícil de apagar si el cableado central falla.

Eso mismo ocurre con la IA. Hoy ya puede escribir código, persuadir con lenguaje natural y coordinar herramientas externas. La pieza clave ya no es solo lo que la máquina sabe hacer, sino quién revisa el cableado antes de conectarla a la vida real.

El mercado como acelerador

En este engranaje, la lógica industrial empuja hacia adelante. Si un laboratorio percibe que un rival está cerca de sacar una mejora visible, puede sentirse tentado a acortar revisiones de seguridad. Esa cultura de “lanzar y corregir después”, habitual en software, se vuelve mucho más riesgosa cuando se aplica a sistemas con capacidad de actuar, decidir o asistir en tareas sensibles.

Y ahí aparece otra clave. Los riesgos no quedan encerrados en una pantalla. Bengio y otros expertos señalan usos de doble filo: ciberataques, manipulación política, agentes autónomos, es decir, programas que operan solos, y ayuda para atacar infraestructuras críticas. La profesionalización del cibercrimen con IA ya muestra que el salto del laboratorio a la amenaza real puede ser corto.

La infraestructura también pesa. Los chips avanzados, el talento especializado y los acuerdos con gobiernos se convirtieron en recursos estratégicos. No se disputa solo una innovación: se disputa poder. Y cuando esa competencia se intensifica, la seguridad corre el riesgo de pasar de obligación a promesa.

Qué se propone antes de que sea tarde

Parte del sector ya plantea medidas concretas. Entre ellas aparecen auditorías externas, pruebas compartidas y límites a ciertos entrenamientos, el proceso de enseñar a un modelo con enormes volúmenes de datos. La idea es sencilla: no dejar que cada empresa sea juez y parte de su propio sistema.

Sin embargo, esas propuestas chocan con intereses comerciales y geopolíticos. Ningún país o empresa quiere perder ventaja. Por eso, varios especialistas insisten en transformar las pruebas de seguridad en reglas obligatorias y no en compromisos voluntarios.

Bengio no pide apagar la investigación. Señala otra cosa: poner normas antes de que esta tecnología quede integrada de forma invisible en la rutina diaria, desde el trabajo hasta la escuela o los servicios públicos. La oportunidad sigue ahí, pero también el riesgo de construir una casa cada vez más sofisticada sin revisar antes dónde está la llave general.

La confianza en la IA, entonces, no debería depender solo de lo que prometan sus fabricantes, sino de la solidez del mecanismo que permita frenarla a tiempo.

Sofía Sicilia

Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.