Pioneros de la IA Defienden la Apertura de Modelos Frente a los Riesgos de Seguridad

Pagar decenas de millones de dólares por entrenar un modelo fundacional para luego regalar sus tripas en internet suena a locura comercial. Pero es la realidad técnica y empresarial que hoy define al sector tecnológico mundial.

En la reciente conferencia Ai4 de Las Vegas, tres titanes absolutos de esta industria, Geoffrey Hinton, Fei-Fei Li y Andrew Ng, se subieron al escenario para debatir sobre el tema más espinoso del momento. Hablamos de la explosión de los modelos de pesos abiertos. Y, aunque los tres defienden mantener cierto grado de apertura para no frenar la ciencia, las posturas sobre cómo limitar esta tecnología revelan una fractura evidente entre los que más saben de esto.

La advertencia más contundente la trajo el propio Hinton. El considerado «padrino de la IA» fue tajante al separar el clásico software libre de lo que estamos viendo hoy con los grandes lenguajes. Una cosa es compartir código fuente para que miles de programadores busquen errores, algo que considera fantástico, y otra muy distinta es publicar de golpe los parámetros de una red neuronal gigantesca ya entrenada.

La pesadilla de la seguridad y el coste cero para el atacante

Si analizamos las métricas técnicas, la preocupación tiene todo el sentido del mundo. Las grandes empresas queman cifras mareantes en hardware de NVIDIA y facturas eléctricas para entrenar un modelo competitivo. Sin embargo, al publicar esos pesos abiertamente, cualquier persona puede descargar el cerebro del sistema y readaptarlo para sus propios fines con un coste de inferencia casi nulo.

El motivo de este pánico es simple: se derriba la barrera económica para los atacantes. Hinton advirtió que facilitar este acceso permite a actores maliciosos o estados hostiles orquestar ciberataques masivos y sofisticados sin inversión previa. Un auténtico regalo envenenado.

Pero claro, el propio científico se dio inmediatamente un baño de realidad. Hinton reconoció que la expansión de los pesos abiertos ya es irreversible y ha llegado para quedarse. Por mucho que asuste a los expertos en ciberseguridad, es imposible meter al genio de vuelta en la lámpara, y asume que cualquiera tiene ahora capacidades de computación inimaginables hace un año.

A ello se le suma que su visión global sigue siendo optimista. El investigador británico da por hecho que el avance de estas redes será beneficioso, impulsando la productividad de forma salvaje y revolucionando la sanidad. Eso sí, exige que no se tache de alarmista a quien decida señalar los riesgos evidentes de crear mentes sintéticas más capaces que los humanos.

Andrew Ng y la despiadada batalla por el poder blando global

Por otro lado, Andrew Ng aterrizó el debate en un terreno mucho más económico y estratégico. Para él, obsesionarse exclusivamente con la seguridad es un error, ya que la verdadera amenaza es quién controla el grifo de la tecnología.

En la práctica, Ng teme que surjan «guardianes de acceso» formados por un oligopolio de grandes corporaciones. Si dejamos que unas pocas tecnológicas controlen la plataforma base bajo el pretexto del miedo, serán ellas quienes decidan qué aplicaciones sobreviven y quién puede innovar. Es la receta perfecta para congelar el mercado.

Y aquí entra en juego el tablero geopolítico. Ng soltó una advertencia brutal sobre la guerra fría tecnológica con Asia. Si China logra dar con un método radicalmente más barato para desarrollar inteligencia artificial, sus modelos de pesos abiertos inundarán África, Asia y los países en desarrollo.

Las consecuencias sociológicas de esto dan vértigo. Estaríamos hablando de que algoritmos diseñados en Pekín moldearían las ideas sobre democracia, libertad y derechos humanos de miles de millones de personas a través de chatbots y asistentes. Es la definición pura del poder blando del siglo XXI. Por eso, Ng acusa a los lobbies estadounidenses de usar el alarmismo para asfixiar a la comunidad open-source local.

El enfoque nuclear de Fei-Fei Li y la infraestructura mixta

Como era de esperar en un debate tan encendido, hacía falta una voz que introdujera escala de grises, y esa fue Fei-Fei Li. La investigadora rechazó la falsa dicotomía de que debamos elegir entre cerrar todo a cal y canto o abrazar la anarquía de regalar cada parámetro.

Para explicarse, Li tiró de una comparación brillante: la física nuclear. La teoría básica y los descubrimientos científicos deben publicarse en abierto para que la humanidad avance. Sin embargo, el uranio enriquecido está sujeto a controles estatales estrictos, mientras que el trabajo de laboratorio se queda en un punto intermedio. La inteligencia artificial debe imitar este formato multiescala.

Otro caso de éxito que puso sobre la mesa fue el Proyecto Genoma Humano. Fue un modelo de cooperación brutal entre instituciones públicas y privadas que creó un repositorio de conocimiento base compartido. Gracias a esa apertura inicial, la sociedad avanzó y la industria farmacéutica logró crear modelos de negocio hiperrentables. Todos salieron ganando.

La premisa final de Li es que debemos tratar a la IA como una infraestructura global, combinando la educación abierta con plataformas corporativas cerradas que garanticen el retorno económico. Así de simple.

Al final, pese a sus discrepancias técnicas sobre qué porcentaje de la tarta debería ser público, el trío de genios coincidió en lo más urgente. Habrá que aplicar regulaciones firmes para guiar el desarrollo de estos sistemas en favor de las personas. Y, como sentenció un punzante Hinton, no podemos dejar que figuras como Elon Musk o Mark Zuckerberg sean quienes decidan en solitario el destino de la especie. La pelota está ahora en el tejado de los legisladores internacionales.

Aitor Wilzig

Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.

gptzone.net