Parecía que nunca iba a llegar el momento, pero los gigantes tecnológicos empiezan a mirarse al espejo. Google y su joya de la corona, Google DeepMind, acaban de pisar el freno mediático para presentar algo insólito: el DeepMind Institute. Su objetivo principal no es lanzar un nuevo modelo que destroce benchmarks de rendimiento, sino abrir un debate descarnado sobre cómo vamos a sobrevivir a la Inteligencia Artificial General (IAG). Casi nada.
Y es que el motivo de este movimiento es bastante transparente: los propios creadores asumen que no tienen todas las respuestas en la mano. Este nuevo organismo de debate estará capitaneado por auténticos pesos pesados de la industria. Hablamos del cofundador de DeepMind, Shane Legg (que ejercerá el rol de editor jefe), el ejecutivo de Google James Manyika y el archiconocido presidente de Google DeepMind, Demis Hassabis. La premisa es recopilar las posturas de la comunidad investigadora mundial, asumiendo algo inaudito en Silicon Valley. Saben perfectamente que van a chocar entre ellos y que sus opiniones mutarán con la llegada de cada nuevo dato.
Las cajas negras y el miedo a perder el control
Si echamos un vistazo a su primera hornada de publicaciones, notaremos que la densidad técnica es altísima. Han liberado una colección de cuatro textos que no dejan a nadie indiferente. Abarcan desde políticas económicas para frenar una posible disrupción masiva del empleo por culpa de la IAG, hasta los principios éticos para garantizar el florecimiento humano. Pero donde realmente han puesto el dedo en la llaga es en la supervisión técnica de estos monstruos de silicio.
En este sentido, los investigadores de seguridad Rohin Shah y Anca Dragan firman un ensayo que va directo a la yugular de los ingenieros de machine learning. Advierten, sin paños calientes, que las nuevas arquitecturas de hardware y software están dificultando horrores la vigilancia de los modelos más potentes. Sostienen, sin embargo, que la pérdida de transparencia no es un destino inevitable. Una advertencia muy seria.
Básicamente, nos exigen que no nos rindamos ante cajas negras inescrutables. Los autores proponen limitar legalmente lo que han bautizado como «profundidad serial opaca». Es decir, quieren restringir la cantidad brutal de computación secuencial que un modelo puede ejecutar sin generar un rastro de razonamiento que un auditor humano pueda leer. Si tu modelo no es transparente, tendrás que demostrar por la fuerza bruta que sigue siendo supervisable. Así de claro.
El «carnet por puntos» que propone Hassabis
Pero claro, la teoría sin aplicación práctica suele quedarse en papel mojado. Por eso, el propio Demis Hassabis ha puesto sobre la mesa la creación de un organismo de estándares liderado por Estados Unidos para someter a un juicio severo a la IA de frontera. En su ensayo, el presidente de la compañía dibuja un escenario regulatorio implacable. Plantea que los laboratorios presenten inicialmente sus sistemas de forma voluntaria para una revisión exhaustiva hasta 30 días antes de lanzarlos al mercado.
Como era de esperar, la idea a largo plazo es que esto deje de ser un mero trámite opcional. Si este sistema de evaluación demuestra su eficacia, pasar por el aro de este organismo se convertiría en un requisito indispensable para poder operar y comercializar en suelo estadounidense. Y aquí viene lo realmente interesante del asunto: el diseño de los exámenes. Al principio colaborarían con las empresas de IA para crearlos, pero luego la agencia utilizaría evaluaciones secretas, independientes y muy agresivas.
A este tipo de pruebas no divulgadas se las conoce en el mundillo como held-out. Una auténtica jugada maestra. Con estos test ocultos, se busca impedir a toda costa que los laboratorios adapten el entrenamiento de sus modelos para aprobar exámenes ya filtrados. Quieren certificar un rendimiento seguro y real, no tolerar a empresas que simplemente venden humo a los políticos de turno.
¿Frenazo coordinado? El pánico llega a los laboratorios
Evidentemente, todo esto refleja un cambio de paradigma bestial dentro de la industria algorítmica. El debate sobre la seguridad está madurando a un ritmo vertiginoso. Hemos pasado de firmar cartas abiertas llenas de preocupaciones vagas a exigir transparencia dura, auditorías externas de terceros y un marco legal estricto. La situación es tan límite que el propio Hassabis plantea endurecer todo el marco de forma drástica si las salvaguardas no logran avanzar al mismo ritmo que los FLOPS de computación.
Por si fuera poco, en los despachos ya se habla abiertamente de forzar ralentizaciones coordinadas entre los principales desarrolladores. Y esta tendencia de pisar el freno no es una rabieta aislada de Google. Esta misma semana, varios popes del sector han respaldado partes de la sonada petición de Dario Amodei, CEO de Anthropic, para moderar deliberadamente la velocidad a la que se crían estas redes neuronales. Parece que la fiebre por sacar el modelo definitivo cada martes empieza a dar vértigo.
Tocará esperar para ver si el resto del sector responde a este guante lanzado por la gran G o si todo se acaba diluyendo en un simple lavado de cara corporativo. Lo que está fuera de toda duda es que el salvaje oeste de la IA empieza a pedir sheriffs a gritos. La pelota está ahora en el tejado de los reguladores norteamericanos, y el reloj hacia la inminente IAG no perdona.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
