Base Labs Impulsa la Seguridad de la IA Abierta con Hugging Face y Goodfire

Imagina soltar un modelo de lenguaje potentísimo en internet y que, en apenas unas horas, un usuario anónimo le arranque de cuajo todas sus medidas de seguridad ética. Pues bien, esto no es ciencia ficción, ya ha sucedido miles de veces. Esta es la cruda realidad técnica a la que ahora se enfrentan Baseten, el enorme repositorio de Hugging Face y la start-up Goodfire AI con un nuevo frente común para intentar poner orden en la industria.

Y es que el panorama actual del código abierto tiene un reverso bastante salvaje que pocos ven venir. Hablamos de la «abliteración», una técnica avanzada de manipulación de pesos que está creciendo a un ritmo totalmente vertiginoso en foros especializados. Básicamente, consiste en operar matemáticamente un modelo para extirparle su capacidad de negarse a responder a ciertas peticiones maliciosas. Le quitan el filtro corporativo. Una auténtica locura.

Si nos fijamos en los datos duros, la tendencia asusta bastante a los inversores que meten dinero en inteligencia artificial. Actualmente, en los servidores de Hugging Face descansan más de 6.000 modelos abliterados listos para ser descargados gratuitamente por cualquiera. Son sistemas de IA alterados que te contestarán a lo que sea, sin filtros de toxicidad y sin importar lo destructivo que sea el prompt que introduzcas en la terminal. Ni se inmutan.

La ambiciosa alianza para reescribir la seguridad desde cero

Precisamente para atajar esta sangría técnica, Baseten acaba de dar un puñetazo sobre la mesa junto a Base Labs, su recién estrenado brazo de investigación independiente. Su gran objetivo es lanzar un nuevo estándar de infraestructura de seguridad diseñado exclusivamente para los modelos de pesos abiertos. Quieren que los controles éticos se integren profundamente en el mismísimo proceso de entrenamiento y despliegue del pipeline. Nada de parches superficiales que saltan por los aires al primer intento.

A ello se le suma el papel fundamental que jugará Goodfire AI en toda esta compleja arquitectura de software. Si te mueves en el sector del hardware y la inferencia, sabrás que esta compañía es especialista en iluminar la famosa «caja negra» de la IA. Se dedican en cuerpo y alma a desentrañar exactamente cómo un LLM procesa los datos y por qué acaba tomando una decisión u otra. Es decir, van a traducir teorías abstractas de seguridad en sistemas de monitorización transparentes y cien por cien prácticos.

Pero claro, la letra pequeña del asunto es que nos falta conocer el «cómo» exacto. Hasta el momento de redactar estas líneas, las empresas implicadas no han soltado prenda sobre los detalles técnicos de la colaboración. El manifiesto fundacional anunciado hace unas horas en la red social X suena estupendo a nivel estratégico, pero la comunidad de desarrolladores es profundamente escéptica por naturaleza y exige ver el código fuente cuanto antes.

Cifras mareantes para defender el modelo abierto frente al hermetismo

Evidentemente, si de algo no carecen estas compañías para llevar a cabo una tarea tan titánica es de músculo financiero puro y duro. Baseten, que factura a destajo como uno de los grandes proveedores de inferencia en la nube, captó nada menos que 1.500 millones de dólares en una histórica ronda Serie F el pasado mes de junio. Ese brutal movimiento de capital disparó su valoración hasta unos increíbles 13.000 millones.

Por si fuera poco, sus socios de aventura no se quedan atrás en cuanto a liquidez en el banco. A principios de este mismo año, Goodfire cerró una agresiva Serie B de 150 millones de dólares capitaneada por el fondo de inversión B Capital. Cuentan con recursos de sobra para financiar herramientas que evalúen y auditen estos modelos pesados sin que el rendimiento en TOPS o la latencia se vean mínimamente afectados.

En el fondo de la cuestión, el discurso de la directiva de Baseten es una defensa a ultranza de la filosofía open-source. Argumentan con contundencia que tener un ecosistema abierto supone una grandísima ventaja para la seguridad global. Al poder auditar cada peso y parámetro de forma libre, resulta muchísimo más sencillo detectar vulnerabilidades ocultas que en las arquitecturas cerradas a cal y canto de sus competidores.

Por este motivo tan concreto, han lanzado una llamada a filas a todos los actores de la industria tecnológica. Piden a los programadores independientes y a los ingenieros de machine learning que arrimen el hombro para forjar juntos este nuevo estándar. Buscan construir herramientas sólidas que sigan siendo accesibles, democratizando la IA pero sin jugársela con la seguridad.

La pelota está ahora en el tejado de esta alianza de titanes tecnológicos. Prometer seguridad «por diseño» es un discurso muy atractivo para vender a los fondos de capital riesgo, pero evitar que la incansable comunidad hacker encuentre una nueva grieta para eludir los controles será su verdadero examen final. Tocará seguir de cerca sus próximos repositorios en GitHub para comprobar si realmente logran domar a la bestia de la IA sin ponerle pesadas cadenas.

Aitor Wilzig

Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.

gptzone.net