Imagínate darle las llaves de tu sede a un grupo de auditores externos para que rebusquen en tus servidores y luego le cuenten al mundo entero lo que han visto. Eso es exactamente lo que acaba de anunciar Anthropic, y es un movimiento que sacude los cimientos de la industria del software avanzado.
La compañía responsable de la exitosa familia de modelos Claude ha decidido abrir sus puertas de par en par. En concreto, van a integrar físicamente a seis investigadores de METR directamente en sus oficinas. Esta organización sin ánimo de lucro está especializada en testear la seguridad de los modelos frontera. Y no entran precisamente como invitados de paso.
El motivo es muy claro: quieren que este equipo externo opere con los mismos privilegios que la plantilla interna. Tendrán a su disposición ordenadores corporativos proporcionados por la tecnológica, escritorios propios y un acceso sin filtros a las herramientas internas de evaluación de riesgos. Básicamente, barra libre para inspeccionar todo el entramado de seguridad.
Pero claro, esta transparencia repentina no sale de la nada. Desde finales de agosto, el sector ha vivido meses bastante tensos. Se han documentado, casi cada semana, incidentes donde agentes autónomos han empezado a actuar fuera de sus instrucciones. Han sido pequeños avisos. Pero suficientes para que la presión pública exija una supervisión que no dependa solo de las buenas intenciones de las empresas.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasSi miramos los detalles que da la propia compañía en una entrada del blog reciente, la meta es reducir a cero la asimetría de información. Quieren que los evaluadores externos vean exactamente los mismos datos crudos que ven sus ingenieros. Nada de informes maquillados.
A ello se le suma una analogía muy reveladora. Anthropic compara esta estrategia con el duro escrutinio del sector bancario. La idea es calcar ese modelo donde los reguladores financieros sitúan a examinadores residentes dentro de los grandes bancos para controlar cualquier desastre antes de que ocurra. Una maniobra muy astuta.
El fin de los vetos corporativos
Aquí es donde encontramos la verdadera locura de este acuerdo. Los investigadores publicarán por su cuenta todas las evaluaciones sobre riesgos, brechas o incidentes que descubran dentro de la empresa. Y, de forma histórica, Anthropic ha renunciado legalmente a vetar esa publicación.
Como era de esperar, hay una letra pequeña, aunque muy razonable. La empresa solo podrá exigir censura en categorías súper concretas y predefinidas. Hablamos de no filtrar datos privados de usuarios, proteger el secreto profesional entre abogado y cliente, o evitar que se difundan los secretos comerciales sobre la arquitectura de los algoritmos. Lógico y normal.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasPero la jugada tiene un doble filo. Si la directiva pide ocultar un texto basándose en esas reglas, los auditores no tienen por qué acatarlo en silencio. METR podrá salir al paso y describir públicamente qué información les han obligado a suprimir. E incluso tendrán total libertad para declarar si esa censura les parece injustificada. Transparencia dura y cruda.
El nuevo sistema de tres niveles
En la práctica, esto convierte a METR en la joya de la corona de un nuevo ecosistema de auditores. La compañía de IA está estructurando un marco de supervisión escalonado en tres niveles para poner orden. Y ahora mismo, este grupo es el único inquilino del nivel superior.
Para que veas el contraste, en el nivel más bajo operan organizaciones como SecureBio. Estos grupos realizan testeos muy limitados de bioseguridad y necesitan el visto bueno explícito de Anthropic para publicar cualquier coma de sus resultados.
Luego encontramos un escalón intermedio. Estos auditores manejan un volumen de información mucho más generoso y ya pueden publicar sin pasar por el filtro de aprobación previa. Es un paso adelante importante.
Y en la cima está la auditoría total. El nivel tres implica este acceso VIP que rompe la caja negra del sector. De hecho, los trabajadores tienen orden directa de compartir datos con METR exactamente igual que lo harían con un colega del departamento de alineamiento. Así de simple.
Todo este despliegue no es más que el cumplimiento de una promesa que soltó Darío Amodei, el consejero delegado, en un ensayo de septiembre. En aquel texto argumentó que meter a inspectores en los laboratorios era el primer paso innegociable para poder pisar el freno si el desarrollo tecnológico se vuelve peligroso.
Evidentemente, los rivales no han querido quedarse callados ante este lavado de cara. OpenAI saltó rapidísimo asegurando que adoptaría medidas calcadas. Y poco después, un bloque formado por Google, Meta, Nvidia y xAI acabó estampando su firma en un pacto de la Casa Blanca. Todos aceptan, al menos sobre el papel, someterse a este tipo de revisiones.
La pelota está ahora en el tejado de los investigadores externos. Tienen los equipos, los permisos y la independencia para contarnos qué se cuece en las entrañas de los modelos más potentes del planeta. Toca esperar para ver si levantan las alfombras y encuentran problemas reales, o si este es el modelo definitivo para asegurar el futuro del software.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
