¿Te has dado cuenta de que las grandes empresas de inteligencia artificial han pisado el freno de golpe? Tras una época de lanzamientos frenéticos, la cautela se ha instalado en Silicon Valley. Y el mejor ejemplo lo tenemos hoy sobre la mesa. Anthropic ha decidido guardar bajo llave su nueva creación, conocida internamente como Model 2. No lo vas a poder usar. Así de claro.
La confirmación de este bloqueo temporal llega directamente desde un documento técnico confidencial, según la propia compañía, donde desmenuzan las métricas y los miedos asociados a sus últimos avances tecnológicos.
Y el motivo principal es bastante revelador: los directivos consideran que el sistema es demasiado potente para liberarlo al público general. Ojo, la empresa asegura que tras sus primeras pruebas no han detectado un riesgo inminente de provocar daños graves globales. Sin embargo, prefieren actuar con pies de plomo.
En concreto, este escurridizo Model 2 ofrece una mejora más que apreciable en multitud de tareas internas, superando con creces la solidez del actual Mythos 5. Aunque desde Anthropic avisan que el salto cualitativo puro de inteligencia no es tan brutal como el que supuso Mythos Preview en su día, sí marca una diferencia operativa. Una auténtica locura si lo piensas.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasLa trastienda: Claude ya programa su propio futuro
De puertas para adentro, la historia es fascinante y hasta un poco inquietante. Anthropic está exprimiendo intensivamente tanto Mythos 5 como Model 2 para optimizar su propio funcionamiento corporativo. Los usan sin descanso para ingeniería de software compleja, pipelines de generación de datos y, lo más interesante, para sostener agentes de IA persistentes que viven integrados en sus flujos de trabajo.
Pero lo más llamativo de todo esto es saber quién está picando el código realmente en la oficina. A día de hoy, Claude ya escribe la inmensa mayoría del código de software que termina subiéndose a los repositorios de producción definitivos de Anthropic. El equipo humano supervisa la arquitectura, pero la máquina construye los cimientos.
Básicamente, aunque este modelo estrella no haya salido al mercado ni vaya a estar en tu móvil pronto, ya está contribuyendo de forma directa al desarrollo de los próximos grandes productos. Y su alcance va mucho más allá del simple texto o el picado de código. Los sistemas internos están acelerando activamente la investigación de Anthropic en campos durísimos como la robótica avanzada, los nuevos descubrimientos en biotecnología, las redes de energía o el complejo diseño de semiconductores. El impacto es monumental.
El colapso de los ‘benchmarks’ y el miedo a lo desconocido
Pero la letra pequeña asusta un poco a los ingenieros encargados de auditar estas redes. ¿Cómo mides la peligrosidad de algo que supera tus herramientas de medición? Desde la cúpula de Anthropic han reconocido tener cada vez menos confianza a la hora de extraer conclusiones claras sobre los riesgos reales de sus modelos más modernos.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasY es que gran parte de sus evaluaciones de seguridad se han quedado simplemente obsoletas. Las métricas clásicas y los benchmarks del sector están saturados. La IA ha mejorado tanto y tan rápido que estas pruebas estáticas ya aportan muy poca información útil sobre su verdadero límite cognitivo. La máquina ni se inmuta al resolverlas.
Como era de esperar, al no tener previsto un lanzamiento comercial a corto plazo, la compañía ni siquiera se ha molestado en pasarle toda la batería completa de tests de estrés a Model 2. Simplemente no compensa el gasto de cómputo.
Si miramos los números del departamento de seguridad, hay un detalle que justifica esta parálisis. Durante la fase de aprobación para uso interno, comprobaron que Model 2 no estaba peor alineado moralmente que Mythos 5, pero la estimación del riesgo de desalineamiento en escenarios de alto impacto pasó de ser «muy bajo» a catalogarse como «bajo». En la jerga de la seguridad algorítmica, esto enciende todas las alarmas.
A ello se le suma la psicosis general por la incertidumbre que han generado los recientes incidentes de ciberseguridad, los cuales han sacudido tanto a las infraestructuras de la propia Anthropic como a las de OpenAI. Ese miedo a filtraciones pesa toneladas ahora mismo en las mesas de los inversores.
Un dilema que paraliza a toda la industria
Por si fuera poco, no son los únicos con sudores fríos en el sector tecnológico. OpenAI también está retrasando indefinidamente el lanzamiento de Astra, su tan esperado modelo de próxima generación. ¿La razón oficial? Exactamente la misma. Sus ingenieros no han logrado descartar de forma fiable que el sistema sea excesivamente capaz a la hora de ejecutar y planificar ataques de ciberseguridad.
Evidentemente, las reglas del juego para las empresas de inteligencia artificial han cambiado para siempre. Hemos dejado atrás esa fase salvaje donde una start-up entrenaba un LLM de cientos de miles de millones de parámetros y lo lanzaba a la red casi sin red de seguridad para ver qué pasaba.
Ahora, toda la industria ha tenido que instaurar una densa y tediosa fase de evaluación posterior al entrenamiento. Su único objetivo es determinar con exactitud hasta dónde puede llegar la máquina de forma autónoma y decidir si de verdad compensa desplegarla en servidores públicos. Anthropic admite de forma honesta que ni Mythos 5 ni Model 2 van a sustituir a sus investigadores top hoy, pero ven plausible que los futuros sistemas se dediquen en exclusiva a entrenar y mejorar a la siguiente generación de modelos sin ayuda.
Nos acercamos a un cuello de botella industrial inédito y fascinante. Resulta imperativo crear nuevas metodologías para garantizar que estas inteligencias artificiales no sobrepasarán las líneas rojas de seguridad antes de abrirlas al mundo. Mientras no exista un termómetro exacto para medir ese peligro, la tecnología más avanzada de nuestra era seguirá confinada en servidores locales aislados. Veremos si la competencia aguanta la presión o si el mercado les obliga a soltar la correa antes de tiempo.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
