Dario Amodei, CEO de Anthropic, salió a cortar de raíz un rumor incómodo. El ejecutivo afirmó que su empresa nunca defendió prohibir los modelos de open-weight, o pesos abiertos, sistemas cuyos parámetros pueden descargarse y ejecutarse con suficiente capacidad de cómputo.
Además, sostuvo que vetarlos no sería una medida útil. Su respuesta llegó en medio de una discusión más amplia en la industria, alimentada por una carta pública impulsada por Nvidia y otras grandes tecnológicas que pedía evitar restricciones prematuras sobre este tipo de modelos.
El hallazgo de fondo no está en una marcha atrás, sino en una distinción. Amodei separa dos debates que suelen mezclarse: por un lado, el valor de los modelos abiertos; por otro, la preocupación por el avance de laboratorios chinos y por técnicas como la destilación, un mecanismo por el que un modelo aprende del comportamiento de otro a base de muchas consultas.
“Los modelos open-weight sin capacidades peligrosas son un bien público”, viene a señalar Amodei. Para empresas, desarrolladores e investigadores, esa pieza clave funciona como una infraestructura compartida: no hace falta comprar la fábrica, solo tener electricidad para encender la máquina.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasLa analogía doméstica ayuda a entender el punto. Un modelo de pesos abiertos no es una casa sin paredes. Se parece más a entregar el cableado y el plano eléctrico de un edificio: cualquiera con herramientas puede encenderlo, adaptarlo o conectar nuevos aparatos.
Y ahí aparece el interruptor del debate. Si ese cableado corresponde a un sistema limitado, el beneficio puede ser grande. Pero si alimenta una central mucho más potente, capaz de ayudar en ciberataques o incluso en ataques biológicos, el problema cambia porque luego resulta muy difícil cortar la corriente.
La pieza clave: abrir no siempre es descontrolar
Amodei insiste en que no le preocupa el uso empresarial de modelos open-weight, incluso si vienen de China. Lo que sí le inquieta es otra cosa: que gobiernos autoritarios desarrollen IA más potente que la de Estados Unidos para afianzar una superioridad militar permanente o reforzar mecanismos de represión interna.
En ese mapa, fue categórico al mencionar al Partido Comunista Chino como el actor autoritario más capaz. También advirtió que los modelos abiertos pueden ser más peligrosos en ciertos escenarios porque, una vez publicados, casi no se pueden retirar, una idea apoyada por un informe del Instituto de Seguridad de IA del Reino Unido.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasEse punto choca con la visión de defensores del código abierto, que creen que abrir el acceso fortalece a quienes deben proteger sistemas y detectar abusos. Pero Amodei plantea otro mecanismo: no discutir solo si el modelo está abierto o cerrado, sino medir qué tan peligrosa es su capacidad real.
Qué propone Anthropic para la seguridad
Por eso apoya la creación de una organización global de pruebas de seguridad para modelos avanzados. Según su enfoque, esos controles deberían aplicarse a la frontera tecnológica, es decir, a los sistemas más potentes, sin importar si son abiertos, cerrados, estadounidenses o chinos.
En cambio, los modelos menos capaces, como los de startups o del ámbito académico, podrían quedar exentos. La clave sería poner la lupa en la central de mayor voltaje, no en cada enchufe de la casa.
Además, propone restringir el acceso de China a chips avanzados y reforzar las acciones contra la destilación. Washington ya ha amenazado con sanciones si se confirma el robo de propiedad intelectual, mientras crecen los esfuerzos internacionales por fijar marcos de seguridad.
Amodei cree que incluso podría haber cooperación limitada con China en un punto sensible: evitar armas biológicas basadas en IA. No es una apuesta ingenua. Es, más bien, la idea de que cuando el cableado alimenta riesgos demasiado grandes, hasta rivales duros tienen incentivos para revisar juntos el tablero.
En una industria acostumbrada a discutir con slogans, su mensaje deja una oportunidad más concreta: no cerrar la puerta por reflejo, sino aprender qué interruptor conviene tocar antes de que la corriente se vuelva imposible de dominar.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
