La empresa presentó de forma discreta ante legisladores de Estados Unidos un borrador para regular los modelos frontera, los sistemas de IA más capaces y avanzados, según el medio Politico. El hallazgo central es su listón: el Gobierno solo podría intentar frenar un modelo ante un riesgo previsible e inminente de más de 50 muertes o lesiones graves, o daños superiores a 1.000 millones de dólares.
Anthropic, uno de los laboratorios más influyentes del sector, plantea que ese peligro debe estar vinculado con un arma biológica, un ciberataque o la evasión de los controles creados por el propio desarrollador. No es habitual que una compañía tecnológica participe tan directamente en el diseño de las reglas que podrían limitarla.
El borrador refleja el Marco de IA Avanzada que la firma impulsa ante el Congreso desde junio. Un portavoz de Anthropic sostiene que se trata de políticas sensatas sobre las que los legisladores deberían actuar, aunque la empresa todavía no respalda formalmente un proyecto de ley concreto.
Un interruptor con varias llaves
La propuesta puede entenderse como el sistema eléctrico de una casa. Un modelo de IA sería un electrodoméstico muy potente: no se desconecta porque una luz parpadee, sino cuando existe una señal clara de que puede provocar un incendio.
También te puede interesar:Anthropic Reservará el 5 % de Sus Acciones para Frenar el Impacto Laboral de la IAEl interruptor no quedaría en manos de cualquier persona ni saltaría ante cualquier fallo. El Departamento de Comercio sería la única pieza central del Gobierno que podría iniciar el proceso para frenar el lanzamiento, el despliegue o el uso de un modelo.
Sin embargo, ni siquiera ese departamento tendría la última palabra. Tendría que presentar pruebas ante un juez federal, y sería el tribunal quien decidiría si corresponde ordenar la suspensión. Es una cadena de seguridad con varias llaves: evaluador, Departamento de Comercio y juez.
Las instituciones independientes registradas en ese departamento revisarían periódicamente a los laboratorios y sus modelos frontera. Los desarrolladores podrían pagar esas evaluaciones, pero la remuneración no podría depender del resultado, una separación pensada para evitar que el dinero altere el diagnóstico.
Si los evaluadores detectaran un riesgo dentro de los supuestos previstos, deberían avisar en un máximo de 72 horas desde el final de la revisión. Ese plazo funciona como una tubería de emergencia: la información debe llegar rápido a la válvula principal antes de que el problema se expanda.
También te puede interesar:Anthropic Reservará el 5 % de Sus Acciones para Frenar el Impacto Laboral de la IALa discusión sobre el umbral
El mecanismo también exige a los laboratorios crear marcos de seguridad, publicar informes de transparencia sobre sus nuevos sistemas, proteger a quienes denuncien fallos y comunicar incidentes críticos. Son medidas preventivas, aunque el freno estatal quedaría reservado para escenarios extremos.
La distancia entre ambas cosas es clave. Durante los últimos meses crecieron las preocupaciones por incidentes como el hackeo a Hugging Face atribuido a cientos de agentes de OpenAI y la entrada de agentes de IA en sitios web gubernamentales.
Según los criterios del texto, esos episodios estivales no habrían activado la intervención estatal. No provocaron muertes ni superaron el umbral económico de 1.000 millones de dólares, aunque sí encendieron alertas sobre el cableado de seguridad de estas herramientas.
Ahí aparece la principal duda del Congreso y de parte del sector: si esperar a un daño tan alto protege de decisiones apresuradas o si convierte el freno en una herramienta que llega demasiado tarde. El debate no trata solo de apagar una máquina, sino de decidir cuándo una señal de humo merece abrir la puerta.
Por ahora, el documento es un borrador. Pero revela una oportunidad incómoda: construir controles antes de que la IA avanzada deje de ser una promesa de laboratorio y se convierta, sin suficiente vigilancia, en un riesgo dentro de la casa digital de todos.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
