¿Le confiarías las llaves de una casa en obra a quien te advierte, todos los días, que un mal cableado puede incendiarla? Esa tensión, entre promesa y peligro, está en el centro de uno de los debates más delicados de la inteligencia artificial.
Según un reporte de WIRED, Anthropic lleva cinco años alertando que una IA muy avanzada podría causar destrucción masiva, desestabilización social y otros daños graves. Al mismo tiempo, la empresa fundada en 2021 por ex empleados de OpenAI compite por estar entre los desarrolladores más poderosos del sector.
El hallazgo clave no es solo la aparente contradicción. Es el mecanismo que la explica: Anthropic cree, por un lado, que la IA será inevitable y la tecnología más transformadora de la historia. Y, por otro, que el mundo estará más seguro si esa pieza clave queda en manos de actores como ella.
Dario Amodei, CEO de la compañía, sostiene que se puede liderar la carrera y actuar de forma segura a la vez. Esa idea funciona como el cableado central de la empresa: acumular poder técnico, económico y político no como un fin, sino como el interruptor para controlar una transición que consideran riesgosa.
También te puede interesar:Gavin Newsom Rebaja el Coste de la IA en California con un Acuerdo con AnthropicPara la empresa, la seguridad no depende solo de frenar la máquina, sino de ser quien sostiene el volante y el manual.
Esa mirada explica por qué Anthropic avanza y frena al mismo tiempo. Desarrolla modelos cada vez más potentes, pero también impone restricciones estrictas para evitar usos indebidos. En un caso reciente, incluso incorporó una función de sabotaje encubierto, una respuesta oculta del sistema, contra usos prohibidos. Después rectificó y volvió visible esa medida tras las críticas.
El poder como mecanismo de seguridad
La empresa ya trabaja con clientes de alto peso, incluido el ejército de Estados Unidos, y fue valorada recientemente en casi un billón de dólares. En 2024, además, su alianza con Palantir para ofrecer servicios de IA a defensa e inteligencia abrió una discusión incómoda dentro y fuera de la compañía.
El Pentágono usó modelos como Claude para identificar objetivos en conflictos armados. Amodei llegó a señalar que ese uso podría ser aceptable si un humano toma la decisión final. Ahí aparece otra clave: la definición de “uso responsable” dentro de Anthropic no siempre coincide con la percepción pública.
También te puede interesar:Gavin Newsom Rebaja el Coste de la IA en California con un Acuerdo con AnthropicAdemás, varios expertos y exempleados advierten sobre un problema menos visible, pero igual de importante: la falta de diversidad de pensamiento. Cuando una organización se percibe a sí misma como “los buenos”, el engranaje interno puede volverse menos crítico y detectar peor sus propios puntos ciegos.
Algunos describieron reuniones con la dirección como espacios poco confrontativos. Y aunque existe debate interno, no siempre alcanza para modificar decisiones sensibles, como ocurrió con las dudas sobre la colaboración con Palantir.
La pregunta que deja abierta la IA
Anthropic reconoce que concentrar tanto poder en pocas empresas también es un riesgo. Sin embargo, sus soluciones, como la supervisión o los compromisos voluntarios, no cambian de raíz esa concentración. En la práctica, la compañía defiende que quienes construyen esta tecnología deben tener un papel central en definir sus reglas.
Eso deja una oportunidad y una advertencia. Si la IA va a meterse en la oficina, el aula, el banco y la cocina, no solo importa que sea potente. Importa quién toca el interruptor, quién diseña el tablero y quién decide qué puertas deben quedar cerradas.
La casa digital ya se está construyendo. La pregunta, cada vez menos abstracta, es si alcanza con confiar en el electricista que también diseñó todo el edificio.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
