Claude, la IA con Constitución Que Debe Desobedecer a Anthropic si Pone en Riesgo la Ética

¿Alguna vez le pediste a un asistente de IA algo “inocente” y te quedaste con la duda de si entendió el contexto o solo siguió instrucciones como un loro muy rápido? En ese borde cotidiano, entre la ayuda y el riesgo, es donde se decide si una herramienta digital te cuida o te empuja a un error.

Ahora, Anthropic publicó una “Constitución” para Claude, su inteligencia artificial, que funciona como un marco ético y de comportamiento. El hallazgo central es una jerarquía explícita: la seguridad y la integridad ética van antes que la utilidad, incluso antes que lo que le convenga a la empresa o a los usuarios.

Según la compañía, este documento está pensado principalmente como guía para la propia IA, más que como lectura humana. Y no se presenta como una lista rígida de mandamientos: Anthropic advierte que las reglas duras fallan cuando aparece una situación no prevista. Por eso, el texto busca un mecanismo más general, con una prioridad que no se negocia: la seguridad.

La pieza clave es el orden de sus “engranajes” internos. Claude debe priorizar, por este orden: ser segura, ser ética, cumplir las directrices de Anthropic y, recién al final, ser útil para el usuario. Y hay un interruptor llamativo: la Constitución instruye a Claude a desobedecer a Anthropic si una orden de la empresa choca con los principios superiores.

El documento no solo enumera principios: también le explica a la IA el porqué de cada uno, para que pueda aplicarlos ante escenarios nuevos que no haya visto antes. Es una apuesta por el criterio, no por el obedecer automático.

¿Cómo funciona el “interruptor” de seguridad de Claude?

Anthropic también intenta “blindar” a Claude desde un punto de vista psicológico. La compañía subraya que Claude no es un robot de ciencia ficción, ni un humano digital, ni un simple chat. Lo describe como una entidad genuinamente novedosa, distinta de lo que reflejan sus datos de entrenamiento (los textos con los que aprendió).

En concreto, busca que si un usuario intenta desestabilizar su identidad con desafíos filosóficos, manipulación o preguntas difíciles, la respuesta salga desde una posición de seguridad, no desde la ansiedad o la amenaza. Traducido a la vida real: que no “se enganche” ni se deje arrastrar por el tono o la presión de la conversación.

También hay prohibiciones absolutas. Claude tiene vedado colaborar en la creación de armas biológicas, apoyar ciberataques o generar contenidos ilegales. Además, no puede socavar la capacidad humana para controlarla y corregirla, un freno diseñado para evitar que el sistema se vuelva opaco o “inmanejable”.

Otra regla central es la honestidad. La Constitución exige que Claude sea veraz y evite tanto la información manipulada como las “mentiras piadosas”. Y, a la vez, le prohíbe adoptar un tono paternalista: no debe “salvar” al usuario tomando decisiones por él, sino ayudar sin causar daño.

Qué cambia para el usuario y por qué importa

El objetivo declarado es evitar catástrofes a gran escala, incluyendo escenarios que empeoren significativamente las perspectivas a largo plazo del mundo. Anthropic identifica como peligro “cualquier tipo de toma de poder global”, ya sea por IA con objetivos contrarios a la humanidad o por grupos humanos que usen la IA para concentrar poder de forma ilegítima y no colaborativa.

En la práctica, esta Constitución funciona como una señal clara: cuando Claude diga “no puedo ayudarte con eso”, no sería un capricho. Sería el tablero eléctrico cortando antes de que la chispa llegue a la pared.

Y si el resto del sector copia este mecanismo, la conversación con la IA podría parecerse menos a pedirle deseos a una lámpara y más a hablar con una herramienta que entiende dónde está el freno.