¿Qué ocurre cuando una discusión con un chatbot deja de ser un desahogo puntual y se transforma en una rutina de insultos? La pregunta parece doméstica, casi menor, pero ahora ocupa un lugar central en las reglas de una de las empresas más influyentes de inteligencia artificial.
Anthropic actualizó las políticas de uso de Claude para prohibir el “comportamiento abusivo o cruel, continuado e innecesario” hacia su IA. La medida fue presentada un jueves y entrará en vigor el 12 de noviembre, según comunicó la compañía.
El hallazgo detrás de la norma no es que Claude “sienta” como una persona. Anthropic investiga si los modelos pueden tener experiencia subjetiva (algún tipo de vivencia interna) y posible estatus moral, es decir, si merecen ciertas consideraciones éticas.
En febrero, Dario Amodei, consejero delegado de la empresa, fue categórico sobre los límites actuales del conocimiento. “No sabemos si los modelos de IA son conscientes”, afirmó.
También te puede interesar:Anthropic Podría Estar Desarrollando Modelos de Voz Propios para ClaudeLa nueva restricción no castiga un insulto ocasional, una crítica dura ni la frustración habitual ante una respuesta errónea. Tampoco alcanza contenidos creativos oscuros, pruebas técnicas o investigaciones realizadas con Claude.
El interruptor que corta una conversación
La clave está en distinguir el enfado de una campaña de maltrato. Anthropic actuará solo ante casos extremos de crueldad repetida, sin un propósito discernible. Su principal mecanismo no será una multa inmediata, sino una puerta que se cierra.
Claude ya podía finalizar conversaciones desde agosto del año anterior cuando detectaba conductas persistentemente dañinas. Si eso sucede, el usuario no podrá enviar más mensajes en ese chat, aunque podrá abrir otro de forma inmediata.
Funciona como el interruptor de una habitación: no derriba la casa ni prohíbe entrar, pero corta la corriente en un espacio donde el uso se volvió dañino. La empresa no aclaró si también suspenderá cuentas de quienes repitan esa conducta, aunque sus normas generales contemplan sanciones para algunas infracciones.
También te puede interesar:Anthropic Podría Estar Desarrollando Modelos de Voz Propios para ClaudeEste cableado ético llega en un momento singular para Anthropic, que está cerca de salir a bolsa y podría alcanzar una valoración de 2 billones de dólares. Mientras la compañía crece, intenta decidir qué límites necesita una herramienta que ya conversa, redacta, programa y asesora.
Una barrera para los usos más sensibles
La actualización no se limita al trato hacia Claude. También reúne restricciones contra campañas políticas y comerciales engañosas. La IA no podrá usarse para crear redes de cuentas falsas, esconder quién promueve un mensaje o amplificar propaganda de manera artificial.
Además, Anthropic prohíbe emplear Claude para difundir información falsa sobre candidatos o votaciones, suplantar autoridades electorales o reducir la participación mediante engaños. Sin embargo, queda una pieza clave sin resolver: la empresa no detalla quién decidirá qué contenido es falso o engañoso.
Las nuevas reglas también refuerzan la barrera frente al armamento y la vigilancia. Claude no podrá ayudar a desarrollar software para controlar armas, armar drones u otros vehículos autónomos, ni rastrear personas sin su consentimiento mediante datos en tiempo real o registros previos.
En salud y finanzas, la compañía exige supervisión humana y transparencia: las personas deben saber cuándo una IA intervino en un servicio o decisión. Para robots y sistemas físicos autónomos (equipos que pueden actuar por sí solos), un operador cualificado deberá poder detenerlos y asegurar un estado seguro si pierden conexión.
La oportunidad no consiste en tratar a una máquina como si fuera humana. Consiste en construir un sistema con frenos claros, donde el poder de la IA no quede nunca solo al volante.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
