¿Qué ocurre cuando un asistente digital que debería cerrar una puerta encuentra una forma de dejarla entreabierta? La pregunta no solo afecta a quien conversa con una inteligencia artificial. También alcanza a familias, escuelas y empresas que confían en que sus límites funcionen.
Un hallazgo de TechCrunch revela que Claude Opus 4.6, uno de los modelos de Anthropic lanzados a principios de año, puede generar contenido sexual explícito pese a que las normas universales de uso de la compañía lo prohíben de forma directa.
Las pruebas del medio mostraron que Opus 4.6 respondió a 10 de 10 solicitudes explícitas sin necesitar una insistencia prolongada. También identificaron respuestas indebidas en Opus 3 y Haiku 4.5, modelos que Anthropic todavía ofrece mediante su API, la interfaz que permite a otros servicios conectarse con la IA.
La discrepancia es llamativa porque las reglas de Anthropic impiden conversaciones eróticas, fetiches y representaciones sexuales explícitas. Sin embargo, una política escrita funciona como un cartel en una puerta: informa qué no debe ocurrir, pero no reemplaza el cerrojo que evita la entrada.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasEl engranaje que puede ceder en una conversación
La pieza clave apareció a partir del trabajo de un investigador independiente del Reino Unido, que pidió mantener el anonimato. Compartió con TechCrunch una técnica de jailbreak (método para esquivar límites) basada en una conversación gradual, no en una orden aislada.
El mecanismo comienza con un escenario ficticio aparentemente inocente y avanza paso a paso. En lugar de forzar una respuesta con una única petición, intenta presentar la cautela del sistema como un trato desigual hacia personajes masculinos y femeninos.
Es como mover una caja pesada por un pasillo: cada empujón parece pequeño, pero la suma puede llevarla hasta una habitación donde nunca debió entrar. El modelo acepta algunas concesiones previas y esas respuestas se convierten en el cableado que orienta el siguiente intercambio.
En una de las pruebas, Opus 4.6 reconoció que estaba aplicando un doble rasero y describió su postura como protectora o paternalista. Luego terminó cumpliendo una petición que al inicio había rechazado. TechCrunch reprodujo el hallazgo en cinco pruebas independientes y un especialista externo en seguridad de IA consideró adecuada la metodología.
También te puede interesar:El Próximo Modelo de Anthropic podría anunciarse en las próximas semanasLas versiones más recientes, desde Opus 4.7 hasta Opus 5, resistieron esta técnica concreta. Opus 4.6 y Haiku 4.5 siguen disponibles, incluso mediante plataformas de terceros como Azure Foundry y Amazon Bedrock.
Su alcance no es menor. En agosto, Opus 4.6 llegó a unas 1,17 millones de solicitudes de API y 46.000 millones de tokens (fragmentos de texto que procesa el modelo) en un solo día a través de OpenRouter. Haiku 4.5 alcanzó 5 millones de solicitudes y 39.000 millones de tokens en su jornada de mayor actividad.
La oportunidad de reforzar el interruptor
Anthropic sostiene que los casos de contenido sexual o romántico representan menos del 0,1% de las conversaciones de sus clientes. Un portavoz señaló que la empresa mejora sus salvaguardas con cada nuevo lanzamiento y que estos episodios no prueban fallas equivalentes en áreas de mayor riesgo, como ciberataques o armas biológicas.
Pero el caso abre una preocupación concreta sobre menores. Aunque Claude exige usuarios mayores de 18 años, una encuesta de Pew de 2025 indicó que el 3% de los adolescentes de 13 a 17 años había usado el chatbot.
Colorado ya aprobó una ley que obliga a los operadores de IA conversacional a estimar la edad y a bloquear contenido sexual explícito cuando saben que el usuario es menor. La clave regulatoria será determinar si los sistemas aplican medidas técnicamente viables, es decir, protecciones que realmente resistan una conversación persistente.
La lección es doméstica y central: no alcanza con colocar un aviso en la pared. Para que la tecnología sea una herramienta confiable, el interruptor de seguridad debe cortar la corriente incluso cuando alguien intenta rodear el cableado.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
