¿Qué pasa cuando el candado que protege una herramienta también le impide trabajar a quien tiene que apagar el incendio? Esa es la tensión que hoy atraviesa a la inteligencia artificial aplicada a la ciberseguridad, un terreno donde defender y atacar usan, muchas veces, el mismo cableado.
El hallazgo surge de las críticas que varios investigadores hacen a los guardrails (bloqueos automáticos de uso) impuestos por empresas como Anthropic y OpenAI. La pieza clave es que esos límites, pensados para frenar abusos, también están frenando a expertos legítimos que buscan fallos antes que los delincuentes.
En ese mapa aparecen nombres concretos. Anthropic promocionó a Mythos como un modelo especialmente potente y riesgoso, mientras que Estados Unidos llegó a imponer en junio restricciones de exportación sobre Mythos y Fable por temor a que sus barreras pudieran eludirse para ciberataques. Después, parte de esas trabas se levantaron: Fable 5 quedó disponible de forma general y Mythos 5 pasó a un acceso limitado para organizaciones verificadas de EEUU.
Además, tanto OpenAI como Anthropic crearon programas especiales para investigadores. El mecanismo promete una puerta más abierta, pero varios profesionales señalan que la experiencia sigue siendo irregular, lenta y, en ocasiones, casi inútil para validar vulnerabilidades reales.
También te puede interesar:Anthropic Niega Apoyar Vetos a la IA Abierta en Pleno Debate en Estados Unidos“Pedir a un modelo que explote un fallo es un paso clave para confirmar que una vulnerabilidad es real”, señaló Chris Anley, uno de los expertos citados en este debate. Su punto revela una incomodidad central: si la IA se niega a reproducir el problema, también se debilita la defensa.
Un martillo con interruptor bloqueado
La analogía doméstica ayuda a entender el conflicto. Estas herramientas se parecen a un martillo: sirven para construir una pared o para romper una ventana. Chris Anley lo resume así porque la misma función ofensiva puede ser, al mismo tiempo, la llave defensiva para comprobar que una grieta existe.
Visto de otro modo, los guardrails funcionan como un interruptor central que corta la luz de toda una casa por miedo a que alguien conecte un aparato peligroso. El problema es que, al bajar esa palanca, también se apagan la heladera, el router y las alarmas.
Esa es la clave del debate: el bloqueo no siempre distingue entre el atacante y el electricista.
También te puede interesar:Anthropic Niega Apoyar Vetos a la IA Abierta en Pleno Debate en Estados UnidosMark Dowd, un investigador conocido por encontrar y vender vulnerabilidades zero-day (fallos desconocidos y sin parche), cuestiona que grandes firmas privadas decidan de forma arbitraria qué prácticas son aceptables. Paolo Stagno también critica esa supervisión constante y suma otra preocupación: subir datos sensibles a modelos en la nube puede filtrar información crítica fuera del entorno controlado.
Por eso, varios equipos ya cambiaron de estrategia. Para tareas delicadas, optan por modelos de código abierto ejecutados de forma local, es decir, dentro de sus propios equipos y sin compartir material con terceros. Giuseppe Cali, por ejemplo, usa la IA para entender código y crear herramientas auxiliares, pero mantiene el descubrimiento y la explotación de fallos bajo control humano.
El costo práctico de las barreras
Chris Thompson advierte que los guardrails son inconsistentes incluso dentro de programas verificados. A veces el investigador pierde más tiempo negociando con la máquina que analizando la vulnerabilidad. Ese desgaste, que parece menor, altera todo el engranaje del trabajo defensivo.
La consecuencia ya se ve en el mercado. Algunos especialistas están migrando hacia modelos abiertos, incluso alternativas chinas que pueden correr localmente sin restricciones. Para Thompson, ese movimiento puede resultar más perjudicial que útil para la seguridad global, porque empuja a investigadores responsables fuera de las plataformas estadounidenses.
En paralelo, sobrevuela una preocupación más amplia: muchos expertos creen que se acerca una ola de ciberataques de gran escala. Si los defensores trabajan con herramientas recortadas, la oportunidad de llegar antes que los atacantes se achica.
La pieza clave, entonces, no parece ser poner más candados, sino ajustar mejor la cerradura. Si la IA quiere convertirse en una aliada real de la seguridad, tendrá que aprender a distinguir mejor entre quien intenta forzar la puerta y quien está revisando si esa puerta ya estaba rota.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
