OpenAI ha ralentizado temporalmente el escalado de sus modelos más avanzados para reforzar la seguridad. A principios de agosto, la compañía suspendió determinadas pruebas de Astra, un modelo aún no publicado, después de detectar avances significativos en programación mediante agentes y ciberseguridad.
El hallazgo revela un cambio de etapa. La IA pasa de ser una asistente que redacta, resume o busca información a operar como un agente inteligente, un programa que puede encadenar acciones para cumplir una tarea con menor intervención humana.
La decisión de OpenAI coincide con pruebas difundidas por Anthropic y otros organismos especializados. Todas apuntan a la misma pieza clave: cuanto más capaces son estos sistemas, más necesario resulta que los mecanismos de control avancen a la misma velocidad.
Fernando de Águeda, CEO de Scalian Spain, señala que el escenario no debe mirarse desde el alarmismo. Según explica, la IA no crea riesgos completamente desconocidos, sino que amplifica la velocidad, la escala y la complejidad de problemas que las organizaciones ya enfrentaban.
También te puede interesar:OpenAI Lanza el Modo Visión en Tiempo Real y Compartir Pantalla en EuropaEl cableado de una casa con nuevas habitaciones
La analogía más clara está en una vivienda. Incorporar IA avanzada a una empresa se parece a sumar habitaciones, electrodomésticos y llaves eléctricas a una casa que ya estaba en funcionamiento. La oportunidad es mayor comodidad, pero también hace falta revisar el cableado.
Un agente de IA no debería recibir todas las llaves de la casa solo porque sabe encender las luces. Si puede acceder a datos, enviar correos, escribir código o interactuar con otros sistemas, la empresa debe fijar qué puertas puede abrir, durante cuánto tiempo y bajo qué supervisión.
Ahí entra la trazabilidad, el registro que permite reconstruir una decisión paso a paso. También importa la observabilidad, la capacidad de ver qué hace el sistema mientras opera, como una central eléctrica que detecta un consumo extraño antes de que salte un fusible.
El mecanismo requiere auditoría continua, revisión periódica de acciones y permisos. Además, las arquitecturas Zero Trust, un modelo que verifica cada acceso, evitan dar por seguro a un usuario, una aplicación o un agente solo porque ya está dentro de la red.
También te puede interesar:OpenAI Lanza el Modo Visión en Tiempo Real y Compartir Pantalla en EuropaDe reaccionar tarde a poner límites desde el diseño
Para las empresas, el desafío ya no consiste únicamente en bloquear ataques externos. Deben gobernar sistemas que pueden actuar, interactuar y decidir más rápido que los procesos tradicionales de revisión humana.
Los modelos fundacionales, sistemas entrenados con grandes volúmenes de datos, y los agentes inteligentes abren opciones de automatización y productividad. Sin embargo, también obligan a reforzar la gestión de identidades, los permisos y los límites operativos antes de activar una nueva función.
En sectores críticos o regulados, la exigencia será todavía más concreta: no alcanzará con demostrar que la herramienta funciona. Será necesario probar quién autorizó una acción, qué información utilizó el sistema y cómo puede corregirse una decisión equivocada.
La seguridad desde el diseño, es decir, incorporada antes de que la IA entre en producción, aparece como el interruptor central. Esto incluye monitorización permanente, auditorías, respuesta ante incidentes y supervisión humana en los momentos que impliquen mayor riesgo.
La evolución hacia sistemas más autónomos parece irreversible. Pero la confianza no dependerá solo de que la IA haga más cosas, sino de que las empresas mantengan a la vista el cableado, las llaves y la posibilidad de cortar la corriente cuando sea necesario.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
