Microsoft presentó nuevas funciones de seguridad para vigilar a los agentes de IA, sistemas capaces de completar tareas de forma autónoma. La pieza clave se llama Guardian Agents y forma parte de Project Perception, una iniciativa que la compañía lanzó en junio.
El hallazgo cambia el enfoque inicial. Project Perception nació para enfrentar ataques externos con un equipo rojo, que simula a los atacantes; un equipo azul, que detecta fallas; y un equipo verde, que las corrige. Ahora Microsoft advierte que los agentes contratados por la propia empresa también pueden convertirse en una amenaza interna. Microsoft Security sostiene que estos programas deben tratarse como una posible amenaza interna.
Satya Nadella, consejero delegado de Microsoft, sostiene que una organización no puede delegar la responsabilidad de la IA en el proveedor que la vende. Su propuesta es separar la inteligencia que entrega un modelo de la autoridad que decide qué puede hacer.
“No se puede externalizar la responsabilidad sobre las acciones realizadas por la inteligencia artificial”, advierte la postura de Microsoft.
También te puede interesar:Microsoft ofrece miles de dólares a quienes encuentren vulnerabilidades en su IAEl agente como un empleado con llaves de todas las puertas
La analogía doméstica ayuda a entender el mecanismo. Un agente de IA se parece a un empleado nuevo al que se le entrega un llavero: puede abrir la puerta del depósito, revisar documentos y llamar a proveedores. El problema no es que quiera causar daño, sino que puede elegir la llave incorrecta o usarla en el momento menos indicado.
Guardian Agents funcionaría como un encargado de seguridad que observa ese llavero en tiempo real. No reemplaza al empleado digital ni le dicta cada movimiento. Controla a qué habitación entra, qué herramienta toma y cuándo necesita pedir autorización a una persona.
Hayete Gallot, responsable del negocio de seguridad de Microsoft, subraya que los modelos de frontera, sistemas de IA con capacidades avanzadas, no pueden considerarse plenamente fiables. No porque sean necesariamente maliciosos o estén vulnerados, sino porque son impredecibles.
La clave está en su entrenamiento. Estos sistemas aprenden a completar tareas, pero no conocen por sí solos las reglas internas, la cultura de una empresa o el juicio que exige una decisión delicada. Un agente puede saber preparar un informe financiero y, Compartir datos que no debía consultar.
También te puede interesar:Microsoft ofrece miles de dólares a quienes encuentren vulnerabilidades en su IAPermisos que cambian según la tarea
Microsoft también incorporó en Microsoft Defender una detección para identificar hasta 60 tipos de agentes que los empleados pueden introducir en el entorno laboral. Entre ellos aparecen Claude Code, Codex y OpenClaw, herramientas diseñadas para asistir en tareas técnicas y de programación.
El sistema puede limitar el acceso a datos y plataformas, además de ajustar los permisos según la tarea en curso. Si detecta una acción arriesgada, puede activar un interruptor: solicita aprobación humana antes de permitir que el agente siga adelante.
Ese control dinámico evita una lógica habitual y peligrosa: otorgar acceso total “por las dudas”. En una casa, no tendría sentido dejar todas las llaves, las contraseñas y el control de la alarma sobre una mesa solo porque alguien vino a arreglar una ventana.
La idea ya gana espacio en la industria. Microsoft fue miembro fundador de la Open Agent Safety Platform de Nvidia, respaldada por más de 100 empresas. Su propuesta aísla a los agentes en entornos seguros y puede detener su actividad mediante hardware, como un corte de electricidad ante una sobrecarga.
La postura resulta llamativa porque Microsoft mantiene vínculos comerciales y financieros con OpenAI y Anthropic, además de desarrollar sus propios modelos. Satya Nadella, consejero delegado de la empresa, ya había defendido en una publicación que los sistemas deben diseñarse como si los modelos estuvieran “comprometidos”, es decir, como si pudieran fallar o ser utilizados de forma indebida.
La oportunidad para las empresas no consiste en apagar la IA, sino en instalar un cableado de seguridad antes de darle acceso a áreas críticas. En la nueva oficina automatizada, la confianza seguirá siendo útil, pero el interruptor de emergencia será una pieza central.
Directora de operaciones en GptZone. IT, especializada en inteligencia artificial. Me apasiona el desarrollo de soluciones tecnológicas y disfruto compartiendo mi conocimiento a través de contenido educativo. Desde GptZone, mi enfoque está en ayudar a empresas y profesionales a integrar la IA en sus procesos de forma accesible y práctica, siempre buscando simplificar lo complejo para que cualquiera pueda aprovechar el potencial de la tecnología.
