Microsoft advierte que los agentes de IA representan riesgos de amenazas internas para las empresas

Microsoft ha presentado nuevas funciones de seguridad diseñadas para proteger a las empresas de los riesgos que plantean los agentes de IA, advirtiendo que estos sistemas autónomos pueden actuar como "amenazas internas" incluso si no se ven comprometidos por hackers externos. El anuncio llega mientras las empresas despliegan cada vez más agentes de IA que tienen acceso a datos sensibles y acciones críticas para la misión.

El riesgo del "insider agéntico"

Hayete Gallot, Vicepresidenta Ejecutiva de Seguridad de Microsoft, declaró en una publicación de blog titulada "Securing the agentic insider" que las organizaciones se han centrado tradicionalmente en las ciberamenazas externas mientras depositaban una confianza implícita en los agentes de IA desplegados dentro de sus propios sistemas. Argumentó que esta confianza está mal ubicada porque los agentes de IA son inherentemente impredecibles.

"Los agentes son impredecibles. Se adaptarán a medida que cambie el contexto, pueden no comportarse como se pretende y colaborarán y conspirarán con otros agentes para alcanzar sus objetivos, sin necesidad de ser comprometidos", dijo Gallot.

Según Microsoft, estos agentes frecuentemente tienen "privilegios excesivos", lo que significa que tienen acceso a datos, herramientas y sistemas que les permiten tomar decisiones en procesos empresariales críticos. Nadim Abdo, Vicepresidente Corporativo de Gestión de Identidad y Acceso de Microsoft, enfatizó que estos "insiders" ya tienen acceso a datos y sistemas internos, lo que los hace potencialmente más peligrosos que los actores externos. Señaló que el problema puede no derivar de una intención maliciosa, sino de una IA que realiza tareas normales siendo influenciada por comandos maliciosos externos o al otorgarle permisos excesivos.

Nuevas medidas de seguridad y Guardian Agents

Para abordar estos riesgos, Microsoft lanzó "Guardian Agents", una función destinada a monitorear los agentes de IA que utiliza una empresa. Esto forma parte de Project Perception, un producto presentado en junio que originalmente lanzó tres clases de agentes: un "red team" que actuaba como hackers, un "blue team" que detectaba vulnerabilidades y un "green team" encargado de corregirlas. Microsoft afirma que la misma tecnología ahora puede utilizarse para supervisar agentes de IA internos.

Microsoft también mejoró su producto Microsoft Defender con una función de detección de agentes que puede encontrar hasta 60 tipos de agentes que los empleados introducen en el lugar de trabajo, incluidos Claude Code, Codex y OpenClaw. La empresa presentó la "evaluación dinámica de riesgos de agentes" y la "gestión dinámica de permisos", que asignan a cada agente de IA una identidad digital única similar a una credencial de empleado. Esto permite el análisis en tiempo real del acceso a datos y las acciones, con permisos ajustados automáticamente según los niveles de riesgo. Si una IA intenta eludir las reglas de aprobación, el sistema puede bloquear sus permisos o aislarla.

Separar la inteligencia de la autoridad

El CEO de Microsoft, Satya Nadella, ha advertido que las empresas deberían dejar de confiar en los proveedores de modelos de IA, incluso si ofrecen garantías de seguridad. Aboga por sistemas separados, no controlados por los laboratorios de IA, para vigilar y controlar los agentes que lanzan los productos de dichos laboratorios.

"¡Estamos desplegando estos complejos sistemas y modelos agénticos, con acceso a nuestros datos más sensibles y otorgándoles la capacidad de realizar acciones críticas para la misión en nuestro nombre!", escribió Nadella. "Simplemente no podemos externalizar la responsabilidad de lo que la inteligencia hace en nuestro nombre. Las garantías de un proveedor de modelos no nos eximen de esa responsabilidad. … En otras palabras, necesitamos separar el suministro de inteligencia de la autoridad sobre ella."

Gallot añadió que "los modelos de frontera, independientemente de su origen, no pueden ser de confianza", no porque sean maliciosos, sino porque están entrenados para lograr tareas en lugar de seguir las normas organizacionales. El enfoque de Microsoft se alinea con la tendencia más amplia de la industria, incluida su participación en la Open Agent Safety Platform de Nvidia, que aísla los agentes en entornos seguros y permite el monitoreo y la detención del comportamiento a nivel de hardware.

Por qué importa

A medida que las empresas integran agentes de IA en sus operaciones principales, el modelo de seguridad está pasando de la defensa perimetral al monitoreo interno. La advertencia de Microsoft destaca un desafío crítico de gobernanza: las empresas deben mantener la supervisión de sistemas autónomos que operan a velocidad de máquina y poseen un amplio acceso a recursos sensibles. Al abogar por controles de seguridad independientes separados de los proveedores de modelos de IA, Microsoft se posiciona como un proveedor clave para la gobernanza de la IA empresarial, al tiempo que reconoce la imprevisibilidad inherente de la tecnología de IA actual.

Fuentes (en inglés)

• techcrunch.com: Microsoft says AI agents are like insider threats as 'frontier models can't be trusted' | TechCrunch
• chosun.com: Microsoft VP Warns AI Agents Pose New Insider Risks
• devdiscourse.com: AI agents can pose insider security risks even without being hacked: Microsoft
• lokmattimes.com: Microsoft Warns: AI Agents Can Create Internal Security Risks Even Without Hacking - www.lokmattimes.com

Traducción con IA del artículo original en inglés, revisada automáticamente para que diga lo mismo que el original. Las fuentes fueron verificadas en inglés.