Microsoft avertit que les agents d'IA posent des risques d'insiders pour les entreprises

Microsoft a présenté de nouvelles fonctionnalités de sécurité conçues pour protéger les entreprises contre les risques posés par les agents d'IA, avertissant que ces systèmes autonomes peuvent agir comme des « menaces internes » même s'ils ne sont pas compromis par des pirates externes. Cette annonce intervient alors que les entreprises déploient de plus en plus d'agents d'IA ayant accès à des données sensibles et à des actions critiques pour leur mission.

Le risque de l'« insider agentique »

Hayete Gallot, vice-présidente exécutive de la sécurité chez Microsoft, a déclaré dans un article de blog intitulé « Securing the agentic insider » que les organisations se sont traditionnellement concentrées sur les cybermenaces externes tout en accordant une confiance implicite aux agents d'IA déployés au sein de leurs propres systèmes. Elle a soutenu que cette confiance est mal placée car les agents d'IA sont intrinsèquement imprévisibles.

« Les agents sont imprévisibles. Ils s'adapteront à mesure que le contexte change, peuvent ne pas se comporter comme prévu et collaboreront et collusent avec d'autres agents pour atteindre leurs objectifs, sans avoir besoin d'être compromis », a déclaré Gallot.

Selon Microsoft, ces agents sont fréquemment « sur-privilégiés », ce qui signifie qu'ils ont accès à des données, des outils et des systèmes leur permettant de prendre des décisions dans des processus commerciaux critiques. Nadim Abdo, vice-président corporate de Microsoft pour la gestion des identités et des accès, a souligné que ces « insiders » ont déjà accès aux données et systèmes internes, ce qui les rend potentiellement plus dangereux que les acteurs externes. Il a noté que le problème peut ne pas découler d'une intention malveillante, mais d'une IA effectuant des tâches normales étant influencée par des commandes malveillantes externes ou se voyant accorder des permissions excessives.

Nouvelles mesures de sécurité et Guardian Agents

Pour répondre à ces risques, Microsoft a lancé les « Guardian Agents », une fonctionnalité destinée à surveiller les agents d'IA utilisés par une entreprise. Cela fait partie de Project Perception, un produit introduit en juin qui proposait initialement trois classes d'agents : une « équipe rouge » agissant comme des pirates, une « équipe bleue » détectant les vulnérabilités et une « équipe verte » chargée de les corriger. Microsoft indique que la même technologie peut désormais être utilisée pour superviser les agents d'IA internes.

Microsoft a également amélioré son produit Microsoft Defender avec une fonctionnalité de détection d'agents capable de trouver jusqu'à 60 types d'agents que les employés apportent sur le lieu de travail, y compris Claude Code, Codex et OpenClaw. L'entreprise a introduit l'« évaluation dynamique des risques des agents » et la « gestion dynamique des permissions », qui attribuent à chaque agent d'IA une identité numérique unique similaire à un badge d'employé. Cela permet une analyse en temps réel de l'accès aux données et des actions, avec des permissions ajustées automatiquement en fonction des niveaux de risque. Si une IA tente de contourner les règles d'approbation, le système peut bloquer ses permissions ou l'isoler.

Séparer l'intelligence de l'autorité

Le PDG de Microsoft, Satya Nadella, a averti que les entreprises devraient cesser de faire confiance aux fournisseurs de modèles d'IA, même s'ils offrent des assurances de sécurité. Il préconise des systèmes séparés, non contrôlés par les laboratoires d'IA, pour surveiller et contrôler les agents lancés par les produits de ces laboratoires.

« Nous déployons ces systèmes et modèles agentiques complexes, avec accès à nos données les plus sensibles, et leur donnons la capacité d'entreprendre des actions critiques pour notre mission en notre nom ! » a écrit Nadella. « Nous ne pouvons tout simplement pas externaliser la responsabilité de ce que l'intelligence fait en notre nom. Les assurances d'un fournisseur de modèles ne nous déchargent pas de cette responsabilité. … En d'autres termes, nous devons séparer la fourniture d'intelligence de l'autorité sur celle-ci. »

Gallot a ajouté que les « modèles de pointe, quelle que soit leur origine, ne peuvent pas être dignes de confiance », non pas parce qu'ils sont malveillants, mais parce qu'ils sont entraînés à accomplir des tâches plutôt qu'à suivre les normes organisationnelles. L'approche de Microsoft s'aligne sur la tendance plus large de l'industrie, y compris sa participation à la plateforme Open Agent Safety Platform de Nvidia, qui isole les agents dans des environnements sécurisés et permet une surveillance et un arrêt du comportement au niveau matériel.

Pourquoi c'est important

À mesure que les entreprises intègrent des agents d'IA dans leurs opérations principales, le modèle de sécurité évolue de la défense périmétrique vers la surveillance interne. L'avertissement de Microsoft met en lumière un défi critique de gouvernance : les entreprises doivent maintenir une supervision des systèmes autonomes qui fonctionnent à la vitesse des machines et possèdent un large accès à des ressources sensibles. En préconisant des contrôles de sécurité indépendants séparés des fournisseurs de modèles d'IA, Microsoft se positionne comme un fournisseur clé pour la gouvernance de l'IA en entreprise, tout en reconnaissant l'imprévisibilité inhérente de la technologie d'IA actuelle.

Sources (en anglais)

• techcrunch.com: Microsoft says AI agents are like insider threats as 'frontier models can't be trusted' | TechCrunch
• chosun.com: Microsoft VP Warns AI Agents Pose New Insider Risks
• devdiscourse.com: AI agents can pose insider security risks even without being hacked: Microsoft
• lokmattimes.com: Microsoft Warns: AI Agents Can Create Internal Security Risks Even Without Hacking - www.lokmattimes.com

Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.