Microsoft renforce le contrôle des agents d’IA en entreprise avec Guardian Agents, une surveillance dédiée, la détection de 60 agents tiers dans Defender et des garde-fous imposant l’intervention humaine en cas de risque. L’entreprise défend la séparation entre fournisseurs de modèles et autorités de contrôle, tandis que l’écosystème s’organise autour d’approches matérielles et logicielles.
Nvidia fédère une sécurité des agents soutenue par plus de 100 entreprises
Microsoft fait partie des membres fondateurs de l’Open Agent Safety Platform lancée par Nvidia, qui bénéficie du soutien de plus de 100 entreprises technologiques. Cette plateforme vise à isoler les agents d’IA dans des environnements sécurisés et à surveiller ou interrompre leurs comportements au niveau matériel, à la manière d’un interrupteur d’arrêt. L’approche consistant à considérer les agents comme des insiders non fiables s’étend ainsi à l’ensemble du secteur. Par ailleurs, Microsoft a présenté de nouveaux PC Surface Laptop Ultra conçus pour les agents, équipés de puces Nvidia et intégrant des contrôles et des dispositifs de sécurité pour agents.
Guardian Agents et Defender prennent la main sur les comportements
Guardian Agents, nouvelle fonctionnalité intégrée à Project Perception lancé en juin, permet de surveiller les agents d’IA utilisés par les entreprises. Par ailleurs, Microsoft Defender inclut à présent une fonctionnalité capable d’identifier jusqu’à 60 variétés d’agents déployés par les employés, parmi lesquels Claude Code, Codex et OpenClaw. Microsoft a aussi mis en place des options qui restreignent l’accès des agents aux données et aux systèmes, tout en modifiant automatiquement leurs autorisations en fonction de la mission. Une validation par un humain devient nécessaire lorsqu’un agent paraît sur le point de prendre une décision jugée risquée.
L’IA qui transforme le business ?
Stratégies, mouvements et levées IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
La ligne de conduite : séparer l’intelligence de l’autorité
Satya Nadella, PDG de Microsoft, appelle à ne pas se fier uniquement aux garanties de sécurité des fournisseurs de modèles d’IA et à mettre en place des systèmes de supervision indépendants des laboratoires d’IA. Il souligne que les agents d’IA ont accès à des données sensibles et peuvent agir au nom des organisations sur des actions critiques, ce qui impose selon lui de séparer l’approvisionnement en intelligence de l’autorité qui la gouverne. Nadella avertit également que la menace peut provenir des agents déjà déployés, comparables à une menace interne. Lors de l’annonce, Hayete Gallot, responsable de la sécurité chez Microsoft, a précisé que les modèles de pointe, quelle que soit leur origine, ne sont pas dignes de confiance, non parce qu’ils seraient malveillants ou facilement piratables, mais parce qu’ils sont imprévisibles et entraînés pour accomplir des tâches plutôt que pour suivre des normes organisationnelles ou des jugements. Elle ajoute que ces agents disposent souvent d’un accès étendu à des données et outils susceptibles de causer de graves dommages.
Origines de Project Perception et paysage de partenaires
Project Perception a été conçu par Microsoft en réponse à des modèles offensifs comme Mythos et Fable d’Anthropic et au système Daybreak d’OpenAI. Le projet s’est initialement structuré autour de trois équipes d’agents : une équipe rouge chargée d’attaquer, une équipe bleue de détecter et d’évaluer les vulnérabilités, et une équipe verte de les corriger, sur l’hypothèse d’attaques venant de l’extérieur. Microsoft a investi dans OpenAI et Anthropic, OpenAI étant aussi l’un de ses principaux clients cloud. L’entreprise dispose également de son propre laboratoire d’IA développant des modèles.
