Tu codes avec l’IA ?
Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Microsoft introduit l'Agent Control Specification pour les agents d'IA
Alors que les agents d'intelligence artificielle gagnent en sophistication, les entreprises cherchent à les intégrer dans diverses applications et processus. Cependant, un défi persiste : garantir que ces agents se comportent comme prévu dans différents environnements. Pour répondre à ce besoin, Microsoft a dévoilé l'Agent Control Specification (ACS), un standard open-source conçu pour offrir aux développeurs un moyen plus cohérent et détaillé de réguler les actions des agents d'IA.
Un cadre pour des politiques sur mesure
L'ACS permet aux équipes de développement, de conformité et de sécurité de créer des politiques spécifiques que les agents doivent suivre. Ces règles définissent les actions autorisées, celles qui nécessitent une approbation humaine, et les preuves à conserver pour des vérifications futures. Les politiques sont appliquées à plusieurs "points d'interception" lors de l'exécution des tâches par l'agent, garantissant ainsi que les actions restent dans les limites fixées.
Contexte actuel et solutions existantes
À l'heure actuelle, les développeurs improvisent souvent pour contrôler les agents d'IA, utilisant des instructions dans les prompts système, des vérifications personnalisées dans le code, ou des classificateurs pour détecter les entrées et sorties problématiques. Bien que ces méthodes soient fonctionnelles, elles entraînent souvent des contrôles fragmentés, difficiles à auditer et à réutiliser dans différents systèmes et interfaces. Les conversations autour des flux de travail d'IA échouent parfois en raison d'une mauvaise utilisation des outils ou d'actions non intentionnelles, entraînant des échecs en cascade.
L'impact de l'ACS sur le développement
L'ACS vise à intégrer ces divers contrôles dans une couche de gouvernance commune. Microsoft affirme que cette spécification peut être utilisée pour vérifier le respect des limites à plusieurs étapes du flux de travail : avant de recevoir une entrée, avant l'appel d'un outil, après le retour d'un résultat, et avant l'envoi de la réponse finale à l'utilisateur. Les politiques peuvent autoriser une action, la bloquer, masquer des informations sensibles, ou nécessiter une approbation humaine.
Intégrations et fonctionnalités avancées
Les développeurs ont la possibilité d'ajouter des classificateurs pour catégoriser les informations, prédire des résultats, ou déterminer la réponse appropriée d'un agent. Des modèles de langage de grande taille (LLMs) peuvent être intégrés pour agir en tant que "juges" des politiques, et des logiques peuvent être ajoutées pour vérifier les appels d'outils, la sélection d'outils, l'exactitude des entrées, l'utilisation des sorties et les réponses. Les politiques peuvent être écrites sous forme de fichiers uniques, permettant à une politique de sécurité de suivre un agent à travers différents cadres et environnements.
Un SDK pour une adoption étendue
L'ACS est fourni sous forme de SDK, avec des plugins pour divers outils et plateformes, notamment LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI, et les outils MCP. Grâce à cette intégration, les politiques peuvent accompagner un agent à travers différents cadres et environnements, assurant une gouvernance cohérente et sécurisée.
