Agents IA : vers un nouvel OS pour une orchestration sécurisée

L'évolution nécessaire des systèmes d'exploitation pour les agents IA

Les agents IA, de plus en plus présents dans le monde professionnel, nécessitent une nouvelle approche en matière de systèmes d'exploitation. Contrairement aux logiciels traditionnels, ces agents ne se contentent pas d'exécuter des fonctions prédéfinies. Ils interprètent des intentions, planifient des actions, sollicitent des outils et interagissent de manière autonome avec les systèmes d'information. Cette complexité croissante appelle à la création d'un nouvel "OS" qui ne se limite pas à la gestion des ressources matérielles, mais qui orchestre les intentions et les actions des agents IA.

Pendant des décennies, l’informatique d’entreprise a été structurée autour d’un principe simple : les applications exécutent des fonctions, les utilisateurs déclenchent des actions, les systèmes d’exploitation gèrent les ressources. Mais l’arrivée des agents IA bouscule cette logique. Un agent ne se contente pas de répondre à une question. Il peut interpréter une intention, planifier plusieurs étapes, appeler des outils, interroger des données, produire un livrable, solliciter un humain, corriger sa trajectoire et parfois agir directement dans le système d’information. Autrement dit, l’agent IA n’est plus seulement une interface conversationnelle. Il devient une forme d’acteur logiciel.

Et dès lors, une question devient centrale : avons-nous besoin d’un nouvel OS pour les agents IA ? La réponse courte serait : oui, mais pas au sens classique du terme. Nous n’avons probablement pas besoin d’un nouveau Windows, Linux ou macOS pour agents. Nous avons besoin d’une nouvelle couche d’exécution, de gouvernance et d’orchestration capable de rendre les agents fiables, observables, sécurisés et industrialisables. Un Agent OS, en somme. Pas un système d’exploitation de machines, mais un système d’exploitation de l’intention, du contexte, des actions et de la confiance.

Les défis posés par les agents IA

Les logiciels classiques suivent une logique déterministe, produisant des résultats prévisibles à partir d'entrées spécifiques. En revanche, les agents IA opèrent sur des principes probabilistes, intégrant des contextes dynamiques et des objectifs variés. Ils nécessitent une supervision des décisions plutôt que des applications, et une gestion des droits qui s'étend aux entités capables d'interpréter des intentions. Cela implique une traçabilité des raisonnements et des décisions intermédiaires, rendant obsolètes les approches traditionnelles de gestion logicielle.

Un logiciel traditionnel est relativement prévisible. Il reçoit une entrée, exécute une logique déterministe, produit une sortie. Même lorsqu’il est complexe, son comportement repose sur du code écrit, testé, versionné, audité. Un agent IA fonctionne différemment. Il combine du raisonnement probabiliste, du contexte dynamique, des appels à des outils, de la mémoire, des permissions, des objectifs, des contraintes et parfois une forme d’autonomie opérationnelle. Cela change tout.

Dans un système classique, on supervise des applications. Dans un système agentique, il faut superviser des décisions. Dans un système classique, on donne des droits à des utilisateurs ou à des services. Dans un système agentique, il faut donner des droits à des entités capables d’interpréter une intention et d’agir sur plusieurs systèmes. Dans un système classique, on trace des appels API. Dans un système agentique, il faut tracer des chaînes de raisonnement, des sources utilisées, des outils appelés, des validations humaines, des erreurs de contexte et des décisions intermédiaires.

Vers un "Agent OS" : initiatives et développements

Plusieurs acteurs majeurs du secteur technologique convergent vers l'idée d'un "Agent OS", bien que le terme ne soit pas toujours explicitement utilisé. Microsoft, par exemple, propose Azure AI Foundry et son Agent Service pour concevoir, déployer, orchestrer et superviser des agents IA, intégrant des connexions à des outils comme SharePoint, Microsoft Fabric, Azure AI Search et des connecteurs d’action via Azure Logic Apps. OpenAI développe un Agents SDK pour l'orchestration et la validation des agents, distinguant notamment les approches où le LLM décide dynamiquement du flux et celles où l’orchestration reste contrôlée par le code. Anthropic promeut le Model Context Protocol pour standardiser les intégrations entre agents et outils externes, visant à réduire la fragmentation des intégrations et à éviter de devoir créer un connecteur spécifique pour chaque combinaison modèle-outil-donnée. De plus, le protocole A2A, initié par Google et maintenant sous l'égide de la Linux Foundation, permet une communication sécurisée entre agents de différents frameworks.

Les fonctions essentielles d'un Agent OS

Un véritable "Agent OS" devrait remplir plusieurs fonctions clés pour assurer une intégration efficace des agents IA dans les entreprises. Il doit gérer l'identité des agents, qui pourraient être nombreux et spécialisés, comme des agents juridiques ou commerciaux. La gestion des permissions est cruciale, car les agents ne se contentent pas de dialoguer, ils agissent, nécessitant un policy engine pour encadrer leurs actions. L'orchestration de plusieurs agents est également essentielle, tout comme la gestion de la mémoire et du contexte, qui doivent être équilibrées pour éviter les dérives. Un Agent OS devrait permettre de gouverner cette mémoire agentique.

Enfin, la supervision des raisonnements et la sécurisation de l'exécution des outils sont des impératifs pour garantir la fiabilité et la sécurité des agents IA. L'observabilité agentique inclut l'observation des documents utilisés, des outils appelés et des décisions intermédiaires. La sécurité est probablement le cœur du sujet. Un agent connecté à des outils devient un vecteur potentiel de risques si des mesures de sécurité adéquates ne sont pas mises en place.