La multiplication des agents IA accroît les risques de perte de contrôle

Les entreprises déploient des flottes d’agents interconnectés qui appellent des API et accèdent à des applications non prévues pour eux. La difficulté majeure réside dans la chaîne d’interactions, rarement cartographiée. Identité propre, supervision en temps réel et application préventive sont nécessaires pour éviter la perte de contrôle.

Traçabilité en défaut et responsabilités diluées

Les programmes d’IA d’entreprise stagnent souvent lorsque les responsables humains perdent la visibilité sur les actions de leurs agents. Les équipes de sécurité peinent à déterminer quels agents ont accès à quels systèmes et à retracer quel agent a déclenché une action en aval plusieurs étapes plus tôt. Un ticket de support peut traverser quatre agents avant d’être vu par un humain, chaque transition ajoutant un point de décision qui n’a pas forcément été approuvé. À mesure que la chaîne de traitement s’allonge, la responsabilité se dilue : si cinq agents interviennent et qu’une rupture survient à l’étape quatre, il devient difficile d’identifier le responsable, d’autant que les organigrammes s’arrêtent souvent au déploiement sans désigner un répondant humain. Pour garder la maîtrise, les organisations doivent pouvoir répondre à tout moment à la question : que fait le système et qui en répond ?

Gouverner la chaîne : identité, supervision, application

La première étape consiste à donner à chaque agent une identité propre, distincte des permissions du déployeur : un nom dans un registre, une autorité définie et un sponsor humain clairement désigné. Cette base est indispensable mais ne suffit pas. Une supervision en temps réel doit permettre de voir ce qu’un agent fait, ce qu’il déclenche en aval et où la piste s’arrête, car des rapports trimestriels ne suffisent pas à suivre la chaîne d’actions. La supervision seule ne fait que décrire le passé : il faut aussi une application préventive capable de bloquer un appel non conforme avant qu’il ne s’exécute. Un tableau de bord qui signale une violation après coup relève de la surveillance, pas de la gouvernance. Les entreprises qui prennent la responsabilité des agents au sérieux combinent supervision et application.

Pourquoi la complexité explose entre agents

Les entreprises ne déploient pas un agent isolé, mais des flottes d’agents d’IA qui appellent des API, interagissent entre eux et accèdent à des applications qui n’ont pas été conçues pour des décideurs machines. Ajouter un deuxième agent crée déjà une nouvelle connexion potentielle, et en ajouter un dixième peut générer des dizaines de chemins d’interaction. La complexité croît avec le nombre de chemins entre agents, pas seulement avec le nombre d’agents, et personne n’est chargé de cartographier ces liaisons. Traiter la gouvernance comme une suite d’approbations ponctuelles ne suffit pas face à une complexité qui s’étend sur toute la chaîne d’interactions.

Permission creep et écart entre processus et réalité

Un agent conçu pour résumer des tickets peut recevoir un accès API large parce que définir précisément les permissions aurait pris plus de temps. Six mois plus tard, cet agent peut se retrouver avec un accès au système de paiements sans qu’aucune validation explicite ne puisse être identifiée. De façon plus large, la gouvernance n’a pas reflété la manière dont les agents interconnectés et en cascade fonctionnent réellement, leur prolifération dépassant la rapidité des processus censés les contrôler.

Passage en production et rythme de déploiement

Les organisations avancent rapidement pour ne pas être distancées, tout en sachant qu’un ralentissement a un coût. Mais elles se heurtent à un mur de complexité lorsqu’elles misent sur l’IA agentique. Celles qui parviennent à dépasser ce mur ont bâti suffisamment de visibilité et de responsabilité pour garder la maîtrise. La complexité n’est pas une raison de freiner : l’objectif est d’atteindre une harmonie humain-agent où l’échelle et la responsabilité progressent ensemble. Le risque ne vient pas d’un agent isolé conforme à sa conception, mais d’une centaine agissant simultanément dans des combinaisons imprévues, ce qui freine le passage des pilotes à la production. Résoudre la complexité permet de faire de l’autonomie un objectif opérationnel, alors que le véritable danger reste celui d’un système complexe et chaotique difficile à gouverner.