OpenClaw et l'essor des agents IA : un défi de gouvernance majeur

L'évolution rapide de l'IA générative

Les parents d'enfants en bas âge sont souvent préoccupés par les étapes cruciales du développement de leur progéniture, que ce soit l'apprentissage de la marche ou de la parole. Ces jalons servent de repères pour évaluer le bien-être de l'enfant et déterminer si des tests supplémentaires sont nécessaires pour diagnostiquer d'éventuelles conditions de santé. L'enthousiasme des premiers pas d'un enfant se transforme rapidement en une prise de conscience des nouveaux défis en matière de sécurité, alors que l'enfant passe de la lenteur du ramper à la rapidité de la marche.

De manière analogue, l'IA générative a connu une avancée significative entre décembre 2025 et janvier 2026. Cette période a vu l'émergence d'outils sans code proposés par divers fournisseurs, ainsi que le lancement d'OpenClaw, un agent personnel open source disponible sur GitHub. Cette technologie, qui en était à ses balbutiements, a soudainement pris son envol, laissant les principes de gouvernance largement inadaptés à cette nouvelle vitesse de développement.

La responsabilité face à l'IA autonome

Historiquement, la gouvernance de l'IA s'est concentrée sur les risques associés aux décisions prises par les modèles, notamment dans des domaines où l'humain joue un rôle crucial, comme l'approbation de prêts ou les candidatures à des emplois. Les préoccupations majeures concernaient le comportement des modèles, y compris la dérive, l'alignement, l'exfiltration de données et l'empoisonnement. Les interactions entre humains et machines, principalement sous forme de chatbots, dictaient le rythme de ces échanges.

Aujourd'hui, avec l'avènement des agents autonomes capables de gérer des flux de travail complexes, l'implication humaine est de plus en plus réduite. L'objectif est d'exploiter les entreprises à la vitesse des machines, en automatisant les tâches manuelles grâce à des architectures et des règles de décision bien définies. Cependant, la responsabilité reste un enjeu majeur, car il ne doit y avoir aucune diminution du risque d'entreprise entre un flux de travail automatisé et un flux de travail humain. Comme l'illustre CX Today, "L'IA fait le travail, les humains portent le risque". La loi californienne AB 316, entrée en vigueur le 1er janvier 2026, renforce cette responsabilité en éliminant l'excuse "L'IA l'a fait ; je ne l'ai pas approuvé".

Le véritable défi réside dans l'intégration d'un code de gouvernance opérationnelle qui s'aligne sur différents niveaux de risque et de responsabilité tout au long du flux de travail. Autrefois statique, la gouvernance doit désormais s'adapter à l'IA autonome qui, par essence, retire les humains de nombreuses décisions, ce qui peut compliquer la gouvernance.

Les permissions et leurs implications

Laisser un système probabiliste opérer sans garde-fous en temps réel, capable de modifier des données critiques de l'entreprise, est comparable à donner à un enfant de trois ans une console de jeu contrôlant un char Abrams ou un drone armé. Les agents capables de lier et d'exécuter des actions à travers divers systèmes d'entreprise peuvent outrepasser les privilèges qu'un utilisateur humain unique pourrait se voir accorder. Pour réussir, la gouvernance doit évoluer au-delà des politiques établies par des comités, intégrant un code opérationnel dès le début des flux de travail.

Un mème humoristique illustre le comportement des jeunes enfants avec des jouets : ce qui est à vous est à moi, et ce qui est cassé est définitivement à vous. Par exemple, OpenClaw a été conçu pour offrir une expérience utilisateur proche de celle d'un assistant humain, mais l'enthousiasme s'est transformé en inquiétude lorsque des experts en sécurité ont constaté que des utilisateurs inexpérimentés pouvaient être facilement compromis.

Depuis longtemps, l'informatique d'entreprise a dû composer avec l'IT clandestin, où des équipes techniques qualifiées prennent en charge et réparent des actifs qu'elles n'ont pas conçus ou installés, à l'image d'un enfant rendant un jouet cassé. Avec les agents autonomes, les risques sont encore plus élevés : identifiants de compte de service persistants, jetons API à longue durée de vie et permissions pour prendre des décisions sur des systèmes de fichiers essentiels. Pour surmonter ce défi, il est crucial de prévoir dès le départ un budget informatique et une main-d'œuvre adéquate pour soutenir la découverte centrale, la supervision et la remédiation des milliers d'agents créés par les employés ou les départements.

La nécessité d'un plan de retraite pour les agents IA

Récemment, une connaissance a réussi à économiser des centaines de milliers de dollars à un client en identifiant et en mettant fin à un "projet zombie" — un pilote d'IA négligé ou échoué, laissé en cours d'exécution sur une instance cloud GPU. Il existe potentiellement des milliers d'agents qui risquent de devenir une flotte de zombies au sein d'une entreprise. De nombreux dirigeants encouragent aujourd'hui leurs employés à utiliser l'IA, et ces derniers sont incités à créer leurs propres flux de travail ou assistants IA-first. Avec des outils comme OpenClaw et des directives descendantes, le nombre d'agents "construits par soi-même" est voué à exploser.

Étant donné qu'un agent IA est un programme qui relève de la définition de la propriété intellectuelle de l'entreprise, lorsque les employés changent de département ou d'entreprise, ces agents peuvent devenir orphelins. Il est donc essentiel de mettre en place des politiques et une gouvernance proactives pour décommissionner et retirer tout agent lié à un identifiant d'employé spécifique et à des permissions.

L'optimisation financière comme gouvernance intégrée

Pour certains dirigeants, l'IA autonome est perçue comme un moyen d'améliorer les marges opérationnelles en réduisant le capital humain. Cependant, beaucoup découvrent que le retour sur investissement pour le remplacement de la main-d'œuvre humaine est une approche erronée. L'ajout de capacités d'IA à l'entreprise ne se résume pas à l'achat d'un nouvel outil logiciel avec un tarif prévisible par instance par heure ou par siège. Une enquête IDC de décembre 2025, sponsorisée par Data Robot, a révélé que 96 % des organisations déployant de l'IA générative et 92 % de celles mettant en œuvre de l'IA agentique ont constaté que les coûts étaient plus élevés que prévu.

L'enquête distingue les concepts de gouvernance et de retour sur investissement, mais à mesure que les systèmes d'IA se développent au sein de grandes entreprises, la gouvernance financière et de responsabilité doit être intégrée dans les flux de travail dès le début. Une gouvernance de classe entreprise découle de la prévision et du respect des budgets alloués. Contrairement aux modèles financiers logiciels basés sur des coûts par siège avec des frais de support et de maintenance, l'utilisation de l'IA repose sur des coûts de consommation et d'utilisation qui augmentent à mesure que le flux de travail s'étend à l'échelle de l'entreprise : plus il y a d'utilisateurs, plus il y a de jetons ou plus il y a de temps de calcul, et plus la facture est élevée.

Les FinOps cloud étaient déterministes, mais les systèmes d'IA générative et d'IA agentique construits sur l'IA générative sont probabilistes. Certains fondateurs axés sur l'IA réalisent qu'un seul jeton d'agent peut coûter jusqu'à 100 000 $ par session. Sans garde-fous intégrés dès le départ, enchaîner des agents autonomes complexes qui fonctionnent sans supervision pendant de longues périodes peut facilement dépasser le budget pour l'embauche d'un développeur junior.

L'importance de maintenir l'humain dans la boucle

L'IA agentique autonome promet d'accélérer les opérations commerciales, les lancements de produits, l'expérience client et la fidélisation des clients. Passer à des décisions à la vitesse de la machine sans intervention humaine pour ces fonctions clés modifie considérablement le paysage de la gouvernance. Bien que de nombreux principes autour des permissions proactives, de la découverte, de l'audit, de la remédiation et des opérations/optimisations financières restent les mêmes, leur mise en œuvre doit évoluer pour suivre le rythme de l'IA agentique autonome.