L'Entreprise des Agents : aussi peu probable que la Planète des Singes…

L'Entreprise des Agents : aussi peu probable que la Planète des Singes…

Imaginer des agents IA dirigeant l'entreprise et négociant entre eux relève plus d'un scénario à la Planète des Singes que d'une transformation numérique crédible, loin des usages réels de l'IA.

Les agents IA, nos clones numériques, plus intelligents, infatigables et fiables que nous, vont-ils nous remplacer, à l’avenir, et « faire affaire » entre eux ? Si l’on peut débattre de l’éthique sociétale qui sous-tend cette vision, cette vision anthropomorphique est surtout aussi dénuée de fondement que la célèbre franchise « la Planète des Singes » ! Certes, certains paradigmes de science-fiction sont devenus réalité. Les drones autonomes de combat développés par des puissances militaires ne sont, ni plus ni moins, que des Terminators et les trois lois d’Asimov gouvernant l’éthique robotique sont étrangement d’actualité. Cependant, cette vision de « l’Entreprise des Agents » est entachée d’un anthropomorphisme hors de propos.

D’une part, reproduire des rôles et une organisation humaine n’est clairement pas l’approche la plus efficace. D’autre part, les agents IA ne peuvent se substituer aux humains dans les prises de décisions critiques ou la définition des orientations stratégiques.

Un modèle anthropomorphique « d’Entreprise des Agents » circule dans les esprits, les conversations et les offres de certains SaaS IA. Dans cette définition des « agents IA », ceux-ci incarneraient (et remplaceraient) des persona dans l’entreprise, interagiraient entre eux (au sein de leur firme mais aussi en dehors des murs de celle-ci), pour résoudre des problèmes, prendre des décisions, négocier et même transacter.

• Un agent acheteur dans la société A négocierait avec un agent commercial de la société B,
• Avant que les agents juristes des deux sociétés ne se valident le contrat pour que l’agent directeur financier ne l’approuve,
• Afin que l’agent comptable fournisseur ne déclenche le paiement d’un acompte.

Les agents, respectivement de la logistique aval et amont des deux entreprises, assureraient ensuite la bonne livraison et réception des biens dans les systèmes, tout ceci sur fond de camions en conduite autonome et d’entrepôts automatisés. Bienvenue dans la Matrice !

L’entreprise serait dupliquée par un jumeau numérique, une espèce de jeu vidéo copiant les rôles et responsabilités humaines historiques, et jouant les mêmes processus dans le monde virtuel. Les humains seraient renvoyés à leurs chères études… ou, à on ne sait pas bien quelles activités. Cela serait la fin du travail et l’avènement du revenu universel, que Singularity prévoit depuis des décennies.

On retrouve le concept de l’article « we are almost certainly living in a computer simulation” de Nick Bostrom, publié en 2003 mais qui a reçu un large écho à la fin de cette décennie : dès que la puissance de calcul le permettra, les humains dupliqueront le monde réel, et observeront les tribulations de leurs avatars numériques sur des planètes virtuelles. Ces simulations du monde réel se multiplieraient rapidement, quasiment à l’infini. Cet article concluait, le plus sérieusement du monde, que, si l’on acceptait que la puissance de calcul devienne virtuellement infinie dans quelques années, alors ce scénario de la multiplication de simulations numériques de la Terre se produirait.

Dès lors, rien ne nous permettait aujourd’hui de penser que nous évoluions dans la seule réalité incarnée plutôt que dans l’une de ces nombreuses simulations. Toute la Vallée, en émoi, était désormais convaincue de déjà vivre dans la Matrice. Mais revenons au sujet des agents en entreprise… Si cette vision dysmorphique de l’Entreprise des Agents frappe les esprits, elle n’est pas très réaliste.

Pourquoi ce modèle est-il fallacieux ?

D’une part, l’organisation humaine des entreprises, c’est-à-dire la division actuelle des tâches et des rôles, est très loin de constituer la solution optimale pour résoudre un problème. Pourquoi réunir des agents qui incarnent des persona et les laisser débattre pour s’aligner sur le plan marketing et commercial d’un lancement produit, élaborer le budget annuel ou établir le plan de marche des usines dans le cadre du processus S&OP, quand une « super application », unique pour chacun des sujets pris en exemple dans la liste ci-dessus, et sous-tendue par diverses technologies, dont l’IA, peut adresser ses sujets ?

Cette « super application par sujet » peut émettre des recommandations (voire prendre des actions dans les systèmes d’information, selon le degré d’autonomie qui lui est donné), en intégrant toutes les dimensions de chaque problème.

D’autre part, ces « super applications » (auxquelles il conviendrait de réserver l’appellation d’« agents », plutôt qu’à des doublures anthropomorphiques de rôles humains dans un jumeau numérique de l’organigramme) prennent en charge un workflow transactionnel, réalisent une optimisation complexe ou analysent les dimensions d’une décision et agissent sous contrôle des humains. Les systèmes sont au service des humains, pas l’inverse.

Les agents IA (dans cette définition de super applications) peuvent remplacer des humains dans des tâches fastidieuses (ex. le rapprochement de factures fournisseurs), réaliser une optimisation complexe (ex. le dispatch d’équipes d’interventions sur des sites clients), augmenter une activité humaine à valeur ajoutée (ex. l’enseignement), ou encore fournir de « l’insight » pour une prise de décision délicate impliquant une évaluation du risque (ex. une stratégie de pricing, l’optimisation des transports en période d’incertitude, l’allocation de stocks rares… voire la stratégie militaire, pour citer un sujet récemment polémique). Mais les humains restent en contrôle.

Le meilleur exemple est sans doute l’anecdote des équipes marketing de Netflix qui interrogeaient l’IA sur l’acquisition des droits de la série coréenne Kpop Demon Hunters : score catastrophique, recommandations négatives de l’IA. Sur l’insistance des équipes locales, Netflix finit par faire une acquisition restreinte des droits. On connaît la suite : « carton » mondial ! Le public humain ne sera jamais prévisible…

Aussi bons que soient les moteurs d’IA, pour les activités à valeur ajoutée (notamment les interactions « chargées » telles que les négociations qui impliquent de construire de la confiance entre deux organisations) et pour les décisions délicates en environnement incertain (qui implique de prendre un risque), l’instinct et l’expérience humaines restent irremplaçables !