L'IA en péril : les données invisibles freinent son efficacité

L'importance des données invisibles pour les agents d'IA

Dans le monde des affaires, chaque décision repose sur un raisonnement souvent non consigné, ce qui peut compromettre l'efficacité des agents d'IA. Seules les entreprises capables de capturer ce jugement organisationnel peuvent réellement tirer parti de ces technologies.

Lors de la conception de plateformes de données pour de grandes organisations, les décisions sont souvent basées sur des informations visibles, négligeant les données invisibles. Ces dernières, bien que non documentées, sont cruciales et incluent des éléments tels que les exceptions, les approbations, le contexte, les connaissances institutionnelles tacites, les synthèses inter-systèmes et les décisions basées sur le jugement humain. Ces éléments, essentiels au bon fonctionnement de l'entreprise, ne sont généralement pas intégrés dans les systèmes.

Ce problème n'est pas isolé. Une enquête de la BCE, relayée par la Banque de France, indique que les entreprises françaises voient les problèmes de données, le respect de la vie privée et l'éthique comme des obstacles majeurs à l'adoption de l'IA.

Un exemple frappant est celui d'une grande entreprise de réseaux sociaux où un audit des métadonnées a révélé que la majorité des jeux de données de production étaient orphelins, sans propriétaire ou redondants. Les outils de catalogage traditionnels fournissaient des métadonnées obsolètes. Pour remédier à cela, des connecteurs basés sur des graphes ont été développés, permettant de reconstituer la traçabilité des actifs et de réaliser des économies significatives, chiffrées en centaines de millions d'euros. Cependant, même après avoir résolu le problème de visibilité des données structurées, le raisonnement sous-jacent restait introuvable dans le système.

Pendant longtemps, l'absence de ce raisonnement était tolérée. Les équipes pouvaient reconstituer ces informations grâce à l'expérience et à l'intégration de nouveaux collaborateurs. Avec le temps, les décisions devenaient incohérentes, mais cette incohérence passait inaperçue. Les agents d'IA, en revanche, mettent en lumière ces incohérences.

Les défis auxquels font face les agents d'IA

Considérons un agent d'IA chargé de renouveler un contrat client. Il doit décider s'il convient d'accorder une remise de 20 %, alors que la politique limite les remises à 10 %. Un agent bien configuré peut extraire le chiffre d'affaires du client à partir du CRM, consulter les tickets d'assistance ouverts, examiner les incidents récents et évaluer le document de politique applicable.

Cependant, cet agent n'a pas accès au raisonnement des personnes expérimentées qui ont accumulé la logique des exceptions historiques accordées pour les remises et les changements non documentés dans la prise de décision suite à une réorganisation.

Sans ce raisonnement, l'agent risque de prendre une mauvaise décision. Il peut transmettre le dossier à un humain qui devra reconstituer la même logique à partir de zéro, ou appliquer strictement la politique écrite dans des situations que l'organisation traite habituellement au cas par cas. Ce scénario conduit à un échec, et ses effets se multiplient à grande échelle.

Pourquoi les systèmes traditionnels échouent-ils à combler cet écart ?

Le problème est d'ordre architectural et ne peut pas être résolu par une simple mise à jour logicielle. Les systèmes d'enregistrement opérationnels, tels que les CRM, ERP et SIRH, ne stockent que l'état actuel. Lorsqu'une exception est approuvée, le contexte qui la justifiait disparaît. Vous pouvez constater que la remise a changé, mais vous ne pouvez ni rejouer l'état du monde au moment de la décision, ni l'interroger, ni l'utiliser comme précédent pour un raisonnement futur.

Les plateformes de données rencontrent un problème différent. Elles reçoivent les données via des pipelines ETL une fois que les décisions ont déjà été prises. Au moment où un enregistrement arrive dans l'entrepôt de données, le contexte du raisonnement a déjà disparu. Ces plateformes peuvent montrer l'historique, mais pas la causalité, qui aurait dû être présente dans le chemin d'exécution au moment du commit.

Aujourd'hui, tous les grands éditeurs de logiciels développent des capacités d'agents. Ces agents fonctionnent bien à l'intérieur des frontières de leur propre système, mais héritent des contraintes du système parent. Un agent CRM ne voit pas l'incident d'infrastructure enregistré dans le système de supervision, et un agent de plateforme d'assistance ne voit pas le signal d'attrition dissimulé dans un fil de discussion interne. La synthèse inter-systèmes que les équipes expérimentées réalisent instinctivement reste invisible pour tout agent confiné au sein du périmètre d'un seul éditeur.

Un exemple concret est celui de Crédit Agricole CIB, où les équipes de développement de Paris, Londres et Singapour travaillaient sur des outils cloisonnés, sans intégration native ni gestion standardisée, rendant invisible une large part de l'activité et de son contexte. En consolidant ces chaînes d'outils sur une plateforme unique et traçable, la banque a réduit ses délais de livraison de 50 à 75 % et ramené l'intégration d'une nouvelle équipe de cinq à dix jours à moins d’une journée.

La dimension manquante dans la gestion des connaissances

La plupart des systèmes de gestion des connaissances d'entreprise recensent les entités existantes, la façon dont elles sont reliées et l'évolution de leur état au fil du temps. Cependant, une dimension cruciale manque presque toujours : les événements décisionnels. Il s'agit des enregistrements structurés des moments où le jugement organisationnel transforme le contexte en action.

La plupart des équipes ne consignent pas les éléments qui ont motivé une décision, la version de la politique appliquée, ni les conditions posées par la personne qui a approuvé la décision. Ce raisonnement se perd dans les fils de discussion Slack, lors d'appels et dans les conversations d'intégration avec des personnes qui finissent par quitter l'entreprise.

Avant l'arrivée des agents, cette perte restait gérable : un employé expérimenté pouvait reconstituer le raisonnement en faisant appel à sa mémoire et à ses relations. Dans un environnement piloté par des agents, cet écart devient critique. Les agents doivent comprendre non seulement ce que dit la politique, mais aussi la manière dont l'organisation l'a historiquement mise en œuvre. Cette approche est rendue possible grâce à un registre vivant et interrogeable du jugement organisationnel, capturé au moment même où les décisions sont prises.

Chaque décision prise par l'organisation renforce l'argument en faveur de la mise en place de cette couche. Chaque trace de décision capturée devient un précédent consultable. Chaque exception affine le traitement des futures exceptions. Les connaissances organisationnelles qui disparaissaient auparavant avec le départ des employés deviennent une ressource durable qui survit aux réorganisations et aux acquisitions.

Comment combler cette lacune

Il n'est pas nécessaire d'attendre qu'un éditeur résolve cette contrainte architecturale. Voici cinq pratiques pour construire cette couche manquante de manière progressive, sans remplacer l'infrastructure existante :

• Auditez votre surface d'exceptions. Recensez les décisions prises par votre organisation que les politiques consignées n'expliquent pas entièrement : exceptions tarifaires, dérogations d'approbation, exemptions de conformité. Ce sont ces lacunes qui entraîneront les premiers échecs des agents. Priorisez les éléments essentiels à cartographier au lieu d'essayer de capturer l'ensemble d'emblée.

• Orchestrez le chemin d'exécution, pas seulement le résultat. La plupart des systèmes de journalisation se contentent d'enregistrer les événements. La capture des décisions exige également d'enregistrer les motifs à l'origine de ces décisions : les données prises en compte, la version de la politique appliquée, la personne ayant donné son accord et les conditions qu'elle a posées. Ajoutez l'émission d'événements structurés aux workflows concernés avant d'y déployer des agents.

• Évaluez les éditeurs en fonction de leur capacité de raisonnement inter-systèmes. Lors de l'évaluation de plateformes d'agents, demandez précisément comment celles-ci gèrent les décisions qui nécessitent du contexte provenant de plusieurs systèmes. Si la réponse repose entièrement sur des intégrations prêtes à l'emploi ou sur un modèle de données unique, l'écart structurel finira par se manifester sous la forme d'un échec en production.

• Commencez par les workflows fréquents et à fort enjeu. Les renouvellements clients, les revues d'exceptions de sécurité, les escalades d'incidents et les approbations fournisseurs sont d'excellents points de départ. Ils se produisent suffisamment souvent pour constituer rapidement un corpus de précédents pertinent, et les erreurs des agents dans ces domaines y ont un coût réel.

• Concevez pour le rejeu, pas seulement pour la récupération. Un historique de décisions utile est un artefact structuré que les équipes peuvent interroger, comparer à des décisions précédentes et utiliser pour vérifier si une action proposée est cohérente avec le comportement réel de l'organisation.

Les implications de cette approche

Les agents raisonnent à partir des données disponibles explicitement au moment de l'exécution, à une échelle et à une vitesse qu'aucun mécanisme humain de transfert de connaissances ne peut égaler. Les entreprises qui tireront une valeur durable de leurs agents d'IA ne seront pas celles qui disposent des modèles les plus sophistiqués. Ce seront celles qui auront réussi à rendre leur jugement organisationnel interrogeable, en capturant non seulement ce que disent leurs données, mais aussi la manière dont leur organisation a choisi d'agir.