GenAI : les dettes invisibles qui menacent vos équipes

GenAI : des gains apparents, mais à quel prix ?

L'essor de l'intelligence artificielle générative, souvent appelée GenAI, promet des gains substantiels pour les entreprises. Cependant, elle s'accompagne de deux dettes invisibles qui, si elles ne sont pas traitées, risquent de se manifester au moment le plus inopportun. Ces dettes, baptisées "qualité fantôme" et "reddition cognitive", échappent souvent à l'attention des dirigeants.

Récemment, Bpifrance Conseil et Siparex ont publié un rapport exhaustif sur l'utilisation de l'IA dans les PME et ETI, mettant en avant vingt cas d'usage réussis. Ces exemples démontrent clairement les avantages de l'IA, mais c'est dans les premières pages du rapport que se cache une révélation plus troublante. Une étude de McKinsey, prévue pour 2025, indique que plus de 80 % des organisations ayant investi dans l'IA générative ne constatent aucun impact financier tangible. Le MIT, dans son ouvrage The GenAI Divide, va encore plus loin en chiffrant cet écart à 95 %. Ainsi, malgré les succès individuels, l'échec semble être la norme.

Le paradoxe de la mesure et de l'accumulation

Dans le monde des affaires, ce qui peut être mesuré peut être géré. Cependant, ce qui échappe à la mesure tend à s'accumuler silencieusement. Les études de cas documentées dans le rapport mesurent le retour sur investissement pour chaque projet, mais elles ne prennent pas en compte ce que chaque utilisation de l'IA laisse derrière elle dans les méthodes de travail des équipes.

Ce phénomène est connu sous le nom de "dette de pratique". Elle se manifeste sous deux formes principales, invisibles car elles ne figurent dans aucun tableau de bord. Leur invisibilité les rend d'autant plus insidieuses.

Première dette : la qualité fantôme

L'une des dettes les plus pernicieuses est la "qualité fantôme". Les utilisateurs font confiance aux résultats générés par l'IA en raison de leur présentation convaincante, sans vérifier leur exactitude. Les phrases sont bien construites, le ton est convaincant, et cela suffit souvent pour valider le contenu.

Le problème ne réside pas dans une erreur isolée, mais dans ce que l'on appelle la "boucle amplificatrice". Une information plausible mais incorrecte n'est pas corrigée et est réutilisée, alimentant ainsi les productions futures. Cette erreur se propage et, au fil du temps, acquiert une autorité injustifiée. Ce qui a été généré une fois devient, après plusieurs itérations, une référence interne incontestée.

Il ne s'agit pas simplement d'un risque d'hallucination, bien que le livre blanc aborde également ce sujet. C'est un mode de production où la vérification recule à mesure que la fluidité progresse.

Seconde dette : la reddition cognitive

La "reddition cognitive" est une autre dette invisible qui se développe lorsque le raisonnement est délégué à l'IA. Les équipes passent d'un rôle de producteur à celui de récepteur. Elles se contentent de relire, valider et ajuster légèrement, perdant progressivement leur capacité à produire elles-mêmes le raisonnement qu'elles valident.

Cette érosion des compétences ne devient apparente que lorsque des décisions complexes doivent être prises, des situations que l'IA n'a pas anticipées doivent être résolues, ou lorsqu'une réponse apparemment convaincante est en réalité hors sujet. À ce moment-là, la compétence nécessaire pour faire face à ces défis a disparu. Personne n'a consciemment décidé de l'abandonner, elle s'est simplement évaporée au fil du temps.

Cette dette est particulièrement préoccupante car, contrairement à la qualité fantôme, elle affecte la capacité même de corriger les erreurs.

Au-delà des outils : une question de pratique

Changer de modèle d'IA ne résoudra pas ces problèmes. Un modèle plus puissant produira des résultats encore plus convaincants, mais aussi moins vérifiés, aggravant ainsi les dettes invisibles.

Ces dettes s'enracinent dans les pratiques à trois niveaux : l'individu, l'équipe et l'organisation. Former les individus peut améliorer leurs performances individuelles, mais cela ne résout pas les problèmes au niveau de l'équipe ou de l'organisation. Une action à un seul niveau ne suffit pas.

Il est crucial de distinguer entre l'ambition des projets, qui va de l'usage individuel aux projets structurants, et la diffusion des pratiques au sein du collectif. Un projet peut afficher un excellent retour sur investissement tout en installant ces dettes invisibles. Le projet mesure ses résultats, mais c'est la pratique qui détermine ce qui persiste.

Interrompre les cycles de dettes

Traiter ces dettes nécessite un effort continu, pas un simple livrable. Il faut structurer la pensée avant d'agir, rendre chaque affirmation vérifiable et diffuser les bonnes pratiques au sein de l'organisation plutôt que de les concentrer entre les mains de quelques experts.

Ce travail nécessite un responsable dédié, non pas un gestionnaire de projets IA supplémentaire, mais un rôle qui veille à la qualité de la pratique elle-même : ses règles, sa cohérence et sa diffusion. Ce rôle est à l'IA générative ce que le Data Steward est aux données. Son levier n'est pas technique.

Contrairement à un responsable IA permanent, ce rôle est conçu pour disparaître une fois que la pratique est bien établie. Il installe la pratique, forme les équipes en interne, puis se retire. Ce qui reste n'est pas une nouvelle dépendance, mais une capacité renforcée.

Ces dettes ne relèvent pas de l'intuition. Elles peuvent être mesurées, tout comme l'écart entre les objectifs stratégiques de l'entreprise et les actions quotidiennes des équipes.

L'IA générative ne remplace pas le jugement humain, elle le met à l'épreuve. L'humain doit rester l'arbitre, pas un simple spectateur. Le véritable enjeu n'est pas l'outil lui-même, mais la manière dont il est intégré dans les pratiques de l'organisation.