IA d’entreprise : 6 repères de gouvernance et le constat du MIT

Le MIT Media Lab met en évidence un écart entre les investissements massifs dans l’IA générative d’entreprise et la valeur effectivement créée. Un dirigeant en charge de la transformation IA dans la distribution propose six lignes directrices concrètes pour passer des pilotes à l’exécution gouvernée : principes hiérarchisés, confiance graduée, contexte unifié et pilotage par exception, avec le jugement humain comme ressource centrale.

Le rôle humain évolue : le jugement devient la ressource rare

Les résistances à l’adoption de l’IA relèvent souvent de l’identité professionnelle et de la question du rôle de chacun lorsque la machine exécute. L’approche part d’un constat : le cœur du métier a toujours été le jugement. L’IA accroît la valeur du jugement, qui, bien formulé, peut orienter des milliers de décisions chaque jour. Le goût se distingue du jugement : le goût permet d’évaluer la pertinence d’une question et de choisir la meilleure option parmi de nombreuses possibilités, alors qu’une machine peut générer 100 options sans sélectionner la plus appropriée. La transition vers l’IA valorise ainsi des qualités comme la pensée systémique, la précision des exigences et la lucidité sur les modes d’échec, présentes chez de nombreux membres de l’IEEE. Dans cette perspective, gouverner place jugement et goût au centre du travail, et ceux qui embrassent cette évolution définiront la profession à l’ère de l’IA. Ce mode de fonctionnement doit permettre à une organisation de croître sans augmenter proportionnellement ses effectifs.

Le fossé GenAI : beaucoup d’investissements, peu d’impact mesuré

Le MIT Media Lab estime que les entreprises ont investi entre 30 et 40 milliards de dollars dans l’IA générative. Les auteurs constatent que la majorité des organisations étudiées n’ont pas démontré d’impact mesurable sur les profits et pertes, et estiment qu’environ 5 % des pilotes intégrés créent une valeur substantielle. Ils qualifient cet écart de GenAI Divide. Vu du terrain, l’obstacle principal n’est généralement pas la technologie, souvent partagée avec les rares succès, mais le manque de personnes capables de diriger les systèmes et de soutenir les résultats.

Sortir du « middleware humain » et redonner sa place au jugement

De nombreux professionnels servent d’interface entre outils et équipes, un rôle de « middleware humain », un piège de l’administrateur qui tient à l’architecture plus qu’aux individus. Les agents d’IA transmettent efficacement l’information, mais ne décident pas des chiffres à considérer, des risques avérés ni des compromis acceptables. Dans les métiers en contact avec la clientèle, des assistants virtuels peuvent répondre à des questions courantes et orienter vers des produits, services ou étapes, mais l’arbitrage des situations complexes reste réservé au jugement humain.

Passer des règles aux principes et clarifier les droits décisionnels

Lorsque des systèmes prennent des milliers de décisions par heure, la recommandation est d’abandonner les règles détaillées au profit de principes hiérarchisés. Les exemples de règles traditionnelles, comme des signatures managériales au-delà d’un seuil ou des relectures de code systématiques, fonctionnent à la vitesse humaine mais échouent à l’échelle. Des principes comme ne pas nuire au client, dire la vérité même au prix d’une vente, ou protéger l’économie avant d’agir, orientent les arbitrages. Ce cadre se rattache à la notion de droits décisionnels, soit l’autorité formelle sur chaque décision, et fait de la rédaction d’une bibliothèque de principes un acte de leadership pour les technologues et les responsables métier.

Coder la culture : constitution, doctrine et playbook

Autre proposition : inscrire valeurs et politiques de l’entreprise directement dans le code, sous la forme d’instructions lisibles par machine. Le dispositif compte trois couches : une constitution qui fixe des règles inviolables, comme l’interdiction d’énoncer des faits non étayés ; une doctrine qui précise la manière de concurrencer et les compromis admis, par exemple préférer une relation de long terme à une vente immédiate ; et un playbook rassemblant les tactiques opérationnelles pour chaque tâche.

Confiance graduée et boucle CCRAG pour une IA explicable

Plutôt qu’un interrupteur binaire, la confiance est pensée comme un thermostat : chaque décision d’agent reçoit un score par rapport aux principes. Au-dessus d’un seuil, l’agent agit ; en dessous, un humain tranche, et sa réponse réentraîne le système. Cette transparence, qualifiée de « boîte de verre », nécessite une vue complète du contexte. La boucle CCRAG se décompose ainsi : des connexions qui ingèrent les données brutes ; un contexte qui les relie en un graphe offrant une forme de mémoire ; un raisonnement qui décide ; des actions qui réinjectent les décisions ; et une gouvernance qui assure l’alignement avec l’intention. Les organisations privilégient souvent le raisonnement et sous-investissent dans le contexte et la gouvernance, alors que le contexte s’enrichit à chaque interaction. Dans ce cadre, la consigne est de diriger par exception : la machine laisse intacts les flux routiniers et remonte les cas à faible confiance, ambigus ou critiques, vers une décision humaine.

Un cadre issu du terrain de la distribution

Ces propositions émanent d’un dirigeant qui pilote la transformation IA chez un détaillant du Fortune 100 et qui a coécrit The Enterprise Brain. L’objectif affiché est d’apporter au client l’expertise pertinente au bon moment plutôt que de promouvoir l’IA. Dans cette approche, les rôles techniques incluent la définition de ce que les systèmes peuvent décider en autonomie, ce qui doit être escaladé et ce qui reste interdit. Cette évolution est décrite comme un « changement de gouverneur », où les opérateurs, sans nécessairement coder, fixent par exemple les exceptions de prix qu’un agent peut approuver ou doit soumettre à un humain.