Satya Nadella : le double coût caché de l'IA

Satya Nadella : le double coût caché de l'IA

Chaque correction envoyée à un modèle d’IA transmet une part du savoir-faire interne de l’entreprise à son fournisseur, sans contrepartie pour elle. C’est ce que Satya Nadella, patron de Microsoft, appelle le paradoxe inversé de l’information.

Une correction apportée à une réponse fausse construit, d'après Satya Nadella, un savoir que la concurrence ne pourrait jamais acheter.

Satya Nadella dirige Microsoft depuis 2014. Dans un long texte publié sur son compte X.com, il reprend le paradoxe formulé par l’économiste Kenneth Arrow, distingué par le prix Nobel d’économie en 1972. Il décrivait un vendeur contraint de révéler son savoir avant de le vendre. Satya Nadella prétend que face à l’IA, l’acheteur révèle son savoir pour obtenir un résultat utile. Chaque correction que les salariés apportent au modèle alimente, en retour, les serveurs du fournisseur. Le fournisseur apprend davantage à chaque usage, tandis que le client mesure mal ses propres apprentissages transmis en retour. Satya Nadella propose alors cinq principes pour que les entreprises gardent la main sur leurs apprentissages accumulés avec l’IA.

Cinq leviers pour les entreprises, par le patron de Microsoft

Le texte développe la notion d’exhaust, l’ensemble des traces laissées par les salariés lorsqu’ils utilisent un modèle. Une correction apportée à une réponse fausse construit, d’après Satya Nadella, un savoir que la concurrence ne pourrait jamais acheter. Il nomme ce dispositif la frontière de confiance. Rien n’en sort, ni les traces, ni les évaluations, ni les modèles ajustés en interne, sauf accord explicite de l’entreprise. Cette frontière régit, selon lui, le nouvel actif que représente l’apprentissage accumulé, alors que l’ère du cloud avait mis l’accent sur la donnée brute.

Il relève une asymétrie qu'il juge ironique. Les fournisseurs de modèles invoquent le fair use pour entraîner leurs systèmes avec des données publiques, mais refusent à leurs clients le droit de distiller ces mêmes modèles vers des versions maison. Il en tire une raison pour redistribuer l’infrastructure d’apprentissage vers chaque entreprise cliente, plutôt que de la laisser aux seuls fournisseurs de modèles.

Le patron de Microsoft reprend les mots d’Alex Karp, dirigeant de Palantir, pour qui les clients veulent conserver la maîtrise de leur calcul, de leurs modèles et de leurs données.

Les cinq leviers proposés par Satya Nadella sont :

• Retenir les évaluations internes, car elles définissent ce que signifie une bonne réponse pour une organisation donnée.

• Bâtir leurs propres environnements d’apprentissage, à l’intérieur de leur périmètre technique.

• Détacher l’orchestration d’un modèle unique. Un changement de fournisseur préserve alors l’expertise accumulée.

• Découpler l’architecture technique des coûts d’infrastructure, en répartissant les tâches entre plusieurs modèles selon leur prix.

• Relier ces éléments entre eux pour que chaque usage nourrisse le suivant, à l'intérieur du même périmètre.

Un mois plus tôt, sur le même réseau, Satya Nadella défendait l’idée d’une intelligence artificielle qui ne vaut rien sans une boucle d’apprentissage pilotée par l’humain, l’un des fils conducteurs de sa réflexion sur le sujet.

Le RGPD encadre des transferts de données comparables

Le droit européen encadre un mécanisme similaire à ce qu’il décrit, mais pour les sous-traitants numériques. Le RGPD oblige toute entreprise qui traite des données pour le compte d’un client à signer un contrat précisant les finalités autorisées, sans réutilisation possible hors de ce cadre. L’article 28 du règlement fixe les termes de cette relation pour les sous-traitants classiques. Le même schéma contractuel, appliqué à l’IA, fixerait au fournisseur une limite sur l’usage des données transmises, définie par contrat plutôt que par les seules conditions générales du fournisseur.

Plusieurs éditeurs proposent des modèles à poids ouverts, hébergés directement sur les serveurs de l’entreprise cliente. C’est le cas de Mistral, chez nous. Ses systèmes fonctionnent depuis l’infrastructure interne de l’entreprise, sans passage par les serveurs d'un fournisseur tiers. Les responsables informatiques recherchent d’abord la personnalisation des modèles sur des données internes. Le coût maîtrisé entre également en ligne de compte, selon des analystes du secteur.

Le post de Satya Nadella dépasse les 3,7 millions de vues sur X en une journée. Les réactions opposent des soutiens convaincus par la description du risque à des critiques qui jugent la solution difficile à appliquer pour une PME sans équipe technique dédiée.