Satya Nadella : modèles IA, des chevaux de Troie cachés

Satya Nadella : modèles IA, des chevaux de Troie cachés

Parmi tous les débats sur les inconvénients potentiels de l'IA, une préoccupation suscite le plus d'inquiétude parmi les passionnés d'IA de la Silicon Valley. Leur crainte est que les grands laboratoires d'IA qui vendent des modèles propriétaires agissent comme des chevaux de Troie.

La préoccupation est que, alors que les startups et les entreprises utilisent des modèles d'IA provenant de laboratoires comme OpenAI et Anthropic, ces laboratoires obtiennent un accès de plus en plus important aux informations commerciales les plus sensibles de ces entreprises. Les créateurs de modèles peuvent alors utiliser ces connaissances à leur propre avantage, devenant potentiellement des concurrents de leurs propres clients. Ceux qui émettent de telles mises en garde vont des investisseurs en capital-risque comme Jason Calacanis au PDG de Palantir, Alex Karp.

Dans un article de blog surprenant publié dimanche, le PDG de Microsoft, Satya Nadella, a rejoint ce groupe. Nadella avertit que les utilisateurs d'IA (les « acheteurs », comme il les appelle) paient deux fois. Ils dépensent consciemment pour l'utilisation de jetons d'IA, mais ils transmettent également, sans le savoir, des données précieuses dans le processus.

« Vous payez essentiellement pour l'intelligence deux fois, une fois avec de l'argent, et encore une fois avec quelque chose d'encore plus précieux : les connaissances propriétaires que vous devez révéler pour rendre cette intelligence utile. Plus vous souhaitez que le modèle fonctionne bien, plus vous devez lui fournir de ces connaissances ! » écrit-il.

Plus dangereusement, les entreprises enseignent littéralement aux modèles les nuances de leurs activités, soutient-il.

« Les modèles apprennent à partir de l'‘exhaust’, les invites que les gens écrivent, les outils que les agents utilisent, et surtout les corrections que les gens apportent lorsque le modèle se trompe. Chaque correction est distillée en savoir institutionnel », écrit-il.

C'est « le genre de connaissance qu'un concurrent ne pourrait jamais acheter », et pourtant les entreprises la transmettent.

Nadella soutient que si les entreprises d'IA peuvent librement explorer Internet pour entraîner leurs modèles, il est juste que les entreprises puissent étudier — ou « distiller » — ces modèles en retour. La « distillation » est la pratique consistant à utiliser les propres résultats d'un modèle pour apprendre comment il fonctionne et pour entraîner un nouveau modèle, souvent moins coûteux, basé sur ces informations. En février, Anthropic a accusé des modèles open source chinois d'envoyer des millions d'invites à Claude pour améliorer leurs propres modèles, et a exhorté le gouvernement américain à sévir contre les contrôles à l'exportation.

Le point de Nadella est que les créateurs de modèles ne peuvent pas avoir le beurre et l'argent du beurre. Il est hypocrite pour eux de s'entraîner librement sur les données du monde tout en restreignant les autres de faire de même avec leurs modèles.

« Bien que la grande innovation qui découle des droits d'utilisation équitable des fournisseurs de modèles pour entraîner des modèles sur des données publiques soit nécessaire, je trouve ironique que le statu quo soit de se retourner et d'imposer des conditions restrictives sur la distillation », écrit Nadella.

Nadella s'inquiète particulièrement lorsque les créateurs de modèles « se réservent le droit d'apprendre à partir des données d'utilisation et d'interaction des clients ».

La solution de Nadella est le genre de chose qu'un PDG d'un grand fournisseur de cloud pourrait suggérer. Il veut que les entreprises « conservent la propriété » de leurs données, y compris les invites, les retours, etc. Il les exhorte donc à construire leurs propres « environnements d'apprentissage propriétaires » sur le cloud (où leurs données sont probablement déjà stockées de toute façon et, commodément, cela pourrait signifier le cloud de Microsoft, Azure). Il souhaite également que les entreprises intègrent ce qu'il appelle des « couches d'orchestration » — essentiellement, un moyen de passer facilement d'un modèle d'IA à un autre fournisseur plutôt que d'être enfermées dans un seul. Des outils comme les « passerelles » d'IA qui permettent aux entreprises de faire exactement cela sont devenus de plus en plus populaires.

Bien que Nadella n'utilise jamais les mots « open source » comme méthode pour conserver la propriété, cela est un sous-texte évident. Pourtant, il y a un autre sous-texte.

Les grandes entreprises, dont beaucoup ont encore certains de leurs propres centres de données en plus d'utiliser le cloud, se tournent déjà vers des modèles open source installés sur leurs propres locaux (« on-prem », dans le jargon de l'industrie). Idit Levine, fondatrice et PDG de Solo.io — qui fabrique des logiciels de mise en réseau et de sécurité qui aident les entreprises à gérer les systèmes d'IA — dit qu'elle observe exactement ce changement se produire avec ses propres clients. Après avoir expérimenté avec des créateurs de modèles propriétaires, ils commencent à se demander : « Puis-je prendre un modèle open source et l'exécuter sur site ? Il fera presque 90 % de ce que fait le grand modèle. Cela coûtera beaucoup moins cher », dit-elle à TechCrunch. « Ils comprennent cela, et ils peuvent le contrôler. »

La technologie de Solo.io a été sélectionnée l'année dernière pour être la technologie alimentant le projet Agentgateway de la Linux Foundation. Son entreprise compte des clients tels que T-Mobile, ADP et SAP. Elle constate que les entreprises installent de plus en plus des modèles open source sur site et considère cela comme la prochaine grande vague dans l'utilisation de l'IA en entreprise.

Elle n'est pas seule. Vercel (surtout connu comme une plateforme de création et d'hébergement de sites web, qui a récemment ajouté des outils de changement de modèle d'IA) et OpenRouter (une entreprise qui aide les développeurs à acheminer des demandes à travers différents modèles d'IA) constatent tous deux une augmentation du trafic vers les modèles open source. En fait, les modèles open source représentaient 29 % de tout le trafic acheminé via la passerelle de Vercel le mois dernier.

Avec le PDG de Microsoft, une entreprise qui a investi à la fois dans OpenAI et Anthropic, exhortant désormais ouvertement les entreprises à se méfier de l'utilisation de modèles propriétaires, nous parions que cette tendance continuera de croître. « En consommant de l'intelligence, vous créez de l'intelligence. Et ce que vous créez devrait vous appartenir », écrit Nadella.