Meta, Microsoft et Nvidia unis pour l'avenir de l'IA à poids ouvert

Un appel collectif pour l'IA à poids ouvert

Dans une initiative collective, vingt-quatre entreprises et organisations ont signé une lettre ouverte adressée aux décideurs américains, plaidant pour la protection des modèles d'intelligence artificielle (IA) à poids ouvert. Publiée aujourd'hui, cette lettre rassemble des signatures de géants technologiques tels que Meta, Microsoft, Nvidia, et IBM, ainsi que d'autres acteurs influents comme Dell Technologies, CrowdStrike, Palantir, et ServiceNow. Des organisations comme Hugging Face, Perplexity, Mistral, Andreessen Horowitz, Y Combinator, Linux Foundation, et Mozilla figurent également parmi les signataires.

Ce qui rend cette coalition notable, c'est la diversité des signataires, qui incluent des concurrents commerciaux directs ainsi que des organisations ayant peu de chevauchement évident dans leur modèle économique. L'argument central de cette lettre repose sur une analogie avec le mouvement du logiciel open-source des années 1980. À l'époque, la question était de savoir si le code source devait être accessible à tous ou restreint à des usages commerciaux. Aujourd'hui, un débat similaire émerge concernant les poids des modèles d'IA : doivent-ils être librement accessibles ou confinés derrière des API commerciales ?

L'importance des modèles à poids ouvert

Les modèles d'IA à poids ouvert se caractérisent par la disponibilité de leurs paramètres entraînés, permettant à quiconque de les télécharger, les examiner, les modifier et les exécuter sur leur propre matériel. Cela contraste avec les modèles fermés, tels que ceux proposés par OpenAI ou Anthropic, qui ne sont accessibles que via des API, les poids restant confinés à l'infrastructure du fournisseur.

Les signataires de la lettre soutiennent que les poids ouverts sont essentiels pour diffuser les capacités de l'IA au-delà des laboratoires bien financés, vers des applications pratiques dans divers secteurs comme les usines, les hôpitaux, les fermes, les salles de classe et les entreprises locales.

Leur argumentation se décline en trois points principaux :

• Les poids ouverts abaissent la barrière d'entrée pour les startups et les institutions publiques qui ne peuvent pas se permettre de développer des modèles de pointe ou de payer des frais élevés pour l'utilisation de modèles via API.

• Ils stimulent la concurrence à tous les niveaux, des puces à l'infrastructure cloud en passant par les applications, ce qui, selon la lettre, maintient les coûts bas et empêche la concentration de la valeur entre les mains de quelques fournisseurs.

• Enfin, les poids ouverts offrent aux clients d'entreprise la possibilité d'éviter le verrouillage fournisseur, car les organisations utilisant ces modèles peuvent contrôler leurs propres données et adapter le modèle à leurs besoins spécifiques sans dépendre des décisions d'un seul fournisseur.

Sécurité et modèles ouverts : une perspective inversée

L'un des arguments les plus frappants de la lettre concerne la sécurité. Les signataires reconnaissent que publier les poids d'un modèle signifie perdre le contrôle sur leur utilisation. Les versions modifiées peuvent circuler sans les garde-fous de sécurité, et il n'existe pas de mécanisme pour les rappeler.

Cependant, ils soutiennent que l'interdiction n'est pas la solution. En comparant avec la cybersécurité, ils affirment que les défenseurs ont besoin d'accéder à des modèles d'IA comparables à ceux des attaquants pour détecter et simuler des menaces, ce que les systèmes fermés ne permettent pas facilement.

Ils avancent également que les modèles fermés ne sont pas intrinsèquement plus sûrs, car ils peuvent être piratés ou mal utilisés, et leurs défaillances ne peuvent être observées ou vérifiées par des chercheurs externes. En revanche, les modèles ouverts permettent à ces chercheurs d'examiner le comportement, de mener des tests approfondis et d'identifier des vulnérabilités, renforçant ainsi la sécurité globale.

La lettre établit un parallèle avec l'argument selon lequel « l'open-source est plus sécurisé que l'obscurité », bien qu'elle ne fournisse pas de données spécifiques sur la découverte de vulnérabilités ou d'incidents pour appuyer cette revendication dans le contexte des systèmes d'IA.

La distillation : une technique controversée défendue

La lettre aborde également la question de la distillation, une technique controversée dans le domaine de l'IA. La distillation consiste à utiliser les sorties d'un modèle pour former ou améliorer un autre modèle. C'est une pratique courante dans la recherche et le développement en apprentissage automatique, utilisée pour évaluer, valider et transférer des capacités entre des modèles de tailles différentes.

Les signataires distinguent la distillation légitime des « efforts illégaux pour extraire de la valeur des modèles fermés », affirmant que la première ne devrait pas être restreinte par les mêmes limitations que la seconde.

Cela semble être une réponse directe aux disputes qui ont éclaté après la montée de modèles chinois comme DeepSeek et Kimi, lorsque plusieurs laboratoires américains ont suggéré que des modèles rivaux avaient été formés en distillant les sorties de leurs propres systèmes fermés sans autorisation.

La lettre propose de traiter le détournement par des mécanismes juridiques et commerciaux ciblés, plutôt que par des restrictions générales sur une technique essentielle au domaine.

Implications pour le débat politique à venir

Bien que la lettre ne soit accompagnée d'aucune proposition législative ou réglementaire spécifique, elle constitue un positionnement stratégique avant une action politique attendue sur la régulation de l'IA à Washington. Les signataires appellent les législateurs à élargir l'accès à l'informatique pour les startups et les chercheurs, à financer des ensembles de données d'entraînement partagés et des cadres d'évaluation, et à éviter des « restrictions prématurées » sur les modèles ouverts.

Ce document doit être vu comme un indicateur des préférences des principaux fournisseurs d'infrastructure et de puces, tels que Nvidia, IBM et Dell, qui ont des intérêts commerciaux directs dans la prospérité des écosystèmes à poids ouvert. Une plus large gamme de modèles déployables se traduit par plus de ventes de services et de calcul, indépendamment du laboratoire qui a produit les poids.

Les équipes d'approvisionnement qui évaluent l'utilisation de modèles à poids ouvert par rapport aux modèles fermés doivent garder à l'esprit que l'environnement politique favorisant une approche par rapport à l'autre reste incertain. Toute restriction sur la distillation ou la publication ouverte pourrait modifier l'économie de l'IA auto-hébergée au cours d'un seul cycle législatif.