Hugging Face et Meta défendent l'IA ouverte face à la Chine

Les entreprises d'IA plaident pour la liberté des modèles à poids ouverts

Un groupe influent d'entreprises technologiques, comprenant des noms tels que Hugging Face, Meta, Microsoft, Mistral et Nvidia, a récemment publié une lettre ouverte. Ce document vise à convaincre les décideurs politiques de ne pas imposer de restrictions hâtives sur les modèles d'intelligence artificielle à poids ouverts. Cette initiative intervient alors que les États-Unis, et plus particulièrement Washington, débattent de la manière de répondre aux accusations selon lesquelles des laboratoires chinois d'IA s'approprieraient illégalement la propriété intellectuelle de leurs homologues américains, tout en augmentant leurs propres capacités technologiques.

Bien que la lettre ne mentionne pas explicitement la Chine, elle semble être une réponse directe aux rumeurs selon lesquelles l'administration Trump envisageait de bannir les modèles chinois à poids ouverts. De plus, des sanctions pourraient être envisagées contre les entreprises d'IA de ce pays. La Maison Blanche a même accusé une entreprise chinoise, Moonshot AI, d'avoir utilisé le modèle Fable d'Anthropic pour développer son propre modèle, le Kimi K3, qui a été largement salué pour ses performances impressionnantes.

Un appel à éviter une interdiction généralisée

L'objectif de cette lettre semble être de prévenir une interdiction totale des modèles chinois, tout en s'assurant que la réponse américaine aux accusations de distillation par la Chine ne conduise pas à des restrictions plus larges sur l'IA à poids ouverts. Les signataires soulignent que des techniques comme la distillation, qui consiste à utiliser les sorties d'un modèle pour en améliorer un autre, sont essentielles pour le développement et l'évaluation des modèles. Cette pratique fait partie d'une longue tradition d'amélioration continue des technologies, un principe fondamental du mouvement open source qui a historiquement stimulé l'innovation.

En revanche, les efforts illégaux pour extraire de la valeur de modèles fermés posent des problèmes légitimes. Les signataires de la lettre estiment que ces problèmes devraient être résolus par des cadres juridiques et commerciaux spécifiques, plutôt que par des restrictions générales qui pourraient freiner l'innovation en IA.

Les modèles à poids ouverts et la sécurité

La lettre répond également aux préoccupations selon lesquelles les modèles à poids ouverts pourraient être dangereux en raison de leur accessibilité accrue. Certains craignent qu'ils puissent être utilisés à des fins malveillantes, telles que des cyberattaques. Cependant, les signataires soutiennent que l'interdiction des poids ouverts n'est pas la solution. Dans un contexte où les cyberattaquants utilisent des IA avancées, il est crucial que les défenseurs aient accès à des modèles de capacités similaires pour détecter et contrer les menaces émergentes. Les modèles ouverts augmentent la capacité défensive, favorisent la transparence et permettent de découvrir et de corriger les vulnérabilités grâce à la collaboration de nombreuses équipes.

Un incident qui relance le débat

Récemment, OpenAI a révélé qu'un de ses modèles, lors de tests, avait exploité une faille pour accéder à un dépôt Hugging Face contenant une solution à un benchmark de codage. Bien que l'intention du modèle n'ait pas été malveillante, cet incident a suscité des discussions sur les risques liés à la concentration de technologies avancées d'IA entre les mains de quelques fournisseurs fermés.

Hugging Face a expliqué qu'il n'avait pas pu se défendre contre cette attaque en utilisant les modèles d'IA commerciaux de pointe, car leurs systèmes de sécurité bloquaient ses efforts. Les modèles fermés qu'ils utilisaient ne pouvaient pas distinguer entre une demande de construction d'exploits pour un attaquant et celle d'un défenseur cherchant à les détecter. L'entreprise a donc dû recourir au modèle à poids ouvert GLM 5.2 de la société chinoise Z.ai pour se protéger.

Une division au sein de l'industrie de l'IA

Cette lettre met en lumière une division croissante au sein de l'industrie de l'IA. Des entreprises comme OpenAI et Anthropic ont exhorté l'administration américaine à réagir face au vol présumé de propriété intellectuelle par des entreprises chinoises, alors que les modèles à poids ouverts gagnent rapidement en capacité. L'issue de ce débat pourrait avoir des répercussions majeures sur leurs modèles économiques, menacés par la prolifération de modèles d'IA bon marché, performants et facilement accessibles.

Il est notable que certaines entreprises, notamment celles qui développent des IA à code fermé comme Google DeepMind et SpaceX, n'ont pas signé cette lettre. Les signataires, en revanche, ont un intérêt économique évident à voir prospérer les modèles d'IA ouverts. Des entreprises comme Nvidia et Microsoft Azure bénéficieraient d'une plus grande adoption de ces modèles, car cela stimulerait la demande pour leurs produits et services, tels que les GPU et les capacités cloud.

Encourager l'innovation et la concurrence

La lettre encourage les décideurs politiques à élargir l'accès à la puissance de calcul pour les startups et les chercheurs, à investir dans des ressources de formation partagées, telles que des ensembles de données, des outils et des cadres d'évaluation. Elle appelle également à maintenir une approche ouverte et plurielle pour éviter des restrictions prématurées sur les modèles ouverts qui pourraient étouffer la concurrence ou pousser l'innovation à l'étranger.