Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Microsoft et ses alliés défendent l'ouverture des modèles d'IA
Le 24 juillet, une lettre ouverte intitulée Open Weights and American AI Leadership a été initiée par Microsoft et signée par 235 entreprises influentes dans le domaine de l'intelligence artificielle. Parmi ces signataires figurent des géants tels que NVIDIA, Amazon, Y Combinator, The Linux Foundation, et plus tardivement, OpenAI. Cette initiative vise à influencer le gouvernement américain pour qu'il ne restreigne pas l'utilisation des modèles d'IA à poids ouverts, invoquant des préoccupations de sécurité.
Cette lettre est une réponse directe aux craintes que le gouvernement américain puisse envisager des interdictions ou des limitations sur ces modèles pour des raisons de sécurité nationale, une préoccupation qui a été mise en lumière par des incidents récents impliquant des modèles comme Claude Fable 5. Les signataires soulignent que les modèles fermés ne sont pas nécessairement plus sûrs, car ils peuvent être vulnérables à des compromissions, des abus ou des défaillances qui ne sont pas facilement détectables par des observateurs externes.
Les risques des modèles fermés et l'argument pour l'ouverture
Les modèles d'IA fermés, bien qu'ils puissent sembler sécurisés, concentrent le pouvoir technologique entre les mains de quelques acteurs, ce qui peut créer des points de défaillance uniques. Cela limite la concurrence et confie une technologie cruciale à un nombre restreint de fournisseurs. En revanche, les modèles à poids ouverts permettent à une communauté diversifiée de chercheurs et de développeurs de scruter leur fonctionnement, d'identifier les failles potentielles et de proposer des améliorations continues.
Un aspect notable de la lettre est son soutien à la technique de distillation, un processus où les modèles sont entraînés à partir des sorties d'autres modèles. Cette méthode est essentielle pour le développement et l'évaluation des modèles, et elle s'inscrit dans une tradition d'apprentissage et d'amélioration continue des technologies, similaire à celle du mouvement open-source.
La distillation : une technique sous les projecteurs
La distillation est une pratique courante dans le développement de modèles d'IA, où les résultats d'un modèle servent à en entraîner un autre. Les signataires de la lettre insistent sur le fait que les décideurs politiques ne doivent pas confondre cette technique légitime avec des pratiques malveillantes. La distillation a été un moteur d'innovation, permettant d'améliorer et de valider les modèles existants, et elle est considérée comme un pilier du progrès technologique dans le domaine de l'IA.
La réponse d'Anthropic et ses préoccupations
Cependant, toutes les entreprises ne partagent pas cet enthousiasme pour les modèles à poids ouverts. Anthropic, une entreprise notablement absente de la liste des signataires, a publié sa propre réponse intitulée Notre position sur les modèles à poids ouverts trois jours après la lettre initiale. Le PDG, Dario Amodei, a exprimé des inquiétudes quant à la possibilité que des gouvernements autoritaires développent des modèles d'IA plus puissants que ceux des États-Unis, qui pourraient être utilisés à des fins malveillantes, telles que des cyberattaques ou des attaques biologiques.
Amodei a également appelé à une régulation stricte des opérations de distillation à grande échelle, tout en précisant qu'Anthropic ne soutient pas une interdiction totale des modèles à poids ouverts.
Un appel à la régulation internationale
Quelques jours plus tard, le 28 juillet, une autre lettre intitulée Pacing the Frontier a été publiée, signée par 1 324 employés de grandes entreprises d'IA, dont des figures telles que Jakub Pachocki de OpenAI, Ilya Sutskever, et Dario Amodei d'Anthropic. Cette lettre appelle le gouvernement américain à soutenir un effort international pour développer les outils techniques et de gouvernance nécessaires à une régulation réfléchie du développement automatisé de l'IA.
Les signataires expriment leur inquiétude face à la pression concurrentielle croissante et à l'accélération des progrès de l'IA, exacerbée par la recherche automatisée. Avec des entreprises comme Anthropic produisant 80 % de leur code avec Claude Code, et OpenAI réduisant ses coûts de service de 20 %, l'urgence de réguler ces avancées technologiques devient de plus en plus pressante.
