Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Dario Amodei clarifie la position d'Anthropic sur les modèles à poids ouverts
Dario Amodei, fondateur et PDG d'Anthropic, a récemment pris la parole pour dissiper certaines rumeurs circulant dans le secteur technologique. Ces rumeurs suggéraient qu'Anthropic soutiendrait les initiatives du gouvernement américain visant à interdire les modèles d'intelligence artificielle (IA) chinois à poids ouverts, voire les modèles à poids ouverts en général. Amodei a pris soin de clarifier que sa société n'a jamais plaidé pour une telle interdiction, soulignant que ceux qui ont suivi ses écrits antérieurs devraient déjà connaître sa position sur le sujet. Il a insisté sur le fait qu'il ne considère pas ces interdictions comme une mesure utile.
Une réponse à une lettre ouverte de Nvidia
La déclaration d'Amodei intervient après que Jensen Huang, PDG de Nvidia, a publié une lettre ouverte sur la plateforme X. Cette lettre, cosignée par plusieurs entreprises influentes dans le domaine de l'IA, telles que Hugging Face, Meta, Microsoft, Mistral, et Nvidia elle-même, appelait à éviter des restrictions prématurées sur les modèles d'IA à poids ouverts. Bien que la lettre ne mentionne pas explicitement la Chine, le débat dans l'industrie s'est intensifié autour des accusations selon lesquelles les laboratoires d'IA chinois augmenteraient leurs capacités en s'appropriant la propriété intellectuelle de leurs homologues américains, notamment par le biais de techniques comme la distillation.
Les modèles à poids ouverts : un bien public selon Amodei
Dans son billet de blog, Amodei a exprimé son opinion selon laquelle les modèles à poids ouverts, lorsqu'ils ne présentent pas de capacités dangereuses, constituent un bien public. Ces modèles, qui ne nécessitent que des ressources de calcul pour fonctionner, apportent une valeur significative aux entreprises, aux développeurs et aux chercheurs. Amodei a également précisé que, bien qu'il ait des préoccupations de longue date concernant l'IA, les modèles à poids ouverts, même ceux développés en Chine, ne figurent pas parmi ses principales inquiétudes.
Les inquiétudes d'Amodei face à l'IA chinoise
Amodei a exprimé ses craintes concernant la possibilité que des gouvernements autoritaires, tels que le Parti communiste chinois, développent des modèles d'IA plus puissants que ceux des États-Unis. Il redoute que ces modèles soient utilisés pour établir une supériorité militaire permanente ou pour réprimer les populations locales. Bien qu'il ne se concentre pas uniquement sur la Chine, il la considère comme le gouvernement autoritaire le plus capable dans ce domaine.
Les risques des modèles à poids ouverts
Amodei a également évoqué la menace potentielle que représentent les modèles à poids ouverts dans le contexte d'attaques biologiques, en plus des cyberattaques. Selon lui, ces modèles sont plus dangereux car il est difficile de mettre en place des garde-fous ou de surveiller leur utilisation. Il a cité un rapport de l'Institut britannique de sécurité de l'IA pour souligner qu'une fois publiés, les poids ouverts ne peuvent pas être retirés, ce qui va à l'encontre des arguments des défenseurs de l'open source.
Mesures proposées pour contrer la Chine
Pour faire face à la menace perçue de l'IA chinoise, Amodei a proposé plusieurs actions, notamment restreindre l'accès de la Chine à des puces puissantes, une politique déjà en place aux États-Unis, et appeler à une répression formelle de la distillation. Les États-Unis ont d'ailleurs menacé la Chine de sanctions en cas de vol de propriété intellectuelle impliquant des modèles américains.
Vers une coopération internationale en matière de sécurité de l'IA
Amodei a également exprimé son soutien aux efforts visant à créer une organisation internationale de test de sécurité des modèles d'IA. Il a noté que pour être efficace, une telle organisation devrait inclure tous les pays, y compris la Chine. Il a été encouragé par le fait que l'administration Trump a avancé dans cette direction ces derniers mois. Il a exprimé l'espoir que même le Parti communiste chinois pourrait accepter une coopération limitée pour prévenir l'utilisation de l'IA dans des armes biologiques, car cela serait également dans l'intérêt de la Chine.
