Brief IA : Anthropic visée par le CAIS avant son entrée en Bourse

Anthropic visée par le CAIS avant son entrée en Bourse

Brief IA
Tom Levy·2 min

Le CAIS a publié le « MisAnthropic Statement », qui conteste les promesses de sécurité d'Anthropic. En février dernier, Anthropic a abandonné certains engagements unilatéraux de suspension du développement de ses modèles. Son introduction en Bourse est prévue jeudi 19 novembre, avec une valorisation attendue supérieure à 1 400 milliards de dollars.

En bref
1Le CAIS a publié le « MisAnthropic Statement », qui conteste les promesses de sécurité d'Anthropic.
2En février dernier, Anthropic a abandonné certains engagements unilatéraux de suspension du développement de ses modèles.
3Son introduction en Bourse est prévue jeudi 19 novembre, avec une valorisation attendue supérieure à 1 400 milliards de dollars.
Pourquoi c'est important : les signataires accusent Anthropic de poursuivre le développement d'une IA dont elle avertit elle-même qu'elle pourrait échapper au contrôle humain.

Le Center for AI Safety (CAIS), une ONG américaine, publie une lettre ouverte contre Anthropic, dont l'introduction en Bourse est prévue jeudi 19 novembre. Ses signataires mettent en cause la cohérence entre les promesses de sécurité du créateur de Claude et ses décisions.

Anthropic a renoncé à des suspensions préventives

En février dernier, Anthropic a assoupli sa charte consacrée à la sécurité. L'entreprise a notamment supprimé des engagements qui prévoyaient de suspendre unilatéralement le développement de ses modèles lorsque certains seuils de risque étaient atteints. Elle est également accusée de mener des démarches de lobbying pour affaiblir plusieurs projets législatifs américains sur l'IA.

Il y a quelques mois, Dario Amodei, dirigeant d'Anthropic, avait publiquement défendu un ralentissement du développement d'une IA pour prévenir une perte de contrôle.

Les signataires contestent les garanties affichées

La sécurité occupe une place centrale dans l'identité revendiquée par Anthropic depuis sa fondation. Ses sept cofondateurs avaient quitté OpenAI sur fond de désaccords concernant la sûreté des modèles. L'entreprise à l'origine de Claude présente elle-même son IA comme responsable et sûre.

La lettre du soirGratuit · 19 h

Vous suivez la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

Les signataires accusent toutefois Anthropic de se servir de cette promesse pour attirer les investisseurs, recruter et convaincre le public. Ils lui reprochent une contradiction précise : avertir qu'une IA capable de s'améliorer récursivement pourrait concentrer le pouvoir et échapper aux humains, tout en cherchant à la développer avant ses concurrents.

Ils refusent donc de considérer Anthropic comme une entreprise d'IA sûre et appellent à rejeter une accumulation de pouvoir qu'ils jugent imprudente, malgré sa justification par l'intérêt collectif. Dan Hendrycks, directeur du CAIS, dénonce pour sa part le danger d'une entreprise persuadée que sa propre domination bénéficie au bien commun.

Les signataires et l'entrée en Bourse prévue

Baptisé « MisAnthropic Statement », l'appel rassemble notamment Max Tegmark et Tristan Harris, figures historiques de la sécurité de l'IA. Guillaume Verdon, connu sous le pseudonyme « Beff Jezos », et Thomas Wolf, cofondateur de Hugging Face, l'ont également signé. Le prix Nobel d'économie Oliver Hart, le lauréat du prix Turing Judea Pearl et le psychologue Steven Pinker figurent aussi parmi les signataires.

La contestation intervient pendant les préparatifs de cotation d'Anthropic sur le Nasdaq. L'opération est annoncée comme devant être la plus importante introduction en Bourse jamais réalisée. La valorisation attendue de l'entreprise dépasse 1 400 milliards de dollars.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires