Trump s'oppose à Amodei sur le rythme de l'IA

L'appel de Dario Amodei à ralentir le développement de l’IA ravive les tensions avec Donald Trump, qui rejette l’idée de nouveaux garde-fous. En toile de fond, Anthropic sort à peine d’un bras de fer judiciaire avec l’administration et évolue sans loi fédérale sur l’IA. Des voix du secteur, d’Elon Musk à un chercheur démissionnaire d’Anthropic, s’invitent dans le débat.

Anthropic entre contentieux publics et flou fédéral

Anthropic, qui s'apprête à une introduction en bourse qualifiée d'historique, a entretenu une relation conflictuelle avec l'administration Trump. En février, le Pentagone a placé la société sur liste noire dans le cadre d'un différend contractuel. Anthropic a alors engagé une procédure judiciaire pour contester ces mesures ainsi qu'un ordre distinct interdisant aux agences fédérales d'utiliser ses services. Le mois dernier, la juge fédérale Rita Lin a jugé cette action illégale et sans fondement. Plus récemment, le secrétaire au Commerce Howard Lutnick a déclaré qu'Anthropic était de nouveau en bons termes avec l'administration, affirmant faire confiance à l'entreprise et indiquant qu'elle avait répondu aux attentes. Ce parcours s'inscrit dans un contexte où la coopération sur la régulation de l'IA reste difficile, même aux États-Unis : les réglementations les plus étendues relèvent aujourd'hui des États, et le Congrès n'a pas adopté de loi fédérale malgré de nombreuses propositions.

Trump rejette des garde-fous, Musk appuie Amodei

Après la publication d'un essai de Dario Amodei appelant à ralentir le développement mondial de l'IA, Donald Trump a publiquement critiqué le dirigeant d'Anthropic. Sur Truth Social, il a affirmé que son administration avait empêché des acteurs de l'IA, dont Amodei, de faire des choses mauvaises ou potentiellement mauvaises, et qu'elle continuerait à le faire. Trump a réitéré sa position selon laquelle les États-Unis n'ont pas besoin de régulations supplémentaires dans l'IA, estimant que le seul garde-fou nécessaire est un président fort et intelligent, dont le pays disposerait en abondance. Il a également affirmé qu'une conspiration malsaine visait l'IA et les centres de données, et que la Chine était la seule à s'en réjouir, lançant un avertissement aux « théoriciens du complot » et aux « traîtres ». À l'inverse, Elon Musk, PDG de SpaceX, a soutenu publiquement Dario Amodei en écrivant sur X : « Dario a raison. »

Le plan en trois temps d’Amodei pour freiner l’IA

Dario Amodei a expliqué samedi que des développements récents, dont des modèles OpenAI jugés hors de contrôle, l'ont convaincu de la nécessité pour les laboratoires d'IA, y compris Anthropic, de ralentir le développement. Il préconise de réduire la vitesse d'amélioration des capacités des modèles et d'utiliser de façon réfléchie le temps ainsi gagné. Son plan se décline en trois phases, la première étant déjà en place chez Anthropic : des évaluateurs externes peuvent accéder aux systèmes de l'entreprise dans des conditions comparables à celles des employés, afin d'assurer le respect des exigences de sécurité, la déclaration des incidents et l'alignement des modèles. Les phases suivantes supposeraient une collaboration entre nations démocratiques, puis à l'échelle internationale.

Une alerte interne relance la sécurité de l’IA

Le débat sur la sécurité de l'IA a été ravivé par la démission virale du chercheur d'Anthropic Jacob Coxon. Celui-ci affirme que ni Anthropic ni OpenAI n'agissent de manière responsable. La semaine dernière, il a écrit qu'ils se précipitent vers une superintelligence auto-améliorante et qu'ils jouent avec des vies.