Anthropic : incertitude sur les modèles Mythos après Trump

Anthropic : incertitude sur les modèles Mythos après Trump

Cela fait deux semaines qu'Anthropic a mis hors ligne ses modèles de la classe Mythos après un ultimatum de l'administration Trump. L'entreprise a immédiatement réagi en envoyant une série de dirigeants à Washington, D.C. Cependant, les mises à jour se font remarquablement rares, sans résolution en vue.

Anthropic a refusé de commenter à plusieurs reprises cette semaine sur l'état des discussions, affirmant qu'il n'y avait pas de nouvelles à partager. Mais l'absence de nouvelles est en soi une information. Après 14 jours de négociations intenses, personne ne sait quand ou si les modèles d'IA les plus puissants d'Anthropic reviendront, sans parler de la possibilité que le président Trump étende son ordre à d'autres entreprises disposant de technologies similaires. Plus le temps passe sans résolution, plus la situation devient critique — non seulement pour Anthropic, mais pour l'ensemble de l'industrie de l'IA aux États-Unis.

L'ordre de contrôle des exportations du 12 juin émis par l'administration Trump exigeait qu'Anthropic suspende l'accès aux Mythos 5 et Fable 5 pour « tout ressortissant étranger » en raison de préoccupations de sécurité. Ce ban concernait tout citoyen non américain, à l'intérieur ou à l'extérieur des États-Unis, y compris ceux employés par Anthropic. Jusqu'à présent, Anthropic a conclu que sa seule option était de maintenir ces modèles hors ligne.

Il n'est pas clair pourquoi Anthropic et l'administration restent dans une impasse. Un problème pourrait être l'absence d'un cadre clair pour appliquer les contrôles d'exportation aux systèmes d'IA. La plupart des entreprises fabriquant des produits à double usage — systèmes civils avec des applications potentielles de défense ou militaires — peuvent les évaluer à l'aide d'une sorte de liste de contrôle durant le processus de fabrication et de production. Anthropic, en revanche, fait face à une bureaucratie compliquée pour déterminer comment appliquer ses règles à partir de principes fondamentaux.

Ce processus de contrôle des exportations peut normalement s'étendre sur des mois, voire des années, et se conclure avant qu'un produit n'atteigne le marché. Cependant, comme cela a été rapporté, le département du Commerce des États-Unis aurait apparemment testé Fable 5 avant sa sortie et n'a soulevé aucune plainte. Une source familière avec les négociations a déclaré qu'Anthropic avait conclu que ses modèles étaient sûrs à publier. L'agence n'aurait apparemment pas agi jusqu'à ce que quelqu'un (en l'occurrence, le PDG d'Amazon, Andy Jassy) signale une méthode permettant de contourner les garde-fous de Fable 5 — à ce moment-là, tout le processus a été compressé en quelques jours.

Katie Moussouris, fondatrice et PDG de Luta Security, a examiné un rapport sur la vulnérabilité de Fable 5 à la demande d'Anthropic. Elle pense que cela a été considérablement exagéré. Dans un article de blog, Moussouris a détaillé comment des chercheurs ont contourné les garde-fous qui empêchent Fable 5 de trouver des failles de sécurité exploitables, l'une des capacités les plus inquiétantes de Mythos 5. Le modèle refusait les demandes de révision de code « pour des problèmes de sécurité », mais acceptait les demandes de « corriger ce code » suivies de prompts manuels, ce qui pourrait théoriquement conduire à signaler des vulnérabilités qu'il n'était pas censé divulguer.

Pour Moussouris, cela ne devrait pas déclencher une action gouvernementale aussi sévère et constitue en fait un outil essentiel pour le codage d'IA. « Les défenseurs doivent pouvoir demander à l'IA de corriger les bugs dans un fichier, d'expliquer pourquoi la correction est importante et d'écrire des tests qui confirment que le correctif fonctionne », a-t-elle écrit. « Ce n'est pas un contournement des garde-fous. C'est la chose la plus précieuse qu'un modèle d'IA puisse faire pour la sécurité défensive : exécuter la boucle de recherche, de correction et de test que les défenseurs exécutent chaque jour. »

Au cours de la semaine dernière, le cofondateur d'Anthropic, Tom Brown, a remplacé le PDG Dario Amodei dans les négociations avec l'administration Trump, aux côtés de Sarah Heck, la responsable des politiques publiques de l'entreprise, selon Wired. Cependant, les négociations semblent avancer lentement, s'il y a effectivement des progrès.

Quelles que soient les raisons du retard, cela a été un coup dur pour Anthropic. Avant les négociations prolongées, Anthropic était perçue comme l'une des rares entreprises d'IA ayant un chemin vers la rentabilité. Ses modèles de la classe Mythos, dont les tokens d'entrée se vendent au double du coût de son modèle moins puissant Opus 4.8, étaient censés augmenter ses revenus avant une introduction en bourse imminente. La puissance de cybersécurité de Mythos semblait même améliorer les relations avec l'administration Trump après des mois de combats juridiques et rhétoriques.

Anthropic a besoin des revenus générés par Mythos pour financer toute la puissance de calcul qu'elle a récemment sécurisée, y compris un contrat de 15 milliards de dollars par an avec SpaceX pour accéder à ses centres de données, ainsi que pour son image publique avant l'introduction en bourse. Deux des plus grands actionnaires actuels d'Anthropic — Google et Amazon — ont tenté de rester soigneusement en bons termes avec Trump, donc ils ne doivent pas être contents non plus.

Pendant ce temps, les négociations glaciales ont également créé un vide de pouvoir sur le marché mondial de l'IA, non seulement en raison de l'arrêt de Mythos, mais parce que le gouvernement américain a signalé sa volonté de verrouiller les systèmes d'IA américains qu'il juge risqués — et plusieurs entreprises américaines, dont OpenAI, Google et Microsoft, ont des modèles qui pourraient poser des risques similaires à ceux de Mythos. Les pays ont commencé à appeler à des IA non américaines. Comme l'a déclaré Alex Stamos, expert en cybersécurité et directeur produit chez Corridor, la semaine dernière, « l'un des champions de l'Amérique est mis à mal par le gouvernement américain alors que nous sommes en course avec les Chinois. C'est tout simplement incroyablement stupide. »

Au fur et à mesure que les jours passent, la situation ne fait qu'empirer pour ces entreprises. Leurs modèles se rapprochent des capacités de niveau Mythos qui pourraient déclencher un ordre de contrôle des exportations — en fait, le GPT-5.5 Cyber d'OpenAI vient de surpasser Mythos 5 sur certains critères, et l'administration Trump aurait récemment demandé à OpenAI de retarder la sortie de GPT-5.6 en raison de préoccupations de sécurité, avec des plans pour que le gouvernement approuve chaque client un par un. Les introductions en bourse d'Anthropic et d'OpenAI approchent toutes deux. Et chaque jour, la Chine prend de l'avance dans la course à l'IA.

Ironiquement, l'ordre de l'administration intervient après des mois de pression pour démanteler les protections et la réglementation de l'IA — c'est l'une des premières décisions réglementaires majeures prises par le président Trump. Mais un grand nombre de leaders en cybersécurité se sont réunis pour dire que si la réglementation doit avoir lieu, ce n'est pas de cette manière. Pour toutes les promesses de l'administration Trump de revenir sur la réglementation de l'IA instaurée sous Biden, il semble que, de nombreuses manières, elle ait repris ce terrain — et même plus.