Claude Mythos 5: Anthropic Faces Trump's Imposed Suspension

Claude Mythos 5 : Anthropic face à la suspension imposée par Trump

Le gouvernement a torpillé le dernier modèle d'Anthropic, le plus puissant à ce jour. Des sources rapportent que le laboratoire d'IA et d'autres partisans de l'IA ont passé le week-end à tenter d'expliquer que Fable 5 n'était pas trop puissant.

Alors que le reste du pays célébrait la première victoire de la USA en Coupe du Monde et le championnat des New York Knicks, Anthropic a passé son week-end à se battre contre l'administration Trump concernant la sortie de son dernier modèle. À 17h21 vendredi, l'entreprise a reçu une directive de contrôle des exportations des États-Unis, suspendant l'accès à ses modèles d'IA Mythos 5 et Fable 5 pour « tout ressortissant étranger » à l'intérieur ou à l'extérieur des États-Unis, y compris les employés étrangers d'Anthropic. Anthropic a déterminé que la seule façon de se conformer à cette directive était de désactiver complètement les produits qu'elle avait mis en avant la semaine précédente et de se rendre à Washington, DC, dans l'espoir de convaincre le président Donald Trump de changer d'avis. Dans les jours à venir, le gouvernement américain pourrait modifier de manière significative la trajectoire de l'ensemble de l'industrie, infligeant un coup dur aux entreprises d'IA américaines.

Claude Mythos 5 et Fable 5 reposent sur la même base que le Mythos Preview d'Anthropic, que l'entreprise avait jugé trop dangereux pour être publié. Mythos 5 a été mis à disposition d'un groupe restreint d'agences gouvernementales et d'entreprises, tandis que Fable 5, qui comportait des protections supplémentaires, a été jugé « sûr pour un usage général ». Cependant, lorsqu'un rapport a indiqué que ces garde-fous avaient peut-être échoué, les avertissements alarmants d'Anthropic concernant le risque que Mythos tombe entre de mauvaises mains sont revenus les hanter.

Une source proche de la situation, ayant participé aux négociations entre Anthropic et l'administration Trump, a déclaré que l'administration avait contacté le laboratoire d'IA vendredi vers 13h00 ET et donné à l'entreprise un ultimatum de 90 minutes pour fermer l'accès à Mythos 5 et Fable 5. Si elle ne le faisait pas, le gouvernement imposerait des contrôles à l'exportation sur Anthropic par l'autorité du Département du Commerce des États-Unis.

La source a indiqué que les dirigeants d'Anthropic étaient en communication avec la Maison Blanche dans les 15 minutes suivant cet appel initial, confirmant que le PDG Dario Amodei avait rejoint les discussions environ une heure et quart après cet appel. Amodei a directement parlé avec le secrétaire au Trésor américain Scott Bessent, le secrétaire au Commerce Howard Lutnick, et le directeur national de la cybersécurité Sean Cairncross, dans certains cas plus d'une fois.

Anthropic a déclaré dans un communiqué vendredi que l'entreprise croyait que le gouvernement « pensait avoir pris connaissance d'une méthode de contournement, ou de "jailbreaking", de Fable 5 ». Plutôt qu'une menace existentielle, Anthropic a précisé que le jailbreak en question était « potentiellement étroit, non universel » et avait été « partagé avec le gouvernement » par une entité que l'entreprise a refusé de nommer. De plus, Anthropic a affirmé que ce comportement n'était pas unique à Fable 5. « Nous avons examiné un rapport que nous croyons être à la base de la directive du gouvernement et avons validé que le niveau de capacité affiché là est largement disponible à partir d'autres modèles (y compris GPT-5.5 d'OpenAI) », a écrit Anthropic.

Des rapports indiquent que le tumulte a commencé parce que le gouvernement américain craignait qu'un groupe lié à la Chine ait accédé à la technologie. Cependant, la source a précisé que les rumeurs concernant la Chine remontaient à des semaines, faisant référence à une grande entreprise de télécommunications mondiale qui avait initialement été autorisée à accéder à Mythos Preview, et qu'Anthropic avait immédiatement révoqué cet accès lorsque le gouvernement américain a partagé ses préoccupations.

Un post sur X par David Sacks, ancien responsable de l'IA et de la crypto-monnaie du gouvernement américain, n'a pas non plus mentionné la Chine. Sacks a cependant évoqué l'entité non nommée qui avait exposé le problème au gouvernement, la qualifiant de « partenaire de confiance hautement crédible d'Anthropic et du gouvernement américain qui testait Fable [et] est venu avec un jailbreak de ces garde-fous ».

Certains rapports pointent vers le PDG d'Amazon, Andy Jassy, comme la personne ayant signalé des préoccupations au gouvernement américain après que des chercheurs d'Amazon aient red-teamé Fable 5. Cette conclusion contredit certains red-teamers indépendants, qui ont déclaré avoir été impressionnés par le niveau de protections.

La source proche des négociations a indiqué que la recherche d'Amazon avait été explicitement mentionnée dans les conversations avec le gouvernement américain. La personne a ajouté qu'Anthropic avait eu accès à ce document dans les jours suivant la directive de contrôle des exportations de vendredi et avait depuis lors échangé avec les chercheurs d'Amazon à ce sujet.

Tout ce qui figure dans ce document, a déclaré la source, pourrait être réalisé par GPT-5.5 d'OpenAI.

Anthropic a passé le week-end à tenter de se réconcilier avec l'administration Trump, commençant par des réunions virtuelles, puis en envoyant des employés à DC, y compris Dave Orr, responsable des sauvegardes d'Anthropic ; Logan Graham, qui dirige son équipe de red team de pointe et a dirigé le travail sur le Project Glasswing ; et Nicholas Carlini, un développeur de pointe et chercheur en cybersécurité. Axios a rapporté, citant une source proche de la réflexion de l'administration Trump, que l'entreprise avait simplement commis des erreurs répétées dans sa communication avec l'administration et qu'elle « n'avait pas bien réussi à essayer de parler à l'administration et à apprécier les différences idéologiques ». Pour Anthropic, le timing ne pouvait pas être pire : l'entreprise comptait sur Mythos pour l'aider à se remettre, en partie, de mois de conflits très médiatisés avec le Département de la Défense des États-Unis.

La source proche des négociations a déclaré qu'Anthropic avait préalablement informé l'administration sur Fable 5, et que le Département du Commerce des États-Unis avait effectué des tests avant le déploiement, sans préoccupations partagées à l'époque. La source a ajouté qu'Anthropic avait travaillé en étroite collaboration avec des agences gouvernementales depuis la sortie de Mythos Preview.

L'administration Trump avait initialement adopté une approche non interventionniste en matière de sécurité de l'IA, mais après Mythos, elle est devenue plus ambivalente, même si elle s'inquiète de la menace de perdre la course à l'IA face à la Chine. Désormais, des leaders de la cybersécurité ont averti que mettre à l'écart Mythos 5 et Fable 5 pourrait donner à la Chine un avantage significatif en matière d'IA. La décision de Trump a galvanisé des appels internationaux en faveur d'alternatives aux systèmes d'IA américains, tout en mettant effectivement sur la glace le nouveau modèle phare d'une grande entreprise d'IA américaine.

Une lettre publique d'exécutifs de la technologie et de la cybersécurité a appelé à l'annulation des restrictions sur Fable 5 dimanche. « Nous ne sommes pas tous d'accord sur le fait que la réglementation de l'IA est la bonne voie à suivre », indique la lettre, ajoutant que si des réglementations doivent être mises en place, elles devraient être basées sur « des évaluations scientifiques développées avec l'apport de l'industrie et du monde académique ».

Alex Stamos, directeur produit chez Corridor, a déclaré à The Verge qu'il avait organisé la lettre publique parce que le nombre incalculable de vulnérabilités au cours de la dernière décennie, écrites dans une variété de langages de programmation différents, nécessite que l'IA les corrige avant que des acteurs malveillants ne les exploitent. « Nous sommes dans une course, et je pense que les décideurs ne comprennent pas cela », a déclaré Stamos. « Il y a cette étrange arrogance, cette idée que les laboratoires américains sont largement en avance sur nos adversaires et que cela sera toujours vrai, qu'il est vraiment important de restreindre l'accès à cause de cela. Je pense juste que c'est insensé. Si les laboratoires sont en avance, c'est seulement de quelques mois. Et vous pouvez le voir dans les évaluations ouvertes. Les modèles de pointe ne sont en avance que d'environ six mois sur les modèles chinois — et ce sont les modèles que nous connaissons. »

La lettre publique poursuit en déclarant que bien que les modèles de la classe Mythos d'Anthropic soient compétents pour trouver des vulnérabilités en cybersécurité et tirer parti des exploits, ils ne sont pas « exceptionnellement bons » dans ces tâches et que les protections de Fable 5 « étaient si agressives qu'elles étaient devenues une source d'humour dans la communauté cyber le jour du lancement ». Stamos a déclaré à The Verge qu'« il y a une réelle exagération des capacités de Mythos. Anthropic en est en partie responsable, clairement... Mythos est génial, mais le véritable tournant a eu lieu l'année dernière. »

Stamos a déclaré que l'industrie est inondée de contrats de sauvegarde signés avec des entreprises non américaines et de modèles à poids ouverts déployés sur des arrangements matériels alternatifs, car le week-end dernier a rendu le risque politique partie intégrante des plans d'affaires des entreprises plus que jamais auparavant.

« Ils se moquent de nous à Pékin en ce moment », a déclaré Stamos. « L'un des champions de l'Amérique est mis à genoux par le gouvernement américain alors que nous sommes en course avec les Chinois. C'est juste incroyablement stupide. C'est pourquoi j'ai écrit la lettre, et je pense que c'est pourquoi beaucoup de gens l'ont signée. »

Ben Van Roo, co-fondateur et PDG de Legion Intelligence, un système d'agents pour la communauté de la sécurité nationale, a déclaré à The Verge que « la directive de "aucun ressortissant étranger ne doit utiliser ce modèle" est la chose la plus impossible à faire respecter ». Il a ajouté : « Quand j'ai lu cela pour la première fois, tout mon... [réseau de] nerds de la communauté IA explosait. »

Pour aggraver les choses, OpenAI, Google et Microsoft ont tous lancé leurs propres produits comparables à ceux de Mythos d'Anthropic, faisant de nombreuses affirmations similaires concernant leur efficacité et leurs risques. Si l'administration Trump interdit les modèles avancés de cybersécurité d'Anthropic, elle peut également justifier l'interdiction des modèles de ses concurrents. Cela pourrait inciter les leaders de l'industrie de l'IA à s'unir et à aider Anthropic ou, comme dans son combat concernant les armes autonomes avec le Pentagone, à se positionner comme un...