Anthropic et Trump : bras de fer sur l'exportation de Fable

Rencontre entre Anthropic et l'administration Trump

Dario Amodei, le PDG d'Anthropic, a récemment rencontré des responsables de l'administration Trump pour discuter de l'interdiction d'exportation imposée à leur modèle d'intelligence artificielle, Fable. Selon un rapport de POLITICO, cette rencontre visait à résoudre un différend concernant des vulnérabilités de sécurité perçues dans le modèle.

Les employés d'Anthropic ont rencontré lundi des responsables de haut niveau de l'administration Trump lors de leurs premières discussions en personne après qu'une interdiction d'exportation imposée par le gouvernement fédéral a contraint la startup d'intelligence artificielle à retirer son dernier modèle du marché vendredi soir. Deux responsables de l'administration, une personne familière avec les discussions et une personne proche de l'entreprise ont informé POLITICO, qui fait partie du réseau Axel Springer Global Reporters.

Il est probable qu'il faudra plus de quelques jours pour parvenir à une résolution qui atténue l'action du gouvernement fédéral de vendredi, qui interdisait à Anthropic de permettre aux utilisateurs non américains d'accéder à son dernier modèle en raison de vulnérabilités de sécurité potentielles, a déclaré un responsable senior de la Maison Blanche. Cependant, ce responsable a laissé la porte ouverte à la possibilité que cela puisse être fait rapidement. "C'est à Anthropic de décider", a-t-il déclaré.

L'entreprise s'est précipitée pour envoyer des dirigeants seniors possédant une expertise en recherche et en sécurité à Washington après plusieurs heures d'appels entre le co-fondateur d'Anthropic, Tom Brown, le secrétaire au Commerce Howard Lutnick et le directeur national de la cybersécurité Sean Cairncross au cours du week-end, ont déclaré les responsables, qui, comme d'autres cités dans cet article, ont été accordés l'anonymat pour décrire les discussions. Sarah Heck, responsable des politiques publiques d'Anthropic, était également présente lors de ces appels.

Les réunions en personne de lundi, organisées par le bureau du Commerce et celui de Cairncross, étaient plus techniques et dirigées par le personnel, y compris Chris Fall, qui dirige le Centre pour les normes et l'innovation en IA du Commerce, a précisé la personne familière avec les discussions.

Anthropic a présenté aux responsables de l'administration ses systèmes de sécurité informatique dans l'espoir de dépasser les restrictions, a déclaré le responsable de l'administration. Les représentants d'Anthropic comprenaient Logan Graham, qui évalue et teste les modèles dans le cadre de l'équipe de sécurité Frontier Red Team de l'entreprise ; Dave Orr, responsable des mesures de sécurité de l'entreprise ; et Nicholas Carlini, son chercheur principal en sécurité, a ajouté une personne proche d'Anthropic.

Les implications pour l'innovation en IA

Cette situation a suscité des inquiétudes parmi les experts en intelligence artificielle, qui estiment que de telles restrictions pourraient entraver le leadership des États-Unis dans ce domaine. Les contrôles à l'exportation imposés par l'administration Trump sont perçus comme une menace pour l'innovation et la compétitivité américaine face à la Chine.

La restriction à l'exportation était la plus importante escalade à ce jour dans les tentatives de l'administration de réguler l'industrie de l'IA, qui se développe plus rapidement que l'infrastructure gouvernementale autour de cette technologie révolutionnaire. C'était également la première fois que la Maison Blanche a contraint une entreprise à retirer un modèle de l'accès public, mais ce n'était que le dernier d'une série de conflits entre l'administration et Anthropic concernant les restrictions éthiques sur les risques potentiellement catastrophiques liés à l'IA.

Anthropic a défendu ses mesures de sécurité depuis que les restrictions ont été imposées vendredi soir. "Ces vulnérabilités semblent toutes relativement simples, et nous avons constaté que d'autres modèles disponibles publiquement peuvent également les découvrir sans nécessiter de contournement", a-t-elle déclaré dans un article de blog. L'entreprise a également affirmé que la violation de sécurité était mineure et ne constituait pas un "jailbreak" plus large permettant aux gens de l'utiliser pour des cyberattaques.

Réactions et perspectives

Le secrétaire au Trésor Scott Bessent, qui a joué un rôle clé dans les discussions avec le PDG d'Anthropic Dario Amodei avant que l'administration n'impose les restrictions à l'exportation, a été moins impliqué pendant le week-end, et le Trésor n'a pas participé aux réunions en personne de lundi. Lutnick a été sollicité par le président et est devenu plus impliqué au cours du week-end en raison de sa supervision de la politique d'exportation du pays, a déclaré la personne familière avec les discussions. Lutnick et Bessent ont tous deux voyagé sur Air Force One avec le président pour des réunions du G7 qui se tiennent de lundi à mercredi.

Le contrôle à l'exportation, qui interdisait à Anthropic de permettre aux ressortissants étrangers d'utiliser son dernier modèle, Fable, a effectivement contraint l'entreprise à retirer complètement le modèle pour se conformer, a déclaré l'entreprise vendredi soir.

L'escalade est survenue après un désaccord entre Anthropic et l'administration concernant une préoccupation de sécurité perçue avec Fable, qu'Amazon, un investisseur clé d'Anthropic, avait soulevée auprès de la Maison Blanche en fin de semaine dernière, comme l'a précédemment rapporté POLITICO. Amazon a signalé avoir trouvé un moyen de contourner les protections d'Anthropic sur Fable, un modèle tant attendu conçu pour être moins puissant que le modèle hautement avancé Mythos de l'entreprise. Anthropic a permis à un groupe restreint d'entreprises d'accéder à Mythos en raison de sa capacité à exploiter les vulnérabilités informatiques plus rapidement que n'importe quel humain.

Fable a fonctionné à un niveau similaire à Mythos, mais était doté de protections intégrées pour empêcher les utilisateurs de le pousser à mener une cyberattaque ou à détailler comment créer une arme biologique, a déclaré l'entreprise. La découverte d'Amazon, portée à l'attention de la Maison Blanche et de l'Agence nationale de sécurité, a poussé Cairncross, Bessent et d'autres à exiger qu'Anthropic mette fin à l'accès à Fable. Lorsque Anthropic n'a pas accepté, arguant plutôt que la violation de sécurité était mineure et ne constituait pas un "jailbreak" plus large permettant aux gens de l'utiliser pour des cyberattaques, l'administration a imposé un contrôle à l'exportation que l'entreprise a déclaré l'avoir contrainte à agir.

Au cours du week-end, un groupe de près de 80 experts techniques et PDG a écrit une lettre ouverte à l'administration exhortant les responsables à révoquer le contrôle à l'exportation. Ils ont déclaré que les actions que les chercheurs d'Amazon avaient réussi à faire exécuter par Fable constituaient une "capacité nécessaire dans tout modèle destiné à écrire du code sécurisé" et "ne devraient pas être considérées comme une capacité offensive".

Les contrôles abrupts de l'administration Trump ont "retiré les meilleurs modèles des défenseurs, créé une incertitude sur le marché et risqué le leadership américain en matière d'IA sans aucun risque réel pour le justifier", ont écrit les leaders technologiques dans la lettre.

Graham, l'un des employés d'Anthropic participant aux réunions avec l'administration, avait déclaré à Fox News en avril qu'Anthropic cherchait à trouver un équilibre en donnant accès à Mythos aux défenseurs "sans que les acteurs malveillants aient accès". "En fin de compte, nous pensons que des outils comme celui-ci doivent être déployés dans le monde entier de manière sécurisée, car nous avons besoin que le monde entier utilise ces outils pour se défendre également", a ajouté Graham. L'interview a eu lieu avant la sortie de Fable.

Certains membres de la communauté technologique ont soutenu les restrictions strictes à l'exportation et ont déclaré que les risques posés par la rupture des protections étaient sérieux. Mais d'autres experts en IA, et même des responsables au sein de l'administration, ont déclaré que les contrôles créent un paysage réglementaire menaçant qui va freiner l'industrie.

"L'IA est maintenant sous licence, mais les exigences changent constamment et sont toujours secrètes, même pour l'administration elle-même, qui découvrira les règles de manière spontanée en temps réel en réagissant aux événements", a écrit Dean Ball, un ancien responsable de l'administration Trump qui a travaillé sur la politique de l'IA, sur X.

Un responsable actuel de l'administration a averti que plus le différend sur l'exportation dure, plus il est probable qu'il devienne un régime de licence de facto auquel les entreprises d'IA devront faire face lorsqu'elles publieront de nouveaux modèles, ralentissant leur innovation et leur concurrence avec la Chine.

Si le contrôle à l'exportation ne se résume pas à une simple "réprimande" rapidement atténuée, "cela va poser un énorme problème pour l'ensemble de l'industrie", a déclaré le responsable de l'administration. "Cela signifie que chaque modèle à l'avenir devra demander la permission du gouvernement pour savoir s'il peut être publié. C'est une situation extrêmement mauvaise", a ajouté le responsable.