Anthropic défie le Pentagone : bataille sur la sécurité de l'IA

Anthropic défie le Pentagone sur la désignation de risque

Dario Amodei, le fondateur d'Anthropic, a annoncé jeudi que l'entreprise d'intelligence artificielle qu'il dirige envisage de contester en justice une décision récente du Département de la Défense (DOD) des États-Unis. Cette décision, qui qualifie Anthropic de risque pour la chaîne d'approvisionnement, est jugée par Amodei comme étant « légalement infondée ».

Cette annonce intervient peu de temps après que le DOD a officiellement étiqueté Anthropic comme un risque potentiel pour la chaîne d'approvisionnement, suite à un différend de plusieurs semaines sur le niveau de contrôle que l'armée devrait avoir sur les systèmes d'IA. Ce statut pourrait empêcher l'entreprise de collaborer avec le Pentagone et ses sous-traitants. Amodei a tenu à préciser que les technologies développées par Anthropic ne sont pas destinées à la surveillance de masse des citoyens américains ni à la création d'armes autonomes. Cependant, le Pentagone insiste sur la nécessité d'un accès sans restriction pour tous les usages légaux.

Impact limité sur les clients

Dans sa déclaration, Amodei a souligné que la majorité des clients d'Anthropic ne seraient pas touchés par cette désignation. Il a expliqué que cette mesure concerne principalement l'utilisation de leur modèle d'IA, Claude, dans le cadre de contrats directs avec le Département de la Guerre, et non l'ensemble des utilisations possibles par d'autres clients.

• « Pour nos clients, cela s'applique uniquement à l'utilisation de Claude dans le cadre de contrats directs avec le Département de la Guerre », a-t-il clarifié.

Arguments juridiques d'Anthropic

Amodei a donné un aperçu des arguments qu'Anthropic pourrait avancer devant les tribunaux. Il a souligné que la lettre du Département de la Défense, qui qualifie l'entreprise de risque, est limitée dans son champ d'application.

• « Cette désignation vise à protéger le gouvernement plutôt qu'à punir un fournisseur », a-t-il déclaré. Amodei a ajouté que la loi oblige le Secrétaire de la Guerre à utiliser les moyens les moins restrictifs nécessaires pour assurer la protection de la chaîne d'approvisionnement.

Même pour les sous-traitants du Département de la Guerre, cette désignation ne devrait pas restreindre les utilisations de Claude ou les relations commerciales avec Anthropic, à condition qu'elles ne soient pas directement liées à des contrats spécifiques avec le Département.

Tensions internes et fuite de mémo

Amodei a également mentionné que des discussions constructives avaient eu lieu avec le DOD ces derniers jours. Cependant, ces échanges ont été perturbés par la fuite d'un mémo interne. Dans ce document, Amodei avait critiqué les relations d'OpenAI avec le Département de la Défense, les qualifiant de « théâtre de sécurité ».

OpenAI a récemment signé un accord pour travailler avec le DOD à la place d'Anthropic, ce qui a suscité des réactions internes. Amodei a présenté ses excuses pour la fuite, affirmant que l'entreprise n'avait pas intentionnellement partagé le mémo.

Contexte et perspectives

Le mémo avait été rédigé dans un contexte de tension, peu après plusieurs annonces, dont un post sur Truth Social du président indiquant qu'Anthropic serait retiré des systèmes fédéraux, suivi par la désignation de risque pour la chaîne d'approvisionnement par le secrétaire à la Défense Pete Hegseth. Amodei a qualifié cette journée de « difficile » pour l'entreprise et a précisé que le mémo ne reflétait pas ses opinions mûrement réfléchies.

Il a conclu en affirmant qu'Anthropic s'engage à garantir que les soldats américains et les experts en sécurité nationale continuent d'avoir accès à des outils cruciaux, notamment dans le cadre des opérations en Iran. L'entreprise continuera à fournir ses modèles au DOD à un « coût nominal » aussi longtemps que nécessaire.

Défis juridiques à venir

Anthropic pourrait porter cette affaire devant un tribunal fédéral, probablement à Washington. Cependant, la législation en vigueur rend cette contestation complexe, car elle limite les voies habituelles de recours contre les décisions d'approvisionnement du gouvernement et accorde au Pentagone une large marge de manœuvre en matière de sécurité nationale.

Dean Ball, ancien conseiller de la Maison Blanche sur l'IA, a souligné que les tribunaux sont généralement réticents à contester les décisions du gouvernement en matière de sécurité nationale, bien que cela ne soit pas impossible.