Anthropic sur liste noire : le bras de fer inédit avec le Pentagone

Conflit ouvert entre le Pentagone et Anthropic

Le Pentagone a récemment pris une décision radicale en plaçant la start-up Anthropic sur liste noire, illustrant un fossé grandissant entre l'administration Trump et une partie de l'industrie technologique. Cette mesure inédite a été prise après que Peter Hegseth, secrétaire à la Défense des États-Unis, a lancé un ultimatum à Anthropic. L'entreprise devait accorder un accès total à sa technologie au département de la Défense, dans les limites légales, ou voir son contrat révoqué et sa technologie bannie de l'administration. Le refus de Dario Amodei, dirigeant d'Anthropic, a conduit à cette rupture.

Accusations de Donald Trump

Suite au refus d'Anthropic, Donald Trump a exprimé sa colère sur son réseau Truth Social, accusant l'entreprise d'être "woke" et de faire partie de la "gauche radicale". Le département de la Défense a alors classé Anthropic comme un risque pour sa chaîne d'approvisionnement, interdisant ainsi son utilisation par toute branche du gouvernement. Cette classification, jusqu'alors réservée à des sociétés étrangères comme Huawei, marque une première pour une entreprise américaine.

Une collaboration prometteuse compromise

Anthropic était pourtant au cœur de la stratégie d'adoption de l'IA par le gouvernement américain. En juillet dernier, la start-up avait obtenu un contrat de 200 millions de dollars du Pentagone pour développer des applications d'IA au service de la sécurité nationale. Bien que le gouvernement collabore également avec d'autres acteurs de l'IA comme Google, OpenAI et xAI, Anthropic était la plus utilisée, notamment grâce à son intégration à Palantir, et la seule déployée sur des systèmes classifiés. Sa technologie avait été mobilisée lors de l'opération visant à capturer Nicolás Maduro au Venezuela.

Tensions internes et départs chez Anthropic

Les relations ont commencé à se détériorer début janvier, après la publication par Peter Hegseth d'un mémo annonçant une stratégie visant à transformer l'armée américaine en une "force de combat axée sur l'IA", prônant un usage de cette technologie affranchi de toute "contrainte de politique d'utilisation". Cette approche, combinée à l'utilisation de la technologie d'Anthropic lors de l'opération au Venezuela, a provoqué des remous en interne. Le 15 février, un chercheur spécialisé dans la sécurité de l'IA a quitté l'entreprise, illustrant le malaise croissant.

Pressions du département de la Défense

En parallèle, le département de la Défense a intensifié la pression sur Anthropic et d'autres entreprises pour autoriser l'utilisation militaire de leurs systèmes à "toutes fins légales", y compris pour le développement d'armements, le renseignement et les opérations sur le champ de bataille. Les réticences d'Anthropic ont conduit Peter Hegseth à imposer une date butoir à Dario Amodei, et face à l'absence de compromis, à opter pour une rupture radicale.

L'approche de l'administration Trump

L'administration Trump, qui a mené en 2024 une campagne résolument techno-libertarienne, a su séduire de nombreux cadres de la Silicon Valley, déçus par la politique jugée anti-tech de Joe Biden. Depuis ses débuts, elle prône une adoption débridée de l'IA, s'opposant à toute régulation et favorisant une adoption rapide de la technologie par toutes les branches du gouvernement, y compris dans la Défense. Cette approche va toutefois trop loin pour certaines voix au sein de la tech, dont Anthropic, à travers son dirigeant Dario Amodei, qui met régulièrement en garde contre les risques d'une IA non régulée.

Les dangers d'une IA non régulée

Anthropic n'est pas la seule à s'inquiéter de l'adoption rapide de l'IA par le Pentagone. Gary Marcus, expert américain de l'IA, partage ces préoccupations. Il estime que les grands modèles de langage actuels sont trop enclins à halluciner et à commettre des erreurs pour être utilisés à des fins militaires. "L'IA générative n'est absolument pas assez fiable pour prendre des décisions de vie ou de mort à grande échelle", écrit-il sur son blog. Il avertit que déployer ces technologies sans précautions suffisantes pourrait mener à la catastrophe.

Étude alarmante du King's College London

Une étude récente du King's College London, menée par le chercheur Kenneth Payne et son équipe, ne rassure pas davantage. Ils ont mis en compétition trois grands modèles de langage — GPT-5.2, Claude Sonnet 4 et Gemini 3 Flash — dans des jeux de guerre simulant des affrontements internationaux. Les IAs, chargées d'organiser la défense d'un pays, ont opté pour l'usage de frappes nucléaires dans 95% des scénarios. Certains experts suspectent également que la frappe dirigée contre une école en Iran, qui a tué 150 enfants, ait pu être liée à une erreur de l'IA.

Craintes de surveillance accrue

Il existe également une crainte que l'administration Trump utilise l'IA pour renforcer la surveillance à grande échelle aux États-Unis, par exemple pour améliorer l'efficacité des expulsions de masse ou surveiller les opposants politiques.

Sam Altman et le retournement de situation

Sam Altman, qui entretient une relation tumultueuse avec Dario Amodei, a profité de la situation pour conclure un accord avec le Pentagone, après avoir initialement soutenu Anthropic. Bien qu'il affirme avoir obtenu des garde-fous de la part du Département de la Défense, de nombreux experts doutent de la solidité de cet accord. OpenAI n'est pas encore approuvée pour des usages classifiés, en partie parce que ses technologies ne sont pas disponibles via le cloud d'Amazon, utilisé par le gouvernement américain. Cependant, un partenariat entre OpenAI et Amazon, avec une injection de 50 milliards de dollars par le géant du commerce en ligne, pourrait changer la donne.

Appels à la régulation

Plusieurs experts de l'IA, comme Timothy B. Lee, appellent le Congrès à légiférer pour limiter certains usages et éviter une course vers le bas menée par les principales entreprises du secteur pour décrocher les contrats les plus lucratifs, quitte à sacrifier l'éthique. Cependant, il est peu probable qu'une telle loi soit adoptée avant les élections de mi-mandat, la majorité républicaine actuelle étant déterminée à suivre l'approche accélérationniste de Donald Trump.

Un jeu dangereux pour Trump

En s'en prenant à Anthropic et en ignorant les préoccupations exprimées par de nombreux professionnels de l'IA, y compris Sam Altman, quant à l'absence d'encadrement de la technologie, Trump prend un risque considérable. Les entrepreneurs de la Silicon Valley pourraient en effet craindre d'être les prochains à subir le même sort qu'Anthropic et décider qu'il est dans leur intérêt de se tourner à nouveau vers les démocrates, plutôt que de vivre sous la menace constante d'une telle épée de Damoclès.