Anthropic et le Sénat US : bataille législative sur l'IA militaire

Un projet de loi pour encadrer l'usage de l'IA militaire

Le sénateur Adam Schiff, représentant de la Californie, travaille sur un nouveau projet de loi visant à "codifier" les lignes rouges établies par Anthropic concernant l'utilisation de l'intelligence artificielle (IA) dans le domaine militaire. L'objectif principal de cette législation est de s'assurer que les décisions cruciales, notamment celles de vie ou de mort, restent sous contrôle humain. Cette initiative législative intervient dans un contexte où la question de l'usage de l'IA dans des domaines sensibles est de plus en plus débattue.

Parallèlement, la sénatrice Elissa Slotkin du Michigan a récemment introduit un projet de loi similaire, connu sous le nom d'AI Guardrails Act. Ce texte vise à limiter la capacité du ministère de la Défense à utiliser l'IA pour la surveillance de masse des citoyens américains. Il s'agit d'une tentative de renforcer les protections contre l'utilisation de l'IA dans des contextes qui pourraient porter atteinte aux libertés civiles.

Conflit avec l'administration Trump

L'administration Trump a récemment placé Anthropic sur une liste noire, désignant l'entreprise comme un risque pour la chaîne d'approvisionnement. Cette décision a été prise après qu'Anthropic a imposé des limites à l'utilisation de ses modèles d'IA par l'armée. En réponse, Anthropic a intenté une action en justice, accusant le gouvernement de violer ses droits constitutionnels. L'entreprise attend actuellement de savoir si un tribunal interviendra pour bloquer cette désignation.

Anthropic s'oppose fermement à l'utilisation de ses technologies pour des armes entièrement autonomes et pour la surveillance de masse à l'intérieur du pays. Cette position contraste avec celle de son principal concurrent, OpenAI, qui a signé un accord avec le Pentagone. Le sénateur Schiff a exprimé son inquiétude quant au fait que le Pentagone s'en prenne à Anthropic, soulignant que cela pourrait retarder le leadership de l'Amérique en matière d'IA.

Les enjeux de la législation

Le bureau de Schiff est en train de finaliser les détails de la législation, qui vise à empêcher l'utilisation de l'IA à des "fins illicites". Le projet de loi de Slotkin, quant à lui, restreint l'utilisation de l'IA pour des actions telles que le lancement d'armes nucléaires ou la surveillance de citoyens américains. Cependant, il prévoit également des exceptions en cas de "circonstances extraordinaires" nécessitant l'utilisation de l'IA pour déployer des armes létales autonomes.

Dans le projet de loi que Schiff est en train de rédiger, les spécificités concernant ce qui constitue une arme autonome ou une surveillance domestique sont encore en discussion. Schiff a déclaré que les personnes légalement présentes dans le pays méritent une protection, et cela pourrait aller au-delà en tant que question de droits de l'homme.

Importance de l'humain dans la boucle

Un principe fondamental guidant cet effort législatif est l'idée qu'il doit toujours y avoir un "humain dans la boucle". Schiff a expliqué que chaque fois qu'une technologie a la capacité de prendre une vie humaine, il doit y avoir un opérateur humain dans la chaîne de commandement. "Nous ne voulons pas déléguer ce type de responsabilité sur la vie et la mort à un algorithme," a-t-il déclaré.

Cependant, cela ne signifie pas qu'il n'y a pas de rôle pour l'IA sur le champ de bataille. Schiff a souligné que l'IA peut fournir des informations précieuses aux opérateurs humains, leur permettant de prendre des décisions éclairées pour défendre le pays ou ajuster leurs actions en fonction de ce que l'IA peut voir en temps réel sur le champ de bataille. "Les applications sont très significatives," a-t-il ajouté. "Elles peuvent être très bénéfiques du point de vue de la sécurité nationale et de la défense. Mais elles peuvent aussi signifier la vie ou la mort, faire la distinction entre une cible civile et une cible militaire, ou se tromper sur ces choses."

Défis politiques et perspectives

Avec une minorité démocrate dans les deux chambres, le succès à court terme du projet de loi pourrait dépendre de la volonté des républicains d'être perçus comme critiques de l'administration. Les élections de mi-mandat qui approchent compliquent encore la situation, bien que l'équilibre des pouvoirs au Congrès puisse changer si les démocrates reprennent une ou les deux chambres. Schiff espère utiliser des véhicules législatifs comme la National Defense Authorization Act (NDAA) pour faire avancer son projet.

"Il y a certainement un soutien bipartisan dans le public pour ce type de limitations," a déclaré Schiff. "Comme toujours, vous êtes confronté à la question lorsque vous prenez des mesures pour prévenir tout abus administratif, ce qui soulève des problèmes avec certains de mes collègues sur la question de savoir si cela peut être interprété comme une critique implicite de l'administration. Nous devrons gérer cela, mais j'espère que nous pourrons le rendre bipartisan."

Depuis qu'Anthropic a engagé son combat avec le Pentagone, OpenAI a dû défendre ses raisons de signer des termes qui ont suscité des réactions publiques. Même si OpenAI affirme qu'elle insistera sur les mêmes termes, Schiff a déclaré qu'il préférerait ne pas avoir à faire confiance au Pentagone ou à un PDG. "J'aurais beaucoup plus confiance, franchement, si ces exigences étaient statutaires, plutôt que de compter sur la légalité du Pentagone ou sur la parole d'un PDG d'IA," a-t-il déclaré.