Pentagone : l'IA générative au cœur des décisions de ciblage militaire

L'IA générative, un nouvel outil pour le ciblage militaire

L'armée américaine envisage d'intégrer des systèmes d'IA générative dans ses opérations de ciblage, selon un responsable du département de la Défense. Ces systèmes pourraient être utilisés pour classer des listes de cibles et recommander lesquelles attaquer en priorité, tout en s'assurant que les décisions finales sont prises par des humains. Cette révélation intervient alors que le Pentagone est sous le feu des critiques après une frappe sur une école iranienne, actuellement en cours d'enquête.

Le processus envisagé consisterait à introduire une liste de cibles potentielles dans un système d'IA générative déployé dans des environnements classifiés. Les humains pourraient ensuite demander à l'IA d'analyser ces informations et de prioriser les cibles en tenant compte de divers facteurs, tels que l'emplacement des avions. Les résultats et recommandations de l'IA seraient ensuite vérifiés et évalués par des humains. Des modèles comme ChatGPT d'OpenAI et Grok de xAI pourraient être utilisés dans ce type de scénario à l'avenir, ces entreprises ayant récemment conclu des accords pour que leurs modèles soient utilisés par le Pentagone dans des environnements classifiés.

Des partenariats stratégiques avec OpenAI et xAI

Bien que le responsable n'ait pas confirmé si cette méthode est actuellement en usage, il a décrit cela comme un exemple potentiel de fonctionnement. D'autres médias ont rapporté que Claude d'Anthropic a été intégré dans des systèmes militaires d'IA existants et utilisé dans des opérations en Iran et au Venezuela. Les commentaires du responsable éclairent le rôle spécifique que les chatbots pourraient jouer, notamment dans l'accélération de la recherche de cibles. Ils mettent également en lumière la manière dont l'armée déploie deux technologies d'IA différentes, chacune avec ses propres limitations.

Depuis au moins 2017, l'armée américaine travaille sur une initiative de "big data" appelée Maven. Elle utilise des types d'IA plus anciens, en particulier la vision par ordinateur, pour analyser les océans de données et d'images collectées par le Pentagone. Maven pourrait, par exemple, prendre des milliers d'heures de séquences aériennes de drones et identifier algorithmiquement des cibles. Un rapport de 2024 de l'Université de Georgetown a montré que des soldats utilisaient le système pour sélectionner des cibles et les vérifier, ce qui a accéléré le processus d'approbation de ces cibles. Les soldats interagissaient avec Maven via une interface avec une carte de champ de bataille et un tableau de bord, qui pouvait mettre en évidence les cibles potentielles d'une couleur et les forces amies d'une autre.

L'initiative Maven et l'évolution de l'IA militaire

Les commentaires du responsable suggèrent que l'IA générative est désormais ajoutée comme une couche de chatbot conversationnel—que l'armée pourrait utiliser pour trouver et analyser des données plus rapidement lors de décisions telles que celles concernant les cibles à prioriser.

Les systèmes d'IA générative, comme ceux qui sous-tendent ChatGPT, Claude, et Grok, sont une technologie fondamentalement différente de l'IA qui a principalement alimenté Maven. Basés sur de grands modèles de langage, ils sont beaucoup moins éprouvés au combat. Alors que l'interface de Maven obligeait les utilisateurs à inspecter et interpréter directement les données sur la carte, les résultats produits par les modèles d'IA générative sont plus faciles d'accès mais plus difficiles à vérifier.

L'utilisation de l'IA générative pour de telles décisions réduit le temps nécessaire au processus de ciblage, a ajouté le responsable, qui n'a pas fourni de détails lorsqu'on lui a demandé combien de vitesse supplémentaire était possible si les humains devaient passer du temps à vérifier les résultats d'un modèle.

Conséquences et controverses

L'utilisation des systèmes d'IA militaires est sous un examen public accru suite à la récente frappe sur une école pour filles en Iran, où plus de 100 enfants ont perdu la vie. Plusieurs médias ont rapporté que la frappe provenait d'un missile américain, bien que le Pentagone ait déclaré qu'une enquête était toujours en cours. Et bien que le Washington Post ait rapporté que Claude et Maven avaient été impliqués dans des décisions de ciblage en Iran, il n'existe pas encore de preuves pour expliquer quel rôle les systèmes d'IA générative ont joué, le cas échéant. Le New York Times a rapporté mercredi qu'une enquête préliminaire avait trouvé que des données de ciblage obsolètes étaient en partie responsables de la frappe.

Le Pentagone a intensifié son utilisation de l'IA dans ses opérations ces derniers mois. Il a commencé à offrir une utilisation non classifiée de modèles d'IA générative, pour des tâches comme l'analyse de contrats ou la rédaction de présentations, à des millions de membres du service depuis décembre, à travers un effort appelé GenAI.mil. Mais seuls quelques modèles d'IA générative ont été approuvés par le Pentagone pour une utilisation classifiée.

Le premier était Claude d'Anthropic, qui, en plus de son utilisation en Iran, aurait été utilisé dans les opérations pour capturer le leader vénézuélien Nicolas Maduro en janvier. Cependant, suite à des désaccords récents entre le Pentagone et Anthropic concernant la possibilité pour Anthropic de restreindre l'utilisation de son IA par l'armée, le département de la Défense a désigné l'entreprise comme un risque pour la chaîne d'approvisionnement et le président Trump a exigé sur les réseaux sociaux que le gouvernement cesse d'utiliser ses produits d'IA dans un délai de six mois. Anthropic conteste cette désignation devant les tribunaux.

OpenAI a annoncé un accord le 28 février pour que l'armée utilise ses technologies dans des environnements classifiés. L'entreprise de Elon Musk, xAI, a également conclu un accord pour que le Pentagone utilise son modèle Grok dans de tels environnements. OpenAI a déclaré que son accord avec le Pentagone était assorti de limitations, bien que l'efficacité pratique de ces limitations ne soit pas claire.