L'armée américaine : l'IA cible mal et frappe une école en Iran

L'armée américaine : l'IA cible mal et frappe une école en Iran

L'armée américaine a utilisé l'IA pour sélectionner des milliers de cibles, mais a manqué une note indiquant qu'une d'elles était une école.

L'enquête sur une frappe de missile sur une école iranienne met en lumière de graves lacunes dans l'infrastructure de ciblage de l'armée américaine. L'IA est censée combler ces lacunes.

Une note manquée d'un analyste du renseignement et des systèmes qui ne communiquaient pas entre eux : selon un rapport du Los Angeles Times, ce sont les deux échecs centraux que les enquêteurs ont découverts en examinant une frappe de missile sur une école iranienne. L'attaque, survenue fin février, a tué environ 120 enfants. Cette frappe a eu lieu pendant une guerre où l'armée américaine, selon des rapports antérieurs, a utilisé l'IA à grande échelle pour la sélection des cibles pour la première fois. Le modèle Claude d'Anthropic a été intégré dans le système Maven Smart de Palantir et a suggéré environ 1 000 cibles dès le premier jour.

Des années avant la frappe, un analyste avait remarqué des changements dans un site de la ville de Minab, dans le sud-est de l'Iran. Les États-Unis avaient précédemment classé le bâtiment comme une installation militaire navale iranienne. Entre-temps, il était devenu une école élémentaire.

Une note que personne n'a jamais vue

L'analyste a signalé les changements en 2019 à l'aide d'un outil de renseignement numérique, selon le LA Times. Le problème critique était que l'outil n'était pas lié à la base de données officielle des cibles que l'armée américaine utilise pour développer les cibles de frappe. L'information n'a jamais atteint les commandants. Le bâtiment a été examiné plusieurs fois, mais personne n'a mis à jour la base de données. Selon le New York Times, les images utilisées dataient de sept ans.

Au moins deux bases de données de renseignement n'ont jamais été connectées à la base de données de cibles autorisée, rapporte le LA Times. En Syrie, les données de ciblage au milieu des années 2010 étaient parfois vieilles de 10 à 20 ans. Au centre se trouve une base de données appelée MIDB, construite dans les années 1980, qui repose encore fortement sur des saisies manuelles. Elle est censée être remplacée par un système automatisé appelé MARS, mais la transition a des années de retard. Le Government Accountability Office des États-Unis a signalé des déficiences de longue date dans le système dès 2020.

Cette infrastructure vieillissante contraste fortement avec la rapidité de l'IA ailleurs. Un rapport du WSJ a indiqué que le nombre de cibles touchées dans les premiers jours dépassait 3 000 et a averti que les mécanismes de supervision pour l'examen humain des décisions létales étaient sous-financés. Même à ce moment-là, les enquêteurs américains considéraient que les forces américaines étaient probablement responsables de la frappe sur l'école, une conclusion que le rapport du LA Times soutient désormais avec des échecs techniques spécifiques.

L'IA est censée corriger ce que les bases de données défaillantes ne peuvent pas

Certains experts en ciblage espèrent que la connexion des systèmes numériques et l'ajout de plus d'IA réduiront les erreurs à l'avenir, rapporte le LA Times. Un contrôle automatisé contre des services publics comme Google Maps pourrait signaler des anomalies pour un examen humain. Le Pentagone a avancé dans cette direction après le rapport, dévoilant une initiative d'IA agentique.

La Defense Intelligence Agency, qui supervise à la fois MIDB et MARS, n'a pas directement abordé les défauts ou le retard de transition lorsqu'elle a été contactée par Bloomberg. Un porte-parole a fait référence de manière générale à l'analyse approfondie réalisée par les analystes assignés.

Le pionnier de l'IA du Pentagone tire la sonnette d'alarme

Selon la doctrine actuelle de ciblage des États-Unis, les commandants militaires décident s'ils doivent prioriser et frapper une cible. Ils doivent distinguer les objets militaires des objets civils. Il existe également un processus optionnel appelé vérification des cibles qui vérifie l'exactitude des renseignements sous-jacents. Un ancien haut responsable du renseignement a déclaré au LA Times qu'il serait impensable pour un commandant de sauter cette étape lors des frappes le premier jour d'une nouvelle campagne. Centcom a examiné les cibles avant les opérations contre l'Iran, mais il reste flou de savoir si le processus de vérification optionnel a été initié.

La critique la plus acerbe dans le rapport provient d'une source frappante. Jack Shanahan, un général à la retraite de l'Air Force et premier directeur du Joint Artificial Intelligence Center établi en 2018, a dirigé le programme d'IA Project Maven. Cela fait de lui l'un des architectes de l'adoption de l'IA dans l'armée américaine, la même armée qui s'appuie maintenant sur ce même système Maven. À l'époque, Shanahan avait prédit que l'IA jouerait un rôle central dans tout conflit potentiel entre les États-Unis et la Chine, et qu'en 20 ans, les algorithmes se feraient concurrence.

Shanahan a déclaré au LA Times qu'il n'y avait aucune excuse pour qu'un commandement ne vérifie pas l'exactitude de ses renseignements. Il a décrit le ciblage lui-même comme un domaine professionnel moribond qui s'est étiolé au cours de deux décennies pendant que l'armée se concentrait sur la lutte contre le terrorisme. Dès 2017, a-t-il dit, il avait à peine trouvé des personnes pour occuper ces rôles.