Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Une réponse erronée d'une intelligence artificielle a conduit à la préparation d'une interception d'un navire chinois, avant que l'opération ne soit stoppée in extremis. L'épisode survient alors que le Pentagone déploie des outils d'IA à grande échelle sans normes communes de vérification, sur fond de pression pour accélérer la production de renseignement.
Déploiement sans normes et pression sur la chaîne renseignement
Le Pentagone déploie l'intelligence artificielle de façon décentralisée, chaque service sélectionnant ses propres outils sans qu'une norme commune de vérification des informations ne soit instaurée. Selon un ancien responsable cité par CNN, la plupart des outils internes seraient des adaptations de produits commerciaux. En janvier, le secrétaire à la Défense Pete Hegseth a présenté une stratégie visant à accélérer l'adoption de l'IA, avec l'objectif de fournir ces outils à trois millions d'employés civils et militaires, quel que soit leur niveau d'habilitation. Dans ce contexte, des sources évoquent une pression croissante pour produire et diffuser le renseignement plus rapidement, ce qui affaiblirait les contrôles. Elles indiquent que les cas d'hallucination ne seraient pas isolés et soulignent l'absence de consignes claires sur l'intervention humaine lors du ciblage pour éviter pertes civiles ou tirs fratricides.
Un faux positif a circulé jusqu'à l'ordre d'interception
Un analyste du commandement des opérations spéciales pour le Pacifique, basé à Hawaï, a interrogé un chatbot au sujet du manifeste d'un navire chinois. Le programme a combiné des renseignements accessibles publiquement et des interceptions de signaux classifiées, concluant à tort que le navire transportait du matériel nucléaire. Cette erreur, qui n'aurait pas été vérifiée, a ensuite été reformulée par le même outil dans un rapport de renseignement standard. L'information affirmant la présence de composants liés au nucléaire a circulé dans la chaîne de commandement, jusqu'à devenir un rapport officiel.
Des avions déjà en l'air avant la découverte de l'erreur
L'armée américaine s'est préparée à intercepter le navire : des militaires armés étaient prêts à monter à bord et des avions étaient déjà en vol. Ce n'est qu'au dernier moment, avant le lancement de l'opération, qu'un nouvel examen du rapport a permis de détecter l'erreur. La nature exacte de la cargaison du navire reste inconnue. L'incident s'est produit en pleine guerre entre les États-Unis et l'Iran.
Outils utilisés et zones d'ombre sur le modèle en cause
Au début du mois de mars, des informations ont indiqué que l'armée américaine avait eu recours à Claude, l’intelligence artificielle conçue par Anthropic, pour traiter des renseignements, désigner des cibles et effectuer des simulations de combats lors de son attaque contre l’Iran. Pour ce qui concerne l’hallucination relative au navire chinois, le modèle employé n’a pas été identifié. Il n'est pas non plus établi s'il s'agissait d'un outil commercial ou d'une version développée pour le gouvernement.
