OpenAI et le Pentagone : l'IA au cœur des tensions avec l'Iran

OpenAI et le Pentagone : un partenariat controversé

Il y a un peu plus de deux semaines, OpenAI a signé un accord qui a suscité de vives discussions. Cet accord permet au Pentagone d'exploiter la technologie d'OpenAI dans des environnements classifiés. Cependant, des interrogations persistent quant à la portée réelle de cet accord. Sam Altman, le PDG d'OpenAI, a affirmé que l'armée ne pourrait pas utiliser leur technologie pour développer des armes autonomes. Pourtant, l'accord stipule simplement que l'armée doit respecter ses propres directives, qui sont relativement permissives en matière d'armes autonomes. De plus, la promesse d'OpenAI de ne pas permettre l'utilisation de sa technologie pour la surveillance domestique semble également incertaine.

Les motivations d'OpenAI restent floues. Bien que ce ne soit pas la première entreprise technologique à accepter des contrats militaires, la rapidité avec laquelle OpenAI a changé de position est frappante. Il est possible que la motivation soit financière, car OpenAI investit massivement dans la formation de ses modèles d'IA et cherche à diversifier ses sources de revenus, notamment à travers la publicité. Alternativement, Sam Altman pourrait être sincèrement convaincu que les démocraties libérales, et leurs forces armées, doivent avoir accès aux technologies d'IA les plus avancées pour rivaliser efficacement avec la Chine.

L'avenir de l'IA d'OpenAI dans les conflits

La question cruciale est de savoir comment cette technologie sera utilisée. OpenAI a pris la décision de s'engager dans le cœur du conflit, à un moment où les États-Unis intensifient leurs opérations contre l'Iran, avec un rôle croissant de l'IA dans ces opérations. La question se pose donc : où la technologie d'OpenAI sera-t-elle déployée dans ce contexte, et quelles seront les applications acceptées par ses clients et employés ?

Intégration et applications potentielles

Bien que l'accord avec le Pentagone soit en place, l'intégration de la technologie d'OpenAI dans des environnements classifiés n'est pas encore effective. Cette intégration nécessite une compatibilité avec d'autres outils déjà utilisés par l'armée. Par exemple, xAI d'Elon Musk, qui a également signé un accord avec le Pentagone, doit suivre un processus similaire pour son modèle d'IA Grok. Cependant, il y a une pression pour accélérer ce processus, en partie à cause des controverses entourant la technologie utilisée jusqu'à présent. Anthropic, une autre entreprise d'IA, a refusé que son IA soit utilisée pour "tout usage légal", ce qui a conduit le président Trump à ordonner l'arrêt de son utilisation par l'armée. Le Pentagone a même classé Anthropic comme un risque pour la chaîne d'approvisionnement, une décision que l'entreprise conteste actuellement en justice.

Si le conflit en Iran perdure jusqu'à l'intégration de la technologie d'OpenAI, à quoi pourrait-elle servir ? Selon un responsable de la défense, un analyste humain pourrait utiliser le modèle d'IA pour analyser une liste de cibles potentielles et déterminer lesquelles frapper en priorité. Le modèle pourrait prendre en compte des informations logistiques, telles que l'emplacement d'avions ou de fournitures, et analyser divers types de données, y compris des textes, des images et des vidéos.

Un humain serait chargé de vérifier manuellement ces résultats, selon le responsable. Cela soulève toutefois une question : si une vérification humaine est nécessaire, comment l'IA accélère-t-elle réellement les décisions de ciblage et de frappe ?

L'IA au service de la défense

Depuis plusieurs années, l'armée utilise un système d'IA appelé Maven pour des tâches telles que l'analyse automatique des images de drones afin d'identifier des cibles potentielles. Il est probable que les modèles d'OpenAI, comme Claude d'Anthropic, offriront une interface conversationnelle qui permettra aux utilisateurs de demander des interprétations de renseignements et des recommandations sur les cibles à frapper en premier.

L'usage de l'IA générative pour conseiller sur les actions à entreprendre sur le terrain est une nouveauté en cours de test en Iran. En fin 2024, OpenAI a annoncé un partenariat avec Anduril, une entreprise spécialisée dans la fabrication de drones et de technologies de contre-drones pour l'armée. Cet accord stipule qu'OpenAI collaborera avec Anduril pour effectuer des analyses en temps réel des drones attaquant les forces américaines et aider à les neutraliser. Un porte-parole d'OpenAI a précisé que cela ne violait pas les politiques de l'entreprise, qui interdisent les "systèmes conçus pour nuire aux autres", car la technologie est utilisée pour cibler des drones et non des personnes.

Anduril fournit une gamme de technologies de contre-drones aux bases militaires du monde entier, bien que la société n'ait pas précisé si ses systèmes sont déployés près de l'Iran. Aucune des deux entreprises n'a donné de mise à jour sur l'évolution du projet depuis son annonce. Cependant, Anduril a longtemps formé ses propres modèles d'IA pour analyser les images de caméras et les données de capteurs afin d'identifier les menaces. Ce sur quoi elle se concentre moins, ce sont les systèmes d'IA conversationnelle permettant aux soldats d'interroger directement ces systèmes ou de recevoir des conseils en langage naturel, un domaine où les modèles d'OpenAI pourraient s'intégrer.

Les enjeux militaires

Les enjeux sont considérables. Le 1er mars, six membres des forces américaines ont été tués au Koweït lors d'une attaque de drone iranien qui n'a pas été interceptée par les défenses aériennes américaines.

L'interface d'Anduril, appelée Lattice, est le point de contrôle pour les soldats, leur permettant de gérer tout, des défenses de drones aux missiles et sous-marins autonomes. La société a récemment remporté des contrats massifs, totalisant 20 milliards de dollars de l'armée américaine, pour intégrer ses systèmes avec des équipements militaires existants et y ajouter une couche d'IA. Si les modèles d'OpenAI s'avèrent utiles à Anduril, Lattice est conçu pour les intégrer rapidement dans cette infrastructure militaire plus large.

L'impact de l'IA sur l'administration militaire

En décembre, le secrétaire à la Défense, Pete Hegseth, a encouragé des millions de personnes occupant des rôles administratifs dans l'armée — tels que les contrats, la logistique et les achats — à utiliser un nouvel outil d'IA. Nommé GenAI.mil, cet outil permet au personnel d'accéder de manière sécurisée à des modèles d'IA commerciaux pour effectuer les mêmes types de tâches que dans le secteur privé.

Google Gemini a été l'un des premiers modèles disponibles. En janvier, le Pentagone a annoncé que Grok de xAI serait également ajouté à la plateforme GenAI.mil, malgré des incidents où le modèle avait généré du contenu antisémite et des deepfakes non consensuels. OpenAI a suivi en février, annonçant que ses modèles seraient utilisés pour rédiger des documents de politique et des contrats, et pour assister le soutien administratif des missions.

Bien que l'utilisation de ChatGPT pour des tâches non classifiées sur cette plateforme soit peu susceptible d'influencer directement des décisions sensibles en Iran, la présence d'OpenAI sur la plateforme est significative d'une autre manière. Elle reflète l'engagement du Pentagone envers l'IA, un engagement que Hegseth a promu de manière constante. Le message est clair : l'IA transforme chaque aspect de la manière dont les États-Unis mènent leurs opérations militaires, des décisions de ciblage à la gestion administrative. Et OpenAI s'impose de plus en plus comme un acteur clé dans cette transformation.