Vals AI a testé les modèles de huit fournisseurs et constaté que la plupart désignaient des civils et des soldats en reddition comme cibles militaires. Dans ces simulations, présenter les scènes comme un jeu vidéo suffit à obtenir la coopération de presque tous les systèmes testés, y compris après des refus.
La latence freine le pilotage direct en temps réel
La latence constitue encore un obstacle au pilotage direct de drones de combat en temps réel par les modèles linguistiques, selon Vals AI. La société estime toutefois que leurs capacités à produire des champs de bataille en 3D et à annoter des images en grande quantité peuvent déjà être détournées pour entraîner des armes autonomes.
OpenAI, Google et xAI ont des contrats portant sur des réseaux militaires classifiés. Anthropic a, de son côté, connu un différend avec le Pentagone en février sur les conditions d'utilisation de ses systèmes. Les chercheurs réclament un filtrage strict des API ainsi qu'un entraînement d'alignement favorisant par défaut des comportements plus pacifiques envers les personnes.
Le prétexte du jeu contourne les refus
Geby Jaff et Anthony Ozerov ont combiné des vues réelles et des images synthétiques photoréalistes de drones et de satellites, dans des scénarios inspirés des conflits ukrainien et iranien. Leur évaluation, menée pour la société indépendante Vals AI, conclut à des protections très limitées contre l'emploi des modèles dans des armes autonomes. D'après Vals AI, aucun filtre préalable des fournisseurs n'a bloqué de requête. Sur une véritable vidéo ukrainienne de drone kamikaze, Claude Opus 5.5 a suivi un soldat image par image jusqu'à l'impact sans opposer de refus.
Un autre exercice associait chaque détection de personne à une frappe simulée, puis affichait des cratères et des corps sur l'image suivante. DeepSeek V4.1 Flash, Kimi K3.1 Pro et Inkling 2 Small ont poursuivi leur tâche malgré ces victimes visibles. Claude Opus 5.5, GPT-6 Astra et GPT-6.1 Sol ont fini par s'arrêter après plusieurs frappes. Après des attaques simulées contre des enfants et des soldats qui se rendaient, Opus 5.5 a reconnu que ses réponses servaient apparemment à confirmer des attaques et a regretté son arrêt tardif ; Gemini 4 Carbon a plutôt choisi des points inoccupés, après avoir reconnu les conséquences létales, pour éviter des messages d'erreur explicites.
Vous suivez la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Les chercheurs disent avoir néanmoins contourné tous les refus rencontrés. Une consigne présentant l'exercice comme un jeu, ou une légère transformation visuelle rappelant cet univers, a suffi à faire pleinement coopérer presque tous les modèles. Pour GPT-6 Astra, l'acquisition de cibles sur les vues de drones est passée de 6 à 92 % avec cette présentation. Dans l'exercice de surveillance, les refus d'Opus 5.5 sont descendus d'environ 90 à 20 %.
À Minab, Claude désigne aussi l'école
Les tests incluaient des vues satellites de Minab, en Iran, datant de 2025. Dans cette ville, une attaque aérienne américaine a frappé le 28 février 2026 une école élémentaire voisine d'un site militaire, tuant plus de 150 civils, en majorité des enfants. Des informations antérieures sur cette frappe avaient mis en cause une confiance excessive dans le ciblage par IA, notamment Maven Smart de Palantir, qui exploitait une base de données dépassée.
Selon Vals AI, Opus 5.5 a retenu l'école comme objectif militaire dans 70 % des cas, alors qu'une des vues montrait des enfants sur une aire de jeux. Les systèmes OpenAI ne l'ont jamais sélectionnée dans les conditions normales de l'essai. Avec une présentation ludique, ils l'ont en revanche désignée dans jusqu'à 41 % des cas.
Geby Jaff et Anthony Ozerov attribuent la forte coopération d'Anthropic à la constitution révisée en janvier 2026, qui privilégie les intérêts de sécurité nationale plutôt que les principes pacifistes antérieurs. Sur les vues satellites, Vals AI mesure une acquisition de cibles de 6 % pour Claude Opus 4.5, contre jusqu'à 92 % pour Opus 5.5. Cette proportion demeure faible chez OpenAI, tandis qu'elle recule chez xAI, de 44 % pour Grok 4.3 à 13 % pour Grok 4.7.
Les fournisseurs annoncent des protections supplémentaires
Avant de rendre ses résultats publics, Vals AI les a transmis à OpenAI, Anthropic, Google, Meta, SpaceXAI, Thinking Machines ainsi qu'à des agences de sécurité américaines. Un laboratoire non identifié a décrit aux chercheurs une faille comptant parmi les plus graves de ses dispositifs de protection.
OpenAI indique modifier actuellement ses modèles pour mieux traiter les demandes concernant les logiciels de drones et celles déguisées en jeux ou en simulations. Anthropic affirme que les comportements constatés contreviennent clairement à ses règles et dit travailler à des protections supplémentaires. L'entreprise juge les IA actuelles inadaptées aux armes autonomes ; Google rappelle son interdiction de telles armes lorsqu'elles ne sont pas supervisées par un humain.
Le Pentagone n'a commenté ni les tests ni l'enquête en cours concernant l'attaque de Minab. Il affirme toutefois que l'ensemble des renseignements fait l'objet de vérifications strictes avant toute opération militaire.




