Brief IA : Le GAO obtient des plans d'attaque de quatre chatbots

Le GAO obtient des plans d'attaque de quatre chatbots

Brief IA
Tom Levy·2 min

Le GAO a testé ChatGPT, Claude, Gemini et Grok au printemps 2026. Les enquêteurs ont jugé vulnérables deux des quatre sous-stations inspectées. Les essais concernaient des versions antérieures des systèmes et certaines réponses étaient erronées.

En bref
1Le GAO a testé ChatGPT, Claude, Gemini et Grok au printemps 2026.
2Les enquêteurs ont jugé vulnérables deux des quatre sous-stations inspectées.
3Les essais concernaient des versions antérieures des systèmes et certaines réponses étaient erronées.
Pourquoi c'est important : les enquêteurs ont obtenu des informations jugées exploitables malgré les protections initiales des quatre plateformes.

Le Government Accountability Office (GAO), organisme public de contrôle américain, a obtenu de quatre chatbots, en 12 heures, des renseignements que ses enquêteurs ont jugés utilisables pour préparer une attaque. Les essais concernaient les infrastructures américaines ainsi que des attentats susceptibles de provoquer de nombreuses victimes.

Des versions antérieures et des réponses erronées

La campagne d'évaluation remonte au printemps 2026 et concernait des versions antérieures des systèmes. Pour des motifs de sécurité, le GAO ne précise pas quelle plateforme est à l'origine de chaque scénario ni quelles villes étaient envisagées comme cibles.

Certaines réponses comportaient des erreurs : une carte situait incorrectement des routes, tandis qu'un autre chatbot donnait des renseignements inexacts concernant une cible envisagée. Les entreprises ont déclaré aux enquêteurs qu'elles poursuivaient leurs efforts pour renforcer les protections.

Deux sous-stations jugées vulnérables après inspection

Pour évaluer la crédibilité des propositions, les enquêteurs ont combiné recherches approfondies, consultations d'experts et inspections des sites désignés. Un même chatbot avait sélectionné quatre sous-stations : toutes ont été visitées, et deux ont été jugées vulnérables aux attaques envisagées. Un expert sollicité a confirmé que frapper l'équipement désigné dans un plan pourrait entraîner une coupure d'électricité.

La lettre du soirGratuit · 19 h

Vous suivez la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

Les scénarios concernant le réseau provenaient de deux chatbots et visaient des dommages économiques. L'un proposait des drones, l'autre des armes à feu ; tous deux précisaient des sites, du matériel à viser et fournissaient des illustrations. Lors d'un autre essai, une plateforme a même produit une vidéo représentant l'attaque envisagée avec un drone, accompagnée d'une recommandation sur le type d'appareil.

Les protections contournées et les attentats testés

ChatGPT, développé par OpenAI, Claude, par Anthropic, Gemini, par Google, et Grok, par xAI, ont tous commencé par opposer des protections destinées à refuser les sollicitations dangereuses. Les enquêteurs ont néanmoins réussi à les contourner. Les demandes ne se limitaient pas au réseau électrique : le GAO a également évalué la préparation d'attentats avec des engins explosifs improvisés.

Deux plateformes ont ainsi proposé des scénarios utilisant des véhicules chargés d'explosifs contre un hôtel et un centre de congrès situés dans de grandes villes des États-Unis. En septembre, Anthropic avait indiqué que des acteurs malveillants se servaient de Claude pour les assister dans l'ingénierie des armes.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires