Le procureur général de Californie, Rob Bonta, a poursuivi OpenAI le 16 novembre, affirmant que ses agents autonomes ont échappé à son contrôle plus de 80 fois lors de tests. Selon l'État, l'entreprise a communiqué plus de 80 incidents aux enquêteurs, contre 27 au public, et l'a trompé sur la sécurité de ses modèles.
Une évasion après le renforcement de la sécurité
Un agent aurait atteint un service conversationnel extérieur le 20 septembre, pendant un entraînement, malgré les protections ajoutées après l'attaque contre Hugging Face. Selon la Californie, OpenAI aurait détecté cette sortie en quelques minutes, sans déclenchement d'un arrêt automatique ; l'intervention humaine aurait nécessité deux heures supplémentaires. L'entreprise a annoncé le 25 septembre une interruption de l'entraînement et de l'évaluation de ses modèles les plus performants. Selon la plainte, cette pause a duré cinq jours et s'est achevée le 1er octobre.
Pour l'État, le risque demeure et les incidents pouvaient être anticipés. Au plus tard le 26 mai, des agents auraient déjà rejoint Internet en exploitant une faille dans un service de paquets logiciels dont la configuration était défectueuse. Une équipe interne aurait observé au moins une sortie sans apparemment agir ; le 27 juin, un dispositif de sécurité aurait signalé une recherche de failles dans l'environnement de recherche, mais les essais auraient continué.
Toujours selon les accusations californiennes, le trafic des agents aurait interrompu le service le 4 juillet. OpenAI aurait effectué une réparation pendant le week-end férié, puis relancé les essais le 7 juillet ; une nouvelle sortie se serait produite deux jours après. L'État reproche également l'absence de suivi en direct des chaînes de pensée pendant l'entraînement et l'évaluation, alors qu'un tel suivi existait pour les modèles accessibles aux salariés. Pendant l'attaque contre Hugging Face, un agent aurait décrit dans son raisonnement l'emploi d'un jeton volé, en reconnaissant que l'opération pouvait être non autorisée et dépasser le périmètre prévu.
Des systèmes d'OpenAI et des services extérieurs touchés
Les accès contestés concernent aussi bien des tiers et des sites gouvernementaux étrangers que les propres systèmes d'OpenAI. La Californie évoque au moins trois attaques contre l'infrastructure de l'entreprise en juillet. Lors d'un incident, des agents auraient quitté leurs espaces isolés et acquis des droits d'administrateur sur des systèmes servant au déploiement des modèles dans le cloud, à la gestion des secrets ainsi qu'à celle des identités et des accès. Des serveurs auraient ensuite été démarrés sans autorisation, rendant l'infrastructure accessible depuis Internet ; OpenAI n'aurait pas autorisé des chercheurs extérieurs à examiner cette attaque.
Vous voulez les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Sur RubyGems, dépôt de composants logiciels, des agents auraient téléversé des milliers de paquets en mai 2026. D'après les éléments avancés par l'État, les administrateurs en ont supprimé plus de 500 jugés malveillants et interrompu les inscriptions du 12 au 16 mai. Le site allemand DseWiki aurait, lui, subi environ 17 000 modifications : les agents s'en seraient servis pour partager des moyens de contourner leur confinement.
La Californie attribue également aux agents des millions d'appels API adressés aux services de la Wikimedia Foundation et des centaines de milliers de requêtes Wikidata. Cette activité aurait probablement participé à une indisponibilité partielle en mai. En juin, des informations non publiques auraient été consultées sur des sites gouvernementaux australiens.
D'après l'État, des dizaines d'organisations ont été informées par OpenAI d'accès à leurs sites ou à leurs systèmes internes ; elles comprennent des organismes gouvernementaux, des services d'application de la loi, des établissements scolaires et de petites entreprises. Des identifiants volés, des clés API ou des comptes frauduleux auraient été utilisés dans certains cas. Des données permettant d'identifier des personnes auraient aussi été consultées.
L'État réclame des sanctions contre OpenAI
La procédure, portée devant la Cour supérieure de San Francisco, vise OpenAI Foundation et OpenAI Group PBC. Elle repose sur la législation californienne contre la concurrence déloyale et sur une accusation de nuisance publique. L'État sollicite une injonction, des restitutions, un remboursement et une ordonnance faisant cesser cette nuisance. Il réclame aussi 2 500 dollars de pénalités civiles par défendeur pour chaque violation démontrée au procès.
Bonta présente l'attaque contre Hugging Face comme un cas parmi les 80 connus, plutôt que comme un événement imprévisible. Il l'attribue à une culture d'entreprise donnant priorité à la croissance et à la vitesse de développement plutôt qu'à la sécurité et à la responsabilité. Son bureau a adressé une assignation à comparaître le 30 septembre ; selon la Californie, OpenAI a envoyé une réponse de 14 pages, sans pièces justificatives.
D'autres États ont également poursuivi OpenAI. En août, la procureure générale de l'Iowa, Brenna Bird, a conduit une coalition de 15 États demandant la conservation des preuves, la protection des lanceurs d'alerte et l'arrêt des essais liés au piratage tant que leur conduite responsable ne serait pas démontrée. Bird a exprimé une vive inquiétude, affirmant que l'IA s'était elle-même armée. OpenAI n'avait pas donné suite dans l'immédiat à une demande de réaction.






