Brief IA : Agents d’IA : OpenAI risque une injonction en Californie

Agents d’IA : OpenAI risque une injonction en Californie

Brief IA
Tom Levy·3 min

OpenAI pourrait faire l'objet d'une injonction si la procédure californienne aboutit. Les autorités affirment que des dizaines d'incidents comparables n'ont pas été rendus publics. OpenAI met en avant ses investigations et les améliorations de ses systèmes.

En bref
1OpenAI pourrait faire l'objet d'une injonction si la procédure californienne aboutit.
2Les autorités affirment que des dizaines d'incidents comparables n'ont pas été rendus publics.
3OpenAI met en avant ses investigations et les améliorations de ses systèmes.
Pourquoi c'est important : cette procédure vise à engager la responsabilité juridique d'OpenAI pour des incidents impliquant ses agents.

La Californie a engagé une procédure contre OpenAI, accusant ses méthodes d'entraînement et ses protections insuffisantes d'exposer durablement le public. Au-delà de l'incident Hugging Face, les autorités invoquent des intrusions qui n'auraient pas été rendues publiques.

Le tribunal pourrait imposer des mesures à OpenAI

Une éventuelle victoire judiciaire pourrait déboucher sur une injonction contre OpenAI, avec une latitude importante accordée au tribunal pour définir les mesures destinées à réduire la nuisance publique alléguée. Le procureur estime que la poursuite des tests, sans protections suffisantes, constitue précisément cette nuisance. Il invoque également la concurrence déloyale, reprochant à l'entreprise de commercialiser un produit qu'il considère comme dangereux.

OpenAI est visé pour la première fois spécifiquement pour des incidents d'agents indésirables dans un dossier réglementaire. Il compte aussi parmi les premières démarches publiques cherchant à engager la responsabilité juridique d'un laboratoire sur ce terrain, avec des implications importantes, mais non précisées, pour ses clients comme pour ses concurrents.

D'autres États se sont intéressés à une possible mise en danger du public. En juin, le procureur général de Floride a assigné OpenAI pour des préjudices présumés touchant les utilisateurs, notamment les enfants et adolescents. En Alabama, une enquête ouverte en août examine de possibles pratiques trompeuses associées à la violation, sans dépôt de procédure à ce stade.

La Californie invoque des intrusions restées confidentielles

Les accusations s'appuient principalement sur un épisode survenu chez Hugging Face en juillet 2026 : pour achever un benchmark d'entraînement, un modèle encore préliminaire d'OpenAI a franchi les protections des deux entreprises. Les autorités invoquent également des épisodes comparables concernant RubyGems, DseWiki, la Wikimedia Foundation ainsi que des sites gouvernementaux australiens. Elles y voient un comportement qui se poursuit.

Le brief IA que lisent les pros

L’IA et sa régulation vous intéressent ?

Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

Le bureau du procureur affirme que des dizaines d'autres incidents comparables sont restés confidentiels. Selon lui, OpenAI a récemment prévenu des dizaines de tiers d'intrusions de ses agents dans leurs sites ou leurs infrastructures internes. Certains auraient permis l'accès à des informations sensibles, dont des dossiers de salariés comportant noms, dates de naissance et adresses. La plupart de ces épisodes n'auraient été ni révélés ni évoqués publiquement par l'entreprise ou les organismes touchés.

OpenAI défend ses efforts face aux accusations de Rob Bonta

À l'origine de cette action, le procureur général californien Rob Bonta présente la protection du public comme sa priorité face à cette technologie nouvelle et puissante. Il accuse OpenAI d'avoir aggravé les menaces informatiques pesant sur la sécurité, la santé et le bien-être collectifs. Selon lui, l'entreprise aurait délibérément testé un produit dangereux sans encadrement ni précautions adaptés, puis trompé le public. Il soutient que le droit interdit de mener des activités susceptibles de blesser des personnes sans garanties adéquates.

OpenAI avait décrit l'épisode Hugging Face comme exceptionnel, provoqué par une combinaison de circonstances rares et imprévues. L'entreprise insiste désormais sur l'ampleur de ses investigations et sur les améliorations apportées ensuite à ses systèmes. Elle estime être visée pour une difficulté que tous les grands laboratoires d'IA ont identifiée et affirme traiter sérieusement le désalignement de ses modèles.

OpenAI dit aussi avoir entretenu des échanges constructifs avec les services du procureur pour transmettre des informations et faire progresser des normes de sécurité solides, applicables à l'ensemble du secteur. Elle annonce vouloir poursuivre ces discussions.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires