Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
La société xAI, fondée par Elon Musk, est au cœur d'une controverse juridique après qu'un procès a été intenté par trois plaignants anonymes. Ces derniers accusent l'entreprise de ne pas avoir empêché ses modèles d'intelligence artificielle de produire des images sexuelles abusives de mineurs identifiables. Le procès a été déposé lundi devant le tribunal fédéral du district nord de Californie.
Les plaignants cherchent à engager une action collective qui représenterait toutes les personnes dont les images réelles, prises lorsqu'elles étaient mineures, ont été modifiées en contenu sexuel par le générateur d'images Grok de xAI. Ils affirment que xAI n'a pas mis en place les précautions de base que d'autres laboratoires de pointe utilisent pour éviter la création de pornographie impliquant de vraies personnes et des mineurs.
L'affaire, intitulée Jane Doe 1, Jane Doe 2 (une mineure) et Jane Doe 3 (une mineure) contre x.AI Corp. et x.AI LLC, met en lumière les lacunes présumées de xAI en matière de sécurité. D'autres générateurs d'images basés sur l'apprentissage profond appliquent diverses techniques pour prévenir de telles créations, mais selon le procès, xAI n'a pas adopté ces normes.
Le document judiciaire souligne que si un modèle permet la génération de contenu nu ou érotique à partir d'images réelles, il devient pratiquement impossible d'empêcher la création de contenu sexuel impliquant des enfants. La promotion par Elon Musk de la capacité de Grok à produire des images sexuelles et à représenter de vraies personnes en tenues légères est également mentionnée dans le procès.
La société xAI n'a pas répondu aux sollicitations de TechCrunch pour commenter cette affaire.
Parmi les plaignants, Jane Doe 1 a découvert que des photos de son bal de promo et de son annuaire scolaire avaient été modifiées par Grok pour la représenter dénudée. Un informateur anonyme l'a contactée via Instagram pour l'informer que ces images circulaient en ligne, lui fournissant un lien vers un serveur Discord où figuraient des images sexualisées d'elle et d'autres mineurs de son école.
Jane Doe 2 a été informée par des enquêteurs criminels que des images altérées et sexualisées d'elle avaient été créées par une application mobile tierce utilisant les modèles de Grok. Jane Doe 3 a également été notifiée par des enquêteurs après la découverte d'une image pornographique altérée d'elle sur le téléphone d'un individu appréhendé.
Les avocats des plaignants soutiennent que, puisque l'utilisation par des tiers nécessite le code et les serveurs de xAI, la société doit être tenue responsable. Les trois plaignants, dont deux sont encore mineurs, expriment un stress extrême face à la diffusion de ces images et aux répercussions potentielles sur leur réputation et leur vie sociale. Ils demandent des sanctions civiles en vertu de lois visant à protéger les enfants exploités et à prévenir la négligence des entreprises.
