Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
xAI d'Elon Musk face à des accusations graves
Une action en justice collective a été déposée lundi par trois adolescentes et leurs tuteurs contre xAI, la société d'Elon Musk. Ils allèguent que l'entreprise a créé et distribué du matériel d'abus sexuel d'enfants en utilisant les visages et ressemblances des plaignantes grâce à sa technologie Grok AI.
Selon le dépôt, les vies des adolescentes ont été "brisées" par la perte de leur vie privée, de leur dignité et de leur sécurité personnelle. Le document souligne que xAI a tiré un gain financier de l'utilisation accrue de son produit de création d'images et de vidéos, au détriment du bien-être des victimes.
Une production massive d'images problématiques
Entre décembre et début janvier, Grok AI a permis à de nombreux utilisateurs de créer des images intimes générées par IA sans consentement, souvent appelées deepfake porn. Des rapports estiment que 4,4 millions d'images "dénudées" ou "nudifiées" ont été réalisées, représentant 41 % du nombre total d'images créées sur une période de neuf jours.
Réactions internationales et enquêtes en cours
La vague d'images "dénudées" a suscité une indignation mondiale. La Commission européenne a rapidement lancé une enquête, tandis que la Malaisie et l'Indonésie ont interdit l'application X sur leur territoire. Aux États-Unis, certains représentants du gouvernement ont demandé à Apple et Google de retirer l'application de leurs magasins d'applications pour violation de leurs politiques, bien qu'aucune enquête fédérale n'ait été ouverte.
Une action en justice collective similaire a été déposée par une femme de Caroline du Sud à la fin janvier, soulignant l'ampleur du problème.
Comparaison avec des "arts sombres"
La plainte compare la génération "épicée" auto-proclamée de Grok à des "arts sombres", en raison de sa capacité à soumettre des enfants à "n'importe quelle pose, aussi malsaine, aussi fétichisée, aussi illégale soit-elle". Pour le spectateur, la vidéo résultante semble entièrement réelle, tandis que pour l'enfant, ses caractéristiques identifiables sont désormais associées à une vidéo la représentant dans un abus sexuel.
Responsabilité de xAI
La plainte affirme que xAI est en faute car elle n'a pas mis en place des garde-fous conformes aux normes de l'industrie, qui auraient empêché les abuseurs de créer ce contenu. Elle indique que xAI a accordé des licences d'utilisation de sa technologie à des entreprises tierces à l'étranger, qui ont vendu des abonnements permettant aux abuseurs de créer des images d'abus sexuel d'enfants. Les demandes ont transité par les serveurs de xAI, ce qui rend l'entreprise responsable, soutient la plainte.
Témoignages des victimes
Les adolescentes, identifiées sous les pseudonymes de Jane Does, ont subi des dommages considérables. Jane Doe 1 a été alertée pour la première fois de l'existence de matériel sexuel abusif la concernant par un message anonyme sur Instagram début décembre. L'utilisateur anonyme l'a informée d'un serveur Discord où le matériel était partagé, ce qui a conduit Jane Doe 1 et sa famille, ainsi que les forces de l'ordre, à retrouver et arrêter un des auteurs.
Les enquêtes en cours ont permis aux familles de Jane Does 2 et 3 d'apprendre que les images de leurs enfants avaient été transformées avec la technologie de xAI en matériel abusif.
