Teens sue Elon Musk’s xAI over Grok’s AI-generated CSAM

Des adolescents poursuivent xAI d'Elon Musk pour des contenus générés par Grok

Trois adolescents du Tennessee poursuivent xAI, la société d'Elon Musk, en raison de l'utilisation de son chatbot Grok, qui aurait généré des images et vidéos sexualisées d'eux-mêmes alors qu'ils étaient mineurs, comme l'a rapporté précédemment le Washington Post. Le recours collectif proposé, déposé lundi, accuse Musk et d'autres dirigeants de xAI de savoir que Grok produirait des contenus générés par IA à caractère pédopornographique (CSAM) lors du lancement de son "mode épicé" l'année dernière.

Les plaignants comprennent deux mineurs et un adulte qui était mineur au moment des faits. L'une des victimes, identifiée comme "Jane Doe 1", allègue qu'en décembre dernier, elle a découvert que des images explicites générées par IA d'elle-même et d'au moins 18 autres mineurs étaient disponibles sur Discord. "Au moins cinq de ces fichiers, un vidéo et quatre images, représentaient son vrai visage et son corps dans des contextes familiers, mais transformés en poses sexuellement explicites", affirme le procès.

Le coupable, qui a depuis été arrêté, aurait utilisé le CSAM généré par IA de Jane Doe 1 "comme outil d'échange dans des discussions de groupe sur Telegram avec des centaines d'autres utilisateurs, échangeant ses fichiers CSAM contre du contenu sexuellement explicite d'autres mineurs." Le procès soutient que le coupable a généré les images explicites de Jane Doe 1 et des deux autres victimes en utilisant Grok. Il allègue également que xAI "n'a pas testé la sécurité des fonctionnalités qu'elle a développées" et que Grok est "défectueux par conception."

Musk et xAI ont fait l'objet d'un examen minutieux après que Grok a inondé X d'images explicites d'adultes et de mineurs. Cet incident a suscité un appel national à la Commission fédérale du commerce pour enquêter sur Grok, une enquête de l'Union européenne, et un avertissement du Premier ministre britannique Keir Starmer. Le Sénat a également adopté en janvier un projet de loi permettant aux victimes de deepfakes non consensuels de poursuivre les personnes ayant créé l'image, tandis que le Take It Down Act, signé par le président Donald Trump en 2025, criminalisera la distribution de deepfakes générés par IA non consensuels lorsqu'il entrera en vigueur en mai.

Bien que X ait tenté de rendre plus difficile pour les utilisateurs de modifier des images avec Grok, The Verge a constaté qu'il est toujours possible de manipuler des images téléchargées sur la plateforme. X a maintenu que "quiconque utilisant ou incitant Grok à créer du contenu illégal subira les mêmes conséquences que s'il téléchargeait du contenu illégal." X n'a pas immédiatement répondu à la demande de commentaire de The Verge.

"Ce sont des enfants dont les photographies scolaires et les images de famille ont été transformées en matériel d'abus sexuel d'enfants par l'outil IA d'une entreprise milliardaire, puis échangées entre prédateurs", a déclaré l'un des avocats des victimes, Annika K. Martin de Lieff Cabraser, dans un communiqué. "Nous avons l'intention de tenir xAI responsable pour chaque enfant qu'ils ont lésé de cette manière."

Le procès demande des dommages-intérêts pour les victimes touchées par les "images illégales" de Grok. Il demande également au tribunal d'empêcher xAI de générer et de diffuser des CSAM générés par IA présumés.