L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
xAI attaque un utilisateur de Grok pour deepfakes pédopornographiques
Elon Musk’s xAI poursuit un homme de Caroline du Sud qui aurait utilisé le chatbot Grok de l'entreprise pour générer du matériel d'exploitation sexuelle d'enfants (CSAM). Dans une plainte rapportée plus tôt par Reuters, xAI affirme que Terry Wayne Harwood a « sciemment et intentionnellement utilisé Grok pour contourner les protections, altérer des images non consensuelles, et générer et distribuer du CSAM », en violation des politiques de l'entreprise.
Harwood a été arrêté en février pour possession et distribution présumées de CSAM et fait face à huit accusations criminelles. La plainte indique que « certaines » des images liées aux accusations criminelles de Harwood « ont été générées ou altérées » avec Grok, et que Harwood a contourné les protections de Grok et « abusé de l'outil pour convertir des photographies non sexuelles en images à caractère sexuel » sans le consentement des sujets.
Après avoir lancé un mode « épicé » pour Grok l'année dernière, xAI a ajouté la possibilité d'éditer des images avec le chatbot, entraînant une vague de deepfakes sexuels, y compris ceux impliquant des mineurs. Un groupe d'adolescents a poursuivi xAI en mars, affirmant que Grok avait généré des images sexualisées d'eux lorsqu'ils étaient mineurs. Musk a répondu en déclarant : « Quiconque utilisant Grok pour créer du contenu illégal subira les mêmes conséquences que s'il téléchargeait du contenu illégal », bien que cela semble être la première fois qu'xAI intente une action en justice contre quelqu'un pour des deepfakes créés avec Grok.
xAI affirme que les actions présumées de Harwood ont exposé l'entreprise à un « risque juridique significatif et à des dommages réputationnels ». Elle a demandé au tribunal d'ordonner à Harwood de payer xAI pour tous les dommages, ainsi que pour les « dépenses raisonnables engagées pour se défendre dans toute action légale intentée par une victime du comportement du défendeur ». xAI souhaite également que le juge bloque Harwood de la création d'un compte xAI ou de l'utilisation de Grok.
