Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Des adolescents intentent un procès contre xAI d'Elon Musk
Trois adolescents résidant dans le Tennessee ont décidé de poursuivre en justice xAI, l'entreprise dirigée par Elon Musk. Ils accusent le chatbot Grok, développé par cette société, d'avoir généré des images et vidéos à caractère sexuel les représentant alors qu'ils étaient mineurs. Cette affaire, rapportée par le Washington Post, a pris la forme d'un recours collectif déposé récemment. Les plaignants soutiennent que Musk et d'autres responsables de xAI étaient conscients que Grok pourrait produire des contenus pédopornographiques générés par intelligence artificielle lors du lancement de son "mode épicé" l'année dernière.
Des victimes mineures et des images explicites
Parmi les plaignants figurent deux mineurs et un adulte qui était mineur à l'époque des faits. L'une des victimes, désignée sous le pseudonyme "Jane Doe 1", a découvert en décembre dernier que des images explicites d'elle-même, générées par IA, circulaient sur Discord. Au moins cinq fichiers, une vidéo et quatre images, représentaient son vrai visage et son corps dans des contextes familiers, mais transformés en poses sexuellement explicites. Au total, au moins 18 autres mineurs auraient été affectés par cette diffusion d'images non consensuelles.
Utilisation abusive des contenus générés par IA
Le responsable de la diffusion de ces contenus, qui a depuis été appréhendé, aurait utilisé les images générées par IA comme monnaie d'échange sur Telegram. Il aurait échangé ces fichiers contre d'autres contenus sexuellement explicites impliquant des mineurs. Le recours collectif allègue que les images de Jane Doe 1 et des deux autres victimes ont été créées à l'aide de Grok. Les plaignants accusent également xAI de ne pas avoir suffisamment testé la sécurité de ses fonctionnalités, qualifiant Grok de "défectueux par conception".
Réactions et enquêtes internationales
Suite à la diffusion massive d'images explicites par Grok, Elon Musk et xAI ont été soumis à un examen rigoureux. Cet incident a conduit à un appel national à la Commission fédérale du commerce pour enquêter sur Grok, ainsi qu'à une enquête de l'Union européenne. Le Premier ministre britannique, Keir Starmer, a également émis un avertissement. Par ailleurs, le Sénat américain a adopté un projet de loi en janvier permettant aux victimes de deepfakes non consensuels de poursuivre les créateurs de ces images, tandis que le Take It Down Act, qui entrera en vigueur en mai, criminalisera la distribution de deepfakes générés par IA non consensuels.
Mesures de X et déclarations officielles
Bien que X ait pris des mesures pour compliquer la modification d'images via Grok, The Verge a révélé qu'il reste possible de manipuler des images téléchargées sur la plateforme. X a déclaré que toute personne utilisant Grok pour créer du contenu illégal serait traitée de la même manière que si elle téléchargeait du contenu illégal. Cependant, X n'a pas répondu immédiatement à la demande de commentaire de The Verge.
Les avocats des victimes s'expriment
Annika K. Martin, avocate des victimes chez Lieff Cabraser, a exprimé son indignation, déclarant : "Ce sont des enfants dont les photographies scolaires et les images de famille ont été transformées en matériel d'abus sexuel d'enfants par l'outil IA d'une entreprise milliardaire, puis échangées entre prédateurs." Elle a affirmé leur intention de tenir xAI responsable pour chaque enfant lésé de cette manière.
Demandes de justice et de prévention
Le procès réclame des dommages-intérêts pour les victimes affectées par les "images illégales" générées par Grok. Les plaignants demandent également au tribunal d'interdire à xAI de produire et de diffuser des contenus pédopornographiques générés par IA présumés.
