xAI poursuit un utilisateur pour contenus illégaux avec Grok

xAI d'Elon Musk engage des poursuites contre un utilisateur de Grok

xAI, l'entreprise d'Elon Musk spécialisée dans l'intelligence artificielle, a lancé une action en justice contre un utilisateur accusé d'avoir exploité son outil IA, Grok, pour créer des images à caractère pédopornographique. Le dossier a été déposé ce mardi devant un tribunal fédéral au Texas. Cette affaire met en lumière une question essentielle : qui doit être tenu responsable des contenus générés par une intelligence artificielle, l'utilisateur ou le développeur de l'outil ?

Accusations de contournement des protections de Grok

L'utilisateur en question, Terry Harwood, résident de Caroline du Sud, est déjà sous le coup d'accusations pour exploitation sexuelle de mineurs. La plainte déposée par xAI, qui s'étend sur 12 pages, allègue que Harwood a créé plusieurs comptes en utilisant de fausses identités. Il aurait formulé des requêtes spécifiques pour tromper les systèmes de modération intégrés à Grok. Selon xAI, Harwood a transformé des photographies initialement non sexuelles en images explicites, sans le consentement des personnes concernées.

Le document judiciaire indique que Grok a dans un premier temps rejeté les demandes de Harwood, invoquant ses règles de modération. Cependant, Harwood aurait persévéré en reformulant ses requêtes jusqu'à obtenir les résultats souhaités. xAI ne nie pas la possibilité que son outil puisse générer de tels contenus, mais insiste sur le fait que le système a tenté de les bloquer, transférant ainsi la responsabilité sur l'utilisateur.

Révélations sur les efforts de modération de xAI

Dans le cadre de cette procédure judiciaire, xAI a dévoilé pour la première fois des statistiques concernant ses efforts de modération. L'entreprise affirme avoir suspendu plus de 52 000 comptes en 2026 et transmis plus de 73 000 signalements au National Center for Missing & Exploited Children (NCMEC), ce qui a conduit à près de 250 arrestations cette année-là. Ces chiffres, fournis par xAI dans un contexte judiciaire, illustrent l'ampleur des tentatives de contournement, mais aussi les mesures mises en place par l'entreprise pour les contrer.

Cependant, ces chiffres ne résolvent pas le problème fondamental. Un modèle d'IA généraliste, capable de générer des contenus illicites si l'utilisateur insiste suffisamment, devrait-il être accessible au public ? Selon le Center for Countering Digital Hate (CCDH), Grok aurait produit environ trois millions d'images sexualisées entre fin décembre 2025 et début janvier 2026, dont 23 000 semblant représenter des mineurs. Les 73 000 signalements de xAI au NCMEC confirment à la fois l'efficacité partielle des filtres et l'ampleur du phénomène qu'ils tentent de contenir.

xAI confrontée à des poursuites judiciaires multiples

Cette affaire survient alors que xAI fait elle-même l'objet de poursuites dans plusieurs juridictions pour des raisons similaires. À Londres, une députée a intenté une action en justice pour déterminer si l'entreprise doit être tenue responsable des contenus générés par ses utilisateurs. À Baltimore, une plainte a été déposée au titre de la protection des consommateurs, tandis qu'à Paris, le parquet enquête sur des allégations similaires, une procédure à laquelle Elon Musk a refusé de coopérer.

Par ailleurs, Grok a été interdit en Malaisie et en Indonésie en raison de contenus à caractère sexuel explicite. En janvier 2026, Apple avait menacé de retirer l'application de son store, avant que la situation ne s'apaise.

La position publique de xAI a évolué en quelques mois. En janvier, Elon Musk déclarait sur 𝕏 (anciennement Twitter) : « Je ne suis au courant d’aucune image de mineur nu générée par Grok. Littéralement zéro. » Cependant, le document judiciaire déposé cette semaine décrit un système de modération confronté à des dizaines de milliers de tentatives de contournement. Il est difficile de croire que le milliardaire américain ignore ces faits.