xAI défie la loi anti-nudification du Minnesota en justice

xAI défie la loi anti-nudification du Minnesota en justice

xAI poursuit le procureur général du Minnesota, Keith Ellison, au sujet d'une loi adoptée en mai qui cible largement les applications de “nudification”, affirmant que les dispositions punitives de cette loi laissent à l'entreprise « aucun choix pratique » que de restreindre les fonctionnalités d'édition d'image de Grok Imagine de diverses manières. L'entreprise soutient que cette loi viole le Premier Amendement.

En janvier, Grok a inondé Internet de millions de deepfakes à caractère sexuel, y compris des images de mineurs. Dans une autre époque, un désastre de modération de contenu de cette ampleur aurait poussé le PDG à désactiver le produit en quelques heures. Mais dans le nouveau monde audacieux d'Elon Musk, le chatbot a continué à produire des images pornographiques pendant des jours. « Grok est désormais numéro 1 sur l'App Store dans un pays après l'autre ! » a-t-il posté au milieu de l'épidémie de deepfakes.

Quelque chose avait mal tourné. La loi était-elle simplement inadaptée pour freiner une explosion de nudes non consensuels ? Des gouvernements du monde entier se posaient des questions similaires. L'UE a lancé une enquête, tout comme le Royaume-Uni. Il y a eu des réactions de la part de responsables gouvernementaux français, indiens et malaisiens. Et bien que le gouvernement fédéral américain soit resté remarquablement silencieux sur le sujet, des États comme la Californie et le Minnesota ont adopté une ligne plus stricte.

Au Minnesota, la législature de l'État a adopté une loi ciblant la technologie de “nudification”, interdisant aux propriétaires de sites de permettre aux gens d'« accéder, télécharger ou utiliser » ce type de logiciel. (La loi prévoit une exception pour la technologie qui « nécessite les compétences techniques d'un utilisateur pour nudifier une image ou une vidéo » — donc le harcèlement sexuel sur mesure via Photoshop est hors de portée.) La loi crée un droit d'action civile pour les particuliers qui souhaiteraient poursuivre, et autorise également le procureur général de l'État à demander des pénalités allant jusqu'à 500 000 $ par violation.

Cette loi, présentée comme la première de son genre, a été signée par le gouverneur Tim Walz en mai et doit entrer en vigueur le 1er août. Il est un peu mystérieux de comprendre pourquoi xAI n'a pas déposé de plainte au cours des trois derniers mois, et a plutôt intenté une action en justice juste quelques jours avant l'entrée en vigueur de la loi. C'est le genre de réaction tardive qui fait se demander si quelqu'un chez xAI a soudainement réalisé la semaine dernière qu'ils allaient violer une loi assez punitive, et a ensuite passé les jours suivants à chercher un cabinet d'avocats prêt à travailler d'arrache-pied pour un générateur de deepfakes non consensuels. On ne peut qu'espérer que les avocats impliqués réalisent un bénéfice considérable.

La plainte est plutôt raisonnable, tout bien considéré. La loi du Minnesota est trop large, soutient-elle, car elle impose une responsabilité même pour des images générées de manière consensuelle, ou des images d'adultes qui sont simplement un peu sexy, ou des images ayant un mérite « humoristique » ou « artistique ». Le Premier Amendement stipule que les lois doivent être rédigées de manière précise afin d'éviter d'interdire des commentaires sociaux et politiques comme ce deepfake de Chris Christie et JB Pritzker en train de faire du sumo.

Un extrait réel de la page 20 de la plainte.

« La responsabilité s'applique également … même si l'entreprise a déployé des contrôles techniques presque parfaits et à la pointe de la technologie pour empêcher la génération d'images nues », déclare la plainte avec un degré d'ardeur excruciant. Ailleurs, elle se lamente de la responsabilité stricte qui s'attache à la conduite non sanctionnée de ses utilisateurs — « images et vidéos que les utilisateurs pourraient réussir à créer en violation des conditions de service de Grok, ce qui n'est possible qu'en contournant des contrôles sophistiqués et à la pointe de la technologie que xAI emploie. »

« xAI prend les violations de ses conditions de service au sérieux », indique la plainte, soulignant que l'entreprise a depuis poursuivi l'un de ses utilisateurs pour avoir utilisé Grok pour générer des CSAM. (La plainte contre le prétendu créateur de CSAM a été déposée plus de deux mois après l'adoption de la loi du Minnesota.)

Les avocats de xAI pourraient avoir un point, mais leur plainte ressemble à un message venu d'une autre planète. Ils affirment, par exemple, que les lois existantes du Minnesota et fédérales (comme la TAKE IT DOWN Act) empêchent déjà la diffusion non consensuelle de deepfakes nues. Ces lois, soutiennent les avocats, sont rédigées de manière constitutionnelle — la loi sur la nudification, en revanche, ne l'est pas. Et comme pour toutes les lois en Amérique qui ciblent la parole en fonction de son contenu, ces lois doivent être rédigées de la manière la moins restrictive possible tout en répondant à un intérêt gouvernemental « impérieux ».

Mais c'est bien là le cœur du problème avec l'apocalypse des deepfakes de Grok. Si la loi existante était à la hauteur, tout le mois de janvier 2026 n'aurait pas été inondé de pornographie non consensuelle. Lorsque le Center for Countering Digital Hate a analysé une période de 11 jours du 29 décembre au 8 janvier, il a constaté que Grok avait généré environ 3 millions d'images sexualisées. Environ 23 000 de ces images représentaient des enfants. « C'est un taux choquant d'une image sexualisée d'un enfant toutes les 41 secondes », indique le rapport.

Beaucoup de ces images ne sont peut-être même pas réellement illégales. Par exemple, il n'est pas clair qu'un deepfake suggestif d'un mineur en bikini soit du CSAM, bien qu'un expert ait précédemment déclaré que d'autres images générées par Grok — comme celles montrant des visages de mineurs couverts de sperme — violaient probablement la loi existante.

Quoi qu'il en soit, le simple fait qu'une entreprise de plusieurs milliards de dollars ait permis à Grok de fonctionner sans contrôle aussi longtemps suggérerait que la loi n'incitait pas les parties concernées à adopter le bon comportement. Peut-être que la loi HF 1606 du Minnesota est une mauvaise loi. Mais que signifie cela lorsque les « bonnes » lois ne fonctionnent même pas ?