xAI contre le Minnesota : bataille autour des images Grok

xAI contre le Minnesota : bataille autour des images Grok

Elon Musk, plutôt que d'apporter des modifications à son chatbot Grok, a choisi de recourir à la voie judiciaire. Son entreprise, xAI, qui appartient désormais à SpaceX, a récemment intenté une action en justice contre l'État du Minnesota. Cette décision fait suite à l'adoption d'une loi visant à interdire la création d'images dénudées de personnes sans leur consentement.

C'est la sénatrice démocrate Erin Maye Quade qui est à l'origine de cette législation. Elle a été motivée par un incident où un homme a utilisé des photos disponibles sur les réseaux sociaux pour générer des images et vidéos à caractère sexuel de 80 femmes de son entourage, sans leur consentement. Cette loi, adoptée en mai, interdit les technologies de "nudification", qui permettent de créer de fausses images dénudées de personnes à partir de leurs photos. Elle prévoit une amende de 500 000 dollars par image créée en violation de cette loi, même si elles ne sont pas partagées ou diffusées. Les victimes peuvent également engager des poursuites individuelles contre les entreprises responsables. La loi doit entrer en vigueur ce samedi 1er août.

xAI invoque le premier amendement

Elon Musk et son entreprise xAI ne sont pas satisfaits de cette législation. Le 27 juillet, xAI a déposé une plainte devant un tribunal fédéral. Les avocats de l'entreprise soutiennent que la loi dépasse son objectif initial. Bien qu'ils ne contestent pas la nécessité de lutter contre la création d'images non consenties, ils estiment que la définition des "parties intimes" est trop large. Selon eux, la loi pourrait interdire des images de torses masculins nus ou de personnes en maillot de bain, des situations courantes dans l'espace public. Pour défendre leur position, xAI invoque le premier amendement de la Constitution américaine, qui protège la liberté d'expression.

En outre, xAI souligne que l'amende de 500 000 dollars par image pourrait atteindre des sommes astronomiques. Si 100 000 images étaient générées par ses utilisateurs, l'amende totale pourrait s'élever à 50 milliards de dollars, une somme que l'entreprise juge disproportionnée. xAI affirme avoir mis en place des mesures pour bloquer ces contenus et bannir les utilisateurs fautifs.

Les scandales s’enchaînent

La fonctionnalité de génération d'images de xAI, Grok Imagine, est au cœur de plusieurs scandales récents. Aux États-Unis, un photographe de l'Arkansas a été accusé d'avoir utilisé cet outil pour créer des images sexualisées de ses clientes mineures. xAI affirme avoir pris des mesures pour lutter contre ces abus, avec plus de 70 000 signalements de contenus suspects, conduisant à au moins 244 arrestations.

En Europe, la situation est également préoccupante. La Commission européenne a lancé une enquête formelle contre X.com au début de l'année, dans le cadre du Digital Services Act (DSA). Cette enquête vise à déterminer si l'entreprise a correctement évalué les risques associés à Grok, sous peine d'une amende pouvant atteindre 6 % de son chiffre d'affaires mondial. Malgré ces pressions, le groupe d’Elon Musk ne semble pas prêt à retirer la fonctionnalité pour éviter de tels abus.