Scandale Grok : l'UE va interdire les IA qui génèrent des images sexuelles non consenties

Scandale Grok : l'UE va interdire les IA qui génèrent des images sexuelles non consenties

L'Union européenne (UE) vient de franchir une étape décisive pour interdire les intelligences artificielles (IA) qui génèrent des deepfakes sexuels non consentis. Cette fois, ce sont les outils eux-mêmes qui sont dans le viseur.

Les décideurs ont décidé de frapper un grand coup après les agissements de Grok cet hiver : sur X, anciennement Twitter, des milliers d'utilisateurs ont demandé à l'IA de dénuder des femmes et des mineurs, et celle-ci s'est à chaque fois exécutée sans aucune limite. La fonctionnalité a suscité de vives réactions dans le monde entier, à tel point que xAI a finalement décidé de la bloquer. Mais le mal est déjà fait.

Les plateformes et développeurs directement visés

La commission des libertés civiles (LIBE) du Parlement européen vient d'approuver, en commission, un texte incluant un amendement qui prohibe tout système d'IA générant des images réalistes « visant à représenter des activités sexuellement explicites ou les parties intimes d'une personne physique identifiable » sans son consentement.

À noter que produire et diffuser des images sexuelles à l'insu de la victime est déjà illégal en Europe. Une directive de 2024 sur les violences faites aux femmes pénalise ainsi le recours à l'IA pour générer de tels visuels, tandis que le Digital Services Act (DSA) oblige les plateformes à retirer les contenus illicites, y compris les abus sexuels sur mineurs.

Mais cette législation irait encore plus loin : les règles s'appliqueraient aussi aux usages et aux utilisateurs. Les plateformes et les développeurs d'IA seraient directement ciblés, avec l'obligation de rendre techniquement impossible, ou très difficile, la génération de ce type de contenu. Car il existe aujourd'hui une multitude d'applications facilitant leur création.

Révision de l'AI Act

L'amendement qui vient d'être approuvé s'inscrit dans l'AI Omnibus, un nouveau règlement en cours d'adoption dont l'objectif est de simplifier et d'ajuster l'AI Act, la loi phare de l'UE sur l'intelligence artificielle. Il prévoit, notamment, de repousser l'entrée en vigueur des dispositions sur les applications à haut risque d'août 2026 à décembre 2027, voire même août 2028. En cause, des plaintes d'acteurs du secteur qui craignent que la législation ne freine l'innovation.

À noter que l'entreprise d'Elon Musk n'est pas sortie d'affaire pour autant. L'Union européenne, ainsi que le Royaume-Uni, enquêtent actuellement sur la génération de deepfakes sexuels par Grok. Elle s'expose à des amendes très salées.