États-Unis : la détention de CSAM généré par IA protégée

⚡

Key Takeaways

1Une cour d’appel américaine a confirmé que la détention d’images pédopornographiques générées par IA est protégée par la liberté d’expression si aucun enfant réel n’y figure

2En France, la loi interdit toute production, diffusion ou détention de telles images, même sans modèle réel

3Une experte du droit alerte sur les risques et la difficulté de la régulation, alors qu’un recours à la Cour suprême reste possible

💡Why it matters — La divergence entre les cadres juridiques américain et français sur les images pédopornographiques générées par IA pose des enjeux majeurs de protection des mineurs et de régulation à l’ère de l’IA.

Un panel du 7e circuit a confirmé que posséder des images pédopornographiques créées par IA reste protégé par le Premier Amendement si aucun enfant réel n’y figure. En France, la loi pénale interdit au contraire toute production, diffusion ou détention, y compris quand l’image n’est pas fondée sur une personne réelle. Une experte du droit appelle à un encadrement prudent, alors que la régulation fait face à un volume massif de signalements.

La régulation débordée et des risques jugés « réels et actuels »

En 2025, l’Arcom a traité 95 481 requêtes visant le retrait de contenus illicites, dont 96 % portaient sur des contenus associés à des abus sexuels commis sur des mineurs. Chaque année, c’est une équipe d’environ dix agents qui se charge de l’ensemble de ces dossiers, une tâche que Laurence Pécaut-Rivolier assimile à « vider l’océan à la petite cuillère ». Mary Anne Franks considère que les dommages causés par les images pédopornographiques créées par intelligence artificielle sont bien réels et actuels. D’après elle, le fait de générer de tels contenus contribue à normaliser la sexualisation des enfants, qu’elle provienne d’adultes ou d’autres mineurs, et nuit à leur autonomie corporelle ainsi qu’à leur estime d’eux-mêmes. Elle met aussi en avant que certains systèmes d’IA ont été formés à partir de véritables images d’abus sur mineurs, impliquant qu’une image où aucun enfant identifiable n’apparaît pourrait avoir été conçue à partir de la photo d’une victime existante.

En France, l’interdiction couvre aussi les images créées par IA

L’article 227-23 du code pénal prohibe toute représentation à caractère pornographique mettant en scène un mineur, même lorsque celle-ci est générée par intelligence artificielle sans implication d’une personne réelle. Le ministère de la Justice indique, dans une réponse rendue publique par le Sénat en 2025, que la création, la diffusion ou la possession de ce type de contenu est répréhensible en France, indépendamment de la méthode employée.

Aux États-Unis, une protection fondée sur d’anciennes décisions

Le panel du 7e circuit a fondé son raisonnement sur trois arrêts de la Cour suprême. En 1969, Stanley contre Géorgie a reconnu le droit de détenir des contenus obscènes à domicile. En 1990, Osborne contre Ohio a exclu de cette protection les images pédopornographiques, même détenues en privé, en raison du préjudice causé à l’enfant représenté et du risque d’encourager de nouvelles agressions. En 2002, la Cour suprême a invalidé l’interdiction des images entièrement virtuelles, reconnaissant leur protection au titre du Premier Amendement. Mary Anne Franks rappelle que cette jurisprudence précède l’essor des images hyperréalistes créées par IA.

Le dossier Anderegg, déclencheur de l’arrêt du 7e circuit

L’affaire porte sur Steven Anderegg, un ingénieur logiciel américain, qui s’est servi d’outils d’IA générative pour créer des images pédopornographiques d’un réalisme saisissant. Au mois d’octobre 2023, il a envoyé l’une de ces images à un mineur via un message privé sur Instagram. Meta a détecté l’image et l’a signalée à la CyberTipline, ce qui a conduit à une enquête et à son arrestation. Il a été poursuivi pour possession, production et distribution de ces images. Il a sollicité l’abandon des charges pour possession en invoquant le Premier Amendement, ce que le tribunal de district lui a accordé, avant que le ministère public ne fasse appel. À la fin du mois d’août, une formation du 7e circuit a confirmé que la possession restait protégée tant qu’aucun enfant réel n’est représenté sur l’image.

Vers un réexamen par la Cour suprême, avec appels à la prudence

Le juge John Z. Lee a exprimé des réserves sur les limites fixées par la jurisprudence, mais a indiqué ne pas pouvoir les redéfinir. Avec Joshua P. Kolar, il a invité la Cour suprême à revenir sur la question de la frontière entre le Premier Amendement et les images pédopornographiques virtuelles dans l’éventualité où un dossier adéquat serait présenté, une initiative que Mary Anne Franks considère comme rare. Un recours du gouvernement fédéral est possible, ce qui porterait l’affaire devant la Cour suprême, et Mary Anne Franks estime qu’une telle contestation s’appuierait sur des arguments solides. Elle recommande néanmoins de faire preuve de vigilance lors de la rédaction de nouvelles interdictions, car des textes trop généraux pourraient être exploités par des groupes opposés à l’éducation sexuelle ou aux droits des personnes LGBTQ+. La Heritage Foundation, un groupe de réflexion conservateur, propose dans son projet 2025 d’incarcérer les personnes produisant ou diffusant des contenus pornographiques de manière générale, en liant cette production à la sexualisation des enfants. Mary Anne Franks s’interroge enfin sur l’intérêt que le CSAM généré par IA pourrait présenter au regard des préjudices relevés, alors que la décision en appel protège la possession de ces images en l’absence d’enfant réel et sollicite un nouvel examen par la Cour suprême.