ARCOM face à l'IA : 95 000 contenus illicites bloqués en 2025

L'ARCOM et la lutte contre les contenus illicites en 2025

L'ARCOM a publié son rapport annuel, dévoilant qu'en 2025, près de 95 500 contenus illicites ont été contrôlés par une personnalité qualifiée. Cette année a été marquée par une augmentation des images pédopornographiques générées par intelligence artificielle et l'apparition d'un terrorisme d'inspiration masculiniste. Chaque semaine, des agents volontaires de l'ARCOM s'installent devant des ordinateurs isolés pour examiner, en toute sécurité, des contenus que la police a demandé de retirer du web. En 2025, 95 481 de ces demandes ont été examinées et validées une par une. Les contenus incluent de la pédopornographie produite par IA, un contenu masculiniste requalifié en terrorisme, et un site dédié à des vidéos de personnes en train de mourir finalement bloqué par la justice française.

Le rôle de la personnalité qualifiée

Le titre de « personnalité qualifiée » est peu connu, mais la mission qu'il recouvre est cruciale. Laurence Pécaut-Rivolier, magistrate à la Cour de cassation et membre du collège de l'ARCOM, joue le rôle d'un garde-fou indépendant. Elle surveille, aidée d'une dizaine d'agents volontaires, les décisions de l'Office anti-cybercriminalité (OFAC), l'unité de police spécialisée dans la cybercriminalité, qui a le pouvoir rarissime d'ordonner le retrait de contenus illicites en ligne sans attendre l'autorisation d'un juge. Un pouvoir exceptionnel, et c'est précisément pour cette raison qu'une autorité extérieure est là pour vérifier qu'il n'en est pas abusé. En 2025, la personnalité qualifiée a passé en revue 95 166 demandes de retrait, 291 blocages de sites et 24 déréférencements, sans jamais avoir à reprendre l'OFAC sur une irrégularité.

L'IA et la pédopornographie

La pédopornographie représente à elle seule 96 % des contenus dont l'OFAC demande le retrait. Mais l'année 2025 a introduit un phénomène nouveau et inquiétant : l'intelligence artificielle. Celle-ci est désormais utilisée pour fabriquer des images sexuelles mettant en scène des mineurs qui n'existent pas. Une distinction qui ne change rien sur le plan légal, comme le rappelle clairement le rapport. « Toute forme de représentation d'un mineur présentant un caractère pornographique, y compris lorsqu'elle est générée par utilisation de l'intelligence artificielle, est interdite. » Virtuel ou réel, le contenu reste un délit, et il s'ajoute aux contenus, eux, bien réels.

Le rapport formule également une mise en garde directe à destination des parents. Les pédocriminels ne se limitent pas à chercher des contenus explicites. Des photos tout à fait ordinaires d'enfants, comme une sortie à la plage, un anniversaire, un moment de jeu, publiées sur les réseaux sociaux sont régulièrement récupérées et partagées sur des forums spécialisés, où elles prennent un tout autre sens. « De nombreuses photos d'enfants publiées en ligne, aussi anodines soient-elles, sont récupérées par des pédocriminels et diffusées sur des forums spécialisés », alerte Mme Pécaut-Rivolier. Un rappel simple, mais qui devrait faire réfléchir des parents avant chaque publication.

Les nouvelles menaces terroristes

En matière de terrorisme, les contenus produits par Al-Qaïda et l'État islamique restent les plus fréquents, mais une tendance nouvelle s'affirme. Il s'agit des contenus issus de la mouvance suprémaciste et d'extrême droite, qui sont en nette augmentation. Surtout, 2025 a marqué une première en France, avec un contenu masculiniste, donc qui prône une idéologie hostile aux femmes et appelant à la violence, qui a été officiellement qualifié de terroriste. Cette décision est directement liée à l'ouverture, en juillet 2025, d'une information judiciaire antiterroriste pour un projet d'attentat d'inspiration « incel » à Saint-Étienne, une mouvance regroupant des hommes qui se considèrent victimes des femmes et revendiquent parfois le recours à la violence.

Le blocage judiciaire de sites extrêmes

Depuis février 2025, l'OFAC a reçu une nouvelle compétence, qui lui permet de demander le retrait d'images de torture et d'actes de barbarie. Un terrain juridique inédit, encore peu sollicité avec seulement 17 demandes en quelques mois, mais qui a déjà produit un résultat concret. C'est précisément grâce à ce dispositif que le site watchpeopledie.tv a été identifié et signalé. Cette plateforme américaine, abjecte, collectionne les vidéos de personnes en train de mourir (par accident, exécution ou suicide), parfois accompagnées d'émoticônes ou de commentaires railleurs envers les victimes. Ni le site ni son hébergeur technique, la société Cloudflare, n'ont donné suite aux demandes de retrait de l'OFAC. L'ARCOM a donc franchi une étape supplémentaire en saisissant directement la justice. En décembre 2025, le tribunal judiciaire de Paris a tranché en ordonnant aux principaux fournisseurs d'accès à internet français (Orange, Free, SFR, Bouygues) de bloquer l'accès au site pour tous leurs abonnés. Une mesure indéfinie, maintenue « tant que durera la diffusion du contenu illicite par le site watchpeopledie.tv », selon les termes mêmes du jugement.

Depuis juin 2025, l'OFAC peut également s'attaquer aux annonces de vente de drogues en ligne, une compétence toute récente qui explique le nombre encore modeste de 160 demandes de retrait. Il faut savoir que l'office intervient pour l'instant uniquement lorsqu'un signalement lui remonte le cas. Mais ce que les agents découvrent sur ces pages laisse sans voix : des photos des produits, des promotions pour les commandes en gros, des options de livraison à domicile. « Des photos des produits stupéfiants, une offre de réduction si vous faites une commande en masse, une proposition de livraison à domicile », précise Mme Pécaut-Rivolier. Du commerce en ligne, en somme, mais pour de la drogue.

Un combat sans fin

Au fond, ce rapport dit une chose simple : le web illicite évolue plus vite que les moyens pour le combattre. L'ARCOM le sait et le reconnaît elle-même, et tant que l'OFAC ne comptera qu'une poignée d'agents dédiés à la détection, contrôler 95 000 contenus restera une victoire très symbolique face à un océan dont personne ne connaît vraiment la profondeur aujourd'hui.