Nudifying bots, deepfakes, and automated archives: how AI powers a monetized abuse ecosystem on Telegram

Bots de nudification, deepfakes et archives automatisées : comment l'IA alimente un écosystème d'abus monétisé sur Telegram

Une analyse de 2,8 millions de messages sur Telegram par AI Forensics documente comment des bots de nudification dans des groupes italiens et espagnols transforment des photos ordinaires en images synthétiques nues à grande échelle.

L'abus est entièrement monétisé : des archives d'images intimes non consensuelles se vendent entre 20 et 50 euros, et les affiliés gagnent jusqu'à 40 % de commission.

Les chercheurs souhaitent que les outils de nudification soient interdits dans toute l'UE et que Telegram soit classé comme une Très Grande Plateforme en Ligne selon la Loi sur les Services Numériques.

Une analyse de 2,8 millions de messages sur Telegram en Italie et en Espagne documente comment les outils d'IA alimentent un écosystème monétisé basé sur des images intimes non consensuelles.

Les soi-disant bots de nudification sont parmi les services les plus recherchés dans les groupes Telegram dédiés au partage d'images intimes non consensuelles, selon un rapport d'AI Forensics. Ces bots génèrent des images synthétiques nues à partir de photos ordinaires. Le mot "bot" apparaît 16 232 fois dans les presque 2,8 millions de messages analysés provenant de 16 groupes et chaînes Telegram italiens et espagnols. Parmi les liens déguisés partagés par les utilisateurs dans ces groupes, 49,71 % menaient à des générateurs de petites amies IA et 19,14 % pointaient vers des bots de nudification, selon l'étude.

Les chercheurs ont également documenté comment les utilisateurs partagent des prompts pour des chatbots commerciaux comme Grok ou Gemini afin de manipuler des images. Sous le hashtag #PornoTok, les utilisateurs créent délibérément du contenu synthétique de TikTok influenceuses, y compris de faux clips audio avec leurs voix. Selon le rapport, l'IA a abaissé la barrière technique à un tel point que le nombre de victimes potentielles augmente de manière dramatique.

L'abus automatisé devient un modèle commercial

L'abus alimenté par l'IA est étroitement lié à la monétisation. Des archives contenant des images intimes non consensuelles - y compris du matériel d'abus sexuel sur mineurs - sont vendues pour des frais uniques de 20 à 50 euros ou des abonnements mensuels à partir de 5 euros. Les paiements transitent par PayPal, des cryptomonnaies ou le service espagnol Bizum. Certains utilisateurs agissent en tant qu'affiliés pour des bots de nudification et affirment gagner 40 % de commission. Au total, les chercheurs ont identifié 24 671 utilisateurs actifs dans des groupes allant jusqu'à 27 000 membres, avec 72 % du contenu espagnol apparaissant également dans des groupes italiens.

Selon AI Forensics, Telegram facilite cet écosystème par conception. Les fonctionnalités premium permettent aux utilisateurs d'organiser des chaînes en dossiers, des bots automatisent le contrôle d'accès, et des groupes fermés se rouvrent dans les heures qui suivent sous le même nom. La plateforme a généré 292 millions de dollars provenant d'abonnements premium en 2024, selon le rapport, et est devenue un hub pour ce type de bots depuis l'émergence de la technologie.

Les chercheurs appellent à ce que Telegram soit classé comme une Très Grande Plateforme en Ligne selon la Loi sur les Services Numériques, que les outils de nudification soient interdits dans toute l'UE, et que la Loi sur l'IA inclue des garanties obligatoires contre les images intimes synthétiques non consensuelles.