L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Telegram et l'IA : un écosystème d'abus monétisé
Une analyse approfondie menée par AI Forensics a révélé comment Telegram est devenu un terreau fertile pour les abus numériques via l'intelligence artificielle. L'étude a porté sur 2,8 millions de messages échangés dans des groupes italiens et espagnols, mettant en lumière l'utilisation massive des bots de nudification. Ces outils transforment des photos ordinaires en images synthétiques nues, alimentant un marché lucratif d'images intimes non consensuelles.
Le rapport indique que le mot "bot" apparaît 16 232 fois dans les messages analysés, soulignant la popularité de ces outils. Les messages proviennent de 16 groupes et chaînes Telegram italiens et espagnols. Parmi les liens déguisés partagés par les utilisateurs, 49,71 % menaient à des générateurs de petites amies IA, tandis que 19,14 % pointaient vers des bots de nudification. Les utilisateurs partagent également des prompts pour manipuler des images à l'aide de chatbots commerciaux comme Grok ou Gemini.
Contenu synthétique et monétisation
Sous le hashtag #PornoTok, les utilisateurs créent du contenu synthétique en utilisant des images de TikTok influenceuses, y compris de faux clips audio avec leurs voix. L'IA a abaissé la barrière technique à un tel point que le nombre de victimes potentielles augmente considérablement.
L'abus alimenté par l'IA est étroitement lié à la monétisation. Des archives contenant des images intimes non consensuelles, y compris du matériel d'abus sexuel sur mineurs, sont vendues pour des frais uniques de 20 à 50 euros ou des abonnements mensuels à partir de 5 euros. Les paiements transitent par PayPal, des cryptomonnaies ou le service espagnol Bizum. Certains utilisateurs agissent en tant qu'affiliés pour des bots de nudification et affirment gagner 40 % de commission.
Telegram : un facilitateur involontaire ?
AI Forensics a identifié 24 671 utilisateurs actifs dans des groupes allant jusqu'à 27 000 membres, avec 72 % du contenu espagnol apparaissant également dans des groupes italiens. Selon le rapport, Telegram facilite cet écosystème par conception. Les fonctionnalités premium permettent aux utilisateurs d'organiser des chaînes en dossiers, des bots automatisent le contrôle d'accès, et des groupes fermés se rouvrent dans les heures qui suivent sous le même nom.
En 2024, Telegram a généré 292 millions de dollars grâce à ses abonnements premium, devenant ainsi un hub pour ce type de bots depuis l'émergence de la technologie. Les chercheurs appellent à ce que Telegram soit classé comme une Très Grande Plateforme en Ligne selon la Loi sur les Services Numériques, que les outils de nudification soient interdits dans toute l'UE, et que la Loi sur l'IA inclue des garanties obligatoires contre les images intimes synthétiques non consensuelles.
