Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
L'essor du spam facilité par les LLM
Avec l'accessibilité croissante des modèles de langage de grande taille (LLM), la propagation de spam sur Internet est devenue plus simple que jamais pour les acteurs malveillants. Ces dernières années, quiconque a passé un peu de temps en ligne a pu constater que le spam et les contenus générés par des bots ont pris une ampleur sans précédent.
Reddit contre-attaque avec des LLM
Face à ce défi, Reddit a mis au point des outils basés sur les LLM pour contrer le spam, dont une grande partie est ironiquement créée par ces mêmes modèles. Dans un contexte où l'intelligence artificielle est omniprésente, les plateformes n'ont d'autre choix que de répondre par des moyens similaires. Reddit rapporte qu'il bloque quotidiennement 23 millions de vues de spam et détecte environ 25 000 nouveaux posts et commentaires indésirables chaque jour.
Des outils de détection améliorés
Bien que les plateformes sociales développent depuis longtemps des outils automatisés pour réduire le spam, Reddit affirme que ses nouveaux outils surpassent les précédents en termes de détection. Selon un article de blog de la plateforme, les LLM sont utilisés pour identifier des comportements frauduleux et des hypes artificielles, souvent subtils et coordonnés, que les systèmes antérieurs ne parvenaient pas à détecter. Grâce à ces améliorations, Reddit a réussi à diminuer l'exposition des utilisateurs au spam de 20 % entre janvier et mars par rapport aux trois mois précédents.
La modération IA et ses implications
D'autres plateformes comme YouTube, Meta et Instagram autorisent les utilisateurs à publier du contenu généré par l'IA, à condition qu'il soit clairement identifié. TikTok va même plus loin en permettant aux utilisateurs de choisir la quantité de contenu IA qu'ils souhaitent voir. Si les plateformes peuvent détecter plus rapidement le contenu généré par l'IA, elles pourraient également signaler plus efficacement les contenus problématiques, tels que les discours de haine.
L'équilibre entre IA et modération humaine
Cependant, les experts soulignent que pour que la modération de contenu soit véritablement efficace, elle doit combiner l'IA avec une intervention humaine. La technologie seule ne peut pas encore remplacer la nuance et le jugement humain nécessaires pour traiter les contenus sensibles ou complexes.
