Reddit mise sur l'IA pour révolutionner la modération en ligne

Reddit mise sur l'IA pour révolutionner la modération en ligne

Reddit fait appel à l'IA pour aider à modérer de nouveaux subreddits — et, à terme, l'ensemble du site. L'entreprise introduit des outils de modération automatisés qui s'appuient sur des modèles de langage (LLMs) pour aider les modérateurs à gérer leurs communautés, et elle élargit dès aujourd'hui l'accès à ces outils avant un lancement complet prévu plus tard cette année.

L'entreprise appelle cet ensemble d'outils le "Rules Hub", qui permet aux modérateurs de décider quelles règles doivent être appliquées automatiquement et quelles actions doivent être prises lorsqu'une règle est déclenchée. Le Rules Hub s'appuie sur des LLMs pour évaluer « si un post ou un commentaire correspond à l'intention d'une règle », ce qui « permet au Rules Hub de mieux gérer les nuances, le langage naturel et les cas particuliers tout en préservant le contrôle des modérateurs », indique Reddit dans un article de blog. Actuellement, de nombreux subreddits utilisent des outils d'une fonctionnalité appelée Automoderator (ou Automod) pour appliquer les règles, mais les outils d'Automod « dépendent d'une correspondance exacte de mots-clés et de motifs ».

Reddit précise que le Rules Hub a été testé « au cours des derniers mois » avec « des modérateurs nouveaux et expérimentés de plus de 700 communautés, y compris des membres du Mod Council Network de Reddit ». Ce test du Rules Hub s'étend maintenant à « toutes les nouvelles communautés créées » et sera « largement disponible » à un moment donné plus tard en 2026.

Le Rules Hub sera optionnel pour les nouvelles communautés, indique la porte-parole Rosa Kim. Cependant, il semble que Reddit envisage de retirer les fonctionnalités d'application d'Automod à l'avenir : dans son message, Reddit déclare que « dans une perspective d'avenir, nous croyons que le Rules Hub, associé à des systèmes plus récents comme le Post & Comment Guidance et les Safety Filters, pourra éventuellement remplacer de nombreux flux de travail d'application dont les communautés dépendent d'Automod ».

Automod a été « l'un des outils de modération les plus importants », déclare le PDG de Reddit, Steve Huffman, dans un message. « Mais il est également difficile à apprendre, difficile à maintenir et fortement dépendant d'une correspondance de mots-clés fragile, de regex et de configurations héritées que peu de personnes dans une équipe de modération, si ce n'est personne, comprennent. Nous pouvons faire mieux. »

Les outils de modération mis à jour ne sont qu'une des nombreuses annonces importantes que Reddit fait mercredi. L'entreprise prévoit également de grands changements qui affecteront les développeurs : elle va exiger que les nouvelles applications tierces utilisent la plateforme de développement au lieu de l'API.

« Nous envisageons un avenir où toute bonne automatisation de confiance sur Reddit fonctionne au sein d'un écosystème qui nous permet d'offrir un soutien et d'appliquer nos politiques de manière cohérente », déclare Reddit. « Pour y parvenir, nous continuerons à soutenir un accès public limité à l'API, mais nous restreindrons progressivement les nouvelles demandes et exigerons que les applications tierces passent à et fonctionnent sur la plateforme de développement de Reddit. »

L'API publique de Reddit n'a pas été conçue pour l'échelle actuelle, les abus automatisés ou le scraping commercial, déclare Huffman. « Nous voulons que des bots utiles, des outils communautaires et des développeurs de bonne foi aient un moyen clair et bien soutenu de construire sur Reddit. Nous ne voulons pas que des acteurs malveillants extraient des données de Reddit sans discernement, revendent ses données ou les utilisent sans responsabilité. »

Ce changement fait suite aux modifications majeures de l'API de Reddit en 2023, mises en place pour que les entreprises d'IA paient pour les données de Reddit, mais qui ont également provoqué un large mécontentement, en partie parce qu'elles ont forcé de nombreuses applications Reddit appréciées à fermer. Actuellement, si un développeur souhaite créer une application mobile Reddit, il doit obtenir l'autorisation de Reddit pour obtenir des exemptions d'API publique, et cela continuera d'être le cas, indique Kim.

Reddit n'a pas encore de « calendrier fixe » pour exiger la plateforme de développement, mais l'entreprise donnera « à la communauté un ample préavis » et fournira un calendrier clair, selon Kim. Le changement à venir affectera « toutes les applications API sauf celles auxquelles nous accordons explicitement des exceptions », selon Kim.

Reddit annonce également aujourd'hui qu'il prévoit d'autres changements pour l'ancien Reddit dans le cadre de ses efforts continus pour lutter contre le scraping non autorisé de son contenu. Ces efforts incluent déjà le blocage des résultats Reddit des moteurs de recherche qui ne paient pas, des poursuites contre Anthropic et Perplexity, et le blocage de l'Internet Archive pour empêcher les entreprises d'IA de l'utiliser pour extraire des données. En juin, l'entreprise a annoncé que les utilisateurs devraient être connectés s'ils souhaitaient utiliser l'interface de l'ancien Reddit.

Reddit ne précise pas quels seront les changements apportés à l'ancien Reddit, mais Kim indique que l'entreprise « explore différentes options » et note qu'« à court terme, nous limiterons l'accès aux utilisateurs connectés et migrerons des bots critiques et des flux de travail de modération ».

« Afin de protéger notre plateforme, notre entreprise et nos utilisateurs, nous devrons faire quelque chose » avec l'ancien Reddit, déclare Huffman. « En réalité, beaucoup de choses. Nous avons des options : nous pouvons limiter l'accès, migrer des utilisations importantes ou le reconstruire sur une architecture technologique moderne, et je pense que nous ferons probablement tout cela. »

Huffman reconnaît également que les utilisateurs peuvent être méfiants face à de grands changements. « Nous savons que les annonces concernant les API et les produits hérités viennent avec un certain bagage », dit-il. « 'Faites-nous confiance' n'est pas suffisant. Si nous vous demandons de passer à quelque chose de nouveau, cela doit être au même niveau ou mieux en pratique, pas seulement en théorie. » Il affirme que Reddit ne « supprimera pas de fonctionnalités majeures avant qu'il n'y ait un remplacement crédible », travaillera avec les modérateurs, les développeurs et les communautés concernées, et « partagera des étapes importantes en cours de route avant que l'un de ces changements ne soit mis en œuvre. »