LinkedIn renforce sa lutte contre les contenus générés par l'IA

LinkedIn face à l'essor des contenus générés par l'IA

LinkedIn, le réseau social professionnel, est confronté à une augmentation significative de contenus générés par l'intelligence artificielle. Une étude menée par Pangram, une entreprise spécialisée dans la détection de textes produits par l'IA, a révélé que près de 40 % des publications de 250 mots ou plus sur LinkedIn pourraient ne pas être rédigées par des humains. Face à ce constat, LinkedIn a décidé de prendre des mesures pour contrer ce phénomène, qu'il qualifie d'"AI slop", en introduisant notamment un nouveau bouton de signalement.

Un nouvel outil pour signaler les contenus suspects

LinkedIn a récemment introduit un bouton intitulé "Seems like AI slop", permettant aux utilisateurs de signaler les publications ou commentaires qu'ils soupçonnent d'avoir été générés par une intelligence artificielle. Cette initiative, annoncée par Hari Srinivasan, directeur produit de LinkedIn Ecosystem, met l'accent sur l'importance d'une modération qui repose sur l'intervention humaine.

Deux constats sous-tendent cette approche :

• D'une part, il est crucial de distinguer l'utilisation de l'IA pour affiner des idées de la production de contenus génériques ou inauthentiques.
• D'autre part, les membres doivent pouvoir recevoir des retours de personnes réelles sur l'authenticité de leurs publications, plutôt que de s'en remettre uniquement à des détecteurs automatisés qui peuvent être faillibles.

Les signalements effectués via ce bouton sont destinés à améliorer les modèles de détection de LinkedIn et à optimiser les fils d'actualité. Le bouton est accessible en cliquant sur les trois points situés en haut à droite d'une publication, puis en sélectionnant l'option "Seems like AI slop". Les auteurs des contenus signalés seront informés via leur tableau de bord que certains membres estiment leur contenu inauthentique ou trop influencé par l'IA.

LinkedIn intensifie sa lutte contre l'AI slop

Depuis plusieurs mois, LinkedIn s'efforce de réduire la diffusion de publications jugées trop génériques, tout en évitant de les supprimer complètement. Outre le nouveau bouton de signalement, LinkedIn a mis en place plusieurs autres mesures :

• Renforcement des défenses automatisées : LinkedIn affirme bloquer quotidiennement des centaines de milliers de tentatives de commentaires automatisés. Au cours des deux derniers mois, des milliards de tentatives d'automatisation, telles que des publications en masse ou de mauvaise qualité, ont été neutralisées, selon Hari Srinivasan.

• Déploiement de nouveaux classificateurs : Ces outils sont capables d'identifier les publications relevant de l'AI slop ou de faible qualité, afin de limiter leur présence dans les contenus suggérés et ceux provenant de comptes extérieurs au réseau direct des membres.

• Remplacement de la fonctionnalité "enhance your post" : Cette fonctionnalité, qui reformulait les textes à l'aide de l'IA, a été remplacée par un outil de relecture qui corrige les textes sans altérer le style de l'auteur.

• Extension de la vérification des profils et des pages : Une nouvelle option permet également de bloquer les commentaires provenant des pages d'entreprise, renforçant ainsi la sécurité et l'authenticité des interactions sur la plateforme.