Substack dévoile un outil pour traquer l'IA dans ses newsletters

Substack introduit un détecteur d'IA dans ses newsletters

Substack, la plateforme bien connue pour ses newsletters et ses outils d'écriture, a récemment introduit une nouvelle fonctionnalité qui permet de déterminer si les newsletters de vos auteurs favoris sont rédigées avec l'aide de l'intelligence artificielle. Cette initiative marque un tournant dans la manière dont le contenu est perçu sur la plateforme.

Cette semaine, Substack a annoncé une collaboration avec Pangram, un logiciel spécialisé dans la détection de contenu généré par l'IA. Grâce à cette intégration, les utilisateurs de Substack pourront désormais analyser les publications, les commentaires et les réponses pour évaluer la proportion de texte écrit par des humains par rapport à celui généré par des machines. Cette fonctionnalité offre une transparence accrue sur l'origine du contenu.

Impact potentiel sur la réputation de Substack

À court terme, cette nouvelle fonctionnalité pourrait représenter un défi pour Substack. En effet, en révélant la part de contenu généré par l'IA, la plateforme risque de mettre en lumière des newsletters qui ne sont pas entièrement le fruit d'un travail humain. Cela pourrait potentiellement éroder la confiance dans l'écosystème d'informations et de blogs indépendants de la plateforme, voire nuire à sa réputation en tant qu'hôte de contenu de haute qualité.

Cependant, sur le long terme, cette démarche pourrait s'avérer bénéfique. En permettant de distinguer clairement le contenu humain du contenu généré par l'IA, Substack pourrait renforcer la confiance des utilisateurs envers la plateforme. Les fonctionnalités de détection de l'IA pourraient aider à maintenir Substack exempt de "contenu de mauvaise qualité généré par l'IA". Les lecteurs seraient ainsi assurés de la qualité des textes qu'ils consultent, sachant qu'ils ont été rédigés par des personnes, ou du moins en ayant conscience de l'implication de l'IA dans le processus de création.

Vers une norme d'étiquetage du contenu IA

Substack n'est pas la seule plateforme à s'orienter vers l'étiquetage du contenu généré par l'IA. Avec l'importance croissante de l'IA dans la création de contenu, d'autres secteurs adoptent également des mesures similaires. Par exemple, les réseaux sociaux ont commencé à étiqueter les photos et vidéos générées par l'IA, tandis que les services de streaming musical prennent des mesures pour identifier et parfois pénaliser la musique créée par des algorithmes.

La vision de Chris Best, PDG de Substack

Chris Best, le PDG de Substack, a exprimé son point de vue sur cette nouvelle fonctionnalité. Il considère que l'IA peut être utilisée de manière judicieuse pour alléger la charge des écrivains, mais insiste sur l'importance de conserver une part humaine dans la création. Selon lui, l'idée centrale d'une newsletter doit rester l'œuvre d'une personne, car c'est cette idée qui mérite d'être lue et partagée. Le logiciel, quant à lui, devrait s'occuper des tâches plus secondaires.

Fonctionnalités et options pour les auteurs

La nouvelle fonctionnalité sera accessible via l'application Substack pour toute publication, note, réponse ou commentaire dépassant les 100 caractères. De plus, Substack offre aux auteurs la possibilité d'ajouter une note d'auteur optionnelle concernant l'utilisation de l'IA. Cette option permet aux créateurs de divulguer de manière transparente leur recours à l'IA dans le processus d'écriture.

Substack a précisé que cet outil n'a pas pour vocation d'interdire ou de pénaliser l'écriture assistée par l'IA. Au contraire, il vise à encourager les auteurs à expliquer leur méthode de travail en ajoutant une déclaration "comment je fais cela". Les éditeurs ont également la possibilité d'utiliser Pangram pour vérifier leurs brouillons avant publication et de signaler ou corriger les erreurs de détection éventuelles.