Anthropic : le filigrane de Claude suscite l'indignation

Anthropic introduit un filigrane pour Claude

Anthropic a récemment décidé d'ajouter un filigrane aux textes générés par son chatbot Claude. Ce filigrane insère un code invisible dans le texte éditorial, permettant de l'identifier comme produit par une intelligence artificielle. Cette démarche vise à répondre aux exigences du Code de transparence du Règlement sur l'IA de l'Union européenne, qui oblige les entreprises à étiqueter clairement les contenus générés ou modifiés par des IA de manière identifiable pour les systèmes informatiques. Bien que cette mesure satisfasse les régulateurs européens, elle suscite des réactions contrastées parmi les utilisateurs.

La colère monte sur Reddit

Sur Reddit, de nombreux utilisateurs expriment leur mécontentement face à cette nouvelle politique. Un utilisateur, sous le pseudonyme de visionode, dont le compte n'existe que depuis trois semaines, a vivement critiqué le système de filigrane, le qualifiant de "conspiration draconienne". Selon lui, cette mesure vise à piéger les utilisateurs innocents du chatbot à travers le monde. Visionode soutient que si les utilisateurs expérimentés peuvent contourner le filigrane en reformulant le texte ou en utilisant d'autres services d'IA, l'utilisateur moyen de Claude risque d'être pris au dépourvu.

Des exemples controversés

Visionode illustre son propos avec des exemples tels qu'un étudiant utilisant Claude pour réorganiser un paragraphe, un journaliste demandant à l'IA de résumer un document de deux cents pages, ou encore un écrivain en panne d'inspiration cherchant des synonymes. Il affirme que ces utilisateurs se retrouvent avec un "tatouage numérique" qui pourrait les incriminer. Cependant, ces exemples ne font pas l'unanimité. Un journaliste qui intègre directement un résumé généré par une IA dans son article sans modification commet une faute éthique. De même, un étudiant qui copie-colle un texte réorganisé par Claude dans un essai enfreint les règles académiques.

Réactions mitigées sur la plateforme

Les réactions sur Reddit sont variées. Certains utilisateurs se montrent peu réceptifs à la colère de visionode, suggérant qu'il exagère la situation. Un utilisateur a simplement commenté "Regardez ce gars", tandis qu'un autre a conseillé à visionode de "prendre une grande respiration". D'autres estiment que le filigrane est une mesure nécessaire pour identifier les contenus générés par des algorithmes, en raison des risques potentiels dans diverses situations. Un utilisateur a même plaisanté sur le fait que visionode aurait utilisé Claude pour rédiger sa propre plainte.

Critiques et questions éthiques

Parmi les critiques, certains évitent le discours de victimisation et formulent des arguments plus nuancés. Un utilisateur a qualifié les filigranes de "non éthiques" et de "dégoûtants", affirmant qu'en utilisant Claude, ils avaient fait la majeure partie du travail, et que le chatbot n'était qu'un "outil" facilitant leur tâche. "J'ai donné les instructions, le contexte, les décisions et d'innombrables améliorations, Claude était l'outil," a-t-il déclaré. Un autre utilisateur a rétorqué que le filigrane n'est pas une revendication de mérite, mais une mesure pour détecter les sorties générées par l'IA en raison des risques potentiels. Un autre a souligné l'ironie de filigraner un contenu éditorial généré par une IA, alors que ces modèles s'entraînent souvent sur des données issues du travail d'autrui. Il considère cette pratique comme une direction inquiétante pour l'avenir des IA.

Un soutien pour la transparence

Malgré les critiques, de nombreux utilisateurs soutiennent l'idée du filigrane. Ils voient en cette mesure un moyen efficace de suivre et d'identifier le contenu généré par des IA. Pour eux, il n'existe aucun argument valable contre cette initiative, sauf si l'on souhaite tromper autrui sur l'origine du contenu. "Il n'y a littéralement aucun bon argument pour dire que ce n'est pas une bonne idée," a déclaré un utilisateur dans un autre fil. "La seule raison pour laquelle vous ne voudriez pas cela, c'est pour mentir aux gens."