Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Les préoccupations des technophiles concernant le filigrane caché de Claude
Anthropic, une entreprise spécialisée dans l'intelligence artificielle, a récemment introduit un filigrane pour son modèle Claude. Ce filigrane a pour but de différencier le contenu généré par l'IA de celui produit par des humains. Cette initiative a suscité des interrogations parmi les experts en technologie, notamment en ce qui concerne le droit d'auteur et la protection de la vie privée. Anthropic a répondu à certaines de ces préoccupations lors d'une interview, en abordant notamment la question des outils de détection.
L'annonce d'Anthropic concernant l'intégration d'un filigrane dans les textes produits par Claude a généré des discussions et des inquiétudes parmi les professionnels du secteur technologique. L'entreprise a révélé que certains modèles de Claude incluront un "filigrane imperceptible" dans leurs productions textuelles. Ce filigrane est conçu pour persister même lorsque le texte est copié, collé ou légèrement modifié, facilitant ainsi la distinction entre le contenu généré par l'IA et celui écrit par des humains.
Anthropic n'a pas encore fourni de détails techniques exhaustifs sur le fonctionnement de ce système, ce qui a conduit certains technophiles à exprimer des préoccupations concernant le droit d'auteur, la qualité des textes produits et la manière dont les travaux assistés par l'IA pourraient être évalués.
Qui peut voir le filigrane ?
Une des préoccupations majeures, soulevée par l'investisseur technologique Bill Gurley, est que seul Anthropic serait capable d'identifier le filigrane. Selon lui, cela placerait l'entreprise dans une position de "juge, jury et procureur". Pour répondre à cette inquiétude, un porte-parole d'Anthropic a annoncé la mise en place prochaine d'une API gratuite. Cette interface permettra aux utilisateurs et aux tiers de vérifier eux-mêmes la présence du filigrane dans les textes générés par Claude.
Que se passe-t-il avec le contenu légèrement modifié par l'IA ?
Certains développeurs ont exprimé des doutes quant à l'impact du filigrane sur les réponses de Claude, notamment si celui-ci utilise une méthode combinant des mots spécifiques qui signaleraient le texte comme étant généré par l'IA. Anthropic a assuré que le filigrane n'affecte ni le sens, ni la qualité, ni la lisibilité des réponses de Claude. Simon Smith, responsable de l'IA générative chez Klick, une agence de santé numérique, a exprimé sur X ses préoccupations concernant le fait que même des modifications mineures, comme une simple vérification grammaticale par Claude, pourraient être attribuées à l'IA.
Anthropic a clarifié que la présence d'un filigrane indique que Claude a traité le texte, mais cela ne signifie pas nécessairement qu'il en est l'auteur. Le filigrane peut rester présent après que Claude ait relu, traduit ou résumé le contenu.
Qu'est-ce que cela signifie pour le droit d'auteur ?
Steven Sinofsky, ancien cadre de Microsoft, a soulevé des inquiétudes relatives à la vie privée numérique. Il a souligné que le véritable enjeu réside dans la conservation des données et le droit des individus à avoir des pensées privées sans laisser de trace numérique. De son côté, John Crickett, formateur et coach en ingénierie logicielle, s'est interrogé sur les implications d'un filigrane sur le code généré par l'IA, notamment en ce qui concerne les revendications de droit d'auteur, car cela pourrait compliquer la démonstration d'une contribution humaine suffisante.
Anthropic a déclaré que l'ajout du filigrane, qui s'applique au texte généré par Claude à l'échelle mondiale depuis le 2 août, vise à se conformer à la Loi sur l'IA de l'Union européenne. Anthropic n'est pas la seule entreprise à utiliser des filigranes : Google utilise sa technologie SynthID pour marquer le contenu généré par l'IA, et OpenAI applique SynthID aux images et à l'audio. De plus, la plateforme de médias sociaux d'Elon Musk, X, ajoute une étiquette "Fait avec l'IA" sur le contenu qu'elle identifie comme généré ou modifié par l'IA.
Le filigrane de Claude pourrait avoir des avantages
Tout le monde ne voit pas le filigrane comme une contrainte. Donn Felker, développeur de logiciels, a affirmé sur X que cela pourrait empêcher les systèmes d'IA d'être formés sur un volume croissant de matériel généré par l'IA, évitant ainsi un problème qu'il décrit comme un "serpent qui se mord la queue", où les systèmes d'IA se dégradent en se basant sur leurs propres sorties. Aadit Sheth, cofondateur de The Narrative Company, une entreprise de communication exécutive, a également salué la transparence accrue. Il a déclaré sur X que le filigrane aiderait les lecteurs à identifier l'écriture générée par l'IA, ajoutant que les audiences devraient pouvoir savoir si les mots qu'elles lisent reflètent la pensée d'une personne.
L'un des effets les plus évidents du filigrane d'Anthropic est qu'il pourrait révéler l'utilisation de l'IA par les individus pour des tâches quotidiennes telles que la rédaction d'e-mails ou de publications sur LinkedIn. "À quel point les gens se soucient-ils que leur utilisation de l'IA soit révélée ?" a écrit Katie Notopoulos. Elle a ajouté que si l'on considère les usages les plus courants de l'IA pour l'écriture, il est probable que la réponse soit moins significative que ce que l'on pourrait imaginer.
