Brief IA : Anthropic : filigranes, outils de retrait et incertitude juridique en Europe

Anthropic : filigranes, outils de retrait et incertitude juridique en Europe

Brief IA
Tom Levy·4 min·4 vues

À partir du 2 août, Anthropic introduit des filigranes dans ses modèles Claude, accompagnés d'une API de détection. En parallèle, des outils de retrait, dont un open source avec plus de 14 000 étoiles, émergent, posant un défi à l'efficacité des marquages. L'Union européenne impose des marquages robustes, mais n'interdit pas explicitement leur suppression par des tiers.

En bref
1Les filigranes s’appliquent aux nouveaux modèles Claude à partir du 2 août et une API de détection est prévue.
2Des outils de retrait émergent, dont un open source à plus de 14 000 étoiles et MarkScrub revendiquant 8 500 utilisateurs en un jour.
3L’UE exige des marquages robustes mais n’interdit pas explicitement leur suppression par des tiers, selon des juristes.
💡Pourquoi c'est importantLe déploiement des filigranes et des détecteurs prépare un encadrement de la transparence, tandis que l’essor d’outils de retrait et les limites techniques posent un défi à l’efficacité de ces marquages.
Le brief IA que lisent les pros

Tu veux les meilleurs outils IA avant les autres ?

On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisis ton rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

📄
L'analyse en français

Anthropic introduit un marquage imperceptible dans les textes générés par certains modèles Claude, avec un déploiement à partir du 2 août et une API de détection annoncée. En parallèle, des développeurs publient des outils pour effacer ces traces, alors que le droit européen encadre surtout les fournisseurs et que des chercheurs rappellent les limites techniques du filigranage.

Supprimer un filigrane n’est pas interdit, mais l’UE impose la robustesse

L’Union européenne impose aux fournisseurs d’IA d’ajouter des étiquettes durables et de rendre leurs systèmes de marquage résilients face aux modifications courantes et aux actions adversariales. Son code de transparence liste notamment la suppression, la régénération, la copie et la modification parmi les menaces à évaluer. En revanche, la loi sur l’IA n’interdit pas expressément aux tiers d’essayer d’ôter un filigrane, selon Dmitri Roussinov, qui ajoute que si une suppression passe par une régénération assistée par IA, le fournisseur de l’outil pourrait devoir marquer cette nouvelle sortie. Konrad Kollnig estime de son côté que ni le texte européen ni les conditions d’Anthropic ne semblent proscrire la création ou le partage d’outils de retrait, tout en avertissant des risques si ces outils servent à faire passer une production d’IA pour humaine. La politique d’utilisation d’Anthropic interdit d’ailleurs cette imitation. L’entreprise prévoit en outre une API de détection de texte avec son prochain modèle, sans calendrier annoncé. Côté périmètre, le filigrane s’applique aux nouveaux modèles publiés à partir du 2 août et Anthropic prévoit de l’étendre aux modèles plus anciens.

Des limites techniques pointées: la reformulation reste un contournement

Pour Thibaud Gloaguen, chercheur à l’ETH Zurich, il existera toujours des moyens d’enlever un filigrane, par exemple en reformulant l’intégralité d’un texte. Le constat s’inscrit dans un paysage où Google et OpenAI utilisent déjà des filigranes pour les images, face auxquels prolifèrent des outils promettant leur suppression. Konrad Kollnig souligne par ailleurs que dès lors qu’un détecteur de filigranes est rendu public, il devient possible de comparer des contenus générés par l’IA à ce détecteur et de bâtir des outils capables d’effacer ces marques.

Une vague d’outils de retrait: open source, local et web

À Paris, Guillaume Meyer, qui a fondé Memo, a mis en place un projet open source baptisé Watermarks Remover quelques jours après l’annonce d’Anthropic. Selon son créateur, l’outil retire des caractères invisibles et des métadonnées, puis reformule le texte pour en conserver le sens, dans le but de contrarier les modèles statistiques pouvant intégrer un filigrane. La première mouture du projet a demandé à peu près cinq heures de développement et a obtenu plus de 14 000 étoiles sur GitHub, sans toutefois assurer un effacement garanti à chaque fois. Sabrina Ramonov indique avoir mis en ligne cette semaine un service gratuit accessible via navigateur, présenté comme apte à éliminer des marques cachées dans les textes, fichiers PDF, documents Word, pages web, images et fichiers de données. À Tokyo, Ansh Aneja rapporte avoir conçu, le jour de l’annonce d’Anthropic, un outil dédié à Claude, puis avoir proposé une version locale et open source appelée MarkScrub ; il fait état d’un passage de zéro à 8 500 utilisateurs en l’espace d’une journée. Ces projets restent encore naissants.

Des usages contestés et la crainte d’une « paternité binaire »

Les filigranes divisent les utilisateurs, certains allant jusqu’à annuler leur abonnement à Claude. Si l’objectif affiché par Anthropic est de faciliter l’identification des textes générés, des technophiles redoutent qu’une étiquette suive un travail même lorsque l’IA n’a servi qu’à relire, traduire ou résumer. Guillaume Meyer dit soutenir l’attribution de contenu, tout en s’opposant à la technique de filigranage qu’il juge traiter la paternité comme un choix binaire, le marquage pouvant survenir aussi bien lors d’une génération intégrale que de légères retouches. Anthropic indique de son côté que son filigrane n’a pas vocation à établir la paternité.

Comment fonctionne le marquage d’Anthropic et pourquoi il arrive

Sur les modèles concernés, Anthropic décrit un filigrane imperceptible, défini comme un modèle statistique issu des choix de mots de Claude. L’entreprise indique que ce marquage voyagerait avec le texte en cas de copier-coller. Elle justifie son introduction par la nécessité de respecter ses engagements liés à la loi européenne sur l’IA. Le dispositif s’applique aux nouveaux modèles publiés à partir du 2 août et doit être déployé ensuite vers des modèles plus anciens.

Une demande mesurable pour les effaceurs de filigranes

La volonté de neutraliser ces marquages a rapidement stimulé l’offre d’outils: des développeurs construisent et publient déjà des solutions pour faire disparaître les étiquettes, et un projet est devenu viral sur GitHub. Aux États‑Unis, les recherches Google pour "AI watermark remover" ont bondi de 60 % en une semaine. Entrepreneurs et développeurs annoncent des outils visant aussi bien les textes que différents formats de fichiers.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires