Anthropic va filigraner Claude, périmètre et critiques persistent

Anthropic prévoit d’ajouter un filigrane aux sorties textuelles de plusieurs modèles via Claude pour se conformer à la loi européenne. L’entreprise décrit un procédé fondé sur des choix de mots, vérifiable à l’aide d’une clé. Mais elle ne précise pas encore le traitement de certaines modifications mineures ni des usages adjacents, ce qui alimente des critiques de professionnels et l’apparition d’outils d’effacement sur GitHub.

Anthropic n’a pas tranché le périmètre du filigranage

L’entreprise n’a pas détaillé comment elle distinguera, dans la pratique, un texte « généré » de tâches voisines réalisées avec de l’IA. Elle a indiqué que les filigranes peuvent ou non s’attacher à des modifications de petite ampleur effectuées avec Claude. Ces zones grises nourrissent des questions très concrètes, comme celles posées par John McCarthy, rédacteur d’opinion à The Drum : assistant pour trier et répondre à des propositions, sous-titres automatiques de vidéos, transcriptions d’entretiens, ou encore l’usage d’un filtre léger dans Zoom. Tous ces usages devraient-ils être marqués au même titre qu’un texte rédigé par un modèle ? Une position est avancée dans le débat : tout travail éditorial adjacent recourant à l’IA ne devrait pas être assimilé à un contenu « généré ».

Créateurs et éditeurs dénoncent le coût et la provenance

Des créateurs mettent en cause la provenance des modèles et le modèle économique qui en découle. La fondatrice de NoCodeLab.ai, Sara Simeone, affirme que des laboratoires ont construit leur richesse en aspirant des contenus sans consentement, puis en faisant payer pour des versions régurgitées de ces mêmes contenus, tout en exigeant une attribution qui ferait remonter la propriété intellectuelle vers eux. Des critiques soutiennent par ailleurs que de grandes quantités de contenus en ligne ont été récupérées sans rémunération des auteurs pour entraîner les systèmes. Dans ce contexte, il est avancé qu’il existe une hypocrisie à marquer la sortie de livres copiés puis détruits, avec, selon ces propos, un règlement intervenu avec des auteurs. Au-delà, certains décrivent une réaction plus profonde à l’égard des laboratoires : dépendre d’outils qui automatisent le travail, puis apposer un traqueur sur ce travail d’une manière perçue comme périlleuse, est ressenti comme une trahison ; d’autres rétorquent qu’une entreprise qui n’a jamais été redevable ne peut trahir.

Anthropic annonce un marquage pour se conformer à l’UE

Anthropic prévoit de commencer à apposer un filigrane sur les sorties textuelles de plusieurs de ses modèles accessibles via Claude. L’objectif affiché est de répondre aux exigences de transparence de la loi européenne sur l’IA, notamment son Article 50. Après une première communication avare en détails sur le fonctionnement et la lecture de ces filigranes, l’entreprise a publié des directives indiquant que l’empreinte s’attache à des choix de mots particuliers.

Le procédé décrit : des choix lexicaux vérifiables par clé

Le mécanisme s’appuie sur le caractère probabiliste des modèles qui génèrent les mots un par un, en fonction du contexte immédiat. Anthropic illustre ce point avec des synonymes comme « nuageux » ou « gris » dans une description météo : des choix réputés à faible enjeu qui graveraient un motif imperceptible pour un lecteur mais détectable par qui possède la clé. Techniquement, la sélection aléatoire du prochain mot est légèrement infléchie : la clé et quelques mots précédents guident le tirage. Les mots choisis restent aléatoires ; toutefois, une séquence peut être vérifiée a posteriori pour évaluer sa cohérence avec ce que produirait Claude sous clé, et en déduire une probabilité d’origine.

Technologues contestent la perte de maîtrise, des outils d’effacement apparaissent

Plusieurs voix techniques s’opposent à l’idée que ces choix de mots seraient sans conséquence. Le co-créateur de Markdown, John Gruber, soutient que chaque terme compte, qu’il veut des formulations les plus précises possibles et juge inacceptable qu’un outil sacrifie clarté ou qualité pour y glisser des indices cachés. Tandis que certains utilisateurs se disent dérangés par ce marquage, l’indignation publique a enflé et des projets visant à supprimer ces marques se multiplient sur GitHub.