Brief IA : Anthropic annonce un marquage persistant pour les textes générés par Claude

Anthropic annonce un marquage persistant pour les textes générés par Claude

Brief IA
Tom Levy·4 min·3 vues

Anthropic a annoncé la généralisation d'un marquage textuel persistant pour les textes générés par son modèle Claude, qui sera actif même dans certaines traductions et résumés. Cette décision intervient alors que l'Union européenne impose des obligations de watermarking pour les nouveaux modèles à partir du 2 août, et que des entreprises comme Google et OpenAI adaptent leurs dispositifs en conséquence.

En bref
1Dès le 2 août, l’UE impose des watermarks sur les nouveaux modèles, et Google, OpenAI et Meta adaptent leurs dispositifs.
2Anthropic généralise un marquage textuel persistant, actif jusque dans certaines traductions et résumés.
3Des experts estiment que l’interprétation d’Anthropic va au-delà de l’article 50(2) de l’UE, et des utilisateurs expriment leur mécontentement.
💡Pourquoi c'est importantles entreprises opérant en Europe doivent mettre en place des marquages lisibles par machine pour détecter les contenus générés par l’IA dans les prochains mois.
Le brief IA que lisent les pros

Tu suis la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisis ton rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

📄
L'analyse en français

Le marquage des sorties textuelles de Claude sera généralisé et conçu pour rester détectable, y compris après des traductions et résumés. Des spécialistes jugent l’interprétation plus large que ce que prévoit l’article 50(2) de l’UE pour la simple édition. Au même moment, l’Europe impose des obligations de watermarking dès le 2 août pour les nouveaux modèles et les rivaux affinent leurs dispositifs.

En Europe, l’obligation démarre le 2 août et les grands acteurs s’alignent

À compter du 2 août, les nouveaux modèles mis sur le marché en Europe doivent respecter les exigences européennes de marquage, tandis qu’une tolérance jusqu’en décembre est accordée pour les modèles plus anciens. Au cours des prochains mois, d’autres sociétés actives sur le territoire européen devront mettre en place des dispositifs compatibles avec la lecture automatique pour repérer les contenus créés par l’IA. Selon Google, SynthID est d’ores et déjà utilisé à l’échelle mondiale pour apposer un filigrane invisible sur les textes, images, fichiers audio et vidéos générés par ses modèles. OpenAI prévoit d’étendre ses étiquettes au texte sans préciser de date. Meta dit travailler sur des outils pratiques et interopérables d’identification du contenu généré par l’IA, en se concentrant pour l’instant sur les images, et n’a pas détaillé de plan pour le texte. Par ailleurs, xAI étiquette certains contenus comme générés par l’IA, notamment un récent message de départ de Karoline Leavitt sur X, avant que cette mention ne disparaisse.

Un motif dans les choix de mots rend le texte de Claude détectable

Le dispositif d’Anthropic est conçu pour rester détectable après un simple copier-coller, et il peut encore apparaître dans des traductions, des résumés ou des versions plus largement modifiées d’un texte. Techniquement, le système guide les choix de mots de Claude afin de produire un motif repérable, pouvant indiquer que le chatbot a probablement été impliqué dans la rédaction. Selon l’entreprise, une édition légère déclenche moins souvent ce marquage, car il y a alors très peu, voire rien, auquel le watermark puisse s’attacher. Cette approche nourrit une inquiétude récurrente : le marquage pourrait être interprété comme une paternité de Claude même en cas de simple relecture. Milos Rusic estime que ces systèmes peuvent fournir des éléments de preuve, tout en appelant à ne pas les transformer en jugements automatisés de paternité ou de faute. Le déploiement intervient alors que de nombreuses entreprises encouragent l’usage de l’IA et que certains redoutent des remises en cause de l’attribution des travaux.

Ce que prévoit l’article 50(2) et l’interprétation jugée « large »

La réglementation européenne ne requiert pas d’apposer un marquage lorsque l’IA intervient dans le cadre d’une édition classique ou n’entraîne pas de modification significative du texte ou de son sens initial. Milos Rusic estime cependant qu’Anthropic adopte une interprétation plus étendue, en indiquant une origine jusque dans la formulation, même si le système n’a pas conçu l’idée ou le document. Caroline De Cock estime que le droit visait un « scalpel » contre deepfakes et génération de masse, là où l’option retenue par Anthropic agirait en « marteau-pilon » jusque sur la relecture et la traduction. Anthropic affirme de son côté introduire ce marquage pour se conformer à la loi européenne et le déploie mondialement, faute de pouvoir en restreindre l’application par région, tout en indiquant continuer à évaluer différentes approches. Pour De Cock, cette orientation cadre avec l’identité de marque d’Anthropic axée sur la sécurité et pourrait réduire son risque réglementaire en déplaçant le filtrage et l’interprétation des étiquettes vers les utilisateurs et les plateformes en aval.

Calendrier de déploiement et premières frictions chez les utilisateurs

Les nouveaux modèles de Claude intégreront le watermark et les anciens doivent l’adopter d’ici décembre. Conçu pour résister à certaines modifications, le dispositif a déjà suscité des réactions négatives : des utilisateurs ont exprimé leur mécontentement, certains affirmant avoir annulé leur abonnement, tandis que des développeurs tiers ont publié des outils visant à retirer ces marquages.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires