Anthropic dévoile un filigrane invisible pour textes IA

⚡

Key Takeaways

1Anthropic lance un filigrane invisible pour identifier les textes générés par Claude AI, répondant aux exigences de la loi sur l'IA de l'UE.

2Ce filigrane, intégré dans le texte, ne modifie pas son sens et persiste malgré certains montages, mais peut être effacé par des modifications lourdes.

3L'initiative vise à aider les éditeurs et les institutions à détecter les contenus IA, suite à des controverses dans le monde littéraire.

💡Why it matters — Cette technologie pourrait transformer la manière dont les contenus générés par IA sont vérifiés, impactant l'industrie de l'édition et l'éducation.

Anthropic introduit un filigrane pour les textes IA

Anthropic, une entreprise spécialisée dans l'intelligence artificielle, a récemment dévoilé une nouvelle fonctionnalité visant à améliorer la transparence des contenus générés par ses modèles IA. Cette initiative s'inscrit dans le cadre d'une volonté de conformité avec la législation européenne sur l'intelligence artificielle.

Un filigrane invisible pour Claude AI

La société a annoncé l'intégration de filigranes invisibles dans les textes produits par son modèle Claude AI. Ce dispositif, bien qu'imperceptible à l'œil nu, est conçu pour persister même lorsque le texte est copié ou collé. Cependant, il est important de noter qu'un montage lourd peut effacer ce filigrane, et sa présence ne garantit pas nécessairement que le texte a été généré par une IA.

Cette innovation rendra plus difficile l'utilisation de Claude AI comme nègre littéraire pour des œuvres telles que des romans ou des devoirs scolaires. Le filigrane, bien qu'invisible, accompagne le texte à travers ses différentes transformations, sans altérer sa lisibilité ni son sens.

Conformité avec la législation européenne

Cette mesure s'inscrit dans les engagements d'Anthropic envers la loi sur l'IA de l'Union Européenne. Les modèles Claude, lancés à partir du 2 août, intègrent cette fonctionnalité dès leur mise en service. Anthropic travaille également à l'extension de cette technologie aux versions antérieures de ses modèles. Le marquage s'applique globalement, même lorsque Claude est accessible via des services cloud. Par ailleurs, Anthropic prévoit de fournir des outils aux tiers pour détecter ces filigranes.

Impact sur l'industrie de l'édition

Le filtrage par filigrane pourrait avoir des répercussions significatives sur l'industrie de l'édition, qui est actuellement en proie à des défis posés par les contenus générés par l'IA. Récemment, un agent littéraire a retiré son soutien à un roman à succès, "Call Me, I'll Hide the Body", après des soupçons d'utilisation d'IA par l'auteur, Jerry Falade, qui a nié ces allégations.

De même, Hachette a retiré un roman d'horreur de Mia Ballard, intitulé "Shy Girl", suite à des accusations similaires. Ballard a affirmé qu'un éditeur freelance avait introduit du contenu généré par l'IA sans son accord.

Limites et défis de la technologie

Malgré ses avantages, le filigrane d'Anthropic présente des limites. Un montage lourd, la paraphrase, la traduction ou le mélange avec d'autres textes peuvent rendre le filigrane indétectable. De plus, la présence d'un filigrane ne prouve pas que Claude a initialement rédigé le texte, car même une relecture ou une traduction par l'IA peut laisser une trace.

Anthropic n'est pas la seule entreprise à explorer cette voie. En 2024, Google DeepMind a également annoncé l'utilisation de sa technologie SynthID pour marquer les textes et vidéos générés par son application Gemini, poursuivant ainsi ses efforts pour renforcer la traçabilité des contenus IA.