L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic introduit un filigrane pour les textes IA
Anthropic, une entreprise spécialisée dans l'intelligence artificielle, a récemment dévoilé une nouvelle fonctionnalité visant à améliorer la transparence des contenus générés par ses modèles IA. Cette initiative s'inscrit dans le cadre d'une volonté de conformité avec la législation européenne sur l'intelligence artificielle.
Un filigrane invisible pour Claude AI
La société a annoncé l'intégration de filigranes invisibles dans les textes produits par son modèle Claude AI. Ce dispositif, bien qu'imperceptible à l'œil nu, est conçu pour persister même lorsque le texte est copié ou collé. Cependant, il est important de noter qu'un montage lourd peut effacer ce filigrane, et sa présence ne garantit pas nécessairement que le texte a été généré par une IA.
Cette innovation rendra plus difficile l'utilisation de Claude AI comme nègre littéraire pour des œuvres telles que des romans ou des devoirs scolaires. Le filigrane, bien qu'invisible, accompagne le texte à travers ses différentes transformations, sans altérer sa lisibilité ni son sens.
Conformité avec la législation européenne
Cette mesure s'inscrit dans les engagements d'Anthropic envers la loi sur l'IA de l'Union Européenne. Les modèles Claude, lancés à partir du 2 août, intègrent cette fonctionnalité dès leur mise en service. Anthropic travaille également à l'extension de cette technologie aux versions antérieures de ses modèles. Le marquage s'applique globalement, même lorsque Claude est accessible via des services cloud. Par ailleurs, Anthropic prévoit de fournir des outils aux tiers pour détecter ces filigranes.
Impact sur l'industrie de l'édition
Le filtrage par filigrane pourrait avoir des répercussions significatives sur l'industrie de l'édition, qui est actuellement en proie à des défis posés par les contenus générés par l'IA. Récemment, un agent littéraire a retiré son soutien à un roman à succès, "Call Me, I'll Hide the Body", après des soupçons d'utilisation d'IA par l'auteur, Jerry Falade, qui a nié ces allégations.
De même, Hachette a retiré un roman d'horreur de Mia Ballard, intitulé "Shy Girl", suite à des accusations similaires. Ballard a affirmé qu'un éditeur freelance avait introduit du contenu généré par l'IA sans son accord.
Limites et défis de la technologie
Malgré ses avantages, le filigrane d'Anthropic présente des limites. Un montage lourd, la paraphrase, la traduction ou le mélange avec d'autres textes peuvent rendre le filigrane indétectable. De plus, la présence d'un filigrane ne prouve pas que Claude a initialement rédigé le texte, car même une relecture ou une traduction par l'IA peut laisser une trace.
Anthropic n'est pas la seule entreprise à explorer cette voie. En 2024, Google DeepMind a également annoncé l'utilisation de sa technologie SynthID pour marquer les textes et vidéos générés par son application Gemini, poursuivant ainsi ses efforts pour renforcer la traçabilité des contenus IA.
