Fanfiction: The Revolt Against AI Intensifies and Divides

Fanfiction : la révolte contre l'IA s'intensifie et divise

Les communautés de fanfiction tentent de débusquer les auteurs qui n'ont pas écrit leurs œuvres de leurs propres mains.

Au cours de la semaine dernière, un nouveau mouvement au sein des fanworks a émergé, visant à identifier les auteurs utilisant des IA génératives. Cependant, les méthodes de détection mises en œuvre sont discutables, et tout écrivain de fanfic pourrait se retrouver pris dans le feu croisé.

Un malaise généralisé concernant l'utilisation de Claude, ChatGPT et d'autres outils d'IA existe depuis longtemps dans les communautés créatives, y compris dans le monde de la fanfiction. Les lecteurs et écrivains échangent des conseils pour repérer les œuvres supposément générées par l'IA, citant tout, des tirets aux concepts vagues de prose fleurie. Mais le 29 juin, un compte anonyme sur X, @heatedrivalryai, a promis une solution apparemment plus fiable. Il a publié un skin — similaire à une extension — pour le populaire dépôt de fanfics Archive of Our Own (AO3), qui serait censé identifier les artefacts de codage laissés par le bot Claude d'Anthropic.

« Lorsque une réponse générée par Claude est collée directement dans AO3, le texte est enveloppé par un code injecté par Claude ‘font-claude-response-body’ », a déclaré le compte @heatedrivalryai. « Sa présence indique de manière définitive l'utilisation de Claude. » Lorsqu'un utilisateur visite une page (comme une œuvre de fanfic) avec ce code, le fond de la page devient rouge.

Plusieurs publications tests ont été publiées sur AO3 permettant aux utilisateurs de vérifier si cela fonctionne. L'écran est immédiatement devenu rouge lorsque j'ai testé le skin sur ces exemples moi-même, et j'ai publié une courte histoire générée par Claude pour mener ma propre expérience, juste au cas où. L'écran rouge est apparu lorsque j'ai collé directement depuis le chatbot dans l'éditeur et a disparu si je collais un texte (y compris la même histoire générée) qui ne provenait pas directement de Claude.

En ce qui concerne les « signaux d'alerte », il est difficile de les manquer.

Le post du détecteur Claude était accompagné d'exemples de fanfics où les artefacts avaient été repérés, ce que le créateur anonyme a déclaré être destiné à démontrer que le système fonctionne, et non à « créer un environnement de méfiance ou à accuser des utilisateurs particuliers ». Cependant, les communautés de fanfic se sont rapidement mobilisées pour nommer et faire honte publiquement aux écrivains dont les œuvres publiées ont été signalées par l'outil, et son créateur ne considère certainement pas l'IA comme une chose positive. « Le fandom est un espace de connexion et de collaboration unique. Il prospère grâce à l'élément humain et à l'étincelle créative qui le motive et s'en nourrit », ont-ils déclaré. « Si nous permettons à l'IA de corrompre ces espaces à notre insu, que restera-t-il d'eux ? »

Anthropic n'a pas répondu à ma demande pour vérifier si le détecteur Claude créé par des fans fonctionne comme décrit. Cependant, la méthodologie semble solide, et nos propres tests le confirment. Il n'y a aucune raison apparente pour que le code Claude soit présent dans une histoire si le bot n'a pas été utilisé d'une manière ou d'une autre. Mais il y a un risque clair de faux négatifs et de généralisations excessives.

L'enveloppement de code n'est préservé que si le texte est copié directement depuis Claude dans l'éditeur d'AO3, donc il ne détectera rien modifié dans Google Docs ou Microsoft Word puis déplacé vers AO3 — et en tant que personne qui écrit pour vivre, je peux témoigner à quel point il est risqué d'écrire directement dans un CMS. Certains écrivains qui ont été signalés ont déjà mis à jour leurs œuvres pour supprimer les artefacts, et les œuvres futures peuvent facilement échapper à l'outil.

Inversement, le tag ne révèle pas à quel point Claude a été utilisé dans une œuvre donnée. Cet écran écarlate pourrait signifier que l'histoire entière a été entièrement générée par l'IA, ou qu'un auteur a collé quelques phrases écrites par un humain dans Claude pour une vérification orthographique ou une traduction, puis les a remises dans AO3.

Cela n'a pas d'importance pour certains membres du fandom, qui considèrent toute utilisation de l'IA générative comme une trahison inexcusable à la communauté créative au sens large. Beaucoup évoquent des préoccupations concernant l'impact environnemental de la technologie et comment elle est formée en grattant le web ouvert, qui inclut probablement des fanworks téléchargés sur des plateformes comme AO3.

L'applicabilité de cet outil est limitée — AO3 n'est pas la seule plateforme pour publier des fanworks, et Claude n'est qu'un des nombreux modèles d'IA. Au moins une personne affirme avoir écrit un code séparé capable de détecter l'utilisation de « Claude, Deepseek et certains ChatGPT », mais elle n'a pas rendu cette solution publique ni expliqué comment elle fonctionne. J'ai demandé à Google et OpenAI si leurs modèles laissent des artefacts traçables dans la génération de texte qui pourraient être détectés par des moyens similaires, mais ils n'ont pas répondu.

En fait, il serait très surprenant qu'un système universellement fiable existe. Je couvre les problèmes entourant la détection de l'IA depuis quelques années maintenant, et à ma connaissance, il n'existe actuellement pas de solution technologique fiable pour distinguer le texte généré de celui tapé par des mains humaines. Des systèmes comme C2PA Content Credentials et SynthID de Google progressent vers l'identification de l'IA générative dans les images, vidéos et même l'audio, mais ceux-ci reposent sur des filigranes invisibles et des métadonnées qui ne se transfèrent pas pour le texte copié-collé.

Les entreprises d'IA ont tout intérêt à résoudre ce problème en interne. Les premiers modèles ont été formés sur du texte gratté de manière indiscriminée sur Internet, et à mesure que l'écriture humaine est éclipsée par son homologue synthétique, elles pourraient risquer un scénario de « collapse de modèle » qui dégraderait l'exactitude des résultats.

Pour l'instant, cependant, les communautés de fandom s'appuient encore principalement sur des impressions. La plupart des fanfics ne sont pas jugées par un outil comme le skin d'AO3, mais par des « indicateurs » qui pourraient inclure tout, de structures de phrases spécifiques — comme le célèbre « ce n'est pas X, c'est Y » — à l'utilisation excessive de métaphores fleuries. (Au moins, personne dans le fandom, jusqu'à présent, n'a vu des bancs devenir des hommes.) Mais nous devons nous rappeler que l'IA écrit souvent de cette manière parce qu'elle a été formée sur des choses que des personnes réelles ont écrites. Elle essaie de nous reproduire.

La meilleure solution pour distinguer les œuvres d'IA sur AO3 est déjà disponible : le système de tagging robuste du site. Un tag « Créé à l'aide de l'IA générative » existe, et de nombreux auteurs l'incluent pour divulguer l'utilisation d'outils comme Claude. Cela nécessite une transparence honnête, cependant, et il y a peu d'incitation à l'honnêteté compte tenu des réactions négatives. Il convient également de rappeler que la fanfiction est censée être un passe-temps, et non une industrie réglementée.

Avec ces efforts pour empêcher l'IA de détourner l'attention de la créativité humaine authentique, les auteurs qui ne se conforment pas à ce qui est jugé comme une qualité d'écriture acceptable pourraient devenir des victimes innocentes de la chasse aux sorcières en cours. Au moins un écrivain a déjà été pris dans cela parce qu'une autre personne en qui il avait confiance pour éditer sa fic l'a fait en utilisant Claude. Donc, si la prochaine fanfic que vous lisez semble un peu robotique, gardez à l'esprit qu'elle pourrait ne pas être réellement le produit d'un robot.