Anthropic va ajouter des marqueurs invisibles à Claude

Anthropic prévoit d’intégrer des marqueurs invisibles dans les textes produits par Claude afin de se conformer à de nouvelles règles européennes, avec une détection via un outil dédié. Sur le terrain, un professeur d’histoire au Mississippi décrit une autre voie: une consigne cachée dans un devoir, qui a fait apparaître le mot « Madagascar » dans des copies générées par IA et a rendu sa démonstration virale.

Anthropic annonce des signaux invisibles pour ses textes en Europe

Anthropic annonce qu’il va commencer à insérer des signaux invisibles dans les textes produits par son intelligence artificielle afin de respecter les nouvelles réglementations européennes. Selon l’entreprise, ces marqueurs associés à un détecteur permettront d’identifier si un contenu provient ou a été modifié par Claude.

Une consigne masquée déclenche un mot-clé dans les réponses d’IA

Sur TikTok, un enseignant décrit une méthode consistant à glisser, dans l’énoncé d’un devoir, une instruction invisible en police blanche sur fond blanc. Dans un exercice sur la révolution industrielle, la consigne demandait d’insérer le mot « Madagascar » de façon dénuée de sens. Elle n’apparaît pas à l’écran des étudiants, sauf sélection, mais est lue par un chatbot si l’énoncé complet est copié-collé. La présence du terme « Madagascar » dans des copies a alors servi d’indice pour repérer des réponses générées par l’IA.

Viralité sur TikTok et échecs à l’examen rapportés par l’enseignant

La vidéo publiée par Jason Gibson, professeur d’histoire à l’université d’État d’Alcorn, dans le Mississippi, a été visionnée plus de 2 millions de fois sur TikTok. Dans ce même témoignage, il déclare que trente-deux de ses trente-cinq étudiants, répartis sur deux classes, n’ont pas réussi une partie de leur examen de mi-session, tous ayant, d’après lui, eu recours à l’IA pour rédiger la totalité de leur réponse.