Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI introduit un marquage statistique dans les textes générés par ses modèles, destiné à en attester l’origine. La société vise la conformité avec la loi européenne sur la transparence, mais reconnaît des angles morts sur les textes courts et les contenus modifiés.
Textes courts et retouches font baisser la détection, et l’option ne sera pas activée par défaut
D’après OpenAI, il est plus complexe d’identifier les textes comportant moins de 200 mots. Modifier un texte peut aussi affecter le filigrane : selon la société, pour un texte de 400 mots, changer 10 % du contenu réduit le taux de détection de 99 % à 66 %. Pour l’instant, seuls les développeurs ont accès à cette fonctionnalité. Lors de son déploiement auprès des utilisateurs, elle ne sera pas activée par défaut.
Un signal statistique invisible inséré dans le choix des mots
Le filigrane prend la forme d'un signal invisible intégré dans le choix et l'ordre des mots d'un texte. OpenAI décrit sa technologie, textGrain, comme l'ajout d'un signal statistique invisible aux choix de mots du modèle. Un détecteur recherche ce signal pour déterminer si un passage contient un tatouage numérique OpenAI. Ce filigrane concerne les textes générés par ChatGPT et Codex.
Déploiement en Europe, transparence exigée et usages visés
OpenAI relie cette initiative à la nouvelle loi européenne sur la transparence, qui impose de marquer tout contenu généré par IA. Le marquage, déjà appliqué aux images et vidéos, va désormais concerner le texte, avec un déploiement prévu auprès des utilisateurs de ChatGPT dans l'Union européenne. L'objectif est d'améliorer la transparence sur l'utilisation des générateurs de texte par IA. Le sujet s'étend au-delà de la technique : l'écrivain Thélysson Orélien a été accusé d'avoir utilisé l'IA pour son roman, sur la base d'un outil de détection, alors que ces systèmes ne sont pas infaillibles et que le débat reste ouvert. Les cas d'usage cités incluent les candidatures reçues par les employeurs et les devoirs remis aux enseignants, la capacité à identifier l'origine d'un texte étant présentée comme un enjeu croissant.
