Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI et la traçabilité des images IA
Les images générées par l'intelligence artificielle se multiplient dans notre quotidien, que ce soit sur les réseaux sociaux, dans les médias ou les publicités. Cette prolifération soulève des questions sur l'authenticité des images, souvent difficiles à distinguer entre réelles, retouchées ou entièrement créées par une IA.
Pour répondre à ce défi, OpenAI introduit la technologie SynthID. Cette innovation sera progressivement intégrée aux images produites via ChatGPT, Codex et l'API OpenAI.
L'alliance de SynthID et C2PA
Depuis 2024, OpenAI a commencé à ajouter des "Content Credentials" aux images générées par ses outils comme DALL·E 3, ImageGen et Sora. Parallèlement, l'entreprise a rejoint la Coalition for Content Provenance and Authenticity (C2PA), un consortium international qui développe un cadre technique pour tracer l'origine des contenus numériques.
Le système C2PA utilise des métadonnées et des signatures cryptographiques pour attacher des informations vérifiables à un contenu, telles que son origine ou les modifications qu'il a subies. Ce mécanisme est destiné à aider les journalistes, plateformes et utilisateurs à mieux comprendre les contenus qu'ils consultent.
OpenAI a récemment rendu ses contenus conformes au standard C2PA, facilitant ainsi la lecture et la conservation des informations de provenance par les plateformes. L'enjeu est de taille, car ces données doivent rester accessibles même après plusieurs transferts ou modifications du fichier.
SynthID : un tatouage numérique invisible
OpenAI reconnaît cependant que les métadonnées ne suffisent pas toujours, car une simple capture d'écran peut les effacer. C'est là qu'intervient SynthID, une technologie de tatouage numérique développée par Google DeepMind. Ce système ajoute un marquage invisible directement dans l'image, détectable par un outil spécialisé même après certaines modifications.
SynthID et les métadonnées C2PA forment une double protection : les métadonnées offrent un contexte détaillé, tandis que SynthID agit comme une trace secrète capable de survivre à certaines transformations.
Un outil public de vérification
Pour faciliter la détection de ces technologies, OpenAI propose un outil public de vérification. Les utilisateurs pourront téléverser une image pour vérifier si elle provient des modèles de l'entreprise. L'outil analysera les Content Credentials et le tatouage numérique SynthID.
Si des traces sont détectées, le système indiquera probablement que l'image a été générée avec ChatGPT, Codex ou l'API OpenAI. Cependant, OpenAI admet qu'aucune méthode de détection n'est infaillible. L'absence de signal ne signifie pas nécessairement que l'image n'a pas été créée par une IA.
Actuellement, cet outil se limite aux contenus générés par OpenAI, mais l'entreprise envisage de collaborer avec d'autres acteurs pour développer un système de vérification applicable à plusieurs plateformes et types de contenus.
