Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Comprendre la provenance des contenus IA avec OpenAI et Google
Dans le contexte actuel où les outils d'intelligence artificielle, tels que ceux développés par OpenAI, sont utilisés quotidiennement pour créer et modifier des images et des fichiers audio, la question de l'origine de ces contenus devient cruciale. Les Content Credentials et SynthID sont des technologies qui permettent de comprendre d'où provient un contenu généré par l'IA. Ces outils offrent un contexte essentiel sur la création et la modification des médias, renforçant ainsi la confiance des utilisateurs. Les signaux de provenance fournissent des informations détaillées sur l'origine du contenu, comment il a été créé ou modifié, et s'il correspond à ce qu'il prétend être.
OpenAI a récemment annoncé des avancées significatives dans ce domaine, en mettant en place un modèle de provenance à plusieurs niveaux. Ce modèle vise à établir une confiance en ligne plus robuste en facilitant la reconnaissance des signaux de provenance par d'autres outils et plateformes. Grâce à la conformité avec la norme C2PA, OpenAI ajoute un filigrane SynthID durable aux images, en partenariat avec Google, et propose un aperçu d'un outil de vérification publique pour les utilisateurs. Ces mises à jour s'appuient sur les travaux antérieurs d'OpenAI pour soutenir les normes ouvertes et faciliter l'identification du contenu généré par ses outils.
La conformité C2PA : un pilier pour l'écosystème de confiance
Depuis 2024, OpenAI s'engage activement dans le développement et l'adoption de normes de provenance. L'entreprise a commencé par intégrer des Content Credentials aux images générées par DALL·E 3, puis par ImageGen et Sora. En rejoignant le Comité de Pilotage de la Coalition for Content Provenance and Authenticity (C2PA), OpenAI participe à l'élaboration d'une norme technique ouverte pour la provenance du contenu. La norme C2PA utilise des métadonnées et des signatures cryptographiques pour garantir que les informations sur un média voyagent en toute sécurité avec le contenu lui-même. Ces informations sont cruciales pour les journalistes, les plateformes et les utilisateurs, car elles fournissent un contexte sur la source et l'intégrité du contenu en ligne.
Nous avons récemment franchi une étape importante en rendant OpenAI conforme à C2PA. Cette conformité permet aux plateformes de lire, préserver et transmettre les informations de provenance attachées au contenu généré par OpenAI. Cela est essentiel car la provenance ne fonctionne efficacement que si elle survit au-delà de la première plateforme où le contenu est créé. La conformité C2PA assure cette continuité, permettant aux informations de provenance de rester intactes et accessibles.
L'approche multi-niveaux avec SynthID de Google
Les métadonnées C2PA sont essentielles pour la provenance, mais elles ne sont pas infaillibles. Elles peuvent être supprimées ou altérées lors de transformations comme les changements de format de fichier ou les captures d'écran. Pour renforcer la résilience de la provenance, OpenAI adopte une approche à plusieurs niveaux en intégrant le filigrane SynthID de Google DeepMind. Ce filigrane invisible est appliqué aux images générées par ChatGPT, Codex, ou l'API OpenAI. SynthID complète les métadonnées C2PA en offrant une couche supplémentaire de protection qui résiste mieux aux transformations.
Nous avons travaillé vers cette intégration depuis un certain temps, en utilisant des filigranes visibles dans Sora et un filigrane audio dans Voice Engine. Les deux systèmes se complètent : C2PA fournit un contexte détaillé, tandis que SynthID assure la durabilité du signal de provenance. Ensemble, ils rendent la provenance plus robuste que chaque méthode prise isolément. Le filigrane SynthID est particulièrement résistant aux transformations telles que les captures d'écran, tandis que les métadonnées C2PA peuvent offrir des informations plus détaillées qu'un filigrane seul.
Un outil de vérification publique pour détecter les contenus IA
Pour que les signaux de provenance soient utiles, il est essentiel que les utilisateurs puissent les détecter. OpenAI propose un aperçu d'un outil de vérification publique qui permettra aux utilisateurs de vérifier si une image a été générée par ses outils, en détectant la présence de Content Credentials et de SynthID. Cet outil vise à simplifier la vérification et l'interprétation de la provenance, en intégrant plusieurs signaux pour répondre à la question : "Ce contenu a-t-il été généré par l'IA ?".
Cet outil s'appuie sur les enseignements tirés de la première prévisualisation de recherche de notre classificateur de détection d'images en 2024. Bien que la détection ne soit pas infaillible, OpenAI adopte une approche prudente, évitant de tirer des conclusions définitives en cas d'absence de signaux. Si aucune métadonnée ou filigrane n'est détecté, l'outil ne conclura pas automatiquement que l'image n'a pas été générée par OpenAI. Initialement limité aux contenus générés par OpenAI, l'outil pourrait à terme s'étendre à d'autres plateformes et types de contenu.
Vers un avenir de provenance interopérable
Aucune technique de provenance ne peut suffire à elle seule. OpenAI mise sur une combinaison de normes partagées, de filigranes durables et de vérification publique pour bâtir un écosystème de provenance plus interopérable. En renforçant les Content Credentials, en adoptant la conformité C2PA, en intégrant SynthID, et en développant des outils de vérification publique, OpenAI espère contribuer à long terme à un environnement numérique où la provenance des contenus est plus fiable et transparente. Cette approche vise à créer un écosystème d'information où les utilisateurs peuvent avoir confiance dans l'origine et l'intégrité des contenus qu'ils rencontrent en ligne.
