Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI renforce la traçabilité des images générées par IA
OpenAI a récemment dévoilé une avancée majeure dans la traçabilité des images créées par intelligence artificielle, en introduisant ce qu'ils appellent des signaux de provenance du contenu. Ces signaux servent à étiqueter les images générées par leurs outils comme étant issues de l'IA, renforçant ainsi la sécurité et la transparence dans l'identification de ces contenus. Bien que l'idée d'identifier les images IA ne soit pas nouvelle, OpenAI a mis en œuvre des technologies améliorées pour rendre ce processus plus fiable.
La steganographie : une technique ancienne au service de l'innovation
La steganographie est une méthode ancienne qui consiste à dissimuler des informations cryptographiques de manière subtile, de sorte que le message ne soit pas immédiatement visible. Un exemple célèbre de cette technique remonte à 440 av. J.-C., lorsque Histiæus a utilisé un tatouage sur la tête d'un messager pour transmettre un message secret, qui devenait invisible une fois les cheveux repoussés. Cette méthode a également été employée pendant la Seconde Guerre mondiale, illustrant son efficacité et sa discrétion.
Intégration des métadonnées et outils de vérification
Depuis 2024, OpenAI a commencé à intégrer des métadonnées dans les images produites par ses outils tels que DALL-E 3, ImageGen et Sora. Ces métadonnées sont examinables grâce à des outils comme Content Credentials. Cependant, un défi persiste : les métadonnées peuvent être perdues lors de la capture d'écran des images. OpenAI, en collaboration avec Google, travaille activement à résoudre ce problème pour garantir la persistance des informations d'origine.
Adhésion aux normes C2PA
OpenAI a récemment décidé de se conformer aux normes C2PA, ce qui signifie que ses produits respectent des spécifications standardisées pour les métadonnées de contenu. Cette conformité assure que les informations d'origine sont sécurisées et utiles, et toutes les images générées par OpenAI incluent désormais ces signaux de provenance, renforçant ainsi la confiance dans leur authenticité.
Marques d'eau numériques invisibles avec SynthID
Une autre avancée significative est l'intégration de la technologie SynthID de Google DeepMind. Cette technologie permet d'incorporer des marques d'eau numériques invisibles directement dans les images. Ces marques, intégrées au niveau des pixels, restent détectables même après des modifications telles que le redimensionnement ou le recadrage, garantissant ainsi une traçabilité continue des images.
Un outil de vérification accessible au public
En parallèle, OpenAI a lancé un outil de vérification public qui permet de déterminer si une image a été générée par ses outils d'IA. Cet outil est disponible sur le site d'OpenAI, offrant ainsi aux utilisateurs un moyen simple et efficace de vérifier l'origine des images. Il sera intéressant d'observer comment cet outil sera utilisé en pratique et son impact sur la perception des images IA.
Vers une approche intégrée de la provenance
OpenAI insiste sur le fait qu'aucune technique de provenance unique ne peut suffire à elle seule. Une approche robuste nécessite une combinaison de normes partagées, de signaux de watermarking durables et d'une vérification publique. Ces efforts visent à créer un écosystème de provenance plus interopérable et fiable à long terme, renforçant ainsi la confiance des utilisateurs dans les contenus générés par intelligence artificielle.
