Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI et le Code de Pratique de l'UE
OpenAI a récemment exprimé son soutien au Code de Pratique de l'Union Européenne sur la Transparence des Contenus Générés par l'IA. Ce code, publié par la Commission Européenne, représente une étape cruciale dans la mise en œuvre de la Loi sur l'IA de l'UE. L'objectif est de construire un écosystème numérique plus transparent, où les utilisateurs peuvent mieux comprendre le contexte des contenus qu'ils rencontrent en ligne. OpenAI souligne que cet engagement s'appuie sur des années de recherche interne et de développement de produits axés sur la provenance des contenus.
Historique de l'engagement d'OpenAI
Depuis 2024, OpenAI a intégré des métadonnées C2PA dans son outil de génération d'images DALL-E 3. Cette initiative marque le début d'un effort continu pour renforcer la provenance des contenus générés par l'IA. OpenAI a développé et adopté des normes de provenance, en ajoutant des métadonnées spécifiques à ses créations. Cette démarche a été soutenue par une coopération active avec l'écosystème élargi, incluant des centaines de parties prenantes, pour garantir un écosystème d'IA digne de confiance.
Importance de la provenance des contenus
La provenance des contenus générés par l'IA est essentielle pour que les utilisateurs puissent interpréter ces contenus avec confiance. Les signaux de provenance fournissent des informations sur l'origine et la création des contenus, aidant ainsi à détecter les campagnes de désinformation et à soutenir l'intégrité électorale. Pour être efficaces, ces méthodes doivent être développées collectivement et fonctionner de manière interopérable à travers l'écosystème numérique. OpenAI collabore avec des coalitions comme C2PA, qui regroupent des organisations de presse, des fabricants d'appareils, des plateformes en ligne et des fournisseurs d'IA, pour faire avancer des normes interopérables.
Défis techniques et solutions
Les métadonnées C2PA constituent une base importante pour la provenance, permettant aux contenus de porter des informations sur leur origine, leur création ou modification, et l'identité de ceux qui ont signé ces informations. Cependant, les métadonnées ne sont pas infaillibles. Elles peuvent être supprimées, perdues lors des téléchargements et des uploads, ou altérées par des transformations telles que des changements de format de fichier, des redimensionnements ou des captures d'écran. Pour rendre la provenance plus résiliente, OpenAI adopte une approche multi-niveaux qui combine différents signaux, des garanties produits et une collaboration à travers l'écosystème élargi.
Approche multi-niveaux d'OpenAI
OpenAI a mis en place plusieurs mesures pour renforcer la provenance des contenus. Les images générées avec ChatGPT, Codex et l'API OpenAI incluent à la fois des métadonnées C2PA et des filigranes SynthID. Les métadonnées peuvent porter des informations plus riches, tandis que le marquage peut aider à préserver un signal à travers différents contextes. Un outil de vérification publique est également disponible sur openai.com/verify, permettant aux utilisateurs de vérifier la provenance des images générées par OpenAI.
Contribution aux normes ouvertes
En 2024, OpenAI a rejoint le Comité de Direction de C2PA, un effort intersectoriel impliquant des entreprises de logiciels, des fabricants d'appareils photo, des organisations médiatiques et des plateformes en ligne. Cette participation vise à développer des normes interopérables qui complètent les politiques, classificateurs, canaux de signalement et processus d'application qui réduisent les utilisations trompeuses de contenus générés par l'IA, y compris l'utilisation abusive de ressemblances et la désinformation liée aux élections.
Vers une transparence accrue
Bien que la provenance soit utile, elle reste un domaine naissant. Les signaux peuvent être perdus lorsque le contenu circule en ligne : les métadonnées peuvent être supprimées, les filigranes peuvent se dégrader, et les étiquettes ne sont utiles que lorsque les utilisateurs rencontrent le contenu. Faire progresser la fiabilité, la robustesse et l'interopérabilité des techniques de provenance nécessite encore un travail et une coopération significatifs au sein de l'écosystème. Le Code de Pratique fixe la bonne direction : un niveau d'ambition élevé pour faire avancer les techniques de provenance. Lors de sa mise en œuvre, il doit rester ancré dans des méthodes qui fonctionnent en pratique et être suffisamment flexible pour refléter les limitations des techniques actuelles.
OpenAI continuera à renforcer la transparence du contenu à travers ses produits, à contribuer au développement de normes interopérables et à améliorer les outils de vérification. L'entreprise est impatiente de collaborer avec le Bureau de l'IA, les États membres et la communauté IA élargie pour construire un écosystème d'IA plus sûr et plus transparent.
