Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI et Google s'unissent pour une meilleure traçabilité des images IA
Face à la prolifération des images générées par intelligence artificielle (IA) et à leur sophistication croissante, OpenAI a annoncé des mesures pour améliorer la vérification de ces contenus. Mardi, l'entreprise a dévoilé deux initiatives majeures pour répondre à ce défi.
OpenAI a décidé d'adopter le standard ouvert C2PA (Coalition for Content Provenance and Authenticity), qui permet d'ajouter un signal dans les métadonnées d'une image, indiquant clairement qu'elle a été générée par IA. Fondée en 2021, la C2PA est une organisation à but non lucratif dédiée à atténuer les effets néfastes des images générées par IA sur le discours public. Ce standard est déjà utilisé par plusieurs produits de Google, mais son adoption reste inégale dans l'industrie.
Collaboration avec Google pour un filigrane invisible
En parallèle, OpenAI s'associe à Google pour intégrer un filigrane invisible nommé SynthID. Ce filigrane est conçu pour être difficile à détecter et à effacer, même si des acteurs malveillants tentent de le supprimer par des manipulations numériques comme les captures d'écran ou le redimensionnement.
Ces nouvelles protections concernent uniquement les images créées par les produits d'OpenAI. Bien qu'elles n'affectent pas les images issues d'autres outils IA, elles garantissent qu'OpenAI ne contribue pas à la désinformation.
Un outil de vérification pour le public
OpenAI a également introduit un outil de vérification public. Cet outil permettra aux utilisateurs de tester si une image a été générée par IA en vérifiant les signaux C2PA et SynthID. Initialement, cet outil sera limité aux images produites par OpenAI, mais l'entreprise envisage de l'étendre à d'autres outils à l'avenir.
Une approche complémentaire pour une meilleure résilience
La combinaison des métadonnées C2PA et du filigrane SynthID vise à renforcer la résilience de la provenance des images. OpenAI souligne que "le filigranage peut être plus durable à travers des transformations comme les captures d'écran, tandis que les métadonnées peuvent fournir plus d'informations qu'un filigrane seul". Ensemble, ces systèmes offrent une protection accrue contre les manipulations malveillantes.
