Pour les contenus liés aux élections, ChatGPT ne livre plus d’images photoréalistes mais des rendus illustrés. Cette restriction vise à compliquer la fabrication de deepfakes politiques, alors que les vérifications techniques restent imparfaites et que d’autres plateformes avancent des protections moins détaillées.
Garde-fous encore incertains et limites des vérifications
Les outils de vérification ou d’étiquetage du contenu généré par l’IA existent, mais ils ne sont ni largement adoptés ni totalement fiables. Google, pour Gemini, renvoie à une politique électorale qui annonce des protections supplémentaires pour limiter la création d’images trompeuses liées aux élections, sans préciser comment ces mesures sont appliquées. Il n’existe pas de garantie qu’OpenAI maintiendra sa restriction après la fin du cycle électoral. Ces initiatives montrent toutefois qu’OpenAI affirme prendre en compte, au moins en partie, la protection de l’intégrité des élections américaines.
Chez OpenAI, les requêtes sensibles basculent en style cartoon
OpenAI a mis en place une mesure pour empêcher la création de deepfakes politiques en imposant, pour certaines requêtes, la génération d’images en style illustré. Depuis une mise à jour du 20 octobre, les demandes d’images représentant une ingérence électorale ou susceptibles de décourager le vote ne produisent plus de visuels photoréalistes, ces requêtes étant ignorées. Des tests ont généré des scènes en style cartoon, comme des agents de l’Immigration and Customs Enforcement devant un bureau de vote, et il n’a pas été possible d’obtenir une image de style photojournalistique d’une machine à voter enregistrant un mauvais choix, un mythe électoral fréquent. Josh Lawson, responsable des élections chez OpenAI, explique que le problème des deepfakes réside dans la tromperie, et que l’objectif est de réduire la valeur probante des images tout en préservant la possibilité d’illustration et de commentaire social, ainsi que d’ajouter une couche de friction pour limiter les usages malveillants. La transformation des images en style cartoon vise ainsi à rendre plus difficile la création de deepfakes politiques réalistes.
L’IA et sa régulation vous intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Des modèles d’images plus fiables compliquent l’identification visuelle
Les modèles d’images récents, comme ChatGPT Images 2.5, commettent moins d’erreurs et d’hallucinations, ce qui rend les contenus générés plus difficiles à distinguer d’images authentiques. Cette évolution intervient alors que la période électorale exige des informations fiables, avec les élections de mi-mandat prévues le 3 novembre. Une image photoréaliste montrant de fausses scènes dans des lieux de vote pourrait provoquer de l’anxiété chez certains électeurs, ce qui alimente les inquiétudes autour de la tromperie par deepfakes.
Anthropic mise sur des politiques d’usage plutôt que sur la génération
Anthropic ne propose pas de générateur d’images ou de vidéos traditionnel. L’entreprise précise que toute tentative d’utiliser Claude pour tromper des électeurs ou perturber une élection enfreint ses politiques, et a publié des conseils généraux sur les élections plus tôt ce mois-ci. Claude a également refusé de créer une image photoréaliste contenant un contenu potentiellement sensible lié aux élections.
