YouTube, Instagram et TikTok : l'échec des filtres anti-IA

Les utilisateurs des réseaux sociaux tels que YouTube, Instagram et TikTok sont de plus en plus confrontés à du contenu généré par l'intelligence artificielle (IA). Bien que ces plateformes aient mis en place des systèmes d'étiquetage pour identifier ce type de contenu, elles n'offrent pas de solutions efficaces pour ceux qui souhaitent l'éviter complètement.

Il est presque impossible d'éviter de tomber sur du contenu généré par l'IA en ligne. YouTube, Instagram, TikTok et d'autres plateformes ont intensifié leurs efforts d'authentification du contenu au cours de l'année dernière, en appliquant automatiquement des étiquettes pour distinguer les images, vidéos et musiques générées par l'IA de celles créées par de véritables humains.

Actuellement, les efforts d'étiquetage sur ces plateformes n'ont pas modifié de manière significative la présentation du contenu en ligne. Par exemple, Meta a introduit des étiquettes "info IA" sur Facebook et Instagram, mais cela ne permet pas aux utilisateurs de filtrer activement ce contenu. Les tentatives de filtrage sur DeviantArt et Pinterest montrent également des limites, car ces options sont souvent cachées et peu performantes. DeviantArt propose un filtre IA, mais il est difficilement accessible et peu efficace. Pinterest offre un système similaire, mais les filtres sont difficiles à trouver et n'éliminent pas complètement le contenu IA.

Les systèmes d'étiquetage IA, tels que C2PA et SynthID, intègrent des métadonnées ou des filigranes invisibles pour authentifier le contenu. Cependant, ces méthodes ne sont pas infaillibles, notamment face aux modèles d'IA open-source qui peuvent contourner ces mesures. De plus, les initiatives d'étiquetage peuvent parfois signaler à tort du contenu authentique, comme l'ont expérimenté Meta et YouTube. Les plateformes craignent de signaler incorrectement du contenu authentique, ce qui a déjà été un problème pour Meta et YouTube.

Des entreprises comme OpenAI promeuvent ces solutions comme un moyen de lutter contre les deepfakes et autres tromperies numériques. Toutefois, si les régulateurs prenaient conscience de leur inefficacité, les plateformes pourraient être forcées de développer des solutions plus robustes.

Enfin, une alternative pourrait être de vérifier les créateurs humains, comme le propose Instagram pour ses utilisateurs. Cela permettrait de réduire l'exposition à du contenu de mauvaise qualité provenant de sources non vérifiées. Cependant, les plateformes, qui profitent de la production de contenu IA, pourraient être réticentes à encourager de tels filtres. Les plateformes soutiennent qu'elles risquent de signaler incorrectement du contenu authentique si elles poussent trop loin les initiatives d'étiquetage, ce qui est une préoccupation majeure.

Les systèmes basés sur la provenance comme C2PA et SynthID fonctionnent en intégrant des métadonnées ou des filigranes invisibles dans le contenu au moment de sa création. Mais il existe de nombreux modèles d'IA open-source qui ne font pas cela (surtout s'ils sont conçus à des fins malveillantes), et même dans ce cas, les métadonnées peuvent être supprimées trop facilement pour que cela soit fiable. Il existe également des méthodes basées sur la détection qui analysent les motifs dans le contenu numérique et évaluent ensuite la probabilité que l'IA ait été utilisée pour le créer, mais celles-ci peuvent donner des faux positifs. Rien de tout cela ne fonctionne actuellement efficacement à grande échelle.

Néanmoins, des entreprises, y compris des fournisseurs d'IA comme OpenAI, vantent actuellement ces solutions d'étiquetage IA comme quelque chose qui aidera à empêcher les gens d'être dupés par des deepfakes et d'autres tromperies. Si les régulateurs prenaient conscience de leur inefficacité, les plateformes en ligne et les fournisseurs d'IA pourraient avoir besoin de trouver une solution qui fonctionne réellement, au lieu de ce qui ressemble actuellement à un écran de fumée.

Les plateformes soutiendront qu'elles risquent de signaler incorrectement du contenu authentique si elles poussent trop loin les initiatives d'étiquetage. Meta et YouTube l'ont appris à leurs dépens après avoir appliqué des étiquettes IA à des images et vidéos que les créateurs ont affirmé avoir produites sans l'aide de tels outils. Si c'est une telle préoccupation pour les systèmes d'étiquetage actuels, alors trouvez une meilleure solution. Améliorer l'expérience utilisateur pour vos millions d'utilisateurs est sûrement un investissement valable pour repousser la concurrence ?

Et pendant que je demande, pourquoi ne puis-je pas signaler tout le contenu généré par l'IA non étiqueté que je vois chaque jour ? Étant donné l'ampleur du problème — avec une étude de Kapwing l'année dernière révélant que plus de 20 % des vidéos YouTube montrées aux nouveaux utilisateurs sont de la mauvaise qualité générée — j'imagine qu'un grand nombre de modérateurs humains seraient nécessaires pour examiner efficacement chaque rapport.

Et peut-être que c'est là le problème. À une époque où les grandes entreprises technologiques remplacent des travailleurs par des IA qui peuvent prétendument les surpasser, peuvent-elles se permettre de revenir sur leur récit soigneusement construit en les réembauchant pour résoudre les problèmes de l'IA ? Les humains ont tendance à avoir des exigences ennuyeuses comme des salaires et des avantages, comparés aux systèmes de modération automatisés qui manquent de compétences d'investigation nuancées.

Une alternative à l'étiquetage du contenu généré par l'IA serait de commencer à étiqueter les créateurs humains vérifiés. Cela n'identifierait pas nécessairement le contenu synthétique publié par ces créateurs, mais cela pourrait nous aider à voir moins de contenu provenant de fermes de contenu non vérifiées qui produisent de la mauvaise qualité. C'est l'avenir que Mosseri d'Instagram a proposé pour la plateforme de partage d'images de Meta et quelque chose que Spotify fait déjà avec des artistes vérifiés.

Bien sûr, Meta, Spotify et Google ne se contentent pas d'héberger des images, des publicités et de la musique générées par l'IA ; ils sont également responsables de la création des outils qui les produisent. C'est pourquoi ils insistent sur le fait que tout le contenu généré par l'IA n'est pas de la mauvaise qualité et que c'est plus une question de qualité — s'il devient suffisamment convaincant, ils espèrent que vous ne remarquerez pas et continuerez à profiter de ce contenu. Permettre aux utilisateurs de le filtrer irait à l'encontre de tous les efforts que ces plateformes ont déployés pour tirer profit de l'IA : elles veulent que vous embrassiez cette usine à contenu de mauvaise qualité.

Je serais ravi de me tromper. Je supplie en fait les plateformes en ligne de prouver que les efforts d'étiquetage IA n'ont pas été une perte de temps. Mais pour l'instant, elles détiennent toutes les cartes et nous espérons simplement que leurs efforts de modération IA sont à la hauteur. Alors, donnez-nous un filtre basique "pas d'IA" ou "créateur humain vérifié" et nous jugerons de l'efficacité de tout cela.