Influenceurs IA : la frontière floue entre réel et virtuel

L'émergence des influenceurs IA : une évolution subtile mais marquante

Les premiers influenceurs IA ont fait leur apparition sur les réseaux sociaux avec une identité numérique bien distincte, facilement reconnaissable. Ces entités, telles que Lil Miquela, avec ses caractéristiques distinctives comme sa frange droite et ses taches de rousseur, ou encore Imma avec son bob rose vif, étaient des créations numériques évidentes. Shudu Gram, avec son teint parfait, faisait également partie de ces pionniers. À cette époque, les collaborations avec ces avatars virtuels étaient annoncées en grande pompe, nécessitant des ressources considérables en termes de studios, de financement et de coordination pour produire des contenus de qualité.

Cependant, avec le temps, ces personnages fictifs ont commencé à se fondre de manière plus subtile dans le paysage numérique. Des figures comme Emily Pellegrini et Aitana Lopez ont émergé, se rapprochant de plus en plus de l'apparence et du comportement des utilisateurs réels. Ces avatars partagent des moments de vie qui semblent authentiques, comme des sorties dans des restaurants chics ou des événements prestigieux tels que Coachella ou Wimbledon. Bien qu'ils ne soient pas nécessairement plus accessibles que les influenceurs humains traditionnels, ils brouillent les frontières entre le réel et le virtuel.

Il est important de noter que ces comptes ne sont pas toujours le fruit d'initiatives individuelles. Par exemple, Aitana Lopez est le produit de The Clueless, une agence créative espagnole spécialisée dans la gestion d'influenceurs IA. De son côté, Emily Pellegrini a été créée par un individu se faisant appeler Professor EP, qui a précédemment travaillé avec des créateurs sur OnlyFans et propose désormais des cours pour enseigner la création d'influenceurs IA.

L'omniprésence des contenus générés par IA

La nouveauté des influenceurs IA s'estompe progressivement à mesure que leur nombre augmente. Aujourd'hui, ils font partie d'un flot incessant de contenus générés par IA qui envahissent les réseaux sociaux. Ce contenu inclut des textes générés par des chatbots, des images et vidéos de qualité variable, et même des créations musicales qui ont récemment fait le tour des plateformes.

Ces personnages fictifs sont désormais omniprésents. Ils sont utilisés pour promouvoir des produits de qualité douteuse, tromper des utilisateurs avec de fausses images, diffuser de la désinformation et parfois même des discours haineux. Certains ciblent des niches spécifiques, souvent de nature sexuelle. À côté de cela, de nombreux avatars se contentent de reproduire ce qui est populaire parmi les créateurs humains, en ajoutant simplement leur propre visage numérique.

La difficulté réside dans l'évaluation de l'impact réel de ces créateurs IA. Les plateformes ne publient pas de données sur le nombre d'utilisateurs qui sont en réalité des avatars, et la plupart de ces comptes ne parviennent pas à atteindre une notoriété suffisante pour attirer l'attention des médias. Des bases de données comme Virtual Humans répertorient des centaines d'avatars populaires, mais cela ne représente qu'une fraction des comptes existants, la majorité passant inaperçue.

L'une des raisons pour lesquelles ces comptes échappent à la détection est l'amélioration constante de la technologie utilisée pour les créer. Les images fixes de personnages fictifs peuvent désormais être suffisamment réalistes pour tromper un œil inattentif, surtout dans un flux où les vrais influenceurs utilisent abondamment les filtres et les effets d'édition. Les vidéos et les audios suivent cette tendance, permettant aux personnages virtuels d'avoir des voix et des mouvements crédibles. De plus, les outils nécessaires à leur création sont devenus accessibles au grand public, grâce à des entreprises comme Google et OpenAI, ainsi que des services spécialisés tels que Higgsfield, HeyGen et ElevenLabs. Aujourd'hui, presque n'importe qui peut créer un influenceur IA sans nécessiter de studio ou de gros investissements financiers.

Les défis des plateformes face aux influenceurs IA

Les réseaux sociaux se retrouvent confrontés à un dilemme qu'ils ne semblent pas pressés de résoudre. Après des années de lutte contre les médias générés par IA, la plupart des grandes plateformes ont mis en place des politiques pour encadrer ces contenus synthétiques. Cependant, au-delà de l'obligation d'étiquetage, ces règles se contentent souvent d'intégrer ces contenus dans des catégories existantes comme les arnaques, le spam ou l'usurpation d'identité. Les avatars IA, conçus pour imiter des personnes réelles, ne s'intègrent pas facilement dans ces catégories. Ils ne commettent pas nécessairement d'escroqueries, ne publient pas de contenus graphiques, et ne prétendent pas être quelqu'un d'autre — qui pourraient-ils usurper, après tout ? Et si leurs publications sont clairement identifiées comme générées par IA, il est difficile de déterminer quelles règles elles enfreignent.

Pour l'instant, les plateformes semblent se satisfaire de cette ambiguïté, ni totalement accueillantes ni complètement rejetant les créateurs IA. Elles adoptent une position contradictoire, promouvant l'IA comme un outil créatif tout en essayant de contenir un flot de contenus de mauvaise qualité. YouTube, TikTok, Instagram et d'autres ont développé des règles pour étiqueter les médias synthétiques, en particulier ceux qui sont réalistes, tout en promouvant leurs propres outils IA, y compris certains qui peuvent cloner ou simuler des utilisateurs. Cependant, ces règles se concentrent souvent sur des publications individuelles plutôt que sur les comptes et les personnalités qui les sous-tendent, laissant les influenceurs IA dans une zone grise.

Dans cette incertitude, l'écosystème des influenceurs IA continue de prospérer. Des estimations de marché prévoient que le secteur des influenceurs virtuels pourrait valoir plus de 60 milliards de dollars d'ici 2030, contre environ 12 milliards de dollars actuellement. Leur influence culturelle s'accroît également, avec des prix décernés aux influenceurs IA, des concours de beauté, des agences de talents dédiées, et un marché florissant de créateurs synthétiques vendant des cours et des outils pour aider les gens à créer et gérer leurs propres avatars, souvent avec la promesse de revenus passifs sans visage. Cela rappelle une ruée vers l'or numérique, avec quelques succès visibles et de nombreuses personnes vendant les outils nécessaires à cette quête.

Les perspectives d'avenir pour les influenceurs IA

Un changement semble inévitable. Le contenu de mauvaise qualité généré par IA devient de plus en plus irritant, et il y a une limite à ce qu'une plateforme peut supporter avant de devenir inutilisable, surtout si elle refuse de permettre aux utilisateurs de filtrer ce contenu. Les faux personnages prétendant être réels représentent une version encore plus intime de ce problème. Mais au-delà des étiquettes et de l'application des règles existantes, les plateformes semblent principalement attendre de voir ce qui se passe. Pour elles, l'engagement reste de l'engagement, qu'il provienne d'un créateur fictif ou d'un utilisateur réel. Tant que les créateurs synthétiques respectent les règles en vigueur, il semble y avoir peu d'incitation à sévir.

La durabilité de l'idée d'avoir des avatars IA en ligne est également en question. Si tant d'entre eux sont créés uniquement pour générer des revenus auprès des utilisateurs humains, que se passe-t-il lorsque la demande diminue ? Il n'y a qu'un nombre limité de personnes prêtes à acheter des cours et des outils pour créer leurs propres influenceurs, par exemple. Cela suppose que les réseaux sociaux peuvent survivre à l'afflux d'influenceurs IA. Par définition, cela nécessite une masse critique d'utilisateurs humains pour maintenir l'aspect social. Si cela n'est pas contrôlé, les réseaux risquent de s'effondrer sous le poids de ces faux personnages, alors que les utilisateurs humains seront inévitablement repoussés.

Cela pourrait changer si la colère publique continue de croître. Le retour de bâton contre les deepfakes, l'usurpation d'identité et le spam synthétique pousse déjà les législateurs et les régulateurs à prêter plus d'attention, notamment après des incidents impliquant des deepfakes sexuels non consensuels. La Loi sur l'IA de l'Europe pourrait jouer un rôle majeur, surtout à mesure que ses obligations de transparence pour le contenu généré par IA entrent en vigueur. Les réglementations exigeront que les déployeurs de systèmes d'IA générative divulguent clairement le contenu généré ou manipulé par IA, ce qui pourrait inciter les entreprises à intensifier le signalement du contenu IA ou à faire face à des amendes potentiellement lourdes. Mais même dans ce cas, l'accent reste largement mis sur le contenu, et non sur le fait que le compte qui le publie représente une personne réelle.

Comme pour tant de choses sur les réseaux sociaux, le fardeau retombe sur les utilisateurs. De nombreuses plateformes ont effectivement délégué la tâche de modérer le contenu IA aux utilisateurs, comptant sur eux pour repérer et signaler les profils suspects. Mais l'auto-modération est une réponse pauvre et insoutenable à quelque chose conçu pour échapper à l'attention. Il existe déjà un appétit croissant pour des espaces sans IA. Si les plateformes refusent de tracer des frontières entre le réel et l'irréel elles-mêmes, il est probable que les utilisateurs les traceront à leur place.

Les implications politiques des influenceurs IA

Parmi les influenceurs IA les plus en vue récemment, certains affichent des tendances politiques marquées, ce qui pourrait accélérer la prise de conscience réglementaire. Danny Bones, un faux rappeur nationaliste blanc soutenu par un parti politique d'extrême droite au Royaume-Uni, illustre bien ce phénomène. Comme les influenceurs humains, de nombreux avatars IA sont construits autour d'identités et de communautés spécifiques, telles que la race, le handicap, la politique et la nationalité. Par exemple, la MAGA fantasy girl Jessica Foster s'appuie fortement sur des esthétiques militaires sexualisées et le trumpisme. Tous les avatars ne s'alignent pas forcément avec leurs créateurs : le modèle IA noir Shudu Gram, par exemple, a été créé par un homme blanc. Emily Pellegrini est également le produit d'un homme, Professor EP, qui a confié que le personnage est construit à partir de contenu qu'il a licencié d'un créateur anonyme sur OnlyFans.