Google facilite la création de deepfakes de soi-même

Google facilite la création de deepfakes de soi-même

YouTube Shorts déploie une nouvelle fonctionnalité alimentée par l'IA qui permet aux créateurs de se cloner de manière réaliste devant la caméra. Ce lancement, évoqué plus tôt cette année, reflète la relation compliquée de la plateforme avec le contenu généré par IA, ajoutant davantage de fonctionnalités génératives tout en luttant contre les abus liés aux deepfakes, aux escroqueries et aux impersonations.

YouTube affirme que ce nouvel outil permettra aux utilisateurs de créer une version numérique d'eux-mêmes, appelée avatar, qui peut être insérée dans des vidéos Shorts existantes ou utilisée pour en générer de complètement nouvelles. La société a déclaré que les avatars « auront l'apparence et la voix de l'utilisateur », les présentant comme une manière plus sûre et sécurisée d'utiliser l'IA pour créer du nouveau contenu.

Créer un avatar est un peu plus complexe que de simplement appuyer sur un bouton, mais cela semble assez simple. Dans un article de blog décrivant le processus, YouTube indique que les utilisateurs doivent d'abord enregistrer un « selfie en direct » capturant leur visage et leur voix tout en suivant une série d'instructions. Pour de meilleurs résultats, la société recommande un bon éclairage, un endroit calme, un arrière-plan sans autres personnes ou images de visages, et de tenir le téléphone à hauteur des yeux.

Une fois les avatars créés, les utilisateurs peuvent sélectionner « faire une vidéo avec mon avatar » lors de la création d'une vidéo pour générer un clip à partir de prompts, qui peuvent durer jusqu'à huit secondes, selon 9to5google. Les utilisateurs peuvent également ajouter leur avatar à des « Shorts éligibles » dans leur fil, bien que YouTube n'ait pas précisé ce qui rend un Short éligible.

La fonctionnalité d'avatar IA est soumise à des restrictions assez strictes. Ils ne peuvent être utilisés que dans les vidéos originales du créateur, qui contrôle également si ses Shorts peuvent être remixés. Le créateur peut supprimer son avatar ou les vidéos dans lesquelles il apparaît à tout moment, selon YouTube. Les avatars qui ne sont pas utilisés pour créer de nouveau contenu pendant trois ans seront automatiquement supprimés.

Tous les vidéos d'avatar seront également clairement signalées comme étant générées par IA, selon YouTube. Cela inclut un filigrane visible et des étiquettes numériques comme SynthID et C2PA, ce dernier étant un marqueur d'authentification largement soutenu mais dont l'utilité est discutable pour identifier le contenu généré par IA.

Tout le monde ne pourra pas utiliser la fonctionnalité immédiatement. YouTube indique que l'outil « sera déployé progressivement », sans donner de calendrier ou d'indication sur les premiers lieux de disponibilité. Les créateurs doivent également avoir au moins 18 ans et posséder une chaîne YouTube existante, selon la société.

La fonctionnalité d'avatar s'ajoute à la suite croissante d'outils IA de YouTube pour les créateurs, y compris des clips vidéo générés par IA sur Shorts, le doublage automatique par IA, et un chatbot d'analyse de chaîne. Beaucoup d'entre eux sont alimentés par les modèles IA Gemini de Google, qui permettent déjà aux utilisateurs de transformer des photos en vidéos, de créer de la musique et de générer des images réalistes à partir de zéro.

Son arrivée coïncide avec le retrait de l'un des principaux concurrents de Google en matière d'IA, OpenAI, qui se retire de la génération vidéo. La startup a annoncé qu'elle mettait fin à son outil vidéo Sora le mois dernier après une année à lutter pour faire décoller cette plateforme sociale. Ce projet s'est avéré coûteux et a été confronté à une série de défis liés aux droits d'auteur, aux controverses sur les deepfakes et à des contenus de mauvaise qualité, ce qui en a fait un pari peu attrayant pour les investisseurs avant une IPO attendue cette année.