L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Meta dévoile Muse Image pour Instagram
Meta a récemment introduit un nouveau modèle d'intelligence artificielle, spécifiquement conçu pour la création et l'édition d'images. Ce modèle, nommé Muse Image, est désormais accessible sur Instagram, permettant aux utilisateurs de générer des contenus visuels innovants. Cependant, cette nouveauté s'accompagne de préoccupations concernant la vie privée, surtout pour ceux qui possèdent des comptes publics. Il est fortement conseillé de revoir vos paramètres de confidentialité pour éviter que votre image ne soit utilisée sans votre consentement dans des créations IA.
Le modèle Muse Image est le premier modèle créatif de la nouvelle famille de modèles Muse Spark, développée par les laboratoires de superintelligence de Meta. Selon un article de blog de la société, ce modèle est capable de traiter des requêtes complexes, de créer des compositions photographiques et de modifier des images existantes. Actuellement, il est disponible sur l'application Meta AI, Instagram et WhatsApp, avec des plans d'extension à Facebook, Messenger et pour les annonceurs.
Le PDG de Meta, Mark Zuckerberg, a révélé ce modèle sur son compte Instagram, illustrant certains des 30 nouveaux effets d'édition IA disponibles pour les Stories Instagram. Parmi ces effets, on trouve des images de clones de Zuckerberg, une vue panoramique à 360 degrés avec le responsable IA Alexandr Wang, et un mode portrait d'exposition avec Andrew Bosworth, le directeur technique de Meta.
Les dangers potentiels de l'IA
L'initiative de Meta n'est pas une première dans le domaine de l'IA créative. D'autres entreprises, comme OpenAI, ont déjà tenté d'encourager l'utilisation de l'IA pour intégrer des utilisateurs dans des environnements générés numériquement. OpenAI, avec son application vidéo Sora lancée en 2024, a été critiquée pour avoir facilité la création de deepfakes. Le modèle de Meta présente des risques similaires.
Outre l'augmentation probable de contenus de qualité discutable sur Instagram, il est crucial de souligner que les images téléchargées sur l'application Meta AI servent à améliorer les services de Meta. Un point clé à noter pour ceux qui ont un compte Instagram public : si vous avez plus de 18 ans, n'importe quel utilisateur de Meta AI peut vous "taguer" dans des créations IA, générant ainsi des images hyperréalistes de vous, autrement dit, des deepfakes.
Se prémunir contre les deepfakes
Pour évaluer la facilité de création de deepfakes, j'ai testé le nouveau modèle. Mon collègue de CNET, Abrar Al-Heeti, possède un compte Instagram public, et j'ai pu créer une image IA d'elle en pirate en moins d'une minute en utilisant son nom d'utilisateur Instagram. En revanche, lorsque j'ai tenté de faire de même pour moi-même, avec mon compte Instagram privé, Meta AI n'a pas pu traiter la demande.
Bien que la création de cette image IA n'ait pas requis l'autorisation de ma collègue Abrar Al-Heeti, j'ai obtenu son consentement avant de l'inclure dans cet article.
Meta a confirmé à CNET que les utilisateurs avec un compte Instagram public peuvent empêcher la création de contenu IA avec leur image en activant un paramètre spécifique. Pour cela, il faut aller dans Paramètres Instagram > Partage et réutilisation > et désactiver "Autoriser les gens à réutiliser votre contenu sur Instagram et avec les fonctionnalités IA de Meta." Ce paramètre peut être ajusté pour les publications et les reels. Les comptes privés, quant à eux, ne permettent pas automatiquement l'accès à leur contenu pour le remixage ou la création.
Il est également possible de réduire le risque d'être victime de deepfakes lors de votre première demande d'image sur l'application Meta AI. L'application vous guide à travers plusieurs étapes pour faciliter votre reconnaissance, incluant la prise d'une photo de votre visage et, en option, le téléchargement de trois photos de vous-même. Vous pouvez choisir qui peut utiliser votre image, que ce soit uniquement vous-même, vos abonnés approuvés, vos amis communs ou tout le monde. Ces paramètres sont modifiables dans l'application sous Paramètres > Votre ressemblance.
Ces mesures de contrôle sont particulièrement cruciales pour les créateurs professionnels et les influenceurs, dont l'image et le nom représentent leur marque et leur source de revenus. Meta assure que ses modèles sont dotés de protections intégrées pour empêcher la création de contenu illégal, abusif ou diffamatoire. Cependant, comme l'a montré l'expérience avec Sora, des individus malveillants peuvent contourner ces protections. Il reste à voir si les mesures de Meta seront suffisamment robustes pour relever ce défi.
