Meta suspend la fonction Instagram de deepfakes IA

Meta suspend la fonction Instagram de deepfakes IA

Suite à un important retour négatif, Meta a décidé de désactiver la fonctionnalité annoncée cette semaine, qui permettait aux utilisateurs de générer des images IA basées sur le contenu de comptes Instagram publics simplement en les mentionnant. Cette fonctionnalité, telle qu'elle était initialement conçue, permettait d'utiliser le contenu de n'importe quel compte Instagram public sans le consentement de son propriétaire.

“Plus tôt cette semaine, nous avons annoncé qu'une des manières pour les gens de générer des images dans Meta AI était de mentionner des comptes Instagram publics qu'ils souhaitaient référencer,” a déclaré Meta dans une mise à jour d'un article de blog sur son nouveau modèle Muse Image AI. “Notre intention était de fournir un outil créatif utile et de donner aux gens le contrôle sur la possibilité que leur contenu public soit référencé de cette manière. Nous avons entendu les retours indiquant que cette fonctionnalité n'était pas à la hauteur, elle n'est donc plus disponible.”

Bien que Meta ait permis aux utilisateurs de se désinscrire en fouillant dans les paramètres avant de désactiver complètement la fonctionnalité, celle-ci a tout de même suscité de vives critiques.

“Non seulement cela érode manifestement nos droits sur notre propre image… mais c'est aussi un outil évident pour la sextorsion et d'autres escroqueries !” a déclaré Haley McNamara, directrice exécutive et responsable de la stratégie du National Center on Sexual Exploitation, plus tôt vendredi. “Poursuivre un design à haut risque et ensuite mettre la pression sur les individus pour qu'ils sautent à travers des cerceaux pour se désinscrire est inacceptable.”

Le Screen Actors Guild a recommandé à ses membres de se désinscrire de la fonctionnalité et a fourni des instructions sur la manière de le faire.