Hugging Face critiqué pour des deepfakes non consensuels
Le brief IA que les pros lisent chaque soir
Les 7 actus IA du jour, décryptées en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Hugging Face et la controverse des deepfakes
Hugging Face, une plateforme renommée pour l'hébergement de modèles d'intelligence artificielle open-source, est au cœur d'une polémique concernant l'utilisation non consensuelle de ses modèles pour créer des deepfakes. Un rapport récent de l'organisation européenne AI Forensics met en lumière cette problématique.
Selon ce rapport, sept des neuf principaux modèles de retouche d'images disponibles sur Hugging Face sont capables de générer des images de femmes dénudées à partir de simples instructions textuelles. Malgré la gravité de la situation, Hugging Face fait très peu pour empêcher cette utilisation abusive de ses modèles.
Comparaison avec d'autres géants de l'IA
Contrairement à Hugging Face, d'autres acteurs majeurs de l'IA, tels que Google avec son modèle Gemini et OpenAI avec ChatGPT, ont intégré des mesures de sécurité pour empêcher la création de contenus inappropriés ou sexualisés. Ces précautions semblent faire défaut sur les modèles hébergés par Hugging Face, selon les tests effectués par AI Forensics.
Brief IA — L'actualité IA en français
L'essentiel de l'actualité de l'intelligence artificielle, décrypté et expliqué chaque jour.