Meta corrige son assistant IA après des questions jugées intrusives

Après un cas d'interrogations intrusives visant une mère et ses enfants, Meta prévoit d'ajuster les suggestions de son assistant IA. La porte-parole Dina El-Kassaby affirme que l'anomalie a été corrigée et décrit une fonctionnalité censée s'appuyer sur des informations déjà accessibles à l'utilisateur. L'assistant, déployé dans les principales applications du groupe, avait déjà conduit Meta à retirer une autre fonction sensible en juillet.

Meta dit avoir corrigé l’anomalie et rappelle l’étendue de son IA

Dina El-Kassaby indique que le problème qui poussait l’IA de Meta à suggérer des sujets personnels a été corrigé. Elle explique que la fonctionnalité a été conçue pour aider les utilisateurs à obtenir plus d’informations sur des sujets ou des publications qui les intéressent et que, lorsqu’une suggestion est utilisée, la réponse générée s’appuie sur des informations auxquelles l’utilisateur a déjà accès. Dans le cas évoqué, l’IA aurait pu se baser sur des vidéos où les enfants étaient nommés. L’assistant IA de Meta est intégré à Facebook, Instagram, WhatsApp et Messenger, avec des capacités de réponse à des questions, de rédaction de publications et de génération d’images. En juillet, Meta a par ailleurs retiré une fonction permettant de créer des deepfakes d’autres utilisateurs d’Instagram après une vive réaction.

L’incident déclencheur décrit par l’utilisatrice

La semaine dernière, l’utilisatrice Instagram Kalie Robins a relaté l’apparition d’une suggestion intrusive après le partage d’un clip sur Facebook. Sous une vidéo où elle chante en voiture avec son enfant, l’IA a affiché « Qui est l’enfant passager ? ». Après avoir cliqué, elle affirme que l’IA a agrégé des informations sur ses filles à partir de ses anciennes publications et de celles de ses proches. Elle rapporte également des propositions de questions sur l’âge de ses enfants et sur le lieu où vit sa famille. Selon elle, l’IA a même affiché des photos de ses filles publiées auparavant sur la plateforme, dont une qu’elle dit avoir supprimée des années plus tôt. L’existence de la vidéo relatant ces éléments a été rapportée par Futurism.

Meta annonce des ajustements et admet une erreur

Meta prévoit de modifier les suggestions proposées par son chatbot IA à la suite de cet épisode. Sa porte-parole Dina El-Kassaby reconnaît que l’entreprise a « raté le coche » et estime que la fonctionnalité n’aurait jamais dû poser ce type de questions à l’individu.