Meta modifie Meta AI après une alerte sur la collecte de données familiales

Après une vidéo virale d'une mère, Meta affirme avoir corrigé une fonction de Meta AI qui proposait des questions pouvant agréger des informations personnelles, y compris sur des enfants. L'entreprise maintient toutefois des suggestions fondées sur des contenus accessibles. Le désaccord persiste sur l'accès à une photo prétendument supprimée, dans un contexte de forte pression sur la protection des mineurs.

Meta agit sous forte pression liée aux enfants et à la vie privée

Meta a été confrontée cette année à des règlements et décisions judiciaires de plusieurs milliards de dollars concernant l'impact de ses technologies sur les enfants, notamment en matière d'addiction et de vulnérabilité à l'exploitation. Par ailleurs, ses lunettes connectées font l'objet de critiques, en particulier pour la reconnaissance faciale en développement. En parallèle, Meta commence à déployer ses agents Muse AI, destinés à proposer des expériences d'IA plus personnalisées via des assistants personnels.

Ce que Meta a changé et ce que l’IA continue de faire

Meta indique avoir corrigé un problème qui permettait à Meta AI de suggérer des questions personnelles inappropriées sur les publications des utilisateurs. L'entreprise reconnaît que la fonctionnalité n'a pas fonctionné comme prévu et précise que l'outil est conçu pour aider les utilisateurs à obtenir des informations à partir de données auxquelles ils ont déjà accès. Malgré la suppression des prompts jugés intrusifs, Meta AI peut toujours proposer des suggestions fondées sur des informations accessibles, comme des textes publics, des images du web ou des publications antérieures. Meta présente cette correction comme une réponse à la polémique déclenchée par une vidéo virale.

La vidéo du 2 septembre et les prompts intrusifs signalés

Le 2 septembre, la blogueuse Kalie Robins, connue sous le nom de kontheinside, a publié une vidéo sur Instagram dans laquelle elle évoquait une ancienne publication où elle chantait en voiture avec sa fille à l'arrière. Elle affirme que Meta AI a suggéré des questions telles que « Qui est le passager enfant ? » et « Où vit Kalie Robins ? ». Selon Robins, en cliquant sur ces questions automatiques, l'IA a extrait des informations de ses anciennes publications pour reconstituer des détails privés, y compris sa localisation, et a utilisé d'autres profils, comme celui de sa mère. Elle rapporte également que l'IA a accédé à des données provenant d'une photo qu'elle dit avoir supprimée des années auparavant. Robins a exprimé sa surprise face à la capacité de l'IA à assembler rapidement des informations sur ses enfants mineurs à partir de fragments de vie partagés en ligne. Sa vidéo est devenue virale, recueillant des milliers de commentaires et plus de 308 000 likes.

Déni de Meta sur la photo et questions laissées ouvertes

Meta réfute avoir eu accès à une photo effacée depuis plusieurs années, précisant que l’image des enfants de Kalie Robins avait été supprimée juste avant la mise en ligne de la vidéo et qu’un dysfonctionnement temporaire l’a rendue accessible pendant un court laps de temps. Dans un message publié le 10 septembre, Robins a exprimé sa satisfaction que le problème ait été reconnu, tout en réclamant des éclaircissements sur les corrections apportées, sur la faille initiale de protection et sur les mesures désormais appliquées lorsque Meta AI traite des données relatives à un enfant. Elle souligne que la préoccupation dépasse le cas de la photo évoquée et indique ne pas avoir été contactée directement ni avoir reçu d'excuses de la part de Meta.

Réactions en chaîne chez des parents et alertes d’une créatrice

La médiatisation de l'affaire, notamment sur Futurism, a conduit certains parents à recommander de ne plus publier de photos d'enfants en ligne. Cathy Pedrayes, créatrice spécialisée dans les sujets liés aux arnaques et aux tendances du dark web, a réagi en qualifiant la situation d'inquiétante.