Meta suspend Muse après recours à des humains cachés

Meta a mis en pause la nouvelle fonction d’appels sortants de Muse, son agent IA, après la reconnaissance interne qu’elle avait démarré des tests sans divulguer l’intervention de contractants humains. Des employés avaient alerté sur un risque de fuite de données en cas de bug. L’épisode survient alors que des agents concurrents apprennent eux aussi à téléphoner.

La bêta mise en pause et un aveu d’erreur chez Meta

La fonctionnalité d’appels sortants de Muse a été temporairement suspendue. Un vice-président des Superintelligence Labs de Meta a reconnu qu’il était erroné de lancer des tests sans divulgations adéquates sur l’implication de contractants humains, et la mise en pause a suivi cette reconnaissance. Meta n’a pas apporté de réponse immédiate aux demandes de commentaires. L’entreprise avait déjà, en 2019, mis fin à un programme où des contractants écoutaient et transcrivaient des appels sur Messenger.

Ce que faisait réellement Muse lors des appels

À la mi-septembre, Meta a lancé en bêta une fonctionnalité de Muse pour passer des appels sortants à des entreprises afin d’effectuer des réservations et des rendez-vous. Le 16 septembre, Ryan Fox, ingénieur principal aux Superintelligence Labs, a annoncé cette sortie sur X, en précisant que l’appel téléphonique était l’une des principales demandes des utilisateurs. Des rapports indiquent toutefois que l’agent, présenté comme autonome, pouvait déléguer l’exécution à des concierges humains formés dans des centres d’appels non divulgués, sans information préalable aux utilisateurs. En interne, cette couche humaine était assumée et certains appels étaient qualifiés d’« appels d’agent humain Muse » pour marquer l’ajout d’un intermédiaire humain.

Avertissements internes et risques de vie privée

Des employés ont prévenu qu’un tel dispositif pouvait susciter une perception négative de l’IA de l’entreprise. L’un d’eux a alerté qu’« un bug » pourrait suffire à divulguer des informations inutiles aux personnes prenant les appels côté humain, et des bugs existent. Les informations échangées lors de ces démarches peuvent inclure un numéro de téléphone, un identifiant patient ou des données bancaires. Par ailleurs, Muse est aussi intégré aux lunettes de l’entreprise, ce qui élargit les contextes possibles de collecte et de traitement d’informations personnelles.

Des agents au téléphone, une tendance qui s’accélère

Cette semaine, Google a ajouté à son agent Gemini la capacité de gérer des appels de la vie courante. Dans cette mise en œuvre, la partie transactionnelle, comme la saisie d’une carte bancaire, revient à l’utilisateur. Par ailleurs, l’appui d’équipes humaines en coulisses n’est pas limité aux appels : en février, il a été révélé que Waymo recourait à des opérateurs à distance pour compléter des opérations de conduite autonome à l’étranger.