Meta : le suivi des employés par l'IA fait débat

Meta ajuste son programme controversé MCI

Meta a récemment ajusté son initiative MCI (Model Capability Initiative) suite à des critiques internes. Ces ajustements incluent un renforcement des protections de la vie privée et la possibilité pour certains employés de demander une exemption. Une nouvelle fonctionnalité permet également de suspendre le suivi de l'activité pendant 30 minutes. Ces changements ont été motivés par des préoccupations exprimées par les employés concernant l'impact du logiciel sur l'autonomie des batteries et la présence potentielle de données personnelles sur les appareils professionnels. Les employés ont également réclamé un meilleur contrôle sur les informations collectées à l'écran.

Retour sur le lancement du programme MCI

En avril dernier, Meta a lancé le programme MCI, une initiative visant à transformer ses employés en sujets d'étude pour entraîner son IA. Le programme, connu sous le nom de Model Capability Initiative, a pour objectif d'observer comment les utilisateurs interagissent avec leurs ordinateurs, en surveillant les mouvements de souris, les clics et la navigation dans les menus. L'objectif est de développer des agents d'IA capables d'exécuter de manière autonome des tâches informatiques du quotidien. Selon les informations communiquées aux salariés, MCI surveille plus de 200 applications et sites web.

Meta avait initialement assuré que le dispositif était réservé aux employés basés aux États-Unis et qu'il intégrait des mécanismes pour protéger les données sensibles. Cependant, tout ne s'est pas déroulé comme prévu, et certains salariés ont manifesté leur opposition à ces pratiques.

Les problèmes rencontrés par les employés

Quelques semaines après le déploiement de MCI, des employés ont commencé à signaler des problèmes. Selon des publications internes consultées par Reuters, certains affirment que l'outil génère un important volume de données, provoquant des pics de consommation Internet à domicile. Ces pics sont si importants qu'ils peuvent épuiser un forfait mensuel en seulement quelques jours. Meta a également reconnu que le système pouvait enregistrer le contenu des e-mails et des messages directs envoyés à des employés américains, même lorsque les expéditeurs se trouvent dans d'autres pays.

Interrogé par Reuters, Dave Arnold, porte-parole de Meta, a précisé que MCI n'était installé que sur les appareils des salariés américains. Il a assuré que l'objectif principal du programme est d'analyser les interactions avec les ordinateurs et non le contenu affiché à l'écran. Selon lui, les employés situés hors des États-Unis sont informés de ces pratiques.

Révélations supplémentaires et inquiétudes

Dans une publication interne, un employé a partagé les résultats d'une analyse des journaux techniques de MCI. Cette étude suggère que l'outil aurait accès à de nombreuses informations supplémentaires grâce à son intégration avec les logiciels de sécurité déjà présents sur les appareils de l'entreprise. L'analyse affirme notamment que le système pourrait enregistrer les modifications de code, les cycles de mise en veille des ordinateurs, les adresses web consultées et les contenus copiés et collés dans le presse-papiers. Certaines de ces données auraient même été stockées sous une forme moins sécurisée que prévu.

L'auteur du message estimait qu'un tel niveau de collecte permettrait de reconstituer avec précision les méthodes de travail d'un employé. Selon lui, l'objectif ne serait pas simplement de créer une IA effectuant des clics à la place d'un utilisateur, mais de développer un système suffisamment avancé pour comprendre chaque étape d'un processus de travail et l'exécuter de manière autonome. Le message a ensuite disparu des espaces de discussion internes, selon les employés interrogés par Reuters. Meta conteste ces affirmations, et Dave Arnold a qualifié l'analyse de « fondamentalement inexacte », refusant toutefois de commenter en détail les éléments avancés ou les circonstances de la disparition du message.