Meta met en pause MCI après fronde interne et fuite de données

Meta a suspendu MCI, un programme visant à capter frappes et écrans d’employés pour entraîner ses systèmes, après une fuite interne et une contestation organisée. Des dirigeants assurent que les données étaient utiles et sous contrôle, tandis que des salariés évoquent des risques sensibles et revendiquent une victoire. Deux mois après, le programme reste à l’arrêt et ne reviendrait que sur base volontaire, selon l’entreprise.

Programme désactivé après visibilité interne des données et critiques publiques

Après une fuite interne durant l’été, Meta a suspendu le programme MCI et indiqué qu’il n’était pas annulé mais désactivé, avec la perspective d’un fonctionnement optionnel. Deux mois plus tard, l’entreprise a confirmé que le programme restait en pause. Meta a refusé de commenter la manière dont, et si, les données avaient été utilisées, tandis qu’un responsable a affirmé en juillet que ces données n’avaient pas servi à entraîner les modèles les plus récents. Lors d’une assemblée le même mois, Andrew Bosworth a de son côté déclaré que les données s’étaient révélées plus utiles qu’escompté. Dans un enregistrement divulgué, il a répété trois fois que les opposants au MCI avaient rendu l’entreprise pire et a soutenu que la pétition avait compliqué les évolutions internes.

Pétition, mèmes et droits du travail: une mobilisation structurée chez Meta

La contestation a pris la forme d’une pétition signée par plus de 1 800 salariés, de mèmes anti‑IA relayés en interne et d’actions sur les campus, avec distribution de tracts mentionnant les protections du National Labor Relations Act. Le lien de la pétition a même été affiché sur un bâtiment du site de Burlingame. En juin, Meta a concédé une fenêtre de 30 minutes permettant de se soustraire temporairement au suivi, mesure jugée « insuffisante et insatisfaisante » par les activistes, qui ont exigé l’abandon complet et définitif du programme. Les opposants estiment que leur action a conduit Meta à envisager un retour éventuel du dispositif uniquement sur une base volontaire et qualifient le résultat de produit de « courageux actes de résistance ».

Découverte interne fin juin: des données du MCI visibles à l’échelle de l’entreprise

Fin juin, un ingénieur a constaté que des informations collectées par MCI, y compris des conversations privées complètes, étaient accessibles à l’ensemble de l’entreprise. Des employés ont exprimé de l’indignation et rappelé les précédentes assurances données sur la sécurité concernant les données MCI. Des commentaires d’employés ont tourné en dérision la situation, évoquant l’« hubris » à l’adresse de l’assistant IA interne et critiquant la compétence de l’entreprise.

Craintes des employés: données sensibles et notation remplacée par l’IA

Certains organisateurs ont signalé des préoccupations concernant la possible collecte d’informations confidentielles, comme des mots de passe, des formulaires d’immigration ou des numéros de carte bancaire, à partir des terminaux professionnels. D’autres exprimaient la crainte que ces captures ne soient utilisées pour remplacer l’évaluation des salariés par des outils d’IA, un danger qualifié de « réveil brutal ». L’icône s’affichant lors de l’enregistrement des écrans a été ironiquement baptisée « l’Œil de Sauron » par des salariés.

Genèse et objectifs du MCI: un dispositif né chez TBD et annoncé en avril

Le MCI est né au sein de TBD, une unité d’environ 100 chercheurs, réputée très autonome au sein du campus de Menlo Park. Un matin d’avril, l’initiative a été présentée à toute la main‑d’œuvre: l’annonce soulignait que les modèles peinaient encore sur des usages élémentaires des ordinateurs, comme la sélection dans des menus et les raccourcis. La réaction a été immédiate, avec de nombreux emojis en colère, après que le directeur technique Andrew Bosworth a écarté toute possibilité de désinscription. Le commentaire le plus apprécié disait « Cela me rend très mal à l’aise ». Bosworth a défendu la confidentialité du dispositif, répondant à un ingénieur en cybersécurité qui interrogeait la sécurisation des données et critiquait une approche de sécurité tardive, en assurant que les données étaient « strictement contrôlées ». Le MCI avait pour but de capter frappes et mouvements de souris pour aider les systèmes à reproduire des usages humains et devait s’appliquer de manière obligatoire.

Chaîne de décision et mouvements de personnes autour du projet

Selon trois personnes interrogées, Rylan Schaeffer figurait parmi les responsables du MCI et rapportait à Alexandr Wang et Jack Rae, décrits comme au sommet des efforts d’IA de Meta. D’après son profil LinkedIn, Schaeffer a quitté l’entreprise en juillet pour un nouveau projet. Au printemps précédent, des membres de TBD avaient cherché un avantage compétitif en s’appuyant sur les données de dizaines de milliers d’employés, une orientation qui a déclenché une opposition interne matérialisée par mèmes, tracts et pétition.

Au‑delà de Meta: prudence accrue des entreprises face aux données de travail

Des précédents extérieurs illustrent les résistances à la marchandisation de données de travail, comme l’action d’anciens personnels navigants de Spirit Airlines qui ont temporairement bloqué une vente de base de données à Google pour 10 millions de dollars. William Fitzgerald, de The Worker Agency, anticipe que la réaction chez Meta incitera d’autres entreprises à hésiter avant d’imposer la cession de données pour l’entraînement, parlant d’« victoire historique » et d’une tentative de collecte voulue par Mark Zuckerberg qui n’a pas abouti. Meta a indiqué que tout éventuel retour de MCI serait volontaire et a confirmé, deux mois après la suspension, que le programme restait en pause, se refusant à tout autre commentaire.