Meta : des faux ados pour tester les chatbots IA concurrents

Meta et les faux ados : une stratégie controversée pour tester les chatbots IA

Une enquête approfondie menée par WIRED a mis en lumière les pratiques de Meta, qui aurait orchestré une opération complexe en utilisant des sous-traitants pour simuler des adolescents. Cette opération impliquait la création de comptes fictifs, l'utilisation de questions sensibles et un benchmarking discret des chatbots concurrents.

Dans le monde de l'intelligence artificielle, il est courant que les grandes entreprises comparent leurs modèles pour évaluer leurs performances. Cependant, la méthode employée par Meta, telle que décrite par WIRED, pourrait bien susciter des controverses. Selon le média américain, Meta aurait recruté des centaines de sous-traitants pour créer de faux profils d'adolescents. Leur mission secrète consistait à pousser les chatbots concurrents à commettre des erreurs, en utilisant tous les moyens nécessaires.

Pourquoi Meta aurait envoyé de faux ados défier ChatGPT et les autres IA ?

L'enquête de WIRED révèle que cette opération portait le nom de code Cannes et était dirigée par le sous-traitant Covalen pour le compte de Meta. Les participants devaient créer des comptes fictifs représentant des mineurs et engager des conversations avec divers chatbots concurrents. Chaque réponse obtenue devait être soigneusement consignée dans des tableaux de suivi. Les sujets abordés lors de ces échanges n'étaient pas anodins.

Les documents examinés par WIRED mentionnent des milliers de requêtes portant sur des thèmes comme le suicide, l'automutilation, les troubles alimentaires, la drogue et la sexualité. Certaines requêtes étaient accompagnées d'images explicites, telles que des couteaux, des médicaments ou des cordes. D'autres scénarios mettaient en scène des adolescents confrontés à des situations de détresse extrême.

Une campagne de tests menée en août 2025 aurait généré plus de 45 000 requêtes adressées à divers chatbots. Les documents internes indiquent que les questions posées n'étaient pas choisies au hasard.

Les sous-traitants recevaient des instructions précises visant à provoquer des réponses que les systèmes de sécurité des chatbots étaient censés bloquer. L'objectif semblait être de tester la capacité des modèles à résister aux tentatives de contournement de leurs protections.

Les entreprises concernées n'auraient pas été informées de cette campagne. Ces tests semblent enfreindre les règles de ChatGPT, Gemini et Character.AI, qui interdisent de telles pratiques.

Une méthode qui pose question

Suite aux révélations concernant les faux ados, Meta ne nie pas l'existence de ces évaluations. L'entreprise affirme qu'il s'agit d'une pratique courante dans l'industrie. Selon un porte-parole de Meta, tester les réponses des chatbots permet de s'assurer qu'ils offrent des expériences adaptées à tous les publics. Meta précise également que les résultats obtenus n'ont pas été utilisés pour entraîner ses propres modèles d'intelligence artificielle.

Cette explication ne convainc pas tout le monde. Rumman Chowdhury, spécialiste de la gouvernance de l'IA, exprime des réserves. Selon elle, l'utilisation massive de comptes se faisant passer pour des mineurs, sans avertir les entreprises concernées, dépasse le cadre d'un simple test de sécurité.

Des anciens sous-traitants interrogés par WIRED ont également exprimé leur malaise face à certaines directives. Plusieurs d'entre eux craignaient que certains scénarios impliquant des mineurs ne franchissent une ligne éthique sensible.

Les entreprises visées ont également réagi à ces révélations. Character.AI a dénoncé une violation de ses conditions d'utilisation, affirmant n'avoir jamais autorisé cette campagne de tests. De son côté, OpenAI a adopté une position plus mesurée, indiquant simplement qu'elle examine les faits révélés par WIRED.