Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Meta teste secrètement ChatGPT et Gemini avec des prompts sensibles
Meta a apparemment testé des chatbots concurrents comme ChatGPT, Gemini et Character.AI avec des prompts concernant le suicide, le sexe et les drogues du point de vue de mineurs.
Des centaines de sous-traitants ont prétendu être des mineurs et ont envoyé des prompts sensibles à ChatGPT, Gemini et Character.AI, selon WIRED. Le projet, appelé en interne "Cannes", était géré par le sous-traitant de Meta, Covalen, et est resté actif jusqu'à au moins avril 2026.
Les sous-traitants ont créé de faux comptes avec des dates de naissance inférieures à 18 ans, ont envoyé des prompts sur l'automutilation, les troubles alimentaires et les drogues aux chatbots, puis ont copié les réponses dans des feuilles de calcul. Lors d'un seul tour de test en août 2025, plus de 45 000 prompts ont été envoyés, a rapporté WIRED. Beaucoup étaient rédigés du point de vue d'enfants en crise.
Meta a défendu cette pratique comme un test de sécurité responsable et conforme aux normes de l'industrie. L'entreprise a également déclaré qu'elle n'avait pas utilisé les réponses collectées des chatbots pour entraîner ses propres modèles d'IA. Les documents examinés par WIRED ne montrent pas ce que Meta a réellement fait avec les données qu'elle a recueillies.
Les entreprises testées n'étaient pas au courant. Character.AI a déclaré à WIRED que les tests violaient ses conditions de service. OpenAI examine la question. Un porte-parole de Google a déclaré que l'entreprise n'avait pas approuvé les tests et ne pouvait pas déterminer à partir des informations disponibles s'ils enfreignaient ses conditions.
Les préoccupations concernant les adolescents et les chatbots IA continuent de croître
Meta a déjà été critiquée lorsqu'un document interne a révélé que ses directives pour les chatbots IA avaient permis la génération de conversations romantiques et sexualisées avec des mineurs. L'entreprise a ensuite fermé l'accès aux personnages IA pour les adolescents.
Le problème dépasse Meta et a probablement conduit aux tests de prompts de l'entreprise. Un rapport de l'organisation britannique Internet Matters a révélé que 64 % des enfants âgés de 9 à 17 ans avaient déjà utilisé des chatbots IA. La vérification d'âge efficace est presque absente. 58 % des enfants âgés de 9 à 12 ans ont déclaré utiliser des chatbots malgré une exigence d'âge minimum de 13 ans.
Plusieurs décès d'adolescents ont été liés aux chatbots IA. Un utilisateur de Character.AI âgé de 14 ans s'est suicidé après avoir passé des mois à établir un lien émotionnel intense avec un chatbot. Les parents d'un adolescent de 16 ans en Californie ont poursuivi OpenAI, alléguant que ChatGPT avait joué un rôle dans les pensées suicidaires de leur fils. En juillet 2025, Zane Shamblin, âgé de 23 ans, s'est suicidé après que ChatGPT ait apparemment validé ses pensées suicidaires pendant plusieurs heures.
