Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Opposition unanime au mode adulte de ChatGPT
Le conseil consultatif en bien-être d'OpenAI a exprimé une opposition unanime à l'égard du mode adulte envisagé pour ChatGPT. Certains membres ont qualifié ce projet de "coach suicidaire sexy", en référence à des cas où des utilisateurs se sont suicidés après avoir développé des liens émotionnels intenses avec le bot. Cette inquiétude souligne les risques potentiels d'une dépendance émotionnelle malsaine que pourrait engendrer l'érotisme généré par l'IA.
Lors d'une réunion en janvier, le conseil a été informé des plans de l'entreprise concernant ce mode adulte. Les membres ont exprimé des préoccupations quant à la capacité des mineurs à contourner les protections mises en place. Ils ont mis en garde contre les conséquences potentielles de telles interactions, soulignant que les mineurs pourraient inévitablement accéder à ce contenu malgré les mesures de sécurité.
Défaillances du système de détection d'âge
Un problème majeur identifié par le conseil est le système de détection d'âge d'OpenAI, qui a mal classé des mineurs en tant qu'adultes dans environ 12 % des cas. Avec environ 100 millions d'utilisateurs mineurs chaque semaine, cette erreur pourrait exposer des millions d'adolescents à des contenus inappropriés. En interne, des employés ont également signalé des risques supplémentaires, tels que des schémas d'utilisation compulsifs et une tendance vers un contenu de plus en plus extrême.
L'entreprise s'efforce de permettre l'érotisme tout en bloquant les scénarios impliquant des comportements non consensuels ou des contenus d'abus sexuels sur mineurs. Au lancement, seules les discussions textuelles seraient autorisées, tandis que les images érotiques, la voix et la vidéo resteraient interdites.
Annonce inattendue et report du lancement
En octobre, le PDG d'OpenAI, Sam Altman, a annoncé le mode érotique sur X sans en informer préalablement ses employés. Cette annonce a provoqué de la frustration en interne, d'autant plus que le conseil consultatif en bien-être venait d'être introduit. Altman a justifié cette décision en affirmant : "Nous ne sommes pas la police morale élue du monde." Il a également suggéré que le contenu érotique pourrait stimuler la croissance et les revenus de l'entreprise.
Début mars, OpenAI a reporté le lancement, initialement prévu pour le premier trimestre, de manière indéfinie. L'entreprise a déclaré vouloir se concentrer d'abord sur d'autres produits, ajoutant que des préoccupations internes et des défis techniques avaient également joué un rôle dans cette décision. Malgré ce report, OpenAI a confirmé que le mode adulte reste un projet d'avenir.
