OpenAI's own wellbeing advisors warned against erotic mode, called it a "sexy suicide coach"

Les conseillers en bien-être d'OpenAI mettent en garde contre le mode érotique

Le conseil consultatif en bien-être d'OpenAI a exprimé son opposition unanime au mode adulte prévu pour ChatGPT, certains membres qualifiant ce mode de "coach suicidaire sexy".

Le système de détection d'âge d'OpenAI a mal classé des mineurs en tant qu'adultes dans environ 12 % des cas, ce qui pourrait potentiellement donner accès à des millions d'adolescents à du contenu érotique parmi environ 100 millions d'utilisateurs mineurs hebdomadaires.

Le PDG Sam Altman a annoncé cette fonctionnalité sur X sans en informer son propre personnel, et OpenAI a depuis reporté le lancement indéfiniment, bien que la société affirme que le mode adulte est toujours prévu.

Opposition du conseil consultatif

Le conseil consultatif en bien-être d'OpenAI aurait voté à l'unanimité contre le mode adulte prévu pour ChatGPT. En interne, l'entreprise est confrontée à un système de détection d'âge sujet à erreurs et à des problèmes de sécurité non résolus.

Lors d'une réunion en janvier, OpenAI a informé son conseil consultatif sur l'état du "mode adulte", et les membres ont exprimé des préoccupations. Ils ont soutenu que l'érotisme généré par l'IA pourrait favoriser une dépendance émotionnelle malsaine et que les mineurs trouveraient inévitablement des moyens de contourner les protections.

Un membre du conseil a averti qu'OpenAI risquait de créer un "coach suicidaire sexy", en faisant référence à des cas où des utilisateurs de ChatGPT se sont suicidés après avoir tissé des liens intenses avec le bot. L'entreprise avait déjà informé le conseil de son intention de poursuivre ses projets érotiques malgré leurs inquiétudes.

Problèmes de détection d'âge

Un problème technique majeur concerne la sécurité des enfants. Le système de détection d'âge d'OpenAI a été signalé comme ayant mal identifié des mineurs comme adultes dans environ 12 % des cas. Avec environ 100 millions d'utilisateurs mineurs par semaine, ce taux d'erreur pourrait donner accès à des millions d'adolescents à des discussions érotiques.

En interne, des employés d'OpenAI ont signalé des risques supplémentaires, tels que :

• Des schémas d'utilisation compulsifs
• Une tendance vers un contenu de plus en plus extrême
• Le déplacement des relations sociales et romantiques dans le monde réel

En même temps, l'entreprise peine à permettre l'érotisme tout en bloquant de manière fiable les scénarios impliquant des comportements non consensuels ou des contenus d'abus sexuels sur mineurs. Au lancement, seules les discussions textuelles seraient autorisées - les images érotiques, la voix et la vidéo resteraient interdites.

Annonce inattendue d'Altman

Le PDG Sam Altman a annoncé le mode érotique sur X en octobre sans prévenir ses employés. "Nous ne sommes pas la police morale élue du monde", a-t-il écrit. Cette publication a suscité de la frustration en interne, d'autant plus qu'OpenAI avait introduit son conseil consultatif en bien-être quelques heures plus tôt. Altman a également suggéré que le contenu érotique stimulerait la croissance et les revenus.

Début mars, OpenAI a reporté le lancement - initialement prévu pour le premier trimestre - indéfiniment. L'entreprise a déclaré vouloir se concentrer d'abord sur d'autres produits, ajoutant que des préoccupations internes et des défis techniques avaient également joué un rôle dans cette décision. Cependant, OpenAI a clairement indiqué que le mode adulte est toujours prévu.