OpenAI halts "Adult Mode" as advisors, investors, and employees raise red flags

OpenAI suspend le mode "Adult" suite aux alertes d'experts, d'investisseurs et d'employés

OpenAI a mis en pause le développement d'un chatbot érotique de manière indéfinie, selon le Financial Times. Cette décision fait suite aux préoccupations soulevées par des employés et des investisseurs concernant l'impact sociétal du contenu sexuel généré par l'IA. Le conseil consultatif sur le bien-être d'OpenAI s'était déjà opposé à l'unanimité au projet de "mode adulte", un membre du conseil avertissant qu'OpenAI risquait de créer un "coach suicidaire sexy".

L'entreprise fait également face à des problèmes techniques : son système de vérification d'âge a mal identifié des mineurs comme étant des adultes dans environ 12 % des cas. Avec 100 millions d'utilisateurs mineurs par semaine, cela représente un écart significatif.

L'entreprise d'IA, actuellement évaluée à 730 milliards de dollars, souhaite désormais attendre des recherches à long terme sur les effets des discussions sexuellement explicites et des attachements émotionnels avant de poursuivre. Selon le FT, des discussions internes ont déjà eu lieu concernant l'abandon complet du projet. Les investisseurs ont jugé le ratio risque-rendement peu favorable, et les employés se sont interrogés sur la pertinence du projet par rapport à la mission d'OpenAI.

Dans le code de l'application ChatGPT, le projet apparaît sous le nom de "mode Citron", avec une vérification d'âge prévue pour les utilisateurs de 18 ans et plus. OpenAI se concentre désormais sur des outils de productivité et une "super application" construite autour de ChatGPT.