Le mode adulte d'OpenAI sera apparemment coquin, mais pas pornographique
⚡ Résumé en français par Brief IA
• OpenAI prévoit un 'mode adulte' pour ChatGPT qui permettra des conversations textuelles à thème adulte. • Ce mode ne générera pas d'images, de voix ou de vidéos, se concentrant uniquement sur le texte. • Un porte-parole d'OpenAI a précisé que le contenu serait qualifié de 'smut' plutôt que de pornographie, ce qui pourrait influencer la perception des utilisateurs. 💡 Pourquoi c'est important : cette distinction pourrait façonner l'utilisation et l'acceptabilité des IA conversationnelles dans des contextes adultes.
📄 Article traduit en français
Le mode adulte d'OpenAI sera apparemment coquin, mais pas pornographique
Le mode "adulte" de ChatGPT, qui a été retardé, devrait permettre des conversations textuelles osées à son lancement, mais ne comprendra pas la capacité du chatbot à générer des images, des voix ou des vidéos. Un porte-parole anonyme d'OpenAI a décrit le contenu qui sera proposé par cette fonctionnalité comme étant coquin plutôt que pornographique, permettant ainsi aux utilisateurs de ChatGPT de générer des discussions textuelles avec des thèmes pour adultes.
La fonctionnalité avait été initialement annoncée en octobre, avec le PDG d'OpenAI, Sam Altman, affirmant que l'entreprise avait réussi à atténuer suffisamment des "problèmes de santé mentale graves" liés à son modèle d'IA pour assouplir les restrictions de sécurité et introduire "de l'érotisme pour les adultes vérifiés." Le mode adulte de ChatGPT devait être lancé au cours de ce trimestre, mais OpenAI a déclaré plus tôt ce mois-ci qu'il retardait le déploiement pour se concentrer sur des tâches de plus haute priorité. Un nouveau calendrier de sortie n'a pas encore été annoncé.
Le retard est également dû à des préoccupations internes et à des défis techniques concernant les mesures de protection pour cette fonctionnalité. Un conseil d'experts sélectionné par OpenAI a averti l'entreprise en janvier que le mode adulte de ChatGPT pourrait être accessible aux enfants et favoriser une dépendance émotionnelle malsaine au chatbot, un membre anonyme du conseil ayant déclaré qu'OpenAI risquait de créer un "coach sexy pour le suicide."
Les problèmes de modération de contenu ont également contribué aux retards. Des sources proches du dossier ont indiqué à The Wall Street Journal qu'OpenAI avait du mal à lever les restrictions de ChatGPT sur le contenu NSFW tout en maintenant hors limites des scénarios plus nuisibles, tels que ceux décrivant des comportements non consensuels ou des abus sexuels sur des enfants.
Le système de prédiction d'âge qu'OpenAI a développé pour éloigner les enfants de l'érotisme a également, à un moment donné, mal classé des mineurs comme des adultes environ 12 % du temps. Étant donné que ChatGPT attire environ 100 millions d'utilisateurs de moins de 18 ans chaque semaine, ce taux d'erreur pourrait permettre à des millions de mineurs d'accéder à des conversations sexualisées avec le chatbot. Les algorithmes de prédiction d'âge d'OpenAI montrent des performances similaires à celles du reste de l'industrie, a déclaré un porte-parole anonyme à The Journal, mais "ne seront jamais complètement infaillibles."
Se limiter aux conversations textuelles pourrait faciliter la navigation autour de règles telles que la Online Safety Act du Royaume-Uni, qui exige que les plateformes en ligne appliquent une vérification d'âge pour les images pornographiques, mais pas pour l'érotisme écrit. Cela contraste également avec des expériences NSFW plus visuelles proposées par des fournisseurs d'IA concurrents, tels que les compagnons "épicés" de Grok, avec Elon Musk annonçant la semaine dernière que le générateur d'images et de vidéos de Grok est autorisé à produire tout ce qui est "autorisé dans un film classé R."
Brief IA — Veille IA quotidienne
Toutes les innovations IA du monde entier, résumées et analysées automatiquement chaque jour.