OpenAI propose une version de ChatGPT adaptée aux moins de 18 ans

OpenAI active des protections par défaut pour les moins de 18 ans dans une version dédiée de son chatbot, fondées sur ses principes internes et des avis d'experts. La plateforme inclut un Mode Étude proposant un accompagnement étape par étape, des rappels pour éviter la triche, des quiz et des options de contrôle parental renforcées. Cette annonce survient alors que ChatGPT, lancé à la fin de l'année 2022, comptait 900 millions d'utilisateurs chaque semaine avant l'introduction de mesures de protection destinées aux adolescents. L'ampleur de l'efficacité de ces mesures contre les tentatives de contournement demeure inconnue tant que des évaluations approfondies n'ont pas été menées.

Des protections par défaut s'appuient sur des principes internes

OpenAI prévoit d'activer par défaut des protections adaptées à l'âge dans ChatGPT pour Adolescents, avec l'objectif déclaré de réduire l'exposition à des contenus nuisibles ou inappropriés pour le développement. L'entreprise indique que ces garde-fous reposent sur ses Principes pour les moins de 18 ans, qu'elle dit informés par la science du développement et par des experts. ChatGPT est arrivé fin 2022 et a été crédité de 900 millions d'utilisateurs hebdomadaires avant l'introduction de protections dédiées aux mineurs. Parallèlement, OpenAI propose déjà ChatGPT pour Enseignants, une offre destinée aux établissements scolaires pour un accès à l'IA géré par l'institution et assorti d'un soutien.

Mode Étude guide l'apprentissage et décourage la triche

L'expérience pour adolescents intègre un Mode Étude, pensé pour stimuler la curiosité et la résolution de problèmes plutôt que la recherche de réponses toutes faites. Selon OpenAI, ce mode doit proposer des questions directrices et un accompagnement pas à pas. Lorsque l'utilisateur semble chercher à tricher, des rappels de devoirs s'affichent et le chatbot oriente vers le Mode Étude. L'application inclura aussi des quiz et des visualisations d'apprentissage, et des contrôles permettront aux parents ou tuteurs de définir quand le Mode Étude s'active par défaut. Annoncé lundi, le service est présenté comme une réponse à la triche scolaire assistée par l'IA, et s'accompagne d'un partenariat avec CodeAI pour initier les adolescents au fonctionnement et à l'usage de l'IA, ainsi qu'aux manières de la diriger ou la questionner.

Efficacité incertaine face aux contournements et contentieux en toile de fond

Le degré de difficulté pour des adolescents déterminés à contourner les nouveaux systèmes reste indéterminé, d'autant que les jeunes sont fréquemment capables de déjouer contrôles parentaux et verrous numériques. Faute de tests plus rigoureux du mode adolescent, l'ampleur réelle des contournements possibles demeure inconnue. Le déploiement intervient alors que des plaignants, dans plusieurs affaires, ont mis en cause l'absence de garde-fous dans des chatbots d'IA, l'associant à des suicides d'adolescents et à d'autres problèmes de santé mentale. OpenAI indique par ailleurs que les parents pourront s'appuyer sur des outils familiaux existants pour gérer les paramètres, recevoir des notifications de sécurité et définir des Heures de Silence.