ChatGPT et les adolescents : un accès sécurisé à l'IA en 2023

L'importance d'un accès sécurisé à l'IA pour les adolescents

Les adolescents d'aujourd'hui sont la première génération à grandir entourée par l'intelligence artificielle, une technologie qui influencera profondément leur avenir. Actuellement, environ 90 % des adolescents qui utilisent ChatGPT le font pour des activités telles que l'apprentissage, la recherche d'informations, le développement de compétences ou l'amélioration de leur productivité hebdomadaire. Il est donc crucial qu'ils aient accès à cette technologie. Restreindre leur accès à l'IA jusqu'à l'âge adulte reviendrait à priver une génération précédente d'Internet ou des moteurs de recherche jusqu'à leurs 18 ans, les laissant moins préparés à utiliser une technologie clé de leur époque. Cependant, cet accès doit être encadré par des mesures de protection adaptées aux adolescents.

Lors d'une session récente de l'OpenAI Academy, Oriana McKenzie a illustré comment ChatGPT l'a aidée à exceller dans ses études secondaires. En optimisant sa méthode de travail, elle a pu consacrer plus de temps à ses activités sportives et scolaires préférées. Son expérience démontre le potentiel de l'IA pour aider les adolescents à apprendre et à créer de manière efficace.

Pour maximiser ces bénéfices, il est essentiel de mettre en place des protections robustes adaptées à leur âge. Cela inclut des garde-fous automatisés qui permettent aux adolescents d'explorer, d'apprendre et de créer en toute sécurité, tout en leur offrant des protections adaptées à leur stade de développement. À mesure que l'IA progresse, notre responsabilité est de garantir un accès large tout en assurant des protections appropriées, permettant ainsi aux adolescents de tirer parti de cette technologie en évolution.

Au cours de l'année écoulée, cela s'est traduit par le renforcement des protections par défaut pour les adolescents, le déploiement d'outils de prédiction d'âge, l'expansion des contrôles parentaux, la création de ressources familiales supplémentaires pour aider les parents à soutenir une utilisation saine et responsable, et l'introduction de fonctionnalités d'apprentissage pour favoriser une compréhension plus approfondie plutôt que de simplement fournir des réponses.

Nos engagements clés

Notre approche repose sur quatre engagements fondamentaux :

• Prioriser la sécurité des adolescents, même si cela entre en conflit avec d'autres objectifs.
• Encourager le soutien dans le monde réel lorsque cela est nécessaire.
• Traiter les adolescents en tant que tels, avec des attentes réalistes.
• Être transparent en fixant des attentes claires.

Construire pour l'apprentissage, pas seulement pour les réponses

L'apprentissage est l'un des principaux avantages que les adolescents peuvent tirer de l'IA. C'est pourquoi nous développons des outils qui encouragent l'engagement actif, la pensée critique et une compréhension plus profonde. Le Mode Étude, conçu en collaboration avec des enseignants, des scientifiques de l'apprentissage et des experts en pédagogie, aide les étudiants à résoudre des problèmes étape par étape grâce à des questions directrices, des explications structurées et des opportunités de réflexion, sans simplement fournir la réponse. Les premières évaluations de cet outil ont montré des améliorations prometteuses dans les performances des étudiants, influençant nos recherches sur la manière dont l'IA peut soutenir les résultats d'apprentissage.

Bien que les adolescents puissent activer ce mode eux-mêmes, les parents ayant des comptes d'adolescents liés peuvent désormais activer le Mode Étude directement via les Contrôles Parentaux. Lorsqu'il est activé, il reste actif par défaut chaque fois qu'un adolescent commence une nouvelle conversation, offrant aux familles un moyen supplémentaire de guider l'utilisation de ChatGPT pour les devoirs et l'étude.

Nous avons également introduit récemment des invites de démarrage axées sur l'éducation pour aider les adolescents à débuter des tâches telles que décomposer un sujet en étapes simples, transformer des notes en un guide d'étude, créer des cartes mémoire ou des questions d'entraînement, et vérifier les preuves et la clarté.

Nous continuons également à élargir les expériences d'apprentissage interactif. La recherche a constamment montré que les gens apprennent plus efficacement lorsqu'ils peuvent s'engager activement avec des concepts plutôt que de consommer passivement des informations. Depuis son lancement plus tôt cette année, 18 millions d'utilisateurs hebdomadaires interagissent désormais avec des expériences de mathématiques et de sciences interactives dans ChatGPT, et nous avons élargi ces expériences à plus de 250 nouveaux sujets, allant des intégrales et de la mitose aux phases de la lune, à la photosynthèse et plus encore. Nous avons également introduit une expérience de prononciation qui utilise l'audio pour aider les gens à apprendre à prononcer des mots dans plus de 61 langues.

Protéger les adolescents avec des garde-fous intégrés

Si notre système estime qu'une personne utilisant ChatGPT a moins de 18 ans, nous fournissons automatiquement une expérience plus adaptée à leur âge. Les adolescents peuvent toujours utiliser ChatGPT pour apprendre, créer et explorer, mais avec des protections supplémentaires conçues pour réduire leur exposition à des contenus qui pourraient ne pas leur convenir. Cela inclut des garde-fous plus stricts concernant la violence graphique, l'automutilation, les défis viraux risqués, les contenus sur l'image corporelle malsaine, et les jeux de rôle dangereux, romantiques ou sexuels. L'objectif est de garantir que ChatGPT reste un outil d'apprentissage et de créativité et non un substitut aux relations réelles.

Nous concevons également ChatGPT pour encourager des habitudes saines. Les adolescents qui passent beaucoup de temps sur ChatGPT recevront désormais des rappels de pause plus fréquents qui les encouragent à faire une pause et à s'éloigner. Ces rappels visent à aider les jeunes à développer des habitudes technologiques équilibrées tout en leur laissant la liberté d'utiliser l'IA pour l'apprentissage, la créativité et la résolution de problèmes.

Nous croyons que les meilleurs outils de sécurité peuvent aider les familles à naviguer ensemble dans les expériences en ligne des adolescents. Nous avons construit des contrôles parentaux et des notifications qui leur permettent de définir des heures de silence, de désactiver le mode vocal, de gérer l'accès à la génération d'images, et de recevoir des notifications dans certaines situations à haut risque, telles que des indications de potentiel d'automutilation.

Nous élargissons ces notifications pour inclure les cas où un compte d'adolescent lié a été désactivé pour avoir violé nos politiques d'utilisation concernant les menaces violentes ou les actes de violence en ligne. Cette approche aide les parents à savoir quand quelque chose de sérieux s'est produit tout en respectant la vie privée des adolescents et en encourageant les conversations et le soutien hors ligne.

Alors que nous développions ces fonctionnalités, nous avons consulté plusieurs experts, y compris Moonshot, un leader dans la prévention de la violence en ligne, pour nous assurer que ces interventions sont réfléchies, efficaces et axées sur l'aide aux familles en cas de besoin.

Collaborer avec des experts externes

Protéger les jeunes en ligne n'est pas quelque chose qu'une seule entreprise peut résoudre seule. Nous travaillons en étroite collaboration avec des adolescents, des parents, des éducateurs, des experts en sécurité des enfants, des professionnels de la santé mentale, des chercheurs, des gouvernements et des organisations de la société civile. Ces partenariats nous aident à mieux comprendre les besoins des jeunes, à identifier les risques émergents, à évaluer l'efficacité de nos protections et à garantir que nos politiques sont informées par une expertise indépendante.

Ce travail englobe notre approche tant de l'apprentissage que du bien-être des jeunes. Nous collaborons avec des éducateurs, y compris la Fédération Américaine des Enseignants, des étudiants et des organisations d'apprentissage pour mieux comprendre comment l'IA peut soutenir l'enseignement et l'apprentissage tout en renforçant l'engagement actif et la pensée critique. Nous travaillons également en étroite collaboration avec des experts dans les domaines de la santé mentale, du développement de l'enfant et de la sécurité des jeunes, y compris l'Association Américaine de Psychologie, notre Réseau Mondial de Médecins, et notre Conseil d'Experts sur le Bien-Être et l'IA.

Notre travail pour construire un écosystème numérique plus sain va au-delà de nos propres produits. Nous avons appelé à l'élaboration de normes mondiales évolutives pour la sécurité des jeunes en matière d'IA à travers un Institut de Sécurité de l'IA dédié, des politiques et des outils en source ouverte que les développeurs peuvent intégrer dans leurs propres systèmes d'IA, et à travailler avec des organisations telles que Common Sense Media et everyone.ai pour partager des apprentissages et des meilleures pratiques.

Cette année, nous avons également rejoint le Family Online Safety Institute (FOSI), un défenseur de longue date des expériences en ligne sûres pour les familles et les jeunes. Nous travaillerons ensemble pour garantir que les jeunes puissent bénéficier de l'IA, avec des parents responsabilisés et des pratiques industrielles responsables au centre. Nous espérons que ce partenariat contribuera à faire avancer la compréhension commune de ce qui fonctionne, à renforcer les protections appropriées à l'âge et les outils parentaux, et à soutenir les efforts à l'échelle de l'industrie qui permettent aux jeunes de bénéficier de l'IA de manière sûre et responsable.

Perspectives d'avenir

Protéger les jeunes en ligne nécessite des progrès continus. Au cours des mois à venir, nous continuerons à renforcer les protections adaptées à l'âge, à donner aux parents plus d'outils et de contrôle, à améliorer les protections contre les dangers graves, à faire progresser la recherche sur l'utilisation saine de l'IA, et à construire davantage d'expériences qui aident les adolescents à apprendre activement et à utiliser l'IA avec confiance.

Nous savons qu'il reste encore beaucoup à faire, et nous nous engageons à poursuivre notre travail en collaboration avec des adolescents, des parents, des éducateurs, des experts et des communautés du monde entier pour offrir un accès large et sûr aux adolescents.