OpenAI et APA : protéger la santé mentale des jeunes

Une collaboration pour un usage responsable de l'IA chez les jeunes

L'utilisation de l'intelligence artificielle par les jeunes est en pleine expansion, qu'il s'agisse d'apprendre, de créer ou de demander des conseils. Face à cette tendance, il est crucial que les familles, les écoles, les cliniciens et les communautés disposent de preuves claires et de ressources adéquates pour encadrer cette utilisation. C'est dans ce contexte qu'OpenAI a décidé de collaborer avec l'American Psychological Association (APA) pour intégrer la science psychologique dans le développement et l'utilisation responsable de l'IA chez les jeunes. L'APA, en tant que principale organisation scientifique et professionnelle en psychologie aux États-Unis, apportera son expertise pour clarifier ce qui est connu et ce qui reste incertain, tout en définissant les contours d'une IA responsable à mesure que la technologie évolue.

Arthur C. Evans, Jr., PhD, directeur général de l'APA, souligne que les jeunes interagissent avec l'IA durant des périodes cruciales de leur développement. L'APA apporte son expertise en développement et en clinique pour définir un design responsable et protéger le bien-être des jeunes. L'objectif est de s'assurer que les connaissances atteignent ceux qui construisent ces systèmes.

Dr. Sara Johansen, responsable de la politique produit sur la santé mentale et le bien-être chez OpenAI, affirme que la technologie est désormais intégrée dans la vie des adolescents. Il est donc de leur responsabilité de proposer des expériences sûres et adaptées à leur âge, conçues avec les familles à l'esprit. L'IA doit renforcer, et non remplacer, les relations et les soins réels sur lesquels les jeunes comptent. Ce partenariat s'appuie sur le travail continu avec des experts pour ancrer l'approche d'OpenAI dans des preuves et développer des protections pratiques qui placent le bien-être des adolescents au premier plan.

Domaines d'intervention prioritaires

Plus tôt cette année, OpenAI a co-organisé une réunion avec l'APA, réunissant des leaders d'organisations de santé mentale, des chercheurs, des cliniciens, des éducateurs et des représentants de la jeunesse. L'objectif était de discuter des lacunes de soutien auxquelles les jeunes font face aujourd'hui et de la manière dont l'IA peut aider à combler ces lacunes de manière responsable.

Les discussions ont permis d'identifier plusieurs domaines d'intervention, notamment comment l'IA peut soutenir les jeunes en détresse, comment elle peut être conçue pour être plus appropriée au développement et comment les parents, aidants et cliniciens peuvent être mieux équipés pour guider l'utilisation de l'IA par les jeunes. Ce travail sera ancré dans la science du comportement humain et les expériences vécues des parents, aidants, enseignants et jeunes eux-mêmes. Au fil du temps, ces efforts pourraient informer des protections plus solides et des approches basées sur des preuves concernant l'intégration de l'IA dans la vie des jeunes.

Soutien aux parents et aux aidants

Un des premiers axes de travail consiste à fournir aux parents et aux aidants des outils pratiques pour naviguer dans l'utilisation de l'IA à la maison, surtout lorsque les adolescents commencent à utiliser ces outils. En collaboration avec l'APA, OpenAI prévoit de développer des ressources destinées aux familles pour aider les parents et les aidants à soutenir une utilisation saine, à reconnaître quand une intervention adulte peut être appropriée et à renforcer l'IA en tant qu'outil, et non comme un remplacement des personnes ou des soins. L'objectif est de rendre ces conseils largement accessibles au sein des communautés scolaires.

Soutien aux praticiens et au domaine plus large

OpenAI travaille également avec l'APA pour soutenir les praticiens qui reçoivent de plus en plus de questions sur l'IA. Les travaux prévus incluent des ressources pour les cliniciens et les psychologues scolaires axées sur la promotion d'une utilisation saine de l'IA, la reconnaissance de la dépendance excessive et l'intervention dans des schémas d'utilisation malsains. OpenAI continuera également à rassembler des leaders des secteurs de la santé, de l'éducation, de la recherche, de la politique, de la technologie et de la défense des jeunes pour traduire les leçons émergentes en conseils pratiques pour le domaine plus large.

Écouter les jeunes et comprendre les lacunes du système

Il est essentiel que ces efforts soient ancrés et façonnés par ceux qui ont une expérience vécue, et non basés sur des hypothèses. OpenAI travaillera avec l'APA pour rassembler des adolescents, des familles, des cliniciens, des psychologues scolaires et d'autres afin de mieux comprendre comment les jeunes utilisent l'IA, comment les questions liées à l'IA se manifestent dans les écoles, la thérapie et les contextes familiaux, où les systèmes actuels échouent et où l'IA peut aider de manière responsable en matière d'accès, d'éducation ou de navigation.

Notre travail de sécurité plus large

Ce travail s'inscrit dans les efforts d'OpenAI pour améliorer la façon dont ChatGPT répond dans des moments sensibles et soutient les jeunes utilisateurs. OpenAI collabore avec plus de 260 experts en santé mentale pour aider ChatGPT à mieux reconnaître les signes de détresse, à répondre avec soin et à orienter les gens vers un soutien réel. L'accès aux ressources de crise localisées et aux lignes d'assistance en un clic a été élargi, des rappels pour faire une pause ont été ajoutés, et des protections supplémentaires pour les jeunes utilisateurs, y compris des contrôles parentaux et des notifications aux parents en cas de préoccupations de sécurité, ont été introduites. Des principes pour les moins de 18 ans dans le Modèle Spécifique d'OpenAI et un modèle de prédiction d'âge qui aide à appliquer la bonne expérience et les bonnes protections ont également été mis en place.

Notre engagement à long terme

L'IA peut aider les gens à trouver des informations et à naviguer dans les systèmes plus tôt, mais le bien-être des jeunes dépend de relations humaines solides et d'un soutien de confiance. OpenAI est heureux de collaborer avec l'APA, aux côtés des nombreux chercheurs, cliniciens et éducateurs dont ils continuent à apprendre, alors qu'ils travaillent pour s'assurer que l'IA soutienne véritablement les jeunes et ceux qui les soutiennent, les guident et les accompagnent.