Californie : OpenAI soutient le SB 1119 sur l’IA et les mineurs

OpenAI met en avant des protections déjà intégrées à ChatGPT pour adolescents, comme des contrôles parentaux, une prédiction d’âge et des règles d’interaction. L’entreprise soutient le projet de loi californien SB 1119, qui exige notamment vérification d’âge, audits indépendants et limites à la publicité ciblée, et appelle le gouverneur Newsom à le signer. Elle avance aussi que près de 90 % des adolescents utilisateurs de ChatGPT s’en servent pour apprendre ou gagner en autonomie.

OpenAI détaille des garde-fous déjà actifs pour les moins de 18 ans

OpenAI propose une version de ChatGPT dédiée aux adolescents, conçue pour aider les moins de 18 ans à apprendre, à développer leur esprit critique et à créer, avec des protections intégrées et des contrôles supplémentaires pour les parents. Si le système estime qu’un utilisateur a moins de 18 ans, ou si l’intéressé déclare un âge compris entre 13 et 17 ans, l’accès bascule automatiquement vers cette version, dont les protections ne peuvent pas être désactivées. L’entreprise met en avant des fonctions d’apprentissage comme des quiz, des visualisations et un mode étude, développées avec des éducateurs et des experts, destinées à guider les élèves étape par étape et à encourager des habitudes d’apprentissage plus solides. L’exploitation du contexte des conversations, dont la mémoire, sert à appliquer plus uniformément les protections, à repérer des schémas préoccupants et à soutenir l’apprentissage sur la durée, en conservant des informations et préférences utiles pour poursuivre des projets de long terme. Selon OpenAI, cette continuité peut aussi éviter de renforcer des schémas nuisibles et faciliter des réponses plus efficaces lorsque des ressources d’aide sont nécessaires. Au cours de l’année écoulée, l’entreprise a ajouté des contrôles parentaux, une prédiction d’âge, un Teen Safety Blueprint et des Principes pour les moins de 18 ans à sa Model Spec, présentée comme l’ensemble des règles guidant le comportement de ses modèles. Ces règles interdisent notamment les engagements romantiques, l’encouragement à la dépendance émotionnelle et toute affirmation selon laquelle ChatGPT serait humain ou sentient. Des contrôles parentaux permettent par ailleurs de gérer des paramètres clés et de recevoir des notifications en cas de situations à haut risque.

Le SB 1119 fixe vérification d’âge, audits et protections automatiques

OpenAI présente le SB 1119 comme un texte alliant protections fortes et maintien de l’accès à des outils d’IA utiles. Le projet impose de déterminer l’âge des utilisateurs, d’identifier et de traiter les risques de sécurité avant toute mise à disposition aux jeunes, et de se soumettre à des audits indépendants. Il prévoit des garde-fous contre des contenus nuisibles comme l’automutilation et les contenus sexuellement exploitatifs, la fourniture d’outils parentaux de guidage et de limitation, la connexion à des ressources de soutien en cas de risques graves, ainsi que des limites à la publicité ciblée et des protections des données personnelles des mineurs. Pour les utilisateurs de 13 à 17 ans, OpenAI affirme que ces protections devraient s’appliquer automatiquement. Selon l’entreprise, la loi associerait des obligations importantes et des mesures efficaces pour garantir la sûreté de l’utilisation de l’IA par les jeunes, tout en prenant en compte le fait que l’IA ne constitue pas un réseau social. OpenAI indique que les responsables politiques ont voulu conserver l’accès à des fonctions éducatives et essentielles pour la sécurité, incluant des pratiques responsables autour de la mémoire de ChatGPT, et favoriser des expériences tenant compte de l’âge.

Lettre à Newsom et appel à la signature du texte

OpenAI a écrit au gouverneur Gavin Newsom pour saluer son action, ainsi que celle du sénateur Steve Padilla, des élues Buffy Wicks et Rebecca Bauer-Kahan et de la législature de l’État, et pour l’encourager à signer le SB 1119. L’entreprise affirme soutenir le texte, qu’elle relie à ses précédentes initiatives telles que ses principes de politique mondiale, ses actions de plaidoyer en Californie et son implication dans la Parents & Kids Safe AI Act. Elle décrit le projet comme posant les bases d’un cadre robuste pour la protection des jeunes en Californie et considère que la poursuite des recherches et la coopération lors de la mise en œuvre pourraient optimiser des points clés et garantir la pertinence du dispositif à mesure de l’évolution technologique. OpenAI déclare être disposée à accompagner ces efforts et à continuer de développer des expériences d’IA destinées aux adolescents, intégrant des protections automatiques accrues et des possibilités d’apprentissage. Elle caractérise le SB 1119 comme porteur de protections significatives tout en préservant l’accès à des outils utiles et souligne qu’en l’absence d’action fédérale, la Californie peut définir un standard fort de sécurité des jeunes face à l’IA.

Contexte d’usage : une majorité d’ados s’en servent pour apprendre

OpenAI avance que près de 90 % des adolescents utilisateurs de ChatGPT s’en servent chaque semaine pour apprendre, s’informer, développer des compétences ou accroître leur productivité. L’entreprise défend l’idée que les expériences destinées aux jeunes doivent répondre à des besoins de développement spécifiques, avec des protections fortes par défaut et des possibilités d’apprentissage, de création et d’exploration appropriées. Elle soutient que l’IA peut bénéficier aux adolescents sans compromettre leur sécurité et présente cet objectif comme central dans le SB 1119.