Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Des politiques de sécurité pour les adolescents dans l'IA
OpenAI a récemment annoncé la mise en place de nouvelles politiques de sécurité destinées à aider les développeurs à créer des expériences d'intelligence artificielle (IA) plus sûres pour les adolescents. Ces politiques reposent sur des prompts et sont conçues pour fonctionner avec le modèle de sécurité à poids ouvert, gpt-oss-safeguard. L'objectif est de simplifier la transformation des exigences de sécurité en classificateurs utilisables dans des systèmes réels.
L'initiative d'OpenAI s'inscrit dans une volonté de démocratiser l'accès à des modèles d'IA puissants tout en garantissant que la sécurité et l'innovation se développent de concert. Les développeurs doivent non seulement avoir accès à des modèles performants, mais aussi disposer des outils et politiques nécessaires pour les déployer de manière sûre et responsable. Pour ce faire, OpenAI a collaboré avec des organisations externes de confiance telles que Common Sense Media et everyone.ai.
Une approche adaptée aux besoins des adolescents
Il est reconnu qu'adolescents et adultes ont des besoins différents en matière de sécurité, les premiers nécessitant des protections supplémentaires. Les nouvelles politiques visent à aider les développeurs à prendre en compte ces différences, afin de créer des expériences qui soient à la fois responsabilisantes et appropriées pour les jeunes utilisateurs.
Un engagement continu pour la sécurité des jeunes
OpenAI s'engage depuis longtemps à développer une IA qui élargit les opportunités pour les jeunes tout en assurant leur sécurité. Dans ce cadre, l'entreprise a mis à jour son Model Spec, qui définit le comportement attendu des modèles d'OpenAI, pour inclure des principes spécifiques aux moins de 18 ans. Des mesures de protection au niveau des produits, comme les contrôles parentaux et la prédiction d'âge, ont également été introduites pour mieux protéger les jeunes utilisateurs. Le Teen Safety Blueprint d'OpenAI appelle à des protections à l'échelle de l'industrie.
La publication des nouvelles politiques de sécurité s'appuie sur ces bases solides. Elles sont mises à la disposition des développeurs pour les soutenir dans le déploiement de protections pour les adolescents et pour démocratiser l'accès à l'écosystème des poids ouverts.
Des politiques claires et utilisables
Bien que des classificateurs de sécurité comme gpt-oss-safeguard puissent détecter du contenu nuisible, ils nécessitent des définitions claires de ce qu'est ce contenu. L'un des principaux défis pour les développeurs est de définir des politiques qui capturent avec précision les risques spécifiques aux adolescents et qui peuvent être appliquées de manière cohérente. Même les équipes expérimentées peuvent avoir du mal à traduire des objectifs de sécurité de haut niveau en règles opérationnelles précises, ce qui peut entraîner des lacunes dans la protection ou un filtrage excessif. Des politiques claires et bien définies sont essentielles pour des systèmes de sécurité efficaces.
Opérationnaliser la sécurité des adolescents
Pour relever ce défi, OpenAI publie un ensemble de politiques de sécurité adaptées aux risques courants auxquels les adolescents sont confrontés. Ces politiques sont informées par un examen minutieux des recherches sur les différences développementales des adolescents. Elles sont structurées sous forme de prompts utilisables avec gpt-oss-safeguard et d'autres modèles de raisonnement, permettant aux développeurs d'appliquer des normes de sécurité cohérentes.
Les politiques initiales couvrent divers contenus sensibles, tels que le contenu violent graphique, le contenu sexuel graphique, les idéaux corporels nuisibles, les activités dangereuses, les jeux de rôle romantiques ou violents, et les biens et services réservés aux adultes. Elles peuvent être utilisées pour le filtrage de contenu en temps réel et pour l'analyse hors ligne de contenu généré par les utilisateurs.
Collaboration avec des experts externes
OpenAI a travaillé avec des organisations externes telles que Common Sense Media et everyone.ai pour développer ces politiques. Leur expertise a été cruciale pour définir le champ de contenu à couvrir, renforcer la structure des prompts et affiner les cas limites à considérer lors de l'évaluation. Ce travail reflète un effort continu de collaboration avec des experts pour améliorer la manière dont les systèmes d'IA soutiennent les jeunes.
Un point de départ pour une sécurité renforcée
Les politiques proposées par OpenAI sont conçues comme un point de départ, et non comme une solution complète pour la sécurité des adolescents. Chaque application présente des risques et des contextes uniques, et les développeurs sont les mieux placés pour comprendre les risques que leurs produits peuvent présenter. OpenAI encourage les développeurs à adapter et à étendre ces politiques selon leurs besoins spécifiques et à les combiner avec d'autres mesures de protection.
Une approche de défense en profondeur est essentielle pour construire des systèmes d'IA plus sûrs. Les politiques s'appuient sur l'expérience interne d'OpenAI, mais ne reflètent pas l'ensemble des politiques ou des mesures de protection internes de l'entreprise.
Encourager la collaboration et l'itération
OpenAI publie ces politiques en open source via la ROOST Model Community pour encourager la collaboration et l'itération. Les développeurs et les organisations peuvent adapter ces politiques à leurs applications spécifiques, les traduire dans différentes langues et les étendre pour couvrir d'autres domaines de risque. Au fil du temps, cela devrait contribuer à une base plus robuste pour la mise en œuvre de politiques de sécurité dans les systèmes d'IA.
Pour commencer avec gpt-oss-safeguard, il est possible de le télécharger depuis Hugging Face.
