Tu codes avec l’IA ?
Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI introduit des outils pour sécuriser les applications pour adolescents
OpenAI a récemment dévoilé un ensemble de prompts destinés à aider les développeurs à rendre leurs applications plus sûres pour les adolescents. Ce lancement, annoncé mardi, s'inscrit dans le cadre d'une initiative visant à fournir des politiques de sécurité spécifiques pour les jeunes utilisateurs. Ces prompts sont conçus pour être utilisés avec le modèle de sécurité à poids ouverts d'OpenAI, connu sous le nom de gpt-oss-safeguard.
L'objectif est de simplifier le processus pour les développeurs qui cherchent à intégrer des mesures de sécurité dans leurs applications. Plutôt que de créer des solutions à partir de zéro, ils peuvent s'appuyer sur ces prompts pour renforcer la sécurité de leurs créations. Les domaines couverts incluent :
- la violence graphique et le contenu sexuel
- les idéaux et comportements corporels nuisibles
- les activités et défis dangereux
- les jeux de rôle romantiques ou violents
- les biens et services soumis à des restrictions d'âge
Ces prompts de sécurité sont conçus pour être facilement intégrés à d'autres modèles, bien qu'ils soient particulièrement optimisés pour l'écosystème d'OpenAI.
Collaboration avec des experts en sécurité
Pour développer ces prompts, OpenAI a collaboré avec des organismes spécialisés dans la sécurité de l'IA, tels que Common Sense Media et everyone.ai. Cette collaboration vise à garantir que les politiques de sécurité soient pertinentes et efficaces.
Robbie Torney, responsable de l'IA et des évaluations numériques chez Common Sense Media, a souligné l'importance de ces politiques. Selon lui, le fait qu'elles soient publiées en open source permet non seulement de les adapter, mais aussi de les améliorer au fil du temps, renforçant ainsi la sécurité dans l'ensemble de l'écosystème.
Défis persistants en matière de sécurité
Dans un billet de blog, OpenAI a reconnu que même les équipes expérimentées rencontrent des difficultés pour traduire les objectifs de sécurité en règles opérationnelles claires. Cela peut conduire à des lacunes dans la protection, une application incohérente ou un filtrage trop large.
« Des politiques claires et bien définies sont essentielles pour des systèmes de sécurité efficaces », a écrit la société. Bien que ces nouvelles politiques ne résolvent pas tous les défis complexes liés à la sécurité de l'IA, elles s'appuient sur les efforts antérieurs d'OpenAI, y compris des mesures de sécurité au niveau des produits comme les contrôles parentaux et la prédiction d'âge.
Historique et controverses
L'année dernière, OpenAI a mis à jour ses directives pour ses grands modèles de langage, appelées Model Spec, afin de mieux gérer les interactions avec les utilisateurs de moins de 18 ans. Cependant, la société a été confrontée à des critiques concernant son bilan en matière de sécurité.
OpenAI fait face à plusieurs poursuites judiciaires intentées par les familles de personnes qui se sont suicidées après avoir utilisé de manière excessive ChatGPT. Ces incidents soulignent les dangers potentiels lorsque les utilisateurs contournent les protections intégrées au chatbot. Bien que ces nouvelles politiques ne soient pas infaillibles, elles représentent un progrès significatif, notamment pour les développeurs indépendants qui cherchent à créer des environnements numériques plus sûrs pour les jeunes.
