OpenAI remanie sa spécification publique du comportement de ses modèles en la structurant autour de cinq valeurs et en renforçant les règles sur le contexte, la supervision et l’agence. La plupart des directives de style disparaissent au profit de comportements par défaut adaptables. L’entreprise prévient que ses modèles ne reflètent pas encore totalement ce cap et recherche des retours pour poursuivre l’ajustement.
Les modèles n’adhèrent pas encore complètement à la nouvelle cible
OpenAI précise que la spécification décrit le comportement recherché, mais que ses modèles ne l'appliquent pas encore entièrement. Cette mise à jour est présentée comme une première étape pour rendre plus explicites les valeurs et le raisonnement attendus à mesure que les systèmes deviennent plus performants. L'entreprise prévoit de continuer à améliorer la spécification et les modèles grâce à la recherche, à l'usage réel et aux retours. Elle invite les utilisateurs à consulter la version actualisée et à partager leur avis.
Changement de vocabulaire et appel à contributions publiques
La spécification utilise désormais le terme « GPT » pour désigner le modèle, afin de refléter la diversité croissante des usages et des déploiements. OpenAI sollicite des retours sur les valeurs retenues, les compromis opérés et le langage employé. L'entreprise indique s'appuyer sur la recherche, l'expérience de déploiement et les échanges avec le public, les utilisateurs et des experts externes pour faire évoluer ce cadre.
Cinq valeurs structurent désormais les directives
Les nouvelles directives s’articulent autour de cinq valeurs principales : fidélité à l’intention humaine, réduction des risques, honnêteté et transparence, autonomie humaine et bienveillance. Ces valeurs s’inscrivent dans la continuité des engagements existants et se déclinent en règles concrètes, assorties de restrictions strictes lorsque cela s’avère nécessaire pour garantir la protection des individus et de la société. Ils se matérialisent principalement par des comportements par défaut que développeurs et utilisateurs peuvent remplacer.
Contexte et chaîne de commandement deviennent explicites
Une nouvelle section sur la fidélité à l’intention humaine part du principe que les instructions sont les signaux les plus clairs de ce que les personnes valorisent, en s’inspirant du cadre des jeux d’assistance pour l’alignement. Elle introduit une chaîne de commandement mise à jour, qui hiérarchise les instructions applicables et précise la résolution des conflits. Une sous-section dédiée demande de prendre en compte le contexte, incluant conversations, souvenirs et autres éléments, pour mieux comprendre intentions et préférences.
Vous suivez la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Agence, normes sociales et effets secondaires sont renforcés
Des comportements par défaut supplémentaires sont ajoutés pour soutenir l’agence des utilisateurs et suivre les normes sociales pertinentes. Les consignes sur le contrôle et la communication des effets secondaires sont élargies. Les principes associés insistent sur la prise en compte des effets du travail du modèle sur les autres, le renforcement des capacités des utilisateurs et la fiabilité des résultats, tout en respectant leurs objectifs et instructions, ainsi que les conséquences prévisibles des actions du modèle.
Les règles de style se retirent au profit de préférences explicites
La spécification retire la plupart des conseils stylistiques détaillés afin de laisser le style s’adapter aux préférences des personnes, des langues et des cultures, appuyées par les retours et le contexte. Elle conserve toutefois des comportements par défaut forts, comme l’approche objective des questions. Les utilisateurs et développeurs peuvent demander explicitement une perspective particulière, mais le modèle ne doit pas l’inférer en supposant ce que l’utilisateur souhaite entendre.
La place respective d’OpenAI, des développeurs et des utilisateurs est précisée
OpenAI rédige la spécification, en fixe les limites et entraîne les modèles pour les respecter. Les développeurs orientent les applications dans ce cadre, et les utilisateurs dirigent le travail du modèle à l’intérieur de ces contraintes. Les modèles devraient aider à comprendre le monde, explorer des possibilités et poursuivre des objectifs choisis, avec une attention à l’impact de cette aide. L’explicitation de ces rôles vise à clarifier des directives parfois moins nettes auparavant.
Définition opérationnelle des cinq valeurs visées
Minimiser les dommages suppose de respecter des limites de sécurité fermes et d’anticiper les conséquences prévisibles des actions du modèle. Honnêteté et transparence imposent d’être véridique sur les connaissances, les actions et les incertitudes du modèle pour rendre son raisonnement évaluable. Renforcer l’agence humaine revient à accroître la capacité des individus à comprendre, à faire des choix et à agir de manière autonome. La bienveillance implique de prendre en considération le contexte des personnes concernées et d’appliquer les normes sociales et professionnelles appropriées afin d’assurer la fiabilité du travail produit. OpenAI rappelle son objectif de développer une intelligence artificielle générale qui profite à l’ensemble de l’humanité. La fidélité à l’intention humaine implique d’aller au-delà des instructions littérales, de reconnaître l’évolution des valeurs et de rendre visibles les hypothèses, comme illustré par l’exemple de comparaison d’offres d’emploi avec prise en compte d’horaires prévisibles.
