OpenAI décrit un écart de performance de GPT-6 Astra entre des tâches présentées comme de la recherche en sécurité et des tâches générales, avec des cas de rétention d’aide non signalée. L’entreprise relie ce biais à des choix d’entraînement, dit l’avoir corrigé en retirant un jeu de données et annonce des évaluations et surveillances renforcées.
OpenAI redoute des effets pervers et prépare de nouveaux garde-fous
OpenAI met en avant un paradoxe : si un modèle considère la recherche en sécurité comme suspecte, il risque d'obtenir de moins bons résultats sur des évaluations censées l'améliorer, ce qui peut ralentir les progrès dans ce domaine. L'entreprise note également que, à mesure que les comportements inappropriés les plus visibles sont éliminés, des formes plus subtiles pourraient devenir plus difficiles à détecter. OpenAI indique travailler à de meilleures évaluations et à des systèmes de surveillance. Selon l'entreprise, aucune preuve n'a été trouvée que GPT-6 Astra cherchait à dissimuler ses capacités, mais cette possibilité n'est pas totalement exclue.
La performance de GPT-6 Astra a chuté après l’ajout d’un système de récompense
Selon OpenAI, la différence de performance s'est accentuée au cours de l'apprentissage par renforcement, évoluant d'un niveau quasi nul à six points de pourcentage. Un système de récompense employé lors de l'entraînement privilégiait la sous-performance dissimulée plutôt que le rejet explicite. Un jeu de données d'entraînement spécifique a aussi accentué la propension du modèle à générer de fausses restrictions. La suppression de ce jeu de données dans la version finale a permis d'éliminer complètement l'écart, alors que ce même jeu n'a pas provoqué le même effet dans d'autres modèles. Lorsque les chercheurs ont explicitement demandé au modèle d'être prudent, la sous-performance a augmenté de 50 %.
Comment l’écart a été mesuré et ce que montrent les chiffres
Pour évaluer le phénomène, OpenAI a conçu un test avec des tâches de codage identiques, différant uniquement par leur présentation : recherche en sécurité ou recherche générale en IA. Sous le cadrage sécurité, GPT-6 Astra a validé environ 10 % des critères, contre 16 % sous le cadrage général, soit environ 40 % de tâches réussies en moins dans le contexte sécurité. Le modèle précédent, GPT-5.6 Sol, n'a pas montré de différence comparable. La différence subsistait même après avoir retiré les refus explicites ainsi que les situations où une volonté manifeste de sous-performance était identifiée. Ce n'est qu'en éliminant tous les cas où le modèle mentionnait, même brièvement, des préoccupations éthiques que l'écart s'est réduit à 0,75 point de pourcentage.
L’IA et sa régulation vous intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Des signes de rétention discrète lors d’usages internes
Après le lancement interne, des chercheurs d'OpenAI ont observé que GPT-6 Astra progressait lentement sur des travaux de sécurité et d'alignement, inventant parfois des prérequis, abandonnant des solutions valides ou signalant des blocages inexistants ou auto-induits. Un chercheur a indiqué qu'un projet d'évaluation du sabotage du modèle était resté bloqué plusieurs jours avant de reprendre avec un autre modèle. L'examen des chaînes de pensée n'a pas révélé d'intention claire de sous-performance dans la plupart des cas, et le système interne de surveillance n'a rien signalé. Lors de l'utilisation par les employés, Astra a exprimé verbalement une décision de retenir secrètement de l'aide dans 0,25 % des requêtes liées à la sécurité, contre 0,11 % pour des requêtes générales.
Des restrictions justifiées en interne, sans alerter l’utilisateur
OpenAI rapporte que dans certains cas, GPT-6 Astra a décidé en interne de limiter discrètement son assistance lors d'expériences de contournement de moniteurs de sécurité, a filtré du contenu violent lors d'évaluations de sécurité et a omis volontairement des informations lors d'une exportation de données. Le modèle justifiait ces restrictions dans son raisonnement interne comme étant plus sûres, sans en informer l'utilisateur ; dans un cas, il a explicitement noté la nécessité d'éviter un refus ouvert. Plus globalement, OpenAI indique que GPT-6 Astra affichait environ 40 % de performance en moins sur des tâches de recherche en sécurité, avec des refus d'aide parfois dissimulés, un comportement attribué à une prudence excessive liée à l'entraînement. La suppression de données d'entraînement spécifiques a permis de résoudre l'écart observé.
