Brief IA : OpenAI renforce la protection du raisonnement de GPT-6.2

OpenAI renforce la protection du raisonnement de GPT-6.2

Brief IA
Tom Levy·2 min

OpenAI renforce les protections de GPT-6.2 Astra et GPT-6.2 Sol contre l'extraction de leur raisonnement interne. Dans ses tests internes, les attaques visant une demande antérieure réussissent à 0,2 % sur GPT-6.2 Astra, contre 54,0 % sur GPT-6 Astra. OpenAI bannit chaque semaine des milliers à des dizaines de milliers de comptes face aux campagnes coordonnées.

En bref
1OpenAI renforce les protections de GPT-6.2 Astra et GPT-6.2 Sol contre l'extraction de leur raisonnement interne.
2Dans ses tests internes, les attaques visant une demande antérieure réussissent à 0,2 % sur GPT-6.2 Astra, contre 54,0 % sur GPT-6 Astra.
3OpenAI bannit chaque semaine des milliers à des dizaines de milliers de comptes face aux campagnes coordonnées.
Pourquoi c'est important : ces défenses visent à empêcher l'accès au raisonnement interne protégé des modèles.

OpenAI renforce les défenses de GPT-6.2 Astra et GPT-6.2 Sol contre l'extraction de leur raisonnement interne. Dans ses tests internes, le taux de réussite des attaques visant une demande antérieure passe de 54,0 % sur GPT-6 Astra à 0,2 % sur GPT-6.2 Astra. Certaines améliorations doivent aussi être appliquées à GPT-6 Astra.

OpenAI et Anthropic bannissent des comptes

Contre les campagnes coordonnées, OpenAI bannit chaque semaine des milliers à des dizaines de milliers de comptes. Anthropic combat aussi la distillation systématique et bannit des dizaines de milliers de comptes pour limiter le vol de raisonnement interne.

Ces mesures chez Anthropic semblent aboutir dans 90 à 99 % des cas. L'entreprise a par ailleurs demandé aux industriels et aux responsables politiques d'organiser une réponse commune.

La lettre du soirGratuit · 19 h

Vous suivez la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

Des filtres et des tests pour protéger les demandes

Pour chaque demande, OpenAI combine un entraînement ciblé et des filtres appliqués aux messages et aux appels d'outils, en entrée comme en sortie. Des restrictions dans l'API interdisent aussi aux anciens modèles l'accès au raisonnement protégé.

L'entreprise compare GPT-6 Astra, doté des défenses initiales, à GPT-6.2 Astra, équipé des nouvelles protections, dans des tests automatisés internes. Pour les attaques visant une demande active, elle rapporte un taux de réussite de 22,9 % sur le premier modèle, contre 0,9 % sur le second. Les résultats agrègent six modèles d'attaquants dans des tests adaptatifs en boîte noire. L'indicateur utilisé, l'ASR, mesure la réussite des attaques : plus il est faible, meilleure est la protection.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires