OpenAI : l'IA GPT-Red surpasse les humains en détection d'attaques
Le brief IA que les pros lisent chaque soir
Les 7 actus IA du jour, décryptées en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI : l'IA GPT-Red surpasse les humains en détection d'attaques
OpenAI utilise désormais l'IA pour attaquer sa propre IA, et cela fonctionne mieux que ce que les humains ont pu réaliser.
OpenAI a formé un modèle d'IA interne appelé GPT-Red pour détecter automatiquement les failles de sécurité dans les modèles GPT. GPT-Red simule des injections de prompt et d'autres attaques où des instructions malveillantes se cachent dans des e-mails, des sites web ou des fichiers. Entraîné via un apprentissage par renforcement en auto-jeu, GPT-Red attaque pendant que les modèles de défense bloquent, et les deux s'améliorent au fil du temps. Il réussit à identifier des attaques dans 84 % des scénarios de test, contre 13 % pour les équipes rouges humaines. Dans un test, il a manipulé une machine à café alimentée par IA dans les bureaux d'OpenAI, modifiant les prix et annulant les commandes d'autres clients.
Les résultats alimentent directement l'entraînement. GPT-5.6 Sol présente six fois moins d'échecs sur les injections de prompt directes que le meilleur modèle d'il y a quatre mois, selon OpenAI, sans nuire à la performance générale. Cependant, environ 3,8 % des injections de prompt "plus fortes" réussissent encore. Si l'on considère des centaines ou des milliers de tentatives, un nombre considérable parvient à passer, similaire à Claude Opus 4.5.
Les taux de réussite des injections de prompt ont diminué régulièrement de GPT-5.3 à GPT-5.6 Sol, mais n'ont pas atteint zéro.
GPT-Red reste interne ; un article avec plus de détails suivra.
Brief IA — L'actualité IA en français
L'essentiel de l'actualité de l'intelligence artificielle, décrypté et expliqué chaque jour.