Opus 5 et Mode Auto : percée contre l'injection de prompt IA

Opus 5 et Mode Auto : percée contre l'injection de prompt IA

Opus 5 pourrait avoir résolu l'injection de prompt basée sur le navigateur, la plus grande faille de sécurité qui affecte les agents IA.

Anthropic affirme qu'Opus 5 est presque immunisé contre les injections de prompt dans son propre logiciel. L'injection de prompt, où un attaquant contourne les instructions d'un modèle IA via des entrées manipulées comme du texte caché sur une page web, échoue contre Opus 5 dans presque tous les cas. Pour les agents de navigateur, le taux de réussite des attaques a atteint zéro pour cent dans 129 scénarios de test, selon la carte système. C'est un événement majeur étant donné qu'OpenAI a admis en décembre que l'injection de prompt pourrait ne jamais être complètement résolue. Dans un test général d'injection de prompt réalisé par la société de sécurité Gray Swan, le taux de réussite après 15 tentatives est tombé de 5,5 % (Opus 4.8) à 2,0 %.

Opus 5 domine le benchmark IPI de Gray Swan. Après 15 tentatives, le taux de réussite des attaquants est de 2,0 %, suivi de Mythos 5 (2,6 %) et Fable 5 (2,8 %).

Ce taux de zéro pour cent ne s'applique que lorsque le Mode Auto est activé dans des produits comme Claude Cowork. Le Mode Auto empile deux couches de défense. L'une scanne les données entrantes à la recherche d'instructions cachées avant que le modèle ne les traite. L'autre bloque les actions dangereuses avant leur exécution. Un attaquant doit réussir à contourner les deux indépendamment. Sans ces protections, Opus 5 affiche un taux de 3,7 %, tandis que Sonnet 5 fait même mieux avec 0,93 %. Ce n'est que la combinaison du modèle et du logiciel de protection qui fait chuter le taux à zéro.