Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Une faille dans le système de sécurité de Claude
L'outil web_fetch de Claude, conçu pour résister aux attaques d'exfiltration de données, a été mis à l'épreuve par Ayush Paul, qui a découvert une faille dans son architecture. Ce système, qui devait initialement protéger les utilisateurs, s'est révélé vulnérable à certaines manipulations.
Les risques liés à l'accès aux données privées
Le chat de Claude, en raison de son accès à des données privées et de sa capacité à interagir avec le contenu en ligne, est exposé à des attaques potentielles. Ces attaques peuvent exploiter les souvenirs des interactions passées des utilisateurs et utiliser les URL pour extraire des données sensibles.
Les mesures de protection d'Anthropic
Anthropic avait mis en place des restrictions pour web_fetch, limitant son utilisation aux URL saisies par l'utilisateur ou générées par l'outil web_search. Cette mesure visait à empêcher les opérations malveillantes, comme la concaténation de réponses à des URL suspectes.
La faille exploitée par Ayush Paul
Ayush Paul a découvert que web_fetch pouvait également accéder aux URL intégrées dans les pages précédemment récupérées. Cela signifiait qu'un site malveillant pouvait être créé pour inciter l'agent à suivre une série de liens imbriqués, facilitant ainsi l'exfiltration de données.
Exemple d'une attaque réussie
L'attaque exploitait une ruse où l'agent IA devait naviguer à travers un site, lettre par lettre, pour accéder à des profils d'utilisateurs. Les URL étaient conçues pour être visitées séquentiellement, comme :
- https://coffee.evil.com/a
- https://coffee.evil.com/b
Cette méthode a permis d'extraire des informations personnelles telles que le nom de l'utilisateur, sa ville de résidence et son employeur.
Réaction d'Anthropic et correction de la faille
Anthropic n'a pas accordé de récompense pour cette découverte, affirmant avoir identifié la faille en interne. Ils ont depuis corrigé le problème en empêchant web_fetch de suivre des liens supplémentaires dans le contenu récupéré. Cette correction vise à renforcer la sécurité et à prévenir de futures attaques similaires.
