Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Une plainte fréquente concernant les produits en sandbox est qu'ils sont rarement bien documentés, rendant difficile l'évaluation de leur fiabilité. Anthropic a récemment publié un aperçu détaillé des mesures de sécurité mises en place pour leurs produits Claude.ai, Claude Code et Cowork, offrant ainsi une transparence accrue sur les techniques employées pour contenir les actions des agents IA.
Les produits d'Anthropic utilisent diverses méthodes pour restreindre les capacités des agents, notamment à travers des sandbox de processus, des machines virtuelles (VM), des limites de système de fichiers et des contrôles d'exfiltration. Ces mesures visent à établir des frontières claires sur ce que les agents peuvent accomplir, réduisant ainsi les risques d'exfiltration de données sensibles. Par exemple, si des identifiants ne sont jamais introduits dans la sandbox, ils ne peuvent pas être exfiltrés, que ce soit par une erreur utilisateur, une faille dans le modèle ou une attaque externe.
Claude.ai s'appuie sur gVisor pour sa sécurité, tandis que Claude Code utilise Seatbelt sur macOS et Bubblewrap sur Linux pour les exécutions locales. De son côté, Claude Cowork fonctionne avec une VM complète, utilisant le cadre de virtualisation d'Apple sur macOS et HCS sur Windows.
Anthropic a également partagé des anecdotes sur des risques précédemment identifiés, comme le vecteur d'exfiltration via api.anthropic.com/v1/files. Cela rappelle qu'il est temps de jeter un coup d'œil à l'outil srt (Anthropic Sandbox Runtime) open source d'Anthropic, qui a atteint une maturité suffisante pour être utilisé sérieusement.
