Cisco DefenseClaw : révolutionner la sécurité de l'IA agentique

Cisco a récemment fait une annonce majeure dans le domaine de la sécurité de l'intelligence artificielle agentique avec le lancement de DefenseClaw. Cet outil vise à combler une lacune critique en matière de supervision des agents autonomes, qui sont de plus en plus utilisés pour des tâches telles que la surveillance des e-mails ou la réservation de vols. Bien que ces technologies soient prometteuses, elles posent également des risques de sécurité importants. Cisco se positionne ainsi dans un secteur concurrentiel où de nombreuses entreprises cherchent à offrir des solutions de supervision pour l'IA agentique.

L'intelligence artificielle agentique a rapidement captivé l'imagination du public, mais elle est également associée à des risques de sécurité considérables. Les fournisseurs de logiciels d'entreprise cherchent à soutenir les agents bénéfiques tout en bloquant ceux qui pourraient être nuisibles. C'est dans ce contexte que Cisco Systems a dévoilé DefenseClaw, un outil qui se veut être la "couche opérationnelle" manquante pour la sécurité agentique. Selon DJ Sampath, responsable des logiciels d'IA chez Cisco, DefenseClaw est conçu pour "garder une griffe gouvernée". Il a affirmé dans un article de blog que cet outil permet de passer de "zéro à griffe gouvernée en moins de cinq minutes". DefenseClaw sera disponible sur GitHub à partir du 27 mars.

Gouverner les griffes

L'annonce de DefenseClaw a été faite lors du salon annuel de la sécurité RSA à San Francisco. Cisco a souligné que seulement 5 % de l'IA agentique en entreprise a réussi à passer des tests à la production, selon une enquête menée auprès de grands clients d'entreprise. DJ Sampath a noté que OpenClaw, un cadre d'IA agentique open-source, est en train de devenir un outil indispensable pour les passionnés de technologie. OpenAI a embauché Peter Steinberger, le créateur d'OpenClaw, tandis que Nvidia a développé sa propre version du cadre, NemoClaw. Sampath a partagé une anecdote personnelle, expliquant comment lui et sa femme utilisent OpenClaw pour organiser les emplois du temps de leurs enfants, illustrant ainsi la rapidité avec laquelle ces outils se développent de manière non gouvernée.

Le message sous-jacent du blog de Sampath est clair : les "griffes" sont déjà présentes, et il est temps de les aborder de manière sécurisée. Dans un développement connexe, Meta, propriétaire de Facebook, Instagram et WhatsApp, a acquis la plateforme sociale de bots Moltbook, qui a montré les avantages et les inconvénients de l'utilisation d'OpenClaw à son plein potentiel.

DefenseClaw est conçu pour s'intégrer avec divers outils, comme OpenShell, le logiciel de bac à sable de code récemment dévoilé par Nvidia lors de sa conférence GTC. Cisco a également mentionné l'importance de ses propres outils de scan. Sampath a posé des questions cruciales : "Qui gère les listes de blocage ? Qui reçoit les alertes lorsque quelque chose ne va pas à 2 heures du matin ?" La réponse est DefenseClaw.

Trois fonctions principales de DefenseClaw

DefenseClaw remplit trois fonctions essentielles, selon Sampath. Premièrement, il scanne chaque morceau de code avant son exécution. "Chaque compétence, chaque outil, chaque plugin, avant d'être autorisé dans votre environnement de griffe, et chaque morceau de code généré par la griffe est scanné." Cette opération de scan est composée de plusieurs outils individuels, tels que l'outil de scan de compétences open-source de Cisco.

Deuxièmement, l'outil détecte les menaces en scannant tous les messages entrant et sortant de l'agent en temps réel. Troisièmement, DefenseClaw bloque automatiquement une "compétence", comme un compte de serveur de messagerie, en retirant ces autorisations du bac à sable. Le bac à sable, dans ce cas, peut être OpenShell de Nvidia. Sampath a souligné que la prévention automatique des opérations "n'est pas une suggestion ; ce sont des murs."

Sampath a donné un exemple d'exécution de l'outil depuis la ligne de commande pour d'abord scanner une opération d'installation d'OpenClaw :

defenseclaw skill install community/jira-triage

Avec une telle demande, DefenseClaw "scannera d'abord, vérifiera vos listes de blocage/autorisation, générera un manifeste, et seulement ensuite installera. Rien ne contourne la porte d'admission."

Cisco utilise son outil d'analyse de logs Splunk comme système de surveillance de référence pour toutes les griffes, a déclaré Sampath. "Chaque griffe est née observable", a-t-il écrit, "Toutes se dirigent vers Splunk en tant qu'événements structurés dès que votre griffe est en ligne."

En fait, Cisco a annoncé plusieurs extensions supplémentaires de Splunk destinées à rendre l'outil plus semblable à un centre d'opérations de sécurité automatisé (SOC). Par exemple, un Agent de Réponse Guidée, qui sera en version alpha "bientôt", a déclaré Cisco, "aidera les équipes SOC à passer de l'hypothèse de détection à la production en quelques minutes avec précision - permettant aux équipes d'importer, d'ajuster et de taguer rapidement les détections."

Un ensemble d'outils multi-facettes

DefenseClaw est l'un des nombreux éléments d'un ensemble d'outils de sécurité pour l'IA agentique que Cisco a annoncé lundi. D'autres parties incluent des améliorations à Cisco Secure Access pour appliquer la vérification d'identité des agents et le contrôle d'accès, ainsi que pour appliquer des procédures de zero-trust à chaque agent créé.

Cisco a affirmé qu'il va au-delà du simple scan de code avec l'introduction d'outils pour simuler les risques potentiels, c'est-à-dire, simuler des menaces réelles. Une nouvelle offre, Cisco AI Defense : Explorer Edition, "réalisera des tests adversariaux multi-tours pour les modèles et applications qui alimentent les flux de travail agentiques", et examinera les modèles d'IA eux-mêmes pour "valider la résistance à l'injection de prompts, aux jailbreaks et à d'autres sorties non sécurisées."

Cisco propose également un SDK d'exécution d'agent qu'il prétend "intégrer la mise en application des politiques" dans le code au fur et à mesure de son développement.

Un marché concurrentiel

Cisco est salué pour son branding astucieux avec DefenseClaw dans ce qui deviendra un marché très concurrentiel. Pratiquement tous les fournisseurs d'entreprise s'engagent à sécuriser, authentifier et potentiellement bloquer les agents en production.

Cela inclut les entreprises de cybersécurité traditionnelles qui gèrent le zero trust, telles que Palo Alto Networks et Zscaler ; les entreprises de DevOps qui s'occupent du scan de code, comme JFrog et GitLab ; et les entreprises d'observabilité qui offrent des outils pour la supervision du code à la fois au moment du développement et en temps d'exécution, telles que Dynatrace et Datadog.

Et puis il y a Anthropic, OpenAI et Google, qui offrent tous des outils pour le scan de code et des tâches connexes.

Il reste à voir si le contrôle de Cisco sur les réseaux d'entreprise - détenant une part dominante dans le routage et la commutation des campus et des zones étendues - donnera à l'entreprise un avantage face à ces nombreuses autres offres. Il n'est pas encore clair non plus si les entreprises délégueront entièrement la question à leurs équipes de sécurité ou pousseront simplement les développeurs à être plus prudents avec leur code dès le départ.

Certaines entreprises pourraient simplement lever les mains et interdire complètement les "griffes".