Nvidia NemoClaw : Sécurité renforcée ou illusion pour les agents IA ?

Nvidia a récemment attiré l'attention avec l'annonce de NemoClaw, un projet ambitieux présenté lors de la keynote de la conférence GTC. NemoClaw est conçu comme l'infrastructure de référence pour la plateforme OpenClaw, promettant une installation simplifiée et des fonctionnalités de sécurité et de confidentialité améliorées. Ce projet vise à faciliter la création de "claws", des assistants IA capables d'exécuter des tâches complexes de manière autonome, sans nécessiter de prompts constants ou d'instructions continues.

Le PDG de Nvidia, Jensen Huang, a décrit OpenClaw comme "un système d'exploitation pour l'IA personnelle", soulignant son potentiel à transformer les interactions avec les systèmes IA. Ces "claws" sont alimentés par de grands modèles de langage comme Claude et peuvent gérer des tâches variées, allant des emails à la messagerie. Nvidia espère que ces applications deviendront plus courantes à l'avenir.

Selon Nvidia, NemoClaw peut être configuré en une seule commande, installant les composants et logiciels nécessaires pour la création d'agents IA. La pile de référence inclut une couche de confiance, créant un environnement isolé avec des garde-fous basés sur des politiques pour sécuriser la gestion des données par l'assistant IA. Un routeur de confidentialité permet de connecter l'agent à des outils cloud en toute sécurité.

Les agents IA nécessitent une puissance de calcul constante, et NemoClaw est optimisé pour fonctionner 24/7 sur des plateformes dédiées, y compris les PC RTX de Nvidia et d'autres ordinateurs portables et stations de travail. Dell a également introduit un superordinateur NemoClaw, le Dell Pro Max avec GB10 et GB300, pour répondre à cette demande croissante. Jusqu'à présent, le Mac Mini a été le matériel le plus populaire pour les passionnés d'OpenClaw, mais les fabricants commencent à développer des ordinateurs spécifiques pour cet usage.

Cependant, la question de la sécurité reste cruciale. Des experts en sécurité avaient rapidement tiré la sonnette d'alarme concernant la sécurité d'OpenClaw, avertissant que l'outil pourrait agir comme une "porte dérobée" s'il n'était pas isolé. Des attaquants pourraient cacher des instructions malveillantes dans des emails ou des sites web, et un agent compromis pourrait facilement contourner les outils de sécurité traditionnels.

Melissa Bischoping, directrice senior de la sécurité et de la recherche en conception de produits chez Tanium, a déclaré que bien que l'investissement de Nvidia dans NemoClaw soit un signe positif, les systèmes d'IA agentique nécessitent des fonctionnalités de sécurité robustes pour véritablement protéger les utilisateurs, surtout compte tenu du rythme rapide de l'innovation. Elle espère que Nvidia intégrera des mesures de confidentialité et de sécurité robustes pour permettre l'adoption et l'innovation avec leur agent tout en fournissant des garde-fous pour protéger les utilisateurs et leurs données.

Karthik Ranganathan, PDG et cofondateur de la société de gestion de bases de données Yugabyte, a noté que NemoClaw introduit des fonctionnalités de sécurité nécessaires là où il n'y en avait pas auparavant. "NemoClaw s'assure que l'agent fonctionne dans un environnement isolé et que son trafic réseau peut être suivi et inspecté", a-t-il déclaré. Avec un plus grand contrôle des utilisateurs, il est plus facile de limiter l'agent dans certaines situations, comme l'empêcher d'accéder à un site web spécifique.

Cependant, Ranganathan affirme que NemoClaw n'est pas encore totalement au point, et certains "scénarios cauchemardesques" restent non résolus. Il a donné l'exemple d'une personne utilisant OpenClaw pour résumer et répondre à des emails. Si le claw commençait à supprimer de grandes quantités d'emails sans avertissement, il y aurait peu de choses à faire pour l'arrêter. "NemoClaw ne traite pas ce problème."