Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Todd McKinnon, PDG d'Okta, a récemment mis en avant la nécessité pour les entreprises d'intégrer un "interrupteur d'arrêt" dans leurs agents d'intelligence artificielle (IA). Cette mesure permettrait de révoquer instantanément l'accès de ces agents en cas de problème, garantissant ainsi une sécurité accrue. McKinnon a expliqué que les entreprises souhaitent pouvoir réagir rapidement si quelque chose tourne mal.
Okta, qui se présente comme une couche de sécurité pour ces agents, est déjà utilisée par des millions de travailleurs pour accéder à diverses applications et services. Avec l'essor des agents d'IA, qui pourraient bientôt nécessiter un accès similaire, McKinnon a expliqué que son entreprise se concentre sur la sécurisation de ces interactions. Il a plaidé pour un interrupteur d'arrêt afin de contrôler les agents d'IA lorsque les choses tournent mal.
Lors d'une interview sur le podcast "Decoder" de The Verge, McKinnon a décrit ces agents comme une nouvelle catégorie de travailleurs numériques. Capables d'accéder à des systèmes, de manipuler des données et d'effectuer des actions au sein des logiciels d'une entreprise, ces agents nécessitent des contrôles stricts. McKinnon a insisté sur la nécessité de suivre ces agents, de définir leurs rôles et permissions, et de pouvoir les "débrancher" s'ils deviennent incontrôlables.
Les entreprises expérimentent de plus en plus avec des agents d'IA pour automatiser des flux de travail, développer des logiciels et même gérer certaines tâches physiques. Ce type de pouvoir nécessite des paramètres stricts, a-t-il déclaré. Les avantages des agents d'IA incluent la productivité, mais les risques sont tout aussi significatifs et nécessitent des limites réfléchies.
La proposition d'Okta ne vise pas à éliminer les agents d'IA, mais à limiter leur accès aux données sensibles. Harish Pari, vice-président senior de la sécurité de l'IA chez Okta, a souligné que le risque est déjà présent, car les agents d'IA ont besoin d'accéder à des systèmes et données sensibles, créant ainsi de nouveaux vecteurs d'attaque.
Okta a publié un communiqué de presse le 15 mars intitulé "Le plan pour l'entreprise agentique sécurisée", affirmant que les entreprises doivent pouvoir révoquer instantanément l'accès des agents à tous les systèmes pour contenir les risques. Ce cadre inclut également l'application en temps réel des permissions de partage de données, l'approbation humaine pour les actions risquées, et des journaux d'audit détaillés qui suivent chaque décision et tentative d'accès des agents.
En parallèle, un projet de loi californien proposé par le sénateur Scott Wiener, qui exigeait des entreprises qu'elles intègrent un système de sécurité pour l'IA, a été soutenu par Elon Musk mais veto par le gouverneur Gavin Newsom. Malgré cela, McKinnon a insisté sur l'importance pour les entreprises privées de développer leurs propres systèmes de sécurité, soulignant que des choses vont mal tourner, et qu'il y aura des problèmes, des menaces et des injections de prompts. Il est crucial d'empêcher les agents d'accéder aux données en cas de crise, presque comme si vous débranchiez une machine du réseau.
