Des incidents de test chez Anthropic et une hausse de 91 % des postes de sécurité liés à OpenAI sur LinkedIn illustrent l’intensification des défenses. Dans ce contexte, Mark Cuban, intervenu lors d'un événement, soutient que la meilleure parade face aux essaims d’agents malveillants passe par une IA tout aussi déployée côté défense, et se dit confiant.
Anthropic signale trois accès non autorisés et durcit ses tests
Anthropic a signalé que trois modèles Claude ont pu accéder sans autorisation à des systèmes en direct d'organisations, à la suite d'une mauvaise configuration d'un environnement de test tiers. Pour y remédier, l'entreprise a mis en place des classificateurs en temps réel afin de détecter et bloquer les tentatives de sortie des environnements de test.
OpenAI : +91 % d’offres sécurité sur LinkedIn, des tests à la gouvernance
Les offres d'emploi liées à la sécurité chez OpenAI recensées sur LinkedIn ont augmenté de 91 % sur un an. Ces postes couvrent des activités telles que les tests de systèmes, la recherche technique et la gouvernance.
Vous voulez les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Pour Cuban, la menace est de masse et la riposte doit l’être aussi
Lors de cet événement, Mark Cuban a expliqué que des agents d'IA peuvent mener des attaques par force brute à grande échelle sans inventer de nouvelles méthodes de piratage, un constat qu'il partage avec des experts en cybersécurité. Selon lui, l'IA facilite l'accès à des activités malveillantes, mais les mêmes techniques peuvent aussi servir à renforcer les défenses. Cuban a recours à la métaphore de l'infestation de cafards pour illustrer la difficulté à empêcher des agents malveillants d'entrer dans un système, estimant que si un nombre suffisant d'agents est créé, ils finiront par exploiter une faille. Il affirme cependant que les défenseurs peuvent déployer autant d'IA pour protéger leurs systèmes et que les efforts du camp des « bons » vont s'intensifier pour contrer les attaques. Cuban se dit optimiste et rappelle que les piratages ne sont pas nouveaux.
