Brief IA : Cyberattaques par IA : le délai de réponse sous pression

Cyberattaques par IA : le délai de réponse sous pression

Brief IA
Tom Levy·4 min

Google dit avoir découvert exploit_agent, un cadre multi-agent capable de générer puis d'exécuter des exploits automatiquement. Son rôle dans le vol de données découvert sur le même serveur n'est pas établi. Keith Prabhu juge encore limitées les preuves d'une efficacité accrue de chaque attaque grâce à l'IA.

En bref
1Google dit avoir découvert exploit_agent, un cadre multi-agent capable de générer puis d'exécuter des exploits automatiquement.
2Son rôle dans le vol de données découvert sur le même serveur n'est pas établi.
3Keith Prabhu juge encore limitées les preuves d'une efficacité accrue de chaque attaque grâce à l'IA.
4Les experts recommandent d'accélérer la détection et le confinement pour suivre la cadence des attaques.
Pourquoi c'est important : la rapidité de réaction devient cruciale face à l'automatisation croissante des cyberattaques.

Pour Jonathan Ong, analyste chez Omdia, les entreprises doivent accélérer leur réaction face aux attaques assistées par des cadres d'IA. Google dit avoir repéré un dispositif capable de rechercher puis d'exploiter des vulnérabilités de façon autonome, sans avoir établi son rôle dans un vol de données découvert sur le même serveur.

Les experts préconisent un confinement préparé à l'avance

Les décisions manuelles et une visibilité morcelée sur la sécurité aggravent le problème, estime Keith Prabhu, PDG de Confidis. Il recommande aux responsables de la sécurité de recenser leurs actifs en continu, de hiérarchiser les corrections selon le risque et de relier les signaux suspects entre les différents environnements informatiques. Pour Jonathan Ong, analyste senior chez Omdia, les délais de réaction et de confinement doivent suivre la cadence des attaquants.

Amit Kumar Jena, responsable du développement de l'IA chez Kanerika, préconise un traitement spécifique des systèmes accessibles depuis Internet : leurs vulnérabilités pourraient être exploitées très vite après publication. Il recommande un circuit de correction accéléré, assorti de patching virtuel durant les tests des correctifs. Il propose aussi de décider au préalable quelles mesures pourront être automatisées, notamment l'isolement des terminaux ou la révocation des sessions.

Keith Prabhu réserve cette automatisation aux actions maîtrisées et réversibles. Les décisions pouvant perturber sensiblement les opérations devraient, selon lui, rester soumises à une validation humaine. Il recommande de réduire les attentes évitables sans renoncer à cette supervision, puis de vérifier régulièrement par des tests que la réponse suit la cadence d'une attaque.

Google décrit un outil qui examine le code corrigé

C'est sur un serveur de staging accessible que les chercheurs de Google disent avoir découvert exploit_agent, un dispositif multi-agent relié à plusieurs grands modèles de langage. Sa configuration prévoit l'examen des modifications apportées au code après une correction de sécurité, la recherche de vulnérabilités et la production d'exploits, sans guidage humain à chaque étape. Il peut également lancer ces exploits automatiquement.

Google présente cette découverte comme sa première observation d'un tel dispositif entre les mains d'acteurs malveillants. Pour les équipes du Google Threat Intelligence Group et de Mandiant, elle suggère que l'automatisation dépasse désormais l'assistance à des tâches isolées pour couvrir des portions plus larges d'une cyberattaque. Ce cadre pourrait notamment exploiter les failles déjà rendues publiques, dites n-days, alors que les entreprises n'ont pas achevé leurs mises à jour.

Le brief IA que lisent les pros

L’IA appliquée, concrètement ?

Les cas d’usage qui marchent vraiment, décryptés chaque soir en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

Google indique avoir également découvert sur le serveur des données dérobées aux victimes visées et des scripts destinés à poursuivre les opérations après une intrusion initiale. Les indices recueillis suggèrent que l'opérateur s'intéressait particulièrement à des sites français relevant des médias, du divertissement ou de l'éducation. Le lien entre le vol et les opérations autonomes d'exploit_agent n'a toutefois pas été établi par Google.

L'accélération ne prouve pas une meilleure efficacité

D'après GreyNoise, une opération séparée ciblant les serveurs d'administration d'impression PaperCut a affecté plusieurs centaines d'organisations dans les quatre jours suivant la révélation des failles. Selon l'entreprise, l'auteur de l'attaque aurait vraisemblablement utilisé des outils d'intelligence artificielle pour concevoir et valider ses exploits. Google cite également cet épisode.

Jonathan Ong décrit avant tout une accélération de procédés connus : les cadres de pentesting et de red-teaming mobilisent des techniques établies, exécutées beaucoup plus rapidement avec un LLM. Keith Prabhu juge pour sa part encore limitées les preuves d'un gain d'efficacité pour une attaque prise individuellement. Le risque principal serait, selon lui, de multiplier les tentatives sur une période plus courte, avec potentiellement davantage de compromissions réussies même sans amélioration de chacune d'elles.

Ces cadres produisent généralement de nombreux signaux détectables, relève Jonathan Ong. Il estime que des outils de détection et de réponse EDR, XDR ou MDR bien configurés et effectivement surveillés devraient identifier une part importante des activités malveillantes. Google avertit néanmoins que cette visibilité n'empêche pas les cadres d'atteindre leurs objectifs.

Prabhu alerte sur les organisations aux moyens limités

Les petites structures et les prestataires disposant de ressources de sécurité restreintes pourraient être particulièrement exposés, estime Keith Prabhu. Il ne situe pas nécessairement le risque dans un secteur précis : un patrimoine informatique ancien mal entretenu ou des contrôles d'identité insuffisants pourraient accroître l'exposition quelle que soit l'activité.

Selon le dirigeant de Confidis, les cadres agentiques open-source pourraient rendre les attaques plus accessibles à des cybercriminels peu expérimentés, en coordonnant des outils existants et en adaptant les opérations aux résultats obtenus. Ces capacités ne dispensent cependant pas de compétences techniques et n'assurent pas la réussite d'une intrusion, souligne-t-il.

Jonathan Ong recommande de conserver les pratiques de protection éprouvées plutôt que de refondre les défenses, en privilégiant la sécurité du cloud et des identités. Il cite notamment l'authentification multifactorielle, la robustesse des mots de passe et les dispositifs bloquant les connexions répétées.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires