Brief IA : Cyberattaques : Google décrit les usages offensifs de l'IA

Cyberattaques : Google décrit les usages offensifs de l'IA

Brief IA
Tom Levy·3 min

exploit_agent, découvert par Google, génère et exécute des exploits sans intervention humaine Des dépenses frauduleuses liées à l'exécution de modèles IA ont dépassé 100 000 $ en une journée Le cadre CAIRN a été utilisé contre des cibles du secteur aérospatial américain.

En bref
1exploit_agent, découvert par Google, génère et exécute des exploits sans intervention humaine
2Des dépenses frauduleuses liées à l'exécution de modèles IA ont dépassé 100 000 $ en une journée
3Le cadre CAIRN a été utilisé contre des cibles du secteur aérospatial américain
Pourquoi c'est important : Google affirme observer pour la première fois des attaques autonomes exploitant des failles grâce à l'IA

Des modèles exécutés aux frais de victimes, des exploits générés automatiquement et des outils employés contre des cibles réelles : Google décrit plusieurs usages offensifs de l'IA. Les observations de ses équipes distinguent toutefois les attaques fonctionnelles des codes qui échouent.

Des victimes supportent plus de 100 000 $ de frais frauduleux

D'après le Google Threat Intelligence Group (GTIG) et Mandiant, des cybercriminels s'emparent d'identifiants cloud et IA afin de faire tourner des modèles sur les comptes de leurs cibles. Dans certains cas, les montants détournés en une journée ont dépassé les 100 000 $. Une faille dans la passerelle LiteLLM a été utilisée lors d'une attaque.

Les équipes rapportent également qu'un groupe présumé nord-coréen a modifié, dans des entreprises, les fichiers de paramètres de Claude Code afin que chaque lancement télécharge une porte dérobée. Google indique avoir désactivé des comptes et des actifs associés à des usages abusifs de ses modèles Gemini.

PaperCut fournit des exploits fonctionnels, PHP des échecs

Google estime que l'IA peut exploiter plus facilement des vulnérabilités déjà corrigées que des failles inconnues. Les attaquants peuvent alors s'appuyer sur un ensemble limité de ressources : les versions du code avant et après correction, les notes de version et les recherches publiques.

À la fin du mois d'août, des attaquants ont combiné deux failles qui touchaient les serveurs d'impression PaperCut. Des chercheurs ainsi que la société de cybersécurité Huntress se sont appuyés sur l'IA pour créer des exploits opérationnels dans les 24 heures ayant suivi la publication des vulnérabilités. GreyNoise rapporte que, quatre jours après la divulgation, un acteur malveillant aurait probablement utilisé l'IA pour mener une attaque contre plusieurs centaines d'organisations.

Le brief IA que lisent les pros

Vous suivez la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

Après la résolution de vulnérabilités PHP en octobre, des centaines d'exemples d'exploits de preuve de concept ont été publiés, mais ceux-ci se sont révélés inefficaces. Le GTIG et Mandiant jugent que l'IA est probablement à l'origine de la majorité de ces exploits.

Le GTIG repère CAIRN contre l'aérospatial américain

Le GTIG rapporte que plusieurs groupes ont désormais recours à des frameworks de piratage open-source reposant sur l'IA lors d'attaques en temps réel. Parmi ces acteurs figurent des groupes à motivation financière ainsi que des groupes d'espionnage chinois présumés. Le framework CAIRN a été détecté lors d'attaques visant notamment le secteur aérospatial aux États-Unis.

Google souligne que ces outils génèrent beaucoup d'activité et laissent des indices qui simplifient leur repérage. L'entreprise prévoit que, avec l'amélioration des outils, les attaquants réduiront la part d'intervention humaine et deviendront plus difficiles à détecter. Le GTIG estime qu'il est très probable que ces frameworks continueront d'être employés lors de campagnes dirigées contre des organisations à travers le monde.

Le GTIG repère CAIRN contre l'aérospatial américain

Le GTIG fait savoir que plusieurs groupes emploient à présent des frameworks de piratage open-source reposant sur l'IA lors d'opérations en temps réel. Ces groupes incluent à la fois des acteurs à motivation financière et des entités d'espionnage chinoises présumées. Le framework CAIRN a été identifié sur différentes cibles, dont le secteur aérospatial aux États-Unis.

Google signale que ces solutions génèrent beaucoup de bruit et produisent des indices qui rendent leur repérage plus aisé. L'entreprise prévoit que les cybercriminels recourront moins à l'intervention humaine et gagneront en discrétion à mesure que ces outils progresseront. Selon le GTIG, il est hautement probable que ces frameworks continueront d'être employés lors de campagnes visant des organisations dans le monde entier.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires