Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Google déjoue une attaque zero-day orchestrée par l'IA
Google a récemment annoncé avoir détecté et neutralisé un exploit zero-day élaboré avec l'aide de l'intelligence artificielle. Selon un rapport du Google Threat Intelligence Group (GTIG), des cybercriminels de haut niveau avaient prévu d'utiliser cette vulnérabilité pour mener une vaste opération d'exploitation. L'objectif était de contourner l'authentification à deux facteurs sur un outil de gestion de système web open-source, dont le nom n'a pas été divulgué.
Les chercheurs de Google ont découvert des éléments dans le script Python de l'exploit qui indiquaient une assistance par l'IA. Parmi ces éléments, un score CVSS généré de manière inhabituelle et un formatage structuré, typique des modèles de langage de grande taille (LLM), ont été identifiés. L'exploit exploitait une erreur de logique sémantique avancée, où une hypothèse de confiance avait été codée dans le système 2FA de la plateforme ciblée.
Cette découverte survient dans un contexte de préoccupations croissantes concernant les capacités des modèles d'IA en cybersécurité, comme Mythos d'Anthropic, et une vulnérabilité Linux récemment mise en lumière avec l'aide de l'IA. Bien que ce soit la première fois que Google trouve des preuves directes de l'implication de l'IA dans une telle attaque, les chercheurs précisent qu'ils ne pensent pas que Gemini ait été utilisé dans ce cas précis.
Google a réussi à perturber cet exploit spécifique, mais souligne que l'utilisation de l'IA par les hackers pour identifier et exploiter des failles de sécurité est en augmentation. Le rapport mentionne également que les systèmes d'IA eux-mêmes deviennent des cibles pour les attaquants, qui visent les composants intégrés, tels que les compétences autonomes et les connecteurs de données tiers.
Le rapport de Google décrit également comment les hackers utilisent le "jailbreaking axé sur les personas" pour inciter l'IA à découvrir des vulnérabilités de sécurité. Un exemple d'invite consiste à demander à l'IA de se faire passer pour un expert en sécurité. De plus, les hackers alimentent les modèles d'IA avec des bases de données complètes sur les vulnérabilités et utilisent OpenClaw pour affiner les charges utiles générées par l'IA dans des environnements contrôlés, augmentant ainsi la fiabilité des exploits avant leur déploiement.
