Des intrusions en cascade liées à des fournisseurs d’IA, des outils open source capables d’automatiser l’attaque et des équipes de sécurité sous tension : la cybersécurité vit un virage brutal. Alex Stamos, directeur de la sécurité chez Cognition, décrit une phase où l’IA permet de franchir la « chaîne de destruction » en temps réel et met en cause l’équilibre économique du secteur. Les repères bâtis depuis le début des années 2000 sont mis à l’épreuve.
Des repères hérités du mémo Gates à l’accessibilité des moyens d’attaque
Le cadre actuel de la sécurité logicielle s’est structuré au début des années 2000 autour d’un appel à une informatique digne de confiance, période où de grandes entreprises comme Microsoft et Oracle ont recruté d’anciens hackers. Des pratiques de divulgation responsable, des programmes de primes aux bugs et une offre de conseil se sont installés. Dans le même temps, l’économie de la cybersécurité s’est sophistiquée : rémunérer des spécialistes, y compris ceux rencontrés à DEF CON, pour défendre les systèmes s’est avéré pertinent. Le secteur a débattu des vertus de l’obscurité face à la transparence open source, jusqu’à fixer des usages de divulgation et de notification. Alex Stamos avance que la donne économique change avec l’accessibilité des outils et modèles : il suffirait d’un Mac Studio et d’un modèle open-weight pour se lancer, sans être socialisé aux normes professionnelles.
Des attaques industrialisées par l’IA, de la prospection au passage à l’acte
Selon Alex Stamos, les capacités des adversaires montent en puissance avec l’IA et les modèles ouverts automatisent désormais la majeure partie de la chaîne de destruction. Celle-ci regroupe les étapes qui permettent d’impacter une cible, du vol d’informations à la désactivation d’un système en passant par le vol d’argent ou de Bitcoin. Là où la méthode traditionnelle reposait sur des recherches amont et un déploiement humain, des systèmes d’IA peuvent aujourd’hui explorer des cibles, identifier des bugs en temps réel, rédiger des exploits en temps réel et pénétrer des entreprises. Alex Stamos cite aussi l’usage de l’IA par des acteurs étatiques, et rapproche la période actuelle d’une nouvelle frontière, allant jusqu’à évoquer une « ère sombre » transitoire.
Vous suivez la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Supply chain logicielle : d’un fournisseur d’IA à 5 000 expositions potentielles
Un maillon de la chaîne des prestataires d’IA, Fireworks, a été ciblé et des clés API y ont été dérobées. Ces identifiants ont ensuite permis de pénétrer Cursor, où un plugin malveillant a été déployé. L’extension a touché 5 000 autres entreprises, créant autant de violations potentielles. L’incident Cursor s’inscrit dans une série d’atteintes, avec des neoclouds visés successivement et un piratage de Binance présenté comme le plus grand vol connu. Alex Stamos décrit un climat d’atteintes continues au sein de l’industrie technologique.
Des outils ouverts, d’ARTEX à GLM-5.3, et une portée déjà internationale
ARTEX, outil open source d’origine chinoise, est accessible avec une traduction anglaise sur GitHub. Alimenté par un modèle comme GLM-5.3, il serait susceptible de permettre l’infiltration d’un grand nombre d’organisations, selon Alex Stamos. Parmi les premières victimes mentionnées figurent trois banques sud-coréennes et, d’après les informations de cette semaine, près de 200 sociétés supplémentaires auraient été affectées. Alex Stamos souligne qu’il est remarquable que des entités à forte valeur puissent être compromises à l’aide d’outils disponibles en téléchargement libre, une situation qui ne s’était pas produite depuis longtemps. Dans ce contexte, octobre, mois de sensibilisation à la sécurité et d’habituels rappels de bonnes pratiques, a coïncidé avec de graves vulnérabilités sur des briques comme PHP et Node et avec de multiples intrusions moins médiatisées. Des responsables sécurité disent fonctionner à un niveau d’alerte élevé depuis octobre et en novembre. La question de la désinformation dopée à l’IA sur les réseaux sociaux fait aussi partie des sujets de préoccupation.
