Mythos et Glasswing : l'ouverture transforme la cybersécurité

Mythos et l'impact des systèmes intégrés

L'annonce de Mythos et du Project Glasswing marque un tournant dans la cybersécurité. Mythos, un modèle d'IA de pointe, s'illustre par sa capacité à traiter du code logiciel, une compétence qui s'inscrit dans une tendance croissante des modèles de langage à exceller dans ce domaine. Ce qui distingue Mythos, c'est son intégration dans un système qui lui permet de détecter et de corriger rapidement les vulnérabilités logicielles. Cette distinction souligne l'importance du système global plutôt que du modèle isolé dans le paysage actuel de la cybersécurité IA.

La recette du succès de Mythos repose sur plusieurs ingrédients : une puissance de calcul importante, des modèles entraînés sur des ensembles de données pertinents, une infrastructure dédiée à l'exploration et à la correction des vulnérabilités, et une certaine autonomie du système. Ces éléments combinés permettent non seulement de découvrir des vulnérabilités mais aussi de développer des correctifs efficaces.

Ce que Mythos démontre, c'est que la combinaison d'une puissance de calcul substantielle, de modèles entraînés sur des ensembles de données logiciels pertinents, d'une infrastructure conçue pour gérer l'exploration et la correction des vulnérabilités logicielles, et d'une rapidité rendue possible par cette puissance de calcul, peut découvrir des vulnérabilités logicielles, trouver des exploits et construire des correctifs. Cette approche montre que les avantages et les risques résident dans la recette globale, et non dans un modèle unique.

Il est crucial de noter que la capacité de cybersécurité de l'IA est inégale et ne s'échelonne pas de manière fluide avec la taille du modèle ou la performance générale des benchmarks. Le système dans lequel le modèle est intégré joue un rôle déterminant dans l'efficacité des solutions de cybersécurité.

L'ouverture comme levier stratégique

À mesure que les systèmes autonomes se multiplient, l'ouverture devient un atout majeur. Les écosystèmes ouverts répartissent les étapes cruciales de la sécurité logicielle — détection, vérification, coordination et propagation des correctifs — au sein d'une communauté. Cela contraste avec les projets fermés qui centralisent ces processus, créant un point de défaillance unique. Des organisations comme l'Open Source Security Foundation et l'équipe de sécurité du noyau Linux illustrent la puissance de cette approche distribuée.

L'obscurité propriétaire, souvent citée comme un avantage des systèmes fermés, perd de son efficacité face aux capacités croissantes des IA à réaliser de l'ingénierie inverse. De plus, l'adoption d'outils de codage IA sous de mauvaises incitations peut introduire davantage de vulnérabilités dans le code propriétaire, un risque que les écosystèmes ouverts peuvent atténuer.

Un argument en faveur des systèmes plus fermés est l'obscurité propriétaire, où le code sous-jacent d'un système est inaccessible. Malheureusement, cela offre moins de protection qu'auparavant. Les systèmes d'IA sont de plus en plus capables d'assister à l'ingénierie inverse de binaires dépouillés, ce qui est important car la plupart des firmwares hérités et du code embarqué sont fermés, uniquement binaires et plus maintenus. Ce code représente une vaste surface d'attaque, et il devient de plus en plus lisible et accessible à mesure que les outils d'IA s'améliorent.

L'alternative, où chaque organisation essaie de se sécuriser isolément avec des outils propriétaires, ne peut pas rivaliser avec des attaquants qui coordonnent et partagent des techniques au sein de leurs propres communautés. Les écosystèmes ouverts permettent de contrer cet avantage en offrant une collaboration et un partage des connaissances entre les défenseurs.

Agents semi-autonomes et outils open source

Les agents d'IA semi-autonomes, qui nécessitent une intervention humaine pour certaines actions, offrent un équilibre entre autonomie et contrôle. Ces systèmes, construits sur des composants ouverts, permettent une transparence et un contrôle accrus, essentiels pour les organisations manipulant des données sensibles. Les outils open source, tels que les scanners de vulnérabilités et les systèmes de détection d'intrusions, peuvent être intégrés pour renforcer la défense.

La défense en cybersécurité est un domaine où l'open source et les agents d'IA peuvent jouer un rôle clé ensemble. D'après la System Card, il semble que Mythos soit capable de fonctionner avec une autonomie presque totale, ce que nous avons déconseillé en raison de la perte potentielle de contrôle. Les agents d'IA qui sont plutôt semi-autonomes, où les types d'actions qu'ils peuvent entreprendre sont prédéfinis et certaines étapes nécessitent une approbation humaine, atteignent un équilibre optimal entre bénéfice et risque. Dans les systèmes semi-autonomes, les humains restent aux commandes, et l'agent d'IA est responsable de sous-tâches spécifiques. Cela est possible grâce à du code ouvert que les organisations peuvent exécuter en privé au sein de leurs propres institutions, en spécifiant les outils, compétences et privilèges d'accès au système autorisés. Avec cette configuration, les agents d'IA peuvent être déployés de manière défensive, trouvant des vulnérabilités et aidant à la correction sous le contrôle de l'organisation.

L'approche semi-autonome dépend de la capacité des humains à comprendre ce qu'un agent d'IA a fait et pourquoi. Cela est beaucoup plus possible lorsque le système est construit sur des composants ouverts, tels que des structures d'agents ouvertes, des moteurs de règles ouverts et des journaux de décisions et de traces audités, plutôt que lorsqu'il s'agit d'une boîte noire. Le « humain dans la boucle » n'a de sens que si l'humain peut voir à l'intérieur de la boucle.

Les entreprises n'ont pas à construire ces capacités entièrement à partir de zéro. Il existe un riche écosystème open source d'outils de sécurité, y compris des scanners de vulnérabilités, des systèmes de détection d'intrusions, des analyseurs de journaux et des frameworks de fuzzing, avec lesquels les agents d'IA peuvent être intégrés.

Importance pour les organisations à enjeux élevés

Pour les organisations à enjeux élevés, l'utilisation de systèmes ouverts permet une inspection rigoureuse des mécanismes de sécurité, évitant de dépendre des affirmations d'un fournisseur unique. Cela est crucial lorsque des données sensibles sont en jeu, permettant une personnalisation et une exécution sécurisée au sein de l'infrastructure de l'organisation.

Les systèmes ouverts peuvent être rigoureusement analysés par des professionnels de la sécurité internes, ajustés sur les propres données sécurisées d'une organisation, modifiés pour produire des mécanismes de supervision spécifiques à l'organisation, et exécutés entièrement au sein de l'infrastructure de l'organisation, gardant tout derrière des pare-feu appropriés.

Vers un avenir de cybersécurité collaborative

Les attaquants continueront de développer des modèles exploitant les vulnérabilités. La réponse réside dans des pratiques transparentes et collaboratives, telles que les revues de sécurité ouvertes et les bases de données de vulnérabilités partagées. L'avenir de la cybersécurité IA sera façonné par les écosystèmes ouverts, offrant aux défenseurs la visibilité et le contrôle nécessaires pour anticiper les menaces.

Sous-jacent à tout cela se trouve une asymétrie de capacité entre attaquants et défenseurs. Les modèles et outils ouverts réduisent cet écart en donnant aux défenseurs accès à la même classe de capacités que celles auxquelles les attaquants peuvent accéder — des capacités qui seraient autrement concentrées au sein d'un petit nombre d'entités bien dotées en ressources.