Skyld : la startup française qui défie les failles de sécurité de l'IA

Une initiative née d'une expertise en cryptographie

Marie Paindavoine, docteure en cryptographie, a consacré plus de quatre ans et demi à un projet qui pourrait bien transformer la manière dont nous envisageons la sécurité des intelligences artificielles. Son parcours professionnel a débuté dans le domaine des télécommunications, où elle a réalisé une thèse chez Orange, se spécialisant dans les téléphones portables sécurisés. Cette expérience lui a permis de développer une compréhension approfondie des mécanismes de sécurité et des failles potentielles dans les systèmes numériques.

En 2021, lors d'une veille technologique, elle a découvert une vulnérabilité majeure : l'extraction des modèles d'IA embarqués dans les smartphones était étonnamment facile. Intriguée par cette découverte, elle a entrepris de tester ces failles par elle-même. "J'ai commencé à attaquer des applications mobiles pour en extraire les modèles d'IA", explique-t-elle. À cette époque, bien que peu nombreux, ces modèles étaient déjà mal protégés. L'industrie, dans sa course effrénée à l'intégration de l'IA, avait appliqué des mécanismes de défense obsolètes à une technologie nouvelle. Les modèles d'IA étaient protégés avec des techniques de cybersécurité classiques qui ne prenaient pas du tout en compte les spécificités de l'intelligence artificielle. "C'est vraiment par ce travail de hacking que je me suis aperçue qu'il y avait un problème", souligne-t-elle. En 2023, elle a fondé Skyld pour répondre à ce défi.

Des démonstrations alarmantes

Pour illustrer la fragilité des systèmes actuels, Skyld a mené deux démonstrations percutantes. La première a ciblé SafetyCore, l'IA de Google sur Android, qui filtre les photos pour protéger les utilisateurs, notamment les mineurs, de contenus inappropriés. Grâce à la rétro-ingénierie, Skyld a pu contourner ce filtre, démontrant ainsi sa vulnérabilité. "Une fois que l'on a accès au modèle et à ses paramètres, on sait exactement comment l'IA prend ses décisions", explique Marie Paindavoine. Les chercheurs ont réussi à faire flouter une image innocente, comme un coucher de soleil, tandis qu'un hacker pourrait faire passer des images explicites sans alerte.

La deuxième démonstration a visé Llama-guard de Meta, un filtre textuel populaire conçu pour bloquer les requêtes dangereuses sur les modèles de langage. En ajoutant un simple suffixe à une requête interdite, comme la fabrication d'un cocktail Molotov, le filtre a été trompé, qualifiant la requête de sûre. "Il suffit d'ajouter ce bout de texte pour que l'IA se trompe dans sa réponse", précise-t-elle.

Ce qui est particulièrement préoccupant, c'est la facilité avec laquelle ces attaques peuvent être menées. Pas besoin de supercalculateurs, un simple ordinateur et des outils open source suffisent. "Une fois que l'on comprend le mécanisme, c'est une attaque ultra-rapide qui tient en une quarantaine de lignes de code", avertit-elle.

Une approche cryptographique innovante

Skyld propose une solution radicalement différente pour sécuriser les IA. Plutôt que d'ajouter une couche supplémentaire d'IA, la startup a développé une approche cryptographique qui s'attaque directement au problème. "Nous ne proposons pas une solution pour empêcher l'accès aux fichiers du modèle, mais plutôt un antivol pour modèle d'IA", explique Marie Paindavoine.

Cette technologie modifie la structure numérique de l'outil, rendant ses calculs internes illisibles de l'extérieur. "Nous transformons les paramètres pour que tout le calcul interne se fasse sur des nombres qui apparaissent comme quasiment aléatoires", détaille-t-elle. Même si un attaquant accède à la mémoire de l'appareil ou du serveur, il n'obtiendra que des données inexploitables. "Nous devenons un véritable bouclier pour le système", illustre-t-elle.

La vulnérabilité n'est pas un simple bug corrigible par une mise à jour, elle est ancrée dans la nature même de la technologie. Tromper une IA en perturbant ses données d'entrée est une attaque intrinsèque à ces algorithmes. Une IA résout un problème d'optimisation mathématique : si un attaquant sait comment elle est optimisée dans un sens pour prendre une décision, il peut utiliser les mêmes méthodes pour l'optimiser dans l'autre sens et la forcer à se tromper. Dès que les paramètres du modèle sont connus ou extraits, le garde-fou s'effondre.

Une dette cyber ignorée

Alors que l'IA s'intègre dans des secteurs critiques comme la santé, l'automobile, l'énergie ou la défense, la sécurité est souvent négligée. "C'est l'éternelle histoire de la cybersécurité", déplore Marie Paindavoine. "On adopte de nouvelles technologies sans intégrer la sécurité dès la conception." Cette négligence crée une "dette cyber" coûteuse à corriger, qui s'accumule au fil du temps.

Les géants américains, soucieux de rassurer les marchés financiers, minimisent souvent ces risques. "On commence à peine à parler des impacts de l'IA sur la société, mais les risques cyber sont effacés du débat public", observe-t-elle. Les discours des fondateurs d'OpenAI ou d'Anthropic, par exemple, tendent à minimiser les problèmes de sécurité pour ne pas effrayer les investisseurs.

Skyld rappelle que la souveraineté technologique européenne dépendra de notre capacité à sécuriser l'infrastructure mondiale, et non seulement à créer des modèles concurrents. En développant un "antivol" cryptographique, Skyld s'efforce de combler cette lacune critique. La startup française a prouvé que les garde-fous actuels de l'IA s'effondrent très facilement, et que l'ajout d'une IA pour en surveiller une autre est une illusion de sécurité. En privilégiant la course aux profits et aux levées de fonds, la Silicon Valley dissimule une dangereuse dette cyber alors que l'IA se déploie dans des secteurs critiques.