L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Les préoccupations de sécurité autour de l'IA selon Utimaco
Dans un eBook intitulé “AI Quantum Resilience”, publié par la société Utimaco, il est révélé que les organisations voient les risques de sécurité comme le principal obstacle à l'adoption efficace de l'intelligence artificielle. Ce document met en lumière les défis liés à la sécurisation des données que les entreprises utilisent pour développer leurs modèles d'IA.
L'IA tire sa valeur des données accumulées par les organisations, mais ces données sont vulnérables à divers risques de sécurité. En effet, la construction et l'entraînement des modèles sur ces données posent des menaces supplémentaires, notamment en ce qui concerne la protection de la propriété intellectuelle, souvent mise en péril par des techniques telles que l'ingénierie des prompts.
Gestion des menaces et adaptation des protocoles
Les auteurs de l'eBook insistent sur la nécessité pour les organisations de gérer les menaces tout au long du développement et de l'implémentation de l'IA. Ils soulignent également l'importance de préparer les entreprises à adapter leurs protocoles de sécurité. Ces ajustements deviendront cruciaux si des outils de décryptage basés sur l'informatique quantique deviennent accessibles aux cybercriminels.
Utimaco identifie trois domaines clés où les menaces sont particulièrement préoccupantes :
- Les données d'entraînement peuvent être altérées par des acteurs malveillants, compromettant ainsi les résultats des modèles de manière subtile et difficile à détecter.
- Les modèles eux-mêmes risquent d'être extraits ou copiés, ce qui porte atteinte aux droits de propriété intellectuelle des entreprises.
- Les données sensibles utilisées lors de l'entraînement ou de l'inférence peuvent être exposées à des fuites.
L'impact futur de l'informatique quantique
Selon le rapport, la cryptographie à clé publique actuelle pourrait devenir vulnérable dans la prochaine décennie, période durant laquelle des systèmes quantiques puissants pourraient voir le jour. Utimaco avertit que certains groupes organisés collectent déjà des données chiffrées dans l'intention de les déchiffrer une fois que la technologie quantique sera disponible. Les données sensibles à long terme, telles que celles utilisées pour l'entraînement des modèles, les informations financières ou la propriété intellectuelle, nécessitent donc une protection contre un décryptage futur.
La transition vers une cryptographie résistante aux quantiques aura des répercussions sur les protocoles, la gestion des clés, l'interopérabilité des systèmes et les performances. Cette transition prendra probablement plusieurs années. Les auteurs du rapport recommandent une approche de ‘crypto-agilité’, qui permettrait de changer d'algorithmes cryptographiques sans avoir à redessiner les systèmes sous-jacents. Cette approche repose sur la cryptographie hybride, combinant des algorithmes établis avec des méthodes post-quantiques, telles que celles proposées par le NIST.
Au-delà de la cryptographie : dispositifs de confiance
Les auteurs soulignent que la cryptographie seule ne suffit pas à couvrir tous les risques possibles. Ils préconisent l'utilisation de dispositifs de confiance basés sur le matériel, capables d'isoler les clés cryptographiques et les opérations sensibles des environnements de travail normaux.
Pour les entreprises qui développent leurs propres outils et processus d'IA, il est crucial d'étendre la protection tout au long du cycle de vie de l'IA, depuis l'ingestion des données jusqu'à l'inférence en production. Des clés matérielles peuvent être générées et stockées dans une frontière sécurisée, permettant de vérifier l'intégrité des modèles avant leur déploiement et de protéger les données sensibles lors de l'inférence.
Enclaves matérielles et gestion des clés
Les enclaves basées sur le matériel isolent les charges de travail, empêchant même les administrateurs système d'accéder aux données en cours de traitement. Les modules matériels peuvent vérifier que l'enclave de données est dans un état de confiance avant de libérer les clés, grâce à un processus d'attestation externe. Cela contribue à créer une ‘chaîne de confiance’ du matériel à l'application.
La gestion des clés basée sur le matériel produit des journaux résistants à la falsification, couvrant l'accès et les opérations, pour soutenir des cadres de conformité tels que la Loi sur l'IA de l'UE.
Anticiper les risques futurs
Les risques inhérents aux systèmes d'IA sont bien connus et souvent exploités. Cependant, le risque lié à la capacité de l'informatique quantique à déchiffrer des données actuellement sécurisées est moins immédiat. Néanmoins, Utimaco souligne que les implications de cette menace devraient influencer les décisions actuelles concernant les données et l'infrastructure. Il est recommandé de renforcer les contrôles tout au long du cycle de vie de développement et de déploiement de l'IA, d'introduire la ‘crypto-agilité’ pour faciliter la transition vers une sécurité post-quantique, et d'établir des mécanismes de confiance basés sur le matériel pour protéger les actifs de grande valeur.
