France : 655 M€ pour l'IA, mais à quel coût en sécurité ?

Un investissement colossal pour l'IA dans le secteur public

Le gouvernement français a récemment dévoilé un plan ambitieux visant à investir 655 millions d'euros dans le développement et l'intégration de l'intelligence artificielle au sein des services publics. Ce projet a pour objectif d'équiper 2 millions de fonctionnaires avec des assistants IA souverains. L'idée est de moderniser les services publics en automatisant les tâches répétitives et en simplifiant les interactions avec les citoyens. Cependant, cette initiative, bien que prometteuse, s'accompagne de défis significatifs, notamment en matière de cybersécurité.

Le déploiement de ces assistants IA pose plusieurs enjeux, parmi lesquels la formation des agents et la gestion du changement organisationnel. Mais le défi le plus pressant est celui de la cybersécurité. En effet, intégrer 2 millions de nouvelles identités numériques dans l'appareil d'État constitue un défi sans précédent pour la sécurité nationale.

Transition des identités humaines aux identités numériques

La sécurisation des agents de la fonction publique repose traditionnellement sur des méthodes bien établies, telles que des horaires de travail encadrés, l'authentification multi-facteurs et la sensibilisation aux menaces numériques comme les e-mails piégés. Ces dispositifs s'appuient sur la prévisibilité du comportement humain.

Cependant, les assistants IA fonctionnent différemment. Ils opèrent en continu, exécutent des tâches à une vitesse inégalée par l'humain, et ne possèdent ni fatigue ni instinct de méfiance face à des instructions suspectes. Les systèmes actuels de gestion des identités et des accès, conçus pour des utilisateurs humains, ne sont pas adaptés à cette nouvelle réalité.

La différence réside également dans l'ampleur des dégâts potentiels. Si le compte d'un agent humain est compromis, l'accès reste limité. En revanche, si une identité machine est détournée, un attaquant pourrait extraire d'énormes volumes de données en un temps record. La sécurité informatique, jusqu'ici centrée sur le comportement humain, doit désormais s'adapter à des millions d'identités machines interagissant sans supervision directe. Sans une mise à jour rapide des modèles de sécurité, des failles pourraient se propager à une vitesse incontrôlable.

Accès aux données sensibles : un double tranchant

Pour être véritablement efficaces, les assistants IA doivent avoir accès à des données sensibles telles que l'état civil, les informations fiscales, les dossiers de santé et les registres fonciers. Ce besoin d'accès soulève un paradoxe : plus l'outil est performant, plus il doit être profondément intégré dans le système d'information de l'État.

Le risque est que ces assistants deviennent des portes d'entrée non sécurisées vers ces systèmes. Pour éviter cela, le principe du moindre privilège doit être repensé pour l'IA. Il ne s'agit plus d'attribuer des droits fixes, mais de gérer les accès de manière dynamique. Un assistant ne devrait consulter que les données nécessaires à sa tâche et uniquement pendant la durée de celle-ci. Aucun assistant ne doit avoir une confiance automatique simplement parce qu'il est sur le réseau interne. Chaque échange entre applications doit être vérifié et contrôlé avec précision.

Une surface d'attaque élargie

L'introduction de deux millions de nouvelles identités virtuelles crée autant de nouvelles portes d'entrée potentielles pour les attaquants. Des menaces spécifiques à l'IA commencent déjà à émerger, telles que la prise de contrôle des canaux de communication d'un assistant pour lui faire exécuter des ordres illégitimes, l'injection d'instructions malveillantes pour contourner les protections, et des attaques automatisées à grande échelle.

Le risque est systémique. Si un groupe d'assistants utilisés par une administration est compromis, l'attaque peut se propager par rebond à d'autres services connectés. Les cybercriminels ont compris que la faille ne réside plus seulement dans le réseau, mais dans la logique même des modèles et les permissions qui leur sont accordées.

Cinq axes pour sécuriser l'IA dans l'administration

Pour mener à bien ce plan sans compromettre la sécurité nationale, plusieurs chantiers doivent être menés en parallèle :

• Cartographier en continu toutes les identités non-humaines, les agents IA et les jetons d'accès en circulation.
• Renforcer l'authentification des accès aux API et automatiser la rotation fréquente des secrets utilisés par les assistants.
• Détecter les anomalies de comportement, telles que des volumes inhabituellement élevés de requêtes, des accès hors périmètre, ou des horaires atypiques.
• Désigner un responsable clair pour chaque assistant déployé, chargé de son audit et de son maintien en condition de sécurité.
• Intégrer les assistants virtuels comme des identités à part entière dans la stratégie globale de gestion des accès de l'organisation.

Prévoir pour ne pas subir

La souveraineté numérique ne se limite pas à une question de localisation géographique. Elle repose également sur la capacité de l'État à contrôler la manière dont ces technologies accèdent à son patrimoine informationnel, le manipulent et le protègent.

Face au déploiement de ces 2 millions d'assistants, l'urgence est d'anticiper. Sécuriser les identités machines avant leur mise en production est la seule option pour éviter de gérer des failles systémiques une fois les systèmes en place. Cet enjeu dépasse largement les frontières françaises, car toute nation qui choisit d'intégrer massivement l'IA au cœur de sa puissance publique devra, tôt ou tard, répondre à cette même équation de sécurité.