Sécuriser les assistants IA dans les services publics en 2026

Les assistants IA sont en train de passer, en moins de deux ans, du statut de gadget expérimenté par quelques geeks de ministère à outil utilisé quotidiennement par des centaines de milliers d’agents publics. En France, l’État a déjà acté la généralisation de son assistant Mistral AI à environ 1 million de fonctionnaires. Au niveau européen, l’AI Act classe une grande partie des usages publics en « haut risque » avec des sanctions pouvant atteindre 35 M€.

Ce basculement massif crée une tension forte : comment profiter des gains de productivité sans transformer les administrations en passoires à données ou en machines à discrimination algorithmique ? Ce guide propose un cadre opérationnel, ancré dans les textes 2025-2026 (AI Act, RGPD, plan « Notre IA », initiatives Québec, CNIL, Commission européenne), pour sécuriser les assistants IA dans les services publics.

1. Pourquoi les assistants IA publics sont devenus un enjeu critique en 2026

Un assistant IA mal sécurisé dans une administration n’est pas juste un chatbot bancal : c’est un risque systémique pour la confidentialité, l’équité des décisions et la confiance citoyenne.

En 2026, plusieurs signaux forts montrent que les assistants IA sont désormais au cœur des stratégies numériques publiques :

• En France, le plan « Notre IA » marque un changement d’échelle en passant d’expérimentations isolées à un déploiement massif d’outils IA encadrés dans les services publics (assistant, outils de transcription, langage clair, IA diplomatique).
• Le gouvernement français insiste sur la nécessité de maîtriser les infrastructures, les capacités de calcul, les données et les systèmes d’IA, avec un recours prioritaire aux solutions françaises ou européennes et aux infrastructures qualifiées SecNumCloud.
• Le ministère québécois de la Cybersécurité et du Numérique encadre l’usage de l’IA dans l’administration publique via une doctrine d’« utilisation responsable », avec des principes de transparence, de sécurité et de gouvernance.
• Aux Philippines, le ministère des Technologies de l’information et de la communication (DICT) a annoncé en juin 2026 une extension majeure de son partenariat avec Google Cloud pour déployer l’IA dans les administrations publiques et renforcer la cybersécurité nationale, avec un objectif d’équipement de plus de 200 000 fonctionnaires en outils basés sur Gemini Enterprise sur 18 mois.

💡 À retenir : les assistants IA ne sont plus des POC isolés, ce sont des briques critiques des systèmes d’information publics, soumises à des exigences de sécurité et de conformité au même niveau que les SI métier.

2. Cadre réglementaire 2026 : AI Act, RGPD, loi nationale et doctrines internes

La sécurisation des assistants IA publics en 2026 commence par le respect strict d’un cadre réglementaire devenu dense et cumulatif.

2.1. AI Act : la plupart des usages publics classés « haut risque »

L’AI Act européen, dont les obligations principales s’appliquent aux systèmes à haut risque à partir du 2 août 2026, classe une grande partie des systèmes d’IA utilisés par les administrations comme « haut risque » dès lors qu’ils interviennent dans :

• l’accès aux prestations sociales;
• l’éducation;
• les ressources humaines publiques;
• la gestion des droits et obligations des citoyens.

Les obligations associées incluent :

• évaluation et gestion des risques avant mise sur le marché;
• supervision humaine effective;
• qualité et gouvernance des données;
• documentation et traçabilité;
• robustesse et cybersécurité.

Les sanctions peuvent atteindre 35 M€ ou 7 % du chiffre d’affaires mondial de l’organisation concernée pour certaines infractions. Pour un assistant IA considéré comme « agent IA à haut risque », une DPIA combinée AI Act/RGPD est obligatoire avant tout déploiement, l’absence pouvant exposer à 15 M€ d’amende au titre des textes conjoints.

2.2. RGPD et lois nationales : protection des données personnelles

Dès qu’un assistant IA traite des données personnelles, il doit respecter :

• le RGPD pour les traitements généraux;
• la directive Police-Justice pour certains traitements spécifiques;
• les lois nationales (par exemple, la Loi informatique et libertés en France).

Les administrations restent responsables des traitements, même lorsque l’assistant est opéré par un prestataire externe. Les obligations RGPD clés pour un assistant IA :

• base légale du traitement (souvent mission d’intérêt public);
• minimisation des données (collecter uniquement ce qui est nécessaire);
• limitation des finalités (pas de réutilisation non justifiée des prompts ou des logs);
• sécurité appropriée (chiffrement, gestion des accès, journalisation);
• droits des personnes (accès, rectification, opposition dans certains cas).

Les sanctions RGPD peuvent atteindre 20 M€ ou 4 % du chiffre d’affaires mondial, pouvant se cumuler avec celles de l’AI Act pour un même incident si les deux cadres sont violés, avec un plafond théorique combiné autour de 55 M€ évoqué dans les analyses de conformité.

2.3. Doctrine interne : guide d’usage et interdiction des outils grand public

En France, le guide d’usage de l’IA dans les administrations pose des principes concrets :

• recours prioritaire aux outils validés par l’administration;
• interdiction d’utiliser des outils grand public pour traiter des données sensibles;
• vérification systématique des résultats produits par les systèmes d’IA;
• maintien d’une validation humaine des contenus générés.

Les assistants du programme « Notre IA » (L’Assistant, Transcripts, Langage Clair, DiploIA) sont pour l’instant regardés comme accomplissant des « tâches procédurales étroites », ce qui les exclut en principe de la catégorie des systèmes d’IA à haut risque. En pratique, cela n’exonère pas d’une analyse détaillée des cas d’usage lorsqu’ils commencent à toucher à la décision, à l’évaluation de dossiers ou à la génération de contenus juridiquement sensibles.

💡 À retenir : satisfaire le RGPD ne suffit pas — AI Act et RGPD créent des obligations cumulatives. Un assistant IA public doit être conçu pour respecter simultanément les deux cadres et la doctrine nationale.

3. Gouvernance : organiser la sécurité des assistants IA au niveau de chaque administration

Sans gouvernance claire, les assistants IA deviennent rapidement des « IA clandestines » utilisées hors de tout cadre, avec des risques majeurs de fuite de données et de décisions biaisées.

3.1. Nommer un AI Officer et un comité IA

Les retours de rapport IGF/IGAS sur l’IA dans l’administration mettent en avant l’absence de portage stratégique comme premier facteur d’échec des projets. Les recommandations 2025-2026 convergent vers la mise en place d’une gouvernance structurée autour de quatre chantiers :

• gouvernance organisationnelle : un AI Officer rattaché à la direction générale (et non uniquement à la DSI), un comité IA transversal, des politiques internes formalisées;
• classification et évaluation des risques : DPIA combinée AI Act/RGPD avant tout déploiement significatif;
• contrôles techniques : logging immuable, supervision humaine effective, minimisation « by design »;
• vigilance continue : audits de Shadow AI semestriels, veille réglementaire (CNIL, ANSSI, Commission européenne), révision des DPIA à chaque évolution majeure.

3.2. Cartographier la Shadow IA et les cas d’usage

Avant de rédiger un règlement interne sur les assistants IA, il est recommandé de :

• cartographier la Shadow IA : recenser les usages réels (ChatGPT, Gemini, Copilot, Mistral) par les agents, même non autorisés;
• identifier les données effectivement traitées (dossiers individuels, documents internes, données RH, etc.);
• classer les cas d’usage selon leur criticité (productivité bureautique vs interaction directe avec l’usager ou décision).

Une cartographie réaliste permet :

• de prioriser les assistants IA officiels là où les usages sont déjà massifs;
• d’interdire explicitement certains outils ou pratiques (copier-coller de dossiers sensibles dans des services grand public);
• de calibrer les budgets d’inférence récurrents.

3.3. Répartir les responsabilités

La démarche de conformité pour un assistant IA dans un service public doit impliquer :

• la direction générale (vision, arbitrage budget);
• la DSI (sécurité technique, choix d’infrastructure et de modèle);
• le DPO (analyse RGPD, DPIA, clauses contractuelles avec les prestataires);
• les métiers (définition des cas d’usage, identification des risques concrets);
• la sécurité / RSSI (politique de chiffrement, gestion des comptes, réponse à incident).

💡 À retenir : sécuriser les assistants IA n’est pas un projet purement technique. C’est un sujet de gouvernance, de gestion des risques et de dialogue social, au même titre que la dématérialisation des procédures il y a dix ans.

4. Mesures techniques de sécurité : du chiffrement aux protections contre les prompt injections

Une fois la gouvernance en place, la sécurisation passe par des mesures techniques spécifiques aux assistants IA, au-delà des bonnes pratiques classiques de cybersécurité.

4.1. Maîtriser les données et les mémoires des assistants

Les guides 2026 sur les agents IA insistent sur plusieurs mesures clés :

• minimisation des données : chaque donnée collectée ou ingérée doit être justifiée par l’objectif de l’assistant; les données « utiles mais non nécessaires » doivent être exclues ou anonymisées;
• chiffrement des mémoires au repos et en transit (prompts, contextes, logs);
• anonymisation ou pseudonymisation des logs lorsque possible;
• contrôle d’accès strict aux interfaces d’administration et aux mémoires des assistants;
• limitation de la persistance mémorielle : éviter les mémoires longues non maîtrisées qui accumulent des données personnelles sur des périodes étendues.

Ces mesures permettent de réduire le risque de fuite de données en cas de compromission technique ou d’erreur de configuration.

4.2. Se protéger contre les attaques spécifiques IA

Les évaluations de risque spécifiques aux agents IA mentionnent des scénarios typiques :

• hallucinations avec divulgation de données personnelles en sortie, par exemple si l’assistant mélange des exemples internes et des demandes externes;
• prompt injection : un contenu externe (email, document, site web) contenant des instructions cachées amène l’assistant à révéler des secrets ou à exécuter des actions non souhaitées;
• persistance mémorielle non maîtrisée : le modèle « apprend » des comportements ou des données inappropriées au fil des interactions;
• discrimination algorithmique dans les réponses ou les aides à la décision (recrutement, attribution de prestations);
• dérive comportementale en production après mise à jour du modèle ou de ses outils.

Les mesures techniques recommandées incluent :

• sandboxing des actions à fort impact : les assistants qui peuvent agir sur des SI (créer un compte, modifier un dossier) doivent être confinés dans des environnements contrôlés et limités;
• filtrage des entrées : analyse des contenus reçus (emails, formulaires) avant de les transmettre au modèle, pour détecter les tentatives de prompt injection;
• supervision humaine effective : imposer des validations humaines pour toute action ou décision à impact fort, avec des interfaces qui forcent la relecture;
• journaux immuables des interactions et des décisions assistées pour pouvoir auditer les comportements et les incidents.

4.3. S’appuyer sur les initiatives de cybersécurité européennes

En juillet 2026, la Commission européenne a annoncé un nouveau plan pour traiter les risques et exploiter les possibilités des systèmes d’IA avancés en cybersécurité. Ce plan prévoit notamment :

• la création d’une capacité européenne d’évaluation des modèles avancés pour renforcer les évaluations tiers des capacités et des risques;
• un blueprint européen pour l’accès structuré aux capacités d’IA avancées pour la cybersécurité, en coopération avec l’Agence de l’Union européenne pour la cybersécurité;
• une plateforme sécurisée pour tester l’IA en cybersécurité, avec des environnements simulés;
• une campagne pour sécuriser les logiciels open source critiques.

Les opérateurs de services publics peuvent tirer parti de ces ressources (guides, recommandations, plateformes de test) pour évaluer leurs assistants IA avant déploiement massif.

💡 À retenir : les risques des assistants IA ne se limitent pas aux « hallucinations ». Les attaques par prompt injection et les dérives comportementales exigent des contrôles techniques dédiés et une supervision humaine réelle.

5. Choisir des solutions et infrastructures adaptées : souveraineté, SecNumCloud, modèles

Le choix des briques techniques pour un assistant IA public est un levier majeur de sécurité : modèle de langage, hébergement, intégration, gestion des données.

5.1. Priorité aux solutions souveraines et infrastructures qualifiées

Le gouvernement français affirme la nécessité de maîtriser :

• les infrastructures (datacenters, cloud);
• les capacités de calcul;
• les données;
• les systèmes d’IA.

Cela se traduit par :

• un recours privilégie aux solutions françaises ou européennes (modèles, plateformes);
• le développement et l’utilisation d’infrastructures cloud qualifiées SecNumCloud.

Pour un assistant IA dans un ministère ou une collectivité, les options typiques en 2026 incluent :

• déploiement sur un cloud SecNumCloud (OVHcloud, Scaleway, 3DS Outscale, etc.) avec modèles européens (Mistral, Aleph Alpha, etc.);
• utilisation de solutions open source déployées dans des datacenters internes avec certifications de sécurité;
• partenariats avec des fournisseurs internationaux encadrés par des clauses de souveraineté des données et de localisation.

5.2. Exemple concret : L’Assistant Mistral AI pour la fonction publique française

Un cas emblématique de 2026 est L’Assistant, chatbot conversationnel déployé par l’État français avec les modèles de Mistral AI pour ses agents publics :

• pilote lancé le 22 octobre 2025 avec 10 000 agents répartis dans 8 ministères;
• durée de la phase pilote : 8 mois (jusqu’en juin 2026);
• généralisation décidée en 2026 à environ 1 000 000 d’agents de la fonction publique d’État, sur les 5,7 millions d’agents publics français (État, territorial, hospitalier);
• coût estimé du pilote : environ 300 000 €;
• coût estimé de la première phase de généralisation : 700 000 à 750 000 €.

Cet exemple illustre plusieurs points clés :

• les budgets de déploiement et d’inférence ne sont plus anecdotiques, ils doivent être intégrés dans les budgets récurrents;
• le choix d’un modèle européen (Mistral) s’inscrit dans une logique de souveraineté;
• la montée en charge (de 10 000 à 1 000 000 d’agents) impose une réflexion fine sur la sécurité opérationnelle, la gestion des droits et la formation.

5.3. Tableau comparatif : options typiques pour assistants IA publics en 2026

Ce tableau synthétise trois options représentatives pour un service public en 2026 (cas générique, les chiffres sont issus de retours disponibles et communications publiques quand elles existent, sinon approximation prudente évitée) :

💡 À retenir : la sécurité d’un assistant IA dépend autant de l’architecture (cloud, modèle, data) que des règles d’usage. Un assistant personnalisable mais hébergé hors de l’UE avec logs non maîtrisés reste un risque majeur pour un service public européen.

6. Processus de déploiement sécurisé : de la DPIA aux tests utilisateurs

Pour qu’un assistant IA soit sécurisé, il ne suffit pas de cocher quelques cases techniques : le processus de déploiement doit intégrer la sécurité et la conformité à chaque étape.

6.1. Étapes recommandées pour un assistant IA à haut risque

Les guides de conformité 2026 pour les agents IA proposent une démarche structurée en sept étapes :

1. Analyse de nécessité et de proportionnalité : démontrer que l’assistant est nécessaire pour atteindre l’objectif public (gain de productivité, amélioration du service, etc.) et qu’il ne va pas au-delà de ce qui est proportionné.
2. Cartographie des données : identifier les catégories de données traitées (citoyens, agents, partenaires) et leur sensibilité.
3. Analyse de nécessité et proportionnalité des données : chaque donnée collectée doit être justifiée par rapport à la finalité; les données non strictement nécessaires doivent être exclues ou anonymisées.
4. Évaluation des risques spécifiques IA : hallucinations, prompt injection, persistance mémorielle, discrimination algorithmique, dérive en production.
5. Définition des mesures techniques et organisationnelles : chiffrement, anonymisation des logs, contrôle d’accès, sandboxing, supervision humaine, journaux immuables.
6. Consultation du DPO et validation : le DPO doit être impliqué dès la conception pour les assistants à haut risque, pas uniquement en fin de projet.
7. Révision périodique : chaque mise à jour majeure du modèle, des données d’entraînement ou des outils accessibles à l’assistant impose une révision de la DPIA et des mesures.

Pour un assistant IA à haut risque, cette DPIA combinée AI Act/RGPD est obligatoire avant déploiement.

6.2. Tester l’assistant dans des environnements contrôlés

Avant de généraliser un assistant à plusieurs milliers d’agents :

• utiliser des environnements de test et des bacs à sable, à l’image du bac à sable IA dédié aux services publics piloté par la CNIL;
• simuler des scénarios adverses (prompt injection, demandes non autorisées, données erronées);
• mesurer les performances sur des tâches concrètes, mais aussi la robustesse aux attaques et erreurs.

Les programmes pilotes, comme celui de L’Assistant sur 10 000 agents pendant 8 mois, permettent de :

• ajuster les garde-fous techniques (filtres, politiques de mémorisation);
• identifier les cas d’usage réellement plébiscités par les agents;
• calibrer les formations et la communication.

6.3. Former les agents et instaurer des règles d’usage

Un assistant IA public ne sera jamais entièrement sécurisé si les utilisateurs ne comprennent pas :

• ce qu’ils peuvent ou non envoyer à l’assistant (données sensibles, éléments RH, dossiers judiciaires);
• les limites du modèle (hallucinations, biais);
• l’obligation de validation humaine des contenus générés.

Les règles d’usage doivent être :

• écrites et diffusées (charte interne, guides pratiques);
• intégrées dans la formation initiale et continue des agents;
• rappelées dans les interfaces (messages de garde, avertissements contextuels).

💡 À retenir : le déploiement sécurisé d’un assistant IA est un processus continu. La DPIA n’est pas un document à produire une fois, mais un outil vivant qui doit être révisé à chaque changement significatif.

7. Notre avis : qui devrait passer en assistants IA sécurisés dès maintenant ?

Les services publics qui attendent un « cadre parfait » pour se lancer risquent surtout de laisser prospérer une Shadow IA incontrôlée, avec des agents qui utilisent des outils grand public non encadrés pour gagner du temps.

En 2026, les organisations publiques qui ont le plus intérêt à déployer rapidement des assistants IA sécurisés sont celles qui :

• constatent déjà une utilisation massive de ChatGPT, Gemini ou Copilot par leurs agents pour la rédaction, la traduction, la synthèse;
• gèrent des volumes très importants de documents et de courriels, avec des tâches répétitives peu valorisées;
• disposent d’une DSI structurée et d’un DPO impliqué, capables de porter une DPIA combinée AI Act/RGPD;
• peuvent s’appuyer sur des infrastructures souveraines (SecNumCloud, datacenters internes) ou des partenariats cloud encadrés.

Pour ces acteurs, sécuriser les assistants IA en 2026 signifie :

• reprendre le contrôle sur des usages IA déjà existants, plutôt que les subir;
• réduire le risque réglementaire (amendes cumulées AI Act/RGPD pouvant théoriquement dépasser 50 M€) en encadrant les cas d’usage;
• préparer la montée en échelle : de quelques centaines d’utilisateurs à plusieurs dizaines de milliers, sur des bases solides.

À six mois, la question clé sera moins « faut-il un assistant IA dans les services publics ? » que « quelles tâches concrètes devons-nous confier à un assistant, sous quelles conditions, avec quelles garanties techniques et juridiques ? ». Les administrations qui auront répondu tôt à cette question, en s’appuyant sur des solutions souveraines, des infrastructures qualifiées et une gouvernance mature, seront les mieux placées pour concilier efficacité et confiance.

La vraie question pour les responsables publics est désormais : préférez-vous que vos agents continuent à utiliser des IA grand public non encadrées, ou êtes-vous prêts à investir dans des assistants IA sécurisés, documentés et audités, à la hauteur des enjeux démocratiques et réglementaires de 2026 ?