France : l'IA publique confrontée à la gouvernance cyber

Un investissement massif pour la souveraineté numérique

La France a récemment annoncé un investissement supplémentaire de 655 millions d'euros dans le domaine de l'intelligence artificielle. Cet engagement financier s'inscrit dans une stratégie plus large visant à renforcer la souveraineté numérique du pays. Les ambitions françaises sont vastes, couvrant des domaines tels que la recherche, les capacités de calcul, les services publics, la santé et la sécurité intérieure. L'objectif est clair : positionner la France comme un leader incontournable dans le secteur de l'IA.

Cependant, réussir dans cette entreprise ne repose pas uniquement sur des avancées technologiques. La gouvernance joue un rôle crucial dans la pérennité de ces initiatives. La question centrale qui se pose est celle de la gestion à long terme de l'IA.

Les défis de la gouvernance de l'IA

L'intelligence artificielle offre un potentiel considérable pour simplifier les démarches administratives, améliorer la relation avec les usagers, automatiser les tâches répétitives et accélérer le traitement des dossiers. Toutefois, pour que ces bénéfices se concrétisent, un cadre de gouvernance clair est indispensable.

Il est essentiel de déterminer qui est responsable des décisions prises avec l'aide de l'IA et comment ces décisions seront contrôlées. Des mécanismes d'audit doivent être en place pour identifier les biais, les erreurs ou les dérives potentielles. L'équilibre entre performance, transparence et protection des données est un enjeu majeur pour les directions métiers, les responsables de la conformité, les juristes et les décideurs publics.

Sans une gouvernance structurée, l'IA pourrait engendrer de nouveaux problèmes au sein des administrations. Il est crucial de trouver un équilibre entre performance et sécurité.

Maîtrise budgétaire et efficacité opérationnelle

L'annonce gouvernementale met l'accent sur la recherche d'efficacité et la réduction des tâches à faible valeur ajoutée, ce qui est légitime dans un contexte de contraintes budgétaires. Cependant, l'expérience montre qu'une transformation numérique mal pilotée peut produire l'effet inverse.

Les coûts liés à l'acquisition de solutions, leur intégration aux systèmes existants, la supervision des modèles, les audits de sécurité et la formation sont souvent sous-estimés. De plus, la gouvernance de la consommation, mesurée en tokens, l'unité de calcul des modèles génératifs, représente un nouveau défi. Sans supervision stricte, les coûts peuvent rapidement déraper. Certaines grandes entreprises ont ainsi épuisé leur budget annuel d'IA en seulement trois à quatre mois en raison de l'utilisation d'agents autonomes, plus gourmands que de simples assistants conversationnels. Ce risque est également présent pour les administrations.

Sur le plan opérationnel, une IA mal configurée ou insuffisamment contrôlée peut générer des erreurs à grande échelle, ralentir les processus ou nécessiter des corrections humaines, annulant ainsi les gains de productivité escomptés.

La gestion des données sensibles

Le développement de solutions souveraines répond à une préoccupation stratégique majeure : la maîtrise des données. Les administrations manipulent des informations très sensibles, telles que les données de santé, les informations fiscales, les dossiers judiciaires, les données de sécurité intérieure ou les informations relatives aux infrastructures critiques. L'utilisation croissante d'outils d'intelligence artificielle augmente les risques de fuite ou d'exposition involontaire de ces données.

Le phénomène du Shadow AI représente un risque important, notamment au sein des collectivités territoriales, souvent moins bien équipées pour encadrer ces nouveaux usages. Par exemple, un agent public pourrait utiliser un outil non homologué pour synthétiser des dossiers, exposant ainsi des données personnelles sur des plateformes tierces échappant à tout contrôle.

L'humain, premier facteur de risque

L'histoire récente de la cybersécurité montre que la technologie seule ne suffit jamais à protéger totalement. Les cybercriminels exploitent les comportements humains, les erreurs de manipulation et l'ingénierie sociale pour contourner les dispositifs les plus sophistiqués. L'intelligence artificielle amplifie ce phénomène, rendant les attaques plus crédibles et plus difficiles à détecter.

La formation des agents publics devient un enjeu stratégique. Chaque utilisateur doit comprendre les risques liés au partage de données, aux outils non autorisés, aux manipulations informationnelles et aux nouvelles formes de fraude rendues possibles par l'IA générative.

Intégrer la cyber-résilience dans la stratégie IA

Le débat sur l'intelligence artificielle est indissociable de celui de la cyber-résilience. Les cyberattaques peuvent interrompre des services essentiels pendant plusieurs jours ou semaines. Dans un contexte où l'IA sera intégrée aux fonctions critiques de l'État, il est crucial de garantir la continuité des services publics en cas d'incident.

Chaque projet d'IA devrait intégrer dès sa conception des exigences de sécurité, de continuité d'activité, de reprise après incident et de gestion de crise. La gouvernance doit dépasser les cadres standard et s'appuyer sur la technologie pour auditer et sécuriser l'IA.

Une opportunité à sécuriser

L'investissement dans l'intelligence artificielle représente une opportunité historique pour moderniser l'action publique et renforcer la compétitivité française. Cependant, la réussite de cette transformation dépendra de la capacité de l'État à instaurer une gouvernance robuste, à protéger les données sensibles, à former ses agents, à maîtriser ses coûts et à bâtir une cybersécurité efficace. L'IA deviendra un levier durable de performance publique si la cybersécurité est traitée comme un préalable essentiel à la confiance et à la souveraineté numérique.