Déployer une IA managée sur cloud souverain en France en 2026 : le guide concret

En septembre 2026, la France compte pour la première fois plusieurs plateformes cloud qualifiées ou en voie de qualification SecNumCloud capables d’héberger des workloads d’IA à grande échelle. Entre OVHcloud, Numspot et les offres en préparation comme Bleu, les organisations publiques et les entreprises régulées peuvent enfin déployer des modèles de langage et des pipelines de machine learning sans dépendance directe aux hyperscalers américains.

Ce guide propose un parcours concret pour choisir un cloud souverain, comprendre les offres d’IA managées disponibles, estimer les coûts réels et éviter les pièges d’architecture. L’objectif est de passer d’un cahier des charges sécurité/compliance à une plateforme opérationnelle capable de servir des modèles en production.

L’angle est volontairement pragmatique : quels choix faire en 2026 si l’on veut une IA managée, hébergée en France, conforme aux exigences SecNumCloud 3.2 ou équivalent, avec des prix et des performances comparables aux grands clouds publics.

Comprendre le cadre : SecNumCloud 3.2 et cloud souverain en 2026

La première étape clé est de comprendre ce que « cloud souverain » veut dire concrètement pour un projet d’IA.

Depuis la mise à jour 3.2 du référentiel SecNumCloud, le périmètre des services couverts s’est élargi au-delà de l’infrastructure brute pour englober des services cloud publics et, progressivement, des briques PaaS et data/IA managées. Plusieurs fournisseurs français communiquent en 2026 sur au moins une offre qualifiée, et une douzaine d’autres sont en cours de qualification.

Le cloud souverain en France repose sur quelques principes opérationnels:

• Localisation des données et des traitements dans l’Union européenne, avec un accent particulier sur les datacenters situés en France.
• Protection contre le droit extraterritorial non européen (Cloud Act, FISA, etc.) via le contrôle capitalistique, la gouvernance locale et des clauses contractuelles spécifiques.
• Certification ou qualification par une autorité indépendante, en pratique l’ANSSI pour SecNumCloud.

💡 À retenir : En 2026, pour un projet d’IA sensible, le véritable critère n’est pas seulement « hébergé en France », mais « offre qualifiée SecNumCloud ou en trajectoire sérieuse vers cette qualification ».

Les acteurs clefs pour l’IA managée en environnement souverain

On peut distinguer trois catégories de fournisseurs pertinents pour l’IA managée en France en 2026:

• Fournisseurs SecNumCloud avec capacités IA : OVHcloud, Numspot, Outscale (Dassault Systèmes) et certaines coentreprises franco-internationales.
• Clouds français alignés sur la souveraineté mais pas encore qualifiés pour l’IA : Scaleway pour les APIs génératives, certains acteurs régionaux.
• Projets de cloud de confiance avec partenaire américain : Bleu (Orange–Capgemini–Microsoft) ou S3NS (Google–Thales), visant une exploitation contrôlée des technologies hyperscaler sous gouvernance française.

Chaque profil implique un niveau de risque juridique et technique différent pour les données sensibles ou les cas d’usage régulés.

Cartographie 2026 des offres IA managées sur cloud souverain

Pour choisir, il faut d’abord voir clair dans le paysage des offres réellement disponibles ou annoncées pour 2026.

La tension principale est la suivante : d’un côté, des APIs IA riches, constamment mises à jour avec les derniers modèles (Llama, Mistral, Qwen, etc.), de l’autre, un cadre juridique et technique très strict pour protéger les données.

OVHcloud : pionnier SecNumCloud avec AI Endpoints et GPU publics

OVHcloud est l’un des premiers acteurs européens à combiner qualification SecNumCloud et offre de cloud public, avec une plateforme « SNC Cloud Platform » qui marque une rupture par rapport au modèle historique d’infrastructures dédiées.

Côté IA managée, OVHcloud met en avant deux volets complémentaires:

• Des AI Endpoints : services d’inférence managés exposant des modèles open source (gpt-oss, Llama, Qwen, Mistral, etc.) via API, facturés au volume de tokens.
• Un catalogue GPU en Public Cloud situé en France, avec des cartes Nvidia H100, H200, A100, L40S, L4, A10, V100S et RTX 5000, facturées à l’heure, permettant d’entraîner et de servir des modèles custom.

Les prix observés en septembre 2026 pour les GPU OVHcloud France illustrent le positionnement :

• Instance GPU L4 en région France autour de 0,95 $/h pour 1 GPU, 12 vCPU et 60 Go de RAM.
• Instance A100 80 Go à environ 3,50 $/h pour 1 GPU, 26 vCPU et 244 Go de RAM, avec des déclinaisons multi-GPU à 14 $/h pour 4 GPU.

Ces tarifs permettent d’estimer un ordre de grandeur mensuel :

• Un serveur d’inférence continu (24/7) sur L4 pour un modèle medium coûte environ 0,95 $ × 24 × 30 ≈ 684 $/mois.
• Un environnement de training intensif sur A100 80 Go pour un mois complet représenterait autour de 3,50 $ × 24 × 30 ≈ 2 520 $/mois par GPU, hors stockage.

Les AI Endpoints sont tarifés au million de tokens, avec des modèles de taille intermédiaire autour de quelques centimes d’euro par million de tokens et des modèles plus grands pouvant monter au-dessus de 0,40 €/M tokens.

💡 À retenir : OVHcloud est aujourd’hui l’option la plus structurée pour combiner SecNumCloud, GPU performants en France et APIs IA managées sur modèles open source.

Numspot : cloud souverain, IaaS qualifié et trajectoire PaaS/IA

Numspot se positionne comme plateforme de services cloud souveraine, conçue pour éviter le verrouillage fournisseur et permettre la portabilité des workloads. En 2026, l’entreprise annonce l’obtention de la qualification SecNumCloud pour son offre IaaS, avec des certifications ISO 27001 et HDS pour l’hébergement de données de santé.

La stratégie affichée est de prolonger cette qualification vers le PaaS, notamment pour des services managés dédiés à la donnée et à l’intelligence artificielle:

• Objectif de proposer des services data (bases, data lake, streaming) conformes SecNumCloud.
• Construction d’une couche de services managés IA (inférence, orchestration de modèles, pipelines MLOps) exploitant l’infrastructure qualifiée.

Numspot insiste sur la réversibilité et la capacité à déployer des workloads IA sur différentes infrastructures compatibles, ce qui permet d’éviter les dépendances techniques fortes à un fournisseur unique.

Les prix publics détaillés pour les futurs services IA managés ne sont pas encore aussi exhaustifs que ceux des hyperscalers, mais la logique tarifaire reste basée sur la consommation (CPU/GPU, stockage, trafic) avec des enveloppes explicites pour les organisations publiques.

Scaleway : APIs génératives riches, souveraineté de fait mais sans qualification IA

Scaleway, autre acteur français du cloud, propose des Generative APIs donnant accès à un catalogue très large de modèles:

• Modèles Mistral (Small, Medium, Large), GLM 5.2, Qwen 3.x, Llama, Gemma, gpt-oss 120B, Holo2, etc.
• Tarification transparente au million de tokens, avec par exemple Mistral Small à environ 0,15 € en batch (inférence hors temps réel) et 0,35 € en temps réel.
• Offre gratuite comprenant un quota de 1 million de tokens et environ 60 minutes de transcription audio (Whisper ou équivalent).

La politique de Scaleway est de garantir la résidence des données en Europe, avec une localisation par défaut en France pour les workloads IA. Néanmoins, en 2026, l’offre IA ne fait pas partie d’un périmètre SecNumCloud officiellement qualifié.

💡 À retenir : Scaleway est très attractif pour tester des modèles et lancer des POC en France avec des coûts faibles, mais ne fournit pas à ce stade le même niveau d’assurance réglementaire qu’un cloud SecNumCloud pour les workloads IA sensibles.

Bleu, S3NS et les clouds de confiance

Les projets comme Bleu (joint-venture Orange–Capgemini avec la technologie Microsoft) et S3NS (Google–Thales) visent à proposer un cloud de confiance combinant:

• Technologie et stack logicielle d’un hyperscaler (Azure pour Bleu, Google Cloud pour S3NS).
• Gouvernance et exploitation française, avec promesse de protection vis-à-vis du droit extraterritorial.
• Démarches de qualification SecNumCloud 3.2.

En 2026, Bleu a franchi plusieurs jalons (J0, J1) et prévoit une disponibilité commerciale au second semestre, avec une qualification SecNumCloud toujours en cours. Ces clouds se destinent explicitement aux administrations et aux entreprises régulées qui veulent bénéficier des services avancés (y compris IA managée, copilots, etc.) tout en restant dans un cadre français.

Comparatif pratique des options souveraines pour l’IA managée

Pour un décideur technique ou métier, la question centrale est souvent : « à offre comparable, qui choisir, à quel prix et pour quel niveau de souveraineté ? ».

Le tableau suivant synthétise quelques critères clés pour quatre options représentatives en 2026.

Ce comparatif montre que le choix dépend autant du niveau d’exigence réglementaire que du besoin fonctionnel:

• Pour des données très sensibles (santé, justice, défense), OVHcloud et Numspot offrent le plus haut niveau d’assurance à date.
• Pour des cas d’usage exploratoires ou des produits commerciaux sans contrainte SecNumCloud, Scaleway reste très compétitif en termes de fonctionnalités et de prix.
• Pour des organisations qui veulent la stack Azure ou Google sous gouvernance française, Bleu et S3NS sont à surveiller de près fin 2026.

Étapes concrètes pour déployer une IA managée sur cloud souverain

Une fois la plateforme choisie, la question devient opérationnelle : comment structurer un déploiement d’IA managée qui reste souverain, sécurisé et maintenable.

Le déploiement peut se découper en cinq grands axes : gouvernance, architecture, choix des modèles, industrialisation MLOps, et pilotage des coûts.

1. Clarifier les exigences réglementaires et de souveraineté

Avant même de choisir un fournisseur, il est essentiel d’acter un cadre écrit, partagé par les équipes IT, sécurité et métiers:

• Nature des données traitées : données personnelles, données de santé, données stratégiques, secrets industriels.
• Régulations applicables : RGPD, code de la santé, directives sectorielles (finance, énergie…).
• Niveau de qualification : SecNumCloud obligatoire ou simple préférence, contraintes de localisation (France vs UE).

Une matrice simple permet de déterminer si un projet doit impérativement se déployer sur une offre SecNumCloud ou si une approche « souveraineté de fait » (cloud français non qualifié mais en UE) suffit.

💡 À retenir : Sans cette étape, la discussion technique sur GPU, tokens ou modèles risque de masquer le point crucial : la conformité juridique du traitement des données.

2. Concevoir une architecture IA compatible SecNumCloud

Sur un cloud souverain qualifié ou en trajectoire, l’architecture IA doit respecter certains principes structurants:

• Segmentation forte: séparation des environnements de développement, test et production, avec des droits finement gérés.
• Zero trust: authentification et autorisation systématique, journaux complets, contrôle des accès aux datasets et aux endpoints de modèles.
• Chiffrement: données chiffrées au repos et en transit, clés gérées dans des services de type HSM ou équivalent, sous contrôle français.

Une architecture typique pour de l’IA managée sur cloud souverain en 2026 comprend:

• Un cluster Kubernetes ou un service containers managé (souvent compatible SecNumCloud) pour héberger les microservices métier.
• Un ou plusieurs endpoints IA managés (type AI Endpoints OVHcloud ou services équivalents) pour l’inférence de modèles de base.
• Des GPU dédiés ou partagés pour le fine-tuning et l’optimisation des modèles custom.
• Une plateforme observabilité (logs, traces, metrics) hébergée dans le même périmètre souverain.

Le paramétrage réseau (VPC, sous-réseaux, peering, VPN, etc.) doit être conçu pour éviter toute sortie de données vers des services hors périmètre souverain.

3. Choisir les modèles et la stratégie d’IA managée

Sur un cloud souverain, les modèles disponibles sont principalement des modèles open source ou des modèles propriétaires opérés dans un cadre contrôlé.

La première occurrence de quelques termes techniques clés mérite clarification:

• LLM (Large Language Model) : modèle de langage de grande taille, comme Llama, Mistral, Qwen, gpt-oss, capable de générer et de comprendre du texte.
• Inference as a Service : service managé qui prend des requêtes (prompts) et renvoie des réponses de modèle, facturé à la consommation.
• Fine-tuning : adaptation d’un modèle générique à un contexte spécifique via des données d’entraînement supplémentaires.

Sur OVHcloud ou Scaleway, on retrouve:

• Des modèles Llama 3.x, Mistral de différentes tailles, Qwen, GLM, Gemma, etc.
• Des modèles multimodaux capables de traiter texte + image, et parfois audio.

La stratégie la plus réaliste en 2026 pour un projet souverain consiste à:

• Utiliser un LLM open source managé pour les tâches génériques (chat, résumés, classification).
• Fine-tuner ou adapter ces modèles avec des techniques comme l’instruction tuning ou le retrieval-augmented generation (RAG) sur des GPU souverains.
• Éviter, autant que possible, les appels directs à des APIs fermées non hébergées en France pour les données sensibles.

Les benchmarks publiés montrent que les meilleurs modèles open source (Llama 3.1/3.2, Mistral Large, Qwen 3.x) atteignent des performances très proches des modèles propriétaires pour de nombreux cas d’usage métier, tout en offrant une meilleure contrôlabilité et auditabilité.

4. Industrialiser avec un pipeline MLOps sur cloud souverain

Une fois le premier modèle en production, le défi devient la répétition et l’industrialisation. Les principes de MLOps (Machine Learning Operations) restent valables, mais doivent être adaptés au contexte souverain.

Les grandes briques d’un pipeline MLOps sur cloud souverain incluent:

• Versioning des modèles et des datasets: stockage dans des repositories contrôlés (type S3 compatible SecNumCloud, Git, etc.).
• CI/CD pour l’IA: pipelines automatisés pour déployer les versions de modèles, vérifier les performances, limiter les régressions.
• Monitoring d’usage et de qualité: métriques sur les latences, les coûts, les taux d’erreur, et les indicateurs de dérive des données.

La mise en place peut s’appuyer sur des outils open source populaires (Kubeflow, MLflow, Airflow, etc.) déployés sur des clusters souverains, ou sur des services managés PaaS proposés par des fournisseurs comme Numspot à mesure que leur catalogue PaaS/IA s’étoffe.

💡 À retenir : Le vrai coût d’un projet d’IA souverain n’est pas tant le prix du GPU que la capacité à faire évoluer les modèles et les pipelines dans un cadre sécurisé sans explosion de la dette technique.

5. Piloter les coûts : GPUs, tokens et dimensionnement

Les prix des GPUs et des endpoints IA managés sont connus et permettent une planification relativement fine en 2026.

GPUs sur cloud souverain

En se basant sur les tarifs publics des GPU OVHcloud France et sur des comparatifs tiers:

• Segment inférence: L4 et RTX 5000 autour de 0,90–1,00 €/h, adaptés aux modèles medium.
• Segment training: A100 80 Go autour de 1,20–1,25 €/h dans certains comparatifs européens, mais environ 3,50 $/h dans le catalogue OVHcloud public pour des configurations plus robustes.
• Segment frontier: H100 et H200 à plusieurs euros par heure (par exemple plus de 3,30 €/h pour H100, et près de 50 €/h pour H200 sur certaines configurations multi-GPU).

À titre indicatif, un projet qui entraîne un modèle de taille moyenne pendant 200 heures sur un A100 80 Go à 3,50 $/h représente environ 700 $ de pur compute, hors data et stockage.

APIs IA managées

Les APIs IA managées sont généralement tarifées au million de tokens:

• Modèles petits et moyens (type Mistral Small) autour de 0,15 €/M tokens en batch, 0,35 €/M tokens en temps réel.
• Modèles plus gros (Qwen 27B, GLM 5.2, Llama de grande taille) pouvant dépasser 0,75 €/M tokens, avec des prix supérieurs pour les usages intensifs.
• Offres de test incluant 1 M tokens gratuits et environ 60 minutes de transcription audio.

Un chatbot interne utilisé par 1 000 collaborateurs, avec 50 requêtes par jour et 1 000 tokens par requête, consommerait:

• 50 000 tokens/jour × 1 000 utilisateurs = 50 M tokens/jour.
• Soit 1,5 milliards de tokens par mois, ce qui, à 0,15 €/M tokens, représente environ 225 € par mois en batch, ou 525 € en temps réel à 0,35 €/M tokens.

Ces ordres de grandeur permettent de dimensionner une enveloppe annuelle et d’arbitrer entre GPU dédié et endpoints managés.

Pièges fréquents et bonnes pratiques pour rester vraiment souverain

Même avec un cloud souverain, plusieurs erreurs récurrentes peuvent compromettre la souveraineté d’un projet d’IA.

Pièges à éviter

• Sorties de données vers des services non souverains: connecteurs SaaS externes, logging vers des services cloud américains, intégrations non maîtrisées.
• Usage de modèles fermés via APIs publiques pour des données sensibles, sans proxy souverain ni anonymisation.
• Confusion entre résidence de données et souveraineté juridique: héberger en France mais utiliser une filiale d’un groupe soumis au Cloud Act peut créer des ambiguïtés.

Bonnes pratiques recommandées

• Imposer que tous les logs, traces et datasets liés aux modèles soient hébergés dans le périmètre SecNumCloud ou équivalent.
• Documenter chaque flux de données impliquant l’IA (entrées, sorties, stockage intermédiaire) dans un registre partagé sécurité/métier.
• Prévoir des audits réguliers de configuration (IAM, réseau, chiffrement) sur les environnements IA.

💡 À retenir : Un cloud souverain n’est qu’un socle : la souveraineté réelle se joue dans les flux de données, les contrats et la gouvernance opérationnelle.

Notre avis : qui devrait passer sur une IA managée souveraine dès maintenant ?

Au regard de l’état du marché français en 2026, plusieurs profils d’organisations gagnent à passer dès maintenant à une IA managée sur cloud souverain.

Les bénéficiaires évidents sont:

• Les administrations et opérateurs d’importance vitale: l’arrivée de plusieurs offres IaaS qualifiées SecNumCloud et la perspective de PaaS/IA qualifiés modifie le rapport de force avec les hyperscalers internationaux.
• Les établissements de santé et acteurs du médico-social: la combinaison HDS + SecNumCloud chez des acteurs comme Numspot réduit fortement le risque juridique d’expérimenter l’IA sur des données patients.
• Les entreprises industrielles ou financières disposant de secrets techniques ou de données critiques, qui peuvent tirer parti des LLM open source managés sur GPU souverains pour automatiser documentation, support interne et analyse documentaire.

Pour d’autres acteurs, notamment les startups produits ou les éditeurs SaaS grand public, la bascule totale vers le souverain n’est pas obligatoire, mais devient stratégiquement intéressante pour:

• Se différencier sur la promesse de confidentialité.
• Anticiper des régulations sectorielles qui pourraient renforcer les exigences de localisation et de souveraineté.

À horizon six mois, l’enjeu majeur sera la consolidation des offres PaaS et IA managées réellement qualifiées, au-delà de l’IaaS et des catalogues GPU. Les questions à surveiller seront:

• La liste des services IA explicitement couverts par SecNumCloud chez chaque fournisseur.
• Les benchmarks publiés comparant les performances des LLM open source opérés sur clouds souverains à celles des modèles propriétaires des hyperscalers.
• Les premiers retours d’expérience d’organisations ayant basculé tout ou partie de leurs workloads IA critiques sur ces plateformes souveraines.

La question de fond reste donc ouverte : combien de temps les organisations peuvent-elles continuer à déployer leurs IA critiques sur des clouds non souverains sans prendre un risque juridique ou stratégique, alors que des alternatives crédibles émergent en France ?