L’IA est déjà utilisée par 5,3 % des entreprises pour la sécurité des technologies de l’information et de la communication en 2025, selon l’OCDE. Dans le même temps, 78 % des organisations interrogées par SANS déclarent avoir observé des attaques confirmées ou potentiellement facilitées par l’IA, tandis que 95 % des professionnels pensent que les attaquants utilisent déjà ces outils.
La bonne réponse n’est pas d’ajouter un chatbot à l’équipe de sécurité. Elle consiste à relier les données, les contrôles humains et les procédures d’incident dans un cadre mesurable. Cette méthode reprend les principes opérationnels d’un projet lancé en 2024, puis les actualise avec les tendances observées en 2025 et 2026.
Le risque principal vient d’une IA déployée sans contrôle
La première étape consiste à cartographier les usages réels de l’IA avant d’acheter une nouvelle solution. Les employés peuvent utiliser des assistants généralistes, des outils intégrés aux logiciels métiers ou des modèles développés en interne. Chaque usage crée un risque différent pour les données, les identités et les processus critiques.
L’OCDE indique que les entreprises utilisent notamment l’IA pour détecter et prévenir les cyberattaques ainsi que pour l’authentification des utilisateurs. Ces fonctions ne présentent toutefois pas le même niveau d’exposition : un système de détection analyse des signaux de sécurité, tandis qu’un assistant connecté à des documents internes peut traiter des informations commerciales, personnelles ou réglementées.
Dresser l’inventaire avant de choisir une solution
L’inventaire doit associer chaque usage à son propriétaire, à ses données et à son niveau d’accès. Une feuille de suivi suffit pour commencer, à condition d’y inscrire les applications officielles comme les usages non déclarés.
- Nom de l’outil et équipe responsable
- Type de données traitées
- Connexions aux annuaires, messageries, fichiers et logiciels métiers
- Niveau d’autonomie autorisé
- Durée de conservation des journaux
- Procédure de révocation des accès
Les outils capables de modifier une configuration, d’envoyer un message ou de lancer une action doivent être classés plus sévèrement que ceux qui produisent uniquement une recommandation. Cette distinction permet d’appliquer le principe du moindre privilège, qui limite les droits à ce qui est nécessaire pour accomplir une tâche.
À retenir : l’IA ne doit jamais recevoir plus de droits que l’utilisateur ou le service qu’elle assiste. Une réponse générée automatiquement peut être utile sans être autorisée à exécuter seule une opération sensible.
Construire une gouvernance qui fonctionne avec les équipes de sécurité
En 2026, 76 % des équipes de sécurité déclarent jouer un rôle de gouvernance pour l’IA d’entreprise, selon SANS. Pourtant, la gouvernance ne se résume pas à publier une charte : elle doit déterminer qui valide les outils, qui contrôle les données et qui intervient en cas d’incident.
Une gouvernance efficace répartit les responsabilités entre la direction, la sécurité, les équipes juridiques, les métiers et les utilisateurs. Le responsable de la sécurité définit les exigences techniques, mais le métier reste responsable de la finalité et de la qualité des décisions prises avec l’outil.
Les règles minimales à formaliser
- Interdire l’envoi de données sensibles dans un outil non approuvé
- Exiger l’authentification multifacteur pour les consoles d’administration
- Séparer les environnements de test et de production
- Journaliser les requêtes, les réponses et les actions exécutées
- Prévoir une validation humaine pour les décisions à impact élevé
- Réévaluer les droits après chaque changement de modèle ou d’intégration
La politique doit aussi préciser les contenus interdits dans les prompts. Les secrets d’API, mots de passe, clés privées, données de santé et informations personnelles ne doivent pas être transmis à un service sans garanties contractuelles et techniques adaptées.
Mesurer l’efficacité plutôt que le nombre d’outils
Le nombre d’outils installés ne mesure pas le niveau de protection. Les indicateurs utiles portent sur le temps de détection, le temps de qualification, le taux de faux positifs, le nombre d’alertes traitées automatiquement et la fréquence des erreurs de l’IA.
Le suivi doit comparer la situation avant et après déploiement. Une solution qui accélère le tri des alertes mais augmente les erreurs critiques ne constitue pas un progrès de sécurité. La validation doit donc combiner des métriques quantitatives et des revues d’incidents.
Utiliser l’IA pour détecter plus vite, sans lui confier le dernier mot
L’IA est particulièrement utile pour regrouper des événements dispersés, résumer une alerte et faire ressortir des relations entre une identité, un appareil et une activité réseau. Elle peut réduire le travail manuel des analystes, à condition de conserver les preuves qui permettent de vérifier sa conclusion.
SANS indique que l’usage actif de l’IA en cybersécurité est passé de 50 % à 78 % en un an. Cependant, seuls 27 % des praticiens interrogés considèrent leur déploiement comme mature en production. Cette différence montre qu’un pilote technique ne suffit pas à créer un dispositif fiable.
Trois cas d’usage prioritaires
Le tri des alertes. Un modèle peut regrouper les événements liés à une même attaque et attribuer une priorité selon le contexte. L’analyste doit pouvoir consulter les signaux utilisés et modifier la qualification.
L’analyse des identités. L’IA peut repérer une connexion inhabituelle en combinant l’horaire, la localisation, l’appareil et les habitudes de l’utilisateur. Une anomalie ne doit pas entraîner automatiquement la suspension d’un compte sans règle de secours et procédure de vérification.
La réponse guidée aux incidents. Un assistant peut proposer les étapes d’un playbook, préparer une commande ou résumer l’historique d’un actif. L’exécution doit rester soumise à une autorisation explicite pour les actions irréversibles.
Préserver les éléments de preuve
Chaque recommandation générée doit être rattachée aux journaux et aux événements d’origine. Les équipes doivent conserver la version du modèle, la date de l’analyse et les paramètres appliqués.
Cette traçabilité permet de comprendre pourquoi une alerte a été priorisée, mais aussi de corriger le système après une erreur. Sans elle, l’organisation ne peut ni auditer la décision ni démontrer la cohérence de sa procédure.
Tester l’IA comme un système exposé aux attaques
Les modèles utilisés en sécurité peuvent eux-mêmes être ciblés. Les attaques par injection de prompt cherchent à faire ignorer les instructions prévues. L’empoisonnement des données vise à dégrader les informations utilisées pour entraîner ou alimenter un système. Une fuite peut également survenir lorsqu’un assistant restitue des contenus confidentiels à un utilisateur qui ne devrait pas y accéder.
La sécurité doit donc inclure des tests adversariaux avant la mise en production et après chaque évolution importante. Les scénarios doivent reproduire les usages réels, notamment les documents malveillants, les requêtes ambiguës et les comptes compromis.
Une campagne de tests pratique
- Envoyer des instructions contradictoires dans des documents analysés par l’assistant
- Vérifier qu’un utilisateur ne peut pas obtenir les données d’un autre service
- Tester les limites de taille et de format des fichiers importés
- Simuler la compromission d’un compte disposant d’un accès à l’outil
- Contrôler qu’une action sensible demande une validation humaine
- Comparer les décisions du système sur des cas normaux et malveillants
SANS rapporte que 61 % des équipes utilisent désormais l’IA dans leurs activités de red team, contre 33 % en 2025. Cette progression confirme l’intérêt de l’IA pour produire des scénarios et accélérer l’analyse, mais elle ne remplace pas l’expertise nécessaire pour interpréter les résultats.
Séparer les environnements
Les essais doivent être conduits dans un environnement qui ne donne pas accès aux comptes, données et systèmes de production. Les jeux de données de test doivent être anonymisés ou synthétiques lorsqu’ils contiennent des informations sensibles.
Un mécanisme d’arrêt doit permettre de désactiver rapidement l’intégration, le connecteur ou le compte de service. Cette capacité de retour arrière doit être testée avant le lancement, et non découverte pendant un incident.
Organiser les données pour éviter les décisions aveugles
Une IA de sécurité ne peut pas compenser des journaux incomplets. Les événements d’identité, les terminaux, le réseau, les applications et les services cloud doivent être horodatés de manière cohérente et associés à des identifiants stables.
La priorité consiste à améliorer la qualité des données qui répondent à un risque concret. Une entreprise peut commencer par les connexions, les changements de privilèges, les installations de logiciels, les transferts inhabituels et les modifications de règles de sécurité.
Les contrôles techniques à vérifier
- Centralisation des journaux essentiels
- Synchronisation des horloges des systèmes
- Contrôle d’accès aux données utilisées par les modèles
- Chiffrement des données en transit et au repos
- Conservation adaptée à la réponse aux incidents
- Suppression des données qui ne servent plus à la finalité définie
L’accès aux données doit être filtré avant leur transmission au modèle. Un assistant chargé de résumer une alerte n’a pas nécessairement besoin de voir l’intégralité des dossiers RH ou des contrats commerciaux.
Évaluer les fournisseurs sur des critères vérifiables
Le choix d’une solution doit porter sur les contrôles disponibles, et pas uniquement sur la qualité apparente des réponses. Les équipes doivent vérifier la gestion des identités, les journaux d’audit, la localisation des données, les options de conservation et les capacités d’export.
| Critère | Question de contrôle | Preuve attendue |
|---|---|---|
| Accès | Les droits peuvent-ils être limités par rôle ? | Matrice des permissions |
| Traçabilité | Les requêtes et actions sont-elles journalisées ? | Exemple de journal d’audit |
| Données | Les informations peuvent-elles être exclues de l’entraînement ? | Clause contractuelle |
| Résilience | Le service dispose-t-il d’un mode de secours ? | Procédure de continuité |
| Réversibilité | Les données et réglages peuvent-ils être exportés ? | Format d’export documenté |
Une démonstration commerciale ne constitue pas une preuve suffisante. Les contrôles doivent être testés dans un environnement proche de la production et intégrés aux exigences d’achat.
Préparer les équipes à des attaques accélérées par l’IA
Les attaquants peuvent utiliser l’IA pour produire plus rapidement des messages personnalisés, rechercher des informations publiques ou automatiser certaines étapes d’une intrusion. La défense doit donc renforcer la vérification des identités, la protection des comptes privilégiés et la rapidité de signalement.
Selon SANS, 95 % des responsables interrogés estiment que les acteurs malveillants utilisent déjà l’IA et 78 % des organisations déclarent avoir constaté des attaques confirmées ou suspectées comme facilitées par l’IA. Ces chiffres justifient un entraînement régulier, centré sur les scénarios réellement observés dans l’entreprise.
Renforcer les contrôles humains
La formation doit apprendre aux employés à vérifier une demande urgente, un changement de coordonnées bancaires, une pièce jointe inhabituelle ou une instruction reçue par un canal inattendu. Elle doit aussi expliquer que le style, la grammaire et le logo ne suffisent plus à authentifier un message.
Les procédures doivent prévoir un canal indépendant pour confirmer une demande sensible. Les équipes financières, les administrateurs et les dirigeants doivent bénéficier de contrôles renforcés, car leurs comptes peuvent permettre une fraude ou une prise de contrôle plus importante.
Mettre à jour les playbooks
Les procédures d’incident doivent intégrer les événements propres aux systèmes d’IA : fuite de prompt, exposition d’un connecteur, comportement anormal d’un agent, contamination d’une base documentaire ou sortie incorrecte entraînant une action métier.
Chaque playbook doit préciser les premières mesures, les personnes à prévenir, les comptes à isoler, les preuves à conserver et les conditions de réouverture du service. Un exercice trimestriel permet de vérifier que les responsabilités sont comprises et que les accès d’urgence fonctionnent.
Relier sécurité nationale, résilience et IA responsable
La nomination de Dan Driscoll par OpenAI illustre l’élargissement des discussions sur l’IA de sécurité au-delà des seuls outils commerciaux. OpenAI a créé pour lui le poste de conseiller senior pour la modernisation de la sécurité nationale, avec une mission portant sur l’usage de l’IA avancée pour la sécurité nationale et la cybersécurité.
L’entreprise indique que Driscoll travaillera avec sa direction et des partenaires externes, notamment pour collaborer avec les alliés des États-Unis. OpenAI relie également cette nomination au programme Daybreak, consacré au renforcement de la résilience cyber et à la protection des services essentiels.
À retenir : la sécurité de l’IA devient aussi une question de résilience collective. Pour une entreprise, cela se traduit par des fournisseurs évalués, des procédures de continuité et une capacité à fonctionner même lorsqu’un service automatisé est indisponible.
Cette orientation ne change pas les fondamentaux d’un programme de cybersécurité. Elle renforce plutôt la nécessité de traiter l’IA comme une dépendance critique lorsque celle-ci intervient dans les identités, la détection, la production ou les opérations.
Le plan d’action sur 90 jours
Jours 1 à 30 : inventorier et classer. Recensez les outils, les comptes de service, les données utilisées et les actions possibles. Bloquez les usages qui exposent des informations sensibles sans contrôle d’accès ni journalisation.
Jours 31 à 60 : tester et encadrer. Sélectionnez un cas d’usage limité, définissez ses indicateurs et réalisez des tests adversariaux. Formalisez la validation humaine, la procédure d’arrêt et les règles de conservation.
Jours 61 à 90 : mesurer et étendre. Comparez le temps de traitement, la qualité des décisions et les erreurs avec la situation initiale. Étendez uniquement le dispositif qui améliore un résultat de sécurité sans créer un risque supérieur.
Notre avis : l’IA doit assister la sécurité avant de l’automatiser
La méthode la plus solide en 2026 consiste à réserver à l’IA les tâches de corrélation, de synthèse et de recherche, tout en maintenant une validation humaine pour les décisions qui modifient des droits, interrompent un service ou engagent la responsabilité de l’entreprise.
Le niveau de maturité reste inférieur au niveau d’adoption : 78 % des organisations utilisent activement l’IA en cybersécurité selon SANS, mais seulement 27 % jugent leur déploiement mature en production. Cette différence doit guider les investissements : priorité aux journaux fiables, à la gouvernance et aux exercices d’incident avant la multiplication des agents autonomes.
Dans les six prochains mois, les entreprises les mieux préparées seront celles qui sauront prouver ce que leur IA a vu, pourquoi elle a recommandé une action et qui l’a autorisée. Votre organisation est-elle capable de répondre à ces trois questions pour chacun de ses usages critiques ?