Les agents IA ne se contentent plus de signaler une menace : ils peuvent corréler des alertes, enquêter, appeler des outils et exécuter des actions de réponse. Cette capacité accélère la défense, mais transforme aussi chaque agent en identité technique susceptible d’être détournée.
Google prévoit pour 2027 des équipes coordonnées d’agents spécialisés en cyberdéfense. Heather Adkins, vice-présidente de l’ingénierie de sécurité de Google, recommande d’étendre le zéro confiance jusqu’aux transactions réalisées par les agents, tandis que les workflows autonomes doivent être audités avant leur passage en production.
Pour une entreprise, le sujet n’est donc pas de déployer le plus d’agents possible. Il consiste à choisir les bons cas d’usage, limiter précisément leurs pouvoirs, conserver une trace exploitable de leurs décisions et maintenir une validation humaine là où une erreur peut interrompre l’activité.
Un agent de cyberdéfense agit comme une identité, pas comme un simple logiciel
La première décision consiste à considérer chaque agent comme un acteur distinct du système d’information. Le NIST recommande une identité, des identifiants et un cycle de gestion propres aux agents, séparés de ceux des utilisateurs humains et des comptes de service classiques.
Un agent peut recevoir une alerte, consulter un outil de gestion des événements, interroger une base de renseignement sur les menaces, créer un ticket ou isoler un équipement. Chacune de ces étapes produit une action attribuable. Si plusieurs agents partagent un même compte administrateur, l’entreprise perd la capacité de distinguer l’origine réelle d’une opération et augmente le risque de propagation après une compromission.
L’identité de l’agent doit rester liée à l’entité qui a déclenché sa mission. Le NIST recommande de maintenir cette chaîne de confiance de manière cryptographique pendant toute l’exécution de la tâche. Cette liaison permet de répondre à quatre questions opérationnelles : qui a lancé l’action, quel agent l’a exécutée, avec quels droits et sur quelles données.
Cartographier les agents avant de les déployer
Un inventaire initial doit couvrir les agents développés en interne, ceux intégrés dans une plateforme de sécurité et ceux activés par les équipes métiers. Le risque ne vient pas uniquement des outils officiellement approuvés : une équipe peut aussi connecter un agent à une messagerie, un outil de tickets ou une console d’administration sans passer par l’équipe de sécurité.
Pour chaque agent, documentez :
- sa mission exacte et son propriétaire métier ;
- les sources de données qu’il peut consulter ;
- les outils qu’il peut appeler ;
- les actions qu’il peut recommander ou exécuter ;
- la durée de vie de ses identifiants ;
- les conditions qui imposent une validation humaine ;
- la procédure de révocation et de retrait.
Cette cartographie doit distinguer un agent d’analyse, qui produit une synthèse, d’un agent d’exécution, qui modifie un système. Les deux peuvent utiliser le même modèle, mais ils ne présentent pas le même niveau de risque.
À retenir : un agent sans identité individuelle devient difficile à auditer et dangereux à révoquer. Son accès doit être lié à une mission, un propriétaire et une durée déterminée.
Commencer par des cas d’usage réversibles
Le meilleur premier cas d’usage est celui qui apporte un gain mesurable sans donner à l’agent le pouvoir de provoquer une interruption majeure. La collecte et la synthèse d’informations constituent généralement un point de départ plus maîtrisable que la modification automatique des configurations.
Les équipes peuvent commencer par des missions comme :
- regrouper les alertes liées à un même incident ;
- résumer une chronologie d’attaque ;
- rechercher des indicateurs de compromission dans les journaux ;
- comparer une configuration avec une politique interne ;
- préparer un ticket d’incident avec les éléments de preuve ;
- proposer des étapes de remédiation à un analyste.
Ces fonctions réduisent le travail répétitif sans autoriser immédiatement l’agent à désactiver un compte, modifier une règle réseau ou supprimer une ressource. L’entreprise peut ainsi mesurer la précision, le taux de faux positifs, le délai de traitement et la qualité des justifications avant d’élargir le périmètre.
Séparer recommandation et exécution
Un workflow sûr distingue trois niveaux : observation, recommandation et action. L’agent peut d’abord lire les données et produire une hypothèse. Il peut ensuite proposer une mesure avec son niveau de confiance, les éléments qui la justifient et les conséquences attendues. L’exécution intervient seulement après une règle d’approbation adaptée au risque.
Microsoft décrit la défense assistée par agents comme un ensemble de capacités couvrant la collecte et la corrélation des signaux, la détection, la priorisation, l’investigation, la recommandation et l’automatisation d’étapes de réponse encadrées. Cette gradation fournit une base pratique pour éviter le passage direct à une autonomie générale.
Une action réversible peut être automatisée plus tôt qu’une action irréversible. La création d’un ticket, l’ajout d’un commentaire ou le regroupement d’alertes n’ont pas le même impact que l’isolement d’un serveur de production ou la rotation d’un secret utilisé par une application critique.
Définir une matrice d’autonomie
Une matrice simple peut classer les actions selon leur impact et leur réversibilité :
| Niveau | Exemple d’action | Mode d’exécution | Contrôle principal |
|---|---|---|---|
| Faible | Regrouper des alertes | Automatique | Journalisation |
| Modéré | Créer un ticket d’incident | Automatique | Revue périodique |
| Élevé | Bloquer une adresse réseau | Approbation requise | Double validation |
| Critique | Modifier une règle de production | Exécution humaine | Séparation des rôles |
La matrice doit être reliée aux systèmes réellement utilisés. Une action apparemment modérée peut devenir critique si elle concerne un service central, un environnement réglementé ou un grand nombre d’utilisateurs.
Appliquer le moindre privilège à chaque transaction
Le modèle du compte technique permanent ne convient pas aux agents autonomes. Le NIST recommande le zero standing privilege, c’est-à-dire l’absence de droits persistants lorsque l’agent est inactif. Les permissions doivent être accordées pour une tâche précise, dans un périmètre limité et pendant une durée contrôlée.
Google défend une extension du zéro confiance au niveau transactionnel. Heather Adkins estime qu’une transaction doit être vérifiée au moment où elle est exécutée, même si une demande similaire a été autorisée auparavant. Une opération acceptée un jour peut donc être bloquée le lendemain si le contexte devient anormal.
Cette logique est particulièrement utile pour les agents, car leur comportement dépend de données, d’outils et d’instructions qui peuvent changer pendant une même session. Une autorisation accordée au début d’un workflow ne doit pas automatiquement couvrir toutes les étapes suivantes.
Construire des autorisations limitées
Chaque permission devrait préciser :
- la ressource concernée ;
- l’opération autorisée ;
- le contexte d’exécution ;
- la durée de validité ;
- le montant ou le volume maximal ;
- les conditions de blocage ;
- le responsable de l’approbation.
Un agent chargé de rechercher des indicateurs dans des journaux n’a pas besoin d’un accès en écriture à ces mêmes journaux. Un agent qui prépare une règle de filtrage n’a pas besoin de pouvoir la publier. Cette séparation réduit les conséquences d’une erreur de raisonnement, d’une injection d’instructions ou d’un vol d’identifiants.
Le NIST recommande également la séparation des tâches afin d’empêcher un agent de cumuler des privilèges incompatibles. Un agent ne devrait pas pouvoir demander une élévation de droits, l’approuver lui-même et exécuter ensuite l’opération.
Vérifier le contexte au moment de l’action
Une autorisation transactionnelle peut prendre en compte l’identité de l’agent, l’état de l’incident, l’environnement visé, l’heure, la sensibilité de la ressource et la présence d’une validation humaine. Ce contrôle doit être indépendant de la sortie du modèle : l’agent peut proposer une action, mais un moteur de politique décide si elle est permise.
Les règles de blocage doivent couvrir les comportements inhabituels : volume anormal de requêtes, accès à une ressource jamais utilisée, changement soudain de cible, appel d’un outil non prévu ou tentative de contourner une validation. La détection ne remplace pas les permissions minimales, mais elle fournit une seconde barrière.
À retenir : le zéro confiance appliqué aux agents ne s’arrête pas à leur connexion. Il doit contrôler chaque action sensible au moment où elle est demandée.
Auditer les workflows autonomes avant la production
Un workflow autonome doit être testé comme une application distribuée, une identité privilégiée et un processus métier. Google recommande d’auditer les workflows avant leur déploiement en production, car un agent peut enchaîner des opérations valides individuellement et produire un résultat dangereux dans son ensemble.
L’audit doit examiner le chemin nominal, les erreurs d’outils, les réponses ambiguës, les données malveillantes et les interruptions de service. Il doit aussi vérifier que l’agent s’arrête lorsqu’il ne dispose pas d’une information fiable au lieu de poursuivre avec une hypothèse non vérifiée.
Tester les entrées hostiles
Les agents lisent souvent des courriels, des tickets, des documents ou des pages web. Ces contenus peuvent contenir des instructions adverses destinées à modifier leur comportement. Un test sérieux doit vérifier qu’un texte consulté n’a pas le pouvoir de remplacer la politique d’exécution, d’exfiltrer des secrets ou de provoquer un appel d’outil non autorisé.
Les tests doivent couvrir :
- l’injection d’instructions dans un ticket ;
- la falsification d’un indicateur de compromission ;
- une réponse contradictoire d’un outil ;
- l’indisponibilité d’une source de données ;
- une boucle d’appels excessive ;
- une demande d’accès hors périmètre ;
- une tentative de désactivation de la journalisation.
Le résultat attendu n’est pas seulement une réponse correcte. L’agent doit aussi respecter les limites d’accès, signaler l’incertitude, conserver la traçabilité et demander une intervention lorsqu’une règle est ambiguë.
Mesurer la qualité autrement que par la vitesse
Le temps de traitement est utile, mais il ne suffit pas. Une équipe doit mesurer la précision des regroupements d’alertes, le taux d’actions refusées à juste titre, le nombre d’escalades appropriées et les conséquences des erreurs.
Les indicateurs pertinents peuvent inclure :
- le taux de faux positifs et de faux négatifs ;
- le nombre d’actions bloquées par la politique ;
- la proportion de workflows nécessitant une reprise humaine ;
- le délai entre une alerte et une décision validée ;
- la couverture des journaux d’exécution ;
- le temps nécessaire pour révoquer un agent.
Ces mesures doivent être observées sur une période représentative et comparées au processus existant. Une automatisation qui réduit le délai mais augmente les incidents secondaires ne constitue pas un progrès opérationnel.
Conserver une preuve exploitable de chaque décision
La journalisation doit enregistrer plus que la réponse finale du modèle. Un audit utile doit pouvoir reconstituer les données reçues, les outils appelés, les paramètres transmis, les politiques appliquées, les validations obtenues et l’action effectivement exécutée.
Le suivi doit également conserver la version de l’agent, la version de ses instructions, l’identité du déclencheur et les résultats intermédiaires nécessaires à l’analyse. Les journaux doivent être protégés contre la modification par l’agent lui-même et accessibles aux équipes chargées de la sécurité, de la conformité et de la gestion des incidents.
CrowdStrike met en avant, pour Charlotte AI, des contrôles tels que la gestion des accès par rôles, les traces d’exécution, l’historique des versions, le retour à une version antérieure, les plafonds de consommation et les workflows d’approbation avec validation humaine pour certaines actions. Ces mécanismes illustrent les contrôles à rechercher dans une plateforme d’agents de sécurité.
Rendre les décisions compréhensibles
Une trace exploitable ne signifie pas qu’il faut conserver une explication technique illimitée. Elle doit surtout présenter les éléments vérifiables qui ont conduit à l’action : événements observés, règles déclenchées, niveau de confiance, ressource ciblée, autorisation appliquée et résultat.
L’équipe doit pouvoir distinguer une décision fondée sur une règle déterministe d’une recommandation issue d’une analyse probabiliste. Cette différence influence le niveau de validation requis et la manière de traiter une contestation.
La conservation des traces doit aussi respecter les obligations de protection des données. Les journaux peuvent contenir des identifiants, des messages, des contenus de fichiers ou des informations personnelles. Leur accès doit être limité et leur durée de conservation définie selon le besoin opérationnel et le cadre applicable.
Organiser la gouvernance entre sécurité et métiers
Un agent de cyberdéfense ne relève pas uniquement de l’équipe de sécurité. Son propriétaire métier doit définir la valeur attendue, accepter les contraintes opérationnelles et participer à la validation des actions. La sécurité apporte le modèle de menace, la politique d’accès et les contrôles de surveillance.
Cette responsabilité partagée évite deux erreurs opposées : laisser chaque équipe déployer des agents sans coordination ou bloquer tous les usages faute de procédure adaptée. Le comité de gouvernance doit notamment approuver les cas d’usage à fort impact, les connexions aux systèmes critiques et les changements de niveau d’autonomie.
Attribuer des rôles précis
Chaque agent devrait avoir :
- un propriétaire responsable de son utilité ;
- un administrateur chargé de sa configuration ;
- un responsable sécurité pour ses accès et ses tests ;
- un valideur métier pour les actions à impact ;
- une procédure de retrait documentée.
Le propriétaire ne doit pas nécessairement être la personne qui approuve les opérations sensibles. Cette séparation renforce le contrôle et limite le risque qu’un agent soit maintenu parce qu’aucune équipe n’ose en demander l’arrêt.
Prévoir l’arrêt avant le lancement
La révocation doit être testée avant la mise en production. Elle doit permettre de désactiver les identifiants, couper les connexions aux outils, interrompre les tâches en cours et empêcher le redémarrage automatique. Les secrets utilisés par l’agent doivent pouvoir être remplacés sans interrompre inutilement les autres services.
Le plan d’incident doit préciser quoi faire si l’agent produit une action erronée, si son identité est compromise ou si un outil connecté renvoie des données manipulées. La procédure doit prévoir une conservation des traces, une analyse de l’étendue et une restauration des changements lorsque cela est possible.
À retenir : un agent n’est pas prêt pour la production tant que son arrêt, sa révocation et la restauration de ses actions n’ont pas été testés.
Déployer par étapes avec un périmètre mesurable
Une stratégie réaliste commence par un environnement limité, des données sélectionnées et des actions réversibles. Le pilote doit avoir une durée définie, des critères de réussite et une procédure d’arrêt. Il ne s’agit pas de laisser l’agent apprendre indéfiniment en production, mais de vérifier son comportement dans des conditions contrôlées.
Une trajectoire en quatre étapes peut structurer le déploiement :
- observation : l’agent lit et synthétise sans modifier les systèmes ;
- recommandation : il propose des actions soumises à validation ;
- automatisation limitée : il exécute des opérations réversibles dans un périmètre défini ;
- autonomie conditionnelle : il agit seul uniquement lorsque les politiques, le contexte et le niveau de risque l’autorisent.
Chaque étape doit être précédée d’une revue des journaux, des incidents et des exceptions. Une hausse des erreurs ou des comportements inattendus doit entraîner un retour au niveau précédent, et non une augmentation automatique des permissions.
Choisir les bonnes intégrations
Les intégrations doivent être limitées aux outils nécessaires à la mission. Un agent de tri n’a pas besoin d’accéder à la console d’identité, au système financier ou aux données de ressources humaines. Les connecteurs doivent être versionnés, testés et surveillés comme des composants de sécurité.
Les équipes doivent également limiter les chaînes d’agents. Un agent qui délègue à plusieurs autres augmente le nombre d’identités, de permissions et de points de défaillance. Chaque délégation doit être explicite, traçable et soumise aux mêmes règles de moindre privilège.
Préparer les équipes à superviser
L’automatisation modifie le rôle des analystes. Ils doivent savoir vérifier une synthèse, contester une recommandation, interpréter une trace et interrompre un workflow. La formation doit inclure des exercices d’erreur, de compromission d’identité et de retour arrière.
Les procédures opérationnelles doivent aussi préciser quand l’analyste fait confiance à l’agent et quand il exige une preuve supplémentaire. Une interface qui affiche seulement une conclusion encourage l’acceptation automatique ; une interface qui expose les événements, les permissions et les règles appliquées facilite une supervision réelle.
Notre avis : l’autonomie doit rester conditionnelle
Les entreprises devraient adopter dès maintenant les agents de cyberdéfense pour la collecte, la corrélation, la préparation d’incidents et les réponses réversibles. Elles ne devraient pas leur confier par défaut des privilèges d’administration permanents ni l’autorité de modifier seuls les systèmes critiques.
La recommandation de Google pour 2027 est claire sur le principe : chaque agent doit disposer d’une identité vérifiable, de droits minimaux et d’un contrôle au niveau de la transaction. Le NIST renforce cette approche avec le zero standing privilege, la séparation des tâches et une chaîne de confiance reliant l’agent à l’entité qui a lancé sa mission.
Dans les six prochains mois, le critère de maturité ne sera pas le nombre d’agents déployés. Ce sera la capacité à démontrer, pour chaque action sensible, qui l’a autorisée, pourquoi elle a été permise, quelles limites s’appliquaient et comment l’entreprise peut reprendre le contrôle. Les organisations qui construisent cette fondation pourront automatiser davantage sans transformer leur défense en nouvelle surface d’attaque.