54 % des entreprises interrogées par SnapLogic déclarent avoir abandonné des projets d’IA agentique faute de valeur commerciale clairement identifiée. Dans le même temps, 90 % font confiance, ou feraient confiance, aux résultats produits par ces agents, tandis que 36 % estiment que les investissements progressent plus vite que leur capacité à les gouverner.
Ce contraste révèle le vrai risque : un agent peut être jugé fiable avant que son périmètre, son coût, ses accès et son retour sur investissement soient maîtrisés. Pour éviter l’abandon, il faut donc sécuriser le projet comme un système opérationnel, avec un objectif chiffré, des droits limités, des validations humaines et une mesure continue de la valeur.
Le chiffre de SnapLogic signale surtout un défaut de cadrage
Le principal danger n’est pas l’absence d’intérêt pour les agents IA, mais le lancement de projets dont la valeur attendue reste trop vague. SnapLogic indique que 54 % des entreprises ont abandonné des projets d’IA agentique parce qu’elles ne parvenaient pas à établir clairement leur valeur commerciale.
L’étude montre aussi que 85 % des organisations déploient déjà des agents à grande échelle ou se déclarent prêtes à le faire. Le passage à l’échelle précède donc parfois la preuve que le processus choisi mérite réellement d’être automatisé.
Un projet robuste doit répondre à quatre questions avant le choix du modèle ou de la plateforme :
- Quel processus précis l’agent prend-il en charge ?
- Quelle étape mesurable doit-il accélérer, fiabiliser ou réduire ?
- Quel niveau d’erreur est acceptable ?
- Qui peut suspendre l’agent et reprendre la main ?
La valeur ne se résume pas au nombre de tâches automatisées. Elle peut se mesurer par le délai moyen de traitement, le taux de résolution au premier contact, le coût par dossier, le nombre d’escalades humaines ou le volume d’erreurs corrigées.
À retenir : un agent ne mérite pas d’être industrialisé parce qu’il produit des réponses convaincantes. Il doit améliorer un indicateur métier défini avant son déploiement.
Fixez un cas d’usage avec un seuil d’arrêt explicite
La sécurité commence par une décision de périmètre. Un agent chargé de classer des demandes internes ne présente pas le même risque qu’un agent autorisé à modifier une commande, accorder un remboursement ou publier une information externe.
Pour chaque projet, une fiche de cadrage devrait préciser :
- le processus couvert et les processus exclus ;
- les utilisateurs autorisés ;
- les données consultables ;
- les outils accessibles ;
- les actions nécessitant une validation ;
- les indicateurs de performance ;
- les conditions de suspension ou de retour en arrière.
Le seuil d’arrêt doit être opérationnel. Une hausse du taux d’erreur, une dérive du coût par tâche, une multiplication des appels à un outil ou une anomalie d’accès doivent déclencher une alerte définie à l’avance.
Préférez les actions réversibles
Le premier déploiement devrait privilégier les opérations que l’entreprise peut annuler ou corriger rapidement. La génération d’un brouillon, la classification d’un ticket ou l’extraction d’informations sont généralement plus faciles à contrôler qu’une suppression de données ou une transaction financière.
Une progression en trois niveaux réduit l’exposition :
- observation, l’agent formule une recommandation sans agir ;
- assistance, l’agent prépare l’action et un humain la valide ;
- autonomie encadrée, l’agent exécute uniquement les actions autorisées.
Ce découpage permet de comparer les résultats de l’agent avec ceux d’une équipe humaine avant d’élargir ses permissions. Il fournit aussi des preuves pour décider si le gain justifie le risque.
Limitez les accès comme ceux d’un compte technique
SnapLogic rapporte que 77 % des répondants déclarent que leurs agents disposent, ou disposeraient, d’un accès complet ou étendu aux données et aux systèmes métier afin d’être plus efficaces. Cette pratique augmente directement la surface d’attaque : une instruction malveillante, une erreur de configuration ou un outil compromis peut produire des effets bien plus larges que prévu.
Le principe à appliquer est celui du moindre privilège, c’est-à-dire l’attribution des seuls droits nécessaires à une tâche donnée. Le NIST recommande également de limiter strictement la portée des accès et de séparer les responsabilités afin qu’un agent ne puisse pas cumuler des privilèges incompatibles.
Un agent chargé de lire les commandes n’a pas besoin de les modifier. Un agent qui prépare un remboursement n’a pas besoin de le déclencher. Un agent qui résume des contrats n’a pas besoin d’accéder aux comptes bancaires.
Construisez une matrice d’autorisations
La matrice doit relier chaque agent à ses données, ses outils et ses opérations possibles. Elle doit être lisible par la sécurité, le métier et l’équipe responsable de la plateforme.
| Type d’agent | Données accessibles | Actions autorisées | Validation humaine |
|---|---|---|---|
| Classification de demandes | Contenu des tickets | Attribuer une catégorie | Non, contrôle par échantillonnage |
| Assistant de support | Historique client et base de connaissances | Préparer une réponse | Oui avant envoi externe |
| Traitement de commandes | Commandes et stocks | Préparer une modification | Oui avant modification |
| Finance opérationnelle | Factures et règles internes | Préparer un paiement | Oui avant exécution |
Chaque appel à un outil doit être authentifié, journalisé et associé à une identité non humaine. Les identifiants partagés entre plusieurs agents compliquent l’attribution des actions et rendent les investigations plus difficiles.
Le NIST met en avant la gestion des identités des agents, le périmètre minimal des droits et la séparation des fonctions comme des principes de conception essentiels. L’accès doit aussi expirer lorsqu’une tâche est terminée, plutôt que rester ouvert indéfiniment.
Traitez les dix risques propres aux agents comme une liste de tests
L’OWASP a publié en décembre 2025 une liste des dix principaux risques liés aux applications agentiques. Elle couvre notamment le détournement de l’objectif, le mauvais usage des outils, l’abus d’identité et de privilèges, les vulnérabilités de la chaîne logicielle, l’exécution de code inattendue, l’empoisonnement de la mémoire et du contexte, les communications inter-agents non sécurisées, les défaillances en cascade, l’exploitation de la confiance humaine et les agents incontrôlables.
Cette liste ne doit pas rester documentaire. Elle peut devenir une grille de recette avant chaque mise en production.
Testez les entrées hostiles
Les agents lisent souvent des contenus qui ne sont pas entièrement contrôlés par l’entreprise : courriels, pages web, pièces jointes, tickets ou documents transmis par des clients. Ces contenus peuvent contenir des instructions destinées à détourner l’agent plutôt qu’à fournir une information utile.
Les tests doivent vérifier que l’agent :
- distingue une donnée à analyser d’une instruction à exécuter ;
- refuse une action hors de son périmètre ;
- ne révèle pas de secrets présents dans son contexte ;
- ne transmet pas automatiquement une donnée sensible à un outil externe ;
- demande une validation avant une opération à impact élevé.
Les outils connectés méritent une attention particulière. Une fonction apparemment banale, comme l’envoi d’un message ou la modification d’un fichier, peut devenir dangereuse si l’agent choisit mal ses paramètres.
Bloquez les défaillances en cascade
Dans un système composé de plusieurs agents, une erreur initiale peut être reprise comme une information fiable par les agents suivants. Les frontières entre les étapes doivent donc être explicites : validation du format, contrôle des droits, vérification de la source et limitation du nombre d’itérations.
Un orchestrateur ne devrait pas autoriser une boucle sans limite. Chaque workflow doit disposer d’un budget d’appels, d’un délai maximal et d’un mécanisme d’arrêt automatique.
Séparez la confiance dans la réponse de l’autorisation d’agir
Le chiffre de 90 % publié par SnapLogic montre que les répondants font confiance, ou feraient confiance, au travail et aux résultats des agents IA. Cette confiance facilite l’adoption, mais elle ne doit pas remplacer les contrôles techniques.
Une réponse plausible n’est pas une preuve de justesse. L’agent peut s’appuyer sur une donnée obsolète, interpréter incorrectement une règle ou exécuter une action avec un paramètre inadapté.
Le système doit donc distinguer trois niveaux :
- la qualité de la réponse produite ;
- la fiabilité des données utilisées ;
- l’autorisation de déclencher une action.
Un agent peut obtenir une bonne note sur la qualité de ses résumés tout en restant interdit d’accès à un système transactionnel. À l’inverse, une action automatisée peut être autorisée uniquement lorsque ses paramètres proviennent d’une source vérifiée et que son montant reste sous un seuil défini.
Mettez en place une validation adaptée au risque
La validation humaine ne signifie pas qu’une personne doit relire chaque phrase. Elle doit se concentrer sur les décisions qui peuvent provoquer une perte financière, une divulgation, une sanction réglementaire ou un impact client.
Pour les opérations sensibles, l’interface de validation doit afficher l’objectif de l’agent, les données utilisées, l’action proposée et les conséquences attendues. Une simple demande d’approbation sans contexte favorise le clic automatique.
La supervision doit aussi prévoir la possibilité de suspendre l’agent sans interrompre les autres services. L’arrêt d’urgence doit être testé comme n’importe quel dispositif de sécurité.
Mesurez les coûts et la valeur à chaque étape
Les projets abandonnés ne souffrent pas uniquement d’un manque de performance. Ils peuvent aussi coûter plus cher que prévu à cause du volume d’appels au modèle, de l’utilisation d’outils, de la recherche documentaire ou des reprises humaines.
SnapLogic recommande de relier l’IA aux données, aux applications et aux processus appropriés, puis de mieux suivre les performances et les coûts afin d’obtenir une valeur mesurable.
Un tableau de pilotage utile combine des indicateurs techniques et métier :
- coût moyen par tâche terminée ;
- durée moyenne d’un workflow ;
- taux de réussite sans intervention ;
- taux d’escalade vers un humain ;
- taux d’erreur confirmée ;
- nombre d’appels à chaque outil ;
- volume de données traitées ;
- valeur créée par rapport au processus de référence.
Calculez un coût complet
Le coût d’un agent ne se limite pas au prix du modèle. Il comprend aussi l’infrastructure, la recherche dans les données, les appels aux applications, la supervision, les évaluations, la conservation des journaux et les corrections humaines.
Une formule simple aide à éviter les illusions de productivité :
[\text{coût par tâche} = \frac{\text{coût du modèle} + \text{outils} + \text{infrastructure} + \text{supervision} + \text{reprises}}{\text{tâches correctement terminées}}]
Le dénominateur doit compter uniquement les tâches réellement terminées avec le niveau de qualité attendu. Une réponse générée mais systématiquement réécrite par un salarié ne constitue pas nécessairement une automatisation rentable.
Fixez des critères de poursuite
Un pilote doit avoir une durée, un volume et une règle de décision. Par exemple, l’équipe peut comparer l’agent à un processus manuel sur un échantillon défini, puis décider de l’étendre uniquement si le délai baisse sans hausse significative des erreurs.
La comparaison doit utiliser la même définition de la réussite avant et après le déploiement. Sinon, l’organisation risque de mesurer l’activité de l’agent plutôt que le bénéfice obtenu.
À retenir : si le coût par résultat correct, le taux d’erreur et le temps humain résiduel ne sont pas suivis ensemble, le retour sur investissement reste incomplet.
Organisez les données avant d’élargir l’autonomie
Une grande partie de la valeur d’un agent dépend de la qualité des données auxquelles il accède. Les informations dupliquées, contradictoires, mal datées ou mal classifiées augmentent le risque de réponse erronée et compliquent les contrôles.
Le raccordement aux bonnes données ne signifie pas donner accès à toutes les données. Il faut sélectionner les sources autorisées, définir leur fraîcheur, identifier leur propriétaire et préciser la règle applicable lorsque deux sources divergent.
Construisez un contexte contrôlé
Chaque agent devrait disposer d’un ensemble de documents et de données correspondant à sa tâche. Les documents sensibles doivent être filtrés selon l’identité de l’utilisateur et la finalité du workflow, pas seulement selon leur présence dans un moteur de recherche interne.
Les journaux doivent permettre de reconstituer :
- la question ou l’événement initial ;
- les documents consultés ;
- les décisions intermédiaires utiles ;
- les outils appelés ;
- les paramètres transmis ;
- la validation ou le refus humain ;
- le résultat final.
Cette traçabilité sert à la fois la sécurité, le débogage et la mesure de valeur. Elle permet de déterminer si une erreur vient du modèle, d’une donnée, d’un outil ou d’une règle d’orchestration.
La conservation des journaux doit rester compatible avec les exigences de confidentialité. Les informations personnelles et les secrets techniques ne doivent pas être copiés dans des traces accessibles à un nombre excessif de personnes.
Préparez la réponse aux incidents avant la production
Un agent autonome doit être traité comme un composant opérationnel susceptible de tomber en panne ou d’être détourné. Le NIST souligne l’importance des identités non humaines, de la traçabilité des workflows, de la conservation des preuves, des procédures de confinement et des exercices de simulation pour les incidents impliquant des agents.
Le plan de réponse doit indiquer qui peut :
- révoquer les identifiants de l’agent ;
- désactiver un outil ;
- arrêter un workflow ;
- restaurer une donnée ;
- informer les équipes concernées ;
- examiner les journaux ;
- autoriser la remise en service.
Simulez trois scénarios prioritaires
Le premier scénario est le détournement de l’objectif : un document malveillant pousse l’agent à ignorer sa mission et à divulguer une information. Le deuxième est l’abus de privilèges : une identité d’agent permet une opération qui dépassait le périmètre prévu. Le troisième est la propagation d’une erreur : un agent fournit une information incorrecte, puis plusieurs autres l’utilisent sans vérification.
Après chaque exercice, l’équipe doit mesurer le temps nécessaire pour détecter, contenir et corriger l’incident. Le retour d’expérience doit modifier les droits, les tests ou les procédures, plutôt que rester dans un compte rendu général.
Notre avis : l’autonomie doit venir après la preuve de valeur
L’alerte de SnapLogic ne justifie ni l’abandon de l’IA agentique ni une confiance aveugle. Elle montre qu’un projet peut être techniquement impressionnant et commercialement inutile si l’objectif, les données, les accès et les coûts ne sont pas reliés dès le départ.
La priorité des six prochains mois devrait être claire : réduire le périmètre, instrumenter les workflows, attribuer une identité à chaque agent, limiter les privilèges et imposer une validation humaine aux actions irréversibles. Les organisations qui feront cette discipline avant l’extension de leurs déploiements auront davantage de chances de transformer un pilote en service durable.
Un agent ne doit donc pas être promu parce qu’il paraît autonome. Il doit gagner progressivement ses droits après avoir démontré une valeur mesurable, une stabilité suffisante et une capacité documentée à s’arrêter. La question décisive sera alors moins « que peut faire cet agent ? » que « quelles preuves justifient l’action qu’on l’autorise à entreprendre ? »