Fraude agentique : SHAP ne suffit plus

Des agents logiciels réalisent désormais une part des fraudes financières. Les méthodes d’explicabilité attachées aux champs de transaction montrent leurs limites face à ce basculement. Aux États-Unis, le NIST et un texte porté par le sénateur Mark Warner ciblent déjà identité et traçabilité des agents, prémices d’un nouveau cadre d’audit.

Régulateurs et législateurs visent identité et traçabilité des agents

Le NIST a lancé en février 2026 une initiative de normes spécifique aux agents d’IA, en les considérant comme des entités non humaines identifiables. L’organisme préconise l’établissement de cycles de certification et de dispositifs d’audit spécialisés, arguant que les systèmes d’authentification actuels ont été élaborés pour des personnes physiques et ne s’appliquent pas aux logiciels autonomes. En parallèle de ce travail sur les normes, un projet de loi présenté à la mi-2026 par le sénateur Mark Warner, l’AI AGENT Act, proposerait la création d’un registre fédéral des agents de confiance et exigerait qu’ils opèrent de façon transparente au bénéfice de l’utilisateur sur les principales plateformes. L’aboutissement parlementaire de cette proposition reste incertain, mais la tendance est claire : l’identité et la responsabilité des agents deviennent un enjeu central, alors que le secteur n’a pas encore défini de standard partagé pour tracer le raisonnement d’un agent de manière audit-able après coup.

Le signal humain s’étiole dans des flux machine-à-machine

Des agents d’IA réalisent désormais des achats et transactions pour le compte d’utilisateurs, au point d’être cités comme moteur de fraude dans un rapport évoquant un « chaos machine-à-machine ». Dans les journaux de transactions, un agent d’achat légitime et un bot frauduleux peuvent paraître quasi identiques, et aucun indice stabilisé ne permet de les séparer de manière fiable. Cette rupture heurte des systèmes de détection bâtis sur l’hypothèse d’un humain en face, exploitant des empreintes comportementales et des écarts à une base de comportements personnels. Les signaux qui alimentaient ces défenses semblent déjà évoluer, avec un chiffre de 60 % de répondants anticipant un affaiblissement des protections traditionnelles en contexte de banque médiée par l’IA, quand un 84 % est mis en avant comme repère de titre.

SHAP a installé la décision explicable, mais au niveau de la transaction

L’intégration de SHAP au-dessus de classificateurs de fraude a apporté des justifications locales, transaction par transaction, là où les ensembles profonds et arbres de décision boostés sont difficilement interprétables. Faute d’explications, les équipes conformité peuvent soit approuver par défaut, soit passer outre les alertes. Les approches d’explicabilité comme SHAP permettent de répondre à la question « pourquoi cette transaction paraît incorrecte maintenant », en mettant en avant des éléments comme un montant élevé pour ce compte, un compte ouvert depuis moins de 48 heures ou un commerçant déjà signalé. Ce type de justification est jugé plus fiable qu’un simple pourcentage de risque et reste adapté à la fraude qui découle de comportements humains.

Les agents ne suivent pas les rythmes humains, brisant l’hypothèse de base

Les modèles centrés sur les transactions exploitent des descripteurs comme le montant, le temps, l’appareil et la vélocité, sans tenir compte de l’identité de l’émetteur. Ces variables sont corrélées aux anomalies humaines, par exemple lorsqu’un étudiant initie soudain un transfert d’ampleur typique d’un dirigeant. Les agents, eux, n’ont ni routine ni fatigue à une heure donnée et peuvent enchaîner des opérations à une cadence et constance qu’un humain ne soutient pas même cinq minutes. Cette dissymétrie remet directement en cause l’hypothèse implicite qui faisait de l’écart au comportement humain un signal fiable.

Du verdict ponctuel à l’audit de trajectoire : le besoin d’une nouvelle trace

Face à la fraude menée par des agents, la question décisive devient « pourquoi cet acteur a-t-il agi ainsi ». Y répondre suppose d’inspecter le chemin de décision : quels outils ont été appelés, quelles autorisations étaient en vigueur, et si l’action s’inscrivait dans le cadre délégué ou s’en écartait de plusieurs étapes. Un moteur d’explicabilité conçu pour justifier un verdict ponctuel sur un montant n’indique pas si l’agent a dévié en amont de la transaction. Le besoin ressemble davantage à un audit de trajectoire qu’à l’analyse d’un point. Aucune solution largement reconnue ne couvre encore pleinement ce périmètre. Des pistes envisagent d’assembler des techniques de surveillance d’agents et d’évaluation de trajectoires avec l’explicabilité existante, voire de bâtir une approche nouvelle. SHAP a déjà permis de défendre des systèmes devant des panels d’experts, mais la cible a migré vers un espace que l’explicabilité par caractéristiques, seule, ne couvre plus.

Ce que montre un cas modèle : un classificateur explicable mais myope au contexte agent

Un système de détection de fraude adossé à un Random Forest entraîné sur PaySim, comparé à XGBoost et LightGBM, illustre ce décalage. Le modèle s’appuyait sur des attributs de transaction et ignorait l’identité de l’initiateur. L’ajout de SHAP a fourni des explications classées pour chaque décision, offrant une base de discussion solide face à un panel chargé d’examiner les points faibles. Ce type d’architecture reste efficace pour clarifier des décisions locales, sans toutefois capturer le contexte procédural d’un agent logiciel.