E.SUN Bank et IBM établissent un cadre de gouvernance de l'IA pour le secteur bancaire

E.SUN Bank et IBM établissent un cadre de gouvernance de l'IA pour le secteur bancaire

E.SUN Bank collabore avec IBM pour établir des règles de gouvernance de l'IA plus claires concernant l'utilisation de l'intelligence artificielle au sein des banques. Cette initiative reflète un changement plus large dans le secteur financier. De nombreuses entreprises utilisent déjà l'IA pour des vérifications de fraude et des évaluations de crédit, et certaines l'appliquent également pour gérer les demandes de service client. Le nouveau défi consiste à gérer ces systèmes d'une manière qui respecte les règles légales et de risque.

Les banques font face à une liste croissante de questions lors du déploiement de l'IA. Comment un modèle doit-il être testé avant d'être mis en service ? Qui est responsable s'il prend une mauvaise décision ? Et comment les entreprises peuvent-elles prouver aux régulateurs que leurs systèmes sont équitables et sûrs ?

Pour répondre à ces problématiques, E.SUN Bank et IBM Consulting ont créé un cadre de gouvernance de l'IA pour le secteur bancaire. Le projet comprend également un livre blanc sur la gouvernance de l'IA qui décrit comment les entreprises financières peuvent établir des contrôles internes autour des systèmes d'IA. Selon le communiqué de presse des entreprises, ce travail adapte des normes mondiales telles que le Règlement sur l'IA de l'UE et l'ISO/IEC 42001 pour les services financiers.

Le cadre définit comment les banques peuvent examiner les modèles d'IA avant leur déploiement. Il explique également comment ces modèles doivent être surveillés après leur mise en production. Il inclut des règles sur l'utilisation des données et sur la manière dont les évaluations des risques doivent être effectuées.

E.SUN Bank a déclaré que ce cadre vise à aider les institutions financières à introduire des systèmes d'IA tout en maintenant une gouvernance et une supervision réglementaire. De nombreuses entreprises utilisent déjà des outils d'IA limités. La prochaine étape consiste à étendre ces systèmes à des opérations essentielles telles que les prêts et les paiements tout en respectant les limites réglementaires.

Les banques tentent de gérer le risque lié à l'IA

Les entreprises financières ont de fortes raisons de mettre en place des garde-fous autour des systèmes d'IA. Le secteur bancaire repose sur la confiance, et les régulateurs exigent des entreprises qu'elles suivent comment les décisions sont prises. Les modèles d'IA agissent souvent comme des « boîtes noires », ce qui rend difficile l'explication de la manière dont ils arrivent à un résultat. Cela peut poser des problèmes dans des domaines tels que les décisions de crédit ou les vérifications de fraude. Les régulateurs de nombreuses régions commencent à se concentrer sur ces risques.

Le Règlement sur l'IA de l'Union Européenne, adopté en 2024, impose des règles strictes sur les systèmes d'IA utilisés dans des secteurs à haut risque comme la finance. La loi exige des entreprises qu'elles évaluent les risques et documentent les données de formation. Elle exige également qu'elles surveillent le comportement des modèles d'IA après leur déploiement.

Des normes mondiales commencent également à se dessiner. L'ISO/IEC 42001, publiée en 2023, définit comment les organisations peuvent établir des systèmes de gestion pour l'IA. La norme se concentre sur la supervision et la surveillance des modèles. Elle aborde également la manière dont les organisations doivent gérer les données liées à l'IA. L'objectif est de fournir aux entreprises une méthode structurée pour gérer l'IA à l'échelle de l'entreprise, plutôt que de traiter chaque modèle comme un outil séparé.

Le projet d'E.SUN Bank avec IBM s'inspire de ces deux cadres. Il vise à montrer comment ces règles pourraient fonctionner dans les opérations bancaires quotidiennes.

De pilotes d'IA à des systèmes d'entreprise

Les banques utilisent l'apprentissage automatique depuis des années, principalement dans l'analyse des risques et la détection de fraude. Les nouveaux modèles d'IA élargissent l'utilisation de cette technologie par les banques. Beaucoup l'appliquent désormais dans le service client et la révision de documents. Certaines l'utilisent également dans des systèmes de connaissance internes.

Cette expansion entraîne de nouveaux besoins en matière de gouvernance. Un système qui suggère des réponses aux demandes des clients peut sembler à faible risque. Mais un modèle qui aide à approuver des prêts ou à détecter des fraudes peut avoir des conséquences financières directes.

Le cadre de gouvernance créé par E.SUN Bank et IBM définit un processus pour suivre ces risques. Les modèles sont examinés avant leur mise en service, et les équipes surveillent leur production après déploiement. Le cadre attribue également des responsabilités entre les équipes, des développeurs au personnel de conformité. Le projet a également produit un livre blanc qui explique les étapes en détail. Il décrit comment les banques peuvent classer les systèmes d'IA par niveau de risque et appliquer différents niveaux de supervision.

La gouvernance de l'IA s'étend aux services financiers

Le travail d'E.SUN Bank reflète une tendance dans le secteur financier mondial. De nombreuses banques considèrent désormais la gouvernance comme une étape clé avant d'étendre l'IA à leurs opérations.

Des enquêtes sectorielles suggèrent que l'adoption de l'IA dans les services financiers est déjà répandue. Un rapport de NVIDIA de 2024 a révélé qu'environ 91 % des entreprises de services financiers évaluaient ou utilisaient déjà l'IA. Les utilisations courantes incluent la détection de fraude et la modélisation des risques. Certaines banques utilisent également l'IA pour automatiser des tâches de service client.

Des recherches de Deloitte montrent que plus de 70 % des institutions financières prévoient d'augmenter leurs investissements dans l'IA. Une grande partie de ces dépenses est destinée à la surveillance de la conformité et à l'analyse des risques. Certaines banques s'attendent également à ce que l'IA améliore les opérations internes.

Dans le même temps, les régulateurs portent une attention accrue à ces questions. Les autorités de plusieurs régions ont averti les banques de suivre comment les systèmes automatisés affectent des décisions telles que l'approbation de crédit et la détection de fraude. Cette pression a conduit les banques à investir davantage dans des systèmes de supervision internes. Au lieu de se concentrer uniquement sur l'exactitude des modèles, les entreprises suivent également les sources de données et la logique décisionnelle. Beaucoup surveillent également le comportement des modèles au fil du temps.

Pourquoi la gouvernance pourrait influencer l'adoption de l'IA

La nécessité d'une gouvernance de l'IA pourrait influencer la rapidité avec laquelle les banques adoptent de nouveaux outils. Sans règles claires, de nombreuses entreprises hésitent à aller au-delà de petites expérimentations. Un cadre structuré peut les aider à élargir leurs projets d'IA tout en respectant les exigences réglementaires.

C'est l'idée derrière le projet d'E.SUN Bank. En combinant des normes mondiales avec les flux de travail bancaires, le cadre définit comment l'IA peut être déployée sous une supervision claire. Selon l'annonce des entreprises, IBM a déclaré que le cadre a été développé pour aider les institutions financières à gérer les risques liés à l'IA alors qu'elles étendent son utilisation dans le secteur bancaire.

Cet effort reflète également le rôle croissant de la gouvernance dans l'IA d'entreprise. Les premiers projets d'IA se concentraient sur la construction de modèles et l'amélioration des performances. Aujourd'hui, l'accent se déplace vers la manière dont ces systèmes sont gérés au fil du temps. À mesure que de plus en plus de banques intègrent l'IA dans leurs opérations essentielles, cette question pourrait devenir tout aussi importante que la technologie elle-même.