E.SUN Bank et IBM : gouvernance IA révolutionne la banque

E.SUN Bank et IBM : une collaboration pour la gouvernance de l'IA

E.SUN Bank a décidé de s'associer avec IBM pour développer un cadre de gouvernance de l'intelligence artificielle (IA) dans le secteur bancaire. Cette initiative s'inscrit dans un mouvement plus large visant à clarifier l'utilisation de l'IA dans les institutions financières. Actuellement, de nombreuses entreprises utilisent déjà l'IA pour des tâches telles que la vérification des fraudes et l'évaluation du crédit, et certaines l'appliquent également pour gérer les demandes de service client. Le défi actuel est de s'assurer que ces systèmes sont gérés de manière à respecter les réglementations légales et les normes de risque.

Les banques sont confrontées à une série de questions complexes lorsqu'elles déploient des systèmes d'IA. Par exemple, comment un modèle doit-il être testé avant d'être mis en service ? Qui est responsable en cas de décision erronée ? Et comment les entreprises peuvent-elles prouver aux régulateurs que leurs systèmes sont à la fois équitables et sûrs ?

Pour répondre à ces questions, E.SUN Bank et IBM Consulting ont élaboré un cadre de gouvernance de l'IA spécifiquement pour le secteur bancaire. Ce projet comprend également un livre blanc détaillant comment les entreprises financières peuvent mettre en place des contrôles internes autour des systèmes d'IA. Selon le communiqué de presse des deux entreprises, ce cadre adapte des normes mondiales telles que le Règlement sur l'IA de l'UE et l'ISO/IEC 42001 pour les services financiers.

Un cadre de gouvernance pour des modèles d'IA sûrs

Le cadre mis en place par E.SUN Bank et IBM définit précisément comment les banques peuvent examiner les modèles d'IA avant leur déploiement. Il explique également comment ces modèles doivent être surveillés une fois qu'ils sont en production. Le cadre inclut des règles sur l'utilisation des données et sur la manière dont les évaluations des risques doivent être effectuées.

E.SUN Bank a déclaré que ce cadre vise à aider les institutions financières à introduire des systèmes d'IA tout en maintenant une gouvernance et une supervision réglementaire. De nombreuses entreprises utilisent déjà des outils d'IA limités. La prochaine étape consiste à étendre ces systèmes à des opérations essentielles telles que les prêts et les paiements tout en respectant les limites réglementaires.

Les banques et la gestion des risques liés à l'IA

Les entreprises financières ont de bonnes raisons de mettre en place des garde-fous autour des systèmes d'IA. Le secteur bancaire repose sur la confiance, et les régulateurs exigent des entreprises qu'elles puissent expliquer comment les décisions sont prises. Les modèles d'IA fonctionnent souvent comme des « boîtes noires », ce qui complique l'explication des résultats. Cela peut poser des problèmes dans des domaines tels que les décisions de crédit ou les vérifications de fraude. Les régulateurs de nombreuses régions commencent à se concentrer sur ces risques.

Le Règlement sur l'IA de l'Union Européenne, adopté en 2024, impose des règles strictes sur les systèmes d'IA utilisés dans des secteurs à haut risque comme la finance. La loi exige des entreprises qu'elles évaluent les risques et documentent les données de formation. Elle exige également qu'elles surveillent le comportement des modèles d'IA après leur déploiement.

Des normes mondiales commencent également à se dessiner. L'ISO/IEC 42001, publiée en 2023, définit comment les organisations peuvent établir des systèmes de gestion pour l'IA. La norme se concentre sur la supervision et la surveillance des modèles. Elle aborde également la manière dont les organisations doivent gérer les données liées à l'IA. L'objectif est de fournir aux entreprises une méthode structurée pour gérer l'IA à l'échelle de l'entreprise, plutôt que de traiter chaque modèle comme un outil séparé.

De l'expérimentation à l'intégration complète

Les banques utilisent l'apprentissage automatique depuis des années, principalement dans l'analyse des risques et la détection de fraude. Les nouveaux modèles d'IA élargissent l'utilisation de cette technologie par les banques. Beaucoup l'appliquent désormais dans le service client et la révision de documents. Certaines l'utilisent également dans des systèmes de connaissance internes.

Cette expansion entraîne de nouveaux besoins en matière de gouvernance. Un système qui suggère des réponses aux demandes des clients peut sembler à faible risque. Mais un modèle qui aide à approuver des prêts ou à détecter des fraudes peut avoir des conséquences financières directes.

Le cadre de gouvernance créé par E.SUN Bank et IBM définit un processus pour suivre ces risques. Les modèles sont examinés avant leur mise en service, et les équipes surveillent leur production après déploiement. Le cadre attribue également des responsabilités entre les équipes, des développeurs au personnel de conformité. Le projet a également produit un livre blanc qui explique les étapes en détail. Il décrit comment les banques peuvent classer les systèmes d'IA par niveau de risque et appliquer différents niveaux de supervision.

Une tendance mondiale vers la gouvernance de l'IA

Le travail d'E.SUN Bank reflète une tendance dans le secteur financier mondial. De nombreuses banques considèrent désormais la gouvernance comme une étape clé avant d'étendre l'IA à leurs opérations.

Des enquêtes sectorielles suggèrent que l'adoption de l'IA dans les services financiers est déjà répandue. Un rapport de NVIDIA de 2024 a révélé qu'environ 91 % des entreprises de services financiers évaluaient ou utilisaient déjà l'IA. Les utilisations courantes incluent la détection de fraude et la modélisation des risques. Certaines banques utilisent également l'IA pour automatiser des tâches de service client.

Des recherches de Deloitte montrent que plus de 70 % des institutions financières prévoient d'augmenter leurs investissements dans l'IA. Une grande partie de ces dépenses est destinée à la surveillance de la conformité et à l'analyse des risques. Certaines banques s'attendent également à ce que l'IA améliore les opérations internes.

Dans le même temps, les régulateurs portent une attention accrue à ces questions. Les autorités de plusieurs régions ont averti les banques de suivre comment les systèmes automatisés affectent des décisions telles que l'approbation de crédit et la détection de fraude. Cette pression a conduit les banques à investir davantage dans des systèmes de supervision internes. Au lieu de se concentrer uniquement sur l'exactitude des modèles, les entreprises suivent également les sources de données et la logique décisionnelle. Beaucoup surveillent également le comportement des modèles au fil du temps.

L'impact de la gouvernance sur l'adoption de l'IA

La nécessité d'une gouvernance de l'IA pourrait influencer la rapidité avec laquelle les banques adoptent de nouveaux outils. Sans règles claires, de nombreuses entreprises hésitent à aller au-delà de petites expérimentations. Un cadre structuré peut les aider à élargir leurs projets d'IA tout en respectant les exigences réglementaires.

C'est l'idée derrière le projet d'E.SUN Bank. En combinant des normes mondiales avec les flux de travail bancaires, le cadre définit comment l'IA peut être déployée sous une supervision claire. Selon l'annonce des entreprises, IBM a déclaré que le cadre a été développé pour aider les institutions financières à gérer les risques liés à l'IA alors qu'elles étendent son utilisation dans le secteur bancaire.

Cet effort reflète également le rôle croissant de la gouvernance dans l'IA d'entreprise. Les premiers projets d'IA se concentraient sur la construction de modèles et l'amélioration des performances. Aujourd'hui, l'accent se déplace vers la manière dont ces systèmes sont gérés au fil du temps. À mesure que de plus en plus de banques intègrent l'IA dans leurs opérations essentielles, cette question pourrait devenir tout aussi importante que la technologie elle-même.