Chase mise sur la fiabilité et la sécurité pour développer son IA

Chez Chase, l’IA s’appuie sur des garde-fous, des règles strictes de protection des données et une plateforme interne lancée à l’été 2024. Son DSI, Gill Haus, privilégie des ingénieurs capables d’évaluer l’efficacité des agents plutôt que d’écrire du code, tandis que tous les salariés sont formés à ces outils.

Fiabilité des agents et exigence d’échelle chez Chase

Gill Haus décrit les technologies agentiques comme des systèmes où des modèles servent de moteur de raisonnement en prédisant la prochaine action la plus statistiquement probable. Il souligne que cette nature probabiliste peut entraîner des conséquences inattendues. Pour instaurer la confiance et permettre un usage à grande échelle, il estime nécessaires la mise en place de garde-fous, d’évaluations et de résultats. Il précise que l’architecture sous-jacente doit être solide afin que les services puissent être déployés de façon sûre et productive.

Protection des données et conformité comme prérequis

Le DSI place la sécurité de livraison des produits d’IA et la protection des données au premier plan. Il rappelle que Chase, banque opérant dans un secteur hautement réglementé, applique des normes élevées aux technologies émergentes. Il insiste sur le consentement et la confidentialité, et précise que l’usage des données doit rester transparent pour les clients et conforme aux exigences de confidentialité et de réglementation.

Une LLM Suite interne pour concevoir produits et services

Chase a lancé LLM Suite, une plateforme interne agentique à l’été 2024, qui offre un accès sécurisé à des modèles de langage de grande taille, qu’ils soient de pointe ou open source. Les collaborateurs peuvent s’en servir pour poser des questions, examiner des documents et générer des spécifications, et l’utilisent pour développer de nouveaux produits et services. Par exemple, l’apprentissage automatique permet de comprendre l’intention des clients et de les orienter rapidement vers la bonne personne lors des appels. Toute l’organisation est formée à l’utilisation efficace de ces outils.

Compétences attendues : évaluer les agents plutôt que coder

Selon Gill Haus, l’intelligence artificielle modifie déjà la manière dont les équipes travaillent, y compris hors du secteur informatique, et désormais, presque n’importe qui peut concevoir une application grâce à des outils de programmation assistés par l’IA. Il attend des spécialistes en ingénierie qu’ils soient en mesure d’apprécier dans quelles situations les agents opèrent de façon performante et fiable. Il précise ne pas recruter des ingénieurs pour écrire du code, mais privilégie ceux qui savent évaluer le fonctionnement des agents. Pour lui, créer de la valeur avec l’IA ne se limite pas au choix d’un modèle ou d’un service à la mode. Il occupe le poste de directeur des systèmes d'information chez Chase, la banque de détail de JPMorgan Chase & Co.