Salesforce lance Koa, modèle de raisonnement sur Nemotron

Salesforce introduit Koa, son premier modèle de raisonnement, bâti sur Nemotron de Nvidia et spécialisé pour les ventes, le marketing et le support. L’entreprise promet une alternative à poids ouverts, une meilleure efficience en tokens et un respect strict des exigences de sécurité, sans données clients réelles dans l’entraînement. Tout en déployant Koa, Salesforce conserve l’accès aux modèles tiers et annonce ClaudeForce avec Anthropic.

Salesforce garde l’accès à Claude et officialise ClaudeForce

Salesforce ne met pas fin à ses collaborations avec des fournisseurs tiers. L’entreprise a annoncé un partenariat avec Anthropic nommé ClaudeForce. Selon Salesforce, ce dispositif permet aux entreprises d’utiliser Claude comme interface d’IA tout en conservant leurs données dans le système d’enregistrement de Salesforce. Salesforce indique que ces données sont sécurisées par son infrastructure.

Coûts et gouvernance des données mis en avant pour Koa

Salesforce présente Koa comme une alternative à poids ouverts aux modèles fermés de pointe. L’entreprise affirme que le modèle n’a pas ingéré de données réelles de clients Salesforce et qu’il respecte les exigences de données et de sécurité intégrées dans Salesforce. Elle met également en avant une aide à la réduction des dépenses d’IA grâce à une consommation moindre de tokens à travail équivalent. Koa peut, selon Salesforce, être automatiquement routé via une passerelle d’IA en fonction du besoin.

Positionnement d’Agentforce et usage antérieur des modèles tiers

Koa figurera parmi les options disponibles dans Agentforce, la plateforme sur laquelle les clients de Salesforce conçoivent des agents chargés de tâches répétitives telles que la gestion des questions de service client ou la prise de rendez-vous. Avant l’arrivée de Koa, les requêtes impliquant un raisonnement complexe ou à plusieurs étapes étaient prises en charge par des modèles comme Claude ou ChatGPT, par l’intermédiaire de la passerelle d’IA d’Agentforce, qui attribue chaque requête au modèle approprié. Jayesh Govindarajan précise que Salesforce possède de nombreux modèles de langage de petite taille, conçus pour des tâches précises au sein du portefeuille d’Agentforce, et que jusqu’à présent, l’entreprise avait recours à des modèles avancés pour traiter les besoins en raisonnement.

Fabrication de Koa : base Nemotron et données synthétiques

Koa est construit sur Nemotron, le modèle à poids ouverts de Nvidia, avec lequel Salesforce a collaboré pour le post-entraînement. Ce travail a visé des tâches de ventes, de marketing et de support client. Salesforce et Nvidia indiquent ne pas avoir utilisé de données réelles de clients Salesforce, en recourant à des données synthétiques imitant des comportements de clients. Jayesh Govindarajan décrit une simulation d’environnement de service, incluant un persona de professionnel du service confronté à des clients en colère et un professionnel des ventes tentant de conclure une affaire.

Objectifs de performance et conditions d’émergence

Salesforce présente Koa comme mieux adapté aux tâches de travail confiées aux agents et moins coûteux en tokens que l’envoi des mêmes tâches à Claude ou ChatGPT. Côté Nvidia, Kari Ann Briski affirme que Nemotron dispose d’une architecture d’inférence unique efficace en termes de tokens et évoque un triptyque associant IA souveraine, temps jusqu’au premier token et raisonnement efficace. Jayesh Govindarajan explique que Salesforce voulait entraîner un modèle de pointe de niveau entreprise mais manquait d’un modèle de base pré-entraîné, estimant que, jusqu’à Nemotron, il n’existait pas de modèle pré-entraîné américain souverain, à l’état de l’art et à la provenance de données claire, et déclarant ne pas savoir sur quelles données s’entraîne Qwen. Koa est présenté comme un nouveau modèle d’IA, l’une des grandes annonces de Dreamforce, et le premier modèle de raisonnement de Salesforce.