TypeSafe AI lance Jev pour des décisions typées avec probabilités

TypeSafe AI présente Jev, un modèle conçu pour fournir des décisions typées assorties de probabilités calibrées, plutôt que du texte libre. Ce modèle est indiqué pour le routage, le choix d’outils ou les décisions en temps réel, mais n'est pas adapté à la rédaction ni aux espaces de décision mal définis. Les comparaisons de performances et de coûts sont évoquées, avec des réserves sur les conditions d’évaluation.

Décisions typées, calibration et effets potentiels sur les coûts

Le passage à des interfaces de décision typées est présenté comme pouvant entraîner d’importantes réductions de coûts logiciels et un élargissement des cas d’usage, en déplaçant le principal enjeu de la capacité du modèle vers la structuration sûre des décisions. Les performances et les revendications de coût sont toutefois accompagnées de réserves, en raison des conditions d’évaluation. Sur le plan fonctionnel, Jev peut garantir la conformité au schéma imposé, mais pas l’exactitude des réponses. La calibration permet de déterminer si le système doit escalader un cas d’incertitude, et le problème central d’automatisation devient la mesure du niveau de confiance suffisant pour agir.

Routage, choix d’outils et décisions en temps réel comme cibles

Jev est présenté comme étant particulièrement approprié pour le routage, la sélection d’outils, la gestion de branchements et la prise de décisions instantanées dans les boucles d’agents. À l’opposé, il n’est pas conçu pour les activités de rédaction, les situations où les choix sont indéfinis ni pour les cas où le nombre d’options possibles est très important.

Un modèle « Système Un » non autoregressif face aux piles LLM

D’un point de vue technique, Jev est décrit comme un modèle de la catégorie « Système Un » qui effectue des calculs en parallèle, sans recourir à l’autoregression, et dont l’entraînement vise la calibration plutôt que la préférence. Il fait l’objet d’une comparaison avec les architectures d’agents reposant sur des LLM. Le positionnement défendu est que de nombreuses décisions d’agents n’exigent pas de génération de texte libre et peuvent être rendues sous forme typée, contrainte par un schéma et accompagnée de probabilités calibrées pour éviter les sorties malformées. Jev est introduit par TypeSafe AI comme un nouveau modèle aligné avec cette approche.