Typesafe lance Jev, une IA de décisions ultra-rapide

Diogo Almeida, ex-OpenAI et cocréateur de ChatGPT, lance Typesafe et son modèle Jev. Non destiné au dialogue humain, Jev produit des décisions structurées pour des programmes, avec des réponses annoncées entre 70 et 500 ms et un coût de 0,042 dollar par million de tokens. L’accès se fait sur liste d’attente et des démonstrations, dont une partie de Doom, circulent déjà.

Latence, coût et accès sont annoncés avant l’ouverture au public

Typesafe annonce que Jev fournit des réponses en 70 à 500 millisecondes. Les coûts sont également mis en avant : alors que les grands modèles de langage coûtent entre 0,20 et 10 dollars par million de tokens, Jev est proposé à 0,042 dollar pour le même volume. Ce modèle est présenté comme moins coûteux que les IA textuelles. Pour l’instant, les développeurs doivent s’inscrire sur une liste d’attente pour accéder à Jev. Plusieurs démonstrations sont déjà visibles en ligne, dont une où Jev joue à Doom, illustrant la rapidité de ses prises de décision.

Un positionnement contre le texte généré par les LLM

Diogo Almeida, qui a travaillé sur les grands modèles de langage, considère ces systèmes utiles pour suivre des consignes ou dialoguer avec des humains, mais pas adaptés à l’automatisation. Il les décrit comme souvent trop sûrs d’eux et incohérents. Typesafe estime qu’il y a inadéquation lorsque des modèles produisent du texte pour des jugements utilisés par du code, et rappelle que les LLM peuvent halluciner. Jev, classé dans la catégorie System One, ne génère pas de texte mais produit des décisions structurées, directement exploitables par des programmes.

Fonctionnement de Jev et usages envisagés dans des pipelines

Jev fournit des sorties structurées, comme un choix dans une liste, un score de confiance ou une réponse binaire, et permet de décomposer une question complexe en sous-questions. Le modèle traite des données non structurées, comme du texte, puis émet des valeurs au format prédéfini, lisibles par des machines. Parmi les applications citées figurent le routage d’autres modèles d’IA et le triage de données. Typesafe indique avoir développé une nouvelle architecture et de nouvelles méthodes d’entraînement, avec pour objectif de fournir des réponses structurées qui ne peuvent pas halluciner. Jev est annoncé comme répondant en temps réel, alors que des approches concurrentes nécessitent plusieurs secondes, et ses sorties incluent un score de confiance. Ce modèle vise à répondre aux besoins de fiabilité, de latence et de coût dans l’automatisation.