Jev de TypeSafe AI : décisions IA à coût minimal

TypeSafe AI lance Jev, un modèle non autoregressif dédié aux décisions probabilistes calibrées. Le service s’ouvre sans liste d’attente, affiche des coûts très bas et revendique des vitesses de l’ordre de la centaine de millisecondes, avec des intégrations déjà en place.

Accès immédiat, intégrations rapides et gains revendiqués

Une semaine après son lancement, Jev a été intégré par Vercel, Cloudflare, LangChain et Langfuse. Il n’est pas nécessaire de s’inscrire sur liste d’attente pour accéder au service, qui propose un forfait de 5 dollars correspondant à environ 120 millions de tokens. Selon TypeSafe AI, le modèle peut être jusqu’à 100 fois plus rapide et coûter jusqu’à 100 fois moins cher que des LLM traditionnels sur certaines tâches.

Décisions typées en 70 à 500 ms et tarification à 0,042 $/M tokens

Jev retourne des décisions calibrées en 70 à 500 millisecondes, avec une tarification annoncée de 0,042 dollar par million de tokens d’entrée. Conçu pour des décisions rapides et structurées, le modèle traite des états et des questions typées, par exemple en choix, score ou oui/non. Positionné comme le modèle System-1 de TypeSafe AI, il évite la génération token par token et se présente comme non autoregressif, pensé pour des sorties consommables par des machines. C’est un classificateur dédié à ce type de décision.

Origines, financement et positionnement face aux LLM

Diogo Almeida, ancien d’OpenAI, a annoncé Jev le 15 septembre après avoir quitté l’entreprise deux ans plus tôt pour fonder TypeSafe AI. La société a levé 40 millions de dollars et présente un modèle inspiré du paradoxe de Jevons. Jev est proposé comme alternative aux LLM pour l’automatisation logicielle et pour intégrer de l’intelligence dans du code à moindre coût, avec des usages visés comme la classification et le routage de tickets, l’évaluation de prospects ou de contenus, et d’autres logiques automatisées. Nicolas Bustamante estime que cette approche pourrait illustrer le dilemme de l’innovateur dans l’IA et s’inscrit dans une phase où la base de l’apprentissage automatique, comme les classificateurs, les routeurs et le triage de contexte, se commoditise. Si ces tâches ne sont pas nouvelles, TypeSafe AI mise sur un modèle construit autour de décisions probabilistes typées. Le projet est aussi présenté comme un signe avant-coureur de l’IA probabiliste. Selon les scénarios avancés, Jev pourrait transformer la prise de décision d’agents IA en la rendant plus rapide et moins coûteuse, et pourrait devenir une brique de l’écosystème des agents.