Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI a présenté en avant-première une API de décision décrite comme capable de choisir parmi des options prédéfinies. Des spécialistes de la sécurité testent déjà des modèles du même type pour encadrer les actions d’agents IA, avec des coûts annoncés très inférieurs à ceux des LLMs de pointe. La ressemblance avec Jev, lancé par TypeSafe AI plus tôt ce mois-ci, alimente les comparaisons et les interrogations sur la calibration de ces systèmes.
Surveiller les agents à moindre coût est mis à l’essai
OpenAI a introduit une mesure de sécurité consistant à utiliser un modèle séparé pour surveiller les mauvaises actions de ses agents, avec un coût de calcul significatif. Shapor Naghibzadeh, spécialiste de cybersécurité et dirigeant de QueryStory, estime qu’un modèle de type Jev peut permettre cette supervision à bien moindre coût. Il a conçu une démonstration lors d’un hackathon le week-end dernier : Jev contrôle chaque action agentique par rapport à la tâche assignée, bloque celles jugées mauvaises avec une forte confiance, en signale d’autres pour examen et laisse passer le reste. En théorie, une telle surveillance aurait pu éviter l’incident impliquant Hugging Face. Le coût annoncé pour ce contrôle ressort à 2,94 $ avec Jev, contre 372 $ avec un LLM de frontier. Selon ces tests et estimations, Jev serait assez peu coûteux pour être invoqué à chaque action, ajoutant une couche de revue systématique. C’est l’objectif revendiqué par TypeSafe, et OpenAI indique voir également l’intérêt de cette approche.
Ce qu’OpenAI dit de sa Decisions API
Sam Altman a révélé une Decisions API qui, selon sa description, permet de fournir au modèle Luna des listes d’options prédéfinies. Les exemples donnés vont des catégories de classification d’images à des comportements d’agents. D’après Altman, concentrer le modèle sur un choix le rend extrêmement rapide, tout en conservant la compréhension d’images, un large support linguistique et des protections de sécurité. L’API est pour l’heure diffusée en aperçu limité. Le degré de proximité avec Jev n’est pas établi, aucun développeur n’ayant encore été observé en train de l’utiliser, même si les échanges sur X témoignent d’un intérêt. Cette annonce intervient dans le sillage du Dev Day d’OpenAI tenu mardi dernier.
Ce que propose Jev et l’approche de TypeSafe
Lancé plus tôt ce mois-ci par TypeSafe AI, Jev est conçu pour l’automatisation logicielle. Il se présente comme un classificateur fondé sur un LLM, renvoyant des probabilités sur un ensemble de choix définis par les développeurs, avec la promesse de réponses rapides et à faible coût. Son PDG, Diogo Almeida, ancien ingénieur d’OpenAI et présenté comme co‑inventeur de l’apprentissage par renforcement, a plaisanté sur X au sujet de « guerres des clones » et suggère que l’intérêt d’OpenAI accrédite une approche compatible avec le « Système Un », terme employé chez TypeSafe pour la pensée rapide et intuitive, par opposition au « Système Deux » plus délibératif. Almeida met en avant l’usage de données synthétiques pour produire des sorties statistiquement utiles, affirme que le « rapide et bon marché » est trivial comparé à l’intelligence, et dit viser l’amélioration de la courbe de Pareto de l’intelligence par dollar.
Un terrain concurrentiel et des inconnues de calibration
La Decisions API d’OpenAI est décrite comme proche de Jev, dans un contexte où d’autres startups lancent aussi des modèles de décision. OpenAI ne serait pas le dernier grand acteur à proposer une API de ce type. Une interrogation centrale demeure la calibration des sorties par rapport à la réalité. Les LLMs sont souvent décrits comme coûteux et lents pour de nombreux usages logiciels, ce qui a poussé des développeurs à compléter leurs systèmes avec Jev et à y constater des gains de vitesse et de coût. TypeSafe n’a pas commenté davantage ces rapprochements. À ce stade, ces modèles sont présentés comme des candidats probables pour la surveillance et la sécurisation d’agents IA, avec des modes d’évaluation encore à préciser.
