Google lance une API de décision qui renvoie des probabilités plutôt que du texte et accepte des entrées multimodales avec une large fenêtre de contexte. Annoncée à 0,10 $ par million de tokens d'entrée et mesurée entre 150 et 250 ms de latence, elle est accessible via AI Studio. Des experts appellent toutefois à encadrer son usage en production et à juger ces systèmes sur leur fiabilité réelle, alors qu’OpenAI propose une offre concurrente moins large en nombre de questions.
Des jugements erronés possibles en cas de données manipulées
Des variations dans les données ou des entrées délibérément manipulées peuvent conduire ces API à des jugements erronés, prévient Lian Jye Su. Un score de confiance n’établit pas à lui seul la fiabilité d’une évaluation. Selon lui, les processus doivent rester fortement contextualisés et s’appuyer sur une couche de contexte fiable et sécurisée. Il recommande de relier les modèles à des bases de transactions historiques et à des politiques commerciales établies afin d’évaluer les demandes par rapport à des informations organisationnelles pertinentes plutôt que sur la seule entrée immédiate. Il ajoute que Google devra répondre aux exigences de rétention et de souveraineté des données des entreprises sans compromettre coûts et performances. Tulika Sheel souligne en parallèle la nécessité d’une responsabilité humaine clairement définie, à mesure que des agents plus autonomes prennent des décisions et agissent au nom des utilisateurs.
Un modèle de décision par probabilités et une fenêtre jusqu’à 256 000 tokens
Propulsée par Gemini Decision 1, l’API peut traiter jusqu’à 1 000 questions en une requête et renvoyer des probabilités sur des options définies plutôt que du texte généré. Elle permet de contrôler des conditions, de sélectionner parmi des choix déterminés à l’avance ou d’attribuer une note aux entrées selon une grille d’évaluation afin d’estimer leur conformité à des critères. Les entrées acceptées peuvent être de différents types, telles que des images, des fichiers audio ou des vidéos, et s’insèrent dans une fenêtre de contexte pouvant atteindre 256 000 tokens. Les niveaux de confiance attribués peuvent servir à orienter l’automatisation ou à décider d’un passage à une validation humaine. Google rapporte une latence de bout en bout de 150 à 250 millisecondes sur des contextes jusqu’à 16 000 tokens, avec des performances relativement stables de une à 100 questions.
Vous codez avec l’IA ?
Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Tarification à 0,10 $ par million de tokens d’entrée et disponibilité
Le service est facturé 0,10 $ par million de tokens d’entrée, sans frais de sortie. Google précise que l’entrée partagée est facturée une fois par requête, chaque question ajoutant seulement ses propres tokens d’instruction et de critères. L’API est accessible via Google AI Studio. Des intégrations avec des frameworks de développement sont en cours de déploiement, et un support sur Google Cloud est prévu ultérieurement sans date annoncée.
Des usages internes déjà en place dans Notebook et Search
Google utilise déjà cette technologie dans Gemini Notebook pour acheminer les requêtes vers différents modèles d’IA selon la complexité de chaque demande. Selon l’entreprise, cette approche a permis de réduire la latence pour les requêtes quotidiennes jusqu’à 40 %. L’API est également utilisée dans Search pour détecter des comportements adverses impliquant des outils Model Context Protocol, au-delà du simple routage de modèles.
Concurrence d’OpenAI et cas d’usage envisagés par des analystes
Au‑delà du routage de requêtes, des applications sont envisagées dans l’évaluation de politiques, des risques et le scoring de crédit, selon Lian Jye Su, qui juge le modèle adapté aux entrées non structurées et dynamiques. Face à OpenAI, dont l’API Decisions est généralement disponible depuis octobre et limite une requête à 400 questions, Google affiche une capacité de 1 000 questions. Les deux facturent 0,10 $ par million de tokens d’entrée sans frais de sortie, OpenAI proposant en plus des tarifs réduits pour les entrées mises en cache. L’offre de Google accepte une palette multimodale plus large, incluant l’audio et la vidéo. Pour Lian Jye Su, l’intégration dans l’environnement de développement d’une entreprise pèse davantage qu’une comparaison de surface, et les développeurs devraient évaluer la fiabilité en conditions réelles. Il voit l’intérêt principal dans la réduction des erreurs de jugement et l’amélioration de la qualité des décisions.
