OpenAI : cinq stratégies pour optimiser l'investissement IA

L'évolution des coûts et des performances de l'IA

OpenAI a pour ambition de rendre l'intelligence artificielle plus accessible et performante, tout en réduisant ses coûts. Depuis le lancement de GPT-4, le prix par million de tokens a chuté de manière spectaculaire, atteignant une réduction de 97 % avec la version GPT-5.4. Cette tendance se poursuit avec GPT-5.6, qui améliore encore les performances, notamment dans l'Index d'Analyse de Code des Agents, en réduisant de 54 % le nombre de tokens de sortie nécessaires et de 57 % le temps requis par tâche.

Cependant, la baisse des prix des tokens ne suffit pas à elle seule à garantir que l'IA génère de la valeur. Les dirigeants doivent se concentrer sur l'optimisation du travail accompli par dollar investi, en évaluant les tâches complétées, le temps économisé, les décisions améliorées et les flux de travail prêts à être étendus.

Importance de la visibilité sur l'utilisation et les dépenses

Pour gérer efficacement les investissements en IA, les dirigeants d'entreprise doivent avoir une vue d'ensemble claire de l'utilisation de l'IA au sein de leur organisation. Cela inclut de savoir qui utilise l'IA, quels produits ou modèles sont employés, quelle capacité est consommée et quel type de travail est soutenu par cette utilisation. Sans cette visibilité, il devient difficile d'interpréter une facture croissante, qui pourrait indiquer du gaspillage, une expérimentation productive ou un flux de travail critique pour l'entreprise.

ChatGPT Work permet de gérer des tâches plus longues et complexes, ce qui signifie que l'utilisation peut varier considérablement en fonction du flux de travail. Les administrateurs doivent avoir accès à une vue partagée de la demande à travers ChatGPT pour comprendre l'adoption, l'utilisation des crédits et les dépenses par utilisateur, produit et modèle. Cela permet de suivre les tendances, d'identifier les modèles émergents et de déterminer quand l'utilisation reflète une adoption généralisée ou un processus commercial récurrent nécessitant un investissement supplémentaire.

Les insights à différents niveaux aident à guider les décisions d'investissement et d'habilitation :

• Espace de travail : L'adoption et les dépenses évoluent-elles ensemble ?
• Équipe et utilisateur : Où la demande croît-elle, et qui pourrait avoir besoin de plus de soutien ?
• Produit et modèle : Où l'intelligence la plus coûteuse est-elle utilisée, et cette demande est-elle soutenue ?

Ensemble, ces vues aident les administrateurs à décider où investir, coacher ou fixer des limites.

Évaluation de l'efficacité des modèles IA

Le coût par token le plus bas n'est pas toujours synonyme de coût total le plus bas. Un modèle moins cher peut échouer, nécessitant des réessais ou des corrections, tandis qu'un modèle plus performant, bien que plus coûteux par token, peut atteindre un résultat acceptable plus rapidement et avec moins de révisions.

Il est essentiel d'évaluer les modèles IA en fonction du travail qu'ils doivent accomplir. Les entreprises doivent utiliser des évaluations basées sur des tâches réelles, y compris des cas limites, et définir ce qui est "suffisamment bon" avant de tester. Ensuite, elles doivent mesurer le coût total pour atteindre ce standard, en tenant compte de l'utilisation du modèle, des tentatives, du taux de réussite, de la latence et des révisions humaines.

Pour les flux de travail prioritaires, il est crucial de suivre le coût par résultat accepté. Par exemple, dans le support client, cela pourrait être un cas résolu, tandis qu'en ingénierie, cela pourrait être un changement testé qui passe la révision. Associer ce coût à la valeur commerciale, telle que le temps économisé ou les risques évités, est fondamental pour optimiser l'investissement en IA.

Le choix du modèle n'est qu'une partie de l'équation. Des instructions claires, des outils ciblés, un contexte réutilisable et des conditions d'arrêt explicites peuvent réduire les boucles et les dépenses inutiles. L'objectif est d'associer le modèle et le flux de travail à la tâche : utilisez des modèles plus petits ou plus rapides lorsqu'ils répondent aux critères de qualité, et réservez l'intelligence de pointe pour des travaux complexes, ambigus ou à enjeux élevés.

Gouvernance des flux de travail avancés

La gouvernance joue un rôle crucial dans la gestion des flux de travail IA. Elle détermine quel travail peut se développer et comment. Les dirigeants doivent définir quel contexte ChatGPT peut utiliser, quels outils il peut accéder, quelles actions il peut entreprendre, qui approuve les étapes à risque élevé et comment une capacité supplémentaire est accordée lorsque des flux de travail précieux sont identifiés.

Avec l'adoption croissante de plugins, de connecteurs et d'autres capacités de pointe, la gouvernance devient encore plus importante. ChatGPT Work offre des contrôles centralisés pour l'accès, le contexte approuvé, les outils connectés et les actions permises. Les contrôles de dépenses, tels que les paramètres par défaut de l'espace de travail et les limites de groupe, aident à soutenir le travail à forte valeur sans augmenter les limites de manière générale.

Pour les déploiements prioritaires, les Ingénieurs de Déploiement IA d'OpenAI peuvent travailler directement avec les clients sur les évaluations, l'architecture, la latence, la fiabilité et la conception des flux de travail pour améliorer à la fois la performance et l'efficacité des coûts. La confidentialité et la gouvernance doivent faire partie de ce travail dès le départ : les flux de travail sensibles nécessitent les bons contrôles d'accès, une posture de conservation appropriée, une visibilité de conformité et des voies d'approbation avant de se développer. Le cas échéant, les contrôles de confidentialité d'entreprise d'OpenAI, y compris les options de Zero Data Retention, peuvent aider les clients à déployer l'IA dans des environnements de haute confiance.

Financement des flux de travail évolutifs

Les entreprises doivent gérer leurs investissements en IA comme un portefeuille, en offrant un accès large pour la productivité quotidienne, des flux de travail spécifiques à une fonction pour améliorer le travail répétable, et un nombre restreint de paris stratégiques basés sur le contexte propriétaire de l'entreprise. Les flux de travail les plus prometteurs sont ceux qui se répètent à grande échelle, ont une propriété claire et peuvent être mesurés en termes de qualité, de risque et de valeur commerciale.

Le financement doit être adapté à la maturité du flux de travail. L'exploration doit tester la capacité du modèle à gérer la tâche, la validation doit tester des cas représentatifs contre un critère de qualité clair, et le financement de production doit soutenir les intégrations et la gestion du changement nécessaires pour se développer.

Les capacités partagées telles que l'identité, les connecteurs de confiance, les connaissances organisées, les évaluations, l'observabilité, le routage des modèles et les modèles d'agents réutilisables doivent être financées de manière centrale afin que chaque nouveau flux de travail devienne plus facile et plus sûr à lancer.

Adapter la capacité à la demande prouvée

Une fois qu'un flux de travail a prouvé sa valeur, il est essentiel d'adapter le produit, la capacité et le modèle de soutien à sa demande. ChatGPT Work offre des capacités prêtes à l'emploi pour le chat, le codage, les flux de travail agentiques, les connecteurs, les plugins et l'administration. Les entreprises peuvent étendre cette base avec des données propriétaires, des autorisations et une logique de flux de travail pour créer une valeur différenciée.

Pour les charges de travail de production, la structure commerciale doit correspondre aux modèles d'utilisation, avec des options telles que Guaranteed Capacity pour les systèmes de production nécessitant un accès certain, Scale Tier pour les charges de travail API à volume élevé prévisible, et Batch API, Flex processing ou Prompt Caching pour le travail asynchrone ou le contexte répété.

Pour les déploiements stratégiques plus importants, OpenAI Frontier et Deployment Company peuvent aider les entreprises à construire, déployer et gérer des collègues IA à travers les systèmes d'entreprise, permettant ainsi de développer un travail prouvé avec le bon produit, la bonne capacité et le bon modèle de soutien au lieu de faire reconstruire chaque flux de travail sa propre infrastructure.