Claude Code : l'équilibre crucial entre ROI et innovation en IA

L'importance du retour sur investissement dans l'IA selon Boris Cherny

Boris Cherny, une figure clé chez Anthropic, met en lumière une question cruciale pour les entreprises : comment équilibrer le retour sur investissement (ROI) tout en permettant aux employés d'expérimenter avec l'intelligence artificielle (IA). Selon lui, bien que le focus sur le ROI soit justifié, il est impératif que les employés, quel que soit leur rôle, aient accès aux tokens nécessaires pour tester et innover avec l'IA. Cette approche permettrait aux entreprises de gérer efficacement leurs coûts.

Lors d'une récente discussion organisée par Scale AI, Cherny a souligné que le ROI est le bon cadre pour évaluer les investissements en IA. Il a expliqué que les entreprises ne doivent pas uniquement se concentrer sur les dépenses, mais aussi sur ce qu'elles obtiennent en retour. Cette perspective est particulièrement pertinente dans le contexte actuel où les budgets pour les tokens d'IA sont sous pression.

Les préoccupations budgétaires et les tokens d'IA

Jesse Chen, directeur de la gestion des produits chez Meta, a interrogé Cherny sur les inquiétudes exprimées par Andrew Macdonald, COO d'Uber. Macdonald s'est récemment exprimé sur le coût croissant des tokens d'IA et sur la nécessité de justifier ces dépenses. Les tokens, qui sont des unités de texte utilisées par les modèles de langage pour traiter des prompts, sont essentiels pour le fonctionnement de chatbots comme Claude d'Anthropic et d'autres outils de codage génératif.

Cherny a réitéré que le ROI est crucial, mais il a également averti contre une réaction excessive face aux préoccupations budgétaires. Il a expliqué que les entreprises devraient permettre à leurs employés d'expérimenter librement avec les tokens, sans crainte de répercussions financières. Cette liberté d'expérimentation est essentielle pour découvrir de nouvelles applications internes de l'IA qui peuvent ensuite être optimisées pour réduire les coûts.

L'innovation naît de l'expérimentation

Selon Cherny, les meilleures idées pour l'utilisation de l'IA peuvent souvent émerger de manière inattendue, par exemple d'un comptable ou d'un membre du service marketing. Ces idées innovantes peuvent transformer les processus internes et mener à la création de nouveaux produits. Ainsi, il est crucial de ne pas restreindre l'accès aux tokens, car cela pourrait freiner l'innovation.

Anthropic propose plusieurs solutions pour aider les entreprises à gérer leurs coûts, notamment des contrôles de coûts par utilisateur. D'autres leaders du secteur, comme Sam Altman d'OpenAI, partagent également ces préoccupations concernant le ROI des investissements en IA.

Les enjeux économiques pour les entreprises d'IA

Cherny a souligné que les entreprises comme Anthropic, qui génèrent des tokens, ont un intérêt économique à vendre leurs modèles et outils d'IA générative. Cela est particulièrement pertinent à l'approche d'introductions en bourse très attendues. Il a expliqué que chaque token utilisé représente un coût d'opportunité, car il pourrait être vendu à un client.

La mesure du ROI évolue avec les avancées rapides des modèles d'IA. Cherny a mentionné que l'évaluation du pourcentage de code écrit par l'IA devient obsolète lorsque l'IA génère la totalité du code. Il a suggéré de se concentrer sur l'accélération du code par ingénieur et sur l'identification des goulets d'étranglement dans le processus de développement. L'objectif est de libérer le potentiel créatif des employés pour générer des idées plus rapidement et efficacement.