Le brief IA que les pros lisent chaque soir
Les 7 actus IA du jour, décryptées en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Une croissance exponentielle de l'utilisation des tokens chez Harvey
Winston Weinberg, le PDG de Harvey, a récemment révélé une augmentation spectaculaire de l'utilisation des tokens d'IA par son entreprise. En janvier, Harvey utilisait environ 1 trillion de tokens par mois. Cependant, en l'espace de seulement cinq mois, cette utilisation a grimpé pour atteindre entre 12 et 13 trillions de tokens mensuels. Cette information a été partagée lors d'une déclaration faite à Business Insider, soulignant une croissance exponentielle qui reflète l'adoption massive des technologies d'intelligence artificielle par la startup.
Harvey, spécialisée dans l'IA appliquée au domaine juridique, a connu une multiplication par douze de son utilisation de tokens en seulement quelques mois. Weinberg a mis en garde contre l'utilisation excessive de l'intelligence artificielle pour chaque tâche, la qualifiant de trop coûteuse. Il a comparé cette situation à la facturation horaire des cabinets d'avocats, où chaque minute doit être justifiée en termes de coûts et de bénéfices. Cette explosion de l'utilisation des tokens souligne l'importance croissante de l'IA dans les processus juridiques, mais aussi les défis financiers qu'elle pose.
Les implications financières de l'utilisation des tokens
Selon Weinberg, Harvey est sur le point d'atteindre une utilisation mensuelle de 12 à 13 trillions de tokens, une estimation confirmée par un porte-parole de l'entreprise pour le mois de mai. "L'utilisation devient folle", a-t-il commenté, illustrant l'ampleur de cette croissance. Les tokens, qui représentent les unités de texte traitées par les modèles d'IA, sont devenus une mesure cruciale pour évaluer l'utilisation et la facturation des services d'IA. Plus une tâche est complexe ou plus le modèle utilisé est puissant, plus le nombre de tokens nécessaires est élevé.
Cette augmentation de l'utilisation des tokens intervient alors que de nombreuses entreprises technologiques réévaluent leurs dépenses en IA. Business Insider a rapporté que certaines startups cherchent à réduire leurs coûts en "tokenmaxxing", une stratégie visant à optimiser l'utilisation des tokens pour éviter des factures d'IA exorbitantes. Cette tendance est illustrée par des exemples concrets tels que Coinbase, qui redirige certaines requêtes vers des modèles moins coûteux, ou encore Uber, dont les dirigeants s'interrogent sur la rentabilité des outils de codage IA.
Le défi de la justification des dépenses en IA
Weinberg a souligné que le prochain défi pour les entreprises sera de déterminer le niveau approprié d'utilisation de l'IA pour chaque tâche. Il a illustré ce point en expliquant qu'un examen de changement de contrôle pourrait justifier une utilisation intensive de l'IA, tandis qu'un simple résumé de document ne le justifierait pas. Cette réflexion s'inscrit dans un débat plus large sur la manière dont les entreprises doivent justifier leurs dépenses en IA, similaire à la justification des heures facturables par les cabinets d'avocats.
Lors d'un podcast, Weinberg a comparé cette situation à la manière dont les cabinets d'avocats détaillent leurs factures, indiquant par intervalles de six minutes les tâches effectuées et les tarifs horaires appliqués. "Pourquoi font-ils cela ?" a-t-il demandé, avant de répondre : "C'est pour montrer le retour sur investissement (ROI)." À mesure que les entreprises dépensent davantage en tokens, elles devront faire face à une pression accrue pour démontrer l'efficacité de ces dépenses. "C'est un peu le principal problème que je pense que le monde entier est sur le point de rencontrer", a-t-il conclu, "C'est-à-dire, 'Je viens de dépenser 1 milliard de dollars en tokens. Où est mon ROI ?'"
