Brief IA

Meta employees compete for token consumption on an internal AI leaderboard

🤖 Models & LLMvia The Decoder·Matthias Bastian·

Meta employees compete for token consumption on an internal AI leaderboard

Meta employees compete for token consumption on an internal AI leaderboard
En bref
1Les employés de Meta se disputent des titres comme "Token Legend" sur un tableau de classement interne basé sur la consommation de tokens d'IA.
2La compétition ne garantit pas une productivité accrue malgré une consommation élevée de tokens.
3Ce système de classement met en lumière l'importance de l'efficacité plutôt que de la quantité dans l'utilisation des ressources d'IA.
💡Pourquoi c'est importantcette approche pourrait influencer la culture de travail autour de l'IA dans les entreprises technologiques.
📄
Article traduit en français

Les employés de Meta rivalisent pour la consommation de tokens sur un tableau de classement interne d'IA

Meta dispose d'un système de classement interne où les employés s'affrontent pour la plus haute consommation de tokens d'IA.

Un employé a créé un tableau de classement sur l'intranet de l'entreprise, nommé "Claudeonomics", qui suit la consommation de plus de 85 000 employés, rapporte The Information. En seulement 30 jours, les employés ont consommé 60 trillions de tokens. L'utilisateur en tête a une moyenne de 281 milliards de tokens.

Le tableau de classement utilise des titres tels que "Token Legend", "Model Connoisseur" et "Cache Wizard" pour inciter les employés à intégrer les outils d'IA dans leur routine quotidienne. Cependant, certains employés laissent simplement les agents d'IA fonctionner pendant des heures pour gonfler leurs chiffres, gaspillant ainsi des ressources, chaque token ayant un coût.

Malgré cela, le phénomène de "tokenmaxxing" est devenu une métrique de productivité incontournable dans la Silicon Valley. Le PDG de Nvidia, Jensen Huang, a déclaré qu'il serait "profondément alarmé" si un ingénieur gagnant 500 000 dollars par an ne consommait pas au moins 250 000 dollars de tokens. Selon Forbes, le CTO de Meta, Andrew Bosworth, a mentionné qu'un ingénieur de haut niveau dépense l'équivalent de son salaire en tokens et aurait supposément multiplié par 10 sa productivité.

Cependant, personne n'a réellement fourni de chiffres concrets pour étayer ces affirmations. Mesurer la consommation de tokens comme un indicateur de productivité revient un peu à évaluer un chauffeur de camion en fonction de la quantité d'essence qu'il consomme. Cela indique que le moteur fonctionne, mais pas si des marchandises sont effectivement livrées.

Établir un lien entre l'utilisation brute et les gains de productivité individuels avec des résultats commerciaux réels est difficile. Pour les entreprises d'IA, trouver cette connexion est crucial pour justifier les investissements massifs actuellement injectés dans l'IA. Même Google, par le passé, a eu recours à la communication de la consommation de tokens dans ses offres cloud lors des appels de résultats trimestriels comme signe d'adoption croissante. De plus, ces chiffres étaient artificiellement gonflés par le raisonnement sur les tokens. Montrer l'utilisation au lieu des véritables gains de revenus ne sera probablement pas viable longtemps.

TwitterLinkedIn

Brief IA — Veille IA quotidienne

Toutes les innovations IA du monde entier, résumées et analysées automatiquement chaque jour.