Anthropic indique que les threads de messages de Claude réduisent de 35% en médiane le temps jusqu’au premier token pour les grandes requêtes. Les coûts et les limites de taux ne bougent pas, car le modèle traite toujours toute la conversation à chaque tour. Le bénéfice se manifeste surtout avec des contextes très volumineux et des charges d’images ou de documents. Sur une session de quatre heures, un gain de 2 à 4 minutes est estimé.
Coûts, limites et capacités restent inchangés
L’ajout des threads ne réduit pas l’usage de tokens, car le modèle continue d’examiner l’intégralité de la conversation à chaque itération. Les limites de taux ne sont pas modifiées non plus. Cette optimisation n’augmente pas les capacités du modèle et ne rend pas les réponses plus intelligentes. Les requêtes ponctuelles ne tirent pas parti des threads. Si plus de cinq minutes s’écoulent entre deux échanges, l’envoi porte de nouveau sur tout le contenu et non sur les seules nouveautés. La gestion du contexte et la compaction restent nécessaires, même si un contexte suffisamment grand rend les réponses un peu plus rapides.
Où la latence baisse : gros contextes et contenus lourds
Les gains apparaissent surtout quand le contexte atteint de 500 000 à 1 million de tokens, un palier fréquent pour les sessions de Claude Code. Ils augmentent avec des agents de codage très longs et des charges riches en documents ou en images. Anthropic précise que, pour les agents qui utilisent des ordinateurs, les captures d’écran restent attachées au thread au lieu d’être réexpédiées à chaque tour. Un contexte plus vaste retarde la compaction, mais accroît aussi le risque de perte de fil ou d’erreurs de raisonnement. À titre de repère, une IA locale sur un Mac Studio de 128 Go se limite à un contexte d’environ 64K, soit environ 6% de celui de Claude Code.
Vous suivez la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Ce que font les threads dans l’API Messages
Les threads sont activés par défaut pour la plupart des utilisateurs de Claude Code et peuvent être sollicités côté API via un paramètre dédié. Dans une conversation, les agents envoient de multiples requêtes ; auparavant, chaque message réexpédiait l’historique complet. Avec les threads, seuls les éléments nouveaux sont renvoyés, ce qui diminue le volume transmis et accélère l’apparition des premiers tokens. Intégrés à l’API Messages, ces threads réduisent la latence et apportent un léger gain de performance sans surcoût.
Mesures annoncées et gains estimés sur des sessions types
Anthropic fait état d’une réduction médiane de 35% du temps jusqu’au premier token pour les grandes requêtes. Des journaux d’usage rassemblant environ 980 échanges, réalisés avant l’arrivée des threads, indiquent un démarrage des réponses autour de trois secondes pour des contextes supérieurs à 500 000 tokens. Sur cinq soirées chargées, une session de quatre heures a compté environ 100 à 225 appels au modèle. Si l’on applique la diminution médiane à ce volume d’échanges, cela représente un gain compris entre 2 et 4 minutes par session. Près d’une session sur deux atteint à plusieurs reprises la limite du contexte au cours d’une même nuit.
Complémentarité avec la mise en cache des prompts
Les threads peuvent être combinés à la mise en cache des prompts pour alléger la charge. La mise en cache, en place depuis environ deux ans, évite au modèle de retraiter des invites identiques, par exemple dans des boucles d’analyse, et permet des économies financières. Les threads, eux, visent surtout la réactivité, sans frais supplémentaires. Par ailleurs, des évolutions de projets intègrent une orchestration IA, tandis que les développeurs locaux attendent encore ces apports.
