Brief IA : llm 0.33 : reasoning_summary et templates combinables

llm 0.33 : reasoning_summary et templates combinables

Brief IA
Tom Levy·2 min·1 vues

La version 0.33 de l'API llm introduit l'option reasoning_summary pour les modèles de réponses, permettant trois niveaux de détail : auto, concise et detailed. De plus, la commande llm prompt permet désormais de combiner plusieurs templates, et les clés d'embedding sont gérées avec rétrocompatibilité pour les plugins. Ces évolutions visent à enrichir les usages avancés et à faciliter le test de modèles imitant l'API d'OpenAI.

En bref
1Les modèles de l’API de réponses prennent une option reasoning_summary (auto, concise, detailed).
2« llm prompt » accepte plusieurs -t/--template pour combiner des templates.
3Les commandes d’embedding prennent --key, avec rétrocompatibilité pour les plugins.
💡Pourquoi c'est importantL’option reasoning_summary est présentée comme particulièrement utile pour tester différents modèles qui imitent l’API de réponses d’OpenAI.
Le brief IA que lisent les pros

Tu codes avec l’IA ?

Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisis ton rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

📄
L'analyse en français

L’outil en ligne de commande llm enrichit ses usages avancés : une option reasoning_summary arrive pour les modèles de l’API de réponses, les templates deviennent combinables et la gestion des clés d’embedding est précisée. Les dépendances basculent vers OpenAI 3.x et httpx2. Un correctif 0.32.1 avait précédé ce lot, présenté comme plus complet.

Une option reasoning_summary pour les réponses

Les modèles de l’API de réponses disposant de capacités de raisonnement acceptent désormais l’option reasoning_summary. Trois niveaux sont proposés : auto, concise et detailed. Cette option s’utilise avec le point de terminaison « llm openai --responses ». Elle est présentée comme particulièrement utile pour tester différents modèles qui imitent l’API de réponses d’OpenAI. Le suivi de cette évolution renvoie au ticket 1600.

Des templates combinables et réutilisables

La commande « llm prompt » accepte la répétition de -t/--template afin de combiner des templates. Il devient ainsi possible d’employer la configuration et les options d’un template tout en utilisant le prompt d’un autre. Le mécanisme s’illustre par la création d’alias enregistrés — par exemple « lhigh » avec un modèle et des options par défaut, ou « pelican » pour un prompt donné — puis leur exécution conjointe via « llm -t lhigh -t pelican ».

Clés d’embedding, compatibilité et dépendances mises à jour

Les commandes « llm embed » et « llm embed-multi » prennent désormais --key, et les méthodes d’embedding au niveau des modèles et des collections acceptent un argument key= par appel. L’utilisation de la clé à chaque appel permet d’éviter toute modification de l’état partagé du modèle, et les plugins qui accèdent à self.key restent fonctionnels grâce à la rétrocompatibilité. Les modèles d’embedding adoptent en outre le même schéma de clés que les modèles LLM classiques. Côté socle, la bibliothèque OpenAI passe en 3.x et le client HTTP migre de httpx vers httpx2, des changements associés aux tickets 1608 et 1631. L’ajout de --key pour les embeddings est lié aux tickets 757 et 1620. Un correctif 0.32.1 avait précédé cette livraison, présentée ici comme plus complète. Le contributeur ChrisJr404 est explicitement remercié.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires