LLM 0.32 : Révolution des traces de raisonnement et outils avancés

Lancement de LLM 0.32 : Une mise à jour majeure

La version 0.32 de LLM a été dévoilée, marquant une étape significative depuis le début du projet. Cette mise à jour introduit des fonctionnalités novatrices telles que le support des traces de raisonnement visibles, des outils côté serveur, et une réorganisation des journaux SQLite. En outre, elle intègre de nouveaux modèles et des fonctionnalités enrichies grâce à l'API OpenAI Responses. Une nouvelle version du plugin llm-anthropic a également été publiée, apportant des améliorations notables.

Améliorations pour les utilisateurs de LLM CLI

Les utilisateurs de LLM CLI bénéficient désormais de la possibilité d'afficher les traces de raisonnement des modèles directement dans l'erreur standard. Cela permet de comprendre le processus de réflexion des modèles sans que ces informations n'apparaissent dans la sortie standard. Pour ceux qui préfèrent ne pas voir ces traces, une option -R/--hide-reasoning est disponible pour désactiver cette fonctionnalité.

La version 0.32 prend en charge la famille de modèles GPT-5.6, avec le modèle GPT-5.6 Luna comme nouveau modèle par défaut pour la commande llm "prompt". Ce modèle se distingue par son efficacité et ses performances accrues.

LLM permet désormais l'utilisation d'outils côté serveur provenant de divers fournisseurs. OpenAI propose un environnement d'exécution de code en tant qu'outil côté serveur, permettant à LLM d'exécuter des prompts qui en tirent parti, comme illustré par l'exemple suivant :

llm --tool CodeInterpreter 'Show current python and SQLite versions'

OpenAI offre également un outil de recherche Web, élargissant les capacités d'interaction avec les données en ligne.

Le plugin llm-anthropic enrichit l'expérience utilisateur avec des outils tels que WebSearch, WebFetch, CodeExecution, et AnthropicMCP. Par exemple, l'utilisation de ce dernier outil est illustrée par la commande suivante :

llm -m [claude](/outil/claude)-sonnet-5 -T 'AnthropicMCP("https://datasette.simonwillison.net/-/mcp")' \
'how many rows in the blog_blogmark table?'

Une nouvelle commande d'endpoint, llm openai, permet d'exécuter des prompts sur n'importe quel endpoint compatible OpenAI en une seule ligne, sans enregistrement des appels, ce qui en fait un outil pratique pour des requêtes ponctuelles.

Innovations dans l'API Python

L'API Python de LLM a été simplifiée. Auparavant, elle nécessitait la création d'une conversation et l'envoi de messages un par un. Désormais, un paramètre model.prompt(messages=[]) permet d'envoyer un ensemble de messages en une seule requête, reflétant mieux la nature des LLM où chaque requête contient l'historique complet des messages précédents.

from llm import user, assistant, system
model = llm.get_model("gpt-5.6-luna")
response = model.prompt(messages=[
    system("You are a helpful pirate."),
    user("What is the capital of France?"),
    assistant("Paris, matey."),
    user("And Germany?")
])
print(response.text())

La version 0.32 permet également de gérer des réponses plus complexes, incluant du texte de raisonnement, des chaînes de sortie, des appels d'outils, et même des pièces jointes d'images. Par exemple :

for event in model.prompt("Explain cats").stream_events():
    if event.type == "reasoning":
        print(f"[thinking] {event.chunk}", end="", flush=True)
    elif event.type == "text":
        print(event.chunk, end="", flush=True)
    print(f"Other event: {event}")

Ces fonctionnalités permettent de mettre en œuvre une API robuste de complétions de chat OpenAI semi-standard, désormais disponible sous forme de plugin llm-chat-completions-server :

llm install llm-chat-completions-server
llm chat-completions-server --port 9000
# Le serveur fonctionne maintenant sur http://127.0.0.1:9000/v1

Les utilisateurs peuvent exécuter des prompts via ce serveur en utilisant la nouvelle commande llm openai endpoint :

llm openai endpoint http://127.0.0.1:9000/v1 'hello' -m gpt-5.4-mini

Gestion avancée de la journalisation

Un des défis majeurs de cette API est la journalisation. Pour éviter de dupliquer les données JSON à chaque requête, un nouveau système de stockage de messages adressables par contenu a été introduit, inspiré par Git. Les commandes llm logs et llm logs --json ont été mises à jour pour convertir ce format en un format facilement consommable.

Évolution des plugins et cadre d'agent

La version 0.32 inclut des notes de version détaillées, couvrant également les versions préliminaires comme 0.32rc2, 0.32rc, 0.32a3, 0.32a2, et 0.32a0. Tous les plugins existants de LLM devraient continuer à fonctionner, mais ceux qui fournissent des modèles supplémentaires devront être mis à jour pour tirer parti du nouveau système d'événements de streaming. Un guide est disponible pour aider à la mise en œuvre de plugins avec des messages structurés et des événements de streaming.

Certains plugins ont déjà été mis à jour, notamment :

• llm-anthropic 0.26 qui prend en charge la famille de modèles Claude 5 et inclut des outils côté serveur comme WebSearch, WebFetch, et CodeExecution.
• llm-gemini, llm-openrouter, et llm-mistral sont en cours de finalisation, avec des versions à venir.

LLM en tant que cadre d'agent

Les changements apportés aux outils de bas niveau dans cette version ont été motivés par les besoins de Datasette Agent. Le terme "agent" a gagné en clarté, et LLM s'oriente vers une définition où un agent exécute des outils en boucle pour atteindre un objectif. Les chaînes d'outils peuvent désormais être interrompues pour approbation humaine et reprendre à partir d'un historique de messages stocké, deux fonctionnalités essentielles pour Datasette Agent.

LLM commence à prendre la forme d'un véritable agent, capable de combiner divers outils et modèles en une seule ligne de commande. Il inclut une bibliothèque Python suffisamment puissante pour construire des systèmes comme Datasette Agent et llm-coding-agent. La prochaine version pourrait intégrer davantage le concept d'agent dans la bibliothèque principale, bien que la forme exacte reste à définir.