La nouvelle version du plugin datasette-llm facilite l'utilisation de modèles de langage locaux ou auto-hébergés avec Datasette. Elle prend en charge les points de terminaison compatibles OpenAI et propose une configuration type pour démarrer en local avec Datasette Agent.
Des modèles locaux utilisables avec Datasette, dont llama.cpp 1.0.0
Les modèles de langage exécutés localement avec LM Studio, Ollama ou llama.cpp peuvent désormais être utilisés avec Datasette grâce à datasette-llm. La version 1.0.0 de llama.cpp est prise en charge. En suivant la procédure fournie, il est possible de lancer un serveur local qui fait tourner une instance de Datasette Agent alimentée par le modèle local.
Vous codez avec l’IA ?
Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Le plugin prend en charge les endpoints compatibles OpenAI
La version 0.1a11 de datasette-llm ajoute la compatibilité avec les points de terminaison utilisant le protocole web pseudo-standard d'OpenAI. Cela permet à Datasette d'interroger un LLM hébergé n'importe où, à condition qu'il expose ce type d'API. datasette-llm sert de plugin intermédiaire pour configurer les LLM à destination des autres plugins de Datasette.
Mise en route locale avec uvx et Datasette Agent
Pour démarrer, il faut télécharger la base de démonstration https://datasette.io/content.db avec wget, puis exécuter Datasette via uvx avec l'option --with datasette-agent, en ajoutant les options --root et --secret 1. La configuration du modèle se fait avec le paramètre -s plugins.datasette-llm.default_model, qui prend un objet JSON où "model" vaut "lmstudio-qwen", "model_name" "qwen/qwen3.8-27b" et "api_base" "http://localhost:1234/v1".
