LLM apps : LangChain, LlamaIndex ou sur‑mesure ?

Prototyper vite, industrialiser proprement ou contrôler chaque étape : les trois voies pour bâtir des applications LLM n’exposent pas les mêmes compromis. Entre la largeur de LangChain, le ciblage RAG de LlamaIndex et le code maison via APIs, le bon choix dépend de l’étape, de l’équipe et du cas d’usage. Tour d’horizon des usages pertinents, des frictions constatées et d’un parcours de migration réaliste.

Prototyper avec un cadre, puis réécrire l’orchestration en production

Un schéma courant consiste à démarrer avec un cadre, souvent LangChain, pour explorer rapidement, puis à reconstruire la récupération et l’orchestration from scratch lors du passage en production. Dans cette trajectoire, il est possible de conserver des intégrations de cadre pour des composants périphériques. Pour des systèmes centrés sur la récupération, LlamaIndex mérite d'être sérieusement envisagé, notamment grâce à ses outils d'évaluation utiles pour progresser vers la production. Lorsque les exigences sont claires et l’équipe expérimentée, le code maison représente souvent l’investissement le plus solide à long terme ; les coûts initiaux s’échangent contre une meilleure capacité de débogage, des performances optimisées et une flexibilité accrue. Si une personnalisation poussée est nécessaire à un niveau quelconque de la pile, il faut planifier une approche sur mesure ou anticiper de devoir adapter en profondeur les abstractions du cadre, ce qui arrive fréquemment dans les équipes.

Choisir selon l’étape, l’expertise et le type d’application

Trois variables guident le choix : la phase du projet, les compétences de l’équipe et la nature du cas d’usage. En exploration précoce, un cadre permet de tester plus vite des hypothèses. Lorsque les besoins sont encore flous, LangChain est privilégié ; si la récupération est clairement centrale, LlamaIndex est indiqué. Pour un système de production axé sur la récupération, LlamaIndex s’impose comme candidat sérieux. À l’inverse, des exigences spécifiques et une équipe expérimentée orientent vers une base from scratch. Enfin, si la personnalisation est profonde, il faut soit l’assumer dès le départ en code maison, soit s’attendre à devoir adapter le cadre choisi.

Ce que résolvent ces outils : l’orchestration au‑delà du LLM sans état

Un LLM ne conserve pas d’état : il prédit du texte à partir d’une invite et renvoie une complétion. Pour fabriquer des agents multi‑étapes, des interfaces conversationnelles, des pipelines de récupération ou de la question/réponse documentaire, il faut orchestrer contexte, appels d’outils, mémoire et enchaînements. LangChain et LlamaIndex fournissent cette couche d'orchestration clé en main. Opter pour le from scratch revient à écrire soi‑même cette plomberie et à cadrer précisément les abstractions utiles à l’application.

LangChain pour la largeur d’intégration et l’agentique, avec un coût d’instabilité

LangChain propose une vaste surface d’abstractions couvrant chaînes, agents, mémoire, outils, récupérateurs, parseurs et modèles d’invite, ainsi que de nombreuses intégrations vers des services externes, bases vectorielles, moteurs de recherche et APIs. Cette largeur sert les équipes qui doivent raccorder des sources et outils variés, et ses abstractions d’agent aident à piloter des séquences multi‑étapes sans réimplémenter la boucle de décision. Il excelle au prototypage rapide et lorsque la couverture d’intégrations compte plus que le contrôle fin. En contrepartie, la profondeur des couches peut compliquer le débogage et la personnalisation, et l’évolution rapide du cadre a parfois devancé sa documentation, avec des tutoriels obsolètes et des changements incompatibles entre versions, des facteurs pénalisants pour des environnements en quête de stabilité.

LlamaIndex, focalisé RAG et outillé pour l’évaluation, moins à l’aise hors récupération

LlamaIndex a été pensé pour la génération augmentée par récupération et garde ce focus. Il réunit connecteurs de données, schémas d’indexation et moteurs de requête, avec des briques pour des RAG avancées comme le re‑classement, la recherche hybride, la récupération hiérarchique et le routage de requêtes. Les cas de question/réponse documentaire en production, d’assistants de base de connaissances et de recherche d’entreprise y trouvent une réponse cohérente, soutenue par des outils d’évaluation qui mesurent l’utilité du contexte avant impact utilisateur. En revanche, des besoins d’agentique riche, d’outillage complexe ou de flux non centrés sur la récupération s’accordent moins avec ses hypothèses, et les frais d’abstraction rendent les écarts au modèle plus délicats.

Coder sur APIs de base pour le contrôle fin, avec un ticket d’entrée assumé

L’approche from scratch consiste à appeler directement les APIs de modèles et à n’introduire que les abstractions nécessaires, ce qui est désormais facilité par la maturité des APIs d’OpenAI, Anthropic ou Google et par les SDK des bases vectorielles comme Pinecone, Weaviate ou Qdrant. Cette voie donne une visibilité totale, sans injections d’invite cachées, ni réessais implicites, ni couches interceptant les requêtes. En production, le contrôle fin est apprécié, car les contraintes des cadres deviennent plus sensibles lorsque les exigences évoluent ; la récupération sur mesure, la gestion du contexte, l’ingénierie d’invite métier et l’optimisation des performances s’en trouvent facilitées. Elle demande toutefois plus de code, plus de décisions explicites et plus d’infrastructure au départ, ce qui peut freiner l’exploration, et impose de maîtriser embeddings, similarité vectorielle, stratégies de découpage et fenêtres de contexte.

Se former et cadrer : documentations et ressources pratiques

Des ressources structurent l’apprentissage : la documentation de LangChain sur chaînes, agents et intégrations, les guides RAG, indexation et évaluation de LlamaIndex, ainsi que le guide d’ingénierie d’invite d’Anthropic et l’OpenAI Cookbook pour comprendre l’offre des APIs de base. Le centre d’apprentissage de Pinecone éclaire la recherche vectorielle et la récupération sans dépendre d’un cadre. Au final, LangChain, LlamaIndex et le from scratch sont des outils assortis de compromis. Les difficultés les plus marquées surviennent chez des équipes qui n’ont pas clarifié leurs besoins spécifiques avant de choisir.