LLM : Révolutionner les bases de connaissances avec l'IA

L'impact des modèles de langage large sur les bases de connaissances

Les modèles de langage large, ou LLM (Large Language Models), ont ouvert de nouvelles perspectives dans la gestion des connaissances. Ces modèles permettent de stocker et d'accéder à une quantité massive d'informations, facilitant ainsi la prise de décisions éclairées, la récupération de contextes passés et l'alignement des équipes sur une même source de vérité. L'importance de ces bases de connaissances a toujours été reconnue, mais leur potentiel a été décuplé par l'intégration des LLM.

Deux éléments clés expliquent cette transformation : la capacité à capturer un volume plus important d'informations et la facilité d'interrogation des bases de données sans nécessiter une recherche manuelle fastidieuse. Cet article explore les raisons pour lesquelles il est crucial de développer une base de connaissances alimentée par des LLM, comment maximiser la capture d'informations, et comment exploiter activement ces données.

Récemment, j'ai personnellement travaillé sur la mise en place d'une base de connaissances et sur le routage de contexte pour améliorer ces aspects. Les bases de connaissances étaient déjà utiles avant l'émergence des LLM, car accéder à des connaissances passées est toujours avantageux. Cependant, leur puissance a considérablement augmenté grâce aux LLM.

Pourquoi adopter une base de connaissances enrichie par les LLM ?

Il est essentiel de comprendre l'importance d'une base de connaissances robuste. Que ce soit à titre personnel ou à l'échelle d'une entreprise, la capacité à stocker et à accéder à des informations précieuses est un atout majeur. Une base de connaissances bien construite permet de prendre des décisions mieux informées, de retrouver rapidement des informations passées sans avoir à consulter de multiples sources, et d'assurer une cohérence parmi les membres d'une équipe en s'appuyant sur une source unique de vérité.

Les LLM ont considérablement renforcé ces bases de connaissances. Autrefois, il fallait parcourir manuellement les données pour trouver des informations pertinentes, un processus souvent laborieux et dépendant de la mémoire humaine. Aujourd'hui, grâce à des approches comme la RAG (Retrieval-Augmented Generation), les LLM peuvent interroger automatiquement les bases de connaissances et extraire les informations nécessaires sans intervention humaine. Cela élimine la barrière de l'accès manuel et rend les bases de connaissances beaucoup plus puissantes.

La raison pour laquelle vous devriez avoir une base de connaissances est que l'information est extrêmement précieuse. Plus vous pouvez stocker d'informations et y accéder ultérieurement, mieux vous performerez. Par exemple, vous serez en mesure de :

• Prendre de meilleures décisions grâce à un accès à un contexte plus large
• Récupérer plus rapidement des sujets précédents sans avoir à consulter diverses sources
• Aligner différentes personnes autour d'une source unique de vérité

Ces concepts s'appliquent aussi bien à une base de connaissances personnelle qu'à une base de connaissances d'entreprise. Je crois également que ces bases de connaissances sont devenues beaucoup plus puissantes grâce à la possibilité de les interroger avec des LLM. Auparavant, vous deviez parcourir manuellement la base de connaissances pour trouver des informations pertinentes. Vous deviez vous fier à votre mémoire pour vous rappeler si une certaine information était stockée et décider si cela valait la peine de la rechercher.

Aujourd'hui, cela a complètement changé. Le LLM peut interroger la base de connaissances, par exemple, avec une approche de type RAG (Retrieval-Augmented Generation), et trouver automatiquement des informations pertinentes immédiatement. Le LLM peut lui-même décider quand il a besoin d'utiliser la base de connaissances.

Cela signifie que vous éliminez complètement la nécessité d'une intervention humaine pour accéder à l'information dans une base de connaissances, ce qui la rend beaucoup plus puissante.

Capturer efficacement les informations

La première étape pour construire une base de connaissances efficace est de capturer les informations de manière exhaustive. Cela nécessite une réflexion approfondie sur les différentes sources d'informations disponibles, qu'elles soient personnelles ou professionnelles. Les outils de gestion de projet comme Linear, les agents de codage tels que Claude Code ou Codex, et même les discussions informelles au bureau sont autant de sources potentielles.

Il est crucial de cartographier ces sources et de mettre en place des mécanismes automatiques pour acheminer ces informations vers la base de connaissances. L'automatisation est essentielle pour garantir que la base de connaissances reste à jour et complète. Par exemple, un cron job peut être configuré pour synchroniser quotidiennement les notes de réunion ou les mises à jour des projets. Cela évite la nécessité d'une saisie manuelle, qui est souvent sujette à l'oubli et peut entraîner une perte d'informations précieuses.

Les discussions en personne posent un défi particulier en termes d'automatisation. Bien que des solutions comme l'enregistrement continu soient envisageables, elles nécessitent un consentement et peuvent ne pas être pratiques. Une alternative consiste à résumer manuellement les points clés après une discussion et à les intégrer dans l'agent de codage. Ainsi, même si les discussions ne sont pas explicitement enregistrées, leur contenu peut être capturé à travers les interactions avec les outils numériques.

Cependant, je pense que vous n'avez même pas besoin de stocker explicitement les discussions de bureau, car la plupart du temps, après une discussion, la personne avec qui j'ai échangé ou moi-même prenons le contexte de cette discussion et l'écrivons dans notre agent de codage. Cette discussion a généralement eu lieu en raison d'une question d'implémentation, donc si cette connaissance est utilisée activement dans votre agent de codage par la suite, vous pouvez la récupérer à partir des journaux de l'agent.

Ainsi, si vous avez réussi cette étape et stocké tout le contexte que vous rencontrez chaque jour dans votre base de connaissances, vous avez déjà accompli la majeure partie du travail. C'est la partie difficile de la base de connaissances. Dans la section suivante, je vais aborder la partie plus facile, qui consiste à utiliser activement ces informations lors de la prise de décisions ou lors de l'interaction avec vos agents de codage.

Exploiter les informations stockées

Une fois que la base de connaissances est bien alimentée, l'étape suivante consiste à utiliser activement ces informations. Deux approches principales peuvent être adoptées : interroger directement la base de connaissances en cas de besoin ou permettre à l'agent de codage d'utiliser passivement les informations lors de ses tâches.

La première approche est assez intuitive : poser des questions à l'agent de codage qui, à son tour, interroge la base de connaissances pour fournir des réponses. La seconde approche, plus subtile, consiste à intégrer passivement les informations de la base de connaissances dans les processus de travail de l'agent de codage, par exemple lors de l'implémentation de code ou de la résolution de bugs.

Inférence basée sur Grep

Une méthode consiste à maintenir un fichier markdown détaillant la structure de la base de connaissances et l'emplacement des informations clés. Ce fichier est régulièrement mis à jour pour refléter les ajouts à la base de données. L'utilisation de grep pour rechercher des informations peut être plus efficace que les recherches basées sur l'embedding, car elle permet de trouver des données précises lorsque nécessaire. Cependant, cela nécessite d'intégrer ce fichier dans le contexte du LLM, ce qui peut devenir complexe à mesure que le fichier s'étoffe.

Inférence basée sur l'embedding

Une autre approche est l'inférence basée sur l'embedding, telle que celle proposée par GBrain. Cette méthode consiste à effectuer une recherche d'embedding à chaque requête, permettant de récupérer des fragments pertinents de la base de connaissances. Si le LLM identifie des informations pertinentes, il peut les examiner plus en détail. Cette approche est souvent plus efficace car elle ne nécessite pas de recherche active et optimise l'utilisation des tokens d'entrée.

Le choix de la méthode dépendra des besoins spécifiques et des cas d'utilisation. Cependant, il est recommandé d'expérimenter avec différentes approches pour déterminer celle qui convient le mieux à votre contexte.

En conclusion, la mise en place d'une base de connaissances alimentée par des LLM est un investissement stratégique pour toute organisation cherchant à optimiser l'utilisation de ses données. En automatisant la capture des informations et en exploitant activement ces données, les entreprises peuvent améliorer significativement leur prise de décision et leur efficacité opérationnelle.

Je vous encourage à écrire autant d'informations que possible et à lire comment d'autres ont mis en place ces bases de connaissances. Ensuite, vous devriez utiliser activement cette base de connaissances chaque fois que vous travaillez sur votre ordinateur avec un agent de codage (ce qui devrait être le cas pour tout le travail que vous effectuez). Je crois que les bases de connaissances deviendront incroyablement puissantes et précieuses dans les années à venir.