Glossaire de l'intelligence artificielle

In-Context Learning

L'apprentissage en contexte est la capacité d'un LLM à « apprendre » une nouvelle tâche à partir de quelques exemples placés directement dans le prompt, sans réentraînement. Le modèle généralise à la volée le schéma montré. C'est ce qui rend les LLM si flexibles d'un usage à l'autre.

Reinforcement Learning (RL)

L'apprentissage par renforcement est une méthode de machine learning ou un agent apprend en interagissant avec un environnement et en recevant des récompenses ou pénalités. L'agent optimise sa stratégie pour maximiser la récompense cumulée. Cette technique est utilisée pour les jeux, la robotique et l'alignement des LLM via RLHF.

Data Augmentation

L'augmentation de données est une technique qui consiste à créer des variantes artificielles des données d'entraînement pour enrichir le dataset. En vision par ordinateur, cela inclut la rotation, le recadrage et le changement de couleurs des images. En NLP, on peut paraphraser des textes ou traduire et retraduire. Cela améliore la robustesse du modèle.

Chain-of-Thought (CoT)

Le chain-of-thought (chaine de pensee) est une technique de prompting qui encourage le modèle à raisonner étape par étape avant de donner sa réponse finale. En decomposant un problème complexe en étapes intermédiaires, le modèle produit des réponses plus précises, surtout pour les problèmes de logique et de mathématiques.

Throughput

Le débit mesure le nombre de tokens qu'un modèle génère par seconde — autrement dit, sa vitesse de réponse perçue. À ne pas confondre avec la latence (le délai avant le premier mot). Un débit élevé est crucial pour les applications temps réel et pour maîtriser les coûts à grande échelle.

Gradient Descent

La descente de gradient est la méthode d'optimisation au cœur de l'entraînement des modèles. Elle ajuste progressivement les paramètres dans la direction qui réduit le plus l'erreur, comme on descendrait une pente vers le point le plus bas. Le « taux d'apprentissage » contrôle la taille de chaque pas.

Knowledge Distillation

La distillation de connaissances est une technique de compression ou un petit modèle (élevé) apprend à reproduire les comportements d'un grand modèle (professeur). L'élevé est entraîné non pas sur les données brutes mais sur les sorties du professeur, capturant ainsi ses "connaissances" dans un format plus compact. Cela permet de créer des modèles rapides et légers.

Synthetic Data

Les données synthétiques sont des données générées artificiellement par des algorithmes ou des modèles d'IA, plutôt que collectées dans le monde réel. Elles permettent d'entraîner des modèles quand les données réelles sont rares, coûteuses ou protégées par la vie privée. Les données synthétiques sont de plus en plus utilisées pour l'entraînement des LLM.

Embedding

Un embedding est une représentation vectorielle (suite de nombres) d'un mot, d'une phrase ou d'un document dans un espace mathématique. Les embeddings capturent le sens sémantique : des mots similaires ont des vecteurs proches. Ils sont essentiels pour la recherche sémantique, le RAG et les bases de données vectorielles.

Latent Space

L'espace latent est la représentation interne, abstraite et compressée, dans laquelle un modèle encode ses données (mots, images…). Des concepts proches y occupent des positions proches, ce qui permet au modèle de manipuler le sens mathématiquement. C'est dans cet espace que se font la recherche sémantique et la génération.

Few-shot Learning

Le few-shot learning est une technique où l'on fournit quelques exemples au modèle dans le prompt pour guider sa réponse. Contrairement au fine-tuning qui nécessite des milliers d'exemples, le few-shot utilise 2 à 5 exemples directement dans le contexte. Cette technique améliore significativement la cohérence et le format des sorties.

Fine-tuning

Le fine-tuning consiste à re-entraîner un modèle pré-entraîné sur un jeu de données spécifique pour l'adapter à une tâche ou un domaine particulier. Cela permet d'améliorer les performances du modèle sur des cas d'usage spécifiques sans repartir de zéro. Le fine-tuning est moins coûteux que l'entraînement complet d'un modèle.

Function Calling

Le function calling est la capacité d'un LLM à identifier quand il doit appeler une fonction externe et à générer les arguments nécessaires au format structure. Cela permet au modèle d'interagir avec des API, des bases de données et des outils externes. Le function calling est la brique de base des agents IA.

Retrieval-Augmented Generation (RAG)

Le RAG (Retrieval-Augmented Generation) est une technique qui combine la recherche d'informations dans une base de connaissances avec la génération de texte par un LLM. Avant de répondre, le système recherche les documents les plus pertinents, puis les fournit au modèle comme contexte. Le RAG réduit les hallucinations et permet au LLM d'accéder à des données à jour.

Grounding

Le grounding (ancrage) est la technique qui relie les réponses d'un LLM à des sources factuelles verifiables. Un modèle "grounded" base ses réponses sur des données réelles (documents, bases de données, pages web) plutot que sur ses seules connaissances parametriques. Le grounding est complémentaire au RAG et essentiel pour réduire les hallucinations.

Instruction Tuning

L'instruction tuning est une forme de fine-tuning ou le modèle est entraîné sur des paires instruction-réponse pour le rendre meilleur à suivre des consignes. C'est cette étape qui transforme un LLM brut (qui complète du texte) en un assistant utile (qui répond aux questions). L'instruction tuning est la clé de la transition de GPT-3 à ChatGPT.

Low-Rank Adaptation (LoRA)

LoRA (Low-Rank Adaptation) est une technique de fine-tuning efficace qui réduit drastiquement la mémoire et le calcul nécessaires. Au lieu de modifier tous les poids du modèle, LoRA ajoute de petites matrices de faible rang aux couches existantes. Cela permet de fine-tuner un modèle de 70 milliards de paramètres sur un seul GPU.

Attention Mechanism

Le mécanisme d'attention permet à un modèle de pondérer l'importance de chaque partie de l'entrée lors du traitement. Plutôt que de traiter tous les tokens de manière égale, le modèle "porte attention" aux parties les plus pertinentes pour la tâche. L'attention est le composant clé de l'architecture Transformer.

Pre-training

Le pré-entraînement est la première phase, longue et coûteuse, où un modèle apprend des structures générales du langage (ou des images) à partir d'énormes corpus, sans tâche précise. Il en ressort un modèle « de base » généraliste, qui sera ensuite affiné (fine-tuning) pour des usages spécifiques. C'est ce qui produit les foundation models.

Prompt Engineering

Le prompt engineering est l'art de formuler des instructions optimales pour obtenir les meilleurs résultats d'un modèle d'IA. Cela inclut des techniques comme le few-shot learning, le chain-of-thought, et la structuration des consignes. Un bon prompt engineer sait exploiter les capacités et contourner les limites d'un LLM.

System Prompt

Le prompt système est l'instruction de cadrage, invisible pour l'utilisateur, qui définit le rôle, le ton et les règles d'un assistant IA avant toute conversation. Il pose le « caractère » du modèle et ses limites. Bien rédigé, il améliore fortement la pertinence et la sécurité des réponses.

Quantization

La quantization est une technique de compression de modèles qui réduit la précision des poids (par exemple de 16 bits à 4 bits) pour diminuer la taille du modèle et accélérér l'inférence. Un modèle quantifié en 4 bits utilise 4x moins de mémoire avec une perte de qualité minimale. C'est essentiel pour déployer de grands modèles sur du materiel limite.

Semantic Search

La recherche sémantique trouve des résultats par le sens plutôt que par les mots exacts, en comparant des représentations vectorielles (embeddings) de la requête et des documents. Elle ramène donc des contenus pertinents même s'ils n'emploient pas les mêmes termes. C'est la brique de recherche au cœur des systèmes RAG.

Backpropagation

La rétropropagation est l'algorithme qui permet d'entraîner les réseaux de neurones. Après chaque prédiction, il calcule l'erreur puis la propage de la sortie vers l'entrée pour ajuster chaque poids du réseau dans la bonne direction. Répété des millions de fois, ce mécanisme fait converger le modèle vers de bonnes performances.

Reinforcement Learning from Human Feedback (RLHF)

Le RLHF (Reinforcement Learning from Human Feedback) est une technique d'entraînement ou des évaluateurs humains classent les réponses du modèle par qualité. Le modèle apprend ensuite à produire des réponses préférées par les humains. Le RLHF est la méthode clé qui a rendu ChatGPT utile et inoffensif par rapport au modèle GPT-3 brut.

Overfitting

Le surapprentissage survient quand un modèle apprend « par cœur » ses données d'entraînement, y compris leur bruit, au lieu d'en extraire des règles générales. Résultat : il est excellent sur les données vues mais médiocre sur de nouvelles données. C'est l'un des pièges majeurs de l'apprentissage automatique, qu'on combat par la régularisation et la validation.

Temperature

La temperature est un paramètre qui contrôle le degré de créativité (aléatoire) dans les réponses d'un LLM. Une temperature basse (0-0,3) produit des réponses plus previsibles et factuelles. Une temperature élevée (0,7-1) génère des réponses plus creatives et variees, mais avec plus de risques d'hallucination.

Transfer Learning

Le transfer learning (apprentissage par transfert) est une technique où un modèle entraîné sur une tâche est réutilisé comme point de départ pour une autre tâche. Plutôt que d'entraîner un modèle de zéro, on transfère les connaissances acquises. C'est le principe fondateur des foundation models : entraîner une fois, adapter partout.

Zero-shot

Le zero-shot désigne la capacité d'un modèle à effectuer une tâche sans aucun exemple préalable, uniquement à partir d'une instruction en langage naturel. C'est l'une des capacités les plus impressionnantes des LLM modernes. Plus un modèle est performant, meilleures sont ses performances en zero-shot.