🔧Techniques
Instruction tuning
Instruction Tuning
Définition
L'instruction tuning est une forme de fine-tuning ou le modèle est entraîné sur des paires instruction-réponse pour le rendre meilleur à suivre des consignes. C'est cette étape qui transforme un LLM brut (qui complète du texte) en un assistant utile (qui répond aux questions). L'instruction tuning est la clé de la transition de GPT-3 à ChatGPT.
Exemple concret
💡 GPT-3 completait betement le texte. Apres instruction tuning, InstructGPT/ChatGPT comprend 'Explique-moi la relativite simplement' et répond utilement.
Termes liés
Questions fréquentes
Qu'est-ce que Instruction tuning en intelligence artificielle ?
L'instruction tuning est une forme de fine-tuning ou le modèle est entraîné sur des paires instruction-réponse pour le rendre meilleur à suivre des consignes. C'est cette étape qui transforme un LLM brut (qui complète du texte) en un assistant utile (qui répond aux questions). L'instruction tuning est la clé de la transition de GPT-3 à ChatGPT.
À quoi sert Instruction tuning ?
GPT-3 completait betement le texte. Apres instruction tuning, InstructGPT/ChatGPT comprend 'Explique-moi la relativite simplement' et répond utilement.
Quels sont les concepts liés à Instruction tuning ?
Les concepts liés à Instruction tuning incluent : Fine-tuning, RLHF, Grand modèle de langage, Prompt. Retrouvez chaque définition dans le glossaire IA de Brief IA.
📬 Newsletter gratuite
Ne rate rien de l'actu IA
Reçois chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.