🔧TechniquesRLHF
RLHF
Reinforcement Learning from Human Feedback · RLHF
Définition
Le RLHF (Reinforcement Learning from Human Feedback) est une technique d'entraînement ou des évaluateurs humains classent les réponses du modèle par qualité. Le modèle apprend ensuite à produire des réponses préférées par les humains. Le RLHF est la méthode clé qui a rendu ChatGPT utile et inoffensif par rapport au modèle GPT-3 brut.
Exemple concret
💡 OpenAI utilise le RLHF pour entraîner ChatGPT : des annotateurs comparent des paires de réponses et le modèle apprend à favoriser les meilleures.
Termes liés
Questions fréquentes
Que veut dire RLHF ?
RLHF signifie RLHF (en anglais : Reinforcement Learning from Human Feedback). Le RLHF (Reinforcement Learning from Human Feedback) est une technique d'entraînement ou des évaluateurs humains classent les réponses du modèle par qualité. Le modèle apprend ensuite à produire des réponses préférées par les humains. Le RLHF est la …
Qu'est-ce que RLHF (RLHF) en intelligence artificielle ?
Le RLHF (Reinforcement Learning from Human Feedback) est une technique d'entraînement ou des évaluateurs humains classent les réponses du modèle par qualité. Le modèle apprend ensuite à produire des réponses préférées par les humains. Le RLHF est la méthode clé qui a rendu ChatGPT utile et inoffensif par rapport au modèle GPT-3 brut.
À quoi sert RLHF ?
OpenAI utilise le RLHF pour entraîner ChatGPT : des annotateurs comparent des paires de réponses et le modèle apprend à favoriser les meilleures.
Quels sont les concepts liés à RLHF ?
Les concepts liés à RLHF incluent : Apprentissage par renforcement, Alignement IA, Constitutional AI, Fine-tuning. Retrouvez chaque définition dans le glossaire IA de Brief IA.
📬 Newsletter gratuite
Ne rate rien de l'actu IA
Reçois chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.