🧠Modèles
Mixtral
Mixtral
Définition
Mixtral est une famille de modèles de langage open source développés par la startup francaise Mistral AI. Mixtral utilise une architecture "Mixture of Experts" (MoE) qui active seulement une partie des paramètres pour chaque requête, offrant des performances proches de GPT-4 avec un cout d'inference bien moindre. Mistral AI est devenu un leader européen de l'IA.
Exemple concret
💡 Mixtral 8x7B active 2 experts sur 8 pour chaque token, offrant les performances d'un modèle de 47B paramètres avec le cout d'un modèle de 13B.
Termes liés
Questions fréquentes
Qu'est-ce que Mixtral en intelligence artificielle ?
Mixtral est une famille de modèles de langage open source développés par la startup francaise Mistral AI. Mixtral utilise une architecture "Mixture of Experts" (MoE) qui active seulement une partie des paramètres pour chaque requête, offrant des performances proches de GPT-4 avec un cout d'inference bien moindre. Mistral AI est devenu un leader européen de l'IA.
À quoi sert Mixtral ?
Mixtral 8x7B active 2 experts sur 8 pour chaque token, offrant les performances d'un modèle de 47B paramètres avec le cout d'un modèle de 13B.
Quels sont les concepts liés à Mixtral ?
Les concepts liés à Mixtral incluent : Grand modèle de langage, Open source, Modèle de fondation, Inference. Retrouvez chaque définition dans le glossaire IA de Brief IA.
📬 Newsletter gratuite
Ne rate rien de l'actu IA
Reçois chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.