Brief IA : Liquid AI défie la course aux paramètres avec LFM2.5-8B-A1B

Liquid AI défie la course aux paramètres avec LFM2.5-8B-A1B

Brief IA
Tom Levy·3 min·6 vues

Liquid AI a lancé son modèle LFM2.5-8B-A1B, qui dispose de 8 milliards de paramètres et utilise une architecture 'Mixture-of-Experts' pour activer uniquement une partie de ces paramètres lors du traitement des requêtes. Ce modèle remet en question l'idée selon laquelle la taille détermine la performance, offrant une alternative performante sur des appareils grand public sans nécessiter une infrastructure massive. Cette innovation pourrait redéfinir les critères de performance dans le développement d'IA.

En bref
1Liquid AI introduit LFM2.5-8B-A1B, un modèle IA compact visant à rivaliser avec des modèles plus volumineux sans infrastructure lourde.
2Le modèle utilise une architecture MoE avec 8 milliards de paramètres, optimisant les ressources pour des performances élevées sur des appareils grand public.
3Des améliorations incluent une fenêtre de contexte étendue à 128 000 tokens et un vocabulaire doublé, ciblant les langues non latines.
💡Pourquoi c'est importantLiquid AI démontre qu'une IA compacte peut offrir des performances robustes sans nécessiter une augmentation exponentielle des paramètres.
Le brief IA que lisent les pros

Tu veux les meilleurs outils IA avant les autres ?

On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisis ton rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

📄
L'analyse en français

Liquid AI défie la course aux paramètres avec LFM2.5-8B-A1B

Liquid AI a récemment dévoilé son dernier modèle d'intelligence artificielle, le LFM2.5-8B-A1B, qui remet en question l'idée que la performance d'un modèle dépend de sa taille. Dans un secteur où la taille des modèles, mesurée en milliards de paramètres, est souvent synonyme de puissance, Liquid AI choisit une approche différente. L'objectif est de prouver qu'un modèle plus compact peut rivaliser avec des concurrents plus imposants, sans nécessiter une infrastructure massive.

Un modèle optimisé pour le grand public

Le LFM2.5-8B-A1B est conçu pour fonctionner efficacement sur des appareils grand public, sans dépendre du cloud. Basé sur une architecture Mixture-of-Experts (MoE), ce modèle utilise 8 milliards de paramètres, mais n'en active qu'une partie pour chaque requête. Cette méthode permet de réduire les besoins en ressources tout en maintenant des performances élevées.

Liquid AI présente ce modèle comme un assistant personnel intelligent, capable d'accomplir des tâches quotidiennes, d'utiliser divers outils et de suivre des instructions complexes. L'ambition est de permettre à cette IA avancée de fonctionner directement sur des appareils tels que des ordinateurs portables ou des smartphones.

Selon Liquid AI, le LFM2.5-8B-A1B rivalise avec des IA plus volumineuses sur des tests de suivi d'instructions et de tâches agentiques. De plus, il se distingue par sa vitesse, étant le modèle le plus rapide de sa catégorie sur CPU et GPU. Il est compatible avec plusieurs outils populaires de l'écosystème IA, dont llama.cpp, MLX, vLLM et SGLang.

Des avancées notables

Par rapport à son prédécesseur, le LFM2-8B-A1B lancé en 2025, cette nouvelle version apporte des améliorations significatives. La fenêtre de contexte a été étendue de 32 768 à 128 000 tokens, permettant une analyse de documents plus longs et un raisonnement sur des séquences plus étendues.

Le vocabulaire du modèle a également doublé, passant de 65 536 à 128 000 tokens, ce qui améliore les performances pour les langues utilisant des systèmes d'écriture non latins, comme l'hindi, le thaï, le vietnamien, l'indonésien et l'arabe.

Bien que l'architecture générale reste similaire, combinant MoE, GQA et des blocs de convolution courte à porte, le modèle a bénéficié d'un entraînement plus ambitieux. Le volume de pré-entraînement est passé de 12 à 38 billions de tokens, avec des phases d'apprentissage par renforcement pour améliorer le raisonnement et réduire les hallucinations.

L'une des innovations majeures est l'orientation vers le raisonnement explicite. Contrairement à la version précédente, le LFM2.5-8B-A1B génère une chaîne de réflexion avant de produire sa réponse finale, améliorant ainsi la qualité des résultats sans compromettre les performances grâce à l'efficacité de son architecture MoE.

En somme, Liquid AI ne cherche pas à augmenter la puissance brute de son modèle, mais à démontrer qu'une IA compacte peut progresser sans suivre la course effrénée aux paramètres.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires