Nemotron-Labs : révolution des modèles de diffusion

Les limites des modèles autoregressifs

Les grands modèles de langage (LLMs) sont devenus des outils incontournables pour la génération de code, la résolution de problèmes mathématiques, et la synthèse de documents. Cependant, la plupart de ces modèles fonctionnent de manière autoregressive, générant du texte un token à la fois, chaque token dépendant des précédents. Cette méthode a certes prouvé son efficacité, mais elle présente des limitations notables. Les modèles autoregressifs consomment leurs propres sorties, ce qui peut entraîner des erreurs qui se propagent au cours de la génération. De plus, la génération token par token peut laisser de la performance sur la table, car la majeure partie du temps du GPU est consacrée aux opérations mémoire, plutôt qu'au calcul.

Une fois qu'un token est généré par un modèle autoregressif, il est définitif, et ces modèles n'ont pas intrinsèquement la capacité de réviser les tokens précédents. Cela peut poser problème pour les développeurs qui construisent des applications sensibles à la latence ou qui exécutent des tailles de lot plus petites. Pour ces raisons, l'approche autoregressive crée une limite stricte : chaque nouveau token nécessite un passage complet du modèle, et chaque poids doit être chargé depuis la mémoire avant que le calcul puisse commencer.

L'innovation de Nemotron-Labs

Nemotron-Labs propose une approche innovante avec ses modèles de langage de diffusion (DLM). Ces modèles génèrent plusieurs tokens en parallèle et les affinent itérativement, ce qui permet une meilleure utilisation des GPU modernes. Cette méthode offre également la possibilité de réviser les tokens générés, réduisant ainsi les erreurs potentielles. La propriété de génération et d'affinage des modèles de diffusion offre un moyen intégré de contrôler le budget d'inférence, en réduisant le nombre d'étapes d'affinage pour diminuer les exigences de calcul en temps réel.

Modes de génération flexibles

Le modèle Nemotron-Labs Diffusion intègre trois modes de génération :

• Mode autoregressif : Fonctionne comme un modèle standard, garantissant la compatibilité avec les processus existants.
• Mode diffusion : Génère des tokens par blocs, améliorant ainsi la vitesse de génération. Le modèle diffusion (FastDiffuser) remplit un bloc de 32 tokens à la fois en le débruitant itérativement, et un seuil de confiance décide quels tokens sont 'suffisamment bons' à chaque étape.
• Mode d'auto-spéculation : Combine la rapidité de la diffusion avec la fiabilité de la vérification autoregressive. Le modèle auto-spéculation pousse cela encore plus loin à 6 fois pour l'auto-spéculation linéaire et 6,4 fois pour l'auto-spéculation quadratique, avec une précision comparable sur les tâches évaluées.

Cette flexibilité permet aux développeurs de choisir le mode le plus adapté à leurs besoins sans modifier leurs applications. La sélection du mode d'inférence souhaité nécessite presque aucun changement au niveau de l'application, car il s'agit d'un paramètre de déploiement.

Performances et entraînement

Le modèle Diffusion 8B de Nemotron-Labs affiche une précision améliorée de 1,2 % par rapport à Qwen3 8B. En termes de vitesse, le mode diffusion atteint 2,6 fois plus de tokens par passage avant (TPF) que les modèles autoregressifs, et l'auto-spéculation va jusqu'à 6,4 fois plus rapide. Le modèle a été pré-entraîné sur 1,3 trillion de tokens et affiné avec 45 milliards de tokens supplémentaires.

Efficient-DLM a montré que les modèles AR pré-entraînés peuvent être convertis en modèles de langage de diffusion par un pré-entraînement continu et en modifiant le mécanisme d'attention vers une approche par blocs. Ce design aide à préserver les capacités des modèles AR tout en permettant un décodage parallèle compatible avec le cache KV.

Déploiement via SGLang

Les modèles Nemotron-Labs Diffusion seront bientôt disponibles dans la branche principale de SGLang. Le support pour l'inférence est disponible via une demande de suivi de problème sur GitHub. Les développeurs peuvent choisir entre les modes autoregressif, diffusion ou auto-spéculation en modifiant simplement la configuration de l'algorithme.

L'intégration permet de servir le même point de contrôle de trois manières différentes, choisies par une seule ligne dans votre configuration d'algorithme :

• Autoregressif simple : définissez ar_mode=true et le modèle se comporte comme tout autre LM causal. Utile comme référence de correction, ou si vous souhaitez simplement un contrôle de la validité par rapport à la sortie AR pure.
• Mode diffusion (FastDiffuser) : le modèle remplit un bloc de 32 tokens à la fois en le débruitant itérativement, et un seuil de confiance décide quels tokens sont "suffisamment bons" à chaque étape.
• Auto-spéculation (LinearSpec) : le même modèle rédige un bloc de manière bidirectionnelle, puis le vérifie de manière causale ; tout préfixe correspondant est validé. La sortie est sans perte par rapport à AR à température 0, mais nous avons atteint environ 865 tokens/s sur B200 sur le jeu de données speedbench - soit environ 4 fois la référence autoregressive sur le même matériel.

Conclusion

Avec Nemotron-Labs Diffusion, les développeurs disposent désormais d'une solution performante et flexible pour la génération de texte. Cette avancée promet d'améliorer considérablement les applications nécessitant une génération rapide et précise. Pour commencer, explorez la famille de modèles Nemotron-Labs Diffusion, lisez le rapport technique et essayez la recette d'entraînement disponible.