Deepseek publie en open source DeepInfer, son moteur d’inférence, sous licence Apache 2.0, ainsi que l’outil deepseek-recipe pour aligner les déploiements auto-hébergés sur son API. L’entreprise affirme vouloir réduire les coûts de calcul et la consommation d’énergie. Cette mise à disposition est aussi présentée comme susceptible d’appuyer une concurrence tarifaire avec des acteurs occidentaux.
La publication pourrait peser sur les tarifs des rivaux
La mise en open source de DeepInfer est présentée comme susceptible d'accentuer la pression sur les prix des fournisseurs occidentaux tels qu’OpenAI et Anthropic. Dans le contexte de la compétition entre la Chine et les États-Unis dans le domaine de l’IA, cette initiative pourrait aussi répondre à des considérations politiques. Il est également avancé que si les entreprises d’IA occidentales n’atteignent pas leurs objectifs de croissance, cela représenterait un risque pour l’économie américaine et au-delà. Les modèles de Deepseek sont décrits comme très abordables, et DeepInfer est présenté comme apportant une solution pour les exécuter de façon encore plus économique. Sur X, Deepseek indique vouloir aider la communauté à réduire les coûts de calcul, à diminuer la consommation d’énergie et à rendre l’IA plus accessible.
Vous codez avec l’IA ?
Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
DeepInfer et deepseek-recipe sont publiés sous Apache 2.0
Deepseek a rendu public DeepInfer, son framework interne d’inférence, en open source sous licence Apache 2.0. L’entreprise met également à disposition deepseek-recipe, un outil qui reproduit le traitement des jetons de l’API officielle de Deepseek afin de permettre aux configurations auto-hébergées de fonctionner de manière identique. Deepseek prévoit aussi de rendre le code de ses futurs modèles accessible en open source.
Le cadre s’appuie sur vLLM et sert V4.1-Flash
D’un point de vue technique, DeepInfer utilise vLLM, intègre des kernels optimisés, exploite le calcul distribué sur plusieurs processeurs et emploie des méthodes accélérant la génération de texte. Ce système permet d’exécuter le modèle V4.1-Flash de Deepseek pour fournir des réponses rapidement à grande échelle. L’inférence désigne ici la capacité d’un modèle d’IA entraîné à traiter des requêtes et à produire des réponses.
