📘Fondamentaux
Inference
Inference
Définition
L'inférence est le processus d'utilisation d'un modèle d'IA entraîné pour générer des prédictions ou des réponses à partir de nouvelles données. Contrairement à l'entraînement qui nécessite d'énormes ressources, l'inférence est moins coûteuse mais reste intensive en calcul pour les grands modèles. Optimiser l'inférence est un enjeu commercial majeur.
Exemple concret
💡 Quand vous posez une question à ChatGPT, c'est l'inférence : le modèle GPT-4 traite votre prompt et génère une réponse token par token.
Termes liés
Questions fréquentes
Qu'est-ce que Inference en intelligence artificielle ?
L'inférence est le processus d'utilisation d'un modèle d'IA entraîné pour générer des prédictions ou des réponses à partir de nouvelles données. Contrairement à l'entraînement qui nécessite d'énormes ressources, l'inférence est moins coûteuse mais reste intensive en calcul pour les grands modèles. Optimiser l'inférence est un enjeu commercial majeur.
À quoi sert Inference ?
Quand vous posez une question à ChatGPT, c'est l'inférence : le modèle GPT-4 traite votre prompt et génère une réponse token par token.
Quels sont les concepts liés à Inference ?
Les concepts liés à Inference incluent : Grand modèle de langage, Latence, API, Quantization, Edge AI. Retrouvez chaque définition dans le glossaire IA de Brief IA.
📬 Newsletter gratuite
Ne rate rien de l'actu IA
Reçois chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.