Fondamentaux
Lois d'échelle
Scaling Laws
Partager cette définition
Définition
Les lois d'échelle décrivent comment les performances d'un modèle s'améliorent, de façon prévisible, quand on augmente la taille du modèle, la quantité de données et la puissance de calcul. Elles ont justifié la course aux très grands modèles. Elles montrent aussi des rendements décroissants, qui poussent à chercher d'autres leviers (raisonnement, données de qualité).
Exemple concret
C'est sur la base des lois d'échelle que les labos ont parié que rendre les modèles plus gros les rendrait nettement plus capables — ce qui s'est vérifié jusqu'à un certain point.
Le brief IA que lisent les pros
Vous apprenez le vocabulaire de l’IA ?
Chaque soir, les 7 actus IA du jour expliquées simplement, en 5 min. De quoi voir ces mots à l’œuvre. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Termes liés
Questions fréquentes
Qu'est-ce que Lois d'échelle en intelligence artificielle ?
Les lois d'échelle décrivent comment les performances d'un modèle s'améliorent, de façon prévisible, quand on augmente la taille du modèle, la quantité de données et la puissance de calcul. Elles ont justifié la course aux très grands modèles. Elles montrent aussi des rendements décroissants, qui poussent à chercher d'autres leviers (raisonnement, données de qualité).
À quoi sert Lois d'échelle ?
C'est sur la base des lois d'échelle que les labos ont parié que rendre les modèles plus gros les rendrait nettement plus capables — ce qui s'est vérifié jusqu'à un certain point.
Quels sont les concepts liés à Lois d'échelle ?
Les concepts liés à Lois d'échelle incluent : Paramètres, Entraînement, Modèle de fondation, Capacités émergentes. Retrouvez chaque définition dans le glossaire IA de Brief IA.
Newsletter gratuite
Ne ratez rien de l'actu IA
Recevez chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.