📘Fondamentaux
Lois d'échelle
Scaling Laws
Définition
Les lois d'échelle décrivent comment les performances d'un modèle s'améliorent, de façon prévisible, quand on augmente la taille du modèle, la quantité de données et la puissance de calcul. Elles ont justifié la course aux très grands modèles. Elles montrent aussi des rendements décroissants, qui poussent à chercher d'autres leviers (raisonnement, données de qualité).
Exemple concret
💡 C'est sur la base des lois d'échelle que les labos ont parié que rendre les modèles plus gros les rendrait nettement plus capables — ce qui s'est vérifié jusqu'à un certain point.
Termes liés
Questions fréquentes
Qu'est-ce que Lois d'échelle en intelligence artificielle ?
Les lois d'échelle décrivent comment les performances d'un modèle s'améliorent, de façon prévisible, quand on augmente la taille du modèle, la quantité de données et la puissance de calcul. Elles ont justifié la course aux très grands modèles. Elles montrent aussi des rendements décroissants, qui poussent à chercher d'autres leviers (raisonnement, données de qualité).
À quoi sert Lois d'échelle ?
C'est sur la base des lois d'échelle que les labos ont parié que rendre les modèles plus gros les rendrait nettement plus capables — ce qui s'est vérifié jusqu'à un certain point.
Quels sont les concepts liés à Lois d'échelle ?
Les concepts liés à Lois d'échelle incluent : Paramètres, Entraînement, Modèle de fondation, Capacités émergentes. Retrouvez chaque définition dans le glossaire IA de Brief IA.
📬 Newsletter gratuite
Ne rate rien de l'actu IA
Reçois chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.