Brief IA : Nvidia : des chercheurs contestent les très longs contextes

Nvidia : des chercheurs contestent les très longs contextes

Brief IA
Tom Levy·1 min

Des chercheurs de Nvidia contestent l'intérêt des très grandes fenêtres de contexte. GPT 5.6 Sol gère environ un million de tokens. Des résumés périodiques et des recherches ciblées ont obtenu des performances similaires dans de nombreux tests.

En bref
1Des chercheurs de Nvidia contestent l'intérêt des très grandes fenêtres de contexte.
2GPT 5.6 Sol gère environ un million de tokens.
3Des résumés périodiques et des recherches ciblées ont obtenu des performances similaires dans de nombreux tests.
Pourquoi c'est important : les chercheurs jugent les très grandes fenêtres de contexte souvent excessives et coûteuses.

Des chercheurs de Nvidia jugent que les très grandes fenêtres de contexte des modèles de langage constituent une impasse. Ces modèles sont désormais capables d'absorber des romans complets d'un seul coup.

Des capacités accrues, mais contestées

La mémoire de travail d'un modèle est appelée « fenêtre de contexte » : elle rassemble les éléments utilisés pour élaborer sa réponse. Sa capacité a fortement progressé ces dernières années. Lors de son lancement, en mars 2023, GPT-4 acceptait 8 192 tokens. GPT 5.6 Sol en accepte aujourd'hui environ un million, soit environ 120 fois plus, assez pour contenir le roman de Tolstoï, Guerre et Paix.

La lettre du soirGratuit · 19 h

Vous suivez la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

L'équipe de Nvidia estime toutefois que de telles capacités sont souvent excessives et coûteuses. Dans de nombreux tests, des résumés périodiques et des recherches ciblées ont affiché des performances similaires.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires