OVHcloud présente Olala mini 7A1B, son premier grand modèle de langage, dont le lancement officiel est prévu le 19 novembre. Devenu laboratoire d’intelligence artificielle, le groupe baptise Olala sa famille de modèles.
OVHcloud veut moins dépendre des autres laboratoires
Pour OVHcloud, concevoir ses propres modèles vise à limiter la dépendance envers des fournisseurs extérieurs. Son PDG, Octave Klaba, affirme que l’entreprise doit pouvoir créer des modèles pour ses besoins internes et ceux de ses clients, en complément des services d’IA déjà proposés. Il estime qu’OVHcloud ne peut pas compter uniquement sur le partage futur de modèles ouverts par d’autres laboratoires.
L’entreprise prévoit de développer des modèles plus volumineux et concentre sa stratégie sur trois domaines : les agents d’IA pour les entreprises, le DevOps cloud et la cybersécurité. Une version 1.1 est attendue d’ici la fin de l’année, avec une fenêtre de contexte portée à 128 000 tokens, contre 32 000 actuellement, et des améliorations prévues en raisonnement mathématique. Une version 2.0 figure également dans la feuille de route.
Vous voulez les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Qwant utilise déjà Olala pour ses réponses
Qwant s’appuie déjà sur Olala mini 7A1B pour produire ses réponses « flash ». D’après OVHcloud, cela permet au moteur de recherche de diminuer le temps de réponse de 20 % et de réduire par trois le coût de l’IA par rapport au modèle précédemment utilisé.
OVHcloud souligne la vitesse et la performance de son modèle sur plusieurs types de matériel. L’entreprise indique qu’un GPU doté d’au moins 8 Go de mémoire suffit pour le faire fonctionner, avec un débit de 160 tokens par seconde sur une RTX A4500. Sur un processeur seul, sans GPU, le débit annoncé atteint 50 tokens par seconde.
Olala active un milliard de paramètres
Olala mini 7A1B utilise une architecture hybride de 7 milliards de paramètres, dont un milliard sont activés pour chaque requête. Ce fonctionnement n’active donc qu’une partie du modèle à chaque utilisation. À titre de comparaison, Mistral Large 4 compte 1 000 milliards de paramètres, avec 52 milliards actifs. Aucun benchmark n’est disponible pour Olala mini 7A1B à ce stade, ce qui rend difficile la comparaison de ses performances avec d’autres modèles.




