«si vous allez faire de l'inférence multimodèle, vous aurez besoin d'un routeur.»
Citation originale
if you are gonna do multimodel inference, you are gonna need a router.
Shawn "swyx" Wang
Co-host Latent Space · Latent Space · US
Pourquoi ça compte
L'article souligne l'importance croissante des infrastructures d'IA, avec des levées de fonds significatives pour des startups comme Fireworks et Baseten, marquant une tendance vers des solutions d'inférence multimodèle.
Source
www.latent.space
Reçois chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.
« OpenAI a fixé le prix de Sol à 2 $/10 $ par million de tokens d'entrée/sortie, contre 10 $/50 $ pour Astra. »
« En 2023, la plupart des gens doutaient qu'il puisse y avoir plus d'un ou deux laboratoires de modèles de pointe. Maintenant, il y en a des dizaines.... et Stripe vient d'acheter le plus connu pour 7 m »
« Jev a été adopté plus rapidement que tout autre modèle dans l'histoire de l'AI Gateway. »