«si vous allez faire de l'inférence multimodèle, vous aurez besoin d'un routeur.»
Citation originale
if you are gonna do multimodel inference, you are gonna need a router.
Shawn "swyx" Wang
Co-host Latent Space · Latent Space · US
Pourquoi ça compte
L'article souligne l'importance croissante des infrastructures d'IA, avec des levées de fonds significatives pour des startups comme Fireworks et Baseten, marquant une tendance vers des solutions d'inférence multimodèle.
Source
www.latent.space
Reçois chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.
« « C'est inévitable, ça va rester », ajoutant que « je ne me vois pas revenir à l'écriture de code à la main. » »
« OpenAI a explicitement déclaré que ce déploiement contraint est « à la demande du gouvernement américain », faisant du processus de politique/de sortie lui-même une partie centrale de l'histoire. »
« OpenAI rapporte que le nombre médian de tokens de sortie internes de Codex a augmenté de 56 fois dans la recherche, de 32 fois dans le support client, de 27 fois dans l'ingénierie et de 13 fois dans l »