Atos

Principal Llm Inference Engineer H/F

Le bar-Sur-Loup, grasseCDI80k€ – 95k€ / anil y a 1h

Postulez maintenant

Vous allez être redirigé vers le site de Atos.

Postuler chez Atos

Postée il y a 1h · CDI

Description du poste

* Serving et Runtime des modèles : Concevoir et optimiser la plateforme de serving basée sur vLLM, configurer le parallélisme selon l'architecture du modèle et l'interconnexion de l'infrastructure cible, et installer/maintenir llm-d pour l'inférence distribuée et désagrégée (préremplissage/décodage désagrégés, routage conscient du cache KV).

Postuler à cette offre

Offres similaires

D'autres opportunités en Engineering.

STAGE - Data Scientist Computer Vision pour l'inspection endoscopique des moteurs aronautiques F/H

Safran

Remote France · CDI

Tech Lead IA / GenAI (CDI)

ALTEN

Ile-De-France, france · CDI

Développeur Python - Terraform - IA Llm - Confirmé - Senior H/F

Talan

Pont-Rousseau, rezé · CDI

📬 Newsletter gratuite

Les compétences IA qui comptent, chaque soir

L'essentiel de l'actu IA décrypté en 5 min, pour rester à jour. Gratuit.