Ingénieur FinOps IA / LLMOps - Freelance (H/F)

Taux journalier (TJM): 570€

CONTEXTE

Dans le cadre de l'accélération de l'adoption de l'intelligence artificielle générative et agentique, un grand groupe du secteur de l'énergie souhaite renforcer son équipe AMIA, chargée de structurer la gouvernance, la sécurité et l'industrialisation des usages IA au sein de la direction des systèmes d'information Commerce.

Le déploiement à grande échelle des outils d'IA générative, notamment Gemini Code Assist, Gemini CLI et les différents modèles de langage accessibles via le portail Multi IA Génératives, nécessite une meilleure maîtrise des consommations et des coûts associés.

Le groupe recherche un Ingénieur Fin Ops IA / LLMOps capable de mettre en place une supervision consolidée des consommations de tokens, d'identifier les leviers d'optimisation financière et de proposer une stratégie de consommation adaptée aux différents profils utilisateurs.

Le consultant interviendra en collaboration avec les équipes AMIA et TDSO, dans le cadre du programme Boost'IA, ainsi qu'avec les projets pilotes de la direction des systèmes d'information.

MISSIONS

Monitoring et suivi des consommations LLM

*

Configurer et exploiter les outils de suivi de consommation disponibles, notamment LightLLM et AI Gateway.

*

Centraliser les données de consommation de tokens.

*

Mettre en place des indicateurs de suivi par personne, par CSC et par projet.

*

Concevoir, compléter et maintenir les dashboards de consommation.

*

Fournir des tableaux de bord exploitables par les responsables de prestation et les managers.

Analyse et optimisation des coûts IA

*

Analyser les consommations de tokens et les coûts associés aux modèles LLM.

*

Comparer les consommations réelles aux budgets alloués.

*

Identifier les écarts budgétaires et les usages atypiques.

*

Définir des mécanismes d'alerte sur les consommations excessives.

*

Proposer et formaliser des leviers d'optimisation :

*

Prétraitement local des documents avant leur transmis