Entretiens IA : cadre en 7 étapes et chiffres clés

Les évaluations techniques en IA ne demandent plus de dessiner Uber, mais de penser ChatGPT, un agent de support ou un Copilot en conditions réelles. Coût par token, latence et garde-fous deviennent centraux. Voici ce que recherchent les recruteurs, les pièges signalés et le canevas opérationnel attendu, illustré par des architectures en production.

Ce qui disqualifie encore : précipitation, coût ignoré, défaillances passées

Le motif d’échec le plus cité est de proposer une solution sans avoir clarifié les objectifs, les contraintes et les critères de succès. Les premières minutes doivent être consacrées à cet alignement. Les recruteurs relèvent aussi des plans où les briques s’alignent sans justification : une base vectorielle ou un reranker ne valent rien si l’on n’explique pas ce qui casse en les retirant. Un autre écueil consiste à négliger la question du coût et de la latence, alors qu’il s’agit d’une exigence majeure d’obtenir des réponses en 3 à 5 secondes. De plus, omettre d’aborder les types de défaillances — hallucinations, injection de prompts, interruptions chez le fournisseur, isolation multi‑locataires — ainsi que les méthodes de détection est fortement préjudiciable. Lorsque des données chiffrées sur la diminution des hallucinations sont avancées, les recruteurs attendent des fourchettes, car les résultats publiés diffèrent selon les sources et les contextes.

Ce que les entretiens mesurent : arbitrages d’un système probabiliste

Les évaluations actuelles ciblent la capacité à raisonner sur des systèmes probabilistes soumis à des contraintes de coût, de latence, de qualité et de sécurité. Les candidats convaincants relient chaque couche à sa fonction, en explicitant les pannes induites si elle disparaît. Au niveau senior, les échanges creusent 3 à 5 thèmes, avec un focus sur les échecs passés et leurs correctifs, plutôt qu’un survol. L’expérience en production et des exemples livrés font la différence.

Répondre avec méthode : un canevas en 7 étapes à dérouler

Un fil conducteur en sept étapes structure une bonne réponse. Clarifier d’abord données, confidentialité, budget de latence, tolérance aux erreurs, échelle, fraîcheur et dépendances d’API ou d’auto‑hébergement. Estimer ensuite tokens par seconde, taille de contexte, volume d’embeddings, coût par appel et QPS. Esquisser un flux type avec entrée, sécurité et PII, orchestrateur, récupération via base vectorielle et reranker, routage de modèle, garde‑fous post‑LLM, streaming et observabilité. Approfondir un ou deux composants comme RAG, prompts, caches exacts ou sémantiques, et hiérarchisation des modèles. Dire explicitement les compromis sur latence, qualité, RAG versus fine‑tuning, plafonds de coûts et recours à des modèles de secours. Exposer les différents types de défaillances possibles ainsi que les indicateurs permettant leur détection. Pour finir, détailler les étapes d’évolution : tests A/B de prompts, boucles de retour, dispositifs d’évaluation avant mise en production et migration graduelle des modèles.

Les briques techniques attendues, avec ordres de grandeur

Cinq éléments reviennent dans la plupart des architectures. Côté RAG, un encodeur de requêtes, un récupérateur qui classe les documents et un générateur conditionné par la requête et le contexte forment le cœur ; en production s’ajoutent chunking, pipelines d’embeddings, récupération vectorielle, caches, journalisation d’évaluations et limites d’accès. Le RAG réduit souvent les hallucinations de l’ordre de 40 à 71 %. Sur le routage de modèles, des modèles de niveau GPT‑4 se situent autour de 10 dollars par million de tokens en entrée et 30 dollars en sortie, avec des latences de 3 à 5 secondes ; un agent à 10 000 conversations quotidiennes de 5 000 tokens dépasse 7 500 dollars par mois chez un seul fournisseur. Router les requêtes routinières vers des modèles économiques, quand 60 à 80 % des demandes sont de cette nature, permet typiquement 40 à 70 % d’économies. Les garde‑fous se posent avant et après le LLM : validation, suppression des PII et défense anti‑injection en amont ; schémas, politiques de refus et vérification factuelle en aval. Des approches en couches peuvent réduire le risque d’hallucination de 71 à 89 % relativement à un taux de base de 3 à 20 %, à présenter en plages. Enfin, l’évaluation et l’observabilité exigent de tracer versions, récupération, outils, décisions de sécurité, latence et coût via des hachages de prompts ; combiner LLM‑juge calibré hors ligne et métriques en ligne comme fidélité, rappel de contexte et pertinence. Pour les boucles agentiques, séparer clairement raisonnement du LLM, contrôle par l’orchestrateur, gouvernance par le moteur de politique et exécution en bac à sable.

Des références de production à citer pendant l’échange

Ancrer la discussion dans des systèmes réels renforce la crédibilité. GitHub Copilot construit ses prompts depuis l’IDE en tenant compte du code entourant le curseur et de signaux contextuels ; le schéma Fill‑in‑the‑Middle agrège voisinage et chemins, filtre côté backend et route vers un modèle sur Azure, avec environ 10 % d’augmentation relative du taux d’acceptation face à un simple préfixe. Un modèle séparé procède ensuite à l’évaluation de la qualité et de la sécurité en mode hors ligne, en pré‑production et en production. D’autres repères : la passerelle GenAI d’Uber avec un rédacteur PII couvrant plus de 60 cas d’usage ; l’IA conversationnelle d’Airbnb avec chaîne de pensée et garde‑fous ; Perplexity traite 200 millions de requêtes chaque jour sur Vespa.ai ; un RAG stateless chez Slack avec des modèles isolés en VPC ; un moteur de recherche multi‑agent chez Anthropic piloté par Opus avec des sous‑agents Sonnet.

Les recrutements en IA augmentent de 143 % et modifient les entretiens

La montée en puissance des recrutements en IA pousse les entretiens vers des produits centrés LLM. Le rôle d’ingénieur IA a été classé deux années de suite en tête de la croissance aux États‑Unis, avec 143 % d’augmentation annuelle en 2025, et 75 000 nouvelles offres entre 2023 et 2025 selon LinkedIn, tandis que la part des emplois IA/ML est passée de 10 % à 50 %. Les exercices portent désormais sur l’intégration de grands modèles dans des produits, la conception d’agents, la récupération et la maîtrise des coûts, plutôt que sur l’algorithmique interne. Des demandes types — chatbot, RAG, agent de code, assistant vocal — se retrouvent et deviennent proches une fois le cadre acquis, les variations portant surtout sur les entrées et les contraintes. L’écosystème professionnel et académique, des plateformes de préparation aux entretiens aux enseignants‑praticiens, contribue à diffuser ces pratiques.