L'IA et la philosophie : une alliance nécessaire

L'importance de la philosophie dans la conception de l'IA

Les entreprises se lancent souvent dans l'audit de leurs systèmes d'intelligence artificielle (IA) après avoir déjà fixé leurs objectifs. Cependant, la philosophie devrait intervenir bien avant, dès la phase de conception, pour éviter que des notions de travail ou de performance ne deviennent des systèmes rigides et incontestables.

En 2026, un texte émis par le Vatican a mis en lumière une vérité souvent négligée dans les stratégies d'IA. Léon XIV a souligné que chaque choix de conception d'un système IA reflète une certaine vision de l'humanité. Cette observation s'adresse directement aux organisations qui utilisent l'IA pour des tâches telles que le tri des candidatures, l'évaluation des risques ou la recommandation d'actions. Derrière ces applications se cachent des idées préconçues sur le travail, le mérite et la confiance. Une fois ces idées traduites en données et en règles, elles deviennent des infrastructures difficiles à remettre en question. Ainsi, la gouvernance de l'IA commence souvent trop tard, après que les objectifs du système ont été acceptés comme allant de soi.

La définition des problèmes par l'IA

Lorsqu'une organisation confie un problème à une IA, elle lui transmet également une manière de le définir. John Dewey, dans son ouvrage Logic: The Theory of Inquiry, explique qu'un problème se forme au cours d'une enquête qui délimite une situation indéterminée et lui donne une direction. La formulation d'un problème oriente déjà l'action, et cette idée est cruciale lorsque le cadrage initial influence des milliers de décisions.

Prenons l'exemple d'une entreprise cherchant à améliorer son service client. Elle pourrait définir le problème comme une durée excessive des interactions et demander à l'IA de réduire le temps moyen de traitement. Cependant, un échange plus court pourrait indiquer une résolution rapide, mais aussi l'abandon d'un client ou l'évitement d'un dossier complexe. Le même problème aurait pu être formulé en termes de confiance, de clarté des offres ou de résolution durable. Chaque cadrage entraîne une intervention différente. L'IA peut accélérer le traitement d'une demande, mais la définition de cette demande reste une responsabilité humaine.

Le même dilemme se pose dans le recrutement. Identifier les "meilleurs candidats" nécessite de définir ce qu'est le talent. Doit-on privilégier l'adéquation immédiate au poste, le potentiel d'apprentissage, la singularité d'un parcours ou la capacité à transformer une fonction ? Chaque réponse nécessite des données différentes et produit des classements distincts. Le système rend ensuite cette définition opératoire, souvent avec une cohérence et une rapidité qui lui donnent l'apparence d'une évidence.

Les recherches de Rachel Etta Rudolph, Elay Shech et Michael Tamir montrent que la conception des systèmes d'apprentissage automatique engage une forme d'ingénierie conceptuelle. Modifier un modèle peut revenir à changer la manière dont une institution utilise des catégories sociales. L'IA industrialise ainsi moins des décisions isolées que les concepts qui les rendent possibles. Une définition approximative, autrefois limitée à quelques jugements locaux, peut devenir une règle appliquée à grande échelle. Une métrique choisie pour sa disponibilité peut progressivement se transformer en définition officielle de la réussite.

C'est ici que la philosophie trouve son rôle. La technique permet de comprendre le système, ses capacités et ses limites. Le management organise son intégration dans le travail. L'éthique examine les droits, les responsabilités et les dommages possibles. La philosophie intervient bien plus tôt. Elle clarifie les concepts, compare les finalités et rend explicite la conception de la personne que le projet s'apprête à institutionnaliser. Elle évite qu'une préférence managériale, une convention de métier ou un indicateur commode ne devienne trop vite une vérité calculée.

Mettre en place une due diligence philosophique

Pour remplir cette fonction, la philosophie doit quitter le registre du commentaire et entrer dans le processus de décision. Tout projet d'IA significatif devrait faire l'objet d'une due diligence philosophique avant la validation du cas d'usage. Cette procédure aurait pour objet de vérifier que le problème, les concepts et les finalités confiés au système sont suffisamment solides pour être automatisés. Elle devrait précéder l'étude de faisabilité et figurer dans le dossier soumis à l'instance chargée d'autoriser le projet.

• Le premier examen porterait sur la formulation du problème. Quelle situation l'entreprise cherche-t-elle réellement à transformer ? Pourquoi l'IA constitue-t-elle une réponse pertinente ? Quelles autres formulations ont été étudiées ? Une baisse de fidélité peut être interprétée comme un défaut de personnalisation, une dégradation du service, une perte de confiance ou une proposition de valeur devenue moins pertinente. Tant que ces hypothèses restent confondues, l'automatisation risque d'accélérer une réponse sans clarifier la question.

• Le deuxième examen concernerait le concept central. Quel terme sera converti en score, en classement ou en recommandation ? Comment l'organisation définit-elle la qualité, le risque, la satisfaction ou le mérite ? Quelles définitions concurrentes pourraient être raisonnablement défendues ? Une métrique représente une finalité sans jamais l'épuiser. La due diligence philosophique oblige donc l'entreprise à distinguer ce qui se mesure facilement de ce qui possède réellement de la valeur.

• Le troisième examen porterait sur les biens en tension. Accélérer un processus peut réduire l'attention accordée aux exceptions. Standardiser une décision peut renforcer la cohérence tout en diminuant la valeur du jugement situé. Personnaliser une offre peut accroître sa pertinence tout en enfermant l'utilisateur dans la continuité de ses comportements passés. La philosophie ne résout pas ces tensions à la place des décideurs. Elle les rend visibles assez tôt pour que les arbitrages puissent être assumés avant de devenir des routines techniques.

• Le dernier examen concernerait la contestabilité. Qui pourra remettre en cause la définition initiale du problème ? Les personnes concernées pourront-elles seulement signaler une erreur, ou également discuter les catégories qui organisent la décision ? Une gouvernance complète doit pouvoir réviser la mission confiée à l'IA, et pas uniquement corriger ses résultats. La responsabilité porte autant sur la qualité de l'exécution que sur la légitimité de l'objectif poursuivi.

La philosophie comme levier stratégique

Ce travail d'explicitation ne ralentit pas la stratégie. Il évite qu'elle transforme trop vite une intuition fragile en investissement technologique. Une demande d'automatisation peut masquer une absence de priorité, un conflit entre plusieurs objectifs ou une dégradation de l'organisation. En soumettant le cadrage initial à la discussion, la philosophie révèle parfois que la réponse attendue relève moins d'un modèle que d'une transformation du travail, du service ou de la relation avec le client.

Cette démarche améliore aussi la qualité des indicateurs. Les organisations ont tendance à confondre ce qui est facilement quantifiable avec ce qui compte réellement. Dès qu'un objectif est converti en métrique, le risque apparaît de voir cette métrique devenir l'objectif lui-même. La due diligence philosophique maintient ouverte la distinction entre la valeur recherchée et son approximation chiffrée.

Elle protège enfin la diversité des interprétations. Lisa Messeri et Molly Crockett ont montré que les outils d'IA peuvent produire des illusions de compréhension et favoriser des monocultures intellectuelles. Une organisation peut générer davantage d'analyses tout en explorant moins de manières de comprendre son activité. La fluidité des réponses crée alors une impression de clôture. La philosophie réintroduit des alternatives. Elle demande quelle hypothèse est devenue invisible, quel concept rassemble artificiellement des réalités différentes et quelle finalité a été écartée avant d'être réellement examinée.

Une étude menée auprès de 319 professionnels montre également que l'usage de l'IA générative déplace l'effort critique vers la vérification et l'intégration des réponses. Ce déplacement peut être utile, mais il laisse entière une question plus profonde. Le cadre proposé mérite-t-il d'être accepté ? Une réponse peut être factuellement exacte et servir un problème pauvre. La philosophie permet de contrôler ce qui précède la vérification des faits, à savoir la construction de la question, la définition des concepts et la justification de la finalité.

Intégrer la philosophie comme compétence essentielle

La philosophie ne doit donc pas être ajoutée comme une culture générale périphérique. Elle doit devenir une compétence pratique. Savoir problématiser une demande, distinguer plusieurs définitions d'un même concept, expliciter les biens en tension, construire l'objection la plus solide à une décision et justifier une finalité. Ces exercices peuvent être intégrés aux projets d'IA, aux formations de dirigeants et aux processus d'investissement.

À mesure que les modèles deviennent accessibles à tous, l'avantage se déplace vers la qualité des missions qui leur sont confiées. Une organisation peut disposer d'outils puissants et rester prisonnière de concepts pauvres. Une autre utilisera les mêmes outils avec davantage de discernement parce qu'elle aura mieux formulé le problème, mieux défini la valeur recherchée et mieux organisé la contestation.

Former à l'IA exige dès lors quatre compétences complémentaires.

• La technique permet de comprendre les systèmes et leurs limites.

• Le management permet d'organiser leur intégration dans le travail.

• L'éthique permet de gouverner les droits, les responsabilités et les conséquences.

• La philosophie permet de choisir les fins, de clarifier les concepts et de préserver la possibilité de discuter la mission avant d'en automatiser l'exécution.