Le pape Léon XIV critique l'IA : éthique et monopoles en question

Le pape Léon XIV interpelle sur l'IA dans une encyclique inédite

Un an après son accession au trône pontifical, le pape Léon XIV a publié une encyclique intitulée Magnifica Humanitas, dédiée à l'intelligence artificielle. Ce document de 50 pages marque une prise de position forte du Vatican sur des sujets tels que les monopoles numériques et les armes autonomes.

Ce texte, à la fois théologique et technique, intervient à l'occasion du 135e anniversaire de Rerum novarum, l'encyclique fondatrice de la doctrine sociale de l'Église catholique. Magnifica Humanitas examine sans détour les dérives potentielles de l'IA, de la concentration des données entre quelques mains jusqu'aux systèmes d'armes autonomes. En dépassant les cercles catholiques, cette encyclique soulève des questions que l'industrie technologique préfère souvent éviter, surtout après une année marquée par des dérives notables de l'intelligence artificielle.

L'IA n'est pas moralement neutre, selon Léon XIV

Dans son encyclique, Léon XIV rejette l'idée que la technologie puisse être moralement neutre. « Nous ne pouvons pas considérer l'IA comme moralement neutre », affirme-t-il. Selon lui, chaque algorithme est imprégné des choix humains concernant ce qu'il doit mesurer, favoriser ou ignorer. Les valeurs des concepteurs sont intégrées dans le code, bien avant son utilisation. Se demander si l'on utilise bien ou mal l'IA arrive donc trop tard dans le raisonnement.

Le texte met en lumière une réalité souvent ignorée par l'industrie : une IA moderne n'est pas « programmée » de manière classique. Elle est formée à partir de milliards de données, et ses créateurs ne peuvent pas toujours expliquer ses décisions. Léon XIV souligne que les IA sont davantage « cultivées que construites ». Ce manque de clarté pose un problème éthique majeur : si personne ne comprend vraiment le fonctionnement interne de la machine, qui peut être tenu responsable de ses erreurs ?

Pour illustrer son propos, le pape utilise deux récits bibliques bien connus. La tour de Babel, symbole de l'arrogance humaine, s'effondre dans la confusion. À l'opposé, la reconstruction de Jérusalem par Néhémie est un projet humble et collectif, mené pour le bien de tous. « Le choix ne se situe pas entre un "oui" ou un "non" à la technologie, mais entre bâtir Babel ou reconstruire Jérusalem. » C'est dans ce cadre que le pape invite à réfléchir à l'IA.

Les monopoles numériques et armes autonomes dans le viseur du Saint-Père

Sur la question de la concentration du pouvoir numérique, le pape adopte un ton incisif. Il critique le fait que les brevets, algorithmes, plateformes et données soient contrôlés par un petit nombre d'entreprises privées. Pour Léon XIV, ces ressources devraient être accessibles à tous, car elles représentent de « nouvelles formes de propriété » qui doivent profiter à l'ensemble de l'humanité. Il adresse ainsi une critique implicite au bloc sino-américain. « Une IA plus morale ne sert à rien si cette morale est décidée par une poignée de personnes », souligne-t-il. En d'autres termes, laisser Google, Meta ou OpenAI définir seuls les règles éthiques de l'IA reviendrait à confier les clés de la maison à ceux qui ont intérêt à en contrôler l'accès.

Concernant les systèmes d'armes autonomes, le pape est catégorique. « Il n'existe aucun algorithme capable de rendre la guerre moralement acceptable », affirme-t-il dans l'encyclique. Cette déclaration reflète une inquiétude concrète : lorsque c'est une machine qui décide de tirer, et non un être humain, personne n'assume vraiment la responsabilité de l'acte. La guerre devient plus facile à déclencher, les victimes se réduisent à des points sur un écran, et en cas d'erreur, il est impossible de désigner un coupable. Pour Léon XIV, la décision de recourir à la force létale doit rester entre des mains humaines identifiables, et capables de rendre des comptes.

Le texte s'attarde également sur les conditions de travail des millions de travailleurs, souvent dans des pays pauvres, qui trient et étiquettent les données pour les modèles d'IA. Sans eux, il n'y aurait peut-être pas de ChatGPT ni de Gemini. Avant cela, des enfants extraient dans des mines dangereuses le cobalt ou le lithium indispensables aux puces électroniques. « Rien, dans le monde de l'IA, n'est immatériel ou magique », ajoute Léon XIV. Ce que le pape exprime ici, rarement quelqu'un d'aussi visible ne l'a dit aussi clairement.

Pour le pape, il faudrait « désarmer l'IA »

Sur le sujet du transhumanisme, qui aspire à améliorer l'être humain par la technologie, voire à le fusionner avec la machine, le pape se montre encore catégorique. Une IA, rappelle-t-il, n'a pas de corps, ne ressent rien, n'a jamais souffert ni aimé. « Les prétendues intelligences artificielles ne vivent pas d'expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur. » Au-delà de la technique, c'est la philosophie sous-jacente qui l'inquiète. Dès lors qu'on commence à voir l'humain comme un « matériau à perfectionner », on crée inévitablement des catégories avec les optimisés et les autres, les performants et les inutiles. Une logique qui, poussée à l'extrême, peut justifier que certaines vies comptent moins que d'autres.

Léon XIV propose des mesures concrètes, dont certaines ont déjà été envisagées, comme interdire l'accès aux réseaux sociaux en dessous d'un certain âge, mieux former les enseignants aux outils numériques, et protéger les données personnelles des mineurs. Mais le pape va plus loin, en soulignant la violence du langage en ligne, amplifiée par des algorithmes qui favorisent l'indignation et la confrontation parce qu'elles génèrent plus de clics. « Désarmons les mots et nous contribuerons à désarmer la Terre (…), l'IA, il ne suffit pas de la réglementer : elle doit être désarmée et rendue accessible. »

Reste une question que le texte n'évoque évidemment pas. Que vaut l'avis du Vatican face à des entreprises dont le budget dépasse celui de nombreux États ? L'encyclique pose les bons diagnostics, nomme les bonnes dérives, mais elle dit peu comment vraiment les corriger, et par qui. Ce n'est pas rien, bien sûr, d'entendre une voix aussi forte parler de monopoles algorithmiques et d'esclavage numérique à une époque où peu de dirigeants osent le faire par peur de froisser les investissements. Mais un beau discours moral, aussi juste soit-il, ne suffit pas à réguler OpenAI ni à faire plier ses concurrents. Entre dire les choses et avoir les moyens de les changer, le fossé reste grand.