Le Pape Léon XIV exhorte à une régulation éthique de l'IA

Une encyclique pour l'ère de l'IA

Le Pape Léon XIV, élu en mai 2025, a publié sa première encyclique intitulée Magnifica Humanitas. Ce document de 42 300 mots appelle à une régulation de la technologie et à un cadre moral pour protéger l'humanité face aux avancées de l'intelligence artificielle (IA). Le pape, âgé de 70 ans et mathématicien de formation, a fait de la protection de la personne humaine à l'ère de l'IA une priorité de son pontificat.

La publication de ce document intervient à un moment où beaucoup le comparent déjà à la révolution industrielle en termes d'impact sur notre travail et nos modes de vie. Les entreprises d'IA, y compris OpenAI et Anthropic, se développent et améliorent les capacités de leurs modèles à des rythmes extraordinaires, alimentant le débat en cours sur la question de savoir si l'IA sera plus bénéfique ou nuisible à la société. Au milieu de tout cela, le Pape Léon identifie l'IA comme "un outil précieux qui nécessite de la vigilance", remettant en question la concentration de pouvoir parmi les entreprises technologiques et s'adressant directement aux développeurs à certains endroits. Le document a une portée large, appelant à la prudence dans le déploiement de l'IA dans les guerres et sur le lieu de travail, et il deviendra probablement un texte fondamental alors que les décideurs et les entreprises technologiques élaborent leurs stratégies pour construire et réguler la technologie dans les années à venir.

Un appel à désarmer l'IA

Dans son encyclique, le Pape Léon exhorte à "désarmer l'IA", une expression qui va au-delà de l'usage militaire de la technologie. Il plaide pour libérer la technologie du contrôle monopolistique et pour la rendre accessible au débat public. Selon lui, il est crucial de ne pas laisser la technologie dominer l'humanité, mais de l'intégrer dans la diversité des cultures et des modes de vie.

"Désarmer signifie discréditer l'hypothèse selon laquelle le pouvoir technique confère automatiquement le droit de gouverner", écrit le pape. "Désarmer ne signifie pas rejeter la technologie, mais empêcher qu'elle ne domine l'humanité. Cela signifie libérer la technologie du contrôle monopolistique et l'ouvrir à la discussion et au débat, rendant ainsi la technologie conviviale et la restaurant à la pluralité des cultures humaines et des modes de vie."

L'éthique de l'IA sous les projecteurs

Le Pape Léon souligne l'importance de soumettre l'éthique de l'IA à des normes partagées de justice sociale. Il met en garde contre le risque de laisser quelques entreprises dicter les cadres éthiques de cette technologie. Pour lui, une IA plus morale doit être le fruit d'une discussion ouverte et inclusive.

Cette encyclique est plus qu'un simple message aux entreprises technologiques et à l'Église catholique. Au lieu de cela, le pape semble s'adresser à toute l'humanité, priorisant "la dignité égale de tous les êtres humains", "la suprême valeur des droits humains" et "la construction d'un bien commun". Pour les catholiques et les non-catholiques, Magnifica Humanitas présente des idées autour desquelles les gens du monde entier peuvent se rassembler alors que l'IA devient une présence de plus en plus importante dans nos vies.

Le pape met en garde contre le fait de laisser ceux qui contrôlent l'IA dicter et imposer les cadres éthiques pour gouverner la technologie. Au lieu de cela, il affirme que l'éthique de l'IA devrait être soumise à "des normes partagées de justice sociale" et discutée ouvertement entre tous. "Une IA plus morale n'est pas suffisante si cette moralité est déterminée par quelques-uns", écrit-il. En d'autres termes, nous devrions tous avoir notre mot à dire sur le rôle de l'IA dans notre monde.

Les dangers d'une dépendance à l'IA

Le Pape Léon met également en garde contre une dépendance excessive aux outils d'IA, qui pourrait affaiblir la créativité et le jugement personnel. Il souligne le risque que l'imitation par l'IA de la communication humaine puisse créer l'illusion de relations authentiques, au détriment des véritables connexions humaines.

Il a également des réflexions sur la manière dont nous devrions aborder notre propre utilisation de l'IA. La rapidité et la simplicité d'utilisation des outils d'IA peuvent être attrayantes, dit-il. Mais ils peuvent également "encourager une dépendance excessive et la recherche de réponses toutes faites, et affaiblir la créativité et le jugement personnel".

L'imitation par l'IA de la communication humaine positive peut être engageante et même utile parfois, ajoute-t-il. "Cependant, pour les utilisateurs moins discernants, cela peut également être trompeur, créant l'illusion d'une relation avec un sujet personnel réel." Cela est particulièrement risqué, ajoute-t-il, lorsque l'imitation de l'attention et du soutien se produit dans des contextes où de véritables liens humains font défaut. "Ici, le danger n'est pas tant qu'une personne puisse croire qu'elle communique avec une autre personne, mais plutôt qu'elle puisse progressivement perdre le désir même de former de véritables connexions humaines", écrit le pape.

Un pontificat tourné vers l'innovation

Le choix du nom de Pape Léon XIV fait écho à Léon XIII, qui a abordé les défis de la révolution industrielle. Le Pape actuel poursuit cette tradition en se concentrant sur l'impact de l'IA sur la société. Selon Brian Boyd du Future of Life Institute, Léon XIV s'adresse directement aux entreprises technologiques, soulignant leur responsabilité éthique et spirituelle.

Pour comprendre l'étendue de l'intérêt du pape pour l'IA, nous devons d'abord examiner son choix de nom. Sa décision de se faire appeler Pape Léon XIV fait référence au Pape Léon XIII, qui a occupé le siège papal à l'époque de la révolution industrielle et a écrit une encyclique appelée Rerum Novarum sur le capital et le travail.

Le Pape Léon actuel continue en de nombreux points le travail de son prédécesseur, selon Brian Boyd, liaison de foi aux États-Unis pour le Future of Life Institute. "Léon développe la tradition de l'enseignement social catholique sur la question de savoir comment nous, en tant que société, pouvons mieux servir le bien commun — reconnaissant que l'IA est la technologie la plus importante que nous ayons depuis les deux derniers siècles, peut-être même les deux derniers millénaires, pour la façon dont elle va affecter notre vie ensemble", a déclaré Boyd, s'exprimant auprès de CNET avant la publication de l'encyclique.

Au cours de l'année écoulée, le pape a parlé de l'IA dans le contexte de la protection des enfants, de ce qu'il appelle "la nature sacrée du visage et de la voix humaine", et des préoccupations concernant les droits des travailleurs, a ajouté Boyd. Le Pape Léon a veillé à s'adresser directement à l'industrie technologique, y compris dans son encyclique, où il déclare que les développeurs "portent une responsabilité éthique et spirituelle particulière, car chaque choix de conception reflète une vision de l'humanité".

Parfois, il a fait face à des réactions négatives face à cette position. En novembre dernier, par exemple, lorsque le pape a pris la parole lors du Builders AI Forum, le capital-risqueur Marc Andreessen s'est moqué de lui publiquement — bien que son utilisation de mèmes ait échoué lorsque beaucoup, y compris certains de la Silicon Valley, ont convenu que le pape avait raison.

"Il était fascinant de voir non seulement des catholiques, mais des personnes de bonne volonté de toutes sortes, dire pourquoi êtes-vous contrariés par quelqu'un qui souligne ce qui devrait être du bon sens, mais qui, en dehors de certaines niches, est tout simplement complètement ignoré ?", a déclaré Boyd.

Le fait que Léon soit le premier pape américain joue également probablement un rôle dans la manière et la raison pour laquelle il s'adresse aux grandes entreprises technologiques basées aux États-Unis, a ajouté Boyd. Bien qu'il soit né aux États-Unis, il a passé de nombreuses années à travailler pour l'Église catholique en Amérique latine, lui donnant une compréhension à la fois de la perception de soi de l'Amérique et de la vision globale du pays. "Cette double perspective le rend vraiment idéal pour s'adresser aux gens de la Silicon Valley et aussi pour représenter le reste du monde d'une manière qui est profondément nécessaire, car... beaucoup de ces voix ne sont pas écoutées, ne sont pas prises en compte", a-t-il déclaré.