Léon XIV : l'IA et la dignité humaine en question

Une nouvelle encyclique pour une nouvelle ère

Le Vatican a publié ce matin l'encyclique Magnifica Humanitas du Pape Léon XIV, un document qui s'intéresse à la protection de la personne humaine à l'ère de l'intelligence artificielle (IA). Ce texte est considéré comme l'un des écrits les plus clairs sur l'éthique de l'intégration de l'IA dans la société moderne. Le Pape Léon XIV a choisi le nom Léon en hommage au Pape Léon XIII, célèbre pour son encyclique de 1891, Rerum novarum, qui traitait des droits et devoirs du capital et du travail.

Lors de sa première rencontre formelle avec le Collège des Cardinaux après son élection, le Pape Léon XIV a expliqué les raisons de son choix de nom. Il a déclaré que, tout comme Léon XIII avait abordé la question sociale dans le contexte de la première grande révolution industrielle, l'Église doit aujourd'hui répondre à une autre révolution industrielle, celle de l'IA, qui pose de nouveaux défis pour la défense de la dignité humaine, de la justice et du travail.

Les défis de l'interprétabilité des LLM

L'encyclique aborde le problème d'interprétabilité des grands modèles de langage (LLM) dans sa section 98. Le Pape souligne que toute déclaration concernant l'IA risque de devenir rapidement obsolète en raison du rythme remarquable auquel ces systèmes se développent. De plus, même ceux qui conçoivent ces systèmes n'ont qu'une compréhension limitée de leur fonctionnement réel. Les systèmes d'IA actuels sont davantage "cultivés" que "construits", car les développeurs ne conçoivent pas directement chaque détail, mais créent un cadre dans lequel l'intelligence "grandit". Par conséquent, des aspects scientifiques fondamentaux, tels que les représentations internes et les processus computationnels de ces systèmes, restent inconnus à ce jour.

Développement et dignité humaine

Dans la section 83, le document met en lumière la relation entre développement et dignité humaine. Pour les individus et les nations, le développement est à la fois un devoir et un droit. Il est essentiel de créer des conditions minimales permettant à chaque personne et à chaque peuple de s'épanouir conformément à leur dignité, sans être maintenus dans un état de dépendance ou exclus de l'accès aux biens nécessaires. Le développement véritablement humain place les personnes au centre plutôt que l'accumulation de richesse et concerne les peuples ainsi que les individus. La justice exige la reconnaissance des droits de la société et des droits des peuples, incluant une responsabilité envers les générations futures. Un développement qui augmente la consommation pour certains tout en déplaçant les coûts et les charges sur d'autres, ou qui relègue des régions entières à des rôles subalternes, n'est pas véritablement humain.

Biais culturels et sycophantie

La section 100 de l'encyclique aborde les biais culturels et la sycophantie. Dans l'utilisation personnelle de l'IA, trois aspects méritent une attention particulière : la facilité avec laquelle les résultats sont obtenus, l'impression d'objectivité et la simulation de la communication humaine. La rapidité et la simplicité avec lesquelles l'information, les analyses complexes, le contenu médiatique et l'assistance pratique peuvent être accessibles rendent indéniablement la vie plus facile. Cependant, elles peuvent également encourager une dépendance excessive et la recherche de réponses toutes faites, affaiblissant ainsi la créativité et le jugement personnel. L'objectivité apparente des réponses et des suggestions fournies par ces systèmes peut nous amener à négliger le fait qu'elles reflètent les hypothèses culturelles de ceux qui les ont conçus et formés, avec toutes leurs forces et leurs limites. L'imitation artificielle d'une communication humaine positive — mots de conseil, empathie, amitié et même amour — peut être engageante et parfois véritablement utile. Cependant, pour les utilisateurs moins discernants, cela peut également être trompeur, créant l'illusion d'une relation avec un sujet personnel réel. Lorsque les mots sont simulés, ils ne construisent pas de véritables relations, mais seulement leur apparence. L'imitation artificielle de soin ou de soutien peut devenir particulièrement risquée lorsqu'elle entre dans des contextes où de véritables relations et liens émotionnels font défaut.

Impact environnemental de l'IA

La section 101 aborde l'impact environnemental des systèmes d'IA. Ces systèmes nécessitent d'énormes quantités d'énergie et d'eau, influençant significativement les émissions de dioxyde de carbone, et exercent de lourdes pressions sur les ressources naturelles. À mesure que leur complexité augmente, notamment dans le cas des grands modèles de langage, le besoin de puissance de calcul et de capacité de stockage augmente également, ce qui nécessite un vaste réseau de machines, de câbles, de centres de données et d'infrastructures énergivores. Pour cette raison, il est essentiel de développer des solutions technologiques plus durables qui réduisent l'impact environnemental et aident à protéger notre maison commune.

Décisions algorithmiques et absence de compassion

La section 102 met en lumière les risques des systèmes algorithmiques prenant des décisions qui impactent la vie des gens sans "compassion, miséricorde, pardon". L'utilisation de l'IA n'est jamais une question purement technique : lorsqu'elle entre dans des processus qui affectent la vie des gens, elle touche aux droits, aux opportunités, au statut et à la liberté. Des décisions importantes et sensibles — concernant l'emploi, le crédit, l'accès aux services publics ou même la réputation d'une personne — risquent d'être entièrement déléguées à des systèmes automatisés qui ne connaissent pas "la compassion, la miséricorde, le pardon, et surtout, l'espoir que les gens peuvent changer", et peuvent donc donner lieu à de nouvelles formes d'exclusion.

Nécessité de responsabilité humaine

La section 105 souligne la nécessité de responsabilité humaine dans l'application de ces systèmes. Pour que l'IA respecte la dignité humaine et serve véritablement le bien commun, la responsabilité doit être clairement définie à chaque étape : de ceux qui conçoivent et développent ces systèmes à ceux qui les utilisent et s'en remettent pour des décisions concrètes. Dans de nombreux cas, cependant, les processus internes menant à un résultat restent opaques, rendant plus difficile l'attribution de responsabilité et la correction des erreurs. C'est ici que la responsabilité devient cruciale : la possibilité d'identifier qui doit "rendre compte" des décisions, les justifier, les surveiller et, si nécessaire, les contester et remédier à tout préjudice causé.

Amplification du pouvoir par l'IA

La section 108 aborde la manière dont l'IA amplifie le pouvoir de ceux qui ont des ressources. En effet, comme pour chaque changement technologique majeur, l'IA tend à amplifier le pouvoir de ceux qui possèdent déjà des ressources économiques, une expertise et un accès aux données. À la lumière du bien commun et de la destination universelle des biens, cela soulève de sérieuses préoccupations, car de petits groupes mais hautement influents peuvent façonner les informations et les modèles de consommation, influencer les processus démocratiques et orienter les dynamiques économiques à leur avantage, sapant ainsi la justice sociale et la solidarité entre les peuples. Pour cette raison, il est essentiel que l'utilisation de l'IA, en particulier lorsqu'elle touche aux biens publics et aux droits fondamentaux, soit guidée par des critères clairs et une supervision efficace, ancrée dans la participation et la subsidiarité.

Cette même section souligne explicitement que les données doivent être considérées davantage comme un bien public. De plus, la propriété des données ne peut pas être laissée uniquement entre des mains privées mais doit être réglementée de manière appropriée. Les données sont le produit de nombreux contributeurs et ne devraient pas être traitées comme quelque chose à vendre ou à confier à quelques privilégiés. Il est nécessaire de penser de manière créative pour gérer les données comme un bien commun ou partagé, dans un esprit de participation, comme Saint Jean-Paul II l'a déjà suggéré concernant les biens collectifs.

Réflexion sur la civilisation de l'amour

Enfin, l'encyclique se termine par une réflexion inspirée par une citation de J.R.R. Tolkien dans Le Retour du Roi. L'auteur catholique du XXe siècle, par la voix d'un protagoniste de l'un de ses romans, a décrit notre responsabilité de cette manière : "Ce n'est pas notre rôle de maîtriser toutes les marées du monde, mais de faire ce qui est en nous pour le secours de ces années où nous sommes placés, déracinant le mal dans les champs que nous connaissons, afin que ceux qui vivent après puissent avoir une terre propre à cultiver." La civilisation de l'amour ne naîtra pas d'un geste unique ou spectaculaire, mais de la somme totale de petits et fermes actes de fidélité qui servent de rempart contre la déshumanisation. Pour cette raison, il est utile de prendre un moment pour réfléchir à certains aspects de la manière dont nous, chacun à notre manière, pouvons coopérer à la construction de la civilisation de l'amour.