Léon XIV en France : garanties et limites pour l’IA

En déplacement de quatre jours en France, Léon XIV défend des mécanismes d’imputabilité, des voies de recours et des contrôles indépendants pour l’IA, quitte à ralentir certains déploiements. Cette position prolonge des engagements pris par le Vatican avec Microsoft et IBM et l’alerte formulée par François au G7 sur les armes autonomes.

Microsoft et IBM associés au Vatican depuis 2020

En février 2020, l’Académie pontificale pour la vie a conclu avec Microsoft, IBM et plusieurs autres partenaires la signature de l’Appel de Rome en faveur d’une éthique de l’intelligence artificielle. L'accent est notamment mis sur la transparence, la préservation de la vie privée, la fiabilité et la prévention des discriminations. En juin 2024, le pape François a abordé ce thème devant les chefs d’État du G7, déclarant qu’aucune machine ne devrait prendre la décision de retirer la vie à un être humain. Léon XIV s’inscrit dans cette lignée en mettant en avant la responsabilité humaine ainsi que les effets sociaux des choix réalisés grâce à l’IA. Le Vatican ne prétend pas fournir de réponses techniques, mais rappelle que la charge de la responsabilité revient à ceux qui élaborent, mettent sur le marché et exploitent ces technologies. Il pose aussi la question de l’imputabilité lorsque des décisions automatisées, comme le refus d’un emploi, d’un crédit ou de soins, sont prises par un algorithme.

Léon XIV réclame responsabilités, recours et contrôles

Le pape demande que des responsabilités clairement établies encadrent l’usage de l’intelligence artificielle, que les décisions automatisées puissent être contestées et que des contrôles indépendants soient mis en place. Il estime que certains déploiements devraient pouvoir être ralentis si les protections ne sont pas suffisantes. Léon XIV exprime ses inquiétudes concernant les conséquences de l’automatisation sur l’emploi et la tendance à déléguer la réflexion aux machines. Il appelle à apprendre à « jeûner de l’IA », notamment à l’école, afin de préserver l’effort d’apprendre et la créativité.

Armes autonomes, biais et concentration au cœur des risques

L’expression « désarmer l’IA », mise en avant lors de la présentation de la lettre Magnifica humanitas le 25 mai, ne se limite pas à la problématique des armes autonomes, même si leur essor constitue une inquiétude majeure pour Léon XIV. Elle concerne également les outils technologiques susceptibles d’exclure des individus de l’emploi, de l’accès aux soins ou à d’autres services à cause de biais dans les données, ainsi que la centralisation des données, des infrastructures et du pouvoir de décision entre un petit nombre de grandes entreprises technologiques, ce qui pourrait échapper à la surveillance publique. Léon XIV ne nie pas les avantages que peut apporter l’IA et a reconnu, devant l’Académie pontificale des sciences, ses contributions à la médecine, à l’énergie et à la recherche scientifique. Il rappelle cependant les risques de surveillance, de manipulation, de discrimination et la consommation importante d’eau et d’énergie des infrastructures liées à l’IA. Il appelle à reprendre la main sur les usages de l’IA tout en reconnaissant ses apports.

Deux prises de parole à Paris ouvrent une visite de quatre jours

Arrivé en France le 25 septembre, Léon XIV commence un séjour de quatre jours, comprenant des haltes à Paris, Saint-Denis, Lourdes et Metz. Lors de son intervention à l’Élysée, il a mis en avant que l’intelligence artificielle peut accroître sa puissance sans pour autant améliorer nos existences, insistant sur l’importance de replacer l’humain au centre du progrès technologique et sur la formation des esprits à l’éthique du discernement. Quelques heures plus tard, lors de son discours à l’Unesco, il a abordé l’impact de l’IA dans la propagation de fausses informations et a souligné la nécessité de préserver chez les jeunes la capacité de réflexion et de discernement.