Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic et l'encyclique du Pape Léon XIV
Lors de la présentation de l'encyclique "Magnifica Humanitas" par le Pape Léon XIV, Christopher Olah, co-fondateur d'Anthropic, a pris la parole pour évoquer les avancées et les mystères entourant les modèles d'intelligence artificielle. Fidèle à la vision d'Anthropic, Olah a suggéré que les modèles de langage actuels dépassent le simple cadre statistique.
Les révélations d'Olah sur l'introspection de l'IA
Olah a expliqué que les systèmes d'IA ne sont pas conçus comme des structures mécaniques telles que des ponts ou des avions. Ils s'inspirent plutôt de la complexité du cerveau humain, intégrant un vaste héritage de pensée et de discours. Selon lui, ces systèmes restent mystérieux, même pour leurs créateurs. Il a partagé des découvertes internes d'Anthropic, révélant des structures qui rappellent la neuroscience humaine et des preuves d'introspection. Olah a également mentionné des états internes de l'IA qui semblent refléter des émotions humaines telles que la joie ou la peur.
Cependant, il a averti du potentiel de l'IA à remplacer massivement le travail humain, soulevant des préoccupations sur l'avenir de l'emploi.
Les mises en garde du Pape Léon XIV
L'encyclique du Pape Léon XIV, bien que prudente, ne surprend pas par ses propositions. Elle appelle à la responsabilité des acteurs de l'IA, soulignant que cette technologie n'est jamais neutre, car elle reflète les caractéristiques de ses concepteurs et utilisateurs. Le Pape a insisté sur la distinction entre l'intelligence artificielle et l'intelligence humaine, rappelant que les systèmes d'IA ne vivent pas d'expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur, ne mûrissent pas à travers des relations et ne comprennent pas intrinsèquement des concepts tels que l'amour, le travail, l'amitié ou la responsabilité.
L'encyclique met également en lumière l'impact environnemental de l'IA, pointant du doigt la consommation massive d'énergie et d'eau par les centres de données, et appelle à des solutions plus durables.
L'IA et les enjeux militaires
Le Pape a abordé l'utilisation de l'IA dans le domaine militaire, affirmant qu'aucun algorithme ne peut rendre la guerre moralement acceptable. Il a critiqué l'idée que l'alignement moral de l'IA suffirait, soulignant que la moralité ne doit pas être dictée par une minorité. Léon XIV a plaidé pour des lois strictes et une supervision indépendante, plutôt que de se reposer sur une éthique abstraite.
En tant que premier pape américain, Léon XIV a fait de l'IA un sujet central de son pontificat. Des entreprises de la Silicon Valley, dont Anthropic, collaborent régulièrement avec des leaders religieux pour discuter des implications de l'IA, renforçant ainsi le dialogue entre technologie et éthique.
