Sam Altman rejette une lecture religieuse de l’IA

Sam Altman refuse que l’on prête à l’IA une dimension religieuse et avertit qu’abandonner le jugement humain aux modèles pose un problème de sécurité. Sa prise de position intervient alors qu’Anthropic a tenu des réunions avec des responsables religieux sur la conscience et la moralité des modèles, et que d’autres groupes, de Meta à Google, ont échangé à Rome sur la protection des enfants. Elle coïncide aussi avec la démission d’un cadre de la sécurité d’OpenAI, critique du bilan de l’entreprise.

Meta, Google et Amazon ont consulté des responsables religieux

En plus d’OpenAI et d’Anthropic, plusieurs grandes entreprises technologiques telles que Meta, Google et Amazon ont aussi fait appel à des responsables religieux concernant l’IA. Au mois d’avril, des délégués de ces sociétés se sont retrouvés à Rome pour aborder la question de la protection des enfants à l’ère de l’intelligence artificielle, une réunion durant laquelle ils ont eu une brève conversation avec le Pape Léon XIV. Depuis qu’il a pris la tête de l’Église catholique l’année dernière, le Pape a alerté sur les risques d’une trop grande dépendance à la technologie et a défendu la nécessité de préserver l’humain. En septembre, il a mis en avant l’importance d’enseigner le discernement éthique et la faculté de distinguer le bien moral.

Sam Altman alerte sur le risque de céder le jugement humain

Le PDG d’OpenAI, Sam Altman, s’oppose à l’idée que l’IA puisse être considérée comme une « force religieuse ». Dans des messages publiés sur X, il affirme que confier le jugement humain à des bots constitue un problème de sécurité et se dit « très mal à l’aise » avec l’idée de traiter l’IA comme un dieu. Altman n’a pas précisé ce qui motivait cette prise de parole. Cette intervention survient alors que David Robinson, l’un des responsables de la sécurité d’OpenAI, a récemment démissionné et critiqué publiquement le bilan de sécurité de l’entreprise.

Anthropic discute conscience et moralité de ses modèles avec des religieux

Anthropic, fondée par d’anciens employés d’OpenAI et qui se présente comme plus soucieuse de la sécurité, a organisé des réunions avec des responsables religieux. Selon le New York Times, Chris Olah, cofondateur d’Anthropic, a mené plusieurs rencontres discrètes pour discuter des modèles d’IA de l’entreprise. Les participants ont évoqué des questions telles que la possible conscience du modèle Claude et la manière d’inculquer une moralité à des systèmes de plus en plus puissants et autonomes. Chris Olah a notamment interrogé la stabilité, la maturation et la moralité de ces modèles. Sollicitée, l’entreprise n’a pas répondu, mais un porte-parole a indiqué que la « souffrance » de Claude n’était pas la principale question morale abordée, ce sujet ayant probablement émergé de façon spontanée. Si les propos de Sam Altman visaient Anthropic, cela s’inscrirait dans une rivalité ancienne entre les deux sociétés.