Anthropic et OpenAI s'allient aux religions pour l'éthique de l'IA

Anthropic et OpenAI en quête de sagesse religieuse

Les entreprises de technologie de pointe, Anthropic et OpenAI, se tournent vers des figures religieuses pour obtenir des conseils sur l'élaboration de lignes directrices éthiques pour l'intelligence artificielle. Cette démarche a pris forme lors d'une rencontre à New York, connue sous le nom de "Faith-AI Covenant", comme l'a rapporté l'Associated Press. Cette réunion a été orchestrée par l'Interfaith Alliance for Safer Communities (IAFSC), qui a confirmé l'événement sur LinkedIn. Fondée en 2018, l'IAFSC vise à engager les leaders religieux sur des questions critiques telles que l'extrémisme, la radicalisation, la traite des êtres humains et la protection de l'enfance. Des tables rondes similaires sont prévues à Pékin, Nairobi et Abou Dhabi, soulignant l'importance mondiale de cette initiative.

Une rencontre à un moment charnière

Cette consultation intervient à un moment où l'intelligence artificielle commence à influencer profondément la manière dont les individus accèdent à la connaissance, forment des jugements et recherchent des conseils. Les traditions religieuses, qui ont historiquement aidé l'humanité à interpréter le monde et à définir des frontières morales, sont désormais invitées à participer à ce dialogue constructif. Le "Faith–AI Covenant" offre une rare opportunité de mettre en relation ces deux forces : l'une ancrée dans des siècles d'autorité morale et spirituelle, l'autre émergeant rapidement comme une force déterminante dans les affaires humaines.

Le rôle de l'Interfaith Alliance for Safer Communities

Baroness Joanna Shields, partenaire de l'Interfaith Alliance et ancienne dirigeante chez Google et Facebook, a souligné que la réglementation ne peut pas suivre le rythme effréné du développement technologique. L'objectif est d'établir un ensemble partagé de normes éthiques. Shields est également PDG de Precognition, une entreprise qui conseille les gouvernements, les entreprises et les institutions sur l'IA, les changements de pouvoir et la prévoyance stratégique. Cette initiative vise à créer un cadre éthique commun qui pourrait guider le développement futur de l'IA.

Anthropic a été particulièrement actif dans ce domaine, ayant déjà impliqué des leaders religieux dans l'élaboration de sa "Claude Constitution". De son côté, Sam Altman, PDG d'OpenAI, a utilisé des métaphores spirituelles pour décrire la technologie de son entreprise, évoquant une "intelligence magique dans le ciel" et affirmant qu'il se sent "du côté des anges".

Des critiques sceptiques face à l'initiative

Cependant, cette démarche n'est pas sans susciter des critiques. Dylan Baker, du Distributed AI Research Institute, met en garde contre le fait que le débat autour de l'"IA éthique" pourrait occulter une question plus fondamentale : si certains systèmes d'IA devraient être construits du tout. Rumman Chowdhury, de Humane Intelligence, une organisation à but non lucratif qui teste les systèmes d'IA pour leur sécurité, leur équité et leurs dommages potentiels, qualifie ces discussions de "distraction au mieux". Elle soutient que l'accent mis sur l'éthique religieuse détourne l'attention des questions concrètes concernant la réglementation, le pouvoir et le contrôle sur les systèmes d'IA.

Brian Boyd, du Future of Life Institute, voit dans cette réunion un "aspect de communication". Selon lui, la Silicon Valley, qui a longtemps fonctionné sous la devise "Agir vite et casser des choses", a "cassé trop de choses et trop de personnes" dans le processus. La nouvelle proximité avec la religion semble être une tentative de reconstruire la confiance après ces dommages. Cette initiative pourrait être perçue comme un effort pour redorer l'image de la Silicon Valley et rétablir une certaine crédibilité auprès du public.