Anthropic : des vétérans envisagent des terres isolées face au risque IA

Des employés parmi les plus anciens d'Anthropic étudient l'achat de terrains éloignés aux États-Unis pour s'y installer si l'IA devenait incontrôlable. Cette démarche s'inscrit dans une culture du risque existentiel issue de l'Altruisme Efficace, à laquelle ont été associés des premiers recrutements d'Anthropic et d'OpenAI, et alimentée par les alertes d'Eliezer Yudkowsky dès le milieu des années 2000.

Des racines ancrées dans le risque existentiel

Les premières recrues d'Anthropic et d'OpenAI sont liées à la sous-culture de l'Altruisme Efficace. Certaines proviennent d'un réseau de la Bay Area surnommé « doomers », qui a passé des années à envisager des scénarios de fin du monde. Eliezer Yudkowsky a alerté sur le risque d'une IA incontrôlable au milieu des années 2000 et est considéré comme une figure intellectuelle de ce courant. Avant que l'IA ne devienne leur principale préoccupation, ces groupes s'intéressaient déjà à d'autres risques catastrophiques comme les impacts d'astéroïdes ou les supervolcans.

Des projets de terres isolées évoqués récemment

Certains des employés les plus anciens d'Anthropic préparent des plans de contingence au cas où l'intelligence artificielle deviendrait incontrôlable. Ces dernières semaines, plusieurs d'entre eux ont fait savoir à un collègue du secteur qu'ils envisagent d'acheter des terres dans des régions éloignées des États-Unis. L'objectif serait de pouvoir s'y relocaliser si l'IA « tourne mal », selon des informations rapportées par le Wall Street Journal.

Un précédent imaginaire : l’ombre du Manhattan Project

D'anciens employés se rappellent que, lors de dîners d'entreprise aux débuts d'Anthropic, un scénario inspiré du Manhattan Project était déjà discuté. Dans cette hypothèse, des équipes pourraient être amenées à se déplacer dans le désert pour continuer à développer l'IA dans une installation gouvernementale protégée contre les effets électromagnétiques.