IA : dilemme moral et démissions chez Anthropic

Des salariés de l’IA hésitent entre quitter leur poste par crainte d’un risque extrême et rester pour peser sur la sécurité. Chez Anthropic, des annonces publiques relancent le débat, avec des estimations de risque, des soutiens internes et des comparaisons historiques jusqu’au projet Manhattan. L’opinion américaine se dit majoritairement inquiète.

Avertissements historiques et pression institutionnelle décrits

Alex Wellerstein, professeur au Stevens Institute of Technology, estime que les voix internes ont peu de succès pour contrer l'élan institutionnel et considère que rester dans une entreprise revient à participer à ses actions. L'historien Matthew H. Hersch compare la situation actuelle à celle du projet Manhattan pendant la Seconde Guerre mondiale. À cette époque, Ralph Austin Bard, alors sous-secrétaire de la Marine américaine, avait secrètement recommandé d'avertir le Japon avant l'utilisation de la bombe atomique et a démissionné quelques semaines avant Hiroshima. D'autres scientifiques du projet Manhattan avaient tenté, sans succès, d'obtenir une démonstration de la bombe avant son utilisation au combat, certains ayant ensuite été exclus de futurs travaux de défense. Selon Hersch, les lanceurs d'alerte peuvent avoir un impact positif, mais ils risquent d'être discrédités ou harcelés jusqu'à se taire, ce qui peut les rendre inemployables dans leur secteur.

Positions individuelles divergentes au sein d’Anthropic

Chez Anthropic, Anna Wang explique travailler dans l'entreprise parce qu'elle pense pouvoir mieux réduire les risques de l'IA de l'intérieur, tout en respectant ceux qui préfèrent agir de l'extérieur. Un porte-parole d'Anthropic a confirmé son emploi mais a refusé de commenter. À l'opposé, Jacob Coxon a fait part sur X de sa décision de quitter l'entreprise, déclarant que certains développeurs d'IA sont véritablement convaincus qu'elle pourrait provoquer la mort de toute l'humanité d'ici la fin de la décennie. Evan Hubinger, qui dirige l'équipe chargée des tests de stress d'alignement chez Anthropic, a appuyé la position de Coxon et considère que la probabilité que l'IA élimine l'ensemble de la population humaine au cours des dix prochaines années dépasse 10 %.

Rester ou partir : arguments d’un spécialiste de la sécurité

Selon Jeremie Harris, PDG et cofondateur de Gladstone AI, la décision de partir ou de rester est difficile pour les employés de l'IA qui s'inquiètent des questions de sécurité. Gladstone AI, dont le siège est à Washington, DC, oriente son activité vers les dangers pour la sécurité nationale et les risques catastrophiques liés à l'IA avancée. Harris précise qu'il échange fréquemment avec des salariés d'Anthropic et d'autres grands laboratoires d'IA, et qu'il a recueilli de nombreux témoignages de personnes partageant les mêmes inquiétudes que Jacob Coxon. Il fait remarquer que si les départs se multiplient, les laboratoires d'IA risquent de manquer de collaborateurs susceptibles de défendre l'idée d'un changement. D'après lui, ceux qui resteraient seraient probablement les moins soucieux des enjeux de sécurité, alors que ces postes devraient revenir à ceux qui s'en préoccupent le plus.

Effets d’image et calendrier financier évoqués

La démission de Jacob Coxon a suscité des discussions en ligne sur les conséquences potentielles pour l'image d'Anthropic. Ces échanges abordent également l'introduction en bourse à venir de l'entreprise et la possibilité d'une opération de communication, attirant l'attention sur la gestion du risque au sein du laboratoire.

Un débat alimenté par des figures publiques et l’opinion

Le débat lancé par Dario Amodei sur la promotion de la sécurité de l'IA depuis l'intérieur ou l'extérieur s'inscrit dans un contexte d'alerte relayé par Geoffrey Hinton, Elon Musk et d'autres personnalités. Selon une étude du Pew Research Center réalisée en juin, 52 % des Américains se disent plus préoccupés qu'enthousiastes par l'utilisation de l'IA dans la vie quotidienne, contre 37 % en 2021. Ce climat accentue le dilemme des travailleurs du secteur, partagés entre la démission et l'action interne pour réduire les risques.