Interrogé par le podcasteur Eli Goldfine, Sam Bankman-Fried évalue autour de 25 % la probabilité que l'intelligence artificielle anéantisse l'humanité. Il situe cette estimation au-dessus de 10 % et en dessous de 50 %, tout en faisant dépendre sa réponse de la définition d'une catastrophe.
Bankman-Fried nuance son estimation du risque
La question portait sur le « P(doom) », expression désignant la probabilité qu'une catastrophe imputable à l'IA provoque l'extinction humaine. Pour Bankman-Fried, attribuer une valeur unique est difficile, chacun ne définissant pas nécessairement une catastrophe de la même manière. Suivant ces ambiguïtés, il indique que sa réponse pourrait se situer entre 20 et 60 %.
Il fait notamment dépendre ce risque de la possibilité d'une entente pacifique entre humains et IA, par opposition à une IA qui finirait par se désintéresser de l'humanité et la supprimerait. Il envisage aussi une coopération sous une direction essentiellement artificielle, mais poursuivant des finalités humaines. À ses yeux, ce scénario pourrait produire un développement technologique massif.
Vous suivez la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Les actions Anthropic vendues pour 1,3 milliard de dollars
Investisseur des débuts d'Anthropic, Bankman-Fried avait apporté 500 millions de dollars lors de sa série B, en avril 2022. Il en était le principal investisseur, avec une participation correspondant alors à environ 13,6 % du capital.
Ces titres ont été revendus en 2024 pour 1,3 milliard de dollars. Les fonds ont servi au remboursement des créanciers de FTX, parmi lesquels figurent les personnes victimes de la fraude.
Eli Goldfine interroge Bankman-Fried par téléphone
Bankman-Fried, qui exécute une condamnation à 25 ans d'emprisonnement pour fraude, s'est entretenu avec Eli Goldfine au fil de plusieurs conversations téléphoniques enregistrées pour son podcast. Âgé de 14 ans et scolarisé en neuvième année, Goldfine tient également une publication Substack consacrée aux marchés de prédiction. Les échanges ont abordé l'effondrement de FTX, la plateforme de cryptomonnaie de Bankman-Fried, ainsi que son engagement dans l'altruisme efficace et ses opinions sur l'IA.
Goldfine lui a aussi demandé s'il pourrait envisager le téléchargement de son cerveau sur Internet. Bankman-Fried n'a pas exclu cette possibilité, précisant ne pas avoir d'opposition de principe.






