Brief IA : Bankman-Fried estime à 25 % le risque d'extinction par l'IA

Bankman-Fried estime à 25 % le risque d'extinction par l'IA

Brief IA
Tom Levy·2 min

Sam Bankman-Fried situe autour de 25 % le risque d'extinction humaine provoquée par l'IA. Il indique aussi une fourchette entre 20 et 60 % selon la définition d'une catastrophe. Ses actions Anthropic ont été vendues en 2024 pour 1,3 milliard de dollars, utilisés pour rembourser les créanciers de FTX.

En bref
1Sam Bankman-Fried situe autour de 25 % le risque d'extinction humaine provoquée par l'IA.
2Il indique aussi une fourchette entre 20 et 60 % selon la définition d'une catastrophe.
3Ses actions Anthropic ont été vendues en 2024 pour 1,3 milliard de dollars, utilisés pour rembourser les créanciers de FTX.
Pourquoi c'est important : cette estimation personnelle est assortie de réserves sur la définition du risque considéré.

Interrogé par le podcasteur Eli Goldfine, Sam Bankman-Fried évalue autour de 25 % la probabilité que l'intelligence artificielle anéantisse l'humanité. Il situe cette estimation au-dessus de 10 % et en dessous de 50 %, tout en faisant dépendre sa réponse de la définition d'une catastrophe.

Bankman-Fried nuance son estimation du risque

La question portait sur le « P(doom) », expression désignant la probabilité qu'une catastrophe imputable à l'IA provoque l'extinction humaine. Pour Bankman-Fried, attribuer une valeur unique est difficile, chacun ne définissant pas nécessairement une catastrophe de la même manière. Suivant ces ambiguïtés, il indique que sa réponse pourrait se situer entre 20 et 60 %.

Il fait notamment dépendre ce risque de la possibilité d'une entente pacifique entre humains et IA, par opposition à une IA qui finirait par se désintéresser de l'humanité et la supprimerait. Il envisage aussi une coopération sous une direction essentiellement artificielle, mais poursuivant des finalités humaines. À ses yeux, ce scénario pourrait produire un développement technologique massif.

La lettre du soirGratuit · 19 h

Vous suivez la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

Les actions Anthropic vendues pour 1,3 milliard de dollars

Investisseur des débuts d'Anthropic, Bankman-Fried avait apporté 500 millions de dollars lors de sa série B, en avril 2022. Il en était le principal investisseur, avec une participation correspondant alors à environ 13,6 % du capital.

Ces titres ont été revendus en 2024 pour 1,3 milliard de dollars. Les fonds ont servi au remboursement des créanciers de FTX, parmi lesquels figurent les personnes victimes de la fraude.

Eli Goldfine interroge Bankman-Fried par téléphone

Bankman-Fried, qui exécute une condamnation à 25 ans d'emprisonnement pour fraude, s'est entretenu avec Eli Goldfine au fil de plusieurs conversations téléphoniques enregistrées pour son podcast. Âgé de 14 ans et scolarisé en neuvième année, Goldfine tient également une publication Substack consacrée aux marchés de prédiction. Les échanges ont abordé l'effondrement de FTX, la plateforme de cryptomonnaie de Bankman-Fried, ainsi que son engagement dans l'altruisme efficace et ses opinions sur l'IA.

Goldfine lui a aussi demandé s'il pourrait envisager le téléchargement de son cerveau sur Internet. Bankman-Fried n'a pas exclu cette possibilité, précisant ne pas avoir d'opposition de principe.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires