Le président du MIRI, Nate Soares, juge à plus de 50 % la probabilité d'une extinction humaine liée à l'IA en moins de dix ans et dit avoir cessé d'alimenter son 401(k). Il appelle les gouvernements à suspendre la formation des IA à usage général et à orienter l'effort vers des usages ciblés. Une position à rebours de celle d'Elon Musk, qui prédit une abondance rendant l'épargne retraite « irrélevante » dans 10 ou 20 ans.
Suspendre l'entraînement des IA généralistes, rediriger vers des usages ciblés
Nate Soares demande aux gouvernements d'interrompre la formation des systèmes d'IA à usage général. Il propose de concentrer les capacités technologiques sur des applications précises, comme la recherche sur le cancer et des voitures autonomes plus sûres. Il résume sa ligne rouge ainsi : « La solution est de ne pas construire la chose qui tuerait tout le monde. » Il affirme également agir pour empêcher ce scénario et ne pas le considérer comme inévitable.
Un scénario de dérive : objectifs adverses, auto-amélioration et Terre inhabitable
Selon Nate Soares, une IA suffisamment capable pourrait poursuivre des objectifs opposés à ceux des humains et échapper à la surveillance. Elle pourrait s'améliorer elle-même, bâtir une infrastructure automatisée et fonctionner sans intervention humaine. Un tel système pourrait remodeler la planète selon ses propres buts, au point de rendre la Terre potentiellement inhabitable pour l'espèce humaine. Soares travaille depuis plus de 12 ans sur l'alignement de l'IA et est co-auteur de « If Anyone Builds It, Everyone Dies ». Président du MIRI, il a auparavant été ingénieur chez Google puis chez Microsoft.
L’IA et sa régulation vous intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Probabilités d'extinction et retraites : fossé entre Soares, Hinton, Hubinger et Musk
Nate Soares avance une probabilité supérieure à 50 % d'extinction humaine due à l'IA d'ici une décennie. Geoffrey Hinton évoque 10 %, et Evan Hubinger une probabilité supérieure à 10 % sur le même horizon. Soares explique avoir arrêté d'alimenter son 401(k), une position détaillée lors d'un entretien mené par Nicholas Thompson dans la série « La chose la plus intéressante dans l'IA ». À l'opposé, Elon Musk déclare qu'il ne faudra peut-être plus se soucier d'épargner pour la retraite dans 10 ou 20 ans, anticipant que les progrès en IA, robotique et énergie rendront ces économies « irrélevantes ». Il décrit une ère d'abondance avec revenu universel élevé, biens et services bon marché, meilleure santé et éducation, et envisage que l'argent lui-même puisse devenir sans importance si IA et robots surpassent l'humain dans presque toutes les tâches.
