Brief IA : Sam Altman critique la vision d'Elon Musk sur l'IA

Sam Altman critique la vision d'Elon Musk sur l'IA

Brief IA
Tom Levy·3 min

Sam Altman a critiqué mercredi la comparaison d'Elon Musk entre les humains et des animaux domestiques face à l'IA. Altman, Musk et Dario Amodei ont soutenu en septembre un ralentissement des recherches menant à l'auto-amélioration. Musk proposait en 2016 de connecter les cerveaux aux ordinateurs pour éviter une humanité domestiquée.

En bref
1Sam Altman a critiqué mercredi la comparaison d'Elon Musk entre les humains et des animaux domestiques face à l'IA.
2Altman, Musk et Dario Amodei ont soutenu en septembre un ralentissement des recherches menant à l'auto-amélioration.
3Musk proposait en 2016 de connecter les cerveaux aux ordinateurs pour éviter une humanité domestiquée.
Pourquoi c'est important : Altman défend le maintien du contrôle humain sur l'IA et doute que ses concurrents partagent cette position.

Sam Altman, PDG d'OpenAI, a critiqué mercredi les propos d'Elon Musk comparant les humains à des animaux domestiques face à une IA devenue trop puissante. Il refuse que l'humanité abandonne sa capacité de décision. Les deux hommes ont pourtant soutenu en septembre un appel à freiner les recherches conduisant les modèles vers l'auto-amélioration.

Altman refuse de déléguer le contrôle

En septembre, Dario Amodei, PDG d'Anthropic, a demandé de ralentir les travaux les plus avancés qui rapprochent les modèles d'une capacité à s'améliorer eux-mêmes. Il propose de consacrer ce délai à des méthodes plus efficaces pour préserver leur contrôle par les humains. Amodei, Musk et Altman ont tous appuyé cet appel.

Ces dernières semaines, le dirigeant d'OpenAI a réaffirmé que le secteur ne devait accepter aucun abandon du pouvoir de décision humain. Il a aussi exprimé ses doutes sur l'adhésion de ses concurrents à cette position. Mercredi, au sommet DealBook du New York Times, il était accompagné du président d'OpenAI, Greg Brockman : selon Altman, tous deux défendent fermement la maîtrise humaine de l'avenir. Altman affirme que les discussions autour d'une délégation graduelle à l'IA se multiplient, une perspective que Brockman et lui rejettent.

Musk avait aussi redouté une humanité domestiquée

La comparaison contestée avait été remise sur la table en juillet, lorsque The Economist avait interrogé Elon Musk sur des propos remontant à plus d'une décennie. Il avait alors envisagé qu'une progression trop rapide de l'IA puisse placer les humains dans la situation d'un labrador domestique. Sa réponse, donnée en riant, était que ces chiens lui paraissaient plutôt heureux. Lors de son entretien public mercredi, Altman a rejeté cette perspective pour lui-même comme pour ses enfants, en défendant la capacité des personnes à choisir leur avenir.

La lettre du soirGratuit · 19 h

Vous suivez la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

En 2015, presque huit ans avant l'arrivée de ChatGPT, Musk avait abordé avec l'astrophysicien Neil deGrasse Tyson l'auto-amélioration récursive : une IA capable de progresser par elle-même, avec un encadrement humain faible ou inexistant. Certains spécialistes estiment qu'un tel mécanisme pourrait lui permettre de dépasser rapidement l'intelligence humaine, voire les moyens de la contrôler. Musk redoutait une IA se reprogrammant et répétant ses améliorations « 24 heures sur 24 » sur des millions d'ordinateurs. Reprenant une formule de Tyson, il avait évoqué une issue définitive.

Musk a également exprimé son refus d'une humanité domestiquée : en 2016, il disait ne pas vouloir devenir un chat domestique. Il présentait alors le raccordement des cerveaux humains aux ordinateurs comme une manière d'éviter ce sort.

Le conflit remonte aux débuts d'OpenAI

Musk est à la fois cofondateur d'OpenAI et l'un de ses premiers investisseurs. Son opposition ancienne à Altman remonte à son mécontentement devant la réorientation du laboratoire. En mai, un jury a estimé qu'il avait laissé passer trop de temps avant de poursuivre Altman et OpenAI à ce sujet.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires