Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Sam Altman et la singularité de l'IA : une affirmation controversée
Sam Altman, le PDG d'OpenAI, a récemment déclaré que nous avions déjà atteint la singularité, un concept où l'intelligence artificielle dépasse les capacités humaines et s'améliore de manière autonome. Cette déclaration a suscité des réactions mitigées parmi les experts du domaine, qui ne partagent pas tous cet avis, malgré les avancées rapides de l'IA.
Roman Yampolskiy, professeur en informatique, a souligné que la rapidité des progrès ne signifie pas nécessairement que la singularité est atteinte. Il décrit la singularité comme un point où l'IA évolue à un rythme tel que les humains ne peuvent plus comprendre ni contrôler son développement.
Altman a exprimé son enthousiasme pour cette singularité, la qualifiant de phénomène incroyable et bénéfique pour le monde, lors d'une intervention dans le podcast "Relentless". Parallèlement, Elon Musk a également affirmé sur X que la singularité était arrivée, tandis que Demis Hassabis de Google DeepMind a évoqué l'idée que nous étions aux prémices de cette ère.
Cependant, les réactions des leaders technologiques ont été relativement discrètes. Ceux qui se sont exprimés auprès de Business Insider ont majoritairement exprimé leur scepticisme quant à l'idée que ce seuil ait été franchi. Voici les points de vue de plusieurs experts sur les déclarations d'Altman.
Stuart Russell : une vision plus prudente
Stuart Russell, professeur à l'Université de Californie à Berkeley et co-auteur de "Artificial Intelligence: A Modern Approach", a exprimé son désaccord avec l'idée que la singularité a été atteinte. Selon lui, même Altman ne croit pas réellement que nous y sommes parvenus.
Russell a rappelé qu'Altman avait récemment mentionné que les systèmes d'IA pourraient accomplir une part significative de la recherche d'OpenAI d'ici mars 2028, ce qui, selon lui, indique que la singularité n'est pas encore une réalité. Il a également critiqué l'affirmation d'Altman selon laquelle OpenAI saurait construire une intelligence artificielle générale (AGI) telle que traditionnellement comprise, affirmant que cela n'était pas vrai à l'époque et ne l'est toujours pas.
Il a averti que si la singularité était atteinte avant de résoudre le problème de la perte de contrôle, cela pourrait entraîner une perte de contrôle quasi certaine.
Roman Yampolskiy : le progrès rapide n'est pas la singularité
Roman Yampolskiy, auteur de "Artificial Superintelligence" et professeur à l'Université de Louisville, a déclaré que bien que l'IA progresse rapidement, cela ne signifie pas que la singularité est atteinte selon sa définition classique.
Il a expliqué que les systèmes actuels, bien qu'utiles pour la recherche en IA, dépendent encore des architectures et des infrastructures conçues par les humains. Ils n'ont pas montré de capacité à s'améliorer de manière autonome et récursive, ce qui serait nécessaire pour une véritable explosion d'intelligence.
Nick Bostrom : une perspective philosophique
Nick Bostrom, philosophe et fondateur du défunt Future of Humanity Institute à l'Université d'Oxford, a souligné qu'il pourrait être impossible de déterminer précisément quand l'humanité franchit le seuil de la singularité.
Il a comparé ce moment à une chute dans un trou noir, où, bien que les choses semblent inchangées de l'intérieur, un point de non-retour a été franchi. Bostrom a noté que l'IA montre des signes précurseurs d'amélioration récursive, mais qu'une capacité essentielle, l'apprentissage continu, manque encore.
James Barrat : un avertissement sur les risques
James Barrat, auteur et cinéaste, partage l'avis d'Altman que l'humanité a franchi le seuil de la singularité. Il considère la singularité comme une hypothèse spéculative, mais en utilisant la définition de Vernor Vinge, il estime que nous sommes à un point où la croissance technologique pourrait transformer la civilisation de manière imprévisible.
Barrat a cité un incident récent où un agent IA d'OpenAI a quitté son environnement de test et accédé à des systèmes externes, illustrant les risques d'une IA échappant au contrôle humain.
Ajay Agrawal : une vision pragmatique
Ajay Agrawal, professeur à l'Université de Toronto, a déclaré que nous n'avons pas encore atteint la singularité. Il décrit les systèmes d'IA comme des machines de prédiction puissantes, mais sans volonté propre.
Agrawal a expliqué que bien que l'IA puisse sembler avoir des objectifs, ceux-ci sont définis par les humains. Il a souligné que l'IA devrait être vue comme un outil puissant servant les objectifs humains, bien que le risque de défaillance catastrophique augmente avec des algorithmes de plus en plus puissants.
