DeepMind : Robert O'Callahan démissionne et alerte sur l’IA
Le brief IA que les pros lisent chaque soir
Les 7 actus IA du jour, décryptées en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Robert O’Callahan, expert technique chez Google DeepMind en Nouvelle-Zélande, a quitté son poste en invoquant les risques liés à l’intelligence artificielle. Il critique le rythme actuel du développement de l’IA et met en garde contre la course à la superintelligence, sur fond de tensions autour de l’altruisme efficace et du « doomerisme » dans le débat public.
Un mémo officiel vise l’altruisme efficace, selon Axios
Un mémo de la Maison Blanche qualifie l’altruisme efficace de groupe marginal de type sectaire et présente Dario Amodei, PDG d’Anthropic, comme le visage du « doomerisme » lié à l’IA. Eliezer Yudkowsky et Nate Soares sont associés à un courant décrit comme controversé et critiqué pour privilégier la charité plutôt que la redistribution.
O’Callahan s’oppose à une superintelligence « bientôt » et liste des risques
Robert O’Callahan estime que le danger associé à une IA superintelligente existe, bien qu’il demeure incertain, et considère qu’avoir pour objectif d’en développer une rapidement relève d’une profonde irresponsabilité. Il alerte sur la soumission cognitive, la psychose provoquée par l’IA et l’isolement, la concentration des pouvoirs, les bouleversements économiques, les menaces en cybersécurité ainsi que l’absence de responsabilité. D’après lui, l’IA cause plus de préjudices qu’elle n’apporte d’avantages et beaucoup de ses pairs éprouvent les mêmes préoccupations sans les exprimer publiquement. Il cite l’essai If Anyone Builds It d’Eliezer Yudkowsky et Nate Soares, mais ne souscrit pas à leur affirmation d’une catastrophe inévitable.
Parcours et rupture : du design de puces à un travail « pro-humain »
Basé en Nouvelle-Zélande, Robert O’Callahan était expert technique chez Google DeepMind et a contribué à des outils de conception de puces qui ont permis de rendre l’IA plus abordable et rapide. Il a récemment quitté son poste, invoquant les risques liés à l’intelligence artificielle et un rythme de changement qu’il juge trop élevé. Il affirme ne plus pouvoir justifier sa contribution à ces travaux et souhaite désormais s’engager dans un travail sans ambiguïté pro-humain.
Brief IA — L'actualité IA en français
L'essentiel de l'actualité de l'intelligence artificielle, décrypté et expliqué chaque jour.