Google réorganise son IA : tensions internes et enjeux stratégiques

Google réorganise son IA : tensions internes et enjeux stratégiques

Les récents changements de leadership dans le domaine de l'IA chez Google pourraient être le résultat de pressions pour accélérer le développement de produits, ainsi que de conflits éthiques internes.

Dans l'industrie de l'IA, Google se présente comme l'adulte de la pièce : calme, stable et éprouvé. Cependant, même lors de l'annonce de sa plus grande réorganisation de l'IA à ce jour, Google et ses dirigeants ont maintenu un front uni, se concentrant sur la manière dont ces changements préparent le terrain pour un succès futur.

La réalité est que la liste des changements exécutifs signale probablement des problèmes plus profonds au sein de l'organisation IA de Google. Cela commence par sa position précaire dans la course à l'IA et s'étend à des problèmes tels que l'intérêt du leader de Google DeepMind, Demis Hassabis, pour la recherche à long terme plutôt que pour le lancement de produits à court terme, ainsi que l'opposition politique croissante de certains employés de haut niveau, comme le scientifique en chef de DeepMind, Jeff Dean.

Un employé actuel de Google, qui a demandé à rester anonyme par crainte de représailles, a déclaré que l'un des changements — le départ de Dean — est un exemple de la disparition complète des "vestiges de l'idéalisme de Google". "Perdre Jeff continue l'exode des cerveaux chez Google", a-t-il ajouté. "La médiocrité est le résultat probable."

Les nouvelles de mercredi ont secoué l'industrie de l'IA, ce qui est difficile à réaliser dans une époque où les chercheurs en IA changent constamment de rôles et de laboratoires. Google a annoncé que Demis Hassabis se retirait des opérations quotidiennes de DeepMind pour se concentrer sur l'AGI et la recherche ; Koray Kavukcuoglu, l'actuel CTO de DeepMind, prendra la relève. Parallèlement, Jeff Dean, un vétéran de 27 ans chez Google et le 30ème employé de l'entreprise, quittera l'organisation avec trois autres chercheurs de haut niveau pour fonder une nouvelle startup d'IA.

Google est largement considéré comme le plus réussi des géants technologiques établis dans la course à l'IA, surpassant de loin les progrès de Meta, Amazon et Apple. Cependant, Google est toujours perçu comme étant plus lent qu'OpenAI et Anthropic, et il n'a certainement pas pris de l'avance sur eux en matière de modèles de pointe. Hassabis et le PDG de Google, Sundar Pichai, ont tous deux souligné ce point dans leurs déclarations.

• Pichai a écrit : "Nous sommes déterminés à être à la pointe et sommes très concentrés sur les domaines où nous devons nous améliorer."
• Hassabis a déclaré que l'entreprise entrait dans un "nouveau chapitre" et qu'elle avait "tous les ingrédients pour diriger à partir d'ici, et je crois fermement que nous le ferons."

Des figures clés de l'industrie de l'IA semblent considérer ces changements comme un pas de côté de Hassabis en faveur d'une approche plus rapide et axée sur les produits chez GDM. Un ancien employé de Google a noté qu'il y avait eu beaucoup plus de concurrence interne chez Google ces dernières années, principalement autour de l'espace produit IA, avec une pression accrue pour embaucher plus d'employés capables d'accélérer les lancements de produits.

Un autre acteur de l'industrie de l'IA, qui a également demandé l'anonymat, a déclaré : "Je suis d'accord avec l'analyse de tout le monde selon laquelle cela est un signe de la perte d'influence de Demis."

Hassabis n'a pas caché que ses intérêts résident dans les avancées scientifiques potentielles que l'IA pourrait offrir, peut-être plus que dans la commercialisation de la technologie. Pichai a écrit dans un article de blog que le prochain mouvement de Hassabis se concentrera sur "la formation active de l'avenir de l'AGI" en tant que président de DeepMind et scientifique en chef d'Alphabet, tout en continuant son rôle à la tête de la filiale de découverte de médicaments, Isomorphic Labs.

Mais le leadership en IA n'est qu'un des problèmes auxquels Google est confronté. Les experts de l'industrie interrogés par The Verge ont souligné une question principale : combien de ces changements sont liés à des conflits éthiques croissants au sein même de Google ?

Un facteur contribuant au changement de rôle de Hassabis et au départ de Dean pourrait être l'accord de Google avec le Département de la Défense, qui pourrait potentiellement permettre l'utilisation de l'IA de Google dans la surveillance de masse et les armes autonomes létales.

• Tyler Johnston, fondateur de l'organisation à but non lucratif The Midas Project, a déclaré : "Cela a déjà causé des départs de personnel et un effort de syndicalisation chez DeepMind."
• "Il y a de nombreux signes suggérant que Dean et Hassabis ont pu se sentir personnellement opposés à cela."

Dean quitte pour lancer Discovery Loop, une startup d'IA qui vise à automatiser des milliers d'expériences scientifiques et d'ingénierie dans des domaines tels que la découverte de médicaments, la conception de matériel, l'énergie propre et la conception de matériaux. Il est rejoint par trois autres chercheurs de haut niveau de Google : Sanjay Ghemawat, Quoc Le et Oriol Vinyals.

"Perdre Jeff semble être un coup dur pour la morale et la décence humaine de base au sein de Google", a déclaré l'employé actuel de Google. "Il était l'une des rares figures visibles et puissantes ici prêtes à s'exprimer sur des questions morales telles que l'exécution de citoyens américains par des agents de l'ICE, la surveillance par IA et les armes létales autonomes."

Dean a été l'un des dissidents les plus en vue face à la décision du Département de la Défense de qualifier Anthropic de risque pour la chaîne d'approvisionnement après que l'entreprise ait maintenu ses lignes rouges concernant l'utilisation militaire de son IA. En mars, Dean a été l'un des dizaines de dirigeants et d'employés de l'industrie technologique à déposer un mémoire d'amicus en soutien au procès d'Anthropic, exprimant des préoccupations concernant la décision de l'administration Trump — ainsi que sur les risques et implications de l'IA.

Dean avait publiquement désavoué les mêmes lignes rouges qu'Anthropic dans le passé. En avril, après le long combat d'Anthropic avec le DoD concernant ses lignes rouges — interdisant la surveillance de masse domestique et les armes autonomes létales — Google est devenu l'une des entreprises à combler le vide laissé par le blacklistage d'Anthropic par le Pentagone.

Dean avait publiquement désavoué ces lignes rouges dans le passé. En février, il a écrit sur X : "La surveillance de masse viole le Quatrième Amendement et a un effet dissuasif sur la liberté d'expression. Les systèmes de surveillance sont susceptibles d'être mal utilisés à des fins politiques ou discriminatoires."

Et en 2018, Dean et Hassabis ont signé un engagement public désavouant les armes autonomes létales : "Nous, les soussignés, convenons que la décision de prendre une vie humaine ne devrait jamais être déléguée à une machine."

Alex Turner, un chercheur de Google qui a démissionné en raison de l'accord de l'entreprise avec le Pentagone, a écrit dans un article d'opinion le mois dernier que le départ de Dean "serait un désastre pour l'entreprise" et que "en signant [le mémoire d'amicus], il s'est éloigné de la ligne de l'entreprise, ce qui a probablement rendu les choses délicates au sein de la direction."

Le départ de Dean pourrait retirer un critique de haut niveau, mais cela ne dissipera certainement pas les critiques au sein de l'organisation dans son ensemble. Depuis le début de l'année, un nombre croissant d'employés de Google ont exprimé leur mécontentement face à la politique de l'organisation.

"Sergey [Brin] a fait un virage à 180 degrés sur le plan politique, Sundar a soutenu Trump lors de son inauguration", a déclaré l'employé actuel de Google. "Maintenant, l'une des seules figures restantes dans l'entreprise prêtes à s'exprimer sur des questions morales est partie. Qui sait ce que nous allons vendre ensuite ?"