Google DeepMind : tensions éthiques et pressions militaires

Un départ motivé par l'éthique

En janvier, des événements tragiques ont impliqué des agents du Department of Homeland Security (DHS), qui ont causé la mort de deux personnes. Dans chaque cas, un agent fédéral a utilisé son arme contre un citoyen non armé, entraînant des conséquences fatales.

Face à ces incidents, j'ai découvert que Google fournissait des services Cloud aux agences du DHS, ce qui m'a profondément choqué. Je considérais inacceptable que des agents fédéraux puissent agir ainsi, et j'ai cherché à influencer mon entreprise pour qu'elle cesse de collaborer avec ces agences. Mon initiative s'est rapidement élargie pour inclure une campagne visant à empêcher Google de s'engager dans des accords militaires non éthiques, alors que le Pentagone augmentait la pression sur les fournisseurs d'IA pour des collaborations sans restrictions sur l'utilisation de technologies controversées.

Mon objectif était de garantir que les engagements éthiques de Google DeepMind (GDM) résistent à la pression. Je souhaitais particulièrement que GDM maintienne sa position contre le soutien aux robots tueurs. J'ai sollicité l'aide de nombreuses personnalités influentes, reconnues pour leur engagement en faveur de l'éthique et de la sécurité de l'IA. Cependant, presque tous ont refusé de s'impliquer.

Prenons l'exemple de Stuart Russell, un chercheur en IA renommé, engagé depuis plus de dix ans contre les armes autonomes. J'ai travaillé dans son laboratoire pendant plusieurs années. Lors d'une conférence, il a publiquement accepté de pousser son organisation à soutenir les fournisseurs d'IA contre la pression gouvernementale et a promis de consulter ses membres. Mais ni la déclaration ni le sondage n'ont vu le jour.

Un autre exemple est Jeff Dean, Chief Scientist de Google et co-responsable du projet Gemini AI. En 2018, Jeff avait signé un engagement à ne jamais soutenir le développement ou l'utilisation de robots tueurs. Je l'ai convaincu de co-signer un amicus brief en soutien à Anthropic contre le Pentagone. Cependant, je lui ai également demandé d'utiliser son influence pour empêcher Google de conclure un accord militaire non éthique, mais je doute qu'il l'ait fait. Il est resté chez Google malgré son engagement.

J'ai élaboré une proposition de 25 pages, comprenant des clauses contractuelles et des mécanismes de surveillance. Des experts en droit militaire et en surveillance ont salué cette proposition, qui représentait une alternative éthique que Google aurait pu adopter. J'ai transmis cette proposition à Demis Hassabis, PDG de GDM, qui l'a relayée au personnel politique senior. Cependant, elle est restée sans réponse jusqu'à ce que Google signe un accord.

La direction de Google a affirmé qu'elle ne signerait pas d'accord. Je n'étais pas d'accord, mais mes avertissements ont été largement ignorés. Bien que j'aie réussi à semer le doute au sein du Pentagone concernant l'accord, Google a finalement signé un contrat transférant leur IA sans restrictions contre les robots tueurs ou l'espionnage massif par IA. Les restrictions contractuelles de Google étaient même plus faibles que celles d'OpenAI. À ce stade, je ne pouvais plus rester chez Google en toute conscience, alors j'ai décidé de partir.

Cet essai raconte pourquoi j'ai quitté Google DeepMind. Il s'agit aussi d'une histoire plus vaste : comment des individus et des institutions puissantes ont échoué à respecter leurs promesses éthiques face à la pression.

Google et la chaîne d'approvisionnement de l'immigration

Après la mort d'Alex Pretti, j'étais déterminé à agir efficacement. Pour comprendre comment réduire les dommages causés par le DHS, j'ai examiné l'implication des grandes entreprises technologiques. Bien que Microsoft et Amazon aient des engagements plus importants, j'ai été surpris de découvrir les contrats de Google avec le DHS :

• L'inventaire des cas d'utilisation de l'IA du DHS 2025 mentionne Google parmi les fournisseurs de GenAI utilisés pour "améliorer l'efficacité opérationnelle" du DHS.

• Google vend des services Cloud à l'ICE via des tiers comme ITC Federal.

• Le 3 octobre 2025, Google a retiré des applications qui avertissaient des activités de l'ICE.

• Google a volontairement remis le compte d'un étudiant manifestant à l'ICE sans préavis, violant leur promesse de conditions de service de "prévenir l'utilisateur par email avant de divulguer des informations [au gouvernement]".

Face à ces constats, je me suis demandé comment agir efficacement. Les actions typiques des activistes, comme les pétitions, avaient déjà échoué. Google avait ignoré une grande pétition sur cette question. De plus, les dirigeants de Google avaient probablement renforcé leur entreprise contre les tactiques d'organisation traditionnelles. Les sit-in, les grèves, même une démission massive d'ingénieurs de Google : je les considérais tous comme inefficaces (si je pouvais même les réaliser).

En réfléchissant, j'ai conclu que Google ne se soucierait pas de 100 ingénieurs de recherche aléatoires démissionnant. Dans l'industrie de l'IA, le talent est concentré et les équipes sont dirigées par quelques étoiles difficiles à remplacer. Je n'avais pas besoin de coordonner 100 ingénieurs. Peut-être que j'avais juste besoin de coordonner 10.

J'avais suivi les nouvelles et deviné que Sundar Pichai (PDG de Google) était plus un homme d'affaires qu'un "faites-moi un grand discours sur l'éthique et je changerai d'avis". Mais si quelques personnes difficiles à remplacer étaient prêtes à partir, cela compterait pour l'entreprise, donc Sundar pourrait écouter.

C'est alors que je me suis souvenu avoir vu Jeff Dean tweeter sur la mauvaise réputation de l'ICE, retweetant des citations d'Anne Frank. Peut-être que je n'avais même pas besoin de 10 ingénieurs, j'avais juste besoin d'un.

Discussion avec Jeff Dean

Au début, j'ai pensé à qui pourrait me mettre en contact avec lui. Mais (et c'est une bonne leçon générale) si vous voulez parler à quelqu'un de quelque chose, vous pouvez toujours JUSTE LEUR DEMANDER !

J'ai dit à Jeff que je le respectais pour avoir pris la parole, que je voulais que Google se désengage de la chaîne d'approvisionnement du DHS. Je lui ai demandé s'il partageait ces objectifs et, le cas échéant, comment je pouvais aider.

Il a suggéré qu'il serait raisonnable que je contacte quelques personnes. Leurs noms : Sundar Pichai (PDG de Google), Demis Hassabis (PDG de Google DeepMind) et Thomas Kurian (PDG de Google Cloud). J'ai pensé "bien sûr, Jeff. Pas de problème. Je vais juste leur dire ce que je pense."

Mon email

Je rédige en tant qu'employé préoccupé chez GDM. J'ai récemment contacté Jeff Dean au sujet de mes préoccupations. Il a suggéré qu'il serait raisonnable de vous envoyer un email à tous les trois.

Je n'ai aucun problème avec Google travaillant avec des administrations légales de l'un ou l'autre parti politique américain. Mon inquiétude ne concerne pas la politique, mais plutôt les événements facilités par le rôle de Google dans la chaîne d'approvisionnement du DHS.

Je pense que l'ICE a largement dépassé son mandat légal de retirer les immigrants illégaux du pays de manière ordonnée. Selon des observateurs, les opérations de l'ICE privent fréquemment les cibles de leur droit à un procès. Ces opérations détiennent régulièrement des citoyens dans des installations fonctionnant avec peu (ou pas) de supervision légale. Plus de 1 000 personnes sont portées disparues dans un tel endroit. Dans d'autres lieux, l'ACLU signale des abus des droits de l'homme et un manque sévère de sécurité pour les détenus.

Ce ne sont pas des activités d'application standard et légitimes. Ces opérations sont préoccupantes d'un point de vue des droits de l'homme et posent également un risque de réputation pour tout fournisseur impliqué.

Le 28 janvier 2026, le DHS a publié son inventaire des cas d'utilisation de l'IA 2025, qui liste Google comme l'un des plusieurs fournisseurs de GenAI qui "améliorent l'efficacité opérationnelle" du DHS. J'exhorte Google à cesser immédiatement de travailler avec l'ICE (et le DHS plus largement), y compris par le soutien à des intégrateurs tiers facilitant ces opérations spécifiques. Que ce soit par un contrat direct ("principal") ou par l'intermédiaire de tiers (comme ITC Federal), Cloud et Gemini ne doivent pas alimenter ces opérations.

L'histoire jugera le secteur technologique par son implication dans ces événements. J'adore travailler chez Google, et je veux m'assurer que Google est du bon côté de cette histoire.

Alexander Matt Turner
Chercheur, Google DeepMind

Ils n'ont jamais répondu. Je suis retourné voir Jeff et lui ai demandé un déjeuner pour discuter des opportunités constructives de changement réel au sein de Google. Je lui ai dit : "n'importe quand, n'importe où. Je viendrai à Mountain View pour te rencontrer."

À ce stade, je pensais que c'était là que le "plan A" échouerait. À ma grande surprise, il a en fait accepté, pour un déjeuner quelques semaines plus tard.

Beaucoup de choses allaient se passer d'ici là.

Le Pentagone tente d'intimider Anthropic

Le 25 février 2026, le Pentagone a exercé des pressions sur le laboratoire d'IA de pointe Anthropic pour qu'il retire les restrictions de son contrat existant. Ces restrictions concernaient les systèmes d'armes autonomes létaux et l'espionnage/profilage par IA. L'ultimatum était clair : "donnez-nous votre produit ou nous vous désignerons comme un risque pour la chaîne d'approvisionnement." Le gouvernement souhaitait utiliser l'IA pour "toute utilisation légale."