À l'intérieur de la réaction contre la machine de guerre IA

À l'intérieur de la réaction contre la machine de guerre IA

SAN FRANCISCO — “1, 2, 3, 4, nous ne voulons pas d'une guerre des robots !” Le chant résonnait devant le siège d'OpenAI, où une petite foule de manifestants s'était rassemblée mardi pour alerter sur un État de surveillance IA imminent. “5, 6, 7, 8, pas d'État de surveillance IA !”

Un petit groupe, que je suppose être des employés d'OpenAI, entrait et sortait du bâtiment, évitant soigneusement le contact visuel. Aussi sombres que soient les slogans, le contraste entre le banal et l'apocalyptique avait une certaine comédie noire.

Les manifestants étaient présents pour protester contre le tournant dramatique qui a vu OpenAI remplacer Anthropic en tant que principal fournisseur de services militaires d'IA aux États-Unis. Jeudi, le Pentagone a annoncé avoir informé Anthropic qu'il considérait l'entreprise comme un “risque pour la chaîne d'approvisionnement”, une désignation auparavant réservée aux adversaires étrangers.

OpenAI serait maintenant de retour à la table des négociations avec le Pentagone, cherchant à ajouter encore plus de garanties à son contrat après qu'un effort précédent n'ait pas réussi à rassurer le public. (Anthropic continuerait également à négocier avec l'armée.)

La manifestation était la dernière d'une vague de démonstrations anti-IA qui ont eu lieu à travers le pays. La semaine dernière, des centaines de personnes ont défilé devant les sièges de DeepMind, OpenAI et Meta lors d'une protestation anti-IA qui, selon les organisateurs, a attiré jusqu'à 500 personnes. Le mois dernier, 200 manifestants ont marché sur la capitale de l'État de Virginie pour protester contre les centres de données en construction dans l'État.

Pour OpenAI, les doutes initiaux concernant la solidité des garanties de l'entreprise contre l'utilisation de ses technologies pour la surveillance domestique et les armes autonomes se sont transformés en une véritable crise de relations publiques. Mardi, les négociations de l'entreprise ont donné lieu à une manifestation improvisée qui a attiré environ une trentaine de personnes au siège d'OpenAI à San Francisco. (OpenAI n'a pas répondu à une demande de commentaire.)

En me rendant à la manifestation, je me demandais quel type de personne se présenterait — et quelles seraient leurs revendications. Au cours de la semaine passée, des publications sur Reddit concernant des désinscriptions de ChatGPT ont reçu des dizaines de milliers de votes positifs — et les commentateurs avaient une large gamme de points de vue populaires, allant de “Vous entraînez maintenant une machine de guerre. Voyons la preuve d'annulation” à “J'aime célébrer toute sorte de chute pour OpenAI.” Les gens discutaient avec ferveur de la bulle de l'IA, de leur aversion pour Trump, de la protection des données, de la protection des artistes, et des coûts en eau et électricité des centres de données.

Les manifestants d'OpenAI se présenteraient-ils comme des Luddites anti-IA ? Des hippies inquiets de l'impact des centres de données sur les ressources en eau locales ? Des technocrates en quarter-zip avec une allégeance jurée à Claude ? J'ai sorti mon carnet et mon stylo, et j'ai commencé à me présenter à des inconnus.

Un organisateur avec qui j'ai parlé était un homme anonyme portant un masque de robot en carton, qui s'est identifié comme “Le Dernier Robot Amical.”

Le Dernier Robot Amical (QuitGPT / X)

Je lui ai demandé pourquoi il était là. Eh bien, m'a-t-il dit, “Qui veut de la surveillance de masse ? Seule la classe Epstein.” (Epstein lui-même n'était pas connu pour défendre la surveillance, bien sûr — il a commis ses actes malveillants sur une île privée. Le point du robot était que les milliardaires construisent souvent des technologies de surveillance puissantes tout en faisant tout pour préserver leur propre vie privée.)

Le robot m'a dit qu'il était encore plus perturbé par l'idée d'armes alimentées par l'IA qui pourraient “tuer sans conscience, et sans humain dans la boucle.”

Il avait travaillé dans la technologie et connaissait des gens dans les grandes entreprises d'IA, a-t-il déclaré. Il estimait que le nouveau contrat n'était pas fidèle à la promesse de la technologie : “Ce n'est pas ce pour quoi nous sommes venus dans la Vallée. Nous sommes venus construire une technologie qui libère les gens !”

Le robot faisait écho à un sentiment qui résonnait tout au long de la manifestation : que les employés d'OpenAI sont complices de quelque chose de mauvais. “Quittez votre emploi !” — un autre chant de protestation — était également écrit sur le trottoir à la craie, l'un des nombreux dessins colorés que les manifestants traçaient devant le siège.

Un manifestant écrit “Plus d'IA” sur le trottoir devant le siège d'OpenAI mardi. (QuitGPT / X)

J'ai parlé à une jeune femme nommée Perrin Milliken, qui travaille dans une ONG climatique. Elle m'a dit qu'elle était préoccupée par “les centres de données, et comment ils consomment tant d'eau et d'électricité” dans les communautés locales.

(Bien que les centres de données puissent parfois exercer une pression sur l'approvisionnement dans les zones où l'eau est rare, des experts ont souligné que les statistiques couramment rapportées sur la consommation d'eau de l'IA sont souvent trop élevées, parfois de plusieurs ordres de grandeur. Mais le problème de l'électricité est réel, comme en témoignent les engagements récents des laboratoires d'IA à payer pour les hausses de prix qui, autrement, seraient supportées par les consommateurs.)

Bien qu'elle n'ait pas suivi de près la question du ministère de la Défense, Milliken m'a dit que les récentes actions d'OpenAI l'inquiétaient. “C'était effrayant de voir à quelle vitesse ils étaient d'accord avec tout ce que le gouvernement voulait,” a déclaré Milliken. Elle avait été poussée à passer à Gemini depuis ChatGPT à cause des événements de la semaine. “On ne peut pas être complaisant en ce moment,” m'a-t-elle dit, un moment rempli de “personnes très puissantes et riches qui n'ont pas les intérêts des gens à cœur.”