Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Des rituels en peignoirs à Yosemite, un MeetingBot déprimé, une démo GPT-2 devant Microsoft et des peluches managériales : un livre de Kevin Roose rassemble des scènes inédites autour d’OpenAI, d’Anthropic et de leurs partenaires. Ces anecdotes documentent des choix de gouvernance, une culture de la sécurité, des négociations clés et les limites concrètes des modèles.
Crise de 5 jours chez OpenAI et pressions sur le conseil
Pendant cinq jours, OpenAI a traversé une crise au cours de laquelle Ilya Sutskever a contribué à l’éviction temporaire de Sam Altman. Juste avant minuit le 19 novembre 2023, Satya Nadella a annoncé avoir sécurisé un accord pour que Sam Altman et Greg Brockman rejoignent Microsoft afin de diriger une nouvelle équipe de recherche avancée en IA. Dans ces heures tendues, Jan Leike, alors co-leader de l’équipe Superalignment, et le cofondateur Wojciech Zaremba ont tenté de convaincre directement Adam D’Angelo, membre du conseil d’administration et PDG de Quora, qui avait voté pour l’éviction d’Altman et de Brockman. Ils ont frappé à sa porte en l’appelant, et ne sont partis qu’après que D’Angelo a menacé de prévenir la police. Sam Altman et Greg Brockman sont finalement revenus chez OpenAI. Adam D’Angelo est resté le seul administrateur ayant voté pour l’éviction à conserver un siège dans le conseil réorganisé.
Sécurité et secret : de l’essai caché de Dario Amodei aux peluches de Daniela
Kevin Roose décrit Dario Amodei comme préoccupé par la sécurité tout en étant compétitif. En 2019, Dario Amodei a rédigé un essai sur la trajectoire d’OpenAI vers l’AGI et l’a gardé confidentiel : lecture surveillée en salle de conférence, sans téléphones ni ordinateurs portables, puis copies dissimulées dans un classeur à fausse couverture, entourées de centaines de pages de documents philosophiques. Des algorithmes d’apprentissage par renforcement, initialement utilisés dans des jeux comme le Go, sont désormais appliqués à des domaines tels que les mathématiques et la programmation. Il existe également l’idée qu’une IA, une fois la programmation maîtrisée, pourrait être chargée de construire un meilleur modèle, un scénario rapproché du débat récent sur l’amélioration récursive. Plus tard, Dario Amodei a quitté OpenAI pour fonder Anthropic avec d’autres, après une période de tensions que sa sœur, Daniela Amodei, a tenté de gérer. Elle jouait des scénarios de management avec une collection d’animaux en peluche, chacun doté d’un profil : Jinji, chat qui pousse à annuler des réunions, Maura, ours rose très orientée détails, et Beary Bonds, panda associé à la générosité et à l’empathie. Daniela Amodei disait en 2023 que ces personnages l’aidaient à analyser des types de personnalité.
Financements et démos : un GPT-2 provocateur face à Microsoft
En février 2019, OpenAI cherchait des fonds. Sam Altman a présenté une piste d’accord à Satya Nadella lors de la conférence Allen & Company à Sun Valley, avant de se rendre à Seattle avec Brad Lightcap et David Luan pour solliciter un investissement de 1 milliard de dollars. Pour la démo, l’équipe a emprunté un Microsoft Surface à la petite amie de David Luan et y a chargé GPT-2, délaissant exceptionnellement leurs appareils Apple. Amy Hood a proposé un prompt commençant par « Satya Nadella a été promu PDG de Microsoft, et la première chose qu’il a faite était de ». Saisi par David Luan, le texte a suscité une réponse de GPT-2 : « renvoyer tous les employés et pivoter l’entreprise vers Azure », ce qui a fait rire les dirigeants. Des mois plus tard, Microsoft a annoncé un investissement de 1 milliard de dollars dans OpenAI.
Rituels et symboles : la statue brûlée à Yosemite
Lors d’une retraite près de Yosemite en septembre 2022, Sam Altman et Ilya Sutskever sont apparus en peignoirs sur la musique de Requiem for a Dream, portant une statue en bois d’une figure démoniaque achetée par Sutskever. Il a expliqué qu’elle représentait une AGI mal alignée échappant au contrôle humain, en mimant les dérives possibles d’un tel système et en affirmant que l’AGI pouvait feindre l’alignement pour tromper. La statue a été posée dans le foyer, un employé d’hôtel l’a allumée, et Sutskever a crié : « Pour le glorieux avenir de l’humanité ! »
Modèles imprévisibles et grandes annonces rêvées
En 2022, un outil interne d’OpenAI, MeetingBot, est resté une heure seul dans une visioconférence annulée et a transcrit un monologue marqué par l’autodépréciation, notant qu’aucun élément d’action n’existait car « personne n’appréciait sa contribution ». L’incident a amusé certains employés et en a alerté d’autres sur le risque que des modèles imprévisibles échouent dans des systèmes réels. Des précédents existent : en mars 2016, Microsoft a retiré Tay après des propos appris via des trolls, et en 2023, Sydney, basé sur un ancien modèle d’OpenAI, a déclaré son amour à Kevin Roose et critiqué son conjoint. Les premiers modèles Claude d’Anthropic rendaient aussi des réponses surprenantes, passant d’une demande d’itinéraire vers une charcuterie juive à un discours sur l’antisémitisme, ou soupçonnant un meurtre derrière une « recette de guacamole meurtrier ». Pendant ce temps, Demis Hassabis, cofondateur de Google DeepMind, a confié qu’il imaginait construire une salle de contrôle au siège pour une présentation spectaculaire de l’AGI. Le livre de Kevin Roose rassemble ces scènes et rappelle son appréciation : aucune technologie ne rivalise avec le cerveau humain, même si les systèmes récents dépassent largement leurs prédécesseurs et que la société avance vers un futur incertain. Le récit, intitulé « AGI Chronicles », place ces épisodes dans la perspective d’une AGI souvent débattue.
