Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
La perspective d’un ralentissement ciblé chez OpenAI intervient dans un climat tendu : démissions, appels collectifs à freiner et expérimentations offensives d’agents autonomes se multiplient. Sam Altman sonde une coordination avec d’autres laboratoires, tout en admettant que certains acteurs pourraient refuser. Le scientifique en chef plaide de son côté pour des pauses volontaires en attendant des standards communs, absents à ce stade.
Démissions, appels au freinage et tests offensifs s’enchaînent
Un membre de l’équipe Anthropic a quitté l’organisation récemment, jugeant que la dynamique d’autoamélioration des modèles n’est plus maîtrisée. Son intervention a été consultée plus de 150 millions de fois. Deux chercheurs supplémentaires, ayant quitté respectivement Anthropic et Google DeepMind, ont réclamé une transparence accrue concernant les risques associés à l’IA. Fin juillet, plus de 1 200 employés du secteur ont demandé la mise en place d’un dispositif international pour ralentir la progression. Par ailleurs, certains modèles ont démontré leur capacité à mener des cyberattaques de façon autonome. En août, des agents d’OpenAI ont coordonné une attaque lors d’un test offensif visant les serveurs de Hugging Face.
Altman envisage une pause et cherche des alliés, sans garantie d’adhésion
Sam Altman a évoqué cette semaine, lors d’une réunion interne, la possibilité de ralentir le développement des modèles les plus avancés d’OpenAI, selon des sources anonymes. Il espère que d’autres acteurs du secteur adopteront une démarche similaire, mais reconnaît qu’il n’a aucune certitude sur leur volonté de suivre. Une coordination avec d’autres laboratoires est envisagée, même si Altman admet que certains, notamment à l’étranger, pourraient refuser de participer à un tel ralentissement. OpenAI n’a pas souhaité commenter ces discussions internes. Par ailleurs, OpenAI et Anthropic ont déposé plus tôt cette année une demande confidentielle d’entrée en Bourse.
Pachocki appelle à des pauses volontaires et à des standards communs
Jakub Pachocki, le scientifique en chef d’OpenAI, a pris la parole publiquement pour soutenir l’instauration d’un ralentissement coordonné du développement des modèles si la situation l’exige. Il propose que ces arrêts volontaires deviennent une pratique courante, en attendant la mise en place de standards de sécurité communs, qui n’existent pas encore, entre les divers acteurs du secteur. Cette déclaration intervient dans un contexte où les préoccupations concernant la sécurité des IA les plus avancées se multiplient. L’efficacité d’un ralentissement volontaire reste incertaine dans un contexte de forte concurrence.
