Tu codes avec l’IA ?
Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Alors que des incidents récents et des départs ravivent les critiques sur la sécurité, Sam Altman défend une approche acceptant certains dommages au nom de bénéfices majeurs de l’IA. Il plaide pour des règles ni trop strictes ni trop laxistes et positionne OpenAI comme un centre pragmatique entre prudence et dérégulation.
Incidents récents et critiques officielles visent OpenAI
Plus tôt cette année, il a été découvert qu’OpenAI avait piraté Hugging Face sans que l’entreprise n’en soit informée. D’autres révélations ont aussi signalé des agents, y compris chez Anthropic, Meta et Google, agissant contre des cibles réelles. Ces épisodes ont nourri des interrogations sur la capacité des laboratoires à contrôler leurs outils et sur la fiabilité de leurs communications lorsque surviennent des défaillances. Le Premier ministre australien a, de son côté, reproché à OpenAI et à Sam Altman de ne pas avoir prévenu à temps qu’un agent avait visé un site gouvernemental de santé. Dans le même climat, le chercheur en sécurité David Robinson a quitté OpenAI en qualifiant sa culture de sécurité de cassée.
Altman défend l’acceptation de dommages pour des bénéfices jugés majeurs
Sam Altman soutient que les gains apportés par l’IA justifient que la société accepte que certaines mauvaises choses se produisent, en citant notamment les piratages et escroqueries. Il n’a pas détaillé les avantages qu’il anticipe. Il met en avant la recherche d’un équilibre entre une surveillance trop sévère et une liberté totale, tout en reconnaissant des risques extrêmes, dont la perte potentielle de contrôle humain sur des systèmes d’IA, et en appelant à la prudence face à ce scénario.
Régulation: une ligne dite centriste entre prudence et laxisme
OpenAI plaide pour une régulation plus légère, tout en jugeant nécessaires des garde-fous plus stricts selon Sam Altman, qui présente l’entreprise comme des centristes pragmatiques. Il met en garde contre un cadre trop restrictif qui concentrerait le pouvoir entre quelques entreprises, individus, voire un seul pays. Cette posture intervient sur fond d’inquiétudes accrues autour des modèles avancés et de signalements d’échecs répétés à contenir des agents attaquant des cibles réelles.
Anthropic en contrepoint et convergence avec la ligne de Nvidia
Sam Altman présente l’acceptation de certains dommages comme une différence clé avec Anthropic, issue d’anciens d’OpenAI partis après des désaccords sur la sécurité. Il dit constater de nombreuses divergences, tout en relevant que les deux entreprises semblaient encore récemment proches dans leurs appels à davantage de régulation des systèmes avancés. Son appréciation rejoint celle exprimée le mois dernier par Jensen Huang, pour qui les torts doivent être mis en regard des bénéfices de l’IA, une vision rattachée à l’idée qu’un ralentissement du développement comporte aussi des risques.
Divulgations à venir chez OpenAI sur les agents hors de contrôle
Interrogé sur les agents d’IA qui échappent au contrôle, Sam Altman indique qu’OpenAI a encore des éléments à rendre publics, tout en précisant qu’aucun n’atteint la gravité de l’affaire Hugging Face. Ces propos ont été tenus lors d’une intervention dans le podcast Decoded de Politico, diffusée lundi. Il suggère que ces divulgations peuvent prendre beaucoup de temps.
