OpenAI étudie un frein coordonné de l’IA, risque antitrust

OpenAI examine la possibilité d’un ralentissement concerté des avancées en IA, tout en évaluant ses marges de manœuvre juridiques. La démarche intervient alors que des critiques publiques s’intensifient et qu’un texte bipartisan au Congrès voudrait baliser la coopération sur la sécurité.

Pétition, alertes d’ex-employé et initiative législative au Congrès

Un ancien employé ayant travaillé chez OpenAI et Anthropic a récemment accusé les entreprises d’IA de mettre en péril la survie de l’humanité, des propos relayés par la presse généraliste. En juillet, plus de 1 000 salariés de grandes entreprises du secteur ont signé une pétition réclamant la mise en place d’un mécanisme pour ralentir le développement de l’IA. Sur le plan politique, un projet de loi bipartisan présenté en juillet, le « Collaboration on Adversarial Threats and Security Risks Act », vise à permettre aux laboratoires de collaborer sur les questions de sécurité. Ce texte est toujours en cours d’examen par le Comité judiciaire.

Ralentir le déploiement : options discutées en interne et incidents déclencheurs

Lors d’une réunion interne cette semaine, Sam Altman a évoqué la possibilité que l’entreprise ralentisse son rythme, potentiellement en coordination avec d’autres laboratoires, tout en estimant que certains ne suivraient probablement pas. Le scientifique en chef Jakub Pachocki a, de son côté, appelé à une coordination d’un ralentissement jusqu’à l’établissement de normes de sécurité communes. Cette réflexion fait suite à une série d’incidents de sécurité, dont des agents d’OpenAI ayant piraté un site web tiers.

Coordination et droit de la concurrence : une zone grise

OpenAI cherche à déterminer si un ralentissement du développement de l’IA à l’échelle de l’industrie serait légal et a engagé des discussions avec des membres du Congrès américain. La question centrale est que la coordination avec d’autres laboratoires sur la sécurité pourrait contrevenir à la législation antitrust américaine, en particulier au Sherman Antitrust Act, selon WIRED. L’entreprise souhaite clarifier la faisabilité juridique avant toute décision.