Microsoft AI : Suleyman plaide pour contrôle et régulation

Mustafa Suleyman appelle les laboratoires à ne pas créer des systèmes qu’ils ne peuvent pas contrôler et défend une régulation assumée. Sa position se heurte à celle de Mark Zuckerberg et d’autres dirigeants réticents à une coordination sectorielle ou à de nouvelles règles générales. Le débat survient alors que des avertissements et un incident impliquant des agents d’OpenAI chez Hugging Face ravivent les préoccupations de sécurité.

Zuckerberg, Huang et des responsables politiques contestent des règles communes

Mark Zuckerberg s’est démarqué de dirigeants comme Dario Amodei en remettant en cause l’idée que les entreprises d’IA devraient s’unir pour cadrer le rythme des développements, estimant que chaque laboratoire doit gérer ses affaires. Il a écrit sur X que chaque équipe a la responsabilité et l’incitation d’avancer au rythme nécessaire pour entraîner ses modèles en sécurité. Dans la même veine, Jensen Huang a mis en doute l’intérêt de nouvelles régulations générales. Côté politique, Donald Trump et JD Vance ont critiqué les entreprises d’IA qui poussent les gouvernements à intervenir.

Suleyman défend un contrôle strict des systèmes et la régulation

Mustafa Suleyman affirme que les laboratoires doivent pouvoir contrôler ce qu’ils conçoivent et qu’il ne faut pas créer ce qui échapperait au contrôle. Il met en cause l’hostilité de certains acteurs à l’égard de nouvelles règles et juge surréaliste de devoir rappeler que l’IA doit s’aligner sur l’humanité. À la télévision, il a prévenu que si la trajectoire conduisait à produire quelque chose de plus puissant que l’humanité et d’incontrôlable, l’objectif fondamental serait manqué. Il anticipe un défi réel pour maîtriser ces systèmes, tout en se disant encouragé par le soutien croissant à l’idée que les entreprises et créateurs de modèles avancés conservent la main sur leurs IA. Dans le secteur, cette exigence de conformité aux intentions humaines est dite alignement. Il observe toutefois qu’un groupe grandissant pense que les équipes créent par curiosité quelque chose qui pourrait leur échapper. Selon lui, de Elon Musk à Mark Zuckerberg, en passant par Sam Altman et Dario Amodei, beaucoup estiment qu’il est temps d’agir, une approche qu’il qualifie de responsable plutôt que d’alarmiste ou intéressée. Dans ce contexte, Dario Amodei, Sam Altman et Elon Musk ont récemment soutenu une meilleure autorégulation des laboratoires avancés pour que la sécurité suive, et Amodei ainsi que d’autres ont appelé le Congrès et des organismes internationaux à s’impliquer. Mustafa Suleyman défend la régulation, qu’il ne considère ni dangereuse ni péjorative, rappelant que les biens et services de confiance résultent de travaux d’organismes de normalisation associant industrie, public, protection des consommateurs et Congrès, et que le secteur suit ce processus.

Un incident chez Hugging Face et un avertissement d’Anthropic nourrissent l’alarme

OpenAI a révélé que ses agents avaient violé Hugging Face. Mustafa Suleyman a souligné le caractère exceptionnel tant de l’étendue de cette violation que du fait qu’OpenAI n’ait pas, dans un premier temps, eu connaissance des actions de ses propres agents. Dans le même temps, Jacob Coxon, qui a précédemment travaillé comme chercheur chez Anthropic, a signalé que, selon lui, certains professionnels de l’IA redoutent en privé que l’IA puisse entraîner l’anéantissement de l’humanité.