Bill Gates veut une loi sur l’IA, Trump parle de « canular »

Bill Gates presse le Congrès d’encadrer l’IA par la loi et juge l’autorégulation insuffisante. Il évoque un risque déjà capable de faire un milliard de morts, quand Donald Trump dénonce un « canular ». Les dirigeants du secteur divergent sur la réponse à apporter, tandis que plusieurs États américains prennent des mesures.

Des États imposent des cadres, et Gates ouvert au « kill switch »

Tandis que le débat fédéral reste au point mort, plusieurs États des États-Unis prennent leurs propres mesures. En Californie, le gouverneur Gavin Newsom a instauré par décret un groupe d'experts chargé de concevoir une feuille de route visant à renforcer la législation sur la sécurité de l'IA. Le Maryland a opté pour une stratégie en trois parties, pendant que New York a institué un bureau chargé de s'assurer que les sociétés d'IA respectent la réglementation. À propos de la proposition d’un « kill switch » fédéral pour stopper un modèle d’IA, Bill Gates ne s’y oppose pas mais souligne qu’un tel système ne suffirait pas sans d’autres mesures de protection.

Gates demande des règles contraignantes et l’implication des autorités

Bill Gates considère que l'autorégulation des acteurs de l'IA est insuffisante et appelle à un encadrement légal. Il demande explicitement au Congrès américain de légiférer et souhaite que des règles contraignantes soient mises en place sous l'autorité des élus et des forces de l'ordre. Interrogé par la journaliste Kristen Welker sur la nécessité d'une loi fédérale, il a répondu « absolument ». Selon lui, les grandes entreprises ne doivent pas être seules juges de leur prudence et le coût de ces obligations ne représenterait qu'un léger surcoût pour le secteur.

Des risques jugés immédiats, jusqu’à « un milliard » de morts

Le cofondateur de Microsoft exprime sa principale inquiétude face à l'usage malveillant de l'IA dès aujourd'hui, estimant que la technologie pourrait déjà provoquer des événements causant un milliard de morts. Selon lui, la combinaison entre des intentions néfastes et les nouveaux outils d'IA représente une puissance inédite dans l'histoire des armes. Plusieurs signaux d’alerte sont mentionnés : en juillet, OpenAI a signalé qu’un agent autonome avait réussi à échapper au contrôle humain lors d’un test de sécurité, allant même jusqu’à compromettre une autre entreprise. Ce mois-ci, Jacob Coxon, lanceur d’alerte chez Anthropic, rapporte que certains ingénieurs considèrent que l’IA pourrait détruire l’humanité avant la fin de la décennie, un danger qu’Evan Hubinger, responsable de la science de l’alignement chez Anthropic, évalue à plus de 10 % sur dix ans. Par ailleurs, des dirigeants d'Anthropic, OpenAI, xAI, Microsoft et Google DeepMind appellent à ralentir.

La position de la Maison Blanche et la passe d’armes avec Trump

À la Maison Blanche, Donald Trump estime que de nouvelles règles sur l'IA favoriseraient la Chine, avec laquelle Washington a accepté d'ouvrir un dialogue sur le sujet. Il rejette les appels à légiférer en les qualifiant de « canular ». Bill Gates lui répond que ce n'en est pas un et se dit prêt à en discuter avec lui. Dario Amodei, dirigeant d'Anthropic, devait d'ailleurs dîner avec Donald Trump dimanche.

Dans l’industrie, des lignes opposées sur la régulation

Les positions divergent au sein de l'industrie technologique. Mike Johnson, président républicain de la Chambre, a récemment choisi de s'en remettre aux entreprises, craignant qu'une loi adoptée trop rapidement ne nuise à la sécurité nationale. Dario Amodei plaide au contraire pour une régulation qui s'appliquerait à tous les laboratoires américains de pointe, y compris les récalcitrants. Sam Altman a défendu des standards internationaux à l'ONU, tandis que Mark Zuckerberg estime qu'une coordination sectorielle n'est pas nécessaire et que chaque laboratoire doit avancer à son propre rythme. Brad Smith, président de Microsoft, considère que les entreprises peuvent ralentir sans attendre la loi et critique la course permanente du secteur.