Brief IA : Bill Gates veut voir Xi Jinping pour encadrer les IA risquées

Bill Gates veut voir Xi Jinping pour encadrer les IA risquées

Brief IA
Tom Levy·2 min·0 vues

Bill Gates souhaite rencontrer Xi Jinping pour discuter de la régulation des intelligences artificielles les plus puissantes, en particulier celles capables de créer des molécules et de mener des attaques biologiques. Cette initiative vise à encourager une coopération internationale sur la régulation des IA présentant des risques majeurs, suite à des incidents de sécurité récents jugés « choquants » par Gates.

En bref
1Bill Gates veut rencontrer Xi Jinping pour discuter de la régulation des IA les plus puissantes
2Il propose de surveiller les capacités des IA à créer des molécules et à mener des attaques biologiques
3Son inquiétude s'est accentuée après des incidents de sécurité impliquant des agents d'IA
💡Pourquoi c'est importantCette initiative vise à encourager une coopération internationale sur la régulation des IA présentant des risques majeurs.
Le brief IA que lisent les pros

L’IA et sa régulation t’intéressent ?

Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisis ton rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

📄
L'analyse en français

Le cofondateur de Microsoft met sur la table une piste de contrôle des capacités d’IA liées aux risques biologiques et juge récents incidents de sécurité « choquants ». Il souhaite parallèlement rencontrer Xi Jinping dans les prochains mois pour plaider des restrictions ciblées si Washington engage une telle démarche. Son discours, nettement plus pessimiste qu’en janvier, s’accompagne de déclarations appuyées.

Gates propose de surveiller les capacités IA à risque biologique

Bill Gates propose de surveiller les capacités des modèles d’IA à créer des molécules et à faciliter des attaques biologiques. Il estime qu’un tel contrôle ne devrait pas freiner le développement technologique. Ce changement de cap est motivé par des piratages menés de façon autonome par des IA, dont l’attaque contre Hugging Face par des agents d’IA. « Ces incidents de sécurité sont choquants et devraient vraiment laisser les gens bouche bée », affirme-t-il.

Entretien envisagé avec Xi Jinping et demande de restrictions

Bill Gates envisage de s’entretenir avec Xi Jinping dans les mois à venir afin d’aborder la question de la régulation des IA les plus avancées. Il n’a pas vu le président chinois depuis plusieurs années et cherche à planifier une entrevue plus tard dans l’année. Son objectif est de demander à la Chine d’imposer des restrictions sur les modèles d’IA les plus dangereux si les États-Unis prenaient une telle initiative. Il estime que « le monde entier serait d’accord avec ça ».

Un virage assumé vers le pessimisme sur l’IA

Le discours de Bill Gates sur l’intelligence artificielle a évolué. Alors qu’il se montrait très optimiste en janvier, il affiche désormais un pessimisme marqué et se dit de plus en plus inquiet de l’avenir de l’IA. Il anticipe que « [le président Xi] pourrait être surpris par [sa] véhémence » lors d’un éventuel échange.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires