Demis Hassabis : un régulateur mondial de l'IA nécessaire

Demis Hassabis : un régulateur mondial de l'IA nécessaire

Demis Hassabis, lors d'une session de panel au Forum économique mondial à Davos, en Suisse, a exprimé la nécessité d'un garde-fou mondial pour l'IA capable d'intervenir si les modèles avancés deviennent trop dangereux. Dans un article de blog, le PDG et cofondateur de Google DeepMind a déclaré que les États-Unis devraient mener cette initiative, arguant que le pays est le meilleur endroit pour établir des normes mondiales, compte tenu de sa position économique et technique.

L'organisation, qui pourrait ressembler à des régulateurs existants comme la Financial Industry Regulatory Authority, serait composée d'experts indépendants de premier plan et de représentants des communautés open-source. Elle aurait le pouvoir d'évaluer les modèles avancés avant leur publication et de coordonner un ralentissement à l'échelle de l'industrie s'ils étaient jugés trop risqués à déployer.

L'article, intitulé « Un cadre pour l'IA de pointe et l'aube d'une nouvelle ère », soutient que le besoin de régulation mondiale devient de plus en plus urgent à mesure que les systèmes d'IA gagnent en sophistication. L'intelligence générale artificielle (AGI) « est probablement à seulement quelques années », a-t-il déclaré. « Lorsque nous regarderons en arrière sur cette période dans les décennies à venir, je pense que nous réaliserons que nous étions au pied de la singularité - rien de moins que l'aube d'une nouvelle ère pour l'humanité. »

Selon Axios, Hassabis a passé des mois à construire discrètement un soutien pour sa proposition, y compris en informant l'administration Trump, d'autres laboratoires d'IA et des responsables européens. Il espère que la nouvelle organisation sera opérationnelle avant la fin de l'année. Il a déclaré à Axios que « les retours que j'ai entendus [de l'administration Trump] sont très positifs. »

Cette proposition s'inscrit dans les efforts récents de Hassabis et d'autres leaders de l'industrie pour établir un cadre cohérent pour gouverner des systèmes d'IA de plus en plus puissants, ainsi que pour atténuer les risques qu'ils peuvent poser. À ce jour, il n'existe pas de règles mondiales spécifiques régissant l'IA, ni un ensemble complet de règles au niveau national aux États-Unis. Hassabis, co-lauréat du Prix Nobel de chimie 2024 pour son travail sur la prédiction des protéines basée sur l'IA, a également signé une déclaration appelant à des protections plus strictes contre la production d'armes biologiques assistées par l'IA le mois dernier.

Les commentaires récents de Hassabis font suite à une déclaration de hauts économistes et de titans de la technologie — y compris le cofondateur d'Anthropic, Jack Clark, et l'ancien PDG de Google, Eric Schmidt — exhortant les dirigeants mondiaux à prendre au sérieux les impacts économiques imminents de l'IA.