DeepMind crée un institut AGI et propose un cadre d’évaluation

Google et Google DeepMind lancent un institut consacré à l’AGI et publient quatre essais qui avancent des options concrètes de gouvernance. Au menu : un organisme de standards dirigé par les États-Unis, des tests « réservés » et des garde-fous sur la transparence, alors que des dirigeants du secteur soutiennent l’idée de rythmer les développements.

Hassabis défend un organisme US, des tests « réservés » et un possible durcissement

Demis Hassabis propose la création d’un organisme de normes pour évaluer les modèles d’IA à la frontière, dirigé par les États-Unis. Dans ce cadre, les développeurs soumettraient d’abord volontairement leurs systèmes jusqu’à 30 jours avant leur publication. Si l’efficacité de ce dispositif est démontrée, réussir ces évaluations pourrait devenir une condition pour déployer des modèles à la frontière aux États-Unis. L’organisme concevrait d’abord les évaluations en concertation avec les entreprises d’IA, puis développerait des évaluations indépendantes et non divulguées, appelées « tests réservés », pour éviter que les laboratoires n’adaptent leurs modèles à des tests connus. Hassabis précise que ce cadre pourrait être renforcé si la gravité de la situation l’exige, incluant éventuellement un ralentissement coordonné entre développeurs. Ces propositions interviennent alors que des dirigeants du secteur soutiennent des éléments d’un appel de Dario Amodei à « rythmer » le développement de l’IA à la frontière, et que le débat évolue vers des mécanismes de divulgation, de contrôle externe et, si nécessaire, de ralentissements coordonnés.

Transparence sous contrainte : des chercheurs refusent l’opacité par défaut

Rohin Shah et Anca Dragan soutiennent que la perte de transparence des modèles n’est pas inévitable, même si de nouvelles architectures rendent les systèmes les plus puissants plus difficiles à surveiller. Ils appellent développeurs et régulateurs à examiner de front les compromis de sécurité liés à la transparence. Parmi les pistes avancées figurent la limitation de la « profondeur sérielle opaque », c’est-à-dire la quantité de calcul séquentiel effectuée sans produire une trace de raisonnement lisible, et l’exigence faite aux développeurs de démontrer que des systèmes moins transparents demeurent aussi surveillables.

Un nouvel institut pour organiser le débat et publier quatre essais thématiques

Le DeepMind Institute a été lancé un mercredi par des chercheurs de Google et de Google DeepMind pour faire progresser la discussion sur l’AGI. L’instance est dirigée notamment par Shane Legg, James Manyika et Demis Hassabis, avec Legg comme rédacteur en chef. L’objectif affiché est de clarifier des points de vue susceptibles de diverger entre Google, Google DeepMind et la communauté de recherche, avec la possibilité assumée de désaccords et d’évolutions à mesure que de nouvelles données apparaissent. La première publication comporte quatre essais : des politiques économiques pour gérer une éventuelle perturbation de l’AGI, la préservation d’un raisonnement de modèles lisible par l’humain, des principes d’épanouissement humain et un cadre d’évaluation des modèles d’IA à la frontière.