DeepMind : l’AGI comme système social d’agents et d’humains

Trois figures affiliées à Google défendent une AGI envisagée comme un écosystème d’agents coordonnés avec les humains. Le cœur du problème devient l’organisation, les règles et l’orchestration, plus que la quête d’un modèle unique. Cette thèse s’appuie sur des travaux récents et propose de repenser l’alignement, les interfaces et les compétences.

Institutions et orchestration prennent le dessus sur le modèle unique

La question déterminante consiste à établir des règles de collaboration entre humains et multiples agents. De meilleurs modèles et des interfaces plus fluides ne suffiraient pas. Le marché ne couvrirait pas toute la coordination, car des notions comme la culpabilité, la maladie ou la vertu ne se laissent pas réduire à des transactions. Ils plaident donc pour des institutions définissant clairement les rôles des participants humains et machines. À l’image d’un tribunal, où un jugement résulte de rôles, de règles et d’échanges ordonnés entre parties, la valeur d’une telle institution en IA résiderait dans ses règles, ses procédures, ses précédents et ses boucles de rétroaction qui structurent l’action des agents. Des signes de cette approche existent déjà avec des systèmes d’orchestration coordonnant plusieurs modèles, qui surpassent régulièrement des modèles individuels réputés plus intelligents. Cette redistribution de l’attention change aussi le débat public : si l’AGI est un produit final, la recherche et la régulation portent sur la taille des modèles et leur contrôle ; si elle est un système social, il faut avancer de front sur les modèles, les interfaces, les institutions et la gouvernance, avec une architecture soignée.

La formation des valeurs par interactions successives est défendue.

L’alignement est reformulé : tenter d’imposer d’en haut un corpus fixe de valeurs aux modèles serait une impasse. Ils soutiennent que les valeurs se forment par un contact continu entre personnes, agents et institutions, à des rythmes d’adoption variables selon les domaines. Le défi de recherche consiste à élaborer un cadre qui structure cette négociation. Cette approche conteste l’idée d’une singularité imminente et avance que la prochaine « explosion d’intelligence » resterait étroitement ancrée dans les normes et les institutions humaines.

Redéfinir l’agent : un assemblage réversible plutôt qu’un jumeau numérique

Selon cette approche, un agent IA se présente non pas comme une personne miniature, mais comme une composition provisoire de modèles, de rôles, de mémoires, de principes éthiques, d’outils et de compétences. Ce dispositif peut être séparé et reconfiguré, même si l’utilisateur a fréquemment l’impression d’une identité constante. À la différence d’une personne, dont le cerveau assure une continuité physique, l’agent ne possède pas d’ancrage et sa capacité d’agir est réassemblée à chaque requête en fonction du contexte et de la demande. L’assimilation à des jumeaux numériques à identité fixe est jugée trompeuse, car elle sous-estimerait le potentiel d’essaims d’agents coordonnés. Déjà, des systèmes répartissent le travail entre plusieurs modèles en équipes. Dans ce cadre, le défi de la recherche devient la coordination et la gouvernance de réseaux d’agents et d’humains, l’intelligence étant envisagée comme un phénomène social.

Les échanges individuels laissent place à des réseaux d’agents visibles

Les interactions centrées sur une conversation en tête-à-tête avec un bot apparaissent comme transitoires. Les interfaces pourraient évoluer vers des diagrammes visuels de réseau, montrant les agents comme des nœuds et offrant une vue d’ensemble pour les piloter sans leur parler un par un. Cette bascule s’accompagnerait d’un déplacement des compétences : alors que la programmation traditionnelle valorisait la concentration soutenue, l’ordre strict et une faible tolérance à l’ambiguïté, la coordination d’essaims demanderait de composer avec des comportements difficiles à cerner, d’expérimenter et de déléguer davantage aux machines.

Des indices empiriques d’une pensée en débats internes

Un travail empirique mené sur des modèles de raisonnement tels que DeepSeek-R1 et QwQ-32B décrit des traces proches d’un débat interne, avec changements de perspective, objections et réconciliations entre approches. Ce comportement émergerait lors de l’entraînement, sans programmation explicite, et l’apprentissage par renforcement orienté vers la précision du raisonnement conduirait à des dynamiques conversationnelles multi-perspectives. Ces observations, issues de recherches antérieures du même cercle, sont transposées vers la conception possible de sociétés réunissant agents et personnes, complétées par une analyse théorique sur l’« intelligence agentique » et sa place dans une possible explosion d’intelligence.

Une bascule historique envisagée et une alternative à la singularité

Ces évolutions sont situées dans un contexte où urbanisation, spécialisation et baisse des natalités réduisent les populations des pays industrialisés, tandis que les instances d’agents IA se multiplient rapidement. L’équilibre entre penseurs biologiques et synthétiques pourrait bouger à un rythme qui, vu de l’histoire, ressemblerait à un saut. Par analogie avec la Révolution industrielle, un seuil pourrait être franchi lorsque textes, code et tâches administratives produits de manière synthétique dépasseraient la production combinée des cerveaux biologiques, les humains jouant alors un rôle de couche plus lente et plus abstraite de pilotage. En réponse à la vision d’une superintelligence isolée, ils proposent l’« Intelligence Symbiotique Artificielle », un écosystème où humains et machines se cofaçonnent et décident ensemble, ce qui reconfigure le débat public et prolonge l’idée que les grandes avancées, dans le vivant comme dans la culture, procèdent de dynamiques sociales.