L'IA : outil de renouveau démocratique ou menace latente ?

L'IA, un tournant pour la démocratie moderne

À travers l'histoire, les révolutions dans la circulation de l'information ont transformé les modes de gouvernance. L'imprimerie a démocratisé l'accès au savoir, facilitant l'émergence de la Réforme et des gouvernements représentatifs. Le télégraphe a permis l'administration de vastes territoires comme les États-Unis, accélérant la bureaucratisation moderne. Les médias de diffusion ont créé des audiences nationales, renforçant la démocratie de masse. Aujourd'hui, nous sommes à l'aube d'une nouvelle transformation. L'intelligence artificielle (IA) s'impose rapidement comme l'interface principale par laquelle nous formons nos croyances et participons à la gouvernance démocratique. Ce bouleversement, s'il n'est pas maîtrisé, pourrait fragiliser davantage des institutions déjà précaires aux États-Unis. Cependant, il offre également l'opportunité de résoudre des problèmes persistants tels que le déclin de l'engagement civique et la polarisation croissante. L'avenir dépend des choix de conception qui se dessinent actuellement, souvent à notre insu.

La couche épistémique : une nouvelle manière de connaître

La manière dont nous accédons à la connaissance est en pleine mutation. De plus en plus, les individus se tournent vers l'IA pour déterminer ce qui est vrai, comprendre les événements et savoir à qui faire confiance. La recherche d'informations est déjà largement influencée par l'IA. Les futurs assistants IA seront capables de synthétiser, structurer et présenter les informations avec autorité. Pour beaucoup, interroger une IA deviendra la norme pour se forger une opinion sur un candidat, une politique ou une figure publique. Celui qui contrôle le discours de ces modèles détient donc une influence croissante sur les croyances populaires.

Agents IA personnels : un changement dans l'interaction avec l'information

La technologie a toujours influencé la manière dont les citoyens interagissent avec l'information. Cependant, un nouveau défi se profile avec l'émergence d'agents IA personnels. Ces systèmes pourraient transformer non seulement la réception de l'information, mais aussi les actions qui en découlent. Ils mèneront des recherches, rédigeront des communications, défendront des causes et feront du lobbying pour le compte de l'utilisateur. Ils guideront des décisions telles que le vote sur une mesure, le soutien à des organisations ou la réponse à des avis gouvernementaux. En ce sens, ils pourraient redéfinir la relation entre les individus et les institutions qui les gouvernent.

Les risques de polarisation et de radicalisation

L'expérience des réseaux sociaux a montré les dangers de l'optimisation de l'engagement au détriment de la compréhension. Les plateformes n'ont pas besoin d'un agenda politique explicite pour engendrer polarisation et radicalisation. Un agent IA, conçu pour maintenir l'engagement en connaissant les préférences et les angoisses de l'utilisateur, présente les mêmes risques. Ces dangers sont d'autant plus insidieux qu'un agent se présente comme un défenseur personnel, parlant et agissant au nom de l'utilisateur, gagnant ainsi sa confiance par cette proximité.

Vers une sphère publique fragmentée

En élargissant notre perspective, les agents IA et les humains pourraient bientôt cohabiter dans les mêmes forums, rendant leur distinction difficile. Même si chaque agent IA est bien conçu et aligné sur les intérêts de son utilisateur, l'interaction de millions d'agents pourrait produire des résultats non désirés. Des études montrent que des agents sans biais individuel peuvent néanmoins générer des biais collectifs à grande échelle. De plus, une sphère publique où chacun dispose d'un agent personnalisé en accord avec ses opinions existantes ne favorise pas la délibération partagée nécessaire à la démocratie. Elle se transforme en une multitude de mondes privés, chacun cohérent en interne mais collectivement peu propice à un débat démocratique.

Une transformation fondamentale de la citoyenneté

Ces trois transformations — la manière de connaître, d'agir et de participer à la gouvernance collective — représentent un changement fondamental dans la texture de la citoyenneté. Dans un avenir proche, les opinions politiques seront formées à travers des filtres IA, l'engagement civique sera exercé via des agents IA, et les institutions et discussions publiques seront façonnées par les interactions de millions de ces agents.

Les institutions démocratiques face à l'IA

La démocratie actuelle n'est pas préparée à ces changements. Nos institutions ont été conçues pour un monde où le pouvoir était exercé de manière visible, où l'information circulait lentement et où la réalité semblait partagée. Ces fondements étaient déjà en déclin avant l'arrivée de l'IA générative. Cependant, cela ne doit pas être une histoire de déclin. Pour éviter ce scénario, il est crucial de concevoir des solutions meilleures.

Garantir la véracité et réduire la polarisation

Au niveau de l'information, les entreprises d'IA doivent intensifier leurs efforts pour garantir la véracité des résultats des modèles. Elles devraient également explorer des découvertes prometteuses selon lesquelles l'IA peut aider à réduire la polarisation. Une récente évaluation sur le terrain des vérifications de faits générées par l'IA a révélé que des personnes ayant divers points de vue politiques jugeaient les notes rédigées par l'IA plus utiles que celles rédigées par des humains. Bien que cet article n'ait pas encore été évalué par des pairs, il s'agit d'une découverte potentiellement révolutionnaire : la vérification des faits assistée par l'IA pourrait atteindre une crédibilité interpartis qui a échappé à la plupart des efforts manuels. Une meilleure compréhension et transparence sur la manière dont les modèles formulent ces assertions et priorisent les sources pourraient renforcer la confiance du public.

Représentation fidèle par les agents IA

Au niveau agentique, il est essentiel de s'assurer que les agents IA représentent fidèlement leurs utilisateurs. Un agent ne doit jamais avoir d'agenda propre ni déformer les opinions de son utilisateur, ce qui est techniquement complexe dans des domaines où les préférences des utilisateurs ne sont pas explicitement exprimées. Cependant, une représentation fidèle ne doit pas devenir un accessoire à un raisonnement motivé. Un agent qui refuse de présenter des informations inconfortables ou qui protège son utilisateur de toute remise en question de ses croyances antérieures n'agit pas dans le meilleur intérêt de la personne.

Intégration de l'IA dans la gouvernance

Enfin, au niveau institutionnel, les décideurs doivent rapidement exploiter le potentiel de l'IA pour rendre la gouvernance plus réactive et légitime. Plusieurs États et collectivités utilisent déjà des plateformes médiées par l'IA pour mener des délibérations démocratiques à grande échelle, s'appuyant sur des recherches montrant que les médiateurs IA peuvent aider les citoyens à trouver un terrain d'entente. À mesure que les agents deviennent des participants courants dans les processus de contribution publique — et il existe déjà des preuves que des bots faussent ces processus — la vérification de l'identité pour les humains et leurs représentants agentiques doit être intégrée dès le départ.

Concevoir une nouvelle génération d'infrastructures démocratiques

Ce qui est nécessaire, c'est une nouvelle génération d'infrastructures démocratiques, technologiques et institutionnelles, conçues pour le monde actuel. Ne pas concevoir pour des résultats démocratiques signifie concevoir pour autre chose. Et l'histoire du pouvoir non responsable ne laisse guère de place à l'optimisme quant à ce que cette autre chose pourrait être.