OpenAI lance AI Futures et ses principes de gouvernance

OpenAI ouvre AI Futures, vitrine de sa nouvelle équipe Strategic Futures, pour traiter du risque de concentration de pouvoir à l’ère des systèmes d’IA avancés. L’équipe avance une série de principes, dont la traçabilité des actions à forts enjeux jusqu’à un responsable humain, conjuguée à une défense de l’anonymat et de la vie privée. Elle annonce des travaux interdisciplinaires et des publications au long cours.

Traçabilité des actes à risque et anonymat érigés en principes

Au centre de la gouvernance d’OpenAI Strategic Futures se trouve le principe de « lisibilité limitée » : dans les cas où des systèmes d’IA effectuent des actions à fort impact concernant l’intégrité physique ou la propriété d’autrui, il doit être possible de rattacher ces actes à une personne physique ou à une organisation placée sous contrôle humain. Parallèlement, l’équipe met l’accent sur une conception de ces dispositifs qui accorde la priorité à la protection de la vie privée et affirme que la liberté d’expression implique l’anonymat, y compris la faculté d’employer l’IA sans révéler son identité dans de nombreux usages. Elle cadre aussi l'action collective comme nécessaire mais circonscrite à une petite catégorie de risques, d'ampleur limitée et modeste, et appelle le droit à privilégier l'autonomisation des individus et des petites organisations plutôt que la centralisation. Enfin, elle affirme la primauté des institutions humaines politiques, sociales et économiques pour orienter les affaires mondiales, même si ces institutions doivent évoluer.

Une doctrine d’équilibre des pouvoirs plutôt qu’une décentralisation radicale

L’équipe juge qu’une réponse adaptée au défi structurel posé par l’intelligence machine avancée n’est probablement pas une décentralisation maximale du pouvoir. Elle défend l’objectif d’un équilibre empêchant un acteur unique, ou un petit groupe, de dominer les autres, dans l’esprit d’un agencement de contrepoids et d’ambitions canalisées. Le raisonnement revendiqué fait le lien avec des notions contemporaines d’incitations et de théorie des jeux, tout en s’inscrivant dans une tradition plus ancienne : les Pères fondateurs américains n’entendaient pas abolir toute concentration, mais organiser des forces en tension, illustrées à l’époque par des métaphores empruntées à la mécanique newtonienne et un vocabulaire d’orbites et de sphères. James Madison est cité pour rappeler que des protections purement écrites ne suffisent pas et que la lutte contre la concentration indue était centrale.

Le risque jugé prioritaire : la concentration de pouvoir

OpenAI Strategic Futures affirme que, sur le long terme, la concentration de pouvoir constitue la catégorie de risques la plus importante, la plus sérieuse et la plus épineuse conceptuellement parmi les enjeux de sûreté et de politique de l’IA. Éviter un basculement attentatoire à l’autonomie individuelle est posé comme un impératif, aucun progrès scientifique, technologique ou économique ne justifiant un tel sacrifice durable. L’équipe rattache à ce nœud de pouvoir des inquiétudes déjà visibles chez des entreprises, des groupes d’intérêt et des individus, qui craignent d’être écartés des lieux de décision. Elle présente ce problème comme structurel, au-delà des clivages partisans et des rituels institutionnels, et avance que des personnes pourraient perdre de l’agentivité même si les procédures électorales se poursuivent.

Scénarios envisagés : force sans troupes et recettes des centres de données

L’équipe estime plausible une ère où la projection de la force, intérieure comme extérieure, ne dépendrait plus de soldats ou de policiers coopératifs grâce à des systèmes autonomes avancés. Elle avance que la collecte de revenus publics pourrait, avec des progrès en intelligence machine, se déplacer du travail humain vers des centres de données, tandis que des pans entiers de la bureaucratie seraient automatisés. Dans ces hypothèses, la perpétuation du pouvoir ne reposerait plus sur un large consentement social, et la place du public dans la négociation pourrait se réduire fortement, voire disparaître.

Programme de travail : publications itératives et recherche interdisciplinaire

OpenAI Strategic Futures indique qu’elle diffusera ses analyses sur AI Futures ainsi que par d’autres supports, tels que des articles, des vidéos et des podcasts. L’initiative est décrite comme progressive, accueillant la discussion et les retours, s’appuyant explicitement sur la prévision et menant des travaux à la croisée des politiques publiques, de l’économie, du droit, de l’histoire et du machine learning. Selon l’équipe, elle se confronte à davantage d’interrogations que de certitudes sur les évolutions envisageables, estime que la seule existence de garanties écrites ne saurait suffire, tout en saluant l’importance des principes constitutionnels. Elle se réclame d’idéaux de libre expression et de liberté individuelle et affirme qu’aucune entité isolée ne peut, à elle seule, résoudre les grandes questions soulevées, appelant à une démarche collective de l’humanité.

Annonce organisationnelle : AI Futures devient la vitrine de Strategic Futures

OpenAI officialise AI Futures comme blog dédié de sa nouvelle équipe Strategic Futures. Cette petite équipe place au centre de sa mission une interrogation directrice : comment adapter les structures d’une société libre pour préserver droits et autonomie des individus à l’heure d’une IA potentiellement transformatrice.