L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
La récente rupture entre Washington et Anthropic a mis en lumière l'absence de régulations claires concernant l'intelligence artificielle. En réponse à ce vide, une coalition bipartisane a élaboré la Déclaration Pro-Human, un cadre pour un développement responsable de l'IA que le gouvernement américain n'a pas encore produit.
La Déclaration Pro-Human a été finalisée avant le face-à-face entre le Pentagone et Anthropic la semaine dernière, mais la collision des deux événements n'a échappé à personne impliqué. Max Tegmark, physicien au MIT et chercheur en IA, a souligné lors d'une conversation que 95 % des Américains s'opposent à une course non régulée vers la superintelligence. Le document, signé par des centaines d'experts, d'anciens responsables et de personnalités publiques, commence par l'observation pragmatique que l'humanité se trouve à un carrefour.
Un chemin, que la déclaration appelle « la course à remplacer », conduit à ce que les humains soient remplacés d'abord en tant que travailleurs, puis en tant que décideurs, alors que le pouvoir s'accumule entre les mains d'institutions non responsables et de leurs machines. L'autre chemin mène à une IA qui élargit massivement le potentiel humain.
Les cinq piliers de la Déclaration
Ce dernier scénario repose sur cinq piliers clés : garder les humains aux commandes, éviter la concentration du pouvoir, protéger l'expérience humaine, préserver la liberté individuelle, et tenir les entreprises d'IA légalement responsables. Parmi ses dispositions les plus fermes, on trouve une interdiction totale du développement de la superintelligence jusqu'à ce qu'un consensus scientifique établisse qu'il peut être réalisé en toute sécurité et avec un véritable soutien démocratique; des interrupteurs d'urgence obligatoires sur les systèmes puissants; et une interdiction des architectures capables d'auto-reproduction, d'amélioration autonome ou de résistance à l'arrêt.
Contexte et enjeux actuels
La publication de la déclaration coïncide avec une période qui rend son urgence beaucoup plus facile à apprécier. Le dernier vendredi de février, le secrétaire à la Défense, Pete Hegseth, a désigné Anthropic — dont l'IA fonctionne déjà sur des plateformes militaires classifiées — comme un « risque pour la chaîne d'approvisionnement » après que l'entreprise a refusé de donner au Pentagone un accès illimité à sa technologie, une étiquette normalement réservée aux entreprises ayant des liens avec la Chine. Quelques heures plus tard, OpenAI a conclu son propre accord avec le ministère de la Défense, un accord que des experts juridiques estiment difficile à appliquer de manière significative. Tout cela a mis en lumière le coût de l'inaction du Congrès sur l'IA.
Comme l'a déclaré Dean Ball, chercheur senior à la Foundation for American Innovation, au New York Times par la suite : « Ce n'est pas juste un différend sur un contrat. C'est la première conversation que nous avons eue en tant que pays sur le contrôle des systèmes d'IA. »
La sécurité des enfants comme levier
Tegmark a utilisé une analogie que la plupart des gens peuvent comprendre lors de notre entretien. « Vous n'avez jamais à vous inquiéter qu'une entreprise pharmaceutique sorte un autre médicament qui cause des dommages massifs avant que les gens n'aient compris comment le rendre sûr », a-t-il déclaré, « parce que la FDA ne leur permettra pas de sortir quoi que ce soit tant que ce n'est pas suffisamment sûr. »
Les guerres de territoire à Washington ne génèrent que rarement la pression publique capable de changer les lois. Au lieu de cela, Tegmark voit la sécurité des enfants comme le point de pression le plus susceptible de faire céder l'impasse actuelle. En effet, la déclaration appelle à des tests obligatoires avant le déploiement des produits d'IA — en particulier les chatbots et les applications de compagnons destinés aux jeunes utilisateurs — couvrant des risques tels que l'augmentation des idées suicidaires, l'aggravation des problèmes de santé mentale et la manipulation émotionnelle.
« Si un homme louche envoie des textos à un enfant de 11 ans en prétendant être une jeune fille et essaie de persuader ce garçon de se suicider, cet homme peut aller en prison pour cela », a déclaré Tegmark. « Nous avons déjà des lois. C'est illégal. Alors pourquoi est-ce différent si une machine le fait ? »
Il croit qu'une fois le principe des tests avant la sortie établi pour les produits destinés aux enfants, le champ d'application s'élargira presque inévitablement. « Les gens viendront et diront — ajoutons quelques autres exigences. Peut-être devrions-nous également tester que cela ne peut pas aider des terroristes à fabriquer des armes biologiques. Peut-être devrions-nous tester pour nous assurer que la superintelligence n'a pas la capacité de renverser le gouvernement des États-Unis. »
Il n'est pas anodin que l'ancien conseiller de Trump, Steve Bannon, et Susan Rice, l'ancienne conseillère à la sécurité intérieure de l'administration Obama, aient tous deux exprimé leur soutien à cette déclaration.
