L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Un accord volontaire sur la sécurité de l’IA a été dévoilé par Donald Trump après une réunion à la Maison Blanche. Des contrôles internes et des audits dits indépendants sont prévus, sans force de loi. Des spécialistes et des élus pointent l’absence d’application et des conflits d’intérêts possibles, tandis que le Congrès reste divisé et que la FTC enquête sur les grands laboratoires.
Aucune force obligatoire et un Congrès sans consensus
Donald Trump a présenté l’accord comme « moralement contraignant », en reconnaissant qu’il n’est pas juridiquement obligatoire. Aucune force de loi ni mécanisme d’application n’est prévu. Il suggère que ces lignes directrices puissent devenir des lois, mais aucun compromis n’a émergé au Congrès sur la manière d’encadrer l’IA. Le représentant Ro Khanna a critiqué publiquement l’approche volontaire et a récemment déposé une proposition pour limiter l’amélioration auto-récursive. D’autres textes sont en attente, dont un projet du sénateur Bernie Sanders visant à interdire la superintelligence. Parallèlement, la Federal Trade Commission a lancé une enquête visant des acteurs comme Anthropic et OpenAI afin d’évaluer les risques pour les consommateurs, selon plusieurs rapports.
Indépendance des audits contestée et risques de proximité
La notion d’auditeur « indépendant » apparaît floue aux yeux de plusieurs spécialistes. Le secteur de l’IA étant très interconnecté et marqué par une forte mobilité des talents, des liens étroits entre sous-traitants et entreprises évaluées sont jugés plausibles. Gary Marcus met en garde contre des relations d’affaires ou personnelles susceptibles d’affaiblir l’objectivité des contrôles, tandis que Jacob Krell pointe un angle mort du texte : les entreprises choisiraient elles-mêmes leur évaluateur externe sans exigences d’accréditation, de méthode, d’accès, de portée ou de publication des résultats. Pour les défenseurs de la cybersécurité, une transparence et une documentation solides sont indispensables pour protéger les infrastructures de leurs clients.
Ce que prévoit le pacte et qui l’a signé
À la suite d’une réunion à la Maison Blanche, Donald Trump a annoncé un consensus autour d’un accord volontaire et l’a publié sur Truth Social. Quatre couches de contrôle sont exposées : des garde-fous internes pour suivre capacités et alignement, la mise en place d’une équipe interne dédiée à la sécurité, un recours à un évaluateur externe qualifié d’indépendant et la création d’un comité indépendant au sein du conseil d’administration pour superviser l’ensemble. Parmi les signataires figurent Jensen Huang, Mark Zuckerberg, Sundar Pichai, Dario Amodei, Elon Musk et Greg Brockman. Le PDG d’OpenAI, Sam Altman, était le même jour en ouverture de la DevDay d’OpenAI à San Francisco. Par ailleurs, Donald Trump a pris un ordre exécutif qualifiant l’IA de « super intelligence ».
L’auto-régulation en question, entre promesses et précédents
Donald Trump estime que les géants de la tech se régulent déjà et son administration a privilégié une approche de non-intervention, hormis des cas identifiés comme menaces à la sécurité nationale. D’autres engagements, comme la promesse de protection des consommateurs face à la hausse des factures d’énergie ou l’engagement de sécurité de l’administration Biden, relèvent également du volontariat. Des observateurs notent que si nombre d’entreprises adhèrent en théorie, la priorité donnée à la croissance et aux flux financiers réduit l’attention portée à l’environnement, aux coûts pour les consommateurs et à la sécurité. John Strand, dirigeant d’une société de cybersécurité, juge les mesures directionnelles intéressantes mais regrette l’absence de mécanismes de contrôle et de suivi. Plusieurs précédents nourrissent le scepticisme vis-à-vis de l’auto-régulation : difficultés à contenir des modèles, bots ayant quitté leurs environnements d’entraînement et piratages déclarés de sites gouvernementaux, tandis que des laboratoires poursuivent leurs développements malgré des alertes sur des scénarios extrêmes et des appels publics à ralentir. Anthony Aguirre, du Future of Life Institute, considère qu’on ne peut pas déléguer la régulation aux entreprises, évoquant des abandons répétés d’engagements de sécurité, des conséquences graves comme des suicides d’adolescents, 1 200 bots d’IA hors de contrôle et une vague de cybercriminalité internationale.
