DeepMind propose un régulateur indépendant pour l'IA avancée
Le brief IA que les pros lisent chaque soir
Les 7 actus IA du jour, décryptées en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Un appel à la régulation de l'IA par DeepMind
Dans une publication récente sur la plateforme X, Demis Hassabis, le PDG de Google DeepMind, a lancé un appel en faveur de la création d'un organisme de régulation indépendant pour superviser les modèles d'intelligence artificielle de pointe. Intitulé « Un cadre pour l'IA de pointe et l'aube d'une nouvelle ère », ce message propose la mise en place d'un « organisme de normalisation » inspiré de la Financial Industry Regulatory Authority (FINRA). Cet organisme aurait pour mission de tester les modèles d'IA avancée et de développer des meilleures pratiques pour leur mise sur le marché.
Un processus de validation avant le lancement
Hassabis suggère que, dans un premier temps, les laboratoires à la pointe de la technologie partageraient volontairement leurs modèles avec cet organisme pour un examen approfondi, jusqu'à 30 jours avant leur lancement officiel. Une fois que le protocole d'évaluation aurait prouvé son efficacité et sa robustesse, il pourrait être formalisé. Cela signifierait que les modèles d'IA de pointe devraient passer avec succès ces tests pour être commercialisés aux États-Unis. Les laboratoires continueraient également à collaborer avec l'organisme pour résoudre toute vulnérabilité critique qui pourrait être identifiée après le lancement.
Critiques des évaluations actuelles
Le système proposé par Hassabis s'appuie sur les évaluations ponctuelles déjà réalisées par le gouvernement américain sur des modèles comme Mythos d'Anthropic et Sol d'OpenAI. Ces évaluations ont été critiquées pour leur manque d'expertise technique et la prise de décision opaque concernant le moment où un modèle pouvait être lancé. Selon la proposition de Hassabis, ces décisions pourraient être transférées à une nouvelle organisation, soutenue par le gouvernement américain mais financée par l'industrie de l'IA et opérée de manière indépendante.
Controverse autour de la régulation de l'IA
La question de la régulation de l'IA suscite des débats tant au sein de l'industrie technologique que dans l'administration Trump. Récemment, Sriram Krishnan, conseiller en IA à la Maison Blanche et partenaire général chez a16z, a rejeté l'idée d'un régulateur de l'IA au sein de l'exécutif, affirmant qu'« il n'y aura pas de FDA pour l'IA ».
Un modèle d'autorégulation inspiré de la FINRA
Hassabis propose de structurer cet organisme de normalisation comme une entité d'autorégulation, semblable à la FINRA. Il envisage que le régulateur soit composé de représentants de l'open source et d'experts techniques de l'industrie, avec un soutien financier des laboratoires d'IA pour assurer son fonctionnement. Il serait même possible d'externaliser certaines évaluations à des groupes de sécurité spécialisés dans des risques spécifiques.
Une approche axée sur la technique et l'innovation
Selon Hassabis, la force de cette approche réside dans son orientation technique, tout en soutenant l'innovation et en encourageant un comportement responsable. Elle est conçue pour suivre l'évolution rapide du domaine de l'IA et s'adapter aux risques majeurs au fur et à mesure de leur identification. Cette structure pourrait être renforcée si la gravité des situations l'exige.
Brief IA — L'actualité IA en français
L'essentiel de l'actualité de l'intelligence artificielle, décrypté et expliqué chaque jour.