L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
L'intelligence artificielle (IA) progresse à une vitesse fulgurante, et la réglementation peine à suivre cette évolution rapide. Cette situation inquiète particulièrement Anthropic, une entreprise spécialisée dans le développement de l'IA, qui appelle à une intervention urgente des gouvernements pour freiner les systèmes les plus dangereux.
Dans un essai intitulé "Politique face à l’essor exponentiel de l’IA", Dario Amodei, dirigeant d'Anthropic, plaide pour que les gouvernements puissent intervenir pour bloquer les modèles d'IA qui présentent des risques majeurs. Ces risques incluent notamment des menaces en matière de cybersécurité et la possibilité de création d'armes biologiques.
Pour répondre à ces préoccupations, Amodei propose deux cadres de régulation. Le premier est dédié à la sécurité des systèmes d'IA avancés, avec des sanctions prévues pour les entreprises qui ne respecteraient pas les règles établies. Le second cadre s'intéresse aux conséquences économiques de l'automatisation, proposant des mesures telles qu'une assurance-salaire et des programmes d'aide financés par les revenus générés par l'IA.
Les risques identifiés par Anthropic
Anthropic met en avant quatre catégories de risques particulièrement préoccupantes. La première concerne le domaine biologique. Selon l'entreprise, des modèles d'IA insuffisamment sécurisés pourraient être utilisés par des personnes mal intentionnées pour concevoir des agents pathogènes ou accélérer des recherches dangereuses. Cependant, ces technologies pourraient également contribuer à la découverte de nouveaux traitements médicaux.
Le deuxième risque touche à la cybersécurité. Les modèles d'IA les plus performants sont déjà capables d'identifier des vulnérabilités logicielles complexes. Si ces capacités continuent de progresser, elles pourraient être utilisées contre des infrastructures essentielles, telles que les hôpitaux, les réseaux énergétiques ou les systèmes de communication.
La perte de contrôle est également une source d'inquiétude pour Anthropic. L'entreprise redoute l'émergence de systèmes dont le comportement deviendrait difficile à superviser ou à limiter une fois déployés. Enfin, Anthropic met en garde contre la recherche automatisée en intelligence artificielle. Cette capacité permettrait à des systèmes de participer eux-mêmes au développement de nouvelles IA, ce qui pourrait accélérer considérablement les progrès technologiques tout en amplifiant les risques existants.
Mesures pour limiter les déploiements risqués
Pour Anthropic, il est essentiel que les autorités publiques aient la possibilité de bloquer ou de décourager le déploiement de modèles d'IA jugés trop risqués. Pour y parvenir, la firme souhaite instaurer des obligations de contrôle avant la mise sur le marché des systèmes les plus performants.
Les développeurs seraient notamment tenus de réaliser des évaluations approfondies de leurs modèles avant leur diffusion. Ces analyses devraient être accompagnées de documents détaillant tout, des capacités du système aux mesures de sécurité mises en place, sans oublier les risques potentiels identifiés durant les phases de test.
L'entreprise propose également que les résultats de ces évaluations soient examinés par des experts indépendants. Ces derniers auraient pour mission de vérifier la qualité des tests réalisés et d'évaluer objectivement les dangers associés aux nouveaux modèles. Anthropic estime qu'une telle approche permettrait d'éviter que des systèmes extrêmement puissants soient déployés sans garde-fous suffisants. Pour le groupe, la transparence est importante, bien qu'elle ne suffise plus à elle seule face au rythme actuel des avancées technologiques.
Sanctions pour non-conformité
Pour garantir le respect de ces règles, Anthropic imagine un système de sanctions progressives. Les pénalités seraient calculées en fonction du chiffre d'affaires mondial des entreprises concernées, ce qui permettrait d'adapter les amendes à la taille des acteurs impliqués.
Le cadre prévoit également un durcissement des sanctions en cas d'infractions répétées. Cela devrait inciter les entreprises à intégrer la sécurité dès la conception de leurs modèles plutôt que de traiter ces questions après coup.
La proposition met aussi l'accent sur la protection des infrastructures utilisées pour développer les systèmes d'IA. Les entreprises devraient mettre en place des programmes de sécurité robustes afin de protéger leurs modèles, leurs données et leurs environnements d'entraînement contre les attaques informatiques ou les menaces internes.
Il est à noter que le cadre proposé cible uniquement les systèmes les plus avancés. Anthropic fixe notamment des seuils techniques et financiers élevés pour éviter que les petites entreprises ou les projets de moindre ampleur soient soumis aux mêmes obligations.
