Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic, une entreprise pionnière dans le domaine de l'intelligence artificielle, a récemment mis en lumière les dangers potentiels liés à l'évolution rapide de cette technologie. Dans deux documents de politique générale, elle appelle à une régulation stricte pour éviter que l'IA ne devienne incontrôlable, tout en proposant des mesures pour protéger les travailleurs affectés par l'automatisation.
Un cadre réglementaire crucial
Anthropic a publié des recommandations exhortant les gouvernements à établir une autorité légale capable de bloquer le déploiement de systèmes d'IA jugés dangereux. Cette proposition inclut la mise en place de sanctions civiles basées sur le chiffre d'affaires mondial annuel des entreprises concernées, avec des pénalités plus lourdes en cas de récidive. Le cadre proposé ne s'appliquerait qu'aux modèles d'IA nécessitant plus de 10²⁵ opérations en virgule flottante, développés par des entreprises générant plus de 500 millions de dollars de revenus liés à l'IA ou investissant plus d'un milliard de dollars en recherche et développement.
Quatre catégories de risques identifiées
Anthropic a identifié quatre types de risques catastrophiques : le développement d'armes biologiques, la découverte de vulnérabilités à grande échelle dans des systèmes informatiques critiques, la perte de contrôle sur des systèmes autonomes, et l'automatisation par l'IA de sa propre recherche et développement. Pour illustrer ces menaces, Anthropic cite l'exemple de Mythos Preview, un modèle qui aurait découvert des milliers de vulnérabilités graves dans les principaux systèmes d'exploitation et navigateurs web.
Les développeurs de modèles "frontier", à la limite des capacités actuelles, seraient tenus de tester leurs modèles, de publier des résumés de ces évaluations, de se soumettre à des audits indépendants, de maintenir des programmes de sécurité, et de publier des rapports réguliers sur les risques identifiés. Anthropic souligne que la transparence seule ne suffit plus.
Des règles claires contre les suppressions de postes
En parallèle, Anthropic a dévoilé un second document axé sur l'impact économique de l'IA. L'entreprise reconnaît que l'IA transformera ou détruira de nombreux emplois, ce qui suscite déjà des tensions, notamment chez les jeunes diplômés américains. Pour y remédier, Anthropic propose la création de comptes en capital individuel pour financer la formation ou la reconversion des travailleurs, une assurance-salaire pour compenser la perte de revenus, des incitations fiscales pour les entreprises participant à la transition, et le renforcement des aides sociales existantes.
L'objectif est de s'assurer que les gains économiques générés par l'IA ne se concentrent pas uniquement entre les mains de quelques grandes entreprises technologiques. Cependant, Anthropic ne précise pas comment ces mesures seraient financées ni qui en serait responsable, laissant ces questions ouvertes à la discussion.
