Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic, dirigée par Dario Amodei, a récemment publié un essai intitulé "Politique sur l'Exponentialité de l'IA", accompagné de deux cadres politiques. Ces documents visent à réguler les modèles d'IA avancés, considérés comme des armes stratégiques par les États-nations.
Dans son essai, Amodei utilise une métaphore inspirée du "Seigneur des Anneaux" pour illustrer la lenteur du système politique face à la menace rapide de l'IA non régulée. Il compare le système politique à l'entité arboricole Treebeard, sage mais trop lent pour réagir à temps. Les hobbits représentent ceux qui, comme Anthropic, ont tiré la sonnette d'alarme, tandis que l'armée approchante symbolise la menace d'une IA non contrôlée. Amodei prédit l'émergence de "l'IA Puissante" dans un à deux ans, une entité qu'il décrit comme "un pays de génies dans un centre de données".
Un appel à des audits rigoureux
Jusqu'à présent, Anthropic a soutenu des lois de transparence telles que SB 53 en Californie, RAISE à New York, et SB 315 dans l'Illinois. Cependant, Amodei estime que cela ne suffit plus. Il cite l'exemple de "Claude Mythos Preview", qui a révélé des risques réels pour la cybersécurité et la sécurité nationale. Amodei appelle désormais à des tests obligatoires par des tiers qualifiés dans quatre domaines de risque : la cybersécurité, les armes biologiques, la perte de contrôle sur les systèmes d'IA, et la R&D automatisée. Il propose que les modèles présentant un risque inacceptable puissent être bloqués ou retirés, en s'inspirant des inspections de la FAA pour les aéronefs.
Un cadre strict pour les développeurs de pointe
Le cadre proposé par Anthropic cible spécifiquement les développeurs formant des modèles avec plus de 10^25 FLOP et générant plus de 500 millions de dollars de revenus en IA, ou dépensant plus d'un milliard de dollars par an en recherche sur l'IA. Ces règles incluent des exigences de divulgation, la publication de rapports de risque au moins tous les six mois, et l'embauche d'évaluateurs indépendants sans liens financiers avec les développeurs. Pour éviter le "shopping d'évaluateurs", Anthropic propose un système de notation et d'attribution pour les évaluateurs.
Le cadre comprend également des exigences de sécurité pour les poids des modèles et l'infrastructure, des pénalités civiles pour déclarations fausses, des protections pour les lanceurs d'alerte, et le pouvoir de bloquer des modèles risqués. Anthropic soutient que le Congrès ne devrait préempter la loi des États que s'il crée un régime fédéral au moins aussi strict.
Préparation sociétale et résilience
Anthropic ne se concentre pas uniquement sur les développeurs. La société propose des mesures pour renforcer la résilience sociétale face aux menaces potentielles de l'IA, notamment dans les domaines de la biosécurité et de la cybersécurité. Pour les risques biologiques, Anthropic recommande une approche par niveaux : prévention avec des normes de biosécurité modernisées, détection avec des systèmes d'alerte précoce, et préparation avec des équipements de protection. Dans le domaine de la cybersécurité, les propositions incluent la sécurisation des logiciels open-source et hérités, ainsi que le soutien aux opérateurs d'infrastructures critiques sous-financés.
Un plan par niveaux pour des pertes d'emplois massives
Le cadre économique d'Anthropic adapte ses mesures à la gravité de la perturbation du marché du travail, utilisant le taux de chômage comme déclencheur. Au niveau un (environ 5 %), Anthropic propose des comptes de capital universels créés à la naissance, une assurance salaire, une réforme des licences professionnelles, et des subventions de formation. Le niveau deux (environ 10 %) élargit l'assurance chômage et l'assistance aux besoins fondamentaux. Le niveau trois, où le chômage dépasse des sommets historiques, aborde de nouvelles sources de taxation et des outils de redistribution comme le revenu de base universel.
Une vision géopolitique de l'IA
Amodei voit l'IA non pas comme une simple technologie de consommation, mais comme un élément redéfinissant le terrain géopolitique, comparable aux armes nucléaires. Il plaide pour une coalition démocratique partageant des chaînes d'approvisionnement et des contrôles d'exportation stricts. Cette approche s'aligne sur une logique de guerre froide adaptée à l'ère de l'IA. Amodei avertit que les agences de régulation comme la FDA et l'EMA pourraient être submergées par la recherche accélérée par l'IA. Il appelle à des règles de responsabilité pour les armes autonomes et à une interdiction de leur utilisation domestique.
L'essai souligne que l'inquiétude publique est justifiée et que la transparence sur les risques réels est une responsabilité démocratique. Anthropic a déposé un projet d'introduction en bourse auprès de la SEC début juin et a publié cette semaine Claude Fable 5, le premier modèle public de la classe Mythos.
