Maison Blanche et Anthropic : normes de sécurité IA en vue

La Maison Blanche et Anthropic s'unissent pour la sécurité de l'IA

Dans un contexte de préoccupations croissantes concernant la sécurité des technologies d'intelligence artificielle, la Maison Blanche et la société Anthropic ont entamé des discussions pour créer un cadre d'évaluation des failles de sécurité de l'IA. Selon des informations exclusives obtenues par POLITICO, les modèles d'IA d'Anthropic, notamment Fable 5 et Mythos 5, sont actuellement soumis à des contrôles d'exportation en raison de vulnérabilités identifiées.

Vers un cadre d'évaluation des risques

Les discussions entre la Maison Blanche et Anthropic visent à établir des référentiels pour évaluer les risques de sécurité liés à l'IA. Ce cadre serait conçu pour évaluer la gravité des failles de sécurité dans les nouveaux modèles d'IA et pourrait guider une éventuelle intervention gouvernementale. Un haut responsable de la Maison Blanche et un fonctionnaire de l'administration, ayant requis l'anonymat, ont partagé ces détails avec POLITICO.

Impact des contrôles d'exportation

La Maison Blanche a récemment imposé des contrôles d'exportation sur Anthropic, obligeant l'entreprise à suspendre l'accès à ses modèles Fable 5 et Mythos 5. Cette décision a été motivée par une faille de sécurité perçue, connue sous le nom de "jailbreak" dans le secteur. Cette situation met en lumière les défis auxquels sont confrontées les entreprises technologiques lorsque leurs innovations dépassent les infrastructures réglementaires existantes.

Divergences sur la gravité des failles

Des désaccords ont émergé entre les responsables de l'administration et Dario Amodei, PDG d'Anthropic, concernant la gravité de la faille de sécurité. Bien que la technologie ait avancé plus rapidement que les capacités gouvernementales à évaluer ces incidents, l'administration s'efforce de mettre en place des garde-fous pour les nouveaux modèles puissants qui pourraient menacer la sécurité économique et nationale s'ils ne sont pas contrôlés.

Comprendre les limites de la sécurité IA

Les négociations entre Anthropic et l'administration reflètent une reconnaissance partagée qu'aucun modèle d'IA ne peut être totalement invulnérable au piratage. Cette réalité a été une partie de la défense initiale d'Anthropic concernant ses modèles. Le gouvernement cherche à établir des règles pour que les entreprises puissent mesurer les risques de sécurité, un sentiment partagé par d'autres entreprises d'IA et des dirigeants internationaux lors des récentes réunions du G7 en France.

Vers un ensemble commun de référentiels

Les discussions, dirigées par Sarah Heck, responsable des politiques publiques chez Anthropic, et Tom Brown, cofondateur, visent à développer un ensemble commun de référentiels. Ces référentiels seraient utilisés pour évaluer de futurs incidents de type "jailbreak", y compris l'étendue des mesures de sécurité contournées, les capacités exposées et les conséquences pratiques de ces violations.

Progrès des négociations

Bien que ni Anthropic ni la Maison Blanche n'aient répondu immédiatement aux demandes de commentaires, le passage à un exercice de définition de normes techniques indique que les négociations avancent. Les contrôles d'exportation sur Anthropic restent en place, mais l'établissement de ces normes pourrait être un signe positif pour l'avenir.

Discussions intensives à Washington

Après un refus initial d'Anthropic de déployer Fable, invoquant une vulnérabilité limitée, la Maison Blanche a imposé des contrôles d'exportation. Cependant, des discussions intensives ont eu lieu au cours du week-end entre des responsables de l'administration et des dirigeants d'Anthropic, y compris Tom Brown, le secrétaire au Commerce Howard Lutnick, et le directeur national de la cybersécurité Sean Cairncross. Ces échanges ont conduit à une semaine de réunions en personne à Washington, où Anthropic a envoyé des chercheurs seniors et des experts en sécurité au département du Commerce pour tenter de résoudre les tensions.