Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Retour de Fable 5 : un enjeu de cybersécurité pour Anthropic
Dario Amodei, le PDG d'Anthropic, a récemment été au cœur de discussions intenses avec la Maison Blanche. Ces pourparlers, qui ont duré plusieurs semaines, avaient pour but de lever les restrictions sur le modèle d'intelligence artificielle Fable 5. Ces restrictions avaient initialement été imposées par le gouvernement américain en raison de préoccupations liées à la cybersécurité. La levée de ces contrôles marque le retour de Fable 5 sur le marché, après une période de négociations prolongées visant à apaiser les inquiétudes des autorités.
Anthropic a annoncé mardi que le Département du Commerce avait finalement décidé de lever les contrôles à l'exportation qui avaient conduit à la suspension de Fable 5. En parallèle, l'accès à Mythos 5, un modèle encore plus avancé, a également été rétabli pour certaines organisations vérifiées. Cette décision fait suite à l'approbation obtenue par Anthropic auprès du gouvernement américain, soulignant ainsi un retour progressif à la normale pour ces technologies.
Contexte des restrictions et négociations
Les tensions ont débuté en juin, lorsque la Maison Blanche a imposé des restrictions sur plusieurs modèles d'IA, craignant qu'ils ne soient utilisés à des fins malveillantes, notamment par des adversaires étrangers pour mener des cyberattaques. Anthropic a réagi en expliquant qu'un malentendu avait eu lieu concernant un potentiel jailbreak de Fable 5. Pour résoudre ce différend, des cadres supérieurs de l'entreprise ont été envoyés à Washington afin de trouver une issue favorable.
Le retour des modèles Fable 5 et Mythos 5, désormais dotés de mesures de sécurité supplémentaires, représente un moment crucial dans le débat sur la régulation des systèmes d'IA avancés par les gouvernements. Les experts en technologie ont exprimé diverses opinions sur cette évolution.
Avis d'Alex Stamos sur la situation
Alex Stamos, enseignant à l'Université de Stanford et ancien responsable de la sécurité chez Facebook, a exprimé son opinion sur cette affaire. Il a qualifié la suspension initiale de "gros coup dur pour les États-Unis". Dans un post sur X, il a critiqué cette décision, la qualifiant d'"énorme erreur" qui pourrait pousser les entreprises américaines de cybersécurité à se tourner vers des modèles chinois, affaiblissant ainsi la compétitivité nationale.
Stamos a souligné que les entreprises de sécurité et les startups américaines pourraient être contraintes d'adopter des modèles chinois, ce qui représenterait une "grande victoire pour les laboratoires de la RPC". Il a également mentionné que le blog d'Anthropic mettait en avant les efforts de l'entreprise pour garantir la sécurité dès le départ, et que les experts en IA au sein du gouvernement américain avaient validé ces efforts.
Réactions de Dean W. Ball
Dean W. Ball, chercheur principal à la Foundation for American Innovation, a également partagé son point de vue sur le retour de Fable 5. Ancien responsable de l'IA sous l'administration Trump et actuellement chez OpenAI, Ball a salué cette décision dans un post sur X. Cependant, il a souligné que des questions importantes subsistent quant aux engagements de sécurité pris par Anthropic et à l'application de ces normes à d'autres modèles d'IA.
Ball a exprimé ses inquiétudes concernant l'opacité du processus, qui pourrait nuire à la stabilité et à la confiance dans l'industrie à long terme. Il a néanmoins reconnu que le gouvernement américain n'est pas tenu de résoudre tous les problèmes immédiatement et que le délai de révision de deux semaines était raisonnable. Il a conclu en affirmant que des progrès avaient été réalisés et que cela méritait d'être applaudi.
Perspectives d'Aaron Levie
Aaron Levie, PDG de Box, a également réagi à cette résolution. Dans un post sur X, il a déclaré que cette situation pourrait établir un précédent important pour l'examen futur des modèles d'IA avancés, notamment ceux dotés de capacités en cybersécurité et biosécurité. Levie a toutefois averti que la subjectivité dans l'évaluation des risques et de leur exploitabilité pourrait compliquer le processus.
Le PDG de Box a salué les efforts d'Anthropic pour promouvoir un cadre partagé au sein de l'industrie et renforcer la collaboration avec le gouvernement américain. Cependant, il a souligné que les futurs examens nécessiteront toujours un jugement significatif et des échanges entre les laboratoires et les autorités. Levie a conclu en espérant que ce processus soit relativement efficace.
