La recherche en IA te passionne ?
Les papers et avancées qui comptent, expliqués simplement, chaque soir. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic face à la pression gouvernementale
En avril dernier, Anthropic a dévoilé un modèle d'intelligence artificielle nommé Mythos, conçu pour interagir avec du code informatique à un niveau si avancé qu'il pourrait potentiellement poser des risques significatifs pour la cybersécurité mondiale. Afin d'évaluer ces risques, Anthropic a permis à un groupe restreint d'experts en cybersécurité d'accéder à Mythos. Peu après, une version modifiée, baptisée Fable, a été rendue publique le 9 juin, présentée comme étant plus sûre. Cependant, dès le vendredi suivant, le gouvernement fédéral américain a jugé que Fable représentait une menace pour la sécurité nationale, imposant ainsi des restrictions à son exportation. En réponse, Anthropic a rapidement retiré l'accès à ces deux modèles.
L'influence des "doomers" et la réaction gouvernementale
Depuis plusieurs années, les "doomers", ceux qui s'inquiètent des conséquences catastrophiques de l'IA, ont plaidé pour une intervention gouvernementale. Leur souhait s'est concrétisé, non pas à cause d'une IA échappant à tout contrôle ou d'une arme biologique, mais en raison d'un modèle d'IA particulièrement performant en matière de codage. Cette intervention ressemble davantage à une réaction précipitée qu'à un plan de sécurité bien structuré.
Les implications de l'intervention d'Amazon
Un élément notable de cette affaire est l'intervention d'Andy Jassy, PDG d'Amazon, qui a alerté les autorités sur les dangers potentiels de Fable. Amazon, ayant des intérêts dans Anthropic tout en développant ses propres modèles concurrents, a joué un rôle crucial dans cette décision gouvernementale. Il est possible que cette interdiction soit temporaire et ne résiste pas à un examen juridique approfondi, notamment parce qu'il n'est pas certain que l'accès à Fable puisse être considéré comme une "exportation" au sens légal.
Conséquences internationales et rôle de la Chine
L'interdiction a déjà des répercussions internationales. Certains, comme le politicien français Bruno Retailleau, y voient un "signal d'alarme" pour que l'Europe renforce son développement en IA. Cependant, la concurrence avec la Chine complique cette ambition. Les modèles open-source chinois, performants et économiques, peuvent être utilisés sans restrictions, ce qui attire non seulement les entreprises cherchant à éviter les décisions unilatérales de Washington, mais aussi les cybercriminels. Cette situation pourrait pousser des entreprises américaines et européennes à se tourner vers ces modèles chinois, comme le montre la montée en flèche des actions de la startup chinoise Zhipu.
Risques pour la cybersécurité et débat sur la non-prolifération
Paradoxalement, la restriction de l'accès aux modèles d'Anthropic pourrait accroître la vulnérabilité des États-Unis face aux cyberattaques. Des experts en cybersécurité ont exprimé leurs inquiétudes dans une lettre ouverte, affirmant que les modèles d'Anthropic aidaient à développer des défenses efficaces. Ils estiment que ces modèles ne sont pas plus dangereux que d'autres technologies avancées disponibles sur le marché. Cette situation illustre les défis de l'application du concept de non-prolifération aux logiciels, une approche habituellement réservée aux armes nucléaires.
Réactions politiques et avenir de la réglementation
Enfin, la réaction des législateurs américains est à surveiller de près. La récente querelle entre Anthropic et le gouvernement, notamment concernant l'utilisation de ses modèles par le Pentagone, a déjà conduit à l'introduction de nouveaux projets de loi visant à encadrer l'usage de l'IA militaire. Actuellement, les entreprises technologiques et la Maison Blanche dominent le débat sur l'IA. Bien que des discussions sur une réglementation fédérale accrue soient en cours, les législateurs peinent à définir des règles claires, notamment sur l'utilisation des chatbots par les enfants et la vérification de la sécurité des modèles d'IA par le gouvernement. Chaque action décisive de la Maison Blanche intensifie la pression pour une réglementation plus stricte.
En résumé, les prévisions restent incertaines alors que les positions de l'administration américaine sur l'IA évoluent constamment. Sous la présidence de Trump, l'accent était mis sur la dérégulation pour favoriser l'innovation technologique. Aujourd'hui, la Maison Blanche considère la startup d'IA la plus précieuse comme une menace pour la sécurité nationale. Les prochains mois pourraient réserver de nouvelles surprises dans ce domaine en constante évolution.
