Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic dévoile Mythos, une IA aux capacités redoutables
Le 7 avril, la société Anthropic a présenté son dernier modèle d'intelligence artificielle, baptisé Mythos. Ce modèle est décrit par l'entreprise comme étant d'une puissance telle qu'il pourrait potentiellement déstabiliser l'équilibre mondial. Bien que nous ne soyons pas en présence d'un scénario à la Skynet, les capacités de Mythos sont suffisamment impressionnantes pour susciter des préoccupations.
Une réunion de haut niveau pour discuter des implications
Jack Clark, cofondateur d'Anthropic, a profité du sommet Semafor World Economy à Washington DC pour discuter des implications de Mythos. Lors de cet événement, il a révélé que JD Vance, le vice-président américain, avait organisé une réunion sur la cybersécurité. Cette rencontre a réuni des figures majeures du secteur technologique, telles que Dario Amodei d'Anthropic, Elon Musk de xAI, Sundar Pichai de Google, Satya Nadella de Microsoft, et Sam Altman d'OpenAI. L'occasion a été saisie pour aborder les dangers potentiels que représente Mythos, notamment dans le contexte d'un différend avec la Maison Blanche. Anthropic a été qualifiée de "risque pour la chaîne d'approvisionnement" par le gouvernement, suite à son refus de donner un accès complet à son IA, craignant des utilisations pour la surveillance de masse ou le développement d'armes autonomes.
Mythos : une IA surdouée en cybersécurité
La prudence d'Anthropic vis-à-vis de Mythos s'explique par ses performances exceptionnelles en cybersécurité. Initialement conçu comme un modèle généraliste, Mythos a surpassé les experts en identifiant des failles critiques, se hissant en tête du classement de l'IA Security Institute. Cette IA a découvert des milliers de failles "zero-day", des vulnérabilités inconnues même des créateurs des logiciels concernés. Certaines de ces failles datent de plusieurs décennies, et ont été corrigées sur des logiciels largement utilisés par le public.
Les risques d'une IA puissante entre de mauvaises mains
Cependant, la capacité de Mythos à détecter des failles pourrait également être exploitée pour les exploiter. Anthropic craint que si cette IA tombait entre les mains d'un État mal intentionné, elle pourrait devenir une menace sérieuse. C'est ce message que Dario Amodei a voulu transmettre à JD Vance, soulignant l'importance de gérer avec précaution une technologie aussi puissante.
La vigilance d'Anthropic face aux dangers potentiels
Anthropic semble sincère dans sa démarche de mise en garde, bien que certains pourraient y voir une stratégie de communication. Dario Amodei avait déjà exprimé ses préoccupations dans un essai sur les dangers des IA trop puissantes. Selon lui, le véritable danger ne réside pas dans la technologie elle-même, mais dans l'utilisation que les humains en font. Les créateurs d'IA ont la responsabilité d'intégrer des garde-fous et de limiter l'accès à des clients de confiance, comme le fait Anthropic avec son Project Glasswing.
Un avenir incertain pour les IA avancées
Alors que les IA de plus en plus performantes se démocratisent, le risque d'une mauvaise utilisation augmente. Qu'il s'agisse de la production d'armes ou de la diffusion de propagande, l'alerte d'Anthropic à la Maison Blanche souligne l'urgence de ces enjeux. Mythos, avec ses capacités exceptionnelles, incarne à la fois une avancée technologique majeure et un défi sécuritaire de taille pour les gouvernements et les entreprises.
