Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic restreint l'accès à Mythos pour des raisons de sécurité
Cette semaine, Anthropic a pris la décision de limiter la diffusion de son dernier modèle d'intelligence artificielle, nommé Mythos. La raison invoquée est la capacité exceptionnelle de ce modèle à identifier des failles de sécurité dans les logiciels utilisés par des millions d'utilisateurs à travers le monde, ce qui pourrait potentiellement être exploité par des acteurs malveillants. Plutôt que de rendre Mythos accessible au grand public, Anthropic a choisi de le partager uniquement avec un cercle restreint d'entreprises et d'organisations influentes, telles qu'Amazon Web Services et JPMorgan Chase.
Une stratégie partagée par d'autres géants de l'IA
OpenAI, un autre acteur majeur dans le domaine de l'intelligence artificielle, envisage une approche similaire pour son prochain outil de cybersécurité. L'objectif commun est de permettre à ces grandes entreprises de rester en avance sur les cybercriminels qui pourraient utiliser des modèles de langage sophistiqués pour compromettre des systèmes sécurisés. Cependant, le terme « e-word » dans cette stratégie suggère qu'il pourrait y avoir plus en jeu que la simple cybersécurité.
Les doutes sur l'efficacité de Mythos
Dan Lahav, PDG de la société de cybersécurité IA Irregular, a exprimé des réserves quant à l'impact réel de Mythos lors d'une interview avec TechCrunch en mars, avant même la sortie de Mythos. Selon lui, bien que la détection de vulnérabilités par des outils d'IA soit cruciale, l'importance de ces failles pour un attaquant dépend de nombreux facteurs, notamment leur exploitabilité individuelle ou en combinaison. Lahav se demande si Mythos a réellement découvert des failles exploitables de manière significative.
Comparaison avec d'autres modèles
Anthropic affirme que Mythos surpasse son prédécesseur, Opus, en matière de détection de vulnérabilités. Opus était déjà considéré comme un changement de jeu pour la cybersécurité. Cependant, la startup Aisle a déclaré avoir réussi à reproduire une grande partie des capacités de Mythos en utilisant des modèles plus petits et accessibles. Cela suggère que la cybersécurité ne repose pas sur un modèle unique, mais sur l'adaptation à des tâches spécifiques.
Une stratégie commerciale derrière la limitation
La décision de limiter Mythos à de grandes organisations pourrait également être motivée par des raisons commerciales. En restreignant l'accès, Anthropic crée un effet de levier pour obtenir des contrats lucratifs avec des entreprises, tout en compliquant la tâche des concurrents qui souhaiteraient copier leurs modèles via la distillation. Cette technique permet de former de nouveaux modèles de langage à moindre coût en s'inspirant des modèles existants.
La distillation, une menace pour les laboratoires de pointe
David Crawshaw, PDG de la startup exe.dev, a suggéré que cette limitation est en partie un moyen de protéger les modèles haut de gamme des tentatives de distillation. Selon lui, les modèles de pointe sont désormais contrôlés par des accords d'entreprise, rendant leur accès difficile pour les petits laboratoires. Cette stratégie permet de maintenir les revenus des grandes entreprises tout en reléguant les acteurs de la distillation au second plan.
Une réponse à la concurrence internationale
Cette année, les laboratoires de pointe ont adopté une position plus stricte sur la distillation, notamment face aux tentatives de certaines entreprises chinoises de copier leurs modèles. Trois laboratoires de premier plan — Anthropic, Google et OpenAI — se sont associés pour identifier et bloquer ces distillateurs, selon un rapport de Bloomberg. La distillation menace leur modèle économique en réduisant l'avantage des investissements massifs nécessaires au développement de ces technologies.
Une approche prudente pour l'avenir
La question de savoir si Mythos ou d'autres modèles similaires représentent une menace pour la sécurité d'Internet reste ouverte. Toutefois, un déploiement contrôlé de ces technologies semble être une approche responsable. Anthropic n'a pas répondu aux questions sur un éventuel lien entre cette décision et les préoccupations liées à la distillation, mais il est possible que l'entreprise ait trouvé une manière astucieuse de protéger à la fois Internet et ses intérêts financiers.
