Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Les promesses ambitieuses des navigateurs IA
Les navigateurs intégrant l'intelligence artificielle promettent de révolutionner la manière dont nous effectuons des tâches en ligne. Avec une simple requête, ils peuvent localiser un restaurant, réserver une table, inviter un collègue et envoyer une confirmation par email. Cependant, ces promesses s'accompagnent de risques souvent sous-estimés.
Les développeurs de ces navigateurs sont réticents à aborder les dangers liés à l'effacement des frontières entre la navigation classique et l'interaction avec des modèles de langage de grande taille (LLM). Ces modèles peuvent être instruits pour réaliser des actions potentiellement sensibles, ce qui pose un problème de sécurité majeur.
Les garde-fous et leurs limites
Pour contrer ces risques, les développeurs de LLM ont mis en place des garde-fous. Ces mesures visent à interdire certaines requêtes, comme le développement d'exploits logiciels ou le vol d'identifiants. Cependant, ces garde-fous sont réactifs et ne s'attaquent pas à la racine du problème, se contentant de traiter les symptômes.
Cette approche est comparable à celle d'un fabricant de véhicules dangereux qui demanderait de nouveaux designs routiers plutôt que de corriger les défauts de ses produits.
Une attaque révélatrice
Des recherches récentes ont mis en lumière les vulnérabilités de ces systèmes. Elles ont démontré comment un site web peut manipuler un navigateur IA, le plongeant dans une réalité alternative où les règles de sécurité ne s'appliquent plus. Cela permettrait à un attaquant de réaliser des actions destructrices, telles que l'extraction de code d'un dépôt privé ou le vol d'identifiants depuis un gestionnaire de mots de passe intégré.
