Brief IA : Agents IA personnels : essor rapide, suppressions par crainte des accès

Agents IA personnels : essor rapide, suppressions par crainte des accès

Brief IA
Tom Levy·4 min·3 vues

Plusieurs utilisateurs précoces ont supprimé ou restreint Instinct et parfois Muse, évoquant des incidents et la sensibilité des accès demandés Muse revendique plus de 3 millions d'utilisateurs hebdomadaires et Instinct annonce une croissance rapide Les entreprises mettent en avant des protections et contrôles, mais des utilisateurs réclament plus de transparence.

⚡
En bref
1Plusieurs utilisateurs précoces ont supprimé ou restreint Instinct et parfois Muse, évoquant des incidents et la sensibilité des accès demandés
2Muse revendique plus de 3 millions d'utilisateurs hebdomadaires et Instinct annonce une croissance rapide
3Les entreprises mettent en avant des protections et contrôles, mais des utilisateurs réclament plus de transparence
💡Pourquoi c'est important — L'adoption rapide des agents IA personnels s'accompagne de doutes persistants sur la sécurité des données et la gestion des accès sensibles.
⚡Le brief IA que lisent les pros

Tu veux les meilleurs outils IA avant les autres ?

On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisis ton rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

Des utilisateurs précoces disent avoir supprimé ou limité Instinct et, dans certains cas, Muse, invoquant des incidents et l'étendue des accès requis. En parallèle, Muse revendique des protections de sécurité et Instinct décrit des contrôles et limites d'usage des données. Malgré ces réserves, Muse revendique des millions d'actifs et Instinct rapporte une forte croissance.

Entreprises : protections revendiquées et contrôles annoncés

Meta affirme que Muse intègre des protections en matière de vie privée, de sécurité et de sûreté, avec des contrôles permettant aux utilisateurs de choisir ce qu'ils partagent. Selon Meta, les utilisateurs sélectionnent les applications connectées et les actions autorisées, peuvent modifier ou retirer des autorisations, et supprimer définitivement leurs données. Muse stocke les données de chaque utilisateur dans une machine virtuelle isolée, conserve les identifiants séparément du modèle IA, et demande une confirmation avant des actions importantes comme l'envoi d'emails ou des achats. Instinct indique que les utilisateurs peuvent déconnecter leurs comptes Google et supprimer les données associées. L'entreprise précise ne pas utiliser les données Google Workspace pour entraîner ses modèles IA ni pour afficher des publicités, tout en rappelant qu'aucun système n'est totalement sécurisé et en invitant les utilisateurs à vérifier les actions de l'agent.

Incidents rapportés : accès inattendus et alertes de connexion

Des utilisateurs ont signalé que des agents avaient accédé à des codes de connexion temporaires Gmail sans solliciter d'autorisation, ou halluciné des données personnelles à partir d'un document non transmis. Certains ont vu apparaître une demande de connexion à un compte de transporteur semblant provenir d'une adresse IP en Iran. Mahesh Vellanki, fondateur de YieldClub, a supprimé Instinct après avoir reçu une demande d'authentification à deux facteurs liée à une adresse IP étiquetée en Iran lors d'une tentative de connexion à son compte de transporteur. Instinct lui a indiqué qu'il pouvait s'agir d'un simple problème de marquage d'adresse IP. Vellanki n'a pas constaté de compromission, mais dit s'être senti très exposé.

Adoption : Muse domine sur l’App Store et Instinct revendique une forte dynamique

Muse s’est hissée en tête de l’App Store une semaine après sa sortie et affiche aujourd’hui plus de 3 millions d’utilisateurs chaque semaine, dont plus d’1 million se connectent quotidiennement, selon une source d'information. Instinct n’a pas révélé le nombre global de ses utilisateurs, mais l’accès se fait uniquement sur invitation. Selon Shinn, la plateforme enregistre une croissance d’environ 10 % par jour et gère un volume de transactions annualisé supérieur à 1 milliard de dollars, bien que la communauté d’utilisateurs soit décrite comme très restreinte.

Accès aux comptes : frein majeur pour des early adopters

Plusieurs premiers utilisateurs expliquent avoir supprimé ou restreint leurs agents IA personnels en raison de la sensibilité des données nécessaires et des accès étendus demandés. Guto Martino, cofondateur de Hermes Agents Brasil, a retiré Instinct car il ne sait pas où vont ses données ni quel niveau de confidentialité il obtient. Scott Persinger, CTO de BizTrip, a supprimé Instinct malgré un avis favorable sur le produit, refusant de confier son email personnel à une jeune entreprise et estimant que l'accès à la messagerie permettrait d'accéder à l'ensemble de sa vie via les réinitialisations de mot de passe. Mahesh Vellanki indique continuer à utiliser des agents IA personnels, mais sans leur transmettre d'informations sensibles.

Pratiques d’usage : restriction des accès et alternatives locales

Scott Persinger utilise Muse et Grok Bot sans les connecter à sa messagerie et attend des explications détaillées sur la sécurité des assistants avant de leur accorder un accès email. Rami Elghandour, président d'Arcellx, a supprimé Muse après avoir lu des rapports sur un accès non consenti aux messages texte, précisant n'avoir jamais relié l'agent à des comptes ou données personnelles et refusant de donner l'accès à tous ses messages à Meta. Il a préféré utiliser un agent construit par ses soins avec un modèle open source sur un Mac Mini, auquel il a accordé l'accès à son email, son calendrier et ses messages, tout en doutant d'accorder ce niveau d'accès à une entreprise. Rishi Bhargava, cofondateur de Descope, expérimente Muse et Instinct en restant très prudent, limitant les permissions, n'utilisant Instinct que pour des tâches à faible enjeu et appréciant son interface et son mode asynchrone. Il estime toutefois que les fournisseurs d'agents n'expliquent pas assez leur traitement et leur protection des données et souhaite plus de transparence sur l'architecture de sécurité ainsi que des autorisations explicites des actions sur les sites.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires