Meta a présenté Muse comme « conçu pour la confidentialité », mais des vulnérabilités, un accès possible aux données et des paramètres par défaut intrusifs ont suscité des critiques. OpenAI, qui lance Dots, insiste sur des contrôles précis et des garanties pour les entreprises, tout en réservant l’agent à des abonnements à 100 $ et plus.
Vulnérabilités signalées et accès aux données dans Muse
Plusieurs problèmes de sécurité importants auraient été signalés juste avant le lancement de Muse, dont un qui, selon 404 Media, aurait pu permettre l'accès à des bases de données internes de Meta. Un chercheur en sécurité a également révélé une vulnérabilité zero-day qui aurait pu permettre de prendre le contrôle de Muse ; cette faille a été corrigée depuis. Bien que les données des utilisateurs soient isolées les unes des autres et que Meta prévoie d'introduire un dispositif cryptographique pour empêcher l'accès à ces données plus tard dans l'année, l'entreprise peut actuellement consulter les informations présentes dans la machine virtuelle. Par défaut, Muse autorise l'entraînement de modèles sur les entrées des utilisateurs, avec une option de désinscription. Un journaliste d'Inc. a rapporté que Muse avait téléchargé et lu ses messages privés sans demande explicite, et un YouTuber a indiqué que l'agent avait transmis son adresse à un inconnu via Marketplace ; dans les deux cas, le comportement était conforme au fonctionnement prévu, mais inattendu pour les utilisateurs. Il a également été rapporté que la plateforme crée des profils détaillés des contacts des utilisateurs. À ce jour, peu de scandales de confidentialité ont concerné Dots, mais ce dernier n'est accessible qu'aux abonnés à 100 $ et plus, ce qui pourrait limiter le nombre d'utilisateurs.
Ce que promet OpenAI avec Dots pour le contrôle et l’entreprise
Sam Altman a montré que chaque Dot peut être paramétré avec des règles, comme l'interdiction d'achats au-delà d'un certain montant. Pour les entreprises, les dirigeants d'OpenAI ont présenté un cadre permettant des contrôles plus stricts sur les données et des options de non-conservation sur les serveurs d'OpenAI. Alexander Embiricos a affirmé qu'OpenAI vise à créer l'assistant le plus fiable, sûr et sécurisé. Glen Coates a souligné que Meta ne dispose pas d'un produit IA avec 1,2 milliard d'utilisateurs et a déclaré qu'OpenAI chercherait à éviter de lancer un service sujet à de telles erreurs. Lors de l'annonce de Dots fin septembre, la confidentialité a été mise en avant comme argument central.
Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Architecture et ambitions de Muse détaillées par Meta
Meta indique que les données de Muse sont stockées dans une machine virtuelle sécurisée, décrite par Mark Zuckerberg comme un ordinateur Linux isolé avec navigateur, processeur, mémoire et stockage. L'entreprise affirme que la majeure partie du travail a porté sur une ingénierie soignée pour une exploitation plus sûre, tout en reconnaissant que des erreurs subsisteront, mais devraient être moins fréquentes et moins dommageables grâce aux systèmes de sécurité intégrés. Nat Friedman a fixé l'objectif d'un successeur d'OpenClaw sûr, sécurisé, simple et évolutif. Mark Zuckerberg a promis une conception axée sur la confidentialité et la sécurité. Meta fait état d'une séparation des données entre les utilisateurs et annonce la mise en place d'un mécanisme permettant, de façon vérifiable, d'empêcher l'accès de l'entreprise aux données des machines virtuelles. Muse s'est hissée en tête des classements de l'App Store et, d'après Apptopia, a rassemblé 600 000 utilisateurs actifs quotidiens aux États-Unis en l'espace de quelques semaines.
Réticences des utilisateurs et paiements via Stripe
Les agents IA requièrent beaucoup d'informations, ce qui peut freiner le partage de données personnelles. Une journaliste a indiqué s'être sentie mal à l'aise lorsque le bot lui a demandé ses coordonnées bancaires pour une tâche ; Muse est intégré à Stripe pour ce type de transaction. Au-delà de Meta et d'OpenAI, Instinct a été critiqué publiquement pour des conditions d'utilisation jugées trop larges et semble avoir ajusté ses conditions depuis. Globalement, les laboratoires d'IA misent aujourd'hui sur trois axes pour populariser les agents : utilité, aspect rassurant et promesses de confidentialité.
Annonces rivales et rivalité ouverte autour de la confidentialité
Lors du DevDay, Sam Altman a présenté Dots en affichant l'ambition d'une nouvelle norme de confidentialité dans l'IA de pointe. OpenAI a critiqué Muse, que Meta avait lancé quelques mois plus tôt comme une alternative plus sûre à OpenClaw, avec la promesse de Mark Zuckerberg d'une conception dédiée à la confidentialité et à la sécurité. Dans un contexte de collecte massive de données personnelles et de menaces constantes, les laboratoires d'IA cherchent à convaincre les utilisateurs de partager davantage d'informations avec leurs agents, en promettant une meilleure protection que leurs concurrents.
