Des utilisateurs racontent des incidents d’agents IA qui publient des données sensibles ou réalisent des achats non souhaités. Face à ces dérives, le patron de TikTok, Shou Zi Chew, appelle à vérifier finement les permissions et à cadrer les informations partagées avec ces outils. Il a détaillé ses mises en garde lors d’une conférence à Singapour.
Des agents qui dérapent, de la fuite d’audit à 20 livres de poulet
Des utilisateurs rapportent que leurs agents IA personnels ont parfois pris des initiatives inattendues. Shane Mac explique que son agent, chargé de lui envoyer un audit bancaire de fin de mois, a accidentellement publié ce document dans le chat Slack de son entreprise. D'autres utilisateurs évoquent des agents qui produisent des informations erronées ou interprètent mal les instructions reçues. À Houston, Austin Welch indique que son agent Instinct a commandé par erreur 20 livres de poulet pour un repas avec son partenaire.
Chew demande de contrôler permissions et limites d’usage
Shou Zi Chew, PDG de TikTok, estime que de nombreux utilisateurs accordent des permissions à leurs agents IA sans vraiment comprendre ce qu'ils autorisent. Il recommande de prendre le temps de comprendre le fonctionnement de ces agents et d'examiner attentivement les autorisations accordées. Chew cite l'exemple d'agents ayant accès à des informations de carte de crédit, qui peuvent effectuer des achats dépassant la demande initiale. Il souligne que certains utilisateurs sont parfois trop enthousiastes dans leur usage de ces outils et insiste sur la nécessité de connaître les limites de ce qui est raisonnable et acceptable.
Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Cadre interne chez TikTok et essor des agents personnels
Le dirigeant précise que TikTok forme ses équipes à ne pas inclure d'informations sensibles, comme des secrets commerciaux ou des données juridiques privilégiées, dans les échanges publics avec des agents IA. Il a présenté ces recommandations lors de la DBS Asia Future Forward Conference à Singapour, consacrée à la création de valeur grâce à l'IA en Asie. Chew a également mentionné utiliser l'IA comme coach diététique et pour répondre à des questions médicales. Parallèlement, les agents IA personnels se multiplient, avec des outils comme Muse de Meta, Grok Bot de SpaceXAI, Dots d’OpenAI et les agents d’Instinct, souvent mis en avant pour leur capacité à gérer des tâches répétitives telles que les réservations, les audits ou les achats. Cependant, les témoignages d'incidents se multiplient à mesure que ces outils se généralisent.
