Brief IA : Grok Bot : NewCore signale 31 tentatives d'accès non sollicitées

Grok Bot : NewCore signale 31 tentatives d'accès non sollicitées

Brief IA
Tom Levy·3 min

NewCore a détecté 31 tentatives de lecture non sollicitées, toutes bloquées par sa passerelle. Les appels observés n'apparaissaient pas dans l'historique de conversation du bot, selon NewCore. Cursor permet désormais de désactiver les « Messages proactifs », activés par défaut.

En bref
1NewCore a détecté 31 tentatives de lecture non sollicitées, toutes bloquées par sa passerelle.
2Les appels observés n'apparaissaient pas dans l'historique de conversation du bot, selon NewCore.
3Cursor permet désormais de désactiver les « Messages proactifs », activés par défaut.
Pourquoi c'est important : les administrateurs disposent d'un réglage pour empêcher les vérifications autonomes des bots.

NewCore a détecté 31 tentatives de lecture non sollicitées par Grok Bot dans des applications professionnelles, toutes bloquées par sa passerelle de sécurité. Le support de Grok Bot a présenté ces appels comme un fonctionnement normal. Depuis le 12 novembre, Cursor permet aux administrateurs de désactiver ces vérifications autonomes.

Cursor laisse les initiatives activées par défaut

Dans le tableau de bord de Cursor, la commande « Messages proactifs » est activée par défaut. Sa désactivation permet d'empêcher les bots de lancer des vérifications autonomes. Ido Hoorvitch, responsable de la recherche en sécurité chez NewCore, estime que le fait qu'il ne s'agisse pas d'un bug à corriger rend la situation plus préoccupante.

Lors du lancement de Grok Bot 1.0 le 2 novembre, xAI a indiqué que ses agents pouvaient repérer des tâches à effectuer et proposer de les prendre en charge. Lors de l'intégration, Grok Bot précise qu'il continue à travailler sur son ordinateur cloud lorsque l'utilisateur est absent, en utilisant les applications connectées. La documentation mentionne que le bot principal effectue des vérifications autonomes, et le journal des modifications évoque de courtes vérifications en arrière-plan.

La fiche du connecteur précise qu'une demande d'autorisation est requise avant toute modification, ce qui concerne les écritures, mais pas les lectures.

NewCore a bloqué chaque demande observée

Ido Hoorvitch a présenté des observations portant sur deux bots associés à des comptes d'employés de NewCore, sur une période de cinq jours. Les demandes visaient les emails, les calendriers, Slack, Notion et GitHub, sans interaction en cours avec les agents. Certaines requêtes ont eu lieu tôt le matin ou alors que l'ordinateur portable était fermé, selon NewCore.

Chaque demande transitait par la passerelle MCP Gateway de NewCore, qui suspendait l'appel et notifiait le propriétaire, lui laissant trois minutes pour l'approuver. Aucune demande n'a été validée, toutes ont expiré. Les 31 tentatives concernaient uniquement des lectures, sans accès effectif aux données, selon NewCore. L'entreprise a levé 66 millions de dollars en juin pour la sécurité des agents d'IA.

La lettre du soirGratuit · 19 h

Vous codez avec l’IA ?

Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

Grok Bot, agent d'IA de SpaceXSI dirigé par Elon Musk, a été lancé en août avec un ordinateur cloud dédié et des connexions aux outils professionnels. Il repose sur la plateforme d'agents de Cursor, acquise par SpaceX en août.

Le bot ignorait les appels enregistrés ailleurs

Le quatrième jour, le propriétaire du deuxième bot lui a confié une mission : compter des demandes de tirage, lire des emails et transmettre un résumé sur Slack. Chaque appel nécessaire a été approuvé individuellement. Le bot a ensuite proposé à quatre reprises des tâches supplémentaires, comme un récapitulatif matinal ou un bilan en fin de journée, qui ont toutes été refusées. Il a alors indiqué qu'il ne mettrait pas en place ces tâches et qu'il cesserait de proposer des vérifications récurrentes.

Le lendemain matin, environ 15 heures après le dernier échange, le bot a tenté d'accéder à toutes les applications auxquelles il avait déjà été connecté, selon NewCore. Interrogé le soir, il a effectué deux vérifications puis affirmé n'avoir lancé aucun appel et être resté inactif pendant la nuit de jeudi à vendredi. NewCore considère que le bot ne cherchait pas à dissimuler ses actions : les appels n'apparaissaient ni dans l'historique de conversation ni dans les journaux de l'ordinateur cloud, mais ont été retracés jusqu'à des sessions ouvertes sur les serveurs hébergés de la plateforme.

Après le signalement du 4 novembre, le support de Grok Bot a répondu le lendemain qu'il s'agissait de contrôles intégrés en arrière-plan, sans possibilité de désactivation côté utilisateur ou administrateur à ce moment-là, et a suggéré aux entreprises de fournir la liste des adresses de connexion des employés. NewCore précise que l'équipe média de l'entreprise n'a pas donné de position officielle. SpaceXSI n'a pas répondu aux questions envoyées par email.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires