L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Une attaque éclair sur la plateforme Lilli de McKinsey
La société de sécurité Codewall a récemment démontré la vulnérabilité de la plateforme interne de McKinsey, Lilli, en utilisant un agent d'intelligence artificielle pour obtenir un accès complet en seulement deux heures. Cette intrusion a été rendue possible grâce à une technique d'injection SQL, une méthode de piratage bien connue depuis des décennies.
La plateforme Lilli, utilisée par plus de 43 000 employés de McKinsey pour des tâches stratégiques et analytiques, a été compromise sans nécessiter d'identifiants ou de soutien humain. L'agent IA a réussi à pénétrer le système et à accéder à la base de données de production, révélant ainsi une faille de sécurité significative.
Une vulnérabilité SQL exploitée
Le point d'entrée de cette attaque résidait dans une vulnérabilité d'injection SQL que les outils de sécurité traditionnels n'avaient pas détectée. Bien que les valeurs des requêtes API aient été correctement paramétrées, les noms de champs JSON ont été insérés directement dans les requêtes SQL, permettant à l'agent IA de progresser à travers plus de 15 itérations aveugles. Cette méthode a permis d'extraire progressivement des informations détaillées à partir des messages d'erreur, jusqu'à ce que des données de production soient accessibles.
L'ampleur de l'accès obtenu par l'agent IA est impressionnante : 46,5 millions de messages de chat, 728 000 fichiers et 57 000 comptes utilisateurs ont été exposés, le tout sans aucune authentification requise.
Les commandes IA : une nouvelle cible
L'un des aspects les plus préoccupants de cette découverte est que les commandes régissant le comportement de Lilli étaient stockées dans la même base de données. Cela signifie qu'un attaquant avec un accès en écriture aurait pu modifier ces commandes sans laisser de traces visibles, simplement en utilisant une instruction UPDATE dans un appel HTTP.
Les conséquences potentielles de telles manipulations incluent la corruption de modèles financiers, la manipulation de recommandations stratégiques, et l'exfiltration discrète de données à travers les réponses de l'IA. Cette situation met en lumière une nouvelle surface d'attaque, où les commandes IA deviennent des actifs précieux à protéger.
De plus, l'agent a obtenu accès à 3,68 millions de morceaux de documents RAG, représentant l'ensemble de la base de connaissances alimentant les réponses de Lilli. Des décennies de recherche, de cadres et de méthodologies propriétaires de McKinsey étaient toutes stockées dans une base de données non sécurisée.
Une réponse rapide mais des questions persistantes
McKinsey a réagi rapidement en corrigeant les vulnérabilités le jour même de leur notification, le 1er mars. Une enquête externe n'a trouvé aucune preuve de fuite de données clients ou d'informations confidentielles vers des tiers non autorisés, selon un porte-parole de McKinsey.
Cependant, l'utilisation d'une injection SQL, une technique de piratage datant des années 1990, pour compromettre un système IA moderne soulève des questions sur l'efficacité des mesures de sécurité actuelles. Le fait que cette faille ait persisté pendant deux ans dans une base de données de production sans être détectée par des scanners conventionnels est préoccupant.
Les implications pour la sécurité des systèmes IA
L'analyse de Codewall souligne que les commandes IA sont désormais des cibles de grande valeur. Bien que les entreprises aient investi des décennies à sécuriser leur code et leurs infrastructures, la couche de commandes reste souvent négligée.
Edward Kiledjian, un analyste en sécurité, note que bien que Codewall ait découvert une vulnérabilité sérieuse, l'ampleur de ce qui a été démontré pourrait être exagérée. Codewall, qui commercialise une plateforme pour les tests de sécurité offensifs, a utilisé cet incident comme une démonstration de ses capacités.
La question de la divulgation responsable reste en suspens, notamment en ce qui concerne l'accès à une base de données contenant des millions d'enregistrements utilisateurs. Cet incident rappelle aux entreprises l'importance de traiter la sécurité des systèmes IA avec autant de rigueur que celle de leurs infrastructures traditionnelles.