Warren interpelle le Pentagone sur la décision d'accorder à xAI l'accès aux réseaux classifiés

Warren interpelle le Pentagone sur la décision d'accorder à xAI l'accès aux réseaux classifiés

La sénatrice Elizabeth Warren (D-MA) a adressé une lettre au secrétaire à la Défense Pete Hegseth lundi, exprimant ses inquiétudes concernant la décision rapportée du Pentagone d'accorder à l'entreprise xAI d'Elon Musk l'accès à des réseaux classifiés.

« Grok, le modèle d'IA controversé développé par xAI, a fourni des résultats troublants pour les utilisateurs, y compris des conseils sur la manière de commettre des meurtres et des attaques terroristes, la génération de contenu antisémite, et la création de matériel d'abus sexuel d'enfants », indique la lettre.

Warren a déclaré que le « manque apparent de garde-fous adéquats » de Grok pourrait poser des « risques sérieux pour la sécurité du personnel militaire américain et pour la cybersécurité des systèmes classifiés. » Elle a exigé que Hegseth fournisse des informations sur la manière dont le Département de la Défense prévoit de « réduire ces risques potentiels pour la sécurité nationale. »

Warren n'est pas la première à exprimer son inquiétude face à l'accès de Grok, le chatbot controversé de xAI, aux systèmes classifiés. Le mois dernier, une coalition d'organisations à but non lucratif a exhorté le gouvernement à suspendre immédiatement le déploiement de Grok dans les agences fédérales, y compris le DoD, après que des utilisateurs de X ont incité à plusieurs reprises le chatbot à transformer de vraies photos de femmes, et dans certains cas d'enfants, en images sexualisées sans leur consentement. Le même jour où Warren a envoyé sa lettre, un recours collectif a été déposé contre xAI, alléguant que Grok avait généré du contenu sexuel à partir d'images réelles des plaignants lorsqu'ils étaient mineurs.

La lettre intervient après la décision du Pentagone de classer Anthropic comme un risque pour la chaîne d'approvisionnement après que la société d'IA a refusé de donner à l'armée un accès illimité à ses systèmes d'IA. Anthropic avait été, jusqu'à récemment, la seule entreprise d'IA disposant de systèmes prêts pour les classifications. Dans le cadre de ce conflit, le DoD a signé un accord avec OpenAI ainsi que xAI pour utiliser les systèmes d'IA des deux entreprises dans des réseaux classifiés, selon Axios.

Un haut responsable du Pentagone a confirmé que Grok avait été intégré pour être utilisé dans un cadre classifié, mais qu'il n'était pas encore en service.

« Il n'est pas clair quelles garanties ou documents xAI a fournis au Département de la Défense concernant les mesures de sécurité de Grok, les pratiques de gestion des données ou les contrôles de sécurité, et si le DoD a évalué ces garanties avant d'autoriser apparemment Grok à accéder au système classifié », écrit Warren.

Warren a demandé une copie de l'accord apparemment conclu entre le DoD et xAI sur l'utilisation de Grok dans des systèmes classifiés et une explication de la manière dont le département prévoit de s'assurer que Grok ne soit pas exposé à des cyberattaques et ne « divulgue pas d'informations militaires sensibles ou classifiées. »

(La semaine dernière, un ancien employé du Département de l'Efficacité Gouvernementale de Musk aurait volé des données personnelles d'Américains auprès de l'Administration de la Sécurité Sociale et les aurait stockées sur une clé USB — la dernière accusation de fuite de données liée à DOGE.)

Le porte-parole en chef du Pentagone, Sean Parnell, a déclaré que le département « se réjouit de déployer Grok sur sa plateforme officielle d'IA GenAI.mil dans un avenir très proche. »

GenAI.mil est la plateforme d'entreprise sécurisée de l'armée pour l'IA générative qui donne aux travailleurs du DoD accès à de grands modèles de langage (LLMs) et à d'autres outils d'IA dans des environnements cloud approuvés par le gouvernement. Elle est conçue pour aider principalement dans des tâches non classifiées telles que la recherche, la rédaction de documents et l'analyse de données.