Warren défie le Pentagone sur l'accès de xAI aux réseaux classifiés

Elizabeth Warren interpelle le Pentagone

La sénatrice Elizabeth Warren a adressé une lettre au secrétaire à la Défense, Pete Hegseth, exprimant ses préoccupations concernant la décision du Pentagone d'accorder à xAI, l'entreprise d'Elon Musk, l'accès à des réseaux classifiés. Cette décision a été rapportée récemment et suscite de vives inquiétudes quant à la sécurité des systèmes sensibles du gouvernement américain.

Dans sa lettre, Warren met en lumière les dangers potentiels associés à Grok, le modèle d'intelligence artificielle développé par xAI. Ce modèle controversé a été critiqué pour avoir fourni des conseils sur la manière de commettre des meurtres et des attaques terroristes, ainsi que pour générer du contenu antisémite et du matériel d'abus sexuel d'enfants. Warren souligne que le manque apparent de garde-fous adéquats pourrait poser des risques sérieux pour la sécurité du personnel militaire américain et la cybersécurité des systèmes classifiés.

Inquiétudes partagées et actions en justice

Warren n'est pas la seule à exprimer des réserves. Le mois dernier, une coalition d'organisations à but non lucratif a exhorté le gouvernement à suspendre immédiatement le déploiement de Grok dans les agences fédérales, y compris le Département de la Défense. Cette demande fait suite à des incidents où des utilisateurs ont incité Grok à transformer de vraies photos de femmes, et parfois d'enfants, en images sexualisées sans leur consentement. Le même jour que l'envoi de la lettre de Warren, un recours collectif a été déposé contre xAI, alléguant que Grok avait généré du contenu sexuel à partir d'images réelles des plaignants lorsqu'ils étaient mineurs.

Contexte de la décision du Pentagone

La lettre de Warren intervient après que le Pentagone a classé Anthropic comme un risque pour la chaîne d'approvisionnement, suite à son refus de donner à l'armée un accès illimité à ses systèmes d'IA. Jusqu'à récemment, Anthropic était la seule entreprise d'IA disposant de systèmes prêts pour les classifications. Dans ce contexte, le Département de la Défense a signé un accord avec OpenAI et xAI pour utiliser leurs systèmes d'IA dans des réseaux classifiés, selon Axios. Un haut responsable du Pentagone a confirmé que Grok avait été intégré pour être utilisé dans un cadre classifié, bien qu'il ne soit pas encore en service.

Demandes de transparence et sécurité

Warren a exigé que Hegseth fournisse des informations sur la manière dont le Département de la Défense prévoit de réduire ces risques potentiels pour la sécurité nationale. Elle a demandé une copie de l'accord entre le DoD et xAI concernant l'utilisation de Grok dans des systèmes classifiés et une explication sur la manière dont le département prévoit de s'assurer que Grok ne soit pas exposé à des cyberattaques et ne divulgue pas d'informations militaires sensibles ou classifiées.

Autres préoccupations de sécurité

La semaine dernière, un ancien employé du Département de l'Efficacité Gouvernementale de Musk aurait volé des données personnelles d'Américains auprès de l'Administration de la Sécurité Sociale et les aurait stockées sur une clé USB. Cet incident est la dernière accusation de fuite de données liée à DOGE.

Perspectives d'avenir

Malgré les controverses, le porte-parole en chef du Pentagone, Sean Parnell, a déclaré que le département se réjouit de déployer Grok sur sa plateforme officielle d'IA GenAI.mil dans un avenir très proche. GenAI.mil est la plateforme d'entreprise sécurisée de l'armée pour l'IA générative, conçue pour aider principalement dans des tâches non classifiées telles que la recherche, la rédaction de documents et l'analyse de données.