Le Pentagone est-il autorisé à surveiller les Américains avec l'IA ?

Le Pentagone est-il autorisé à surveiller les Américains avec l'IA ?

Le conflit public en cours entre le Département de la Défense et la société d'IA Anthropic soulève une question profonde et encore sans réponse : la loi autorise-t-elle réellement le gouvernement américain à mener une surveillance de masse sur les Américains ? Étonnamment, la réponse n'est pas simple. Plus d'une décennie après qu'Edward Snowden a révélé la collecte de métadonnées en vrac par la NSA à partir des téléphones des Américains, les États-Unis naviguent toujours dans un fossé entre ce que les gens ordinaires pensent et ce que la loi permet.

Le point de tension dans l'affrontement entre Anthropic et le gouvernement était le désir du Pentagone d'utiliser l'IA Claude d'Anthropic pour analyser des données commerciales en vrac sur les Américains. Anthropic a exigé que son IA ne soit pas utilisée pour la surveillance domestique de masse (ni pour des armes autonomes, qui sont des machines pouvant tuer des cibles sans supervision humaine). Une semaine après l'échec des négociations, le Pentagone a désigné Anthropic comme un risque pour la chaîne d'approvisionnement, une étiquette généralement réservée aux entreprises étrangères qui représentent une menace pour la sécurité nationale.

Pendant ce temps, OpenAI, la société d'IA concurrente derrière ChatGPT, a conclu un accord qui permettait au Pentagone d'utiliser son IA pour « tous les usages légaux » — une formulation que les critiques estiment avoir laissé la porte ouverte à la surveillance domestique. Le week-end suivant, les utilisateurs ont désinstallé ChatGPT en masse. Des manifestants ont inscrit des messages autour du siège d'OpenAI à San Francisco : « Quelles sont vos limites ? »

OpenAI a annoncé lundi qu'elle avait révisé son accord pour s'assurer que son IA ne sera pas utilisée pour la surveillance domestique. La société a ajouté que ses services ne seront pas utilisés par des agences de renseignement, comme la NSA.

Le PDG Sam Altman a suggéré que la loi actuelle interdit la surveillance domestique par le Département de la Défense (appelé parfois le Département de la Guerre) et que le contrat d'OpenAI devait simplement faire référence à cette loi. « Le DoW adhère à ces principes, les reflète dans la loi et la politique, et nous les avons intégrés dans notre accord », a-t-il écrit sur X. Le PDG d'Anthropic, Dario Amodei, a soutenu le contraire. « Dans la mesure où une telle surveillance est actuellement légale, c'est uniquement parce que la loi n'a pas encore rattrapé les capacités en rapide expansion de l'IA », a-t-il écrit dans une déclaration politique.

Alors, qui a raison ?

La loi permet-elle au Pentagone de surveiller les Américains en utilisant l'IA ?

La réponse dépend de ce que nous considérons comme de la surveillance. « Beaucoup de choses que les gens normaux considèrent comme une recherche ou une surveillance … ne sont pas réellement considérées comme telles par la loi », déclare Alan Rozenshtein, professeur de droit à l'Université du Minnesota. Cela signifie que les informations publiques — telles que les publications sur les réseaux sociaux, les images de caméras de surveillance et les dossiers d'inscription des électeurs — sont accessibles. Il en va de même pour les informations sur les Américains obtenues de manière incidente lors de la surveillance de ressortissants étrangers.

Plus particulièrement, le gouvernement peut acheter des données commerciales auprès d'entreprises, ce qui peut inclure des informations personnelles sensibles telles que la localisation mobile et les historiques de navigation. Ces dernières années, des agences comme l'ICE, l'IRS, le FBI et la NSA ont de plus en plus exploité ce marché de données, alimenté par une économie internet qui récolte les données des utilisateurs à des fins publicitaires. Ces ensembles de données permettent au gouvernement d'accéder à des informations qui pourraient ne pas être disponibles sans mandat ou assignation, qui sont normalement requis pour obtenir des données personnelles sensibles.

« Il y a une énorme quantité d'informations que le gouvernement peut collecter sur les Américains qui ne sont pas réglementées ni par la Constitution, qui est le Quatrième Amendement, ni par la loi », explique Rozenshtein. Et il n'y a pas de limites significatives sur ce que le gouvernement peut faire avec toutes ces données.

C'est parce que jusqu'aux dernières décennies, les gens ne généraient pas de vastes nuages de données qui ouvraient de nouvelles possibilités de surveillance. Le Quatrième Amendement, qui protège contre les perquisitions et saisies déraisonnables, a été rédigé à une époque où la collecte d'informations signifiait entrer chez les gens.

Des lois ultérieures, comme la loi sur la surveillance du renseignement étranger de 1978 ou la loi sur la protection de la vie privée des communications électroniques de 1986, ont été adoptées à une époque où la surveillance impliquait l'écoute des appels téléphoniques et l'interception des courriels. La majorité des lois régissant la surveillance étaient en vigueur avant l'explosion d'Internet. Nous ne générions pas de vastes traces de données en ligne, et le gouvernement n'avait pas d'outils sophistiqués pour analyser ces données.

Maintenant, nous le faisons, et l'IA amplifie le type de surveillance qui peut être effectuée. « Ce que l'IA peut faire, c'est qu'elle peut prendre beaucoup d'informations, aucune d'entre elles n'étant en soi sensible, et donc aucune d'entre elles n'étant réglementée, et elle peut donner au gouvernement beaucoup de pouvoirs qu'il n'avait pas auparavant », explique Rozenshtein.

L'IA peut agréger des morceaux d'information individuels pour repérer des modèles, tirer des inférences et construire des profils détaillés de personnes — à grande échelle. Et tant que le gouvernement collecte les informations légalement, il peut faire ce qu'il veut avec ces informations, y compris les alimenter dans des systèmes d'IA. « La loi n'a pas encore rattrapé ces évolutions », conclut Rozenshtein.