L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Un débat complexe sur la surveillance par l'IA
Le débat actuel entre le Département de la Défense des États-Unis et la société d'intelligence artificielle Anthropic met en lumière une question juridique complexe : le gouvernement américain a-t-il le droit de surveiller ses citoyens en utilisant l'intelligence artificielle ? Cette interrogation, bien que cruciale, n'a pas de réponse simple. Plus de dix ans après les révélations d'Edward Snowden sur la collecte massive de métadonnées téléphoniques par la NSA, les États-Unis continuent de naviguer dans un flou entre les perceptions publiques et les autorisations légales.
Le conflit entre Anthropic et le Pentagone
Le point de discorde entre Anthropic et le gouvernement réside dans l'utilisation potentielle de l'IA Claude d'Anthropic par le Pentagone pour analyser de grandes quantités de données commerciales sur les citoyens américains. Anthropic a fermement stipulé que son IA ne devrait pas être utilisée pour la surveillance domestique de masse ni pour le développement d'armes autonomes, ces dernières étant capables de cibler et de tuer sans intervention humaine. Suite à l'échec des négociations, le Pentagone a classé Anthropic comme un risque pour la chaîne d'approvisionnement, une désignation habituellement réservée aux entreprises étrangères perçues comme des menaces pour la sécurité nationale.
OpenAI et son accord initial avec le Pentagone
De son côté, OpenAI, la société derrière le célèbre ChatGPT, avait initialement conclu un accord avec le Pentagone permettant l'utilisation de son IA pour "tous les usages légaux". Cette formulation a suscité des critiques, certains estimant qu'elle laissait la porte ouverte à la surveillance domestique. En réaction, un mouvement de désinstallation massive de ChatGPT a eu lieu, accompagné de manifestations devant le siège d'OpenAI à San Francisco, où les manifestants ont questionné les limites de l'entreprise.
Révision de l'accord par OpenAI
Face à la pression publique, OpenAI a annoncé une révision de son accord, garantissant que son IA ne serait pas utilisée pour la surveillance domestique. La société a également précisé que ses services ne seraient pas mis à disposition des agences de renseignement telles que la NSA. Le PDG d'OpenAI, Sam Altman, a affirmé que la législation actuelle interdit la surveillance domestique par le Département de la Défense, et que leur contrat reflétait simplement cette législation.
Divergence d'opinions sur la légalité de la surveillance
Dario Amodei, PDG d'Anthropic, a exprimé une opinion divergente, affirmant que si une telle surveillance est actuellement légale, c'est uniquement parce que la législation n'a pas encore rattrapé les avancées rapides de l'IA. Cette divergence soulève la question de savoir si le cadre légal actuel est adapté aux capacités technologiques modernes.
La définition légale de la surveillance
La question de savoir si le Pentagone peut légalement surveiller les Américains à l'aide de l'IA dépend de la définition même de la surveillance. Selon Alan Rozenshtein, professeur de droit à l'Université du Minnesota, de nombreuses pratiques que le grand public considère comme de la surveillance ne sont pas nécessairement reconnues comme telles par la loi. Cela inclut l'accès à des informations publiques comme les publications sur les réseaux sociaux, les images de caméras de surveillance et les registres électoraux, ainsi que les données obtenues incidemment lors de la surveillance de ressortissants étrangers.
L'achat de données commerciales par le gouvernement
Le gouvernement a également la possibilité d'acheter des données commerciales auprès d'entreprises, ce qui peut inclure des informations personnelles sensibles telles que la localisation mobile et les historiques de navigation. Des agences comme l'ICE, l'IRS, le FBI et la NSA ont de plus en plus recours à ce marché de données, alimenté par une économie numérique qui collecte les données des utilisateurs pour des raisons publicitaires. Ces ensembles de données permettent au gouvernement d'accéder à des informations qui ne seraient normalement disponibles qu'avec un mandat ou une assignation.
Les limites légales de la collecte de données
Rozenshtein souligne qu'il existe une quantité considérable d'informations que le gouvernement peut collecter sur les citoyens américains sans être limité par la Constitution, notamment le Quatrième Amendement, ni par la législation. Il n'existe pas de restrictions significatives sur l'utilisation que le gouvernement peut faire de ces données.
L'évolution des lois face aux nouvelles technologies
Historiquement, le Quatrième Amendement a été conçu à une époque où la collecte d'informations impliquait une intrusion physique dans les domiciles. Les lois ultérieures, telles que la loi sur la surveillance du renseignement étranger de 1978 et la loi sur la protection de la vie privée des communications électroniques de 1986, ont été adoptées à une époque où la surveillance consistait principalement à écouter des appels téléphoniques et à intercepter des courriels. La plupart des lois régissant la surveillance ont été établies avant l'essor d'Internet, lorsque les gens ne généraient pas de vastes traces de données en ligne et que le gouvernement ne disposait pas d'outils sophistiqués pour analyser ces données.
L'impact de l'IA sur la surveillance
Aujourd'hui, l'intelligence artificielle amplifie considérablement les capacités de surveillance. Elle permet d'agréger des fragments d'informations individuelles pour identifier des schémas, tirer des inférences et construire des profils détaillés de personnes à grande échelle. Tant que le gouvernement collecte ces informations légalement, il peut les utiliser à sa guise, y compris pour les intégrer dans des systèmes d'IA. Rozenshtein conclut que la législation n'a pas encore rattrapé ces évolutions technologiques.