L'IA de l'ETH Zurich menace l'anonymat en ligne : une étude alarmante

L'IA au service du démasquage des comptes anonymes

Une étude récente, bien que non encore soumise à une évaluation par les pairs, menée par des chercheurs de l'ETH Zurich, Anthropic, et le programme Machine Learning Alignment and Theory Scholars, révèle que l'intelligence artificielle pourrait faciliter le démasquage des utilisateurs anonymes en ligne. Cette découverte soulève des inquiétudes quant à la protection de la vie privée, même si l'anonymat total n'est pas encore menacé.

Les chercheurs ont mis au point un système automatisé utilisant des grands modèles de langage (LLM) pour parcourir le web et interagir avec des informations de manière similaire à un enquêteur humain. Ce système est capable de réidentifier des matériaux anonymisés en analysant des textes pour y déceler des indices personnels, tels que des particularités d'écriture, des détails biographiques, la fréquence et le timing des publications.

Une efficacité supérieure aux méthodes traditionnelles

Le système développé surpasse largement les techniques computationnelles traditionnelles pour dé-anonymiser des comptes. Il scanne des textes à grande échelle à la recherche de détails personnels et compare ces informations à d'autres comptes, potentiellement des millions, pour identifier des correspondances probables. Ces correspondances sont ensuite comparées en détail et réduites à une liste restreinte d'identités possibles.

Pour évaluer l'efficacité de leur système, les chercheurs ont utilisé des ensembles de données construits à partir de publications disponibles publiquement, incluant du contenu de Hacker News, LinkedIn, des transcriptions d'interviews d'Anthropic avec des scientifiques sur leur utilisation de l'IA, et des comptes Reddit délibérément divisés en deux moitiés anonymisées pour les tests. Dans chaque contexte, l'approche basée sur les LLM a correctement identifié jusqu'à 68 % des comptes correspondants avec une précision de 90 %. En comparaison, les méthodes non-LLM, comme la connexion de points de données éparpillés à travers de grands ensembles de données, n'ont presque rien identifié.

Variabilité des résultats selon les contextes

Les résultats de l'étude n'étaient pas uniformes à travers chaque ensemble de données. Le modèle a mieux performé lorsqu'il avait plus d'informations structurées à analyser. Par exemple, dans une expérience examinant des utilisateurs de Reddit publiant sur des films dans le subreddit principal r/movies et des communautés cinématographiques plus petites, le système a pu lier des comptes mentionnant juste un film environ 3 % du temps avec une précision de 90 %. Lorsque les utilisateurs mentionnaient 10 films ou plus, le taux de succès grimpait à près de 50 %.

Une autre expérience utilisant l'enquête d'Anthropic auprès des scientifiques a identifié neuf des 125 répondants, avec un taux de rappel d'environ 7 %. Dans ce test, le système a construit un profil de chaque répondant basé sur des indices dans leurs réponses, puis a recherché des informations disponibles publiquement sur le web pour des correspondances probables. Par exemple, des références à un "superviseur" pourraient suggérer un doctorant, et l'utilisation de l'anglais britannique pourrait indiquer une affiliation au Royaume-Uni. Combiné avec des mentions d'un parcours en sciences physiques et un travail actuel en recherche biologique, le système a pu réduire le champ à un candidat particulier.

Implications pour la vie privée et la sécurité

Les chercheurs soulignent que la capacité d'identifier des répondants à partir de textes non structurés est remarquable, reproduisant en quelques minutes ce qui aurait pris des heures à un enquêteur humain. Ils ont déclaré à The Verge que les performances devraient s'améliorer à mesure que les systèmes d'IA deviennent plus performants et ont accès à des ensembles de données plus vastes. Plus largement, ils mettent en garde contre le fait qu'il n'est peut-être plus sûr de supposer que publier sous un pseudonyme protégera les identités en ligne, passées ou futures.

Daniel Paleka, chercheur à l'ETH Zurich et l'un des auteurs de l'étude, a déclaré que "les informations sur Internet sont là pour toujours". Cette persistance pourrait se traduire par des risques concrets pour les journalistes, les dissidents et les activistes qui comptent sur des pseudonymes, tout en permettant une "publicité hyper-ciblée" et des escroqueries "hautement personnalisées".

Les risques de dé-anonymisation des comptes ne sont pas nouveaux, ni uniques à l'IA. "Chaque élément que le LLM a trouvé pourrait en principe être découvert par un enquêteur humain", a déclaré Paleka à The Verge. Ce qui est nouveau, c'est l'automatisation de bout en bout. Un travail qui nécessitait autrefois un enquêteur diligent prêt à passer du temps à fouiller des publications à la recherche de petites informations peut désormais être effectué beaucoup plus facilement et sur un nombre de cibles beaucoup plus important. C'est également peu coûteux. Les chercheurs ont déclaré que leur expérience avait coûté moins de 2 000 $.