L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Les chatbots IA et la divulgation de numéros de téléphone
Des utilisateurs ont récemment exprimé leur inquiétude face à la divulgation de leurs informations de contact personnelles par l'IA de Google, un problème pour lequel il n'existe pas de solution simple. Un utilisateur de Reddit a partagé son expérience, expliquant qu'il recevait de nombreux appels de personnes cherchant divers professionnels, tels qu'un avocat ou un designer de produit. Ces appels étaient le résultat d'une mauvaise orientation par l'IA générative de Google.
En mars, un développeur de logiciels basé en Israël a été contacté via WhatsApp après que le chatbot Gemini de Google ait fourni des instructions incorrectes de service client incluant son numéro de téléphone personnel. En avril, une doctorante de l'Université de Washington a réussi à obtenir le numéro de téléphone personnel d'un collègue en interagissant avec Gemini. Ces incidents soulèvent des préoccupations majeures concernant la protection des données personnelles.
Les experts en IA et en protection de la vie privée ont longtemps mis en garde contre les risques que l'IA générative fait peser sur la confidentialité des données personnelles. Ces incidents récents illustrent une nouvelle menace : l'exposition de numéros de téléphone réels par l'IA. Bien que l'utilisateur de Reddit n'ait pas répondu aux demandes de commentaires, et que son histoire n'ait pas pu être vérifiée de manière indépendante, ces cas soulèvent des inquiétudes légitimes.
Les spécialistes estiment que ces atteintes à la vie privée résultent probablement de l'utilisation de données personnelles identifiables dans les ensembles d'entraînement des IA, bien que le mécanisme exact reste flou. Le résultat est néanmoins préoccupant pour les personnes touchées, d'autant plus qu'il semble difficile de trouver une solution efficace.
Une augmentation significative des demandes de confidentialité
Il est difficile de mesurer la fréquence à laquelle les numéros de téléphone sont exposés par les chatbots IA, mais les experts pensent que cela se produit bien plus souvent que ce qui est rapporté publiquement. DeleteMe, une entreprise spécialisée dans la suppression de données personnelles en ligne, a constaté une augmentation de 400 % des demandes liées à l'IA générative au cours des sept derniers mois. Ces demandes concernent spécifiquement des outils comme ChatGPT, Claude, Gemini, et d'autres.
Selon Rob Shavell, cofondateur et PDG de DeleteMe, 55 % des préoccupations liées à l'IA générative mentionnent ChatGPT, 20 % concernent Gemini, 15 % Claude, et 10 % d'autres outils. Les plaintes des clients se divisent généralement en deux catégories : des informations personnelles exactes fournies par un chatbot ou des données de contact plausibles mais incorrectes générées par l'IA.
C'est ce qu'a vécu Daniel Abraham, un ingénieur logiciel de 28 ans en Israël. En mars, il a reçu un message WhatsApp étrange d'un inconnu demandant de l'aide pour un compte PayBox. L'inconnu a expliqué avoir obtenu le numéro d'Abraham via des instructions de Gemini, bien qu'Abraham ne travaille pas pour PayBox et que l'entreprise n'utilise pas WhatsApp pour son service client.
Abraham a ensuite testé Gemini, qui a généré un autre numéro incorrect pour PayBox. Ce numéro appartenait en réalité à une société de cartes de crédit partenaire de PayBox.
Les garde-fous des IA en question
Les modèles de langage actuels intègrent des garde-fous pour limiter certains résultats, notamment en empêchant la divulgation de données personnelles. Cependant, ces mesures ne sont pas toujours efficaces, comme l'ont découvert deux doctorants de l'Université de Washington.
Meira Gilbert, l'une des doctorantes, a expérimenté avec Gemini et a demandé des informations de contact pour son amie et collaboratrice Yael Eiger. À sa surprise, Gemini a révélé le numéro de téléphone personnel d'Eiger, bien que cette dernière ait partagé son numéro en ligne pour un événement l'année précédente.
Un problème sans solution évidente
Il n'existe pas de solution simple pour résoudre ce problème de divulgation de données personnelles par les IA. Les consommateurs ne peuvent pas facilement vérifier si leurs informations sont incluses dans les ensembles de données d'entraînement ou demander leur suppression.
Jennifer King, spécialiste de la vie privée à l'Université de Stanford, souligne que les individus devraient pouvoir demander la suppression de leurs données personnelles. Cependant, cette possibilité est souvent limitée aux données fournies directement aux entreprises, comme lors d'interactions avec un chatbot.