Chatbots et vie privée : confidences et accès légal

Des conversations avec des IA grand public ont déjà été versées à des dossiers judiciaires, et certaines entreprises scrutent les messageries internes pour nourrir leurs modèles. Tandis que plus de la moitié des répondants à une enquête ignorent l’usage d’entraînement, des chercheurs alertent sur la mémorisation des LLM. Des réglages existent, ainsi que des alternatives locales sans cloud.

Des conversations déjà utilisées en justice et au travail

Des transcriptions de ChatGPT ont été utilisées dans une enquête sur un double meurtre en Caroline du Sud plus tôt cette année, ainsi que dans une affaire d’incendie criminel de Palisades l’année dernière. Une conversation avec l’IA de Snapchat a également servi de preuve dans un procès pour meurtre en 2024. Sam Altman, PDG d’OpenAI, a indiqué que des échanges sensibles avec ChatGPT pourraient devoir être produits en cas de procédure judiciaire. Les fournisseurs comme Anthropic, Google et OpenAI peuvent être légalement requis de transmettre des données de chat aux autorités, une réalité connue de seulement 25% des répondants à l’enquête DuckDuckGo. En entreprise, la surveillance ne se limite pas aux réseaux sociaux : des comptes d’IA utilisés via un accès professionnel peuvent être consultés par l’employeur, et mettre des informations internes dans un chat privé est considéré comme une faute, bien que deux travailleurs sur cinq l’aient déjà fait selon une enquête récente. Plusieurs groupes, dont Walmart, Delta, T-Mobile, Chevron et Starbucks, utilisent des systèmes d’IA pour évaluer la positivité ou la toxicité des employés en analysant des plateformes comme Slack ou Teams, et certaines organisations demandent à publier les messages dans des canaux publics pour alimenter l’entraînement de modèles.

Des données réutilisées pour entraîner les modèles

Sauf désinscription, les échanges avec des chatbots sont enregistrés et peuvent être réutilisés pour l’entraînement des modèles d’IA. L’année dernière, des centaines de conversations avec Claude d’Anthropic sont apparues dans des résultats de recherche Google, montrant la persistance de ces données. L’entraînement de l’IA repose sur de grands volumes de contenus, qu’il s’agisse de matériaux publiés, d’enregistrements audio ou vidéo accessibles, mais aussi de discussions d’utilisateurs. En 2025, six entreprises — Amazon (Nova), Anthropic (Claude), Google (Gemini), Meta (Meta AI), Microsoft (Copilot) et OpenAI (ChatGPT) — ont réintroduit des chats d’utilisateurs pour un entraînement supplémentaire, sans proposer systématiquement une option de désinscription.

Risque technique : divulgations involontaires et mémorisation

Un chercheur de l’Université de Wake Forest a montré que des agents s’appuyant sur des modèles de langage peuvent divulguer des données, intentionnellement ou non. Pour Uttara Ananthakrishnan, professeure à l’Université de Washington, la mémorisation des données par les LLM est un point critique : un modèle peut fournir à deux personnes une réponse identique contenant des éléments identifiants, sans en avoir conscience.

Ce que perçoivent (ou ignorent) les utilisateurs

Plus de la moitié des répondants à l’enquête DuckDuckGo ne savent pas, ou ne sont pas sûrs, que leurs conversations servent à l’entraînement de l’IA, et près de trois sur cinq se disent mal à l’aise avec cet usage ; 30% se disent très mal à l’aise. Un tiers des personnes déclarent confier aux chatbots des secrets qu’elles ne partagent pas avec leurs proches ou des professionnels, une proportion qui grimpe à 56% chez les passionnés d’IA. Parmi les parents, 43% disent en révéler davantage à l’IA qu’aux personnes de confiance, y compris leurs enfants. Beaucoup ne connaissent ni les usages potentiels de leurs données, ni les réglages permettant d’éviter leur enregistrement. Près de 40% n’ont aucune confiance dans les entreprises, et près de 50% n’ont aucune confiance dans le gouvernement américain pour protéger ces données.

Narratif commercial et réalité de la confidentialité

DuckDuckGo estime trompeurs les messages cherchant à présenter les chatbots comme des confidents sûrs, car les échanges ne sont généralement pas privés. MemX, un agent de mémoire IA, résume cette réalité en qualifiant ces discussions d’enregistrements commerciaux, non de consultations confidentielles. En pratique, des informations partagées peuvent être réutilisées pour l’entraînement, consultées par les autorités sur réquisition, ou accessibles à un employeur dans un cadre professionnel.

Réduire l’empreinte : réglages et alternatives locales

De nombreux services proposent des paramètres pour empêcher que les échanges ne soient stockés pour l’entraînement, et un guide de Blake Stimac décrit comment procéder pour Gemini, Claude, ChatGPT et Grok ; chez Meta, la démarche s’apparente davantage à une demande qu’à une désinscription effective. Il est recommandé de considérer les chats comme publics, d’éviter de détailler son état mental et d’exporter régulièrement ses données pour vérifier ce qui est stocké. Des options fonctionnant hors ligne et localement, comme Jan.ai, Ollama, LM Studio, PrivateGPT ou GPT4All, permettent d’éviter le cloud. Uttara Ananthakrishnan souligne que les interfaces de chat créent un sentiment d’intimité qui incite à livrer des pensées très personnelles, alors même que certains redoutent qu’elles puissent finir par devenir, malgré eux, des archives accessibles.