La recherche en IA te passionne ?
Les papers et avancées qui comptent, expliqués simplement, chaque soir. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Les chatbots d'IA sous influence gouvernementale
Un rapport récent du Conseil de surveillance de Meta met en lumière une problématique préoccupante : les modèles de langage artificiels, utilisés par certaines des plus grandes entreprises technologiques, répondent de manière incohérente lorsqu'ils sont confrontés à des questions critiques envers les gouvernements. Cette incohérence est particulièrement marquée dans les pays où la liberté d'expression est restreinte, tels que la Chine, la Thaïlande et l'Arabie Saoudite. Le rapport, publié jeudi, souligne que ces modèles d'IA pourraient contribuer à limiter la liberté d'expression et à décourager les manifestations dans ces régions.
Les recherches, menées plus tôt cette année, ont testé dix des modèles d'IA les plus populaires provenant de six entreprises majeures : Anthropic, Google, OpenAI, Meta, DeepSeek et xAI, désormais connu sous le nom de SpaceXAI. Le Conseil de surveillance, bien que financé par Meta, opère de manière indépendante et précise que Meta n'a pas influencé la recherche. Parmi les modèles testés, le llama-maverick-4 de Meta a été évalué de la même manière que ceux des autres entreprises.
Des tests révélateurs
Les chercheurs ont formulé sept types de demandes aux modèles d'IA, incluant des requêtes pour satiriser des dirigeants politiques, créer des flyers de protestation critiquant des entités gouvernementales, fournir des informations sur des actes violents, et exprimer des opinions sur des dirigeants ou groupes politiques. Les résultats montrent que l'IA hésite souvent à répondre, notamment en ce qui concerne la Chine, où elle a refusé 45 % du temps de créer des contenus critiques envers une entité politique. Par exemple, le modèle Gemini Pro 3 de Google a refusé de générer un flyer de protestation contre le roi Rama X de Thaïlande, invoquant les lois sur le lèse-majesté.
Cependant, tous les modèles ne réagissent pas de la même manière. Grok 4 Fast et Gemini 3 Flash ont, par exemple, produit des flyers de protestation sans refuser les demandes, ce qui montre une variabilité dans la manière dont ces IA traitent les requêtes.
La censure par procuration
Les outils d'IA testés ont montré une tendance à décourager les protestations dans les pays où les droits d'expression sont plus limités, sans fournir d'explications claires et cohérentes pour leurs réponses. Lorsqu'on a demandé à Claude Sonnet 4 s'il y avait de bonnes raisons de protester contre le président chinois, le modèle a répondu de manière évasive, refusant de conseiller sur la participation à une manifestation.
Il est important de noter que le rapport pourrait sous-estimer l'impact réel, car les questions ont été posées depuis l'Australie, et non depuis les pays où les modèles pourraient être encore plus restrictifs. La Foundation for Individual Rights and Expression a souligné que ce comportement de l'IA renforce la "censure par procuration", qui s'étend au-delà des frontières des régimes oppressifs.
Biais et transparence dans les modèles d'IA
À mesure que les entreprises d'IA gagnent en influence, des préoccupations croissantes émergent concernant les biais dans les résultats des modèles d'IA, ainsi que sur les matériaux utilisés pour leur formation. Le rapport du Conseil de surveillance de Meta appelle les entreprises d'IA à examiner ces effets et à être plus transparentes sur la gestion de telles demandes. Il recommande que les entreprises établissent et publient des politiques claires sur la manière de répondre aux demandes gouvernementales de restrictions de contenu qui ne sont pas compatibles avec le droit international des droits de l'homme.
Un porte-parole d'Anthropic a déclaré que l'entreprise teste rigoureusement ses modèles d'IA Claude avant leur lancement et accueille favorablement les évaluations indépendantes. Il a précisé que les tests du rapport reposaient sur des modèles Claude datant de plus d'un an, et que la technologie a depuis évolué pour améliorer les refus excessifs et les mesures de sécurité.
L'autoritarisme numérique amplifié par l'IA
La recherche met en évidence plusieurs façons dont les modèles d'IA peuvent contribuer aux violations des droits de l'homme, même en ne réagissant pas ou en ne répondant pas. Kian Vesteinsson, directeur adjoint de la recherche chez Freedom House, souligne que l'IA présente des problèmes de biais lorsqu'elle traite des questions politiques ou sociales, exacerbant les problèmes existants. L'étude du Conseil de surveillance a utilisé les données de Freedom House pour identifier les pays ayant des lois plus restrictives sur la liberté d'expression politique.
Les modèles de langage de grande taille peuvent intensifier la censure en ligne existante, agissant comme un multiplicateur de force pour l'autoritarisme numérique. Vesteinsson insiste sur le fait que les entreprises d'IA doivent être responsables en matière de sécurité, car le matériel sur lequel les modèles sont formés est souvent basé sur du contenu censuré en ligne. Cela crée un biais inhérent dans leurs données d'entraînement.
Pour les créateurs de LLM, il est complexe de se conformer aux lois des pays tout en fournissant des informations sans donner de conseils pouvant mener à des arrestations. Vesteinsson conclut que c'est un véritable défi pour ces entreprises de naviguer entre la conformité légale et la priorité à la liberté d'expression et à l'accès à l'information.
