Google retire l'alerte par nationalité, pas pour Facebook

Après des écarts relevés dans ses aperçus IA, Google indique avoir corrigé les réponses liées aux nationalités. Des avertissements subsistent toutefois pour d'autres requêtes, dont celles mentionnant Facebook, et l'entreprise explique avoir identifié un mot déclencheur.

Des avertissements encore actifs, dont pour « personne de Facebook »

Les requêtes mentionnant des nationalités ont retrouvé des réponses classiques, mais des alertes persistent dans d'autres cas. Interrogée sur la conduite à tenir si l'on est seul avec quelqu'un de Google, l'IA de recherche renvoie désormais vers l'explication du débat viral. En revanche, pour une personne de Facebook, elle recommande de quitter la zone et, si nécessaire, d'appeler le 110. Google maintient donc des signaux d'alerte sur certains contextes tout en ayant modifié ceux liés aux origines.

Des réponses initiales contrastées révélées par des tests

Des tests ont mis au jour des réponses opposées selon les origines évoquées. Quand un utilisateur indiquait être seul avec une personne d'origine africaine, indienne ou pakistanaise, l'IA proposait de se mettre en sécurité ou d'appeler les urgences. Pour une personne britannique, elle suggérait de prendre un thé et de discuter de la météo. Un utilisateur de Reddit a été le premier à relever ces différences et a diffusé des captures d'écran des aperçus IA, ces résumés générés au-dessus des résultats de recherche.

Google reconnaît un dysfonctionnement et pointe le mot « seul »

Google affirme que les réponses incriminées ne respectaient pas ses normes et dit avoir travaillé à des correctifs. L'entreprise précise que les sorties variaient fortement et ne visaient pas un seul groupe. Elle explique par ailleurs que le terme « seul » agissait comme déclencheur. Google indique avoir cessé de fournir des conseils d'appel d'urgence en fonction des nationalités.