Google AI Overviews : l'illusion de la précision

Google AI Overviews : l'illusion de la précision dans un océan d'erreurs

Il y a près de deux ans, Google a introduit une nouvelle fonctionnalité appelée AI Overviews. Cette innovation repose sur l'intelligence artificielle pour fournir des résumés des résultats de recherche web. Le moteur de cette technologie est Gemini, parmi d'autres systèmes, qui compile et synthétise plusieurs sources d'information pour offrir un condensé accessible aux utilisateurs.

Aujourd'hui, les AI Overviews sont disponibles dans plus de 200 pays et couvrent 40 langues. Cependant, la France n'a pas encore accès à cette fonctionnalité. Malgré cette absence, des histoires circulent déjà sur les erreurs notables produites par ces résumés, comme la fameuse anecdote de la pizza à la colle. Ces récits amusants cachent un problème plus profond et sérieux. Une étude menée par Oumi, une entreprise spécialisée dans l'IA open source, a quantifié ce que beaucoup soupçonnaient : le taux d'erreur des AI Overviews est alarmant, surtout quand on considère le volume de recherches traitées par Google.

Une réponse fausse toutes les dix secondes

L'étude d'Oumi révèle que 90 % des résumés générés par les AI Overviews sont corrects et bien sourcés. Google n'a pas manqué de mettre en avant ce chiffre flatteur. Cependant, ce que l'entreprise ne souligne pas, c'est la signification des 10 % restants. À l'échelle mondiale, cela représente un nombre colossal d'erreurs. Les projections indiquent que Google traitera plus de cinq mille milliards de recherches d'ici 2026. Cela se traduit par des dizaines de millions de réponses potentiellement erronées, soit plusieurs centaines de milliers par minute.

Un autre problème majeur réside dans la conception même des AI Overviews. Une question posée deux fois peut générer deux réponses différentes, l'une correcte et l'autre non. L'utilisateur, confronté à ces variations, ne sait pas toujours quelle réponse est fiable. De plus, ces résumés apparaissent en haut de la page de résultats, avant même les liens et les sources, captant ainsi l'attention des internautes.

Un risque accru de désinformation

Les AI Overviews ne priorisent pas les sources en fonction de leur fiabilité. Elles agrègent des contenus de l'ensemble du web sans discrimination. Par exemple, Facebook et Reddit figurent parmi les sources les plus fréquemment citées, respectivement en deuxième et quatrième positions. Cela signifie que des informations provenant de sources peu fiables peuvent être mises sur un pied d'égalité avec des publications scientifiques reconnues.

Cette approche ouvre la porte à des manipulations par des acteurs malveillants. Puisque les AI Overviews choisissent les sources basées sur des critères de popularité et d'accessibilité plutôt que de fiabilité, il est possible de tromper le système. En créant un site, en publiant des fausses informations et en générant artificiellement du trafic, un individu peut influencer les résumés générés par l'IA.

Toute personne maîtrisant les techniques de référencement et disposant de ressources pour acheter du trafic peut ainsi créer des résumés trompeurs. Ces encadrés, consultés par des milliards d'utilisateurs, deviennent alors des sources d'autorité, même si les informations qu'ils contiennent sont fausses.

Réponses de Google

Face aux critiques, Google a réagi par l'intermédiaire de son porte-parole, Ned Adriance. Dans une déclaration au New York Times, il a affirmé que « la grande majorité des spams [NDLR : faux contenus] » est bloquée par les systèmes de Google et que « la plupart de ces exemples correspondent à des recherches que les gens ne feraient pas vraiment ». En d'autres termes, Google minimise l'importance des erreurs en les qualifiant de non représentatives.

Cette réponse soulève des questions sur la manière dont Google perçoit les erreurs. Si elles existent, elles ne sont pas statistiquement significatives ; si elles sont graves, elles sont considérées comme improbables.

Bien que Google inclue un avertissement sous les encadrés AI Overviews, indiquant que « L’IA peut commettre des erreurs, vérifiez les réponses », peu d'utilisateurs prennent réellement cette mise en garde en considération. La majorité des internautes ne lit pas les conditions générales ou les mentions légales et passe en moyenne 15 secondes sur une page de résultats pour obtenir rapidement l'information recherchée.

Cet avertissement semble exister principalement pour que Google puisse se protéger juridiquement en cas de litige lié à une fausse information ayant causé un préjudice. Depuis sa création en 1998, Google a toujours mis l'accent sur l'indexation précise du web, mais ces récentes erreurs des AI Overviews remettent en question cette mission fondamentale.