Google tenu responsable en Allemagne pour les erreurs de ses IA

Un tribunal régional en Allemagne a récemment rendu un jugement qui pourrait avoir des répercussions significatives sur la manière dont les entreprises technologiques gèrent les contenus générés par l'intelligence artificielle. Google a été jugé responsable des fausses informations contenues dans les résumés de recherche produits par son IA, après que celle-ci a incorrectement lié deux éditeurs de Munich à des pratiques commerciales douteuses.

Le tribunal a statué que ces résumés, bien qu'automatiquement générés, sont considérés comme du contenu propre à Google. Par conséquent, les protections juridiques habituellement accordées aux moteurs de recherche ne s'appliquent pas dans ce cas. En effet, les résumés d'IA ne se contentent pas de lister des résultats de recherche, mais créent de nouvelles déclarations en reformulant et en évaluant les informations disponibles.

Le tribunal a classé Google comme un contrefacteur direct, car le "résumé d'IA" est son propre contenu, et non simplement une liste de résultats de recherche. Une injonction temporaire a été émise, interdisant à Google de continuer à diffuser ces fausses affirmations. Le tribunal a rejeté l'argument de Google selon lequel les utilisateurs devraient vérifier eux-mêmes la véracité des informations, soulignant que les résumés d'IA sont souvent pris pour argent comptant par les utilisateurs.

Le jugement remet également en question la protection de la liberté d'expression pour le contenu généré par l'IA. Selon le tribunal, ces contenus ne reflètent pas une opinion humaine mais sont le résultat d'algorithmes, ce qui réduit leur protection sous cet angle. Le tribunal a établi un parallèle avec la loi sur la presse, où les éditeurs sont responsables des teasers qui sont compréhensibles en eux-mêmes, même si les lecteurs ne lisent jamais l'article complet.

Le tribunal a souligné un vide juridique, indiquant que si Google n'était responsable que des violations évidentes, les victimes n'auraient aucun recours juridique réel lorsque l'IA fait de fausses affirmations. Les tiers dont les sites ont servi de sources n'avaient même pas fait les déclarations en question, laissant peu de recours pour les victimes.

Le tribunal de Munich a également examiné les décisions existantes de la Cour fédérale de justice allemande (BGH), qui avait accordé aux moteurs de recherche traditionnels et à l'autocomplétion une responsabilité limitée. La BGH avait soutenu que les opérateurs de moteurs de recherche n'étaient responsables qu'en tant que contrefacteurs indirects car ils ne faisaient que rendre le contenu de tiers trouvable. Un devoir proactif de vérifier les résultats menacerait le fonctionnement des moteurs de recherche. Cependant, le tribunal de Munich a conclu que ce raisonnement ne s'applique pas aux résumés d'IA. Un moteur de recherche classique se contente de pointer vers des sites externes. Mais les résumés d'IA génèrent des "déclarations indépendantes, nouvelles et substantielles" en évaluant et en combinant le contenu de divers sites tiers. Et seul Google peut vérifier ces déclarations, a déclaré le tribunal, "au moins en comparant les sites tiers sous-jacents avec ses propres déclarations basées sur eux".

Le tribunal a également noté que le résumé d'IA n'est "en aucun cas absolument nécessaire" pour utiliser Internet. Les résultats de recherche traditionnels aident déjà les utilisateurs à trier les informations, le résumé d'IA n'est qu'une fonctionnalité supplémentaire. Lors de l'audience, Google a soutenu que les utilisateurs pouvaient vérifier eux-mêmes les sources liées pour vérifier si le résumé de l'IA était correct. Les utilisateurs savaient généralement "que les informations générées par l'IA ne doivent pas être crues aveuglément", a affirmé l'entreprise. C'est une déclaration remarquable compte tenu de l'échelle à laquelle Google propose des résumés d'IA. Ce n'est pas non plus tout à fait vrai, car le lien entre les sources et le contenu généré n'est pas toujours présent.

Le tribunal a rejeté cela. La possibilité de réfuter une déclaration par des recherches supplémentaires ne "s'exonère pas régulièrement de la responsabilité pour cette déclaration". Le résumé d'IA était "compréhensible en soi" et contenait "une déclaration autonome avec un contenu indépendamment compréhensible et sans référence à d'autres interprétations possibles ou même à du contenu peu fiable". Des études montrent que les utilisateurs cliquent presque jamais sur les sources dans les résumés d'IA, ce qui soutient le raisonnement du tribunal.

En conséquence, Google ne pouvait pas invoquer les protections des fournisseurs d'hébergement en vertu de la Loi sur les services numériques ni se reposer sur le processus standard de notification et de retrait pour les moteurs de recherche. Le tribunal a statué en faveur des plaignants sur la plupart des points. Il a interdit les affirmations concernant des arnaques, des liens avec des entreprises douteuses, des pièges d'abonnement, des appels téléphoniques qui n'ont jamais eu lieu, et le manque de disponibilité. Seules deux demandes mineures ont été rejetées.

Le risque de violations répétées demeurait, même si les textes spécifiques n'étaient plus affichés. Google n'avait pas émis de déclaration de cessation avec une clause pénale, et rien n'empêchait les algorithmes de générer à nouveau les mêmes déclarations. Google couvre 80 % des frais juridiques ; les plaignants paient chacun 10 %.

Le jugement de Munich va bien au-delà de cette affaire. Une analyse de la startup d'IA Oumi pour le New York Times a révélé que les résumés d'IA de Google avec le modèle actuel Gemini 3 répondaient correctement 91 % du temps. C'est suffisamment solide pour un usage quotidien par la plupart des gens. Mais à l'échelle de Google, cela signifie tout de même des millions de réponses incorrectes chaque heure. Si un nombre suffisant de ces contenus erronés diffame des entreprises ou des individus, cela pourrait devenir un problème juridique sérieux non seulement pour Google, mais aussi pour d'autres fournisseurs de services similaires comme ChatGPT, Claude ou Perplexity.

L'analyse d'Oumi a également révélé que 56 % des réponses correctes de Gemini 3 ne pouvaient pas être étayées par les sources liées par Google. L'IA fournit des réponses dont les origines ne peuvent pas être retracées par les utilisateurs. Le tribunal de Munich a précisément abordé ce problème : l'IA fait ses propres affirmations qui n'apparaissent dans aucune source liée, et l'opérateur doit en répondre. Reste à voir si ce raisonnement tiendra en appel, et Google n'a pas commenté le jugement. Mais si cela prend de l'ampleur à l'international, les conséquences pourraient toucher non seulement Google mais chaque fournisseur d'IA dont les systèmes paraphrasent le contenu du web.