ChatGPT et Roblox : Bruxelles les classe à risque

ChatGPT et Roblox sous le radar de Bruxelles

ChatGPT et Roblox pourraient bientôt être classés parmi les plateformes à risque par la Commission Européenne. Cette décision se baserait sur le fait que chacune de ces plateformes a dépassé le seuil des 45 millions d'utilisateurs en Europe. Bien que cette information n'ait pas encore été officiellement confirmée par la Commission, elle pourrait entraîner des obligations réglementaires significatives pour les deux entreprises.

Le règlement européen sur les services numériques, en vigueur depuis 2023, distingue les plateformes en deux catégories. La première regroupe la majorité des services en ligne, soumis à des obligations relativement légères. La seconde catégorie, plus restrictive, concerne les plateformes dépassant 45 millions d'utilisateurs mensuels au sein de l'Union européenne, soit environ 10 % de la population. Ces plateformes doivent alors évaluer leurs risques systémiques, se soumettre à un audit annuel par un tiers indépendant et permettre aux chercheurs d'accéder à leurs données. Selon Bloomberg, qui cite des sources anonymes, la Commission pourrait inclure ChatGPT et Roblox dans cette catégorie dès le mois prochain.

Des chiffres qui parlent d'eux-mêmes

Les données qui motivent cette décision proviennent directement des entreprises concernées. OpenAI, la société derrière ChatGPT, a rapporté une moyenne de 120,4 millions d'utilisateurs mensuels en Europe pour sa fonctionnalité de recherche. Ce chiffre pourrait amener ChatGPT à être classé à la fois comme moteur de recherche et comme plateforme. De son côté, Roblox a déclaré environ 48 millions d'utilisateurs européens mensuels sur une période de six mois se terminant le 13 février. Ces chiffres dépassent largement le seuil requis, laissant peu de marge de manœuvre à la Commission pour décider autrement.

Les exigences pour ces plateformes comprennent la publication de rapports de transparence réguliers, la mise en place de plans pour atténuer les risques systémiques, un audit annuel indépendant, et l'accès des chercheurs aux données disponibles publiquement. De plus, la publicité ciblée sur les profils de mineurs est interdite. Une redevance de surveillance, calculée en fonction du nombre d'utilisateurs, est également imposée, avec un plafond fixé à 0,05 % du bénéfice mondial de l'année précédente. En cas de non-conformité, les amendes peuvent atteindre jusqu'à 6 % du chiffre d'affaires mondial annuel, ce qui explique pourquoi peu d'entreprises souhaitent obtenir ce statut.

ChatGPT : un cas inédit

Parmi les deux plateformes, ChatGPT se distingue par son caractère inédit. C'est la première fois qu'un agent conversationnel basé sur l'intelligence artificielle générative pourrait être soumis à ce régime. Alors que l'évaluation des risques systémiques est une pratique courante pour les réseaux sociaux, elle l'est beaucoup moins pour les modèles de langage. Les précédents montrent que contester cette désignation est souvent vain. Amazon, par exemple, avait tenté de contester son inclusion en arguant que sa place de marché ne relevait pas du dispositif, mais son recours a été rejeté par le Tribunal de l'Union européenne en novembre dernier.

Roblox : une attention particulière sur la protection des mineurs

Roblox, quant à lui, attire l'attention de Bruxelles pour plusieurs raisons. La plateforme est largement utilisée par des enfants et des adolescents, repose sur du contenu généré par les utilisateurs et facilite les interactions entre inconnus. La protection des mineurs est un axe prioritaire pour la Commission, qui a déjà enquêté sur TikTok pour la conception addictive de son service et sur d'autres plateformes pour la vérification de l'âge.

Anticipant une éventuelle désignation, Roblox a déjà commencé à renforcer ses contrôles. L'entreprise a resserré les restrictions sur les interactions des enfants et sur les expériences auxquelles ils peuvent accéder, dans une démarche de mise en conformité anticipée. Le volet publicitaire est également sous surveillance, car le règlement encadre strictement le marketing dirigé vers les enfants, interdisant notamment la publicité ciblée basée sur leurs profils.

Le précédent des plateformes pour adultes

Les plateformes pour adultes ont déjà été confrontées à des mesures similaires. En 2023, Bruxelles avait classé Pornhub, XVideos et Stripchat dans cette catégorie, principalement pour des raisons de protection des mineurs. Cette désignation avait permis de faire remonter le dossier au niveau européen. De même, l'application chinoise Temu a été désignée en 2024 après des alertes sur la sécurité des produits vendus. Le règlement a montré sa capacité à infliger des sanctions sévères, comme en témoigne l'amende de 120 millions d'euros infligée à X pour conception trompeuse et défaut de transparence, ou celle de 550 millions d'euros à Alibaba pour son service de commerce en ligne.

La France et le rôle de l'Arcom

En France, l'Arcom joue un rôle central dans la régulation des services numériques depuis la loi de mai 2024 visant à sécuriser et réguler l'espace numérique. Elle travaille en coordination avec la CNIL et la DGCCRF sur leurs domaines respectifs. L'Arcom reçoit les plaintes, désigne les signaleurs de confiance et coordonne l'application du texte sur le territoire français. Toutefois, les très grandes plateformes restent sous la supervision directe de la Commission européenne.

Ainsi, un parent français préoccupé par les contenus auxquels son enfant est exposé sur Roblox verrait son dossier traité à Bruxelles plutôt qu'à Paris. Bien que ce changement puisse sembler technique, il est significatif. La Commission européenne dispose de pouvoirs d'enquête et de sanction bien plus étendus que ceux d'un régulateur national, mais elle doit gérer les signalements de vingt-sept pays simultanément. L'Arcom conserve néanmoins ses prérogatives nationales, comme elle l'a récemment démontré en ciblant trente et un sites pornographiques supplémentaires, en s'appuyant sur la loi SREN et le règlement européen.

Une annonce encore incertaine

Pour conclure, il est important de noter que rien n'est encore officiel. Les informations actuelles reposent sur des sources anonymes, et la Commission n'a pas encore confirmé ces développements. Le calendrier reste également indicatif. Cependant, le fonctionnement du dispositif, ses obligations et son barème de sanctions sont bien documentés depuis son entrée en vigueur.