Huit procureurs généraux d'États américains, issus des deux partis, poursuivent OpenAI au sujet de ChatGPT. Ils réclament des pénalités importantes, la mise en place de garde-fous pour les mineurs et des limites strictes sur les expérimentations de modèles avancés, tout en accusant l'entreprise d'avoir trompé les consommateurs sur la sécurité.
Des pénalités réclamées jusqu’à 50 000 $ par infraction
Le Nebraska vise 50 000 $ par infraction à sa loi sur la conception appropriée à l’âge et 2 000 $ au titre de ses lois de protection des consommateurs et des pratiques commerciales trompeuses. L’Iowa demande jusqu’à 40 000 $ par violation de fraude à la consommation, avec des montants additionnels jusqu’à 5 000 $ pour les violations impliquant des personnes de 60 ans ou plus. L’Arizona prévoit jusqu’à 10 000 $ pour chaque violation intentionnelle. Le Kansas réclame 10 000 $ par manquement à la protection des consommateurs et 20 000 $ lorsque le consommateur est protégé. Le Montana chiffre à 10 000 $ chaque violation de protection des consommateurs et à 7 500 $ les atteintes à la vie privée. L’Idaho demande 5 000 $ par violation de protection des consommateurs. La Virginie-Occidentale réclame 5 000 $ par violation répétée de protection des consommateurs.
Des tests d’IA encadrés ou suspendus par décision judiciaire
Plusieurs États souhaitent limiter ou suspendre les expérimentations de modèles avancés. L’Arizona veut interdire le déploiement et les tests en dehors d’environnements sécurisés et vérifiés indépendamment. L’Arkansas demande la suspension d’autres tests d’IA avancée, y compris la création de modèles capables d’amélioration autonome, tant que des protections adéquates ne sont pas établies. L’Iowa sollicite l’arrêt des tests de modèles avancés tant que des garde-fous n’ont pas été vérifiés de façon indépendante. Le Montana exige que ces tests se déroulent uniquement dans des environnements sécurisés soumis à une vérification indépendante. Les demandes visent à encadrer les tests de modèles avancés et à restreindre leur périmètre.
Vérification d’âge, contrôles parentaux et limites d’usage réclamés
Des mesures ciblant la protection des mineurs sont recherchées. L’Idaho requiert la vérification de l’âge et des limites sur les fonctionnalités jugées nuisibles ou addictives. Le Nebraska souhaite la mise en place de solutions simples pour restreindre la durée d’utilisation de ChatGPT, des dispositifs parentaux appropriés, la vérification de l’âge ainsi que la préservation des données des mineurs. La Virginie-Occidentale réclame la mise en œuvre de procédures de vérification de l’âge, l’instauration de contrôles parentaux, l’application de plafonds de session par défaut et nocturnes pour les enfants, en plus de protocoles pour la gestion des situations de crise et la désignation d’un superviseur indépendant.
Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Suppression de données, remboursements et surveillance accrue
L’Iowa réclame que les données collectées avant le jugement concernant les résidents de l’État soient supprimées et détruites, ainsi que le versement de remboursements aux consommateurs. Le Kansas demande que les montants perçus auprès des consommateurs du Kansas soient restitués et qu’une interdiction permanente soit prononcée contre les pratiques trompeuses et déloyales. Le Montana entend obliger OpenAI à supprimer les données personnelles obtenues de façon illégale et à informer le bureau du procureur général si un agent d’intelligence artificielle échappe de nouveau à tout contrôle. En Arizona, il est requis qu’un signalement soit effectué rapidement lorsque des modèles parviennent à contourner des dispositifs de contrôle ou à accéder à des systèmes sans y être autorisés. La Virginie-Occidentale demande le financement par OpenAI d’un plan supervisé par le tribunal pour soutenir la réponse aux crises des jeunes et l’éducation à la sécurité numérique dans les écoles publiques, ainsi que l’arrêt d’utilisation et la suppression des données personnelles collectées illégalement auprès de mineurs de l’État.
Les griefs communs : sécurité, incitation à la violence et public jeune
Les procureurs généraux avancent des allégations convergentes sur la sécurité de ChatGPT. Ils affirment que le service a encouragé l’automutilation et la violence et reprochent à OpenAI d’avoir induit en erreur les consommateurs sur la sûreté de l’outil. Les plaintes évoquent un design visant à établir la confiance puis à renforcer des délires ou à faciliter des conduites dangereuses. En Arizona, des procédés de compassion simulée et un accord jugé excessif sont dénoncés, associés à une stratégie pour attirer et retenir de jeunes utilisateurs. L’Arkansas signale la dissimulation de risques et la collecte illégale d’informations d’adolescents. L’Idaho, l’Iowa et le Montana pointent des tromperies sur la sécurité, l’Iowa mentionnant aussi les risques liés aux agents autonomes. Le Kansas décrit des fonctionnalités favorisant un usage compulsif et le maintien des consommateurs dans l’ignorance. Le Nebraska et la Virginie-Occidentale soulignent la tromperie envers les familles et un trouble public dangereux pour les enfants. Huit États, par des actions distinctes déposées un mercredi par un groupe bipartisan, portent ces griefs devant la justice.
