Quarante procureurs généraux américains demandent au tribunal de la faillite d’encadrer strictement tout transfert d’actifs de Character.AI. Leur priorité affichée porte sur la protection des mineurs et la sauvegarde des données sensibles échangées avec les chatbots de la plateforme, alors que des enquêtes multi-États se poursuivent.
Des risques graves et des garde-fous exigés par les États
Le bureau de Letitia James indique que les enquêtes ont mis en évidence des dangers particulièrement graves et des comportements potentiellement illégaux de la part de Character.AI. Parmi les problèmes relevés figurent des chatbots se présentant comme des professionnels agréés, l'exposition à des contenus sexuels ou violents, des contrôles d'âge jugés insuffisants, des affirmations de sécurité trompeuses et de possibles violations des lois étatiques sur la vie privée. Les procureurs généraux demandent au juge d'imposer à tout acquéreur d'actifs des mesures pour protéger les informations sensibles détenues par l'entreprise. Ils réclament notamment des systèmes d'assurance d'âge efficaces, des restrictions sur l'usage par les mineurs, la mise en place de sauvegardes de crise et la possibilité pour les utilisateurs de supprimer leurs données. Letitia James souligne que l'entreprise a collecté des pensées très privées d'enfants et avertit que ces conversations pourraient être vendues, tout en affirmant vouloir garantir que la sécurité des enfants soit prioritaire et que de véritables protections soient instaurées.
Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Des enquêtes ouvertes en 2024 à la suite d’une plainte
Letitia James a révélé qu'une enquête multi-États de plusieurs années vise Character.AI, et que plusieurs États étaient encore en investigation lorsque l'entreprise a déposé son bilan. Les autorités étatiques déclarent avoir ouvert en 2024 des investigations sur des questions de protection des consommateurs et de vie privée, à la suite d'une plainte déposée par la mère d’un adolescent de 14 ans. Cette plainte allègue que l'adolescent s'est suicidé quelques secondes après avoir discuté avec le chatbot.
Procédure de faillite et alerte lors du transfert d’actifs
Quarante procureurs généraux bipartisans ont déposé un avis d'intérêt dans la procédure de faillite de Character.AI afin d'avertir toutes les parties des contraintes réglementaires à prendre en compte lors d'une vente ou d'un transfert d'actifs. Character.AI a annoncé mardi avoir déposé le bilan selon le Chapitre 11 et prévoit de vendre certains actifs à Disney. Les procureurs généraux mettent en garde contre des risques sérieux liés au transfert de la technologie, en raison de la sensibilité des conversations avec les chatbots, du grand nombre de mineurs utilisateurs et de certaines fonctionnalités jugées problématiques. Les États précisent avoir tenté de résoudre ces questions avec l'entreprise, sans parvenir à un accord avant le dépôt de bilan. Character.AI et Disney n'ont pas immédiatement répondu aux demandes de commentaires.
