Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Une lettre collective pour la protection des enfants
Plus de 230 organisations et experts ont récemment adressé une lettre à Sundar Pichai, PDG de Google, et Neal Mohan, PDG de YouTube. Cette initiative, menée par l'association Fairplay, vise à interdire les contenus générés par intelligence artificielle sur YouTube Kids. Les signataires, incluant des chercheurs et des pédiatres, soulignent la nécessité de protéger les enfants en empêchant la recommandation de ces vidéos aux moins de 18 ans et en renforçant les contrôles parentaux pour bloquer ces contenus.
Cette démarche intervient peu après l'annonce par Google d'un investissement d'un million de dollars dans Animaj, un studio spécialisé dans la création de contenus animés par IA pour les jeunes publics, y compris les nourrissons. Les auteurs de la lettre utilisent cet exemple pour appuyer leur demande d'une régulation plus stricte.
Les dangers des contenus automatisés pour les enfants
Les signataires de la lettre décrivent les conséquences des recommandations automatiques après le visionnage de vidéos populaires pour enfants, comme "Cocomelon". Ils estiment que près de 40 % des vidéos suggérées sont générées par IA et de qualité médiocre, un phénomène qu'ils appellent "AI Slop". Certaines chaînes qui diffusent ces contenus génèrent des revenus annuels dépassant 4,25 millions de dollars. Ces vidéos présentent souvent des incohérences, comme des lettres affichées à l'écran qui ne correspondent pas aux sons, ou des chansons avec des mots déformés. Les enfants, incapables de lire, risquent d'assimiler ces erreurs sans correction possible.
Dana Suskind, professeure à l'Université de Chicago, souligne que ces contenus peuvent nuire au développement du langage et de la compréhension chez les jeunes enfants. Kathy Hirsh-Pasek, professeure de psychologie à l'Université Temple, note que certaines vidéos se prétendent éducatives mais contiennent des informations incorrectes.
YouTube a mis en place des directives pour les créateurs de contenus destinés aux enfants, insistant sur l'importance de l'adaptation à l'âge, de l'encouragement à l'apprentissage et d'une structure cohérente. Cependant, les signataires estiment que les vidéos générées par IA ne respectent pas ces principes, affichant des éléments discordants et exploitant des mots-clés populaires sans offrir de véritable valeur éducative.
Rachel Franz, directrice du programme Young Children Thrive Offline chez Fairplay, explique que ces vidéos captivent les enfants au-delà de leur capacité d'attention, rendant difficile pour les parents de contrôler l'exposition de leurs enfants à ces contenus.
Des recommandations pour un cadre plus strict
Les experts proposent six modifications essentielles pour améliorer la situation :
- Étiquetage clair de tout contenu généré par IA.
- Option dans les contrôles parentaux pour bloquer ces vidéos, même si un enfant les recherche.
- Suppression des recommandations automatisées pour les mineurs concernant les contenus d'IA.
- Cessation des investissements de Google dans la création de vidéos générées par IA pour les enfants.
YouTube a répondu en affirmant que l'entreprise impose déjà des règles d'étiquetage pour les contenus générés par IA qui imitent des personnes ou des scènes réelles. Cependant, les animations de style cartoon, majoritaires dans les vidéos pour enfants, ne sont pas soumises à ces exigences. La plateforme offre également aux parents la possibilité de bloquer des chaînes et de signaler des vidéos.
Les signataires rappellent qu'un jury californien a récemment jugé YouTube négligent dans la protection des jeunes utilisateurs lors d'un procès sur l'addiction aux réseaux sociaux. Ils voient cette décision comme un appel à une action plus ferme pour protéger les jeunes publics.
Par ailleurs, certains créateurs utilisent des outils génératifs pour produire des vidéos pédagogiques et structurées. Les auteurs de la lettre insistent sur le fait que ces formats ne doivent pas masquer la prolifération de contenus automatisés de faible qualité. Ils demandent à YouTube d'ajuster ses règles et recommandations pour limiter l'exposition des enfants à ces contenus jusqu'à ce que des critères fiables puissent distinguer les productions réellement adaptées des simples créations automatisées.
