Meta lance AI Insights : surveillez l'IA des ados

Meta introduit AI Insights pour les parents

Meta a récemment annoncé une nouvelle fonctionnalité visant à offrir aux parents une meilleure compréhension de l'utilisation de l'intelligence artificielle par leurs adolescents sur ses plateformes. Désormais, les parents peuvent accéder à des informations sur les sujets que leurs enfants ont abordés avec l'IA au cours de la semaine précédente sur des applications telles que Facebook, Messenger et Instagram. Cette initiative, bien qu'elle vise à renforcer la sécurité des jeunes utilisateurs, suscite des préoccupations parmi les experts. Ils soulignent que cette mesure ne remplace pas une modération de contenu rigoureuse et un design sécurisé, et pourrait avoir des conséquences inattendues sur la vie privée des adolescents.

Déploiement mondial de AI Insights

La fonctionnalité, baptisée AI Insights, est actuellement disponible pour les parents supervisant des Teen Accounts aux États-Unis, au Royaume-Uni, en Australie, au Canada et au Brésil. Meta prévoit d'étendre cette fonctionnalité à l'échelle mondiale dans les semaines à venir. Les Teen Accounts sont conçus spécifiquement pour les adolescents, avec des paramètres de confidentialité et de contenu par défaut plus stricts pour protéger cette tranche d'âge vulnérable.

Cette initiative s'inscrit dans une série de mesures de sécurité que Meta a mises en place pour les parents et leurs enfants concernant l'utilisation de l'IA. En octobre, l'entreprise a introduit la possibilité pour les parents de restreindre l'interaction de leurs enfants avec des personnages de chatbot, ou même de bloquer certains personnages spécifiques, ces derniers étant des entités fictives créées par l'IA.

Critiques et enjeux légaux

Mark Zuckerberg et Meta ont fait l'objet de critiques sévères ces dernières années, notamment concernant l'impact de leurs plateformes sur la santé mentale des enfants. Récemment, Meta a été condamnée à payer 375 millions de dollars dans une affaire d'exploitation d'enfants. De plus, une autre affaire en Californie a reconnu l'entreprise coupable de concevoir Instagram et YouTube de manière à rendre ces plateformes addictives pour les jeunes.

En 2023, plus de 40 États américains ont intenté des poursuites contre Meta, accusant l'entreprise de chercher à rendre les enfants dépendants de ses applications, contribuant ainsi à une crise de santé mentale chez les jeunes.

Fonctionnement de AI Insights

Pour les parents qui utilisent la supervision sur Facebook, Messenger ou Instagram, un nouvel onglet intitulé "Insights" est désormais accessible, aussi bien dans les applications que sur le web. Les parents peuvent activer cette supervision via le Family Center de Meta, un processus détaillé pour les enfants âgés de 13 à 17 ans utilisant des Teen Accounts.

En cliquant sur l'onglet Insights, les parents peuvent voir les sujets que leurs enfants ont interrogés à l'IA de Meta au cours des sept derniers jours. Ces sujets peuvent inclure des domaines variés tels que l'école, le divertissement, le style de vie, les voyages, l'écriture, et la santé.

Chaque sujet est divisé en catégories spécifiques :

• Dans le style de vie : mode, nourriture et vacances.
• Dans la santé et le bien-être : fitness, santé physique et santé mentale.

Si un adolescent pose des questions à l'IA concernant des sujets sensibles comme le suicide ou l'automutilation sur Instagram, les parents recevront une alerte. Cette fonctionnalité a été ajoutée par Meta en février. De plus, en collaboration avec le Cyberbullying Research Center, Meta a développé 11 amorces de conversation pour aider les parents à discuter de l'IA avec leurs enfants, accessibles via un lien sur l'onglet Insights.

Dans son annonce, Meta a également souligné que le nombre d'adolescents américains inscrits à la supervision avait doublé au cours de l'année écoulée, ce qui montre un intérêt croissant pour ces outils de surveillance parentale.

Les risques de la surveillance parentale

La responsabilité de la modération de contenu est ainsi partiellement transférée aux parents, mais cela pourrait s'avérer problématique dans des environnements familiaux potentiellement abusifs, selon Ardath Whynacht, professeur associé en sociologie à l'Université Mount Allison au Nouveau-Brunswick, Canada. Elle souligne que "la surveillance parentale n'est pas une modération de contenu". En réduisant leur propre modération, les entreprises comme Meta exposent davantage les jeunes à des dangers en ligne.

Whynacht, qui a une expérience de travail dans des prisons et avec des jeunes souffrant de troubles de l'humeur et de psychose, avertit que les jeunes queer et trans pourraient être particulièrement affectés par cette surveillance. "Beaucoup se tournent vers des espaces numériques pour trouver du soutien," dit-elle. "La crainte de la surveillance parentale pourrait les pousser vers des recoins encore plus dangereux du web."

Elle ajoute que "les enfants ont souvent besoin de protection contre leurs propres parents autant que contre les dangers en ligne."

La nécessité de mesures supplémentaires

Bien que la nouvelle fonctionnalité de Meta soit un "pas dans la bonne direction", elle reste insuffisante pour protéger pleinement les enfants, selon Donna Rice Hughes, PDG de l'organisation de sécurité en ligne Enough is Enough. Elle critique Meta pour ne pas être digne de confiance en matière de sécurité des adolescents, accusant l'entreprise de privilégier les profits au détriment de la sécurité. En particulier, elle mentionne les efforts de lobbying de Meta pour faire échouer le Kids Online Safety Act à la Chambre des représentants des États-Unis en 2024.

Hughes conseille aux parents d'utiliser tous les contrôles parentaux disponibles, y compris la nouvelle fonctionnalité Insights de Meta, tout en maintenant des discussions régulières avec leurs enfants sur la sécurité en ligne. Elle souligne que les outils de contrôle devraient être plus robustes et mis en œuvre par toutes les grandes entreprises technologiques, pas seulement Meta. "Les parents ne peuvent tout simplement pas continuer à porter ce fardeau seuls," conclut-elle.