Microsoft accepte dix principes IA pour les écoles avec l’AFT

Microsoft et la Fédération américaine des enseignants s’accordent sur dix principes de sécurité et de confidentialité pour l’IA à l’école. Les districts pourront les intégrer à leurs contrats dès novembre, sur fond d’interdictions d’un an à New York et Los Angeles et d’appels à la fermeté de la présidente de l’AFT.

L’AFT pousse des règles strictes et finance la montée en compétence

Randi Weingarten considère les termes conclus avec Microsoft comme « infaillibles » et estime qu'ils sont nécessaires, car selon elle, aucune autre partie, y compris le gouvernement fédéral, n'a pris l'initiative. Elle affirme que seules des dispositions juridiquement contraignantes évitent de rester au stade de la liste de souhaits. En mai, la présidente de l’AFT a appelé à interdire les écrans avant la troisième année et à interdire l’IA destinée aux élèves avant le collège. Par ailleurs, l’AFT a annoncé la création d’un centre de formation en IA doté de 23 millions de dollars pour les éducateurs, financé par Anthropic, Microsoft et OpenAI. Le syndicat s’est montré critique envers la technologie à l’école, tout en restant ouvert à la collaboration avec les entreprises technologiques pour anticiper l’arrivée de l’IA.

Ce que Microsoft accepte et ce que les districts pourront exiger

Microsoft a accepté un ensemble de principes de sécurité et de confidentialité pour l’IA dans les écoles, dans le cadre d’un accord avec la Fédération américaine des enseignants (AFT), deuxième syndicat d’enseignants des États-Unis, et son affilié new-yorkais, la Fédération unie des enseignants (UFT). L’entreprise s’engage sur dix principes que les districts scolaires pourront appliquer contractuellement s’ils le souhaitent. Parmi ces engagements figurent l’interdiction d’entraîner des modèles d’IA sur les données des élèves ou des éducateurs, la limitation de la collecte de données, l’obligation d’informer les familles sur le fonctionnement des outils en termes simples, l’interdiction des compagnons d’IA et l’exigence d’une révision humaine pour les décisions à haut risque. À partir de novembre, les districts scolaires pourront ajouter ces clauses à de nouveaux ou anciens accords sans renégocier l’ensemble de leurs contrats.

Des interdictions à New York et Los Angeles encadrent la période

Cet accord fait suite à l’annonce, une semaine plus tôt, par deux importants réseaux scolaires, d’une interdiction des outils d’IA à destination des élèves. Les villes de New York et Los Angeles ont mis en place des interdictions d’une durée d’un an concernant ces outils pour un grand nombre d’élèves, afin de permettre aux districts de prendre le temps de déterminer l’usage adéquat et les mesures de protection nécessaires.