Einstein et l'IA agentique : défi pour l'éducation supérieure

L'émergence d'un outil d'intelligence artificielle agentique, baptisé Einstein, a provoqué une réaction significative dans le secteur de l'enseignement supérieur cette année. Einstein est conçu pour se connecter de manière autonome à Canvas, une plateforme de gestion de l'apprentissage, afin de suivre des cours, rédiger des travaux et soumettre des devoirs au nom des étudiants, le tout sans que les professeurs ne s'en aperçoivent.

Cette situation a mis en lumière un problème fondamental dans l'informatique de l'enseignement supérieur : l'absence de moyens fiables pour distinguer les étudiants des agents IA qui agissent en leur nom sur les principales plateformes de gestion de l'apprentissage. Josh Callahan, responsable de la sécurité informatique à la California State University, a déclaré : “L'outil Einstein a été un véritable signal d'alarme. Cela souligne le défi fondamental que tous les outils d'IA basés sur des modèles de langage posent à l'enseignement supérieur : comment évaluer l'apprentissage des étudiants de manière à vraiment capturer leurs connaissances et leur capacité à appliquer ces connaissances ?”

Bien que les outils d'IA puissent améliorer l'enseignement et l'apprentissage, ils posent également un risque pour l'autonomie et la créativité humaines. Ces outils peuvent potentiellement prendre des décisions importantes ou effectuer des tâches qui devraient contribuer à l'apprentissage des étudiants. Isaac Galvan, directeur des programmes communautaires en cybersécurité et confidentialité pour EDUCAUSE, affirme que l'enseignement supérieur doit “s'assurer que l'IA soutient l'apprentissage plutôt que de remplacer l'engagement significatif dans l'expérience éducative.”

Une surface d'attaque élargie

La menace de l'IA agentique ne se limite pas à la gestion des cours. Elle s'étend également aux portails étudiants, aux systèmes d'inscription, aux plateformes d'aide financière et aux outils de conseil. Sandeep Kumbhat, vice-président et CTO mondial pour Okta, a déclaré : “L'IA dépasse la sécurité, et les équipes informatiques de l'enseignement supérieur peinent sans une visibilité adéquate sur les outils utilisés.”

Les dirigeants de l'enseignement supérieur réalisent que le problème de l'IA agentique est un problème de sécurité d'identité. “L'IA agentique crée un défi en matière de gestion des identités et des accès car elle peut brouiller la ligne entre un utilisateur humain et une technologie agissant en son nom,” explique Galvan.

Pour aider à résoudre ce problème, Josh Callahan suggère que les éducateurs exigent des essais écrits et des examens en personne, ou des appels vidéo où les étudiants tiennent trois doigts devant leur visage pour révéler toute superposition faciale, connu sous le nom de test des trois doigts.

Comprendre l'IA agentique comme un problème de sécurité d'identité

Pour atténuer l'usurpation d'identité par l'IA, les institutions devraient mettre en œuvre des contrôles et des processus de vérification plus stricts pour mieux valider les utilisateurs et leurs activités. Les contrôles d'authentification peuvent vérifier l'identité d'un étudiant, confirmant que l'étudiant inscrit à un cours est bien la même personne qui effectue le travail.

Les dirigeants informatiques de l'enseignement supérieur doivent renforcer la sécurité d'identité “en investissant dans des solutions de gestion des identités et des accès qui aident à vérifier la présence humaine réelle,” affirme Galvan.

De plus, l'analyse comportementale peut détecter l'IA agentique en suivant les écarts par rapport aux modèles de comportement typiques des étudiants sur les plateformes éducatives. Au lieu de logiciels de détection d'IA peu fiables et sujets aux erreurs qui ne se concentrent que sur le contenu produit par les étudiants, des signaux au niveau du réseau peuvent aider à révéler l'usurpation d'identité par l'IA en suivant les métadonnées techniques et le comportement de connexion pour identifier des emplacements IP suspects, par exemple.

Lutter contre le feu par le feu en utilisant l'IA pour renforcer la sécurité, conseille Galvan. “L'IA peut soutenir l'analyse prédictive des modèles de réseaux et améliorer les capacités de surveillance et de détection, permettant aux institutions d'identifier les anomalies plus rapidement et avec plus de précision,” dit-il.

Construire des cadres de gouvernance efficaces

Avant de se précipiter pour adopter des outils, les institutions de l'enseignement supérieur doivent d'abord établir un cadre de gouvernance de l'IA efficace. Les institutions doivent créer un comité directeur général sur l'IA qui rassemble les différents groupes de parties prenantes pour déterminer la stratégie institutionnelle en matière d'IA, conseille Josh Callahan. “C'est la première chose à faire. Cela revient toujours aux personnes, aux processus et aux outils — dans cet ordre.”

Étant donné que les systèmes d'IA en évolution rapide reposent sur de multiples processus de données interconnectés et sont de plus en plus intégrés dans les plateformes logicielles, les institutions doivent adopter une approche de gouvernance collaborative qui implique des collègues de toute l'organisation dans la prise de décision et la supervision, explique Galvan.

“Les écoles devraient envisager la gouvernance agentique comme une extension de leur gouvernance des identités humaines,” dit Sandeep Kumbhat. En pratique, explique-t-il, une telle gouvernance peut impliquer des campagnes de certification synchronisées avec les semestres et les cycles d'inscription plutôt que des examens annuels, un accès avec le principe du moindre privilège limité à des tâches spécifiques et une découverte continue pour détecter les agents fantômes agissant en dehors de l'informatique centrale.

Cependant, Galvan met en garde contre une gouvernance trop rigide. “Les cadres de gouvernance doivent trouver un équilibre entre prudence et innovation,” dit-il. “Des politiques trop restrictives peuvent générer du ressentiment, étouffer l'innovation ou être ignorées par des parties prenantes désireuses d'adopter de nouvelles technologies.”