Le brief IA que les pros lisent chaque soir
Les 7 actus IA du jour, décryptées en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
L'enthousiasme pour l'IA dans l'enseignement supérieur
L'enthousiasme autour de l'intelligence artificielle dans l'enseignement supérieur est palpable. Étudiants, enseignants et personnel administratif voient dans ces technologies de nouvelles opportunités pour améliorer l'enseignement et la recherche. Cependant, cet engouement peut conduire à l'adoption précipitée d'outils d'IA, souvent sans l'approbation ou l'évaluation préalable des services informatiques. Ce phénomène, connu sous le nom d'IA fantôme, se produit lorsque des outils technologiques sont utilisés en dehors des canaux officiels.
L'IA fantôme se manifeste de diverses manières. Par exemple, un étudiant peut insérer des informations sensibles dans un chatbot public, tandis qu'un chercheur pourrait utiliser des fonds de subvention pour déployer un outil d'IA basé sur le cloud, le connectant discrètement à des données institutionnelles. De même, un administrateur pourrait expérimenter un outil gratuit promettant des gains de productivité, sans réaliser les implications sur la confidentialité des données.
Les origines de l'IA fantôme
L'IA fantôme émerge principalement de deux sources : les étudiants et les employés. Les étudiants, en tant que natifs numériques, sont enclins à utiliser des modèles de langage public pour accomplir leurs tâches plus efficacement. Cependant, sans directives claires de la part des universités, ils peuvent ignorer les limites légales, notamment celles imposées par la Family Educational Rights and Privacy Act (FERPA) ou d'autres réglementations concernant les données sensibles.
Du côté des employés, y compris les enseignants, les chercheurs et les administrateurs, l'IA fantôme se développe également. Les chercheurs seniors, disposant souvent de leurs propres budgets et subventions, choisissent parfois des outils sans consulter le service informatique. Ils utilisent néanmoins les réseaux, les données et la propriété intellectuelle de l'université. Parfois, ces outils sont intégrés dans des flux de travail avant que le service informatique ne soit informé ou sollicité pour un soutien.
Les risques liés à l'IA fantôme
L'un des principaux risques associés à l'IA fantôme est la fuite de données. Lorsque des informations sensibles, telles que des dossiers d'étudiants, des données de santé ou des recherches propriétaires, sont introduites dans des outils d'IA, elles peuvent être exposées à des violations de confidentialité. Selon les politiques de l'outil, ces données peuvent être conservées, utilisées pour former des modèles futurs ou traitées d'une manière incompatible avec les obligations institutionnelles.
Il est crucial de comprendre comment les données sont utilisées et quelles sont les politiques de confidentialité des outils d'IA. Certains fournisseurs peuvent se réserver le droit d'utiliser les requêtes et résultats pour améliorer leurs modèles. Pour de nombreux outils publics, les données envoyées deviennent partie intégrante de leur écosystème, ce qui peut convenir pour des requêtes anodines, mais pas pour des données sensibles.
Identifier et gérer l'IA fantôme
Pour identifier l'IA fantôme, il est essentiel de combiner des approches technologiques et culturelles. Sur le plan technologique, des outils de sécurité périmétrique, des journaux de pare-feu, des systèmes de prévention des pertes de données et des filtres web peuvent aider à surveiller l'utilisation des services d'IA. Les équipes informatiques peuvent ainsi suivre le trafic sortant vers des services d'IA connus et limiter l'accès si nécessaire.
CDW travaille avec des partenaires en sécurité et en observabilité pour fournir des outils permettant de surveiller le trafic vers les applications d'IA, d'identifier les services utilisés et d'aider les équipes informatiques à évaluer les risques potentiels pour les données sensibles. Ces outils offrent des meilleures pratiques pour l'implémentation et la configuration logicielle, permettant ainsi aux équipes de prendre des décisions éclairées.
D'un point de vue culturel, il est important que le service informatique soit perçu comme un partenaire plutôt que comme un simple agent de contrôle. Si les enseignants et le personnel craignent que contacter le service informatique ne mène qu'à des refus, ils chercheront des solutions alternatives. Le service informatique doit être un collaborateur de confiance, prêt à offrir des conseils dès le début des discussions.
Pour encourager la conformité, il est efficace de rendre les outils approuvés plus attrayants que ceux non officiels. Si une plateforme d'IA sanctionnée offre un accès à des connaissances institutionnelles en plus des capacités d'IA générales, elle devient naturellement l'option préférée. Les outils d'entreprise qui sont rapides, fiables et plus précieux seront choisis parce qu'ils fonctionnent mieux.
Pour les institutions où l'utilisation de l'IA est déjà hors de contrôle, la première étape n'est pas de tout verrouiller, mais d'obtenir une visibilité sur la situation. Comprendre ce qui se passe est essentiel pour concevoir des politiques réalistes et des solutions de remédiation. Ensuite, la création d'un Centre d'Excellence en IA ou d'un organe similaire, incluant le personnel informatique, la direction académique, les chercheurs et les administrateurs, peut aider à co-créer des politiques efficaces.
L'IA dans l'enseignement supérieur n'est pas une simple mode. Les employeurs s'attendent à ce que les diplômés maîtrisent l'utilisation responsable des outils d'IA. Les universités qui perçoivent l'IA comme une menace à réprimer risquent de mal préparer leurs étudiants et de pousser l'utilisation de l'IA dans la clandestinité, au lieu de l'encadrer de manière réfléchie et sécurisée.
