L’intelligence artificielle en éducation : enjeux de justice

L’intelligence artificielle (IA) suscite un intérêt pédagogique et scientifique croissant depuis une trentaine d’années, qui s’est accéléré récemment à la suite de l’amélioration de la performance technique de l’IA (Becker, 2018). Dans leur revue systématique de la littérature, Zawacki-Richter et al. (2019) identifient quatre applications principales de l’IA en enseignement supérieur : 1/le profilage et la prédiction (p. ex., admission à un programme d’études, décrochage scolaire) ; 2/les systèmes de tutorat intelligent (p. ex., enseignement de contenus pédagogiques, rétroactions) ; 3/la mesure et l’évaluation (p. ex., notation automatique, engagement scolaire) ; 4/et les systèmes adaptatifs et personnalisés (p. ex., recommandation et sélection de contenus personnalisés). En revanche, les enjeux éthiques et critiques que soulève l’IA sont peu étudiés en enseignement supérieur (Zawacki-Richter et al., 2019), et en éducation plus largement (Krutka, 2021). Souhaitant contribuer à cette réflexion émergente, nous proposons d’aborder quelques enjeux éthiques et critiques de l’IA, sans toutefois prétendre à l’exhaustivité, ainsi que de formuler quelques pistes d’action permettant de mieux les prendre en compte, tant du point de vue de la conception que de l’usage. Ce faisant, il importe de garder en tête que les enjeux énumérés ci-dessous ne sont pas, pour la plupart, spécifiques à l’IA dans la mesure où ils se posent aussi pour d’autres technologies. Qui plus est, on les retrouve dans d’autres sphères de la société où l’IA est utilisée. Ces enjeux tendent toutefois à être amplifiés par les développements actuels de l’IA et à se décliner de manière singulière en éducation, ce qui justifie à notre sens la pertinence d’une réflexion circonscrite à l’IA en éducation. Les enjeux éthiques et critiques que soulève l’IA en éducation sont multiples et ont des origines diverses. Un premier type d’enjeux est lié aux données massives que nécessite l’IA, lesquelles peuvent induire des biais éventuels et posent la question du respect de la vie privée des élèves et du personnel scolaire (Andrejevic et al., 2020 ; Perrotta et al., 2020). Krutka (2021) prend l’exemple de la suite éducative de Google, qui collecte des données sans consentement libre et éclairé des élèves et du personnel scolaire (en contradiction avec leurs propres politiques et celles des provinces et des états) et les exploite de manière opaque. Les données des élèves et du personnel scolaire sont donc utilisées à leur insu, causant ainsi un manquement au respect de leur vie privée. Par ailleurs, l’IA est principalement produite par des entreprises privées plutôt que par des instances scolaires (Williamson et al., 2020 ; Selwyn et al., 2020), et principalement étudiée par des chercheur.e.s en informatique ou en sciences, technologies, ingénierie et mathématiques plutôt que par des chercheur.e.s en sciences de l’éducation (Zawacki-Richter et al., 2019). Cette situation génère un deuxième type d’enjeux éthiques et critiques relatif aux expertises et aux représentations éducatives mobilisées par les équipes de conception. En dehors de l’éducation, plusieurs études ont déjà souligné le manque de diversité au sein des équipes de conception, ce qui se traduit par des biais de représentativité allant de la sous-représentation de certains groupes sociaux à leur discrimination, stigmatisation ou exclusion. C’est ainsi qu’en 2015, l’algorithme de Google photos a associé une photo de deux personnes noires américaines au tag « gorilles », faute d’avoir été suffisamment entraîné à identifier des visages à la peau foncée (Plenke, 2015). Finalement, l’automatisation croissante de l’IA implique que cette dernière est en mesure de prendre en charge une part croissante des actions pédagogiques qui reviennent habituellement aux élèves et au personnel scolaire (Selwyn, 2019). Se pose alors un autre type d’enjeux éthiques et critiques relatifs à l’autonomie et au jugement professionnels des enseignantes et …