The Emperor’s New Clothes: Maclean’s, NSSE, and the Inappropriate Ranking of Canadian Universities

Abstract

Most Canadian universities participate in the US-based National Survey of Student Engagement (NSSE) that measures various aspects of “student engagement.” The higher the level of engagement, the greater the probability of positive outcomes and the better the quality of the school. Maclean’s magazine publishes some of the results of these surveys. Institutions are ranked in terms of their scores on 10 engagement categories and four outcomes. The outcomes considered are how students in the first and senior years evaluate their overall experiences (satisfaction) and whether or not students would return to their  campuses. Universities frequently use their scores on measures reported by Maclean’s in a self-Congratulatory way. In this article, I deal with levels of satisfaction provided by Maclean’s. Based on multiple regression, I show that of the 10 engagement variables regarded as important by NSSE, at the institutional level, only one explains most of the variance in first-year student satisfaction. The others are of limited consequence. I also demonstrate, via a cluster analysis, that, rather than there being a hierarchy of Canadian institutions as suggested by the way in which Maclean’s presents NSSE findings, Canadianuniversities can most adequately be divided into a limited number of different satisfaction clusters. Findings such as these might serve as a caution to parents and students who consider Maclean’s satisfaction rankings when assessing the merits of different universities. Overall, in terms of first-year satisfaction, the findings suggest more similarities than differences between and among Canadian universities.

Keywords:

• NSSE,
• Maclean's,
• Canadian university rankings,
• student engagement,
• student satisfaction

Résumé

La plupart des universités canadiennes participent à l’Enquête nationale sur la participation étudiante/National Survey of Student Engagement (NSSE), qui est basée aux États-Unis. Plus le niveau de « participation étudiante » est élevé, plus la probabilité de résultats positifs est élevée, et plus l’école est considérée comme étant de bonne qualité. Le magazine Maclean’s publie certains des résultats de cette enquête. Les établissements y sont classés selon leur score dans dix catégories de « participation » et quatre résultats. Les résultats considérés sont la manière dont les étudiants de première et de dernière année évaluent leur expérience globale (satisfaction), et leur désir de retourner étudier au même endroit si c’était à refaire. Les universités utilisent fréquemment les résultats rapportés par Maclean’s à des fins d’autopromotion. Dans cet article, je me penche sur les niveaux de satisfaction présentés par Maclean’s. Sur la base d’une régression multiple, je montre que sur les dix variables de participation considérées comme importantes par la NSSE, au niveau des établissements, une seule explique la majeure partie de la variance en ce qui concerne la satisfaction des étudiants de première année. Les autres ont peu d’effet. Je démontre également, par le biais d’une analyse par grappe, qu’au lieu d’être hiérarchisées comme le suggère la façon de faire de Maclean’s avec les résultats de la NSSE, les universités canadiennes peuvent être divisées de Façon plus adéquate en un nombre limité de grappes de satisfaction. Ces découvertes peuvent servir de mise en garde aux parents et aux étudiants qui considèrent les classements de Maclean’s pour comparer les universités. Globalement, en ce qui a trait à la satisfaction des étudiants de première année, elles suggèrent qu’il y a plus de ressemblances que de différences entre les universités canadiennes.

Mots-clés :

• enquête nationale sur la participation étudiante,
• Maclean's,
• classement des universités canadiennes,
• participation étudiante,
• satisfaction des étudiants