Abstracts
Résumé
Est-il pertinent, pour évaluer des compétences professionnelles, d’observer un individu évalué dans une situation de travail, puis de s’entretenir avec lui à propos de son activité dans cette situation ? La question posée dans cet article s’inscrit dans le cadre théorique proposé par la didactique professionnelle. Elle interroge l’intérêt d’une méthodologie d’évaluation des compétences professionnelles qui, au-delà de l’observation d’une performance dans une situation donnée, tente de pronostiquer la « répétabilité » de celle-ci en examinant après coup les raisonnements mis en oeuvre dans cette situation. C’est dans cette perspective que nous avons mené une étude expérimentale sur la relation entre performance et conceptualisation. Cet article présente les résultats de cette étude. Nos travaux ont été conduits dans le domaine de l’utilisation professionnelle du traitement de texte, mais ouvrent le questionnement sur des considérations dont l’intérêt dépasse ce contexte particulier.
Mots-clés :
- évaluation,
- compétence,
- expérimentation,
- méthodologie,
- didactique professionnelle
Abstract
What is the relevance, in order to assess vocational skills, of observing the evaluated subject in a work situation, and then of having a discussion about their activity in that situation? The subject of this paper adheres to the theoretical framework proposed for vocational didactics. It also questions the interest of a vocational skill assessment methodology which, beyond the observation of a performance in a given situation, tries to forecast the “repeatability” of this performance by investigating afterwards the reasoning applied in this situation. This is the framework in which an experiment about the link between performance and conceptualization has been conducted. This paper presents the results of this experiment. Our research has been realized in the field of the professional use of a word processing software, but the conclusions go far beyond this particular context.
Keywords:
- assessment,
- vocational skill,
- experiment,
- methodology,
- vocational didactics
Resumo
Será pertinente, para avaliar as competências profissionais, observar um indivíduo avaliado numa situação de trabalho e, depois, conversar com ele sobre a sua atividade nesta situação? A questão colocada neste artigo insere-se no quadro teórico proposto pela didática profissional e questiona o interesse de uma metodologia de avaliação de competências profissionais que, para além da observação de um desempenho numa determinada situação, tenta prever a sua “repetibilidadeˮ, examinando depois os argumentos aplicados nesta situação. É nesta perspetiva que realizamos um estudo experimental sobre a relação entre desempenho e concetualização. Este artigo apresenta os resultados deste estudo. Os nossos trabalhos foram realizados no domínio da utilização profissional do processamento de texto, mas abre o questionamento sobre considerações cujo interesse ultrapassa este contexto particular.
Palavras chaves:
- avaliação,
- competência,
- experimentação,
- metodologia,
- didática profissional
Article body
Introduction
L’évaluation valide des compétences : une question de recherche
Le succès grandissant qu’a connu la notion de compétence depuis les années 1980 est sans doute à mettre en relation avec ses dimensions fondatrices que sont la performance et la transférabilité. Celles-ci font écho, en matière de formation et d’évaluation professionnelles, aux exigences du marché de l’emploi à cette période.
La notion de compétence est fondée sur la dimension de performance. En effet, comme l’indique Jobert, la compétence est « la capacité à obtenir une performance [un résultat positif] en situation réelle de production » (1998, p. 8). La compétence serait donc le trait latent, donc pas directement observable, qui permettrait à un individu d’avoir une action appropriée en situation. En se fondant sur la dimension de performance, la notion de compétence a séduit le monde des entreprises qui, au début des années 1980, commençait à déplorer que bon nombre d’individus qui sortaient des systèmes d’éducation et de formation, certes munis d’un bagage de savoirs, se révélaient difficilement capables d’utiliser ce dernier pour agir efficacement en situation de travail. En matière d’évaluation professionnelle, la notion de compétence rompt, d’une part, avec l’observation des caractéristiques individuelles (les aptitudes et la personnalité) mesurées par les tests psychologiques classiques et, d’autre part, avec un inventaire direct et décontextualisé des savoirs de l’individu évalué (même s’ils sont mobilisés dans la compétence) : « L’approche par les compétences consiste à aborder cette double taxinomie des hommes et des tâches par la description des comportements réels face à des problèmes professionnels concrets » (Lévy-Leboyer, 2002, p. 32).
La seconde dimension fondatrice de la notion de compétence, qui s’intègre à la première, est sa transférabilité. Comme le souligne Chauvet, « le concept de compétence est intéressant dans la mesure où il permet de “pronostiquer” une efficacité de l’action en dehors du seul contexte “ici et maintenant” » (2001, p. 87). Cette dimension, couplée à celle de performance, explique sans doute fortement le succès de la notion de compétence. En effet, dans les années 1980, dans un contexte de crise et de précarité grandissante, « l’adaptabilité, la mobilité et la flexibilité des hommes et des femmes vont subtilement s’imposer comme des valeurs professionnelles déterminantes, au même titre que leur qualification formelle, leurs diplômes ou leurs savoir-faire techniques validés » (Bellier, 1998, p. 29).
Évaluer des compétences professionnelles de manière valide, c’est-à-dire mesurer ce qu’on prétend mesurer, nécessite au moins de prendre en compte, de manière intégrée, ces deux dimensions de performance et de transférabilité. Or, cette exigence de validité place l’évaluateur devant un paradoxe intrinsèque à la notion de compétence, qui se veut observable dans une situation donnée, sans y être attachée par ailleurs. Mayen (2003) résume bien ce problème :
Le principal défi en matière d’évaluation des compétences consiste à trouver dans les situations et les expériences particulières ce qui ne s’y réduit pas mais comporte une dimension générique propre à assurer que le candidat peut agir dans une situation déterminée, mais pourrait aussi s’adapter à d’autres situations de la même classe
p. 303
Devant ce défi, une solution est de multiplier les observations de performances et donc les situations d’évaluation. Toutefois, une solution plus praticable permettant d’éviter les observations multiples de performances consisterait à recourir à ce que nous appellerons la méthodologie de la réflexivité garante de la transférabilité[1]. Son principe peut être énoncé de la manière suivante : pour démontrer sa compétence, l’individu évalué doit être capable non seulement de produire un résultat positif en situation réelle (performance), mais il doit aussi être capable de mener une activité réflexive quant à la production de ce résultat, cette dernière garantissant en quelque sorte sa capacité à transférer sa compétence d’une situation à une autre, de la même famille[2].
Si la réflexivité est effectivement garante de la transférabilité, alors une méthodologie basée sur une telle relation serait à la fois valide et praticable pour évaluer des compétences professionnelles. Elle serait valide parce qu’elle permettrait d’intégrer les dimensions de performance et de transférabilité qui fondent la notion de compétence. Elle serait praticable parce que cette intégration ne nécessiterait pas de multiplier les observations de performances. Dès lors, se questionner expérimentalement sur une telle méthodologie constitue une préoccupation de recherche bien légitime. C’est cet objectif que poursuivent les travaux présentés ici.
Se questionner expérimentalement sur la méthodologie de la réflexivité garante de la transférabilité nécessite d’en opérationnaliser un tant soit peu le principe. En particulier, comment caractériser une réflexivité qui serait garante de la « répétabilité » (Rey, 2014) des performances ? Par rapport à cette problématique, les apports de la didactique professionnelle sont précieux.
La didactique professionnelle, dont Samurçay et Pastré écrivent que « la notion de compétence constitue […] le coeur des interrogations de son système conceptuel » (1998, p. 118), propose un cadre théorique particulièrement utile pour préciser davantage ce que recouvre la réflexivité en regard de cette notion de compétence. Dans un article de 1999, Pastré associe étroitement la conceptualisation, la réflexivité et la transférabilité de la compétence : « Un processus d’analyse réflexive de la part du sujet, donc de conceptualisation, aboutit à une décontextualisation du savoir-faire, ce qui rend la compétence adaptable et transférable à d’autres situations » (p. 116). En postulant que l’activité est organisée par des conceptualisations, la didactique professionnelle identifie le produit et le matériau d’une activité réflexive, laquelle garantirait la répétabilité de la performance. Dans une démarche d’évaluation, un individu serait considéré comme compétent (performant et capable de transfert) à partir du moment où pourrait être mise en évidence chez lui une conceptualisation qui rend son action efficace[3]. Dans cette perspective, la proposition de Mayen (2003) de prendre en compte, dans l’évaluation des compétences professionnelles, des « critères portant sur l’organisation de l’action, en particulier sur la part la plus cognitive de celles-ci : les conceptualisations construites pour raisonner et agir » (p. 303) apparaît comme totalement justifiée.
L’expérimentation que nous avons menée et dont nous allons décrire la méthodologie et les résultats s’inscrit dans ce cadre : le but est d’examiner expérimentalement quels liens existent entre performance et conceptualisation dans l’utilisation professionnelle du traitement de texte. Deux balises ont toutefois été posées pour délimiter nos observations.
Premièrement, nous n’avons pas voulu adhérer a priori à une définition trop précise ou particulière de la notion de conceptualisation. Celle-ci a été envisagée d’une manière générale comme « la compréhension de ce qu’on fait et pourquoi ». C’est, en effet, « une première acception de la conceptualisation de l’action » (Beckers, 2009, p. 10).
Deuxièmement, cette conceptualisation a été appréhendée à travers les discours. Dans une conférence portant sur les méthodologies d’analyse du travail en didactique professionnelle, Pastré (2008a) explique que les jugements pragmatiques sont particulièrement révélateurs des conceptualisations sous-jacentes à l’action. Il les définit comme des énoncés généraux apodictiques, c’est-à-dire des énoncés exprimés sous les formes « il faut que » ou « il doit ». Selon Pastré, seul le langage permet de repérer ces jugements pragmatiques : seul le langage permet de passer de l’assertorique (« les choses sont ceci », « les choses sont cela ») à l’apodictique (« il est nécessaire que », « il faut que »).
Conjointement, ces deux balises nous ont amené à nous intéresser aux justifications, d’une manière assez générale et ouverte, que des individus expriment à propos de leur activité dans une tâche de type professionnel.
Dispositif expérimental
Le dispositif expérimental qui a été mis en place a concerné 31 participants (des adultes demandeurs d’emploi en formation dans le domaine de la bureautique)[4]. Ils ont été rencontrés individuellement et chacune de ces rencontres individuelles a duré de deux à trois heures. Pendant ces rencontres :
Chaque participant a réalisé deux tâches A et B : il s’agissait de deux scénarios dans lesquels le chercheur jouait le rôle d’un patron sollicitant un travail dans un contexte particulier. Le participant était seul maître à bord pour réaliser la tâche, car le patron, ne maîtrisant pas l’informatique, n’intervenait qu’à sa demande pour clarifier (répéter) les consignes de la situation de départ. Pour chacune des tâches, le participant devait construire un tableau destiné à être affiché, mais dans des contextes différents. Dans le cas A, il s’agissait de présenter les menus des repas d’une semaine dans un internat (document informatif) à partir de consignes orales et d’informations manuscrites sommaires et non organisées. Dans le cas B, il était demandé de construire un document promotionnel présentant des activités organisées par trois animateurs d’un centre culturel pour des enfants pendant une semaine de congé scolaire, chaque animateur ayant communiqué son programme de manière manuscrite. Ces tâches ont été construites sur la base d’une étude des caractéristiques des travaux bureautiques sollicités dans différentes entreprises de la région liégeoise et dont les résultats ont notamment été décrits par Baesch, Henry et Lejong (2004). La réalisation des tâches ainsi construites a été observée (prise de notes sur papier libre de la succession des actions effectuées à l’ordinateur) par deux observateurs : le chercheur, qui quittait alors son rôle de patron[5], et un expert des outils informatiques.
Tout de suite après la réalisation des deux tâches, chaque participant était incité, par l’intermédiaire d’un entretien, à mener une analyse après coup de son activité afin de mettre en évidence les raisonnements mobilisés en situation. Chacun était invité à décrire, puis à expliquer et à justifier les démarches concrètement mises en oeuvre en regard des deux tâches. Le plus souvent, le chercheur relisait chacune des actions rapportées sur le compte-rendu d’observation en marquant un silence après chacune (p. ex., « tu as mis le titre en gras ») pour laisser la possibilité au participant de décrire davantage ses actions, ses choix, ses intentions et ses réflexions en cours d’action. D’autres techniques de questionnement aidaient également à cette mise en mots. Ainsi, des questions étaient posées à propos d’actions ayant entraîné des hésitations, des soupirs, des retours en arrière (utilisation de la commande « annuler ») ou des suppressions : Qu’est-ce qui s’est passé dans ta tête à ce moment-là ? Qu’est-ce qui te dérangeait ? Qu’est-ce qui t’embêtait dans le document tel qu’il était ? Le chercheur jouait aussi parfois l’avocat du diable, notamment pour des actions différentes dans des configurations identiques en apparence : Pourquoi as-tu fait cela dans telle situation et pas dans telle autre ? Qu’est-ce qui était similaire ? Qu’est-ce qui était différent ? Quel était l’avantage/l’inconvénient de faire ceci plutôt que cela ?
Enfin, chaque participant répondait à un test mesurant de manière « décontextualisée » la maîtrise des commandes et des outils techniques utiles, voire nécessaires à la réalisation des tâches[6].
Ce dispositif a permis d’engranger plusieurs types de données :
Les deux productions réalisées par chaque participant dans le cadre des tâches ont été évaluées selon deux modalités. La première modalité consistait en l’application de grilles critériées classiques (une pour chaque tâche) comportant une trentaine de critères[7]. La seconde modalité consistait à demander à une secrétaire chevronnée de juger chaque production en termes de travail restant à fournir pour rendre le document « acceptable ». Cela se faisait à l’aide d’une échelle[8] allant de 1 à 7. Deux données sont donc finalement disponibles pour chaque production : le nombre de critères auxquels elle répond et le numéro de l’échelon choisi par la secrétaire pour apprécier le travail supplémentaire à fournir afin de rendre la production acceptable.
Les entretiens ont fait l’objet d’une analyse de contenu. Chacun d’entre eux a été découpé en explicitations (unité se rapportant à une même action), puis les éléments composant chaque explicitation ont été codés. Les propos tenus par chaque participant, pour chaque tâche, peuvent donc être décrits par un ensemble de variables renvoyant au nombre de justifications de différents types (codés chacun spécifiquement et présentés plus bas) auxquelles les participants ont eu recours pour expliquer leurs actions.
Le test comportait 19 items. Pour chaque participant, un score sur 19 est attribué, soit le nombre d’items réussis.
D’autres données ont également été relevées : le niveau du plus haut diplôme obtenu, l’expérience dans l’utilisation du traitement de texte, etc.
Contenu des discours des participants
L’analyse du contenu des discours tenus lors de l’entretien avec chaque participant a permis de repérer différents types de justifications d’action dans les explicitations :
Des règles d’action (décrites dans l’énumération suivante) ;
Des justifications témoignant d’une « centration sur soi » : « J’aime mieux » ; « Je préfère » ; « Je fais ça souvent, c’est une habitude » ; « C’était plus facile pour moi » ; « Moi, quand j’étais enfant » ; « Je me suis déjà fait engueuler pour avoir fait ça » ; « J’en ai déjà fait en formation et c’était comme ça » ;
Des justifications incomplètes : « C’est plus clair » ; « C’est plus beau » ; « C’est plus professionnel » ; « C’est plus logique » ; « C’est mieux ». Ces justifications ne sont pas forcément fausses. Elles sont simplement incomplètes, dans la mesure où le participant qui les verbalise n’explique pas en quoi « c’est plus clair » ou « c’est plus beau » ;
Des présupposés : « Il faut toujours un titre » ; « Les animatrices des ateliers sont souvent des jeunes filles et doivent être appelées mademoiselle » ; « Les enfants n’aiment pas les légumes » ;
Des justifications basées sur des indices de surface : « J’ai fait trois tableaux parce qu’il y avait trois feuilles » ; « J’ai bêtement suivi le papier » ; « C’était comme ça sur la feuille manuscrite » ;
Des justifications par des attributions internes : « Je n’ai pas fait attention » ; « Je ne suis pas doué pour tout ça » ; « J’ai oublié comment on fait » ;
Des erreurs de raisonnement : « Pour un tableau avec 4 repas et 5 jours, il faut insérer 4 colonnes et 5 lignes » ;
Des non-justifications : « Je ne sais pas pourquoi » ; « Je ne sais pas expliquer » ; « Je travaille au feeling », « à l’instinct », « au ressenti ».
Concernant les règles d’action, près de 70 règles différentes ont pu être répertoriées. En voici quelques exemples :
Si des renseignements ont le même statut, alors ils doivent avoir la même mise en forme / ils doivent être disposés spatialement de la même façon ;
Si une cellule ne comporte pas d’information, alors il faut signaler cette absence d’information ;
Si un tableau est « plus large que long », comporte beaucoup de texte, alors l’orienter en paysage permet de « gagner de la place » (et de diminuer le nombre de retours à la ligne) ;
Si la « cellule A1 » est vide, alors il est utile de supprimer les bordures ;
Si un document n’a pas pour but d’être attrayant, alors utiliser des couleurs est inutile et coûte cher.
Vergnaud explique, à propos des règles d’action, qu’« on peut toujours leur donner la forme “SI ALORS” » (2001, p. 6). C’est ce que nous avons fait pour les formulations présentées ci-dessus. « Pourtant, lorsqu’on demande à des ouvriers de talent, à des experts, à des enseignants ou à des élèves pourquoi et comment ils ont fait ceci ou cela, leur réponse est généralement évasive sur les raisonnements conditionnels qu’ils ont bel et bien effectués en chemin » (Ibid.). Voici deux exemples d’échanges que peut recouvrir une formulation telle que celle adoptée pour la deuxième règle listée ci-dessus :
Une distinction est importante entre ces deux extraits relatifs à la même règle. Dans le premier, le participant fait référence explicitement au destinataire et se préoccupe tout aussi explicitement de la situation de lecture dans laquelle ce destinataire sera plongé. Dans le second extrait, cette centration sur le destinataire et cette préoccupation ne sont pas explicites. Une analyse des 70 règles d’action répertoriées met en évidence que chacune est fondée sur un bénéfice pour le destinataire, le commanditaire ou le concepteur du travail, que ce bénéfice soit explicite ou non[9] dans les verbalisations du participant qui décrit cette règle d’action[10]. Ces règles d’action renvoient donc à l’adoption de postures particulières témoignant d’une décentration de l’acteur, faisant elles-mêmes écho à des préoccupations. Il peut s’agir :
D’une posture centrée sur le destinataire ou d’une préoccupation de lisibilité : Comment le destinataire lira-t-il le document ? Qu’est-ce qui est important pour lui ? Dans quelle situation de lecture sera-t-il plongé ? Comment faciliter cette lecture ?
D’une posture centrée sur le commanditaire ou d’une préoccupation de convenance : Quelles sont les attentes explicites et implicites du commanditaire de la tâche ? Quel but veut-il atteindre avec le document qu’il demande de produire ?
D’une posture centrée sur l’utilisateur du logiciel ou d’une préoccupation d’économie : Comment est-il possible de travailler plus vite ? De gagner du temps ? D’éviter des opérations inutiles ? De réduire les risques d’erreurs ? De rendre le document facilement réutilisable à un autre moment ou par quelqu’un d’autre ?
Comme le dit Vergnaud à propos des règles d’action, il existe des « raisons qui relient les différentes conditions possibles [SI] et les différentes possibilités qui leur sont associées [ALORS] » (2001, p. 6). Ici, ces « raisons » ne sont pas conceptuelles – comme c’est souvent le cas dans les activités à dominante technique –, mais sont de l’ordre de la posture et des préoccupations. L’importance de la posture, voire des préoccupations pour certaines activités a déjà été mise en évidence par plusieurs chercheurs en didactique professionnelle. Par exemple, sans entrer dans le détail[11], nous citerons Michel et Allemand (2008) à propos de la conduite d’entretiens de formation, Mayen (2008) à la suite des travaux de Kunégel (2007) concernant les apprentis en carrosserie et Vinatier (2009, 2013) à propos de l’activité enseignante. En 2008, Pastré écrit à ce sujet : « Aussitôt qu’on a affaire à l’activité d’un humain sur et avec d’autres humains, […] la posture des acteurs fait partie intégrante de l’organisation de leur activité. […] Elle est centrale » (2008b, p. 132).
Lien entre performance et conceptualisation
Le tableau 1 présente les corrélations de rangs de Spearman[12] entre la performance globale[13] de chacun des 31 participants et le nombre de justifications de différents types qu’ils ont formulées.
Nous observons une corrélation positive et significative entre la performance globale et le nombre de règles d’action verbalisées, que nous limitions ou non ces règles à celles qui comportent une référence explicite à une posture/préoccupation. Autrement dit, les participants dont les productions répondent au plus grand nombre de critères sont ceux qui formulent le plus grand nombre de règles d’action dans leur discours après coup.
En ce qui concerne les autres types de justifications, nous n’observons pas de corrélations négatives (significatives) avec les performances. Autrement dit, les participants qui formulent le plus de justifications différentes des règles d’action ne sont pas forcément ceux qui réalisent les moins bonnes productions.
Ces résultats amènent à penser que les 31 participants ne s’opposent pas en deux groupes, soit un premier qui émettrait des justifications véhiculant des règles d’action et qui serait performant, et un second qui formulerait d’autres types de justifications et qui ne serait pas performant. Au contraire, la majorité des participants se caractériseraient par une hétérogénéité sur le plan du type de justifications formulées. Ceux qui verbaliseraient beaucoup de règles d’action ne formuleraient pas forcément moins d’autres types de justifications que les autres participants et cela n’affecterait pas leurs performances.
Pour examiner cette dernière hypothèse, une analyse par grappes (cluster analysis) selon la méthode de Ward a été appliquée aux données. Elle a permis de délimiter des grappes (clusters) de participants émettant des justifications de manière relativement similaire. Les variables retenues pour l’analyse sont les fréquences par individu pour les différents types de justifications repris dans le tableau 1, à l’exception des présupposés et des indices de surface (dont le nombre total est inférieur au nombre de participants).
L’analyse aboutit à la construction du dendrogramme de la figure 1.
Nous avons choisi de couper le dendrogramme de façon à obtenir quatre grappes. De cette manière, le fait d’appartenir à l’une ou l’autre grappe explique au moins 10 % de la variance observée entre les participants. Le tableau 2 présente, pour chaque grappe, la moyenne relative à chaque variable retenue dans l’analyse. En outre, ce tableau mentionne la moyenne de la performance globale par grappe (variable non prise en compte dans l’analyse).
Ce tableau appelle plusieurs constats :
Qu’il y ait ou non référence explicite à une posture/préoccupation, une hiérarchie relative au nombre de règles d’action verbalisées apparaît entre les différentes grappes : D > C > B > A ;
Une hiérarchie inverse apparaît concernant le nombre de non-justifications : A > B > C > D ;
Pour les autres types de justifications, aucune hiérarchie particulière ne se dégage ;
Une hiérarchie apparaît sur le plan de la performance globale : D > C > B > A.
Nous pouvons synthétiser ces constats en affirmant qu’à la hiérarchie relative au nombre de règles d’action verbalisées correspond une hiérarchie de la performance globale[14]. Par ailleurs, il n’existe pas de hiérarchie claire concernant les autres types de justifications, à l’exception du nombre de non-justifications. Pour le dire autrement : plus les participants verbalisent de règles d’action, plus ils sont performants. Ils peuvent toutefois formuler d’autres justifications que des règles d’action sans que cela ait un impact sur leur performance. C’est le nombre de règles d’action verbalisées qui apparaît comme déterminant.
Au-delà du lien entre performance et justification, le tableau 3 présente les corrélations significatives entre le nombre de règles d’action verbalisées, la performance globale, le score au test et le niveau du plus haut diplôme obtenu.
Outre le fait, comme nous l’avons déjà vu, que le nombre de règles d’action verbalisées et la performance globale sont corrélés positivement, ce tableau montre que les individus qui obtiennent les meilleurs résultats au test ne sont pas forcément ceux qui réalisent les meilleures performances. Autrement dit, ce n’est pas parce qu’ils maîtrisent les commandes et les procédures utiles, voire nécessaires à la réalisation des tâches qu’elles sont mobilisées de manière opportune en situation. Nous remarquons également que, si le niveau du plus haut diplôme obtenu est corrélé positivement avec le score au test, il ne l’est ni avec la performance en situation, ni avec le nombre de règles d’action verbalisées.
Enfin, il est intéressant d’examiner les relations au sein des tâches et entre les tâches. C’est ce que permet la figure 2, qui présente les corrélations entre les performances pour chaque tâche (évaluée à l’aide des grilles critériées) et le nombre de règles d’action verbalisées par rapport à chaque tâche.
Cette figure met en évidence plusieurs éléments :
Il existe une corrélation significative entre les performances aux tâches (0,40) : les individus qui réussissent le mieux la tâche A réussissent aussi le mieux la tâche B[15] ;
Pour chaque tâche, le nombre de règles d’action verbalisées est corrélé positivement avec les performances (0,69 et 0,53). Nous retrouvons ici le résultat qui vient d’être observé sur le plan global ;
Un résultat est particulièrement intéressant : les règles d’action verbalisées pour la tâche A et la performance pour la tâche B sont corrélées positivement (0,50). Il en va de même pour les règles d’action verbalisées pour la tâche B et la performance pour la tâche A (0,37). Autrement dit, nous pouvons considérer que la capacité d’un individu à tenir un discours relatif à son activité en situation (en règles d’action) est « prédictive » de la performance de cet individu pour une autre situation non concernée par ce discours. Cette considération est toutefois à nuancer pour trois raisons. Premièrement, une corrélation n’indique pas une relation causale : c’est peut-être parce qu’ils sont performants que les individus sont capables de verbaliser des règles d’action, et non l’inverse. Deuxièmement, le schéma expérimental plaçait chronologiquement les situations A et B avant l’entretien, ce qui amène à mettre l’idée de prédiction entre guillemets. Troisièmement, la « proximité » entre les situations n’est pas évaluée (si tant est qu’elle soit évaluable objectivement). Malgré ces précautions dans l’interprétation, la lecture de ces résultats renforce l’intérêt de la question au coeur du présent article : dans quelle mesure l’analyse après coup qu’un individu fait de sa performance dans une situation permet-elle de se prononcer sur la répétabilité de cette performance dans une autre situation ?
Conclusion
Évaluer des compétences professionnelles à l’aide de la méthodologie de la réflexivité garante de la transférabilité consisterait à associer l’observation d’une performance à l’analyse après coup de cette performance pour en prédire la répétabilité dans d’autres situations. Une telle méthodologie serait à la fois valide, parce qu’elle prendrait en compte dans l’évaluation les dimensions de performance et de transférabilité qui fondent la notion de compétence, et praticable, parce qu’elle ne nécessiterait pas de multiplier les observations de performances. Dès lors, consacrer des travaux de recherche à son opérationnalisation et à sa validation est légitime et opportun. C’est dans cette perspective que les travaux présentés ici ont été menés.
L’étude expérimentale décrite dans cet article avait pour but de se questionner sur le lien entre performance et conceptualisation. Cette conceptualisation était définie comme la compréhension de ce qu’on fait et pourquoi. Elle était appréhendée à travers le discours de l’individu sur son activité dans le cadre d’un entretien après coup.
Principaux résultats
Les participants qui verbalisent le plus de règles d’action sont les participants les plus performants ;
Les règles d’action verbalisées mises en évidence par l’expérimentation par rapport à l’utilisation professionnelle du traitement de texte semblent fondées avant tout sur l’adoption d’une posture/préoccupation.
Dans le discours d’un même participant, des règles d’action et d’autres types de justifications peuvent coexister. Au-delà de la verbalisation de règles d’action, le fait de formuler d’autres types de justifications ne mène pas ipso facto à des performances moins élevées ;
Les participants ne semblent pas s’opposer en deux groupes, l’un qui émettrait des justifications sur la base de règles d’action, l’autre en recourant à d’autres types de justifications. Il apparaît au contraire qu’une majorité de participants verbalisent à la fois des règles d’action et d’autres types de justifications ;
Les participants qui réussissent le mieux le test ne sont pas ceux qui réalisent les meilleures performances et qui verbalisent le plus de règles d’action. Ce n’est pas parce qu’ils maîtrisent les commandes et les procédures utiles, voire nécessaires à la réalisation des tâches qu’elles sont mobilisées de manière opportune en situation ;
Le nombre de règles d’action formulées concernant une tâche est corrélé avec la performance à une autre tâche. Même si l’interprétation nécessite de la prudence, ce résultat renforce l’hypothèse selon laquelle la capacité d’un individu à tenir un discours sur son activité en situation est « prédictive » de la performance de cet individu dans une autre situation.
D’une manière générale, si nous revenons à la question posée dans cet article, les éléments apportés par la présente expérimentation plaident en faveur de l’éclairage d’une performance par une analyse après coup en vue d’en appréhender la répétabilité. Toutefois, une réponse plus appuyée nécessiterait indiscutablement d’autres résultats empiriques, notamment dans d’autres domaines que celui de l’utilisation professionnelle du traitement de texte. Les constats réalisés ici soulignent l’intérêt, pour la recherche expérimentale, de faire sienne cette question, ce qui est peu le cas aujourd’hui.
Appendices
Notes
-
[1]
Plusieurs auteurs (notamment Perrenoud, 2011 ; Le Boterf, 2002 ; Tardif, 1995 ; Bellier, 1999) proposent des dispositifs d’évaluation basés sur cette méthodologie, sans toutefois leur donner le nom de méthodologie de la réflexivité garante de la transférabilité, que nous proposons ici pour les caractériser.
-
[2]
Nous ne traiterons pas ici du problème des familles de situations. Nous renvoyons le lecteur qui s’y intéresserait à d’autres écrits : Chenu, 2005, 2006, 2012b et 2015.
-
[3]
Pastré a précisé cette notion de conceptualisation en insistant surtout sur le fait que, pour que l’action d’un individu soit efficace, il est nécessaire qu’il ait fait siens les concepts pragmatiques et les structures conceptuelles des situations qu’il est amené à gérer : « Pour chaque classe de situations professionnelles, il existe une structure conceptuelle […] qui est en quelque sorte le socle invariant qui va servir à organiser l’action efficace du sujet » (2001, p. 6).
-
[4]
Ces participants sont des hommes et des femmes suivant une formation professionnelle qualifiante (technicien en bureautique, secrétaire de direction, etc.) lors de laquelle ils ont reçu au moins un cours de traitement de texte. Même si tous les âges sont représentés, le plus souvent il s’agissait de jeunes adultes. Tous se sont portés volontaires pour participer à une expérience qui leur a été présentée comme portant sur la compréhension des raisonnements sous-jacents à l’utilisation d’un traitement de texte. Plus de détails sur ces participants sont fournis par Chenu (2015). Après la réalisation de cette expérimentation avec les adultes en formation, le même dispositif expérimental a été reconduit avec quatre secrétaires chevronnées. Les constats que cette réplication a permis de dresser vont dans le même sens que les résultats présentés ci-après.
-
[5]
Cela était expliqué en début de rencontre à chaque participant. En outre, selon qu’il jouait ou non le rôle de patron, le chercheur portait ou non un badge sur lequel il était inscrit « directeur ». Si le participant posait une question pendant l’observation, le chercheur remettait ce badge « directeur » pour y répondre. Sinon, il restait muet et tentait de se faire oublier au maximum.
-
[6]
Par exemple, mettre en gras, insérer un tableau, uniformiser la largeur des colonnes, insérer un objet Word Art, fusionner des cellules, etc.
-
[7]
En voici quelques-uns à titre d’exemple : le tableau tient en une page, les heures correctes des repas sont reprises, les colonnes ont des dimensions uniformes, et la mise en forme des intitulés des jours est harmonisée et les différencie des autres types d’informations.
-
[8]
Voici quelques exemples d’échelons : 1 – Je ne reprends pas le document et je ne le consulte même pas pendant ou après la réalisation ; 4 – Je ne repars pas du document, mais je fais un copier-coller de certaines parties, je reproduis certaines mises en forme. Cela me permettra de reprendre certaines idées, certains aspects de la production de la personne que je trouve importants ; 6 – Je repars du document et j’y apporte des modifications, mais qui ne demanderont pas beaucoup de temps, qui ne modifient pas fondamentalement le document ; 7 – Je reprends le document tel qu’il est.
-
[9]
Cela varie selon le participant et peut, pour un même individu, varier selon la règle d’action concernée.
-
[10]
Il existe de très rares exceptions où la règle constitue une vérité technique ou est fondée sur un critère esthétique.
-
[11]
Nous renvoyons à d’autres textes le lecteur qui voudrait en savoir davantage : Chenu, 2009, 2010, 2012a, 2012b, 2015 et 2016.
-
[12]
Étant donné le faible nombre d’observations (31), la corrélation des rangs de Spearman a été préférée à la corrélation de Pearson. Cela permet d’éviter qu’une observation « extrême » (p. ex., un individu qui donnerait des justifications beaucoup plus que les autres et qui réussirait les tâches beaucoup mieux que les autres) ait beaucoup plus de poids que les autres observations et ne devienne, à elle seule, déterminante pour la corrélation. Dans la corrélation de Spearman, les observations, transformées en rangs, ont le même poids. Dans la suite des résultats, c’est cette corrélation qui sera systématiquement présentée. N. S. = non significatif ; * = p < 0,05 ; **= p < 0,01 ; *** = p < 0,001 ; **** = p < 0,0001.
-
[13]
Moyenne des pourcentages de critères atteints pour chaque tâche, sans tenir compte des erreurs orthographiques.
-
[14]
Une analyse de variance des performances avec la grappe comme variable de classement a été réalisée. Les différences entre les moyennes de performance des différentes grappes sont significatives (F = 4,48 ; p = 0,0112).
-
[15]
Toutefois, il est important de signaler que, si nous prenons en compte le jugement de la secrétaire chevronnée comme modalité d’évaluation de la performance, la corrélation disparaît.
Bibliographie
- Baesch, V., Henry, N. & Lejong, M. (2004). La méthodologie d’enseignement de la résolution de problèmes comme angle d’attaque pour une didactique de la bureautique destinée à la formation professionnelle. Dans B. André, G.-L. Baron & E. Bruillard (dir.), Traitement de texte et de documents : questions didactiques (pp. 85-98). Paris : INRP.
- Beckers, J. (2009). Contribuer à la formation de « praticiens réflexifs ». Puzzle, 26, 4-14. Repéré à http://hdl.handle.net/2268/21227
- Bellier, J.-P. (1998, avril). L’utilité sociale de la compétence. Dans M.-H. Ska, P. Timmermans, A. Kock, G. Speranza, P. Roman, J.-P. Bellier, W. Nimmergeers & L. Demoor, Validation des compétences : actes de la journée d’étude du 24 avril (pp. 28-35). Bruxelles : Conseil de l’éducation et de la formation.
- Bellier, S. (1999, novembre). Compétence comportementale : appellation non contrôlée. Textes des 10es Entretiens de la Villette, Paris. Repéré à http://desette.free.fr/pmevtxt/Apprendre%20autrement%20aujourd’hui%20Sommaire%20complet.htm
- Chauvet, A. (2001). Quels indicateurs de la compétence ? BBF, 46(3), 82-90. Repéré à http://bbf.enssib.fr/consulter/14-chauvet.pdf
- Chenu, F. (2005). Les compétences et les familles de situations : étude exploratoire de la complexité d’un jugement. Cahiers du Service de pédagogie expérimentale, 21-22, 103-125.
- Chenu, F. (2006). La dimension « famille de situations » de la notion de compétence : quelle objectivité ? quelle validité ? Dans P. Alves, G. Figari, P. Rodrigues & P. Valois (dir.), Évaluation des compétences et apprentissages expérientiels : savoirs, modèles et méthodes (pp. 91-102). Educa : Lisboa.
- Chenu, F. (2009). Performance et conceptualisation : quelle place dans l’évaluation des compétences professionnelles à utiliser un traitement de texte ? Travail et apprentissages, 4, 93-112. Repéré à http://hdl.handle.net/2268/62901
- Chenu, F. (2010, septembre). Intérêt, difficultés et limites de la prise en compte des conceptualisations dans l’évaluation des compétences professionnelles. Communication présentée au Congrès international de l’Actualité de la recherche en éducation et en formation, Genève.
- Chenu, F. (2012a, janvier). Que peut apporter la didactique professionnelle à l’évaluation des compétences ? Réponses aux questions de la table ronde organisée par Philippe Astier à l’occasion du 24e Colloque de l’ADMEE, Luxembourg. Repéré à http://admee2012.uni.lu/pdf2012/TR_03_B.pdf
- Chenu, F. (2012b). L’évaluation des compétences : de la méthodologie de la réflexivité garante de la transférabilité aux perspectives ouvertes par la didactique professionnelle (Thèse de doctorat). Université de Liège, Belgique.
- Chenu, F. (2015). L’évaluation des compétences professionnelles : une mise à l’épreuve expérimentale des notions et présupposés théoriques sous-jacents. Bern : Peter Lang.
- Chenu, F. (2016). Postures et préoccupations dans l’activité : quel positionnement théorique et quelles conséquences pour la notion de compétence ? Dans S. F. Oudet & C. Batal, R(évolution) du management des ressources humaines : des compétences aux capabilités. Lille : Presses universitaires du Septentrion.
- Jobert, G. (1998, octobre). La professionnalisation, entre compétence et reconnaissance sociale. Communication présentée au Symposium Quelle professionnalisation des formateurs d’enseignants ? Symposium du Réseau francophone de recherche en éducation et formation, Toulouse.
- Kunégel, P. (2007). Que font les tuteurs ? Une exploration de la partie énigmatique de l’alternance. Éducation permanente, 173, 109-119.
- Le Boterf, G. (2002). De quel concept de compétence avons-nous besoin ? Soins Cadres, 41, 20-22. Repéré à http://www.guyleboterf-conseil.com/images/Soins%20 cadres.PDF
- Lévy-Leboyer, C. (2002). La gestion des compétences (6e éd.). Paris : Éditions d’Organisation.
- Mayen, P. (2003). Comment la didactique professionnelle peut contribuer à l’évaluation des compétences professionnelles. Cahiers du Service de pédagogie expérimentale, 15-16, 301-310.
- Mayen, P. (2008, janvier). Incompétences et compétences : peut-on définir des repères de professionnalité ? Communication présentée au 20e Colloque de l’ADMEE-Europe, Genève. Repéré à https://plone2.unige.ch/admee08/tables-rondes/v-tr2/v-tr2-3
- Michel, G. & Allemand, D. (2008). L’apprentissage de la conduite d’entretien par les formateurs. Travail et apprentissages, 2, 111-130.
- Pastré, P. (1999). Travail et compétences : un point de vue de didacticien. Formation emploi, 67, 109-125.
- Pastré, P. (2001). Les compétences professionnelles et leur développement. Revue de la CFDT, 39, 3-10.
- Pastré, P. (2008a, janvier). Quelles questions à propos de l’analyse de l’activité ? Communication présentée à la rencontre annuelle de l’association Recherche et pratiques en didactique professionnelle, Paris. Repéré à http://didactiqueprofessionnelle.ning.com/page/reunion-annuelle-2008
- Pastré, P. (2008b). Étude comparative des trois chantiers de l’AFPA. Travail et apprentissages, 2, 131-139.
- Perrenoud, P. (2011, mars). Compétences : questions de didactique professionnelle. Diaporama présenté à la conférence de l’Institut de formation et de recherche en enseignement supérieur, Liège.
- Rey, B. (2014). Compétence et évaluation en milieu scolaire : une relation complexe. Dans D. Dierendonck, E. Loarer & B. Rey (dir.). L’évaluation des compétences en milieu scolaire et professionnel (pp. 25-34). Bruxelles : De Boeck.
- Samurçay, R. & Pastré, P. (1998, février). L’ergonomie et la didactique – L’émergence d’un nouveau champ de recherche : didactique professionnelle. Communication présentée au Colloque Recherche et ergonomie de la Société d’ergonomie de langue française, Toulouse.
- Tardif, J. (1995). Les influences de la psychologie cognitive sur les pratiques d’enseignement et d’évaluation. Revue québécoise de psychologie, 16(2), 175-203.
- Vergnaud, G. (2001, mai). Forme opératoire et forme prédicative de la connaissance. Dans J. Portugais (dir.), La notion de compétence en enseignement des mathématiques : analyse didactique des effets de son introduction sur les pratiques et sur la formation. Actes du Colloque du Groupe de didactique des mathématiques, Montréal.
- Vinatier, I. (2009). Pour une didactique professionnelle de l’enseignement. Rennes : PUR.
- Vinatier, I. (2013). Le travail enseignant : une approche par la didactique professionnelle. Bruxelles : De Boeck.