Les tests certificatifs - Labset
Les tests certificatifs - Labset
Les tests certificatifs - Labset
Create successful ePaper yourself
Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.
Impact de <strong>tests</strong> formatifs organisés via la plateforme<br />
Web CT sur la réussite à des <strong>tests</strong> <strong>certificatifs</strong>.<br />
Professeur Ch. Hanzen<br />
Université de Liège<br />
Faculté de médecine vétérinaire<br />
B42 Sart Tilman, 4000 Liège<br />
E-mail : christian.hanzen@ulg.ac.be<br />
Web site : www.fmv.ulg.ac.be/oga<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 1
L’évaluation formative : un BESOIN<br />
● Définitions<br />
= procédures visant à améliorer le curriculum (Scriven, M., The<br />
Methodology of Evaluation, Perspectives of Curriculum<br />
Evaluation, 1967, Rand Mc Nally)<br />
= Evaluation intervenant, en principe, au terme de chaque tâche<br />
d’apprentissage et ayant pour objet d’informer élève et maître<br />
du degré de maîtrise atteint et éventuellement, de découvrir<br />
où et en quoi un élève éprouve des difficultés d’apprentissage,<br />
en vue de lui faire découvrir des stratégies qui lui permettent<br />
de progresser… ( de Landsheere G, Dictionnaire de<br />
l’évaluation et de la recherche en éducation, 1979).<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 2
Une évaluation formative sur Web CT :<br />
une IDEE justifiée<br />
● Organisation depuis 5 ans de <strong>tests</strong> formatifs en<br />
présentiel<br />
● Augmentation du parc informatique des étudiants<br />
• enquête 2005 auprès de 700 étudiants de doctorat<br />
• 87 % disposent d’un ordinateur (53 % : PC ; 34 % :<br />
portable; 13 % : les deux)<br />
• 74 % bénéficient d'une connexion internet.<br />
• 60 ordinateurs dans les diverses salles informatiques<br />
de la faculté<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 3
Une évaluation formative sur Web CT :<br />
une IDEE aux multiples avantages<br />
Apprenant<br />
• gestion plus aisée des moments d'évaluation<br />
• évaluation dès la fin du chapitre<br />
• entraînement aux <strong>certificatifs</strong><br />
• avoir une retroaction pour chaque question<br />
• mise en place d’une réflexion metacognitive<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 4
Une évaluation formative sur Web CT :<br />
une IDEE aux multiples avantages<br />
Enseignant<br />
• réduction du travail inhérent à une évaluation en<br />
présentiel (impression, réservation)<br />
• personnalisation (par chapitre) des évaluations<br />
• moyen indirect de réduire l’absentéisme <br />
• prolonger l’évaluation par une discussion sur le forum<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 5
Objectifs de l’étude<br />
● évaluer l'impact auprès des apprenants de <strong>tests</strong> formatifs<br />
mis à en ligne sur la plateforme Web CT<br />
● Évaluer les effets sur le taux de réussite aux <strong>tests</strong><br />
<strong>certificatifs</strong>.<br />
● Et donc confirmation éventuelle d’un adage bien connu :<br />
« Plus je m’entraîne, plus je saute haut » (Tia Hellebaut)<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 6
MOYENS : cours organisés en présentiel<br />
● Cours de propédeutiques spéciales du système génital<br />
(prerequis pour les enseignements de 2ème doctorat)<br />
• 12 h en 1er doctorat<br />
● Cours de pathologies mammaires, obstétricales et de la<br />
reproduction des ruminants, équidés et porcs (15 septembre<br />
au 10 décembre 2005)<br />
• 50 heures en 2ème doctorat<br />
• 347 étudiants concernés<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 7
Moyens : organisation des évaluations en 2ème doctorat<br />
Accès aux <strong>tests</strong> de 1er doc : 7 <strong>tests</strong> et 65 questions<br />
Accès aux <strong>tests</strong> de 2ème doc : 18 <strong>tests</strong> et 136 questions<br />
Paramétrages identiques des <strong>tests</strong><br />
40 QCM SGI 40 QCM SGI<br />
S1 S2 S3 S3 S4 S5 S6 C1 T1 S7 S8 S9 S10 S11 C1 C2 T2<br />
Rentrée académique<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 8
MOYENS : Questions des <strong>tests</strong> formatifs et<br />
<strong>certificatifs</strong><br />
● Nature des questions : QCM (4 propositions) et 4 SGI (en<br />
vue d’une évaluation indirecte de la vigilance cognitive)<br />
• 6 : aucune des solutions proposées n'est correcte ;<br />
• 7 : toutes les solutions proposées sont correctes simultanément<br />
;<br />
• 8 : manque d’information dans l’énoncé de la question ;<br />
• 9 : absurdité ou une contre-vérité dans l’énoncé de la question.<br />
● Rédaction des questions par l’enseignant<br />
● Validation par les assistants (n=3)<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 9
ACTIONS : Paramétrage des <strong>tests</strong> formatifs sur<br />
Web CT<br />
● Accès simultané à toutes les questions d’un test<br />
● Aucune limite de temps imposée<br />
● Deux tentatives allouées par test<br />
● Intervalle minimum de 48 heures entre les deux tentatives<br />
● Accès au résultat une fois le test envoyé<br />
● La correction du test impliquait une réponse à toutes les<br />
questions<br />
● Accès à une rétroaction générale par question une fois le<br />
test soumis (justification par l’enseignant de la réponse<br />
correcte)<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 10
ACTIONS : <strong>Les</strong> <strong>tests</strong> <strong>certificatifs</strong><br />
● Enjeu : report possible à l’oral de la cote moyenne obtenue sur<br />
l’ensemble des deux <strong>tests</strong> <strong>certificatifs</strong> si moyenne >=12<br />
● Cotation<br />
• + 1 point attribué en cas de réponse correcte,<br />
• 0 point en cas d'omission,<br />
• - 1/7ème des points en cas de réponse erronée<br />
• application de la formule 1/n-1,<br />
• n représentant le nombre de propositions soit 8<br />
● Feuille de justificatif à remplir le cas échéant par l’apprenant<br />
● Recorrection après analyse des r.bis<br />
● Publication des résultats et des rétroactions aux réponses correctes<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 11
Evaluation : taux de participation aux <strong>tests</strong> formatifs<br />
(% d’étudiants qui ont réalisé au moins un test)<br />
100<br />
90<br />
80<br />
70<br />
60<br />
50<br />
40<br />
30<br />
20<br />
10<br />
0<br />
Tests doc1 Tests doc2 Tests doc1 et 2<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 12
Evaluation : taux de participation aux <strong>tests</strong> formatifs<br />
90<br />
80<br />
70<br />
60<br />
50<br />
40<br />
% de <strong>tests</strong> effectués<br />
% de questions testées<br />
30<br />
20<br />
10<br />
0<br />
Tests doc1 Tests doc2 Tests doc1 et 2<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 13
Evaluation : résultats moyens des <strong>tests</strong> formatifs<br />
Note maximale 20<br />
15<br />
14<br />
13<br />
12<br />
11<br />
10<br />
a b c<br />
Tests doc1<br />
(prerequis)<br />
Tests doc2<br />
(pathologies)<br />
Moy : 14,7<br />
Moyenne<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 14
Evaluation : résultats moyens des <strong>tests</strong> <strong>certificatifs</strong><br />
Note maximale 20<br />
13<br />
S<br />
Moy : 12,2<br />
S<br />
12<br />
S<br />
S<br />
Moyenne de tous les<br />
étudiants<br />
Au moins un test<br />
11<br />
NS<br />
Aucun test<br />
10<br />
a<br />
a<br />
b<br />
Test certificatif 1 Test certificatif 2 Moyenne des deux<br />
<strong>tests</strong><br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 15<br />
c
Evaluation : effet du nombre de questions formatives<br />
testées sur les résultats des <strong>tests</strong> formatifs<br />
Note maximale 20<br />
16<br />
15<br />
Tests de prerequis (1er doc)<br />
14<br />
13<br />
12<br />
11<br />
10<br />
16<br />
15<br />
14<br />
13<br />
12<br />
11<br />
10<br />
a a a<br />
44 Moy<br />
Note maximale 20<br />
a a b<br />
a<br />
<br />
90 Moy<br />
16<br />
15<br />
14<br />
13<br />
12<br />
11<br />
10<br />
Note maximale 20<br />
a b b<br />
140 Moy<br />
Ensemble des <strong>tests</strong><br />
Tests de pathologies (2ème doc)<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 16
Evaluation : effet du nombre de questions formatives<br />
testées sur le résultat moyen des <strong>tests</strong> <strong>certificatifs</strong><br />
Nombre de questions<br />
180<br />
170<br />
160<br />
150<br />
a<br />
140<br />
130<br />
120<br />
b<br />
110<br />
100<br />
=16<br />
a a b<br />
a<br />
a b c d e<br />
Résultats sur 20<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 17
Evaluation du système : le test de satisfaction<br />
● Mise en ligne sur Web CT<br />
• Après publications des résultats des <strong>tests</strong> <strong>certificatifs</strong><br />
• pendant le mois de février 2006<br />
● 85 avis exprimés (sur 347 étudiants de 2ème doctorat)<br />
● 19 questions de fond et de forme<br />
● 2 questions ouvertes relatives aux points positifs et négatifs<br />
des enseignements<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 18
<strong>Les</strong> évaluations formatives en ligne, vous ont aidé à assimiler la<br />
matière (85 avis exprimés)<br />
70<br />
% de satisfaction<br />
60<br />
50<br />
40<br />
30<br />
20<br />
10<br />
0<br />
Pas utilisées<br />
Pas du tout<br />
d'accord<br />
Plutôt pas<br />
d'accord<br />
Plutôt<br />
d'accord<br />
Tout à fait<br />
d'accord<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 19
En ce qui concerne les évaluations formatives en ligne, les retroactions<br />
générales vous ont aidé à mieux comprendre vos erreurs (n=85).<br />
% de satisfaction<br />
80<br />
70<br />
60<br />
50<br />
40<br />
30<br />
20<br />
10<br />
0<br />
Pas du tout<br />
d'accord<br />
Plutôt pas<br />
d'accord<br />
Plutôt d'accord<br />
Tout à fait<br />
d'accord<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 20
Vous connaissez maintenant vos résultats aux deux <strong>tests</strong> <strong>certificatifs</strong>.<br />
Estimez-vous que les résultats obtenus sont à la hauteur des efforts<br />
d’apprentissage consentis (n=85)<br />
% de satisfaction<br />
40<br />
35<br />
30<br />
25<br />
20<br />
15<br />
10<br />
5<br />
0<br />
Pas du tout<br />
d'accord<br />
Plutôt pas<br />
d'accord<br />
Plutôt d'accord<br />
Tout à fait<br />
d'accord<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 21
Evaluation : aspects négatifs (extraits)<br />
● Je me permets de signaler le fait que les <strong>tests</strong> de webct ne<br />
sont pas du tout représentatifs de la difficulté des <strong>tests</strong><br />
<strong>certificatifs</strong>.<br />
● L'aspect le plus négatif est que les questions ne sont pas en<br />
nombre suffisant et sont présentées dans le même ordre<br />
d'une fois sur l'autre (la mémoire du premier test est quelque<br />
fois plus forte que la mémoire de la matière!)<br />
● J'ai trouvé dommage que l'accès aux questionnaires soit<br />
limité (dans le temps et en nombre).<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 22
Evaluation : aspects positifs (extraits)<br />
● J'ai vraiment trouvé que votre idée de créer ces évaluations<br />
étaient une excellente idée, et elles permettent de mieux<br />
comprendre la matière surtout grâce aux rétroactions. Cela a du<br />
vous prendre énormément de temps et je vous en remercie!<br />
● L'aspect le plus positif de Web CT est le système<br />
d'autoévaluation : cela m' a permis de cerner les parties du cours<br />
que je n'avais pas bien assimilées, de mieux comprendre les<br />
objectifs, d'apprendre à moins voir le cours de façon théorique,<br />
mais dans un esprit "clinique" avec une vision plus générale.<br />
Dommage que les <strong>tests</strong> pour chaque chapitre ne comportent pas<br />
plus de questions car c'est aussi une bonne façon de mémoriser<br />
certaines choses.<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 23
Evaluation : aspects positifs (extraits)<br />
● Même si ce n'est pas l'objectif du système universitaire, votre<br />
approche du cours et vos exigences nous poussent vraiment à<br />
nous mettre au travail rapidement et surtout sereinement ce qui<br />
facilite grandement l'utilisation de notre mémoire à long terme.<br />
Il y'a peu de contraintes en université pour nous stimuler, et<br />
même si nous sommes maintenant assez mûrs pour savoir où est<br />
notre intérêt, une bonne part de fainéantise prend souvent le<br />
dessus.<br />
● <strong>Les</strong> évaluations m'ont permis de voir les lacunes que j'avais<br />
encore après l'apprentissage du cours et d'éclaircir certains<br />
points obscures grâce aux réponses commentées.<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 24
REGULATION : Innovation à poursuivre<br />
● Taux de participation : 86 % des apprenants ont fait au<br />
moins un test<br />
● Effet favorable sur l’assimilation de la matière : 91 % de<br />
plutôt à tout à fait d’accord<br />
● Impact positif des <strong>tests</strong> formatifs sur la réussite aux <strong>tests</strong><br />
<strong>certificatifs</strong> (2/3 des étudiants ont pu reporter leur cote à<br />
l’oral)<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 25
REGULATION : Innovation à poursuivre mais …<br />
● 1 étudiant sur deux estime n’avoir pas été récompensé des<br />
efforts réalisés<br />
● Adaptations nécessaires (2006-2007)<br />
• Nombre illimité de tentatives par test<br />
• Organisation d’un test formatif en situation réelle (2 minutes par<br />
question, une seule tentative possible) durant la semaine<br />
précédant le test certificatif.<br />
• Augmentation du nombre total de questions<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 26
REGULATION : adaptations encore possibles<br />
● Faire des <strong>tests</strong> séparés de questions dites de connaissance et<br />
de compréhension<br />
● Favoriser l’approche métacognitive des <strong>tests</strong> réalisés<br />
(l’expérience n’est pas ce qui arrive ….) les DC sur Web CT<br />
● Inciter les apprenants à rédiger des questions : évolution vers le<br />
nouveau paradigme de paradigme de « l’élève-qui-apprend-ycompris-en-participant-au-processus-de-l’évaluation<br />
»<br />
● Faire des <strong>tests</strong> ne comprenant que des manques (8) ou des<br />
absurdités (9) pour entraîner les apprenants à ne pas voir des «<br />
pièges » là ou il n’y en a pas et inversement<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 27
Une dernière question pour la route …..<br />
Et si les performances ne suffisaient plus à rendre<br />
compte des apprentissages des élèves <br />
Figari G.<br />
Mesure et évaluation en éducation 2006, 29.<br />
Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 28