18.01.2015 Views

Les tests certificatifs - Labset

Les tests certificatifs - Labset

Les tests certificatifs - Labset

SHOW MORE
SHOW LESS

Create successful ePaper yourself

Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.

Impact de <strong>tests</strong> formatifs organisés via la plateforme<br />

Web CT sur la réussite à des <strong>tests</strong> <strong>certificatifs</strong>.<br />

Professeur Ch. Hanzen<br />

Université de Liège<br />

Faculté de médecine vétérinaire<br />

B42 Sart Tilman, 4000 Liège<br />

E-mail : christian.hanzen@ulg.ac.be<br />

Web site : www.fmv.ulg.ac.be/oga<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 1


L’évaluation formative : un BESOIN<br />

● Définitions<br />

= procédures visant à améliorer le curriculum (Scriven, M., The<br />

Methodology of Evaluation, Perspectives of Curriculum<br />

Evaluation, 1967, Rand Mc Nally)<br />

= Evaluation intervenant, en principe, au terme de chaque tâche<br />

d’apprentissage et ayant pour objet d’informer élève et maître<br />

du degré de maîtrise atteint et éventuellement, de découvrir<br />

où et en quoi un élève éprouve des difficultés d’apprentissage,<br />

en vue de lui faire découvrir des stratégies qui lui permettent<br />

de progresser… ( de Landsheere G, Dictionnaire de<br />

l’évaluation et de la recherche en éducation, 1979).<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 2


Une évaluation formative sur Web CT :<br />

une IDEE justifiée<br />

● Organisation depuis 5 ans de <strong>tests</strong> formatifs en<br />

présentiel<br />

● Augmentation du parc informatique des étudiants<br />

• enquête 2005 auprès de 700 étudiants de doctorat<br />

• 87 % disposent d’un ordinateur (53 % : PC ; 34 % :<br />

portable; 13 % : les deux)<br />

• 74 % bénéficient d'une connexion internet.<br />

• 60 ordinateurs dans les diverses salles informatiques<br />

de la faculté<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 3


Une évaluation formative sur Web CT :<br />

une IDEE aux multiples avantages<br />

Apprenant<br />

• gestion plus aisée des moments d'évaluation<br />

• évaluation dès la fin du chapitre<br />

• entraînement aux <strong>certificatifs</strong><br />

• avoir une retroaction pour chaque question<br />

• mise en place d’une réflexion metacognitive<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 4


Une évaluation formative sur Web CT :<br />

une IDEE aux multiples avantages<br />

Enseignant<br />

• réduction du travail inhérent à une évaluation en<br />

présentiel (impression, réservation)<br />

• personnalisation (par chapitre) des évaluations<br />

• moyen indirect de réduire l’absentéisme <br />

• prolonger l’évaluation par une discussion sur le forum<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 5


Objectifs de l’étude<br />

● évaluer l'impact auprès des apprenants de <strong>tests</strong> formatifs<br />

mis à en ligne sur la plateforme Web CT<br />

● Évaluer les effets sur le taux de réussite aux <strong>tests</strong><br />

<strong>certificatifs</strong>.<br />

● Et donc confirmation éventuelle d’un adage bien connu :<br />

« Plus je m’entraîne, plus je saute haut » (Tia Hellebaut)<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 6


MOYENS : cours organisés en présentiel<br />

● Cours de propédeutiques spéciales du système génital<br />

(prerequis pour les enseignements de 2ème doctorat)<br />

• 12 h en 1er doctorat<br />

● Cours de pathologies mammaires, obstétricales et de la<br />

reproduction des ruminants, équidés et porcs (15 septembre<br />

au 10 décembre 2005)<br />

• 50 heures en 2ème doctorat<br />

• 347 étudiants concernés<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 7


Moyens : organisation des évaluations en 2ème doctorat<br />

Accès aux <strong>tests</strong> de 1er doc : 7 <strong>tests</strong> et 65 questions<br />

Accès aux <strong>tests</strong> de 2ème doc : 18 <strong>tests</strong> et 136 questions<br />

Paramétrages identiques des <strong>tests</strong><br />

40 QCM SGI 40 QCM SGI<br />

S1 S2 S3 S3 S4 S5 S6 C1 T1 S7 S8 S9 S10 S11 C1 C2 T2<br />

Rentrée académique<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 8


MOYENS : Questions des <strong>tests</strong> formatifs et<br />

<strong>certificatifs</strong><br />

● Nature des questions : QCM (4 propositions) et 4 SGI (en<br />

vue d’une évaluation indirecte de la vigilance cognitive)<br />

• 6 : aucune des solutions proposées n'est correcte ;<br />

• 7 : toutes les solutions proposées sont correctes simultanément<br />

;<br />

• 8 : manque d’information dans l’énoncé de la question ;<br />

• 9 : absurdité ou une contre-vérité dans l’énoncé de la question.<br />

● Rédaction des questions par l’enseignant<br />

● Validation par les assistants (n=3)<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 9


ACTIONS : Paramétrage des <strong>tests</strong> formatifs sur<br />

Web CT<br />

● Accès simultané à toutes les questions d’un test<br />

● Aucune limite de temps imposée<br />

● Deux tentatives allouées par test<br />

● Intervalle minimum de 48 heures entre les deux tentatives<br />

● Accès au résultat une fois le test envoyé<br />

● La correction du test impliquait une réponse à toutes les<br />

questions<br />

● Accès à une rétroaction générale par question une fois le<br />

test soumis (justification par l’enseignant de la réponse<br />

correcte)<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 10


ACTIONS : <strong>Les</strong> <strong>tests</strong> <strong>certificatifs</strong><br />

● Enjeu : report possible à l’oral de la cote moyenne obtenue sur<br />

l’ensemble des deux <strong>tests</strong> <strong>certificatifs</strong> si moyenne >=12<br />

● Cotation<br />

• + 1 point attribué en cas de réponse correcte,<br />

• 0 point en cas d'omission,<br />

• - 1/7ème des points en cas de réponse erronée<br />

• application de la formule 1/n-1,<br />

• n représentant le nombre de propositions soit 8<br />

● Feuille de justificatif à remplir le cas échéant par l’apprenant<br />

● Recorrection après analyse des r.bis<br />

● Publication des résultats et des rétroactions aux réponses correctes<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 11


Evaluation : taux de participation aux <strong>tests</strong> formatifs<br />

(% d’étudiants qui ont réalisé au moins un test)<br />

100<br />

90<br />

80<br />

70<br />

60<br />

50<br />

40<br />

30<br />

20<br />

10<br />

0<br />

Tests doc1 Tests doc2 Tests doc1 et 2<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 12


Evaluation : taux de participation aux <strong>tests</strong> formatifs<br />

90<br />

80<br />

70<br />

60<br />

50<br />

40<br />

% de <strong>tests</strong> effectués<br />

% de questions testées<br />

30<br />

20<br />

10<br />

0<br />

Tests doc1 Tests doc2 Tests doc1 et 2<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 13


Evaluation : résultats moyens des <strong>tests</strong> formatifs<br />

Note maximale 20<br />

15<br />

14<br />

13<br />

12<br />

11<br />

10<br />

a b c<br />

Tests doc1<br />

(prerequis)<br />

Tests doc2<br />

(pathologies)<br />

Moy : 14,7<br />

Moyenne<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 14


Evaluation : résultats moyens des <strong>tests</strong> <strong>certificatifs</strong><br />

Note maximale 20<br />

13<br />

S<br />

Moy : 12,2<br />

S<br />

12<br />

S<br />

S<br />

Moyenne de tous les<br />

étudiants<br />

Au moins un test<br />

11<br />

NS<br />

Aucun test<br />

10<br />

a<br />

a<br />

b<br />

Test certificatif 1 Test certificatif 2 Moyenne des deux<br />

<strong>tests</strong><br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 15<br />

c


Evaluation : effet du nombre de questions formatives<br />

testées sur les résultats des <strong>tests</strong> formatifs<br />

Note maximale 20<br />

16<br />

15<br />

Tests de prerequis (1er doc)<br />

14<br />

13<br />

12<br />

11<br />

10<br />

16<br />

15<br />

14<br />

13<br />

12<br />

11<br />

10<br />

a a a<br />

44 Moy<br />

Note maximale 20<br />

a a b<br />

a<br />

<br />

90 Moy<br />

16<br />

15<br />

14<br />

13<br />

12<br />

11<br />

10<br />

Note maximale 20<br />

a b b<br />

140 Moy<br />

Ensemble des <strong>tests</strong><br />

Tests de pathologies (2ème doc)<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 16


Evaluation : effet du nombre de questions formatives<br />

testées sur le résultat moyen des <strong>tests</strong> <strong>certificatifs</strong><br />

Nombre de questions<br />

180<br />

170<br />

160<br />

150<br />

a<br />

140<br />

130<br />

120<br />

b<br />

110<br />

100<br />

=16<br />

a a b<br />

a<br />

a b c d e<br />

Résultats sur 20<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 17


Evaluation du système : le test de satisfaction<br />

● Mise en ligne sur Web CT<br />

• Après publications des résultats des <strong>tests</strong> <strong>certificatifs</strong><br />

• pendant le mois de février 2006<br />

● 85 avis exprimés (sur 347 étudiants de 2ème doctorat)<br />

● 19 questions de fond et de forme<br />

● 2 questions ouvertes relatives aux points positifs et négatifs<br />

des enseignements<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 18


<strong>Les</strong> évaluations formatives en ligne, vous ont aidé à assimiler la<br />

matière (85 avis exprimés)<br />

70<br />

% de satisfaction<br />

60<br />

50<br />

40<br />

30<br />

20<br />

10<br />

0<br />

Pas utilisées<br />

Pas du tout<br />

d'accord<br />

Plutôt pas<br />

d'accord<br />

Plutôt<br />

d'accord<br />

Tout à fait<br />

d'accord<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 19


En ce qui concerne les évaluations formatives en ligne, les retroactions<br />

générales vous ont aidé à mieux comprendre vos erreurs (n=85).<br />

% de satisfaction<br />

80<br />

70<br />

60<br />

50<br />

40<br />

30<br />

20<br />

10<br />

0<br />

Pas du tout<br />

d'accord<br />

Plutôt pas<br />

d'accord<br />

Plutôt d'accord<br />

Tout à fait<br />

d'accord<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 20


Vous connaissez maintenant vos résultats aux deux <strong>tests</strong> <strong>certificatifs</strong>.<br />

Estimez-vous que les résultats obtenus sont à la hauteur des efforts<br />

d’apprentissage consentis (n=85)<br />

% de satisfaction<br />

40<br />

35<br />

30<br />

25<br />

20<br />

15<br />

10<br />

5<br />

0<br />

Pas du tout<br />

d'accord<br />

Plutôt pas<br />

d'accord<br />

Plutôt d'accord<br />

Tout à fait<br />

d'accord<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 21


Evaluation : aspects négatifs (extraits)<br />

● Je me permets de signaler le fait que les <strong>tests</strong> de webct ne<br />

sont pas du tout représentatifs de la difficulté des <strong>tests</strong><br />

<strong>certificatifs</strong>.<br />

● L'aspect le plus négatif est que les questions ne sont pas en<br />

nombre suffisant et sont présentées dans le même ordre<br />

d'une fois sur l'autre (la mémoire du premier test est quelque<br />

fois plus forte que la mémoire de la matière!)<br />

● J'ai trouvé dommage que l'accès aux questionnaires soit<br />

limité (dans le temps et en nombre).<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 22


Evaluation : aspects positifs (extraits)<br />

● J'ai vraiment trouvé que votre idée de créer ces évaluations<br />

étaient une excellente idée, et elles permettent de mieux<br />

comprendre la matière surtout grâce aux rétroactions. Cela a du<br />

vous prendre énormément de temps et je vous en remercie!<br />

● L'aspect le plus positif de Web CT est le système<br />

d'autoévaluation : cela m' a permis de cerner les parties du cours<br />

que je n'avais pas bien assimilées, de mieux comprendre les<br />

objectifs, d'apprendre à moins voir le cours de façon théorique,<br />

mais dans un esprit "clinique" avec une vision plus générale.<br />

Dommage que les <strong>tests</strong> pour chaque chapitre ne comportent pas<br />

plus de questions car c'est aussi une bonne façon de mémoriser<br />

certaines choses.<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 23


Evaluation : aspects positifs (extraits)<br />

● Même si ce n'est pas l'objectif du système universitaire, votre<br />

approche du cours et vos exigences nous poussent vraiment à<br />

nous mettre au travail rapidement et surtout sereinement ce qui<br />

facilite grandement l'utilisation de notre mémoire à long terme.<br />

Il y'a peu de contraintes en université pour nous stimuler, et<br />

même si nous sommes maintenant assez mûrs pour savoir où est<br />

notre intérêt, une bonne part de fainéantise prend souvent le<br />

dessus.<br />

● <strong>Les</strong> évaluations m'ont permis de voir les lacunes que j'avais<br />

encore après l'apprentissage du cours et d'éclaircir certains<br />

points obscures grâce aux réponses commentées.<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 24


REGULATION : Innovation à poursuivre<br />

● Taux de participation : 86 % des apprenants ont fait au<br />

moins un test<br />

● Effet favorable sur l’assimilation de la matière : 91 % de<br />

plutôt à tout à fait d’accord<br />

● Impact positif des <strong>tests</strong> formatifs sur la réussite aux <strong>tests</strong><br />

<strong>certificatifs</strong> (2/3 des étudiants ont pu reporter leur cote à<br />

l’oral)<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 25


REGULATION : Innovation à poursuivre mais …<br />

● 1 étudiant sur deux estime n’avoir pas été récompensé des<br />

efforts réalisés<br />

● Adaptations nécessaires (2006-2007)<br />

• Nombre illimité de tentatives par test<br />

• Organisation d’un test formatif en situation réelle (2 minutes par<br />

question, une seule tentative possible) durant la semaine<br />

précédant le test certificatif.<br />

• Augmentation du nombre total de questions<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 26


REGULATION : adaptations encore possibles<br />

● Faire des <strong>tests</strong> séparés de questions dites de connaissance et<br />

de compréhension<br />

● Favoriser l’approche métacognitive des <strong>tests</strong> réalisés<br />

(l’expérience n’est pas ce qui arrive ….) les DC sur Web CT<br />

● Inciter les apprenants à rédiger des questions : évolution vers le<br />

nouveau paradigme de paradigme de « l’élève-qui-apprend-ycompris-en-participant-au-processus-de-l’évaluation<br />

»<br />

● Faire des <strong>tests</strong> ne comprenant que des manques (8) ou des<br />

absurdités (9) pour entraîner les apprenants à ne pas voir des «<br />

pièges » là ou il n’y en a pas et inversement<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 27


Une dernière question pour la route …..<br />

Et si les performances ne suffisaient plus à rendre<br />

compte des apprentissages des élèves <br />

Figari G.<br />

Mesure et évaluation en éducation 2006, 29.<br />

Prof. Ch. Hanzen – WebCT et <strong>tests</strong> formatifs- Colloque Formadis novembre 2006 28

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!