Академический Документы
Профессиональный Документы
Культура Документы
admee
Europe
s s o ciatio n p o u r le
v e lo p p e m e n t d e s
t h o d o l o g ie s d '
v a l u a ti o n e n
d u c a t i on
d
m
e
e
Rsum
Lvaluation des comptences linguistiques des adultes en franais langue trangre est lobjet de
nombreux enjeux : reconnaissance et validation des acquis de lexprience ou dapprentissages formels
non certifis, notamment. Le Conseil de lEurope, mais aussi les services canadiens de limmigration
(Citoyennet et Immigration Canada) ou les autorits responsables de lenseignement suprieur des
pays francophones (comme la France ou la Communaut franaise de Belgique), dfinissent des
standards destins permettre lvaluation des comptences linguistiques de sujets adultes dans le
domaine du franais. Les objectifs de ces organismes peuvent tre trs variables et les enjeux, pour les
candidats lvaluation, plus ou moins importants (depuis la reconnaissance dun niveau de franais
dans la perspective dune valorisation barmique jusqu la possibilit daccder des tudes
suprieures en France ou en Belgique, ou tre admis comme immigrant conomique sur le territoire
canadien).
Si, explicitement ou non, les diffrents organismes font recours une approche par comptences, les
rfrentiels peuvent se prsenter de manire extrmement varie : le Conseil de lEurope, travers son
cadre commun de rfrence, et Citoyennet et Immigration Canada, dveloppent un document trs
complet et publi alors que les autorits acadmiques belges et franaises privilgient le travail de
commissions charges de crer ou dagrer des outils (tests ou examens) dvaluation.
Dautres acteurs, publics ou privs, dveloppent par ailleurs, en rapport avec les rfrentiels
mentionns, des outils quils soumettent lagrment des diffrentes autorits publiques. Cest dans ce
cadre, celui de loprationnalisation travers un outil dvaluation particulier, dont lobjectif est de
correspondre un ensemble de rfrentiels, que cette communication se situe. Elle mobilise la fois
une quipe de conception et un chercheur indpendant charg dassurer le contrle qualit de la
production et du suivi des tests.
Aprs une mise en correspondance des diffrents rfrentiels externes et du rfrentiel propre de loutil
dvaluation lui-mme, les auteurs mettront en vidence les stratgies de dveloppement des
diffrentes formes quivalentes (formes parallles) du test pour chacune des quatre composantes
(expression et comprhension de loral et de lcrit).
A travers lanalyse de la mise en uvre dun test particulier de franais gnral pour adultes dont la
langue maternelle nest pas le franais, lexpos tentera de mettre en vidence la complexit dune
rponse spcifique des prescrits distincts, sous contrainte dune procdure de qualit totale en voie
de certification.
Le facteur temps trait ci-dessus montre combien lunivers symbolique de lvaluation semble avoir
chang de paradigme ces dix dernires annes. En effet, la notion defficacit et dquit apparat de
plus en plus dans les discours institutionnels. Dans le chapitre consacr lvaluation dans le Cadre
europen commun de rfrence pour les langues (Conseil de lEurope, 1998, p135), il est fait mention
de ces aspects : () dans un programme de langue, la comptence de lapprenant nest pas la seule
chose value par exemple, la rentabilit de certains matriels pdagogiques ou mthodes, le type et
la qualit du discours effectivement produit, la satisfaction de lenseignement et celle de lapprenant,
lefficacit de lenseignement, etc. . De plus, lapprenant nest plus seulement acteur de son
apprentissage ; il est aussi de plus en plus matre de son parcours ; il capitalise ses savoirs et savoirfaire et apprend tre conscient de ltat prsent de ces connaissances (recommandation du
Conseil de lEurope, p12).
Enfin, au niveau de lthique, il est intressant de constater une avance certaine. En effet, les
institutions qui slectionnent des candidats limmigration ou lentre luniversit font de plus en
plus appel des oprateurs externes spcialistes de lvaluation en langues et qui offrent des outils
adapts la demande de telles institutions. Ainsi, le slectionneur nest plus partie prenante de
lvaluation linguistique en elle-mme, mais slectionne le candidat en fonction de seuils dacceptabilit.
Par exemple, suite lamendement dune nouvelle loi sur limmigration, les autorits canadiennes
(Citoyennet et Immigration Canada) ont dcid dexternaliser la passation de lpreuve linguistique et
de la confier un organisme spcialiste de dvaluation en langues.
Le contexte de lvaluation en langues a donc bien volu depuis les annes 70 et de nouvelles voies
souvrent la recherche interdisciplinaire. Cette volution sest faite de concert avec la mise en place de
standards linguistiques qui ont t longuement prouvs scientifiquement : les Standards linguistiques
canadiens (Canada anglophone), les Niveaux de comptence en franais langue seconde (Qubec) et
le Cadre europen commun de rfrence pour les langues (Europe). Dautres standards existent dans
des domaines plus spcifiques : par exemple, les Stanlag pour lOTAN.
Les enjeux de ces certifications sont normes, et tout point de vue. La validation dune comptence
en franais langue trangre permettra au candidat dmigrer, voire dtre slectionn dans une
universit francophone. De tels enjeux amnent scuriser le dispositif de passation des preuves et
de dlivrance des rsultats, demande qui est dailleurs mise par les recruteurs et autorits.
Par ailleurs, dautres instances comme le Conseil de lEurope ont aujourdhui ce souci de garantir des
certifications de qualit. Le Cadre europen commun de rfrence pour les langues se rclame de cette
approche qualit et propose, dans cette optique, un outil partir duquel toutes les certifications pourront
tre relies, suite une validation interne et externe de loutil. Ainsi, candidats et Institutions pourront
comparer les niveaux dans toute lEurope.
Les deux enjeux dfinis prcdemment concernent le TEF. Cest donc dans ce cadre, celui de
loprationnalisation travers un outil dvaluation particulier, dont lobjectif est de correspondre un
ensemble de rfrentiels, que cette communication se situe. Elle mobilise la fois une quipe de
conception et un chercheur indpendant charg dassurer le contrle qualit de la production et du suivi
des items.
1.3. La rponse dun test de franais gnral pour adultes non francophones
Le Test dEvaluation de Franais (TEF), cr en 1998, avait pour premier enjeu de rpondre la
demande des coles de la Chambre de Commerce et dIndustrie de Paris et des tablissements
dEnseignement ltranger. Ces organismes cherchaient slectionner, le plus justement possible, les
tudiants trangers sur la base, entre autres, des comptences linguistiques.
Ds sa cration, les sept niveaux du TEF ont t indexs sur les six niveaux de comptence du Cadre
europen commun de rfrence pour les langues. Pour llaboration des sept niveaux TEF, de
nombreuses tudes ont t menes.
En juillet 2002, les autorits canadiennes adoptent une nouvelle loi sur limmigration, et Citoyennet et
Immigration Canada rfrence le TEF comme test de franais langue trangre. Ce rfrencement
donne lieu de nouveaux travaux : une recherche est alors mene sur la mise en correspondance du
cadre de rfrence du TEF avec les Standards linguistiques canadiens.
Cette communication tentera de montrer lexprimentation qui a t mene par une quipe
pluridisciplinaire.
Source : Alexandra Crendal, daprs un schma de Paul Rivenc sur la didactique des langues
Dure
Structure
Score sur
Comprhension crite
60 min
50 questions
300 points
Comprhension orale
40 min
60 questions
360 points
Lexique / structure
30 min
40 questions
240 points
TOTAL
2H10
150 questions
900 points
Source : Le TEF, 6 annes dexpertise, mars 2004, brochure dite par la CCIP-DRI/E, p 7.
Dure
Structure
Score sur
60 min
2 sujets traiter
450 points
35 min
2 sujets traiter
450 points
Source : Le TEF, 6 annes dexpertise, mars 2004, brochure dite par la CCIP-DRI/E, p 7.
La conception des preuves est centralise et rpond aux critres dfinis dans la table de spcification
du TEF. Elle est ralise par des concepteurs slectionns pour leurs comptences et rgulirement
forms lutilisation des rfrentiels. Aprs valuation et validation pdagogique, les questions choix
multiples sont pr-testes auprs de candidats. Enfin, des analyses sont menes sur les items laide
de la mthode de rponse litem (MRI) et de lanalyse de Rasch.
Les activits du TEF, au-del de la conception, sont multiples. Deux grands processus interagissent :
celui de la conception (production des items, production des jeux) et celui de la ralisation (diffusion des
jeux, organisation des sessions TEF et communication des rsultats). La qualit de ces deux processus
est en permanence assure. Le schma n2 prsente ce cycle du Test dEvaluation de Franais (TEF)
et la mesure de sa qualit.
Source : Le TEF, 6 annes dexpertise, mars 2004, brochure dite par la CCIP-DRI/E, p 16.
Tableau 3 Tableau dquivalence des scores et niveaux TEF et de leurs mises en correspondance avec les
SLC. Extrait du site Internet de Citoyennet et Immigration Canada (juillet 2002).
Niveau
Points
(par comptence)
lev
(CLB/SLC 812)
Moyen
(CLB/SLC 6-7)
lmentaire
(CLB/SLC 4-5)
Nant
(CLB/SLC 0-3)
1re langue
officielle : 4
2e langue
officielle : 2
2
1
(max. de 2)
0
Parler
crire
(expression orale)
(comprhension orale)
(comprhension crite)
(expression crite)
niveau 5
niveau 6
(349-450 points)
niveau 5
niveau 6
(280-360 points)
niveau 5
niveau 6
(233-300 points)
niveau 5
niveau 6
(349-450 points)
niveau 4
(271-348 points)
niveau 3
(181-270 points)
niveau 0
niveau 1
niveau 2
(0-180 points)
niveau 4
niveau 4
niveau 4
(217-279 points)
(181-232 points)
(271-348 points)
niveau 3
niveau 3
niveau 3
(145-216 points)
(121-180 points)
(181-270 points)
niveau 0
niveau 0
niveau 0
niveau 1
niveau 1
niveau 1
niveau 2
niveau 2
niveau 2
(0-144 points)
(0-120 points)
(0-180 points)
Source : http://www.cic.gc.ca/francais/qualifie/qual-3-1.html.
TEF
SLC
NCFLS
Cadre europen
commun de rfrence
pour les langues
Standards linguistiques
canadiens
Niveaux de
comptence en franais
langue seconde
10 pages
191 pages
186 pages
45 pages
1998
2001
2002
1998
Chambre de
Commerce et
dIndustrie de Paris
Direction des Relations
Internationales de
lEnseignement
Didier
Conseil de lEurope
Gouvernement du
Qubec
Chambre de
Commerce et
dIndustrie de Paris
Conseil de lEurope
Division des langues
vivantes, Strasbourg
Citoyennet et
Immigration Canada
Groupe interministriel
sur le cadre commun
pour la francisation des
immigrants adultes
CECR
ACTFL
Treshold Level
Waystage
Alte
Canadian Language
Benchmarks (CLB)
Canadian Language
Benchmarks (CLB)
Normes nationales
pour la formation des
adultes en FLS
Conception et
administration de
programmes
Evaluation
Lire
Arrimage des
programmes
Base pour
lvaluation
Outil de
communication
Outil de pilotage
Comprhension crite
Test dEvaluation de
Editeur
Mandataire
Source
Vises
Comptences
Stades
Evaluation
Comprhension crite
Comprhension orale
Lexique / structure
Expression orale
Expression crite
Elmentaire (0+ - 2))
Intermdiaire (3-4)
Suprieur (5-6)
CECR
Apprendre
Enseigner
Evaluer
Comprendre
Ecouter
Parler
Ecrire
Elmentaire (A1-A2)
Indpendant (B1-B2)
Expriment (C1-C2)
Parler
Ecrire
Elmentaire (1-4)
Intermdiaire (5-8)
Avanc (8-12)
Interaction orale
Production crite
Dbutant (1-4)
Intermdiaire (5-8)
Avanc (9-12)
Niveaux
7 niveaux
6 niveaux
3 niveaux
12 niveaux
Langue dorigine
Franais
Langue de chaque
pays europen
Franais
Franais
oui
http://www.fda.ccip.fr
http://www.coe.int
http://www.language.ca
http://www.immigrationquebec.gouv.qc.ca
Traduction
Consultables sur :
Ce tableau rsume bien les ressemblances et les divergences entre rfrentiels. Par exemple,
lapproche de la langue : elle est aborde de faon diffrente selon quil sagit du TEF, du CECR, des
NCFLS ou des SLC : le dcoupage des comptences diffre au niveau des habilets productives ou
rceptives et la notion de communication est plus ou moins importante.
10
Schma 3 Reprsentation graphique des procdures permettant de relier les examens au CECR
SPECIFICATION
DU CONTENU DU TEST
Validit interne:
description et analyse
du contenu du test
Validit externe:
mettre en correspondance
le test avec les rfrentiels
Source : Conseil de lEurope (2003, p 4). Relier les examens de langue au Cadre europen de rfrence pour les langues:
apprendre, enseigner, valuer.
11
4.2. Dmarche adopte pour la mise en correspondance du TEF avec les SLC
Dmarche
La dmarche de recherche adopte repose
- dune part sur une tude qualitative relative la mise en correspondance thorique des
objectifs du TEF avec les descripteurs proposs par les Standards linguistiques canadiens,
- et dautre part sur une analyse quantitative ralise partir du classement des prototypes
ditems et des units relles du TEF.
Corpus tudi
Cette tude a t tablie partir de quatre corpus :
- les spcifications du test ;
- les units spcifiques du TEF (unit prototypes en termes de comptences et dobjectifs
viss) ;
- les units relles (items conus pour les jeux dpreuves et raliss partir des spcifications
dfinis dans lunit spcifique) ;
- les descriptions de comptences et dchelles contenues dans les Standards linguistiques
canadiens.
Droulement
Le tableau n5 retrace les diffrentes phases suivies pour la mise en correspondance de lchelle TEF
avec les niveaux de comptence des Standards linguistiques canadiens.
Tableau 5 Prsentation des phases et tapes de la mise en correspondance du TEF avec les SLC
PHASES
ETAPES
Information et formation de lquipe TEF aux outils SLC ;
Ralisation de tableaux synoptiques types de la synthse des SLC ;
Lecture approfondie des SLC et slection de produits et normes de
comptence les plus pertinents en regard du TEF et dition des
tableaux synthtiques.
des SLC aux points de csure CIC ;
(agglomrat et carts*)
Liste de contrle du TEF.
Ralisation dun tableau synthtique ;
Mise en correspondance thorique des deux cadres.
Mise en correspondance des deux cadres avec les questions du
TEF (objectifs et niveaux associs) ;
Description et comparaisons ;
Analyse et jugement.
Protocole daction ;
Compilation de donnes et du matriel pour lexpertise ;
Classement des units types et relles par des experts (analyse
des donnes) ;
Interprtation des rsultats.
12
Rsultats
La mise en correspondance du cadre TEF et des SLC est prsente par comptence. Lexemple
propos dans le tableau n6 concerne une unit type de la comprhension crite code CEAU10+. Ces
lments de description sont extraits de la table de spcification et mis en regard des descripteurs de
performance des SLC les plus pertinents pour le TEF.
Aprs mise en correspondance lors de la phase 3, on constate que lensemble des objectifs des
questions TEF recouvre une partie des descripteurs de performance relatifs chaque niveau de
comptence des SLC. Les domaines dapplication slectionns dans la table de spcification du TEF
recouvrent bien ceux des SLC et aux mmes niveaux. Lintroduction des SLC insiste particulirement
sur cet aspect : Les SLC mettent laccent sur les tches relies la collectivit, au travail et aux
tudes (Standards linguistiques canadiens, 2002, page iv).
13
Tableau 6 Mise en correspondance thorique du cadre TEF, des questions TEF et des SLC : la
comprhension crite / lire
Comprhension crite / lire
CADRE THEORIQUE ET QUESTIONS DU TEF
Code item Niveaux
TEF
TEF
CEAU1
PHASE 3
TEF 0+
Niveaux
SLC
Descripteurs de performance
globale
pour lapprenant
Niveau I
Standard 1
De 1 5 phrases.
Aprs mise en correspondance, lors de la phase 4, des items avec les descripteurs prslectionns en
phase 3, on constate galement une bonne concordance, comme lillustre lencart n1. Il y a parfaite
adquation entre le descripteur SLC du tableau n6 et litem propos dans lencart 1, tant au niveau de
lhabilet linguistique que de laspect psycholinguistique (longueur des phrases et traitement cognitif).
PHASE 4
Question 1
Les difficults rencontres lors de cette mise en correspondance thorique reposent essentiellement sur
des formulations floues, ne permettant pas aux valuateurs de distinguer le degr de distinction entre
deux descripteurs de niveaux diffrents. Par exemple, lutilisation des verbes reconnatre et
comprendre sont utiliss des niveaux suprieurs, alors que les spcifications du test ne les
introduisent quaux niveaux 0+ et 1. Dautre part, les descripteurs relatifs un contexte culturel
particulier ont t systmatiquement exclus : titre dexemple, dans la comptence parler, le candidat
discute lactualit canadienne .
17e colloque du 18 au 20 novembre 2004 Lisbonne, PORTUGAL
Lvaluation des comptences : entre reconnaissance et validation des acquis de lexprience
14
15
Aprs la premire exprimentation, les rsultats des 3 experts ont t confronts au classement ralis
par lquipe interne de manire obtenir une concordance optimale et commune des 4 classements,
comme le montre le schma n5.
Schma 5 Protocole daction pour le classement commun de rfrence des units types
16
Rsultats
Les taux de concordance des classements des 294 units sont prsents dans les trois tableaux n7,
n8 et n9. La valeur 0 signifie que les trois experts et le groupe interne ne parviennent pas, pour une
unit donne, fournir une rponse identique en termes de classement ; la valeur 2 signifie quau
moins deux experts ou un expert et le groupe interne fournissent un classement identique de lunit1, la
valeur trois que trois experts ou deux experts et le groupe interne fournissent une rponse identique ; la
valeur 4, que tous les experts et le groupe interne fournissent une rponse identique. Les rsultats
prsents sont agrgs au niveau du systme de points accords par CIC (cf. tableau 3).
Tableau 7 - Accords entre les 3 experts et le positionnement des diffrentes units de
comprhension crite (CE) par le groupe interne dans le systme de points (0, 1, 2 ou 4) de CIC.
Accords
Frquence
4
3
2
0
20
24
28
0
27,78
33,33
38,89
0
Frquence
cumule
72
52
28
0
% cumul
100,00
72,22
38,89
0
Accords
Frquence
4
3
2
0
32
48
37
0
27,35
41,03
31,62
0
Frquence
cumule
117
85
37
0
% cumul
100,00
72,65
31,62
0
Tableau 9 - Accords entre les 3 experts et le positionnement des diffrentes units de lexique et
structure (LS) par le groupe interne dans le systme de points (0, 1, 2 ou 4) de CIC.
Accords
Frquence
4
3
2
0
28
36
40
1
26,67
34,29
38,10
0,95
Frquence
cumule
105
77
41
1
% cumul
100,00
73,33
39,05
0,95
Les taux daccord impliquant trois ou quatre experts par groupe interne dpassent 60% pour la
comprhension crite et le lexique/structure, pour atteindre prs de 70% en comprhension orale ; une
seule unit a conduit un problme important de classification, en lexique/structure.
La valeur 2 est aussi accorde lorsque 2 groupes distincts de deux experts et/ou groupe interne saccordent
chacun sur un classement identique.
17
Bibliographie
Psychomtrie
Demeuse, M., Henry, G. (2004). Lanalyse classique ditems. In M. Demeuse (d.). Introduction aux
thories et aux mthodes de la mesure en sciences psychologiques et en sciences de lducation.
Lige (Belgique) : Les Editions de lUniversit de Lige.
Laurencelle, L. (1998). Thories et techniques de la mesure instrumentale. Sainte-Foy : Presses de
lUniversit du Qubec.
Leclercq, D., Denis, B., Jans, V., Poumay, M., Gilles, J.L. (1998). Chapitre 7. Lamphithtre
lectronique. Une application : le LQRT-SAFE. In D. Leclecq (d.). Pour une pdagogie universitaire
de qualit. Sprimont (Belgique) : Pierre Mardaga diteur.
18