# Une démarche de recherche-action de type évaluation-formation pour soutenir l'innovation pédagogique en eLearning

Jacques Viens et Daniel Peraya

Le Campus Virtuel Suisse a octroyé, pour les années 2001-2003, un mandat de support et d'évaluation pédagogique des projets romands à l'unité Technologie de la Formation et de l'Apprentissage (TECFA) de l'Université de Genève. Nous avons adopté une démarche liant intimement les différentes dimensions du mandat soit, l'accompagnement pédagogique des projets, l'identification des pratiques innovantes en cours et des facteurs influents, l'évaluation des dispositifs de formation développés. Cette approche de la recherche-action que nous avons appelée recherche «évaluation-formation», a permis à la fois de soutenir le développement pédagogique des produits et l'enrichissement de la culture des acteurs ayant participé aux activités. C'est une vision de l'évaluation au service de l'ensemble des acteurs du dispositif de formation que nous avons actualisée dans un modèle systémique articulant des indicateurs de l'innovation pédagogique, des espaces d'intégration au dispositif, des caractéristiques des acteurs. Ce modèle, issu de nos activités sur le terrain et d'une revue de la littérature scientifique du domaine, aura permis d'éclairer les besoins et les actions de soutien à l'innovation pédagogique. Nous terminerons en présentant le modèle puis aborderons quelques applications potentielles.

## Introduction

Le programme Campus Virtuel Suisse (CVS) est une initiative fédérale qui dans sa phase I (2000-2003)¹ a subventionné cinquante projets de développement de cours en ligne au sein des hautes écoles suisses. Ces projets, dont 28 ont démarré en 2000 et 22 en 2001, sont dirigés et gérés par un professeur «leader» et doivent impliquer au moins trois universités qui acceptent de développer conjointement le cours et de l'intégrer à leur cursus. Le contexte de développement des projets paraît donc passablement complexe puisque le programme se centre sur les aspects technologiques et définit des critères d'éligibilité pour les projets qui impliquent de multiples niveaux de difficultés. Citons, par exemple la collaboration institutionnelle entre des équipes culturellement différentes dont les objectifs, les
programmes académiques et les clientèles varient passablement, dont la langue diffère, etc. Ces équipes, de plus, ont peu ou pas d'expérience de collaborations inter institutionnelle, comme elles n'en ont d'ailleurs pas du développement de cours en ligne.

Par ailleurs, le CVS a attribué des mandats nationaux à des équipes universitaires afin de réaliser des études sur des aspects spécifiques du programme ou d'apporter un soutien aux projets. Dans cet article, il sera question d'« IntersTICES», le mandat de soutien et d'évaluation pédagogique confié par le CVS à l'unité de Technologies de formation et d'apprentissage (TECFA) de l'Université de Genève pour la période de septembre 2001 à février 2004. Les activités du mandat IntersTICES ont touché directement seize projets dont l'université hôte était romande. Notons immédiatement que IntersTICES a débuté ses activités bien après le commencement des projets, le décalage pouvant atteindre dans certains cas de 6 à 18 mois.

## Les objectifs et tâches

Ce mandat avait pour objectifs principaux d'améliorer la qualité pédagogique des projets en cours, de capitaliser l'expérience pédagogique des projets impliqués dans le CVS et d'établir les bases d'un cadre général d'évaluation pour l'ensemble des projets. Les tâches, négociées avec le CVS, ont été organisées autour des trois axes de travail suivants:

1. **Développement d'activités de soutien et d'encadrement des projets**, activités centrées sur les aspects psychopédagogiques et méthodologiques de l'utilisation des technologies éducatives;

2. **Constitution d'un état des lieux des projets** en insistant sur l'exploitation du potentiel des technologies, sur leur intégration dans les scénarios mis en œuvre ainsi que sur le degré d'innovation et d'interactivité des projets;

3. **Préparation des bases d'un cadre d'évaluation** propre à ce mode d'enseignement innovateur en collaboration avec la communauté nationale et internationale.

Aussi le texte que nous présentons ici se base-t-il directement sur le travail accompli durant ce mandat. Il propose une description détaillée de la démarche de soutien que nous avons progressivement développée et en donne une première modélisation. Dans un second temps, nous exposerons quelques résultats de notre travail, en prenant comme structure de présentation les trois axes de notre mandat. Ces deux parties ne sont pas sans rapport. En effet, elles se centrent l'une comme l'autre sur les acteurs des projets, sur leur rôle, leur culture et leur développement professionnel. D'une part, les acteurs des projets se trouvent situés au coeur de la démarche de soutien pédagogique qui s'appuie sur une conception participative du pilotage de l'innovation. D'autre part, l'analyse des dimensions innovantes des projets constitue un objet de discussion et d'explication avec les acteurs afin qu'ils puissent progressivement les intégrer dans leur pratique quotidienne. Dans la mesure où nous considérons que l'objectif global
de notre action est bel et bien la formation et le développement professionnels des acteurs des projets, on ne peut séparer ces deux parties car l'une comme l'autre constitue un aspect essentiel de cette formation.

## Le soutien à l'innovation dans l'intégration des TIC

Les tâches d'IntersTICES s'inscrivent dans une démarche de soutien à l'innovation, indissociable, de notre point de vue, de celle de son pilotage. L'analyse de la littérature montre d'ailleurs que l'on peut distinguer deux visions principales de l'innovation, deux approches du pilotage, du soutien et de l'accompagnement (Peraya & Jaccaz, 2004). Chacune d'elles relève du reste de cadres épistémologiques différents. La principale distinction porte sur le rôle des acteurs – y compris les chercheurs et les responsables de l'innovation – et de leur place dans le processus de changement.

La première approche considère l'évaluation et le pilotage comme une prise de données régulière sur le système en évolution par des chercheurs/analystes qui demeurent non impliqués par rapport au projet lui-même et à son développement. Les méthodes sont de l'ordre de la recherche conventionnelle, et les résultats peuvent être réintroduits dans le processus afin d'en infléchir le cours, d'en corriger d'éventuels dysfonctionnements. La seconde s'apparente aux démarches de type recherche-action-formation et font des acteurs comme des chercheurs des partenaires d'un processus partagé. Il s'agit de mener conjointement la formation professionnelle des enseignants impliqués dans un projet innovant, le développement de ce même projet et une recherche sur l'expérience en cours. Il s'agit donc d'une démarche participative qui tend à effacer la frontière entre le milieu professionnel et l'apprentissage de nouvelles compétences professionnelles. Les stratégies privilégiées d'une telle démarche, sur la base d'un projet de formation semblable mené par Charlier et Charlier (1996), concernent:

1. l'explicitation des apprentissages;

2. l'explicitation des pratiques;

3. le rapport entre savoirs et techniques;

4. la liaison entre la pratique professionnelle et l'objet de formation;

5. une alternance entre théorie et pratique.

Dans le premier cas, il s'agit d'une méthode objectivante qui s'accorde assez bien avec la définition du dispositif de formation tandis que dans le second, il s'agit de réintroduire «dans les rouages du dispositif l'individu actif» condition indispensable pour transformer l'idéologie normative de la rationalisation technique en une «idéologie émancipatrice par sa mise à disposition au service de l'activité humaine» (Linard, 2002, p. 145). Ce positionnement épistémologique remet en question les catégories traditionnelles d'objectivité et de subjectivité comme d'ailleurs le dualisme des approches classiques qui opposent les concepteurs/experts et les acteurs/applicateurs. De nombreuses formations à l'intégration pédagogique des technologies sont aujourd'hui conçues et organisées selon cette conception, par exemple le projet Learn Nett² (Charlier & Peraya, 2003) né
d'un projet européen et aujourd'hui intégré dans le cursus de plusieurs universités suisses (Genève, Fribourg), belges (Mons, Liège et Louvain-la-Neuve) et françaises (Besançon).

La littérature le montre (notamment Fullan, 1993; Savoie-Zajc, 1993), la réussite d'une innovation implique, entre autres, que chaque acteur soit consulté, impliqué et soutenu tout au long du processus d'intégration et d'adoption. Ainsi, avons-nous adopté une telle approche participative dans laquelle tous les acteurs sont associés activement à la définition des objectifs et des stratégies qui seront mises en œuvre. Pourtant, notre démarche s'en distingue en ce qu'elle implique, de plus, une composante d'évaluation formative. Celle-ci s'explique par la première demande du CVS motivée par un double besoin, certes d'accompagnement des projets mais aussi d'évaluation sommative (Viens, 2003). Or, dès la formulation de la demande, ces deux aspects impliquant leurs postures et leurs rôles respectifs, nous ont semblé contradictoires et totalement inconciliables. Aussi afin de ne pas mettre en danger notre rôle d'accompagnateur et d'agent de changement, avons-nous négocié avec le CVS la possibilité d'intégrer un volet d'évaluation formative, plus conforme avec notre vision et avec la conception de notre rôle. Nous avons donc centré cette évaluation vers l'analyse de l'enrichissement des projets et de leurs acteurs (voir l'axe 2 du mandat) sans devoir faire de rapports nominatifs au CVS. Pour nous, l'évaluation a été une activité intermédiaire dans une démarche d'accompagnement et de formation à l'innovation pédagogique avec les TIC.

## Quelques dimensions de l'innovation et leurs indicateurs

L'innovation pédagogique est un phénomène complexe qui impose aux chercheurs de prendre en compte plusieurs dimensions notamment psychosociales et les contextes réels de mise en place sur le terrain. Déjà en 1976, Chin distinguait des niveaux d'acteurs impliqués (individu, groupe, institution, culture) et des degrés de profondeur au changement visé/atteint (substitution, itération, perturbation, restructuration, changement de valeurs). Stufflebeam (2000) de son côté, suggère que les actions d'évaluation soient abordées globalement et prennent en compte le contexte, les investissements requis pour l'ensemble des acteurs, les processus ainsi que les produits de l'activité. Stakes (1997), quant à lui, insiste sur la prise en compte des changements de valeurs chez les acteurs. Cette mise en relief des changements de valeurs ainsi que les travaux de Reeves (1997) concernant l'évaluation des cours informatisés, nous ont amenés à développer la notion centrale de culture des acteurs. Le terme culture est entendu ici au sens de Viens et al. (2001) qui réfère aux représentations, aux habiletés (et aux ressources à disposition), aux attitudes et aux pratiques des acteurs. Ce sont là des éléments qui influencent fortement la mise en place de l'innovation et qui, par ailleurs, sont aussi transformés par la mise en place de l'innovation. En effet, l'innovation changera les représentations et pratiques des acteurs, et dans ce sens, l'innovation devient un terrain de formation continue dont l'objet devient la culture des ac-
teurs. Enfin, l'approche systémique dont Bronfenbrenner et Evans (2000) ont récemment rappelé l'importance dans l'analyse des dispositifs de formation, nous a conduit à envisager le contexte global dans lequel s'inscrit le projet et les rapports qu'entretiennent les acteurs avec ces différentes dimensions.

Dès lors, pour analyser l'innovation pédagogique dans une perspective systé-
mique, il nous semble essentiel de tenter de répondre à ce type de questions: en
quoi le dispositif et les activités qui seront réalisées par l'étudiant sont-elles plus
riches qu'auparavant? quels sont les facteurs sociétaux, institutionnels et hu-
mains qui les influencent? Dans cette perspective, une revue de littérature mais
aussi les échanges avec les acteurs des projets ont permis d'identifier plusieurs di-
mensions qui constituent autant de contributions potentielles du eLearning à
l'innovation pédagogique et qui peuvent donc, à ce titre être considérées comme
des indicateurs fiables de celle-ci. Chacune d'elles peut être définie dans une
continuité de développement progressif et être adaptée aux acteurs concernés,
aux conditions de formation et aux objectifs d'apprentissage. Leur pertinence
n'est pas absolue et leur degré de développement au sein du dispositif devra
prendre en compte le contexte spécifique au projet. Indiquons que nous avons
retenu des dimensions liées aux aspects pédagogiques de l'innovation compte
tenu de l'orientation de notre mandat. Pour des gestionnaires de l'implantation
de l'innovation ou encore pour les administrateurs d'un programme de forma-
tion, d'autres indicateurs permettraient de mieux cibler, en terme d'innovation,
leurs objectifs et perspectives spécifiques.

Ainsi, les sept dimensions suivantes ont alimenté nos activités d'évaluation
des dispositifs de formation :

1. l'amélioration de l'accès aux informations, ressources et personnes;

2. l'individualisation de l'enseignement;

3. l'augmentation/enrichissement des feedbacks-interactions système-appre-
nant;

4. l'autonomie/contrôle pour une implication plus grande de l'apprenant dans son apprentissage;

5. la communication entre acteurs par la coopération, collaboration, co-élabo-
ration de connaissances/compétences;

6. la contextualisation des apprentissages dans des situations près de la réalité (activités réalistes, visualisation de phénomènes et concepts, simulations, etc.);

7. la focalisation sur des **apprentissages de haut-niveau** dont la méta-cogni-
tion, la réflexion individuelle/collective, le jugement critique à la fois sur le
contenu des apprentissages mais aussi sur les processus d'apprentissage.

Les trois premières de ces dimensions ont été identifiées depuis les années '70 à propos des usages pédagogiques de l'ordinateur. Les premiers systèmes d'enseignement informatisés comme PLATO étaient déjà orientés vers ces 3 objectifs d'amélioration de l'enseignement. Même si elles constituent des éléments d'ordre technique et de planification pédagogique qui témoignent d'une ap-
proche pédagogique centrée sur l'enseignement et la transmission de connaissances, elles n'en représentent pas moins une plus value³. Les quatre autres sont, quant à elles, orientées vers une pédagogie plus socio-constructiviste qui met à l'avant-plan la responsabilisation des apprenants dans la construction de leurs connaissances.

Pour nous, l'explicitation de ces sept dimensions, dont le degré de développement peut être considéré comme un indicateur de l'innovation, constitue l'occasion de réfléchir avec les acteurs sur la plus value pédagogique des dispositifs de formation en ligne d'une part, de les inciter à intégrer ces dimensions dans leurs dispositifs d'autre part. Cependant, il ne s'agit pas de viser une intégration maximale de chacun de ces aspects puisqu'ils ne représentent pas un apport pédagogique en toute circonstance. Leur plus value dépendra des conditions pédagogiques spécifiques à chaque contexte. Dans l'analyse et le développement pédagogique du dispositif de formation, il faut donc, à l'instar de la majorité des démarches systématiques de design pédagogique, prendre en compte les objectifs, les caractéristiques des acteurs (apprenants et enseignants), les contraintes institutionnelles, etc., avant de décider jusqu'à quel degré ces dimensions pourraient être développées.

# Notre approche méthodologique

## La démarche globale

L'orientation inspirée d'une recherche-action nous a permis de répondre aux besoins et aux conditions spécifiques à chacun des projets, de contextualiser nos actions et enfin d'en définir le sens et les orientations avec les acteurs: dans ces conditions, selon l'expression de Fullan (1993), chaque acteur devient alors un agent de changement.

<figure><img src="image_1.png" /><figcaption>Figure 1: Explicitation d'un cycle type d'intervention</figcaption></figure>
L'adoption d'une approche de type recherche-action pour l'évaluation et l'accompagnement des projets, approche co-gérée avec les acteurs, implique que nos résultats et notre méthodologie sont largement imbriqués. De ce fait, certains résultats sont de nature méthodologique et relèvent du processus même d'intervention. Notre modèle en est un excellent exemple.

D'un point de vue méthodologique, notre démarche se construit selon des cycles itératifs qui permettent d'approfondir et de raffiner les analyses. Au point de départ de chacun de ces cycles, il y a le scénario pédagogique autour duquel est menée avec les acteurs une activité de verbalisation et d'explicitation. Les entretiens se poursuivent par la discussion des problèmes potentiels et des facteurs en jeu. Les solutions abordées sont alors documentées d'une part, par des apports théoriques et pratiques émanant tant de la recherche dans le domaine que d'échanges au sein de la communauté des projets et, d'autre part par la co-réglulation des activités de formation-accompagnement. De tels cycles, basés sur une accentuation des activités métacognitives se répètent et s'alimentent afin de couvrir l'ensemble des problèmes rencontrés. La figure 1 présente de façon synthétique ce cycle d'intervention.

## La collecte et les analyses de données

Afin d'initier notre cycle d'accompagnement par l'analyse de besoin des projets et de pouvoir en parallèle alimenter les deuxième (état des lieux) et troisième (la préparation d'un cadre général d'évaluation propre à ce mode d'enseignement innovateur) axes de notre mandat, nous avons réalisé une entrevue semi-dirigée avec les principaux acteurs de chaque projets (professeur responsable, coordinateur, et quelques professeurs collaborateurs, assistants et développeurs). Ces entrevues d'environ 90 minutes étaient encadrées par un questionnaire de 25 questions réparties selon 7 thématiques:

1. **Le projet en général:** participants, rôles, historique du projet, essence, objectifs, etc.

2. **Le profil des membres de l'équipe:** connaissances/compétences technologiques (TIC) et pédagogiques.

3. **Le scénario pédagogique:** objectifs, public visé, contexte spatio-temporel, contenu, ressources, orientation pédagogique, articulation présence/dis-tance, etc.

4. **Les aspects institutionnels:** connaissance/reconnaissance du projet au sein des différentes institutions impliquées, support institutionnel, etc.

5. **Les besoins:** problèmes rencontrés, solutions apportés, problèmes actuels, etc.

6. **Les TIC et la pédagogie active:** expériences, connaissances, valeurs, vision, etc.

7. **Les suites à donner:** expérience/intérêt pour les communautés de pratique, etc., conditions de participation active/productive, autres questions, plan d'action.
Les entrevues ont été enregistrées, transcrites, puis analysées en deux temps. En premier lieu, nous avons identifié pour chacun des projets les besoins à court terme afin de pouvoir intervenir le plus rapidement possible. Pour chaque équipe, nous avons identifié des actions possibles et après nous être assuré du bien fondé de nos analyses avec les acteurs, nous avons poursuivi sur cette base l'accompagnement. Ensuite, nous avons amorcé une démarche d'analyse qualitative des données recueillies afin de préparer le cadre général d'évaluation de l'innovation pédagogique (axe 3) et d'alimenter notre plan d'intervention global. Il s'agissait ici d'identifier, à partir des réponses faites lors de l'entrevue d'analyse de besoin, les éléments d'innovation pédagogique relatifs au eLearning ainsi que les facteurs qui stimulent et qui freinent ces innovations pédagogiques. Plusieurs lectures et cycles d'analyse ont été nécessaires. Une première analyse systémique a permis de discerner les éléments relevant des dimensions sociétales (macro), institutionnelles (méso) et du dispositif de formation (micro).

Cette première classification des éléments a permis de dresser une esquisse de modèle qui, à ce stade, ne faisait que distinguer les éléments et leurs relations. Au cœur de ce modèle, se trouvent les acteurs et leur culture au sein de laquelle nous avons distingué quatre sous-éléments: les représentations des acteurs, leurs habiletés et ressources, leurs attitudes et leur pratique. Nous avons enfin analysé plus à fond les facteurs relevants du dispositif et les avons classés en trois sous catégories:

- les éléments relatifs à la technologie:

* connaissance, maîtrise, désir d'utilisation des outils TIC;

- les éléments relatifs à la pédagogie:

* activités pédagogiques, adéquation avec les objectifs, contraintes et conditions dont les caractéristiques des apprenants, vision des rôles et responsabilité des acteurs, articulation présence-distance, fondements et justifications des choix pédagogiques, etc.;

- les éléments relatifs au processus de développement du dispositif.

La validation des interprétations a été basée sur une triangulation des données, notamment par une validation des interprétations auprès des acteurs, par la mise en relation avec d'autres sources de données recueillies sur le terrain (forums et bilans de rencontre avec les projets) et par une mise en perspective avec des résultats d'autres recherches provenant d'une revue de littérature. Ces principales dimensions et facteurs ont servi à l'élaboration et à l'articulation du modèle (cf. ci-dessous, résultats de l'axe 3).

Une deuxième entrevue a été réalisée en fin de parcours du mandat afin de faire le point sur l'avancement des acteurs et des projets en rapport à l'innovation pédagogique et pour connaître la satisfaction (et les insatisfactions) des projets quant aux stratégies et apports d'InterSTICES. Ce questionnaire a été bâti à partir du modèle ayant émergé des deux premières années de travail et dans ce sens a permis d'en tester l'utilité et la pertinence comme outil diagnostique auprès des acteurs.
# Les résultats

Nous présenterons maintenant quelques résultats qui illustrent les impacts des actions de recherche, d'accompagnement des projets et de formation des acteurs. Pour ce faire, nous utiliserons la structure de tâches de notre mandat qui comprend, rappelons-le, les trois axes suivants: pour les activités de soutien et d'encadrement, l'état des lieux des projets et le cadre général d'évaluation. Précisons par ailleurs que nous ne prenons pas compte ici les dernières analyses qui sont en cours présentement et qui porte sur un questionnaire distribué aux acteurs à la toute fin du mandat.

## AXE 1: Activités de soutien et d'encadrement

Disons d'emblée qu'il a été impossible de modifier en profondeur la pédagogie des projets, principalement parce que IntersTICES a commencé ses travaux après leur mise en route, et dans certains cas, avec un retard de dix-huit mois. Dans ces conditions, le principal impact d'IntersTICES ne concerne pas une transformation globale des dispositifs, mais une évolution d'aspects plus limités tels l'intégration d'activités et d'outils pédagogiques plus riches: notamment l'intégration d'activités collaboratives, de discussions dans des forums et de journaux de bord permettant une activité réflexive et métacognitive, etc.

Notre soutien s'est appuyé sur des séminaires d'une journée organisés par la communauté⁴ IntersTICES. Ces journées de formation constituent une bonne illustration de notre conception de l'accompagnement comme des choix méthodologiques qui découlent de la démarche action-formation. En effet, les objectifs, les contenus comme les modalités d'organisation de ces journées sont ceux négociés et définis comme prioritaires par les membres des projets. De tels séminaires sont donc une occasion d'aborder collectivement un ensemble de concepts et de questions cruciaux liés au développement de cours en ligne. Par exemple, nous avons accompagné dans la préparation de leur atelier, quatre projets ayant décidé de présenter leurs travaux. Enfin, ces journées ont été suivies de nombreuses rencontres de la communauté IntersTICES pour en faire le bilan.

Deux thématiques ont fait l'objet de séminaires:

*Innovation et eLearning: vers une pédagogie active «et» Evaluation, Innovation et eLearning: pour une évaluation des aspects pédagogiques innovateurs des projets CVS et de leurs impacts sur les enseignants et les apprenants.⁵*

Des experts du domaine ont été invités à présenter leurs travaux et à l'occasion de chaque événement, une demi-journée de travail et d'échanges entre projets a été réservée. Comme l'indique le titre du second séminaire, des responsables du CVS, des professeurs comme les responsables des services d'évaluation des principales universités romandes (Genève, Lausanne, EPFL) ont été invités afin de partager nos préoccupations et nos visions respectives des développements requis pour que l'évaluation des cours prenne en compte les spécificités du eLearning. Cette mise en commun a permis de constater un intérêt et des besoins partagés
pour la prise en compte de la spécificité du eLearning dans l'évaluation des cours, mais aussi, de prendre conscience du peu d'actions concrètes et d'outils adaptés sur le terrain.

Certes les objectifs et les contenus de ces journées sont importants, mais de notre point de vue, la façon dont nous avons pu amener la communauté à les formuler en fonction de leurs besoins et à s'organiser, à cette occasion, comme acteurs de leur propre formation nous semble plus essentielle encore.

## AXE 2: État des lieux des projets

L'état des lieux a été réalisé principalement sur la base des entrevues d'analyse de besoins (étape 2 de notre démarche) et des observations recueillies lors des activités de soutien et d'encadrement. Chacun des projets contenait des forces et des faiblesses et, bien que nous ayons observé des pratiques pédagogiques très riches chez certains d'entre eux, nous nous attarderons ici sur les principaux problèmes rencontrés. L'identification de ces points de rupture nous a permis d'élaborer, en collaboration avec les acteurs des projets, des plans d'intervention adaptés aux besoins spécifiques de chaque projet, plans précisant des espaces de formation des acteurs et des pistes d'amélioration des dispositifs. De plus, les problèmes rencontrés ont permis de jeter les bases du cadre général d'évaluation qui émerge de nos travaux (axe 3) et qui sera développé dans la prochaine section du texte. Voici donc les principaux problèmes rencontrés, regroupés en sept points:

* Design et approches de développement: surtout intuitifs et orientés vers la production.

* Evaluation des dispositifs de formation: non prise en compte au départ, puis très sommairement en fin de parcours, surtout en ce qui concerne les aspects de «usability» et d'appropriation par les étudiants.

* Scénario pédagogique: presque entièrement absent, très difficile d'impliquer les professeurs dans une telle démarche.

* Objectifs, discours, visions et pratiques pédagogiques: manque de cohérence et d'explicitation pour les étudiants, peu de guides-apprenants et d'outils.

* Aspects institutionnels et organisationnels: peu pris en compte malgré la complexité des dispositifs multi-universitaires

* Questions et problèmes spécifiques soulevés: qu'est-ce que l'innovation? Comment soutenir l'innovation? Quelles implications pour l'apprenant, les enseignants, etc.? Qu'en est-il des changements de rôles?

* Faible transférabilité des avancées réalisées par les membres des projets participant à IntersTICES aux autres membres des projets.

Il faut reconnaître ici que les difficultés rencontrées ont été nombreuses et que les produits développés sont généralement en-deça des attentes de départ. La complexité de l'entreprise et le manque d'expérience, voire de culture eLearning des acteurs, ont contribué tout au tant que les conditions de production exigées par le CVS (par exemple: développement multi-universités) à mettre ces projets en
situation d'innovation sous plusieurs dimensions. Cependant, il faut rappeler que l'innovation ne porte pas seulement sur des produits: il s'agit d'un processus complexe au sein duquel l'évolution de ce que nous avons appelé la «culture» des acteurs paraît un des facteurs cruciaux. Aussi, le succès ou l'insuccès d'un projet ne peuvent se mesurer à la seule qualité du dispositif de formation entendu strictement au sens de «formation médiatisée» (Perriault, 1996) ou de cours en ligne. A terme, l'évolution du profil de compétences des différents acteurs, l'évolution de leur pratique, doivent être considérées comme des facteurs de stabilisation et de pérennisation de l'innovation plus sûrs que la qualité d'un cours ou d'un logiciel distribué via le réseau.

### AXE 3: Cadre général d'évaluation de l'innovation pédagogique

L'ensemble de nos travaux d'analyse, de soutien et d'accompagnement des projets converge vers la production d'un modèle ou d'un cadre général pour l'évaluation et le développement des dimensions pédagogiques innovatrices implantées par les projets. Ce modèle est à la fois orienté vers la compréhension des facteurs en jeu et vers l'élaboration d'actions de soutien aux projets de façon à soutenir/stimuler leur exploitation pédagogique du potentiel innovateur (en terme de plus value) des TIC. La définition même de notre cadre conceptuel a fait l'objet d'une démarche d'explicitation avec nos partenaires analogue à celle que nous avions décrite ci-dessus. Ces échanges constituent en soi une activité d'acquisition de connaissance importante puisqu'ils permettent de co-construire les bases sur lesquelles les nouvelles connaissances seront fondées, puis appropriées.

Le modèle né de nos travaux réintègre les facteurs humains dans leur dimension systémique. Les dimensions macro, meso et micro ne sont utilisées ici qu'à titre référentiel car soulignons-le, elles constituent une perspective variable, un point de vue relationnel qui varie selon le degré de granularité de l'analyse effectuée. Ici, la dimension macro touche le contexte sociétal, les contraintes du programme du CVS et les acteurs qui gèrent ce programme. La dimension meso, quant à elle intègre le contexte institutionnel: les programmes de formation, les infrastructures de gestion et technologiques, les acteurs institutionnels, etc. Enfin, la dimension micro correspond au dispositif de formation et à son contexte immédiat. Elle englobe tous les éléments médiatisés, les ressources (humaines et technologiques), scénarios d'activités planifiés, modalité d'évaluation, processus de développement et bien évidemment les acteurs impliqués et le contexte dans lequel ils évoluent (classe, laboratoires, maisons, etc.). Afin de faciliter l'analyse des facteurs impliqués dans le processus d'innovation, cette dernière des trois dimensions est abordée sous trois perspectives, les aspects technologiques, les aspects pédagogiques et le processus de développement du dispositif.

La figure 2 présente une mise à plat de ces relations et met en évidence que le dispositif de formation se réalise à travers les acteurs (apprenants, enseignants, etc.) et dans un contexte institutionnel et sociétal qui influenceront l'actualisation
tion de son potentiel pédagogique. La clé de voûte de l'analyse des caractéristiques des acteurs étant leur culture du eLearning.

<figure><img src="image_2.png" /><figcaption>Figure 2: Un modèle systémique de dimensions à considérer dans l'évaluation et le soutien de l'innovation pédagogique en eLearning.</figcaption></figure>

L'approche systémique nous a donc permis de mieux comprendre, dans un dispositif de formation eLearning, les éléments qui influencent l'intégration/ l'adoption d'innovations pédagogiques et de planifier des actions qui stimulent ces innovations, notamment certaines orientations institutionnelles qui influencent l'implantation/adoption du dispositif ainsi que la culture des acteurs.

## L'articulation du modèle et des espaces d'intervention

Les quatre composants de la culture des acteurs proposés par Viens et al. (2001) (représentations, habiletés, attitudes et pratique) et qui ont servi d'éléments critiques lors des activités de verbalisation avec les acteurs sont au cœur de notre modèle d'interprétation et d'intervention. Ils constituent des indicateurs et des outils de choix pour analyser les dispositifs (perspective diagnostique) autant que pour instrumenter les actions d'accompagnement des projets. Ils assurent de plus la cohésion de notre modèle et de ses composantes. Ils permettent en effet de décrire les caractéristiques spécifiques des acteurs impliqués ainsi que de les mettre en relation avec les indicateurs d'innovation pédagogique et les espaces d'intervention au sein du dispositif de formation. Cette articulation des différentes
perspectives permettra de questionner la pertinence pédagogique et la congruence du dispositif.

Par exemple, lors de l'évaluation de l'innovation au sein des dispositifs de formation, (dimension micro du système), c'est à partir des sept dimensions caractéristiques (présentées dans la section précédente du texte) que nous avons questionné la culture des acteurs: en termes de représentations, habiletés, attitudes et pratique afin de déterminer le potentiel de développement de chaque aspect et les besoins de support des acteurs (enseignants et apprenants). Quelles sont leur connaissance des rôles et des responsabilités de l'apprenant et de l'enseignant? Ont-ils les connaissances, les habiletés et les ressources pour réaliser les activités demandées? Quelles sont leurs attitudes face aux activités demandées? Ont-ils des habitudes qui peuvent freiner la réalisation des activités? Quelles sont leurs pratiques réelles, observées lors du déroulement de l'activité? Par exemple, l'autonomie de l'apprenant est-elle dosée selon la nature des objectifs visés, les connaissances/expériences/habiletés/ressources des acteurs, la durée des activités, etc.? Si les apprenants ne sont ni convaincus ni habilités à assumer cette autonomie, ne faudrait-il pas prévoir des ajustements et des outils/activités d'initiation et de support? Le cas échéant, lesquels? Notons que notre objectif n'a jamais été de développer également chacun de ces sept «mieux» pédagogiques puisque chaque projet constitue une réalité locale, un contexte et une culture d'acteurs différents.

Dans la pratique, c'est donc en analysant avec les acteurs des projets les relations entre les indicateurs d'innovation, les espaces d'intégration pédagogique dans le dispositif (objectifs, activités, ressources, évaluation), enfin les acteurs et les différents éléments de leur culture que nous avons pu identifier des incidents critiques et des pistes d'amélioration du dispositif de formation. Ainsi, il est possible de situer la spécificité du projet, en terme d'innovation pédagogique. Nous tentons ensuite d'apprécier à quel point le dispositif est congruent en regardant si les quatre espaces d'intégration font une place équivalente et appropriée à chacun de ces indicateurs.

Cette recherche de congruence du dispositif se fait bien entendu en relation avec chaque acteur, sa culture. Le dispositif donne-t-il à l'apprenant une représentation claire et correcte des objectifs du cours? Les objectifs sont-ils présentés explicitement et mis en valeur? Jusqu'à quel point les objectifs du cours correspondent-ils aux objectifs personnels de l'apprenant? L'apprenant a-t-il une attitude positive et motivée face à ces objectifs (relations avec ses propres objectifs, retombées personnelles, coûts/bénéfices)? Leur permet-on ou les incitons-nous à se positionner face aux objectifs, voire à formuler des objectifs personnels? L'apprenant a-t-il les habiletés et ressources requises pour atteindre les objectifs? Si non, prévoir des activités d'initiation et des outils de support à la réalisation des tâches ou à l'appropriation des ressources. Les pratiques des apprenants sont ou seront-elles harmonisées aux objectifs? On peut poursuivre ces questionnements pour chacun des espaces d'intégration, des indicateurs de plus value pédagogique
et pour chacun des acteurs. Cependant, les questionnements seront plus ou moins pertinents selon les acteurs et les objets de questionnement. Ainsi, dans l'analyse de la perspective du développeur, ce seront leurs habiletés/ressources et leurs pratiques qui nous intéresseront plus particulièrement même si leurs représentations et leurs attitudes ont, elles aussi, un impact sur le produit.

<figure><img src="image_3.png" /><figcaption>Les 7 indicateurs/facteurs d'innovation (plus value) pédagogique</figcaption></figure>

Figure 3: Application du modèle dans la mise en relation des indicateurs d'innovation, des espaces d'intégration pédagogique et des acteurs.

Il faut préciser ici que ce modèle d'analyse et d'auto-réflexion sur l'innovation pédagogique du dispositif (Figure 3) n'a pas pu être intégré systématiquement dans nos activités sur le terrain. En effet, il constitue plutôt un produit qui sera à valider au cours d'expérimentations futures. Pour l'instant, notre questionnaire d'évaluation de fin de parcours qui aborde l'ensemble des indicateurs, les espaces d'intégration et les éléments de la culture des acteurs a permis d'amorcer une opérationnalisation de cette démarche et d'identifier les perceptions/réactions des acteurs collaborateurs à l'articulation proposée. La réaction a été positive en ce sens que comme le souligne explicitement un acteur du terrain «le modèle permet d'explicitier de façon opérationnelle une démarche que nous avons poursuivi depuis le début mais qui n'était pas encore verbalisée ni structurée aussi clairement».

Pour conclure la présentation de nos résultats, disons que nos activités d'accompagnement ont permis d'améliorer certains aspects pédagogiques des dispositifs de formation et de stimuler le développement d'une culture eLearning chez les acteurs ayant participé à nos activités. Il subsiste une ombre au tableau: tous les acteurs n'ont pas participé. Mais, pourrait-il en être autrement? Une certaine diffusion est possible au sein des équipes mais une transformation convergente
de la culture implique selon nous une participation active aux activités du groupe
et requiert une période de temps plus longue que la durée des projets. La parti-
cipation passive ou plus périphérique peut, elle aussi, générer une transformation
de la culture (représentations, habiletés, attitudes et pratiques) mais à plus long
terme et dans une échelle de magnitude probablement plus réduite. Il faut rap-
peler ici une limitation de départ fort importante de nos activités: IntersTICES
a travaillé avec des projets ayant pour la plupart déjà développé l'ensemble de
leur dispositif de formation avant même son arrivée. Il est donc tout à fait re-
marquable d'avoir pu influencer, à ce point et avec la profondeur observée, les
acteurs des projets qui ont décidé de participer à nos activités. Les impacts à long
terme nous semblent ainsi beaucoup plus prometteurs que si nos activités avaient
été limitées à l'étude et l'analyse des produits.

Discussion

Nous croyons que l'approche méthodologique adoptée, intégrant évaluation, re-
cherche, action et formation dans une synergie de réflexions et d'actions per-
mettant une dynamique collaboration entre chercheurs et acteurs du terrain
nous a permis d'obtenir des résultats qui n'auraient pu être obtenus dans une ap-
proche plus réduite isolant chaque dimension et chaque catégorie d'acteurs.
Nous avons pu, dans un contexte au départ très difficile et limitatif (voir ci-des-
sus), atteindre les 3 axes d'objectifs fixés par le CVS.

Les résultats de nos actions de soutien et d'accompagnement vont bien au-
delà de l'amélioration des dispositifs de formation. Ils impliquent une transfor-
mation de la culture des acteurs en ce qui a trait à l'innovation technopédago-
gique et concernent plusieurs niveaux institutionnels notamment à travers la
transformation des programmes et des politiques internes des départements en
regards du potentiel pédagogique des TIC. Le cadre d'évaluation de l'innovation
pédagogique que nous proposons pourra être réinvesti dans les projets qui seront
réalisés en phase 2 du CVS. Il se fonde sur une approche systémique qui permet
de prendre en compte plusieurs niveaux et dimensions afin d'améliorer le pilo-
tage des projets et de mettre sur pied des conditions de réalisation qui permet-
tront de tirer un meilleur profit du potentiel technopédagogique des TIC.

En contre partie, une approche centrée principalement sur le dispositif de for-
mation en tant qu'objet technologique et une position de chercheur non impli-
qué nous auraient limités tant dans la compréhension des facteurs en jeu que de
leurs impacts. Nos actions auraient probablement amélioré les dispositifs de for-
mation mais les impacts à long terme sur le dispositif comme sur la culture des
acteurs auraient probablement été beaucoup plus réduits tout comme notre
compréhension des facteurs influençant l'intégration d'innovation pédagogique
dans les projets.
Dans cette même perspective, si l'on ne prenait en compte dans l'évaluation des projets du CVS que les seuls dispositifs de formation mis en place, on serait tenté de croire à un échec relatif du programme. Et pourtant, les avancées sont importantes et témoignent du développement d'une culture du eLearning, de l'évolution (d'un enrichissement) des représentations, des habiletés des attitudes et des pratiques qui s'y rattachent. Ces avancées pourront, par la suite être réin-vesties lors du développement de nouveaux cours et étendues aux personnes qui collaboreront avec l'équipe.

## Notes

1. Une phase II, dite de consolidation aura lieu de 2004-2007. Nous reviendrons sur ce sujet dans la section de discussion des résultats.

2. Ce projet vise à mettre les apprenants dans une situation d'apprentissage collaboratif à distance avec d'autres futurs enseignants/formateurs.

3. Voir à ce sujet: Saettler, P. (1968).

4. Nous utilisons ici le terme communauté afin de relever que les activités n'ont pas été générées et gérées par notre équipe d'experts mais par l'ensemble des acteurs participant à notre communauté de pratiques.

5. Pour plus d'information sur les séminaires: http://tecfa.unige.ch/proj/cvs/seminar.html.

## Références

Bronfenbrenner, U. & Evans, G. W. (2000). Developmental science in the 21st century: Emerging theoretical models, research designs, and empirical findings. *Social Development*. 9, (1). 115-125.

Charlier, B. & Peraya, D. (Ed.). (2003). *Technologie et innovation en pédagogie. Dispositifs innovants de formation pour l'enseignement supérieur*. Bruxelles: De Boeck.

Charlier, E. & Charlier, B. (1996). *La formation au cœur de la pratique*. Bruxelles: De Boeck.

Chin, R. (1976). The utility of system models and developmental models for practitioners. In W.G. Bennis, K.D. Benne, R. Chin & K.E. Corey (Ed.), *The planning of change* (3rd ed.) (p. 22-45). New York: Holt, Rinehart & Winston.

Fullan, M. (1993). *Change forces: Probing the depths of educational reform*. London: Falmer Press.

Linard, M. (2002). Conception de dispositifs de formation et changement de paradigme en formation. *Education permanente. Les TIC au service des nouveaux dispositifs de formation*, 152, 143-158.

Peraya, D. & Jaccaz, B. (2004). *Pilotage de l'innovation: cadre de référence et fiches conceptuelles*. Projet Equel, document accessible en ligne à l'url: [http://tecfaseed.unige.ch/equel/equel.php](http://tecfaseed.unige.ch/equel/equel.php)

Perriault, J. (1996). *La communication du savoir à distance*. Paris: L'Harmattan.

Reeves, T. (1997). A Model of the Effective Dimensions of Interactive Learning on the World Wide Web. Available: [http://itech1.coe.uga.edu/Faculty/treeves/WebPaper.pdf]. Athens, Georgia: University of Georgia, Department of Instructional Technology.

Saettler, P. (1968). *A history of instructional technology*. New York: McGraw.

Savoie-Zajc, L. (1993). *Les modèles de changement planifiés en éducation*. Montréal: Les Éditions Logiques.

Stakes, R. (1997). *Change in Special Education: What brings it about?*. London: Cassell.

Stufflebeam, D.L. (2000). The CIPP model for evaluation. In D.L. Stufflebeam, G.F. Madaus & T. Kellaghan, (Ed.), *Evaluation Models* (2nd ed.), (Chapter 16). Boston: Kluwer Academic Publishers.
Viens, J., Breuleux, A., Bordeleau, P., Armand F., Legendre, M-F., Vasquez-Abad, J. & Rioux, S. (2001). *Rapport de recherche du Collectif de recherche sur l'apprentissage collaboratif à l'aide des TIC (CRACTIC)*. Département d'études en éducation, Faculté des Sciences de l'Éducation de l'Université de Montréal.

Viens, J. (2003). Towards a general framework to assess and support innovative pedagogy in elearning. In ICNEE, *Proceedings of the 5th International Conference on new educational environments. The know-how hub for blended learning* (pp. 171-176). Lucerne, CH.

**Mots clés:** acquisition de connaissances, contrôle de la qualité, évaluation, ordinateur, orientation, technologie de l'information et de la communication, université

# Ausbildungsevaluation durch Handlungsforschung: ein Konzept zur Unterstützung pädagogischer Innovationen im Bereich des eLearning

## Zusammenfassung

Der Virtuelle Campus Schweiz hat der Einheit «Technologie de la Formation et de l'Apprentissage» (TECFA) der Universität Genf für die Jahre 2001-2003 ein Mandat für die Unterstützung und die pädagogische Evaluation der Westschweizer Projekte erteilt. Wir haben ein Vorgehen adoptiert, dass die verschiedenen Dimensionen des Mandats eng verbindet: die pädagogische Begleitung der Projekte, die Identifizierung der laufenden innovativen Praktiken und der einflussreichen Faktoren, die Evaluation der entwickelten Bildungsangebote. Dieses Konzept der Handlungsforschung, die wir «Evaluations-Bildungs»-Forschung genannt haben, hat erlaubt, sowohl die pädagogische Entwicklung der Produkte als auch die Bereicherung der Kultur der Teilnehmer der Aktivitäten zu unterstützen. Es handelt sich um eine Vision der Evaluation im Dienste der Gesamtheit der Beteiligten der Bildungseinrichtung, die wir in einem systemischen Modell arrangiert haben, das Indikatoren pädagogischer Innovation, Integrationsräume in die Bildungseinrichtung und Eigenschaften der Beteiligten artikuliert. Dieses Modell, das aus unseren Aktivitäten auf dem Terrain und aus einer Analyse der wissenschaftlichen Literatur des Gebiets stammt, erlaubt es, die Bedürfnisse und die Aktionen zur Unterstützung der pädagogischen Innovation zu beleuchten. Wir werden zum Abschluss das Modell vorstellen um dann einige potentielle Anwendungen zur Sprache zu bringen.

**Schlagworte:** Beratung, Computer, Evaluation, Hochschule, Informations- und Kommunikationstechnologie, Lernen, Qualitätskontrolle
# Una procedura di ricerca-azione del tipo valutazione-formazione per sostenere l'innovazione pedagogica nell'eLearning

## Riassunto

Il Campus Virtuale Svizzero ha assegnato, per gli anni 2001-2003, un mandato di supporto e di valutazione pedagogica dei progetti romandi all'unità "Technologie de la Formation et de l'Apprentissage" (TECFA) dell'università di Ginevra. Abbiamo adottato una pratica che lega strettamente le varie dimensioni del mandato, che sono: l'accompagnamento pedagogico dei progetti, l'identificazione delle pratiche innovative in corso e dei fattori influenti, la valutazione dei dispositivi di formazione sviluppati. Questo approccio della ricerca-azione che abbiamo chiamato ricerca "valutazione-formazione", ha permesso allo stesso tempo di sostenere lo sviluppo pedagogico dei prodotti e l'arricchimento della cultura degli attori che hanno partecipati alle attività. È una visione della valutazione al servizio dell'insieme degli attori del dispositivo di formazione che abbiamo attualizzato in un modello sistemico che articola indicatori dell'innovazione pedagogica, degli spazi d'integrazione al dispositivo, delle caratteristiche degli attori. Questo modello, derivato dalle nostre attività sul terreno e di un'analisi della letteratura scientifica del settore, avrà permesso di chiarificare le necessità e le azioni di sostegno all'innovazione pedagogica. Termineremo presentando il modello, quindi abborderemo alcune applicazioni potenziali.

**Parole chiave:** apprendimento, computer, controllo della qualità, orientamento, tecnologie dell'informazione e della comunicazione, valutazione, università

# Supporting pedagogical innovation in eLearning through an action-research approach of formative evaluation

## Summary

From the year 2001 till 2004, the Swiss Virtual Campus (SVC) granted TECFA, the Instruction Technology unit of the University of Geneva, a mandate to support and evaluate pedagogical innovations of the SVC projects homed at a French speaking university. We adopted a method that linked and support each of the three dimensions of the mandate, namely: to support the projects in the integration of pedagogical innovations; to identify the innovative practices in progress and influential factors; to evaluate the pedagogical aspects of the courses that have been developed. This action-research that we called «evaluation-formation» research, made it possible at the same time to support the pedagogical development of the products and the enrichment of the culture of the actors having taken part in the activities. It builds on a vision of evaluation where actors are fully involved throughout the whole process of formative evaluation and the or-
ganization of instructional activities meant to support their development. Our
analyses of the mandate's activities and interactions with the projects have lead to
a systemic model articulating the indicators of pedagogical innovation, spaces of
integration within the teaching device and the characteristics of the actors. We
will end this contribution by presenting the model and then will finally address
further applications and developments.

**Key words:** computer, evaluation, guidance, information and communications technology, learning, quality control, university