<figure><img src="image_1.png" /></figure>

NATHALIE GUIN

Métaconnaissances et recherches en EIAH

Volume 3, n° 1-2 (2022), p. 127-140.

<http://roia.centre-mersenne.org/item?id=ROIA_2022__3_1-2_127_0>

© Association pour la diffusion de la recherche francophone en intelligence artificielle et les auteurs, 2022, certains droits réservés.

<figure><img src="image_2.png" /></figure>

Cet article est diffusé sous la licence

CREATIVE COMMONS ATTRIBUTION 4.0 INTERNATIONAL LICENSE.

http://creativecommons.org/licenses/by/4.0/
# Métaconnaissances et recherches en EIAH

Nathalie Guinª

ª Université de Lyon Université Lyon 1 CNRS, LIRIS, F-69622

Adresse actuelle : Nautibus, Université Lyon 1, 43 Boulevard du 11 novembre 1918, 69622 Villeurbanne Cedex, France

E-mail : nathalie.guin@univ-lyon1.fr

URL : https://perso.liris.cnrs.fr/nathalie.guin.

RÉSUMÉ. — Ce texte a pour but de montrer l'influence des travaux de Jacques Pitrat sur certaines recherches dans le domaine des EIAH (Environnements Informatiques pour l'Apprentissage Humain). J'y relate comment son enseignement m'a conduite à me lancer dans une thèse et comment plusieurs générations de chercheurs en EIAH ont été influencés par ses travaux. Je présente ensuite comment les métaconnaissances ont orienté mes travaux de thèse et les recherches que j'ai menées depuis dans le domaine des EIAH. Je termine en abordant la notion d'IA explicable et en rappelant comment Jacques Pitrat en a proposé une approche originale et toujours d'actualité.

MOTS-CLÉS. — EIAH, métaconnaissances, élicitation des connaissances, explications, méta-modèles.

## 1. JACQUES PITRAT, INSPIRATEUR DE NOMBREUX TRAVAUX DE RECHERCHE EN EIAH(1)

Pour commencer ce texte en hommage à Jacques Pitrat, j'ai repris le mémoire de ma thèse de doctorat [18]. La première phrase des remerciements est la suivante : « Le cours de DEA de Jacques Pitrat est une formidable motivation pour commencer une thèse. » En effet, mon intérêt pour l'Intelligence Artificielle est né des enseignements suivis en licence et maîtrise à l'Université Pierre et Marie Curie – Paris 6, et du livre de Jean-Louis Laurière « Intelligence artificielle – Résolution de problèmes par l'homme et la machine » [23] que j'ai emprunté, puis ré-emprunté à plusieurs reprises à la bibliothèque universitaire. Si cet intérêt m'a conduite à choisir le DEA IARFA en 1994, c'est le cours de Jacques Pitrat, tellement limpide et motivant, qui m'a décidée à poursuivre en thèse. Son ouvrage « Métaconnaissance, futur de l'intelligence artificielle » [34] est alors devenu mon ouvrage de référence. C'est un livre très complet, qui se lit comme un roman et que je recommande à tous les jeunes chercheurs en IA. Ce

<footnote>(1) Environnements Informatiques pour l'Apprentissage Humain.</footnote>
travail de thèse(2) a été mené au sein de l'équipe Métaconnaissances(3) du LAFORIA, dont les réunions régulières permettaient d'échanger sur les travaux en cours. Les colloques en septembre sur l'Île de Berder sont présents dans la mémoire de tous les membres de l'équipe, et nous permettaient de commencer l'année emplis d'énergie et d'inspiration.

Une fois nommée maître de conférences à l'Université Lyon 1, il était évident pour moi qu'il était nécessaire d'intégrer un cours sur les métaconnaissances à mon premier cours de DEA sur l'IA pour les EIAH (et à tous ceux qui ont suivi), à partir de l'ouvrage de Jacques Pitrat. Et j'ai été agréablement surprise de voir que lorsque Marie Lefevre a ensuite pris la responsabilité de ce cours, elle a conservé cette partie sur les métaconnaissances.

Il faut d'ailleurs noter que dans la communauté des chercheurs français en EIAH, la « filiation » de Jacques Pitrat est bien présente. Il y a les « enfants » de Pitrat : ses doctorants, dont je pense être la petite dernière, après Martial Vivet, Monique Grandbastien, Hélène Giroire, et dans la même génération déjà des « petits-enfants », comme les doctorants de Martial Vivet ou de Monique Grandbastien. Et nos anciens doctorants encadrent maintenant des doctorants, à qui à leur tour ils parlent de métaconnaissances. Les idées de Jacques Pitrat ont également diffusé au niveau international. On peut par exemple noter que Maria Felisa Verdejo(4), doctorante de Jacques Pitrat, a dirigé une équipe de recherche sur le traitement de la langue et les applications de l'IA à l'Éducation comme professeure à l'UNED(5) de Madrid. Gilbert Paquette(6) a soutenu sous la direction de Martial Vivet en 1991 une thèse intitulée « Métaconnaissances dans les environnements d'apprentissage » [32] et a fondé en 1992 à la TELUQ (Canada) le laboratoire LICEF(7).

Les sections qui suivent montrent le rôle des métaconnaissances dans les recherches que j'ai menées avec plusieurs collègues dans le domaine des EIAH. Les EIAH sont des environnements informatiques destinés à favoriser l'apprentissage, dans des contextes variés, par exemple en classe avec un enseignant, ou bien à distance en autonomie. Le champ de recherche portant sur la conception et l'évaluation de ces outils et de leurs usages rassemble plusieurs disciplines : l'informatique (et en particulier l'IA), la psychologie cognitive, les didactiques des disciplines, les sciences de l'éducation... Les recherches présentées ici relèvent des apports de l'informatique à la question de l'ingénierie des EIAH, champ de recherche qui porte sur « les questions scientifiques

<footnote>(2) dirigé par Jacques Pitrat et encadré par Hélène Giroire et Gérard Tisseau, anciens doctorants de Jacques Pitrat et membres de l'équipe Métaconnaissances.</footnote>

<footnote>(3) L'équipe comprenait un groupe EIAO (Environnements Interactifs d'Apprentissage avec Ordinateur), constitué de doctorants et anciens doctorants de J. Pitrat et de J.-L. Laurière travaillant dans ce domaine, et qui a contribué activement au groupe de travail EIAO du PRC-GDR Intelligence Artificielle et aux Journées EIAO (de 1989 à 1997). Le sigle EIAO a été remplacé à la fin des années 90 par le sigle EIAH.</footnote>

<footnote>(4) Maria Felisa Verdejo a également fondé la Société Espagnole d'Intelligence Artificielle.</footnote>

<footnote>(5) UNED : Universidad Nacional de Educación a Distancia.</footnote>

<footnote>(6) Gilbert Paquette a reçu en 2007 un doctorat Honoris Causa de l'université Pierre et Marie Curie (Paris 6) pour l'ensemble de ses travaux de recherche.</footnote>

<footnote>(7) Laboratoire en Informatique Cognitive et Environnements de Formation.</footnote>
liées aux concepts, méthodes, théories, techniques et technologies utiles à la conception des EIAH » [38]. Elles abordent les questions liées à l'élication des connaissances qui sont nécessaires à un EIAH pour accompagner différents acteurs d'une situation d'apprentissage, que ce soit les apprenants ou les enseignants.

## 2. DES MÉTACONNAISSANCES POUR DES RÉSOLVEURS DE PROBLÈMES DESTINÉS À SERVIR DE RÉFÉRENCE AU SEIN D'EIAH

Dans le cadre de ma thèse [18], j'ai travaillé sur l'enseignement de méthodes de résolution de problèmes. Une méthode permet, dans un domaine donné, d'organiser la résolution de problèmes en se fondant sur un classement des problèmes et des outils de résolution. De telles méthodes permettent par exemple de résoudre des problèmes ad- itifs posés aux élèves de l'école primaire [20], des problèmes de dénombrement [39], ou de calculer la primitive d'une fonction [14]. En plus de ces exemples dans le do- maine des mathématiques, on peut définir des méthodes fondées sur une classification des problèmes pour résoudre des problèmes de mécanique, de thermodynamique, ou pour apprendre à conjuguer des verbes en français.

Appliquer une telle méthode pour résoudre un problème consiste à identifier la classe du problème, puis à appliquer la technique de résolution associée à cette classe, qui est pertinente pour le résoudre. Les connaissances de classification sont des connais- sances de niveau méta puisqu'il s'agit de connaissances permettant de raisonner sur l'énoncé du problème avant de le résoudre [34, p. 132]. Enseigner une méthode consiste donc à rendre explicites ces métaconnaissances pour les apprenants.

D'après Marc Rogalski [36], « Le résolveur d'un tuteur donneur de leçons de méthodes doit fonctionner selon les méthodes qu'il veut enseigner, et non pas selon les méthodes expertes les plus générales du domaine concerné ». Il répond ainsi à une question de Martial Vivet : « Quand on envisage un tuteur intelligent, faut-il partir de l'apprenant ou des connaissances ? » La réponse de Marc Rogalski est qu'il faut peut-être partir des connaissances telles qu'on veut qu'elles fonctionnent réellement après l'apprentissage.

Un des objectifs de la thèse était de représenter des classifications de problèmes dans des domaines variés, en utilisant un unique modèle de représentation. Nous souhaitions ainsi, dans chaque domaine et dans un cadre d'enseignement à un niveau donné, pouvoir expliquer à un élève la démarche de résolution d'un élève-expert, et les métaconnaissances qu'il utilise. La construction de ces explications nécessite que ces métaconnaissances soient explicitées. C'est pourquoi l'architecture proposée distingue trois types de connaissances intervenant dans une résolution de problème : les connaissances de classification, les connaissances de reformulation (permettant de modéliser le problème afin d'identifier sa classe) et les connaissances de résolution (les techniques de résolution associées aux classes); ces trois types de connaissances sont exprimées de manière déclarative.

On retrouve dans ces différents types de connaissances l'influence de Jacques Pitrat, qui estime qu'« il est intéressant de changer la représentation d'un problème afin de se
ramener à un problème pour lequel on a des outils efficaces » [34, p. 100]. Il considère également que la classification des problèmes du domaine est une connaissance de niveau méta qui permet de classer un problème et ainsi de choisir une bonne représentation et une bonne technique de résolution. Il estime enfin que classer un problème peut également donner une idée de sa difficulté [34, p. 132].

Dans la suite de ce texte, je présente les travaux de recherche que j’ai menés ensuite dans le domaine des EIAH, et qui sont restés guidés par les enseignements de Jacques Pitrat sur les métaconnaissances.

### 3. DES MÉTA-MODÈLES POUR GUIDER L'ÉLICITATION DES CONNAISSANCES EN EIAH

Mes recherches portent sur des EIAH centrés connaissances, dans lesquels les interactions entre le système et l’apprenant sont construites sur une représentation explicite des connaissances enjeu de l’apprentissage. La question de l’élicitation des connaissances nécessaires à l’EIAH pour accompagner les apprenants peut être considérée selon deux points de vue : celui de l’expert humain à qui il faut fournir des modèles et des langages de représentation lui permettant d’expliciter les connaissances et de les représenter d’une façon compréhensible pour le système informatique, et celui du système informatique qui doit acquérir auprès de l’expert humain les connaissances qui sont nécessaires pour que l’EIAH puisse fournir un support adéquat à ses utilisateurs. Même s’il s’agit de la même problématique, mes recherches ont évolué au cours des années, d’un point de vue initialement centré sur la représentation des connaissances issues d’une expertise didactique au sein du système informatique à un point de vue actuellement plus centré sur les modèles et les outils permettant l’acquisition de connaissances auprès d’un expert qui peut être aussi bien un chercheur en didactique qu’un enseignant.

#### 3.1. QUEL RÔLE POUR LES ENSEIGNANTS DANS LA CONCEPTION DES EIAH ?

Pour que les EIAH soient effectivement utilisés en classe, il faut qu’ils soient adaptés aux besoins et aux pratiques de chaque enseignant. Une première réponse à cette problématique consiste à associer des enseignants à la conception de ces EIAH, favorisant ainsi leur acceptabilité par leurs collègues [28] [5]. Cela ne garantit pas pour autant de répondre au besoin individuel de chaque enseignant, et c’est pourquoi il est également important de permettre à chaque enseignant d’achever cette conception [17] grâce à un module qui lui est destiné et via lequel il peut paramétrer l’environnement destiné à ses élèves, mais aussi choisir ou créer les activités qu’ils vont effectuer.

Afin d’aller encore plus loin dans la possibilité donnée à l’enseignant d’agir sur les activités proposées à ses élèves, nous travaillons depuis quelques années sur des outils auteurs pour les enseignants [24] [15]. Les utilisateurs ciblés par ces outils auteurs sont des enseignants bien familiarisés avec l’outil informatique mais n’ayant pas de compétence en programmation. L’enjeu est d’aider ces enseignants dans leur tâche
en automatisant une partie du processus de création d'activités pédagogiques. Pour mettre en œuvre cette automatisation, le système a besoin de connaissances. Nous travaillons à la conception d'outils auteurs qui permettent à l'enseignant d'éliciter les connaissances du domaine et les connaissances pédagogiques, dans le but de réaliser des EIAH centrés connaissances.

## 3.2. DES EIAH CENTRÉS CONNAISSANCES

Une partie des travaux de recherche dans le domaine des EIAH porte sur la manière de représenter au sein de l'environnement informatique les connaissances qui lui permettront d'accompagner l'apprenant au cours de son apprentissage [43, chap. 3 et 4] [30].

B. Woolf [43, chap. 2] caractérise les EIAH selon quatre dimensions, soutenant qu'un EIAH efficace devrait être centré connaissances (*knowledge-centered*), centré apprenant (*student-centered*), centré évaluation (*assessment-centered*) et centré communauté (*community-centered*). Selon elle, un EIAH centré connaissances doit être capable de raisonner sur les connaissances du domaine, de savoir ce que les apprenants ont besoin de savoir et ce qu'ils feront des connaissances après les avoir acquises. Ainsi, un tel EIAH doit posséder une représentation structurée de la connaissance enjeu de l'apprentissage, de manière à pouvoir définir des priorités et proposer du matériel pédagogique adapté à l'apprenant.

Dans les travaux visant la conception d'EIAH centrés connaissances, la question de recherche principale est la représentation des connaissances qui permettent à l'EIAH d'assurer l'ensemble des fonctionnalités que l'on en attend. Il s'agit en effet d'une part de représenter explicitement les connaissances enjeu de l'apprentissage (c'est-à-dire ce que l'apprenant doit apprendre en utilisant l'EIAH) et d'autre part de mettre en œuvre des mécanismes permettant au système informatique qui interagit avec l'apprenant de s'appuyer sur ces connaissances afin de susciter leur apprentissage chez l'élève. Ces connaissances ne sont pas les connaissances d'un expert dans le domaine, mais les connaissances telles qu'on voudrait qu'elles fonctionnent chez l'apprenant à l'issue de l'apprentissage [11] [36] [2]. Afin de pouvoir accompagner l'élève dans son apprentissage, il est également nécessaire de représenter explicitement des métaconnaissances qui décrivent comment exploiter les connaissances enjeu de l'apprentissage pour fournir à l'apprenant de l'aide, diagnostiquer ses réponses, construire des rétroactions pertinentes, élaborer un modèle de ses compétences, choisir une stratégie pédagogique et construire des activités personnalisées [17].

Ces connaissances doivent être représentées grâce à des modèles computationnels qui permettent au système de raisonner sur les connaissances décrites. Ainsi, les interactions entre l'EIAH et l'apprenant sont construites sur ces connaissances explicites. Une modification au sein de l'un de ces modèles de connaissances entraîne alors une modification du comportement de l'EIAH.
### 3.3. L'ÉLICITATION DES CONNAISSANCES EN EIAH

#### De quelles connaissances parle-t-on et pourquoi les éliciter ?

Comme nous l'avons vu ci-dessus, en EIAH nous avons certes besoin d'éliciter les connaissances de résolution de problèmes qui sont enjeu de l'apprentissage, mais aussi les connaissances qui permettent d'accompagner l'apprenant dans cet apprentissage.

L'une des propriétés le plus souvent utilisées pour caractériser les connaissances est la distinction entre connaissances déclaratives et connaissances procédurales. Les connaissances déclaratives (savoirs) donnent des informations sur le domaine tandis que les connaissances procédurales (savoir-faire) donnent des indications sur les procédures de résolution et les conditions d'utilisation de ces procédures [42, p. 433]. Selon Anderson [1], l'apprentissage dans le cadre de la résolution de problèmes consiste à construire des connaissances procédurales à partir de connaissances déclaratives. Cependant, les procédures peuvent rester implicites [29], il faut alors soutenir le processus de procéduralisation par l'élève des connaissances déclaratives [42, p. 434].

P. Lecocq [42, p. 380] propose un autre point de vue pour distinguer les connaissances déclaratives et procédurales, fondé sur l'utilisation qui en est faite : « Une connaissance a le statut de connaissance déclarative lorsqu'elle est manipulée par une autre connaissance, la même connaissance a le statut de connaissance procédurale lorsqu'elle manipule d'autres connaissances ». Ainsi une même connaissance pourrait avoir, selon l'usage, un caractère déclaratif ou procédural.

Lorsqu'il s'agit des connaissances du système, c'est plus le caractère explicite qui est déterminant, que celui de déclaratif. C'est bien le caractère explicite des connaissances qui permet de les modifier facilement, et de les manipuler (par exemple via d'autres connaissances, les métac connaissances). Je rejoins ainsi De Jong et Ferguson [13], pour qui le pendant du caractère procédural de la connaissance est son caractère conceptuel, le caractère déclaratif étant lui le pendant du caractère compilé ou implicite de la connaissance. Dans un contexte d'accompagnement de l'apprentissage humain, le caractère explicite des connaissances est particulièrement important, puisqu'il semble illusoire d'envisager la transmission d'une connaissance qui serait automatisée et tacite.

L'exemple de l'enseignement de méthodes permet d'illustrer l'importance du caractère explicite des connaissances. En effet, l'enseignement de méthodes est particulièrement pertinent dans des domaines où les élèves rencontrent des difficultés à appliquer dans une situation de résolution de problèmes (qui nécessite des connaissances procédurales ou concrètes) les connaissances (déclaratives ou conceptuelles) apprises en cours. Le fait d'expliciter la méthode (i.e. la rendre déclarative) permet de faciliter l'apprentissage.

Une autre propriété des connaissances proposée par De Jong et Ferguson [13] est leur caractère général ou spécifique au domaine. Ces auteurs soulignent que des stratégies générales de résolution de problèmes peuvent exister, mais que la plupart du temps ce sont des connaissances spécifiques au domaine que l'on cherche à enseigner. Dans mes travaux de recherche, je cherche à définir des modèles indépendants du domaine pour représenter les connaissances nécessaires au système, ainsi que des moteurs de
raisonnement permettant d'exploiter ces modèles, qui sont ainsi également indépendants du domaine. Les modèles permettent de guider l'élicitation de connaissances qui sont, elles, spécifiques au domaine.

## S'appuyer sur des méta-modèles pour guider l'élicitation des connaissances

Pour répondre à cette problématique de l'élicitation de connaissances, l'approche adoptée dans nos travaux consiste à définir des méta-modèles décrivant les connaissances que l'utilisateur doit définir pour construire un modèle de connaissances spécifique à un domaine donné (cf. Figure 3.1). Selon les contextes ou les questions de recherche, cet utilisateur peut être soit un expert de la connaissance, soit un enseignant, soit un auteur de contenu pédagogique, soit un concepteur d'EIAH. J'adopte la définition de Kleppe, Warmer et Bast [21], selon laquelle un modèle est une description de tout ou partie d'un système à partir d'un langage clairement défini. Un méta-modèle est alors un modèle définissant un langage de description d'un modèle [31]. Par ce langage, le méta-modèle contraint la sémantique exprimable par le modèle.

Dans la suite de cette section, j'explique l'approche illustrée par la Figure 3.1 en donnant trois exemples notés (a) (b) et (c) de travaux dans lesquels nous avons adopté cette approche. Dans le projet noté (a), l'objectif était de permettre à un enseignant de définir une stratégie de personnalisation appliquée pour fournir à chaque apprenant des activités adaptées à son profil [25] [26] [19, p. 173]. Dans le projet noté (b), l'objectif était de permettre au concepteur d'un EIAH de comparer différentes techniques de diagnostic existantes pour en choisir une à utiliser pour son EIAH dans un domaine donné, en instanciant ces techniques sur les traces de l'EIAH [22] [19, p. 145]. Dans le projet noté (c), l'objectif était de permettre à un enseignant de créer des modèles d'exercices via l'outil auteur ASKER [24], ces modèles d'exercices étant ensuite exploités par des générateurs d'exercices pour générer un grand nombre d'exercices en ligne permettant aux apprenants de s'entraîner [19, p. 162].

Dans l'approche illustrée par la Figure 3.1, pour une question de recherche donnée, le chercheur définit un méta-modèle dont l'objectif est de guider l'utilisateur dans sa définition des connaissances pour un domaine donné. Il s'agira par exemple pour (a) d'un méta-modèle de stratégie pédagogique de personnalisation [26], pour (b) d'un méta-modèle de techniques de diagnostic [22] ou pour (c) d'un méta-modèle d'exercices [27]. Ce méta-modèle est indépendant du domaine et décrit quelles connaissances définir et sous quelle forme. Dans certains travaux, une interface fondée sur le méta-modèle guide et contrôle l'utilisateur lors du processus d'élicitation des connaissances. Il s'agira par exemple pour (a) d'un outil auteur pour définir des stratégies pédagogiques [25] ou pour (c) d'un outil auteur pour définir des modèles d'exercices [6]. Le résultat de ce processus d'élicitation est un modèle de connaissances dépendant du domaine et conforme au méta-modèle. Il s'agira par exemple pour (a) d'une stratégie de personnalisation, pour (b) de techniques de diagnostic pour un EIAH et un domaine donné ou pour (c) d'un modèle d'exercices pour évaluer un savoir-faire.

Le chercheur s'appuie sur ce méta-modèle pour réaliser un moteur de raisonnement capable d'exploiter les modèles de connaissances conformes au méta-modèle. Comme
<figure><img src="image_3.png" /><figcaption>FIGURE 3.1. Schéma du processus d'élicitation des connaissances (en bleu) et des modèles et mécanismes de raisonnement utilisés par le système informatique (en noir).</figcaption></figure>

le méta-modèle, ce moteur de raisonnement est indépendant du domaine. Il s'agira par exemple pour (a) du processus de personnalisation mettant en œuvre une stratégie pédagogique, pour (b) d'un moteur de comparaison de techniques de diagnostic ou pour (c) d'un générateur d'exercices. Dans un domaine donné, le moteur exploite le modèle de connaissances pour effectuer la tâche attendue du système : résoudre un problème, diagnostiquer une réponse, construire une rétroaction, élaborer un profil de l'apprenant, (a) personnaliser des activités, (b) aider à choisir une technique de diagnostic, (c) générer des exercices...

J'utilise souvent le terme d'*architecture* pour désigner le couple formé par le méta-modèle de connaissances et le moteur de raisonnement, dans le sens qu'ils forment l'*architecture* d'un système à base de connaissances, qu'il faut instancier dans un domaine donné en définissant les modèles de connaissances requis par le méta-modèle, pour obtenir un système à base de connaissances fonctionnel pour le domaine concerné.

## Quelle assistance à ce processus d'élicitation des connaissances ?

Dans certains travaux, nous proposons des outils complémentaires pour assister l'utilisateur dans son élicitation des connaissances. Il ne s'agit pas d'un processus générique d'assistance à la tâche, tel qu'il est par exemple proposé par [16], mais seulement de moyens divers pour faciliter l'élicitation, selon les questions de recherche, et qui sont regroupés dans la Figure 3.1 sous le terme d'assistance. Il s'agit de procédés qui sont indépendants du domaine, et dont deux exemples sont présentés ci-dessous.
Un premier moyen de faciliter la tâche d'élicitation des connaissances conformément à un méta-modèle est de proposer à l'utilisateur des versions plus spécialisées du méta-modèle, donc plus contraintes, pour certains contextes. Un deuxième moyen est de lui proposer des patrons de modèles de connaissances, conformes au méta-modèle, et qu'il sera plus aisé d'instancier et de compléter, que de définir un modèle de connaissances uniquement en fonction du méta-modèle.

Cette démarche scientifique pour l'élicitation des connaissances en EIAH, forte- ment influencée par les travaux de Jacques Pitrat sur les métaconnaissances, a été appliquée au sein de différents projets de recherche portant sur l'enseignement de méthodes, la personnalisation des EIAH, les *learning analytics*, ou la génération d'exercices d'auto-évaluation [19].

## 4. IA EXPLICABLE EN EIAH : RÔLE DES MÉTACONNAISSANCES

La question de l'appropriation des EIAH par les enseignants est essentielle pour que ces outils soient davantage utilisés dans l'enseignement. Il faut donc concevoir des systèmes que les enseignants pourront adapter afin qu'ils répondent mieux à leurs besoins. Ceci résonne avec les préoccupations actuelles sur la transparence et l'explicabilité des systèmes d'IA : l'enseignant doit pouvoir comprendre les décisions ou recommandations du système d'IA concernant ses élèves, pour avoir confiance dans le système, et il doit pouvoir agir sur le système pour que celui-ci modifie son comportement, soit via des rétro-actions sur les comportements du système, soit via une modification des stratégies utilisées par le système.

Représenter les connaissances dans un résolveur de problèmes n'implique pas nécessairement que ce système puisse construire des explications. En effet, W.J. Clancey a conçu le tuteur GUIDON [9] à partir du système expert MYCIN [37], les résolutions de MYCIN servant de référence à GUIDON pour construire des explications. Les étudiants ont jugé que les capacités d'explication de GUIDON étaient inadaptées et insuffisantes. De fait, dans MYCIN, les connaissances relatives à la stratégie de raisonnement étaient implicites. Après une étude approfondie sur les exigences d'une modélisation des connaissances du domaine en EIAH [8], W. J. Clancey a conçu NEOMYCIN [10], nouveau système dans lequel les connaissances et les stratégies de raisonnement sont explicites. Monique Baron tire les enseignements de GUIDON dans [3] et [4]. Elle souligne, en particulier, le lien entre d'une part la modélisation du domaine et de la stratégie de raisonnement et d'autre part les capacités d'explication d'un module de résolution de problèmes pour un EIAH. Elle ajoute qu'il est nécessaire d'explicitier des métaconnaissances qui utilisent les connaissances du domaine.

Poursuivant dans cette voie, Martial Vivet distingue trois niveaux d'explications [40] [41]. Le niveau le plus bas consiste à *commenter* une trace de résolution d'un système expert en utilisant les aspects syntaxiques des règles utilisées. *Expliquer* consiste à analyser le contenu sémantique de ces règles de manière à expliciter les connaissances utilisées par le système pour produire la résolution. Enfin, *justifier* consiste à détailler les connaissances stratégiques utilisées par le système pour élaborer la résolution du
problème. Un système résolveur de problèmes doit donc, s’il a pour but de donner
des explications, posséder des métaconnaissances explicites pour exprimer les choix
stratégiques de résolution. C’est la transparence à la fois des connaissances et des
métaconnaissances qui permettra d’expliquer et de gagner la confiance des utilisateurs
de systèmes d’IA.

Dans l'ouvrage « Métaconnaissance, futur de l'intelligence artificielle » [34], Jacques Pitrat détaillait différents types de métaconnaissances, dont beaucoup sont particulièrement importants en EIAH :

Les connaissances sur les connaissances d'un individu : savoir ce qu'un individu sait, ce qu'il veut faire, ce qu'il peut faire, comment il le fait, quelles sont ses habitudes, peut permettre au système de comprendre pourquoi l'apprenant a fait (ou répondu) quelque chose et de prédire ce qu'il va faire ensuite. C'est tout l'objet des travaux sur la modélisation de l'apprenant.

Les connaissances pour utiliser les connaissances, qui permettent par exemple de
choisir les connaissances les plus pertinentes en résolution de problèmes. L'enseigne-
ment de méthodes vise par exemple à expliciter et à transmettre ces connaissances.

Les connaissances pour exprimer les connaissances : choisir ce qu'on va dire, quand
et comment, pour communiquer avec l'apprenant. On aborde à nouveau ici la question
de l'explication.

Dans un article d'hommage à Martial Vivet [35], Jacques Pitrat mettait en avant la
notion de méta-explication. Je ne résiste pas au plaisir de citer un long passage de la
conclusion, mais j'aurais pu copier ici presque tout l'article :

« La métaexplication fait comprendre aux élèves comment il est possible de trouver une solution alors que l'explication se contente de justifier un raisonnement. Elle est donc indispensable si nous voulons former des individus ou des systèmes capables d'apprendre à résoudre des problèmes. Ils ne doivent pas découvrir de nouvelles connaissances, mais des connaissances pour utiliser correctement leurs connaissances, donc une variété de métaconnaissances. La métaexplication permet un Meta Explanation Based Learning basé sur la compréhension des raisons pour lesquelles une méthode a eu du succès ou a échoué.

Pour que la métaexplication soit possible, le système doit disposer d'une métatrace
qui garde les raisons de tous les essais, fructueux et infructueux, qui ont été tentés. Pour
pouvoir construire cette métatrace, les métaconnaissances qui décident de l'utilisation
des connaissances sont données sous forme déclarative de façon à ce que le système
puisse y accéder facilement. Un autre avantage d'avoir des métaconnaissances décla-
ratives est qu'il est plus facile de les découvrir et de les modifier, ce qui conduit à un
méta-apprentissage, ou apprentissage de l'utilisation des connaissances. »

La question de la transparence et de l'explicabilité des systèmes d'IA suscite
actuellement un intérêt important, comme un mouvement de balancier provoqué par la
prise de conscience que les systèmes opaques utilisant des techniques d'apprentissage
automatique telles que les réseaux de neurones profonds posent de réels problèmes
d'acceptabilité. Il me semble donc utile de rappeler qu'il y a 30 ans, Jacques Pitrat soulignait déjà l'importance d'utiliser des métaconnaissances explicites permettant au système d'expliquer et de justifier son raisonnement.

En EIAH, les techniques d'apprentissage automatique posent de mon point de vue un problème, du fait que la fiabilité des connaissances apprises par le système (par exemple des connaissances de diagnostic visant à construire un profil de l'apprenant ou des algorithmes de recommandation de ressources pédagogiques) n'est pas totale; or il ne me paraît pas admissible que le système renvoie à l'apprenant une information erronée. Il est donc nécessaire que les connaissances apprises soient validées par un expert, ce qui nécessite que le processus d'apprentissage des connaissances soit compréhensible pour l'expert. De même, le fait qu'il est presque impossible d'expliquer à un enseignant comment a été construite une connaissance apprise automatiquement par le système (par exemple une stratégie de personnalisation) ne facilite pas la confiance et l'appropriation des EIAH par les enseignants, qui pour la plupart ont encore une réaction de méfiance vis-à-vis de ces outils.

Les techniques d'apprentissage automatique peuvent néanmoins être pertinentes quand elles sont intégrées à un processus interactif d'élicitation des connaissances, dans lequel l'expert ou l'enseignant valide ou donne du sens aux connaissances apprises par le système. En effet, les capacités d'explications sont nécessaires mais non suffisantes, il faut également que l'enseignant ait la possibilité d'agir sur les comportements et stratégies du système, ou au moins d'exprimer son avis sur un comportement qu'il faudrait améliorer. Pour cela, les traces d'interaction entre le système et ses utilisateurs (apprenants et enseignants) sont une source précieuse de connaissance [12]. Des métaconnaissances permettant au système d'analyser son propre comportement en s'observant [34, chap. 7] peuvent utiliser ces traces pour détecter un dysfonctionnement, ou une possibilité d'amélioration de ce fonctionnement. C'est là que les méta-traces (cf. ci-dessus), qui conservent également les raisons qui ont conduit le système à ce fonctionnement, prennent toute leur importance. Il s'agit en fait d'une trace du raisonnement effectué par le système grâce aux métaconnaissances.

Les interactions avec les utilisateurs dans le processus d'amélioration du système me semblent également importantes [7] : permettre à l'apprenant d'exprimer une réserve sur le comportement du système pourrait conduire le système, à partir de l'analyse des traces, à identifier les stratégies à corriger ou à améliorer. Dès 1987 [33], Jacques Pitrat proposait d'utiliser les traces pour permettre au système d'observer son propre comportement dans le but de l'améliorer, en mettant en place un mécanisme similaire à celui de la conscience humaine. Soumettre à l'enseignant le problème identifié permettra probablement, dans le contexte d'un système transparent et doté de capacités d'explication et de méta-explication, de recueillir auprès de l'enseignant des connaissances précieuses permettant de corriger le problème ou d'améliorer la stratégie utilisée.

## 5. REMERCIEMENTS

Un grand merci à Alain Mille, Monique Baron et Monique Grandbastien pour leur travail de relecture et leurs nombreuses suggestions d'amélioration de cet article.
BIBLIOGRAPHIE

[1] J. R. ANDERSON, *The architecture of cognition*, Harvard University Press, Cambridge, 1983.

[2] J. R. ANDERSON, A. T. CORBETT, K. R. KOEDINGER & R. PELLETIER, « Cognitive Tutors: Lessons Learned », *Journal of the Learning Sciences* 4 (1995), n° 2, p. 167-207.

[3] M. BARON, « D’un « SE » à un « SEIAO », les enseignements d’un cas intéressant : GUIDON, notes de lecture », in *Colloque Intelligence Artificielle, Aix-en-Provence, septembre 1984*, n° 49, GR C.F. Picard (LAFORIA), 1984, p. 27-49.

[4] ———, « Connaissances, métaconnaissances et EIAO, quelques aspects », in *Métaconnaissances en IA, en EIAO et en didactique des mathématiques*, groupe de travail Math & Méta (1990-1992), 1993, Rapport interne LAFORIA 93/18.

[5] E. BRUILLARD, E. DELOZANNE, P. LEROUX, P. DELANNOY, X. DUBOURG, P. JACOBONI et al., « Quinze ans de recherche informatique sur les sciences et techniques éducatives au LIUM », *Sciences et Techniques Éducatives* 7 (2000), n° 1, p. 87-145.

[6] B. CABLÉ, N. GUIN & M. LEFEVRE, « An authoring tool for semi-automatic generation of self-assessment exercises », in *AIED 2013 Proceedings*, Lecture Notes in Computer Science, vol. 7926, Springer, Berlin, Heidelberg, 1993, p. 679-682.

[7] P.-A. CHAMPIN, B. FUCHS, N. GUIN & A. MILLE, « Explicabilité : vers des dispositifs numériques interagissant en intelligence avec l'utilisateur », in *Atelier HIA (Humains et IA, travailler en intelligence) – Conférence EGC, Bruxelles, Belgique* (D. Gross-Amblard, éd.), 2020, p. 4-15.

[8] W. J. CLANCEY, « The epistemology of a rule based expert system: A framework for explanation », *Artificial Intelligence* 20 (1983), p. 215-251.

[9] ———, *Knowledge-based tutoring: the GUIDON program*, MIT Press, Cambridge, M.A., 1987.

[10] W. J. CLANCEY & R. LETSINGER, « NEOMYCIN, reconfiguring a rule-based expert system for application to teaching », in *Medical Artificial Intelligence: The First Decade* (W. J. Clancey & E. H. Shortliffe, éds.), Addison-Wesley, Reading, USA, 1984.

[11] A. T. CORBETT, K. R. KOEDINGER & J. ANDERSON, « Intelligent tutoring systems », in *Handbook of Human-Computer Interaction* (T. K. Helander & P. Landauer, éds.), Elsevier Science, 1997.

[12] A. CORDIER, M. LEFEVRE, P.-A. CHAMPIN, A. MILLE, O. GEORGEON & B. MATHERN, « Connaissances et raisonnement sur les traces d'interaction », *Revue des Sciences et Technologies de l'Information – Série RIA : Revue d'Intelligence Artificielle* 28 (2014), p. 375-396.

[13] T. DE JONG & M. FERGUSON-HESSLER, « Types and qualities of knowledge », *Educational Psychologist* 31 (1996), n° 2, p. 105-113.

[14] E. DELOZANNE, « Explications en EIAO. Étude à partir d'ELISE, un logiciel pour s'entraîner à une méthode de calcul de primitives », Thèse, Université du Maine, Le Mans, 1992.

[15] A. DIATTARA, N. GUIN, V. LUENGO & A. CORDIER, « Preliminary Evaluations of AMBRE-KB, an Authoring Tool to Elicit Knowledge to Be Taught Without Programming », in *Computers Supported Education – 9th International Conference, CSEDU 2017, Porto, Portugal, April 21-23, 2017, Revised Selected Papers* (P. Escudeiro, G. Costagliola, S. Zvacek, J. Uhomoibhi & B. McLaren, éds.), Communications in Computer and Information Science, vol. 865, Springer, 2018, p. 116-137.

[16] B. GINON, « Modèles et outils génériques pour mettre en place des systèmes d'assistance épiphytes », Thèse de doctorat, Université de Lyon, 2014.

[17] M. GRANDBASTIEN, « Teaching Expertise is at the Core of ITS Research », *International Journal of Artificial Intelligence in Education* 10 (1999), p. 335-349.

[18] N. GUIN, « Reformuler et classer un problème pour le résoudre. L'architecture SYRCLAD et son application à quatre domaines », Thèse de doctorat, Université Paris 6, 1997.

[19] ———, « Des méta-modèles pour guider l'élicitation des connaissances en EIAH : contributions à l'enseignement de méthodes et à la personalisation des activités », Mémoire d'habilitation à diriger des recherches, Université Claude Bernard - Lyon 1, 2014.

[20] N. GUIN, S. JEAN-DAUBIAS & S. NOGRY, « Le projet AMBRE : utiliser un paradigme d'apprentissage fondé sur le RÀPC pour faire acquérir à des élèves une méthode de résolution de problèmes », in *Raisonnement à partir de cas 2 - surveillance, diagnostic et maintenance* (J. Renaud, B. Chebel-Morello, B. Fuchs & J. Lieber, éds.), Hermès-Lavoisier, 2007, p. 203-226.
[21] A. KLEPPE, J. WARMER & W. BAST, MDA explained: The model driven architecture: Practice and promise, Addison-Wesley, 2003.

[22] S. LALLÉ, V. LUENGO & N. GUIN, « Assistance in Building Student Models using Knowledge Representation and Machine Learning », in *Artificial Intelligence in Education* (Memphis, TN, United States), Lecture Notes in Computer Science, vol. 7926, Springer, 2013, p. 754-757.

[23] J.-L. LAURIÈRE, *Intelligence artificielle : Résolution de problèmes par l'homme et la machine*, Eyrolles, 1987.

[24] M. LEFEVRE, N. GUIN, B. CABLÉ & B. BUFFA, « ASKER : un outil auteur pour la création d'exercices d'auto-évaluation », in *Atelier EAEI (Évaluation des Apprentissages et Environnements Informatiques) – Conférence EIAH 2015, 2 juin 2015*, Agadir (Maroc), 2015.

[25] M. LEFEVRE, N. GUIN & S. JEAN-DAUBIAS, « Adapte, a Tool for the Teacher to Personalize Activities », in *9th International Conference on Intelligent Tutoring Systems (ITS'2008)* (Montreal, Canada), Intelligent Tutoring Systems, 2008, p. 699-701.

[26] ——, « Personnaliser des activités pédagogiques de manière unifiée : une solution à la diversité des dispositifs », *Sciences et Technologies de l'Information et de La Communication pour l'Education et la Formation (STICEF) 19* (2012), p. 309-351.

[27] M. LEFEVRE, S. JEAN-DAUBIAS & N. GUIN, « Generation of pencil and paper exercises to personalize learners' work sequences: Typology of exercises and meta-architecture for generators », in *E-Learn 2009 (World Conference on E-Learning in Corporate, Government, Healthcare & Higher Education)* (Vancouver, Canada), 2009.

[28] P. LEROUX, « Machines partenaires des apprenants et des enseignants – Étude dans le cadre d'environnements supports de projets pédagogiques », Mémoire d'habilitation à diriger des recherches, Université du Maine, Le Mans, 2002.

[29] V. LUENGO, « Les rétroactions épistémiques dans les Environnements Informatiques pour l'Apprentissage Humain », Mémoire d'habilitation à diriger des recherches, Université Joseph Fourier - Grenoble 1, 2009.

[30] R. NKAMBOU, R. MIZOGUCHI & J. BOURDEAU, *Advances in Intelligent Tutoring Systems*, Springer Verlag, Heidelberg, 2010.

[31] OMG, *Meta object facility specification 2.0.*, 2008, Final Adopted Specification (November 2005).

[32] G. PAQUETTE, « Métaconnaissance dans les environnements d'apprentissage », Thèse de doctorat, Université du Maine, Le Mans, 1991.

[33] J. PITRAT, « Les systèmes qui s'observent », *Intellectica. Revue de l'Association pour la Recherche Cognitive* (1987), n° 4, p. 55-64.

[34] ——, *Métaconnaissance, futur de l'intelligence artificielle*, Hermès, 1990.

[35] ——, « Pourquoi et comment métaexpliquer ? », *Sciences et techniques éducatives* 7 (2000), n° 1, p. 179-194, Hommage à Martial Vivet.

[36] M. ROGALSKI, « Les concepts de l'EIAO sont-ils indépendants du domaine ? L'exemple de l'enseignement de méthodes en analyse », *Recherches En Didactique Des Mathématiques* 14 (1994), n° 1-2, p. 43-66.

[37] E. H. SHORTLIFFE, *Computer-based medical consultations: MYCIN*, American Elsevier Publishers, New York, 1976.

[38] P. TCHOUNIKINE, « Précis de recherche en ingénierie des EIAH », en ligne sur le Web, 2009.

[39] G. TISSEAU, H. GIROIRE, F. LE CALVEZ, J. DUMA & M. URTASUN, « COMBIEN, un EIAH pour les dénombrements : expérimentation et leçons pour l'ingénierie », in *Environnements Informatiques pour l'Apprentissage Humain 2003, Strasbourg, France*, 2003, p. 509-516.

[40] M. VIVET, « Systèmes experts pour enseigner : méta-connaissances et explications », in *Congrès CESTA : Mari-Cognitiva 87, Paris, 18-22 mai 1987, 1987*.

[41] ——, « Knowledge-based tutors. Towards a shell », *International Journal of Educational Research 12* (1988), n° 8, p. 839-850.

[42] A. WEIL-BARAIS & D. DUBOIS, *L'homme cognitif*, Presses universitaires de France, 1994.

[43] B. P. WOOLF, *Building Intelligent Interactive Tutors: Student-centered strategies for revolutionizing e-learning*, Morgan Kaufmann, 2009.
ABSTRACT. — This text aims to show the influence that Jacques Pitrat’s work has had on some research in the field of TEL (Technology Enhanced Learning). I relate how his teaching led me to start a PhD and how several generations of researchers in TEL have been influenced by his work. I then present how metaknowledge guided my thesis work and the research I have conducted since in the field of TEL. I conclude by revisiting the notion of explainable AI and by recalling how Jacques Pitrat proposed an original approach that is still relevant today.

KEYWORDS. — TEL, metaknowledge, elicitation of knowledge, explanations, meta-models.

Manuscrit reçu le 30 mars 2021, révisé le 6 décembre 2021, accepté le 15 décembre 2021.