Évaluation de l’apprentissage incrémental par analogie (Incremental Learning From Scratch Using Analogical Reasoning ) (2016)

Abstract: Cet article examine l’utilisation du raisonnement analogique dans le contexte de l’apprentissage incrémental. Le problème d’apprentissage sous-jacent développé est le transfert de requêtes formulées en langue naturelle vers des commandes dans un langage de programmation. Nous y explorons deux questions principales : Comment se comporte le raisonnement par analogie dans le contexte de l’apprentissage incrémental ? De quelle manière la séquence d’apprentissage influence-t-elle la performance globale ? Pour y répondre, nous proposons un protocole expérimental simulant deux utilisateurs et différentes séquences d’apprentissage. Nous montrons que l’ordre dans la séquence d’apprentissage incrémental n’a d’influence notable que sous des conditions spécifiques. Nous constatons également la complémentarité de l’apprentissage incrémental avec l’analogie pour un nombre d’exemples d’apprentissage minimal.

## introduction l'apprentissage incrémental (aussi séquentiel ou en ligne/online learning), est le processus par lequel une entité accroît ses connaissances au cours du temps, en même temps qu'elle les utilise. on l'oppose à l'apprentissage hors ligne (batch learning) pour lequel l'ensemble d'apprentissage est acquis généralement lors d'une unique phase initiale. il n'est pas adapté pour l'ajout de connaissances a posteriori. réitérer la phase d'apprentissage est souvent trop coûteux car cela met en jeu des actes de la conférence conjointe jep-taln-recital 2016, volume 2 : taln algorithmes hors ligne. au contraire, les approches d'apprentissage incrémentales collectent des exemples positifs ou négatifs à chaque action du système et les intègrent aux connaissances avec un coût limité, afin d'améliorer les décisions futures. le contexte auquel est appliqué l'apprentissage incrémental concerne la conception d'un assistant capable de transférer des requêtes en langue naturelle vers des commandes en langage formel. l'une des difficultés provient de la relative rareté des exemples. en effet, ils n'arrivent qu'au rythme auquel l'humain qui utilise le système les fournit. il est donc crucial d'exploiter du mieux possible cet ensemble restreint d'exemples pour produire rapidement des réponses (commandes) pertinentes. notre choix pour effectuer ce transfert de la langue naturelle vers un langage formel s'est porté vers le raisonnement analogique car, en tant qu'approche de raisonnement à base de cas, il permet de produire des réponses correctes avec seulement quelques exemples adéquats. d'autre part, le raisonnement à base de cas ne requiert pas non plus de lourd calcul afin d'intégrer de nouvelles connaissances. ces deux raisons permettent de s'attendre à des performances correctes en situation d'apprentissage incrémental. à notre connaissance, cela n'a pas été évalué jusqu'à présent. comment se comporte le raisonnement par analogie dans le contexte de l'apprentissage incrémental ? de quelle manière la séquence d'apprentissage influence-t-elle la performance globale ? nous proposons dans la suite une série d'expériences pour apporter des réponses à ces questions. l'incrémentalité soulève la question de l'ordre d'apprentissage des exemples. même si le score final est similaire, des ordonnancements différents font varier les performances intermédiaires du système. le comportement humain est difficilement prédictible, il a ici une influence directe sur l'ordonnancement. dans le domaine de l'enseignement algorithmique, @xcite tentent de guider l'enseignement de l'humain à la machine grâce à un ensemble d'instructions. l'objectif est d'amener l'humain à proposer des exemples utiles pour le système, qu'il ne proposerait pas naturellement lors d'un enseignement humain-humain. dans le contexte du raisonnement par analogie, ce guidage ne semble pas nécessaire a priori. en effet, l'analogie est un mode de raisonnement habituel de la cognition humaine @xcite , un choix d'ordonnancement naturel devrait donc fournir des exemples utiles aux moments où ils sont nécessaires. de plus, notre système interagit plutôt avec un utilisateur qu'avec un enseignant. bien que celui-ci soit amené à jouer ces deux rôles, il est préférable de limiter les contraintes imposées à l'utilisateur sur l'enseignement qu'il produit. ## raisonnement analogique cette section présente le modèle de raisonnement analogique formel ainsi que son application au transfert entre langage d'énoncés vus comme des séquences de tokens. nous y décrivons également la génération automatique de nouveaux exemples par analogie à partir d'une base restreinte. ## conclusion et perspectives dans cet article, nous avons étudié l'adéquation de l'apprentissage incrémental avec le raisonnement par analogies formelles au travers de quatre expériences principales. nous avons montré que l'utilisation de l'apprentissage incrémental rend le système robuste aux variations sur l'ordonnancement des exemples d'entrée. l'ordonnancement pseudo-aléatoire attendu dans le cas réel donne des résultats un peu moins tôt que sur une base groupée, mais plus stables. nous avons également observé que l'incrément a un effet non négligeable sur la performance du système face à un nouvel utilisateur. enfin, la combinaison de l'apprentissage incrémental et de la génération analogique de variation dans les connaissances permet d'augmenter sensiblement les résultats face à un nouvel utilisateur, et d'atteindre 60% de bonnes réponses sur 512 requêtes sans connaissance préalable. ce résultat prometteur ne doit pas faire perdre de vue l'influence potentielle du bruit sur des tests avec une base d'exemples de cette taille. il serait très intéressant à court terme de comparer les résultats avec des données similaires sur d'autres langages et en augmentant le nombre de commandes différentes. à moyen terme, une comparaison avec d'autres approches sera informative également. certains travaux proposent d'appliquer l'apprentissage incrémental à des méthodes statistiques @xcite , mais ils concernent des problèmes de classification. il s'agirait d'étudier si leur adaptation au problème de transfert de langage est efficace, et si elle est comparable à l'approche analogique, notamment pour une petite quantité de données. d'autre part, la génération analogique de variations à partir de la base d'exemples, qui permet une amélioration des résultats, reste une technique très coûteuse car elle a une complexité cubique dans la taille de la base, ce qui rend impossible son application pour plus d'une itération. des pistes pour limiter ce coût computationnel sont la recherche d'une heuristique efficace pour élaguer ce vaste espace de recherche, ou encore de réduire fortement le coût de l'opération unitaire de la génération : la résolution d'équations analogiques.