Modélisation des processus d’acquisition syntaxique par jeux de langage entre agents artificiels (Modeling Syntactic Acquisition by Language Games between Artificial Agents ) (2018)

Abstract: Dans cet article, nous présentons une modélisation de la situation d’acquisition de la syntaxe de sa langue maternelle par un enfant inspirée des “jeux de langages” de Luc Steels. Le modèle suppose que l’enfant a accès à une représentation sémantique des énoncés qui lui sont adressés, et qu’il doit réagir en désignant la tête syntaxique de ces énoncés. Nous décrivons des expériences exploitant des données du corpus CHILDES et mettant en jeu un processus d’acquisition simple mais efficace.

## introduction nous proposons dans cet article un modèle d'apprentissage automatique de la syntaxe d'une langue naturelle qui s'inspire de l'acquisition humaine. ce modèle s'appuie sur le paradigme des jeux de langage, qui visent à modéliser l'émergence de connaissances linguistiques dans une population de locuteurs artificiels. le cadre proposé ici fait intervenir non pas une population mais seulement deux locuteurs artificiels : un expert (ou adulte) et un apprenant (ou enfant) qui doit acquérir, au fil d'interactions avec l'expert, une compétence syntaxique. les composantes phonétique et lexicale de l'apprentissage de la langue sont considérées comme déjà acquises 1 et n'entreront pas en ligne de compte. la sémantique joue en revanche un rôle fondamental. notre modèle s'appuie sur des capacités sémantiques conçues comme un prérequis nécessaire à l'acquisition syntaxique. la section suivante définit le paradigme des jeux de langage dans lequel se place notre modèle. nous détaillerons ensuite le protocole expérimental mis en place : le corpus utilisé, le déroulement du jeu de langage défini, les méthodes de parsing et d'apprentissage automatique mis en oeuvre. enfin, les résultats des premières expériences menées seront analysés et évalués. ## jeux de langage une approche originale de l'acquisition de connaissances linguistiques a été proposée par le paradigme des jeux de langage @xcite . ce paradigme, au sein de la linguistique dite évolutionnaire @xcite , tente de rendre compte des processus pouvant mener à l'émergence et à l'évolution des langues naturelles, en proposant des expérimentations logicielles et robotiques. puisqu'il est difficile d'observer empiriquement l'émergence d'une nouvelle langue, les chercheurs utilisant les jeux de langage suggèrent de recréer artificiellement les conditions d'émergence d'un système linguistique : une communauté de locuteurs potentiels, un objectif communicatif et des sens à exprimer. à partir de ces éléments, ils proposent des mécanismes pouvant mener à l'émergence d'un lexique commun. l'intérêt majeur du paradigme des jeux de langage est de trouver un équilibre entre la simplicité de la modélisation et la complexité de l'interaction langagière située @xcite . ce paradigme repose sur la simulation d'interactions langagières simplifiées entre binômes de locuteurs artificiels (robotiques ou logiciels), qui tentent de s'exprimer (et de se comprendre) à propos d'un contexte d'objets (réels ou également artificiels). on peut comparer une simulation de ce type à l'émergence d'un protolangage @xcite ) dans une population humaine, qui correspond à un stade présyntaxique de la langue où s'établit une correspondance entre des unités lexicales et des unités sémantiques. ce type d'émergence et d'évolution au sein d'un groupe est à mettre en parallèle avec l'acquisition de la langue par l'enfant, qui connaît également ce stade pré-syntaxique. le paradigme des jeux de langage s'est surtout focalisé jusqu'à présent sur l'acquisition de connaissances lexicales. plus récemment @xcite , il a été étendu à des jeux de langage syntaxiques. il s'agit alors, à partir d'une simulation, de faire émerger une grammaire commune chez une population d'agents disposant déjà de capacités lexicales et d'une représentation sémantique du monde. cette grammaire émerge, là encore, grâce à une succession d'interactions des locuteurs s'exprimant à propos de leur monde. la grammaire se construit peu à peu par la réalisation de jeux de langage consistant en la production et l'interprétation d'énoncés référant à des objets ou des événements du monde simulé. on trouve dans ce paradigme l'essentiel des paramètres que nous voulons réaliser dans notre propre modélisation : un modèle évolutif basé sur l'interaction, l'utilisation d'exemples positifs de la langue à acquérir et la composante sémantique nécessaire à l'acquisition d'une grammaire. mais notre modèle se distingue de celui de steels par le formalisme syntaxico-sémantique utilisé et le nombre d'agents intervenant dans l'interaction : une population chez steels, une simple paire "expert/apprenant" pour nous. notre modélisation cherche en effet à simuler l'acquisition individuelle de la langue par un enfant et non l'émergence d'une langue nouvelle dans un groupe. ## résultats et analyses 4.1 mesure de réussite communicative la mesure de réussite communicative est propre aux jeux de langage. elle se calcule en divisant le nombre de fois où le jeu est un succès par le nombre total de jeux effectués (on obtient donc un score compris entre 0 et 1). cependant, la réussite communicative gage que l'apprenant a trouvé la racine de la phrase, mais pas que le graphe de dépendance qu'il a construit pour y parvenir est correct. pour nos expériences, chaque séquence de jeux de langage est effectuée dix fois. la valeur optimale trouvée pour k est 5. on donne en figure 4 les courbes moyenne, maximale et minimale de l'évolution de la réussite communicative. deux séries d'expériences sont ici présentées : dans l'une, le corpus d'entrées est trié par âge de l'enfant destinataire ; dans l'autre, il est trié par longueur des phrases. le tri des phrases par âge de l'enfant destinataire permet une modélisation plus réaliste. le discours des parents étant dans une certaine mesure adapté à l'âge de l'enfant destinataire, les phrases ont donc une complexité croissante, mais cette difficulté est relative plus au lexique qu'à la syntaxe. d'un point de vue formel, le lexique n'étant pas l'objet de l'apprentissage, cette évolution de la difficulté n'a donc pas d'impact sur l'apprentissage du classifieur. trier le corpus par longueur de phrases, de manière certes artificielle du point de vue de la modélisation, permet néanmoins de donner un critère formel qui introduit une difficulté croissante dans l'apprentissage du classifieur, et améliore ses résultats. lorsque le corpus est trié par âge de l'enfant destinataire, la courbe de réussite croît jusqu'à se stabiliser au-dessus de 0.6 en moyenne. les résultats obtenus sont meilleurs lorsque les phrases de l'expert sont triées par longueur. on observe une augmentation du taux de réussite jusqu'à un palier (0.85 environ), malgré une difficulté croissante. en fin d'expérience, la difficulté des jeux provoque une légère baisse du taux de réussite. le critère de longueur des phrases est plus formel et engendre une difficulté croissante dans l'expérience qui favorise l'apprentissage. nous donnons pour comparaison en figure 5 les résultats obtenus pour la mesure de réussite communicative dans une baseline où les informations sémantiques relatives aux paires de tokens ne sont pas prises en compte dans leur représentation vectorielle. lorsque le corpus est trié par âge de l'enfant destinataire, la réussite stagne rapidement autour de 0.45. les résultats sont encore une fois meilleurs lorsque le corpus est trié par longueur des énoncés. mais lorsqu'on ne tient pas compte des informations sémantiques, il faut plus de temps à l'apprenant pour atteindre son palier maximal, celui-ci est moins élevé, et l'augmentation de la longueur des énoncés fait décroître la réussite de manière significative. l'information sémantique sémantique facilite donc l'apprentissage et rend le système plus robuste à l'augmentation de la taille des énoncés. pour comparaison également est donnée en figure 6 l'évolution de la réussite communicative pour une baseline où la classification est faite au hasard. figure 5 -évolution de la proportion de jeux réussis en fonction du nombre d'interactions, avec une baseline sans informations sémantiques. à gauche, les énoncés sont triés par ordre croissant d'âge de l'enfant cible ; à droite, par longueur figure 6 -évolution de la proportion de jeux réussis en fonction du nombre d'interactions, avec une baseline où la classification est faite au hasard. à gauche, les énoncés sont triés par ordre croissant d'âge de l'enfant cible ; à droite, par longueur ## conclusion et perspectives nous avons présenté un modèle d'apprentissage automatique de la syntaxe qui s'inspire de l'acquisition d'une langue naturelle par les enfants, et qui permet l'apprentissage d'un parser sans corpus arboré, mais avec seulement une représentation sémantique des phrases. les résultats de ce modèle sont satisfaisants, mais peuvent être améliorés notamment par l'utilisation d'autres types de classifieurs (il est prévu d'implémenter un modèle utilisant des réseaux de neurones). il doit pouvoir s'adapter à d'autres langues, ce qu'il faudra également tester.