Compilation de grammaire de propriétés pour l’analyse syntaxique par optimisation de contraintes (Compilation of a Property Grammar for Syntactic Parsing through Constraint Optimisation) (2016)

Abstract: Cet article présente un processus de compilation d’une grammaire de propriétés en une contrainte en extension. Le processus s’insère dans le cadre d’un analyseur syntaxique robuste par résolution d’un problème d’optimisation de contraintes. La grammaire compilée est une énumération de tous les constituants immédiats uniques de l’espace de recherche. L’intérêt de ce travail encore préliminaire tient principalement dans l’exploration d’une modélisation computationnelle de la langue à base de Syntaxe par Modèles (MTS, Model-Theoretic Syntax), qui intègre la représentation indifférenciée des énoncés canoniques et non-canoniques. L’objectif plus particulier du travail présenté ici est d’explorer la possibilité de construire l’ensemble des structures candidat-modèles à partir de l’ensemble des structures syntagmatiques observées sur corpus. Cet article discute notamment le potentiel en matière d’intégration de prédictions probabilistes dans un raisonnement exact pour contribuer à la discrimination entre analyses grammaticales et agrammaticales.

## problématique et objet d'étude le problème général auquel nous nous intéressons, et dont les travaux présentés ici constituent une des étapes, est l'analyse syntaxique robuste de langage tout-venant. par langage tout-venant nous entendons couvrir à la fois le langage canonique, qui satisfait parfaitement aux règles de grammaire établies, et le langage non-canonique, qui viole certaines règles de grammaire mais reste néanmoins partiellement grammatical à travers le respect d'un sous-ensemble non-nul de règles. comme le discutent notamment @xcite , sur un plan linguistique certaines de ces violations ne constituent pas nécessairement des erreurs à proprement parler, mais peuvent par exemple concerner différents phénomènes observables comme des énoncés incomplets ("tu m'avais dit que ..."), des néologismes, des emprunts aux langues étrangères, etc. plus largement encore, les phénomènes qui nous intéressent incluent les erreurs de génération automatique, de transcription de l'oral, le style télégraphique, etc. notons que par abus de langage il nous arrivera, par référence à l'usage commun, de parler d'énoncé agrammatical en lieu et place d'un énoncé non-canonique, en dépit du fait qu'il puisse être partiellement grammatical. ce faisant, nous souhaitons également pouvoir distinguer sans ambiguïté les énoncés canoniques de ceux non-canoniques. nous souhaitons donc pouvoir décrire la structure syntaxique d'un énoncé quelconque, soit par une structure exacte dans le cas d'un énoncé canonique, soit par une structure approchée dans le cas d'un énoncé non-canonique. ce point revêt une importance particulière pour ce qu'il exclut les approches strictement probabilistes. un problème central aux approches par modèles et à leur implantation est la surgénération des structures candidates, qui constituent l'espace de recherche d'une structure modèle τ : s. dans notre cas ce problème est amplifié par la notion de langage que nous adoptons, étendue aux énoncés non-canoniques. cet article se concentre sur un élément particulier de la stratégie d'analyse que nous implantons, la compilation de la grammaire, qui s'attaque au problème de surgénération tout en permettant un changement d'échelle par rapport à l'implantation @xcite . bien que cette compilation ne règle pas entièrement le problème, elle permet néanmoins d'envisager d'autres pistes d'amélioration que nous discutons plus loin, notamment en matière de choix heuristique de filtrage des solutions sur la base de prédictions probabilistes. analyse syntaxique et résolution par contraintes les travaux de @xcite montrent que l'analyse syntaxique peut être modélisée comme un problème de résolution de contraintes (csp), et implantent un analyseur pour un domaine d'arbres en dépendances. ces travaux définissent les grammaires de dépendance par contraintes (cdg, constraint dependency grammar). l'implantation des cdg au moyen de csp a été largement développée pour le traitement de la parole @xcite . les cdg ont également été étendues notamment par @xcite l'analyse en structure syntagmatique a également fait l'objet de modélisations et implantations en csp, parmi lesquelles certaines ne permettent cependant pas une analyse robuste @xcite @xcite . les travaux @xcite (ci-après ddpl10), en revanche, offre en théorie cette propriété de robustesse, mais l'implantation connue à ce jour n'offre pas les performances suffisantes pour envisager des expérimentations à échelle réaliste. ils constituent cependant une approche originale dont s'inspire largement l'implantation à laquelle il est fait référence ici. la compilation de la grammaire que nous proposons doit permettre d'envisager un changement d'échelle par rapport aux travaux de ddpl10. contrairement aux grammaires génératives, une grammaire mts ne spécifie aucune règle de dérivation. par conséquent, lors de la modélisation du processus d'analyse en csp il convient : le score de chaque constituant résulte de l'évaluation de la grammaire gp pour ce constituant immédiat. plus précisément, il correspond à la proportion d'instances de propriétés violées i - g,τ parmi la somme des instances satisfaites et violées @xcite comme la proportion d'instances satisfaites. la phase dynamique du processus d'analyse cherche alors une configuration de constituants immédiats (i.e. de règles cfg) qui optimise le score global en s'appuyant sur la sémantique nonclassique des gp proposée par @xcite , selon laquelle τ : l'intérêt prinicipal d'une telle compilation est d'éviter bon nombre de contraintes réifiées dans le csp final (la réification étant nécessaire pour implanter la sémantique des types de propriétés utilisés en gp). ce faisant, elle permet également d'exclure du csp final l'évaluation de la grammaire gp pour chaque constituant, et donc de gagner en temps d'exécution. taille de l'espace de recherche et surgénération des structures candidat-modèles la surgénération des structures candidates est un problème crucial des approches à base de résolution de contraintes. nous proposons ici de contrôler en partie cette surgénération en distinguant plusieurs types de constituants immédiats : la classe d'arbres à laquelle nous nous intéressons est la même que celle @xcite . on note n 0 pour n\{0} ; un domaine d'arbres d est un sous-ensemble fini de n * 0 , fermé pour les préfixes et les fils gauches. soient également s * un lexique, vu comme un ensemble de mots de la langue, et l un ensemble fini d'étiquettes représentant des catégories syntagmatiques. un arbre syntaxique τ = (d τ , l τ , r τ ) consiste en un domaine d'arbres, une fonction d'étiquetage l τ : d τ → l qui associe une étiquette à chaque noeud, et une fonction r τ : d τ → s * qui à chaque noeud associe sa réalisation de surface. par abus de langage on appelle empan d'un constituant immédiat le nombre de ses fils, c'est-à-dire la cardinalité de l'ensemble des catégories présentes en partie droite de la règle correspondante -l'abus tenant au fait que le terme fait habituellement référence à la réalisation de surface d'un constituant, ce qui n'est pas le cas ici. par extension, on parlera d'empan du noeud en partie gauche de la règle. étant donné k une valeur d'empan maximum, l'ensemble théorique de toutes les règles cfg possibles est l'ensemble r @xmath0. . . ∪ l k . la table de grammaire est alors l'ensemble t ⊆ r k tel que ∀τ ∈ t, i 0 g,τ = ∅. on peut poser que r k k+1 @xmath1, où l i est la puissance cartésienne i-ème de l. avec @xmath2, on a alors un nombre de règles théoriques r @xmath3. à noter que strictement parlant la taille d'empan maximum ne peut pas être connue a priori, puisqu'elle dépend de la phrase analysée. notre modélisation nécessitant que cette valeur soit fixée, elle constitue un paramètre qu'il conviendra de calibrer expérimentalement. bien que la distinction entre constituants grammaticaux observés et constituants grammaticaux théoriques permette de limiter la surgénération, elle n'est, en pratique, pas suffisante, les grammaires de corpus étant généralement beaucoup trop permissives (au sens où une même catégorie de syntagme peut correspondre à un très grand nombre de constituants immédiats différents, ce qui réduit considérablement les possibilités de généralisation). une possibilité de filtrage supplémentaire sera discutée ultérieurement, qui intègre dans le coût d'un constituant un facteur significatif de la fréquence d'occurrence de ce constituant observée sur corpus. afin de réduire l'espace de recherche, nous avons vu que seules les règles observées ont un score nul. les règles non-observées dont le score théorique serait nul se voient affecter un score @xmath4, lors de la résolution du problème (sous forme d'un problème d'optimisation sous contraintes, appelé cop, cette fois-ci), de toujours donner la priorité aux règles observées. l'attribution d'une valeur à ce score arbitraire fait l'object d'un calibrage expérimental. par souci de cohérence les constituants théoriques sont caractérisés à l'aide d'une grammaire gp dérivée du même corpus que celui des constituants observés. le processus de dérivation, décrit dans (prost, 2014), s'appuie lui-même sur la grammaire cfg extraite du corpus. dans le cas du corpus sequoia @xcite , la cfg extraite de la partition développement est composée d'environ 1400 règles, qui sont dérivées en environ 1400 propriétés de gp, pour un alphabet de 39 catégories morpho-syntaxiques. les règles extraites ont des tailles d'empan allant jusqu'à 14. à titre de comparaison, ddpl10 utilise une grammaire-jouet de 19 propriétés pour 6 catégories. ## conclusion le travail que nous avons préenté s'intègre dans un projet plus large de dévelopement d'un analyseur syntaxique robuste pour le langage tout-venant par résolution d'un problème d'optimisation de contraintes. plus précisément, nous avons présenté un processus de compilation d'une grammaire par modèles en constituants qui résulte en une contrainte de table. cette table explicite la liste exhaustive des constituants immédiats (ou règles cfg) valués pouvant être combinés lors du processus d'analyse syntaxique, dont l'objet est la construction d'une structure d'arbre syntaxique pour une phrase donnée. cette grammaire compilée est donc destinée à être utilisée en conjonction avec une modélisation en problème d'optimisation de contraintes (cop) de l'analyse syntaxique en constituants. lors de la résolution du cop l'utilisation d'une grammaire compilée doit permettre un changement d'échelle par rapport aux travaux comparables @xcite , en ceci qu'elle permet un meilleur contrôle du nombre de contraintes impliquées, et une suppression des contraintes réifiées nécessaires chez duchier et al. à la représentation de la grammaire. la compilation fait appel à une grammaire de propriétés pour évaluer un score exact de grammaticalité pour chaque règle d'une grammaire hors contexte de corpus. chaque score est alors transformé en un coût de satisfaction pris en compte lors du processus d'optimisation. ces travaux, bien que préliminaires, doivent permettre d'explorer de nouvelles pistes en matière de représentation des connaissances pour les langues naturelles, qui rendent compte à la fois des propriétés syntaxiques des énoncés canoniques et non-canoniques. une telle représentation doit permettre également d'explorer les possibilités computationnelles en matière de jugement exact de grammaticalité pour une analyse, et en matière de discrimination entre solutions exactes, donc grammaticales, et solutions optimales, donc agrammaticales.