Combiner des modèles sémantiques distributionnels pour mieux détecter les termes évoquant le même cadre sémantique (Combining distributional semantic models to improve the identification of terms that evoke the same semantic frame) (2016)

Abstract: Nous utilisons des modèles sémantiques distributionnels pour détecter des termes qui évoquent le même cadre sémantique. Dans cet article, nous vérifions si une combinaison de différents modèles permet d’obtenir une précision plus élevée qu’un modèle unique. Nous mettons à l’épreuve plusieurs méthodes simples pour combiner les mesures de similarité calculées à partir de chaque modèle. Les résultats indiquent qu’on obtient systématiquement une augmentation de la précision par rapport au meilleur modèle unique en combinant des modèles différents.

## introduction dans le cadre d'un projet visant à décrire le vocabulaire du domaine de l'environnement au moyen de la sémantique des cadres @xcite , nous utilisons des modèles sémantiques distributionnels afin d'identifier, pour un terme ou un ensemble de termes donnés, des termes évoquant le même cadre sémantique. les termes qui évoquent le même cadre sémantique participent entre eux à diverses relations lexicales, notamment la (quasi-)synonymie et la dérivation syntaxique, c'est-à-dire la relation entre deux unités lexicales ayant le même sens, mais appartenant à des parties du discours différentes @xcite . une évaluation systématique de modèles produits au moyen de l'analyse distributionnelle et de l'outil word2vec @xcite a montré que le choix et la paramétrisation du modèle dépendent des relations lexicales ciblées @xcite ; une différence particulièrement importante a été constatée entre la dérivation et d'autres relations paradigmatiques telles que la synonymie. puisqu'on doit modéliser à la fois la synonymie et la dérivation pour bien détecter les termes évoquant le même cadre sémantique, les différences importantes entre les modèles distributionnels qui captent le mieux ces deux types de relations lexicales limitent éventuellement leur capacité à modéliser l'appartenance au même cadre sémantique. dans cet article, nous faisons l'hypothèse qu'on peut combiner différents modèles sémantiques distributionnels pour mieux modéliser l'appartenance au même cadre sémantique. plus précisément, étant donné un ensemble de modèles qui détectent relativement bien cette propriété, nous supposons que les mesures de similarité qu'on obtient à partir de ces modèles sont élevées à la fois pour les quasi-synonymes et les dérivés, mais que les différents modèles représentent différents compromis entre ces deux types de relations, et qu'on peut obtenir une sorte de consensus à partir de ces différents compromis en combinant les mesures de similarité. ## ressources nous utilisons dans l'expérience décrite ci-dessous le corpus français panacea du domaine de l'environnement 1 (elra-w0065). ce corpus, compilé automatiquement @xcite , est constitué de pages web totalisant environ 50 millions de mots. le prétraitement appliqué à ce corpus comprend l'extraction du texte des documents xml (contenant plus de 50 mots), la normalisation des caractères, la lemmatisation au moyen de treetagger @xcite et la mise en minuscules ; la lemmatisation a été appliquée parce qu'elle offre parfois une légère amélioration des résultats de l'approche distributionnelle @xcite . dans le cadre de cet article, nous évaluons les modèles distributionnels au moyen de trois jeux de données de référence extraites de dictionnaires spécialisés du domaine de l'environnement 2 : ## travaux reliés cette étude est reliée aux travaux visant l'identification automatique de cadres sémantiques ou de représentations sembables à ces derniers @xcite . par contre, notre objectif n'est pas d'acquérir des cadres sémantiques complets, mais plutôt d'assister l'identification de termes évoquant le même cadre (ou des cadres reliés). il est donc plus proche à cet égard de travaux comme celui @xcite , qui vise à augmenter la couverture de framenet @xcite en ajoutant des unités lexicales aux cadres sémantiques encodés dans cette ressource ; les auteurs exploitent d'ailleurs une combinaison de deux mesures de similarité à cette fin, à savoir une mesure de similarité distributionnelle et une mesure basée sur wordnet @xcite . sur le plan de la méthodologie, cette étude est reliée aux travaux exploitant des mélanges de modèles distributionnels. par exemple, curran (2002) combine des modèles basés sur différents types de contextes distributionnels au moyen de trois méthodes différentes (la similarité moyenne et deux méthodes basées sur les rangs de similarité plutôt que les mesures de similarité elles-mêmes) et montre que ces méthodes produisent des thésaurus distributionnels de meilleure qualité que les modèles individuels ; il obtient d'ailleurs de meilleurs résultats en combinant tous les modèles évalués plutôt que les trois meilleurs, ce qui suggère que nous devrions tenter de combiner plus de deux modèles. la complémentarité de différents types de contextes distributionnels a également été observée par agirre et al. (2009, p. 25). par ailleurs, ferret (2015) fusionne un thésaurus distributionnel initial et des thésaurus produits au moyen de différentes techniques de réordonnancement ; il compare différentes méthodes de fusion et observe qu'elles permettent toutes d'améliorer la qualité des thésaurus. ce travail est également relié aux travaux comparant l'ad et les modèles de langue neuronaux implémentés dans l'outil word2vec (baroni et al., 2014; levy et al., 2015), mais nous ne connaissons aucun travail comparant la capacité de ces deux types de modèles distributionnels à capter des relations lexicales spécifiques, à l'exception de la synoymie. par ailleurs, soulignons que la possibilité de combiner l'ad et word2vec a été évoquée par baroni et al. (2014, p. 245) : « it remains to be seen whether the two types of models are complementary in the errors they make, in which case combined models could be an interesting avenue for further work. » en outre, schwartz et al. (2015) ont montré qu'on peut améliorer la qualité des résultats produits par un modèle distributionnel basé sur les patrons lexico-syntaxiques en le combinant avec un modèle produit au moyen de word2vec. 6 conclusion dans le cadre d'une démarche lexicographique outillée reposant sur l'exploitation de modèles sémantiques distributionnels, nous avons cherché à déterminer si la combinaison de différents modèles permet de mieux modéliser l'appartenance au même cadre sémantique. nous avons montré qu'on peut effectivement mieux détecter les termes qui évoquent le même cadre en combinant des mesures de similarité calculées à partir de deux modèles distributionnels différents, au moyen de fonctions simples telles que la moyenne ou le produit des similarités. nous constatons systématiquement une augmentation de la précision par rapport au meilleur modèle unique en combinant des modèles produits au moyen de techniques distributionnelles différentes (l'analyse distributionnelle et un modèle neuronal), alors que la combinaison de modèles similaires n'a pas un effet favorable. une évaluation qualitative des voisinages nous permettrait éventuellement de caractériser ce que les combinaisons de modèles captent mieux que les modèles individuels et de mieux apprécier l'importance de l'amélioration observée dans le cadre de l'application envisagée. nous supposons que les gains observés sont liés au fait que les modèles distributionnels qui captent relativement bien l'appartenance au même cadre sémantique doivent faire un compromis entre la modélisation de la dérivation syntaxique et d'autres relations paradigmatiques telles que la synonymie. ainsi, en combinant des modèles qui font des compromis différents pour obtenir une précision relativement élevée sur cette tâche, on arrive à augmenter cette précision davantage. il serait intéressant de vérifier si on peut obtenir une amélioration plus importante en utilisant d'autres méthodes pour combiner les modèles, en combinant plus de deux modèles ou en exploitant différents types de contextes distributionnels.