Représentation vectorielle de sens pour la désambiguïsation lexicale à base de connaissances (Sense Embeddings in Knowledge-Based Word Sense Disambiguation) (2017)

Abstract: Dans cet article, nous proposons une nouvelle méthode pour représenter sous forme vectorielle les sens d’un dictionnaire. Nous utilisons les termes employés dans leur définition en les projetant dans un espace vectoriel, puis en additionnant les vecteurs résultants, avec des pondérations dépendantes de leur partie du discours et de leur fréquence. Le vecteur de sens résultant est alors utilisé pour trouver des sens reliés, permettant de créer un réseau lexical de manière automatique. Le réseau obtenu est ensuite évalué par rapport au réseau lexical de WordNet, construit manuellement. Pour cela nous comparons l’impact des différents réseaux sur un système de désambiguïsation lexicale basé sur la mesure de Lesk. L’avantage de notre méthode est qu’elle peut être appliquée à n’importe quelle langue ne possédant pas un réseau lexical comme celui de WordNet. Les résultats montrent que notre réseau automatiquement généré permet d’améliorer le score du système de base, atteignant quasiment la qualité du réseau de WordNet.

## introduction dans le traitement automatique des langues (tal), la désambiguïsation lexicale (dl) consiste à attribuer le sens le plus probable à un mot donné dans un document, à partir d'un inventaire prédéfini de sens. les méthodes état de l'art sont souvent basées sur des approches supervisées, comme l'évoque @xcite , où les modèles sont appris sur de grands corpus de mots annotés. les modèles appris sont alors utilisés pour annoter les mots avec un sens dans un contexte donné. a contrario, les méthodes non supervisées ont l'avantage de nécessiter beaucoup moins de ressources pour fonctionner : elles n'utilisent pas de corpus préalablement annoté pour l'apprentissage. il en découle en général une meilleure couverture sur les données de test, car elles sont moins tributaires des sens observés lors de l'apprentissage. un autre avantage des méthodes non supervisées est qu'elles sont beaucoup plus généralisables et ne sont pas limitées à des langues très dotées telles que l'anglais. cet aspect est important à relever, car l'annotation de corpus en sens est extrêmement lourde : peu de langues disposent de ce type de ressource. 1 pour ces raisons, nos travaux s'articulent autour des méthodes non supervisées et présentent une approche originale améliorant les performances existantes, basée sur des vecteurs de sens. les méthodes récentes et état de l'art de représentation vectorielle de mots, telles que @xcite al. (2013) (word2vec dans cet article nous présentons une méthode de représentation vectorielle pour des sens : où des vecteurs vont représenter les sens présents dans la base lexicale princeton wordnet @xcite . la méthodologie utilisée pour créer ces vecteurs est décrite dans la section 2. ces vecteurs de sens sont ensuite évalués en comparant leurs performances en tant que réseau lexical appliqué à un système de dl à base de connaissances dans la section 3.1. ces vecteurs de sens sont utilisés pour étendre les définitions des sens présents dans wordnet en concaténant les définitions des sens proches, d'une manière similaire au lesk étendu @xcite , sauf qu'au lieu de considérer que deux sens sont proches car ils partagent une relation syntaxique ou sémantique dans le réseau wordnet, nous considérons que deux sens sont proches en fonction de leur similarité cosinus. dans la partie relative aux expérimentations nous explorons comment exploiter au mieux cette similarité. ## création de vecteurs de sens notre modèle pour représenter sous forme vectorielle les sens d'un dictionnaire repose sur leur définition, ainsi qu'un modèle pré-existant de vecteurs de mots. dans la pratique, la méthode est relativement similaire à celle présentée par @xcite qui crée des vecteurs de phrases pour la détection de plagiat inter-lingue. nos vecteurs de sens sont calculés comme la somme normée de tous les vecteurs des termes présents dans la définition du sens donné. ces vecteurs sont pondérés en fonction de leur partie du discours (part of speech, ou pos) : nom, verbe, adjectif ou adverbe, et également pondérés par leur inverse document frequency (ou idf) : l'inverse de leur nombre d'occurrence dans le dictionnaire entier. plus formellement nous avons : nous avons créé cinq modèles de vecteurs de sens, tous basés sur le vocabulaire et les définitions de wordnet 3.0, mais exploitant des modèles de vecteurs de mots différents. les cinq modèles utilisés sont :