Analyse des noms agentifs dans les espaces vectoriels distributionnels (Analysis of agent nouns in vector space models) (2018)

Abstract: Notre étude s’inscrit dans le cadre d’une thèse ayant pour but d’exploiter les modèles distributionnels pour décrire sémantiquement des classes de mots définies selon des critères morphologiques. Nous utilisons des indices morphologiques et formels fournis par une base lexicale pour cibler les noms agentifs déverbaux construits par suffixation en -eur. Nous montrons qu’il est possible de constituer un représentant prototypique de la classe sémantique des noms agentifs en -eur dans les modèles distributionnels. L’étude de ce représentant met en évidence que l’information sémantique véhiculée par le suffixe varie en fonction du corpus d’étude et du degré de lexicalisation des dérivés.

## introduction dans le cadre de notre thèse, nous nous intéressons à la confrontation des modèles distributionnels à des catégories sémantiques établies selon des critères linguistiques, et en particulier morphologiques (noms d'agent, noms d'action, etc.) : notre objectif est d'utiliser les espaces vectoriels pour explorer la sémantique de ces catégories. les outils distributionnels sont arrivés à maturité @xcite et sont plébiscités pour leurs performances dans diverses tâches linguistiques @xcite . mais les travaux se proposant de comparer sémantiquement des mots construits morphologiquement à l'aide d'outils d'analyse distributionnelle automatique sont à notre connaissance encore peu nombreux. des travaux se sont par exemple penchsés sur l'étude des dérivés masculins et féminins en allemand, et ont montré que le genre des dérivés a un impact sur la distance distributionnelle @xcite . d'autres travaux ont quant à eux cherché à comparer c atala 2018 des procédés de nominalisation concurrents en allemand et ont montré qu'ils étaient distincts sur le plan distributionnel @xcite . enfin, des travaux ont pour leur part exploité des indices distributionnels pour l'entraînement de classifieurs automatiques visant à distinguer les lectures événementielles des noms d'action polysémiques anglais en -ment @xcite . dans l'expérimentation que nous présentons plus spécifiquement dans cet article, nous nous intéressons aux noms agentifs déverbaux en -eur comme chanteur et détecteur, respectivement dérivés de chanter et détecter. nous utilisons une ressource morphologique dérivationnelle, lexeur, pour cibler ces déverbaux. nous accédons à l'information sémantique véhiculée par ces déverbaux dans les corpus, et nous évaluons l'influence de deux paramètres, le corpus et le degré de lexicalisation (ou au contraire de nouveauté) du mot dérivé, sur la représentation distributionnelle de cette classe sémantique. nous passons pour cela par une représentation prototypique que nous calculons à partir des membres de la classe sémantique. nous montrons que le représentant prototypique de la classe des noms déverbaux en -eur que nous construisons véhicule un sens agentif, dans une acception relativement large, qui varie en fonction du corpus choisi et du niveau de lexicalisation de la classe considérée. nous détaillons dans un premier temps le dispositif expérimental que nous utilisons dans le cadre de cette étude (section 2). nous présentons ensuite la démarche que nous avons suivie pour représenter sur le plan distributionnel la classe sémantique des agentifs déverbaux en -eur et les premières observations que l'on en tire, en nous penchant notamment sur la variation du premier paramètre que représentent les corpus (section 3). nous évaluons ensuite l'influence de la lexicalisation en reprenant l'expérimentation avec de nouveaux paramètres (section 4). enfin, nous discutons de ces résultats et nous évoquons les pistes de travail qu'ils ébauchent (section 5). ## dispositif expérimental nous faisons le choix d'utiliser conjointement un outil de sémantique distributionnelle, word2vec @xcite , et une ressource dérivationnelle, lexeur. l'utilisation de lexeur permet de croiser des connaissances expertes validées par des linguistes avec les représentations sémantiques fournies par word2vec. cette ressource nous permet en effet d'exploiter le critère morphologique comme indicateur de la classe sémantique, information absente de la représentation vectorielle, et de contrôler la nature des unités lexicales que nous considérons dans la première partie de notre expérimentation. ## représentation prototypique des noms agentifs en -eur le vecteur que nous construisons est abstrait car il agrège les informations des vecteurs qu'il moyenne. il n'est pas la représentation d'un mot instancié dans le corpus. la question de son interprétation et de l'accès au sens qu'il véhicule se pose. à ce stade de la thèse, nous faisons le choix de passer par l'analyse des voisins distributionnels de ce vecteur théorique pour appréhender l'information sémantique qu'il véhicule. nous favorisons une interprétation de nature qualitative, en nous limitant aux 50 premiers voisins. pour le suffixe -eur, le 50 voisins les plus proches du dérivé prototypique calculé pour chacun de nos corpus sont présentés dans le tableau 3. ## impact de la lexicalisation la ressource lexeur nous a été utile dans cette première étape pour garantir la validité des unités lexicales observées. à l'aune de sa couverture assez large, nous considérons dans la suite de cette étude que l'absence d'un nom agentif en -eur dans la ressource lexeur est un indice du caractère néologique de cet agentif. mais cette ressource a de fait l'inconvénient de limiter le vocabulaire c atala 2018 ## discussion lors de cette expérimentation, nous avons pu comparer sur le plan distributionnel des représentants de la classe sémantique des noms agentifs déverbaux en -eur, en évaluant l'impact du corpus et de leur niveau de lexicalisation. les résultats préliminaires sont encourageants puisque nous parvenons à capter la notion d'agentivité au travers d'un représentant prototypique. nous avons vu que cette représentation permettait d'accéder à certaines composantes du sens de la classe de mots observée, puisqu'elle intégrait l'information liée au genre dans le cas de l'analyse des noms agentifs féminins en -euse et -rice, et qu'elle permettait même d'accéder à des connaissances du monde liées à la connotation de ces noms agentifs féminins @xcite . nous avons par ailleurs constaté que les déverbaux suffixés en -eur ne constituent pas une classe sémantique homogène dans les modèles word2vec utilisés dans cette étude. on observe ainsi la présence de plusieurs catégories au sein de la classe des noms agentifs en -eur, à savoir les noms d'instruments et les noms d'agents, se c atala 2018 divisant elles-mêmes en sous-classes ayant des comportements distincts. enfin, nous avons travaillé sur des noms agentifs néologiques, et nous avons montré qu'ils étaient distributionnellement plus proches de leur base que ne le sont les noms agentifs lexicalisés dans les corpus wikipédia et lm10. nous avons cependant constaté que ce n'était pas le cas dans le corpus frwac, soulignant le caractère hétérogène de ce corpus mis en avant dans le reste de cette étude. cela nous invite à nous interroger sur l'utilisation de corpus de taille importante, mais peu contrôlés et donc potentiellement très bruités, pour faire de l'analyse linguistique fine. nous envisageons à ce titre de poursuivre notre travail sur l'anglais. les corpus y sont plus conséquents, et nous pourrions exploiter les informations sémantiques, morphologiques et formelles de certaines ressources à la couverture importante @xcite . outre la question du contrôle du corpus, une piste méthodologique ébauchée par cette étude concerne la démarche de sélection de noms agentifs en -eur néologiques. nous avons vu les limites de notre définition de la néologie, mais nous avons fait le choix de conserver toutes les paires que nous avions constituées du fait de leur nombre déjà relativement limité. cela nous invite néanmoins à reconsidérer nos critères de filtrage. un premier moyen serait de nous servir de la distribution pour évincer les paires atypiques, ou du moins appeler à leur vérification manuelle. un second moyen, complémentaire du premier, consisterait en une annotation morphosyntaxique des formes en corpus. cela permettrait de ne conserver que les paires dont les deux membres ont pour acception principale le lexème voulu (verbe ou nom commun), et d'évincer de potentiels anglicismes. la projection d'un lexique anglais permettrait également de filtrer les formes erronées. si nous avons pu vérifier la stabilité des observations à travers différents corpus, nous n'avons pas pris en compte d'autres paramètres liés au modèle. nous avons fait le choix d'utiliser dans cette étude le modèle par défaut fourni par word2vec, en l'état, sans chercher dans un premier temps à intervenir sur ses hyperparamètres, comme le nombre de dimensions ou l'architecture. nous souhaitons à ce stade de la thèse exploiter l'outil tel qu'il est dans le but d'orienter notre analyse linguistique. malgré une analyse corpus par corpus et non globalisante des représentations prototypiques, nous devrions dans l'idéal moyenner les distances de plusieurs représentations distributionnelles (antoniak & mimno, 2018), mais nous n'avons pas pu réaliser ces expérimentations par manque de temps. nous avons cependant reproduit la manipulation en fixant le nombre de dimensions des vecteurs à 300 sans que les résultats varient significativement. dans cette optique, nous envisageons de comparer les différentes techniques distributionelles, et avons entamé la reprise de l'expérimentation avec l'outil fasttext (bojanowski et al., 2016). nous avons par ailleurs fait le choix dans cette étude de baser nos observations sur les 50 premiers voisins des vecteurs construits, mais nous envisageons à terme d'analyser de façon plus systématique les voisins des vecteurs construits en observant la répartition et la densité des noms d'agent dans ce voisinage. références antoniak m. & mimno d. (2018). evaluating the stability of embedding-based word similarities. transactions of the association for computational linguistics, 6, 107-119. aronoff m. & lindsay m. (2014). productivity, blocking and lexicalization. the oxford handbook of derivational morphology, p. 67-83. bojanowski p., grave e., joulin a. & mikolov t. (2016). enriching word vectors with subword information. arxiv preprint arxiv :1607.04606. c atala 2018