Inbenta Semantic Clustering : un outil de classification non-supervisée hybride (Inbenta Semantic Clustering : a hybrid unsupervised classification tool) (2016)

Abstract: Inbenta développe un outil de classification non-supervisée hybride qui allie à la fois les statistiques et la puissance de notre lexique inspiré de la Théorie Sens-Texte. Nous présenterons ici le contexte qui a amené à la nécessité de développer un tel outil. Après un rapide état de l’art sur la classification non-supervisée en TAL, nous décrirons le fonctionnement de notre clustering sémantique.

## fonctionnement de l'inbenta semantic clustering (isc) l'objectif de l'isc est de détecter de nouvelles thématiques de requêtes. nous n'avons donc pas de classes prédéfinies, ce qui nous place dans le cadre d'une classification non supervisée. la tâche de détection de thématiques nécessite de mesurer la similarité sémantique des requêtes. or, nous possédons une ressource lexicale construite spécialement pour le moteur de recherche dont les requêtes à classer sont issues. c'est pourquoi nous avons naturellement décidé d'exploiter cette ressource pour mesurer la similarité sémantique des requêtes. la ressource est notre lexique construit pour faire de l'expansion de requête dans le cadre d'un moteur de recherche sémantique. il s'inspire de la théorie sens-texte (melcuk, 1995) dans la mesure où il décrit les termes par les relations sémantiques (fonctions lexicales) qu'ils entretiennent. la théorie sens-texte (tst) propose un modèle du langage dit « traductif » qui permet de mettre en correspondance des représentations sémantiques avec toutes les représentations phoniques qui peuvent les exprimer dans une langue donnée. il s'agit donc d'un modèle reposant sur le paraphrasage. les relations sémantiques entre termes sont matérialisées par des fonctions lexicales : « la vocation des fonctions lexicales est de fournir au locuteur la totalité des moyens lexicaux nécessaires à l'expression la plus riche, la plus variée et la plus complète de la pensée et, en même temps, de garantir le choix le plus précis de la formulation appropriée. en d'autres termes, les fl […] alimentent un système puissant de paraphrasage, qui est à la fois une raison d'être des fl et un outil fondamental de leur vérification.» (mel'čuk, 1995) notre lexique vise la description limitée du domaine de la banque et de l'assurance, dans la limite des mots effectivement employés dans nos projets afin d'éviter de générer des ambiguïtés qui n'ont pas lieu d'être au sein d'un domaine spécifique. voici comment il s'insère dans la chaîne de traitement du clustering sémantique: figure 2 : schéma de fonctionnement de l'isc tout d'abord, nous normalisons les requêtes (questions utilisateurs) via notre correcteur orthographique. ensuite nous lemmatisons les termes en cherchant le lemme correspondant au mot dans le lexique, nous recourons à des règles morphosyntaxiques de désambiguïsation. ainsi, nous décrivons chaque requête à classer par un vecteur de lemmes : les lemmes effectivement présents dans la requête ainsi que les lemmes sémantiquement reliés (ie. présents dans les fonctions lexicales). il s'agit donc d'une forme d'expansion sémantique des requêtes. les lemmes sont pondérés en fonction des poids qui leurs sont attribués dans notre lexique sur la base de leur catégorie grammaticale (les déterminants, par exemple, ont un poids nul) et de leur importance sur le site. sur maaf.fr, le lemme « maaf » aura un poids faible car l'évocation de maaf sur son propre site est beaucoup moins chargée de sens que sur un site concurrent. les lemmes « étendus » sont pondérés en fonction de leur proximité avec les lemmes effectivement présents. en effet, nous avons préalablement défini dans le lexique un poids de proximité par type de relation. par exemple, le participe passé associé à un verbe a un poids de proximité de 0,9/1 par rapport au verbe. nous choisissons ensuite quelles catégories de lemmes nous prenons en compte (catégories grammaticales et poids sémantiques) ainsi que les relations conservées pour l'expansion. a ce stade, nous calculons l'affinité entre chaque couple de questions étendues. nous pouvons alors choisir une configuration statistique pour le clustering : nombre de clusters, nombre de candidats centroïdes utilisés, nombre d'itérations. les centroïdes sont les centres de gravité des clusters, ce sont les points les plus centraux, à partir desquels les éléments sont rassemblés. ensuite, nous lançons l'algorithme k-medoïdes, moins sensible que k-means aux points aberrants @xcite , qui effectue un partitionnement des requêtes en k clusters (k étant défini au préalable). pour cela, il effectue plusieurs itérations qui tentent de minimiser la distance entre les éléments de la partition. nous avons choisi cet algorithme car il est simple à mettre en oeuvre. nous l'avons testé en concurrence avec l'algorithme « affinity propagation » qui présentait l'avantage de ne pas devoir définir préalablement le nombre de partitions. contrairement au k-medoïdes, qui considère tour à tour plusieurs éléments comme candidats centroïdes, affinity propagation « considère simultanément l'ensemble des points comme des centroïdes, qui vont eux-mêmes échanger des messages pour déterminer lesquels sont les meilleurs candidats. » @xcite . etant donné que le k-medoïdes obtenait de meilleures performances, nous avons décidé de nous concentrer sur ce dernier. nous obtenons en sortie des groupes de requêtes sémantiquement proches. les différents clusters sont hiérarchisés par combinaison du score d'affinité moyen et de la représentativité du cluster au sein du corpus. ainsi, sont présentés en premier les clusters les plus fiables et qui rassemblent les plus grandes parties du corpus. ceci permet de reléguer en dernière position les grands clusters dont les éléments sont plutôt éloignés, de même que les clusters contenant peu d'éléments mais qui sont très proches les uns des autres. nous utilisons actuellement les centroïdes comme titres des clusters. figure 3 : tri des clusters au sein d'un cluster, les requêtes sont triées par affinité décroissante avec le centroïde. ceci nous permet de voir les requêtes les plus proches en premier lieu et également de repérer à partir de quel seuil d'affinité la qualité du cluster se dégrade. figure 4 : tri des requêtes au sein d'un cluster 4 conclusions et perspectives notre outil de clustering sémantique est toujours en cours de développement. nous en sommes à l'étape de consolidation du prototype. plusieurs points sont à améliorer comme par exemple la lisibilité des titres de cluster. en effet, ceux-ci ne sont autres que les éléments du corpus d'entrée choisis comme centroïdes de chaque cluster. il s'agit donc des données brutes laissées par les utilisateurs et celles-ci peuvent contenir des erreurs de syntaxe ou d'orthographe. une de nos évolutions est donc de standardiser ces centroïdes. une autre des perspectives à mettre en place est la configuration des paramètres linguistiques et statiques évoqués plus haut. en effet, ces paramètres seront différents selon la taille du corpus. nous sommes actuellement en cours d'évaluation de l'outil afin de déterminer les paramètres optimums. cette évaluation est également un gros travail qu'il nous reste à effectuer. cependant, nous avons constaté lors de notre état de l'art que l'évaluation d'un clustering textuel non-supervisé n'est pas chose aisée. en l'absence de classification de référence, nous devons nous « tourner vers l'exploitation d'indices de qualité utilisables en mode non supervisé. un état de l'art du domaine permet de recenser des indices basés sur des calculs de distance (...) [des] expérimentations ont cependant montré qu'aucun de ces indices ne permettait d'estimer correctement la qualité d'un résultat de clustering sur des données textuelles. ceux-ci ne permettent notamment pas de discriminer entre des résultats de classification homogènes et des résultats hétérogènes. ils peuvent même présenter le défaut important de privilégier cette dernière famille de résultats » (cuxac et al. 2010)