Von Mises-Fisher based (co-)clustering for high-dimensional sparse data : application to text and collaborative filtering data. (Modèles de mélange de von Mises-Fisher pour la classification simple et croisée de données éparses de grande dimension)

La classification automatique, qui consiste a regrouper des objets similaires au sein de groupes, egalement appeles classes ou clusters, est sans aucun doute l’une des methodes d’apprentissage non-supervise les plus utiles dans le contexte du Big Data. En effet, avec l’expansion des volumes de donnees disponibles, notamment sur le web, la classification ne cesse de gagner en importance dans le domaine de la science des donnees pour la realisation de differentes tâches, telles que le resume automatique, la reduction de dimension, la visualisation, la detection d’anomalies, l’acceleration des moteurs de recherche, l’organisation d’enormes ensembles de donnees, etc. De nombreuses methodes de classification ont ete developpees a ce jour, ces dernieres sont cependant fortement mises en difficulte par les caracteristiques complexes des ensembles de donnees que l’on rencontre dans certains domaines d’actualite tel que le Filtrage Collaboratif (FC) et de la fouille de textes. Ces donnees, souvent representees sous forme de matrices, sont de tres grande dimension (des milliers de variables) et extremement creuses (ou sparses, avec plus de 95% de zeros). En plus d’etre de grande dimension et sparse, les donnees rencontrees dans les domaines mentionnes ci-dessus sont egalement de nature directionnelles. En effet, plusieurs etudes anterieures ont demontre empiriquement que les mesures directionnelles, telle que la similarite cosinus, sont superieurs a d’autres mesures, telle que la distance Euclidiennes, pour la classification des documents textuels ou pour mesurer les similitudes entre les utilisateurs/items dans le FC. Cela suggere que, dans un tel contexte, c’est la direction d’un vecteur de donnees (e.g., representant un document texte) qui est pertinente, et non pas sa longueur. Il est interessant de noter que la similarite cosinus est exactement le produit scalaire entre des vecteurs unitaires (de norme 1). Ainsi, d’un point de vue probabiliste l’utilisation de la similarite cosinus revient a supposer que les donnees sont directionnelles et reparties sur la surface d’une hypersphere unite. En depit des nombreuses preuves empiriques suggerant que certains ensembles de donnees sparses et de grande dimension sont mieux modelises sur une hypersphere unite, la plupart des modeles existants dans le contexte de la fouille de textes et du FC s’appuient sur des hypotheses populaires : distributions Gaussiennes ou Multinomiales, qui sont malheureusement inadequates pour des donnees directionnelles. Dans cette these, nous nous focalisons sur deux challenges d’actualite, a savoir la classification des documents textuels et la recommandation d’items, qui ne cesse d’attirer l’attention dans les domaines de la fouille de textes et celui du filtrage collaborative, respectivement. Afin de repondre aux limitations ci-dessus, nous proposons une serie de nouveaux modeles et algorithmes qui s’appuient sur la distribution de von Mises-Fisher (vMF) qui est plus appropriee aux donnees directionnelles distribuees sur une hypersphere unite.