Contribution to automatic text classification: metrics and evolutionary algorithms. (Contributions à la classification automatique de texte: métriques et algorithmes évolutifs)

Cette these porte sur le traitement du langage naturel et l'exploration de texte, a l'intersection de l'apprentissage automatique et de la statistique. Nous nous interessons plus particulierement aux schemas de ponderation des termes (SPT) dans le contexte de l'apprentissage supervise et en particulier a la classification de texte. Dans la classification de texte, la tâche de classification multi-etiquettes a suscite beaucoup d'interet ces dernieres annees. La classification multi-etiquettes a partir de donnees textuelles peut etre trouvee dans de nombreuses applications modernes telles que la classification de nouvelles ou la tâche est de trouver les categories auxquelles appartient un article de presse en fonction de son contenu textuel (par exemple, politique, Moyen-Orient, petrole), la classification du genre musical (par exemple, jazz, pop, oldies, pop traditionnelle) en se basant sur les commentaires des clients, la classification des films (par exemple, action, crime, drame), la classification des produits (par exemple, electronique, ordinateur, accessoires). La plupart des algorithmes d'apprentissage ne conviennent qu'aux problemes de classification binaire. Par consequent, les tâches de classification multi-etiquettes sont generalement transformees en plusieurs tâches binaires a label unique. Cependant, cette transformation introduit plusieurs problemes. Premierement, les distributions des termes ne sont consideres qu'en matiere de la categorie positive et de la categorie negative (c'est-a-dire que les informations sur les correlations entre les termes et les categories sont perdues). Deuxiemement, il n'envisage aucune dependance vis-a-vis des etiquettes (c'est-a-dire que les informations sur les correlations existantes entre les classes sont perdues). Enfin, puisque toutes les categories sauf une sont regroupees dans une seule categories (la categorie negative), les tâches nouvellement creees sont desequilibrees. Ces informations sont couramment utilisees par les SPT supervises pour ameliorer l'efficacite du systeme de classification. Ainsi, apres avoir presente le processus de classification de texte multi-etiquettes, et plus particulierement le SPT, nous effectuons une comparaison empirique de ces methodes appliquees a la tâche de classification de texte multi-etiquette. Nous constatons que la superiorite des methodes supervisees sur les methodes non supervisees n'est toujours pas claire. Nous montrons ensuite que ces methodes ne sont pas totalement adaptees au probleme de la classification multi-etiquettes et qu'elles ignorent beaucoup d'informations statistiques qui pourraient etre utilisees pour ameliorer les resultats de la classification. Nous proposons donc un nouvel SPT base sur le gain d'information. Cette nouvelle methode prend en compte la distribution des termes, non seulement en ce qui concerne la categorie positive et la categorie negative, mais egalement en rapport avec toutes les autres categories. Enfin, dans le but de trouver des SPT specialises qui resolvent egalement le probleme des tâches desequilibrees, nous avons etudie les avantages de l'utilisation de la programmation genetique pour generer des SPT pour la tâche de classification de texte. Contrairement aux etudes precedentes, nous generons des formules en combinant des informations statistiques a un niveau microscopique (par exemple, le nombre de documents contenant un terme specifique) au lieu d'utiliser des SPT complets. De plus, nous utilisons des informations categoriques telles que (par exemple, le nombre de categories dans lesquelles un terme apparait). Des experiences sont effectuees pour mesurer l'impact de ces methodes sur les performances du modele. Nous montrons a travers ces experiences que les resultats sont positifs.