Modèles en Caractères pour la Détection de Polarité dans les Tweets (Character-level Models for Polarity Detection in Tweets ) (2018)

Abstract: Dans cet article, nous présentons notre contribution au Défi Fouille de Textes 2018 au travers de trois méthodes originales pour la classification thématique et la détection de polarité dans des tweets en français. Nous y avons ajouté un système de vote. Notre première méthode est fondée sur des lexiques (mots et emojis), les n-grammes de caractères et un classificateur à vaste marge (ou SVM). tandis que les deux autres sont des méthodes endogènes fondées sur l’extraction de caractéristiques au grain caractères : un modèle à mémoire à court-terme persistante (ou BiLSTM pour Bidirectionnal Long Short-Term Memory) et perceptron multi-couche d’une part et un modèle de séquences de caractères fermées fréquentes et classificateur SVM d’autre part. Le BiLSTM a produit de loin les meilleurs résultats puisqu’il a obtenu la première place sur la tâche 1, classification binaire de tweets selon qu’ils traitent ou non des transports, et la troisième place sur la tâche 2, classification de la polarité en 4 classes. Ce résultat est d’autant plus intéressant que la méthode proposée est faiblement paramétrique, totalement endogène et qu’elle n’implique aucun pré-traitement.

## introduction l'analyse automatique des tweets est un domaine très actif du traitement automatique des langues (tal), notamment sur l'aspect étude de la polarité et détection des émotions. ceci n'est pas très étonnant dans la mesure où les tweets, et plus généralement les microblogs, constituent un moyen de jauger l'opinion individuelle d'une grande quantité de personnes. il existe donc un grand nombre d'applications qui pourraient profiter de systèmes performants pour cette tâche. d'un autre côté, la classification binaire de tweets selon qu'ils relèvent ou non d'une thématique particulière est une tâche connexe à la détection des émotions mais souvent délaissée, et placée en amont de la chaîne de traitement de tal. elle est traditionnellement implémentée par filtrage sur des chaînes de caractères ou des expressions rationnelles qui font référence à des termes du thème visé. c'est regrettable car connaître la polarité d'une émotion est intéressant mais ça l'est plus encore si l'on sait à quoi le tweet fait référence. d'un côté la tâche 1 consiste donc à décider si un tweet traite ou non des transports et de l'autre côté la tâche 2 pour laquelle, étant donné un tweet traitant des transports, il faut détecter la polarité : neutre, négatif, positif ou mixte. l'article décrivant cette édition du défi fouille de textes propose une description précise du processus de collecte et d'annotation du corpus @xcite , nous ne reviendrons donc pas plus ici sur les données d'entrée. dans la section 2 nous décrirons les trois méthodes que nous avons mises en place ainsi qu'un système de vote entre les méthodes. ensuite, nous présenterons dans la section 3 les résultats que nous avons obtenus dans la compétition officielle ainsi que des expériences plus complètes sur nos méthodes. enfin, nous proposerons quelques conclusions et perspectives sur ce travail dans la section 4. ## discussion dans cet article, nous avons présenté trois méthodes exploitant le grain caractère pour la classification de tweets et la détection de polarité. ces trois méthodes utilisent de l'apprentissage supervisé. la première méthode combine ressources exogènes, des lexiques, et n-grammes de caractères, la seconde exploite un bilstm tandis que la troisième utilise des motifs en caractères fermés fréquents. les bons résultats obtenus, en particulier pour le bilstm montrent que l'utilisation du grain caractère pour les tâches de tal est amenée à avoir un impact important. en effet, les méthodes en caractère ont l'avantage de bien se comporter dans des contextes bruités, ce qui est le cas ici puisque les variations de graphie et la distanciation avec les normes syntaxiques sont des caractéristiques majeures des tweets. par ailleurs, ces approches permettent de se passer de pré-traitement ce qui permet de simplifier les chaînes de traitement et par conséquent de réduire les erreurs en cascade @xcite . enfin, ces méthodes permettent de capturer de manière purement endogène des informations sur la structure intra-token (morphèmes) comme sur la structure extra-token (expressions multi-mots par exemple) ce qui peut être particulièrement intéressant dans un contexte impliquant plusieurs langues ou des langues peu dotées en ressources. nos prototypes sont disponibles en ligne foot_2 et librement utilisables.