Normalisation lexicale de contenus générés par les utilisateurs sur les réseaux sociaux (2023)

Abstract: L’essor du traitement automatique des langues (TAL) se vit dans un monde où l’on produit de plus en plus de contenus en ligne. En particulier sur les réseaux sociaux, les textes publiés par les internautes sont remplis de phénomènes « non standards » tels que les fautes d’orthographe, l’argot, les marques d’expressivité, etc. Ainsi, les modèles de TAL, en grande partie entraînés sur des données « standards », voient leur performance diminuer lorsqu’ils sont appliqués aux contenus générés par les utilisateurs (CGU). L’une des approches pour atténuer cette dégradation est la normalisation lexicale : les mots non standards sont remplacés par leurs formes standards. Dans cet article, nous réalisons un état de l’art de la normalisation lexicale des CGU, ainsi qu’une étude expérimentale préliminaire pour montrer les avantages et les difficultés de cette tâche.

## introduction pour développer des systèmes de traitement automatique des langues (tal) capables de traiter les « contenus générés par les utilisateurs » (cgu), il est nécessaire de se pencher soit sur les moyens de rendre les modèles robustes aux variations linguistiques associés à ces contenus, soit sur la normalisation de ces contenus afin qu'ils ressemblent le plus possible à la langue standard sur laquelle ces modèles sont généralement entraînés. dans cet article, nous étudions la seconde de ces deux approches et nous consacrons ainsi à la tâche de normalisation lexicale des cgu, qui consiste à remplacer les formes non standard par leurs variantes standard (« normalisées »). nous commençons par un état de l'art du domaine : nous décrivons d'abord les spécificités des cgu et les problèmes qu'ils posent pour les systèmes de tal (section 2). nous détaillons ensuite les méthodes proposées dans la littérature (section 3.1) pour la normalisation des cgu, mais également pour des tâches connexes telles que la normalisation phonétique, la correction post-ocr, la correction grammaticale et la normalisation des variantes dialectales ou historiques (section 3.2). nous poursuivons avec un bref panorama des jeux de test et des métriques pour la tâche en question (section 3.3). nous proposons ensuite une étude expérimentale préliminaire (section 4) dont le but est d'illustrer certaines des difficultés de la tâche en termes de modélisation et d'évaluation. la méthode que nous avons choisie repose sur un processus en deux étapes : (i) la détection supervisée de tokens non standards modélisée comme une tâche d'étiquetage de séquences, (ii) la normalisation des tokens détectés lors de la première étape à l'aide d'une approche couplant modélisation de langue par masquage (masked language modelling) et distance d'édition. l'idée sous-jacente est de choisir une forme standard qui soit à la fois appropriée en contexte et formellement similaire au mot non standard d'origine. nos expériences explorent le poids relatif à donner à la distance d'édition, en comparant plusieurs modèles de langue par masquage, dont certains entraînés sur des données cgu non standards. nous menons nos évaluations au moyen de plusieurs métriques automatiques, y compris des métriques qui s'appuient sur la précision et des métriques développées pour la traduction automatique, qui ont été utilisées précédemment dans la littérature. notre évaluation nous permet de constater que l'évaluation de la normalisation des cgu est loin d'être simple. l'approche que nous testons présente des limites évidentes, dont certaines sont mal prises en compte par les métriques usuelles. après les sms, les textes non standards ont connu un essor sur les réseaux sociaux, les forums de discussion, les tchats et d'autres plate-formes où les internautes interagissent. cela a marqué l'émergence des cgu 2 , qui ont été largement qualifiés de « bruités » dans le domaine du tal. pour quantifier cette affirmation, @xcite ont mené une étude linguistique et statistique sur un corpus de cgu provenant de sources différentes et ont démontré qu'il était effectivement plus « bruité » qu'un corpus composé de textes standards édités. par ailleurs, @xcite a expliqué des raisons fréquentes pour lesquelles les utilisateurs écrivent « si mal », à savoir : l'illettrisme, le nombre de caractères limité (p. ex. twitter), le système de saisie du texte (clavier externe versus clavier tactile avec autocomplétion), des phénomènes pragmatiques, et certaines variables sociales. certains mots non standards présents dans les cgu sont propres aux réseaux sociaux utilisés, comme les hashtags (#jeuxolympiques), les mentions (@gouvernementfr) et leur métalangage (rt pour retweet). de plus, l'argot évolue constamment et il y a toujours de nouveaux mots émergents (p. ex. des néologismes comme burka + @xmath0, ou encore l'utilisation du leetspeak pour censurer des jurons ou des propos offensifs (!d10t pour idiot). un autre phénomène omniprésent est l'emploi de mots empruntés d'autres langues ou même le mélange de plusieurs langues (l'alternance codique). faire une liste exhaustive de tous les phénomènes non standards spécifiques aux cgu n'est pas une tâche aisée, cependant quelques tentatives ont été faites. par exemple, seddah et al. (2012) ont proposé une classification des phénomènes cgu rencontrés dans des forums de discussion et réseaux sociaux français. ils les ont définis selon trois axes : (1) les phénomènes ergographiques qui visent à simplifier l'écriture, par exemple l'omission d'accents, la phonétisation, et certaines fautes d'orthographe (son pour sont) ; (2) les phénomènes transversaux comme la contraction (nimp pour n'importe quoi) et la segmentation typographique (c a dire pour c'est-à-dire) ; (3) les marques d'expressivité comme l'étirement des graphèmes ou de ponctuation (superrr !!!) et les émoticônes. sanguinetti et al. (2020) se sont appuyés sur cette classification et y ont rajouté les phénomènes d'autocensure, ainsi qu'un quatrième axe des phénomènes d'influence de langues étrangères comme la translitération, la formation de nouveaux verbes et l'autocorrection. par ailleurs, van der goot et al. (2018) ont élaboré une taxonomie des spécificités cgu en anglais. ils ont considéré trois types d'« anomalies » : (1) les anomalies non intentionnelles comme les fautes typographiques, orthographiques ou de segmentation ; (2) les anomalies intentionnelles telles que les abréviations d'expressions (mdr pour mort de rire), les répétitions, les contractions, les transformations phonétiques et l'argot ; (3) les anomalies inconnues. ## étude expérimentale dans cette partie, nous allons réaliser une étude expérimentale préliminaire pour illustrer la normalisation lexicale de cgu décrite dans l'état de l'art précédent. nous allons comparer des modèles de langue pré-entraînés pour montrer la difficulté de la tâche (il est difficile de faire mieux qu'un modèle de base qui ne fait rien !) et celle d'en trouver une métrique adéquate. ## discussion et conclusion cet article a pour vocation d'illustrer l'utilité mais aussi les limites de la tâche de normalisation lexicale des contenus générés par les utilisateurs (cgu), et d'ouvrir la porte à plusieurs perspectives de travaux de recherche. dans un premier temps, nous avons présenté un état de l'art de la normalisation lexicale des cgu sur les réseaux sociaux. nous avons montré qu'ils sont un fléau pour les modèles de tal entraînés sur des données standards à cause de leur multitude de phénomènes de langage non standard, et que la normalisation lexicale est l'une des approches pratiques pour pallier ce problème. dans un second temps, nous avons fait une étude expérimentale pour montrer que, malgré tous ses avantages, la normalisation lexicale de cgu reste une tâche difficile à réaliser et à évaluer. premièrement, nous observons que, même avec des modèles de langue pré-entraînés, il est difficile de faire mieux qu'un système de base qui ne fait rien. certes, l'intégration d'une distance d'édition et l'entraînement sur des données cgu améliorent la performance des modèles. ensuite, nous observons l'inadéquation des métriques classiques pour ce genre de tâche. par exemple, le pire modèle pour les métriques automatiques (twitter roberta) est l'un des meilleurs pour la métrique de traduction bleu, mais n'a pas de bon score pour une autre métrique de traduction, comet. nos expériences étant préliminaires, plusieurs pistes d'amélioration peuvent être envisagées, notamment : filtrer les sorties de bertweet par un lexique standard, apprendre la valeur optimale de α pendant l'entraînement, intégrer un module de similarité phonétique, utiliser des mlm qui masquent tous les tokens d'un mot (whole-word masking) ou plusieurs tokens adjacents (span masking), affiner electra pour la détection de mots à normaliser @xcite ont fait l'hypothèse que c'est un meilleur détecteur car il a un objectif d'entraînement discriminant), normaliser la séquence autorégressivement @xcite , garder le mot d'origine si la normalisation prédite est pire (van der goot, 2019b), etc.