TREM o L o : un corpus multi-étiquettes de tweets en français pour la caractérisation des registres de langue ( TREM o L o : a Multi-Label Corpus of F rench Tweets for Language Register Characterization) (2021)

Abstract: Des registres tels que familier, courant et soutenu sont un phénomène immédiatement perceptible par tout locuteur d’une langue. Ils restent encore peu étudiés en traitement des langues (TAL), en particulier en dehors de l’anglais. Cet article présente un large corpus de tweets en français annotés en registres de langue. L’annotation intègre des marqueurs propres à ce type de textes (tels que les émoticônes ou les hashtags) et habituellement évincés dans les travaux en TAL. À partir d’une graine annotée manuellement en proportion d’appartenance aux registres, un classifieur de type CamemBERT est appris et appliqué sur un large ensemble de tweets. Le corpus annoté en résultant compte 228 505 tweets pour un total de 6 millions de mots. Des premières analyses statistiques sont menées et permettent de conclure à la qualité du corpus présenté. Le corpus ainsi que son guide d’annotation sont mis à la disposition de la communauté scientifique.

## introduction le registre de langue dans lequel se situe un texte (à l'oral comme à l'écrit) apparaît comme un trait saillant. il renvoie au contexte d'énonciation dans lequel il est -ou a été -produit (et qui comprend notamment la relation du locuteur avec ses interlocuteurs). parmi les manifestations possibles de ce phénomène sociolinguistique, le partitionnement en registres tels que familier, courant et soutenu est probablement le plus répandu. si des corpus comme gyafc @xcite -où ce type de variations est appelé « niveau de formalité » -ont récemment popularisé le domaine, celui-ci est encore globalement peu étudié en traitement automatique des langues (tal), et particulièrement en dehors de l'anglais. par ailleurs, bien que de nouveaux types de textes aient émergé depuis les deux dernières décennies -tels que les tweets, et plus généralement ceux que l'on range sous le terme communications médiées par ordinateurs (cmo) -, les travaux sur les registres de langue traitent surtout des types plus classiques de textes dont les caractéristiques sont plus ou moins connues de la littérature linguistique (on associera ainsi généralement par exemple les insultes au registre familier et la diversité de connecteurs logiques à du registre soutenu). dès lors, les analyses de corpus cmo en termes de registres de langue constituent un défi tant pour la linguistique descriptive que pour les différentes applications en tal. pour répondre à ces enjeux, cet article présente le corpus tremolo 1 , constitué de 228 505 tweets en français (6m mots), annotés en registres de langue familier, courant et soutenu. à partir d'une graine annotée manuellement, les annotations ont été généralisées à l'ensemble du corpus en utilisant un classifieur fondé sur camembert. après un état de l'art en section 2, la composition du corpus est présentée en section 3, les protocoles d'annotation manuelle et automatique sont décrits en sections 4 et 5. enfin, la qualité du corpus et quelques premiers résultats statistiques sur la caractérisation des registres sont exposés en section 5. ## état de l'art en sociolinguistique, la notion de registre de langue fait globalement référence à la perception de variétés linguistiques associées à des situations de communication particulières @xcite et il est admis qu'un registre de langue peut être caractérisé par des motifs spécifiques @xcite . l'utilisation des termes « niveau », « style » ou « genre » coexistent @xcite @xcite pour désigner ce phénomène, mais le terme « registre » semble tout de même tendre à prévaloir, du moins dans la littérature anglo-saxonne @xcite @xcite . en linguistique de corpus, c'est ce dernier qui est retenu en particulier dans les travaux de @xcite . ils étudient quantitativement la présence de traits linguistiques définis a priori sur un corpus 2 selon différents axes : oral/écrit, formel/informel, etc. l'objectif est d'identifier les cooccurrences de traits selon ces axes. en tal, pour l'anglais, @xcite proposent des techniques de classification de textes en formel vs. informel à partir d'un corpus de courriers électroniques tandis que @xcite utilise une régression pour prédire un niveau de formalité à partir d'un corpus de textes formel 3 /informel 4 . pour le français, dans @xcite , les auteurs étudient conjointement une tâche de classification et de construction d'un corpus de données web 5 annoté en utilisant une approche semi-supervisée. ces différents travaux présentent plusieurs limites : la composition des corpus montre différents biais en mélangeant les types de textes, les annotations manuelles ne suivent pas de guide d'annotation, et aucune des techniques de prédiction ne prend en compte le fait qu'un même texte puisse être perçu comme appartenant simultanément à plusieurs registres. de ce fait, la qualité de ces corpus annotés peut être discutée. l'approche que nous présentons dans cet article répond à ce besoin en proposant à la communauté un large corpus de données annotées en registres de langue pour le 1. https://gitlab.inria.fr/jmekki/tremolo_corpus 2. les corpus t2k-swal, lswe et archer. 3. les late modern english corpus, enron email corpus et open american national corpus. 4. les reuters corpus et open american national corpus. 5. 400 000 pages web ont été collectées à partir de requêtes composées de lexiques familier, courant et soutenu. ## constitution du corpus la constitution d'un corpus de textes écrits représentatif de l'usage réel des registres de langue présente deux difficultés majeures : tout d'abord le lien bi-univoque fort entre certains registres et certains types de textes (par exemple le soutenu associé à des romans de la littérature classique, le familier aux forums de discussion, et le courant à des dépêches journalistiques) ; ensuite l'association quasi immédiate de la modalité orale avec le registre familier d'une part, et de la modalité écrite avec les registres courant ou soutenu d'autre part @xcite . pour répondre à ces biais, nous avons choisi de construire notre corpus à partir d'un seul type de textes issu des cmo définis comme « toute communication humaine qui se produit à travers l'utilisation de deux ou plusieurs dispositifs électroniques » @xcite . un des intérêts des cmo sur le plan linguistique réside dans le fait qu'ils contribuent à créer un « parlécrit » (jacques, 1999) par le caractère instantané des échanges qu'ils matérialisent ; l'intérêt des tweets en particulier parmi les cmo est leur limite à 280 caractères, imposée par twitter, ce qui homogénéise la taille des textes produits et analysés. l'extraction automatique des tweets a été conduite en s'appuyant sur l'hypothèse qu'en collectant les tweets qui contiennent les hashtags les plus utilisés à un moment donné (tt pour « trending topics ») dans une zone géographique donnée, la diversité des productions devrait être représentative des différentes fonctions du langage et de différents registres de langue. aussi, si @xcite avance que la constitution d'un corpus doit se fonder sur des « critères externes », c'est à dire les fonctions de communication des textes, cet article tend justement à en découvrir de nouvelles parmi les cmo : afin de ne pas poser d'a priori sur ces dernières elles n'ont pas été utilisées pour la constitution du corpus qui s'est basée sur les tt. l'api de twitter 7 permet, à partir d'un identifiant de lieu (dans notre cas celui de paris), de récupérer automatiquement les 50 tt. pour chaque tt, une extraction a recherché tous les tweets le mentionnant. afin de couvrir le plus grand nombre d'usages et donc de sujets différents, 10 extractions ont été faites à 10 dates différentes. elles couvrent une durée totale d'un mois. les tweets non français ont été repérés grâce à un module python 8 qui, pour un texte donné, prédit une langue à une certaine probabilité p . si @xmath0.90 pour le français, alors le texte est conservé dans le corpus. la valeur de p est fixée afin de garder des textes avec la présence de quelques termes non français intéressants tels que « lol », « dead », « stan »... quant aux tweets tronqués, ils ont été repérés grâce à un signe de ponctuation spécifique de twitter : trois points de suspension resserrés différents des « ... » classiques. une règle symbolique a écarté les tweets qui se terminaient par ce signe de ponctuation particulier. finalement, après l'exclusion des tweets non français ou tronqués, le corpus compte 228 505 tweets (6 201 339 mots). descripteurs linguistiques pour l'analyse des cmo (paveau, 2013) utilise le terme « technomorphèmes » pour désigner les formes qui découlent des discours numériques. parmi elles, les hashtags qui sont définis comme un ou plusieurs mots contigus précédés d'un # (par exemple « #rentrée2020 »). certaines typologies de hashtags mettent l'accent sur leur fonction d'indexation @xcite . en plus d'intégrer à notre analyse ce type de fonction pour les hashtags car nous pensons qu'elle joue un rôle dans la perception de registres dans les tweets, nous proposons d'intégrer en outre le degré d'intégration syntaxique plus ou moins fort des hashtags. un autre type de technomorphèmes est le pictogramme qui se réfère à la fois à un « émoticône » 9 et à un « emoji » 10 . nous utilisons les trois fonctions de la typologie proposée par (magué et al., 2020) en les adaptant à l'analyse de notre corpus : la fonction de remplacement (quand un pictogramme remplace un syntagme) ; la fonction d'illustration (quand il a une fonction référentielle) ; la fonction de modalisation (quand il indique l'émotion ou l'attitude énonciative de l'auteur). nous ajoutons une autre fonction : la fonction d'encadrement/structuration (lorsqu'il entoure ou pointe vers une information). en mettant à jour une liste issue d'une étude qui avait déjà identifié des descripteurs dans la littérature scientifique pour les registres de langue @xcite avec ces traits spécifiques aux technomorphèmes, notre annotation prend au final en compte un ensemble de 52 descripteurs experts (dont certains sont présentés tables 1 et 2). protocole d'annotation sur l'ensemble du corpus, 4 000 tweets (ou textes) ont été sélectionnés au hasard pour être annotés manuellement en proportion de registres de langue. puisque nous divisons l'espace linguistique en 3 registres (familier, courant et soutenu), les catégories utilisées pour l'annotation sont les mêmes. une catégorie « poubelle » est ajoutée pour les tweets mal encodés ou incompréhensibles. l'annotateur doit ordonner les registres en fonction de leur prédominance dans un texte en leur attribuant un rang 11 qui doit être justifié par la présence d'au moins un descripteur de la liste issue de l'analyse linguistique préliminaire. chaque rang est ensuite transformé en proportion de registre. soit : familier t c f vs. autres exemple remplacement du « il » par « y »* 33,2 6,6% / 0,4% y sont pas sérieux répétitions de caractères* 29,5 11,3% / 0,5% loool onomatopées 22,5 11,7% / 0,7% oh courant t c c vs. autres exemple présent comme unique temps* 3,2 13,8% / 3,1% on lui coupe le pied, il doit jouer agglutination en nom propre* 2,8 2,9% / 0,7% #thierrybodson revient sur # sans relation syntaxique* 2,7 7,5% / 2,0% #fastfashion #slowfashion soutenu t c s vs. autres exemple inversion sujet verbe 12,8 20,0% / 1,5% as tu lu x diversité des connecteurs logiques 7,4 20,0% / 2,6% car [...] et discours rapporté* 6,8 38,2% / 5,3% merci chère amie, dit-elle les proportions en registre sur cet exemple sont donc familier 50% ( 3 6 ), soutenu 33% ( 2 6 ) et courant 17% ( 1 6 ). chaque texte est annoté par 2 annotateurs experts 12 . ne sont conservées que les étiquettes présentes dans l'intersection des 2 annotations. pour chaque étiquette sa moyenne est calculée. sur les 4 000 tweets annotés manuellement par 4 annotateurs, 976 textes ne sont pas dans l'intersection entre les 2 annotations. une seconde annotation est alors faite par un 5 ème annotateur expert. après cette seconde annotation, 976 tweets sont dans l'intersection. au final, 3 269 tweets annotés manuellement sont conservés, soit 81,73% des textes totaux de la graine. ## annotation automatique notre objectif est d'obtenir un corpus entièrement annoté en registres, or nous ne disposons que de 3 269 textes annotés (graine). notre approche consiste alors à augmenter l'ensemble de données 12. les annotateurs sont des doctorant.e.s ou chercheur.e.s en sciences du langage spécialisé.e.s en écrits numériques ou en tal. figure 2 -f 1 pour chaque registre et leur % de textes avec une @xmath1.90 pour 1 des 4 registres à chaque valeur de t 2 d'entraînement afin d'améliorer la qualité de prédiction finales des textes restants. méthodologie tout d'abord, une phase de discrétisation des proportions est appliquée à chaque annotation a : @xmath2, et @xmath3. puis, un modèle en deux étapes est adopté : l'apprentissage du classifieur multi-étiquettes est initialisé à partir de la graine. un seuil est appliqué pour sélectionner les textes dont la prédiction est jugée fiable. deux seuils indépendants sont introduits : soit sur la probabilité d'appartenance à un registre (noté t 1), soit sur le nombre maximum de textes à ajouter (noté t 2). pour t 1, tous les textes ayant une probabilité qui dépasse le seuil sont ajoutés. t 1 garde la même valeur pour les quatre registres de langue. pour t 2, toutes les probabilités sont triées par ordre décroissant et pour chacun des 4 registres les t 2 4 premiers textes sont ajoutés. après avoir filtré les textes, le classifieur commence un second apprentissage à partir de la graine augmentée. ses prédictions sont les prédictions finales. la f-mesure (notée f 1) est utilisée pour évaluer les performances du modèle. expériences pour les expériences, le modèle « base » de camembert est utilisé comme classifieur @xcite . les paramètres sont fixés à 10 -4 pour le taux d'apprentissage, 8 pour le nombre d'epochs, et une division de la graine 90%/10% d'entraînement/test. la figure 1 indique une détérioration des résultats entre 0,95 et 0,99 : le déséquilibre de la répartition des registres dans les données d'entraînement s'accentue légèrement à 0,99 (60% de textes courant, 30% familier et 10% soutenu). de manière générale, le classifieur est sûr de lui : plus de la moitié du corpus est ajouté à la graine (76%) avec le seuil le plus strict : t 1 = 0, 99. une échelle logarithmique est prise pour faire varier t 2 . les meilleurs scores sont obtenus lorsque t 2 est fixé à 25% (figure 2 ). la légère dégradation des f 1 à partir de 25% peut être due à la baisse du pourcentage de textes ayant une @xmath4.90 pour 1 des 4 registres : il est de 100% lorsque t 2 est à 25% et décroît à 93% et 95% lorsque t 2 passe à 50% puis 100%. t 2 à 25% (66 369 textes) semble donc être un bon équilibre entre la quantité et la qualité des données. analyse des résultats la distribution des registres est relativement similaire à celle de la graine annotée manuellement : 30,58% familier, 58,81% courant et 10,61% soutenu. ces résultats suivent la tendance des annotations manuelles et indiquent la qualité des prédictions finales. de plus, pour les registres courant et soutenu, plusieurs traits émergents sont des technomorphèmes ( familier t c f vs. autres exemple orthographe électronique 8.3 6.7% / 0.8% ha ptdrrrr remplacement du « il » par « y » 2.5 6.5% / 2.2% y'en a le 25 motif « juste »* 2.1 0.5% / 0.2% juste comme ça courant t c c vs. autres exemple absence d'un item attendu 2.2 0.1% / 0.07% ils vont quand même pas # sans relation syntaxique* 1.6 11.4% / 7.3% #stress #bonheur # indépendant syntaxiquement* 1.4 12.5% / 8.7% [...] . #mondaymotivation soutenu t c s vs. autres exemple fonction d'encadrement 6.7 2.2% / 0.3% [ecologie] à #montréal, ou de structuration du pictogramme* #x banni de #facebook [webinar] j-1 « le bilan à 6 ans » phrase sans ponctuation* 2.3 57.1% / 24.3% video. crise des transports : # intégré syntaxiquement* 2.3 10.8% / 4.7% les #violencespolicieres ne sont pas ## conclusion dans cet article, nous avons présenté le corpus tremolo qui rassemble 228 505 tweets annotés en registres familier, courant et soutenu. pour cela, une graine a été annotée manuellement en multiples étiquettes, en suivant un guide d'annotation issu d'une analyse linguistique du corpus. en utilisant le modèle camembert, un enrichissement des données d'apprentissage a ensuite été réalisé afin finalement de prédire des registres pour l'ensemble du corpus. nos expérimentations ont montré l'excellente qualité du corpus proposé. suffisamment volumineux pour ouvrir la voie à de futurs travaux statistiques, il permettra de découvrir de nouvelles connaissances fondamentales sur les registres de langue.