Une catégorisation de fins de lignes non-supervisée (End-of-line classification with no supervision) (2016)

Abstract: Dans certains textes bruts, les marques de fin de ligne peuvent marquer ou pas la frontière d’une unité textuelle (typiquement un paragraphe). Ce problème risque d’influencer les traitements subséquents, mais est rarement traité dans la littérature. Nous proposons une méthode entièrement non-supervisée pour déterminer si une fin de ligne doit être vue comme un simple espace ou comme une véritable frontière d’unité textuelle, et la testons sur un corpus de comptes rendus médicaux. Cette méthode obtient une F-mesure de 0,926 sur un échantillon de 24 textes contenant des lignes repliées. Appliquée sur un échantillon plus grand de textes contenant ou pas des lignes repliées, notre méthode la plus prudente obtient une F-mesure de 0,898, valeur élevée pour une méthode entièrement non-supervisée.

## introduction contexte et motivation la segmentation de textes est une tâche « de bas niveau » qui contribue aux tâches d'analyse « de plus haut niveau » réalisées en traitement automatique des langues. par exemple, @xcite écrit : « if we build a language model on poorly segmented text, for instance, its predictive performance will suffer. ». nous nous intéressons ici à un type de découpage peu décrit dans la littérature, qui a des conséquences sur le découpage en phrases et donc sur la suite des traitements. il peut être décrit comme la détermination des frontières de paragraphes, ou encore la classification des fins de lignes. il est pertinent pour les textes dans lesquels les fins de lignes peuvent ou non jouer le rôle de frontière de paragraphe, donc de phrase. on rencontre ce phénomène dans divers types de documents, par exemple dans nombre de courriers électroniques (ex : corpus enron) ou de comptes rendus hospitaliers (ex : corpus i2b2/uthealth ou mimic ii). même si l'impact précis de la classification de fins de lignes reste à étudier et peut dépendre des types de traitements subséquents visés, le nombre de situations dans lesquelles on peut le rencontrer justifie l'étude de méthodes générales pour le traiter. travaux antérieurs le problème de la classification des fins de lignes semble peu exploré en traitement automatique des langues, et @xcite ne le mentionne pas. quelques travaux sur l'analyse de textes hospitaliers ont récemment commencé à l'aborder par des heuristiques @xcite ou de la classification supervisée @xcite . ce problème a néanmoins été étudié en analyse de documents, après une reconnaissance de caractères ou pour reformater un texte obtenu à partir d'un fichier pdf. @xcite vérifient si une ligne débute avec certains symboles (puces) ou casse (majuscules) ou se termine par un nombre, ainsi que d'autres indices comme le nombre de mots dans la ligne, l'indentation et la taille de police. @xcite examinent la position des caractères dans la page et l'indentation, mais pas d'indices sur le contenu des lignes. @xcite combinent des informations sur le positionnement spatial des lignes et paragraphes et sur la probabilité que la catégorie morphosyntaxique du premier mot de la ligne suivante suive celles des deux derniers mots de la ligne précédente. dans notre situation, aucune information de positionnement spatial ou de taille de police n'est disponible, seul le contenu et la taille des lignes peuvent être employés. nous cherchons de plus à trouver une méthode qui soit aussi peu supervisée que possible. nous verrons dans la section suivante que nous pouvons nous placer dans une situation d'apprentissage où l'on cherche à classer chaque « blanc » foot_0 (white space) d'un texte (fins de lignes incluses) comme un simple espace séparateur de mots (<@xmath0, une partie des annotations disponibles (les fins de lignes) étant cependant incertaine. @xcite utilisent l'algorithme espérance-maximisation (em) pour améliorer itérativement un classifieur bayésien naïf en exploitant des données non annotées en plus de données annotées. une façon de modéliser notre situation consisterait à considérer les fins de lignes comme des exemples non annotés et les autres blancs comme des exemples positifs @xmath1. diverses méthodes ont été proposées pour apprendre en présence d'exemples positifs et d'exemples non annotés. @xcite proposent une méthode non itérative pour cela, mais cette méthode suppose que les exemples annotés soient tirés au sort parmi les exemples positifs, ce qui n'est pas le cas dans notre situation. une autre méthode consisterait à considérer les annotations de fins de ligne comme ambiguës et à appliquer les méthodes de @xcite . cependant, cela créerait dans ces annotations une dépendance systématique entre ces deux classes, situation dans laquelle l'apprentissage n'est pas garanti @xcite . détermination des textes sujets au repliement un texte dans lequel de nombreuses lignes sont repliées a tendance à avoir des lignes de longueur similaire, donc proches de la moyenne des longueurs de lignes dans ce texte. la distribution des longueurs de lignes d'un texte par rapport à leur longueur moyenne est donc une information utile pour déterminer si un texte est sujet au repliement. l'information clé prise en compte dans @xcite était le coefficient de variation des longueurs des lignes (plus bas dans l'équation 2), couplée à un seuil réglé de façon supervisée. nous reprenons ici cette caractéristique mais sans supervision. traitement des lignes blanches nous résolvons d'abord un cas facile : celui des lignes blanches (vides ou ne contenant que des espaces). celles-ci marquent toujours une frontière d'unité textuelle : la fin de ligne qui précède et celle qui termine une ligne blanche sont toutes deux non-ambiguës et marquées comme telles automatiquement (classe '2' dans le tableau 2 plus bas). désambiguïsation des fins de lignes : méthode générale nous partons de textes qui ont été segmentés en mots, et où les ponctuations ont été séparées des mots. ces textes contiennent des caractères d'espacement qui jouer le rôle de simples espaces (<@xmath2. nous nous attaquons à la tâche consistant à décider, pour chaque fin de ligne, s'il s'agit d'@xmath3, ou '1') ou d'@xmath4, ou '0'), de la façon suivante : a 3 (resp a 4 ) : forme typographique du mot à gauche (resp. à droite) : tout en majuscules, débute par une majuscule, débute par une minuscule, est un nombre, est constitué uniquement de ponctuations (en distinguant ponctuations fortes et faibles), est un nombre suivi d'au moins une ponctuation et optionnellement précédé d'une ponctuation (forme typique des introducteurs d'énumérations) ; nous supposons que certaines formes typographiques, comme les majuscules, sont plus fréquentes en début de paragraphe, alors que d'autres, comme les ponctuations fortes, sont plus fréquentes en fin de paragraphe). nous caractérisons de plus une position b i en fin de ligne par les deux attributs suivants : b 1 l, longueur en caractères de la ligne terminée par l'espace b i , centrée et réduite (l norm ) à l'intérieur du document d (équation 2) ; nous supposons qu'une ligne très courte a peu de chances de devoir être « recollée » à la ligne suivante, de même qu'une ligne très longue ; b 2 cv d , coefficient de variation de la longueur l des lignes dans le document d (équation 2). cet attribut est commun à toutes les positions du document d. nous supposons qu'un document dont les paragraphes sont repliés est susceptible d'avoir de nombreuses lignes de longueur similaire (proches de la largeur maximale de l'écran de saisie). cela devrait se traduire par un écart-type de la longueur des lignes faible par rapport à la moyenne de la longueur des lignes. le coefficient de variation mesure précisément ce rapport. les deux derniers attributs l norm et cv d sont à valeurs numériques, nous les discrétisons en dix plages de valeurs entre leurs valeurs minimales et maximales relevées sur le corpus. si un document du test a des valeurs hors de ces bornes, elles sont ramenées dans la plage la plus proche. 3 expériences, résultats et discussion corpus d'évaluation nous avons effectué des expériences sur le corpus d'entraînement fourni à l'occasion de la campagne d'évaluation i2b2/uthealth 2014 (stubbs et al., 2015). ce corpus est constitué de 790 comptes rendus cliniques rédigés en anglais (178 patients). certains de ces textes sont en double interligne (une ligne blanche a été insérée toutes les deux lignes) : nous avons détecté et normalisé automatiquement ces textes. le phénomène de « repliement de lignes » se produit dans certains de ces documents, mais pas dans tous. notre algorithme doit s'appliquer à tous ces documents, sans qu'on lui indique si le phénomène est présent ou pas. nous rappelons par ailleurs que notre algorithme est non-supervisé et n'utilise donc pour son entraînement aucune annotation humaine. à des fins d'évaluation, nous avons annoté manuellement deux échantillons de textes du corpus. un premier jeu de 49 textes (dev : 11 dossiers patient entiers), avec double annotation suivie d'une phase de consensus, nous a servi pour évaluer le système lors du développement de la méthode. un second jeu distinct de 64 textes tirés aléatoirement (test : appartenant à 53 dossiers), annoté en simple (très peu de divergences ayant été constatées lors de l'annotation du corpus dev), a servi à évaluer le système une fois la méthode stabilisée. l'annotation indique la classe de chaque fin de ligne : 0 (<@xmath5, 1 (<@xmath6, voir plus haut la section 2). corpus classe 0 1 2 total documents avec repliement dev avant annotation 2101 0 2576 4677 49 -dev annoté (consensus) 1877 224 2576 4677 49 9 (18 %) test avant annotation 3070 0 2549 5619 64 -test annoté 2468 602 2549 5619 64 24 (38 %)