Aprentissage non-supervisé pour l’appariement et l’étiquetage de cas cliniques en français - DEFT 2019 (Unsupervised learning for matching and labelling of F rench clinical cases - DEFT 2019 ) (2019)

Abstract: Nous présentons le système utilisé par l’équipe Synapse/IRIT dans la compétition DEFT2019 portant sur deux tâches liées à des cas cliniques rédigés en français : l’une d’appariement entre des cas cliniques et des discussions, l’autre d’extraction de mots-clefs. Une des particularité est l’emploi d’apprentissage non-supervisé sur les deux tâches, sur un corpus construit spécifiquement pour le domaine médical en français

## introduction les textes du domaine médical sont une source d'information précieuse dont l'analyse automatique peut aider la recherche et le traitement des patients. cependant, leur nature non structurée fait de leur analyse automatique est un défi, amplifié par la technicité et la spécificité du langage employé. cette difficulté est exacerbée dans le cas du français, pour lequel les travaux et ressources sont plus rares. la campagne d'évaluation deft2019 @xcite est la première à porter sur des textes cliniques français. les données sont constituées de cas cliniques, accompagnée de discussions correspondantes. sur ces données, la campagne d'évaluation propose en outre les tâches suivantes : pour ce faire, on construit un ensemble de corpus basé sur des ressources en français qui servira à ## constitution d'un corpus de textes médicaux pour servir à l'apprentissage non-supervisé, on constitue un corpus médical à partir des sources suivantes : -l'ensemble des textes de deft2019, y compris les données de test -les articles de wikipédia appartenant au portail de la médecine, que nous nommerons wiki-med -emea @xcite qui contient des textes de l'european medical agency -quaero @xcite , qui contient des titres medline et des documents emea annotés, pour la reconnaissance d'entités nommées et la normalisation (ici, on ignore ces annotations) -des résumés d'articles cochrane @xcite de plus, on augmente ce corpus en utilisant une technique simple d'adaptation de domaine. on entraine un classifieur fasttext @xcite (paramètres par défauts, 2 itérations) afin d'apprendre à prédire si des textes viennent du corpus wiki-med, ou de sources web (aranea @xcite , frwac @xcite ) échantillonnées de sorte à contenir deux fois plus de textes que wiki-med. à partir de ce classifieur, on extrait des corpus web les textes qui sont prédits comme appartenant à wiki-med. ces textes sont présents en plus grand nombre que ceux de wiki-med. si le classifieur s'est mépris sur leur origine, c'est, on l'espère, qu'ils sont lexicalement proches de ceux de wiki-med, autrement dit qu'ils concernent la médecine, et qu'ils seront utiles pour l'apprentissage de représentations de mots ou d'encodeurs de textes. l'aggrégation de ces corpus, ayant subie une déduplication des textes strictement identiques sera nommé fr-med dans la suite de l'article. les nombres de documents selon ces différentes sources sont donnés dans la ## prétraitement du texte les textes passent par la fonction fix_text de la librairie ftfy (speer, 2019) afin de remédier à certains problèmes d'encodage. ils sont ensuite passés en minuscules. les nombres entre crochets (citations) sont éliminés, de même que les chiffres entre parenthèses. les virgules et les mots vides de la liste umls. le lien entre les mots et les cui est obtenu en utilisant la fonction de recherche l'api publique umls. leur dimension a été réduite à 50 en utilisant @xcite ). ## conclusion on a décrit deux systèmes, faisant appel à de l'apprentissage non-supervisé, pour l'étiquetage de cas cliniques et l'appariement avec des discussions. il serait intéressant d'utiliser des techniques des traduction de manière plus poussée afin de pouvoir bénéficier des techniques récentes d'apprentissage non-supervisé @xcite et leurs déclinaisons pour le domaine biomédical @xcite . pour la tâche 2, il serait intéressant d'évaluer un modèle non pas simplement pré-entrainé mais multi-tâches entrainé à la fois à la tache 2 et à la tache de pré-entrainement, pour atténuer l'oubli de cette dernière @xcite . les résultats de la tache 1 pourraient être améliorés en faisant appel à des techniques de recherche d'information plus poussée (e.g. utilisation d'elasticsearch) pour la création d'autres traits. enfin, les deux tâches étant liées à de l'ordonnancement, des fonctions de coûts plus appropriées pourraient être considérées.