Construction de plongements de concepts médicaux sans textes (Embedding medical concepts without texts) (2020)

Abstract: Dans le domaine médical, beaucoup d’outils du TAL reposent désormais sur des plongements de concepts issus de l’UMLS. Les approches existantes pour générer ces plongements nécessitent de grandes quantités de documents médicaux. Au contraire des ces approches, nous proposons dans cet article de nous appuyer sur les traductions en japonais, plus précisément en kanjis, disponibles dans l’UMLS pour générer ces plongements. Testée sur différents jeux d’évaluation proposés dans la littérature, notre approche, qui ne requiert donc aucun texte, donne de bons résultats comparativement à l’état-de-l’art. De plus, nous montrons qu’il est intéressant de les combiner avec les plongements – contextuels – existants.

## introduction de nombreuses techniques de tal reposent désormais sur les réseaux de neurones ; ceux-ci nécessitent en entrée des représentations numériques des mots -les plongements de mots. le domaine médical ne fait pas exception et la plupart des travaux exploitent donc désormais des approches neuronales. la question de la construction de plongements adaptés au vocabulaire médical a donc été posée depuis quelques années. plus particulièrement, plusieurs travaux se sont intéressés à produire des plongements des concepts médicaux identifiés dans l'umls (cui -concept unique identifiers). le metatheusaurus de l'umls @xcite recense en effet des entités et des termes médicaux (termes simples ou complexes, voire portion de phrases) dans de nombreuses langues, et rattachés à ces identifiants uniques de concepts. dans cet article, nous revenons sur la question de ces représentations de cui en proposant une nouvelle approche pour leur construction. au contraire des travaux existants qui exploitaient de très grosses quantités de textes du domaine pour produire les plongements de cui, notre approche ne nécessite aucun texte d'entraînement et repose uniquement sur l'umls et en particulier les traductions en kanjis. deux versions de cette approche, l'une produisant une représentation creuse et l'autre dense, sont ici décrites et comparées aux plongements existants. enfin, nous proposons une combinaison de nos plongements et de ceux de l'état-de-l'art, reposant sur une approche distributionnelle standard. nous revenons dans la section suivante sur les travaux existants cherchant à produire des plongements de cui et sur ceux exploitant les propriété des kanjis. nous présentons ensuite successivement nos deux représentations, dont les performances sont comparées à l'état-de-l'art en section 4. nous terminons en donnant quels pistes de travaux qui nous semblent prometteuses. la construction de plongements de cui a fait l'objet de plusieurs travaux @xcite @xcite . tous adoptent une approche similaire et les outils usuels de cette tâche, tels que glove @xcite ou word2vec @xcite . ainsi, ils sont tous construits à partir de textes médicaux anglais. la seule particularité, par rapport à un plongement lexical standard, est la phase de pré-traitement permettant de repérer les termes de l'umls dans les phrases et de les associer à leur cui. cette étape est faite avec l'outil metamap @xcite . il est important de noter plusieurs points communs à ces travaux. ils reposent tous sur l'anglais, du fait de l'outil metamap qui n'existe que pour l'anglais, et de la disponibilité de quantités de textes cliniques. ainsi, de vine et al. (2014) ont utilisé 350 000 résumés de journaux du domaine médical pour générer avec word2vec (skip-gram) des plongements pour 60 000 concepts (différentes dimensionnalités ont été testées, 200 étant celle obtenant les meilleures performances). @xcite utilisent également word2vec et une svd sur 4 millions de donnés d'assurances santé et 20 millions de notes cliniques pour générer 28 000 plongements de dimension 200. enfin, les plongements les plus performants et les plus utilisés sont cui2vec @xcite . il s'agit de plongements dans r 500 de 110 000 cui qui ont nécessité une quantité gigantesque de textes (plus de 80 millions de documents, incluant ceux des travaux précemmet cités) pour être générés. utiliser des représentations par kanjis de termes médicaux a déjà été fait dans un contexte d'analyse morphologique @xcite . dans ce travail, les kanjis servaient d'indices pour aider à décomposer les termes morphologiquement complexes (eg. photo|chimio|thérapie). bien que pour des buts différents, notre approche repose sur la même idée d'utiliser les kanjis comme des éléments atomiques de sens. ## plongements par kanjis comme nous l'avons expliqué, l'idée directrice de notre travail est d'exploiter les termes en kanjis pour s'en servir comme des représentations sémantiques des concepts (cui). de telles traductions sont disponibles directement dans le metathesaurus de l'umls dans lequel des termes en plusieurs langues sont rattachés aux identifiants de concept cui. l'intérêt des kanjis est qu'ils offrent une représentation ayant une portée sémantique (chaque kanji pris isolément a un -ou plusieurs -sens), ne sont pas soumis à de la variation morphologique, et sont en nombre limités (moins de 2 000 dans l'umls) comparativement aux mots en anglais par exemple. dans l'umls version 2019ab que nous utilisons pour les expériences, il y a 72 000 cui ayant au moins un terme en japonais. par exemple, le concept identifié par le cui c0031740, qui concerne la photochimiothérapie, a plusieurs réalisations en kanjis dans l'umls : 光化学法, 光力学的法, 光力学治, 光力学的治, 光力学的治, 光力学的治法. ## expérimentations dans cette section, nous évaluons les performances des plongements proposés dans la section précédente. à des fins de comparaison avec les plongements cui2vec @xcite , largement employés, nous choisissons de tester des plongements obtenus par acp avec la même dimensionnalité (500).