Fouille de motifs et CRF pour la reconnaissance de symptômes dans les textes biomédicaux (Pattern mining and CRF for symptoms recognition in biomedical texts) (2016)

Abstract: Dans cet article, nous nous intéressons à l’extraction d’entités médicales de type symptôme dans les textes biomédicaux. Cette tâche est peu explorée dans la littérature et il n’existe pas à notre connaissance de corpus annoté pour entraîner un modèle d’apprentissage. Nous proposons deux approches faiblement supervisées pour extraire ces entités. Une première est fondée sur la fouille de motifs et introduit une nouvelle contrainte de similarité sémantique. La seconde formule la tache comme une tache d’étiquetage de séquences en utilisant les CRF (champs conditionnels aléatoires). Nous décrivons les expérimentations menées qui montrent que les deux approches sont complémentaires en termes d’évaluation quantitative (rappel et précision). Nous montrons en outre que leur combinaison améliore sensiblement les résultats.

## introduction le travail décrit dans cet article s'inscrit dans le contexte du projet hybride 1 dont l'un des objectifs est la capitalisation des connaissances sur les maladies rares. une maladie rare est une maladie qui affecte moins d'une personne sur deux-mille. il y a entre six-mille et huit-mille maladies rares et trente millions de personnes concernées en europe. l'un des axes du projet est de constituer ou mettre à jour automatiquement des fiches de synthèse résumant les connaissances actuelles sur chaque maladie rare (prévalence, symptôme, étiologie, modes de transmission...). ce travail de collecte est actuellement réalisé par des experts humains qui surveillent manuellement la littérature médicale sur le sujet. un enjeu majeur est donc d'apporter une aide à ce processus par la découverte de connaissances en rapport avec les maladies rares. nous nous concentrons sur la tâche de reconnaissance de symptômes dans les résumés de d'articles scientifiques médicaux. nous utilisons le terme symptôme pour désigner la manifestation d'une maladie, comme ressentie et décrite par un patient (signe fonctionnel, par exemple "mal de tête"), ou comme observé par un professionnel de la santé (signe clinique, dans cet exemple "céphalée") sans distinction. la structure linguistique des symptômes est généralement plus complexe que les autres entités nommées biomédicales @xcite pour diverses raisons @xcite . les symptômes peuvent s'exprimer sous des formes très diverses, du simple nom à une phrase entière, et comportent un certain nombre d'ambigüités syntaxiques et sémantiques. dans l'exemple suivant, les symptômes identifiés par un expert sont en gras : de plus, peu de travaux se sont concentrés sur la reconnaissance de symptômes et de ce fait les ressources existantes sont limitées ou incomplètes : à notre connaissance il n'existe pas de corpus avec la totalité des symptômes annotés qui permettrait d'entrainer un apprentissage supervisé. pour résoudre ces problèmes, nous proposons une approche faiblement supervisée pour la reconnaissance de symptômes qui combine trois ressources (section 2.1) : un corpus de résumés d'articles médicaux non annotées et deux dictionnaires, un pour les maladies rares et un autre pour les symptômes. nous projetons les dictionnaires sur les résumés pour créer un jeu de données annotées permettant d'entrainer nos modèles. puisque les dictionnaires ne sont pas exhaustifs, l'annotation n'est que partielle. grâce à ce jeu de données annotées, nous formalisons le problème de la reconnaissance de symptômes de deux manières complémentaires : (a) comme une tâche de classification de séquence supervisée pour laquelle nous utilisons des champs conditionnels aléatoires (crf) @xcite (section 2.3) ; et (b) comme une tâche de fouille de motifs séquentiels sous contraintes @xcite (section 2.4). nous combinons ces deux approches dans une architecture modulaire (section 2). notre contribution est triple. premièrement, nous montrons expérimentalement (section 3) que la classification de séquences et la fouille de motifs sont deux formalisations adéquates de la tâche, elles sont plus performantes qu'une simple projection de dictionnaire sur le texte. de plus nous montrons que leur combinaison est bénéfique puisque les crf permettent une représentation plus riche des mots alors que les motifs séquentiels favorisent la modélisation du contexte. deuxièmement, nous introduisons une nouvelle contrainte en fouille de motifs séquentiels basée sur la similarité distributionnelle entre les mots (section 2.4.1). troisièmement, nous avons créé un corpus d'évaluation avec les symptômes manuellement annotés (gold standard) par des experts humains (section 2.1). dans cette section nous décrivons notre approche modulaire itérative pour la reconnaissance de symptômes, dans l'esprit de (métivier et al., 2015). la figure 2 présente l'architecture globale de notre système. les données d'entrée de notre approche contiennent une collection de résumés d'articles et deux dictionnaires, un pour les maladies et un pour les symptômes. premièrement, les dictionnaires sont projetés sur les résumés pour obtenir une annotation partielle ; ces données annotées sont utilisées pour entrainer un classifieur de séquence crf et comme entrée à un algorithme de fouille de motifs séquentiels ; le modèle crf appris et les motifs extraits sont utilisés, séparément ou en combinaison, pour extraire les symptômes des données d'évaluation ; ces symptômes sont alors comparés aux symptômes gold standard manuellement extraits pour une évaluation utilisant le fscore. il est à noter que les modèles appris peuvent être appliqués sur les données d'apprentissage (en utilisant une validation croisée) pour découvrir de nouveaux symptômes à ajouter aux dictionnaires, et que tout ce processus peut être réitéré. figure 1 -fonctionnement global du système 2.1 jeux de données et évaluation les données d'entrée de notre système sont composées de trois ressources indépendantes disponibles en ligne : -le premier jeu de données est un corpus de 10 000 résumés d'articles extraits de la littérature biomédicale disponible sur pubmed 2 . pour le constituer, nous avons extrait 100 résumés d'articles biomédicaux pour chacune des 100 maladies rares sélectionnées à l'avance par un expert. -le second jeu de données est un dictionnaire de 17 469 anomalies phénotypiques distinctes, 34 257 avec les variations, fournies par hpo (human phenotype ontology 3 ). le phénotype est l'ensemble des caractères observables d'une personne (morphologiques, biochimiques, physiologiques). il résulte de l'interaction du génotype avec son milieu (l'environnement dans 2. www.ncbi.nlm.nih.gov/pubmed 3. human-phenotype-ontology.github.io lequel il se développe). comme de nombreuses maladies rares sont génétiques, nous avons suivi les conclusions de (martin et al., 2014) et donc considéré les anomalies phénotypiques comme des symptômes. -le troisième jeu de données est un dictionnaire de 16 576 noms de maladies rares distincts, 29 803 avec les variations, fournis par orphadata 4 , une ressource de haute qualité sur les maladies rares et les médicaments orphelins. le corpus de test contient 50 résumés d'articles, avec une moyenne de 184 mots par résumé, dont chaque symptôme a été annoté manuellement. nos experts ont relevé 407 symptômes et leurs positions dans ce corpus, soit une moyenne de 8.1 symptômes par résumé. la performance de notre système est évaluée grâce aux mesures standards de précision, rappel et f-score. 5 ## conclusion nous avons présenté une approche permettant d'utiliser différents modèles d'apprentissages pour une tâche de reconnaissance de symptômes dans des textes biomédicaux. nous avons dans cette étude utilisé un modèle crf pour l'approche numérique qui a maximisé la précision, et un modèle de fouille de motifs pour l'approche symbolique qui a maximisé le rappel. nous avons introduit une nouvelle contrainte sémantique pour l'extraction des motifs qui en réduit le nombre sans dégrader les performances de la tâche. les deux approches (fouille et crf) bien qu'étant de nature différente ont montré des résultats comparables en termes de f-score mais une répartition précision/rappel inversée. au vu de cette observation nous avons combiné ces deux approches et amélioré ainsi les scores de classification. dans un cadre peu supervisé où on ne dispose pas de corpus d'apprentissage annoté, cette combinaison semble donc prometteuse. il serait intéressant de poursuivre les expérimentations en utilisant différents corpus d'apprentissages entre chaque itération de l'apprentissage pour améliorer la détection de nouveaux symptômes non présents dans le dictionnaire. une autre perspective est de tester si cette combinaison de modèles d'apprentissages numériques et symboliques est aussi intéressante sur d'autres tâches d'extraction d'information telle que l'extraction de relations dans le cadre faiblement ou non supervisée de l'openie (open information extraction).