Annotation d’interactions hôte-microbiote dans des articles scientifiques par similarité sémantique avec une ontologie (2023)

Abstract: Nous nous intéressons à l’extraction de relations, dans des articles scientifiques, portant sur le microbiome humain. Afin de construire un corpus annoté, nous avons évalué l’utilisation de l’ontologie OHMI pour détecter les relations présentes dans les phrases des articles scientifiques, en calculant la similarité sémantique entre les relations définies dans l’ontologie et les phrases des articles. Le modèle BERT et trois variantes biomédicales sont utilisés pour obtenir les représentations des relations et des phrases. Ces modèles sont comparés sur un corpus construit à partir d’articles scientifiques complets issus de la plateforme ISTEX, dont une sous-partie a été annotée manuellement.

## introduction ces dernières années, le nombre de publications dans le domaine biomédical a énormément augmenté. l'extraction d'information devient une tâche indispensable pour la veille scientifique et l'intégration des connaissances dans ce domaine. nous nous intéressons plus particulièrement à l'extraction de relations, dans les articles scientifiques, pour l'étude du microbiome humain. cette tâche est généralement considérée comme une tâche de classification @xcite sur un corpus annoté. néanmoins, il n'existe aucun corpus annoté pour la tâche d'extraction de relations sur le microbiome humain et ses interactions. il existe cependant des ontologies, dans le domaine biomédical et dans certains de ses sous-domaines : c'est le cas pour le microbiome humain, pour lequel il existe l'ontologie ohmi : ontology of host-microbiome interactions @xcite . dans la suite, nous nous appuyons sur l'hypothèse distributionnelle @xcite , affirmant que la similarité des contextes dans lesquels apparaissent deux mots permet de mesurer leur proximité sémantique. cela nous permet de calculer la similarité sémantique entre une phrase d'un article scientifique et les relations d'une ontologie, afin d'étudier la correspondance de ce score avec la présence ou l'absence d'une relation dans la phrase. nous nous appuyons également sur l'utilisation de modèles adaptés de type bert, pour obtenir les représentations sémantiques des relations de l'ontologie et des phrases des articles, ces modèles ayant permis d'obtenir d'importants progrès dans les domaines de spécialité @xcite . corpus, pré-traitements et annotation la plateforme istex @xcite ) permet d'accéder à plus de 25 millions de publications scientifiques. nous l'utilisons pour construire un corpus de publications scientifiques, en anglais, portant sur le microbiome humain, à partir de la requête suivante : <"gut microbiota" or "gut microbiome" or "intestinal microbiota" or "intestinal microbiome" and language :eng>. nous obtenons, en résultat, un corpus de 8 657 publications scientifiques, dont les années de publication varient entre 2001 à 2019. le corpus obtenu est ensuite découpé en phrases, en utilisant la bibliothèque spacy : on obtient ainsi 1 104 240 phrases. afin de ne considérer que les phrases comportant potentiellement l'expression sémantique d'une relation sur le microbiome humain, nous partons de l'hypothèse que la présence d'une telle relation est positivement corrélée à la présence d'une ou plusieurs entités nommées liées au domaine biomédical. nous faisons également l'hypothèse qu'une relation est contenue à l'intérieur d'une phrase, tout d'abord par simplicité, et aussi parce que c'est généralement le cas. cela nous permet également de considérer les phrases, indépendamment les unes des autres, lors de l'annotation de la présence ou l'absence de relations, à l'intérieur de celles-ci. la bibliothèque scispacy @xcite est utilisée pour identifier les entités nommées du domaine biomédical. nous utilisons ainsi le modèle en_ner_craft_md, entraîné sur le corpus craft @xcite , et le modèle en_ner_bc5cdr_md, entraîné sur le corpus bc5cdr @xcite . le premier modèle détecte les cellules (cell line), les ggp (gene-or-gene-product) et les taxons (taxon) ainsi que les entités chebi présentes dans chemical entities of biological interest ontology @xcite , les entités so de sequence ontology @xcite et les entités go de gene ontology @xcite . quant au deuxième modèle, il détecte les noms de maladies (disease) et les espèces chimiques (chemical). afin d'étudier la distribution des scores de similarité sémantique, en fonction du nombre d'entités nommées biomédicales présentes dans les phrases, nous avons créé 4 sous-corpus, à partir de notre corpus initial de 1 104 240 phrases : le premier sous-corpus contient les 1 021 phrases avec une seule entité nommée, le deuxième contient les 762 phrases avec deux entités, le troisième contient les 454 phrases avec trois entités, et le dernier contient 618 phrases avec 4 entités nommées. afin d'étudier l'utilisation du score de similarité sémantique pour la tâche d'extraction de relations, nous avons annoté une petite sous-partie de chacun des 4 sous-corpus : nous avons choisi aléatoirement 4 phrases, dans chaque sous-corpus, et les avons annotées avec la relation qui y était présente, en utilisant les 129 relations issues de l'ontologie ohmi. cette tâche étant chronophage et le corpus actuellement construit étant de taille réduite, les premiers résultats obtenus sur celui-ci ne pourront donner que des indications sur l'utilisation du score de similarité sémantique pour la tâche d'extraction de relations. similaires, pour chaque modèle, sur chacun des 4 sous-corpus. le nombre d'entités présentes dans une phrase affecte peu le score de similarité, ce qui induit que seule la présence des entités, sans prendre en considération leur nombre, peut être considérée comme un indicateur de la présence d'une relation dans une phrase. en effet, il est probable d'avoir des entités nommées dans une phrase sans qu'elles ne participent à la relation exprimée, comme pour la citation d'exemples dans une phrase. le modèle pubmedbert donne les scores les plus hauts, se situant entre 0,83 et 0,93. ceci peut être expliqué par la sensibilité du modèle au vocabulaire de spécialité, puisqu'il est entièrement entraîné sur des textes du domaine biomédical. les distributions de scibert et biobert restent assez proches, malgré les différences entre les deux modèles en termes de techniques de pré-entraînement et de corpus d'entraînement, et sont plus faibles que les scores obtenus avec le modèle bert. évaluation pour l'identification des relations dans un second temps, nous donnons des premiers résultats obtenus sur un corpus annoté manuellement, afin de discuter de l'approche proposée pour identifier les relations en lien avec le microbiome humain. la phrases annotations moreover, airway microbiota composition and greater bacterial diversity were significantly correlated with bronchial hyperresponsiveness, including the relative abundance of specific microbiota belonging to bacterial families within the proteobacteria. microbe susceptibly expanded in respiratory airway of human with disease paradoxically, some degree of innate immune recognition of commensal bacteria is essential for normal development and function of the mucosal and peripheral immune system. ## conclusion nous avons évalué l'utilisation de l'ontologie ohmi pour détecter les relations présentes dans les phrases des articles scientifiques, en calculant la similarité cosinus entre les relations définies dans l'ontologie et les phrases des articles. le modèle bert et trois variantes biomédicales ont été utilisés pour obtenir les représentations des relations et des phrases. ces modèles ont été comparés sur un corpus construit à partir d'articles scientifiques complets issus de la plateforme istex, dont une petite sous-partie a été annotée manuellement. cette étude a permis d'observer que le modèle biobert obtenait les meilleurs résultats et semblait être le plus adapté aux articles scientifiques considérés, en alliant connaissances biomédicales et informations sémantiques, pour identifier la relation présente dans une phrase. pour pouvoir identifier plus précisément la relation de l'ontologie ohmi, présente dans une phrase donnée, il sera nécessaire de réduire le nombre de relations considérées. en effet, les 129 relations sélectionnées sont trop nombreuses, ce qui complexifie la tâche d'identification de la relation présente ainsi que la tâche d'annotation (l'annotation d'une phrase pouvait prendre jusqu'à 30 minutes).