Restructuration de la Littérature Biomédicale dans une Architecture RAG pour la Génération de Réponse (2025)

Abstract: Le Question Answering Biomédical (BQA) présente des défis spécifiques liés au vocabulaire spécialisé et aux structures sémantiques complexes de la littérature biomédicale. Les grands modèles de langage (LLMs) ont montré d’excellentes performances dans plusieurs tâches de compréhension et de génération du langage naturel. Cependant, leur efficacité tend à diminuer dans des domaines spécifiques, comme la biomédecine. Pour remédier à ce problème, les architectures de génération augmentée de récupération (RAG) sont devenues une approche prometteuse, combinant les avantages des méthodes de recherche d’information et des LLMs afin d’intégrer des connaissances spécifiques au domaine dans le processus de génération. Dans cet article, nous étudions le rôle du contexte dans l’amélioration des performances des pipelines RAG pour le BQA. Nous montrons que l’intégration d’un contexte basé sur une restructuration appropriée de la littérature influence positivement la qualité des réponses générées, en améliorant à la fois les métriques sémantiques et lexicales.

## introduction depuis leur apparition, les modèles de langage (lm) comme bert @xcite et gpt @xcite ont été largement adoptés pour traiter de nombreuses tâches de compréhension et de traitement automatique du langage naturel (taln). leur capacité à comprendre la relation sémantique entre les mots d'un document a transformé les approches traditionnelles dans divers domaines comme la recherche d'information (ri), remplaçant l'état de l'art dans de nombreuses tâches, telles que l'ordonnancement de documents, la classification et la génération de texte @xcite . cependant, ces modèles n'atteignent pas les mêmes performances lorsqu'ils sont appliqués à des corpus de domaines spécialisés, comme la littérature biomédicale et les documents juridiques @xcite . les caractéristiques particulières de ces textes en sont les principales raisons. elles amplifient l'écart sémantique entre les connaissances générales et les concepts spécialisés. la littérature biomédicale renferme des structures lexicales complexes, telles que des formules chimiques, des noms propres et des abréviations. de plus, la compréhension de cette littérature est d'autant plus difficile en raison de sa polysémie ; par exemple, les expressions « crise cardiaque », « infarctus du myocarde » et « accident cardiovasculaire » ont la même signification foot_0 . relever ces défis dans le cadre des tâches de question-réponse biomédicale (« biomedical question answering » -bqa) nécessite une prise en compte attentive des caractéristiques spécifiques du domaine. il existe une grande variété de tâches de bqa @xcite , chacune ayant ses propres particularités en termes de contenu de corpus, de format des réponses et de public ciblé. nous considérons la littérature scientifique comme notre source d'information, tandis que la requête et sa réponse doivent s'adresser à des lecteurs spécialisés et être rédigées en langage naturel. cette tâche se situe à l'intersection de la ri et de la génération de texte. une première méthode pour prendre en compte les caractéristiques spécifiques des corpus biomédicaux a été de pré-entraîner des lms sur ces textes @xcite @xcite . cependant, plusieurs travaux @xcite @xcite ont montré que, malgré des performances améliorées, ces modèles manquent encore de compréhension sémantique. avec l'émergence des grands modèles de langage (« large language model » -llm), cette méthode n'est plus envisageable, car entraîner un modèle depuis zéro devient trop coûteux. ainsi, plusieurs approches ont été proposées pour intégrer des connaissances dans les llms. d'une part, la génération augmentée de récupération (« retrieval-augmented generation », rag) @xcite combine la génération de texte avec des mécanismes de recherche de documents pertinents afin de contextualiser les réponses. d'autre part, l'apprentissage en contexte (« in-context learning », icl) (dong et al., 2024) vise à aligner les réponses générées sur les attentes de l'utilisateur en fournissant directement des exemples parmi les entrées du modèle. l'efficacité de ces approches dépend du contexte extrait et de la manière dont il est structuré, par exemple sous forme de paires (requête, réponse), de texte brut issu de publications scientifiques ou de triplets sémantiques (sujet-prédicat-objet). dans cet article, nous étudions comment intégrer correctement des connaissances spécifiques à un domaine dans les llms en s'appuyant sur une tâche bqa. dans la suite de cet article, nous présentons d'abord les travaux connexes aux rag et bqa. ensuite, nous décrivons la méthode mise en oeuvre pour traiter cette tâche, suivie d'une présentation détaillée des modèles et technologies utilisés pour son implémentation et son évaluation. nous analysons et discutons ensuite les résultats avant de conclure et introduire les perspectives de recherche future. ## travaux connexes notre travail est lié à différents domaines, à savoir la ri, les lms et la bqa, comme introduit dans les sections suivantes. ## méthode comme mentionné précédemment, ce travail vise à traiter la problématique de la structuration du contexte dans une architecture rag appliquée au bqa. cette section formalise le problème et détaille les étapes de la méthode que nous proposons. ## expérimentations dans cette section, nous présentons les jeux de données et les métriques utilisés pour mener nos évaluations. nous détaillons également les paramètres d'implémentation pour le module de ri, la sélection de phrases, le classement des sujets et la génération de réponses. ## conclusion dans cet article, nous avons présenté plusieurs approches visant à intégrer des connaissances biomédicales dans un llm pour améliorer les réponses générées dans le cadre d'une tâche de bqa. nous avons montré que la génération de réponses contextualisées influence davantage la précision que le rappel. de plus, les améliorations sur les métriques sémantiques sont plus importantes que sur les métriques lexicales, ce qui signifie que les réponses générées ne s'alignent pas facilement avec un vocabulaire donné. nous avons proposé de structurer les phrases des articles pertinents en groupes sémantiques. le classement de ces groupes améliore les scores sous certaines conditions. il est crucial d'en sélectionner un nombre suffisant pour capturer les informations pertinentes, mais en récupérer trop peut introduire du bruit et dégrader les performances. de plus, il semble bénéfique d'augmenter le nombre de phrases par groupe. cela permet au llm de concentrer son attention sur les informations pertinentes en éloignant les moins pertinentes, sans pour autant les supprimer. nous avons ensuite étudié si l'incorporation d'exemples de paires (question, réponse) était bénéfique. nous montrons que l'intégration du icl dans une architecture rag, malgré une légère perte en rappel, permet d'obtenir des améliorations majeures en termes de précision et de f1-score. la comparaison avec certains des meilleurs modèles du challenge bioasq montre que notre approche atteint des résultats compétitifs. les travaux futurs seront consacrés à l'exploration d'autres méthodes d'intégration du contexte pour la génération de réponses, par exemple en utilisant des bases de connaissances biomédicales pour structurer l'information sous forme de triplets sémantiques (sujet-prédicat-objet) @xcite . de plus, des recherches approfondies sur l'optimisation de la sélection du contexte pourraient améliorer à la fois la qualité et la lisibilité des réponses dans des applications biomédicales réelles. enfin, il serait pertinent de citer les articles constituant le contexte dans les réponses générées afin que les lecteurs puissent facilement valider les informations qui lui sont retournées.