Détection des omissions dans les résumés médicaux générés par les grands modèles de langue (2025)

Abstract: Les grands modèles de langue (LLMs) sont de plus en plus utilisés pour résumer des textes médicaux, mais ils risquent d’omettre des informations critiques, compromettant ainsi la prise de décision. Contrairement aux hallucinations, les omissions concernent des faits essentiels absents. Cet article introduit un jeu de données validé en français pour détecter ces omissions et propose EmbedKDECheck, une approche frugale et sans référence. A l’opposé des méthodes basées sur les LLMs, cette approche utilise des plongements lexicaux issus d’un modèle de Traitement Automatique des Langues (TAL) léger combinant FastText et Word2Vec selon un algorithme précis couplé à un modèle non-supervisé fournissant un score d’anomalie. Cette approche permet d’identifier efficacement les omissions à faible coût computationnel. EmbedKDECheck a été évalué face aux frameworks de l’état de l’art (SelfCheckGPT, ChainPoll, G-Eval et GPTScore) et a montré de bonnes performances. Notre méthode renforce l’évaluation de la fiabilité des LLMs et contribue à une prise de décision médicale plus sûre.

## introduction l'avènement des grands modèles de langage (llms) comme gpt d'openai @xcite a révolutionné de nombreux domaines en permettant la génération de texte cohérent et contextuellement pertinent. ces modèles sont utilisés dans des applications variées, allant des agents conversationnels à la création de résumés et de rapports détaillés. dans le domaine médical, les llms ont montré un potentiel significatif pour générer des rapports complets, aidant ainsi les professionnels de santé à prendre des décisions éclairées @xcite . malgré ces avancées, un défi majeur reste non résolu : la détection des omissions dans les textes générés par les llms. les ensembles de données et les cadres d'évaluation existants se concentrent principalement sur les hallucinations-c'est-à-dire les cas où le texte généré contient des informations incorrectes ou fabriquées @xcite . bien que la détection des hallucinations soit cruciale, la question des omissions, où des informations essentielles de l'entrée originale sont absentes, représente un risque particulièrement grave, notamment dans le domaine médical. de telles omissions peuvent conduire à des résumés incomplets, compromettant ainsi la prise en charge et les traitements des patients. en effet, dans un contexte clinique, l'absence de mention de symptômes majeurs ou de contre-indications peut avoir des conséquences lourdes pour la sécurité des patients. par souci de clarté, voici les définitions adoptées : dans ce travail, nous nous concentrons principalement sur la détection des omissions, une problématique encore peu explorée mais essentielle pour garantir la fiabilité des systèmes de génération automatique, en particulier dans des domaines sensibles comme la médecine. dans le contexte du secteur de la santé en france, l'utilisation de fournisseurs externes ou de solutions cloud publiques est souvent impraticable en raison de réglementations strictes en matière de confidentialité (ap-hp, 2024). par conséquent, les implémentations des llms reposent généralement sur des modèles plus petits hébergés en interne ou sur des architectures hybrides utilisant des microservices api @xcite . ces contraintes peuvent aggraver le problème des omissions, car l'accès aux modèles llms les plus avancés est limité. il est donc impératif de mettre en place des mécanismes de contrôle qualité efficaces dans ces environnements contraints en ressources. nous apportons, dans cet article, deux contributions principales. premièrement, nous introduisons un nouvel ensemble de données spécifiquement conçu pour évaluer les méthodes de détection des omissions. cet ensemble de données, rédigé en français, a été soigneusement élaboré et validé par des experts médicaux, dont des chirurgiens spécialisés en chirurgie hépatique et générale. cette validation garantit que l'ensemble de données reflète fidèlement les situations rencontrées dans le secteur médical, le rendant ainsi particulièrement utile pour le développement et l'évaluation des algorithmes de détection des omissions (l'ensemble de données en question sera publié dans un dépôt git et intégré à l'article dans sa version finale). deuxièmement, nous proposons une approche frugale et indépendante des modèles llms, appelée embedkdecheck, pour détecter les omissions dans les textes générés. cette méthode exploite les plongements lexicaux en combinaison avec des modèles d'apprentissage automatique non-supervisé de détection d'anomalies pour identifier les informations manquantes. l'accent mis sur la frugalité est essentiel, car il permet à la méthode de fonctionner efficacement dans des environnements aux ressources limitées, sans exiger de lourdes capacités de calcul. cet aspect est particulièrement important dans le domaine médical, où les ressources informatiques peuvent être restreintes et où la détection rapide des omissions est essentielle pour garantir l'exactitude et la fiabilité de la documentation médicale. plus spécifiquement, nous définissons une "omission" comme un cas où le texte généré ne contient pas des informations importantes ou ne reprend pas des détails attendus à partir de l'entrée. cela peut entraîner des résumés incomplets ou trompeurs, ce qui peut être particulièrement préjudiciable dans les applications médicales. dans cette étude, nous présentons des algorithmes combinant des plongements lexicaux et des techniques de détection d'anomalies pour identifier les omissions. nous évaluons rigoureusement ces algorithmes à l'aide de notre nouvel ensemble de données, nous permettant ainsi d'analyser l'efficacité de notre approche dans le domaine médical. en abordant le problème critique des omissions, ce travail contribue au développement de mécanismes de contrôle qualité robustes pour les textes générés par les llms, améliorant ainsi la sécurité et la fiabilité des systèmes d'aide à la décision médicale. 2 travaux connexes l'évaluation des résumés générés par les llms est un enjeu fondamental, en particulier pour détecter les omissions. les métriques automatiques permettent d'évaluer la fluidité, la cohérence, la pertinence et la fidélité factuelle (van schaik & pugh, 2024). parmi elles, les métriques sans référence comme blanc (vasilyev et al., 2020) et supert (gao et al., 2020) sont particulièrement intéressantes puisqu'elles évaluent les résumés sans nécessiter de textes de référence. les méthodes d'évaluation sans référence se divisent en trois catégories : les méthodes boîte noire analysent les sorties des modèles sans accès aux états internes ; par exemple, selfcheckgpt (manakul et al., 2023) détecte les hallucinations en comparant différentes réponses échantillonnées. les méthodes boîte blanche nécessitent un accès complet au modèle pour analyser ses poids et activations (azaria & mitchell, 2023). enfin, les méthodes boîte grise offrent un accès partiel, comme l'analyse des probabilités au niveau des tokens. notre approche, embedkdecheck, est une méthode boîte noire qui combine des plongements lexicaux d'un modèle tiers et la détection d'anomalies pour identifier les omissions. les avancées récentes en évaluation boîte noire apportent des perspectives intéressantes. la méthode chainpoll (friel & sanyal, 2023) surpasse selfcheckgpt (manakul et al., 2023) et gptscore (fu et al., 2024) sur le benchmark realhall (friel & sanyal, 2023), qui reflète fidèlement l'usage des llms. pour améliorer l'évaluation des résumés, la méthode g-eval (liu et al., 2023) intègre le raisonnement par chaîne de pensée (wei et al., 2022). concernant les ensembles de données (datasets) existants, ils ne ciblent pas les omissions. nous pouvons citer : qags (wang et al., 2020) qui se concentre sur la fidélité factuelle sans traiter le contenu manquant, drop (dua et al., 2019) qui met l'accent sur le raisonnement discret, summeval (fabbri et al., 2021) qui évalue la cohérence et la pertinence des résumés, mais ne prend pas en compte la détection des omissions, et realhall (friel & sanyal, 2023) qui établit un benchmark pour la détection des hallucinations mais ne couvre pas les omissions. ces ensembles de données ne permettent donc pas d'évaluer précisément la détection des omissions. notre ensemble de données répond à ce besoin en fournissant un cadre spécifique pour cette tâche, adapté au domaine médical et validé par des experts chirurgiens spécialisés en chirurgie hépatique et générale. en conclusion, l'évaluation des résumés générés par les llms est un défi complexe et les différentes méthodes semblent être complémentaire. notre approche, relevant des métriques sans référence et boîte noire, se concentre sur l'évaluation de la fidélité factuelle et vise à pallier les limites des méthodes existantes en offrant une meilleure détection des omissions. la méthode embedkdecheck, basée sur les plongements lexicaux et la détection d'anomalies, garantit une évaluation robuste sans exiger de ressources computationnelles excessives. en s'appuyant sur un ensemble de données spécifiquement conçu pour le domaine médical et validé par des experts, notre approche constitue une solution efficace pour améliorer la qualité et la fiabilité de la documentation médicale générée par les llms. 3 approche et expérimentations 3.1 embedkdecheck : une méthode frugale pour l'évaluation des omissions la méthode embedkdecheck évalue la cohérence factuelle en détectant les omissions dans les résumés ou reformulations sans nécessiter de références ni d'accès aux états intermédiaires des llms. cette méthode boîte noire, indépendante des références, fonctionne localement, la rendant indépendante de l'infrastructure et peu coûteuse en calcul. étant donné une entrée (ex. : un rapport) et une sortie (ex. : un résumé), embedkdecheck attribue : -un score global d'omission. -des indicateurs locaux de contenu critique manquant. l'approche analyse les distributions des plongements lexicaux des segments de texte en utilisant l'estimation de densité par noyaux (kde -kernel density estimator) @xcite . en modélisant les densités de probabilité, elle identifie le contenu de l'entrée non couvert par la sortie, signalant ainsi les omissions (figure 1 ). la kde (węglarczyk, 2018), une méthode non paramétrique d'estimation de densité @xcite , attribue des probabilités aux distributions des plongements lexicaux : pour une meilleure efficacité et frugalité, embedkdecheck exploite des plongements lexicaux ftw2v @xcite , combinant fasttext @xcite et word2vec @xcite . ces plongements lexicaux ont été ajustés sur un corpus médical diversié, plus généraliste, extrait en vrac et indépendant de l'ensemble de données utilisé pour l'évaluation. l'ensemble de données d'affinement comporte 32 millions de mots et a été fourni par l'hôpital partenaire. l'ajustement fin a été exécuté sur cpu, nécessitant seulement 2,4 go de ram et un temps d'entraînement de 1 heure 35 minutes sur un processeur intel i7-10750h. ## résultats les performances du modèle embedkdecheck pour la détection des omissions dans les résumés générés par les llm sont évaluées et présentées dans les tableaux 1 et 2. le code source ainsi que le jeu de données validé par des experts médicaux sont librement accessibles sur github à l'adresse suivante : https://github.com/achok7893/embedkdecheck_omissionsdection_ dataset_fr_healthcare. ces ressources sont mises à disposition sous une licence autorisant exclusivement leur utilisation à des fins académiques, avec obligation de citation de la publication associée. tout autre usage, notamment commercial ou industriel, est strictement interdit sans accord préalable explicite et écrit.