État de l’art : évaluation, détection et mitigation des hallucinations des LLM s (2025)

Abstract: Cet article présente un état de l’art sur les hallucinations produites par les grands modèles de langue (LLMs). L’objectif de ce travail est double : dresser un panorama des recherches actuelles dans ce domaine et souligner l’importance de prendre en considération les hallucinations lors de la conception des systèmes incorporant des LLMs. Pour ce faire, nous commençons par la définition du problème. Nous présentons ensuite les différentes méthodes d’évaluation, suivis des techniques de détection et de mitigation des hallucinations, tout en discutant leurs forces et limites méthodologiques.

## introduction les grands modèles de langue, ou large language models (llms), ont connu un engouement croissant ces dernières années, notamment depuis l'avènement de l'architecture fondée sur les transformeurs @xcite . leur usage et les systèmes qui les intègrent ont considérablement évolué, donnant lieu à des applications en constante amélioration, comme en témoignent les chatbots tels que chatgpt @xcite , claude (anthropic, 2023) ou encore le chat @xcite . malgré leur adoption rapide et massive par le grand public, un problème majeur persiste et compromet leur déploiement responsable dans certains secteurs : les hallucinations @xcite . ce phénomène, où les modèles génèrent des informations incorrectes ou non fondées avec une grande confiance, représente un défi crucial pour la communauté scientifique et les utilisateurs. le but de cette revue de littérature est de montrer que prendre en considération les hallucinations lors du développement de systèmes fondés sur des llms permet de mieux appréhender leur fiabilité ainsi que leurs performances générales. elle s'articule autour de trois axes principaux. dans un premier temps, nous examinons les différentes définitions des hallucinations (section 2), et l'analyse de leurs caractéristiques et manifestations dans le contexte donné. ensuite, nous explorons les méthodes d'évaluation de ce phénomène à travers la présentation de diverses stratégies d'évaluation (section 3). enfin, cette revue discute des approches actuelles et émergentes pour la détection et la mitigation des hallucinations (section 4), ainsi que de leurs implications pour le développement futur des llms (section 5). ## définitions avant d'explorer en détail le phénomène des hallucinations dans les llms, il convient d'établir un cadre terminologique précis : ## détection et mitigation les hallucinations, inhérentes aux llms @xcite , nécessitent des stratégies robustes de détection et de mitigation. cette section explore ces deux aspects de manière conjointe, en raison de leur complémentarité, et souligne leur importance pour un déploiement responsable des llms. nous examinons les méthodes pertinentes à chaque étape du développement d'un llm : pré-entraînement et collecte de données, alignement, modification de l'architecture, ainsi que les phases liées à la génération de tokens (pré-génération, décodage, post-génération). un récapitulatif de ces méthodes est présenté dans le tableau 2. ## limites compte tenu de la rapidité d'évolution du domaine, cet état de l'art a été construit en s'appuyant sur des synthèses existantes et une analyse des publications de l'année passée parues sur des sources variées (archives, conférences, etc.) ainsi que sur les références bibliographiques de ces dernières. cette méthodologie, non systématique, implique que l'état de l'art n'est pas exhaustif. ## conclusion ce travail montre que la quantification, la détection et la mitigation des hallucinations dans les llms constituent des domaines en pleine évolution, avec des avancées considérables ces dernières années. la diversité et l'efficacité des stratégies présentées montrent qu'une prise en compte rigoureuse des hallucinations dans l'architecture des systèmes llms peut drastiquement améliorer leurs performances et leur fiabilité. les techniques actuelles, qu'elles interviennent au niveau du pré-entraînement, de l'alignement, de la modification architecturale ou en post-génération, ouvrent la voie à des approches permettant non seulement de détecter les erreurs, mais également de les corriger de manière proactive. en parallèle, l'essor de méthodes peu coûteuses et efficaces, ainsi que des stratégies d'évaluation de plus en plus sophistiquées, laisse entrevoir la possibilité d'un déploiement de llms plus responsables, performants et transparents quant à leurs forces et leurs limites.