LLMにおけるハルシネーションの原因別検出手法の比較

近年,大規模言語モデル(LLM）は驚異的な発展を遂げ,様々なタスクにおいて人間と同等以上の性能を示している.しかし,LLMの実社会への応用,特に高い信頼性が求められる医療,法律,金融といった領域への導入において,ハルシネーションの存在が深刻な障壁となっている.ハルシネーションとは,モデルが事実と異なる内容を生成する現象である.この課題に対する有効な対抗策として,モデル自身の回答に対するハルシネーションの検出が挙げられる.回答の正確さを事前に予測し,信頼度が低い場合には回答を棄却したり,RAGで外部知識を検索して再生成させたりすることができる.ハルシネーションの原因は一般に,データのノイズや曖昧性に起因するAleatoricUncertainty(AU)と,モデルの知識不足等に起因するEpistemicUncertainty(EU)の2つに大別される[1].一般的なQAタスクでは質問文が明確であるため,AUの影響は小さく,誤答の主因はEUにある.そこで本研究では,このEUをさらに,モデルに必要な知識自体が欠落していることに起因するKnowledgeGapと,必要な知識は保持しているが論理推論の過程を誤ったこorg/licenses/by/4.0/).org/licenses/by/4.0/).ごとにハルシネーション検出手法の性能を評価する.対象モデルの設定,各検出手法の概要,評価指標および評価手順を示した上で,原因別の検知性能の比較結果を報告する.3.1モデル設定本実験では,検証対象の言語モデルとしてLlama3.18B-Instructを使用した.推論時の生成パラメータについては,Temperatureを0.5,Top-kを50,MaxNewTokensを64に設定した.3.2ハルシネーション検出手法ハルシネーション検出の実装には,言語モデルのハルシネーション検出手法分析ツールであるLM-Polygraph[2]を使用した.本実験では,以下の5つの手法を採用した.•自然言語:モデルに自身の回答の確信度を言語化させる手法として,PTrue[4]を使用した.回答を出力した後にその正誤を問うプロンプトを入力し,「True」と生成される確率を利用する.•一貫性:複数回答の一貫性を測る指標として,意味的な分散を考慮したSemanticEntropy[5]を使用した.同一の問題に対して複数の回答をサンプリングし,それらを意味的に等価なグループに分類した上でエントロピーを算出することで,不確実性を評価する.•ロジット:出力トークンの確率分布に基づく手法として,シーケンス全体の確信度を測るMaximumSequenceProbability(MSP)を使用した.各ステップで生成されたトークンの対数確率を合計してシーケンス全体の尤度を算出し,モデルが生成過程全体に対してどの程度自信を持っていたかを計算する.•隠れ状態:モデルの内部表現（隠れ状態）を用いる手法として,埋め込み空間におけるマハラノビス距離を用いるMahalanobisDistance[6]を使用した.参照データセットから得られる隠れ状態の分布を多変量正規分布として近似し,推論時のデータがその分布の中心からどれだけ離れているかを計算する.•アテンションヘッド:アテンションヘッドの重みを用いる手法として,RAUQ[7]を使用した.ハルシネーションが発生する際に特定のヘッドにおいて直前のトークンへのアテンションが低下するという現象を利用し,信頼度を推定する.3.3評価手順本実験の目的は,前節で構築したデータセットに基づき,KnowledgeGapおよびReasoningErrorの2つのハルシネーションの発生原因ごとに各検出手法の性能評価を行うことである.評価指標には,ハルシネーション検出の有効性を測る指標としてPredictionRejectionRatio(PRR)[8]を採用した.本指標は，全データセットにおける正答率と，ハルシネーションである可能性が高いと推定された回答の上位50%を除外したデータセットにおける正答率との差分として定義される.この差分をランダム棄却を基準として正規化したものである.指標値は－1から1の範囲を取り，0はランダム棄却と同等の性能を示す.負の値は，ランダム棄却よりも検出性能が劣ることを意味する.•KnowledgeGap検出用:「KnowledgeGap（知識不足による誤答）」と「NoMistake（正答）」を混合したデータセット.ReasoningErrorと実験条件を統一するため,KanowledgeGapの件数を310件に制限した.•ReasoningError検出用:「ReasoningError（推論ミスによる誤答）」と「NoMistake（正答）」を混合したデータセット.これにより,各手法が「知識の欠如」と「推論の誤り」に起因するハルシネーションのそれぞれに対して,どの程度高い検知性能を示すかを評価する.3.4結果各ハルシネーション検出手法に対して,ReasoningErrorおよびKnowledgeGapに基づくPRRを算出した結果を図3に示す.全体として,すべての手法においてReasoningErrorに対する検知性能がKnowledgeGapよりも高い傾向が確認された.まず,自然言語に基づく手法（PTrue）は,ReasoningErrorとKnowledgeGapのいずれにおいてもPRRが負の値を示しており,ランダムに近い,あるいはそれ以下の性能であることがわかる.特にKnowledgeGapにおいて顕著な性能低下が見られた.この結果は,自然言語ベースの信頼度推定が,マルチホップ推論を要する問題に対して難易度が高く,ハルシネーションを十分に検知できていないことを示唆している.同様に,隠れ状態（MahalanobisDistance）を用いた手法においても,KnowledgeGapに対する検知性能はorg/licenses/by/4.0/).低く,マルチホップ問題に対する頑健性の不足が確認された.これらの手法は,モデル内部表現を利用しているものの,知識欠如に起因するハルシネーションを十分に捉えられていない可能性がある.また,自然言語に基づく手法（PTrue），ロジットに基づく手法（MaximumSequenceProbability），および隠れ状態に基づく手法は，KnowledgeGapとReasoningErrorの間で検知性能に大きな差が見られた.これらの手法は主に最終層の出力表現に基づいて判定を行うため，推論過程の破綻には敏感である一方，モデル内部における知識表現の不足が顕在化しにくいKnowledgeGapに対しては十分に検知できていない可能性がある.これに対し，一貫性に基づく手法（SemanticEntropy）およびアテンションヘッドに基づく手法（RAUQ）は，両ハルシネーション原因においてほぼ同等の性能を示した.特にRAUQは，中間層を含むアテンションヘッドの挙動を考慮することで，知識の欠如と推論過程の誤りの双方に起因する異常を捉えていると考えられる.その結果，ReasoningErrorとKnowledgeGapのいずれに対しても高いPRRを維持し，原因に依存しない安定した検知性能を示した.以上の結果から,ハルシネーション検出手法には,原因（KnowledgeGap/ReasoningError）によって検知性能が大きく変化するものと,原因に依存せず比較的安定した性能を示すものが存在することが明らかになった.先行研究の多くはQAタスクを一様な設定として扱い,ハルシネーション原因を区別せずに評価を行っている.しかし,本研究の結果は,検出手法の性能評価においてハルシネーションの原因を明示的に考慮する必要性を示しており,今後の評価設計や手法比較において重要な観点であると言える.4結論本研究では,マルチホップQAタスクを用い,ハルシネーション原因をKnowledgeGapとReasoningErrorに分類した上で,ハルシネーション検出手法の性能比較を行った.その結果,ロジットおよび隠れ状態に基づく手法は,ハルシネーション原因によって検知性能が大きく変化する一方,一貫性やアテンションヘッドに基づく手法は,原因に依存せず比較的安定した性能を示すことが明らかになった.これらの結果から,ハルシネーション検出手法には,原因によって性能が変動するものと,変動しにくいものが存在することが示された.先行研究では,QAタスクを一様に扱い,ハルシネーション原因を区別せずに評価を行うことが多かったが,本研究の結果は,検出手法の性能評価においてハルシネーション原因を考慮する重要性を示している.今後は,他モデルや異なる検出手法への適用を通じて,これらの傾向の一般性を検証する必要がある.ハルシネーション原因ごとの特性理解を深め,原因に応じた検出手法の選択や統合に向けた指針を確立することが期待される.org/licenses/by/4.0/).