P2LD:隠れ状態差分によるFew-shotハルシネーション検知

LLMは質問応答や要約など多様なタスクで高性能を示す一方，流暢だが根拠のない出力(ハルシネーション)を生成しうる．ハルシネーションは事実性を損なう重大なリスクであるため，その検知や抑制に関する研究が盛んに行われている[1,2]．ハルシネーションには忠実性および事実性に関する大きく2つのカテゴリがあり[1]，特に事実性に関するものは利用者が気づきにくく，有害な場合が多い．事実性ハルシネーションの推論時の要因は主に2つある．1つはモデルが知識を持たず捏造するケースで，RAG[3]や生成後の編集[4]が有効な対策となる．2つ目は，知識を保持していても適切に想起できなかったり，文脈や誘導により誤るケースである[5,6]．モデルは自らの知識状態を完全には反映できず，確信のない内容を断定することもある[7]．こうしたケースでは，内部状態や生成過程の兆候を用いた検知が依然として重要である．検知手法にはモデル出力のみを評価するブラックボックス型の手法に加え，内部表現で分類器を学習するホワイトボックス型の手法が提案されている[8,9]．特に特定層の隠れ状態を用いる線形プローブは，計算効率が高く実装も容易である[10,11]．しかし近年のLLMはMoE化が進み[12,13]，内部表現が入力により多様に変動することで，最適な層の選択が不安定になる懸念がある[14]．また，高次元の隠れ状態から学習するプロービングは少数のラベル付きデータでの過学習のリスクが高い．そこで本研究はFew-shot学習が可能なプロービング手法，P2LDを提案し，MoEアーキテクチャのLLMを対象としてその有効性を検証する．提案手法は，層ごとの差分ベクトルをPCAにより低次元に圧縮し[15]，さらにPLSにより目的変数との共分散が大きい潜在変数を抽出する[16]．最後にこれらを層方向に連結し，ロジスティック回帰により適切なレイヤーへの重み付けを学習する．これらの工夫により提案手法は隠れ状態の全層情報を使うことで特定層の選択問題を回避しつつ，必要な学習パラメータ数を抑えることで，学習サンプル数が極めて限られる状況でも有効な手段となりうる．提案手法はHaluEval[17]のQAデータセットにおいて，従来手法であるSAPLMA[9]と多角的な性能比較を行い，Few-shot条件において大きな性能改善を示した．本研究の主な貢献はFew-shot学習条件でありながらも，学習サンプルで過学習しづらい手法を明らかにした点にあり，これらの結果は信頼性のあるLLMアプリケーションをより低コストかつ高速に提供する技術として寄与する．