P2LD:隠れ状態差分によるFew-shotハルシネーション検知

大規模言語モデル（LLM）は質問応答や要約など多様なタスクで高性能を示す一方，流暢だが根拠のない出力（ハルシネーション）を生成しうる．出力ベースの検知に加え，内部表現を用いるプロービングは有効であるが，Mixture-of-Experts（MoE）モデルでは層ごとの表現が入力により変動し，単一層に依存する手法は層選択の不安定性を抱えやすい．またハルシネーションのラベル付きデータは収集コストが高く，Few-shot条件では高次元特徴に起因する過学習が顕在化する．そこで本研究では，回答トークンの層間差分特徴に対し，各層でRobustscalingとPCAにより冗長性を抑えた後，PLS回帰により目的変数と共分散が大きい1次元潜在変数を抽出，全層を連結してロジスティック回帰で判定するPCA-PLSLayerwiseDiﬀerence（P2LD）を提案する．HaluEvalのQAデータセット上で2種のMoEモデルを評価した結果，全サンプル学習では従来手法（SAPLMA）と同等の性能を維持しつつ，Few-shot条件で一貫して性能と学習安定性を改善した．