プロービングとアンサンブル学習による大規模視覚言語モデルのハルシネーション検出

大規模視覚言語モデル（VisionLanguageModel;VLM）は，視覚質問応答(VQA)，画像キャプション生成などのタスクにおいて著しい性能向上を示している[1,2,3,4]．一方，画像中に存在しない事実や視覚的根拠に基づかない内容をもっともらしく生成してしまう「ハルシネーション」は，信頼性や安全性の観点から深刻な問題[5,6,7]であり，その検出や抑制は重要な課題となっている．VLMのハルシネーション検出に関する既存研究は，主にモデルの出力[8]と内部表現に基づく手法[5,9,10,11]に分類できる．出力ベースの手法では，生成テキストそのものや，生成確率や自己整合性などの指標を利用する．これらの手法は，モデルに依存しにくいが，リアルタイム検出が難しく，モデルが自信を持って誤っている場合は検出が難しいという問題がある．内部表現ベースの手法では，注意機構の出力や隠れ状態といったモデル内部を解析org/licenses/by/4.0/).org/licenses/by/4.0/).スティック回帰による教師あり学習を行う．𝑦=𝜎(w⊤e+𝑏)ここで，𝜎(·)はシグモイド関数，wは重み，𝑏はバイアス項である．学習データ数，モデルの軽量性と可読性を考慮し，ロジスティック回帰を採用した．3.3検出モデルのアンサンブルまず，検証データを2つに分割する．検証データ1を用いて，注意機構の出力および隠れ状態のそれぞれについて，AUCが高い上位𝑁個の検出モデルを選択する．次に，検証データ2を使って，選択したモデルのうち𝑚個による平均アンサンブルの性能を評価し，最適な組み合わせを決定する．さらに，隠れ状態と注意機構の出力のそれぞれで選んだ組み合わせを統合し，両者のアンサンブルも行う．4実験設定本実験では，以下の3つの問いを検証する．1.複数の内部表現に基づいて学習した検出モデルをアンサンブルすることで，単一の検出モデルより検出精度は向上するか．