マルチホップQAの根拠情報を用いたLLMの“偽”正解の分析

大規模言語モデル（LLM）が様々なタスクで高い精度を達成する一方で，LLMが事実と矛盾する内容を生成することが示され[1,2]，LLMの内部知識の評価やLLMが事実に基づいて回答をできるかといった事実性に関する検証結果が複数報告されている[3,4,5,6,7]．QA問題の解決において，LLMがどのような知識に基づいて推論して回答しているのかは，回答の導出に至った導出過程を出力させ，その出力を精査する必要がある．Zhengら[7]はマルチホップQAデータセットを用いてエラー内容を人手で分類し，エラーの半数以上が事実性に関するエラーであり，知識を文章や段落等の粒度で与えることによる結果の改善を示している.ただし，このような詳細な調査においても，問題に正解した場合も含めてどの程度導出が正確に実行されていたかは明らかになっていない．我々はLLMの導出過程のきめ細かい調査の一つとして，導出情報が付与されているマルチホップQAデータセットであるJEMHopQA1）[8]を用いて1）https://github.com/aiishii/JEMHopQAJEMHopQAの正解セット質問:長嶋茂雄と小林旭，どちらが年上ですか？導出:(長嶋茂雄,生年月日,1936年2月20日);(小林旭,生年月日,1938年11月3日)回答:長嶋茂雄GPT-4の出力導出:(長嶋茂雄,生年月日,1936年1月20日);(小林旭,生年月日,1939年4月13日)回答:長嶋茂雄GPT-4が出力する質問への回答と，導出を調査した．調査結果から，回答は正解しているにも関わらず，根拠となる導出に誤りがある“偽”正解といえる現象が発生することがわかった（図1）．本稿では，JEMHopQAを用いたGPT-4の出力の評価結果および，手作業で分析した結果から“偽”正解の発生頻度やその具体例を示す．さらに，導出の誤りを，既存の構造化知識ベース(KB)がどの程度カバーできるかを調査し，LLMとKBの適切な組み合わせによる改善の可能性を示す．