Chain-of-Thought過程の誘導によるLLMの性能改善と推論過程および性能の説明性向上

近年，大量の学習データやパラメータで訓練された大規模言語モデル(LargeLanguageModel，以下LLM)を用いることでさまざまなタスクの性能向上が示されている．一方で，LLMにはそのパラメータ数の多さゆえに推論過程がブラックボックス化しているという問題があり，機械学習モデルの予測根拠を説明するXAI(eXplainableAI)[1]や説明可能性[2]について研究されている.また，Chain-of-Thought[3](以下CoT)などの手法を用いることで段階的な推論が可能になり，性能向上が報告されている．一方で，どの部分の推論が解答の助けになっているかは明らかでなく，またLLMの出力には幻覚[4]が発生する場合もあり，段階的な推論を含めた出力の方法には改善の余地がある.LLMの中でもOpenAI社の提供するGPT-4はその性能が高い.しかし，GPT-4はその学習データや内部構造が公開されておらず，動作の解釈や再現，カスタマイズがより難しい．踏まえて，本研究の貢献は主に以下の二つである.一つ目に，LLMが推論過程を示しながら出力を行うのに適したフォーマットを提案し，それによりCoTの過程を分析することで，モデルの推論に貢献している推論箇所を特定することや，モデルが苦手としている推論箇所を特定できることを示した．さらにこの提案フォーマットにより，LLMのタスク性能を向上させた．二つ目に，提案フォーマットに沿って内部構造が公開されているモデルのFineTuningを行うことでフォーマットに沿った出力を可能にすることを確認した．さらに，段階的な推論が必要な法律分野のデータセットを用い，一般的な性能では劣る公開モデルでも，提案手法により推論段階によってはGPT-4に匹敵する性能を達成した．