潜在多様体に基づく中間推論のステアリング

Chain-of-Thought(CoT)は，中間推論を明示的に出力することで，大規模言語モデル(LLM)の性能を向上させることができる．しかしながら，LLMは最終的な回答が正解であっても，論理的に不整合な推論ステップを生成し，中間推論の信頼性を損なうことが指摘されている．本論文では，中間推論の品質を向上させるための潜在多様体に基づく手法を提案する．提案手法は，高品質なCoTの軌跡が形成する潜在空間をVAEにより学習する．GSM8kデータセットに対する評価実験の結果，提案手法は正答率を最大2.6ポイント，推論品質を最大5.3ポイント向上させた．本結果は，提案手法がLLMの中間推論品質の改善に有効であることを示唆する．