言語モデルの思考連鎖的推論における探索戦略の動的変化

与えられた事実や規則から結論を導く推論問題において，大規模言語モデル[1,2]が一定の性能を示している．例えば図1のように，推論過程を出力させる思考連鎖（思考連鎖：与えられた前提やゴールに対して，段階的に思考をする過程を出力）を用いる事で推論能力が向上する[3,4,5]推論問題を見通しよく解くためには，次にどの事実や規則を選び適用すればよいかという探索を行う必要がある（探索：与えられた前提やゴールから妥当な結論を導くこと）[6]．しかしながら，大規模言語モデルがどのような方針で探索を行なっているのかは分かっていない．本研究では，思考連鎖指示の下で行われる推論について，推論が進む（ゴールへの距離が近づく）につれて，言語モデルの探索戦略が動的に変化している事を明らかにした．具体的には，思考連鎖的推論の段階では，大規模言語モデルは文の位置や質問文との類似度など表層的な特徴を活用した探索を行い，推論が進むにつれ，論理的に妥当な演算を行うことなどが分かった．て，各推論ステップで推論過程𝑧𝑖を出力する役割を担っている．具体的には，入力として𝑥=𝑝1,𝑝2,...が与えられた時，推論ステップ𝑖では複数の推論経路候補の中から出力確率𝑃(𝑧𝑖)が最も高い推論経路𝑧𝑖を出力する.