MCMCを用いた前提検索によるLLMの仮説推論能力の強化

近年，大規模言語モデル（LLMs）は，ChainofThought（CoT）プロンプティングによって推論能力が大幅に向上していることが示されている[1]．しかし，最も高い尤度(Plausibility)を持つ仮説を選ぶ仮説推論は，LLMがもつ推論能力が正当な推論として成り立っているものなのかを評価するのが難しい推論の一つである．人間の推論は，経験や文脈に基づく因果関係の理解によって形成されるが，LLMは統計的パターンに依存するため，因果関係を深く理解しているかを判断することが難しい場合が多い.また，LLMは観察を説明するために尤もらしい仮説を生成することはできても，その仮説を支える全ての前提を特定するのは困難である．これが，環境から前提を使いながら仮説を生成する仮説推論の完全に再現する際の大きな障壁となっている.前提の順序が推論プロセスに与える影響は，DeepMindの研究[2]により明らかになっており，前提の順序次第で精度が最大30%変動することが示されている．この知見は，関連性の高い前提を選択するだけでなく，それらを適切な順序で提示することが，LLMの推論能力を向上させるために重要であることを示唆している．本研究では，LLMに仮説推論をさせる際の問題や現象に対する解釈と推論能力を向上させるために，仮説を支持する前提条件となる命題を立てることにおいてマルコフ連鎖モンテカルロ法（MCMC）を導入し，確率論的なモデリングを通じて不確実性を管理するだけでなく，前提空間における探索と活用のバランスを取る方法を提案する．