Fermi-MCTS：フェルミ推定のためのLLM推論フレームワーク

近年，大規模言語モデル（LLM）の発展により，常識的推論や数学的推論など幅広いタスクで顕著な進歩が見られている[1,2,3]．これらの成果はLLMが知識の保持に加え，論理構造の理解や数学的推論を行えることを示唆している．一方で，これらの研究の多くは，推論に必要な数値情報や前提が与えられている状況を想定している．現実世界の多くの課題は，推論に必要な数値や前提条件を自ら補完し，それらを組み合わせて推論することが求められる．そのような課題の代表例として，フェルミ推定タスク[4,5,6]が挙げられる．このタスクは，直接測定が困難な数値を複数の中間数値に分解し，それらの数値を組み合わせて推定するタスクである．たとえば「NLP2026で飲まれるコーヒーは何杯？」という質問に対して，参加人数や1人あたりの消費量などの中間数値を仮定して計算を行う．このようなタスクをLLMが解けるようになれば，人間が行う概算の見積もりや，十分なデータが得られていない状況における意思決定を支援することが期待される．フェルミ推定は中間数値の仮定と計算を伴うため，数学的推論能力の向上が重要となる．LLMの数学的推論能力を向上させる手法として，段階的に推論を行うChain-of-Thought（CoT）[1]や，複数の推論を探索するTree-of-Thought（ToT）[2]，推論を強化q質問：NLP2026で飲まれるコーヒーは何杯？参加者人数：2,000s1s2開催日数：5s11s12s211人あたりのコーヒー消費量：1.2s212a3a1s121s211a30.10.20.5計算2000×5×1.2=12,000ステップ報酬rsteps1111s1211s2111s21211.00.90.60.5パス報酬回答選択rpath最終回答：12,000学習によって探索するモンテカルロ木探索（MCTS）[3]などの手法が提案されている．しかし，これらの手法をそのままフェルミ推定に適用すると，次の二つの課題が生じる．課題1：中間数値の誤りフェルミ推定では複数の中間数値を仮定して計算を行うが，LLMの生成する数値には誤差が含まれている可能性があり，誤差の大きい中間数値を用いると，最終的な推定値の精度が大きく損なわれる．課題2：計算全体の妥当性の欠如個々の中間数値が正確でも，それらを組み合わせる数式全体が妥当でなければ，正しい推定は困難である．そこで本研究では，フェルミ推定タスクにおいてLLMの内部知識と数学的推論を統合的に扱うための推論フレームワークFermi-MCTSを提案する（図1）．本フレームワークでは，モンテカルロ木探索を用いて推論経路を探索し，LLM内部の数値情報の信頼性と推論過程の妥当性に基づいて推論経路を誘導することで，信頼性が高く妥当な数値推定を行う．工夫１：LLM内部知識の信頼性の評価LLMのキャリブレーション研究[7,8,9]の知見を応用し，推論過程で生成される中間数値に対し，確Thisworkispublishedwithoutpeerreviewandislicensedbytheauthor(s)underCCBY4.0(https://creativecommons.org/licenses/by/4.0/).org/licenses/by/4.0/).用対数変換を行い，𝑥𝑖=log10(𝑦𝑖)を得る．次に，対数変換後の数値候補集合{𝑥𝑖}に対してカーネル密度推定を適用し，LLMが出力した数値の確率分布ˆ𝑝(𝑥)を得る：𝑚Õˆ𝑝(𝑥)=1𝑖=1𝐾ℎ(𝑥−𝑥𝑖).(1)𝑍ここで，𝐾ℎ(·)はカーネル関数を表し，本研究では次式で定義されるガウスカーネルを用いる：.(2)ℎexp−(𝑥−𝑥𝑖)2𝐾ℎ(𝑥−𝑥𝑖)=12ℎ2ℎはバンド幅，𝑍は正規化定数である．得られた確率分布ˆ𝑝(𝑦)に対して，そのエントロピー𝐻=−∫ˆ𝑝(𝑥)logˆ𝑝(𝑥)𝑑𝑦(3)を計算する．エントロピーが小さいほど，数値出力が特定の値に集中しており，LLMによる出力が一貫していると考えられるため，ステップ報酬を次式のように定義する：𝑟step=𝑓step(𝑎𝑘)=11+𝐻.(4)