Single-SLMにおける推論フレームワークの分析

近年，計算資源の制約や運用コストの観点から，ローカル環境で動作する小規模言語モデル（SLM）への注目が増している．しかし，SLMはパラメータ数の制約により推論能力が低く，複雑なタスクでハルシネーションを起こしやすい．大規模モデルではマルチエージェントの議論が有効とされるが，単一モデルのSLM（Single-SLM）での効果は自明でない．本研究では，Single-SLMの推論フレームワークが，推論の信頼性と多様性に与える影響を検証する．具体的には，2つの推論タスクを用い，エージェント間で対話する議論型と，タスクを分割する分業型を比較した．さらに，発言のコサイン類似度から思考の多様性に与える影響を調査した．