尤度最大化に基づく自然言語による多段推論過程の抽出への取り組み

従来，推論は論理学において形式的なスタイルを伴うものとして研究されてきた．以前の自然言語処理分野では含意関係認識の研究[1]がそれを代表するものとして取り上げられてきたが，大規模言語モデルの出現により推論自体を自然言語で行うことが可能になった[2,3,4]．言語による推論とは，観察対象の言語による認識からそれに対する因果的な帰結を説明するという形で行われ，それは前提となる情報から，結論を言語で表現するという自然言語文生成とみなすことができる．この際，一般的に前件の観察対象の情報に加えて，それに関する知識を踏まえて帰結となる自然言語文を生成することが想定される．知識は断片的に存在しているのではなく，言語の使用と結びついており，ヒトによる言語を用いた観測事象の認識は，認識に利用可能な知識を踏まえてなされており，推論は認識状態に適用可能な因果的知識によって表現されると考える．これを可能性の高い過程の元で繰り返し適用することで，ヒトは言語による思考を実現していると考える．このことから，本研究では前提から結論を導くにあたって想定される知識を，言語モデルの生成確率を用いて選択することで，前提から結論への適切な推論過程を生成する手法を提案する．実験を通じて提案手法を検証するために，多段推論のためのデータセットであるMuSiQue[5]の質問をもとに言語モデルを用いて知識を複数生成し，結論への生成確率で重み付けを行い，次の段階の知識を生成するというparticleﬁlterの考え[6]を用いて推論過程の抽出を行う．