事前学習済み言語モデルの知識に基づく演繹推論能力の調査

近年，ニューラルネットワークの実用化に伴い，自然言語で記述された簡単な推論の問題に対して高い正解率で解答することができる言語モデルが複数提案されてきた．しかしながら，ニューラル言語モデル(LM)による推論の過程は一般的にブラックボックスであり，LMに論理的な推論過程を再現する能力があるかどうかは依然として疑問が残されている．本稿ではこの疑問に対し，訓練の過程においてLMが，基礎的な推論能力の1つである演繹推論を行う傾向があることを示すことにより，以降LMの推論能力を調査する足掛かりとする．