言語モデルを用いた定量的推論機能の実現に向けて

十分な大きさを持つ言語モデルには，ChainofThought[1]など多段の手続きによる人間の思考過程の模倣を始めとし，様々な推論能力が備わっていることが確認されている．大規模言語モデルは大量のコーパスを学習することにより，記号としての言語を因果性を含めた自然言語文を生成するという形で操作することが可能である．しかし実世界をつなぐ記号操作，つまり，実世界環境と対応した定量的な言語による推論は十分に検証されていない．以上より，本研究では言語モデルに実世界における物理的推論能力を組み込むことを考え，推論のなかでも，実世界で観測された現象を曖昧な言語を用いて表現し，定量的に推論を行うファジィ推論を組み込む手法を開発する．具体的な課題として，物理環境における因果性にまつわる常識が記述された自然言語データセット[2]を用いて提案手法を検証する．本稿では特に，「かなり」「少し」という曖昧な程度の表現を含む文章を事前に学習させることで意味合いを理解させ，定量的な物理量に反映させることに着目する．