NeuralDTS：自然言語推論システムへの双曲分類器の組み込み

自然言語の意味を計算的に扱うアプローチには，形式言語学に基づく言語学的手法と，大規模データから知識を獲得するニューラル言語モデルに基づく手法が存在する．前者は，文の構造と意味の対応を厳密に定式化でき，推論の正当性を証明によって保証できるという利点を持つ反面，推論に必要な世界知識を公理として人手で与える必要があり，実用上の制約が大きい．対照的に後者は，柔軟な知識獲得能力を持つ反面，推論過程が不透明であり，論理的整合性や説明可能性の保証が難しいという課題がある．NeuralDTSは，依存型意味論(DependentTypeSemantics;DTS[1])に基づく証明可能な意味の理論を中核に据えつつ，外部で獲得される知識を推論に組み込むことで，言語機能と一般認知過程の相互作用を理論的・計算的に明らかにすることを目標とする研究プロジェクトである．その目標に向けて，本論文では，DTSに基づく証明構築の過程で必要とな∗本研究は著者が独自に実施したものであり，Amazonの見解や立場を反映するものではない．る概念間の包含関係に関する世界知識を，双曲分類器を用いて動的に補完する手法を提案・実装する．具体的には，上位語・下位語関係に代表される概念間の包含関係をHyperbolicEntailmentCones[2]により表現し，証明探索の過程で当該の包含関係が成立するかを判断する分類器を‘‘oracle’’として導入する．外部で学習された埋め込みを利用しつつも，その判定結果を依存型意味論に基づく推論規則として組み込むことで，推論全体を意味論的に解釈可能な枠組みに拡張することを目指す．