日本語のMathWordProblemsに対する深層学習モデルの適用とデータ拡張の検証

Transformerなどの近年の深層学習モデルは，多くの自然言語理解を必要とするタスクで高い性能を記録している．しかし，数学や物理の文章題などの定量的な推論が必要なタスクでは，近年の言語モデルでも十分な結果を残せていない[1]．本稿では，Math23Kというデータセットを利用して，日本語MWPタスクに対して，既存の深層ニューラルネットモデルを組み合わせたモデルを適用し，検証を行う．なお，Math23Kデータセットの問題文は，中国語で書かれているため，機械翻訳を用いて問題文を日本語に翻訳しデータとして用いる．モデルの組み合わせとしては，Goal-drivenTreeStructured(GTS)ネットワーク，BERT,およびGraph2Treeの3つを組み合わせたものを用いる．特に，BERT-GTSの組み合わせと，BERT-Graph2Tree-GTSの組み合わせの比較を行う．後者は，問題文中のトークンのBERTの埋め込み表現をノードとして持つ特定のグラフを，中間表現として用いて，その後グラフ畳み込みを行う手法であり，実際に後者のほうが精度が高くなることを示す．さらに，解答となる数式を表現する木構造の可換ノードの置換や，問題文中の単語の置き換えによるデータ拡張により，精度の向上が見込めるかについて，検証を行う．