BERTを用いた日本語文のボトムアップ語順整序とその評価

日本語は語順が比較的自由であるといわれているが，語順に関する選好がないわけではない[1]．そのため，文法的な誤りがないだけでなく，読みやすい語順であることも文生成において重要となる．語順整序に関する研究は，推敲支援や文生成などへの応用を目的に，これまでにもいくつか行われている[2,3,4,5,6,7,8,9,10,11]．このうち，内元ら[2]は，日本語の語順の傾向をコーパスから学習する手法として，日本語における語順決定に関わる様々な要因を素性として用いて，統計的に語順を整える手法を提案している．また，高須ら[3]は，文生成への応用を目的に，内元らの素性に加えてRNN言語モデル(RNNLM)を用いた語順整序手法を提案している．内元ら[2]や高須ら[3]は，同じ文節に係るもの同士でまとめた各文節集合を対象として語順整序を行っているが，1文全体の語順整序は行っていない．また，Kuribayashiら[4]は，日本語文の語順を評価するために言語モデルを利用することを提案し，語順分析において言語モデルを用いることの有用性を示した．しかし，1文中の動詞や文節数を制限しており，複雑な文を対象としていない．本稿では，文生成のための要素技術として，1文を構成する全ての文節の集合を読みやすく並べる手法を提案する．具体的には，文節間の係り受け関係は既知であることを前提として，1文の係り受け構造を表す木（以下，係り受け木）に対して，BERT[12]に基づくモデルをボトムアップに適用し，語順整序を行う手法を提案する．語順整序実験の結果，先行研究を上回る精度を達成した．