木構造自己注意機構による教師あり統語構造解析

近年，自己注意機構を用いた深層学習モデルTransformer[1]が，高い汎用性を持つことから機械翻訳にとどまらず，様々な自然言語処理課題に対して採用され，高い成果を挙げている．自己注意機構とは，文中の各単語間の関連性を表すスコアを算出するもので，潜在的に統語構造情報を捉えている可能性が考えられることから，これを工夫した統語構造解析手法が提案されている[2][3]．深層学習を統語構造解析に用いることで，文を連続値の情報であるベクトルで扱うことが可能となり，従来の文法規則のマッチングによる処理とは違い，より頑健な処理を実現できるという利点がある．その一方で，統語構造解析研究においては，これまでに構築された多くの統語構造解析結果のデータが存在する．双方の利点を活かすことを考え，本研究では自己注意機構を用いた教師あり統語構造解析モデルを提案する．