BERT-CRFを用いた日本語機能表現意味ラベル付与

複数の形態素から構成され，一つの機能語として働く表現は，「機能表現」と呼ばれ，文の意味に大きく関わっている．機能表現を正確に抽出し，意味ラベルの付与を行うことは，事実性解析やモダリティ解析などの応用タスクでも重要である．佐野ら[1]は機能表現を考慮したモダリティを用いて，文末述語を用いた2文間の接続関係推定を行っている．亀甲ら[2]は，将棋の解説文生成において，機能表現を考慮した，モダリティ情報のアノテーションを行っている．また，友利ら[3]は，モダリティ表現認識と事象の事実性解析のマルチタスク学習を行い，モダリティ情報の解析を行っている．一方，様々な自然言語処理のタスクで，BERT[4]などの，大規模汎用言語モデルを利用した手法が提案されており，系列ラベリングタスクにおいても，優れた性能を達成している．田川ら[5]は，医療分野における日本語固有表現認識において，BERT-CRF[6]を用いた系列ラベリングタスクを行い，優れた性能が得られることを報告している．本研究では，系列ラベリングタスクにおいて，大規模汎用言語モデルを用いた手法が有効であることに注目し，系列ラベリングタスクの1つと見なすことができる，機能表現意味ラベル付与においても，BERT-CRFが有効であるかを検証する．これまで，日本語機能表現に対して系列ラベリングを行っている研究としては，CRFを用いた手法[7]などがある．このCRFをベースラインモデルとし，事前学習済みのBERTモデルに対して，ファインチューニングを行うことで，機能表現意味ラベル付与を行った．CRF，BERT，BERT-CRFのそれぞれに対して実験を行い，性能の比較を行った．