サブワード非依存の辞書ベースBERTモデルを用いた

本研究では，日本語文法誤り検出の実用性向上を目的とし，データセットとモデル構成の改善を行った．われわれの先行研究で用いたデータセットでは，未知語処理をサブワード分割に依存していたため，誤り文特有の未知語によりトークンが過度に細分化される問題があった．そこで，誤り文と訂正文の対応関係に基づいてトークンを再割当てし，データセットを再構築した．また，再構築したデータから生成した辞書に基づく独自トークナイザを設計した．さらに，誤り位置を直接推定する手法に加え，文レベルの正誤判定後に誤り位置推定を行う二段階モデルを提案し，構文情報の有効性についても検討した．