CrossWeighの日本語NERデータセットへの適用とラベルノイズの調査

固有表現認識（NER）とはテキストから固有表現（NE;NamedEntity）となる単語を特定し,その単語に対するNEのラベルを推定するタスクである.近年では,学習データを大量に用意し,モデルを学習させる手法[1]が多い.しかし,この学習データ内のラベルにノイズが含まれている場合,深層学習を利用した手法では,これらのノイズに対して過学習してしまい,性能劣化につながる問題が指摘されている[2].Wangらもこのラベルノイズの影響について指摘している[3].WangらによるとNERベンチマークの1つであるCoNLL03データセットにおいて,約5.38%のラベル付けミスが確認されている.さらに,これらのラベルノイズを修正したデータを用いることによって,性能向上が確認されている.Wangらは同論文内で,ラベルミスを処理するための汎用的なフレームワークとしてCrossWeighを提案している.このフレームワークを利用することで,データ内のそれぞれの文章に対して再重み付けが行われ,生成された重み付けデータを利用することによってラベルノイズの影響を軽減することができる.このような,より正確なデータを使って学習することでモデルの性能向上を図るアプローチはData-CentricAI(DCAI)と呼ばれ,注目を集めている[4][5].本研究では,CrossWeighをストックマーク株式会社が提供している,Wikipediaの日本語NERデータセット[6]に適用し,重み付けデータの生成を行う.さらに,この重み付きデータを用いて,NERモデルのFlair[7]を学習することによって,日本語でのCrossWeighの効果を確認する.また,先行研究[8]では,データセット内のラベルノイズの調査を,CrossWeighによって生成された重み付きデータの中で最も低い重みが付けられたデータから,無作為に抽出した100件のデータのみ調査を行った.本研究では,最も低い重みが付けられたデータ全てに対して調査を行った.加えて,発見したラベルノイズとNERモデルの予測スコアとの関連度に応じてタイプ分類を行い,それら2つの相関性についても調査を行った.