MajorityorMinority:固有表現抽出におけるデータの不均衡性に着目した損失関数の提案

数を設計するcostsensitivelearningが現在の主流の多くの自然言語処理(naturallanguageprocessing;一つである[5,6,7].その中でもfocalloss(FL)[5]やNLP)タスクはデータの不均衡性の問題に直面してdiceloss(DL)[7]は既存の有効的な手法として広くおり，固有表現認識(namedentityrecognition;NER)知られている．FLはコンピュータビジョン分野でもその一つである.具体的に，非固有表現であるO効果が確認された損失関数で，物体検出タスクの背クラスのサンプル数はCoNLL2003データセット[1]景と検出対象の前景との不均衡性に着目して設計さにおいては,それ以外の固有表現クラスのサンプルれた．NLPタスクにも応用され一定の成果を上げて数の合計の4.6倍,OntoNotes5.0データセット[2]にいる[8]．またDLはNLP分野のいくつかのタスクおいては7.6倍である.そのため結果として一般的で効果が確認され，評価指標であるF1スコアに近な機械学習モデルを適用した場合，多数を占めるOいダイス係数を使用することで不均衡性に対処するクラスへの適合が優先され，他の少数の固有表現ク損失関数である[7]．しかし2クラス分類に基づいラスの予測性能が低下する恐れがある．したがってて設計されたFLやDLは2クラス分類問題としてこの不均衡な問題に対策することはNERの予測性扱うMRCタスクには適用可能だがマルチクラス分能の向上において普遍的で重要な課題である．類である系列ラベリングタスクに適用することは困NERは細かくﬂat-NER[3]とnested-NER[4]に分難である．従ってNERを系列ラベリングタスクとけられる．ﬂat-NERはテキスト内の各トークンに1して解く際にも適用可能な不均衡性に対処できる損つのラベルを割り当てるように訓練する系列ラベリ失関数が必要である．ングタスクとして定式化され，各トークンの固有本論文では,圧倒的多数であるOクラスおよび，表現ラベルを予測するマルチ分類問題に帰着され少数の各固有表現クラスの識別精度の両立を実現―1526―.するmajorityorminorityloss(MoMloss)を提案する．MoMlossは元の機械学習モデルの損失に追加するシンプルかつ汎用的な手法で，多数派のクラスデータのみに対する任意の損失関数として定義される．本論文で扱うNERの系列ラベリングタスクにおいてMoMlossは正解ラベルがOクラスのトークンに対する損失として定義される．少数派クラスから多数派クラスへの誤識別は，当該少数派クラスのprecisionの大幅な低下をもたらす．提案するMoMlossは各クラスのデータ数に応じて学習係数や損失関数を調整するような従来の手法と異なり，多数派クラスの誤識別に対して直接ペナルティを課してそれを減らすように学習することで結果として少数派クラスの予測性能を大きく向上させ，全体の識別率の向上に繋げる．また提案するMoMlossは任意の損失関数に適用可能であるため，MRCタスクにおいても適用可能である．