MajorityorMinority:固有表現抽出におけるデータの不均衡性に着目した損失関数の提案

になっているタスクで，各トークンに対する質問応多くの自然言語処理タスクはデータの不均衡の問答タスクとしてみなして学習する機械読解(machine題に直面しており，実用的な応用がなされている固readingcomprehension;MRC)タスクとして定式化さ有表現抽出もその一つである．固有表現抽出は抽出れている．例えば「[大谷翔平]はメジャーリーグ対象の固有表現以外のトークンすべてがOクラスで二刀流として活躍している．」に人名を抽出するとなるため，Oクラスが大多数を占める不均衡な場合は「本文中に含まれる人名は誰だ」という質データとなっている．本論文では，固有表現抽出に問文に対して「大谷翔平」が抽出される．そのたおける不均衡性に着目した新たな損失関数majorityめ，MRCタスクは質問文に対応したテキスト中のorminorityloss(MoMloss)を提案する．提案手法の各トークンが抽出対象かどうかの2クラス分類問題核となるアイディアは多数派のクラスであるOクラに帰着される．系列ラベリングタスクでOクラスがスのトークンのみを計算対象したlossを従来のモデ多数派であったように，MRCタスクでも非固有表ルの損失関数に追加するものである．実験を通じて現のトークンが非常に多いため，こちらも不均衡なMoMlossがマルチクラス，2クラス分類問わず，言問題である．語非依存で性能向上に寄与することを確認した.不均衡性に対する手段として深層学習技術の親和性や導入の手軽さから，機械学習モデルの損失関