マルチラベル分類のための重みつき非対称損失関数

マルチラベルテキスト分類(MLTC)は、自然言語処理の中でも重要な課題の一つであり、今日実世界の様々な場面で適用されている。たとえば、法律文書の分類[1]、カルテによる自動診断[2]が挙げられる。MLTCでは文書𝑥𝑖∈𝑋に対して、事前に定義されたラベルから適切なラベルのサブセット𝑦𝑖∈{0,1}𝐶を付与するタスクである[3,4]。なお、ここで𝑋は文書の集合であり、𝐶は事前に定義されたラベルの総数である。MLTCにおいてベンチマークとして広く利用されているReuters-21578[5]のデータのサンプルを図1に示す。MLTCの特徴として、ラベルの頻度がロングテール分布に従う不均衡データセットが挙げられる。一例として、図2にReuters-21578の各ラベルの頻度分布を示す。図2が示すとおり、低頻度ラベルはポジティブサンプルから学習することは稀であり、殆どの場合ネガティブのサンプルから学習する。これは、Imbalancedlearningと呼ばれ、機械学習の分類問題における大きな課題の一つである[6,7]。この課題を解決するために、画像分類分野では損失値に重み付けを行うような様々な損失関数手法が提案されている[8,9,10]。さらに、これらの手法は自然言語処理分野にも流用され、効果を発揮している[11]。本研究では、ラベルの共起情報をもとにした重みとラベルの頻度から構成された重み、ネガティブサンプルの影響を軽減する重みを組み合わせ、不均衡データセットの影響を抑制するような損失関数を提案する。