日本語WiCにおける半教師あり学習の単語頻度に応じた性能評価

自然言語処理において,語義曖昧性解消の一形態であるWord-in-Context（WiC）タスクは,文脈理解能力を評価する重要なベンチマークとして注目されている[1].WiCは,同一単語を含む2文が与えられ,その単語が同一の意味で使用されているかを判定する二値分類タスクである.WiCデータセットの大きな課題の一つに,学習データの確保が困難であるというロングテール問題がある.言語内には出現頻度の低い単語が膨大に存在しており,これらすべてに対して十分な教師ラベルを付与することは困難である.このような少量のラベル付きデータと大量のラベルなしデータを組み合わせて活用する手法として,半教師あり学習の有効性が期待されている[2].半教師あり学習において,学習の質を左右するのは,モデルが生成する疑似ラベルの信頼性である.しかし,単語の出現頻度の違いや,疑似ラベルを採用する際の確信度の閾値設定が,最終的なモデルの挙動や文脈理解力にどのような影響を与えるかについては,詳細な分析がなされていない.そこで本研究では,日本語WiCタスクにおいて,対照学習と自己学習を組み合わせた半教師ありモデルであるCOSINE[4]と教師あり学習[3]の比較評価を行う.具体的には,対象単語をコーパス内の出現頻度に基づき4つのグループに分割し,それぞれの頻度帯における性能を検証する.さらに,疑似ラベル採用時の閾値を変動させることで,モデルの過学習の抑制と学習バイアスの相関を詳細に分析し,低頻度語を含む多様なデータに対する最適な学習戦略を明らかにすることを目的とする.