本研究では,日本語WiCタスクにおいて,半教師あり学習モデルCOSINEの性能を,単語の出現頻度に基づいて分析した.対象単語を頻度別に分割し,疑似ラベル採用時の確信度閾値を変化させた場合の挙動を,教師あり学習（SL）と比較した.その結果,中頻度語においては,COSINEが低い閾値設定でSLに見られる過学習を抑制し,文脈をより適切に捉える傾向が確認された.一方,低頻度語では,ノイズの影響でCOSINEの性能が低下し,SLの方が高い正答率を示すケースも観測された.結論として,COSINEは過学習抑制を目的とした正則化的手法として有効であり,単語頻度や確信度に応じて手法や閾値を切り替えるハイブリッド戦略の有効性が示唆された.

自然言語処理において,語義曖昧性解消の一形態であるWord-in-Context（WiC）タスクは,文脈理解能力を評価する重要なベンチマークとして注目されている[1].WiCは,同一単語を含む2文が与えられ,その単語が同一の意味で使用されているかを判定する二値分類タスクである.WiCデータセットの大きな課題の一つに,学習データの確保が困難であるというロングテール問題がある.言語内には出現頻度の低い単語が膨大に存在しており,これらすべてに対して十分な教師ラベルを付与することは困難である.このような少量のラベル付きデータと大量のラベルなしデータを組み合わせて活用する手法として,半教師あり学習の有効性が期待されている[2].半教師あり学習において,学習の質を左右するのは,モデルが生成する疑似ラベルの信頼性である.しかし,単語の出現頻度の違いや,疑似ラベルを採用する際の確信度の閾値設定が,最終的なモデルの挙動や文脈理解力にどのような影響を与えるかについては,詳細な分析がなされていない.そこで本研究では,日本語WiCタスクにおいて,対照学習と自己学習を組み合わせた半教師ありモデルであるCOSINE[4]と教師あり学習[3]の比較評価を行う.具体的には,対象単語をコーパス内の出現頻度に基づき4つのグループに分割し,それぞれの頻度帯における性能を検証する.さらに,疑似ラベル採用時の閾値を変動させることで,モデルの過学習の抑制と学習バイアスの相関を詳細に分析し,低頻度語を含む多様なデータに対する最適な学習戦略を明らかにすることを目的とする.