カテゴリ説明文を用いた大規模言語モデルによる日本語文書分類

文書分類は，膨大な文書データを特定の基準で定義されたカテゴリごとに整理する自然言語処理の重要なタスクである．従来，BERTなどの事前学習済みモデルを特定のタスクに適応させるFine-tuningというアプローチが主流であり，多くの分類タスクにおいて高い精度を達成してきた．しかし，これらのモデルが高い性能を発揮するためには大量のラベル付き訓練データを必要とし，データ収集やアノテーションに多大なコストを要することが課題であった．これに対し，近年のLLMでは，Zero-shotやFew-shotのような少数データ環境における高度な推論を可能にする手法が提案された．しかし，ラベルの境界が曖昧な多クラス分類において，LLMがFine-tuningを施した従来モデルに匹敵するほどの成果を示した事例は未だ限定的である．本研究では，少数データ環境におけるLLMの分類精度を向上させるため，各カテゴリの特徴を言語化した「カテゴリ説明文」を自動生成し，日本語ニュース記事分類のプロンプトに利用する手法を提案する．本手法では，各カテゴリから抽出した少数のニュース記事を要約し，それらをLLMに分析させることで，詳細なカテゴリ特有の説明文を生成する．この説明文をプロンプトに付与することで，LLMによる文書分類を試みた．評価実験の結果，提案手法は従来のZero-shot手法を上回る精度を記録した．一方で，Fine-tuningを施したRoBERTaの性能には及ばず，現状のLLMにおけるラベルの曖昧性への識別能力に課題があることを明らかにした．