多言語評価極性判定における文法・語彙知識と生成モデルの統合

大規模言語モデル（LLM）による生成の手法は、トピック分類や評価極性判定などの分類タスクにおいても高い性能を示している[1,14]。特に、LLMが持つ言語の汎化能力により、正解データに基づくタスク毎の訓練を行わなくても適切なプロンプトを与えることによって問題の解決ができる点で注目を集めている。しかし、対応できる言語は基盤となるモデルによって異なり、学習データの量が少ない言語においては性能が低くなる場合がある。特定の言語をカバーするために基盤モデルを再学習するには大きなコストがかかる上、他の言語の性能を下げてしまうこともある。最近はモデルの知識を編集する試みも盛んであるが、課題も多い[6]。一方で、LLMに依存しない従来の手法は、タスク毎の学習や知識の構築が必要となるが、出力結果が安定することや、知識の追加などの制御が容易であるといった利点がある。機械学習に依存しない規則に基づく手法も、実応用の局面では価値がある[2]。本稿では、図1のように、多言語の評価極性判定において、構文や語彙の知識に基づいた抽出器の出力をプロンプトに組み込むことにより、LLMによる生成の改善を試みる。これによって、対応する言語の拡充や、分野適応などの制御が可能な仕組みを目指すとともに、複数のLLMの特性や、構文や語彙を考慮した知識の補完について検証・考察する。入力文プロンプトClassifyintoPOSITIVEorNEGATIVE.input:パンはおいしかったhint:おいしisapositiveJapaneseword.output:パンがおいしかった。構文解析LLMおいしい極性辞書POSITIVEパン分類評価表現抽出極性判定の概念図。