記号的知識蒸留における敵対的学習の利用とその評価

大規模言語モデル（LLM）は多くの自然言語処理タスクで顕著な性能を実現しているが，知識推論のようなタスクでは依然として性能に課題があり，知識トリプルを用いた適応により知識間の関係性を明示的に学習させるアプローチが注目されている．大規模・高精度な学習用トリプルの獲得に有効なのが記号的知識蒸留である．これはLLMの持つ膨大な知識をトリプルとして出力し，知識推論モデルの学習に使用する手法である．この手法ではトリプルの一部に人手評価を行い，フィルタモデルの学習を行っている．本研究では，敵対的な学習を導入することにより，人手評価を必要としない，自動的な記号的知識蒸留を実現する手法を提案し評価する．