RAGにおけるLLMの学習と評価：FAQタスクへの応用

大規模言語モデル(LargeLanguageModel:LLM)はその汎用性の高さから，実応用を含めた様々な利活用が進んでいる．昨今では文書などを追加入力として与えることで，外部知識を参照させながらLLMを運用するRetrieval-AugmentedGeneration(RAG)などの手法の有用性が改めて認識されている．一方で，Low-RankAdaptation(LoRA)などの軽量なﬁne-tuning手法なども確立されつつある．そこで本稿では，参照知識が限定的なFAQタスクを例に取り，RAGと比較した際の質問応答タスクにおけるLLMﬁne-tuningの有用性を検討する．並行して，実運用を踏まえた評価についても議論する．