コストと精度を考慮した質問と文書に基づく適応的RAG選択

大規模言語モデルの応答品質の向上を目的として，多様なRetrieval-AugmentedGeneration（RAG）が研究されている．例えば，知識グラフや要約を用いて外部知識を活用するRAGがある．一方で，単純な質問にはNaiveRAGで実用的な精度を維持できる．高度なRAGはコストを増大させ，実運用における効率を低下させるため，入力に応じたRAG構成の選択が必要である．提案手法は，質問と文書から抽出した特徴量を用いてランキングモデルが性能指標の順位を予測し，ユーザが設定した重みに基づいて適応的な構成を選択する．評価実験の結果，重みに応じたRAG構成の選択が可能であり，全質問に対して同一のRAG構成を適用した場合と比較して𝐹1値を向上させ，実行時間を短縮した．