大規模言語モデルにおけるICLバイアスの選択的補正

大規模言語モデルを用いた質問応答システムが広く注目されているが,生成される回答にはさまざまなバイアスが生じることが指摘されている.本研究では,LLMがIn-ContextLearning(ICL)における例示の与え方によって引き起こすバイアスに対し,キャリブレーション手法とRetriever-AugmentedGeneration(RAG)が与える影響を検証する.特に,与えたICL例示によってモデルの予測が大きく変動する問題をICL依存問題と定義し,それらを選択的に補正するキャリブレーション手法を提案した上で,RAGとの併用効果を評価した.実験の結果,従来手法よりも効果的にICLによるバイアスを抑制し,特定条件下では精度でも従来手法を上回ることを確認した.