多様な言い換え生成と自己学習手法の統合による大規模言語モデルへの新規知識の追加学習

大規模言語モデル（LLM）に、新たな知識を追加学習によって取り込むことは、いまだ困難なタスクと言われている。近年はRAGのように外部情報を参照する手法が注目されているが、この手法においては、LLM内部に蓄積された膨大な知識と新たな情報を統合し、高度な推論を行うことは依然として難しい。本研究では、LLMが自己学習を行う手法や、DPO（DirectPreferenceOptimization）による選好最適化手法から着想を得て、LLMに新規知識を効果的に埋め込む枠組みを提案し、その有効性を検証する。