復号手法が大規模言語モデルにおける不確実性推定に与える影響の調査

GPT-3.5/4やLLaMAなどの大規模言語モデル（LargeLanguageModels,LLM）は、自然言語処理における様々なタスクの性能を大きく発展させた．しかし，生成テキストに誤情報を含む「幻覚」をはじめとした品質の低い出力が依然として存在するため，特に医療や金融といった確実性が重要な領域での活用には課題が残されている．本研究では，生成テキストの品質向上を目指す復号手法が，質問応答と要約タスクにおいて大規模言語モデルの不確実性推定性能に与える影響を調査した．実験により，貪欲探索やビーム探索のようなシンプルな復号手法が，不確実性推定性能の観点で優れていることが判明した．