文脈内学習における文脈内事例の寄与度推定

モデルの出力を説明する一つの方針として，出力に寄与した訓練事例の提示が考えられる．近年成功を収めている文脈内学習では，通常の学習と異なり訓練事例が入力に含まれるため，入力に対する寄与度推定法をこの目的で適用できる可能性がある．本研究では，重要な事例が明らかになるよう設計した人工タスクを用いて，6種類の代表的な解釈手法の適用可能性を検証する．実験により，GradientNorm以外の解釈手法は，文脈内学習における寄与事例推定に向いていないことが経験的に明らかになった．