文脈内学習における文脈内事例の寄与度推定

ニューラルモデルの出力を説明する主なアプローチとして，(i)どの訓練事例が出力に寄与したのか[1,2]と(ii)入力のどこが出力に寄与したのか[3,4]が研究されてきた．近年の大規模言語モデルに対してもそれぞれのアプローチで研究が行われている[5,6,7]．大規模言語モデルは少数の具体例（少数事例）と共に解きたい事例（目標事例と呼ぶ）を入力してタスクを解かせる文脈内学習（in-contextlearning）[8]が成功しているが，少数事例のうちどれが出力に影響を与えたのかという寄与度の推定方法について研究は限られている．文脈内学習の場合は訓練事例（少数事例）が入力に文脈として与えられるため，入力の寄与を考える(ii)の道具立てを(i)の訓練事例の解釈に適用することが考えられる．ただし，このような技術適用がうまく機能するかは非自明である．入力中の各単語の寄与度を推定する際，典型的には目標事例とモデル出力のペア(𝑥,𝑦)の二項関係（目標事例𝑥のどこが𝑦に寄与したか）が考慮されてきた．一方で文脈内学習では，少数事例(𝑥1,𝑦1),(𝑥2,𝑦2)···(𝑥𝑛−1,𝑦𝑛−1)および目標事例𝑥𝑛とモデルの出力𝑦の間の高次の関係を推定する必要があるため，二項関係をもとにbabbb->ababbb->a少数事例1abaaa->babaaa->b少数事例2bbebb->ebbebb->b曖昧解消事例bbbeb->bbbeb->⽬標事例解釈1解釈2い場合，入力中の唯一異なる記号を出力する問題なのか（解釈１），特定の位置の記号を出力する問題なのか（解釈２）解釈が絞られない．従って曖昧性解消事例は目標事例に正答するために考慮しないといけない事例であり，既存の寄与度解釈手法が曖昧性解消事例に最も高い寄与度を与えられるかどうかを検証する．提案された手法が機能する保証がない．また，今回は特定の入力トークンの寄与ではなく，事例単位での寄与を推定するため，どのようにトークン単位の寄与を集約すれば良いのかといった論点もある．本研究では，少数事例の内，目標事例の回答に必要な事例が自明である人工的な問題設定を導入し，既存の6つの入力寄与度推定手法について，文脈内事例の寄与度推定能力を評価する．検証の結果，既存のベンチマークでうまく解釈できていた特定の推定法がこの問題設定においてうまく機能しないことや，逆にこれまで推定能力が低いとされてきたGradientNormが，文脈内学習の解釈において顕著に高い性能を示すことが経験的に明らかになった．