LLM内部表現における予測可能成分と新規成分の分解

LLMの内部表現には「過去のトークンから決まる文脈情報」と「その位置で入力されたトークンによる新規情報」とが混在する．この混在により，線形プローブなどによる分析で観測される差異が，文脈由来なのか入力トークン由来なのかを切り分けることが難しい．本研究では，重みを固定したLLMの内部表現（ℎ≤𝑡）から，次トークン位置の内部表現（ℎ𝑡+1）を予測する外部予測器を学習し，その予測（ˆℎ𝑡+1）を予測可能成分，残差（𝑟𝑡+1=ℎ𝑡+1−ˆℎ𝑡+1）を新規成分として分解する枠組みを提案する．実験では，層およびトークン位置ごとに予測可能性を系統的に評価した．さらに線形プローブにより，（ˆℎ𝑡+1）は文書ドメイン分類に，（𝑟𝑡+1）は次トークン種類分類に有利であることを確認し，両者には異なる情報が線形に埋め込まれている可能性を示唆した．