ニューロン経験勾配によるモデル出力の制御と言語知識表現の統合

事前学習済み言語モデルのFeedForward層に含まれるニューロンは知識や言語スキルを捉えることが知られている．本研究では，ニューロンの活性値に注目し，ニューロン活性値と出力トークン確率との間に線形関係が存在することを明らかにする．次に，この線形関係の勾配（以降，経験勾配）を効率的に計算する手法NeurGradを提案する．さらに，新たに構築したMCEval8Kデータセットを用いたskillneuronprobingを通してNeurGradで計算した経験勾配に基づく分類器を評価し，ニューロン経験勾配が多様な言語タスクを解ける情報量を有することを示す．