大規模言語モデル（LLM）では，特定トークンに注意が集中するAttentionSinkや，それに伴うMassiveActivationが知られている．これらはモデルの安定動作に寄与する一方，量子化精度の低下を招く重要な現象である．本研究では，(1)BOSトークン固有の埋め込み表現，(2)位置情報の影響，(3)注意を自身のみに集中する挙動，の三要素に着目し，現象の発生要因に迫る．これはLLMの解釈性向上やより堅牢な設計への指針となる．BOS

大規模言語モデル（LLM）の主なアーキテクチャには，トークン間で注意を向け合うことで文脈情報への参照を可能にする注意機構を核としたTransformer[1]が採用されている[2–4]．近年ではLLM内部の注意機構の多くで入力列の先頭（BOS）やピリオドなどの特定のトークンに対し，意味的な関連性の有無によらず注意が過度に集中する「AttentionSink」という現象が知られている[5–7]．AttentionSinkは直感と反する特徴的な内部挙動として興味深いだけでなく，LLMの動作安定性および軽量化の観点でも注目すべき現象である．先行研究では，この現象がLLMの安定動作に重要な役割を果たすことや[5]，AttentionSinkが発生するトークンで巨大な活性化値1）（MassiveActivation）が生じることが報告されている[8]．このような巨大な値はLLMを量子化する際に精度低下の原因となる[9,10]．最近ではこれらの抑制を図ってQwenチームによるGatedAttention[4]や，OpenAIによる学習可能なバイアス付きSoftmax[11]など，AttentionSinkおよびMassiveActivationを考慮または対策したアーキテクチャの工夫が導入され始めているが，完全な抑制には至っていない．これらの現象の観察や分析も行わ1）本論文では，「活性化値」は隠れ状態におけるものを指す．1.01.0BOS0.80.81000.60.6400500.40.42000BOS0.20.20BOS0.00.0BOSBOSBOS(a)通常(b)文中にBOSを挿入1.01.0BOSBOS0.80.80.60.65005000.40.42502500.20.200BOSBOS0.00.0BOSBOS(c)先頭の注意をマスク(d)自身に注意を向ける介入(a)に対して3種類の介入(b,c,d)を行い，これらの移動をもって現象の発生要因を明らかにする．2）れつつあるが，その発生機序については未だ解明されていない点が多い．本研究では，入力や注意機構の計算過程に介入して挙動や出力を観察する因果的介入手法を用いて，AttentionSinkおよびMassiveActivationの発生条件を体系的に整理し，その発生原理の解明に向けた基盤的知見を提供する（図1）．具体的には，(1)BOSトークン固有の埋め込み表現，(2)位置情報の影響，(3)注意を自身のみに集中する挙動，の三要素に切り分けて分析を行った．結果として，このうち(1)と(3)の二つが主な発生要因であることを特定し，その原理についても一部解明した．さらに，初期層の注意機構への介入によって，後続層におけるAttentionSinkおよびMassiveActivationの発生位置を制御可能であることを発見した．これらの知見は，LLMの解釈性向上や，量子化への適応性向上といった発展に寄与するものである．2）この図ではLlama-3.2-3Bモデルを使用した．また，特段断りがない限り，本稿で掲載する注意マップは対象とする層内の全ヘッド平均である．Thisworkispublishedwithoutpeerreviewandislicensedbytheauthor(s)underCCBY4.0(https://creativecommons.org/licenses/by/4.0/).org/licenses/by/4.0/).1.01.01.00.80.80.80.60.60.60.40.40.4BOSBOSBOS0.20.20.20.00.00.0BOSBOSBOS(a)第1層(b)第2層(c)第3層10050050050250250000BOSBOSBOS(d)第1層(e)第2層(f)第3層入れ替えた場合の注意スコア（上段）と活性化値（下段）．み表現など）に強く依存することを示唆する．一方，第3層では，差し替えられた先頭トークンにもAttentionSinkやMassiveActivationが発生している（図2c,2f）．以上より，本現象の発生要因は複合的であり，BOSトークンに起因するものは初期層から，先頭位置に起因するものは層を重ねることで顕在化することが示唆された．なお，Llama-2系列では第1層でのAttentionSinkは見られないが，数層後には同様の現象が発生する（付録A参照）．これは，埋め込み由来の要因と層を重ねることによる要因が異なるタイミングで顕在化することを示唆しており，本研究の「要因の分解」というアプローチの妥当性を裏付けている．しかし，モデル非依存的な分析は，今後の課題である．次に，AttentionSinkとMassiveActivationの関係性について考察する．図2e,図2cの関係に着目すると，先頭トークンでMassiveActivationが発生した直後の層において，AttentionSinkが形成されていることが確認できる．この順序関係は，MassiveActivationがAttentionSinkを誘発している可能性を示唆するものである．埋め込みレベルの分析第1層からAttentionSinkが発生する原理を解明するため，我々はBOSトークンの埋め込みと他のトークンの埋め込みの違いを分析した．BOSトークンの埋め込みと，その他の埋め込みベクトルの平均をそれぞれ𝒆bos,𝒆avg∈ℝ𝑑とする．ここでは，第1層におけるそれぞれのKeyベクトル𝒌{bos,avg}:=˜𝒆{bos,avg}𝑾𝐾∈ℝ𝑑に着目1.000100100110.8RoPEidi(q)RoPEidi(q)