# 「自己注意機構における注意の集中が相対位置に依存する仕組み」 の研究経緯

山本 悠士 $\dagger$

## 1 はじめに

本稿では言語処理学会第 29 回年次大会 (NLP2023) において優秀賞を受賞した「自己注意機構における注意の集中が相対位置に依存する仕組み」について，論文中の各分析手法とその結果に対する私の解釈を交えながら研究の経緯を説明します.

## 2 論文の概要

自己注意機構の計算過程で得られるアテンション重み行列を可視化すると, 各トークンに対応する出力が文章中の他のトークンに依存する様子を観察することができます。この方法を用いて BERT のアテンション重みを観察すると，一部のヘッドではアテンションが各トークンの左または右側にある周辺のトークンに集中することが知られています (図 1) (Clark et al. 2019).本研究では，BERT が文脈に依存した埋め込みを出力できる理由を明らかにするための第一歩

図 1 第 1 層の 1 個目のヘッドにおけるアテンション行列 (先頭 15 トークン目まで)

図 2 第 1 層の 1 個目のヘッドにおける，直交変換されたクエリとキーの 5 列目の成分（先頭 64 トークン目まで)


として，アテンションが相対位置に依存して集中する現象を分析しました。結果として，学習に基づく位置埋め込みを用いた自己注意機構には，次の 3 つの性質：

・ 絶対位置埋め込みは学習により周期性を獲得する.
- 自己注意機構は, 学習された位置埋め込みに存在する周期性を隠れ状態から抽出できる.

・クエリとキーの間には位相にズレが存在し, アテンションはこのズレの方向に向く1.

があり（図 2）,これらが相対位置に依存したアテンションの集中の原因となっていることを示しました。

## 3 研究テーマ選択

まず, Transformer (Vaswani et al. 2017)における, 正弦波位置埋め込みの定義と, その幾何的解釈について説明し, その後, BERT (Devlin et al. 2019) の絶対位置埋め込みを分析したいと思った経緯を紹介します。

長さ $T$ のトークン列に対する正弦波位置埋め込み $P E \in \mathbb{R}^{T \times 2 n}$ は下式で定義されます.

$
\begin{aligned}
P E(t, 2 i) & =\sin \left(\omega_{i} t\right) \\
P E(t, 2 i+1) & =\cos \left(\omega_{i} t\right)
\end{aligned} \quad\left(\omega_{i}=10000^{-i / n}\right)
$

つまり, 位置埋め込みは, $n$ 種類の周波数 $\omega_{i}$ の正弦波と余弦波のペア $\left.\{\sin \left(\omega_{i} t\right), \cos \left(\omega_{i} t\right)\right.\}_{i}$ で構成されています。これを幾何的に考えると，位置埋め込みは空間内に $n$ 通りの円を描いていて，それぞれの円上に周波数 $\omega_{i}$ に応じた間隔で各トークンが配置されると解釈できます （図 3)。これは，時計の長針と短針が周期の異なる 2 通りの円を描いていていることに似ています。時計を使えば 2 つの時刻のうちどちらが先かを（12 時間以内であれば）判定できるように, Transformer も正弦波位置埋め込み（すなわち，複数の周期的な成分）によりトークン同士の相対位置関係を認識し，文脈に基づいて推論できると期待されています.

図 3 正弦波位置埋め込みのイメージ
^{T \times d}$ （ $d$ : 埋め込みの次元数, $T$ : 入力トークン数）を“長さが $T$ の時系列を $d$ 個束ねたもの”と捉えています.
}

図 4 bert-base-uncased の位置埋め込み $\boldsymbol{p}_{i} \in \mathbb{R}^{768}(i=2,3, \ldots, 32)$ の階差配列に対して主成分分析を適用した。ただし, 文頭トークン $[\mathrm{CLS}]$ に対応する位置埋め込み $\boldsymbol{p}_{1}$ は表現が特殊なため除いた.

ただし，BERT の位置埋め込みは，関数として定義された正弦波位置埋め込みではなくゼロから学習するパラメータである絶対位置埋め込みが採用されています。BERT には，入力層以降に位置に依存したパラメータが存在しないことから，位置埋め达みは文脈に基づく推論をするためには久かせないと考えられています。このような背景により，BERT の推論過程の解釈を目的とした研究で，位置埋め込みには興味の目が向けられています (Wang et al. 2021; Wang and Chen 2020).

私が位置埋め込みに興味を抱いたきっかけは，指導教員の松崎先生から提示された卒研テー マ一覧資料にあった, BERT の位置埋め込みの主成分のグラフです（図 4). 図より, BERT の位置埋め达みも正弦波位置埋め达みと同様に, 周期性を獲得していることから, BERT の位置埋め込みは正弦波位置埋め込みの一部を再現しようとしているように見えます。私は，制約を持たない深層学習モデルが人間と同じ感覚を獲得しているかのように感じ,「なぜだろう」と考え始めたことがこの研究のきっかけでした.

## 4 現象の解釈と分析の方針

本節では，図 1 のようにアテンションが集中する位置が偏る原因をどのような手順で辿ったのかを解説します。

## 4.1 全体の方針の概要

自己注意機構の入力を $X$ とすると，アテンション重みは，クエリ $X W_{Q}$ とキー $X W_{K}$ の積 $X W_{Q} W_{K}^{T} X^{T}$ に基づいて計算されます. この積は, 入力 $X$ と線形変換した入力 $X W_{K} W_{Q}^{T}$ との間で類似度を測っているとみることができます。もし，(1) $X$ に円周上に分布するような成分（すなわち，ある周期の正弦波と余弦波のペア）が存在し， (2) $W_{K} W_{Q}^{T}$ が回転行列だとすると， $W_{K} W_{Q}^{T}$ は各トークンの位置をずらす変換であると解釈できます. 例えば，図 3 の青色の
円を時計回りに $90^{\circ}$ 回転させると Nice $\rightarrow$ to, to $\rightarrow$ meet, $\ldots$ と $i$ 単語目の埋め达みが $i+1$ 単語目の埋め込みに近づきます。その結果，各単語からのアテンションは右隣の単語へ集中します.このような効果は $(1),(2)$ を示せれば実際に発生していると言えます.

## 4.2 自己注意機構の入力に周期性はあるのか

研究初期は, 自己注意機構の入力 $X$ に対して分析をしていました. しかし, 仮に $X$ に主成分分析などの手法を適用して周期的な表現が得られたとしても，それはモデルから得た $X$ をモデルの外で変換して得たものであるため，自己注意機構が実際にその表現を利用しているかは定かではないのではないかという疑念がありました2．事前学習モデルを提供するライブラリである transformers ${ }^{3}$ を使用している場合，自己注意機構の入力 $X$ は簡単に取得できます。当時は，その手軽さに甘えてしまったことで視野が狭まり，自己注意機構の内部成分を分析していませんでした。

## 4.3 クエリとキーに周期性はあるのか

前項の方針のもとでは，主成分分析などにより $X$ に直交行列 $U$ を掛けて $X U$ とすることで， $X$ から周期的な表現が得られないか試していました。そこで，ふと，推論に周期的な成分が必要なのであれば, クエリ $X W_{Q}$ やキー $X W_{K}$ のパラメータ $W_{Q}, W_{K}$ は, 直交行列 $U$ と同じく，埋め込みに対する視点を変えるはたらきをしているのではないかという発想が浮かびました. そこで，特異値分解によりパラメータの積を $W_{Q} W_{K}^{T}=U_{Q} S U_{K}^{T}$ と分解することで， クエリとキーの積を $X W_{Q}\left(X W_{K}\right)^{T}=\left(X U_{Q}\right) S\left(X U_{K}\right)^{T}$ に変形しました. これで得られた，入力 $X$ を直交変換した行列 $X U_{Q}, X U_{K}$ を, それぞれクエリとキーの本質的な表現と解釈しました.

第一層の一個目のヘッドでクエリ $X U_{Q}$ とキー $X U_{K}$ を計算すると, きれいな周期的な成分になります（図 2)。このような方法で，一部のへッドには，入力 $X$ に存在する周期性を抽出する軸が存在することが分かりました。

## 4.4 自己注意機構のパラメータは回転行列を含んでいるのか

前項でキーを $X U_{K}$ と再定義しました． 特異べクトルの直交性 $U_{Q} U_{Q}^{T}=I$ を利用すると, キー をさらに $X U_{K}=X\left(U_{Q} U_{Q}^{T}\right) U_{K}=\left(X U_{Q}\right)\left(U_{Q}^{T} U_{K}\right)$ と変形することができます. これは, キー $X U_{K}$ がクエリ $X U_{Q}$ の直交変換であり，幾何的に考えれば，キーとはクエリを回転あるいは反転したものであることを意味しています. 原論文では $U_{Q}^{T} U_{K}$ の固有値と固有べクトルを分析することで，回転変換が周期的な成分が存在する次元に対して施されていたことを確認しました.以上, 本節で解説した経緯から, 中間層にある自己注意機構は, 位置埋め込みに存在する周
 W_{Q}^{T}=O$ だと $X$ が興味深い表現でも自己注意機構はその表現に依存しません.

3 https://github.com/huggingface/transformers
}
期的な成分を抽出することができ, さらに, クエリとキーをトークン位置方向に相対的にずらしているということを明らかにすることができました。

## 5 今後の展望

どのようにして各トークンが周辺トークンに注意を当てているのかは大体分かりましたが， なぜ BERT がそのようなことをする必要があったのかという問いは段違いに難しいかもしれません. 深層学習モデルを相手にすると，今後もこのような謎に遭遇し続けることになります.私は強い疑問を抱くと他のやるべきことに手がつかなくなる性格なので，並列計算できるモデルに共感するのは難しそうですが，思考が本業の研究者としては良い性格だと自分に言い聞かせながら「なぜ？」と感じたことを一つずつ理解していけたらと思っています。

## 参考文献

Clark, K., Khandelwal, U., Levy, O., and Manning, C. D. (2019). "What Does BERT Look at? An Analysis of BERT's Attention." In Proceedings of the 2019 ACL Workshop BlackboxNLP: Analyzing and Interpreting Neural Networks for NLP, pp. 276-286, Florence, Italy. Association for Computational Linguistics.

Devlin, J., Chang, M.-W., Lee, K., and Toutanova, K. (2019). "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding." In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pp. 4171-4186, Minneapolis, Minnesota. Association for Computational Linguistics.

Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., and Polosukhin, I. (2017). "Attention is All you Need." In Guyon, I., Luxburg, U. V., Bengio, S., Wallach, H., Fergus, R., Vishwanathan, S., and Garnett, R. (Eds.), Advances in Neural Information Processing Systems, Vol. 30. Curran Associates, Inc.

Wang, B., Shang, L., Lioma, C., Jiang, X., Yang, H., Liu, Q., and Simonsen, J. G. (2021). "On Position Embeddings in BERT." In International Conference on Learning Representations.

Wang, Y.-A. and Chen, Y.-N. (2020). "What Do Position Embeddings Learn? An Empirical Study of Pre-Trained Language Model Positional Encoding." In Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 6840-6849, Online. Association for Computational Linguistics.

## 略歴

山本悠士：2023 年東京理科大学理学部第一部応用数学科卒業. 2023 年, 現

在, 東京理科大学大学院理学研究科応用数学専攻修士課程 1 年. 言語処理学会会員.