自己注意Self-Attention の解説でわかりやすいと思った記事N選　(N＝21）

# 一番最初に。
この記事ちらかってますので、一番最初に以下のことをことわっておきます。

* self-attentionというのは、1種類ではないです。transformerのが有名かもしれませんが。
* self-attentionが、単語のembeddingを掛け算して、似たものを反応させていると思われている方がいるかもしれませんが、直接の掛け算は、していない。少なくとも、重みも込みで掛け算しているので、似たものが。。。というような作用はあまり残っていないはず（※1)。また、self-attentionの中でも、かけるものもあれば、かけないものもある。

(※1)
反例。。。ですが、**（その１９）Self-Attention Generative Adversarial Networks** 
にて、まさに、似た部分に作用の例を追加しました。2022/01/20。だから、重みがあっても、めちゃくちゃにはならないのかな。。。

# 概要の前に

* [:tada::tada::tada::tada:(4連発)印](#102-tadatadatadatada)のところ（今、下の方に、1か所）は、価値があるかも。

（注：全体に浅い理解で情報を集めているので、リンク先を、ばしばし覗いて、有意義がどうかは、ご自分で判断頂くのがいいと思います。）

* その１５の[「Coursera, Sequence Models(Self-Attention)」](#coursera-sequence-modelsself-attentionstar2star2star2)は、注目かも。

# 概要
表題のとおり。(尚、この記事の自分での活用履歴を最近記事に残しはじめました。[ココ](https://qiita.com/enoughspacefor/items/214a80adccecc6b58e82)。）
**Self-Attention**を理解したいと思ったが、なかなか、うまく頭に入らない。
わかりやすいと思った記事を紹介する。
前提となるattentionの記事も含みます。(BERTやTransformerも含みます。）

まとめに記載していますが、

**一発の記事を読んで理解するのは、厳しいと理解しました。**（再掲）

のとおりであり、下地がない人（ワタシとか）には、理解に時間がかかると思います。


以下は、注目です。お勧め順。**順番、適当です。順番、極めて、適当です。:no_good::no_good:**
　　（※企業関連が多い。。。がっかり、、、いや、見る分にはいいのでは。伝えるテクニックを感じますね。。。）

* その２０のVisualizing A Neural Machine Translation Model (Mechanics of Seq2seq Models With Attention)　Jay Alammar　さん。説明の完成形？。transformer以前のモデルですが。
* その７の『How to get meaning from text with language model BERT | AI Explained(Peltarion) 　Youtube』:tada:( https://www.youtube.com/watch?v=-9vVhYEXeyQ )
* その１の『《日経Robo》自己注意機構：Self-Attention、画像生成や機械翻訳など多くの問題で最高精度』
* その２の『記事（その２）論文解説 Attention Is All You Need (Transformer)』
* その４の『機械学習におけるtransformer(by ライオンブリッジジャパン株式会社)』:tada:
* その１０の**『西尾泰和のScrapbox『注意機構』ほか』**:new::star::star2:
* その８の『BERT Research - Ep. 5 - Inner Workings II - Self-Attention』ChrisMcCormickAIのYoutube　:new:
* その５の『Illustrated: Self-Attention』

* その３の『Deep Learning入門：Attention（注意）[Neural Network Console のYoutube]』
* その６の『（YDC Labコラム）分かった気になる自然言語AIの仕組み』

# わかりやすいと思った記事（その１）
## 《日経Robo》自己注意機構：Self-Attention、画像生成や機械翻訳など多くの問題で最高精度

日経Robotics 有料購読者向けの過去記事（再掲載）
《日経Robo》自己注意機構：Self-Attention、画像生成や機械翻訳など多くの問題で最高精度
https://xtech.nikkei.com/atcl/nxt/mag/rob/18/00007/00006/

## なぜ、わかりやすいか
* Preferred Networksの岡野原　殿による記事であり、よくわかっている人なんでしょう。
よって、記事がわかりやすい。:smile: 

以下、該当ページからの引用
>この記事は日経Robotics 有料購読者向けの過去記事（再掲載）ですが
『日経Robotics デジタル版（電子版）』のサービス開始を記念して、特別に誰でも閲覧できるようにしています。

* 表現が**端的**。

以下、一例。該当記事引用
>畳み込みニューラルネットワーク（CNN）は、画像は近い位置にある情報が関係があるという事前知識を使って、近い位置にあるニューロン間のみをつなぐことで

* 画がない記事ですが、**逆に？、わかりやすい**。

## 注目すべきところ

以下の引用部は、注目。
>この注意機構は、クエリとキーが似ているかどうかで、どの要素の値を読み込むかどうかを制御していることに注意されたい。もし、学習の結果、その要素から値を読み込んだ方がよければ対応するクエリとキーは近づくように更新され、もし読み込まない方が良ければクエリとキーは離れるように更新される。

# わかりやすいと思った記事（その２）
## 論文解説 Attention Is All You Need (Transformer)
論文解説 Attention Is All You Need (Transformer)
http://deeplearning.hatenablog.com/entry/transformer

## なぜ、わかりやすいか
* **図が抜群**

## 注目すべきところ
以下の引用部、注目。

↓↓↓↓　この部分、引用です。（次の↑↑↑↑　まで）

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/329e869f-8e31-693d-dd2d-4369f910b2ce.png)

↑↑↑↑　

# わかりやすいと思った記事（その３）
## Deep Learning入門：Attention（注意）[Neural Network Console のYoutube]

Deep Learning入門：Attention（注意）
https://www.youtube.com/watch?v=g5DSLeJozdw

Self-Attentionというより、Attention全般の説明。Self-Attentionの説明もある。

## なぜ、わかりやすいか
* **見て頂くとわかると思う。説明がものすごくうまい。**
**ものすごく**です。


# わかりやすいと思った記事（その４）:tada:
## 機械学習におけるtransformer(by ライオンブリッジジャパン株式会社)
機械学習におけるtransformer
https://lionbridge.ai/ja/articles/machine-learning-transformer/

Self-Attentionというより、Attention全般の説明。Self-Attentionの説明もある。

## なぜ、わかりやすいか

* 最初の図からして、すばらしい

まず、以下の図から始まっているが。。。
この図は、ぐっと理解を促進すると思う。

（出典 https://lionbridge.ai/ja/articles/machine-learning-transformer/ 　）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/bd71e490-3a8a-e12c-6af4-9c489d329372.png)

## 補足情報

* 図の「< /s> Encountered」は、< /s>に出会う(出る）？までの意。
* 元となるこの会社の英語の記事は、以下。:tada:  
　　https://lionbridge.ai/articles/transformers-in-nlp-creating-a-translator-model-from-scratch/

# わかりやすいと思った記事（その５）
## Illustrated: Self-Attention
Step-by-step guide to self-attention with illustrations and code

https://towardsdatascience.com/illustrated-self-attention-2d627e33b20a

**key, query and value**　にフォーカスしている。


## なぜ、わかりやすいか

* key, query and value にフォーカスしていて、ここが基礎？（第一関門のはず？）なので良い。
*  シンプルなサンプルコードがある。まだ、試していない。
* 図（アニメ）がわかりやすい。↓



![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/12982e36-b89a-465c-1d03-eba5a5fc42dd.png)


# わかりやすいと思った記事（その６）
## （YDC Labコラム）分かった気になる自然言語AIの仕組み

https://www.ydc.co.jp/column/0002/20191118.html


## なぜ、わかりやすいか

|なぜ、わかりやすいか（１ポイント）|
|:---|
|前提として、単語が**ベクトル表現**されることを、最初に、非常に具体的に示している。|

導入がいい。（下記の図）
単語が**ベクトル表現**されることを、まず、示している。
ここを、非常に具体的に示しているので、後が理解し易い。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/32fad82f-7804-b8c8-48e9-19fd40e46cce.png)

## 補足
self-attentionが、単語のベクトル表現どおしを内積して類似度を算出しているように読める可能性あり。実際はそれほど単純ではないことは、自明。

# わかりやすいと思った記事（その７）
## How to get meaning from text with language model BERT | AI Explained(Peltarion) Youtube


https://www.youtube.com/watch?v=-9vVhYEXeyQ&t=337s

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/4be8823f-1cd5-6130-bfa1-ec4ee0d78663.png)

## なぜ、わかりやすいか

|なぜ、わかりやすいか（１ポイント）|
|:---|
|3次元グラフィックスの動画による説明。3次元グラフィックスは、中味をあまり理解せずには作れないでしょうという信頼感。|

英語だが、英語わからなくても、説明で理解できる部分あり。

また、濃淡で、値を示している部分などにおいて、
コンピュータグラフィックス :tada: なので、マジの値になっていると思える部分があり、
**単なる一枚の図においても、いろいろな情報が、読み取れる。**

↓このYoutubeの画像引用。この画の**濃淡**から、なるほどね。。。と読み取れる内容がある。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/d0df2b7a-7ba2-1e46-a8b4-5065885ff9fd.png)


たしか、10分ぐらいの短い動画なので、5回ぐらい見られることを推奨。

# わかりやすいと思った記事（その８）
## BERT Research - Ep. 5 - Inner Workings II - Self-Attention(ChrisMcCormickAI,Youtube)

https://www.youtube.com/watch?v=a1Hc9soLxts

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/d92b8826-9ec1-9200-c1bc-e36000bac6d5.png)

## なぜ、わかりやすいか

|なぜ、わかりやすいか（１ポイント）|
|:---|
|（実際にうまくいっている）BERTに関するものなので、一般論でなく、うまくいく技術が理解できるし、シリーズを通してしっかり学べる、２、３Hr。|

これは、Ep.5であるが、全体を通してみる必要があると思う。（かなりの時間になる。２，３時間？）


# <font color="gray">わかりやすいと思った記事（その９）</font>
## <font color="gray">Self Attention and Transformers（Towards Data Science）</font>
※会員か何かしかアクセスできなくなっていると思います。。。。NGですね。

https://towardsdatascience.com/self-attention-and-transformers-882e9de5edda

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/5c630111-3bd3-1c1e-c2b8-c765b9bf5b2e.png)


## なぜ、わかりやすいか

|なぜ、わかりやすいか（１ポイント）|
|:---|
|図が省略が少なく、広い範囲を大きい図で詳細に書かれている。（省略されていないので、）さて、あの処理はどう入っている？とかいう疑問が発生しづらい。|

# わかりやすいと思った記事（その１０）

## 西尾泰和のScrapbox『注意機構』ほか

https://scrapbox.io/nishio/%E6%B3%A8%E6%84%8F%E6%A9%9F%E6%A7%8B

↓ソースターゲット注意から自己注意への流れが面白い。以下のキャプチャは、該当ページのキャプチャ
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/68ca2e61-f356-4dab-3223-dbe8d426f188.png)


他にも、
「CNNと自己注意」

https://scrapbox.io/nishio/CNN%E3%81%A8%E8%87%AA%E5%B7%B1%E6%B3%A8%E6%84%8F



## なぜ、わかりやすいか

|なぜ、わかりやすいか（１ポイント）|
|:---|
|わかりやすいというよりは、考えがいろいろ示されていて、かなり、面白い。:tada::tada:|
|他のサイトの記事などで、処理内容や、処理手順はわかるが、**意味の説明がしっくりこない場合にこれらの記事は、役立つと思う。**:tada::tada:|


# わかりやすいと思った記事（その１１）

## Transformerを雰囲気で理解する

https://www.slideshare.net/AtsukiYamaguchi1/transformer-147216317

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/1a2fb3cc-e540-8fca-8e59-ebbe061a277e.png)

## なぜ、わかりやすいか

|なぜ、わかりやすいか（１ポイント）|
|:---|
|時系列に説明されているため。Transformer以前のことを把握できるため。:tada::tada:|

# わかりやすいと思った記事（その１２）:star2::star2:

<font color="green">**本当は、これは、ものすごくいいはず。
いま、おなか一杯で、あまり、褒めてませんが、とにかく、すばらしいはず。**</font>

## The Illustrated Transformer

http://jalammar.github.io/illustrated-transformer/

↑↓　このサイトでは、以下の図がアニメで表示される。ものすごく、わかりやすいはず。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/550b644c-d0c7-4817-0e38-d52c9624f1b0.png)


## なぜ、わかりやすいか
|なぜ、わかりやすいか（１ポイント）|
|:---|
|（その８）の人がすすめていた。:tada::tada:|


- - -

# わかりやすいと思った記事（その１３）:star2::star2:

<font color="green">**記事ではなく、まとめの論文ですが、、、**</font>

## Attention in Natural Language Processing

https://arxiv.org/abs/1902.02181

Galassi, Andrea, Marco Lippi, and Paolo Torroni. "Attention in natural language processing." IEEE Transactions on Neural Networks and Learning Systems (2020).

要約を抜粋引用する（DeepL訳）
>Attentionは、様々なニューラルアーキテクチャで使用されるメカニズムとして、ますます普及しています。このメカニズム自体も様々な形式で実現されている。しかし、この分野では急速な進歩を遂げているため、注意についての体系的な概要はまだ明らかになっていない。
・・・
<font color="blue">**このエキサイティングな分野の膨大な文献を初めて広範に分類した。**</font>

「General attention model」が提案されている。↓
⇒　いろんなのがあるから、整理されるのは、すばらしいと思う。

この論文（ https://arxiv.org/abs/1902.02181 ）から引用↓　

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/c689980a-844d-cfc4-f67b-7dbc3a13b331.png)



## なぜ、わかりやすいか

|なぜ、わかりやすいか（１ポイント）|
|:---|
|Attentionに関して、広範に分類、されているため:tada::tada:|


- - -

# 【制約付き】わかりやすいと思った記事（その１４）

【制約】画像に興味がある方限定。
(少し、言語系で煮詰まった場合に、いいかも。。。）

## DETR: End-to-End Object Detection with Transformers (Paper Explained) [YouTube,Yannic Kilcher]

Youtube。Yannic Kilcherさんのチャンネル。たぶん、有名。

https://www.youtube.com/watch?v=T35ba_VXkMY


## なぜ、わかりやすいか

|なぜ、わかりやすいか（１ポイント）|
|:---|
|ロス関数のあたりの説明が詳しい。|

（出典：このYouTube)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/7763bd0e-44e9-8516-77e1-533f5ada700e.png)



- - -

- - -

# わかりやすいと思った記事（その１５）

## Coursera, Sequence Models(Self-Attention):star2::star2::star2:

courseraのすごくしっかりしたもの。超有名なはず。

https://www.coursera.org/lecture/nlp-sequence-models/self-attention-lsvRK


## なぜ、わかりやすいか

|なぜ、わかりやすいか（１ポイント）|
|:---|
|文章の中の単語の関係が、self-attentionでわかる仕組みを実際の文章で説明してくれている。単語間の類似の考え方がわかる。馬とシマウマが類似するというだけでなく、Africaとvisitは、広い観点で類似する(関連がある）ということがわかる。|

（出典：ここの動画)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/cb9396c0-1538-8cd5-5ad4-8a8d3917d1d3.png)

## 補足情報

* 「Jane visite l'Afrique en septembre.」（フランス語）は、見たままで、「Jane visits Africa in September.」の意です。

- - -

- - -

# わかりやすいと思った記事（その１６）

## Attention Mechanism in Neural Networks（DEVOPEDIA）:star2::star2::star2:

DEVOPEDIAって、良さそう。

https://devopedia.org/attention-mechanism-in-neural-networks


## なぜ、わかりやすいか

|なぜ、わかりやすいか（１ポイント）|
|:---|
|Self-attentionに関して、下図のような基本部分のことが書かれているため。|

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/9f9d7d7a-f030-cae3-319d-9853e6fda630.png)

- - -

- - -

# わかりやすいと思った記事（その１７）

## Transformer Neural Network Architecture（DEVOPEDIA）:star2::star2::star2:

DEVOPEDIAって、良さそう。

https://devopedia.org/transformer-neural-network-architecture


## なぜ、わかりやすいか

|なぜ、わかりやすいか（１ポイント）|
|:---|
|（すみません、あまり、まだ、内容見れていません。）良さそうと思うだけ。|

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/cd64a885-6786-b9a9-f593-1e4528a9a715.png)

# わかりやすいと思った記事（その１８）
## Vision and Languageと分野を取り巻く深層学習手...

https://speakerdeck.com/sei88888/vision-and-languagetofen-ye-woqu-rijuan-kushen-ceng-xue-xi-shou-fa-falseshao-jie

↓　上記より引用
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/626082e7-4aa9-350d-922d-b9b994b8704a.png)

## なぜ、わかりやすいか

|なぜ、わかりやすいか（１ポイント）|
|:---|
|広い範囲の技術を対象に、語っているから。|

## ちょっと、オシイところ（余計なお世話ですが、、、、）
self-attentionの作用は、こうじゃないでしょうね（笑）。まぜこぜになるのは正しいとして。インプットの画から変えて欲しい！（うまくかけると世界レベル？？？）

↓　引用
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/6826b271-3eb6-9212-9b21-f6be5a385bac.png)


- - -

# わかりやすいと思った記事（その１９）
## Self-Attention Generative Adversarial Networks:star2::tada::star2:

https://arxiv.org/pdf/1805.08318.pdf

↓　上記より引用
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/785eb6e6-73bd-0f71-b982-9b221ee7f2b9.png)

↑↑　**この画、凄いーーー！（か、しょーもないか(この程度でどういう貢献になるのだろうの意。）、微妙ですが。。。）**

## なぜ、わかりやすいか

|なぜ、わかりやすいか（１ポイント）|
|:---|
|(GANになっているんですが、)self-attentionで、画像の似たような部分を、積で、見つけ出してattentionにしている！！<br>これよりわかり易い画があったら、紹介して欲しい。　<br>それにしても、画像のself-attentionは、めちゃくちゃですね。。。<br>滅茶苦茶だけど、意味がある可能性があるとしてやっているのだと思う！！！|


## 補足
↓　qiitaのこの方の説明、わかり易い。
https://qiita.com/merry1221/items/3bc5da52520c5db867ba

引用
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/5973a10b-c401-bb66-5526-f579ddceadfc.png)


- - -
# わかりやすいと思った記事（その２０）
## Visualizing A Neural Machine Translation Model (Mechanics of Seq2seq Models With Attention):star2::tada::star2:

https://jalammar.github.io/visualizing-neural-machine-translation-mechanics-of-seq2seq-models-with-attention/

↓　上記より引用
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/550f1654-7759-f4b4-774c-c526ca7d3943.png)

** transformer以前のモデルに関してです。でも、結局、ここが重要？ **


## なぜ、わかりやすいか

|なぜ、わかりやすいか（１ポイント）|
|:---|
|動画になっています。説明の完成形でしょうか！！！Jay Alammarです。|


## 補足
翻訳あります。
https://tips-memo.com/translation-jayalmmar-attention

- - -
# わかりやすいと思った記事（その２１）
## Peeking into the neural network architecture used for Google's Neural Machine Translation

https://smerity.com/articles/2016/google_nmt_arch.html

↓　上記より引用
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/d30895be-069b-5288-ca64-84cefde292a6.png)


## なぜ、わかりやすいか

|なぜ、わかりやすいか（１ポイント）|
|:---|
|わかりやすいというか。。。『記事（その２）論文解説 Attention Is All You Need (Transformer)』の方とかが、参照、引用されていると思う記事のため、多分、重要。|

- - -

# 実際に役立った部分

## :+1:01
『記事（その２）論文解説 Attention Is All You Need (Transformer)』の以下の図あたり
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/1d197663-0a3a-65bb-38e8-15dda4c2500f.png)

## :+1:02 :tada::tada::tada::tada:
『記事（その４）機械学習におけるtransformer(by ライオンブリッジジャパン株式会社)』の以下の図もふくめ、全体。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/574f3f54-7a64-f04a-9ac4-8929e6055e24.png)

↑　**たぶん、『Attention Is All You Need』の論文を理解するためには、例えば、この上記の引用記事を読まないと不可能な気がする。**（別の同様の良い記事でも当然いいのだが。）

以下の引用で、D=512他の実際の数値、その数値がどこの値かが確認できる。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/50e172db-9526-4e4c-903e-dca7c27f49bb.png)

説明文、引用。↓
>エンコーダ層は、下図のように入力がSxDの形状であることを想定しています。（Sはソース文、つまり英語文の長さを示し、Dは、ネットワークで重みを学習することができる埋め込みの次元を示します。）本記事では、Dにはデフォルトとして512を使用しますが、Sはバッチ内の文の最大長になります。そのため、通常、Sはバッチによって異なります。

⇒　ここで、<font color="green">**Dが512で、Sはバッチ内の文の最大長、であることがわかる。**</font>


# 実は、よくわかっていない部分　:sob:
## :sob:01 (2021/03/25) ⇒　**Sloved(2022/09/24)**
『記事（その２）論文解説 Attention Is All You Need (Transformer)』の
下図の赤丸をつけた線の作用（意味）がよくわかっていない。全く、わからない。
（↑　実は、予想もつけられないほど、わかっていない。）
また、青丸をつけた矢印の作用、段取りもよくわかっていない。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/ea87f23a-b692-a90d-e864-5e5c9671cf42.png)

|上記の不明点に対する回答|
|:--|
|  (不明点を記載時に全く何もわかってなかったのがわかるが。。。） 赤丸は、普通のseq2seqにattentionを加えた場合のattention、青丸は普通のLSTM(RNN)。 |

- - -

## :sob:02 (2021/04/04)
『記事（その２）論文解説 Attention Is All You Need (Transformer)』
の以下の抜粋部の説明。
Convolutionの場合、一発では届かない意か？何層かで、Maxpoolingとかも含めると届くのでは？（←画像を対象にした場合の話を混ぜてしまっている、ワタシ？）。あと、単なる画として、Self-attentionoの画をもっと幅広にしたほうが、差がわかり易い？。


![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/51c8eb22-1706-a873-0a4b-52f5aca70498.png)

|上記の不明点に対する回答|
|:--|
|  <回答欄のみ準備>  |


- - -

## :sob::sob:03 (2021/05/19)
『記事（その１２）のThe Illustrate３ Transformer』

のnootebookによる図（画面）↓↓で、「The」が「animal」だけにフォーカスできているが、
これがどうやればそうなるのかが、よくわからない。しかもレイヤ１で。
Word Enbeddingの値をもとに、例えば、**Self-attentionと称して乗算とかするだけ**で、そうなるわけがないので、これは単なる学習の成果なんだろうと思うが、学習の仕方がよくわからない。
「Self-attentionの乗算」「Word　Enbeddingの値」「学習」とあって、前者２つが強調されるので、なんか基本がよくわならなくなっている（とヤツあたり）。
**冠詞や、代名詞や、接続詞の作用がわからない！！！**
「Self-attentionの乗算」で、何か凄いことが起きるような説明は、ちょっと、ミスリーディングじゃないのかな。。。。（凄いことが起きるための１要素では当然あると思うが。。。）

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/342207/8d06d0f5-aa03-bd98-7098-0ea22e6f27bd.png)

|上記の不明点に対する回答|
|:--|
|  <回答欄のみ準備>  |


- - -
# まとめ
特にありません。


上記の記事（まだ9個ですが。。。）、読んでみることをお勧めします。
適宜、追加します。
ただ、正直、基地知識不足を感じています。一発の記事を読んで理解するのは、厳しいと理解しました。

以下の自分の記事とも、整合をとったり、融合したりしたい。

[Attention Is All You Need の 『Attention』を、段階を踏んで、理解する手段](https://qiita.com/enoughspacefor/items/394b9473254ff5d7dfca)

余談ですが、
詳しい方には、当たり前の内容だと思いますが、自分なりに理解が進んだと感じた内容を記事もの、以下。

[Attention Is All You Need のQuery, Key, Valueは、Query, Query, Queryぐらいの解釈でも問題ない(と思う。)](https://qiita.com/enoughspacefor/items/a9e8900dd51991500446)

以下は、余興。
[BERTと、論文『Attention Is All You Need』に対する読解力を、競ってみた(全20問）。](https://qiita.com/enoughspacefor/items/12640c58646eea2f516d)

くどいですが、以下なども関連記事。
[論文『Attention is all you need』を読み間違わないコツN選（まだ、N=1)。](https://qiita.com/enoughspacefor/items/d915af2d4692a0f2e7b5)

[DETR(End-to-End Object Detection with Transformers)の解説でわかりやすいと思った記事N選(まだN=3)](https://qiita.com/enoughspacefor/items/accf7004495a5fbbe973)

# 余談
リンク先がなくなっていると、、、寂しい気分になりますね。（完全に余談です。。）

# 余談2
以下の記事で、引用？、紹介されていました。。。。役立った。。。
[論文『Attention in natural language processing』は、Transformerとかを理解するためには、もっと、読まれてもいいのでは？](https://ai-de-seikei.hatenablog.com/entry/2023/07/12/043748?_gl=1*19684t5*_gcl_au*MjM0MDUwMTE5LjE2ODg4NTEyNTU.&_ga=2.23153662.516146520.1689103688-244152082.1688851242)