Attention Clusters: Purely Attention Based Local Feature Integration for Video Classificationを読んだ



Long, Xiang and Gan, Chuang and de Melo, Gerard and Wu, Jiajun and Liu, Xiao and Wen, Shilei"Attention Clusters: Purely Attention Based Local Feature Integration for Video Classification", in CVPR2018, pp.7834-7843, 2018[Online PDF at CVF](http://openaccess.thecvf.com/content_cvpr_2018/papers/Long_Attention_Clusters_Purely_CVPR_2018_paper.pdf)
# 1.どんなもの？
Attention構造とシフト操作，クラスターサイズを分析し，マルチモーダル統合のための注目クラスターの組み合わせを調査
長期的なパターンが必要出ないことを示し，それを考慮した上で新しいモデルを提案

# 2.先行研究と比べて何がすごいか？
動画像認識における既存手法はCNNとRNNを組み合わせたものがほとんど
本論文では長期パターンにおける特徴が必要不可欠なものなのかを検証している

###1.フレーム間でローカル特徴が高度の類似性を有することが多い
短い動画像ではRGBフレーム間の変化が小さい傾向にある
ゴルフのような動画ではゴルフクラブが動くだけでフレーム毎の変化はほとんどない
→分類のためには細部の変化を無視して全体的な特徴を取り出すだけで十分できる
![スクリーンショット 2018-10-17 15.33.52.png](https://qiita-image-store.s3.amazonaws.com/0/249838/7f50a6fd-fcf7-fdb0-f2f1-a2e334b0f0f6.png)
###2．ローカル特徴だけで識別できる可能性がある
人は動画像の数フレーム，時に１フレームだけで分類することができる
歯を磨く動画では、最初のフレームだけを観察してクラス分類することができる
→単独で網羅的な分類情報を持っている可能性があり，最も有益なフレームを割り出すことが分類において重要
![スクリーンショット 2018-10-17 16.18.11.png](https://qiita-image-store.s3.amazonaws.com/0/249838/1fabd3ec-9cc6-f76f-240b-7250017be407.png)

###3.ローカル特徴が順序付けられていないとみなされる可能性がある
分類の問題について，順序が重要ではないかもしれないと推測している
棒高跳びの動画で，最初に着地→ジャンプ→走行の順に表示したとしても分類することができる
→局所特徴の順序は必ずしも保持する必要はない
![スクリーンショット 2018-10-17 16.56.25.png](https://qiita-image-store.s3.amazonaws.com/0/249838/9ecf7e6c-525f-2fc6-f10c-f7ed4c5829b4.png)

よって複数のアテンション機構を実装し，分類に重要だと思われるキーフレームに重みをかけることで精度向上をもたらした

# 3.技術や手法の肝はどこにあるか？
単一のアテンションユニットはビデオの1つの側面のみに焦点を当てていると見なすことができる
→かなりの量の情報を破棄する
Ex) 棒高跳びであれば，「走る・跳ぶ・着地」の3つの要素がある方が有用な情報であるからアテンションユニット一つでは不十分
複数のアテンションユニットを使用して、ビデオのグローバル表現を構成するアテンションクラスタを構築することを提案する
![スクリーンショット 2018-10-30 12.30.53.png](https://qiita-image-store.s3.amazonaws.com/0/249838/c572a28d-767c-c7e7-7111-b08994189c88.png)

ビデオからマルチモーダル情報を得るために、外観（RGB）、モーション（フロー）、オーディオ信号の3つの異なるローカル特徴集合を抽出する


###ローカル特徴
ローカル特徴集合は、ビデオの異なる部分に対応する順序付けられていないローカル特徴集合として定義されている
ローカル特徴集合を以下とする．Xの長さはそれぞれの動画で違うものである

L・・・局所特徴の数
X・・・一つの動画におけるローカル特徴集合
![スクリーンショット 2018-10-22 17.33.28.png](https://qiita-image-store.s3.amazonaws.com/0/249838/40c1e407-d588-bc11-bc62-bdd30e2e41bd.png)
###Attention
時系列を考慮せず，グローバルな情報を獲得するためにAttention機構を使う
aは、重み付け関数によって決定される次元Lの重みベクトルである
![スクリーンショット 2018-10-22 17.37.40.png](https://qiita-image-store.s3.amazonaws.com/0/249838/7eb37bd3-75eb-2052-b3ee-d343b0f15b66.png)
この重み付け関数の選択が重要である
この論文では3つ紹介されている
#####平均をとる
![スクリーンショット 2018-10-22 17.38.55.png](https://qiita-image-store.s3.amazonaws.com/0/249838/ac52083b-b47c-5cec-4291-f499e6641a39.png)
全体に一律で同じ重みを付ける方法
#####全結合層を使う
![スクリーンショット 2018-10-22 17.38.58.png](https://qiita-image-store.s3.amazonaws.com/0/249838/ab7062e8-3392-f15a-14af-a13336f2eebd.png)

全結合層を用いてランダムな重みからどんどん学習して重みを更新していく
#####2回全結合層を使う
![スクリーンショット 2018-10-22 17.39.02.png](https://qiita-image-store.s3.amazonaws.com/0/249838/aed1588a-2d1f-15a5-98e3-3f0f9310b5b6.png)

###Sift操作
異なるローカル特徴に焦点を当てることができると考えているが、Attentionユニットが同じローカル特徴に焦点を当てる傾向がある
→異なるローカル特徴に焦点を当てられるようにシフト操作を提案
線形変換と正則化を組み合わせることでスケール不変性を保証．異なるローカル特徴を選択するようになる
![スクリーンショット 2018-10-30 12.39.46.png](https://qiita-image-store.s3.amazonaws.com/0/249838/3e65881b-c725-989b-8b80-f82fa83dca7c.png)


# 4.分析と可視化
##Dataset
ビデオ分類データセットはさまざまなバリエーションを組み合わせているため、分析，視覚化することは容易ではない
→Attention機構がうまく働いているか確認することが困難
Attention機構が機能しているか可視化するためにFlash-MNISTを提案
![スクリーンショット 2018-10-22 17.41.46.png](https://qiita-image-store.s3.amazonaws.com/0/249838/4d132147-c5bd-da40-a35c-51988d3684e7.png)
MNISTデータセットを動画に拡張
背景のノイズを持つ25フレームで構成され、さまざまなMNIST数字が短時間点滅する動画になっている
1024のカテゴリの分類問題になっている(2の10乗個)

##分析
上記にあげた重みつけ関数のうち，平均をとる操作は全く機能していないことがわかる
全結合層2層と全結合層1層の場合では比較的1層だけの方が良い結果を出力していることがわかる
![スクリーンショット 2018-10-30 12.50.58.png](https://qiita-image-store.s3.amazonaws.com/0/249838/730323be-df57-6c2c-6638-3cee4ab8005e.png)
重みつけ関数を全結合1層と定義して，シフト操作とクラスター内のAttentionユニットがどれだけ分類精度に影響しているかを表している
当然のように感じるが，Attentionをかけるフレームが多くなる方が良い結果を出している
![スクリーンショット 2018-10-30 12.48.24.png](https://qiita-image-store.s3.amazonaws.com/0/249838/137fc939-781a-0fa5-011e-aa7728804256.png)
8つのAttentionユニットがどの数字にAttentionをかけているかを可視化している
シフト操作を行った方が異なる数字にAttentionをかけていることがわかる
![スクリーンショット 2018-10-30 12.48.32.png](https://qiita-image-store.s3.amazonaws.com/0/249838/be9dd883-45eb-8f0c-11d0-cd3c8f67503d.png)



#5.分類結果
![スクリーンショット 2018-10-30 12.54.36.png](https://qiita-image-store.s3.amazonaws.com/0/249838/8a6fb5dc-df1b-a4f8-4bb2-e7bf44dc6bbf.png)
![スクリーンショット 2018-10-30 12.54.47.png](https://qiita-image-store.s3.amazonaws.com/0/249838/b70b7e91-2265-0826-50df-c1a969f75441.png)
![スクリーンショット 2018-10-30 12.54.54.png](https://qiita-image-store.s3.amazonaws.com/0/249838/0c7e45cd-b167-3ccb-9769-0e405e1fe2f1.png)