ECCV2022の枝刈り論文 (3)

# 概要

この記事では、[ECCV2022](https://eccv2022.ecva.net/)の枝刈り論文を紹介します。[^1]
[その1](https://qiita.com/kyad/items/82e29a08cea1488d9c13) [その2](https://qiita.com/kyad/items/7bbb4203ad2f0dc30c46)

[^1]: 画像や数式は論文から引用しています。


# Ensemble Knowledge Guided Sub-network Search and Fine-tuning for Filter Pruning

https://arxiv.org/abs/2203.02651

- 概要：NASベースの枝刈り。(NASで刈ってFine-tuneする)
- 新規性：(1) 探索時と探索後の精度が変わる (2)Fine-tuneが必要 な課題の対策をする。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/98813fe0-7ae3-6e74-235f-a56313e88cc4.png)
- キモ：(1) ロスの面の変化が少ない場合は表現能力が高いことを実験的に示した。(2)EKG(アンサンブル)で高速に探す。
- 評価：ResNetで実験した。


# SPViT: Enabling Faster Vision Transformers via Latency-aware Soft Token Pruning

https://www.ecva.net/papers/eccv_2022/papers_ECCV/papers/136710618.pdf

- 概要：SPViT. Latency-awareで画像毎に最適化するタイプのViTの枝刈り
- 新規性：従来の画像毎に最適に枝刈りする方法は精度が落ちやすい課題を解決する。
- キモ：画像毎にMulti-headの各tokenの重要度$t_i$を算出する。
  ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/ff68c3a8-5004-fa39-5567-3f63d7ce71f9.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/67e3f575-62b2-a443-76a6-cb49e2f0abd7.png)
全体のスコアをGumbelSoftmaxで出力する。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/35c9c472-213b-8c75-8114-153fa0a21c38.png)
Latencyとsparsityを考慮したロスで学習する。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/7f4d9a52-fd1c-b8cc-1ca6-c4bed7eba6e4.png)
- 評価：ImageNet, ViT系で従来と比較した。
 ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/aef9ace7-1fe8-c195-2cbe-9a9cfa0c8f90.png)


# Soft Masking for Cost-Constrained Channel Pruning

https://arxiv.org/abs/2211.02206

- 概要：SMCP. Channel枝刈りの改良
- 研究機関：NVIDIA
- 新規性：従来の枝刈り手法より精度・速度トレードオフが良い
  ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/ef5fd66a-1957-dd7c-ead6-232f27e11d15.png)
- キモ：(1)チャンネル$i$の重要度$\mathcal{I}_i^{(l)}$を勾配$g$を使ってこのように近似し、複数選択可のナップサックで重要度を最大化するようにチャネルを選ぶ。
  ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/f4fccaba-f5ec-4008-6df5-b4d78a4639d4.png)
(2)マスク値$m_i^{(l)}$で$\gamma$をこうスケールすると勾配が小さくなり、次の学習が安定する。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/17a806fb-6297-2c47-aac3-ecda8e4515df.png)
- 評価：ImageNet, PASCAL VOC, ResNet-50, MobileNetで比較した。


# SuperTickets: Drawing Task-Agnostic Lottery Tickets from Supernets via Jointly Architecture Searching and Parameter Pruning

https://arxiv.org/abs/2207.03677

- 概要：SuperTickets. 軽量DNNのNAS探索と当たりくじを同時に見つける方法
- 新規性：軽量DNNのNAS探索と当たりくじを同時に見つける方法は初。従来のNASや枝刈りよりも精度・効率のトレードオフが良い。
- キモ：Algorithm 1. SuperNetから刈るのと枝刈りを交互にする。
  ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/460c59e7-5939-cb9a-bc61-78f8c22b6cc9.png)
- 評価：COCOやCityscapesでFig.1の(a)(b)と比較した。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/cec70aba-91fb-1312-b117-bb4dcd6c869c.png)


# Filter Pruning via Feature Discrimination in Deep Neural Networks

https://www.ecva.net/papers/eccv_2022/papers_ECCV/papers/136810241.pdf

- 概要：Fliter pruningで、フィルタ重要度の判定の改良
- 新規性：フィルタ重要度としてRFC (Receiptive Field Criterion) を使う。
  ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/4d90c080-11bb-46ef-c598-f7828fbb67b0.png)
- キモ：受容野のActivationのクラス間の一様性が高いフィルタを刈る。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/b96b7ef8-c0ca-d166-2139-ed3e2505170c.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/1db1b4d9-62b4-54d5-36ef-7548146af61f.png)
- 評価：ResNet50やMobileNet, CIFAR, ImageNetで実験した。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/df4fa4fb-0184-f311-4c65-7c25b477b2a9.png)


# Interpretations Steered Network Pruning via Amortized Inferred Saliency Maps

https://arxiv.org/abs/2209.02869

- 概要：解釈性を使ったchannel pruning
- 新規性：解釈性を使ったchannel pruningで高速にできる。
- キモ：解釈性のモデルは、RBF-likeな関数でsaliencyを表現するモデルとする。
- 評価：ResNet, MobileNetV2, CIFAR-10, ImageNetで実験した。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/07ad861c-c6cc-15f1-b74f-18308d8d1f42.png)