ICML2022の枝刈り論文 (4)

# 概要

この記事では、[ICML2022](https://icml.cc/)の枝刈り論文を紹介します。[^1]

[その1](https://qiita.com/kyad/items/b32f38ae16ea47e5d517) [その2](https://qiita.com/kyad/items/938c808c20a90ce0d1ad) [その3](https://qiita.com/kyad/items/6fba160fa1ae43b1a686)

[^1]: 画像や数式は論文から引用しています。


# Convolutional and Residual Networks Provably Contain Lottery Tickets

https://proceedings.mlr.press/v162/burkholz22a.html

概要：強い宝くじ仮説の証明
新規性：(1) Residual構造付きCNNに対する強い宝くじ仮説の証明を与えた。
(2) Positiveであることを仮定しないのでReLU以外でも適用可能。
(3) 証明時、レイヤ数$2L$のニューラルネットではなく、$L+1$を考えればよい。
キモ：次のレイヤの値はこうモデル化して、skip-connection対応させる。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/a8632e03-0991-2029-c652-15935300bc69.png)
評価：ResNetで実証した。


# Sparse Double Descent: Where Network Pruning Aggravates Overfitting

https://arxiv.org/abs/2206.08684

概要：枝刈りにおいて過学習が起こるかどうかの研究
新規性：Denseなネットワーク同様、枝刈り後のネットワークも過学習が起こることを示した。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/3ee50086-c2f2-d983-4376-fd4c1bd75f68.png)
キモ：初期重みとTest accuracyに相関がある。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/01f0a5bf-6bb4-dc0c-6238-b12b86a21884.png)
評価：VGG, ResNet, CIFAR, MNIST等で実験した。

# Universality of Winning Tickets: A Renormalization Group Perspective

https://arxiv.org/abs/2110.03210

概要：宝くじ仮説の理論解析
新規性：宝くじのIMPは[くりこみ群](https://ja.wikipedia.org/wiki/%E3%81%8F%E3%82%8A%E3%81%93%E3%81%BF%E7%BE%A4)の手順と同じことを示した。それによって得られた当たりくじは様々なタスクに使えることを示した。
キモ：くりこみ群との対応付け
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/30ee3e7a-04a7-d206-32c6-fea19eb5c646.png)
評価：ResNet, BERTで示した。


# A Study on the Ramanujan Graph Property of Winning Lottery Tickets

https://proceedings.mlr.press/v162/pal22a.html

概要：宝くじ理論への[ラマヌジャングラフ](https://ja.wikipedia.org/wiki/%E3%83%A9%E3%83%9E%E3%83%8C%E3%82%B8%E3%83%A3%E3%83%B3%E3%82%B0%E3%83%A9%E3%83%95)の適用
新規性：宝くじ理論で、ラマヌジャングラフの性質(疎だが結合が多い)を満たすように刈る方法。
キモ：ラマヌジャングラフを満たすように刈るアルゴリズム
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/695c8df9-1fcc-4421-2ade-22d62324df70.png)
評価：MNIST, CIFAR10で実験した。


# Training Your Sparse Neural Network Better with Any Mask

https://arxiv.org/abs/2206.12755
    
概要：ToST. Sparse Trainingで精度を上げる方法
新規性：うまいマスクを満つける方法ではなく、どのようなマスクからでも、性能高く学習できる方法を与えた。
キモ：DenseなNWの学習方法から少しカスタマイズして学習する。
Sparse Trainingは勾配が不安定になるのが課題。これを解決する。
(1) GSw. ReLUをSwishやMishにおきかえて、小さな項の値でも勾配を持つようにする。
(2) GSk. Skip Connectionを増やす ([RepVGG](https://arxiv.org/abs/2101.03697)に似てる)
(3) LRsI. 初期値は枝刈り前からリスケールし、初回のロスが最小になるようにする。([GradInit](https://arxiv.org/abs/2102.08098))
(4) Label Smoothing
評価：ResNet, CIFAR等で実験した。


# PLATON: Pruning Large Transformer Models with Upper Confidence Bound of Weight Importance

https://proceedings.mlr.press/v162/zhang22ao.html

概要：PLATON. 枝刈りで刈る要素の選び方。
研究機関：Microsoft
新規性：要素の重要度の確からしさの上界(UCB, Upper Confidence Bound)を評価して刈る。
キモ：$I_j$を、その要素を刈った時のロスの変化として、$I_j$を平滑化した$\bar{I_j}^{(t)}$の変化の平滑化量$\bar{U_j}^{(t)}$を不確からしさとする。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/c96e185c-361b-fcd2-9c59-08b24c9007f1.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/3bfbf6d6-b004-e7e2-3070-d8417e847d2a.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/ac55059a-7fbc-3781-6fb1-a99dccebbb52.png)
$S$が大きい方から$r$%を刈る。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2448931/64a599d5-e843-651d-5838-4f71cb897691.png)
評価：BERT, GLUEで実験した。