DCGANのジェネレータにおけるConvTとUpsample+Convとの違い、BatchNormと活性化関数の順番、初音ミクの生成で比較する

# 前置き
先回はDCGANを実装してみました https://qiita.com/phyblas/items/bcab394e1387f15f66ee

最初から色んな人のモデルを比べて気になることがあります。一つはジェネレーターの中で、chainerで実装する人は逆畳み込み層（ConvT）を使うのに対し、kerasでDCGANを実装する人はアップサンプリング（Upsampling）+畳込み層（Conv）を使うことが多いです。

kerasで実装した例は
https://qiita.com/triwave33/items/35b4adc9f5b41c5e8141
https://qiita.com/t-ae/items/236457c29ba85a7579d5
https://qiita.com/taku-buntu/items/0093a68bfae0b0ff879d
https://qiita.com/knok/items/3f3c1d3eef4b435ed37e
みんなUpsampling+Convを使っていますね。

それに対しchainerで実装した例は
https://qiita.com/mattya/items/e5bfe5e04b9d2f0bbd47
https://qiita.com/rezoolab/items/5cc96b6d31153e0c86bc
https://github.com/chainer/chainer/tree/master/examples/dcgan
みんなConvTを使っています

そしてtensorflowの例もConvTを使っています
https://github.com/carpedm20/DCGAN-tensorflow

この2つの方法は同じ意味なのか？という質問が出ました。そして詳しく考えてみたら、計算は同じではないようです。それでもどっちでもDCGANで使われています。

実際には勿論フレームワークの違いは使うモデルに影響がないはずです。kerasを使ってもConvTを使うこともできますし。私は先回pytorchで実装した時はConvTを使ったが、今回はUpsampling+Convも試してみます。

# 同じような違うような
畳み込みや逆畳み込みのことはすでにたくさんの記事で書かれていますので、参考します。
https://qiita.com/search?q=逆畳み込み

要するに畳み込みを使うとサイズが小さくなるのに対し、逆畳み込みを使うと大きくなるのです。ただし、パディングがあったら畳み込みでサイズが小さくならいこともあります。

逆畳み込みでカーネルサイズは4と、ストライドは2と、パディングは1とすると、出力サイズは2倍となります。

例えば

```
  1    10
100  1000
```
で、全部の重みが1だったらこうなります

```
  1   11   11   10
101 1111 1111 1010
101 1111 1111 1010
100 1100 1100 1000
```

その一方、アップサンプリングはこんな風にデータを増えることで、サイズを2倍大きくします。

```
  1    1   10   10
  1    1   10   10
100  100 1000 1000
100  100 1000 1000
```

それに加えて畳み込みでカーネルサイズは3と、ストライドは1と、パディングは1とすると、こうなります。

```
  4   24   42   40
204 1224 2142 2040
402 2412 4221 4020
400 2400 4200 4000
```

見ての通りサイズはそのまま変わりません。結果もConvTと似ています。

つまり、ConvTは、Upsampling+Convのように見えるのはこういうことです。それでも中に行われる計算は相当違います。

コードを見る方がわかりやすい人もたくさんいると思うので、よく見えるように、まずはnumpyでUpsamplingとConvとConvTを実装します。

普通の2D畳み込み層なら4Dの入力は必要ですが、今回はわかりやすいように一対一の畳み込みだけにします。入力は単なる2Dの行列となります。入力と出力のチャンネル数は全部1。

```python
import numpy as np

class Conv2D:
    def __init__(self,k,s=[1,1],p=[0,0]):
        self.k = k
        self.s = s
        self.p = p
        self.w = np.random.normal(0,0.02,k)
        self.b = 0
        
    def __call__(self,x):
        k0,k1 = self.k
        s0,s1 = self.s
        p0,p1 = self.p
        w = self.w
        b = self.b
        xs0,xs1 = x.shape
        ys0 = int(np.floor((xs0+2*p0-k0)/s0)+1)
        ys1 = int(np.floor((xs1+2*p1-k1)/s1)+1)
        xp = np.zeros([xs0+2*p0,xs1+2*p1])
        xp[p0:xs0+p0,p1:xs1+p1] = x
        y = np.array([[np.sum(xp[i*s0:i*s0+k0,
                                 j*s1:j*s1+k1]*w)
                       for j in range(ys1)]
                       for i in range(ys0)])+b
        return y

class ConvT2D:
    def __init__(self,k,s=[1,1],p=[0,0]):
        self.k = k
        self.s = s
        self.p = p
        self.w = np.random.normal(0,0.02,k)
        self.b = 0
        
    def __call__(self,x):
        k0,k1 = self.k
        s0,s1 = self.s
        p0,p1 = self.p
        w = self.w
        b = self.b
        xs0,xs1 = x.shape
        yp = np.zeros([(xs0-1)*s0+k0,
                       (xs1-1)*s1+k1])
        xw = x[:,:,None][:,:,None]*w
        for i in range(xs0):
            for j in range(xs1):
                yp[i*s0:i*s0+k0,
                   j*s1:j*s1+k1] += xw[i,j]
        y = yp[p0:(xs0-1)*s0+k0-p0,
               p1:(xs1-1)*s1+k1-p1]+b
        return y

class Upsam2D:
    def __init__(self,k=[2,2]):
        self.k = k
    def __call__(self,x):
        k = self.k
        return x.repeat(k[0],0).repeat(k[1],1)
```

そして試しにこうやって使って絵を作ってみます

```python
import matplotlib.pyplot as plt

conv = Conv2D([3,3],[1,1],[1,1])
convt = ConvT2D([4,4],[2,2],[1,1])
upsam = Upsam2D()

x = np.random.normal(1,0.1,[100,100])
xconvt = convt(x)
xupsamconv = conv(upsam(x))

plt.figure(figsize=[6,6]).add_axes([0,0,1,1])
plt.imshow(xconvt,cmap='rainbow')
plt.savefig('convt.jpg')
plt.figure(figsize=[6,6]).add_axes([0,0,1,1])
plt.imshow(xupsamconv,cmap='rainbow')
plt.savefig('upsamconv.jpg')
plt.close()
```

結果は違うように見えますね。

ConvT
![convt.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/82c9cd5c-7e97-0236-2079-584bc63415f4.jpeg)

Upsam+Conv
![upsamconv.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/e75ce0a1-60b2-4dcb-9daa-70bd2e272482.jpeg)


よく見えるのはConvTの方が十字のようなものが多いのは特徴です。それに対しUpsampling+Convは自然なノイズに見えます。

でもその違いはまだ十分に訓練が足りなく、パラメータがまだランダムのままの方が起こりやすい。よく訓練したらどっちも自然な画像が作れるようです。

# pytorchでの使い方
さっきの計算はpytorchでは実装すればこうなります。

```python
import torch
from torch.autograd import Variable as Var

conv = torch.nn.Conv2d(1,1,3,1,1)
conv.weight.data.normal_(0,0.02)
conv.bias.data.fill_(0)
convt = torch.nn.ConvTranspose2d(1,1,4,2,1)
convt.weight.data.normal_(0,0.02)
convt.bias.data.fill_(0)
upsam = torch.nn.Upsample(scale_factor=2,mode='nearest')

x = Var(torch.randn(1,1,100,100))*0.01+1
xconvt = convt(x).data.numpy()[0][0]
xupsamconv = conv(upsam(x)).data.numpy()[0][0]
```

# 比較するモデル
ジェネレーターはこのように違うモデルを使います。

![gen.png](https://qiita-image-store.s3.amazonaws.com/0/202903/bf92565f-c8c0-de6b-5c6f-5acf2974d9a1.png) ![gen2.png](https://qiita-image-store.s3.amazonaws.com/0/202903/393b99ab-63a5-596d-c5e3-e0c0a0f14786.png)

ConvTはUpsamplingとConvに置き換えられる。ただし一番目のConvTはそもそも使う目的が違うのでそのまま。

ConvTを使うモデルは先回のモデルと同じですが、今回は96pxの画像に使うものなのでちょっと数字が違います。

ディスクリミネータの方は同じモデルを使います。

![dis.png](https://qiita-image-store.s3.amazonaws.com/0/202903/b386ee18-bad8-f7e8-0323-08a7f6714e8a.png)

後ろの数字は
ConvとConvT：入力サイズ,出力サイズ,フィルターサイズ,ストライド,パディング
Lin：入力サイズ,出力サイズ
BatchNorm：入力と出力のサイズ
Upsam：アップサンプリングする数

コードは先回と同じで、レイヤーを変えただけなので、省略します。

# 使ったデータ
今回使われた画像はsafebooruから取得した初音ミクの画像です。先回と同じくlbpcascade-animeface(https://github.com/nagadomi/lbpcascade_animeface )で顔を検索してその部分を取ったが、それだけではなく、バリエーションを増やすために、検索で得た部分の2倍と3倍の範囲も取っておいたのです。そして最後に右左が逆にされる物も作る。これはデータを増やす方法の一つです。

![1000925_1_0.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/f15e06b7-8b0b-9b28-9fb0-d93f96e114c6.jpeg)
![1000637_1_0.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/e4016ed8-9338-3e95-906c-f5080529339a.jpeg)

こうやって初音ミクの画像33198枚ができて、これを学習に使いました。

![miku.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/82ec558b-3e49-5732-ecff-949a12479035.jpeg)

なぜミクを選んだというと、一番よく描かれたキャラであり、データが一番豊富のようです。

# 結果の比較
結果はこうなります。

1/3回

ConvT ![pts000_012800-.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/ebdc1d09-b182-65ef-249e-c79ccbc5f0f1.jpeg)
Upsam+Conv ![pts000_012800.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/2332a9a9-26f7-ba15-38a7-fe5686cf8951.jpeg)

1回

ConvT ![pts001-.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/7773d295-a690-5791-5c64-ebf3cb2d2901.jpeg)
Upsam+Conv ![pts001.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/956f6992-2b9a-2e7a-6a9e-7fa3eda7fe07.jpeg)

2回

ConvT ![pts002.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/3183b8e2-7b48-1b0a-0738-d90bb7e27bfb.jpeg)
Upsam+Conv ![pts002-.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/8dff70a2-c7c3-5637-dad5-85a125e0578e.jpeg)

3回

ConvT ![pts003.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/9d3c6eb0-a3bb-b904-0e56-b3a1d422d651.jpeg)
Upsam+Conv ![pts003-.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/573aae1b-3b4d-1ed0-41bb-cef0be6cc4c8.jpeg)

5回

ConvT ![pts005.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/924b94bb-4195-b0ac-4453-db302f0ffb7d.jpeg)
Upsam+Conv ![pts005-.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/61aa5e3d-9f6b-f722-1ae2-561365a95b54.jpeg)

10回

ConvT ![pts010.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/4711a8ac-c98c-1382-9b65-a3d3a75302be.jpeg)
Upsam+Conv ![pts010-.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/ac1c5cab-5117-aced-4e44-d34177d53bfa.jpeg)

15回

ConvT ![pts015.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/0f0096b8-46fc-5f14-356d-33ccd1a55a4d.jpeg)
Upsam+Conv ![pts015-.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/e4ff5108-5633-90e8-adbe-b8bbd9b96b8a.jpeg)

20回
ConvT ![pts020.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/182f30e0-dff3-f938-da13-e00b236bf0ea.jpeg)
Upsam+Conv ![pts020-.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/e9d82cb5-9df7-4986-e5c8-74ce44872ba5.jpeg)

40回
ConvT ![pts040.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/cddd3977-50c2-094f-1ef4-c83d8bc5782c.jpeg)
Upsam+Conv ![pts040-.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/6b4cd8f3-d762-075c-937c-33aaaec3c59b.jpeg)

60回
ConvT ![pts060.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/d0553af9-36db-d3ff-b62d-a4817ba7a338.jpeg)
Upsam+Conv ![pts060-.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/936f4086-226b-fa51-4926-9942cdbbf63e.jpeg)

意外と、Upsam+ConvよりもConvTの方がうまくいけるってことは明らかです。

Upsam+Convの方がもうモードが崩れたので、続きはもう作りません。

ConvTの方が120回はこう

![pts120.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/2374da4c-73b9-4f35-f93f-931e9e1d273e.jpeg)

そして160回まで

![pts160.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/05b7e5c9-9a1d-6256-a1d6-c22b92116b75.jpeg)

最初はどっちも未熟で、どっちが上手かはあまり読み切れないのですが、どんどん違いがはっきり見えるようになっていくのです。

ConvTの方が十字のようなノイズが明らかですが、学習すればするほどどんどん少なくなっていくようです。

ちなみに、160回の結果を使ってこんなものくらいはできました。

![ganimg.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/86ce0b9d-2073-9025-0353-711b63edc77a.jpeg)

近くから遠い距離に変わるところはかなり急。いつの間にかいきなり変わっちゃったって感じ。模範の中では3サイズしか準備されていないせいですね。

たくさん生成して背景としてMMDモデルと並べて使うとこんな風に。

![mikumiku.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/fd877822-c8af-6c21-30fd-0c6d8768fc53.jpeg)

# BatchNormと活性化関数の順番について
DCGANの実装でもう一つよく見つかる違いはBatchNormと活性化関数の順番です。BatchNormは活性化関数の前に置くか、後ろに置くか、どっちでも使う人がいます。どっちの方がいいと疑問して検索してみたらこの記事を見つけました。
http://minibatch.net/2017/06/11/经典论文-Batch-Normalization

BatchNormを後ろの方に置いた方がいいという結果が教えられます。

それでも私の実験でできた結果は違います。BatchNormを前に置く方がうまくいけるようです。

これはConvTを使ってBatchNormを後ろに置いた時の60回訓練した後の結果です。

![pts060.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/273bda10-1ab6-b5c6-a32b-ccfc15f85238.jpeg)

前に置いた時のと比べると、形があまり整えない。十字のようなノイズもあまり消えません。訓練し続けてももっとよくなりません。むしろモードは崩れていきがちです。

それにこれは偶然ではなく何回も試しましたが、学習は本当にあまり進まないようです。

Upsam+Convの場合も比べましたが、もともといい画像が作れていないため、違いはあまり見えにくいです。どっちらもConvTを使う場合みたいにいい画像が作れません。

# おまけに
Upsam+Convの訓練段階の中でこんな怖そうなものが出てきました。

![pts004_012800.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/f79dfa13-d09a-2339-0bab-de4c2bea42e5.jpeg)

あまりにも刺激的なので、これを使ってこんな画像を作ってしまいました。

![未标题-1.jpg](https://qiita-image-store.s3.amazonaws.com/0/202903/6f2c29e7-399f-ee2e-35e5-fca1d97b144c.jpeg)

# 終わりに
ここで結果から見ると

- ConvTを使った方がUpsam+Convよりいい
- BatchNormは活性化関数の前に置いた方がいい

それでも場合によって結果は違うこともあるかもしれません。他の人の実験を見ることも必要だと思います。