CycleGANの再現実装してみた

# CycleGANとは
ICCV 2017の[Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks](https://openaccess.thecvf.com/content_ICCV_2017/papers/Zhu_Unpaired_Image-To-Image_Translation_ICCV_2017_paper.pdf)で提案されたGANを用いた、画像スタイルを変換する手法です。著者の公開しているソースコードは参考にせずに、自分で論文を参考にして再現実装をしました。
著者のコードと論文のTraining detailsは見ずに再現実装をしたので、著者の実装とはやや異なるので、ご了承ください。
再現実装において、重要な部分はこの記事で述べますが、細かいところの説明は省きます。
実装したコードは[github](https://github.com/naoaki114514/cycle_gan)にあげたので、細かいところが気になる方はそちらを見てください。

# 画像変換とは
<img width="878" alt="スクリーンショット 2020-07-21 18.00.28.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/f706087b-c406-e792-853f-9d57907bceb7.png">


上図のように、画像のドメインを変換することを指します。具体的には、絵の画風(スタイル)を変換したり、馬をシマウマに変換することがあります。

# CycleGANの強み
<img width="190" alt="スクリーンショット 2020-07-21 18.48.36.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/6e49cd03-29af-aa2c-ae1e-7f17baea9557.png">

CycleGANが提案される以前にも、多くの画像変換の研究がなされてきました。
そのひとつに[Pix2Pix](https://arxiv.org/abs/1611.07004)があります。
Pix2PixはConditional GANを用いた画像変換の手法で高い精度を誇りましたが、
学習時に変換する画像のセットを上図のようにpaired(1対1)で用意しなければならない欠点がありました。
このような学習データを探すのはとても難しく、データセットの数が少ないことやそもそもデータセットが存在しないこともあります。

<img width="212" alt="スクリーンショット 2020-07-21 18.48.43.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/83b92081-e99e-cb69-3797-115045b89c4e.png">

このような問題を解決するために、CycleGANは、上図のようにunpaired(不対)な学習データの画像のセットを用いて画像変換をすることを可能にして学習データを集めるコストを大幅に削減しました。

# CycleGANの仕組み
CycleGANは3つのステージに分けることができます。2つ目まではよくあるGANのアルゴリズムです。
3つ目の***Cycle Consistency***がCycleGANの一番の特徴です。
## Fake画像の生成
<img width="323" alt="1.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/96ad452e-6fa4-f599-0caa-8f2a022881c4.png">

まずは上図のように、Generatorを用いて本物の画像B(Real_B)から偽物の画像A(Fake_A)、本物の画像A(Real_A)から偽物の画像B(Fake_B)を生成します。Generatorは共有せずに、それぞれG<sub>B2A</sub>,G<sub>A2B</sub>の2つを用意します。

## RealかFakeの判定
<img width="372" alt="2.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/384f6a5e-f65d-e673-1010-ad281ceac454.png">
次に、元々あるReal画像と生成したFake画像に対してDiscriminatorがRealかFakeどうかを判定します。
ここでも同様にして、Discriminatorは共有せずに、それぞれD<sub>A</sub>, D<sub>B</sub>の2つを用意します。

## Cycle Consistency
<img width="381" alt="6.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/857aae49-7c94-1177-e6d4-21bf1c8f988b.png">

Cycle Consistencyは、上図のような感じで、AからBに変換して、そのBを変換したらもとのAに戻ってきてほしいということを意味します。自分自身が教師になっているイメージです。
具体的には、ウマをシマウマに変換して、そのシマウマをウマに変換すれば、元のウマになって欲しいということです。
クルクルと行き来しているからCycle(循環)、元に戻ってほしいからConsistency(一貫性)。
そのため、2つ合わせてCycle Consistencyと呼ばれていると思います。

CycleGANでは、以下のようなアルゴリズムでCycle Consistencyを導入しています。
<img width="323" alt="3.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/7158c1f2-0c1f-708b-ebd8-88ed7059cdb7.png">


上図のように、Real_BからGeneratorで生成したFake_Aに対して逆のGeneratorを用いてRe_Bを生成します。

Re_BはReal_Bを2回変換したため元のReal_Bに戻って欲しいので、Real_B = Re_BになるようにLossをとります。

Real_Aに対しても、同様な操作をします。



# 再現実装
GeneratorとDiscriminatorのモデルと学習の仕方の実装について説明します。
Pytorchを用いて実装しました。
## GeneratorとDiscriminatorのアーキテクチャ
<img width="968" alt="4.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/fc85f1e5-6f99-72c5-7fd4-055a158ecc03.png">

Generatorは上図のようなモデルにしました。特徴量の表現力をあげるために中間層にResNetのblockを用いました。
そのため、ResNetBlockのクラスを定義して、Generatorのクラスにそれを導入しました。

```Python:model.py
class ResNetBlock(nn.Module):

    def __init__(self, dim):
        super(ResNetBlock, self).__init__()
        conv_block = []
        conv_block += [nn.ReflectionPad2d(1),
                       nn.Conv2d(dim, dim, kernel_size=3),
                       nn.BatchNorm2d(dim),
                       nn.LeakyReLU(0.2),
                       nn.ReflectionPad2d(1),
                       nn.Conv2d(dim, dim, kernel_size=3),
                       nn.BatchNorm2d(dim)
                       ]
        self.conv_block = nn.Sequential(*conv_block)

    def forward(self, x):
        out = x + self.conv_block(x)
        return out

class Generator(nn.Module):
    
    def __init__(self):
        super(Generator, self).__init__()

        self.model = nn.Sequential(
            nn.ReflectionPad2d(3),

            nn.Conv2d(3, 64, kernel_size=7),
            nn.BatchNorm2d(64),
            nn.LeakyReLU(0.2),

            nn.Conv2d(64, 128, kernel_size=3, stride=2, padding=1),
            nn.BatchNorm2d(128),  
            nn.LeakyReLU(0.2),

            nn.Conv2d(128, 256, kernel_size=3, stride=2, padding=1),
            nn.BatchNorm2d(256),
            nn.LeakyReLU(0.2),

            ResNetBlock(256),
            ResNetBlock(256),
            ResNetBlock(256),

            nn.ConvTranspose2d(256, 128, kernel_size=3, stride=2, padding=1, output_padding=1),
            nn.BatchNorm2d(128),
            nn.LeakyReLU(0.2),

            nn.ConvTranspose2d(128, 64, kernel_size=3, stride=2, padding=1, output_padding=1),
            nn.BatchNorm2d(64),
            nn.LeakyReLU(0.2),

            nn.ReflectionPad2d(3),
            nn.Conv2d(64, 3, kernel_size=7, stride=1, padding=0),
            nn.Tanh()
        )

        
        self.model.apply(self._init_weights)

    def forward(self, input):
        return self.model(input)

    def _init_weights(self, m):
        classname = m.__class__.__name__
        if classname.find('Conv') != -1:
            nn.init.normal_(m.weight.data, 0.0, 0.02)
```

<img width="842" alt="5.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/5d3392c9-71e8-7ec2-d543-6c584e8f518e.png">

Discriminatorは画像を畳み込んで、最後の層でRealかFakeかどうかの信号を出すように上図のように定義しました。

```Python:model.py
class Discriminator(nn.Module):
  def __init__(self):
    super(Discriminator, self).__init__()
    self.nf = 64
    self.main = nn.Sequential(
        nn.Conv2d(3, self.nf, 4, 2, 1, bias = False),
        nn.LeakyReLU(0.2, inplace = True),
        nn.Dropout(0.1),
        nn.Conv2d(self.nf, self.nf * 2, 4, 2, 1, bias = False),
        nn.BatchNorm2d(self.nf * 2),
        nn.LeakyReLU(0.2, inplace = True),
        nn.Dropout(0.1),
        nn.Conv2d(self.nf * 2, self.nf * 4, 4, 2, 1, bias = False),
        nn.BatchNorm2d(self.nf * 4),
        nn.LeakyReLU(0.2, inplace = True),
        nn.Dropout(0.1),
        nn.Conv2d(self.nf * 4, self.nf * 8, 4, 2, 1, bias = False),
        nn.BatchNorm2d(self.nf * 8),
        nn.LeakyReLU(0.2, inplace = True),
        nn.Dropout(0.1),
        nn.Conv2d(self.nf * 8, self.nf * 16, 4, 2, 1, bias = False),
        nn.BatchNorm2d(self.nf * 16),
        nn.LeakyReLU(0.2, inplace = True),
        nn.Dropout(0.1),
        nn.Conv2d(self.nf * 16, self.nf * 32, 4, 2, 1, bias = False),
        nn.BatchNorm2d(self.nf * 32),
        nn.LeakyReLU(0.2, inplace = True),
        nn.Dropout(0.1),
        nn.Conv2d(self.nf * 32, 1, 4, 1, 0, bias = False),
        nn.Sigmoid()
    )
  def forward(self, input):
    output = self.main(input)
    return output.view(-1, 1).squeeze(1)
```

学習を安定させるために、GeneratorとDiscriminatorの両方にLeakyReLUを使用しました。
同様の理由で、BatchNormを使用しました。

## 学習の仕方
まずは、AとBについてReal画像とFake画像を用意します。
Fake画像はGeneratorを用いてReal画像から生成します。

```Python:experiment.py
real_A = data_train[0].to(device)
real_B = data_train[1].to(device)
fake_A = netG_B2A(real_B)
fake_B = netG_A2B(real_A)
```
### DiscriminatorAの学習
Discriminatorに関してはGAN Lossのみを考えれば良いです。
Aに関するRealかFakeを判定するDiscriminatorAを学習させます。
criterion_GANはBCELossのことを指しています。
本物を見分けるので、Real_Aに対してlabel=1とします。
次に偽物を見分けます。Fake_Aに対してはlabel=0とします。
それぞれ画像を入力とするDiscriminatorのoutputに対してBCELossをとります。
これで、DiscriminatorのGAN Lossは満たされます。

```Python:experiment.py
#Discriminator Aの学習
optimizerD_A.zero_grad()

#本物を見分ける
batch_size = real_A.size()[0]
label = torch.ones(batch_size).to(device)
output = netD_A(real_A)
           
errD_A_real = criterion_GAN(output, label)
errD_A_real.backward()

#偽物を見分ける
label = torch.zeros(batch_size).to(device)
output = netD_A(fake_A.detach())#勾配がGに伝わらないようにdetach()して止める
errD_A_fake = criterion_GAN(output, label)
errD_A_fake.backward()

loss_train_D_A_epoch += errD_A_real.item() + errD_A_fake.item()

optimizerD_A.step()
```
### DiscriminatorBの学習
DiscriminatorBに対しても、DiscriminatorAと同様な学習をさせます。

```Python:experiment.py
#Discriminator Bの学習
optimizerD_B.zero_grad()

#本物を見分ける
label = torch.ones(batch_size).to(device)
output = netD_B(real_B)
errD_B_real = criterion_GAN(output, label)
errD_B_real.backward()

#偽物を見分ける
label = torch.zeros(batch_size).to(device)
output = netD_B(fake_B.detach())#勾配がGに伝わらないようにdetach()して止める
errD_B_fake = criterion_GAN(output, label)
errD_B_fake.backward()

loss_train_D_B_epoch += errD_B_real.item() + errD_B_fake.item()

optimizerD_B.step()
```

### Generatorの学習
Generatorの学習には、GAN LossとCycle Consistency Lossの2つがあります。

#### GAN Loss
BからAに変換するnetG_B2AとAからBに変換するnetG_A2Bの2つのGeneratorを同時に学習させます。
Generatorは自分が生成したFakeをDiscriminatorにRealと思わせたいので、label=1とします。
先ほどと同様に、それぞれ画像を入力とするDiscriminatorのoutputに対してBCELossをとります。
これで、GeneratorのGAN Lossは満たされます。

```Python:experiment.py
#Generatorの学習
optimizerG.zero_grad()

fake_A = netG_B2A(real_B)
fake_B = netG_A2B(real_A)

#GAN Loss
label = torch.ones(batch_size).to(device)
output1 = netD_A(fake_A)
output2 = netD_B(fake_B)

errG_B2A = criterion_GAN(output1, label)
errG_A2B = criterion_GAN(output2, label)
errG = errG_B2A + errG_A2B

loss_train_G_B2A_epoch += errG_B2A.item()
loss_train_G_A2B_epoch += errG_A2B.item()
```

#### Cycle Consistency Loss
netG_A2Bが生成したfake_Bに対して、netG_B2Aを用いてre_Aを生成します。
2回変換を施したので、re_A = Aになって欲しいです。(つまり、元に戻って欲しい)
そのため、real_Aとre_AにL1Lossを取れば良いです。
同じ操作をreal_Bに対しても行います。
(ここでは、criterion_cycleがL1Lossとする)

```Python:experiment.py
re_A = netG_B2A(fake_B)
re_B = netG_A2B(fake_A)

#cycle Loss
loss_cycle = criterion_cycle(re_A, real_A) + criterion_cycle(re_B, real_B)

loss_train_cycle_epoch += loss_cycle.item()

errG += loss_cycle
errG.backward()

optimizerG.step()
```

# 実験結果
## データセット
データセットには[maps](https://people.eecs.berkeley.edu/~taesung_park/CycleGAN/datasets/)を使用しました。
下図のような航空写真とその地図写真の組み合わせのデータセットです。
![real_samples_epoch_001.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/c5716497-f94e-934b-71f8-b83b5987cc54.png)![real_samples_epoch_001-1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/fa59fee7-2b64-3ad1-d24b-a22bc883f199.png)

trainに1096ペア、testに1098ペアあります。
以下、航空写真をA, 地図写真をBとします。

## 各種パラメータの設定
- 画像のサイズ 256×256
- バッチサイズ 1
- Discriminatorの学習率 両方とも0.000014
- Generatorの学習率 両方とも0.0002
- エポック数 100
- Optimizer Adam

## 結果
100エポックの学習に丸2日かかりました。

![loss_train.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/c93deb93-62de-0531-ee22-edc1caea2112.png)

上に示したグラフは、学習時のLossのグラフです。
G_BはAからBに変換するGenerator, G_AはBからAに変換するGenerator, D_AはAがRealかFakeどうかを判別するDiscriminator, D_BはBがRealかFakeどうかを判別するDiscriminator, cycleは2つのCycle Consistency Lossの和を表しています。

G_BのLossが高くなっています。2つのGeneratorはどちらともDiscriminatorよりLossが高くなっています。Cycle Consistency Lossは小さいので、うまく機能していることがわかります。

![loss_test.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/ea336cd2-6bc0-7bab-a9c5-953455eefa3b.png)
次に、テスト時のLossのグラフです。学習時と同じようなグラフになりました。過学習が起きてないことがわかります。Bに関しては、学習時よりGeneratorとDiscriminatorのグラフが均衡しています。こちらもCycle Consistency Lossは小さいので、うまく機能していることがわかります。

100エポック目のテスト時に変換した画像を見てみましょう。
### 成功例
これが変換する前のペア画像です。
![real_samples_i_0072_a.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/a414c6ca-76a6-e8fa-7472-977407a6e9d4.png)![real_samples_i_0072_b.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/39001431-afa9-b1ce-7d5b-cfab8027a41d.png)
これが変換した後のペア画像です。
![fake_samples_i_0072_a.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/66278279-4f93-bdcb-54c5-c592a959f7cc.png)![fake_samples_i_0072_b.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/ed7d351c-a10c-9b19-927b-e2f16538495e.png)

もう1組見てみましょう。
これが変換する前のペア画像です。
![real_samples_i_1089_a.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/773bf37f-07a4-0d93-a885-2b3321f0cb4b.png)![real_samples_i_1089_b.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/2dbd7582-f85b-3f57-d0ab-c3aa5eba68b0.png)
これが変換した後のペア画像です。
![fake_samples_i_1089_a.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/0d0f4e38-5da6-6588-cbf6-ff3c2f5e319d.png)![fake_samples_i_1089_b.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/421d3149-ee28-cb20-2239-fa3c60f02113.png)

どちらのペアもきれいに変換できていることがわかります。

### 失敗例
これが変換する前のペア画像です。
![real_samples_i_0068_a.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/dd9d76b9-a10b-d611-65bd-daab668e9f56.png)![real_samples_i_0068_b.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/291bc82a-1dc7-c036-610f-e83f88aa50e7.png)
これが変換した後のペア画像です。
![fake_samples_i_0068_a.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/013e3a5e-f283-3ee6-d53c-07e93fb3a089.png)![fake_samples_i_0068_b.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/79cd04ce-403f-16c0-9d4f-96fc1ee96a57.png)

もう1組見てみましょう。
これが変換する前のペア画像です。
![real_samples_i_0045_a.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/bcac69d4-0c2c-0c28-229c-06cbb3ab1e23.png)![real_samples_i_0045_b.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/95c5dd97-7d89-9556-891c-f6e467cfb9cd.png)
これが変換した後のペア画像です。
![fake_samples_i_0045_a.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/41707fa6-43f7-eaf8-9859-3d3ca190b550.png)![fake_samples_i_0045_b.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/590810/9a60ad7e-170f-43e9-e99a-96b4d82fe43a.png)

どちらのペアも画像がうまく変換されていません。特にBの方は全く変換されていません。



# 考察
綺麗に生成された画像は住宅街の画像が多く、失敗した画像の多くは木や水を含む画像でした。
このことから、住宅や道路などの変換は学習できていますが、森や山や川や海などの自然の変換の学習に失敗していることがわかりました。

また、生成した画像全体にGAN特有のアーティファクトがありました。
## 失敗した理由1
データセットには、圧倒的に住宅街の画像が多かったので、住宅や道路などの変換を学習するには十分でしたが、自然を含む画像は比較的に少なめでしたので、自然の変換の学習には足りなかったと考えられます。

## 失敗した理由2
実験で試したデータセットは1種類のみでした。性能を試すには他のデータセットも使用するべきでした。

## 失敗した理由3
論文のTraining detailsでは、DiscriminatorにPatchGANを使用してました。しかし、自分の再現実装では、普通に画像全てを畳み込んでRealかFakeかどうかの判定をしてしまいました。
## 失敗した理由4
論文では、Proposed MethodでGANのLossに普通のmin-max optimizationを使っていたので、私も再現実装では、GANのLossに普通のmin-max optimizationを使用していましたが、論文のTraining detailsではLSGANのLossを使用して学習を安定させてました。
## 失敗した理由5
生成結果を良くするパラメータの調整はやりませんでした。

# まとめ
CycleGANの再現実装をしましたが、論文で示されているほどの綺麗な生成画像は生成できませんでした。
DiscriminatorとGeneratorのアーキテクチャが論文と異なることが原因だと考えられます。
しかし、CycleGANの本質であるCycle Consistency Lossを再現実装できて、まあまあな結果が得られたので、自分としてはよかったかなと思います。