ColabのTPUを使った高速なスタイル変換を作った（Neural Style Transfer）

「ディープラーニングの画像生成で新しい千円札作りたくない？？　作りたくない？？」

「Neural Style Trasnferって遅い、コード面倒くさい、L-BFGSってこれ以外使わねえ」→結論：めんどくさいって思ったので、ColabのTPUに移植しました。結構速く動いて、**256×256の解像度で3000エポック回して15分**で終わります。

## 元の論文
* A Neural Algorithm of Artistic Style : https://arxiv.org/abs/1508.06576
* Image Style Transfer Using Convolutional Neural Networks : https://www.cv-foundation.org/openaccess/content_cvpr_2016/papers/Gatys_Image_Style_Transfer_CVPR_2016_paper.pdf
* Perceptual Losses for Real-Time Style Transfer
and Super-Resolution : https://arxiv.org/abs/1603.08155

## コード
全体のコードはこちら参照
[**https://github.com/koshian2/NeuralStyleTransferTPU**](https://github.com/koshian2/NeuralStyleTransferTPU)

## 結果
全てのケースでContent Lossの係数は0.025、Style Lossの係数は1に固定しました。Total Variation Lossのみ変化させています。

### 新・千円札
[北里柴三郎](https://www.town.kumamoto-oguni.lg.jp/q/aview/193/11.html)＋葛飾北斎の「[神奈川沖浪裏](https://ja.wikipedia.org/wiki/%E7%A5%9E%E5%A5%88%E5%B7%9D%E6%B2%96%E6%B5%AA%E8%A3%8F)」。画像はリンク元より。

**コンテンツ画像**
![kitasato_s.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/232088/cbb2954a-e96a-6859-49d0-c67db8a45ff4.jpeg)

**スタイル画像**
![kanagawa_s.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/232088/cae10cee-40b9-aa54-727f-249900fb7069.jpeg)

**生成画像（TV=0）**
![epoch_2990 _tv0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/232088/b32bc0fc-274d-84be-6bbb-1a85178d0e78.png)
Total Variation Lossがないケース。元の顔写真は維持しつつも、波打っている感じになっています。

**生成画像（TV=1e-5）**
![epoch_2990 _1e-5.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/232088/f3690750-ae5a-4eab-168a-647e619b8933.png)
気持ちTotal Variation Lossを入れたケース。細かいラインは消えてはいるものの、波という感じになっています。ハンコっぽいような印象になっています。

### 清水寺＋鵺
こっちのほうが面白い結果になっています。[清水寺](https://www.pexels.com/photo/landscape-photo-of-asian-buildings-161150/)の画像に[歌川国芳の鵺（木曽街道六十九次）](https://ja.wikipedia.org/wiki/%E9%B5%BA)をスタイルとして入れてみました。

**コンテンツ画像**
![kiyomizu.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/232088/443b5014-c374-61bb-f736-ebbcd606065e.jpeg)

**スタイル画像**
![nue.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/232088/62b503c5-5196-94b8-833d-0aefcb11033a.jpeg)

**生成画像（TV=0.01）**
![kiyomizu_tv_0.01.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/232088/52ba6bfe-e47c-6dc4-8635-2c888ecf7dea.png)
清水寺の輪郭は維持しつつも、鵺の輪郭がところどころにあらわれているのがわかるでしょうか。木のラインと空のラインにそれが見られますね。

**生成画像（TV=0.25）**
![kiyomizu_tv_0.25.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/232088/2d3a314c-9356-1cb2-d7fb-e30359fa57f8.png)
少しTotal Variation Lossを増やして平滑化します。清水寺の細かな輪郭は消えましたが、鵺の禍々しい雰囲気が増してまさに「丑三つ時」という感じになっています。

## 方針
* Kerasの[Neural Style Transferのサンプル](https://github.com/keras-team/keras/blob/master/examples/neural_style_transfer.py)を参考にしたが、TPUに移植する過程でもはやコードが別物になった
* KerasのVGGはテンソル指定して初期化するとハマる（load_weightsの箇所で「by_name=True」がない）ので、VGG19のコードを自分で作る。KerasのGitHubをコピペし、by_name=Trueを入れて、複数モデル展開してもレイヤーの名前衝突が起きないように改造すればOK。  
関連issue：https://github.com/keras-team/keras/issues/4465
* Neural Style Transferには、Content Loss、Style Loss、Total Variation Lossの3種類の損失関数がある。Total Variation Lossを入れないのがオリジナルの論文だが、入れたほうが綺麗に仕上がる（これは別の論文）。
* Style Lossの計算には訓練済みVGGの特徴量を使う。一般的なGPUのコードだと、損失値や損失関数内でVGGの初期化をするが、TPUの場合は損失関数内でload_weightsの処理が展開できないので、**モデル側に損失値を計算するレイヤー**を作る。モデル側に作ればCPUで一旦初期化してからTPUに展開するのでうまくいく（ここらへんの話は技術書典の本の8章で書きました）。
* 損失値をレイヤー側で事前に計算して、損失関数はその値を引き出すだけ
* TPUは2019年4月現在、2つ以上の出力があると損失関数や評価関数の表示がおかしくなるというバグがあるので、**出力画像の4チャンネル目に損失値を入れて1つの出力に**する
* オプティマイザはAdamを使う
* 生成画像を再帰的に訓練させるには、**出力画像を係数に持ったレイヤーを定義**する。

出力画像を係数に持ったレイヤーとはこんな感じのもの。

```python
# Savng layer of a generated image
class GeneratedImages(layers.Layer):
    def __init__(self, **kwargs):
        super().__init__(**kwargs)

    def build(self, input_shape):
        self.image_params = self.add_weight(name="image_params",
                                shape=(int(input_shape[1]), int(input_shape[2]), int(input_shape[3])),
                                initializer="uniform", trainable=True)
        super().build(input_shape)

    def call(self, x):
        # Apply sigmoid function to the params
        x = K.sigmoid(self.image_params) * K.sign(K.abs(x)+1)
        # [0,1] -> [0, 255]
        x = 255*x
        # RGB -> BGR
        x = x[:, :, :, ::-1]
        # Convert to caffe color scale
        mean = K.variable(np.array([103.939, 116.779, 123.68], np.float32).reshape(1,1,1,3))
        return x - mean
        #return self.image_params * K.sign(K.abs(x)+1)


    def compute_output_shape(self, input_shape):
        return input_shape

    def get_config(self):
        return super().get_config()
```

訓練開始時に**値域が[0,1]かつRGBのカラースケール**で重みを初期化し、VGGのカラースケールに合うように出力をする（レイヤー内で前処理をする）。シグモイド関数は入れても入れなくてもいいが、**入れると結構誤差の収束が早くなる。シグモイド関数は入れないからといって、きれいになるわけではなさそう**。→シグモイド入れたほうがよくない？ってことになりました。

シグモイド関数で[0,1]出力すればいいので、初期値として与えるコンテンツ画像は、**[0,1]スケールのRGB値をロジット変換したもの**でOKですね。

$$y=\ln\frac{x}{1-x+\epsilon} $$

xを[0,1]スケールのRGB値、yをロジットとします。シグモイド関数の逆関数なので、これにシグモイド関数をかければ[0,1]スケールに戻ります。こんな感じでセットします。

```python
    # initialize generating layer with content image
    # [0,1] -> logit
    content_r = content_numpy.astype(np.float32) / 255.0
    content_logit = np.log(content_r / (1 - content_r + 1e-8))
    model.get_layer("generated").set_weights([content_logit])
```

## 関連
この内容は、私が技術書典6で出した「DeepCreamPyから学ぶモザイク除去」の第6章の演習問題の第4問の模範解答の一例になっています。通販は以下のURLになりますので、必要な方はご利用ください。

**『DeepCreamPyで学ぶモザイク除去』通販**
[https://note.mu/koshian2/n/naa60d5c9ebba](https://note.mu/koshian2/n/naa60d5c9ebba)