平成最後の日に我が家の猫ちゃんを変身させます。

# はじめに



最初にご報告があります。我が家の猫ちゃんは非常に可愛いです！！！普段もよく写真を撮っています。
<img width="768" alt="neko.jpg" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/180878/1fda4b17-d9c7-c481-c817-6b8e0572ce49.jpeg">


そして今日、平成最後の日において、この子に関する記事を書こうと思いました。

ということで、今回は我が家の猫ちゃんの写真で遊べるNeural Style Transfer(NST)について記事を書きます。

あくまでも個人の趣味なので、間違いがあったらご容赦ください。

# NSTの歴史

調べてみたところ、Qiita上にすでにDeNA社のエンジニアによる素晴らしいまとめ[記事](https://qiita.com/ta-ka/items/b59286cdf9b4d9f9ff14)が存在します。非常にわかりやすく書いてあります。良かったらチェックしてみてください。

NSTの発展は[Gatys et al.](https://www.cv-foundation.org/openaccess/content_cvpr_2016/papers/Gatys_Image_Style_Transfer_CVPR_2016_paper.pdf)から始まり、キーアイディアは、pre-trainedの画像認識用の内部のConv層の出力であるfeature mapの統計情報(平均、分散など)が画像の画風を表現できるということです。

最初はoptimizationベースの手法が多いでしたが、その後、Feed-forward networkを生成器として使った研究が主流となりました。その中の代表的な手法とそれらの説明はDeNA社の記事に書いてあるので、ここでは詳しく比較しません。

今回はその中で割と簡単な[Adain](http://openaccess.thecvf.com/content_ICCV_2017/papers/Huang_Arbitrary_Style_Transfer_ICCV_2017_paper.pdf)を実装したので、ここでは簡単に補足説明します。

# [Arbitrary Style Transfer in Real-time with Adaptive Instance Normalization](http://openaccess.thecvf.com/content_ICCV_2017/papers/Huang_Arbitrary_Style_Transfer_ICCV_2017_paper.pdf)

この手法はAdaptive instance normalization/Adainを使うのが特徴です。Adainを理解するには、まずInstance normalizationを理解しなければなりません。

しばしば, Instance normalizationとBatch normalizationがよく比較されますが、一体どういう違いがあるでしょう？

一般的なCNNの中間層の出力を考えます。そのサイズは(b, c, h, w)としましょう。では各Normalization手法はどういうところで正規化し、どういう平均と分散が得られるかをまとめてみましょう。

- BN

  - (b, c, h, w)のb, h, wに対し、平均と分散を計算します。
  - shape=cの平均と分散のベクトルが得られます。

- IN

  - (b, c, h, w)のh, wに対し、平均と分散を計算します。
  - shape = (b, c)の平均と分散の行列が得られます。

- LN（ついでにLayer Normalizationも説明しましょう）

  - (b, c, h, w)のc, h, wに対し、平均と分散を計算します。
  - shape = bの平均と分散のベクトルが得られます。

  

この論文の提案手法は何をしたかというと、真ん中にAdain層が存在するVGGベースのAutoEncoderを学習させます。Conten画像とStyle画像をそれぞれEncoderに入力して、ここでは、それぞれの出力のfeature mapをC_feature, S_featureと呼びましょう。それぞれに対して、IN手法のように、C_featureとS_featureの平均と分散を計算します。最後に、C_featureをC_featureの平均と分散で正規化して、S_featureの平均と分散で逆正規化します。言い換えると、C_featureの平均と分散をS_featureのものに変えます。なぜかというと、[Gatys et al.](https://www.cv-foundation.org/openaccess/content_cvpr_2016/papers/Gatys_Image_Style_Transfer_CVPR_2016_paper.pdf) による、feature mapの統計情報が画風を表せるという理由からです。



元論文の実装はTorchでやってましたが、今回はAdainをPytorchで一から実装しました。[Code]()はGithub上に載せておきます。よろしければチェックして、スターをください。



# 結果

結果図をいくつか載せておきます。また、画風の具合を調整する機能も実装したのですが、よろしければぜひそれも試してください。

![res1.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/180878/b43c9db2-bf04-0478-5240-492737c22947.gif)

![res3.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/180878/a93a54b3-a26f-1f0a-76a5-ad68a53428ab.gif)
![res6.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/180878/e191ce57-136c-c50a-fc5c-c9e19a013727.gif)

まあまあって感じですかね。

# 我が家の猫ちゃんはどうなるの？

さて、本題に入りますが、今回のお遊びは我が家の猫ちゃんを他のスタイルの猫ちゃんに変えることなので、一体どうなるでしょう？

![neko_antimonocromatismo_demo.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/180878/a02beb37-9e73-32d3-2aad-3963d90a0c9b.jpeg)

![neko_antimonocromatismo_demo.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/180878/9f3d7a7c-e7ce-1d19-a948-886336a2bbef.jpeg)
![neko_contrast_of_forms_demo.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/180878/396c2cc0-d532-5a45-3966-b5b5fe0882e7.jpeg)
![neko_sketch_demo.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/180878/6977d69d-3aca-2c0b-ac97-634670a37dc4.jpeg)
![neko_mondrian_demo.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/180878/b6da004d-9595-b0b2-7fdf-c1ca00078dbc.jpeg)
![neko_hosi_demo.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/180878/4b6ec96f-fd65-4cbd-fa59-51e0d68617d4.jpeg)

画風の定義が難しいと思いますが、まあまあできているからいいやと思いました。

ということで、もし面白い画風の画像があったら、連絡していただきたいですね。何ができるか気になります。

# これから

一応、DeNA社の記事を沿って、と[Universal Style Transfer via Feature Transforms](https://arxiv.org/abs/1705.08086)、 [Fast Patch-based Style Transfer of Arbitrary Style](https://arxiv.org/pdf/1612.04337.pdf)と [Avatar-Net: Multi-scale Zero-shot Style Transfer by Feature Decoration](https://arxiv.org/pdf/1805.03857.pdf)も実装していくつもりです。興味のある方は私に声をかけてください。仲間も大歓迎です。一緒に遊びましょう。