深層学習小史～著名論文で綴る4年+24年～

毎度毎度だが深層学習は素人です。下記の論文も読んでいません。ただ、急速に展開している深層学習を追っている忙しい人のためのきっかけとなればいいな、と思い書いています。

# 深層学習小史～著名論文で綴る4年+24年～
* 被引用数はGoogle Scholarより

## 前史
昨日今日の話の気がするが実は歴史は古かったりする。まー平成だが。2007年刊行の代表的なテキスト
<a href="https://www.amazon.co.jp/%E3%83%91%E3%82%BF%E3%83%BC%E3%83%B3%E8%AA%8D%E8%AD%98%E3%81%A8%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92-%E4%B8%8A-C-M-%E3%83%93%E3%82%B7%E3%83%A7%E3%83%83%E3%83%97/dp/4621061224/ref=as_li_ss_il?ie=UTF8&qid=1477404168&sr=8-1&keywords=%E3%83%91%E3%82%BF%E3%83%BC%E3%83%B3%E8%AA%8D%E8%AD%98%E3%81%A8%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92&linkCode=li2&tag=aokikenichi-22&linkId=fac29d4773ec1f3312c52432a557f5c1" target="_blank"><img border="0" src="//ws-fe.amazon-adsystem.com/widgets/q?_encoding=UTF8&ASIN=4621061224&Format=_SL160_&ID=AsinImage&MarketPlace=JP&ServiceVersion=20070822&WS=1&tag=aokikenichi-22" ></a><img src="https://ir-jp.amazon-adsystem.com/e/ir?t=aokikenichi-22&l=li2&o=9&a=4621061224" width="1" height="1" border="0" alt="" style="border:none !important; margin:0px !important;" />
にもCNNは実は出ている。

* 1989年 CNNの基礎
    * 論文 [Backpropagation applied to handwritten zip code recognition](http://www.mitpressjournals.org/doi/abs/10.1162/neco.1989.1.4.541#.WA9pNuiLTtQ)
        * 被引用数 1,865(2016/10/25現在)
* 1998年 CNNの基礎
    * 論文 [Gradient-based learning applied to document recognition](http://ieeexplore.ieee.org/document/726791/)
        * 被引用数 6,066(2016/10/25現在)

## それにしてもシュレーディンガーにしても天才な人はなぜ猫を実験台にするのだろうか
* c.f. 
    * [有名論文から学ぶディープラーニング](http://www.slideshare.net/minoruchikamune/20160325-60094117)
    * [深層学習を勉強する上で重要っぽい論文リスト（2010年からの通算引用数）](http://tam5917.hatenablog.com/entry/2016/06/06/061320)
    * https://github.com/songrotek/Deep-Learning-Papers-Reading-Roadmap

## 2012年
* 2012年 猫（画像認識）
    * [Building high-level features using large scale unsupervised learning](https://arxiv.org/abs/1112.6209)
        * 被引用数 946(2016/10/25現在)
    * 記事
        * [Building High-level Features Using Large Scale Unsupervised Learning を読んだ](http://d.hatena.ne.jp/someone620/20121107/1352285903)
        * [Googleの猫認識 (Deep Learning)](http://d.hatena.ne.jp/Zellij/20130608/p1)
    * 特徴
        * Autoencoder
        * 特徴量自動抽出
* 2012年 ILSVRC2012で圧勝 （画像認識）
    * [ImageNet Classification with Deep Convolutional Neural Networks](http://papers.nips.cc/paper/4824-imagenet-classification-w)
        * 被引用数 7,221(2016/10/25現在)
    * 記事（スライド）
        * [Image net classification　with Deep Convolutional Neural Networks](http://www.slideshare.net/itomeseijin/image-net-classificationwith-deep-convolutional-neural-networks)
    * 特徴
        * CNN
        * dropout

## 2013年
* 2013年 Atariのゲームをプレイ
    * [Playing atari with deep reinforcement learning](https://arxiv.org/abs/1312.5602)
        * 被引用数 284(2016/10/25)
    * 記事
        * [論文紹介「Playing Atari with Deep Reinforcement Learning」](https://tech.d-itlab.co.jp/ml/385/)
    * 特徴
        * 強化学習
        * torchフレームワークを使用
* 2013年 word2vec
    * [Efficient estimation of word representations in vector space](https://arxiv.org/abs/1301.3781)
        * 被引用数 2,249(2016/10/30)
    * 記事
        * [【論文シリーズ】CBOWとSkip-gramについて](http://qiita.com/To_Murakami/items/6bd5638689166ec4821c)
        * [Word2Vec のニューラルネットワーク学習過程を理解する](http://tkengo.github.io/blog/2016/05/09/understand-how-to-learn-word2vec/)
        * [Mikolovのword2vec論文3本(2013)まとめ](http://hytae.hatenablog.com/entry/2015/05/15/Mikolov%E3%81%AEword2vec%E8%AB%96%E6%96%873%E6%9C%AC%E3%81%BE%E3%81%A8%E3%82%81)
    * 特徴
        * RNN
        * 言葉の意味の足し算引き算

## 2015年
* 2015年 チャットボット
    * [A Neural Conversational Model](https://arxiv.org/abs/1506.05869)
        * 被引用数 62(2016/10/25)
    * 記事
        * [A Neural Conversational Model](http://hytae.hatenablog.com/entry/2015/07/31/A_Neural_Conversational_Model)
    * 特徴
        * LSTM
        * seq2seq
* 2015年 音声認識
    * [Fast and accurate recurrent neural network acoustic models for speech recognition](https://arxiv.org/abs/1507.06947)
        * 被引用数 35(2016/10/25)
    * 記事
    * 特徴
        * LSTM
        * RNN
* 2015年 画像認識で説明文
    * [Show and Tell: A Neural Image Caption Generator](http://www.cv-foundation.org/openaccess/content_cvpr_2015/html/Vinyals_Show_and_Tell_2015_CVPR_paper.html)
        * 被引用数 507(2016/10/25)
    * 記事
        * [Chainerで画像のキャプション生成](http://qiita.com/dsanno/items/b237482087207d0364c3)
    * 特徴
        * CNN
            * LSTM
* 2015年 画風変換
    * [A neural algorithm of artistic style](https://arxiv.org/abs/1508.06576)
        * 被引用数 94(2016/10/25)
    * 記事
        * [画風を変換するアルゴリズム](https://research.preferred.jp/2015/09/chainer-gogh/)
    * 特徴
        * CNN
* 2015年 詩
    * [Generating sentences from a continuous space](https://arxiv.org/abs/1511.06349)
        * 被引用数 19 (2016/11/08)
    * 記事
        * [人工知能は「詩人」になれるのか──グーグルの試み](http://wired.jp/2016/05/19/google-artificial-intelligence-poetry/)
        * [GoogleのAIはどうやって「詩」を生成するのか](http://ksksksks2.hatenadiary.jp/entry/20160625/1466864561)
    * 特徴
        * VAE
        * RNNLM
* 2015年 画像生成
    * [Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks](https://arxiv.org/abs/1511.06434)
        * 被引用数 86(2016/11/08)
    * 記事
        * [DCGAN](http://pip-install-deeplearning.hatenadiary.jp/entry/2016/01/21/232837)
    * 特徴
        * DCGAN
        * 表情の足し算引き算！

## 2016年
* 2016年 AlphaGo
    * [Mastering the game of go with deep neural networks and tree search](http://www.nature.com/nature/journal/v529/n7587/full/nature16961.html) [pdf](http://willamette.edu/~levenick/cs448/goNature.pdf)
        * 被引用数 319(2016/10/25)
    * 記事
        * [AlphaGoの論文を日本語に訳してまとめてみた！(まだまだ未完成)](http://ket-30.hatenablog.com/entry/AlphaGo/matome)
    * 特徴
        * 強化学習
        * モンテカルロ木探索
* 2016年 翻訳
    * [Google's Neural Machine Translation System: Bridging the Gap between Human and Machine Translation](https://arxiv.org/abs/1609.08144)
        * 被引用数 4(2016/11/08)
    * 記事
        * [「Google翻訳」にニューラルネット機械翻訳技術を採用　まずは中国語→英語で](http://www.itmedia.co.jp/news/articles/1609/28/news085.html)
        * [G社のNMT論文を読んでみた](http://www.slideshare.net/ToshiakiNakazawa/gnmt-66491745?1475112699378=1)
    * 特徴
        * LSTM