2016年のディープラーニング論文100選

これは[Fujitsu Advent Calendar 2016](http://qiita.com/advent-calendar/2016/fujitsu)の11日目の記事です。
掲載内容は個人の意見・見解であり、富士通グループを代表するものではありません。なお、内容の正確性には注意を払っていますが無保証です。

# はじめに
この記事では~~先月~~今年発表されたディープラーニング論文（ArXivでの発表時期、発表された国際会議が2016年開催またはジャーナル掲載が2016年のもの）から私が個人的に重要だと思った論文を収集しています。また、2015年末ごろの論文も重要なものは採用しています。

以下の投稿も合わせてご覧ください。
[2017年のディープラーニング論文100選](https://qiita.com/sakaiakira/items/f225b670bea6d851c7ea)
[DeepLearning研究 2016年のまとめ](http://qiita.com/eve_yk/items/f4b274da7042cba1ba76)
[2016年の深層学習を用いた画像認識モデル](http://qiita.com/aiskoaskosd/items/59c49f2e2a6d76d62798) 
[foobarNet: ディープラーニング関連の○○Netまとめ](http://qiita.com/shinya7y/items/8911856125a3109378d6#_reference-a60de5539cc2a2dd8bd7)
[NIPS2016実装集](https://www.reddit.com/r/MachineLearning/comments/5hwqeb/project_all_code_implementations_for_nips_2016/)
# ディープラーニングにとっての2016年
2016年において、ディープラーニング業界は2015年を大きく上回る成果をあげました。
Alphagoが囲碁のプロ棋士に勝ち越した出来事は各界に衝撃を与えましたが、これは2016年におけるディープラーニング革命のほんの始まりに過ぎませんでした。　

2015年に人の認識率を超えた画像認識技術は画像認識にとどまらず、様々な分野に応用され始めています。
例えば、写真にキャプションを付けたり、キャプションから写真を生成したり(!)、ラフ画から詳細な絵を自動生成したり(!!)、近未来を予想したり(!!!)。

一年前は遠い先のように思えた言語処理の分野も実用化が視野に入りつつあります。言語翻訳の分野では一部の印欧言語間において、文レベルの翻訳に関しては人間レベルをほぼ達成しました。会話レベルの音声認識技術も今や人の水準を超えつつあります。

ディープラーニングの基幹技術においても革新的な進歩がありました。
1つないし、少数のデータからの学習を可能にするone-shot学習関連技術やネットワーク規模を約50分の1に大幅に圧縮する技術が登場しました。
かつてはブラックボックスと言われたディープラーニングの数学的背景についても理解が進み始めました。
強化学習技術の進歩も著しく、人間にかなり近いレベルの自律学習能力が機械に備わるのはそう遠い将来では無いでしょう。

今年の初めにはディープラーニング技術者である私自身ですら、これほどの進歩は予想していませんでした。未来予想図が毎日のように書き変わっていく、ここはそういう世界です。そして、人類の未来もまた非線形に変化して行くことでしょう。

未来が全ての皆さまにとって素晴らしいものになるように、私たちディープラーニング技術者はこれまで以上に努力していきます。ぜひ、応援してください。
(あくまで、個人的見解です。)

2017年もまた素晴らしい年になりますように。。。

# 2016年のディープラーニング論文100選
## マイルストーン
- 現役囲碁トップ棋士に勝利  
Mastering the game of Go with deep neural networks and tree search [[pdf](http://www.nature.com/nature/journal/v529/n7587/full/nature16961.html)]
- 会話レベルの音声認識で人間と同レベルを達成   
Achieving Human Parity in Conversational Speech Recognition [[pdf](https://arxiv.org/abs/1610.05256)]
- 一部の印欧言語間の文レベルでの翻訳でほぼ人間レベルを達成  
Google's Neural Machine Translation System: Bridging the Gap between Human and Machine Translation [[pdf](https://arxiv.org/abs/1609.08144)]
- 読唇術で人間レベルを達成  
Lip Reading Sentences in the Wild [[pdf](https://arxiv.org/abs/1611.05358)]  

## 画像処理   
- エッジ抽出   
Unsupervised Learning of Edges [[pdf](https://arxiv.org/abs/1511.04166)]  
- キャプション生成  
Rich Image Captioning in the Wild [[pdf](https://arxiv.org/abs/1603.09016)]
- キャプションから画像生成  
Generating Images from Captions with Attention [[pdf](https://arxiv.org/abs/1511.02793)]
- 近未来予測(数秒程度の未来を予想)  
Generating Videos with Scene Dynamics [[pdf](http://papers.nips.cc/paper/6194-generating-videos-with-scene-dynamics)]  
Anticipating the future by watching unlabeled video [[pdf](https://arxiv.org/abs/1504.08023)]  
Deep Predictive Coding Networks for Video Prediction and Unsupervised Learning [[pdf](https://arxiv.org/abs/1605.08104)]  
Deep multi-scale video prediction beyond mean square error [[pdf](https://arxiv.org/abs/1511.05440)]  
- 物体追跡  
Modeling and Propagating CNNs in a Tree Structure for Visual Tracking [[pdf](https://arxiv.org/abs/1608.07242)]  
 Fully-Convolutional Siamese Networks for Object Tracking [[pdf](https://arxiv.org/abs/1606.09549)]  
- 画像の着色  
Colorful Image Colorization [[pdf](https://arxiv.org/abs/1603.08511)]  
- 画風の模倣  
Perceptual Losses for Real-Time Style Transfer and Super-Resolution [[pdf](https://arxiv.org/abs/1603.08155)]  
A Learned Representation For Artistic Style [[pdf](https://arxiv.org/abs/1610.07629)]  
- 抽象的な原画(ベタ塗りの絵)から具体的な絵を生成  
Semantic Style Transfer and Turning Two-Bit Doodles into Fine Artworks [[pdf](https://arxiv.org/abs/1603.01768)]  

## 言語・音声処理  
- 音声認識/音声合成  
  Deep Speech 2 : End-to-End Speech Recognition in English and Mandarin [[pdf](https://arxiv.org/abs/1512.02595)]   
  WaveNet: A Generative Model for Raw Audio [[pdf](https://arxiv.org/abs/1609.03499)]
- word2vec(単語の分散表現)  
  Enriching word vectors with subword information [[pdf](https://arxiv.org/abs/1607.04606)]  
- 文章分類  
  Very Deep Convolutional Networks for Natural Language Processing [[pdf](https://arxiv.org/abs/1606.01781)]  
  Bag of Tricks for Efficient Text Classification [[pdf](https://arxiv.org/abs/1607.01759)]   
- 改良技術  
  Pointing the Unknown Words [[pdf](https://arxiv.org/abs/1603.08148)]  
- 言語翻訳  
  Fully Character-Level Neural Machine Translation without Explicit Segmentation [[pdf](https://arxiv.org/abs/1610.03017)]
- 詩や物語等の自動生成  
  Generating Sentences From a Continuous Spaces [[pdf](https://arxiv.org/abs/1511.06349)]  
- 楽曲生成  
  Text-based LSTM networks for Automatic Music Composition [[pdf](https://arxiv.org/abs/1604.05358)]  

## その他応用  
- 自動プログラミング関連  
Neural Programmer-Interpreters...ICLR 2016 - Best Paper Award [[pdf](https://arxiv.org/abs/1511.06279)]   
- 数学の定理の自動証明  
DeepMath - Deep Sequence Models for Premise Selection [[pdf](https://arxiv.org/abs/1606.04442)]  
- 通信の自動暗号化  
Learning to Protect Communications with Adversarial Neural Cryptography [[pdf](https://arxiv.org/abs/1610.06918)] 	
- 太陽フレアの予想  
A Deep-Learning Approach for Operation of an Automated Realtime Flare Forecast [[pdf](https://arxiv.org/abs/1606.01587)]  

## CNN技術  
- ResNet関連     
Identity Mappings in Deep Residual Networks [[pdf](https://arxiv.org/abs/1603.05027)]  
Deep residual learning for image recognition [[pdf](https://arxiv.org/abs/1512.03385)]   
- 理論解析  
Understanding convolutional neural networks　 [[pdf](https://arxiv.org/abs/1609.04112)]  
Residual Networks Behave Like Ensembles of Relatively Shallow Networks [[pdf](https://arxiv.org/abs/1605.06431)]  
- 蒸留技術改良   
Multi-Scale Context Aggregation by Dilated Convolutions [[pdf](https://arxiv.org/abs/1511.07122)]
- 高速化/省メモリ技術  
Training CNNs with Low-Rank Filters for Efficient Image Classification [[pdf](https://arxiv.org/abs/1511.06744)]  
- RNNの問題を解けるようにCNN技術を改良  
Quasi-Recurrent Neural Networks  [[pdf](https://arxiv.org/abs/1611.01576)]  

##  RNN技術  
- LSTMユニットの拡張  
Grid Long Short-Term Memory [[pdf](https://arxiv.org/abs/1507.01526)]  
Associative Long Short-Term Memory [[pdf](https://arxiv.org/abs/1602.03032)]  
Recurrent Highway Networks [[pdf](https://arxiv.org/abs/1607.03474)]  
- attention機構  
Feed-Forward Networks with Attention Can Solve Some Long-Term Memory Problems [[pdf](https://arxiv.org/abs/1512.08756)]  
Multi-Way, Multilingual Neural Machine Translation with a Shared Attention Mechanism [[pdf](https://arxiv.org/abs/1601.01073)]  
- メモリーネットワーク関連     
Neural Random-Access Machines [[pdf](https://arxiv.org/abs/1511.06392)]  
Control of Memory, Active Perception, and Action in Minecraft [[pdf](https://arxiv.org/abs/1605.09128)]    
Hierarchical Memory Networks [[pdf](https://arxiv.org/abs/1605.07427)]   
Using Fast Weights to Attend to the Recent Past  [[pdf](https://arxiv.org/abs/1610.06258)]  
- ニューラルチューリングマシン関連  
Hybrid computing using a neural network with dynamic external memory [[pdf](http://www.nature.com/nature/journal/v538/n7626/full/nature20101.html)]   
Dynamic Neural Turing Machine with Soft and Hard Addressing Schemes [[pdf](https://arxiv.org/abs/1607.00036)]   
Neural GPUs Learn Algorithms [[pdf](https://arxiv.org/abs/1511.08228)]  
- 可視化/理論解析  
Architectural Complexity Measures of Recurrent Neural Networks [[pdf](https://arxiv.org/abs/1602.08210)]  
Visualizing and Understanding Recurrent Networks [[pdf](https://arxiv.org/abs/1506.02078)]
- 高速化/省メモリ化  
Persistent RNNs: Stashing Weights on Chip [[pdf](http://jmlr.org/proceedings/papers/v48/diamos16.pdf)]   
Adaptive Computation Time for Recurrent Neural Networks [[pdf](https://arxiv.org/abs/1603.08983)]   
Recurrent Neural Networks With Limited Numerical Precision [[pdf](https://arxiv.org/abs/1608.06902)]   
- 強化学習応用  
An Actor-Critic Algorithm for Sequence Prediction [[pdf](https://arxiv.org/abs/1607.07086)]   
- 学習アルゴリズム  
Professor Forcing: A New Algorithm for Training Recurrent Networks [[pdf](https://arxiv.org/abs/1610.09038)]   
- 画像処理応用  
Pixel Recurrent Neural Networks...ICML 2016 - Best Paper Award [[pdf](https://arxiv.org/abs/1601.06759)]   
- バッチ正規化  
Batch normalized recurrent neural networks [[pdf](https://arxiv.org/abs/1510.01378)]   
- LSTM等でない素のRNNの学習手法  
Path-Normalized Optimization of Recurrent Neural Networks with ReLU Activations [[pdf](https://arxiv.org/abs/1605.07154)]   
GAN技術の適用  
SeqGAN: Sequence Generative Adversarial Nets with Policy Gradient [[pdf](https://arxiv.org/abs/1609.05473)]   

## 強化学習  
- 基礎技術  
Safe and Efficient Off-Policy Reinforcement Learning [[pdf](https://arxiv.org/abs/1606.02647)]   
Learning to Reinforcement Learn [[pdf](https://arxiv.org/abs/1611.05763)]   
Successor Features for Transfer in Reinforcement Learning [[pdf](https://arxiv.org/abs/1606.05312)]   
Model-Free Episodic Control [[pdf](https://arxiv.org/abs/1606.04460)]   
Dueling Network Architecture for Deep Reinforcement Learning...ICML 2016 - Best Paper Award [[pdf](https://arxiv.org/abs/1511.06581)]   
Continuous Deep Q-Learning with Model-based Acceleration [[pdf](https://arxiv.org/abs/1603.00748)]   
Prioritized Experience Replay [[pdf](https://arxiv.org/abs/1511.05952)]   
Continuous control with deep reinforcement learning [[pdf](https://arxiv.org/abs/1509.02971)]   
Increasing the Action Gap: New Operators for Reinforcement Learning [[pdf](https://arxiv.org/abs/1512.04860)]      
Learning to Communicate with Deep Multi-Agent Reinforcement Learning [[pdf](https://arxiv.org/abs/1605.06676)]   
Safely Interruptible Agents [[pdf](https://intelligence.org/files/Interruptibility.pdf)]  
Value Iteration Networks...NIPS 2016 - Best Paper Award [[pdf](https://arxiv.org/abs/1602.02867)] 
- 補助学習  
  Reinforcement Learning with Unsupervised Auxiliary Tasks [[pdf](https://arxiv.org/abs/1611.05397)]   
- 分散学習/マルチエージェント  
  Asynchronous Methods for Deep Reinforcement Learning [[pdf](https://arxiv.org/abs/1602.01783)]   
  Learning to Communicate with Deep Multi-Agent Reinforcement Learning [[pdf](https://arxiv.org/abs/1605.06676)]    
- ロボット  
  Deep Reinforcement Learning for Robotic Manipulation [[pdf](https://arxiv.org/abs/1610.00633)]   
  Learning to Perform Physics Experiments via Deep Reinforcement Learning [[pdf](https://arxiv.org/abs/1611.01843)]     
  Collective Robot Reinforcement Learning with Distributed Asynchronous Guided Policy Search [[pdf](https://arxiv.org/abs/1610.00673)]   
- 言語系強化学習  
Deep Reinforcement Learning with a Natural Language Action Space [[pdf](https://arxiv.org/abs/1511.04636)]   

## DL技術全般
- ライブラリ関係  
 Theano: A Python framework for fast computation of mathematical expressions [[pdf](https://arxiv.org/abs/1605.02688)]   
TensorFlow: Large-scale machine learning on heterogeneous distributed systems [[pdf](https://arxiv.org/abs/1603.04467)]   
- ネットワーク簡略化・圧縮   
Deep Compression: Compressing Deep Neural Networks with Pruning, Trained Quantization and Huffman Coding...ICLR 2016 - Best Paper Award [[pdf](https://arxiv.org/abs/1510.00149)]    
SqueezeNet: AlexNet-level accuracy with 50x fewer parameters and< 1MB model size [[pdf](https://arxiv.org/abs/1602.07360)]   
- ネットワーク操作・転送    
Network Morphism [[pdf](https://arxiv.org/abs/1603.01670)]   
Net2Net: Accelerating Learning via Knowledge Transfer [[pdf](https://arxiv.org/abs/1511.05641)]   
- ネットワーク分割  
Decoupled Neural Interfaces using Synthetic Gradients [[pdf](https://arxiv.org/abs/1608.05343)]   
- ノイズファンクション  
Noisy Activation Functions [[pdf](https://arxiv.org/abs/1603.00391)]   
プレコンディショニング    
Feedforward Initialization for Fast Inference of Deep Generative Networks is Biologically Plausible [[pdf](https://arxiv.org/abs/1606.01651)]   
- 最適化技術  
Learning to Learn by Gradient Descent by Gradient Descent [[pdf](https://arxiv.org/abs/1606.04474)]   
MuProp: Unbiased Backpropagation For Stochastic Neural Networks [[pdf](https://arxiv.org/abs/1511.05176)]   
Equilibrium Propagation: Bridging the Gap Between Energy-Based Models and Backpropagation [[pdf](https://arxiv.org/abs/1602.05179)]   
Learning values across many orders of magnitude [[pdf](https://arxiv.org/abs/1602.07714)]   
- ヘッセ行列の固有値分布解析  
Singularity of the Hessian in Deep Learning [[pdf](https://arxiv.org/abs/1611.07476)]   
- 可視化手法  
Understanding intermediate layers using linear classifier probes [[pdf](https://arxiv.org/abs/1610.01644)]   
- バイナリ重み(±1重み)ネットワーク  
Binarized Neural Networks: Training Deep Neural Networks with Weights and Activations Constrained to +1 or -1 [[pdf](https://arxiv.org/abs/1602.02830)]   
- ドロップアウト技術の改良  
Dropout Distillation [[pdf](http://jmlr.org/proceedings/papers/v48/bulo16.pdf)]   
- 正規化関連   
Layer Normalization [[pdf](https://arxiv.org/abs/1607.06450)]   
Weight Normalization: A Simple Reparameterization to Accelerate Training of Deep Neural Networks [[pdf](https://arxiv.org/abs/1602.07868)]　  
- 分散学習技術  
Revisiting Distributed Synchronous SGD [[pdf](https://arxiv.org/abs/1604.00981)]  
- one-shot学習関連技術  
Matching Networks for One Shot Learning [[pdf](https://arxiv.org/abs/1606.04080)]   
Low-shot Visual Recognition by Shrinking and Hallucinating Features [[pdf](https://arxiv.org/abs/1606.02819)]   
One-shot Learning with Memory-Augmented Neural Networks [[pdf](https://arxiv.org/abs/1605.06065)]   
Zero-Shot Learning of Intent Embeddings for Expansion by Convolutional Deep Structured Semantic Models [[pdf](https://www.microsoft.com/en-us/research/wp-content/uploads/2016/08/ICASSP16_ZeroShot.pdf)]       
- 学習によって重みが変化することによる忘却の抑止技術  
Progressive Neural Networks [[pdf](https://arxiv.org/abs/1606.04671)]   
- 極値や鞍点の解析（ある条件下では極小値はすべて大域的最小値、ただし、鞍点の性質は悪い。）          
 Deep Learning without Poor Local Minima [[pdf](https://arxiv.org/pdf/1605.07110v2.pdf)]  
- GAN技術  
Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks  [[pdf](https://arxiv.org/abs/1511.06434)]   
Connecting Generative Adversarial Networks and Actor-Critic Method [[pdf](https://arxiv.org/abs/1610.01945)]　　
- StackGAN技術        
StackGAN: Text to Photo-realistic Image Synthesis with Stacked Generative Adversarial Networks [[pdf](https://arxiv.org/pdf/1612.03242v1.pdf)]   
Stacked Generative Adversarial Networks [[pdf](https://arxiv.org/abs/1612.04357)]  

以上