ディープラーニングベースのレコメンデーション: A Survey and New Perspectives

# この記事は
サーベイの抄訳です
原文は2017年に発表された[Deep Learning based Recommender System: A Survey and New Perspectives](https://arxiv.org/pdf/1707.07435.pdf)

# レコメンド
## レコメンドの目的
ユーザーが興味を持つと思われる情報（映画、音楽、本、ニュース、画像、ウェブページなど）を提示する
また増え続けるオンライン情報の量、複雑さ、および動的性に伴い、推薦システムはそのような情報過負荷を克服するための重要なソリューションとなっている
## レコメンドとディープラーニング
ディープラーニングによって音声認識、画像解析、自然言語処理は画期的な進歩しましたが、同じように情報検索、レコメンデーションにもにも効果が実証された

## タスクの種類

|タスク|説明|
|---|---|
|rating prediction|未知のアイテムの嗜好を予測 (見たことのない記事のスコアをあてる）|
|ranking prediction(トップN レコメンデーション) |上位の嗜好を予測 |
|クラス分類|アイテムを適切なカテゴリに予測 |

## モデルの種類

|モデル|説明 |
|---|---|
|協調フィルタリング|ユーザの過去のアイテムの嗜好の履歴から関係を学習 |
|コンテンツベースレコメンデーション |アイテムとユーザーの補完情報( テキスト、画像、ビデオ)の比較に基づいています。 |
|ハイブリッドレコメンドシステム|二つ以上のモデルを統合したもの |

# ディープラーニング

ディープラーニングを使ったレコメンデーションを二つの次元に分類する

| 次元 |説明 |適用例|
|---|---|---|
|ニューラルネットワークモデル | 順伝播型ニューラルネットワークの一分類。ユーザとアイテムとの間の非線形相互作用をモデル化することができる|簡潔で適用範囲が多い|
|インテグレーションモデル |伝統的な推薦モデルとディープラーニングモデルの統合またはディープラーニングモデルのみを統合したもの ||

## インテグレーションモデルの分類
インテグレーションモデルは、組み合わせにより三つに分類できる

1. 伝統的な推薦モデルとディープラーニングモデルのパラメータを同時に学習する密結合のもの
2. 伝統的な推薦モデルとディープラーニングモデルをパラメータを別々に学習する疎結合のもの
3. ディープラーニングモデルのみ

## Deep Learningを使った主なレコメンデーションのモデル


|モデルの分類 |説明 |適用例,モデル名|
|---|---|---|
|Multilayer Perceptron (MLP) | 順伝播型ニューラルネットワークの一分類。ユーザとアイテムとの間の非線形相互作用をモデル化することができる|簡潔で適用範囲が多い|
|Autoencoder (AE)  | オートエンコーダ（自己符号化器）,中間層で次元を削減しながらINPUTとOUTPUTを一致させるように学習するDeep Learningの一分類|AutoRec|
|Convolutional Neural Network (CNN)  | 畳み込みを実施するDeep Learningの一分類。テキスト情報および画像情報などの複数データソースを取り扱うモデルを構築できる|画像処理に使われる|
|Recurrent Neural Network (RNN) | 再帰を実施するDeep Learningの一分類。じかんやアイテムの連続性を考慮するモデルを構築できる|LSTM,GRU|
|Deep Semantic Similarity Model (DSSM)| 情報検索でよく用いられるDeep Learningの一分類。ユーザとアイテム間の潜在的なコンテキストを考慮するモデルを構築できる。トップN レコメンデーションに向いている|DSPR|
|制限付きボルツマンマシン(RBM)| Deep Learningの一分類。事前学習(Pre Training)法の一種。仕様上ワンホットベクトルで表現可能なレコメンデーションに適用|おそらく一番最初のディープラーニングによるレコメで用いられた,RBM-CF)|
|Neural Autoregressive Distribution Estimation (NADE) |自己回帰モデルにニューラルネットを適応したモデル.RBMの代替手法として提案されている|CF-NADE|
| Generative Adversarial Network (GAN) | 情報検索に敵対的生成ネットワークを持ち込んだモデル。|DCGSN,IRGAN |

<img width="771" alt="スクリーンショット 2018-05-16 21.20.26.png" src="https://qiita-image-store.s3.amazonaws.com/0/47064/f06806b1-8014-02df-a4f0-6e4433f2b2ca.png">


## 評価用データセット
2007年以降の論文で利用されているデータセット
MovieLensが１番、Netfilexが２番
<img width="371" alt="スクリーンショット 2018-05-10 21.52.58.png" src="https://qiita-image-store.s3.amazonaws.com/0/47064/aa922689-1c9b-ca4a-ce32-9940d44c4c8a.png">

## 評価メトリック
2007年以降の論文で利用されているメトリクス
Recall（再現率）,RMSE(最小二乗誤差）が使われている
<img width="425" alt="スクリーンショット 2018-05-10 21.53.08.png" src="https://qiita-image-store.s3.amazonaws.com/0/47064/c0d69ff2-9d64-9648-ebb3-e0eee107d6b8.png">

## 最も引用される論文
引用された件数が多い論文上位１０件

|Work|カテゴリ |Fields|引用数|発行年|
|---|---|---|---|---|
|[Restricted Boltzmann Machines for Collaborative Filtering](https://www.cs.toronto.edu/~rsalakhu/papers/rbmcf.pdf) /Salakhutdinov|RBM||80|2007|
|[Collaborative Deep Learning for Recommender Systems](https://arxiv.org/abs/1409.2944)/ Wang|AE||44|2014|
|[Deep content-based music recommendation](https://papers.nips.cc/paper/5004-deep-content-based-music-recommendation)/Oord |CNN|Music|44|2013|
|[Image-based Recommendations on Styles and Substitutes](https://arxiv.org/abs/1506.04757)/McAuley |CNN|Image|39|2015|
|[Deep Neural Networks for YouTube Recommendations](https://ai.google/research/pubs/pub45530)/Covington |MLP|Movie|22|2016|
|[Session-based Recommendations with Recurrent Neural Networks](https://arxiv.org/abs/1511.06939)/Covington |RNN||19|2017|
|[A Multi-View Deep Learning Approach for Cross Domain. User Modeling in Recommendation Systems](https://www.microsoft.com/en-us/research/wp-content/uploads/2016/02/frp1159-songA.pdf)/Elkahky |DSSM||17|2015|
|[Collaborative Denoising Auto-Encoders for Top-N Recommender Systems](http://d.hatena.ne.jp/repose/20160131/1454244561)/Wu |AE||14||
|[Improving Content-based and Hybrid Music Recommendation using Deep Learning](https://www.smcnus.org/wp-content/uploads/2013/09/deep_mr.pdf)/Wang |RBM|Music|13|2015|
|[Autoencoders Meet Collaborative Filtering](http://users.cecs.anu.edu.au/~u5098633/papers/www15.pdf)/Sedhain |AE||12|2015|
|[Wide & Deep Learning for Recommender Systems](https://arxiv.org/abs/1606.07792)/Cheng |MLP||12|2016|
|[Visual Bayesian Personalized Ranking from Implicit Feedback](https://arxiv.org/abs/1510.01784)/He |CNN||10|2015|


## POIのレコメンデーション
Point of interest (POI) のレコメンデーション論文

|Work|カテゴリ |補足|
|---|---|---|
|[What your images reveal: Exploiting visual contents for point-of-interest recommendation](http://www.public.asu.edu/~swang187/publications/VPOI.pdf#search=%27What+your+images+reveal%3A+Exploiting+visual+contents+for+pointofinterest+recommendation%27) |画像から好みのPOIを推測||
|[Bridging Collaborative Filtering and Semi-Supervised Learning: A Neural Approach for POI ](http://chaozhang.org/files/papers/kdd17a.pdf)| |[git](https://github.com/yangji9181/PACE2017)|
|[Latent context-aware recommender systems](https://dl.acm.org/citation.cfm?id=2796546) ||
|[Towards latent context-aware recommendation systems](https://www.sciencedirect.com/science/article/pii/S0950705116300727) ||