DEIM Forum 2016 B7-5

タイムライン形式での記事配信における課題と記事閲覧数推定による改善
大倉 俊平†

田頭 幸浩†

小野 真吾†

田島玲†† ヤフー株式会社 〒 107–6211 東京都港区赤坂 9-7-1 ミッドタウン・タワー
E-mail: †{sokura,yutagami,shiono,atajima}@yahoo-corp.jp
あらまし

スマートデバイスの普及により，インターネット上で提供されるサービスのユーザインタフェースも変化しており，著名な SNS などを中心に新しい形式のインタフェースであるタイムライン形式が取り入れられている．タ
イムライン形式は原則として時系列順にアイテムを並べるものであるが，表示するアイテムが記事である場合には，ユーザの使い勝手を考えると，すべての表示可能な記事を時系列順に並べるわけではなく，表示可能な記事の絞り込みや，ユーザの興味を加味して順序の変更を行ったうえで記事を表示する必要がある．我々は，タイムライン形式でユーザに記事を提供するスマートフォン版 Yahoo! JAPAN トップページを対象に，上記の課題を解決するため閲覧実
績や記事内容から記事閲覧数を推定する仕組みを導入し，推定値を利用したロジックによる配信を行った．その結果，より多くの記事が閲覧されるようになったことを確認した．本稿では記事を配信，表示するサービスにおける上記のタイムライン形式が持つ課題と，記事閲覧数推定による改善策の内容とその効果について報告する．
キーワード

1.

ニュースレコメンド，タイムライン，recurrent neural networks．
も考慮され，タイムライン形式に取り入れられる．たとえば，はじめにユーザ間のテキストチャットやメッセージ交換を提供するサー

タイムライン（timeline）とは，そもそも年表を意味する語でビスにおいては，全件表示が前提であり，並び替えも絞り込みある（注 1）．転じて，SNS（Social Networking Service）を中心が発生しないサービスが多い．一方でユーザの投稿を表示するに用いられている時系列順にアイテムを表示するインタフェーようなサービスにおいては，絞り込みや並び替えの機能を用意スもタイムラインと呼ばれる．本稿ではより広く，時系列を考した上でユーザ側に設定変更を可能にしたり，広告の割り込み慮してアイテムを並べ，それを次々と表示するものをタイムラが発生する事例が見られる．

（注 2）．たとえば，SNS ではそれぞれのアイ

以下では，実際にタイムライン形式で記事を配信するサービテムがユーザの投稿となり，それが投稿時刻に沿った形で並べイン形式として扱う

スを例として，その際に発生する課題について述べる．課題とられる．表示するアイテムがニュースなどの記事であっても，して，適切な広告の決定，記事の重複排除，記事の並びの決定

時系列に沿った形である場合にはタイムライン形式であるとみの三つが挙げられるが，そのうち，記事の並びの決定のためのなす．タイムライン形式はスマートフォンの操作性と相性が良

重要な要素となる記事閲覧数の推定について焦点を当て，RNN

いこともあり，多くのサービスで採用されている．

（Recurrent Neural Networks）を用いて記事の閲覧数を推定す

タイムライン形式では，サービスの性質に応じて，時系列順る手法を提案する．これは，記事中の単語や，記事のこれまでに並べたアイテムのリストに以下の変更が発生することがある．の閲覧履歴を元に今後の閲覧数を予測する手法である．提案し•割り込み アイテムのリストに広告が差し込まれる場合がある．これは，ユーザに対しては無償でサービスを提供し，収益をオンライン広告から得るためである．

•絞り込み 表示可能なアイテムの量が非常に多くなる場合，その分量に応じて絞り込みが行われる場合がある．

•た手法について，オフライン，オンラインのそれぞれでの評価を実施した．その結果についても説明する．

2.

記事配信サービスにおける課題と取り組み

Yahoo! JAPAN のスマートフォン版トップページは，2015

並び替え アイテムを並べる際に時刻以外の要素も考慮さ

年 5 月のリニューアル以降，タイムライン形式で記事の表示がれる場合がある．ユーザの投稿を表示するサービスにおいては，行われている．図 1 にその例を示す．画面の基本的な構成要素

ユーザからの反響なども利用しタイムラインを表示している．

としては，ロゴやメニューを開くためのアイコンを含むヘッダ，これらの要素は，サービスの特徴に加えユーザの使い勝手検索を行うためのテキスト入力欄，Yahoo! JAPAN の各サービスへのリンクとなるボタン群に続き，タイムライン形式で記（注 1）：たとえば，英英辞典を引くと A graphical representation of a period

事が並ぶ．上部には，編集者が人手で選択し，見出しを付与しof time, on which important events are marked. と書かれている．

たトピックス記事が表示される．それ以降は「あなたへのおす（注 2）：文献によってはストリーム（stream）と呼ばれる場合もある．また，本論文で扱うようなニュース記事の場合は特にヘッドライン（headline）と呼ぶ場
合もあるが，本稿ではタイムラインとして扱う．

すめ」枠として，自動的に選択，並び替えされた記事と広告が配信される．

量が大きいと考えられる記事を掲出することであり，もう一つは，トピックスでは個別化ができないため，ユーザごとの興味を反映した記事を掲出することである．また，「あなたへのおすすめ」枠では，広告も配信されている．
このようにタイムライン形式で記事の配信を行う場合，以下のような課題が存在する．

•

記事の間に挿入される広告について，内容，量，位置を適切に決定 [8]•

内容が類似した記事の削除 [12]•ユーザにとって情報量の高い記事の推定と，それに基づく記事の並びの決定
広告に関しては，記事に対する広告の数を増やすと収益が大きくなる反面，ユーザの満足度を低下させ，離脱につながりやすくなる．この課題に関しては，広告の並び順を予測されたCTR（Click-Through Rate; クリック率）だけで最適化するのではなく，広告をクリックした後の経験を重要な要素ととらえ，クリック後のページの滞在時間を予測に組み込むことで広告のCTR，滞在時間，直帰率のいずれもが改善したという論文も報告されている [7]．また，広告自体は好印象でも，記事の並びと関係がありすぎるとサイト全体への印象が悪くなり得るという研究 [2] もあり，適切に広告を配信することは非常に難易度の高い課題である．
「あなたへのおすすめ」枠において配信される記事はさまざまな媒体から入稿されるため，同一の内容を扱った記事が複数存在することが多い．これに対処するため，記事の内容が近いものについては表示時点で削除を実施している [12] ．記事のグルーピングに関する研究は盛んに実施されているが，表示可能な記事が随時更新されることを考えると，あらかじめ固定数のグループを作成するような手法は現実的ではない．また，記事を削除する際に類似度計算を行うが，単語単位での文書ベクトルを用いると意味を捉えきれなくなるため，たとえば Latent

Semantic Indexing [3] のような意味を考慮した手法で記事間の類似度計算や記事の削除を行う必要がある．
上記のようにまとめ上げを行ったとしても，タイムライン上にすべての配信可能な記事を新着順で表示するというシンプ
ルな並べ方を行うと，ユーザにとっての使い勝手が非常に悪くなる．入稿される記事の中には速報的な記事からコラムやエッセイに近いものも存在するため，非常に多くの記事が脈絡もなく並ぶことになる．また，閲覧履歴のようなユーザのフィードバックが利用されず，ユーザにとって興味のない記事が並ぶ可能性が非常に高い．これらの課題を解決し，ユーザにとって情報量が高い記事がわかりやすくなるよう配信するために，記事の入稿時刻に加え，ユーザの記事閲覧履歴，記事の閲覧数を考慮して，記事の並びを決定している．
図 1 スマートフォン版 Yahoo! JAPAN トップページにおけるタイムライン形式の表示例．

記事の閲覧数が高いということは，多くのユーザにとって情報量が高いと考えられる．したがって，実際に記事の並びを決定する際にも閲覧数は重要な要素となり得る．しかし，閲覧数「あなたへのすすめ」枠は，大きく分けて以下の 2 つの役割は配信してみるまでわからない上に，記事そのものは SNS 上を持っている．一つは，トピックスには入りきらなかったものなどで話題になったり，トピックスに取り上げられたりするこの，主要ユーザである日本人や日本に住む人全員にとって情報とにより，大きな影響を受ける．そのため，記事の閲覧数を高p1

p2

pt

z1z2zth0h1h2

ax1x2

い精度で推定することが重要な課題となる．本稿では，この課題を解決するために，RNN を用いて記事の閲覧数を予測する手法を提案する．特徴量として，記事の単語を用いることに加え，その記事が今までどれだけ閲覧されたかを用いることで，それ以降記事がどれだけ閲覧されるかを精度良く求めることができる．

3.

提案手法

この章では，RNN（Recurrent Neural Networks）を用いた

……

htxt

図 2 記事の閲覧数予測に用いる RNN の構成の概要．

記事の閲覧数の予測手法について述べる．
以下では，x のような太字の小文字でベクトルを，W のよT

うな太字の大文字で行列を表すものとする．また，x と W

T

上 記 の RNN の パ ラ メ ー タ を ，デ ー タ か ら 学 習 す る ．i
番 目 の 記 事 に 対 応 す る デ ー タ を ，上 付 き 文 字 を 用 い て ，(i)(i)ii) と表す．
, {yt }Tt=1(a(i) , {xt }Tt=1

はそれぞれ，対応するベクトルと行列の転置を表す．
今，ある記事の時刻 t における閲覧数 yt を，記事の静的特徴量 a と，その時刻までに利用可能な動的特徴量 {xs }ts=1 =これらのデータから，以下の目的関数を最適化するように，
パラメータ θ = (W , U , V , F , w, ba , bh , bz , bp ) を学習する．

(x1 , x2 , . . . , xt ) を用いて予測したい．例えば，a に含まれる特徴量としては，記事の文中の単語や，記事のカテゴリ，入稿θ̂ = arg minθ元などが考えられる．同様に，xs の例として，その時点でアクTiN ∑(∑(i)(i))

L yt , pti(5)t=1

セス可能な過去の ys (s < t) や，時刻 t が一週間のうちの何曜

ただし，N は記事数，L(y, p) = (y − p)2 は二乗誤差の損失関日で一日 24 時間のうちの何時であるかの時刻情報などが考え数である．

られる．

式 5 をミニバッチの SGD（Stochastic Gradient Descent）

この記事の閲覧数の予測問題に対して，RNN を用いたアプローチを提案する．RNN は，言語モデル [9], [10] や手書き文
字認識 [4] ，音声認識 [6] ，機械翻訳 [1]，広告のクリック率予で最適化する．

4.

実

験

測 [13] などの分野でも広く用いられている，系列データを扱う

この章では，提案手法の評価実験について述べる．

ための学習器である．

2015 年 5 月から 6 月の期間に，Yahoo! JAPAN のトップ予測に用いる RNN は以下のように構成される．

ページに掲載された記事データを 28 日分用意し，前の 21 日分を学習データとし，後ろの 7 日分をテストデータとした．それ

h0 = f (W a + ba )(1)

ht = f (U ht−1 + V xt + bh )(2)

リングを行った．その結果，学習データに含まれる記事数が約zt = σ (F ht + bz )(3)

13 万，テストデータに含まれる記事数が約 5 万となった．

p t = w T z t + bp

(4)

ぞれのデータは同じ規則にしたがい，フィルタリングとサンプ

各記事の掲載開始から 24 時間目までの，1 時間ごとの閲覧数(i)を yt とした．なお，実際の閲覧数は範囲が大きいため，自然対
ここで，W , U , V , F はパラメータ行列，w, ba , bh , bz はパラ数を適用して用いた．つまり，全ての記事において Ti = 24 となメータベクトル，bp はパラメータである．また，f (·) と σ(·) は24り，i 番目の記事に対するデータは (a(i) , {xt }24t=1 , {yt }t=1 )共にベクトルに対する活性化関数であり，具体的にはベクトルと表される．の要素ごとの ReLU（Rectifiled Linear Unit） [11] とシグモイド関数である．

(i)

(i)

記事の静的特徴量 a として，記事のタイトルおよび本文の形
態素と，入稿時に付与されるメタデータを用いた．入稿時に付

f (z) = max(0, z)
σ(z) =

1
1 + exp(−z)

与されるメタデータとしては，記事種別，カテゴリ，入稿元，著者，画像の有無などが含まれる．また，動的特徴量 xt として，過去の実績情報 {ys }t−2s=1 と，時刻 t が表す時間の曜日と 24
時間の中の何時かを表す時刻情報，その記事が入稿されてから

この RNN の構成の概要を図 2 に示す．
記事が新規に入稿されると，式 1 を用いて，記事の静的特徴量 a の情報を非線形変換し，ニューラルネットの隠れ層 h0 にエンコードする．記事がユーザーに提示されると，時刻 t における動的特徴量 xt が取得できるようになり，式 2 により，隠れ層の情報が ht−1 から ht に更新される．そして，式 3 により，さらに隠れ層を重ねて非線形変換を行い，zt を作成する．
最終的に式 4 を用いて，zt から閲覧数の予測値 pt が得られる．

経過した時間を用いた．ここで，実システムでは閲覧数の集計結果を得るまでに時間がかかるという制約を加味して，アクセス可能な実績閲覧数を 2 時間前の yt−2 までに制限している．
この制約のため，時刻 t <= 2 の予測では実績閲覧数を用いることができず，静的特徴量 a と時刻 t の時刻情報のみから閲覧数の予測を行うことになる．
評価指標として，ピアソンの相関係数と平均二乗誤差（MSE;

Mean Square Error）を用いた．

∑N ∑24 ( (i)ir= √yt − ȳt=1∑N ∑24 ( (i)
it=1

MSE =

ただし，p̄ =yt − ȳ24N(i)pt − p̄it=1(i)yt − p ti))2 √∑ ∑ (N24(i)N24 (1 ∑ ∑ (i)∑N ∑24i)()2pt − p̄)2

手法

相関MSE

相関Pre-2---(i)y /24Nt=1 tはそれぞれの平均値である．ピアソンの相関係数は値が大きい

MSE

相関MSE

-

0.94680.75183.64480.77562.2736-0.9574

0.4653

SVR3 0.8952 1.2389 0.7988

4.89020.91520.9069NN0.9523 0.5875 0.8426

2.46420.96300.4169RNN0.9549 0.5564 0.8644

2.12350.96310.4139

SVR2∑N ∑24i

表 1 オフラインでの実験結果．
実績値なし（t <= 2） 実績値あり（t >= 3）

SVR1 0.7870 2.3879 0.7882

t=1(i)
p /24N ，ȳ =t=1 t

全て---方が，平均二乗誤差は値が小さい方が，精度良く予測ができているといえる．

予測された記事の閲覧数を元に記事の並びを変更した．図 3 に，実験では，RNN を用いた提案手法と，いくつかの手法を比閲覧数の推定対象になった記事に対する，オンライン環境に較した．単純に，時刻 t においてアクセス可能な直近の実績値おけるセッション CTR（= クリックされた記事数 / セッショ

yt−2 を，予測値 pt として用いる手法を Pre-2 と表す．時系列をン数）の推移を示す．なお，ビジネス上の理由からセッション考慮せずに単純な回帰の問題として捉え，線形 SVR（SupportCTR は実数値ではなく，サービスリリース当初の値を基準としVector Regression）[5] で予測するアプローチをベースラインた比率で示す．提案手法により，サービスリリース当初と比較とした．SVR1 は，実績閲覧数を用いずに，静的特徴量と時刻してセッション CTR が 2 倍以上になったことが図からわかる．

情報，経過時間のみを用いて予測を行う手法である．SVR2 は，SVR1 で用いた特徴量に，直近の実績値 yt−2 を加えて予測を5.

おわりに行うモデルである．SVR3 は，SVR1 で用いた特徴量に，アク

本稿では，スマートフォン版 Yahoo! JAPAN トップページ

セス可能な過去の全ての実績閲覧数 {ys }t−2s=1 と，どの時間の閲を具体的な事例として，タイムライン形式でユーザに記事を配覧数が利用可能かを表現する欠損フラグを加えて，予測を行う．

信する際の課題について述べた．複数存在する課題のうち，記提案手法を RNN と表す．なお，式 2 の ht−1 を全て h0 で置き事の並びの決定において重要な要素である記事閲覧数について換え，時系列の依存性をなくしたものを比較手法として用い，取り上げ，記事内容や過去の実績数から RNN を用いてNN と表す．

課題は複数存在するが，そのうちの記事の並びの決定につい実験結果を表 1 に示す．実績閲覧数を用いることができなて重要な要素である記事閲覧数について RNN を用いて，閲覧い場合（t <= 2）と，できる場合（t >= 3）のそれぞれの結果に実績や記事内容から推定する手法を提案した．提案した手法についても示す．ただし，実績値を予測時に必ず用いる Pre-2 とついて，オフライン，オンラインのそれぞれでの評価を実施し，SVR2 は，実績値ありの場合の結果のみ示している．各列ごと性能の向上を確認した．に，一番優れている手法に対応する値を太字で記した．

本論文では閲覧数の推定に焦点を当てたが，先に述べたとお結果を見ると，提案手法である RNN がそれぞれの場合におり，適切な広告の選択や記事の重複削除，また，推定された記いて，各指標で優れている結果となった．各手法で，実績値なし

事閲覧数に加えさまざまな要素を考慮した記事の並び替えの方と実績値ありの二つの場合を比較すると，実績値ありの場合の法の検討など，多くの課題が存在している．これらについても方が相関係数と MSE の両方において良い傾向が見られた．しかし，SVR1 は実績閲覧数にアクセス可能である場合（t >= 3）引き続き研究を行っていく予定である．

においても，この情報を予測のための特徴量として用いない手法であるため，奮わない結果となった．このことから，実績閲覧数は強い特徴量だということが分かる．実績値ありの場合においても，提案手法の RNN は，線形 SVR を用いた手法である SVR2 よりも良い性能を示した．また，同じく実績値ありの場合において，以前の時刻の隠れ層からの情報の伝播をなくした NN も SVR2 より優れた結果を示し，RNN に迫る性能であった．このことから，ニューラルネットの非線形性が記事閲覧数の予測に寄与していると考えられる．一方，実績値なしの場合で比較すると，NN は RNN に引き離される結果となった．
提案手法は，RNN を用いることで誤差を時系列上で逆向きに伝播させることにより，実績値がない場合においても記事の静的な情報から閲覧数を予測できるように学習を行うことが可能になったのだと考えられる．
上記の実験結果を受けて，提案手法を実システムに導入し，

文

献[1] Michael Auli, Michel Galley, Chris Quirk, and GeoﬀreyZweig. Joint language and translation modeling with recurrent neural networks. In EMNLP, 2013.
[2] Henriette Cramer. Eﬀects of ad quality & content-relevanceon perceived content quality. In Proceedings of the 33rd
Annual ACM Conference on Human Factors in Computing
Systems, 2015.
[3] Scott C. Deerwester, Susan T Dumais, Thomas K. Landauer, George W. Furnas, and Richard A. Harshman. Indexing by latent semantic analysis. JAsIs, 1990.
[4] Alex Graves, Marcus Liwicki, Santiago Fernández, Roman
Bertolami, Horst Bunke, and Jürgen Schmidhuber. A novel
connectionist system for unconstrained handwriting recognition. Pattern Analysis and Machine Intelligence, IEEE
Transactions on, 2009.
[5] Chia-Hua Ho and Chih-Jen Lin. Large-scale linear support
vector regression. The Journal of Machine Learning Research, 2012.

3.0

2.5sCTR

2.0

1.5

1.0

0.5

0.0
May 21 2015

Jun 11 2015

Jul 02 2015

Jul 23 2015

Aug 13 2015

Sep 03 2015

Sep 24 2015

図 3 オンライン環境におけるセッション CTR の推移．ビジネス上の理由からセッション CTR
は実数値ではなく比率で示している．

[6] Stefan Kombrink, Tomas Mikolov, Martin Karafiát, andLukás Burget. Recurrent neural network based language
modeling in meeting recognition. In INTERSPEECH, 2011.
[7] Mounia Lalmas, Janette Lehmann, Guy Shaked, Fabrizio
Silvestri, and Gabriele Tolomei. Promoting positive postclick experience for in-stream yahoo gemini users. In Proceedings of the 21th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 2015.
[8] Cheng Li, Yue Lu, Qiaozhu Mei, Dong Wang, and Sandeep
Pandey. Click-through prediction for advertising in twittertimeline. In Proceedings of the 21th ACM SIGKDD International Conference on Knowledge Discovery and DataMining, 2015.
[9] Tomas Mikolov, Martin Karafiát, Lukas Burget, Jan Cernockỳ, and Sanjeev Khudanpur. Recurrent neural network
based language model. In INTERSPEECH 2010, 11th Annual Conference of the International Speech Communication Association, Makuhari, Chiba, Japan, September 2630, 2010, 2010.
[10] Tomáš Mikolov, Stefan Kombrink, Lukáš Burget, Jan Honza
Černockỳ, and Sanjeev Khudanpur. Extensions of recurrent neural network language model. In Acoustics, Speechand Signal Processing (ICASSP), 2011 IEEE International
Conference on, 2011.
[11] Vinod Nair and Geoﬀrey E Hinton. Rectified linear units
improve restricted boltzmann machines. In Proceedings ofthe 27th International Conference on Machine Learning(ICML-10), 2010.
[12] Shumpei Okura, Yukihiro Tagami, and Akira Tajima. Article de-duplication using distributed representations. In
Proceedings of the 25th International Conference on World
Wide Web, WWW ’16 Companion, 2016. To appear.
[13] Yuyu Zhang, Hanjun Dai, Chang Xu, Jun Feng, Taifeng
Wang, Jiang Bian, Bin Wang, and Tie-Yan Liu. Sequential
click prediction for sponsored search with recurrent neuralnetworks, 2014.