Vol. 48

No. SIG 6(TOM 17)

Mar. 2007

情報処理学会論文誌：数理モデル化と応用

契約期間を延ばすためのレコメンド法
岩

田

具

治†

斉

藤

和

巳†

山

田

武

士†

定額制サービスを提供しているオンラインストアが収益をあげるためには，ユーザの契約期間をできるだけ延ばすことが必要である．従来レコメンド法では，購入される確率を最大化するためにユーザの嗜好に合致する商品を提示する．しかしながら，従来法により必ずしも契約期間が延びるとは限らない．本研究では，定額制サービスを想定し，契約期間が延びる確率を最大にするレコメンド法を提案する．提案法では，まず契約期間の長いユーザに特徴的な購買パターンを抽出する．そして，抽出されたパターンと同じような購買行動になるように商品をレコメンドする．生存時間解析を応用し，ログデータから効率的に購買パターンの抽出を行う．また，効果的なレコメンドにするため，最大エントロピーモデルを用いてユーザの嗜好を推定する．契約期間が延びることはユーザがサービスに満足した結果であるため，提案法はオンラインストアだけでなく，ユーザにとっても好ましいレコメンドである．携帯電話用漫画配信サイトのログを用い，提案法の有効性を示す．

Recommendation Method for Extending Subscription Periods
Tomoharu Iwata,† Kazumi Saito† and Takeshi Yamada†
Online stores providing subscription services need to extend user subscription periods aslong as possible to increase their proﬁts. Conventional recommendation methods recommend
items that best coincide with user’s interests to maximize the purchase probability, which
does not necessarily contribute to extend subscription periods. We present a novel recommendation method for subscription services that maximizes the probability of the subscription
period being extended. Our method ﬁnds frequent purchase patterns in the long subscription
period users, and recommends items for a new user to simulate the found patterns. Using
survival analysis techniques, we eﬃciently extract information from the log data for ﬁnding
the patterns. Furthermore, we infer user’s interests from purchase histories based on maximum entropy models, and use the interests to improve the recommendations. Since a longer
subscription period is the result of greater user satisfaction, our method beneﬁts users aswell as online stores. We evaluate our method using the real log data of an online cartoon
distribution service for cell-phone.

1. は じ め に契約してもらうことが必要である．つまり，従量制とオンラインストアにおけるビジネスモデルは従量制

異なる．

定額制では，オンラインストアがユーザに望む行動がと定額制に大別できる．従量制では購入した商品の分

レコメンドはユーザの利便性を向上させるとともにだけ課金され，一方，定額制では購入した商品にかか収益の増加につながるため，多くのオンラインストア

わらず，サービスを利用した期間の分だけ課金される．

で用いられている17) ．レコメンドはオンラインストア

定額制は，サブスクリプションサービスとも呼ばれ，にとってユーザの購買行動に影響を与える 1 つの手段

近年，音楽，テレビ番組，映画，ソフトウェア，携帯である．上述のように，従量制と定額制ではユーザに

電話サービスなど様々なオンラインストアで導入され望む行動が異なるため，異なる戦略でレコメンドするている．収益を増加させるためには，従量制の場合，必要があると考えられる．従来のレコメンド法では，ユーザにより多くの商品を購入してもらうことが必要

購入される確率を高くするためにユーザの嗜好に合致であり，一方，定額制の場合，ユーザにより長い期間する商品を提示する5),9),12),13),15) . 従量制の場合，従来法によって購入確率が上がるため，収益増加が期待† 日本電信電話株式会社 NTT コミュニケーション科学基礎研究
所
NTT Communication Science Laboratories, NTT Corporation

できる．しかし，定額制の場合，従来法によって必ずしも契約期間が延びるとは限らず，収益増加につながらない可能性もある．
65

66

Mar. 2007

情報処理学会論文誌：数理モデル化と応用

本研究では，定額制サービスを想定し，契約期間が表 1 契約ログの例
Table 1 An example subscription log.

延びる確率を最大化するレコメンド法を提案する．提案法では，生存時間解析の手法を用いて契約期間が長いユーザに特徴的な購買パターンを見つけ，各ユーザがそのパターンと同様の購買行動をするように商品をレコメンドする．また，ユーザの嗜好と合致しない商品をレコメンドをしても効果はないため，ユーザの嗜好を最大エントロピーモデルを用い推測する．契約期間が延びることは，ユーザの満足度が高いことの結果

ユーザ 契約状況

u1
u2
u3
u4
u5
.
.
.
uN

1
0
1
1
0
.
.
.
0

契約開始時刻解約時刻
2004/8/16 11:50 2005/01/08 20:14
2004/8/16 18:01
2004/8/17 16:10 2004/08/25 13:01
2004/8/17 21:39 2004/08/29 07:21
2004/8/18 01:44
.
.
.
.
.
.
2005/10/28 23:10

であるため，契約期間を延ばすレコメンドは，オンラ
インストアの収益増加につながるだけでなく，ユーザ

表 2 購買ログの例
Table 2 An example purchase log.

にとっても好ましいことである．定額制の場合，ユーザが生涯を通じてもたらす利益を表す顧客生涯価値は

ユーザ

商品

u1
u1
u2
u1
u3
.
.
.
uN

s3
s1
s2
s6
s2
.
.
.
s10

8)

契約期間に比例する ．そのため，提案法は顧客生涯価値を最大化するレコメンド法ということもできる．
以下の本文では，まず 2 章で関連研究について述べる．3 章では本研究で提案する契約期間を延ばすためのレコメンド法について詳述する．さらに 4 章で携帯電話用漫画配信サイトにおけるログを用い提案法

時刻2004/8/16 12:06
2004/8/16 13:01
2004/8/16 18:51
2004/8/16 21:35
2004/8/17 16:42.
.
.
2005/10/28 23:15の有効性を検証する．最後に 5 章で結論と今後の課中か解約済みか），解約済みの場合の解約時刻のログ

題を示す．

である．表 1 に契約ログの例を示す．購買ログとは，

2. 関 連 研 究

各購買のユーザ，時刻，商品のログである．表 2 に購12),15)

レコメンド法として，協調フィルタリング，コ

ンテンツフィルタリング9) ，および，そのハイブリッ
5),13)

買ログの例を示す．
ユーザ集合を U = {un }N
n=1 ，商品集合を S =タリングでは，似た嗜好を持つ他のユーザの情報を用{si }Vi=1 ，ユーザ un の契約期間を tn ，契約状況を en（解約済みの場合 en = 1，契約中の場合 en = 0）といて嗜好を推定する．また，コンテンツフィルタリン

する．契約期間 tn は，契約ログから得ることができ

グでは，商品情報を利用して嗜好を推定する．これら，解約済みのる．ユーザ un の契約開始時刻を dstartnの手法は購入される確率を上げるために，ユーザの嗜場合の解約時刻を dendn ，ログの最終更新時刻を dend

好と合致する商品をレコメンドするものであり，契約とする．このとき契約期間はド方式など数多く提案されている．協調フィル



期間を延ばすためのレコメンドである提案法とは目的が異なる．契約期間の予測や解約するユーザの特定は，

tn =Churn Analysis と呼ばれ，生存時間解析やデータマイ
ニングの手法を用いて研究されている1),7),8),10),16),18)
が，これらの手法はレコメンドのために用いられてい
ない．

dend
− dstartnndend − dstartn

if en = 1,
if en = 0,

(1)

となる．
n
n
各ユーザを購買系列 un =< sn
1 , s2 , . . . >，sk ∈ Sとして表現する．ここで sn
k はユーザ un が k 番目に

3. 提 案 法

購入した商品を表す．購買系列 un は購買ログから得

本研究では，レコメンドしたときに契約期間が延びは時間依存変数として扱う必要があるため，各商品がることができる．契約期間を推定する際に，購買履歴る確率が最大となる商品を提示するレコメンド法を提購入されたときの契約期間の情報も利用する．表 3 に案する．以下に，提案法の詳細を述べる．

提案法の入力データの例を示す．

3.1 準備
定額制サービスを提供するオンラインストアで入手

3.2 レコメンド法
提案法では，ユーザ u にレコメンドしたとき契約期

可能なログとして，契約ログと購買ログがある．契約間が延びる確率 P (l|u, r(si )) が最大になる商品 ŝ を

ログとは，各ユーザの契約開始時刻，契約状況（契約

レコメンドする．

Vol. 48

No. SIG 6(TOM 17)

契約期間を延ばすためのレコメンド法67

表 3 入力データの例
Table 3 An example input data.
ユーザ

契約状況

契約期間

購買商品（購買時の契約期間）

u1
u2
u3
u4
u5
.
.
.
uN

1
0
1
1
0
.
.
.
0

145
438
8
12
411
.
.
.
0

s3 (0), s1 (0), s6 (1), . . .
s2 (0), s8 (3), s1 (5), . . .
s2 (0), s13 (7)s3 (0), s1 (2), s2 (12)s5 (0), s1 (0), s8 (2), . . .
.
.
.
s10 (0)ŝ = arg max P (l|u, r(si )),
si ∈S

(2)

ここで l は契約期間が延びるという事象，r(si ) は商品 si をレコメンドしたという事象を表す．レコメン
ドの候補は，全商品 S ではなく一部の商品（たとえばそのユーザに購入されていない商品の集合）に限ってもよい．
レコメンドしたときに購入された商品を sj とする．
レコメンド r(si ) は購買行動 sj に影響を与え，購買行動 sj は契約期間 l に影響を与える，すなわち，sjと u が与えられたとき，r(si ) と l は条件付独立であると仮定する．そのとき P (l|u, r(si )) は，商品 sjが購入されたときユーザ u の契約期間が延びる確率Q(l|u, sj ) と，商品 si をレコメンドしたとき商品 sj
がユーザ u に購入される確率 R(sj |u, r(si )) とに分

3.3 Cox 比例ハザードモデル
商品 sj が購入されたときユーザ u の契約期間が延解できる．

P (l|u, r(si )) =P (l, sj |u, r(si ))びる確率 Q(l|u, sj ) をハザード関数から導く．ハザー

sj ∈S

=



図 1 提案法の流れ
Fig. 1 The framework of our method.

Q(l|u, sj )R(sj |u, r(si )).

sj ∈S

(3)

ド関数は，ある期間まで契約しているユーザのうちその期間で解約するユーザの割合を表す．ユーザが契約中の場合は解約時刻が得られないため，真の契約期間は分からない．このようなデータは打ち切りデータと購入されたときに契約期間が延びる確率 Q(l|u, sj )呼ばれる．生存時間解析3) の手法を用いることにより，が最も高くなる商品をレコメンドしてもよいが，レコ

打ち切りデータに含まれる情報も有効に活用しハザーメンドしたとしてもその商品が購入されるとは限らなド関数を推定できる．

い．購入されなかった場合，レコメンドは契約期間を一般に契約期間は購買履歴に依存すると考えられる．

延ばすことができないため，レコメンドにより商品がそのためハザード関数を購買履歴の関数として表現す

購入される確率 R(sj |u, r(si )) も考慮する必要がある．

る．購買系列から得られるユーザ u のハザード関数

図 1 に提案法の流れを示す．まず契約ログと購買ロを推定するための特徴量を x(u) とする．簡単のため

グとから入力データを作成する．次に，Q(l|u, sj ) を
モデルを用い推定する．また，R(sj |u, r(si )) を協調

x(u) を列ベクトル x = (x1 (u), x2 (u), . . .)T で記述する．ここで xk (u) は x(u) の k 番目の特徴量を表す．
x(u) の具体例は 4.1 節で示す．次式で表される Cox

フィルタリングで使われる最大エントロピーモデルを比例ハザードモデル4) をハザード関数として用いる．

生存時間解析の代表的手法である Cox 比例ハザード用い推定する．そして，式 (3) に従い P (l|u, r(si )) を

h(t|x) = λ0 (t) exp(β T x),(4)

計算し，式 (2) にあるようにレコメンドしたとき契約

ここで λ0 (t) はベースラインハザード関数，β は未知

期間が延びる確率が最も高い商品をレコメンドする．

パラメータ，β T は β の転置を表す．ベースラインハ

68Mar. 2007

情報処理学会論文誌：数理モデル化と応用

ザード関数は，特徴量がない場合（x = 0）のハザード関数である．後述のように，推定値の大域的最適解

Q(l|u, sj ) は期間 t によらず，更新された購買履歴
のみをパラメータとして持つシグモイド関数により記が保証され，かつ，Q(l|u, sj ) を簡易な形で記述する

述される．

ことができるため，Cox 比例ハザードモデルを採用する．β が大きくなるほどハザード関数の値も大きく

3.5 レコメンドしたとき商品が購入される確率商品 si をレコメンドしたときに，ユーザ u に商品なるため，低い β （< 0）を持つ特徴量は契約期間のsj が購入される確率 R(sj |u, r(si )) を推定する手法

長いユーザに特徴的なパターンであり，また，高い βについて述べる．レコメンドなしでユーザ u に商品（> 0）を持つ特徴量は契約期間の短いユーザに特徴的sj が購入される確率を R(sj |u)， j=1 R(sj |u) = 1とする．商品 si をレコメンドすることにより，しない場合に比べ商品 si が購入される確率は高くなるとなパターンであることが分かる．

Cox 比例ハザードモデルの Breslow 近似による対数部分尤度3) は次式で表される．

P L(β) = log
=

(



 
t

t

n∈D(t)m∈R(t)

−

t

るとすると

h(t|xn (t))

h(t|xm (t)))|D(t)|R(sj |u, r(si )) =β T xn (t)n∈D(t)



考えられる．レコメンドにより購入確率が γ 倍され





V

|D(t)| logγR(si |u)Z(u,si )1
R(sj |u)Z(u,si )j = i,j = i,(7)となる．ここで γ ≥ 1，Z(u, si ) = 1 + (γ − 1)R(si |u)exp(β T xm (t)),

m∈R(t)

は正規化項である．γ はレコメンドの購買行動への影
響度を表しており，オンラインストアでのレコメンド(5)の提示法（たとえば位置や大きさ）などに依存する．

ここで D(t) は期間 t で解約したユーザの集合

ユーザ u に商品 sj が購入される確率 R(sj |u) を（D(t) = {n|tn = t, en = 1}），|D(t)| は集合 D(t)推定するために，最大エントロピーモデルを用いる．

の要素数，R(t) は期間 t で契約しているユーザの集

最大エントロピーモデルは，与えられたデータに関す

合（R(t) = {n|tn ≥ t}），xn (t) は期間 t におけるる制約を満たす確率分布のなかでエントロピーが最

ユーザ un の特徴ベクトルを表す．対数部分尤度を最大となるものを求める手法であり，協調フィルタリン

大化することによってベースラインハザード関数を推グ5),12),19) だけでなく，自然言語処理11),14) など幅広定することなしに未知パラメータを推定することがでい応用分野で使用されている．購買履歴から得られる

きる．対数部分尤度は未知パラメータに関して上に凸商品 sj がユーザ u に購入される確率を推定するたであるため，準ニュートン法6) などの最適化手法によめの特徴量を yc (u, sj ) とする．yc (u, sj ) の具体例はり最大化することで，大域的最適解を推定することが4.2 節で示す．このとき，ユーザ u に商品 sj が購入できる．

される確率は

3.4 購入されたとき契約期間が延びる確率
ハザード関数を用い，ユーザ u に商品 sj が購入されたとき契約期間が延びる確率 Q(l|u, sj ) を導く．x
をユーザ u の購買履歴，x+sj をユーザ u に新たにsj が購入されたときの購買履歴とする．簡単のため，
sj が購入されたときのユーザを u+sj と考える．期間
t で u もしくは u+sj のどちらかが解約し，もう一方は契約中であるとする．確率 Q(l|u, sj ) は，期間 t において解約したユーザが u である確率に等しく，その確率は期間 t における u および u+sj のハザードR(sj |u) =k

対応する未知パラメータである．
最大エントロピーモデルにおける対数尤度は次式で表される．

L(α) ==

nlog R(snk |uk )

n
k



n
k


n

Cox 比 例 ハ ザ ー ド モ デ ル を 仮 定 し て い る た め ，

(8)



c

exp( c αc yc (u, sk )) は正規化項，yc は c 番目の特徴量，ac はその特徴量に

−
(6)



となる．ここで Z(u) =関数 h(t|x) および h(t|x+sj ) を用いて記述できる．

h(t|x)
Q(l|u, sj ) =h(t|x) + h(t|x+sj )1.
=
1 + exp(−β T (x − x+sj ))


1
exp(
αc yc (u, sj )),
Z(u)

k

c

log

n
αc yc (unk , sk )


j

exp(



αc yc (unk , sj )),c(9)
ここで snk はユーザ un に k 番目に購入された商品，

unk は k 番目の商品が購入される前までの un の購買

Vol. 48

No. SIG 6(TOM 17)69

契約期間を延ばすためのレコメンド法

履歴を表す．未知パラメータは，準ニュートン法などの最適化手法を用い対数尤度を最大化することにより推定できる．なお，最大エントロピーモデルでは大域

xsi (u) =的最適解を得ることができる．過学習を抑えるため，実験では，未知パラメータの事前分布として平均 0 の正規分布を用いた2) ．


1

if user u has purchased0

item si ,otherwise,• F2： ユーザ u は商品 si かつ商品 sj を購入したことがあるか（要素数 2 の商品集合），
1

3.6 レコメンドしたとき契約期間が延びる確率提案法ではレコメンドしたときに契約期間が延びる確率が最大となる商品 ŝ を提示する．3.4 節のQ(l|u, sj ) および 3.5 節の R(sj |u)，γ を用いると，レコメンドする商品は次式で表される．

1ŝ = arg max
R(sj |u)Q(l|u, sj )si ∈S Z(u, si )jxsi ,sj (u) =0• F3： ユーザ u は商品 si の次に商品 sj を購入したことがあるか（商品の bigram），



1



+(γ − 1)R(si |u)Q(l|u, si ) .

(10)

if user u has purchased
item si and item sj ,otherwise,

xsi→sj (u) =従来法では購買確率 R(u|sj ) が最も高い商品，つま0

if user u has purchased
item sj next to item si ,otherwise,

り嗜好と最も合致している商品をレコメンドする12) ．

ここで全購買履歴中に 10 未満しか含まれない特徴量

提案法は購買確率 R(u|sj ) を契約期間を延ばす効果

は省いた．

Q(l|u, sj ) で重み付けしたものが最大となる商品をレコメンドする手法と見なすこともできる．

日まで，8 月 31 日までの 3 セットを用いた．テスト

学習データとして，2005 年 6 月 30 日まで，7 月 31

4. 実データを用いた実験

データとして，学習データの最終日において契約中で携帯電話用の漫画を配信するサイトにおけるログを

表 4 に特徴量数，表 5 に学習データおよびテストデー

用いて，提案法の評価を行った．このサイトにおいて，あるユーザの 2005 年 10 月 28 日までのログを用いた．
タの契約ユーザ数，解約ユーザ数を示す．

ユーザは月ごとに一定額を払い漫画を読む．契約ログ，

評価尺度として平均対数部分尤度を用いた．平均対購買ログが存在し，オンラインストアにとってユーザ

数部分尤度が高いモデルは予測性能が高い．表 6 にその契約期間を延ばすことが望まれるビジネスモデルでの結果を示す．Cox 比例ハザードモデルのテストデー

あるため，提案法が適用可能である．なお，1 つの漫タに対する平均部分尤度は履歴非依存モデルに比べ高画が複数巻あるものは同一の商品として扱い，単位時

い．また，購買の順序を考慮した特徴量（F3）のテス

間を 1 日とした．ログの開始日は 2004 年 8 月 16 日，

トデータに対する平均部分尤度が最も高く，購買順序

最終更新日は 2005 年 10 月 28 日であった．

は契約期間を予測する際に有用な情報となることを示

4.1 Cox 比例ハザードモデルの評価唆している．2005 年 10 月 28 日までのログを用いて提案法は，購買履歴を利用することにより契約期間

10-fold クロスバリデーションを行った結果，図 2 のをより正確に予測することができることを仮定してようになった．Cox 比例ハザードモデル（F3）は履歴

いる．まず，この仮定の妥当性を調べるため，3.3 節

非依存モデルに比べ平均対数部分尤度が高く，購買履で述べた契約期間が購買履歴に依存すると仮定する

歴を使うことで，より正確に契約期間を予測可能であCox 比例ハザードモデル h(t|x) = λ0 (t) exp(β T x)

ることを示している．

ル h(t) = λ0 (t) の予測性能を比較した．Cox 比例ハ4.2 最大エントロピーモデルの評価
最大エントロピーモデルを用いて推定したユーザ u

ザードモデルで用いる特徴量として以下のものを用に商品 sj が購入される確率 R(sj |u) に関する評価をいた．

行った．最後に購入された商品が次の購買行動に影響と，契約期間が購買履歴に依存しないと仮定するモデ• F1： ユーザ u は商品 si を購入したことがあるか（商品の unigram），

を与えると考え，特徴量として以下の 1 次マルコフを
用いた．

70

Mar. 2007

情報処理学会論文誌：数理モデル化と応用
表 4 特徴量数
Table 4 The number of features.

Cox 比例ハザードモデル（F1）Cox 比例ハザードモデル（F2）Cox 比例ハザードモデル（F3）2005/06/30
75
2,671
3,711

2005/07/31
80
3,159
4,455

2005/08/31
84
3,485
5,250

表 5 契約ユーザ数と解約ユーザ数
Table 5 The number of subscribers and unsubscribers.

契約ユーザ数
解約ユーザ数

2005/06/30
学習テスト

2005/07/31
学習テスト

2005/08/31
学習テスト

13,284
4,988

14,6698,802

28,409
9,765

7,221
6,063

9,608
5,061

17,028
11,381

表 6 平均対数部分尤度
Table 6 Average log partial likelihoods.

2005/06/30
学習テスト
履歴非依存モデル
Cox 比例ハザードモデル（F1）Cox 比例ハザードモデル（F2）Cox 比例ハザードモデル（F3）−8.865−8.727−8.709−8.604−9.845−9.205−9.179−9.129

図 2 10-fold クロスバリデーションによる平均対数部分尤度（左から履歴非依存モデル，Cox 比例ハザードモデル）
Fig. 2 Agerage log partial likelihoods with 10-fold clossvaridation.

1ysa ,sb (u, sj ) =0

2005/07/31
学習テスト

if item sa is the last itemof user u and sb = sj ,otherwise,−9.165−9.048−9.029−9.048−9.465−9.445−9.422−9.351

2005/08/31
学習テスト−9.513−9.415−9.325−9.325−9.904−9.812−9.839−9.798

図 3 10-fold クロスバリデーションによる平均対数尤度（左から一様分布，多項分布，最大エントロピーモデル）
Fig. 3 Agerage log likelihoods with 10-fold clossvaridation.

は最尤法により推定した．評価尺度として平均対数尤
度を用いた．表 8 にその結果を示す．一様分布，多項分布の場合に比べ，最大エントロピーモデルのテスト
データに対する平均対数尤度は高く，次に購入される学習データとして，2005 年 6 月 30 日まで，7 月 31

商品をより正確に予測でき，ユーザの嗜好をより的確

日まで，8 月 31 日までの 3 セットを用いた．このときにとらえているといえる．また，2005 年 10 月 28 日

同一商品への遷移は省いた．テストデータは学習デー

までのログを用いて 10-fold クロスバリデーションをタの最終日から 2005 年 10 月 28 日までのデータで，行った結果，図 3 のようになり，最大エントロピーモ

同一商品への遷移，学習データ期間で発売されていな

デルは一様分布，多項分布に比べ平均対数尤度が高いい商品を含む遷移を省いたものを用いた．このときのといえる．

遷移数，商品数を表 7 に示す．比較手法として一様
分布，多項分布を用いた．多項分布の未知パラメータ

4.3 購買パターンの生起確率と契約期間延長効果
従来レコメンド法は購入される確率が最も高いと推Vol. 48

No. SIG 6(TOM 17)71

契約期間を延ばすためのレコメンド法
表 7 遷移数，商品数
Table 7 The number of transitions and items.

2005/06/30
学習
テスト
遷移数
商品数

300,486

2005/07/31
学習テスト

122,904

382,77875

2005/08/31
学習テスト

171,749

459,456

81

197,47686

表 8 平均対数尤度
Table 8 Average log likelihoods.

2005/06/30
学習
テスト
一様分布
多項分布
最大エントロピーモデル−4.317−3.875−3.554−4.317−4.263−3.551

2005/07/31
学習テスト−4.394−3.938−3.581−4.394−4.673−3.732

2005/08/31
学習テスト−4.454−3.975−3.605−4.454−4.454−3.762測される商品を提示する．もし契約期間の長いユーザ
は，契約期間の短いユーザに比べ，購入確率の高い商品を購入する傾向が強ければ，従来法でも契約期間を延ばす効果があると考えられる．そこで，購買パター
ンの生起確率と契約期間を延ばす効果の関係を調べた．
商品 si の次に商品 sj を購入するという購買パター
ンを si → sj とする．si → sj の生起確率は 4.2 節
で述べた 1 次マルコフ特徴量を用いた最大エントロ
ピーモデルにより推定できる．また，購買履歴中にsi → sj がある（4.1 節の F3 で xsi →sj = 1）場合，ハザード関数は exp(βsi →sj ) 倍される．したがってexp(−βsi →sj ) は，その購買パターンの契約期間を延ばす効果を表している．2005 年 8 月 31 日までのデー

図 4 購買パターンの生起確率（横軸）と契約期間延長効果（縦軸）Fig. 4 Transition probability vs extension eﬀect.

タを用い Cox 比例ハザードモデル（F3）と最大エントロピーモデルを学習し，購買パターンの生起確率とンを行った．ユーザ行動モデルは，2005 年 10 月 28

契約期間を延ばす効果をプロットした結果，図 4 の日までのログから学習した Cox 比例ハザードモデル，

ようになった．このとき相関係数は 0.159 であり，相最大エントロピーモデルを基に構築した．このとき商関は小さい．生起確率が高い購買パターンの契約期間

品数は 107 であった．

を延ばす効果は高いとはいえず，従来レコメンド法で表 9 に，ユーザの契約期間 t を生成するアルゴリズ

は契約期間を延ばす目的には不十分であることを示唆

ムを示す．ここで u は購買系列，u+sj は商品 sj 購

する．

入後の購買系列，φ は空系列，Bernoulli(θ) は成功

4.4 シミュレーションによる試算
4.1 節で Cox 比例ハザードモデルにより契約期間が予測できることを示した．これは契約期間の長いユー

目の要素の成功確率が ψj の試行回数 1 の多項分布をザに特徴的な購買パターンが存在することを表し，そ内でユーザが解約するかどうかを確率 h(t|x) を用い

確率 θ のベルヌーイ分布，M ultinomial(ψ) は j 番表す．まず，表 9 の行 3 から行 4 において，単位時間のような購買パターンをレコメンドすることにより契決定する．次に行 7 から行 8 において，単位時間内で約期間が延びる可能性を示唆する．また，4.2 節で最大商品を購入するかどうかを確率 g を用い決定する．こエントロピーモデルにより購買行動が予測できること

こで g は契約期間 t によらず一定と仮定した．最初を示した．この結果より，購入される確率の低い商品に購入される商品は確率 R(sj ) によって決定する（行をレコメンドすることなく，効果的なレコメンドができると期待できる．本節では，提案法によるレコメン

10）．もしユーザが過去に購入したことがあれば，提案法によりレコメンドし（行 12），確率 R(sj |u, r(ŝ))

ドの契約期間に与える効果を試算するため，定額制オ

により購入される商品を決定する（行 13）．未知パラ

ンラインストアにおけるユーザ行動のシミュレーショ

メータ λ0 (t)， g ，R(sj ) は，ログデータを用い最尤72

情報処理学会論文誌：数理モデル化と応用

Mar. 2007

表 9 ユーザシミュレーションアルゴリズム
Table 9 A user simulation algorithm.

1: Set t ← 0, u ← φ
2: loop3:
Sample r1 ∼ Bernoulli(h(t|x))4:
if r1 is success then
5:
break
6:
end if7:
Sample r2 ∼ Bernoulli(g)8:if r2 is success then9:
if u = φ then10:
Sample sj ∼ M ultinomial(R(sj ))
11:
else
12:
ŝ ← arg maxsi P (l|u, r(si ))13:
Sample sj ∼ M ultinomial(R(sj |u, r(ŝ)))14:
end if15:
Set u ← u+sj

図 5 平均契約期間
Fig. 5 Average subscription periods.

16:
end if17:
Set t ← t + 1
18: end loop
19: Output t

購入される確率がない商品もレコメンドしているため

法により推定した．

の生起確率と契約期間を延ばす効果に若干の相関があと考えられる．4.3 節で示したように，購買パターン
提案法を以下の 3 手法と比較した．
• Q Recommend 購入されたとき，最も契約期間を延ばす確率の高い商品をレコメンドする．表 9の行 12 を以下のように変更する．

ŝ ← arg max Q(l|u, si ).
si

この手法はユーザの嗜好を考慮しない．

• R Recommend 最も購入される確率の高い商品をレコメンドする．行 12 を以下のように変更

るため，R Recommend も同様に契約期間を延ばしているが，購買確率を高くすることが目的であるため，提案法に比べ契約期間を延ばす効果が小さい．

5. ま と め
契約期間を延ばすためのレコメンド法を提案し，携帯電話用漫画配信サイトにおけるログデータを用い提案法の有効性を示した．提案法は，契約期間を推定する部分と，ユーザの嗜好を推定する部分に分かれているため，生存時間解析および協調フィルタリングなどする．

ŝ ← arg max R(si |u).
siの手法を応用することが可能である．たとえば，嗜好を推定するためにコンテンツフィルタリングを組み合

この手法は従来法と同じく購買確率が高い商品をわせることや，高次のマルコフ遷移や，ユーザ属性な

レコメンドする．

どの特徴量を組み込むことが考えられる．

• No Recommend 何もレコメンドしない．購入される商品はユーザの嗜好によって決定される．

影響の大きさをログデータから自動的に学習できるよ行 12 を省き，行 13 を以下のように変更する．

うにする必要がある．レコメンドした場合としない場

Sample sj ∼ M ultinomial(R(sj |u)).
この手法は，表 9 で，γ = 1（レコメンドは購買合のログデータから推定できると考えられる．また，行動に影響を与えない）とすることによっても実商品が変わることなどが考えられるため，提案法を時現できる．

間的変化に対応できるように拡張する必要がある．実

今後の課題として，レコメンドの購買行動に与える

オンラインストアに新たな商品が加わることや，人気ユーザ数を N = 100, 000，最大契約期間を 365 日

環境で提案法を評価することは，多くのユーザを対象としたとき，各手法の平均契約期間は図 5 のようにとした長期にわたる実験が必要であり，さらに，同じなった．提案法によるレコメンドにより契約期間が最サービスで対照実験をしなければならないため，困難も延びている．また，レコメンドの購買行動への影響である．そのため，本研究では提案法の効果をシミュ

度 γ が大きい場合，より契約期間を延ばすことがでレーションにより試算した．しかし，今後，オンライ

きている．Q Recommend も契約期間を延ばしている

ンストアに提案法を導入し，実際にユーザの契約期間

が，提案法に比べ小さい．これは Q Recommend はが延びるかを検証したい．

Vol. 48

No. SIG 6(TOM 17)

参

考 文

73

契約期間を延ばすためのレコメンド法

献1) Au, W.H., Chan, K.C.C. and Yao, X.: A novel
evolutionary data mining algorithm with applications to churn prediction, IEEE Trans.Evolutionary Computation, Vol.7, No.6, pp.532–545(2003).
2) Chen, S.F. and Rosenfeld, R.: A Gaussianprior for smoothing maximum entropy models,Technical report, CMUCS-99-108 (1999).
3) Cleves, M., Gould, W.W. and Gutierrez, R.:
An Introduction to Survival Analysis Using
Stata, Revised Edition, Stata Press (2004).
4) Cox, D.R.: Regression Models and LifeTables, Journal of the Royal Statistical Society,
Series B, Vol.34, No.2, pp.187–220 (1972).
5) Jin, X., Zhou, Y. and Mobasher, B.: A maximum entropy web recommendation system:
Combining collaborative and content features,
Proc.ACM SIGKDD Conference on Knowledge
Discovery and Data Mining (2005).
6) Liu, D.C. and Nocedal, J.: On the limited
memory BFGS method for large scale optimization, Math. Programming, Vol.45, No.3,
pp.503–528 (1989).
7) Lu, J.: Modeling customer lifetime value using survival analysis—An application in thetelecommunication industry, Proc. SUGI 28 ,pp.120–128 (2003).
8) Mani, D.R., Drew, J., Betz, A. and Datta, P.:
Statistics and data mining techniques for lifetime value modeling, Proc. 5th ACM SIGKDD
Conference on Knowledge Discovery and Data
Mining, pp.94–103 (1999).
9) Mooney, R.J. and Roy, L.: Content-based
book recommending using learning for text categorization, Proc. 5th ACM Conference on Digital Libraries, pp.195–204 (2000).
10) Mozer, M.C., Wolniewicz, R., Grimes, D.B.,
Johnson, E. and Kaushansky, H.: Predicting
subscriber dissatisfaction and improving retention in the wireless telecommunications industry, IEEE Trans. Neural Networks, Vol.11,
No.3, pp.690–696 (2000).
11) Nigam, K., Laﬀerty, J. and McCallum, A.: Using maximum entropy for text classiﬁcation,
Proc. IJCAI-99 Workshop on Machine Learning for Information Filtering, pp.61–67 (1999).
12) Pavlov, D.Y. and Pennock, D.M.: A maximum entropy approach to collaborative ﬁltering in dynamic, sparse, high-dimensional domains, Proc. Neural Information Processing
Systems, pp.1441–1448 (2002).
13) Popescul, A., Ungar, L., Pennock, D. and

Lawrence, S.: Probabilistic Models for Uniﬁed
Collaborative and Content-Based Recommendation in Sparse-Data Environments, Proc.17th
Conference on Uncertainty in Artificial Intelligence, pp.437–444 (2001).
14) Ratnaparkhi, A.: A maximum entropy model
for part-of-speech tagging, Proc. Conferenceon Empirical Methods in Natural Language,
pp.133–142 (1996).
15) Resnick, P., Iacovou, N., Suchak, M.,
Bergstrom, P. and Riedl, J.: Grouplens: An
open architecture for collaborative ﬁlteringof netnews, Proc. ACM Conference on Computer Supported Cooperative Work , pp.175–186(1994).
16) Rosset, S., Neumann, E., Eick, U. and Vatnik,
N.: Customer lifetime value models for decision
support, Data Mining and Knowledge Discovery, Vol.7, pp.321–339 (2003).
17) Schafer, J.B., Konstan, J.A. and Riedl,
J.: E-commerce recommendation applications,
Data Mining and Knowledge Discovery, Vol.5,
pp.115–153 (2001).
18) Shono, Y., Takada, Y., Komoda, N., Oiso, H.,
Hiramatsu, A. and Fukuda, K.: Customer analysis of monthly-charged mobile content aiming at prolonging subscription period, Proc.
IEEE Conference on Computational Cybernetics, pp.279–284 (2004).
19) Zitnick, L. and Kanade, T.: Maximum entropy
for collaborative ﬁltering, Proc. 20th Conference on Uncertainty in Artificial Intelligence,
pp.636–643 (2004).
(平成 18 年 8 月 17 日受付)
(平成 18 年 10 月 3 日再受付)(平成 18 年 11 月 4 日採録)
岩田 具治（正会員）
昭和 54 年生．平成 13 年慶應義塾大学環境情報学部環境情報学科卒
業．平成 15 年東京大学大学院総合文化研究科広域科学専攻修了．同年

NTT 入社．異常値検出，可視化，機械学習の研究に従事．現在，NTT コミュニケーショ
ン科学基礎研究所社員．FIT 船井ベストペーパー賞受賞（平成 16 年）．電子情報通信学会会員．

74

情報処理学会論文誌：数理モデル化と応用

斉藤 和巳（正会員）

Mar. 2007山田 武士（正会員）

昭和 38 年生．昭和 60 年慶應義塾昭和 39 年生．昭和 63 年 3 月東京大学理工学部数理科学科卒業．工学大学理学部数学科卒業．同年 NTT

博士．同年 NTT 入社．平成 3 年よ入社．平成 8 年より 1 年間英国コり 1 年間オタワ大学客員研究員．神ベントリー大学客員研究員．現在，

経回路網，機械学習の研究に従事．

NTT コミュニケーション科学基礎

現在，NTT コミュニケーション科学基礎研究所主任

研究所創発環境研究グループリーダ．主としてネット研究員（特別研究員）．情報処理学会論文賞受賞（平成

ワーク分析，機械学習，データマイニング，メタヒュー

9 年）．人工知能学会論文賞受賞（平成 11 年）．FIT 船
井ベストペーパー賞受賞（平成 16 年）．人工知能学会
研究会優秀賞受賞（平成 17 年）．電子情報通信学会，（情報学）．電子情報通信学会，ACM，IEEE 各会員．

人工知能学会，日本神経回路学会，IEEE 各会員．

リスティクスによる組合せ最適化等の研究に従事．博士