(57)【要約】【課題】  ランキング指向の協調フィルタリング推薦方法およびそれの装置を提案する。【解決手段】  このランキング指向の協調フィルタリング推薦方法は、ランキングアイテムのペア集合についてユーザの嗜好データを取得するステップと、嗜好データおよびユーザ・アイテム間の相関データに基づいてユーザの嗜好ベースの確率的潜在嗜好解析モデルを構築するステップと、確率的潜在嗜好解析モデルを使用することにより、ユーザに対して推薦を容易にするユーザの嗜好に基づくアイテムランキングを予測するステップとを含み、アイテムのペアについてのユーザの観察された嗜好を直接ユーザの他のアイテムについての嗜好ランキングを予測するために使用することができ、その結果、全ての嗜好データベースを検索することが不要となり、ランキング予測を迅速に実行できる。【選択図】  図１
2011096255.tif 000002
【特許請求の範囲】
【請求項１】
ランキングアイテムのペア集合についてユーザの嗜好データを取得するステップと、
前記嗜好データおよびユーザアイテム間の相関データに基づいてユーザの嗜好ベースの確率的潜在嗜好解析モデルを構築するステップと、
確率的潜在嗜好解析モデルを使用することにより、ユーザに対して推薦を容易にするユーザの嗜好に基づくアイテムランキングを予測するステップと
を含むことを特徴とするランキング指向の協調フィルタリング推薦方法。
【請求項２】
ランキングアイテムのペア集合についてユーザの嗜好データを取得するステップが、異なるポリシーに従って評価集合から前記ランキングアイテムのペアを生成するステップをさらに含むことを特徴とする請求項１に記載のランキング指向の協調フィルタリング推薦方法。
【請求項３】
前記異なるポリシーは、アイテムの評価に従って全てのアイテムからランキングアイテムのペアを全て生成するポリシー、アイテムの評価に従ってウェイトを有するランキングアイテムのペアを生成するポリシー、あるいは所定の評価差分閾値に従ってランキングアイテムのペアを生成するポリシーを含むことを特徴とする請求項２に記載のランキング指向の協調フィルタリング推薦方法。
【請求項４】
ランキングアイテムのペア集合についてユーザの嗜好データを取得するステップが、確率的潜在嗜好解析モデルを構築するステップにおいて使用する推薦のためのユーザフィードバックに基づく新たな嗜好データを生成するステップをさらに含むことを特徴とする請求項１に記載のランキング指向の協調フィルタリング推薦方法。
【請求項５】
確率的潜在嗜好解析モデルは、
【数２８】
2011096255.tif 000030
の式で表される
（ここで、ｕはユーザを示し、ｉとｊはアイテムを示し、ｚは潜在的ユーザクラスを示す。δｕｉｊはアイテムｉおよびｊについてのユーザｕのペアの嗜好変数を示し、ユーザｕがアイテムｊよりアイテムｉを好めば、δｕｉｊ＝１となり、そうでなければ、δｕｉｊ＝０となる。ｋは潜在的ユーザクラスの数を示し、p(z|u)は潜在的ユーザクラスｚに属するユーザｕの確率を示し、P(δuij|i,j,z)はアイテムｉとアイテムｊについて嗜好δuijを有する潜在的ユーザクラスｚのユーザｕの確率を示し、P(δuij|i,j,z)はアイテムｉとアイテムｊについて嗜好δuijを有するユーザｕの確率を示す）
ことを特徴とする請求項１に記載のランキング指向の協調フィルタリング推薦方法。
【請求項６】
ランキングアイテムのペア集合についてユーザの嗜好データを取得する取得手段と、
前記嗜好データおよびユーザアイテム間の相関データに基づいてユーザの嗜好ベースの確率的潜在嗜好解析モデルを構築する構築手段と、
確率的潜在嗜好解析モデルを使用することにより、ユーザに対して推薦を容易にするユーザの嗜好に基づくアイテムランキングを予測する予測手段と
を備えることを特徴とするランキング指向の協調フィルタリング推薦装置。
【請求項７】
前記取得手段が、異なるポリシーに従って評価集合から前記ランキングアイテムのペアを生成する手段を含むことを特徴とする請求項６に記載のランキング指向の協調フィルタリング推薦装置。
【請求項８】
前記異なるポリシーは、アイテムの評価に従って全てのアイテムからランキングアイテムのペアを全て生成するポリシー、アイテムの評価に従ってウェイトを有するランキングアイテムのペアを生成するポリシー、あるいは所定の評価差分閾値に従ってランキングアイテムのペアを生成するポリシーを含むことを特徴とする請求項７に記載のランキング指向の協調フィルタリング推薦装置。
【請求項９】
前記取得手段が、確率的潜在嗜好解析モデルを構築するステップにおいて使用する推薦のためのユーザフィードバックに基づく新たな嗜好データを生成する手段を含むことを特徴とする請求項６に記載のランキング指向の協調フィルタリング推薦装置。
【請求項１０】
前記構築手段によって構築される確率的潜在嗜好解析モデルは、
【数２９】
2011096255.tif 000031
の式で表される
（ここで、ｕはユーザを示し、ｉとｊはアイテムを示し、ｚは潜在的ユーザクラスを示す。δｕｉｊはアイテムｉおよびｊについてのユーザｕのペアの嗜好変数を示し、ユーザｕがアイテムｊよりアイテムｉを好めば、δｕｉｊ＝１となり、そうでなければ、δｕｉｊ＝０となる。ｋは潜在的ユーザクラスの数を示し、p(z|u)は潜在的ユーザクラスｚに属するユーザｕの確率を示し、P(δuij|i,j,z)はアイテムｉとアイテムｊについて嗜好δuijを有する潜在的ユーザクラスｚのユーザｕの確率を示し、P(δuij|i,j,z)はアイテムｉとアイテムｊについて嗜好δuijを有するユーザｕの確率を示す）
ことを特徴とする請求項６に記載のランキング指向の協調フィルタリング推薦装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、一般的な情報フィルタリングに関し、特に、ランキング指向の協調フィルタリング推薦方法および装置に関する。
【背景技術】
【０００２】
インターネット上の入手可能な情報の爆発性の増大に伴い、人々が莫大な量の情報を効果的にふるい分けるのを支援する情報フィルタリング技術は、取得した大量の情報によって引き起こされる情報過多の問題を解決するために不可欠になっている。推薦システムは、ユーザの過去のフィードバックに基づいて膨大な収集アイテムからアイテム推薦リストを自動的に生成するような情報スクリーニング技術である。
【０００３】
推薦システムの土台となる既存の技術は、内容ベースのフィルタリングと協調フィルタリングの２つのカテゴリに分類される。
内容ベースのフィルタリングと比較して、協調フィルタリングは、アイテムに関する内容情報を必要とせず、多数のユーザからアイテムに関するフィードバック（例えば、評価）を収集することにより、また他のユーザの嗜好パタンに基づいてユーザに推薦を行う。
アイテムまたはユーザに関する大量の内容情報を収集する必要の回避の他に、協調フィルタリングは、特殊なドメイン知識を必要とせず、異なる推薦システムに容易に適用することができる。このため、協調フィルタリングは、現在の推薦システムにおいて使用される一般的な技術となっている。
【０００４】
推薦システムのための主要なタスクは、ユーザ興味に従ってアイテムランキングリストを生成することである。ユーザに最も興味のあるアイテムはリストのトップにランクされなければならない。アイテムランキングに関して、多くの協調フィルタリングアルゴリズムは、まず、アイテムに関するユーザの評価を予測し、その後、評価を利用することによりアイテムを並び替える。
しかしながら、評価予測精度がランキング有効性と必ずしも一致しているとは限らなく、ランキングが複数のアイテム間の関係に本質的に関係しているにもかかわらず、多くの場合評価が各アイテムについて独立に予測されるので、評価予測ベースの協調フィルタリングアルゴリズムは、予測性能が不十分であるという欠点を有する。
さらに、インターネット検索などのような多くの対話型の用途において、評価の形式で明示的なユーザフィードバックを取得することは難しい。一方、ユーザのクリックなどのような豊富な暗黙のフィードバックを収集するのは非常に簡単であり、そこから、アイテムに関するユーザのペアの嗜好を容易に抽出することができる。
このように、嗜好に対するモデルははるかに一般的であり、暗黙的かつ明示的なユーザフィードバックを処理することができる。
【０００５】
嗜好に対するモデルにおいて、非特許文献１（Ｎ．  Ｎ．  Ｌｉｕ  ａｎｄ  Ｑ．  Ｙａｎｇ、ＡＣＭ  ＳＩＧＩＲ  ２００８（ＳＩＧＩＲ−０８））で、「Ｅｉｇｅｎｒａｎｋ：協調フィルタリングに対するランキング指向の方法」を発表した。この論文は、ＥｉｇｅｎＲａｎｋと呼ばれ、近接ベースの協調フィルタリングアルゴリズムを提案する。それは協調フィルタリングを評価予測問題ではなくランキング問題と見なす。この近接ベースの方法は、あるパターンの最近傍探索（ｎｅａｒｅｓｔ  ｎｅｉｇｈｂｏｒ  ｓｅａｒｃｈ）を実行し、近接するユーザの嗜好をマージすることで、ユーザに対する特定のランキング推薦リストを生成する。実験結果は、そのランキング指向の方法がそれまでの評価予測方法よりよりよいランキングを生成することを示している。
【先行技術文献】
【非特許文献】
【０００６】
【非特許文献１】Ｎ．  Ｎ．  Ｌｉｕ  ａｎｄ  Ｑ．  Ｙａｎｇ、ＡＣＭ  ＳＩＧＩＲ  ２００８（ＳＩＧＩＲ−０８）
【非特許文献２】Bradley, R.A. and Terry, M.E.(1952).  Rank analysis ofincomplete block designs, I. the method of paired comparisons. Biometrika, 39,324−345
【非特許文献３】MM algorithms for generalizedBradley-Terry models", issue 1, vol. 32, Annals of Statistics 2004
【発明の概要】
【発明が解決しようとする課題】
【０００７】
近接ベースの方法は概念的に簡単で直感的であるので広く適用されるが、ある欠点を有している。
第１に、近接ベースの方法の精度は通常最良ではない。
第２に、近接ベースの方法は、予測を生成することができるが、学習をほとんど伴っておらず、データからユーザあるいはアイテムに関する知識をほんの少し取得できるだけである。
第３に、近接ベースの方法は、通常、予測時に全トレーニングデータセットを直接操作することが必要であり、それは非常に大きな演算オーバヘッドを引き起こす。
最後に、適切なモデルの不足のために、近接ベースの方法によって特定のタスクあるいはアプリケーション分野に関連する様々な対象を最適化するのは困難である。
【課題を解決するための手段】
【０００８】
本発明の目的は、アイテムペアについて観察されたユーザの嗜好を使用することによりユーザの他のアイテムについての嗜好ランキングを直接予測する方法を提供することにある。これにより、全ての嗜好データベースを検索することが不要となり、ランキング予測を迅速に実行できる。
【０００９】
上記目的を達成する本発明のランキング指向の協調フィルタリング推薦方法は、ランキングアイテムのペア集合についてユーザの嗜好データを取得するステップと、前記嗜好データおよびユーザアイテム間の相関データに基づいてユーザの嗜好ベースの確率的潜在嗜好解析モデルを構築するステップと、確率的潜在嗜好解析モデルを使用することにより、ユーザに対して推薦を容易にするユーザの嗜好に基づくアイテムランキングを予測するステップとを含む。
【００１０】
上記目的を達成する本発明のランキング指向の協調フィルタリング推薦装置は、ランキングアイテムのペア集合についてユーザの嗜好データを取得する取得手段と、前記嗜好データおよびユーザアイテム間の相関データに基づいてユーザの嗜好ベースの確率的潜在嗜好解析モデルを構築する構築手段と、確率的潜在嗜好解析モデルを使用することにより、ユーザに対して推薦を容易にするユーザの嗜好に基づくアイテムランキングを予測する予測手段とを含む。
【発明の効果】
【００１１】
本発明のランク指向の協調フィルタリング推薦方法および装置によれば、アイテムのペア（ランキングのペア）集合について観察されたユーザの嗜好が、予測ランキング・モデルをトレーニングするために使用される。よって、近接ベースの方法のように全ての嗜好データベースを検索する代わりに、モデルによってランキングを予測することができ、演算コストが著しく減少する。
また、オフラインで完成させる追加のモデル構築工程を含んでいるが、全部のデータを非常にコンパクトなモデルに圧縮することによって、予測を迅速に実行することができる。
さらに、適切な損失関数および最適化プログラムの設計によって、モデルは異なるドメインにおける用途に適合するためにシステム的に調整することが可能である。
【００１２】
好ましくは、トレーニングデータがランキングのペア集合でなく評価集合である場合、適切なランキングのペア集合を異なるポリシーによって評価集合から自動的に生成することも可能である。
【００１３】
好ましくは、本発明の確率的潜在嗜好解析（ｐＬＰＡ）モデルを改良するために、未評価ユーザフィードバック（暗黙のフィードバック）をトレーニングデータとしてランキングのペアに変換することも可能である。
多くのユーザは興味のある各アイテムを評価しないので、トレーニングデータが足りない場合、暗黙のフィードバックを収集する方法は非常に重要である。
本発明による解決方法は、演算オーバヘッドを軽減するだけでなく、ユーザに推薦する場合の正確さと利便性を向上させる。
【図面の簡単な説明】
【００１４】
本発明の他の目的および効果は、添付図面を参照した以下の説明を通して、本発明についてより良く理解することで、より明らとなりかつ容易に理解できるであろう。
【図１】本発明の実施の形態によるランキング指向の協調フィルタリング推薦方法を説明するフローチャートである。
【図２】本発明の実施の形態によるｐＬＰＡベースのランキング指向の協調フィルタリング推薦システムの構成を示すブロック図である。
【図３】本発明の理解を容易にするために、既存の確率的潜在意味解析（ｐＬＳＡ：ｐｒｏｂａｂｉｌｉｓｔｉｃ  ｌａｔｅｎｔ  ｓｅｍａｎｔｉｃ  ａｎａｌｙｓｉｓ）と本発明によるｐＬＰＡを示す図形化モデル図である。
【図４】本発明の他の実施の形態によるｐＬＰＡベースのランキング指向の協調フィルタリング推薦システムの構成を示すブロック図である。
【図５】本発明のさらに他の実施の形態によるｐＬＰＡベースのランキング指向の協調フィルタリング推薦システムの構成を示すブロック図である。
【図６】本発明によるランキング指向の協調フィルタリング推薦装置の概略を示すブロック図である。  上記全ての図面において、同じ参照符号は、同じか類似する、或いは対応する特徴又は機能を示している。
【発明を実施するための形態】
【００１５】
以下に、本発明の好ましい実施の形態について、図面を参照して詳細に説明する。
【００１６】
図１は、本発明によるランキング指向の協調フィルタリング推薦方法のフローチャートを概略的に示す。
【００１７】
図１に示すように、ステップ１１０で、ランキングアイテムのペア集合についてのユーザの嗜好データを取得する。ステップ１２０で、ユーザの嗜好ベースのｐＬＰＡモデルを、嗜好データおよびユーザ・アイテム間の相関データに基づいて構築する（詳細は後述する）。ステップ１３０で、ｐＬＰＡモデルを使用することにより、ユーザに推薦するための、ユーザの嗜好に基づいたアイテムランキングを予測する。
【００１８】
図２は、本発明の実施の形態によるｐＬＰＡベースのランキング指向の協調フィルタリング推薦システム２００の概要を示すブロック図である。
【００１９】
図２に示すように、システムは、主に、ｐＬＰＡモデル生成ユニット２３０および確率的潜在嗜好計算ユニット２６０を含む。加えて、本発明のより良い理解のために、システムブロック図には、さらに、上記の２ユニットでデータ配送を実行する、ランキングペア集合データ部２１０、アイテム・ユーザ集合データ２２０、ｐＬＰＡモデルデータ部２４０、ユーザプロファイルデータ部２５０およびユーザ推薦リストデータ部２７０を図示している。ここで、ランキングペア集合ブロック部２１０は、＜ユーザu, アイテムi, アイテムj＞の形式でユーザ嗜好データを記憶する。この記憶形式は、ユーザｕがアイテムｊよりアイテムｉを好むことを示している。
アイテム・ユーザ集合ブロック部２２０は、アイテムとユーザのプロファイルを格納する。ｐＬＰＡモデル生成ユニット２３０は、ランキング集合ブロック部およびユーザとアイテムのプロファイル集合に格納されるデータに基づいて、本発明のｐＬＰＡモデルを構築し、ｐＬＰＡモデルブロック部２４０にそれを格納する。
次に、ｐＬＰＡモデルブロック部２４０およびユーザプロファイルブロック部２５０のデータは、確率的潜在嗜好計算ユニット２６０に配信される。
確率的潜在嗜好計算ユニット２６０においては、ユーザ推薦リストブロック部２７０中のユーザｕに嗜好ベースの推薦リストを提示するために、ユーザｕについての未評価のアイテムの嗜好ランキングを、生成されたｐＬＰＡモデルおよびユーザｕのプロファイルに基づいて生成する（ランキング予測処理の詳細については後述する）。
【００２０】
図３は、本発明の理解を容易にするために、既存の確率的潜在意味解析（ｐＬＳＡ：probabilistic latent semantic analysis）と本発明によるｐＬＰＡの図形化モデル図をそれぞれ示す。
図３に示ように、ｐＬＳＡモデル図は左側において示される。当業者に知られているように、このモデルは、混合分布に基づく共起データについて広く使用される潜在的変数モデルである。右側は本発明によるｐＬＰＡモデル図を示す。
この図及び以下の説明において、ｕはユーザを示し、ｉとｊはアイテムを示す。ｚは潜在的ユーザクラス（すなわち、ユーザが属するユーザグループクラスを示す）を示す。ｒｕｉはアイテムｉについてのユーザｕの評価を示す。また、δｕｉｊはアイテムｉおよびｊについてのユーザｕのペアの嗜好変数を示す。ここで、ユーザｕがアイテムｊよりアイテムｉを好めば、δｕｉｊ＝１であり、そうでなければ、δｕｉｊ＝０である。ｋは潜在的ユーザクラスｚの数を示す。
【００２１】
ｐＬＳＡは評価データ（すなわち、ユーザのアイテムについての評価、例えば、ユーザはアイテムＡにスコア５を与え、一方でアイテムＢにスコア３を与える）に基づいてモデル化され、そのモデルは以下のように表される。
【００２２】
【数１】
2011096255.tif 000003
ここで、P(rui|i,z)はガウス分布を用いてモデル化される。すなわち、
【数２】
2011096255.tif 000004
【００２３】
関連技術におけるＥＭ（expectation-maximization：期待値最大化）アルゴリズムを上記モデルの未知パラメータ値p(z|u), μzi,とσ2ziを推定するために使用することが可能である。
ＥＭアルゴリズムは、１９７７年にDempster, Laind及びRubinによって提案された、パラメータの最尤推定値を求める方法であり、不完全なデータセットからパラメータに対して最尤推定（maximum likelihood estimate）を実行する。これは、機械学習（machine learning）において常用される標準的なパラメータ推測アルゴリズムである。この方法は反復的アルゴリズム（iterative algorithm）であり、各々の反復は２つのステップを含む。
【００２４】
１）予測ステップ、潜在的ユーザクラスｚの事後確率（posterior probability）を以下の式に従って計算する。
【数３】
2011096255.tif 000005
【００２５】
２）最大化ステップ、以下の対数尤度関数の期待値を最大化する。
【数４】
2011096255.tif 000006
もし、P(z|u)が１に等しければ、パラメータp(z|u),μzi,σ2ziを、直接以下の式に従って推定することができる。
【数５】
2011096255.tif 000007
推定したパラメータ値を取得した後、未評価のアイテムについてのユーザの評価が以下の式によって予測される。
【数６】
2011096255.tif 000008
【００２６】
上記ｐＬＳＡに関し、本発明のｐＬＰＡはランキングデータに基づいてモデル化される（すなわち、アイテムについてのユーザの嗜好が、例えば、アイテムＡ＞アイテムＢであれば、それはユーザがアイテムＡを好むことを示している。全てのアイテムについてのユーザの嗜好はランキング・リストとして、例えば、A＞C＞B＞E＞・・・のように表される。）。そのモデルは以下のように表される。
【数７】
2011096255.tif 000009
【００２７】
上記の式において、p(z|u)は潜在的ユーザクラスｚに属するユーザｕの確率を示す。P(δuij|i,j,z)はアイテムｉとアイテムｊについて嗜好δuijを有する潜在的ユーザクラスｚのユーザｕの確率を示す。P(δuij|u,i,j)はアイテムｉとアイテムｊについて嗜好δuijを有するユーザｕの確率を示す。
【００２８】
本発明によるｐＬＰＡモデルにおいて、p(δuij|i,j,z)項はBradley-Terryモデル（Bradley-Terry model）によりモデル化される。まず、そのBradley-Terryモデルを以下に説明する。
【００２９】
２値結果（binary outcomes）δijを得るためにペアで互いに比較されるｎ個のアイテムの集合がある場合を考える。
ユーザｕがｊよりｉを好めば、δijは１となり、そうでなけば０となる。それにより、上述するようなランキングアイテムのペアの嗜好データを形成する。
負でないパラメータを有するδijの確率分布のBradley-Terryモデルは、以下の通りである。
【数８】
2011096255.tif 000010
ここで、γiとγjはそれぞれｉとｊの負でないアイテムパラメータであり、それぞれアイテムｉとアイテムｊの有用性を示している。γiがγjより高ければ、ユーザはアイテムｊよりアイテムｉをより好む。
【００３０】
ペア比較のためのBradley-Terryモデルは、ランキング上の確率分布を定義するために使用することができる。
１からｎの整数の集合についての全ての可能なランキング集合をPnで表す。
ベクトルπ∈Ｐｎは、πi＝１がアイテムｉが第１にランク付けされることを意味するように、ｎ個のアイテム集合上のランキングを定義する。
ランキングπが与えられると、変数δπｉｊが定義される。
もし、πｉ＜πｊであれば、δπｉｊ＝１で、そうでなければ、δπｉｊ＝０となる。
全ての可能なランキングPnの集合上の確率分布は以下の通りである。
【数９】
2011096255.tif 000011
ここで、C(γ)=Σπ∈PnΠn-1i=1Πnj=i+1P(δπij;γ)は、P(π;γ)がPnについての確率測度であることを保証するのための正規化定数（normalization constant）である。
式（７）を式（８）に代入すると、以下の式が得られる。
【数１０】
2011096255.tif 000012
ここで、C*(γ)=C(γ)Πn-1i=1Πnj=i+1P(γi+γj)は、πに依存しない定数因子である。
【００３１】
Bradley-Terryモデルは、ペアのデータを比較するための典型的な確率モデルである。その詳細は、非特許文献２（Bradley, R.A. and Terry, M.E. (1952).  Rank analysis of incomplete block
designs, I. the method of paired comparisons. Biometrika, 39, 324−345）に記載されている。
なお、本発明においてモデル化のために利用するBradley-Terryモデルは、あくまで一例であり、それに限定されないことは言うまでもない。
本発明の開示に基づけば、当業者であれば、本発明のｐＬＰＡモデルを適用するために、ペアのデータを比較するのに他の適切な確率モデルを使用することが可能である。
【００３２】
本発明のｐＬＰＡモデル中のP(δuij|i,j,z)項は、非負のパラメータγzを有する上記Bradley-Terryモデルにより以下のようにモデル化される。
【数１１】
2011096255.tif 000013
【００３３】
上記の式において、γziとγzjは、任意のアイテムｉおよびｊの負でないアイテムパラメータであり、潜在的ユーザクラスｚにおけるアイテムｉとｊの有用性を表わす。
γｚｉがγｚｊより大きければ、潜在的ユーザクラスｚのユーザはアイテムｊよりアイテムｉをより好む。
p(δuij=1|z,i,j)はアイテムｉとアイテムｊについてδuij =1を有する潜在的ユーザクラスｚ内のユーザｕの確率を表す。δuij =1は、ユーザｕがアイテムｊよりアイテムｉを好むことを示す。
【００３４】
次に、ＥＭアルゴリズムを、ｐＬＰＡモデル中の未知パラメータ値（すなわち、ｎ×ｋ個のアイテムパラメータγｚ、ｍ×ｋ個のＰ（ｚ｜ｕ））を推定するために使用する。
ここで、ｎは、アイテムの数を表わし、ｍはユーザの数を表わし、ｋは潜在的ユーザクラスの数を表わす。
ｋの選択に関しては、異なる具体的な例毎に、最適な効果を達成するために、専門家によって、あるいはトレーニング集合（training set）に関するテストモデルの性能に応じて異なるｋ値が選択される。
ここで、本発明において利用するＥＭアルゴリズムがあくまで一例であり、当業者であれば、同様にｐＬＰＡモデルのパラメータを推定する類似の機能を実現することができる他のパラメータ推定アルゴリズムを使用することが可能である。
【００３５】
予測ステップにおいては、観察した各々のペアの嗜好についての潜在的ユーザクラスｚの事後確率は、以下の式により計算される。
【数１２】
2011096255.tif 000014
最大化ステップ内では、対数尤度関数（log-likelihood function）の期待値E[Lc]をまず以下のように導き出す。
【数１３】
2011096255.tif 000015
ここで、Ｑは観察したペアの嗜好集合を表わす。
正規化制約Σkz=1P(z|u)=1を使用しながらP(z|u)に関してE[Lc]を最適化することで、P(z|u)について以下の更新等式（update equation）を得る。
【数１４】
2011096255.tif 000016
【００３６】
ｐＬＳＡと異なり、ｐＬＰＡの最大化ステップにおいてパラメータγzの閉じた形の解はない。
したがって、数値計算法（numerical methods）が、γz’sの最尤推定値を取得するために使用される。
各潜在クラスｚのパラメータ・ベクトルγzを推定するために、式（１２）において唯一関連する部分は以下の通りである。
【数１５】
2011096255.tif 000017
ここで、wzij=Σ(u,i,j)∈QP(z|u,i,j)は、潜在クラスｚのユーザｕによってアイテムｉがアイテムｊより好まれる期待回数である。
各Lcz(γz)は、進行中の最大化ステップにおいてγzの推定値を取得するために別々に最大化することが可能である。
【００３７】
ここで、反復的アルゴリズム（非特許文献３（「MM algorithms for generalized Bradley-Terry models", issue 1,
vol. 32, Annals of Statistics 2004」）においてD.R. ハンター（D.R. Hunter）によって提案された）が、Bradley-Terryモデルにおけるパラメータγzの最尤推定値を取得するために使用される。このアルゴリズムは一意の最尤推定値への収束を保証する。
γ(t)zが第ｔ番目の反復の推定値であると仮定する。γ(t)zを固定することにより、以下の関数を定義することが可能である。
【数１６】
2011096255.tif 000018
【００３８】
関数の厳密な凹性を利用すると（それは正の対数xとyについて、-logx≧1-logy-(x/y)であることを意味する）、関数Qt(γz)が点γ(t)zでLcz(γz)の最小値となり、Qt(γz)≦Lcz(γz)はγz=γ(t)zである場合のみ等しくなることが分かる。
その結果、Qt(γz)≧Qt(γ(t)z)がLcz(γz)≧Lcz(γ(t)z)を意味することを容易に証明することができる。
この特性は、Qt(γz)が各反復で最大化され、かつγt+1zがQt(γz)を最大値とする反復的アルゴリズムを提示し、以下の更新等式を得る。
【数１７】
2011096255.tif 000019
ここで、Wzi=Σnj=1wzijかつNzij=wzij+wzijである。
【００３９】
Bradley-Terryモデルに適合する上記アルゴリズムは、各反復を非常に効率的に計算することを可能にする。試験では、最尤推定値まで収束するのに通常３０−５０回の反復が必要である。
【００４０】
ＥＭアルゴリズムが収束してパラメータP(z|u)およびγzの推定値が取得されるまで反復を繰り返し、その後ｐＬＰＡモデルの計算が完了する。
【００４１】
以下、本発明による協調フィルタリング推薦システム２００の確率的潜在嗜好計算ユニット２６０におけるランキング予測処理について詳細に説明する。
式（８）の方法によって、ランキングπ∈Pn上の以下の確率分布を取得するのにｐＬＰＡモデルを用いることができる。
【数１８】
2011096255.tif 000020
ここで、C(u)はユーザに関係する正規化定数である。
評価と異なり、ランキングπは離散的な組合わせ構造であり、そのため、πの期待値は、式（５）における方法で計算することができない。
代わりに、以下の式（１８）の元で最大事後確率確率(MAP：maximum
posteriori probabilities)を有するランキングを見出す必要がある。
【数１９】
2011096255.tif 000021
【００４２】
しかしながら、単一のBradley-Terryモデルの場合と異なり、式（１８）は、各々がγzによって決定されたＭＡＰランキングを有するBradley-Terryモデルの混合である。
従って、ＭＡＰランキングは、集合Pnにおいて組合せ検索を実行することにより取得しなければならない。
P(π|u)の対数をとり、πに依存しないファクターを取り除くと、ＭＡＰランキングπ*は以下の関数を最大化するランキングである。
【数２０】
2011096255.tif 000022
ここで、wuij=logP(δij=1|u)である。
【００４３】
総じて言えば、比較的ランクの低いアイテムよりも、より好まれるランクの高いのアイテムの確率を最大化するようなランキングを取得することが望まれる。
【００４４】
以下、ランク統合問題（rank aggregation problem）によって示唆されるｐＬＰＡモデルに対してランキングを効率的に生成するのための方法について説明する。
ランク統合問題において、ランキング結果のリストを提供する複数の判断基準が存在し、ランク統合の目的は、有効な全体のランキングを生成するために効果的に個々の判断基準のスコアを組み合わせることである。
ランク統合のための多くの方法は以下の情報に依存する。
（ｉ）異なる判断基準によって各アイテムに割り当てられたスコア、及び／または、（ｉｉ）異なる結果リストにおける各アイテムの順序ランク。
アイテムを合計スコアによって並び替えるために、最初のスコア、ランク或いはこれらの値の変換に基づいて各アイテムの合計ステアを計算する様々な方法がすでに提案されている。
ｐＬＰＡモデルからランキングを生成するランク統合を適用するために、各潜在的カテゴリのBradley-TerryモデルP(δij;γz)を、ｎ個のアイテムにスコアγz1,・・・,γz2を適宜割り当てる判断基準とする。
ここで、Bradley-Terryモデルによれば、より大きいγzi値を有するアイテムがより好まれる可能性があるので、アイテム・パラメータγziはランキングについての自然な測定である。
ユーザ依存のランキングを生成するために、P(z|u)はさらに各判断基準毎のユーザ依存の重みとして利用される。
これは、ユーザｕおよびアイテムｉに関連するスコアθuiを計算するための以下の式を導き出す。
【数２１】
2011096255.tif 000023
【００４５】
各ユーザｕについて、ｕに関連する各アイテムのスコアが式（２０）に従って計算され、ランク付けされる。それにより、ユーザｕが好むアイテムランキングを予測する。
ここで、このランキング予測ポリシーの使用が本発明に限定的ではなく単に例示であることに注意すべきである。また、本発明の開示に基づいて、当業者であれば、本発明によるｐＬＰＡモデルを適用する他のランキング解決ポリシーを採用することができるであろう。
【００４６】
以上の説明から、本発明におけるｐＬＰＡは関連技術におけるｐＬＳＡと類似するが、それらの間には著しい差異があることが分かるであろう。
具体的には、ｐＬＳＡは、ユーザ評価データに基づいてモデル化されると共に、各潜在クラス毎の各アイテムに対する評価についてのガウス分布を使用してモデル化される。
しかし、本発明のｐＬＰＡは、ペアのアイテムについてのユーザ嗜好データに基づいてモデル化され、Bradley-Terryモデルなどのモデルを使用することによりペアのアイテムについて各潜在クラスの嗜好をモデル化する。
従って、ｐＬＡＳとｐＬＰＡのパラメータ推定ポリシーもまた相違する。
最後に、ｐＬＳＡが予測するのはアイテムについてのユーザの評価であるのに対して、本発明のｐＬＰＡによって予測されるのはアイテムについてのユーザのランキングである。
【００４７】
図４は、本発明の他の実施の形態によるｐＬＰＡベースのランキング指向協調フィルタリング推薦システム４００の概略を示すブロック図である。
この図に示す協調フィルタリング推薦システム４００は、評価集合ブロック４８０およびランキングペア生成器４９０を追加した点を除き、図２と類似している。
評価集合ブロック４８０は、アイテムについてのユーザ評価を格納し、ランキングペア生成器４９０は、与えられたランキング集合に基づいてランキングペアを自動的に生成する。
異なるペア集合を生成するために異なるポリシーを使用することも可能である。
以下に、ランキングペア生成器で使用することが可能なポリシーの例を説明する。
【００４８】
例えば、アイテム集合{i, j, k, t}について４つの評価{ri=4, rj=4, rk=5,
rt=1}を有する所定のユーザｕ。
【００４９】
例１：基本ポリシー−評価に基づいて全てのアイテムから全部のアイテムペアを生成する。
生成されたペア集合は{<k,i>,<i,t>,<k,j>,<j,t>,<k,t>}である。
【００５０】
例２：重み付けポリシー−重み付けした全部のアイテムペアを生成する。
生成されたペア集合は{< k, i, w=1>,<
i, t, w=3 >,< j, t,
w=1 >,< j, t, w=3 >,< k, t, w=4 >}である。ここで、重みｗは２つの評価の差に比例する。
このポリシーは、評価間の差異の程度を強調する。異なる重みはアイテムペアをさらに選別するための根拠となる。
【００５１】
例３：選択的ポリシー−所定の差分閾値に基づいて選択的にアイテムペアを生成する。
所定の閾値＝２を有するアイテムペア集合は{<i,t>,<j,t>,<k,t>}である。
【００５２】
このポリシーは、明らかな相違を有するペアだけを考慮する。従って、生成されるペアの量を軽減し、それにより演算の負荷を軽減することが可能である。
要するに、図４の協調フィルタリング推薦システム４００において、ランキングが異なるポリシーに基づいてランキング集合から生成される。
ポリシーについては、実際の適用における異なるデータ特性を考慮することにより選択する。
【００５３】
図５は、本発明のさらに他の実施の形態によるｐＬＰＡベースのランキング指向協調フィルタリング推薦システム５００の概略を示すブロック図である。
この図に示す協調フィルタリング推薦システム５００は、ユーザフィードバック収集部５４５、ユーザフィードバックブロック部５５０およびフィードバックベースランキングペア生成部５５５を追加した点を除き、図２と類似している。
ユーザフィードバック収集部５４５は、クリック、ブラウジングあるいは購入履歴等のような、所定の推薦リスト上のユーザフィードバックを収集する。また、ユーザフィードバックブロック部５５０は、ユーザフィードバック収集部５４５によって収集したユーザフィードバックを記録する。
フィードバックベースランキングペア生成部５５５は、ユーザフィードバックをランキングペアに変換する。
変換において異なるポリシーを使用することが可能である。以下に可能なポリシーの例を示す。
【００５４】
例えば、アイテム<A, B, C,
D, E>についてのランキングリストが与えられ、ユーザのクリック集合が<B,D>である場合。
例１：ユーザがランキングリスト全体を読み込んだと仮定すると、そのとき生成されるランキングペア集合は{<B,A>, <B,C>,<B,E>,
<D,A>, <D,C>,<D,E>}である。
例２：ユーザがランキングリストの一部だけを読み取ったと仮定すると、そのとき生成されるランキングペア集合は{<B,A>, <B,C>,<D,A>,
<D,C>}である。
図５に示す協調フィルタリング推薦システム５００は、ユーザの潜在的な嗜好を収集するのにユーザフィードバック機構を用いる。これにより、トレーニングデータ収集が向上する。
この方法によって、ユーザからの暗黙のフィードバックがトレーニングのために使用される。
ユーザ評価を取得するのが困難な場合、そのような機構は非常に有効である。
【００５５】
図６は、本発明によるランキング指向協調フィルタリング推薦装置６００の概略を示す。
この装置６００は、取得手段６１０、構築手段６２０および予測手段６３０を含む。
取得手段６１０は、ランキングアイテムペア集合についてユーザの嗜好データを取得する。
構築手段６２０は、取得手段６１０から受信した嗜好データおよびユーザ・アイテム間の相関データに基づいてユーザ嗜好ベースのｐＬＰＡモデルを構築する。
予測手段６３０は、構築手段６２０によって構築されたｐＬＰＡモデルを利用することにより、ユーザに対して推薦するためにユーザ嗜好に基づくアイテムランキングを予測する。
【００５６】
本発明による実施の形態は、ソフトウェア、ハードウェア、またはソフトウェアとハードウェアとの組み合わせによって実現することが可能である。
当業者は、適切なデータ処理システムに利用可能な信号媒体でセットされる計算機プログラムによって本発明を実現することができることを理解するであろう。
このような信号媒体は、コンピュータ読み取り可能な情報のための伝送ケーブルあるいは記録媒体であり、磁気記録媒体、光学記録媒体あるいは他の適切な媒体を含む。
記録可能な媒体の具体例としては、ハードディスクドライブの磁気ディスクあるいはフロッピィ・ディスク、CD-ROMドライブの光ディスク、磁気テープ、および当業者が思い付く他の媒体を含む。
当業者であれば、適切なプログラミング装置を有する任意の通信端末でも、プログラムプロダクトで具体化される本発明の方法のステップを実現することができることを理解するであろう。
【００５７】
上記の説明では、本発明をより理解しやすくするため、本発明の実現には必須とされるが、当該技術に精通した当業者には広く知られている技術の詳細を一部省略している。
【００５８】
本発明の説明は例示と説明を目的として記載したものであり、すべての実施例を網羅することや、本発明を上記の形態に限定することを意図するものではない。様々な変更や改変が可能なことは、当業者には明らかであろう。
【００５９】
したがって、上記の実施の形態は、本発明の原理と実用用途とをより明快に説明すると共に、本発明の精神から逸脱することなくなされたすべての変更および改変は付記される請求項に定義される本発明の保護範囲に含まれることを、当業者が理解する上での助けとすることを目的として、選択され説明されたものである。
【００６０】
さらに、上記実施形態の一部又は全部は、以下の付記のようにも記載されうるが、これに限定されない。
【００６１】
（付記１）
ランキングアイテムのペア集合についてユーザの嗜好データを取得するステップと、
前記嗜好データおよびユーザアイテム間の相関データに基づいてユーザの嗜好ベースの確率的潜在嗜好解析モデルを構築するステップと、
確率的潜在嗜好解析モデルを使用することにより、ユーザに対して推薦を容易にするユーザの嗜好に基づくアイテムランキングを予測するステップと
を含むことを特徴とするランキング指向の協調フィルタリング推薦方法。
【００６２】
（付記２）
ランキングアイテムのペア集合についてユーザの嗜好データを取得するステップが、異なるポリシーに従って評価集合から前記ランキングアイテムのペアを生成するステップをさらに含むことを特徴とする付記１に記載のランキング指向の協調フィルタリング推薦方法。
【００６３】
（付記３）
前記異なるポリシーは、アイテムの評価に従って全てのアイテムからランキングアイテムのペアを全て生成するポリシー、アイテムの評価に従ってウェイトを有するランキングアイテムのペアを生成するポリシー、あるいは所定の評価差分閾値に従ってランキングアイテムのペアを生成するポリシーを含むことを特徴とする付記２に記載のランキング指向の協調フィルタリング推薦方法。
【００６４】
（付記４）
ランキングアイテムのペア集合についてユーザの嗜好データを取得するステップが、確率的潜在嗜好解析モデルを構築するステップにおいて使用する推薦のためのユーザフィードバックに基づく新たな嗜好データを生成するステップをさらに含むことを特徴とする付記１に記載のランキング指向の協調フィルタリング推薦方法。
【００６５】
（付記５）
確率的潜在嗜好解析モデルは、
【数２２】
2011096255.tif 000024
の式で表される
（ここで、ｕはユーザを示し、ｉとｊはアイテムを示し、ｚは潜在的ユーザクラスを示す。δｕｉｊはアイテムｉおよびｊについてのユーザｕのペアの嗜好変数を示し、ユーザｕがアイテムｊよりアイテムｉを好めば、δｕｉｊ＝１となり、そうでなければ、δｕｉｊ＝０となる。ｋは潜在的ユーザクラスの数を示し、p(z|u)は潜在的ユーザクラスｚに属するユーザｕの確率を示し、P(δuij|i,j,z)はアイテムｉとアイテムｊについて嗜好δuijを有する潜在的ユーザクラスｚのユーザｕの確率を示し、P(δuij|i,j,z)はアイテムｉとアイテムｊについて嗜好δuijを有するユーザｕの確率を示す）
ことを特徴とする付記１に記載のランキング指向の協調フィルタリング推薦方法。
【００６６】
（付記６）
Bradley-Terryモデルが、以下の式において表される確率的嗜好解析モデルのP(δuij|i,j,z)項をモデル化するために使用される
【数２３】
2011096255.tif 000025
（ここで、γiとγjはそれぞれｉとｊの負でないアイテム・パラメータであり、それぞれアイテムｉとアイテムｊの有用性を示し、γiがγjより高ければ、潜在的ユーザクラスｚのユーザｕがアイテムｊよりアイテムｉをより好み、p(δuij=1|z,i,j)はアイテムｉとアイテムｊについて嗜好δuij =1を生成する潜在的ユーザクラスｚのユーザｕの確率を示し、δuij=1はユーザｕがアイテムｊよりアイテムｉを好むことを示す）
ことを特徴とする付記５に記載のランキング指向の協調フィルタリング推薦方法。
【００６７】
（付記７）
期待値最大化方法を、未知のパラメータp(z|u)および確率的潜在嗜好解析モデルのγzを解決するために使用することを特徴とする付記６に記載のランキング指向の協調フィルタリング推薦方法。
【００６８】
（付記８）
確率的潜在嗜好解析モデルを使用してアイテムについてのユーザの嗜好ランキングを予測する場合、以下の式を利用して、ユーザuとアイテムiに関連するスコア値θuiを計算し、
【数２４】
2011096255.tif 000026
その後、全てのアイテムのスコア値はをランク付けし、ユーザuの嗜好に関するアイテムランキングを予測する
ことを特徴とする付記６に記載のランキング指向の協調フィルタリング推薦方法。
【００６９】
（付記９）
ランキングアイテムのペア集合についてユーザの嗜好データを取得する取得手段と、
前記嗜好データおよびユーザアイテム間の相関データに基づいてユーザの嗜好ベースの確率的潜在嗜好解析モデルを構築する構築手段と、
確率的潜在嗜好解析モデルを使用することにより、ユーザに対して推薦を容易にするユーザの嗜好に基づくアイテムランキングを予測する予測手段と
を備えることを特徴とするランキング指向の協調フィルタリング推薦装置。
【００７０】
（付記１０）
前記取得手段が、異なるポリシーに従って評価集合から前記ランキングアイテムのペアを生成する手段を含むことを特徴とする付記９に記載のランキング指向の協調フィルタリング推薦装置。
【００７１】
（付記１１）
前記異なるポリシーは、アイテムの評価に従って全てのアイテムからランキングアイテムのペアを全て生成するポリシー、アイテムの評価に従ってウェイトを有するランキングアイテムのペアを生成するポリシー、あるいは所定の評価差分閾値に従ってランキングアイテムのペアを生成するポリシーを含むことを特徴とする付記１０に記載のランキング指向の協調フィルタリング推薦装置。
【００７２】
（付記１２）
前記取得手段が、確率的潜在嗜好解析モデルを構築するステップにおいて使用する推薦のためのユーザフィードバックに基づく新たな嗜好データを生成する手段を含むことを特徴とする付記９に記載のランキング指向の協調フィルタリング推薦装置。
【００７３】
（付記１３）
前記構築手段によって構築される確率的潜在嗜好解析モデルは、
【数２５】
2011096255.tif 000027
の式で表される
（ここで、ｕはユーザを示し、ｉとｊはアイテムを示し、ｚは潜在的ユーザクラスを示す。δｕｉｊはアイテムｉおよびｊについてのユーザｕのペアの嗜好変数を示し、ユーザｕがアイテムｊよりアイテムｉを好めば、δｕｉｊ＝１となり、そうでなければ、δｕｉｊ＝０となる。ｋは潜在的ユーザクラスの数を示し、p(z|u)は潜在的ユーザクラスｚに属するユーザｕの確率を示し、P(δuij|i,j,z)はアイテムｉとアイテムｊについて嗜好δuijを有する潜在的ユーザクラスｚのユーザｕの確率を示し、P(δuij|i,j,z)はアイテムｉとアイテムｊについて嗜好δuijを有するユーザｕの確率を示す）
ことを特徴とする付記９に記載のランキング指向の協調フィルタリング推薦装置。
【００７４】
（付記１４）
前記構築手段が、以下の式において表される確率的嗜好解析モデルのP(δuij|i,j,z)項をモデル化するためにBradley-Terryモデルを使用する手段を備える
【数２６】
2011096255.tif 000028
（ここで、γiとγjはそれぞれｉとｊの負でないアイテム・パラメータであり、それぞれアイテムｉとアイテムｊの有用性を示し、γiがγjより高ければ、潜在的ユーザクラスｚのユーザｕがアイテムｊよりアイテムｉをより好み、p(δuij=1|z,i,j)はアイテムｉとアイテムｊについて嗜好δuij =1を生成する潜在的ユーザクラスｚのユーザｕの確率を示し、δuij=1はユーザｕがアイテムｊよりアイテムｉを好むことを示す）
ことを特徴とする付記１３に記載のランキング指向の協調フィルタリング推薦装置。
【００７５】
（付記１５）
前記構築手段が、期待値最大化方法を使用して未知のパラメータp(z|u)および確率的潜在嗜好解析モデルのγzを解決する手段を備えることを特徴とする付記１４に記載のランキング指向の協調フィルタリング推薦装置。
【００７６】
（付記１６）
前記予測手段が、確率的潜在嗜好解析モデルを使用してアイテムについてのユーザの嗜好ランキングを予測する場合、以下の式を利用して、ユーザuとアイテムiに関連するスコア値θuiを計算し、
【数２７】
2011096255.tif 000029
その後、全てのアイテムのスコア値はをランク付けし、ユーザuの嗜好に関するアイテムランキングを予測する
ことを特徴とする付記１４に記載のランキング指向の協調フィルタリング推薦装置。
【符号の説明】
【００７７】
２１０：ランキングペア集合ブロック部
２２０：アイテム・ユーザ集合ブロック部
２３０：ｐＬＰＡモデル生成ユニット
２４０：ｐＬＰＡモデルブロック部
２５０：ユーザプロファイルブロック部
２６０：確率的潜在嗜好計算ユニット２６０
２７０：ユーザ推薦リストブロック部
４００：協調フィルタリング推薦システム
４１０：ランキングペア集合ブロック部
４２０：アイテム・ユーザ集合ブロック部
４３０：ｐＬＰＡモデル生成ユニット
４４０：ｐＬＰＡモデルブロック部
４５０：ユーザプロファイルブロック部
４６０：確率的潜在嗜好計算ユニット
４７０：ユーザ推薦リストブロック部
４８０：評価集合データ
４９０：ランキングペア生成器
５００：ｐＬＰＡベースのランキング指向協調フィルタリング推薦システム
５１０：ランキングペア集合ブロック部
５１５：アイテム・ユーザ集合ブロック部
５２０：ｐＬＰＡモデル生成ユニット
５２５：ｐＬＰＡモデルブロック部
５３０：ユーザプロファイルブロック部
５３５：確率的潜在嗜好計算ユニット
５４０：ユーザ推薦リストブロック部
５４５：ユーザフィードバック収集部
５５０：ユーザフィードバックブロック部
５５５：フィードバックベースランキングペア生成部
６１０：取得手段
６２０：構築手段
６３０：予測手段
【図１】
2011096255.tif 000032
【図２】
2011096255.tif 000033
【図３】
2011096255.tif 000034
【図４】
2011096255.tif 000035
【図５】
2011096255.tif 000036
【図６】
2011096255.tif 000037
【外国語明細書】
2011096255000001.pdf