(57)【特許請求の範囲】
【請求項１】
多次元の関係を示す観測データと各次元の背景知識となるクラス階層構造のタクソノミとが入力され、前記タクソノミに基づき各次元にてスパースに観測されるオブジェクトにクラス知識を付与することで前記観測データを拡張する観測データ拡張部と、
前記観測データ拡張部による拡張前の観測データと、同拡張後の観測データとを同時に分析することで未観測データに対するバイナリ予測を実行する欠損値予測部と、
を備えることを特徴とする多次元データの予測装置。
【請求項２】
前記観測データ拡張部は、前記観測データにおけるオブジェクトのうち希薄なオブジェクトを、該希薄なオブジェクトの所属クラスに置き換え、
該置き換えられた所属クラスを前記観測データのオブジェクトに加えることで増大多次元関係を構築する
ことを特徴とする請求項１記載の多次元データの予測装置。
【請求項３】
前記欠損値予測部は、希薄でないオブジェクトに関するクラスタ割当に相当する式を、元の多次元関係を用いて計算する一方、
希薄なオブジェクトに関するクラスタ割当に相当する式を、前記増大多次元関係を用いて計算する
ことを特徴とする請求項２記載の多次元データの予測装置
【請求項４】
観測データ拡張部及び欠損値予測部を備えるコンピュータによる多次元の関係を示す観測データの予測に関する方法であって、
前記観測データ拡張部が、前記観測データと各次元の背景知識となるクラス階層構造のタクソノミとの入力を受け付け、前記タクソノミに基づき各次元にてスパースに観測されるオブジェクトにクラス知識を付与することで前記観測データを拡張する観測データ拡張ステップと、
前記欠損値予測部が、前記観測データ拡張ステップによる拡張前の観測データと、同拡張後の観測データとを同時に分析することで未観測データに対するバイナリ予測を実行する欠損値予測ステップと、
を有することを特徴とする多次元データの予測方法。
【請求項５】
前記観測データ拡張ステップは、前記観測データにおけるオブジェクトのうち希薄なオブジェクトを、該希薄なオブジェクトの所属クラスに置き換えるステップと、
前記置き換えられた所属クラスを前記観測データのオブジェクトに加えることで増大多次元関係を構築するステップと、
を有することを特徴とする請求項４記載の多次元データの予測方法。
【請求項６】
前記欠損値予測ステップは、希薄でないオブジェクトに関するクラスタ割当に相当する式を、元の多次元関係を用いて計算するステップと、
希薄なオブジェクトに関するクラスタ割当に相当する式を、前記増大多次元関係を用いて計算するステップと、
を有することを特徴とする請求項５記載の多次元データの予測方法。
【請求項７】
請求項１〜３のいずれか１項に記載された多次元データの予測装置としてコンピュータを機能させることを特徴とする多次元データの予測プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、セマンティクス（Ｓｅｍａｎｔｉｃ）を考慮したＩＲＭ（ｉｎｆｉｎｉｔｅ  ｒｅｌａｔｉｏｎａｌ  ｍｏｄｅｌ）の精度を向上させた多次元データの予測を扱う技術分野に属する。
【背景技術】
【０００２】
ＷｅｂやＮＷ（ネットワーク）上において、ユーザによる対象の意味や概念に対する参照要求が大きくなるに従って、例えば「ＷｉｋｉＰｅｄｉａ（登録商標）」などの体系化された辞書が普及しだしている。
【０００３】
このようなユーザの要求を人手ではなく、人に代わってサービスが処理し、ユーザにカスタマイズして提示可能とするため、機械処理可能な概念参照ＡＰＩ（Ａｐｐｌｉｃａｔｉｏｎ  Ｐｒｏｇｒａｍｍｉｎｇ  Ｉｎｔｅｒｆａｃｅ）が普及している。例えば「ＤＢｐｅｄｅｉａ」，「ＷｏｒｌｄＮｅｔ」，「ＦｒｅｅＢａｓｅ」，「ＧｅｏＮａｍｅｓ」，「Ｏｐｅｎ  Ｓｔｒｅｅｔ  Ｍａｐ（ＯＳＭ）」など様々な情報プロバイダが自身の持つ情報を体系化し、ＡＰＩを通じて安価あるいは無料で提示するようになってきている（非特許文献１の「Ｌｉｎｋｅｄ  Ｏｐｅｎ  Ｄａｔａ  Ｐｒｏｊｅｃｔ」など）。
【０００４】
その一方でユーザの興味のある概念を推測し、ユーザに代わって情報を収集提示するような推薦システムも必要とされ、研究されている。特に商品とユーザの二次元行列を分解する方法による商品推薦方法が普及しつつあり、例えば商品にユーザが与える評点の予測などの分野への応用や実用化が行われるようになってきている。
【０００５】
また、非特許文献２の「Ｇｏｏｇｌｅ（登録商標）  Ｎｏｗ」に代表されるように、ユーザと訪問場所の二次元行列を分解する方法による訪問地予測方法が普及しつつあり、特にユーザが今後どの場所に訪問するか否かを予測する分野への応用や実用化が行われるようになってきている。こうした推薦方法の研究に商品の属する概念を適用することができれば、より詳細かつ広範囲にユーザの興味を推定できる可能性がある。
【０００６】
例えば現在、ユーザが商品に与えるタグを基に「ユーザ，タグ，商品」という関係と、その関係を示す値「評点」という関係とによる多次元データを作成、それを分解することでユーザがまだ購入していない商品を今後購入するか否かを予測する研究が行われている（非特許文献３参照）。この非特許文献３のＩＲＭは、多次元データをクラスタリングしつつ、多次元データの取りうる値が「０」または「１」というバイナリ予測を行っている。
【０００７】
ところが、多次元データは、各次元をクロスしたデータ間の取りうる関係数が非常に多いものの、観測されているデータ数は少なく、その場合分析の結果に悪影響を与える。
【０００８】
こうした観測が取りうる可能性に対し希薄になる場合における問題は、希薄問題と呼ばれ、非特許文献４などで評点予測に対しては検討がなされている。また、非特許文献５は、テンソル分解において多次元データの背景となるセマンティクスを利用し、希薄問題を解いている。
【先行技術文献】
【非特許文献】
【０００９】
【非特許文献１】“Linked Data-Connect Distributed Data across the web”  ［ｏｎｌｉｎｅ］，［２０１５年１月２３日検索］，インターネット<URL http://lindeddata.org/>
【非特許文献２】“Ｇｏｏｇｌｅで、できること  Ｇｏｏｇｌｅ  Ｎｏｗ”  ［ｏｎｌｉｎｅ］，［２０１５年１月２６日検索］，インターネット<URL http://www.google.co.jp/dekiru/android/tips/android_search_tip23.html>
【非特許文献３】上田修功，山田武士  “ノンパラメトリックベイズモデル”  ［ｏｎｌｉｎｅ］，［２０１５年１月２６日検索］，インターネット<URL { HYPERLINK "http://www.kecl.ntt.co.jp/as/members/yamada/dam_ueda_yamada2007.pdf" ,http://www.kecl.ntt.co.jp/as/members/yamada/dam_ueda_yamada2007.pdf}>
【非特許文献４】Charles Kemp,Joshua B.Tenenbaum,Thomas L.Griffiths,Takeshi Yamada,Naonori Ueda “Learning Systems of Concepts with an Infinite Relational Model”,AAAI2006
【非特許文献５】Makoto Nakatsuji,Yasuhiro Fujiwara,Hiroyuki Toda,Hiroshi Sawada,Jin Zheng,James A.Hendler “Semantic Data Representation for Improving Tensor Factorization” ［ｏｎｌｉｎｅ］，［２０１５年１月２６日検索］，インターネット<URL http://www.aaai.org/ocs/index.php/AAAI/AAAI14/paper/viewFile/8372/8842
【発明の概要】
【発明が解決しようとする課題】
【００１０】
しかしながら、例えば買うか否か，訪問するか否か，行ったか否かなどのバイナリ予測については、非特許文献４，５の手法では十分に対応できない。
【００１１】
すなわち、非特許文献４，５の方法は、観測データの事前分布をガウス分布と想定しており、バイナリ予測に適するベルヌイ分布を想定していない。したがって、バイナリ予測への利用は困難であり、またバイナリ予測に利用しても精度が悪化するおそれがある。
【００１２】
本発明は、このような従来の問題を解決するためになされ、多次元の関係を示す観測データにおけるバイナリ予測の精度を向上させることを解決課題としている。
【課題を解決するための手段】
【００１３】
本発明の係る多次元データの予測装置は、多次元の関係を示す観測データと各次元の背景知識となるクラス階層構造のタクソノミとが入力され、前記タクソノミに基づき各次元にてスパースに観測されるオブジェクトにクラス知識を付与することで前記観測データを拡張する観測データ拡張部と、前記観測データ拡張部による拡張前の観測データと、同拡張後の観測データとを同時に分析することで未観測データに対するバイナリ予測を実行する欠損値予測部と、を備える。
【００１４】
本発明に係る多次元データの予測方法は、多次元の関係を示す観測データと各次元の背景知識となるクラス階層構造のタクソノミとの入力を受け付け、前記タクソノミに基づき各次元にてスパースに観測されるオブジェクトにクラス知識を付与することで前記観測データを拡張する観測データ拡張ステップと、前記観測データ拡張ステップによる拡張前の観測データと、同拡張後の観測データとを同時に分析することで未観測データに対するバイナリ予測を実行する欠損値予測ステップと、を有する。
【００１５】
なお、本発明は、前記予測装置としてコンピュータを機能させるプログラムの態様としてもよい。このプログラムは、ネットワークや記録媒体などを通じて提供することができる。
【発明の効果】
【００１６】
本発明によれば、多次元の関係を示す観測データにおけるバイナリ予測の精度を向上させることができる。
【図面の簡単な説明】
【００１７】
【図１】本発明の実施形態に係る多次元データの予測装置のブロック図。
【図２】同  時空間情報への適用例を示す図。
【発明を実施するための形態】
【００１８】
≪基本的な考え方≫
周知のようにさまざまな出来事が、いくつかの物事同士のかかわりによって表されている。例えば対象が二種類であれば二次元の配列としての行列によってデータを表すことができるが、より多くの対象が同時に関わってくるのなら、高次元の配列、即ちテンソルという形で表すことができる。
【００１９】
このとき誤差が大きい、あるいは実験にコストがかかるために一部しか観測できないなどの理由から観測データに欠損が生じることが少なくない。これにより前述の希薄問題を招くばかりか、欠損の生じた観測データはそのままでは解析に適さなく、多くの場合は満足に利用できず、そのまま無駄になってしまう。
【００２０】
このような場合に欠損した未知の観測データを推定できれば、初めから一部のみを観測してコストや手間を軽減することができる。また、組み合わせ数が膨大なために、そもそも網羅的な観測が困難な場合であっても、一部の観測から全体像を捉えるといったことも考えられる。
【００２１】
このような目的ためにテンソルを補完する手法が重要になっており、また該手法はユーザの購買予測やユーザの行動予測にも応用できる。そこで、本発明は、バイナリ予測に広く用いられているＩＲＭにおいて、未知の観測データを補完し、将来の多次元データのバイナリ（「０」または「１」）を予測する。
【００２２】
本発明の基本的な考え方を説明すれば、例えば「ユーザＡ，ロック／クラッシック，ビートルズ」と、「ユーザＢ，ロック／ギター，エリック・クラプトン」とは、オブジェクトの子ジャンルは異なっているものの、大ジャンルは等しい。
【００２３】
そのため、両者は、ジャンル「ロック」つながりで関係が近いと考えられ、末端クラスのみでなく、上位クラスから生まれる関係も多次元データ上で取り扱えられるようにし、分析の精度を図る。
【００２４】
≪バイナリ予測装置の構成例≫
図１に基づき本発明の実施形態の係る多次元データの予測装置の構成例を説明する。この予測装置１は、強調フィルタリングに基づく商品推薦を行う情報推薦の分野や、ユーザの出先における訪問先予想といったユーザ行動予測の分野などに利用することができる。
【００２５】
具体的には前記予測装置１は、コンピュータにより構成され、ＣＰＵ，主記憶装置（ＲＡＭ，ＲＯＭ等），補助記憶装置（ハードディスクドライブ装置，ソリッドステートドライブ装置等）などのハードウェアリースを備える。このハードウェアリソースとソフトウェアリソース（ＯＳ，アプリケーションなど）との協同の結果、バイナリ予測装置１は、観測データ拡張部２と欠損値予測部３とを実装する。
【００２６】
この観測データ拡張部２は、例えば「ユーザｕ」，「オブジェクトｖ」，「時間ｔ」の多次元関係（ｕ，ｖ，ｔ）に加え、希薄なオブジェクトｖは所属クラスｃ（上位概念）に持ち上げ、増大多次元関係（ｕ，ｃ，ｔ）を構築する。
【００２７】
欠損値予測部３は、非特許文献３の技術を応用して希薄問題を解決する。すなわち、希薄なオブジェクトでなければ非特許文献３のＰ１４に記載された式（５．６）を利用する。一方、希薄なオブジェクトであれば増大多次元関係を用いて欠損値を予測し、この点で将来の多次元関係が予測される。
【００２８】
≪観測データ拡張部２≫
観測データ拡張部２には、多次元の関係を示す観測データＤ１と各次元の背景知識となるクラス階層構造のタクソノミＤ２とが入力される。この観測データ拡張部２は、入力された観測データＤ１およびタクソノミＤ２を受け付けて、各次元においてスパースに観測される観測データＤ１のオブジェクトにタクソノミＤ２のクラス知識を付与し、観測データを拡張することができる。
【００２９】
このとき観測データＤ１におけるオブジェクトのうち、タクソノミＤ２を参照して希薄なオブジェクトを該オブジェクトの所属クラスに置き換え、置き換えられた所属クラスを前記観測データＤ１のオブジェクトに加え、増大多次元関係のデータＤ３を構築する。なお、構築された前記データＤ３は、観測データＤ１と併せて欠損値予測部３に出力される。以下、観測データ拡張部２の処理内容を説明する。
【００３０】
（１）用語定義
まず、観測データ拡張部２の処理に用いる用語を説明する。ここでは観測データＤ１における複数オブジェクト間の関係例として、「ユーザｕi」と「訪問地ｖj」と「時間帯ｔk」と間の三次元関係を用いる。
【００３１】
この三次元関係は、「ｃａｌｌｉｇｒａｐｈｉｃ  ｌｅｔｔｅｒ」で式（１）のように記されている。この三次元関係の行例は「ｂｏｌｄ  ｃａｐｉｔａｌ  ｌｅｔｔｅｒｓ」で式（２）にように記され、またベクトルは「ｂｏｌｄ  ｌｏｗｅｒｃａｓｅ  ｌｅｔｔｅｒｓ，ｅ．ｇ」で式（３）のように記されている。
【００３２】
【数１】
0006386931.tif 000002
【００３３】
【数２】
0006386931.tif 000003
【００３４】
【数３】
0006386931.tif 000004
【００３５】
式（１）の三次元関係は、「Ｕ」，「Ｖ」，「Ｔ」間の関係から構築され、式（４）のユーザ集合と、式（５）の訪問地集合と、式（６）の時間集合との間の関係からなる。
【００３６】
【数４】
0006386931.tif 000005
【００３７】
【数５】
0006386931.tif 000006
【００３８】
【数６】
0006386931.tif 000007
【００３９】
（ｉ，ｊ，ｋ）要素は式（７）のように記される。ここではｉ番目のユーザにおけるｊ番目の訪問地についてｋ番目の時間帯を伴う評点を格納する。また、三次元関係の時間帯ｋに関する展開は、式（８）のように記される。
【００４０】
【数７】
0006386931.tif 000008
【００４１】
【数８】
0006386931.tif 000009
【００４２】
（２）処理内容
従来のＩＲＡは、観測された評価値のみから未観測の評点の予測分布を計算する。このときスパース問題に有用であるならば、オブジェクトのタクソノミから得られる補助情報を用いたモデルが望ましい。
【００４３】
そこで、観測データ拡張部２は、テンソル分解に関する研究でアイテムのタクソノミを用いることがスパース問題に有用であるという知見（非特許文献５）を応用する。このとき元の観測データＤ１に係る式（１）の三次元関係において観測されているオブジェクトのうち、希薄なオブジェクトに関して、そのオブジェクトをそのオブジェクトの所属クラスに置き換える。ここでの置き換えには入力されたタクソノミＤ２を利用する。
【００４４】
すなわち、あるオブジェクト（例；訪問地）ｖjの観測が希薄であれば、その訪問地を所属クラスｃlに持ち上げ、（ｕi，ｖj，ｔk）から構成される三次元関係に加えて、（ｕi，ｃl，ｔk）を式（１）の三次元関係に付け加え、式（９）の増大多次元関係を構築する。
【００４５】
【数９】
0006386931.tif 000010
【００４６】
図１の観測データＤ１とタクソノミＤ２とに基づき一例を説明する（図１の観測データＤ１では時間帯ｔkが省略して表示されている。）。ここでは観測データＤ１中、「レストランＡ」と「映画館Ｄ」とが希薄に観測されているものとする。
【００４７】
この場合、タクソノミＤ２を参照して「レストランＡ」の上位概念「中華」をユーザ１の「訪問地ｖj」に持ち上げ、「映画館Ｄ」の上位概念「観劇」をユーザ３の「訪問地ｖj」に持ち上げる。これにより元の観測データＤ１に「ユーザ１、中華」と、「ユーザ３、観劇」とを付け加えた訪問地候補データＤ３が、式（９）の増大多次元関係として構築される。
【００４８】
この増大多次元関係の構築方法の詳細を説明すれば、まず式（１０）に示す希薄なオブジェクトの集合を定義する。これは全てのアイテムの中で相対的に希薄に観測されているオブジェクトｖsの集合を示している。
【００４９】
【数１０】
0006386931.tif 000011
【００５０】
多次元関係Ｏの要素「ｏm,n',k'」は、式（１１）の多次元関係におけるユーザ「ｕm，訪問地ｖn，時間帯ｔk」により構成される複数オブジェクト関係の観測が存在する場合「１」を要素として持ち、該観測が存在しない場合は「０」を要素として持つ。そうすると、式（１０）に示す希薄なオブジェクトの集合は、式（１２）で計算される。
【００５１】
【数１１】
0006386931.tif 000012
【００５２】
【数１２】
0006386931.tif 000013
【００５３】
ここで「δ」は、式（１０）中の希薄なオブジェクト数を決定するために使用されるパラメータを示し、一般的には「０．１〜０．３」に設定される。なお、希薄なオブジェクトの所属クラスを式（１３）とし、該希薄なオブジェクトの所属クラスを式（１４）と表記する。
【００５４】
【数１３】
0006386931.tif 000014
【００５５】
【数１４】
0006386931.tif 000015
【００５６】
つぎに観測データ拡張部２の処理（ＳＩＲＭ：Ｓｅｍａｎｔｉｃ  ＩＲＭ）は、“ユーザ”，“希薄訪問地の所属クラス”，“時間帯”から構成される複数オブジェクト関係を式（１）の三次元関係に挿入することで式（９）の増大多次元関係を、式（１５）のように構築する。
【００５７】
【数１５】
0006386931.tif 000016
【００５８】
≪欠損値予測部３≫
欠損値予測部３は、前記データＤ３と併せて観測データＤ１が入力され、非特許文献３の一部を改善した処理を実行し、特許文献３と同様に多次元データの取りうる値が「０」か「１」というバイナリ予測を行う。ここでは主に欠損値予測部３で改善した前記処理内容を説明する。
【００５９】
すなわち、非特許文献３のＰ１５にはギブスサンプリングの概要、即ち５つの処理ステップが記載されている。この欠損値予測部３の処理内容は、第４ステップの新たなクラスタ割当を改善している。以下、説明する。
【００６０】
（Ａ）希薄でないオブジェクトの処理内容
希薄でないオブジェクトについては、前記クラスタ割当に相当する非特許文献３の前記式（５．６）の計算にあたって観測データＤ１における元の多次元関係を用いる。
【００６１】
具体的には「ｍ（ｋ*，ｌ）」は、元の多次元関係に対して、非特許文献３（Ｐ１３参照）の式（５．１）を用いて計算されたクラスタを元にクラスタｋ・クラスタｌ間でのリンク数を計算する。
【００６２】
（Ｂ）希薄なオブジェクトの処理内容
希薄なオブジェクトについては、前記クラスタ割当に相当する非特許文献３の前記式（５．６）を式（９）の増大多次元関係を用いる。
【００６３】
具体的には「ｍ（ｋ*，ｌ）」は、元の多次元関係に対して、非特許文献３の式（５．１）を用いて計算されたクラスタを用いるとともに、クラスタ間のリンク数を計算する際に次の改善を加えた。
【００６４】
すなわち、クラスタに属するオブジェクトが希薄なオブジェクトの場合、そのオブジェクトの親クラスを用い、該親クラスとの間の関係も測り、リンク数を計算する。例えば「ｋ」がユーザクラス，「ｌ」がアイテムクラスタであり、かつ「ｃ」が式（１６）の希薄オブジェクトの親クラスを示すとすると、「ｍ（ｋ*，ｌ）」は式（１７）で計算される。
【００６５】
【数１６】
0006386931.tif 000017
【００６６】
【数１７】
0006386931.tif 000018
【００６７】
このような前記処理（Ａ）（Ｂ）を繰り返して実行することにより、希薄なオブジェクトに関しては、クラスタ「ｋ*」と「ｌ」との間のリンク数はそのオブジェクトの親クラスを利用するため、元の多次元関係を使う場合よりも増加し、これにより希薄問題を解消することができる。
【００６８】
例えば図１では、「レストランＡ」と「映画館Ｄ」とが希薄に観測されているため、訪問候補地Ｄ２に含まれる親クラス「中華」・「観劇」を利用してリンク数が計算される。その結果、「ユーザ１、映画館、六本木」・「ユーザ１、美術館、六本木」・「ユーザ１、コンビニ、六本木」などが含まれた訪問地候補データＤ４が出力される。
【００６９】
したがって、前記予測装置１によれば、クラスの背景知識を活用し、多次元関係の欠損値におけるバイナリ予測の精度を向上させる。この点はユーザの購買の予測やユーザの訪問先の予測などバイナリで表現されるデータの予測にとって特に有用である。さらにマーケティングからもユーザナビゲーションなど多くのアプリケーションを促進でき、今後の産業界での利用が期待できる。
【００７０】
なお、希薄でないオブジェクトに関しては、クラスタ「ｋ*」と「ｌ」との間のリンク数は、親クラスを考慮しないため、クラスによるバイアスを含まず、この点でノイズを防ぐことができる。
【００７１】
≪時空間情報への適用例≫
バイナリ予測では、「０」が「ｎａｇａｔｉｖｅ」を表し、「１」が「ｐｏｓｉｔｉｖｅ」を表す。
【００７２】
これに対して時空間情報では、「０」が必ずしも「ｎｅｇａｔｉｖｅ」ではなく、知らないだけであることも多い。ここで前記予測装置１におけるバイナリデータの保持特性を説明すれば、図２に示すように、地図データをグリッド表示し、まずユーザの行動範囲を詳細に取る。
【００７３】
そのうえで行動範囲の中で行った場所は「１」、行かなかった場所は狭い行動範囲に関わらず行かなかったことを示すため、「ｎｅｇａｔｉｖｅ」と考え、「０」とする。
【００７４】
そして、この行動範囲以外のバイナリデータを予測する。このようにユーザの行かない行動範囲（ユーザが知らない場所）に対して、ユーザの行動範囲（ユーザの知っている場所）の観測データを用いて予測することにセマンティクスを利用する有効性が認められる。なぜならユーザは、知らない場所であっても、意味的に近い施設に行くと考えられるからである。
【００７５】
本発明は、バイナリ予測装置１の各部２，３の一部もしくは全部として、コンピュータを機能させるバイナリ予測プログラムとして構成することもできる。このプログラムは、Ｗｅｂサイトや電子メールなどネットワークを通じて提供することができる。
【００７６】
また、前記プログラムは、ＣＤ−ＲＯＭ，ＤＶＤ−ＲＯＭ，ＣＤ−Ｒ，ＣＤ−ＲＷ，ＤＶＤ−Ｒ，ＤＶＤ−ＲＷ，ＭＯ，ＨＤＤ，ＢＤ−ＲＯＭ，ＢＤ−Ｒ，ＢＤ−ＲＥなどの記録媒体に記録して、保存・配布することも可能である。この記録媒体は、記録媒体駆動装置を利用して読み出され、そのプログラムコード自体が前記実施形態の処理を実現するので、該記録媒体も本発明を構成する。
【符号の説明】
【００７７】
１…バイナリ予測装置
２…観測データ拡張部
３…欠損値予測部
【図１】
0006386931.tif 000019
【図２】
0006386931.tif 000020