(57)【要約】【課題】クラスタ数を定めずにクラスタリングを行っても、精度よく外れ値を検出することができるようにする。【解決手段】クラスタリング部２２によって、観測種別毎に、クラスタ数を予め定めずにクラスタリングを行い、ベクトル計算部２４によって、クラスタリングの結果に基づいて、各マルチビューデータについて、前記観測種別毎にaffinity vectorを計算し、外れ値検出部２６によって、各マルチビューデータについて、affinity vector間の関係に基づいて、外れ値スコアを計算し、計算された外れ値スコアに基づいて、外れ値であるマルチビューデータを検出する。【選択図】図１
2015082190.tif 000002
【特許請求の範囲】
【請求項１】
入力された、観測種別が異なる複数のセンサデータからなるマルチビューデータの集合に基づいて、前記観測種別毎に、前記マルチビューデータの集合から得られる前記観測種別のセンサデータの集合に対して、クラスタ数を予め定めずにクラスタリングを行うクラスタリング部と、
前記クラスタリングによるクラスタリングの結果に基づいて、前記マルチビューデータの集合の各マルチビューデータについて、前記観測種別毎に、前記マルチビューデータの前記観測種別のセンサデータが、各マルチビューデータの前記観測種別のセンサデータが属するクラスと乖離している度合いを表すベクトルを計算するベクトル計算部と、
前記マルチビューデータの集合の各マルチビューデータについて、前記マルチビューデータの前記観測種別毎に計算された前記ベクトル間の関係に基づいて、前記マルチビューデータが外れ値である度合いを表すスコアを計算し、計算された前記スコアに基づいて、前記マルチビューデータの集合から、外れ値であるマルチビューデータを検出する外れ値検出部と、
を含む外れ値検出装置。
【請求項２】
前記クラスタリング部は、前記観測種別毎に、前記マルチビューデータの集合から得られる前記観測種別のセンサデータの集合に対して、Affinity  Propagationを用いてクラスタリングを行い、
前記ベクトル計算部は、前記マルチビューデータの集合の各マルチビューデータについて、前記観測種別毎に、前記ベクトルとして、Affinity  vectorを計算する請求項１記載の外れ値検出装置。
【請求項３】
前記外れ値検出部は、前記マルチビューデータの集合の各マルチビューデータについて、前記マルチビューデータの前記観測種別毎に計算された前記Affinity  vector間の距離に基づいて、前記スコアを計算し、計算された前記スコアに基づいて、前記マルチビューデータの集合から、外れ値であるマルチビューデータを検出する請求項２記載の外れ値検出装置。
【請求項４】
前記外れ値検出部は、前記マルチビューデータの集合の各マルチビューデータについて、前記マルチビューデータの前記観測種別毎に計算された前記Affinity  vector間の相関に基づいて、前記スコアを計算し、計算された前記スコアに基づいて、前記マルチビューデータの集合から、外れ値であるマルチビューデータを検出する請求項２記載の外れ値検出装置。
【請求項５】
前記外れ値検出部は、前記マルチビューデータの集合の各マルチビューデータについて、前記マルチビューデータの前記観測種別毎に計算された前記Affinity  vector間の独立性に基づいて、前記スコアを計算し、計算された前記スコアに基づいて、前記マルチビューデータの集合から、外れ値であるマルチビューデータを検出する請求項２記載の外れ値検出装置。
【請求項６】
クラスタリング部によって、入力された、観測種別が異なる複数のセンサデータからなるマルチビューデータの集合に基づいて、前記観測種別毎に、前記マルチビューデータの集合から得られる前記観測種別のセンサデータの集合に対して、クラスタ数を予め定めずにクラスタリングを行い、
ベクトル計算部によって、前記クラスタリングによるクラスタリングの結果に基づいて、前記マルチビューデータの集合の各マルチビューデータについて、前記観測種別毎に、前記マルチビューデータの前記観測種別のセンサデータが、各マルチビューデータの前記観測種別のセンサデータが属するクラスと乖離している度合いを表すベクトルを計算し、
外れ値検出部によって、前記マルチビューデータの集合の各マルチビューデータについて、前記マルチビューデータの前記観測種別毎に計算された前記ベクトル間の関係に基づいて、前記マルチビューデータが外れ値である度合いを表すスコアを計算し、計算された前記スコアに基づいて、前記マルチビューデータの集合から、外れ値であるマルチビューデータを検出する
外れ値検出方法。
【請求項７】
コンピュータを、請求項１〜請求項５の何れか１項に記載の外れ値検出装置を構成する各部として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、観測種別が異なる複数のセンサデータからなるマルチビューデータの集合から外れ値を検出する外れ値検出装置、方法、及びプログラムに関する。
【背景技術】
【０００２】
外れ値検出技術は、半導体製造時における不良品の検出、及び学習データからの異常値の除去などに適用できる。特に近年では、単一の位置・物体・事象から複数の異なるセンサデータ（マルチビューデータ）を観測して、これらのマルチビューデータを用いて外れ値を検出する需要が増えてきており、技術の開発が必要となっている。
【０００３】
マルチビューデータの場合の外れ値検出手法として、HOrizontal Anomaly Detection (HOAD)が知られている（非特許文献１）。HOADでは、マルチビューデータの各ビューに対して個別にスペクトルクラスタリング（非特許文献２）を用いたクラスタリングを行い、すべてのビューで同じクラスタに入らないサンプルを外れ値とする。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】J. Gao, W. Fan, D. Turaga, S. Parthasarathy, and J. Han, “A spectral framework for detecting inconsistency across multi-source object relationships,” inn Proc. ICDM2011.
【非特許文献２】J.Shi and J.Malik, "Normalized Cuts and Image Segmentation," IEEE Transactions on PAMI, Vol.22, No.8, 2000.
【非特許文献３】B. Frey and D. Dueck, “Mixture modeling by affinity propagation,” in Proc. NIPS2006.
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかし、HOADでは、クラスタ数を予めパラメータとして指定する必要があり、このクラスタ数の設定を適切に行わないと、外れ値検出のパフォーマンスが著しく低下するという問題がある。このように、上記の非特許文献１に代表される従来法は、外れ値検出の精度が、予め定められたクラスタ数に強く依存する、という問題がある。クラスタ数をあらかじめ決めずにクラスタリングを行う方法として、Affinity Propagation（非特許文献３）などいくつか知られているが、独立にクラスタリングした際のクラスタ数が必ずしも一致しない場合には、クラスタリング結果の一致性を判断する手段が知られていなかった。
【０００６】
本発明は、このような事情に鑑みてなされたものであり、クラスタ数を定めずにクラスタリングを行っても、精度よく外れ値を検出することができる外れ値検出装置、方法、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００７】
上記の目的を達成するために本発明に係る外れ値検出装置は、入力された、観測種別が異なる複数のセンサデータからなるマルチビューデータの集合に基づいて、前記観測種別毎に、前記マルチビューデータの集合から得られる前記観測種別のセンサデータの集合に対して、クラスタ数を予め定めずにクラスタリングを行うクラスタリング部と、前記クラスタリングによるクラスタリングの結果に基づいて、前記マルチビューデータの集合の各マルチビューデータについて、前記観測種別毎に、前記マルチビューデータの前記観測種別のセンサデータが、各マルチビューデータの前記観測種別のセンサデータが属するクラスと乖離している度合いを表すベクトルを計算するベクトル計算部と、前記マルチビューデータの集合の各マルチビューデータについて、前記マルチビューデータの前記観測種別毎に計算された前記ベクトル間の関係に基づいて、前記マルチビューデータが外れ値である度合いを表すスコアを計算し、計算された前記スコアに基づいて、前記マルチビューデータの集合から、外れ値であるマルチビューデータを検出する外れ値検出部と、を含んで構成されている。
【０００８】
本発明に係る外れ値検出方法は、クラスタリング部によって、入力された、観測種別が異なる複数のセンサデータからなるマルチビューデータの集合に基づいて、前記観測種別毎に、前記マルチビューデータの集合から得られる前記観測種別のセンサデータの集合に対して、クラスタ数を予め定めずにクラスタリングを行い、ベクトル計算部によって、前記クラスタリングによるクラスタリングの結果に基づいて、前記マルチビューデータの集合の各マルチビューデータについて、前記観測種別毎に、前記マルチビューデータの前記観測種別のセンサデータが、各マルチビューデータの前記観測種別のセンサデータが属するクラスと乖離している度合いを表すベクトルを計算し、外れ値検出部によって、前記マルチビューデータの集合の各マルチビューデータについて、前記マルチビューデータの前記観測種別毎に計算された前記ベクトル間の関係に基づいて、前記マルチビューデータが外れ値である度合いを表すスコアを計算し、計算された前記スコアに基づいて、前記マルチビューデータの集合から、外れ値であるマルチビューデータを検出する。
【０００９】
本発明に係るプログラムは、上記の外れ値検出装置の各部としてコンピュータを機能させるためのプログラムである。
【発明の効果】
【００１０】
本発明に係る外れ値検出装置、方法、及びプログラムによれば、観測種別毎に、クラスタ数を予め定めずにクラスタリングを行い、各マルチビューデータについて、観測種別毎に、各マルチビューデータのセンサデータが属するクラスと乖離している度合いを表すベクトルを計算し、各マルチビューデータについて、観測種別毎に計算されたベクトル間の関係に基づいて、外れ値である度合いを表すスコアを計算し、外れ値であるマルチビューデータを検出することにより、クラスタ数を定めずにクラスタリングを行っても、精度よく外れ値を検出することができる。
【図面の簡単な説明】
【００１１】
【図１】本発明の第１の実施の形態に係る外れ値検出装置の構成を示す概略図である。
【図２】観測種別毎の処理を説明するための図である。
【図３】本発明の第１の実施の形態に係る外れ値検出装置における外れ値検出処理ルーチンの内容を示すフローチャートである。
【図４】実験で用いる人工データの例を示す図である。
【図５】実験結果を示すグラフである。
【図６】実験結果を示す図である。
【発明を実施するための形態】
【００１２】
以下、図面を参照して本発明の実施の形態を詳細に説明する。
【００１３】
＜発明の概要＞
本実施の形態では、事前にクラスタ数を決めずとも正しく外れ値を検出するために、下記の（１）、（２）の手法を導入する。
【００１４】
（１）各観測種別のセンサデータの集合に対して、クラスタ数をあらかじめ決めずにクラスタリングを行うことができるAffinity Propagation(AP)を用いたクラスタリングを行い、センサデータごとにaffinity vectorと呼ばれるクラスタリング結果の乖離度を表現するベクトルを計算する。
【００１５】
（２）上記で求めたaffinity vectorから、それらの距離、相関もしくは独立性を用いて、外れ値を検出する。例えば、観測種別の数が２つの場合には、観測種別１で求めたaffinity vectorと観測種別２で求めたaffinity vectorとを比較する。
【００１６】
[第１の実施の形態]
＜システム構成＞
図１に示すように、本発明の第１の実施の形態に係る外れ値検出装置１０は、入力部１２、演算部１４、及び出力部１６を備えている。
【００１７】
入力部１２は、観測種別が異なる複数のセンサデータからなるマルチビューデータの集合Ｄの入力を受け付ける。集合Ｄ内のマルチビューデータ＾Ｘ1、＾Ｘ2、・・・、＾Ｘn  のそれぞれは、例えば、温度、湿度、照度、加速度、地磁気、ガス濃度、放射線量、イオン濃度、ＰＨなどの観測種別が異なる複数のセンサデータからなる。なお、行列又はベクトルを示す記号については、「＾」を付すこととする。
【００１８】
マルチビューデータは、次のような式で表現される．
【００１９】
【数１】
2015082190.tif 000003
【００２０】
ただし、第ｉ番目のマルチビューデータ＾Ｘiにおける第ｖ番目の観測種別でのセンサデータは、以下の式のようにｄv次元の実数ベクトルとして表現され、Ｖは観測種別の総数、ｎはサンプル数である。各観測種別の次元数ｄ1、ｄ2、・・・、ｄVはそれぞれ異なっていても良い。
【００２１】
【数２】
2015082190.tif 000004
【００２２】
演算部１４は、入力部１２から入力された集合Ｄのマルチビューデータ＾Ｘ1、＾Ｘ2、・・・、＾Ｘnのそれぞれに対し、外れ値スコアＡ1、Ａ2、・・・、Ａnを計算する。
【００２３】
外れ値スコアＡiは，マルチビューデータ集合Ｄから計算されるaffinity vector集合
【００２４】
【数３】
2015082190.tif 000005
【００２５】
に基づいて計算される。このことから、外れ値スコアＡiをaffinity vector集合を引数とする関数として、以下の式のように表記することができる。
【００２６】
【数４】
2015082190.tif 000006
【００２７】
演算部１４は、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）と、ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）と、後述する外れ値検出処理ルーチンを実行するためのプログラムを記憶したＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）とを備えたコンピュータで構成され、機能的には次に示すように構成されている。図１に示すように、演算部１４は、マルチビューデータデータベース２０、複数のクラスタリング部２２、複数のベクトル計算部２４、及び外れ値検出部２６を備えている。
【００２８】
マルチビューデータデータベース２０には、入力部１２で受け付けたマルチビューデータ集合Ｄが記憶される。
【００２９】
複数のクラスタリング部２２及び複数のベクトル計算部２４は、複数の観測種別に対応して設けられている（図２参照）。
【００３０】
クラスタリング部２２は、マルチビューデータ集合Ｄから得られる、対応する観測種別のセンサデータの集合に対して、Affinity Propagationを用いて、クラスタリングを行う。
【００３１】
Affinity Propagationは、データをクラスタリングし、クラスタを代表するexemplarを求めるクラスタリング手法である。Affinity Propagationの入力は、センサデータペアの類似度Ｌi,j (i, j = 1,2,…,N)である。ここで、類似度に対する制約はない。例えば、負のユークリッド距離でもよいし、Jaccard係数などでもよい。
【００３２】
与えられた類似度に対してAffinity Propagationはexemplarとそのメンバの間の類似度を最大化するようにクラスタリングを行う。Affinity Propagationでは、responsibilityとavailabilityと呼ばれるメッセージをセンサデータペアで再帰的に計算する。responsibility  ｒijは、i番目のセンサデータからj番目のセンサデータへのメッセージで、j番目のセンサデータがi番目のセンサデータのexemplarとしてどれほど適切であるかを表す値である。availability aijは、j番目のセンサデータからi番目のセンサデータへのメッセージで、i番目のセンサデータがj番目のセンサデータのexemplarとして選ぶことがどれほど適切であるかを表す値である。responsibilityとavailabilityははじめ０に初期化され、これらの値は以下の式により再帰的に収束するまで計算され、メモリに格納される。
【００３３】
【数５】
2015082190.tif 000007
【００３４】
そして、最終的に得られたresponsibilityとavailabilityに基づいて、各センサデータのexemplarが計算される。具体的には、i番目のセンサデータのexemplarが、以下の式から計算される。
【００３５】
arg max{rij+aij: j= 1,2,…,N}  
【００３６】
ベクトル計算部２４は、対応する観測種別のセンサデータの集合に対してのクラスタリングの結果に基づいて、各マルチビューデータの当該観測種別のセンサデータについて、各マルチビューデータの当該観測種別のセンサデータが属するクラスと乖離している度合いを表すベクトルとして、Affinity vectorを計算する。Affinity vectorとは、対応するセンサデータがどのクラスタに属するかを大まかに示したベクトルと考えることができる。具体的な計算方法は以下の通りである。
【００３７】
Affinity vectorは、各マルチビューデータＸiの対応する観測種別ｖのセンサデータｘivに対してそれぞれ計算される。すなわち、第ｉ番目のマルチビューデータ＾Ｘiにおける第v番目の観測種別のセンサデータｘivについて、対応するaffinity vector ＾ｚivの第ｊ要素は、以下の（１）式のように計算される。
【００３８】
【数６】
2015082190.tif 000008
【００３９】
ここで、
【００４０】
【数７】
2015082190.tif 000009
【００４１】
はそれぞれ、Affinity Propagationにより得られる第ｊ番目のマルチビューデータのセンサデータｘjvが所属するクラスタの中心ｃjv（exemplar）と、第ｉ番目のマルチビューデータのセンサデータｘivとの類似度、及び第ｉ番目のマルチビューデータのセンサデータｘivと第ｊ番目のマルチビューデータのセンサデータｘivとの類似度である。なお、Ｚは正規化係数である。
【００４２】
第ｊ番目のマルチビューデータのセンサデータｘjvが所属するクラスタの中心ｃjv（exemplar）と、第ｉ番目のマルチビューデータのセンサデータｘivとの類似度を用いることにより、同じクラスタに入らないサンプルを外れ値として検出することが可能となる。
【００４３】
外れ値検出部２６は、複数のベクトル計算部２４で計算されたaffinity vectorを用いて、各マルチビューデータ^Ｘiに対応する外れ値スコアＡi（ｉ＝１，２、・・・、ｎ）を計算し、外れ値スコアＡiがあらかじめ定められた閾値τよりも小さいときに、対応するマルチビューデータ^Ｘiが外れ値であると判定する。
【００４４】
本実施の形態では、affinity vector間の距離を用いて外れ値スコアを計算する。例えば観測種別の総数Ｖが２のとき、外れ値スコアＡiは以下の（２）式のように計算される。
【００４５】
【数８】
2015082190.tif 000010
【００４６】
なお、上記の外れ値スコアの分母を、ユークリッド距離に代えて他の距離尺度を用いることも可能である。また、観測種別の総数Ｖが3以上の場合には、観測種別の総数Ｖが2の場合の外れ値スコアを組み合わせることで計算が可能である。例えば、すべてのあらゆる観測種別の対（ｖ1、ｖ2）（ｖ1、ｖ2＝１，２、・・・、Ｖ）についての外れ値スコアを加算する、最小値を取る、最大値を取る、あるいは調和平均を取る、などの方法が考えられる。
【００４７】
＜外れ値検出装置の動作＞
次に、第１の実施の形態に係る外れ値検出装置１０の動作について説明する。
【００４８】
まず、マルチビューデータの集合が、外れ値検出装置１０へ入力されると、マルチビューデータの集合が、マルチビューデータデータベース２０に格納され、外れ値検出装置１０において、図３に示す外れ値検出処理ルーチンが実行される。
【００４９】
まず、ステップＳ１００において、複数の観測種別のうち、処理対象の観測種別を設定する。そして、ステップＳ１０２において、クラスタリング部２２は、マルチビューデータデータベース２０から、処理対象の観測種別のセンサデータの集合を取得し、Affinity  Propagationを用いたクラスタリングを行う。
【００５０】
そして、ステップＳ１０４において、ベクトル計算部２４は、上記ステップＳ１０２によるクラスタリングの結果により得られた、処理対象の観測種別のセンサデータの各々に対するexemplarと、処理対象の観測種別のセンサデータの集合とに基づいて、マルチビューデータの各々における処理対象の観測種別のセンサデータについて、上記（１）式に従って、Affinity  vectorを計算する。
【００５１】
ステップＳ１０６では、全ての観測種別について、上記のステップＳ１００〜Ｓ１０４の処理を実行したか否かを判定し、上記のステップＳ１００〜Ｓ１０４の処理を実行していない観測種別が存在する場合には、上記ステップＳ１００へ戻り、当該観測種別を、処理対象の観測種別として設定する。一方、全ての観測種別について、上記のステップＳ１００〜Ｓ１０４の処理を実行した場合には、ステップＳ１０８へ進む。
【００５２】
ステップＳ１０８では、マルチビューデータの各々について、上記ステップＳ１０４で計算された、当該マルチビューデータの観測種別毎のAffinity  vectorに基づいて、上記（２）式に従って、外れ値スコアを計算する。
【００５３】
そして、ステップＳ１１０において、上記ステップＳ１０８で計算された外れ値スコアの各々について、閾値τ未満であるか否かを判定することにより、外れ値であるマルチビューデータを検出し、出力部１６により出力して、外れ値検出処理ルーチンを終了する。
【００５４】
以上説明したように、第１の実施の形態に係る外れ値検出装置は、観測種別毎に、Affinity Propagationを用いて、クラスタ数を予め定めずにクラスタリングを行い、各マルチビューデータについて、観測種別毎に、affinity vectorを計算し、各マルチビューデータについて、観測種別毎に計算されたaffinity vector間の距離に基づいて、外れ値スコアを計算し、外れ値であるマルチビューデータを検出することにより、クラスタ数を定めずにクラスタリングを行っても、精度よく外れ値を検出することができる。
【００５５】
また、Affinity Propagationを用いることでクラスタ数が自動的に決まるため、従来技術であるHOADのように問題に合わせてクラスタ数を変更する必要がない。また、affinity vectorの類似性を用いてクラスタリング結果の整合性を判断するため、各観測種別でクラスタ数を合わせる必要もない。したがって、どのような問題に対してもクラスタ数をあらかじめ決めることなく外れ値を検出することができる。
【００５６】
[第２の実施の形態]
次に、第２の実施の形態について説明する。なお、第２の実施の形態に係る外れ値検出装置は、第１の実施の形態と同様の構成となるため、同一符号を付して説明を省略する。
【００５７】
第２の実施の形態では、affinity vector間の相関を用いて外れ値スコアを計算する点が、第１の実施の形態と異なっている。
【００５８】
第２の実施の形態に係る外れ値検出装置の外れ値検出部２６は、複数のベクトル計算部２４で計算されたaffinity vectorに基づいて、affinity vector間の相関を用いて、各マルチビューデータ^Ｘiに対応する外れ値スコアＡi（ｉ＝１，２、・・・、ｎ）を計算し、外れ値スコアＡiがあらかじめ定められた閾値τよりも小さいときに、対応するマルチビューデータ^Ｘiが外れ値であると判定する。
【００５９】
affinity vector間の相関の計算方法として、例えば、Pearson相関係数やSpearman順位相関などを用いることができる。例えば、観測種別の総数Ｖが２のとき、Pearson相関係数に基づく外れ値スコアＡiは以下のように計算できる。
【００６０】
【数９】
2015082190.tif 000011
【００６１】
ただし、￣＾ｚivは、affinity vectorの各要素についての平均、ｓivは、affinity vectorの各要素についての標準偏差である。また、観測種別の総数Ｖが3以上の場合には、上記の第１の実施の形態と同様に、観測種別の総数Ｖが２の場合の外れ値スコアを組み合わせることで計算が可能である。
【００６２】
なお、第２の実施の形態に係る外れ値検出装置の他の構成及び作用については、第１の実施の形態と同様であるため、説明を省略する。
【００６３】
このように、第２の実施の形態に係る外れ値検出装置は、観測種別毎に、Affinity Propagationを用いて、クラスタ数を予め定めずにクラスタリングを行い、各マルチビューデータについて、観測種別毎に、affinity vectorを計算し、各マルチビューデータについて、観測種別毎に計算されたaffinity vector間の相関に基づいて、外れ値スコアを計算し、外れ値であるマルチビューデータを検出することにより、クラスタ数を定めずにクラスタリングを行っても、精度よく外れ値を検出することができる。
【００６４】
なお、affinity vector間の相関として、Spearman順位相関を用いて、外れ値スコアを算出してもよい。Spearman順位相関に基づく外れ値スコアは以下のように計算できる。
【００６５】
【数１０】
2015082190.tif 000012
【００６６】
ただし、ｒiv（ｊ）は、affinity vector ＾ｚivの各要素の中での第ｊ要素の順位である。
【００６７】
[第３の実施の形態]
次に、第３の実施の形態について説明する。なお、第３の実施の形態に係る外れ値検出装置は、第１の実施の形態と同様の構成となるため、同一符号を付して説明を省略する。
【００６８】
第３の実施の形態では、affinity vector間の独立性を用いて外れ値スコアを計算する点が、第１の実施の形態と異なっている。
【００６９】
第３の実施の形態に係る外れ値検出装置の外れ値検出部２６は、複数のベクトル計算部２４で計算されたaffinity vectorに基づいて、affinity vector間の独立性を用いて、各マルチビューデータ^Ｘiに対応する外れ値スコアＡi（ｉ＝１，２、・・・、ｎ）を計算し、外れ値スコアＡiがあらかじめ定められた閾値τよりも小さいときに、対応するマルチビューデータ^Ｘiが外れ値であると判定する。
【００７０】
独立性の計算方法として、本実施形態ではHilbert-Schmidt情報量基準(HSIC)を用いた例について説明する。具体的には、観測種別の総数Ｖが２のときの外れ値スコアＡiは、以下の式で計算されるグラム行列＾Δの対角成分として得られる。
【００７１】
【数１１】
2015082190.tif 000013
【００７２】
このとき、以下の式のように、外れ値スコアＡ（＾ｚi1、＾ｚi2）をすべてのｉについて足し合わせると、第1の観測種別と第2の観測種別との間のHSICと一致する。
【００７３】
【数１２】
2015082190.tif 000014
【００７４】
ただし、ｔｒ（・）はトレースノルム、すなわち行列の対角成分の和である。理論的には、HSICで用いられる行列＾Δは、普遍再生核 (universal reproducing kernel) に基づくグラム行列でなければならないが、外れ値スコアを計算するという目的の下ではこの制約を満たしている必要はない。なお、ＨＳＩＣについては、非特許文献４に記載されているものと同様であるため、説明を省略する。
【００７５】
非特許文献４：A. Gretton, O. Bousquet, A. Smola, and B. Sch¨olkopf:“Measuring statistical dependence with Hilbert-Schmidt norms,”in Proc. ALT2005
【００７６】
また、観測種別の総数Ｖが3以上の場合には、上記の第１の実施の形態と同様に、観測種別の総数Ｖが２の場合の外れ値スコアを組み合わせることで計算が可能である。
【００７７】
なお、第３の実施の形態に係る外れ値検出装置の他の構成及び作用については、第１の実施の形態と同様であるため、説明を省略する。
【００７８】
このように、第３の実施の形態に係る外れ値検出装置は、観測種別毎に、Affinity Propagationを用いて、クラスタ数を予め定めずにクラスタリングを行い、各マルチビューデータについて、観測種別毎に、affinity vectorを計算し、各マルチビューデータについて、観測種別毎に計算されたaffinity vector間の独立性に基づいて、外れ値スコアを計算し、外れ値であるマルチビューデータを検出することにより、クラスタ数を定めずにクラスタリングを行っても、精度よく外れ値を検出することができる。
【００７９】
＜実験結果＞
上記の実施の形態で説明した提案法の性能を検証するために、人工データおよび実データを用いて実験を行った。
【００８０】
人工データの例として、実験に用いるStructure Dataを図４（Ａ）、（Ｂ）に示す。丸い印の点がクラス1に属するサンプルであり、×印の点がクラス２に属するサンプルである。実験では、このデータを2つのデータセットに分け、それぞれを観測種別1と観測種別2のデータとする。 そして観測種別1に外れ値となるサンプルを人工的につくり、それらを検出できるか実験した。
【００８１】
図５（Ａ）、（Ｂ）に実験結果を示す。この図の横軸はHOADのクラスタ数であり、縦軸がAUC（Area under the receiver operator curve）である。また、上記の第３の実施の形態で説明した方法を、ＡＰ(ＨＳＩＣ)と表示している。
【００８２】
この実験から、上記の実施の形態で説明した提案法は極めて優れた外れ値検出能力を有していることが確認できた。一方で、HOADは，正しいクラスタ数をパラメータとして指定したときにしか高い性能を示さないことがわかった。
【００８３】
また、実データを用いた実験を行い、UCI Machine Learning Repositoryに掲載されている各種データにおいても、 人工データと同じように外れ値を検出できるかについて検証した。図６に実験結果を示す。上記の第１の実施の形態で説明した方法を、AP(Distance)と表示し、上記の第２の実施の形態で説明した方法を、AP(Pearson)と表示し、上記の第２の実施の形態で説明した他の方法を、AP (Spearman)と表示している。この実験から、上記の実施の形態で説明した提案法は、HOADに比べ優れた外れ値検出能力を有することが確認できた。
【００８４】
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【００８５】
例えば、Affinity Propagation以外のクラスタリング手法を用いて、クラスタ数を予め定めずにクラスタリングを行ってもよい。例えば、ｉ番目のサンプルが、どのサンプルが属するクラスに属するか求まるクラスタリングであれば、他のクラスタリング手法でもよい。
【００８６】
また、外れ値スコアＡiがあらかじめ定められた閾値τよりも大きいときに、対応するマルチビューデータ^Ｘiが外れ値であると判定してもよい。この場合には、マルチビューデータについて、affinity vector間の距離が大きいほど、相関が弱いほど、又は独立性が強いほど、外れ値スコアが大きくなるように、外れ値スコアの計算式を設計すればよい。
【００８７】
また、本願明細書中において、プログラムが予めインストールされている実施形態として説明したが、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能である。
【符号の説明】
【００８８】
１０   外れ値検出装置
１２   入力部
１４   演算部
１６   出力部
２０   マルチビューデータデータベース
２２   クラスタリング部
２４   ベクトル計算部
２６   外れ値検出部
【図１】
2015082190.tif 000015
【図２】
2015082190.tif 000016
【図３】
2015082190.tif 000017
【図４】
2015082190.tif 000018
【図５】
2015082190.tif 000019
【図６】
2015082190.tif 000020