(57)【要約】【課題】データの時系列中に現れる統計的な外れ値および変化点を示す度合いを計量し、外れ値および変化点の高精度な検出を行なうことができる。【解決手段】順次入力されるデータ列について、読み込まれるデータ系列の発生機構を時系列統計モデルとして学習する時系列モデル学習装置２１と、時系列モデルのパラメータと入力されたデータとに基づいて各データの外れ値スコアを計算するスコア計算装置２３と、外れ値スコアの移動平均を計算する移動平均計算装置２２と、移動平均の系列の発生機構を時系列統計モデルとして学習する時系列モデル学習装置２４と、外れ値スコアの移動平均に基づいて移動平均の外れ値スコアを更に計算してそれをもとのデータの変化点スコアとして出力する上記スコア計算装置２３とを組み合わせて、外れ値スコアおよび変化点スコアを計算することにより外れ値および変化点を検出している。【選択図】　　　図２
2004054370.tif 000002
【特許請求の範囲】
【請求項１】
実数ベクトル値のデータ列を順次読み込みながら該データ列の発生する確率分布を、自己回帰モデルを用いて学習する装置において、自己回帰モデルの十分統計量を、新たに読み込んだデータを用いて過去のデータを忘却しながら更新するデータ更新装置と、該データ更新装置が更新した十分統計量を読み込み、それを用いて自己回帰モデルのパラメータを計算するパラメータ計算装置とを含むことを特徴とする自己回帰モデル学習装置。
【請求項２】
順次入力される離散値変量と連続値変量との両者または一方で記述されたデータに対してその外れ値スコアおよび変化点スコアを計算して外れ値および変化点を検出する検出装置において、
読み込まれるデータ系列の発生機構を有限個のパラメータで指定される時系列統計モデルとして学習する第一のモデル学習装置と、
該第一のモデル学習装置が学習して得られたパラメータの値を読み込み、読み込んだ時系列モデルのパラメータと入力されたデータとに基づいて各データの外れ値スコアを計算して結果を出力する外れ値スコア計算装置と
を含むことを特徴とする外れ値および変化点の検出装置。
【請求項３】
請求項２において、変化点を検出する検出装置として、
前記外れ値スコア計算装置が計算する外れ値スコアを順次読み込んでその移動平均を計算する移動平均計算装置と、
該移動平均計算装置が計算する外れ値スコアの移動平均を順次読み込んで読み込まれるスコアにおける移動平均の系列の発生機構を有限個のパラメータで指定される時系列統計モデルとして学習する第二のモデル学習装置と、
該第二のモデル学習装置が学習して得られたパラメータの値を読み込み、読み込んだ時系列モデルのパラメータと入力された外れ値スコアの移動平均とに基づいて各移動平均の外れ値スコアを計算しそれをもとのデータの変化点スコアとして出力する変化点スコア計算装置と
を更に含むことを特徴とする外れ値および変化点の検出装置。
【請求項４】
請求項３において、前記第一のモデル学習装置が、順次入力されるデータが連続値変量のみで記述される場合、実数ベクトル値のデータ列を順次読み込みながら該データ列の発生する確率分布を、自己回帰モデルを用いて学習するものであって、自己回帰モデルの十分統計量を、新たに読み込んだデータを用いて過去のデータを忘却しながら更新するデータ更新装置と、該データ更新装置が更新した十分統計量を読み込み、それを用いて自己回帰モデルのパラメータを計算するパラメータ計算装置とを含む自己回帰モデル学習装置であることを特徴とする外れ値および変化点の検出装置。
【請求項５】
請求項３において、前記外れ値スコア計算装置および前記変化点スコア計算装置を一つのスコア計算装置とし、離散値変量と連続値変量との両者または一方で記述されたデータの系列に対して、系列中の外れ値および変化点の候補を求める装置として、前記スコア計算装置が計算した外れ値スコアおよび変化点スコアに基づいてデータを降順にソートするソート装置と、該ソート装置がソートした順序に従ってスコアの高いデータを外れ値および変化点の候補として表示する表示装置とを更に含むことを特徴とする外れ値および変化点の検出装置。
【請求項６】
請求項３において、前記外れ値スコア計算装置および前記変化点スコア計算装置を一つのスコア計算装置とし、順次入力される離散値変量と連続値変量の両者または一方で記述されたデータに対して、系列中の外れ値および変化点の候補を求める装置として、前記スコア計算装置が計算した外れ値スコアおよび変化点スコアがあらかじめ定められた閾値を越えたデータを外れ値または変化点の候補として出力するスコア判定装置を更に含むことを特徴とする外れ値および変化点の検出装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、時系列データに対する自己回帰モデル学習装置並びにそれを用いた外れ値および変化点の検出装置に関し、特に、データ解析技術およびデータマイニング技術に関わり、順次入力される離散値変量と連続値変量との両者または一方で記述されたデータに対してその外れ値スコアおよび変化点スコアを計算して外れ値および変化点を精度よく検出する検出装置に関する。
【０００２】
【従来の技術】
従来、この種の時系列データにおける外れ値スコアおよび変化点スコアを計算し外れ値および変化点を検出する検出装置に対しては、統計学、機械学習、データマイニングなどの分野で扱われてきた技術が対象となる。すなわち、本発明で実現する機能である異常値検出と変化点検出とは、従来から統計学、機械学習、データマイニングなどの分野で扱われてきた。
【０００３】
しかし、本発明では、データの発生源すなわち情報源に対して定常性を仮定しない状況を対象とする殊になる。
【０００４】
こうした場合の外れ値検出については下記のような文献などがある。一つは、バージ（Ｐ．Ｂｕｒｇｅ）とショーテイラー（Ｊ．Ｓｈａｗｅ−Ｔａｙｌｏｒ）とによる方式「Ｄｅｔｅｃｔｉｎｇ　ｃｅｌｌｕｌａｒ　ｆｒａｕｄ　ｕｓｉｎｇ　ａｄａｐｔｉｖｅ　ｐｒｏｔｏｔｙｐｅｓ」（Ｐｒｏｃｅｅｄｉｎｇｓ　ｏｆ　ＡＩ　Ａｐｐｒｏａｃｈｅｓ　ｔｏ　Ｆｒａｕｄ　Ｄｅｔｅｃｔｉｏｎ　ａｎｄ　Ｒｉｓｋ　Ｍａｎａｇｅｍｅｎｔ，ｐｐ：９−１３，１９９７）である。他の一つは、ヤマニシ（Ｋ．Ｙａｍａｎｉｓｈｉ）ほかによる方式「Ｏｎ−ｌｉｎｅ　Ｕｎｓｕｐｅｒｖｉｓｅｄ　Ｏｕｌｔｌｉｅｒ　Ｄｅｔｅｃｔｉｏｎ　Ｕｓｉｎｇ　Ｆｉｎｉｔｅ　Ｍｉｘｔｕｒｅｓ　ｗｉｔｈ　Ｄｉｓｃｏｕｎｔｉｎｇ　Ｌｅａｒｎｉｎｇ　Ａｌｇｏｒｉｔｈｍｓ」（Ｐｒｏｃ．ｏｆ　ｔｈｅ　Ｓｉｘｔｈ　ＡＣＭ　ＳＩＧＫＤＤ　Ｉｎｔｅｒｎａｔｉｏｎａｌ　Ｃｏｎｆｅｒｅｎｃｅ　ｏｎ　Ｋｎｏｗｌｅｄｇｅ　Ｄｉｓｃｏｖｅｒｙ　ａｎｄ　ＤａｔａＭｉｎｉｎｇ，ＡＣＭ　Ｐｒｅｓｓ，ｐｐ：３２０−３２４，２０００）である。また他の一つは、ムラド（Ｕ．Ｍｕｒａｄ）とピンカス（Ｇ．Ｐｉｎｋａｓ）とによる方式「Ｕｎｓｕｐｅｒｖｉｓｅｄ　ｐｒｏｆｉｌｉｎｇ　ｆｏｒ　ｉｄｅｎｔｉｆｙｉｎｇ　ｓｕｐｅｒｉｍｐｏｓｅｄ　ｆｒａｕｄ」（Ｐｒｏｃｅｅｄｉｎｇｓ　ｏｆ　３ｒｄＥｕｒｏｐｅａｎ　Ｃｏｎｆｅｒｅｎｃｅ　ｏｎ　Ｐｒｉｎｃｉｐｌｅｓ　ａｎｄ　Ｐｒａｃｔｉｃｅ　ｏｆ　ＫｎｏｗｌｅｄｇｅＤｉｓｃｏｖｅｒｙ　ｉｎ　Ｄａｔａｂａｓｅｓ，ｐｐ：２５１−２６１，１９９９）である。これらでは、非定常性を扱うために、適応的外れ値検出アルゴリズムが用いられている。
【０００５】
また、統計学における通常の変化点検出の方法では、与えられたデータ中の変化点の数をあらかじめ決めておいた上で、変化点間のデータは定常なモデルで記述出来るとして、モデルのあてはめを行うものが知られている。こうした方式については、例えば、下記文献などに記載されている。すなわち、「Ｊｏｕｒｎａｌ　ｏｆ　Ａｍｅｒｉｃａｎ　Ｓｔａｔｉｓｔｉｃａｌ　Ａｓｓｏｃｉａｔｉｏｎ」（６９：９４５−−９４７，１９７４）に掲載のグセリー（Ｂ．Ｇｕｔｈｅｒｙ）による論文「Ｐａｒｔｉｔｉｏｎ　ｒｅｇｒｅｓｓｉｏｎ」、または書籍「Ａｐｐｌｉｅｄ　Ｃｈａｎｇｅ　Ｐｏｉｎｔ　Ｐｒｏｂｌｅｍｓ　ｉｎ　Ｓｔａｔｉｓｔｉｃｓ」（Ｎｏｖａ　Ｓｃｉｅｎｃｅ　Ｐｕｂｌｉｓｈｅｒｓ，Ｉｎｃ，１９９５）に掲載のハスコバ（Ｍ．Ｈｕｓｋｏｖａ）による論文「Ｎｏｎｐａｒａｍｅｔｒｉｃ　ｐｒｏｃｅｄｕｒｅｓ　ｆｏｒ　ｄｅｔｅｃｔｉｎｇ　ａｃｈａｎｇｅ　ｉｎ　ｓｉｍｐｌｅ　ｌｉｎｅａｒ　ｒｅｇｒｅｓｓｉｏｎ　ｍｏｄｅｌｓ」等がある。
【０００６】
データマイニングにおける変化点検出は、グラニック（Ｖ．Ｇｕｒａｌｎｉｋ）とスリバスタバ（Ｊ．Ｓｒｉｖａｓｔａｖａ）による方式「Ｅｖｅｎｔ　ｄｅｔｅｃｔｉｏｎ　ｆｒｏｍ　ｔｉｍｅ　ｓｅｒｉｅｓ　ｄａｔａ」（Ｐｒｏｃ．ｏｆ　ｔｈｅ　ＡＣＭ　ＳＩＧＫＤＤ　Ｉｎｔｅｒｎａｔｉｏｎａｌ　Ｃｏｎｆｅｒｅｎｃｅ　ｏｎ　Ｋｎｏｗｌｅｄｇｅ　Ｄｉｓｃｏｖｅｒｙ　ａｎｄ　Ｄａｔａ　Ｍｉｎｉｎｇ，ＡＣＭ　Ｐｒｅｓｓ，ｐｐ：３２−４２，１９９９）に記載されている。
【０００７】
【発明が解決しようとする課題】
上述した従来の文献による方式または装置では、時系列データに対する外れ値および変化点の検出装置として、次のような問題点がある。
【０００８】
上述のバージ（Ｐ．Ｂｕｒｇｅ）とショーテイラー（Ｊ．Ｓｈａｗｅ−Ｔａｙｌｏｒ）とによる方式、ヤマニシ（Ｋ．Ｙａｍａｎｉｓｈｉ）ほかによる方式、または、ムラド（Ｕ．Ｍｕｒａｄ）とピンカス（Ｇ．Ｐｉｎｋａｓ）とによる方式といった従来の機械学習技術による逐次処理可能な外れ値検出手法では、時系列データ向きの統計モデルが用いられていない。従って、時系列的性質を持ったデータの特徴を十分に捉えられないという問題があった。ここで、時系列データ向きの統計モデルとは、異なる時点におけるデータ間の相関を表現できるモデルのことであり、例えば、自己回帰モデルまたはマルコフモデルなどがそれにあたる。
【０００９】
また、グラニク（Ｖ．Ｇｕｒａｌｎｉｋ）とスリバスタバ（Ｊ．Ｓｒｉｖａｓｔａｖａ）との論文に記載されている従来の変化点検出手法は基本的にデータを一括して処理するいわゆるバッチ処理で動作するものであり、逐次的に処理することが出来ない。さらに、上述した従来の変化点検出手法は局所的に定常であるという仮定を置いて設計されていたが、現実問題としてこのような仮定は不適切であり、除去されるべきである。
【００１０】
さらに、データマイニング等の応用場面では外れ値および変化点を統一的に扱い、両者を検出できることが望ましいにも関わらず、これまでは両者を統一的に扱う枠組みしか知られていなかった。
【００１１】
本発明の課題は、このような問題点を解決することを目的とし、時系列データの性質を捉えられる統計モデルを用い、しかも非定常データに対応することと、外れ値と変化点とを統一的に扱えることと、かつ処理を逐次的に実行できることとにある。
【００１２】
【課題を解決するための手段】
本発明による時系列データに対する外れ値および変化点の検出装置には、実数ベクトル値のデータ列を順次読み込みながら該データ列の発生する確率分布を、自己回帰モデルを用いて学習する装置として、次のような自己回帰モデル学習装置を用いることができる。すなわち、自己回帰モデルの十分統計量を、新たに読み込んだデータを用いて過去のデータを忘却しながら更新するデータ更新装置と、該データ更新装置が更新した十分統計量を読み込み、それを用いて自己回帰モデルのパラメータを計算するパラメータ計算装置とを含むものである。
【００１３】
このように、過去のデータを忘却しながら更新する処理するので、時系列データを処理するのに適すると共にその精度を上げることができる。
【００１４】
また、本発明による具体的な検出装置は、順次入力される離散値変量と連続値変量との両者または一方で記述されたデータに対してその外れ値スコアおよび変化点スコアを計算して外れ値および変化点を検出する検出装置であって、第一のモデル学習装置と外れ値スコア計算装置と移動平均計算装置と第二のモデル学習装置と変化点スコア計算装置とにより構成されている。
【００１５】
第一のモデル学習装置は読み込まれるデータ系列の発生機構を有限個のパラメータで指定される時系列統計モデルとして学習する。外れ値スコア計算装置は、第一のモデル学習装置が学習して得られたパラメータの値を読み込み、読み込んだ時系列モデルのパラメータと入力されたデータとに基づいて各データの外れ値スコアを計算して結果を出力する。移動平均計算装置は、外れ値スコア計算装置が計算する外れ値スコアを順次読み込んでその移動平均を計算する。第二のモデル学習装置は移動平均計算装置が計算する外れ値スコアの移動平均を順次読み込んで読み込まれるスコアにおける移動平均の系列の発生機構を有限個のパラメータで指定される時系列統計モデルとして学習する。変化点スコア計算装置は、第二のモデル学習装置が学習して得られたパラメータの値を読み込み、読み込んだ時系列モデルのパラメータと入力された外れ値スコアの移動平均とに基づいて各移動平均の外れ値スコアを計算しそれをもとのデータの変化点スコアとして出力する。
【００１６】
また、上記第一のモデル学習装置として上述した自己回帰モデル学習装置を用いることができる。
【００１７】
また、本発明によると、外れ値スコア計算装置および変化点スコア計算装置を一つのスコア計算装置とし、更に、離散値変量と連続値変量との両者または一方で記述されたデータの系列に対して、系列中の外れ値および変化点の候補を求める装置として、上記スコア計算装置が計算した外れ値スコアおよび変化点スコアに基づいてデータを降順にソートするソート装置と、ソート装置がソートした順序に従ってスコアの高いデータを外れ値および変化点の候補として表示する表示装置とを含むことができる。
【００１８】
また、本発明によると、上記ソート装置に代わり、順次入力される離散値変量と連続値変量の両者または一方で記述されたデータに対して，系列中の外れ値および変化点の候補を求める装置として、スコア計算装置が計算した外れ値スコアおよび変化点スコアがあらかじめ定められた閾値を越えたデータを外れ値または変化点の候補として出力するスコア判定装置を含むことができる。
【００１９】
【発明の実施の形態】
次に、本発明の実施の形態について図面を参照して説明する。
【００２０】
はじめに、記法について説明する。まず「ｘ」は実数を成分とするｎ次元ベクトル値のデータを表す。また「ｙ」は離散値を成分とするｍ次元ベクトル値のデータを表す。また「ｘ」と「ｙ」とをまとめて「ｚ＝（ｘ，ｙ）」と表す。また、Ｎ個のデータからなる系列を「ｚＮ＝ｚ１ｚ２・・・ｚＮ」と表す。
【００２１】
ここで、このような系列に対して「外れ値スコア」を計算する方法について説明する。
【００２２】
まず、データｚを生成する統計モデル
ｐ（ｚｉ｜θ）＝ｐ（ｘｉ，ｙｉ｜θ）
を考える。これは「ｚ」の動く範囲、すなわち、レンジＺ上で定義された確率密度関数のことである。
【００２３】
「θ」は確率密度を指定するパラメータであり、一般には離散パラメータと連続値パラメータとからなる。こうした確率密度関数としては、例えば「ｚ」が連続値変数からなる場合、有限混合ガウス分布、または時系列モデルである自己回帰モデルが用いられる。時系列モデルの場合、ｉ番目のデータｚｉの確率密度はそれまでの系列ｚｉ−１に依存するので
ｐ（ｚｉ｜ｚｉ−１，θ）
となる。
【００２４】
一般に、外れ値スコアを計算するためには、まずデータ系列に基づいてパラメータ「θ」の値を推定する（学習するともいう）。ここで、データの系列を逐次読み込みながら読み込んだデータに基づいて逐次的にパラメータを変更するという「逐次型学習方式」を用いてパラメータを学習する。ここで、データｚｉまでを読みこんで学習した結果得られたパラメータの値を「θ（ｉ）」とする。これを用いて「ｚｉ＋１」の外れ値スコアを計算することができる。例えば、対数スコアｓＬおよびへリンガースコアｓＨは下記数式１および数式２それぞれにより計算される。
【００２５】
【数１】
2004054370.tif 000003
【数２】
2004054370.tif 000004
ただし「ｄ２」は二つの確率密度間の二乗へリンガー距離（Ｈｅｌｌｉｎｇｅｒ距離）であり、下記数式３と定義される。
【００２６】
【数３】
2004054370.tif 000005
【００２７】
次に、本発明で用いるＡＲモデルについて説明する。ＡＲモデルはｎ次元実数値ベクトルデータｘｉの系列の確率分布を記述する時系列統計モデルである。まず、補助的な確率変数として「ωＮ　＝　ω１ω２・・・ωＮ」なる系列を導入する。これは「ｘ」と同じくｎ次元であるとする。一般にｋ次のＡＲモデルは下記数式４で表される。
【００２８】
【数４】
2004054370.tif 000006
で表される。ただし「Ａｉ」（ｉ＝１，・・・，ｋ）はｎ元正方行列であり、「ε」は平均値「０」となる共分散行列Σの正規分布に従う確率変数である。
【００２９】
いま「ｘｉ」が「ｕｉ」を用い「ｘｉ＝ｕｉ＋μ」で与えられるとする。ここで下記数式５が与えられる場合には「ｘｔ」の確率密度関数は下記数式６で与えられる。
【００３０】
【数５】
2004054370.tif 000007
【数６】
2004054370.tif 000008
【００３１】
外れ値度計算装置は，データの系列を先頭から順に読みこみながら，ｉ番目のデータｚｉを読みこんだ際に，その外れ値度ｓ（ｉ）を出力する。
【００３２】
次に、図１を参照して第一の実施例として、上述した自己回帰モデル学習装置について説明する。ここでは、忘却の速さを表す定数ｒとＡＲモデルの次数ｋがあらかじめ与えられているとする。定数ｒは「０」から「１」までの間の数値であり、小さいほど、過去のデータを速く忘却することを意味する。
【００３３】
図示されるように、第一の実施例は、上述したデータ更新装置で、入力ｘｔを受ける忘却型十分統計量計算装置１１と、この出力を受けてパラメータ値を送出するパラメータ計算装置１２とにより構成される。
【００３４】
忘却型十分統計量計算装置１１はＡＲモデルにおける忘却型十分統計量を計算する装置である。忘却型十分統計量とは、古いデータの影響ほど小さくなるように修正した十分統計量のことである。ここでいう十分統計量は、ｎ次元のベクトルμと「ｋ＋１」個のｎ元正方行列Ｃｊ（ｊ＝０，１，・・・，ｋ）である。忘却型十分統計量計算装置１１は，ｋ次のＡＲモデルの場合には，ｋ時点過去のデータを記憶する機能を有する。
【００３５】
パラメータ計算装置１２では、与えられた十分統計量に基づいてＡＲモデルのパラメータθ「＝（Λ１，・・・，Λｋ，μ，Σ）」の値が計算される。
【００３６】
第一の実施例では，以下のように動作する。
【００３７】
まず、データが読み込まれる前にパラメータ記憶装置１２に格納されている各パラメータの値が初期化される。次に、ｔ番目のデータが入力される度に、以下のように動作する。
【００３８】
忘却型十分統計量計算装置１１は、データｘｔが入力された際に、これまでに記憶していたデータのうち最も古いものを消去し，代わりに最新のデータｘｔを記憶してデータの列「ｘｔ，ｘｔ−１，・・・，ｘｔ−ｋ＋１」を得る。忘却型十分統計量計算装置１１は、これを用いて、保持している十分統計量「μ，Ｃｊ（ｊ＝０，・・・，ｋ）」を下記数式７および数式８に示される更新ルールにより更新し、得られた十分統計量をパラメータ計算装置１２に送りこむ。
【００３９】
【数７】
2004054370.tif 000009
【数８】
2004054370.tif 000010
【００４０】
パラメータ計算装置１２は「バーΛｉ」（ｉ＝１，・・・，ｋ）を未知数とする下記数式９の連立方程式の解を求める。ただし「Ｃ−ｊ＝Ｃｊ」とする。
【００４１】
【数９】
2004054370.tif 000011
【００４２】
パラメータ計算装置１２は、求められた解を「Λｉ」に代入し、下記数式１０および数式１１によりパラメータθを計算して、得られたパラメータθ「＝（Λ１，・・・，Λｋ，μ，Σ）」を出力する。
【００４３】
【数１０】
2004054370.tif 000012
【数１１】
2004054370.tif 000013
【００４４】
次に、図２を参照して第二および第三の実施例について説明する。
【００４５】
図示されるように、この実施例では、上述した第一及び第二のモデル学習装置に対応する時系列モデル学習装置２１，２４、移動平均計算装置２２、および上述した外れ値スコア計算装置および変化点スコア計算装置の両者を包含するスコア計算装置２３により構成される。第二の実施例は時系列モデル学習装置２１および外れ値スコア計算装置により実現し、第三の実施例は時系列モデル学習装置２１，２４およびスコア計算装置２３により実現される。
【００４６】
時系列モデル学習装置２１，２４は、逐次的に読み込みながら、時系列モデルの確率密度関数におけるパラメータを学習する装置である。
【００４７】
ただし、一方の時系列モデル学習装置２１は入力されるデータｚｔに関する確率密度関数を学習する装置であり、用いる確率密度関数Ｆｐは下記数式１２で表わされる。
【００４８】
【数１２】
2004054370.tif 000014
【００４９】
他方の時系列モデル学習装置２４は、移動平均計算装置２３が計算するスコアの移動平均の系列に関する確率密度関数を学習する装置であり、ｋ次の一変量ＡＲモデルを用いる。その確率密度関数Ｆｑｋは下記数式１３で表わされる。
【００５０】
【数１３】
2004054370.tif 000015
【００５１】
スコア計算装置２３は、確率密度関数Ｆｐ，Ｆｑｋのパラメータとデータとを読み込み、データｘｔのスコアを計算する。スコア計算装置２３は、計算機能のほか「ｚｔ」の系列については最近ｕ（ｚ）個のデータを、「αｔ」の系列については最近ｕ（α）個のデータを、また、「θ」と「ξ」とのそれぞれについては一つ前のパラメータを保存する機能を有する。例えば、ｋ次のＡＲモデルを用いる確率密度関数Ｆｑｋの場合、「ｕ（α）＝ｋ」の条件で、対数スコアまたはヘリンガースコアを計算することができる。
【００５２】
移動平均計算装置２２は、逐次的に入力される実数値のデータに対しそのＴ移動平均を計算して出力する装置である。そのために移動平均計算装置２２は、内部にＴ個の実数値を格納する機能を有する。
【００５３】
第二の実施例に関する装置は以下の順序で動作する。
【００５４】
まず，装置全体の初期化が行われ、パラメータおよびデータを記憶する装置においてはあらかじめ定められた適当な値がセットされる。図示される装置は、ｔ番目のデータｚｔ「＝（ｘｔ，ｙｔ）」が入力されるたびに、以下のように動作する。
【００５５】
時系列モデル学習装置２１およびスコア計算装置２３はデータｚｔの入力を受ける。スコア計算装置２３は、過去に入力されて保存してある確率密度関数Ｆｐのパラメータξと、入力されたデータｚｔおよび過去のデータ「ｚｔ−１，ｚｔ−２，・・・，ｚｔ−ｕ」とに基づいてデータｚｔのスコアを外れ値スコアｓｔとして計算し，得られた外れ値スコアｓｔを移動平均計算装置２２に送り込むと同時に外部へ出力する。
【００５６】
第三の実施例に関する装置は上記第二の実施例に続く以下の順序で動作する。
【００５７】
移動平均計算装置２２は、スコア計算装置２３からスコアｓｔを送り込まれると、保存してある最も古いスコアを消去し、新しく入力されたスコアｓｔを保存する。次いで、移動平均計算装置２２は、保存されているＴ個のスコアの平均値αｔを計算して、時系列モデル学習装置２４に送り込む。
【００５８】
時系列モデル学習装置２４は、上記第一の実施例で説明した通りに動作してｋ次の一変量ＡＲモデルを用いる確率密度関数Ｆｑｋのパラメータξを更新し、得られたパラメータθとスコアαｔとをスコア計算装置２３に送り込む。スコア計算装置２３は，過去に入力されて保存してある下記数式１４の確率密度関数Ｆｑのパラメータθと、入力されたデータαｔおよび過去のデータ「αｔ−１，αｔ−２，・・・，αｔ−ｕ」とに基づいてスコアαｔのスコア、すなわち変化点スコアを計算し、得られたスコアを出力する。
【００５９】
【数１４】
2004054370.tif 000016
【００６０】
次に、図３を参照して第四の実施例について説明する。
【００６１】
ここでは、データ３１、上述したスコア計算装置である外れ値スコアおよび変化点スコア計算装置３２、スコア付きデータ３３、ソート装置３４、および表示装置３５が示されている。データ３１は有限の長さのデータ系列を蓄えたデータベースである。外れ値スコアおよび変化点スコア計算装置３２は上記実施例２または実施例３で説明した外れ値スコアおよび変化点スコアを計算する装置である。スコア付きデータ３３は外れ値スコアおよび変化点スコア計算装置３２の出力を受けて蓄積する。ソート装置３４はデータを外れ値スコアと変化点スコアとを用いてスコアの高い順にソートする。
【００６２】
図示された装置は以下の順序で動作する。外れ値スコアおよび変化点スコア計算装置３２は、データ３１にアクセスしてデータ系列を順に読み込みつつ各データについて外れ値スコアおよび変化点スコアを計算し、スコア付きデータ３３にデータ、外れ値スコア、および変化点スコアの三つ組みを順次送り込む。スコア付きデータ３３は送られてきたデータを蓄積する。ソート装置３４は、スコア付きデータ３３のデータベースにアクセスして格納されているデータを、外れ値スコアと変化点スコアとを用いスコアの高い順にソートして表示装置３５に送り込む。表示装置３５は送られてきた２種類のソート済みデータをソートされた順にリストして表示する。
【００６３】
次に、図４を参照して第五の実施例について説明する。
【００６４】
ここでは、データ４１、上述したスコア計算装置である外れ値スコアおよび変化点スコア計算装置４２、スコア付きデータ４３、スコア判定装置４４、および表示装置４５が示されている。図４のスコア判定装置４４が図３のソート装置３４の代わりに備えられている。
【００６５】
データ４１は有限の長さのデータ系列を蓄えたデータベースである。外れ値スコアおよび変化点スコア計算装置４２は上記実施例２または実施例３で説明した外れ値スコアおよび変化点スコアを計算する装置である。スコア付きデータ４３は外れ値スコアおよび変化点スコア計算装置４２からの出力を受けて蓄積する。スコア判定装置４４は、スコア付きデータ４３のデータベースにアクセスしてデータを外れ値スコアと変化点スコアとを用いて予め定められた閾値を越えたデータを表示装置４５に送り込む。
【００６６】
図示された装置は以下の順序で動作する。外れ値スコアおよび変化点スコア計算装置４２は、データ４１のデータベースにアクセスして、データ系列を順に読み込みつつ、各データについて外れ値スコアおよび変化点スコアを計算する。スコア付きデータ４３のデータベースに、データ、外れ値スコア、および変化点スコアの三つ組みを順次送り込む。ブロック４３のデータベースは送られてきたデータを蓄積する。スコア判定装置４４は、スコア付きデータ４３のデータベースにアクセスして格納されているデータから、外れ値スコアと変化点スコアとを用いて予め定められた閾値を越えたデータを表示装置４５に送り込む。表示装置４５は送られてきた２種類のデータをそのまま、またはソートされた順にリストアップして表示する。
【００６７】
次に図５を参照して、図２を参照して説明した外れ値スコアおよび変化点スコアのスコア計算装置を用いて解析した実データについて説明する。
【００６８】
この実験は変化点検出を目的に行った。これは、東証株価指数（ＴＯＰＩＸ）の日次データ（１９４６年−１９９８年）を解析した例であり、このうち１９８５年から１９９５年までの結果を示している。グラフには、もとのデータ、およびそれに付けられた変化点スコアを描いてある。データには前処理が行われてある。すなわち、もとの系列を「一次元」の「ｘｔ」とするとき、これを「ｘｔ、ｘｔ−ｘｔ−１」と変換してある。これによって、平均的値の変化だけでなく、トレンドの急激な変化も検出できることが期待出来る。この解析結果によると、いわゆるブラックマンデー、またはバブル経済の発生および崩壊などの時期に変化点スコアが高くなっていることが分かる。グラフにおけるブラックマンデーについては、その翌日に著しく高いピークが示されている。
【００６９】
上記説明では、図示された機能ブロックを参照しているが、機能の分離併合による配分などの変更は上記機能を満たす限り自由であり、上記説明が本発明を限定するものではない。
【００７０】
【発明の効果】
以上説明したように本発明によれば、データの時系列において，その中に現れる統計的な外れ値および変化点であることを示す度合いを外れ値スコアおよび変化点スコアとして計量し、高精度でそれらの検出を行なうことができるという効果を得ることができる。
【００７１】
その理由は、まず、順次入力されるデータ列について、読み込まれるデータ系列の発生機構を時系列統計モデルとして学習する時系列モデル学習装置を用いているからである。また、スコア計算装置が、時系列モデルのパラメータと入力されたデータとに基づいて各データの外れ値スコアを計算しているからである。更に、外れ値スコアの移動平均を計算する移動平均計算装置と、移動平均の系列の発生機構を時系列統計モデルとして学習する時系列モデル学習装置と、外れ値スコアの移動平均に基づいて移動平均の外れ値スコアを更に計算してそれをもとのデータの変化点スコアとして出力するスコア計算装置とを組み合わせて、外れ値スコアおよび変化点スコアを計算することにより外れ値および変化点を検出しているからである。
【図面の簡単な説明】
【図１】本発明によるＡＲモデル学習装置の実施の一形態を示す構成図である。
【図２】本発明による外れ値スコアおよび変化点スコアの計算装置における実施の一形態を示す構成図である。
【図３】本発明による外れ値および変化点の候補を求める装置における実施の一形態を示す構成図である。
【図４】図３とは異なる本発明による外れ値および変化点の候補を求める装置における実施の一形態を示す構成図である。
【図５】図２に示されるスコア計算装置を用いた変化点についての実験結果の一実施例を示すグラフである。
【符号の説明】
１１　　忘却型十分統計量計算装置
１２　　パラメータ計算装置
２１、２４　時系列モデル学習装置
２２　　移動平均計算装置
２３　スコア計算装置
３１、４１　データ（データベース）
３２、４２　外れ値スコアおよび変化点スコア計算装置
３３、４３　　スコア付きデータ（データベース）
３４　　ソート装置
３５、４５　　表示装置
４４　　スコア判定装置
【図１】
2004054370.tif 000017
【図２】
2004054370.tif 000018
【図３】
2004054370.tif 000019
【図４】
2004054370.tif 000020
【図５】
2004054370.tif 000021