(57)【要約】【課題】与えられた時系列データの構造的な変化を適応的に分析する。【解決手段】時系列データを入力として、予測分布更新手段３１は、入力データを逐次読み込み、複数個の相異なる予測分布をそれぞれ記憶する予測分布記憶手段３２の内容を更新する。モデル遷移確率推定手段４１は、モデル系列記憶手段３４から最適モデル系列の候補を読み込み、これをもとにモデル遷移確率を推定する。モデル系列更新手段３３は、入力データを逐次読み込み、モデル遷移確率推定手段４１からモデル遷移確率を読み込み、モデル系列記憶手段３４から最適モデル系列の候補を読み込み、モデル系列記憶手段３４の内容を更新する。最適モデル系列計算手段３５は、モデル系列記憶手段３４から最適モデル系列の候補を読み込み、現時点での最適モデル系列を計算して出力する。【選択図】図３
2005141601.tif 000002
【特許請求の範囲】
【請求項１】
時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布をそれぞれ記憶する予測分布記憶手段と、
入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、該予測分布記憶手段の内容を更新する予測分布更新手段と、
最適モデル系列の候補を記憶するモデル系列記憶手段と、
入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、前記モデル系列記憶手段から最適モデル系列の候補を読み込み、該モデル系列記憶手段の内容を更新するモデル系列更新手段と、
前記モデル系列記憶手段から最適モデル系列の候補を読み込み、現時点での最適モデル系列を計算して出力する最適モデル系列計算手段と
を備えることを特徴とするモデル選択計算装置。
【請求項２】
前記モデル系列記憶手段において、各時点でデータ数によらない一定数のモデル系列を記憶することを特徴とする請求項１記載のモデル選択計算装置。
【請求項３】
モデル遷移確率を推定するモデル遷移確率推定手段をさらに備えることを特徴とする請求項１記載のモデル選択計算装置。
【請求項４】
前記モデル系列記憶手段において、各時点でデータ数の定数倍のモデル系列を記憶することを特徴とする請求項３記載のモデル選択計算装置。
【請求項５】
時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布をそれぞれ記憶する予測分布記憶手段と、
入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、該予測分布記憶手段の内容を更新する予測分布更新手段と、
入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、入力データの確からしさを計算する確からしさ計算手段と、
該確からしさ計算手段で計算された確からしさを記憶する確からしさ記憶手段と、
モデルの遷移確率分布の予測分布を記憶するモデル遷移確率記憶手段と、
前記確からしさ記憶手段から記憶されている全ての確からしさを読み込み、前記モデル遷移確率記憶手段から予測分布を読み込み、該モデル遷移確率記憶手段の内容を更新するモデル遷移確率推定手段と、
前記確からしさ記憶手段から記憶されている全ての確からしさを読み込み、前記モデル遷移確率記憶手段から予測分布を読み込み、最適モデル系列を計算して出力する最適モデル系列計算手段と
を備えることを特徴とするモデル選択計算装置。
【請求項６】
前記モデル遷移確率推定手段において、ウィンドウ付推定を行うことを特徴とする請求項３記載のモデル選択計算装置。
【請求項７】
前記モデル遷移確率推定手段において、ウィンドウ付推定を行うことを特徴とする請求項５記載のモデル選択計算装置。
【請求項８】
前記モデル系列記憶手段において、各時点でデータ数によらない一定数のモデル系列を記憶することを特徴とする請求項６記載のモデル選択計算装置。
【請求項９】
前記確からしさ記憶手段において、各時点でデータ数によらない一定数の確からしさを記憶することを特徴とする請求項７記載のモデル選択計算装置。
【請求項１０】
時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布をそれぞれ記憶する予測分布記憶手段と、
入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、該予測分布記憶手段の内容を更新する予測分布更新手段と、
最適モデル系列の候補を記憶するモデル系列記憶手段と、
入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、前記モデル系列記憶手段から最適モデル系列の候補を読み込み、該モデル系列記憶手段の内容を更新するモデル系列更新手段と、
前記モデル系列記憶手段から最適モデル系列の候補を読み込み、現時点での最適モデル系列を計算して出力する最適モデル系列計算手段と
を備えることを特徴とする動的モデル選択装置。
【請求項１１】
前記モデル系列記憶手段において、各時点でデータ数によらない一定数のモデル系列を記憶することを特徴とする請求項１０記載の動的モデル選択装置。
【請求項１２】
モデル遷移確率を推定するモデル遷移確率推定手段をさらに備えることを特徴とする請求項１０記載の動的モデル選択装置。
【請求項１３】
前記モデル系列記憶手段において、各時点でデータ数の定数倍のモデル系列を記憶することを特徴とする請求項１２記載の動的モデル選択装置。
【請求項１４】
時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布をそれぞれ記憶する予測分布記憶手段と、
入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、該予測分布記憶手段の内容を更新する予測分布更新手段と、
入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、入力データの確からしさを計算する確からしさ計算手段と、
該確からしさ計算手段で計算された確からしさを記憶する確からしさ記憶手段と、
モデルの遷移確率分布の予測分布を記憶するモデル遷移確率記憶手段と、
前記確からしさ記憶手段から記憶されている全ての確からしさを読み込み、前記モデル遷移確率記憶手段から予測分布を読み込み、該モデル遷移確率記憶手段の内容を更新するモデル遷移確率推定手段と、
前記確からしさ記憶手段から記憶されている全ての確からしさを読み込み、前記モデル遷移確率記憶手段から予測分布を読み込み、最適モデル系列を計算して出力する最適モデル系列計算手段と
を備えることを特徴とする動的モデル選択装置。
【請求項１５】
前記モデル遷移確率推定手段において、ウィンドウ付推定を行うことを特徴とする請求項１２記載の動的モデル選択装置。
【請求項１６】
前記モデル遷移確率推定手段において、ウィンドウ付推定を行うことを特徴とする請求項１４記載の動的モデル選択装置。
【請求項１７】
前記モデル系列記憶手段において、各時点でデータ数によらない一定数のモデル系列を記憶することを特徴とする請求項１５記載の動的モデル選択装置。
【請求項１８】
前記確からしさ記憶手段において、各時点でデータ数によらない一定数の確からしさを記憶することを特徴とする請求項１６記載の動的モデル選択装置。
【請求項１９】
請求項１０ないし請求項１８のいずれかに記載された動的モデル選択装置において、オンラインでモデル系列を出力するオンラインモデル系列出力手段をさらに備えることを特徴とする動的モデル選択装置。
【請求項２０】
請求項１９に記載された動的モデル選択装置において、オンラインでモデルが変化したときに検知するオンライン構造変化検出手段をさらに備えることを特徴とする動的モデル選択装置。
【請求項２１】
請求項１０ないし請求項１８のいずれかに記載された動的モデル選択装置において、モデルが変化したときの特徴的な時系列データパタンを抽出して出力する特徴パタン抽出手段をさらに備えることを特徴とする動的モデル選択装置。
【請求項２２】
請求項１９に記載された動的モデル選択装置において、モデルが変化したときの特徴的な時系列データパタンを抽出して出力する特徴パタン抽出手段をさらに備えることを特徴とする動的モデル選択装置。
【請求項２３】
時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布をそれぞれ予測分布記憶手段に記憶させる工程と、
入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、該予測分布記憶手段の内容を更新する工程と、
最適モデル系列の候補をモデル系列記憶手段に記憶させる工程と、
入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、前記モデル系列記憶手段から最適モデル系列の候補を読み込み、該モデル系列記憶手段の内容を更新する工程と、
前記モデル系列記憶手段から最適モデル系列の候補を読み込み、現時点での最適モデル系列を計算して出力する工程
を含むことを特徴とする動的モデル選択方法。
【請求項２４】
前記モデル系列記憶手段に対し、各時点でデータ数によらない一定数のモデル系列を記憶させる工程を含むことを特徴とする請求項２３記載の動的モデル選択方法。
【請求項２５】
モデルの遷移確率を推定する工程をさらに含むことを特徴とする請求項２３記載の動的モデル選択方法。
【請求項２６】
前記モデル系列記憶手段に対し、各時点でデータ数の定数倍のモデル系列を記憶させる工程を含むことを特徴とする請求項２５記載の動的モデル選択方法。
【請求項２７】
時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布を予測分布記憶手段に記憶させる工程と、
入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、該予測分布記憶手段の内容を更新する工程と、
入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、入力データの確からしさを計算する工程と、
該確からしさ計算手段で計算された確からしさを確からしさ記憶手段に記憶させる工程と、
モデルの遷移確率分布の予測分布をモデル遷移確率記憶手段に記憶させる工程と、
前記確からしさ記憶手段から記憶されている全ての確からしさを読み込み、前記モデル遷移確率記憶手段から予測分布を読み込み、該モデル遷移確率記憶手段の内容を更新する工程と、
前記確からしさ記憶手段から記憶されている全ての確からしさを読み込み、前記モデル遷移確率記憶手段から予測分布を読み込み、最適モデル系列を計算して出力する工程と
を含むことを特徴とする動的モデル選択方法。
【請求項２８】
モデル遷移確率のウィンドウ付推定を行う工程を含むことを特徴とする請求項２５記載の動的モデル選択方法。
【請求項２９】
モデル遷移確率のウィンドウ付推定を行う工程を含むことを特徴とする請求項２７記載の動的モデル選択方法。
【請求項３０】
前記モデル系列記憶手段に対し、各時点でデータ数によらない一定数のモデル系列を記憶させる工程を含むことを特徴とする請求項２８記載の動的モデル選択方法。
【請求項３１】
前記確からしさ記憶手段に対し、各時点でデータ数によらない一定数の確からしさを記憶させる工程を含むことを特徴とする請求項３０記載の動的モデル選択方法。
【請求項３２】
請求項２３ないし請求項３１のいずれかに記載された動的モデル選択方法において、オンラインでモデル系列を出力する工程をさらに含むことを特徴とする動的モデル選択方法。
【請求項３３】
請求項３２に記載された動的モデル選択方法において、オンラインでモデルが変化したときに検知する工程をさらに含むことを特徴とする動的モデル選択方法。
【請求項３４】
請求項２３ないし請求項３１のいずれかに記載された動的モデル選択方法において、モデルが変化したときの特徴的な時系列データパタンを抽出して出力する工程をさらに含むことを特徴とする動的モデル選択方法。
【請求項３５】
請求項３２のいずれかに記載された動的モデル選択方法において、モデルが変化したときの特徴的な時系列データパタンを抽出して出力する工程をさらに含むことを特徴とする動的モデル選択方法。
【請求項３６】
コンピュータを、時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布をそれぞれ記憶する予測分布記憶手段と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、該予測分布記憶手段の内容を更新する予測分布更新手段と、最適モデル系列の候補を記憶するモデル系列記憶手段と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、前記モデル系列記憶手段から最適モデル系列の候補を読み込み、該モデル系列記憶手段の内容を更新するモデル系列更新手段と、前記モデル系列記憶手段から最適モデル系列の候補を読み込み、現時点での最適モデル系列を計算して出力する最適モデル系列計算手段として動作させるためのプログラム。
【請求項３７】
前記モデル系列記憶手段において、各時点でデータ数によらない一定数のモデル系列を記憶することを特徴とする請求項３６記載のプログラム。
【請求項３８】
モデル遷移確率を推定するモデル遷移確率推定手段をさらに備えることを特徴とする請求項３６記載のプログラム。
【請求項３９】
前記モデル系列記憶手段において、各時点でデータ数の定数倍のモデル系列を記憶することを特徴とする請求項３８記載のプログラム。
【請求項４０】
コンピュータを、時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布をそれぞれ記憶する予測分布記憶手段と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、該予測分布記憶手段の内容を更新する予測分布更新手段と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、入力データの確からしさを計算する確からしさ計算手段と、該確からしさ計算手段で計算された確からしさを記憶する確からしさ記憶手段と、モデルの遷移確率分布の予測分布を記憶するモデル遷移確率記憶手段と、前記確からしさ記憶手段から記憶されている全ての確からしさを読み込み、前記モデル遷移確率記憶手段から予測分布を読み込み、該モデル遷移確率記憶手段の内容を更新するモデル遷移確率推定手段と、前記確からしさ記憶手段から記憶されている全ての確からしさを読み込み、前記モデル遷移確率記憶手段から予測分布を読み込み、最適モデル系列を計算して出力する最適モデル系列計算手段として動作させるためのプログラム。
【請求項４１】
前記モデル遷移確率推定手段において、ウィンドウ付推定を行うことを特徴とする請求項３８記載のプログラム。
【請求項４２】
前記モデル遷移確率推定手段において、ウィンドウ付推定を行うことを特徴とする請求項４０記載のプログラム。
【請求項４３】
前記モデル系列記憶手段において、各時点でデータ数によらない一定数のモデル系列を記憶することを特徴とする請求項４１記載のプログラム。
【請求項４４】
前記確からしさ記憶手段において、各時点でデータ数によらない一定数の確からしさを記憶することを特徴とする請求項４２記載のプログラム。
【請求項４５】
請求項３６ないし請求項４４のいずれかに記載されたプログラムにおいて、オンラインでモデル系列を出力するオンラインモデル系列出力手段をさらに備えることを特徴とするプログラム。
【請求項４６】
請求項４５に記載されたプログラムにおいて、オンラインでモデルが変化したときに検知するオンライン構造変化検出手段をさらに備えることを特徴とするプログラム。
【請求項４７】
請求項３６ないし請求項４４のいずれかに記載されたプログラムにおいて、モデルが変化したときの特徴的な時系列データパタンを抽出して出力する特徴パタン抽出手段をさらに備えることを特徴とするプログラム。
【請求項４８】
請求項４５に記載されたプログラムにおいて、モデルが変化したときの特徴的な時系列データパタンを抽出して出力する特徴パタン抽出手段をさらに備えることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明はモデル選択計算装置，動的モデル選択装置，動的モデル選択方法およびプログラムに関し、特に与えられた時系列データの構造的な変化を適応的に分析するモデル選択計算装置，動的モデル選択装置，動的モデル選択方法およびプログラムに関する。
【背景技術】
【０００２】
従来、統計学や計算論的学習理論、データマイニングの分野で幾つかの動的モデル選択方式が提案されている。
【０００３】
まず、モデル選択方式として、定常性を仮定してデータに最適なモデルを選択するモデル選択方式がある（例えば、非特許文献１，非特許文献２参照）。
【０００４】
非定常な状況における逐次予測方式としては、時系列データに対して複数のモデルの候補があるとき、各時点で最適なモデルを用いた場合と同程度の累積予測損失を持つ逐次予測方式がある（例えば、非特許文献３参照）。
【０００５】
また、異常行動検出方式として、行動データに対し、予測的確率的コンプレキシティを用いた動的モデル選択によって異常行動検出を行う異常行動検出方式がある（例えば、非特許文献４参照）。
【非特許文献１】H. Akaike, Information Theory and anExtension of the Maximum Likelihood Principle, in Proceedings of 2ndInternational Symposium on Information Theory, edited by B.N. Petrov and F. Csaki(Budapest: Akademia Kiado), pp:267-281,1973.
【非特許文献２】J. Rissanen, Modeling by shortest datadescription. Automatica, vol.14, pp:465-471, 1978.
【非特許文献３】M. Herbster and M. K. Warmuth,Tracking the Best Expert, Journal of Machine Learning, 32(2), pp:151-178, 1998.
【非特許文献４】松永祐子，山西健司，情報理論的手法に基づく異常行動検出，第2回情報科学技術フォーラム予稿集(情報技術レターズ)，pp:123-124, 2003.
【発明の開示】
【発明が解決しようとする課題】
【０００６】
従来技術の問題点は、データを発生させる情報源の変化に対して適応的なモデル選択を行うことができないことである。その理由は、非特許文献１や非特許文献２の方式では、定常性を仮定するためである。
【０００７】
また、非特許文献３の方式では、適応的に逐次予測を行うことはできるが、最適なモデルを選択することはできない。
【０００８】
さらに、非特許文献４の方式は、適応的かつ逐次的にモデル選択を行うことはできるが、最初から現時点までのデータ全てについて最適なモデルを１つ選択する方式であるため、非定常な状況においてよい精度を持たない。
【０００９】
本発明の第１の目的は、情報源の変化に適応しながら精度のよいモデル選択を行うモデル選択計算装置，動的モデル選択装置，動的モデル選択方法およびプログラムを提供することにある。
【００１０】
本発明の第２の目的は、最適なモデルが変化した時点でリアルタイムにアラームを出すモデル選択計算装置，動的モデル選択装置，動的モデル選択方法およびプログラムを提供することである。
【００１１】
本発明の第３の目的は、最適なモデルが変化した時、構造的な変化を表すパタンを抽出するモデル選択計算装置，動的モデル選択装置，動的モデル選択方法およびプログラムを提供することにある。
【課題を解決するための手段】
【００１２】
本発明の請求項１のモデル選択計算装置（図１）は、時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布をそれぞれ記憶する予測分布記憶手段（図１の３２）と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、該予測分布記憶手段の内容を更新する予測分布更新手段（図１の３１）と、最適モデル系列の候補を記憶するモデル系列記憶手段（図１の３４）と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、前記モデル系列記憶手段から最適モデル系列の候補を読み込み、該モデル系列記憶手段の内容を更新するモデル系列更新手段（図１の３３）と、前記モデル系列記憶手段から最適モデル系列の候補を読み込み、現時点での最適モデル系列を計算して出力する最適モデル系列計算手段（図１の３５）とを備えることを特徴とする。
【００１３】
本発明の請求項２のモデル選択計算装置（図１）は、請求項１記載のモデル選択計算装置のモデル系列記憶手段（図１の３４）において、各時点でデータ数によらない一定数のモデル系列を記憶することを特徴とする。
【００１４】
本発明の請求項３のモデル選択計算装置（図３）は、請求項１記載のモデル選択計算装置にモデル遷移確率推定手段（図３の４１）をさらに備えることを特徴とする。
【００１５】
本発明の請求項４のモデル選択計算装置（図３）は、モデル系列記憶手段（図３の３４）において、各時点でデータ数の定数倍のモデル系列を記憶することを特徴とする。
【００１６】
本発明の請求項５のモデル選択計算装置（図５）は、時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布をそれぞれ記憶する予測分布記憶手段（図５の３２）と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、該予測分布記憶手段の内容を更新する予測分布更新手段（図５の３１）と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、入力データの確からしさを計算する確からしさ計算手段（図５の５１）と、該確からしさ計算手段で計算された確からしさを記憶する確からしさ記憶手段（図５の５２）と、モデルの遷移確率分布の予測分布を記憶するモデル遷移確率記憶手段（図５の５４）と、前記確からしさ記憶手段から記憶されている全ての確からしさを読み込み、前記モデル遷移確率記憶手段から予測分布を読み込み、該モデル遷移確率記憶手段の内容を更新するモデル遷移確率推定手段（図５の５３）と、前記確からしさ記憶手段から記憶されている全ての確からしさを読み込み、前記モデル遷移確率記憶手段から予測分布を読み込み、最適モデル系列を計算して出力する最適モデル系列計算手段（図５の５５）とを備えることを特徴とする。
【００１７】
本発明の請求項６のモデル選択計算装置（図３）は、請求項３記載のモデル選択計算装置のモデル遷移確率推定手段（図３の４１）において、ウィンドウ付推定を行うことを特徴とする。
【００１８】
本発明の請求項７のモデル選択計算装置（図５）は、請求項５記載のモデル選択計算装置のモデル遷移確率推定手段（図５の５３）において、ウィンドウ付推定を行うことを特徴とする。
【００１９】
本発明の請求項８のモデル選択計算装置（図３）は、請求項６記載のモデル選択計算装置のモデル系列記憶手段（図３の３４）において、各時点でデータ数によらない一定数のモデル系列を記憶することを特徴とする。
【００２０】
本発明の請求項９のモデル選択計算装置（図５）は、請求項７記載のモデル選択計算装置の確からしさ記憶手段（図５の５２）において、各時点でデータ数によらない一定数の確からしさを記憶することを特徴とする。
【００２１】
本発明の請求項１０の動的モデル選択装置（図１）は、時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布をそれぞれ記憶する予測分布記憶手段（図１の３２）と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、該予測分布記憶手段の内容を更新する予測分布更新手段（図１の３１）と、最適モデル系列の候補を記憶するモデル系列記憶手段（図１の３４）と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、前記モデル系列記憶手段から最適モデル系列の候補を読み込み、該モデル系列記憶手段の内容を更新するモデル系列更新手段（図１の３３）と、前記モデル系列記憶手段から最適モデル系列の候補を読み込み、現時点での最適モデル系列を計算して出力する最適モデル系列計算手段（図１の３５）とを備えることを特徴とする。
【００２２】
本発明の請求項１１の動的モデル選択装置（図１）は、請求項１０記載の動的モデル選択装置のモデル系列記憶手段（図１の３４）において、各時点でデータ数によらない一定数のモデル系列を記憶することを特徴とする。
【００２３】
本発明の請求項１２の動的モデル選択装置（図３）は、請求項１０記載の動的モデル選択装置にモデル遷移確率推定手段（図３の４１）をさらに備えることを特徴とする。
【００２４】
本発明の請求項１３の動的モデル選択装置（図３）は、モデル系列記憶手段（図３の３４）において、各時点でデータ数の定数倍のモデル系列を記憶することを特徴とする。
【００２５】
本発明の請求項１４の動的モデル選択装置（図５）は、時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布をそれぞれ記憶する予測分布記憶手段（図５の３２）と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、該予測分布記憶手段の内容を更新する予測分布更新手段（図５の３１）と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、入力データの確からしさを計算する確からしさ計算手段（図５の５１）と、該確からしさ計算手段で計算された確からしさを記憶する確からしさ記憶手段（図５の５２）と、モデルの遷移確率分布の予測分布を記憶するモデル遷移確率記憶手段（図５の５４）と、前記確からしさ記憶手段から記憶されている全ての確からしさを読み込み、前記モデル遷移確率記憶手段から予測分布を読み込み、該モデル遷移確率記憶手段の内容を更新するモデル遷移確率推定手段（図５の５３）と、前記確からしさ記憶手段から記憶されている全ての確からしさを読み込み、前記モデル遷移確率記憶手段から予測分布を読み込み、最適モデル系列を計算して出力する最適モデル系列計算手段（図５の５５）とを備えることを特徴とする。
【００２６】
本発明の請求項１５の動的モデル選択装置（図３）は、請求項１２記載の動的モデル選択装置のモデル遷移確率推定手段（図３の４１）において、ウィンドウ付推定を行うことを特徴とする。
【００２７】
本発明の請求項１６の動的モデル選択装置（図５）は、請求項１４記載の動的モデル選択装置のモデル遷移確率推定手段（図５の５３）において、ウィンドウ付推定を行うことを特徴とする。
【００２８】
本発明の請求項１７の動的モデル選択装置（図３）は、請求項１５記載の動的モデル選択装置のモデル系列記憶手段（図３の３４）において、各時点でデータ数によらない一定数のモデル系列を記憶することを特徴とする。
【００２９】
本発明の請求項１８の動的モデル選択装置（図５）は、請求項１６記載の動的モデル選択装置の確からしさ記憶手段（図５の５２）において、各時点でデータ数によらない一定数の確からしさを記憶することを特徴とする。
【００３０】
本発明の請求項１９の動的モデル選択装置（図７）は、請求項１０ないし請求項１８のいずれかに記載された動的モデル選択装置において、オンラインでモデル系列を出力するオンラインモデル系列出力手段（図７の６）をさらに備えることを特徴とする。
【００３１】
本発明の請求項２０の動的モデル選択装置（図９）は、請求項１９に記載された動的モデル選択装置において、オンラインでモデルが変化したときに検知するオンライン構造変化検出手段（図９の７）をさらに備えることを特徴とする。
【００３２】
本発明の請求項２１の動的モデル選択装置（図１１）は、請求項１０ないし請求項１８のいずれかに記載された動的モデル選択装置において、モデルが変化したときの特徴的な時系列データパタンを抽出して出力する特徴パタン抽出手段（図１１の８）をさらに備えることを特徴とする。
【００３３】
本発明の請求項２２の動的モデル選択装置（図１３）は、請求項１９に記載された動的モデル選択装置において、モデルが変化したときの特徴的な時系列データパタンを抽出して出力する特徴パタン抽出手段（図１３の８）をさらに備えることを特徴とする。
【００３４】
本発明の請求項２３の動的モデル選択方法は、時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布をそれぞれ予測分布記憶手段に記憶させる工程と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、該予測分布記憶手段の内容を更新する工程と、最適モデル系列の候補をモデル系列記憶手段に記憶させる工程と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、前記モデル系列記憶手段から最適モデル系列の候補を読み込み、該モデル系列記憶手段の内容を更新する工程と、前記モデル系列記憶手段から最適モデル系列の候補を読み込み、現時点での最適モデル系列を計算して出力する工程を含むことを特徴とする。
【００３５】
本発明の請求項２４の動的モデル選択方法は、請求項２３記載の動的モデル選択方法において、前記モデル系列記憶手段に対し、各時点でデータ数によらない一定数のモデル系列を記憶させる工程を含むことを特徴とする。
【００３６】
本発明の請求項２５の動的モデル選択方法は、請求項２３記載の動的モデル選択方法において、モデルの遷移確率を推定する工程をさらに含むことを特徴とする。
【００３７】
本発明の請求項２６の動的モデル選択方法は、請求項２５記載の動的モデル選択方法において、前記モデル系列記憶手段に対し、各時点でデータ数の定数倍のモデル系列を記憶させる工程を含むことを特徴とする。
【００３８】
本発明の請求項２７の動的モデル選択方法は、時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布を予測分布記憶手段に記憶させる工程と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、該予測分布記憶手段の内容を更新する工程と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、入力データの確からしさを計算する工程と、該確からしさ計算手段で計算された確からしさを確からしさ記憶手段に記憶させる工程と、モデルの遷移確率分布の予測分布をモデル遷移確率記憶手段に記憶させる工程と、前記確からしさ記憶手段から記憶されている全ての確からしさを読み込み、前記モデル遷移確率記憶手段から予測分布を読み込み、該モデル遷移確率記憶手段の内容を更新する工程と、前記確からしさ記憶手段から記憶されている全ての確からしさを読み込み、前記モデル遷移確率記憶手段から予測分布を読み込み、最適モデル系列を計算して出力する工程とを含むことを特徴とする。
【００３９】
本発明の請求項２８の動的モデル選択方法は、請求項２５記載の動的モデル選択方法において、モデル遷移確率のウィンドウ付推定を行う工程を含むことを特徴とする。
【００４０】
本発明の請求項２９の動的モデル選択方法は、請求項２７記載の動的モデル選択方法において、モデル遷移確率のウィンドウ付推定を行う工程を含むことを特徴とする。
【００４１】
本発明の請求項３０の動的モデル選択方法は、請求項２８記載の動的モデル選択方法において、前記モデル系列記憶手段に対し、各時点でデータ数によらない一定数のモデル系列を記憶させる工程を含むことを特徴とする。
【００４２】
本発明の請求項３１の動的モデル選択方法は、請求項２９記載の動的モデル選択方法において、前記確からしさ記憶手段に対し、各時点でデータ数によらない一定数の確からしさを記憶させる工程を含むことを特徴とする。
【００４３】
本発明の請求項３２の動的モデル選択方法は、請求項２３ないし請求項３１のいずれかに記載された動的モデル選択方法において、オンラインでモデル系列を出力する工程をさらに含むことを特徴とする。
【００４４】
本発明の請求項３３の動的モデル選択方法は、請求項３２に記載された動的モデル選択方法において、オンラインでモデルが変化したときに検知する工程をさらに含むことを特徴とする。
【００４５】
本発明の請求項３４の動的モデル選択方法は、請求項２３ないし請求項３１のいずれかに記載された動的モデル選択方法において、モデルが変化したときの特徴的な時系列データパタンを抽出して出力する工程をさらに含むことを特徴とする。
【００４６】
本発明の請求項３５の動的モデル選択方法は、請求項３２に記載された動的モデル選択方法において、モデルが変化したときの特徴的な時系列データパタンを抽出して出力する工程をさらに含むことを特徴とする。
【００４７】
本発明の請求項３６のプログラムは、コンピュータを、時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布をそれぞれ記憶する予測分布記憶手段と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、該予測分布記憶手段の内容を更新する予測分布更新手段と、最適モデル系列の候補を記憶するモデル系列記憶手段と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、前記モデル系列記憶手段から最適モデル系列の候補を読み込み、該モデル系列記憶手段の内容を更新するモデル系列更新手段と、前記モデル系列記憶手段から最適モデル系列の候補を読み込み、現時点での最適モデル系列を計算して出力する最適モデル系列計算手段として動作させることを特徴とする。
【００４８】
本発明の請求項３７のプログラムは、前記モデル系列記憶手段において、各時点でデータ数によらない一定数のモデル系列を記憶することを特徴とする。
【００４９】
本発明の請求項３８のプログラムは、モデル遷移確率を推定するモデル遷移確率推定手段をさらに備えることを特徴とする。
【００５０】
本発明の請求項３９のプログラムは、前記モデル系列記憶手段において、各時点でデータ数の定数倍のモデル系列を記憶することを特徴とする。
【００５１】
本発明の請求項４０のプログラムは、コンピュータを、時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布をそれぞれ記憶する予測分布記憶手段と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、該予測分布記憶手段の内容を更新する予測分布更新手段と、入力データを読み込み、前記予測分布記憶手段から予測分布を読み込み、入力データの確からしさを計算する確からしさ計算手段と、該確からしさ計算手段で計算された確からしさを記憶する確からしさ記憶手段と、モデルの遷移確率分布の予測分布を記憶するモデル遷移確率記憶手段と、前記確からしさ記憶手段から記憶されている全ての確からしさを読み込み、前記モデル遷移確率記憶手段から予測分布を読み込み、該モデル遷移確率記憶手段の内容を更新するモデル遷移確率推定手段と、前記確からしさ記憶手段から記憶されている全ての確からしさを読み込み、前記モデル遷移確率記憶手段から予測分布を読み込み、最適モデル系列を計算して出力する最適モデル系列計算手段として動作させることを特徴とする。
【００５２】
本発明の請求項４１のプログラムは、前記モデル遷移確率推定手段において、ウィンドウ付推定を行うことを特徴とする。
【００５３】
本発明の請求項４２のプログラムは、前記モデル遷移確率推定手段において、ウィンドウ付推定を行うことを特徴とする。
【００５４】
本発明の請求項４３のプログラムは、前記モデル系列記憶手段において、各時点でデータ数によらない一定数のモデル系列を記憶することを特徴とする。
【００５５】
本発明の請求項４４のプログラムは、前記確からしさ記憶手段において、各時点でデータ数によらない一定数の確からしさを記憶することを特徴とする。
【００５６】
本発明の請求項４５のプログラムは、請求項３６ないし請求項４４のいずれかに記載されたプログラムにおいて、オンラインでモデル系列を出力するオンラインモデル系列出力手段をさらに備えることを特徴とする。
【００５７】
本発明の請求項４６のプログラムは、請求項４５に記載されたプログラムにおいて、オンラインでモデルが変化したときに検知するオンライン構造変化検出手段をさらに備えることを特徴とする。
【００５８】
本発明の請求項４７のプログラムは、請求項３６ないし請求項４４のいずれかに記載されたプログラムにおいて、モデルが変化したときの特徴的な時系列データパタンを抽出して出力する特徴パタン抽出手段をさらに備えることを特徴とする。
【００５９】
本発明の請求項４８のプログラムは、請求項４５に記載されたプログラムにおいて、モデルが変化したときの特徴的な時系列データパタンを抽出して出力する特徴パタン抽出手段をさらに備えることを特徴とする。
【発明の効果】
【００６０】
本発明の第１の効果は、情報源の変化に適応しながら精度のよいモデル選択を行うことができることである。その理由は、モデル遷移確率を推定しながら逐次的に効率よく最適モデル系列を選択するからである。
【００６１】
本発明の第２の効果は、最適なモデルが変化した時点でリアルタイムにアラームを出すことができることである。その理由は、現在の時点で最も良いとされるモデルをリアルタイムに最適モデル系列から計算して出力し、これが変化したときにアラームを出すからである。
【００６２】
本発明の第３の効果は、最適なモデルが変化した時、構造的な変化を表すパタンを抽出できることである。その理由は、モデル系列の変化点においてその変化の原因となる特徴的なパタンを変化点前後の予測分布またはデータから抽出するからである。
【発明を実施するための最良の形態】
【００６３】
次に、本発明を実施するための最良の形態について図面を参照して詳細に説明する。
【００６４】
［第１の実施の形態］
図１は、本発明の第１の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。本実施の形態に係る動的モデル選択装置は、入力装置１と、出力装置２と、モデル選択計算装置３とから構成されている。
【００６５】
モデル選択計算装置３は、複数の予測分布更新手段３１と、複数の予測分布記憶手段３２と、モデル系列更新手段３３と、モデル系列記憶手段３４と、最適モデル系列計算手段３５とから構成されている。
【００６６】
入力装置１は、時系列データを入力する装置である。
【００６７】
出力装置２は、モデル選択計算装置３の処理結果を出力する装置である。
【００６８】
予測分布更新手段３１は、予測分布記憶手段３２に記憶されている予測分布を更新する手段である。
【００６９】
予測分布記憶手段３２は、時系列データを入力として、各データの発生を説明する複数個の相異なる予測分布をそれぞれ記憶する。
【００７０】
モデル系列更新手段３３は、モデル系列記憶手段３４に記憶されている最適モデル系列の候補となるモデル系列を更新する手段である。
【００７１】
モデル系列記憶手段３４は、最適モデル系列の候補を記憶する。
【００７２】
最適モデル系列計算手段３５は、モデル系列記憶手段３４に記憶されているモデル系列の中から最適なモデル系列を計算して出力する手段である。
【００７３】
図２は、図１の動的モデル選択装置の概略動作を表すフロー図であり、図１の動的モデル選択装置は、以下のように動作する。
【００７４】
まず、データが読み込まれる前に、複数個の相異なる予測分布をそれぞれ記憶するための予測分布記憶手段３２に格納されている各予測分布が初期化される（ステップＳ１０）。
【００７５】
次に、新たなデータｘが入力される度に、以下のように動作をする。
【００７６】
まず、データｘが予測分布更新手段３１およびモデル系列更新手段３３に渡されて格納される（ステップＳ１１）。
【００７７】
次に、モデル系列更新手段３３は、予測分布記憶手段３２より現在の予測分布を読み込み、これらの予測分布を用いてデータｘを発生した確からしさを計算する。また、モデル系列記憶手段３４に記憶されているモデル系列とこれらの確からしさとを用いて、現時点で最適モデル系列の候補となるモデル系列を計算し、モデル系列記憶手段３４の内容を書き換える（ステップＳ１２）。
【００７８】
続いて、最適モデル系列計算手段３５は、モデル系列記憶手段３４に記憶されているモデル系列を読み込み、これらの中から現時点で最適なモデル系列を計算して出力する（ステップＳ１３）。
【００７９】
そして、予測分布更新手段３１は、予測分布記憶手段３２より現在の予測分布を読み込み、データｘを使用して予測分布記憶手段３２に記憶されている予測分布の内容を書き換える（ステップＳ１４）。
【００８０】
以下でより具体的に説明する。
【００８１】
Ｋ個の確率モデルｋ（ｋ＝１，…，Ｋ）があるとする。時系列データｘｎ＝ｘ1，…，ｘｎがこの順に逐次的に与えられるとする。現在の時点をｎとする。予測分布更新手段３１は、各確率モデルｋ（ｋ＝１，…，Ｋ）を推定するためのあらゆる予測分布推定方式であってよい。例えば、最尤推定法とする。時点ｔの確率モデルをｋｔ（ｋｔ∈｛１，…，Ｋ｝）とする。時点ｔ−１までのモデル系列ｋｔ−１＝ｋ1，…，ｋｔ−１と時系列データｘｔ−１＝ｘ1，…，ｘｔ−１とが与えられたときに、ｋｔ＝ｋとなる条件付確率Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１，ｘｔ−１）が既知であるとする。
【００８２】
このとき、時系列データｘｎの同時確率は、数１で与えられる。
【００８３】
【数１】
2005141601.tif 000003
【００８４】
ここで、Σの添え字ｋｎは、全てのｋｎの組み合わせについて和をとることを意味する。また、ｘｔの確率は、各時点ｔの予測分布記憶手段３２に記憶されている予測分布を用いて計算される。このとき、−ｌｏｇ２Ｐ（ｘｎ）は、ｘｎを符号化するときの符号長という意味を持つ。以降では、ｌｏｇの底を全て２とし、これを省略して表記する。−ｌｏｇＰ（ｘｎ）について、数２の関係が成り立つ。
【００８５】
【数２】
2005141601.tif 000004
【００８６】
したがって、数３を動的モデル選択規準として定義し、これを最小化するｋｎを最適モデル系列とする。
【００８７】
【数３】
2005141601.tif 000005
【００８８】
モデル系列更新手段３３およびモデル系列記憶手段３４は、数３を最小化する最適モデル系列ｋｎを逐次的に計算して出力するための手段である。モデル系列記憶手段３４は、最適モデル系列の候補として必要な数のモデル系列およびそれぞれのモデル系列についての数３の値を記憶する。モデル系列更新手段３３は、モデル系列記憶手段３４に記憶されているモデル系列およびそれぞれのモデル系列についての数３の値を読み込み、これらを用いて現時点で最適モデル系列の候補として必要な数のモデル系列およびそれぞれのモデル系列についての数３の値を計算し、モデル系列記憶手段３４の内容を書き換える。
【００８９】
最適モデル系列計算手段３５は、モデル系列記憶手段３４に記憶されているモデル系列およびそれぞれのモデル系列についての数３の値を読み込み、これらの中で数３の値が最小となるモデル系列を最適モデル系列として出力する。
【００９０】
例えば、Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１，ｘｔ−１）＝Ｐ（ｋｔ＝ｋ｜ｋｔ−１）が成り立つときには、ViterbiによるViterbiアルゴリズム（Error bounds for convolutional codes and an asymptotically optimum decoding algorithm, IEEE Transactions on Information Theory, 13, pp:260-267, 1967）を用いて、モデル系列記憶手段３４において、各時点でＫ個のモデル系列のみを記憶しながら、数３を最小化する最適モデル系列ｋｎをＯ（Ｋ２ｎ）の計算量で逐次的に効率良く計算することができる。このとき、モデル系列更新手段３３では、各時点ｔでのモデルがｋｔ＝ｋ（ｋ＝１，…，Ｋ）となるＫ通りの場合についてそれぞれ最適な系列を１つだけ記憶する。数４において、Ｓ（ｋ，ｔ）は、時刻ｔでｋｔ＝ｋとなるモデル系列の中で最適な系列についての数３の値を表す。
【００９１】
【数４】
2005141601.tif 000006
【００９２】
すなわち、モデル系列更新手段３３は、モデル系列記憶手段３４に記憶されているｋｔ−１＝ｋ’（ｋ’＝１，…，Ｋ）となるＫ個のモデル系列およびそれぞれのモデル系列についてのＳ（ｋ’，ｔ−１）の値を読み込み、これらを用いて数４に従って時刻ｔでｋｔ＝ｋとなる最適なモデル系列およびＳ（ｋ，ｔ）を計算し、モデル系列記憶手段３４の内容を書き換える。
【００９３】
最適モデル系列計算手段３５は、モデル系列記憶手段３４に記憶されているＫ個のモデル系列およびそれぞれのモデル系列についてのＳ（ｋ，ｔ）の値を読み込み、これらの中でＳ（ｋ，ｔ）の値が最小となるモデル系列を最適モデル系列として出力する。
【００９４】
特に、Ｐ（ｋｔ＝ｋ｜ｋｔ−１）が数５となる場合、数３は、Rissanenの予測的確率的コンプレキシティ（Universal coding, information, prediction, and estimation, IEEE
Transactions on Information Theory, 30, pp:629-636, 1984）に一致する。
【００９５】
【数５】
2005141601.tif 000007
【００９６】
また、Ｐ（ｋｔ＝ｋ｜ｋｔ−１）が数６となる場合、モデルは隣接するモデルにのみ遷移する。後ほど実施例において述べるように、数６は、全体のデータの構造の変化を調べることに有効である。
【００９７】
【数６】
2005141601.tif 000008
【００９８】
第１の実施の形態によれば、モデルの遷移確率が既知である場合に、情報源の変化に適応しながら精度のよいモデル選択を行うことができる。
【００９９】
［第２の実施の形態］
次に、本発明の第２の発明を実施するための最良の形態について図面を参照して詳細に説明する。
【０１００】
図３は、本発明の第２の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。本実施の形態に係る動的モデル選択装置は、入力装置１と、出力装置２と、モデル選択計算装置４とから構成されている。
【０１０１】
図３を参照すると、第２の実施の形態に係る動的モデル選択装置におけるモデル選択計算装置４は、図１に示された第１の実施の形態に係る動的モデル選択装置におけるモデル選択計算装置３に対して、モデル遷移確率推定手段４１を付加した点だけが異なる。
【０１０２】
予測分布更新手段３１および予測分布記憶手段３２の動作は、図１の動的モデル選択装置における各手段３１および３２の動作と同一のため、説明は省略する。
【０１０３】
図４は、図３の動的モデル選択装置の概略動作を表すフロー図である。ステップＳ２２では、モデル遷移確率が未知である場合に、モデル遷移確率推定手段４１によりモデル遷移確率の推定を行う。ステップＳ２０，Ｓ２１およびＳ２３〜Ｓ２５の動作は、図２のステップＳ１０〜Ｓ１４の動作と同一のため、説明は省略する。
【０１０４】
以下でより具体的に説明する。
【０１０５】
時点ｔ−１までのモデル系列ｋｔ−１＝ｋ1，…，ｋｔ−１と時系列データｘｔ−１＝ｘ1，…，ｘｔ−１とが与えられたときに、ｋｔ＝ｋとなる条件付確率Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１，ｘｔ−１）が未知であるとする。モデル遷移確率推定手段４１は、このＰｔを推定する手段である。ここでは、数７のように、推定された確率分布を用いて動的モデル選択規準を定義し、これを最小化するｋｎを最適モデル系列とする。
【０１０６】
【数７】
2005141601.tif 000009
【０１０７】
モデル系列更新手段３３およびモデル系列記憶手段３４は、数７を最小化する最適モデル系列ｋｎを逐次的に計算して出力するための手段である。モデル系列記憶手段３４は、最適モデル系列の候補として必要な数のモデル系列およびそれぞれのモデル系列についての数７の値を記憶する。モデル系列更新手段３３は、モデル系列記憶手段３４に記憶されているモデル系列およびそれぞれのモデル系列についての数７の値を読み込み、これらを用いて現時点で最適モデル系列の候補として必要な数のモデル系列およびそれぞれのモデル系列についての数７の値を計算し、モデル系列記憶手段３４の内容を書き換える。
【０１０８】
最適モデル系列計算手段３５は、モデル系列記憶手段３４に記憶されているモデル系列およびそれぞれのモデル系列についての数７の値を読み込み、これらの中で数７の値が最小となるモデル系列を最適モデル系列として出力する。
【０１０９】
例えば、Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１，ｘｔ−１）＝Ｐｔ（ｋｔ＝ｋ）が成り立つときには、数８から数１０を用いて、Ｐｔ（ｋｔ＝ｋ）を推定しながら数７を最小化する最適モデル系列ｋｎを効率良く計算することができる。
【０１１０】
【数８】
2005141601.tif 000010
【０１１１】
【数９】
2005141601.tif 000011
【０１１２】
【数１０】
2005141601.tif 000012
【０１１３】
モデル遷移確率推定手段４１では、数８および数９を計算する。ただし、過去のデータの忘却の速さを表す定数ｒ（０＜ｒ＜１；ｒが大きい程、過去のデータを速く忘却する）は予め与えられているものとし、データが読み込まれる前にＰｔ（ｋｔ）の全てのパラメータは初期化されているものとする。モデル系列更新手段３３において、各時点で数１０が最小となるｋを選び、これをモデル系列記憶手段３４にて記憶する。
【０１１４】
以上のアルゴリズムを用いれば、後ほど実施例において述べるように、各時点でモデルが独立に発生し、その発生確率が未知の場合に全体のデータの構造の変化を効率よく分析することができる。特に、定数ｒによって過去のデータをほどよく忘れながら適応的に推定を行うため、モデルの発生確率が時間とともに変化する場合においても精度よくモデル選択を行うことができる。
【０１１５】
また、例えば、Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１，ｘｔ−１）＝Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１）が成り立ち、Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１）が一定で数６（ただし、αを未知とする）の形で与えられる場合には、数１１および数１２を用いて、Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１）を推定しながら数７を最小化する最適モデル系列ｋｎをＯ（Ｋｎ）の計算量で逐次的に効率良く計算することができる。
【０１１６】
【数１１】
2005141601.tif 000013
【０１１７】
【数１２】
2005141601.tif 000014
【０１１８】
ただし、データが読み込まれる前にＰｔ（ｋｔ＝ｋ｜ｋｔ−１）の全てのパラメータは初期化されているものとする。
【０１１９】
数１１では、αについて、Krichevsky and Trofimov型の推定（The performance of universal encoding, IEEE Transactions on Information Theory, 27, pp:199-207, 1981）を行う。ここで、Ｎｋ，ｔは、時点ｔでモデルｋとなるまでにモデルが変化した回数を表す。また、数１２の第３項目は、数６のαに数１１のα（Ｎｋ，ｔ）を代入した値とする。このとき、モデル系列記憶手段３４においては、各時点でＫｔ個のモデル系列のみを記憶する。また、モデル系列更新手段３３においては、各時点ｔで３（ｔ−１）個のパスの比較を行う。
【０１２０】
以上のアルゴリズムについて、データ数が十分大きいところでは、数７の最適値の上界が数１３の理論的な限界値と一致する。
【０１２１】
【数１３】
2005141601.tif 000015
【０１２２】
ただし、数１３において、ｍをモデルが変化した回数、ｔ１，…，ｔｍを変化が起きた時点とする（ｔｋ＝１，tｍ＋１＝ｎ＋１）。ｋ（ｊ）をｔ＝ｔｊ，…ｔｊ＋１−１のモデルとする（ｊ＝０，…ｍ）。
【０１２３】
また、以上のアルゴリズムを用いれば、後ほど実施例において述べるように、モデル遷移確率が未知かつ一定の場合に全体のデータの構造の変化を効率よく分析することができる。
【０１２４】
また、例えば、Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１，ｘｔ−１）＝Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１）が成り立ち、数６（ただし、αを未知とする）の形で与えられるＰｔ（ｋｔ＝ｋ｜ｋｔ−１）が時間とともに変化する場合には、モデル遷移確率推定手段４１において、ウィンドウ付のKrichevsky and Trofimov型の推定を行う。数１４および数１５を用いて、Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１）を推定しながら数７を最小化する最適モデル系列ｋｎをＯ（ＫＢ＋１ｎ）の計算量で逐次的に効率良く計算することができる。
【０１２５】
【数１４】
2005141601.tif 000016
【０１２６】
【数１５】
2005141601.tif 000017
【０１２７】
ただし、データが読み込まれる前にＰｔ（ｋｔ＝ｋ｜ｋｔ−１）の全てのパラメータは初期化されているものとする。
【０１２８】
ここで、Ｂはウィンドウの大きさであり、現時点からＢ時点前以降のデータのみを推定に用いる。数１４では、Ｂ時点前から現時点までにモデルが変化した回数を用いてαの推定を行う。また、数１５の第３項目は、数６のαに数１４での推定値を代入した値とする。モデル系列記憶手段３４においては、各時点でＫＢ個のモデル系列のみを記憶する。また、モデル系列更新手段３３においては、各時点ｔで３ＫＢ個のパスの比較を行う。
【０１２９】
以上のアルゴリズムを用いれば、後ほど実施例において述べるように、モデル遷移確率が未知かつ時間とともに変化する場合に全体のデータの構造の変化を効率よく分析することができる。
【０１３０】
第２の実施の形態によれば、モデルの遷移確率が未知である場合に、情報源の変化に適応しながら精度のよいモデル選択を行うことができる。
【０１３１】
［第３の実施の形態］
次に、本発明の第３の発明を実施するための最良の形態について図面を参照して詳細に説明する。
【０１３２】
図５は、本発明の第３の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。本実施の形態に係る動的モデル選択装置は、入力装置１と、出力装置２と、モデル選択計算装置５とから構成されている。
【０１３３】
モデル選択計算装置５は、複数の予測分布更新手段３１と、複数の予測分布記憶手段３２と、複数の確からしさ計算手段５１と、複数の確からしさ記憶手段５２と、モデル遷移確率推定手段５３と、モデル遷移確率記憶手段５４と、最適モデル系列計算手段５５とから構成されている。
【０１３４】
予測分布更新手段３１および予測分布記憶手段３２の動作は、図１の動的モデル選択装置における各手段３１および３２の動作と同一のため、説明は省略する。
【０１３５】
確からしさ計算手段５１は、入力データを読み込み、予測分布記憶手段３２に記憶されている予測分布を読み込み、この予測分布を用いてデータの確からしさを計算する。
【０１３６】
確からしさ記憶手段５２は、確からしさ計算手段５１で計算された確からしさを記憶する。
【０１３７】
モデル遷移確率推定手段５３は、確からしさ記憶手段５２に記憶されている確からしさを用いてモデル遷移確率を推定する。
【０１３８】
モデル遷移確率記憶手段５４は、モデル遷移確率推定手段５３で計算されたモデル遷移確率を記憶する。
【０１３９】
最適モデル系列計算手段５５は、モデル遷移確率記憶手段５４に記憶されているモデル遷移確率を読み込み、この確率を用いて最適モデル系列を計算し、これを出力する。
【０１４０】
図６は、図５の動的モデル選択装置の概略動作を表すフロー図である。
【０１４１】
ステップＳ３２では、確からしさ計算手段５１において確からしさを計算する。ステップＳ３３では、モデル遷移確率推定手段５３においてモデル遷移確率の推定を行う。ステップＳ３４では、最適モデル系列計算手段５５において最適モデル系列の候補を計算する。ステップＳ３５では、計算された最適モデル系列を出力する。
【０１４２】
ステップＳ３０，Ｓ３１およびＳ３６の動作は、図２のステップＳ１０，Ｓ１１およびＳ１４の動作と同一のため、説明は省略する。
【０１４３】
以下でより具体的に説明する。
【０１４４】
モデル遷移確率推定手段５３では、数１のモデル遷移確率を現時点までの全てのデータの確からしさを用いて計算する。
【０１４５】
また、最適モデル系列計算手段５５では、モデル遷移確率推定手段５３で推定された予測分布による確率値を用いて数７を最小化するモデル系列を選択する。
【０１４６】
例えば、Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１，ｘｔ−１）＝Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１）が成り立ち、Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１）が未知かつ一定の場合、モデル遷移確率推定手段５３では、隠れマルコフモデルのパラメータ推定ではよく用いられるBaumらによるBaum‐Welchアルゴリズム（A maximization technique occurring in the statistical analysis of probabilistic functions of Markov chains, The Annals of Mathematical Statistics, 41(1), pp:164-171, 1970）を用いてこれを推定することができる。ただし、データが読み込まれる前にＰｔ（ｋｔ＝ｋ｜ｋｔ−１）の全てのパラメータは初期化されているものとする。また、時点ｔにおけるＰｔ（ｋｔ＝ｋ｜ｋｔ−１）の推定パラメータは、時点ｔ＋１におけるBaum‐Welchアルゴリズムの初期値に用いることもできる。また、最適モデル系列計算手段５５では、Viterbiアルゴリズムを用いて数７を最小化するモデル系列を選択することができる。
【０１４７】
また、例えば、Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１，ｘｔ−１）＝Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１）が成り立ち、Ｐｔ（ｋｔ＝ｋ｜ｋｔ−１）が未知かつ時間とともに変化する場合には、モデル遷移確率推定手段５３において、ウィンドウ付の遷移確率推定を行う。すなわち、Ｂ時点前から現時点までのデータの確からしさを用いて、Baum‐Welchアルゴリズムによるモデル遷移確率の推定を行う。この場合、確からしさ記憶手段５２では、現時点よりＢ時点前以降のデータの確からしさを記憶しておけば十分である。
【０１４８】
以上の第３の実施の形態は、第２の実施の形態とはモデル遷移確率の推定方法が異なる。第３の実施の形態では、第２の実施の形態に比べてデータの確からしさを記憶する必要があり、また計算時間も増加するが、より精度のよいモデル選択を行うことができる可能性がある。
【０１４９】
第３の実施の形態によれば、モデルの遷移確率が未知である場合に、情報源の変化に適応しながら精度のよいモデル選択を行うことができる。
【０１５０】
［第４の実施の形態］
次に、本発明の第４の発明を実施するための最良の形態について図面を参照して詳細に説明する。
【０１５１】
図７は、本発明の第４の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。第４の実施の形態に係る動的モデル選択装置は、入力装置１と、モデル選択計算装置３〜５のいずれかと、オンラインモデル系列出力手段６と、出力装置２とから構成されている。
【０１５２】
モデル選択計算装置３〜５のいずれかの動作は、第１〜第３の実施の形態と同一のため、説明は省略する。
【０１５３】
図８は、図７の動的モデル選択装置の概略動作を表すフロー図である。
【０１５４】
ステップＳ４２では、第１〜第３の実施の形態に係るモデル選択計算装置３〜５のいずれかを用いて最適モデル系列の計算を行う。ステップＳ４３では、ステップＳ４２で計算された最適モデル系列を用いて、オンラインモデル系列出力手段６によりリアルタイムに選択結果のモデルを出力する。ステップＳ４０およびＳ４１の動作は、図２のステップＳ１０およびＳ１１の動作と同一のため、説明は省略する。
【０１５５】
オンラインモデル系列出力手段６では、各時点において、第１〜第３の実施の形態に係るモデル選択計算装置３〜５のいずれかを用いて出力される最適モデル系列の最終要素を出力することにより、リアルタイムでモデル選択を行うことができる。また、最終要素の代わりに最後の数個の要素を出力してもよい。第１〜第３の実施の形態に係るモデル選択計算装置３〜５のいずれかを用いて出力される最適モデル系列とオンラインモデル系列出力手段６により各時点で出力したモデルを並べてできるモデル系列とは一致するとは限らず、後者は前者に比べてある程度精度が落ちるが効率的なモデル選択を実現する。
【０１５６】
第４の実施の形態によれば、情報源の変化に適応しながらリアルタイムに精度よくモデル選択を行うことができる。
【０１５７】
［第５の実施の形態］
次に、本発明の第５の発明を実施するための最良の形態について図面を参照して詳細に説明する。
【０１５８】
図９は、本発明の第５の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。第５の実施の形態に係る動的モデル選択装置は、入力装置１と、モデル選択計算装置３〜５のいずれかと、オンラインモデル系列出力手段６と、オンライン構造変化検出手段７と、出力装置２とから構成されている。
【０１５９】
モデル選択計算装置３〜５のいずれかの動作は、第１〜第３の実施の形態と同一のため、説明は省略する。
【０１６０】
図１０は、図９の動的モデル選択装置の概略動作を表すフロー図である。
【０１６１】
ステップＳ５２では、第１〜第３の実施の形態に係るモデル選択計算装置３〜５のいずれかを用いて最適モデル系列の計算を行う。ステップＳ５４では、ステップＳ５３で出力されたモデル系列を用いて、オンライン構造変化検出手段７によりリアルタイムにモデルの変化に対してアラームを挙げるなどの検知を行う。ステップＳ５０〜Ｓ５３の動作は、図８のステップＳ４０〜Ｓ４３の動作と同一のため、説明は省略する。
【０１６２】
オンライン構造変化検出手段７では、各時点においてオンラインモデル系列出力手段６において出力されるモデルを受け取り、これが前時点に受け取ったモデルと異なったときにアラームを挙げる等により変化を通知する。
【０１６３】
第５の実施の形態によれば、最適なモデルが変化した時点でリアルタイムにアラームを出すことができる。
【０１６４】
［第６の実施の形態］
次に、本発明の第６の発明を実施するための最良の形態について図面を参照して詳細に説明する。
【０１６５】
図１１は、本発明の第６の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。第６の実施の形態に係る動的モデル選択装置は、入力装置１と、モデル選択計算装置３〜５のいずれかと、特徴パタン抽出手段８と、出力装置２とから構成されている。
【０１６６】
モデル選択計算装置３〜５のいずれかの動作は、第１〜第３の実施の形態と同一のため、説明は省略する。
【０１６７】
図１２は、図１１の動的モデル選択装置の概略動作を表すフロー図である。
【０１６８】
ステップＳ６２では、第１〜第３の実施の形態に係るモデル選択計算装置３〜５のいずれかを用いて最適モデル系列の計算を行う。ステップＳ６３では、ステップＳ６２で出力されたモデル系列を用いて、特徴パタン抽出手段８によりモデルの変化点で特徴パタンを出力する。ステップＳ６０およびＳ６１の動作は、図１のステップＳ１０およびＳ１１の動作と同一のため、説明は省略する。
【０１６９】
特徴パタン抽出手段８では、最適モデル系列を受け取り、モデルの変化点でその変化の特徴を表す特徴パタンを出力する。
【０１７０】
第６の実施の形態によれば、最適なモデルが変化した時、構造的な変化を表すパタンを抽出することができる。
【０１７１】
［第７の実施の形態］
次に、本発明の第７の発明を実施するための最良の形態について図面を参照して詳細に説明する。
【０１７２】
図１３は、本発明の第７の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。第７の実施の形態に係る動的モデル選択装置は、入力装置１と、モデル選択計算装置３〜５のいずれかと、オンラインモデル系列出力手段６と、特徴パタン抽出手段８と、出力装置２とから構成されている。
【０１７３】
モデル選択計算装置３〜５のいずれかの動作は、第１〜第３の実施の形態と同一のため、説明は省略する。
【０１７４】
図１４は、図１３の動的モデル選択装置の概略動作を表すフロー図である。
【０１７５】
ステップＳ７２では、第１〜第３の実施の形態に係るモデル選択計算装置３〜５のいずれかを用いて最適モデル系列の計算を行う。ステップＳ７４では、ステップＳ７３で出力されたモデル系列を用いて、特徴パタン抽出手段８によりモデルの変化点で特徴パタンを出力する。ステップＳ７０，Ｓ７１およびＳ７３の動作は、図５のステップＳ５０，Ｓ５１およびＳ５３の動作と同一のため、説明は省略する。
【０１７６】
特徴パタン抽出手段８では、最適モデル系列を受け取り、モデルの変化点でその変化の特徴を表す特徴パタンを出力する。
【０１７７】
第７の実施の形態によれば、最適なモデルが変化した時、構造的な変化を表すパタンを抽出することができる。
【０１７８】
［第８の実施の形態］
図１５は、本発明の第８の実施の形態に係るモデル選択計算装置３の構成を示すブロック図である。本実施の形態に係るモデル選択計算装置３は、図１に示した第１の実施の形態に係るモデル選択計算装置３に対してモデル選択計算プログラム１００を付加するようにした点だけが異なる。したがって、その他の特に言及しない部分には同一符号を付して、それらの詳しい説明を省略する。
【０１７９】
モデル選択計算プログラム１００は、コンピュータでなるモデル選択計算装置３に読み込まれ、モデル選択計算装置３の動作を、複数の予測分布更新手段３１，複数の予測分布記憶手段３２，モデル系列更新手段３３，モデル系列記憶手段３４，および最適モデル系列計算手段３５として制御する。モデル選択計算プログラム１００の制御によるモデル選択計算装置３の動作は、第１の実施の形態に係るモデル選択計算装置３の動作と全く同様になるので、その詳しい説明を割愛する。
【０１８０】
［第９の実施の形態］
図１６は、本発明の第９の実施の形態に係るモデル選択計算装置４の構成を示すブロック図である。本実施の形態に係るモデル選択計算装置４は、図３に示した第２の実施の形態に係るモデル選択計算装置４に対してモデル選択計算プログラム１０１を付加するようにした点だけが異なる。したがって、その他の特に言及しない部分には同一符号を付して、それらの詳しい説明を省略する。
【０１８１】
モデル選択計算プログラム１０１は、コンピュータでなるモデル選択計算装置４に読み込まれ、モデル選択計算装置４の動作を、複数の予測分布更新手段３１，複数の予測分布記憶手段３２，モデル系列更新手段３３，モデル系列記憶手段３４，最適モデル系列計算手段３５，およびモデル遷移確率推定手段４１として制御する。モデル選択計算プログラム１０１の制御によるモデル選択計算装置４の動作は、第２の実施の形態に係るモデル選択計算装置４の動作と全く同様になるので、その詳しい説明を割愛する。
【０１８２】
［第１０の実施の形態］
図１７は、本発明の第１０の実施の形態に係るモデル選択計算装置５の構成を示すブロック図である。本実施の形態に係るモデル選択計算装置５は、図５に示した第３の実施の形態に係るモデル選択計算装置５に対してモデル選択計算プログラム１０２を付加するようにした点だけが異なる。したがって、その他の特に言及しない部分には同一符号を付して、それらの詳しい説明を省略する。
【０１８３】
モデル選択計算プログラム１０２は、コンピュータでなるモデル選択計算装置５に読み込まれ、モデル選択計算装置５の動作を、複数の予測分布更新手段３１，複数の予測分布記憶手段３２，複数の確からしさ計算手段５１，複数の確からしさ記憶手段５２，モデル遷移確率推定手段５３，モデル遷移確率記憶手段５４，および最適モデル系列計算手段５５として制御する。モデル選択計算プログラム１０２の制御によるモデル選択計算装置５の動作は、第３の実施の形態に係るモデル選択計算装置５の動作と全く同様になるので、その詳しい説明を割愛する。
【０１８４】
［第１１の実施の形態］
図１８は、本発明の第１１の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。本実施の形態に係る動的モデル選択装置は、図７に示した第４の実施の形態に係る動的モデル選択装置に対して動的モデル選択プログラム２００を付加するようにした点だけが異なる。したがって、その他の特に言及しない部分には同一符号を付して、それらの詳しい説明を省略する。
【０１８５】
動的モデル選択プログラム２００は、コンピュータでなる動的モデル選択装置に読み込まれ、動的モデル選択装置の動作を、モデル選択計算装置３ないし５のいずれか，およびオンラインモデル系列出力手段６として制御する。動的モデル選択プログラム２００の制御による動的モデル選択装置の動作は、第４の実施の形態に係る動的モデル選択装置の動作と全く同様になるので、その詳しい説明を割愛する。
【０１８６】
［第１２の実施の形態］
図１９は、本発明の第１２の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。本実施の形態に係る動的モデル選択装置は、図９に示した第５の実施の形態に係る動的モデル選択装置に対して動的モデル選択プログラム２０１を付加するようにした点だけが異なる。したがって、その他の特に言及しない部分には同一符号を付して、それらの詳しい説明を省略する。
【０１８７】
動的モデル選択プログラム２０１は、コンピュータでなる動的モデル選択装置に読み込まれ、動的モデル選択装置の動作を、モデル選択計算装置３ないし５のいずれか，オンラインモデル系列出力手段６，およびオンライン構造変化検出手段７として制御する。動的モデル選択プログラム２０１の制御による動的モデル選択装置の動作は、第５の実施の形態に係る動的モデル選択装置の動作と全く同様になるので、その詳しい説明を割愛する。
【０１８８】
［第１３の実施の形態］
図２０は、本発明の第１３の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。本実施の形態に係る動的モデル選択装置は、図１１に示した第６の実施の形態に係る動的モデル選択装置に対して動的モデル選択プログラム２０２を付加するようにした点だけが異なる。したがって、その他の特に言及しない部分には同一符号を付して、それらの詳しい説明を省略する。
【０１８９】
動的モデル選択プログラム２０２は、コンピュータでなる動的モデル選択装置に読み込まれ、動的モデル選択装置の動作を、モデル選択計算装置３ないし５のいずれか，および特徴パタン抽出手段８として制御する。動的モデル選択プログラム２０２の制御による動的モデル選択装置の動作は、第６の実施の形態に係る動的モデル選択装置の動作と全く同様になるので、その詳しい説明を割愛する。
【０１９０】
［第１４の実施の形態］
図２１は、本発明の第１４の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。本実施の形態に係る動的モデル選択装置は、図１３に示した第７の実施の形態に係る動的モデル選択装置に対して動的モデル選択プログラム２０３を付加するようにした点だけが異なる。したがって、その他の特に言及しない部分には同一符号を付して、それらの詳しい説明を省略する。
【０１９１】
動的モデル選択プログラム２０３は、コンピュータでなる動的モデル選択装置に読み込まれ、動的モデル選択装置の動作をモデル選択計算装置３ないし５のいずれか，オンラインモデル系列出力手段６，および特徴パタン抽出手段８として制御する。動的モデル選択プログラム２０３の制御による動的モデル選択装置の動作は、第７の実施の形態に係る動的モデル選択装置の動作と全く同様になるので、その詳しい説明を割愛する。
【実施例】
【０１９２】
次に、具体的な実施例を用いて本発明を実施するための最良の形態の動作を説明する。
【０１９３】
本発明の第１の実施の形態に係る動的モデル選択装置（図１）および第１の実施の形態に係る動的モデル選択方法（図２）の実施例について説明する。本実施例では、例として、データを離散値ベクトルデータとし、確率分布を混合マルコフモデルとして説明する。
【０１９４】
あるユーザーのコマンド履歴を一定時間ごとに記録したものが１入力データとして入力装置１から得られる。ここで、各入力データの長さは異なっていてもよい。例えば、コマンド列“（ｃｄ，ｌｓ，ｃｐ，…）”を１入力データとする。このとき、混合分布の各マルコフモデルは、例えばこれらの各コマンド列のうち類似するものを集めた集合となり、複数のユーザーの行動パタンを表現する。ここで、混合分布の混合の数ｋをｋ＝１，…，Ｋとして、予測分布更新手段３１および予測分布記憶手段３２によって、Ｋ通りの予測分布を並列に逐次計算する。動的モデル選択装置は、このＫ通りの予測分布の中から各時点でデータに最も適しているものを選択するための手段である。各時点で最初から現時点までの最適なモデル系列を出力する。逐次的に、モデル系列記憶手段３４による最適モデルの候補となるモデル系列の記憶とモデル系列更新手段３３によるそれらのモデル系列の更新とを繰り返しながら、各時点で最適なモデル系列を最適モデル系列計算手段３５によって計算して出力する。例えば、１，１，１，２，２，…というモデル系列が出力されたとき、これはユーザーの行動パタンが１個から２個に増えたことを意味する。
【０１９５】
以上の第１の実施の形態に係る動的モデル選択装置および第１の実施の形態に係る動的モデル選択方法の実施例は、例えばユーザーの使うコマンドが周期性を持って変化しているなど、あらかじめ行動パタンの増減のタイミング、すなわちモデルの遷移確率が分かっている場合に特に有効である。
【０１９６】
図２２は、コマンド履歴データからなりすまし者が入ったときのコマンドパタンの変化を調べた実験結果である。使用したデータは、Shonlau et al. (Computer Intrusion: Detecting masquerades, Statistical Science. 16(1), pp:58-74, 2001)によって集められたなりすまし検出のベンチマークデータである。図２２において、横軸はデータ数、縦軸はコマンドパタン数を表す。図に示されているように、途中になりすまし者のコマンドデータが混入しており、非特許文献４の手法と本手法とを比較したところ、非特許文献４の手法ではなりすまし区間ではパタンの数が変化せず、しばらく時間が経過してからパタン数の増加が見られるのに対し、本手法では精度よくなりすまし者のコマンドデータが混入されている区間を検出した。
【０１９７】
本発明の第２の実施の形態に係る動的モデル選択装置（図３）および第２の実施の形態に係る動的モデル選択方法（図４）の実施例について説明する。例えば、上の例において、行動パタンの増減のタイミングが未知である場合に、モデル遷移確率推定手段４１によってモデル遷移確率の推定を行う。
【０１９８】
本発明の第３の実施の形態に係る動的モデル選択装置（図５）および第３の実施の形態に係る動的モデル選択方法（図６）の実施例について説明する。本実施例も、例えば、上の例において、行動パタンの増減のタイミングが未知である場合に、モデル遷移確率推定手段４１によってモデル遷移確率の推定を行う。第２の実施の形態に係る動的モデル選択装置および第２の実施の形態に係る動的モデル選択方法とは、モデル遷移確率の推定方法が異なる。
【０１９９】
本発明の第４の実施の形態に係る動的モデル選択装置（図７）および第４の実施の形態に係る動的モデル選択方法（図８）の実施例について説明する。本実施例では、オンラインモデル出力手段６により、リアルタイムに現在の時点に良いとされるモデルを出力する。これにより、例えば、上の例においては、ユーザーの行動パタンの増加をオンラインで知ることができる。
【０２００】
本発明の第５の実施の形態に係る動的モデル選択装置（図９）および第５の実施の形態に係る動的モデル選択方法（図１０）の実施例について説明する。本実施例では、オンラインモデル出力手段６によりリアルタイムに出力されるモデルを用いて、オンライン構造変化検出手段７によりモデルが変化した時点でアラームを出す。例えば、上の例においては、新しいコマンドパタンの増加には他のユーザーが正規ユーザーになりすましている可能性があり、パタンの増減に対してアラームを挙げることでなりすましを検出することができる。
【０２０１】
本発明の第６の実施の形態に係る動的モデル選択装置（図１１）および第６の実施の形態に係る動的モデル選択方法（図１２）の実施例について説明する。本実施例では、最適モデル系列の変化点において特徴パタン抽出手段８によって変化の原因となるパタンを抽出する。例えば、上の例において、１，１，１，２，２，…というモデル系列が出力されたとき、パタンの個数が１から２に変化した前後の予測分布やデータを比較することで新たに生成されたコマンドパタンを知ることができる。また、新たに生成されたコマンドパタンがなりすまし者のコマンドパタンであった場合には、特徴パタン抽出手段８によって新しく増えたコマンドパタンを抽出することにより、なりすまし者のコマンドの使い方のくせをとらえることができる。
【０２０２】
本発明の第７の実施の形態に係る動的モデル選択装置（図１３）および第７の実施の形態に係る動的モデル選択方法（図１４）の実施例について説明する。本実施例では、オンラインモデル出力手段６によりリアルタイムに出力されるモデルを用いて、モデルの変化点において特徴パタン抽出手段８によって変化の原因となるパタンを抽出する。例えば、上の例において、１，１，１，２，２，…というモデル系列が出力されたとき、パタンの個数が１から２に変化した前後の予測分布やデータを比較することで新たに生成されたコマンドパタンをリアルタイムに知ることができる。
【産業上の利用可能性】
【０２０３】
以上のコマンド履歴解析およびなりすまし検出への応用の他の応用例を挙げる。
【０２０４】
例えば、Ｗｅｂサイトへのアクセスパタン分析に応用される。あるＷｅｂサイトにアクセスする顧客の行動を分析し、新しく生成あるいは消滅する行動パタンを知ることで全体の顧客行動を理解することができ、Ｗｅｂデザインの評価等のＣＲＭ（Customer Relationship Management）に有効である。
【０２０５】
また、例えば、障害検出に応用される。ＣＰＵ（Central Processing Unit）の使用率などのリソース使用量を監視して、新しく生成あるいは消滅するパタンを知ることで障害のパタン発見，障害予防等に有効である。
【０２０６】
この他に、経済データ解析，署名認証，ビデオ画像等の動画を用いた動体解析等において新しいパタンの把握に有効である。
【図面の簡単な説明】
【０２０７】
【図１】本発明の第１の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。
【図２】本発明の第１の実施の形態に係る動的モデル選択装置の動作を示すフロー図である。
【図３】本発明の第２の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。
【図４】本発明の第２の実施の形態に係る動的モデル選択装置の動作を示すフロー図である。
【図５】本発明の第３の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。
【図６】本発明の第３の実施の形態に係る動的モデル選択装置の動作を示すフロー図である。
【図７】本発明の第４の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。
【図８】本発明の第４の実施の形態に係る動的モデル選択装置の動作を示すフロー図である。
【図９】本発明の第５の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。
【図１０】本発明の第５の実施の形態に係る動的モデル選択装置の動作を示すフロー図である。
【図１１】本発明の第６の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。
【図１２】本発明の第６の実施の形態に係る動的モデル選択装置の動作を示すフロー図である。
【図１３】本発明の第７の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。
【図１４】本発明の第７の実施の形態に係る動的モデル選択装置の動作を示すフロー図である。
【図１５】本発明の第８の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。
【図１６】本発明の第９の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。
【図１７】本発明の第１０の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。
【図１８】本発明の第１１の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。
【図１９】本発明の第１２の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。
【図２０】本発明の第１３の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。
【図２１】本発明の第１４の実施の形態に係る動的モデル選択装置の構成を示すブロック図である。
【図２２】本発明の実施例を説明するための図である。
【符号の説明】
【０２０８】
１  入力装置
２  出力装置
３，４，５  モデル選択計算装置
６  オンラインモデル系列出力手段
７  オンライン構造変化検出手段
８  特徴パタン抽出手段
３１  予測分布更新手段
３２  予測分布記憶手段
３３  モデル系列更新手段
３４  モデル系列記憶手段
３５，５５  最適モデル系列計算手段
４１  モデル遷移確率推定手段
５１  確からしさ計算手段
５２  確からしさ記憶手段
５３  モデル遷移確率推定手段
５４  モデル遷移確率記憶手段
１００，１０１，１０２  モデル選択計算プログラム
２００，２０１，２０２，２０３  動的モデル選択プログラム
【図１】
2005141601.tif 000018
【図２】
2005141601.tif 000019
【図３】
2005141601.tif 000020
【図４】
2005141601.tif 000021
【図５】
2005141601.tif 000022
【図６】
2005141601.tif 000023
【図７】
2005141601.tif 000024
【図８】
2005141601.tif 000025
【図９】
2005141601.tif 000026
【図１０】
2005141601.tif 000027
【図１１】
2005141601.tif 000028
【図１２】
2005141601.tif 000029
【図１３】
2005141601.tif 000030
【図１４】
2005141601.tif 000031
【図１５】
2005141601.tif 000032
【図１６】
2005141601.tif 000033
【図１７】
2005141601.tif 000034
【図１８】
2005141601.tif 000035
【図１９】
2005141601.tif 000036
【図２０】
2005141601.tif 000037
【図２１】
2005141601.tif 000038
【図２２】
2005141601.tif 000039