(57)【要約】【課題】分布を推定する際に、局所独立な混合離散分布によって各次元の離散化領域数と各次元の離散化位置とを最適化する。【解決手段】データの初期化処理を行う初期化手段と、初期化手段にて初期化されたデータにおけるクラスタアサイメントの事後確率に対する期待値を計算する期待値計算手段と、期待値計算手段で計算されたクラスタアサイメントの期待値に対する情報量基準の期待値を最小化するパラメータを算出して、局所独立な混合離散分布を計算する最小化手段と、最小化手段で計算された情報量基準の最適性を判定し、最適でないと判定されれば、期待値計算手段にて再度期待値計算を行わせる最適性判定手段と、を有し、各次元の離散化領域数及び各次元の離散化位置を最適化する。【選択図】図３
2010170424.tif 000002
【特許請求の範囲】
【請求項１】
データの初期化を行う初期化手段と、
前記初期化手段にて初期化された前記データにおけるクラスタアサイメントの事後確率に対する期待値を計算する期待値計算手段と、
前記期待値計算手段で計算されたクラスタアサイメントの期待値に対する情報量基準の期待値を最小化するパラメータを算出して、局所独立な混合離散分布を計算する最小化手段と、
最小化手段で計算された情報量基準の最適性を判定し、最適でないと判定されれば、前記期待値計算手段にて再度期待値計算を行わせる最適性判定手段と、を有し、
各次元の離散化領域数及び各次元の離散化位置を最適化することを特徴とする分布推定装置。
【請求項２】
混合数の候補値から最小化が行われていない候補値を選択し、前記初期化手段へデータを入力する混合数設定手段と、
前記最適性判定手段にて最適と判定されたデータにおける混合数の候補値の全てについて、情報量基準の期待値を最小化するパラメータが算出されているかを判定し、全候補値が最小化されていなければ前記混合数設定手段へとデータを送信する混合数判定手段と、
各混合数に対して最適化されたパラメータに関する情報量基準を比較し、最も情報量基準の小さいパラメータを最適なパラメータとして選択する最適パラメータ選択手段と、を有し、
各次元の離散化領域数と各次元の離散化位置と混合数とを最適化することを特徴とする請求項１記載の分布推定装置。
【請求項３】
前記情報量基準として記述長、赤池情報量基準、一般化情報量基準のいずれかを用いることを特徴とする請求項１又は２記載の分布推定装置。
【請求項４】
データの分布、データを条件としたラベルの分布、データとラベルの同時分布のいずれかについて計算することを特徴とする請求項１から３のいずれか１項に記載の分布推定装置。
【請求項５】
請求項１から４のいずれか１項に記載の分布推定装置を備えることを特徴とするクラスタリング装置。
【請求項６】
データの初期化を行う初期化ステップと、
前記初期化ステップにて初期化された前記データにおけるクラスタアサイメントの事後確率に対する期待値を計算する期待値計算ステップと、
前記期待値計算ステップで計算されたクラスタアサイメントの期待値に対する情報量基準の期待値を最小化するパラメータを算出して、局所独立な混合離散分布を計算する最小化ステップと、
最小化ステップで計算された情報量基準の最適性を判定し、最適でないと判定されれば、前記期待値計算ステップによる期待値計算を再度行わせる最適性判定ステップと、を有し、
各次元の離散化領域数及び各次元の離散化位置を最適化することを特徴とする分布推定装置の推定方法。
【請求項７】
データの初期化を行う初期化処理と、
前記初期化処理にて初期化された前記データにおけるクラスタアサイメントの事後確率に対する期待値を計算する期待値計算処理と、
前記期待値計算処理で計算されたクラスタアサイメントの期待値に対する情報量基準の期待値を最小化するパラメータを算出して、局所独立な混合離散分布を計算する最小化処理と、
最小化処理で計算された情報量基準の最適性を判定し、最適でないと判定されれば、前記期待値計算処理による期待値計算を再度行わせる最適性判定処理と、を有し、
分布推定とともに各次元の離散化領域数及び各次元の離散化位置を最適化することをコンピュータに実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、混合数、離散化方法を分布推定と同時に最適化する多変量データの分布推定装置、クラスタリング装置、分布推定装置の推定方法及びプログラムに関する。
【背景技術】
【０００２】
多次元空間において、データの分布や、データに付与されたラベルの予測分布（以下、ラベルの分布と呼ぶ）あるいはデータとラベルの同時分布を推定する事は、産業上重要な技術である（以下、これらを総称して単に分布と呼ぶ）。
【０００３】
例えば、データとして体重、血圧、医療費といったデータが与えられた場合に、３つの属性に関する多次元の分布を推定する事で、医療費が高額になる確率の高い体重や血圧の関係など、複数の属性の関係性を分析する事が可能となる。
【０００４】
また例えば、データとして自動車のエンジン回転数や速度といったセンサ値が与えられ、ラベルとして各データに対する故障の種類が与えられた場合、ラベルの分布を推定する事で、故障種類の分かっていない新規データが取得された場合に、各故障の発生する確率を計算し、故障種類を特定する事が可能となる。
【０００５】
同様に、データとラベルの同時分布を推定する事によって、データとラベルの関係性を分析する事が可能となる。
【０００６】
分布を推定する場合に、ヒストグラムに代表される離散分布を利用する事は、１）データの真の分布が分からない場合に特定の分布を仮定する必要がない点、２）適切な離散化によって、データやラベルの性質の分析が容易になる点、から応用の範囲が広い。
【０００７】
２）をより具体的に説明すると、体重の分布をヒストグラムで表す場合を考えると、体重が５０kg以上６０kg未満の確率が３０％、６０kg以上７０kg未満が４５％、それ以外が２５％など、データの分布が人間に解釈可能な形で推定されるという利点がある（例えば、図１）。
【０００８】
また、自動車のエンジン回転数を例にラベルの分布を考えると、エンジン回転数が０以上１０００未満では故障１の確率が７０％、故障２の確率が１０％、その他の故障が２０％など、データに対する故障の関係性が人間にとって理解しやすい（例えば、図２）。
【０００９】
従来、このような離散分布を学習する方法は様々な方法が提案されているが、各次元に依存関係を持たせて離散分布を最適化しようとすると計算量が増大してしまうという問題があった。この問題を回避するためには、各次元を独立に扱う方法があるが、この場合には、各次元の依存関係を捉える事ができなくなるという問題があった。
【００１０】
これらの問題を解決するために、非特許文献1で提案されている潜在クラスモデルと呼ばれる技術を利用する事が可能である。このモデルでは、分布を局所独立な混合分布によって表す事を特徴としている。
【００１１】
正規分布を例に説明すると、図１０に示されるように、各クラスタ内では各次元が独立（図１０の３つの真円、局所独立性）とし、複数のクラスタによって各次元の依存関係を表現する。図１０は連続分布を例に説明したが、離散分布でも同様である。
【００１２】
また、潜在クラスモデルの多くはデータの分布に対して定義されるが、ラベルの分布やデータとラベルの同時分布に対しても局所独立性を仮定した同様のモデルを考える事が可能である。
【先行技術文献】
【非特許文献】
【００１３】
【非特許文献１】Goodman、 L. A.、Exploratory latent structure analysis using both identifiable and unidentifiable models、Biometrika、Aug 1974、Vol.61、No.2、pp.215-231
【発明の概要】
【発明が解決しようとする課題】
【００１４】
しかしながら、離散分布に関する潜在クラスモデルを推定するためには、各次元を幾つの領域へ離散化するのか、各次元をどの位置で離散化するのか、混合数は幾つ必要かを特定する必要があるが、これらを最適化することはできなかった。
【００１５】
そこで本発明は、上記問題点に鑑みてなされたもので、分布を推定する際に、局所独立な混合離散分布によって各次元の離散化領域数と各次元の離散化位置とを最適化することを目的とする。
【課題を解決するための手段】
【００１６】
上記課題を解決するため、本発明における分布推定装置は、データの初期化を行う初期化手段と、初期化手段にて初期化されたデータにおけるクラスタアサイメントの事後確率に対する期待値を計算する期待値計算手段と、期待値計算手段で計算されたクラスタアサイメントの期待値に対する情報量基準の期待値を最小化するパラメータを算出して、局所独立な混合離散分布を計算する最小化手段と、最小化手段で計算された情報量基準の最適性を判定し、最適でないと判定されれば、期待値計算手段にて再度期待値計算を行わせる最適性判定手段と、を有し、各次元の離散化領域数及び各次元の離散化位置を最適化することを特徴とする。
【００１７】
また、本発明におけるクラスタリング装置は、上記記載の分布推定装置を備えることを特徴とする。
【００１８】
また、本発明における分布推定装置の推定方法は、データの初期化処理を行う初期化ステップと、初期化ステップにて初期化されたデータにおけるクラスタアサイメントの事後確率に対する期待値を計算する期待値計算ステップと、期待値計算ステップで計算されたクラスタアサイメントの期待値に対する情報量基準の期待値を最小化するパラメータを算出して、局所独立な混合離散分布を計算する最小化ステップと、最小化ステップで計算された情報量基準の最適性を判定し、最適でないと判定されれば、期待値計算ステップによる期待値計算を再度行わせる最適性判定ステップと、を有し、各次元の離散化領域数及び各次元の離散化位置を最適化することを特徴とする。
【００１９】
また、本発明におけるプログラムは、データの初期化処理を行う初期化処理と、初期化処理にて初期化されたデータにおけるクラスタアサイメントの事後確率に対する期待値を計算する期待値計算処理と、期待値計算処理で計算されたクラスタアサイメントの期待値に対する情報量基準の期待値を最小化するパラメータを算出して、局所独立な混合離散分布を計算する最小化処理と、最小化処理で計算された情報量基準の最適性を判定し、最適でないと判定されれば、期待値計算処理による期待値計算を再度行わせる最適性判定処理と、を有し、分布推定とともに各次元の離散化領域数及び各次元の離散化位置を最適化することをコンピュータに実行させることを特徴とする。
【発明の効果】
【００２０】
本発明により、分布を推定する際に、局所独立な混合離散分布モデルによって各次元の離散化領域数と各次元の離散化位置、とを分布推定とともに最適化する事が可能となる。
【図面の簡単な説明】
【００２１】
【図１】離散分布の説明図（その１）である。
【図２】離散分布の説明図（その２）である。
【図３】本発明の実施形態に係る分布推定装置の構成図である。
【図４】本発明の実施形態に係る分布推定装置のフローチャート図である。
【図５】本発明の他の実施形態に係る分布推定装置の構成図である。
【図６】本発明の他の実施形態に係る分布推定装置のフローチャート図である。
【図７】本発明の実施形態に係るクラスタリング装置の構成図である。
【図８】本発明の実施形態に係る外れ値検出装置の構成図である。
【図９】本発明の実施形態に係るデータ分類装置の構成図である。
【図１０】従来技術の説明図である。
【発明を実施するための形態】
【００２２】
次に、発明を実施するための最良の形態について図面を参照して詳細に説明する。
【００２３】
［第１の実施の形態］
図４は、本発明の実施形態におけるデータ分布推定装置の構成図である。分布推定装置１００は、データ入力部１１０と、初期化処理部１２０と、クラスタアサイメント期待値計算処理部１３０と、期待記述長最小化処理部１４０と、最適性判定処理部１５０と、分布推定結果出力部１６０と、を備え、各次元に対する離散化の数と離散化の区切り位置が最適化された分布を算出し、算出された分布を含む分布推定結果１９０を出力する。
【００２４】
以下では入力されたi番目のデータをxi = (xi1, xi2, …, xiD)とし、ラベルが同時に入力される場合にはxiに対応するラベルをyiとする。ラベルの数（ラベルの種類）は、Cと表記する。また、推定すべき分布は、データの分布P(X)が（数1）、ラベルの分布P(Y|X)が（数２）、データとラベルの同時分布P(X,Y)が（数３）として表される。
【００２５】
【数１】
2010170424.tif 000003
【００２６】
【数２】
2010170424.tif 000004
【００２７】
【数３】
2010170424.tif 000005
【００２８】
ただし、X=(X1,X2,…,XD)はＤ次元データ、Yはラベル、Z=(Z1,Z2,…,Zk)はXの属するクラスタに対する確率変数をそれぞれ表す。なお、Zkは、Xがk番目のクラスタに属する場合に1を、それ以外では0をとる確率変数で、クラスタアサイメントと呼ばれる。また、Zは直接観測することができないため、一般には隠れ変数と呼ばれる。
【００２９】
Kは混合数（クラスタ数）を表す。P(Xd|Zk=1)はk番目のクラスタに関するd番目の次元に対するヒストグラムをあらわし、P(Y|X_d,Zk=1)はk番目のクラスタに関してd番目の次元のデータの値Xdの値を条件としたラベルYの確率をあらわす。
【００３０】
データ入力部１１０は、入力データおよびラベル１８０を入力するための機能部であり、この際分布推定に必要なパラメータを同時に入力する事も可能である。なお、本実施形態では、混合分布の混合数は、データと共に入力されるパラメータとして扱われる。
【００３１】
初期化処理部１２０は、クラスタアサイメントなどを初期化するための装置である。初期化の方法は、全クラスタを一様の比率にする方法や、乱数によってランダムに設定する方法など、（数１）から（数３）においてΣP(Zk=1) = 1、ΣP(Zk=1|Xd) = 1を満たす任意の値で初期化する事が可能である。
【００３２】
クラスタアサイメント期待値計算処理部１３０では、データXに対するクラスタアサイメントの事後確率に対する期待値を計算する。すなわち、データの分布を推定する際にはP(Z|X)、ラベルの分布およびデータとラベルの同時分布を推定する際にはP(Z|X,Y)に対するZkの値を計算する。
【００３３】
計算方法の一例を挙げると、データの分布を計算する場合には（数４）、ラベルの確率を計算する場合には（数５）、データとラベルの同時分布を計算する場合には（数６）によって算出することが可能である。
【００３４】
【数４】
2010170424.tif 000006
【００３５】
【数５】
2010170424.tif 000007
【００３６】
【数６】
2010170424.tif 000008
【００３７】
ただし、ziはxiに対するクラスタアサイメントを表す。
【００３８】
期待記述長最小化処理部１４０では、クラスタアサイメント期待値計算処理部１３０で計算された、クラスタアサイメントの期待値に対する記述長の期待値を最小化するパラメータを算出する。
【００３９】
記述長とは、データやラベルから分布を算出するための最適化の基準であり、データを計算された分布によって圧縮した時の大きさと分布そのものを圧縮した時の大きさの和によって表される。
【００４０】
直感的に説明すると、本発明の第1の実施の形態では、離散化の数を増やす・離散化の位置を任意に変動させるなどによって、入力されたデータの圧縮率を上げる事ができるが、その分、分布が複雑になるため分布の圧縮率が下がり、この２つのトレードオフを最適とする分布を選択する事が可能である。
【００４１】
以下で、期待記述長の計算方法および最小化方法の例を具体的に説明する。以下では、Mkdはクラスタkに対して次元dに関する離散化領域の数とする。
【００４２】
[離散化の幅を各分布内で一定とした場合]
離散化の幅を各分布内で一定とした場合には、クラスタkの次元dに対する離散分布では、各離散化領域はデータの値域をMkd個に等分割する領域として定義される。この場合には、期待記述長はデータの分布を推定する場合には（数７）、ラベルの確率を計算する場合には（数８）、データとラベルの同時分布を計算する場合には（数９）によって算出することが可能である。
【００４３】
【数７】
2010170424.tif 000009
【００４４】
【数８】
2010170424.tif 000010
【００４５】
【数９】
2010170424.tif 000011
【００４６】
ただし、対数の底は２とし、eは自然対数の底を表す。また、log*は自然数 aに対して、log* a = log c + log a + log log a + log log log a + … を負の数が出てくるまで足した数を表す。ただし、log* 0 = 0と定義する。また、cはaによらない定数である。
【００４７】
また、EZ|X[log (Σzik)]、EZ|xi,Y[log (Σzik)]、EZ|X,Y[log (Σzik)]は、それぞれクラスタアサイメントの和のZの事後分布に対する期待値を表す。期待値の計算については、任意の方法で計算する事が可能である。例えば、モンテカルロ法によって近似を行なう方法や、log関数をΣzikの平均値周りでテイラー展開する事によって計算を行なう事が可能である。
【００４８】
続いて、データの分布を推定する場合を例に期待記述長を最小化する手順を説明する。まず、クラスタkの次元dに対する分布に関して、離散化領域の数Mkdを固定する。次に、分布のパラメータを推定する。推定方法としては最尤推定法などが挙げられる。
【００４９】
次に、Mkdおよび推定されたパラメータに関して、対応する分布に対するデータの記述長の期待値とパラメータの記述長の期待値を、データの分布を推定する場合には（数１０）、ラベルの確率を計算する場合には（数１１）、データとラベルの同時分布を計算する場合には（数１２）によって算出する。
【００５０】
【数１０】
2010170424.tif 000012
【００５１】
【数１１】
2010170424.tif 000013
【００５２】
【数１２】
2010170424.tif 000014
【００５３】
クラスタkの次元dに対する分布はMkdを変更させて、データの分布を推定する場合には（数１０）、ラベルの確率を計算する場合には（数１１）、データとラベルの同時分布を計算する場合には（数１２）を最も小さくするMkdおよびそのパラメータを採用する。この処理を各クラスタの各次元に対する分布に対して実施し、それぞれに対する最適な分布を算出する。
【００５４】
（数７）から（数９）のうち、（数１０）から（数１２）には対応しない項は、各分布の離散化領域の数およびパラメータに依存しないため、以上の処理によって各クラスタの各次元に対する分布が計算された事になる。
【００５５】
最後に、各クラスタの混合の比率P(Zk)を、データの分布を推定する場合には（数１３）、ラベルの確率を計算する場合には（数１４）、データとラベルの同時分布を計算する場合には（数１５）によって算出する。
【００５６】
【数１３】
2010170424.tif 000015
【００５７】
【数１４】
2010170424.tif 000016
【００５８】
【数１５】
2010170424.tif 000017
【００５９】
最適性判定処理部１５０では、計算された分布に対する記述長DL（期待値ではない）と、ひとつ前のループで計算された記述長DL_oldを比較し、DLとDL_oldが十分に近いかどうかによって、計算された分布が最適であるかを判定する。具体的には、DL_old-DLが0または0に十分近い値を判定の基準とする事が考えられる。
【００６０】
なおDLは、データの分布を推定する場合には（数１６）、ラベルの確率を計算する場合には（数１７）、データとラベルの同時分布を計算する場合には（数１８）によって算出する。
【００６１】
【数１６】
2010170424.tif 000018
【００６２】
【数１７】
2010170424.tif 000019
【００６３】
【数１８】
2010170424.tif 000020
【００６４】
分布推定結果出力部１６０では、算出された分布推定結果１９０をモニタやハードディスクなどの外部媒体に出力する。
【００６５】
図５に示すフローチャート図を参照して、本実施の形態に関する分布推定装置１００における動作について説明する。
【００６６】
データ入力部１１０へデータ１８０を入力する（ステップＳ１００）。次に、初期化処理部１２０において算出すべき分布の初期化処理を実施する（ステップＳ１０１）。
【００６７】
次に、クラスタアサイメント期待値計算処理部１３０において、各データに対するクラスタアサイメントの事後確率に対する期待値を計算する（ステップＳ１０２）。
【００６８】
次に、期待記述長最小化処理部１４０において、期待記述長を最小化する分布を算出する（ステップＳ１０３）。
【００６９】
次に、最適性判定処理部１５０において、現在算出されている分布が最適か否かを判定する（ステップＳ１０４）。
【００７０】
最適ではないと判定された場合には、ステップＳ１０２からステップＳ１０４の処理を繰り返す。一方、最適と判定された場合には、分布推定結果出力部１６０によって、結果を出力する（ステップＳ１０５）。
【００７１】
本実施形態によれば、データの分布，データに付与されたラベルの予測分布あるいはデータとラベルの同時分布を局所独立な離散分布の混合分布として表し、各次元の離散化領域数、各次元の離散化位置を分布推定とともに最適化することが可能となる。
【００７２】
なお、本実施の形態では、記述長（確率的コンプレキシティ）を基準とした分布推定装置に関して説明を行ったが、情報量基準としては、赤池情報量基準、一般化情報量基準など、モデル選択を行うための任意の基準に関して同様の分布推定を実施することが可能であり、容易に類推されるものである。
【００７３】
［第２の実施の形態］
図６は、本発明の第２の実施形態におけるデータ分布推定装置の構成図である。分布推定装置２００は、第1の実施の形態に関わる分布推定装置１００と比較して混合数設定部２１０と、混合数ループ終了判定処理部２２０と、最適分布選択処理部２３０と、を備えている点で相違する。なお、第１の実施形態と同一の機能部については、同一の符号を記し詳細な説明を省略する。
【００７４】
混合数設定部２１０には、事前に設定された、あるいは入力データ１８０とともに入力された混合数の候補値から、期待記述長の最小化の処理が行われていない候補値を選択し、初期化処理部１２０へ出力する。
【００７５】
初期化処理部１２０は、分布推定装置１００の場合と同様に動作するが、混合数が混合数設定部２１０から入力される。
【００７６】
最適性判定処理部１５０で最適と判定された場合は、算出された分布に関する記述長を、混合数や推定されたパラメータとともに記憶しておく。
【００７７】
混合数ループ判定処理部２２０では、事前に設定された、あるいはデータ１８０とともに入力された混合数の候補値のすべてについて、期待記述長を最小化する分布が算出されているかを判定する。
【００７８】
最適分布選択処理部２３０では、各混合数に対して最適化された分布に関する記述長を比較し、最も記述長の小さい分布を最適な分布として選択する。
【００７９】
図７を参照にして、本実施の形態に関する分布推定装置２００における動作について説明する。
【００８０】
データ入力部へデータ１８０を入力する（ステップＳ２００）。次に、混合数設定部２１０において、期待記述長の算出が終了していない混合数の候補値を1つ設定する（ステップＳ２０１）。
【００８１】
次に、初期化処理部１２０において算出すべき分布の初期化処理を実施する（ステップＳ２０２）。
【００８２】
次に、クラスタアサイメント期待値計算処理部１３０において、各データに対するクラスタアサイメントの期待値を計算する（ステップＳ２０３）。
【００８３】
次に、期待記述長最小化処理部１４０において、期待記述長を最小化する分布を算出する（ステップＳ２０４）。
【００８４】
次に、最適性判定処理部１５０において、現在算出されている分布が最適か否かを判定する（ステップＳ２０５）。
【００８５】
最適ではないと判定された場合には、ステップＳ２０３からステップＳ２０５の処理を繰り返す。一方、最適と判定された場合には、混合数ループ終了判定処理部２２０において、全混合数の候補値に対して記述長の算出が終了しているかを判定する（ステップＳ２０６）。
【００８６】
ここで算出の終了いない候補値がある場合には、ステップＳ２０１からステップＳ２０６の処理を繰り返す。全候補値に対して記述長の算出が終了した場合には、最適分布選択処理部２３０において、候補値の中から記述長を最小とする混合数を選択する（ステップＳ２０７）。次に、分布推定結果出力装置１６０によって、結果を出力する（ステップＳ２０８）。
【００８７】
本実施の形態を利用すると、混合数も最適化することで分布推定部１００ではパラメータとして外部から与えられた混合数に関しても最適な分布を算出することが可能となる。
【００８８】
また、本発明の実施形態における分布推定装置１００および２００は、クラスタリング、異常検出、データ分類などに利用する事が可能である。
【００８９】
例えばクラスタリングに利用する場合には、図８に示すように算出された最適な分布に対してクラスタアサイメント期待値計算処理部１３０で計算されたクラスタアサイメントの事後分布に対して、最も事後確率の高いクラスタへデータをクラスタリングすれば良い。
【００９０】
例えば異常検出に利用する場合には、図９に示すように算出された最適な分布に対して、新規入力データの発生確率（あるいは確率密度）を計算し、その値が小さい場合に異常データとして検出すれば良い。
【００９１】
例えばデータ分類に利用する場合には、図１０に示すように算出された最適な分布に対して、新規入力データのラベル確率P(Y|X)を算出し、その値が最も高いクラスへデータを分類すれば良い。
【産業上の利用可能性】
【００９２】
本発明を利用することで可能となる産業上の応用例をいくつか説明する。
【００９３】
［自動車の故障データの分析例］
自動車のElectric Control Unit (ECU) から取得される、エンジン回転数、車速、エンジン油温などの各種センサと、故障のラベルが与えられた場合に、本発明で提案する分布推定装置によって分布を学習することで、回転数が３０００回転以上でかつ車速が３０ｋｍ以下の場合には故障１が発生しやすいなど、故障とセンサ値の関係を分析することが可能となる。
【００９４】
正常に走行する車両データを分布推定装置に入力して、外れ値検出装置を構成することによって、正常データの特性を分析する事が可能になるとともに、新規入力データが正常から逸脱する状態にあるかどうかを判定し、異常な状態にある場合にはドライバーにアラームを出すなど、車両の異常検出システムへ応用することができる。
【００９５】
故障データからラベルの分布を推定する事で、新規の原因が特定できていない故障が発生した場合に、その故障の原因をすばやく特定する故障診断装置を構成することが可能である。
【００９６】
本発明の実施形態によれば、離散化の数や位置、また混合の数を自動的に最適化することが可能であるため、専門家にもモデルを作ることが難しい故障や、センサの数が多く全変数に対して離散化の方法を指定することが難しい場合であっても、適切な分布の推定を行うことができる。
【００９７】
以上、実施の形態を説明したが、特許請求の範囲に定義された本発明の広範囲な趣旨および範囲から逸脱することなく、これら実施の形態や具体例に様々な修正および変更が可能である。
【符号の説明】
【００９８】
１００    分布推定装置
１１０    データ入力部
１２０    初期化処理部
１３０    クラスタアサイメント期待値計算処理部
１４０    期待記述長最小化処理部
１５０    最適性判定処理部
１６０    分布推定結果出力部
２１０    混合数設定部
２２０    混合数ループ終了判定処理部
２３０    最適分布選択処理部
【図１】
2010170424.tif 000021
【図２】
2010170424.tif 000022
【図３】
2010170424.tif 000023
【図４】
2010170424.tif 000024
【図５】
2010170424.tif 000025
【図６】
2010170424.tif 000026
【図７】
2010170424.tif 000027
【図８】
2010170424.tif 000028
【図９】
2010170424.tif 000029
【図１０】
2010170424.tif 000030