(57)【要約】【課題】クラスタ数が未知の状態で入力されるデータを逐次モンテカルロ法により逐次処理してクラスタリングを行う逐次クラスタリングにおいて、より高精度にクラスタリングを行う。【解決手段】逐次、クラスタリングの処理単位であるデータを入力するデータ入力手段１１と、データ入力手段１１を介して入力されるデータのうちの少なくとも一部に付与される教師ラベルを入力する教師ラベル入力手段１２と、入力された新たなデータが既存のクラスタまたは新たなクラスタに属する確率を、当該新たなデータに教師ラベルが付与されているか否かによって異なる値にして、逐次モンテカルロ法により、クラスタに対応するモデルの内部状態を示す情報である粒子情報を更新する粒子情報更新手段１３と、更新された粒子情報を用いて、入力された新たなデータに対して、逐次クラスタリングを行うクラスタリング手段１４とを備える。【選択図】図９
2011210063.tif 000002
【特許請求の範囲】
【請求項１】
クラスタリングの処理単位であるデータを逐次、入力するデータ入力手段と、
前記データ入力手段を介して入力されるデータのうちの少なくとも一部に付与される情報であって、付与先のデータが属するクラスタに関する情報または付与先のデータを含む２以上のデータ間のクラスタに関する相互関係を示す情報である教師ラベルを入力する教師ラベル入力手段と、
入力された新たなデータが既存のクラスタまたは新たなクラスタに属する確率を、当該新たなデータに教師ラベルが付与されているか否かによって異なる値にして、逐次モンテカルロ法により、クラスタに対応するモデルの内部状態を示す情報である粒子情報を更新する粒子情報更新手段と、
前記粒子情報更新手段により更新された粒子情報に基づいて、入力された新たなデータに対するクラスタリング結果を示すクラスタ情報を出力するクラスタ情報出力手段とを備えた
ことを特徴とする逐次クラスタリング装置。
【請求項２】
粒子情報更新手段は、入力された新たなデータに教師ラベルが付与されている場合に、前記教師ラベルにより示される当該新たなデータと当該新たなデータより前の時刻に入力されたデータである確定データ間のクラスタに関する相互関係に基づいて、確定データに対して行われたクラスタリング結果に対する重みを変更することにより、入力された新たなデータに教師ラベルが付与されているか否かによって、当該新たなデータが既存のクラスタまたは新たなクラスタに属する確率を異なる値にする
請求項１に記載の逐次クラスタリング装置。
【請求項３】
粒子情報更新手段は、入力された新たなデータに教師ラベルが付与されていなかった場合に、当該新たなデータが既存の各クラスタに属する確率を、当該新たなデータより前の時刻に入力されたデータである確定データがそのクラスタに属する個数に比例するとし、かつ新たなクラスタに属するとする確率を、事前に指定した一定の変数に比例するとして算出し、
前記粒子情報更新手段は、入力された新たなデータに教師ラベルが付与されていた場合に、既存の各クラスタについて、前記教師ラベルによって当該新たなデータと同一クラスタに含まれるとされたクラスタに属する確率を、他のクラスタに属する確率値よりも相対的に大きくする
請求項１または請求項２に記載の逐次クラスタリング装置。
【請求項４】
粒子情報更新手段は、入力された新たなデータに教師ラベルが付与されていなかった場合に、当該新たなデータが既存の各クラスタに属する確率を、当該新たなデータより前の時刻に入力されたデータである確定データがそのクラスタに属する個数に比例するとし、かつ新たなクラスタに属するとする確率を、事前に指定した一定の変数に比例するとして算出し、
前記粒子情報更新手段は、入力された新たなデータに教師ラベルが付与されていた場合に、既存の各クラスタについて、前記教師ラベルによって当該新たなデータと同一クラスタに含まれないとされたクラスタに属する確率を、他のクラスタに属する確率値よりも相対的に小さくする
請求項１から請求項３のうちのいずれか１項に記載の逐次クラスタリング装置。
【請求項５】
粒子情報更新手段は、入力された新たなデータに教師ラベルが付与されていた場合、当該新たなデータが既存の各クラスタに属する確率を、確定データがそのクラスタに属する個数に対して、そのうちの前記教師ラベルによって当該新たなデータと同一クラスタに含まれるとされた確定データの個数に、指定した一定の係数をかけて加算した値に比例するとし、かつ新たなクラスタに属するとする確率を、事前に指定した一定の変数に比例するとして算出する
請求項１から請求項３のうちのいずれか１項に記載の逐次クラスタリング装置。
【請求項６】
粒子情報更新手段は、入力された新たなデータに教師ラベルが付与されていた場合、当該新たなデータが既存の各クラスタに属する確率を、確定データがそのクラスタに属する個数に対して、そのうちの教師ラベルによって当該新たなデータと同一クラスタに含まれないとされた確定データの個数に、指定した一定の係数をかけて減算した値に比例するとし、かつ新たなクラスタに属するとする確率を、事前に指定した一定の変数に比例するとして算出する
請求項１、請求項２または請求項４に記載の逐次クラスタリング装置。
【請求項７】
粒子情報更新手段は、入力された新たなデータに教師ラベルが付与されていた場合、当該新たなデータが既存の各クラスタに属する確率を、確定データがそのクラスタに属する個数に対して、そのうちの前記教師ラベルによって当該新たなデータと同一クラスタに含まれるとされた確定データの個数に指定した一定の係数をかけて加算するとともに、そのうちの前記教師ラベルによって当該新たなデータと同一クラスタに含まれないとされた確定データの個数に指定した別の一定の係数をかけて減算した結果算出された値に比例するとし、かつ新たなクラスタに属するとする確率を、事前に指定した一定の変数に比例するとして算出する
請求項１から請求項４のうちのいずれか１項に記載の逐次クラスタリング装置。
【請求項８】
クラスタリングの処理単位であるデータを逐次入力する際に、前記入力されたデータに当該データが属するクラスタに関する情報または当該データを含む２以上のデータ間のクラスタに関する相互関係を示す情報である教師ラベルが付与されている場合には付与されている前記教師ラベルを入力し、
入力された新たなデータが既存のクラスタまたは新たなクラスタに属する確率を、当該新たなデータに教師ラベルが付与されているか否かによって異なる値にして、逐次モンテカルロ法により、クラスタに対応するモデルの内部状態を示す情報である粒子情報を更新し、
前記粒子情報更新手段により更新された粒子情報に基づいて、入力された新たなデータに対するクラスタリング結果を示すクラスタ情報を出力する
ことを特徴とする逐次クラスタリング方法。
【請求項９】
コンピュータに、
クラスタリングの処理単位であるデータを逐次入力する際に、前記入力されたデータに当該データが属するクラスタに関する情報または当該データを含む２以上のデータ間のクラスタに関する相互関係を示す情報である教師ラベルが付与されている場合には付与されている前記教師ラベルを入力する処理、
入力された新たなデータが既存のクラスタまたは新たなクラスタに属する確率を、当該新たなデータに教師ラベルが付与されているか否かによって異なる値にして、逐次モンテカルロ法により、クラスタに対応するモデルの内部状態を示す情報である粒子情報を更新する処理、および
粒子情報更新手段により更新された粒子情報に基づいて、入力された新たなデータに対するクラスタリング結果を示すクラスタ情報を出力する処理
を実行させるための逐次クラスタリングプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、逐次クラスタリングを行う逐次クラスタリング装置、逐次クラスタリング方法および逐次クラスタリングプログラムに関し、特に、逐次モンテカルロ法を用いて逐次クラスタリングを行う逐次クラスタリング装置、逐次クラスタリング方法および逐次クラスタリングプログラムに関する。
【背景技術】
【０００２】
逐次クラスタリングとは、逐次方式のクラスタリングであって、データをその類似性や距離尺度に基づき分類するクラスタリング手法において、データをすべて得てからクラスタリングするバッチ方式のクラスタリングとは異なり、データが逐次に与えられ、その都度クラスタリングを実行する方法をいう。
【０００３】
逐次クラスタリングに関する文献として、例えば、非特許文献１がある。非特許文献１に記載されている逐次クラスタリング手法は、状態空間モデルを逐次モンテカルロ法（粒子フィルタ法とも呼ばれる。）で推定する枠組みを用い、共役な事前分布を持つガウス分布をデータ出力分布とするＤｉｒｉｃｈｌｅｔ  Ｐｒｏｃｅｓｓ  Ｍｉｘｔｕｒｅ（ＤＰＭ）モデルを逐次ベイズ推定し、推定されたＤＰＭモデル各状態をクラスタとすることで、逐次クラスタリングを行う方法である。本方法によれば、クラスタ個数の情報が未知の場合でも、新たなクラスタを適応的に増加させながら逐次クラスタリングを行うことができる。
【０００４】
なお、逐次モンテカルロ法とは、確率モデルのベイズ推定法の一つであって、マルコフ連鎖モンテカルロ法のうちの逐次実行可能なアルゴリズムの一種である。特徴は、モデルが取り得る内部状態の候補（「粒子」と呼ばれる。）を保持し、観測データが得られるとその状態の変化および変化の起こりやすさ（「粒子の重み」と呼ばれる。）を更新する構成となっている点である。また、粒子数を制御しつつ有効な候補を保持するリサンプリングを行うことにより、算出したい統計量のベイズ推定値を粒子の重み付き和による期待値で得られるため、逐次的に推定できる点である。非特許文献１では、この逐次モンテカルロ法を状態空間モデルのベイズ推定アルゴリズムとして用いている。
【０００５】
図５は、非特許文献１に記載されている逐次クラスタリング手法を適用した逐次クラスタリング装置の構成例を示すブロック図である。図５に示す逐次クラスタリング装置９００は、データ入力部９０１と、粒子情報更新部９０２と、粒子情報記憶部９０３と、クラスタ情報出力部９０４とを備える。
【０００６】
このような構成を有する逐次クラスタリング装置は、次のように動作する。すなわち、データ入力部９０１は、逐次データを入力する。粒子情報更新部９０２は、粒子情報記憶部９０３に記憶された粒子情報を更新する。ここで、粒子情報とは、上述した逐次モンテカルロ法によるアルゴリズムにおける、モデル（本例では、状態空間モデル）の内部状態を示す情報である。クラスタ情報出力部９０４は、粒子情報記憶部９０３に記憶された粒子情報を基に、入力されたデータに対するクラスタリング結果を示すクラスタ情報を出力する。
【０００７】
図６は、逐次モンテカルロ法によるクラスタリング推定のアルゴリズムを説明するための説明図である。ここでは、時系列データをクラスタリングの対象とし、逐次入力されるデータに対して、クラスタ数の情報が未知の状態で順次分類を行うための粒子情報を更新する。
【０００８】
粒子情報更新部９０２は、図６に示すように、時刻ｋ＝１のときは、入力されたデータ総数が１つであり、初期化を行う。すなわち、粒子数Ｎ＝１、粒子変数ｉ＝１、クラスタ変数ｘ１（ｉ）＝１、粒子重みω１（ｉ）＝１、とし、粒子情報記憶部９０３に粒子情報｛ｘ１（ｉ），ω１（ｉ）＝１｝を記憶する。ここでは、クラスタ変数は、クラスタの番号である。なお、本アルゴリズムでは、時系列の履歴に依存してクラスタの番号が異なるため、同じ番号でも粒子が異なると違うクラスタを指す。また、粒子重みは、粒子の重要度である。なお、粒子の重要度は、入力されるデータをうまく説明できるほど重い値となる。
【０００９】
一方、時刻ｋ＞１のときは、粒子数をＮとして、粒子変数ｉ＝１，・・・，Ｎについて、各粒子（ｉ）の時刻ｋにおける仮クラスタ変数ｘｋ（ｊ，ｉ）、仮粒子重みωｋ（ｊ，ｉ）を算出する。ここでは、仮クラスタ変数ｘｋ（ｊ，ｉ）＝ｊ（ｊ＝１，・・・，Ｃｋ−１（ｉ））とする。なお、Ｃｋ−１（ｉ）は各粒子（ｉ）の時刻ｋ−１までのクラスタ総数である。また、仮粒子重みωｋ（ｊ，ｉ）は以下の式（１）によって算出する。なお、ｐ（｜）は以下の式（２）で表される。また、ｆ（）は、以下の式（３）で表される。また、ｘ１：ｋ−１（ｉ）＝｛ｘ１（ｉ），ｘ２（ｉ），・・・，ｘｋ−１（ｉ）｝である。
【００１０】
【数１】
2011210063.tif 000003
【００１１】
なお、ｐ（｜）は以下の式（２）で表される。また、ｆ（）は、以下の式（３）で表される。
【００１２】
【数２】
2011210063.tif 000004
【００１３】
【数３】
2011210063.tif 000005
【００１４】
ここで、ｘ１：ｋ−１（ｉ）＝｛ｘ１（ｉ），ｘ２（ｉ），・・・，ｘｋ−１（ｉ）｝である。また、Γ（）はΓ関数を表す。また、μ，λ，νは、ＤＰＭモデルの事前分布パラメタμ０，λ０，α０とデータＤの平均（バーμ）、精度（バーτ）、データ個数ｌより算出される。ベイズ推定においては、モデルとそのモデルの事前分布を設定し、学習データを用いてモデル推定を行う。ここでは、モデルとしてＤＰＭモデル、事前分布としてそれに共役な分布を設定している。この事前分布には、上記パラメタおよび後述のＤｉｒｉｃｈｌｅｔ分布のパラメタγが含まれる。なお、事前分布パラメタはモデルの特性（例えば、クラスタ数が少なめまたは多めに推定されるといった特性）を決定するための情報である。
【００１５】
また、ｙｋは時刻ｋの入力データである。また、
【数４】
2011210063.tif 000006
は、時刻ｋ−１までの入力データのうち、クラスタｘｋ（ｊ，ｉ）と同一クラスタに含まれるデータ集合である。
【００１６】
仮クラスタ変数ｘｋ（ｊ，ｉ）、仮粒子重みωｋ（ｊ，ｉ）を算出すると、さらに仮の粒子総数Ｍを算出し、（ｊ，ｉ）をあらためて粒子変数（ｉ）として書き直して、Ｍ個の仮粒子情報とする。なお、ここでωおよびｘの上に付したチルダ記号は「仮」であることを意味する。
【００１７】
次に、Ｍが予め指定された粒子個数ＮＮ以下のときは、Ｎ＝Ｍとして仮粒子情報により、粒子情報を更新し、ｋ＝ｋ＋１として上述の手順を繰り返す。ＭがＮＮよりも大きいときは、図７に示すリサンプリング手続きにより、Ｍ個からＮＮ個の粒子を選択し、その重みを算出して粒子情報を更新する。
【００１８】
図７は、逐次モンテカルロ法によるクラスタリング推定のアルゴリズムにおけるリサンプリング手法を説明するための説明図である。粒子情報更新部９０２は、リサンプリング手続きとして、次に示す処理を行う。
【００１９】
１）まず以下に示す式（４）の解からｃを決定する。
【００２０】
【数５】
2011210063.tif 000007
【００２１】
２）次に、０〜１／ｃまでを範囲とする一様乱数ｕを生成する。
【００２２】
３）そして、仮粒子変数ｉ＝１，・・・，Ｍについて、次の処理を繰り返す。すなわち、もし仮粒子重み（チルダωｋ（ｉ））の値が１／ｃより大きければ、次の仮粒子変数ｉ（＝ｉ＋１）に処理を移行する。一方、仮粒子重み（チルダωｋ（ｉ））の値が１／ｃ以下であれば、一様乱数ｕの値を（ｕ−チルダωｋ（ｉ））とする。その後、もしｕの値が０より大きければ仮粒子重み（チルダωｋ（ｉ））の値を０にし、ｕの値が０以下であればｕの値を（ｕ＋１／ｃ）とするとともに、仮粒子重み（チルダωｋ（ｉ））の値を１／ｃにする。
【００２３】
４）以上の処理を全ての仮粒子変数ｉについて終了すると、仮粒子重み（チルダωｋ（ｉ））の値が０の粒子（ｉ）を削除し、残った粒子の粒子番号をｉ＝１，・・・，Ｎに振り直す。
【００２４】
このように、粒子情報更新部９０２では、図６に示すアルゴリズムに従い、繰り返し処理において一旦粒子を増やし、その後必要に応じて図７に示すリサンプリング手続きにより必要な粒子を選別し個数を減らすという処理を行う。なお、本繰り返し処理では、時刻ｋのとき、粒子（ｉ）の確定している情報（時刻ｋ−１までの情報）から粒子（ｉ）の時刻ｋにおける仮の候補（すなわち、仮粒子情報）を算出し、リサンプリング手続きで仮粒子情報をから候補を選別して粒子（ｉ）の時刻ｋの情報を確定している。この際、時刻ｋ−１で粒子（ｉ）だったものが増えて例えば２つ残る場合もあり、このためリサンプリング手続きにおいて粒子の番号を振り直す処理を行っている。
【００２５】
ここで、上述の式（２）は、ＤＰＭモデル構成法の一つであるＣｈｉｎｅｓｅ  Ｒｅｓｔａｕｒａｎｔ  Ｐｒｏｃｅｓｓ（ＣＲＰ）と呼ばれるモデル構成法であって、次の描像で理解される。図８は、本逐次クラスタリング手法においてＣＲＰに与える確率値の一例を示す説明図である。いまｋ＝７として、ある粒子（ｉ）において、既存のクラスタ数Ｃ７（ｉ）＝３であったとする。ここでは、既存のクラスタのクラスタ番号を１〜３とする。なお、既存のクラスタとは、クラスタリング対象とされた新たなデータ（すなわち、時刻ｋ＋１のデータ）よりも前に入力されたデータ（すなわち確定データであって、ここでは時刻ｋ＝１〜ｋのデータ）が少なくとも１つは属するとされたクラスタをいう。また、既存の各クラスタ（クラスタ１〜３）に含まれるデータ個数がｎ１＝４、ｎ２＝１、ｎ３＝２であったとする。このとき新たなデータ（ｋ＋１）が既存のクラスタ１〜３に属する確率および新たなクラスタ（クラスタ４）を形成する確率が上述の式（２）で表される。これにより、あるクラスタに含まれる過去のデータ数が多いほどそのクラスタに所属する確率が大きくなること、またＤｉｒｉｃｈｌｅｔ事前分布のパラメタであるγの値が大きいほど新たなクラスタが作られやすいことがわかる。
【００２６】
クラスタ情報出力部９０４は、粒子情報記憶部９０３に記憶された粒子情報（粒子重みとクラスタ変数）から、以下の式（５）で示す確率値を算出し、その結果をクラスタリング結果を示すクラスタ情報として出力する。ここで、δはクロネッカーのデルタ関数である。
【００２７】
【数６】
2011210063.tif 000008
【００２８】
以上の動作により、データが逐次入力されるごとに、粒子情報が更新され、粒子数は常にNN個以下と保たれることにより演算量を制御しながら、入力されたデータがどのクラスタに属するかがベイズ推定により確率的に算出される。
【００２９】
また、特許文献１には、複数の文書に対して確率的クラスタリングを行って各文書をクラスに関連づけるモデルを作成するクラスタリング方法が記載されている。特許文献１に記載されたクラスタリング方法では、各文書がモデルにどれだけよく適合するかを示すアウトライヤ度を算出し、算出したアウトライヤ度を用いてモデル中のクラス群のいずれにも十分に適合しない文書を特定する。
【先行技術文献】
【特許文献】
【００３０】
【特許文献１】特開２００８−２５７７３２号公報
【非特許文献】
【００３１】
【非特許文献１】Ｐ．Ｆｅａｒｎｈｅａｄ，”Ｐａｒｔｉｃｌｅ  Ｆｉｌｔｅｒｓ  ｆｏｒ  Ｍｉｘｔｕｒｅ  Ｍｏｄｅｌｓ  ｗｉｔｈ  ａｎ  Ｕｎｋｎｏｗｎ  Ｎｕｍｂｅｒ  ｆｏ  Ｃｏｍｐｏｎｅｎｔｓ”，Ｓｔａｔｉｓｔｉｃｓ  ａｎｄ  Ｃｏｍｐｕｔｉｎｇ，ｖｏｌ．１４，２００４，ｐ．１１−２１
【発明の概要】
【発明が解決しようとする課題】
【００３２】
しかし、非特許文献１に記載されている逐次クラスタリング装置においては、入力されるデータに教師ラベルが付与されている場合であっても、それらを利用する枠組みがないという問題があった。上記のような逐次クラスタリング手法においても、入力されるデータに教師ラベルが付与されている場合にはその教師ラベルを利用して、より望ましいクラスタリング態様に変更されることが望ましい。
【００３３】
なお、特許文献１に記載されている方法は、クラスタリングにおいてそぐわない異常データを分別するためのものであって、このようなアウトライヤ度が算出されたとしても、この値を用いてどのように逐次クラスタリングを行うかは不明である。従って、特許文献１に記載された方法を用いても、データに付随して入力される教師ラベルを利用して、逐次クラスタリングにおいてより望ましいクラスタリング態様に変更することはできない。
【００３４】
そこで、本発明は、クラスタ数が未知の状態で入力されるデータを逐次モンテカルロ法により逐次処理してクラスタリングを行う逐次クラスタリングにおいて、より高精度にクラスタリングを行うことができる逐次クラスタリング装置、逐次クラスタリング方法および逐次クラスタリングプログラムを提供することを目的とする。
【００３５】
より具体的には、ＤＰＭモデルといった状態空間モデルを逐次モンテカルロ法を用いて推定する枠組みにおいて、新たに入力されたデータが各既存クラスタまたは新たなクラスタに属する確率をＣＲＰに与えることによって構築される状態空間モデルを基に逐次クラスタリングを行う逐次クラスタリング手法において、より高精度にクラスタリングを行うことができる逐次クラスタリング装置、逐次クラスタリング方法および逐次クラスタリングプログラムを提供することを目的とする。
【課題を解決するための手段】
【００３６】
本発明による逐次クラスタリング装置は、クラスタリングの処理単位であるデータを逐次、入力するデータ入力手段と、データ入力手段を介して入力されるデータのうちの少なくとも一部に付与される情報であって、付与先のデータが属するクラスタに関する情報または付与先のデータを含む２以上のデータ間のクラスタに関する相互関係を示す情報である教師ラベルを入力する教師ラベル入力手段と、入力された新たなデータが既存のクラスタまたは新たなクラスタに属する確率を、当該新たなデータに教師ラベルが付与されているか否かによって異なる値にして、逐次モンテカルロ法により、クラスタに対応するモデルの内部状態を示す情報である粒子情報を更新する粒子情報更新手段と、粒子情報更新手段により更新された粒子情報を用いて、入力された新たなデータに対して、逐次クラスタリングを行うクラスタリング手段とを備えたことを特徴とする。
【００３７】
本発明による逐次クラスタリング方法は、クラスタリングの処理単位であるデータを逐次入力する際に、入力されたデータに当該データが属するクラスタに関する情報または当該データを含む２以上のデータ間のクラスタに関する相互関係を示す情報である教師ラベルが付与されている場合には付与されている教師ラベルを入力し、入力された新たなデータが既存のクラスタまたは新たなクラスタに属する確率を、当該新たなデータに教師ラベルが付与されているか否かによって異なる値にして、逐次モンテカルロ法により、クラスタに対応するモデルの内部状態を示す情報である粒子情報を更新し、更新された粒子情報を用いて、入力された新たなデータに対して、逐次クラスタリングを行うことを特徴とする。
【００３８】
本発明による逐次クラスタリングプログラムは、コンピュータに、クラスタリングの処理単位であるデータを逐次入力する際に、入力されたデータに当該データが属するクラスタに関する情報または当該データを含む２以上のデータ間のクラスタに関する相互関係を示す情報である教師ラベルが付与されている場合には付与されている教師ラベルを入力する処理、入力された新たなデータが既存のクラスタまたは新たなクラスタに属する確率を、当該新たなデータに教師ラベルが付与されているか否かによって異なる値にして、逐次モンテカルロ法により、クラスタに対応するモデルの内部状態を示す情報である粒子情報を更新する処理、および更新された粒子情報を用いて、入力された新たなデータに対して、逐次クラスタリングを行う処理を実行させることを特徴とする。
【発明の効果】
【００３９】
本発明によれば、クラスタ数が未知の状態でデータを逐次処理してクラスタリングを行う逐次クラスタリングにおいて、より高精度にクラスタリングを行うことができる。
【図面の簡単な説明】
【００４０】
【図１】第１の実施形態の逐次クラスタリング装置の構成例を示すブロック図である。
【図２】教師ラベルが付与されていた場合のＣＲＰに与える確率値の一例を示す説明図である。
【図３】第１の実施形態の動作の一例を示すフローチャートである。
【図４】第２の実施形態の音声分類装置の構成例を示すブロック図である。
【図５】逐次クラスタリング手法を適用した逐次クラスタリング装置の構成例を示すブロック図である。
【図６】逐次モンテカルロ法によるクラスタリング推定のアルゴリズムを説明するための説明図である。
【図７】逐次モンテカルロ法によるクラスタリング推定のアルゴリズムにおけるリサンプリング手法の例を示す説明図である。
【図８】本逐次クラスタリング手法においてＣＲＰに与える確率値の一例を示す説明図である。
【図９】本発明の概要を示すブロック図である。
【発明を実施するための形態】
【００４１】
実施形態１．
以下、本発明の実施形態を図面を参照して説明する。図１は、本発明の第１の実施形態である逐次クラスタリング装置の構成例を示すブロック図である。なお、図１に示す逐次クラスタリング装置は、ＤＰＭモデルを逐次モンテカルロ法で推定する枠組みを用い、新たに入力されたデータが各既存クラスタまたは新たなクラスタに属する確率をＣＲＰに与えることによって構築される状態空間モデルを基に逐次クラスタリングを行う。なお、ＤＰＭモデルのデータ出力分布をどのような分布にするかは問わない。
【００４２】
図１に示す逐次クラスタリング装置１００は、データ入力部１０２と、教師ラベル入力部１０１と、準教師あり粒子情報更新部１０３と、粒子情報記憶部１０４と、クラスタ情報出力部１０５とを備える。
【００４３】
逐次クラスタリング装置１００は、例えば、メモリ、ハードディスク等の記憶媒体と、ＣＰＵ等のプログラムに従って動作するプロセッサユニットとを備えるコンピュータによって実現される。
【００４４】
データ入力部１０２は、クラスタリング対象とされるデータを逐次、入力する。
【００４５】
教師ラベル入力部１０１は、逐次入力されるデータの少なくとも一部に付随されている教師ラベルを入力する。教師ラベルとしては、例えば、入力されるデータに対する種別といったカテゴリ情報や、そのデータが属するクラスタを識別するためのクラスタＩＤなどのラベル情報といった当該データが属するクラスタを指し示すための情報に限らず、例えば、当該データと他のデータといった２以上のデータ間の関係を示す情報であってもよい。例えば、当該データとそれ以前に入力したデータについて、それらが同一のクラスタに含まれるまたは含まれないといった相対的な関係を示す情報であってもよい。なお、教師ラベルの付与は人手によってでも、データの種別を検出する検出手段等によってでもよくその手法は問わない。
【００４６】
本実施形態では、データに付随されて入力された教師ラベルを、当該データとそれ以前に入力したデータとの間の相対的な関係を表すものとして取り扱う。なお、入力される教師ラベルがカテゴリ情報やクラスタＩＤの形式で表現されるものであっても、他のデータに付与された教師ラベルと比較することにより、データ間の相対的な関係を示す情報に変換することが可能である。データ間の相対的な関係としては、例えば、現在のデータとそれ以前のデータとが同一のクラスタに属するか非同一のクラスタに属するかまたはそれ以外（不明）であるかが示されればよい。なお、本発明では、データおよびデータに付与される教師ラベルは時系列に沿って順次入力される構成を前提としているため、ある特定のデータに対して同一クラスタに含まれるか否かの情報が与えられた場合であっても、現時刻以前の情報をすべて集めれば、当該特定のデータ以外のデータ間での相対的な関係の情報を得ることが可能である。
【００４７】
準教師あり粒子情報更新部１０３は、入力されたデータとそのデータに教師ラベルがある場合には教師ラベルとを用いて、粒子情報記憶部１０４に記憶されている粒子情報を更新する。ここで、粒子情報とは、上述した逐次モンテカルロ法における粒子に関する情報である。本実施形態では、少なくとも各粒子について粒子重みとクラスタ変数とを含む情報であればよい。粒子情報記憶部１０４は、粒子情報を保持する。
【００４８】
クラスタ情報出力部１０５は、粒子情報記憶部１０４に記憶されている粒子情報から、上述の式（５）を用いて、入力された逐次データに対するクラスタリング結果である確率値を算出し、クラスタ情報として算出して出力する。
【００４９】
本実施形態において、データ入力部１０２、教師ラベル入力部１０１は、例えば、マイクロフォンやファイル入出力装置やネットワークカードといった外部よりデータを入力する入出力装置とＣＰＵ等のプログラムに従って動作するプロセッサとによって実現される。また、準教師あり粒子情報更新部１０３、クラスタ情報出力部１０５は、例えば、ＣＰＵ等のプログラムに従って動作するプロセッサによって実現される。また、粒子情報記憶部１０４は、メモリ等の記憶装置によって実現される。
【００５０】
次に、準教師あり粒子情報更新部１０３による粒子情報の更新処理について説明する。準教師あり粒子情報更新部１０３は、基本的には、図６および図７で示した粒子情報の更新処理と同様の方法により粒子情報を更新する。ただし、式（１）として示した仮粒子の重み算出演算において、ＣＲＰに与える確率値Ｐ（ｘｋ＋１（ｉ）＝ｃ｜ｘ１：ｋ）を、新たに入力されることにより現在の処理対象とされたデータへの教師ラベルの有無によって次のように切り替える。すなわち、現在の処理対象のデータ（時系列データでいえば、現時刻（ｋ＋１）のデータ）に教師ラベルが付与されていない場合には、上述の式（２）をそのまま用いる。一方、現在の処理対象とされたデータに教師ラベルが与えられた場合には、上述の式（２）を以下の式（６）に置き換えて用いる。
【００５１】
【数７】
2011210063.tif 000009
【００５２】
なお、式（６）において、ｎｃ（ｉ）ａは、時刻ｋの粒子（ｉ）においてクラスタｃに属するデータ個数をｎｃ（ｉ）としたときの、そのうちの現在の処理対象データと同じクラスとされたデータ個数を表す。また、ｎｃ（ｉ）ｒは、そのうちの異なるクラスとされたデータ個数を表す。また、ηとζは、教師ラベルの強度を指定するパラメタである。なお、ηは教師ラベルが他のデータと同じクラスを示した場合の強度を指定するパラメタであり、ζは教師ラベルが他のデータと異なるクラスを示した場合の強度を指定するパラメタである。
【００５３】
式（２）を式（６）に置き換えることによるＣＲＰの変化を図２を用いて説明する。図２は、教師ラベルが付与されていた場合のＣＲＰに与える確率値の一例を示す説明図である。なお、図８と同様、ｋ＝７において、ある粒子（ｉ）において、既存のクラスタ数Ｃ７（ｉ）＝３であったとする。また、それぞれのクラスタ（クラスタ１〜３）に含まれるデータ個数がｎ１＝４、ｎ２＝１、ｎ３＝２であったとする。
【００５４】
なお、現在の処理対象データに教師ラベルが付与されている場合には、準教師あり粒子情報更新部１０３は、当該データに付与された教師ラベルと必要で有ればそれ以前に入力されたデータに付与された教師ラベルとを用いて、各既存クラスタに属するデータのうち当該データと同一ラベルのデータ数、非同一ラベルのデータ数、およびラベルなし（同一か非同一かが不明なデータを含む）のデータ数を計数する。本例では、クラスタ１については４つのデータのうち３つが当該データと非同一ラベルであり、１つがラベルなし（当該データとの間の相関関係が不明な場合を含む。）であったとする。また、クラスタ２については、１つのデータはラベルなしのデータであったとする。また、クラスタ３については、２つのデータはともに当該データと同一ラベルであったとする。このとき、当該データがそれぞれのクラスタおよび新たなクラスタに帰属する確率は、教師ラベルを取り扱わない式（２）を用いた場合には、図２の上段で示すように４／（７＋γ）、１／（７＋γ）、２／（７＋γ）、γ／（７＋γ）となるが、教師ラベルを取り扱う本方式では式（６）を用いることにより、１／（６＋γ）、１／（６＋γ）、４／（６＋γ）、γ／（６＋γ）となる（ただし、η＝ζ＝１とする。）。
【００５５】
このように、データに付随して入力される教師ラベルを、データ間の相関関係を示す情報として用いることによって、同じクラスタに含まれるとするデータが多いほど、同一クラスタとなる確率は強められて高くなることがわかる。逆に、同一クラスタでないというデータの寄与は小さくなり相対的に違うクラスタとなる確率が高くなることがわかる。また、教師ラベルがないデータについては従来通りその個数が多いほどそのクラスタに分類される確率が高くなることがわかる。
【００５６】
図３は、本実施形態の動作の一例を示すフローチャートである。図３に示す例では、まずデータ入力手段１０２が、クラスタリングの処理単位であるデータを入力する（ステップＳ１０１）。なお、時系列データのようにクラスタリングの処理単位以上のデータが連続して入力される場合には、データ入力手段１０２がクラスタリングの処理単位に分割して入力すればよい。教師ラベル入力手段１０１は、データ入力手段１０２がデータを入力すると、当該データに付与された又は対応づけられた教師ラベルがあれば、その教師ラベルを入力する（ステップＳ１０２）。
【００５７】
少なくともデータが入力されると、準教師あり粒子情報更新部１０３は、図６および図７に示したアルゴリズムに従って、粒子情報の更新処理を行う。なお、準教師あり粒子情報更新部１０３は、初めてのデータ入力である場合には、時系列データにおける時刻ｋ＝１のデータであるとして粒子情報の初期化を行えばよい。初めてのデータ入力でなければ、時系列データにおける時刻ｋ＝ｋ＋１のデータ、すなわち新たなデータであるとして、当該データに教師ラベルが付与されているか否かを判定する（ステップＳ１０３）。
【００５８】
ここで、当該データに教師ラベルが付与されていない場合（ステップＳ１０３のＮｏ）、ＣＲＰに与える確率値Ｐ（ｘｋ＋１（ｉ）＝ｃ｜ｘ１：ｋ）を上述の式（２）によって求める（ステップＳ１０４）。一方、当該データに教師ラベルが付与されている場合には（ステップＳ１０３のＹｅｓ）、当該教師ラベルおよびこれまでに入力されたデータに付与された教師ラベルをデータ間の相互関係を示す情報として利用し、ＣＲＰに与える確率値Ｐ（ｘｋ＋１（ｉ）＝ｃ｜ｘ１：ｋ）を上述の式（６）によって求める（ステップＳ１０５）。なお、ここでは、当該教師ラベルおよびこれまでに入力されたデータに付与された教師ラベルに基づいて、各クラスタに属するデータについて当該データと同一ラベルか非同一ラベルかそのどちらでもないか（ラベルなしまたは同一か非同一かが不明）を特定し、それらのデータ数を用いて当該データが既存のクラスタに属する確率値およぼ新たなクラスタに属する確率値を求める。
【００５９】
確率値が求まると、準教師あり粒子情報更新部１０３は、その確率値を用いて仮粒子重みを算出し、必要に応じてリサンプリング手続きを行って、粒子情報を更新する（ステップＳ１０６）。なお、粒子情報の更新処理自体は、図６および図７で示した粒子情報の更新処理と同様であるため、説明省略する。なお、更新された粒子情報は、粒子情報記憶部１０４に記憶される。
【００６０】
粒子情報が更新されると、クラスタ情報出力部１０５は、粒子情報記憶部１０４に記憶されている粒子情報から、入力されたデータに対するクラスタリング結果の確率値を算出し、クラスタ情報として出力する（ステップＳ１０７）。
【００６１】
以降、データ入力が終了するまで、ステップＳ１０１〜ステップＳ１０７の処理を繰り返す（ステップＳ１０８）。
【００６２】
以上のように、本実施形態によれば、逐次クラスタリングする手法において、入力される少なくとも一部のデータに教師ラベルが付随している場合に、すなわち教師ラベルがある場合に、それらの情報を利用してクラスタ精度を高めることができる。
【００６３】
また、これら動作においては、教師ラベルで同一のクラスタに属するとされたデータに対し、複数のクラスタを生成することができる。これにより、教師ラベルにおいては同一のクラスタとされても、複雑な分布を持つデータについて、その分布を表現するのに適切な数のクラスタの集合として学習することができる。
【００６４】
実施形態２．
次に、本発明の第２の実施形態について説明する。図４は、本発明の第２の実施形態の音声分類装置２００の構成例を示すブロック図である。図４に示す音声分類装置２００は、図１に示した逐次クラスタリング装置１００を、音声認識システムにおける不要な雑音区間を除去するために音の種類を分類する音声分類装置として使用する例である。
【００６５】
本実施形態において、データ入力部１０２は、例えば、ＭＦＣＣ（Ｍｅｌ−Ｆｒｅｑｕｅｎｃｙ  Ｃｅｐｓｔｒｕｍ  Ｃｏｅｆｆｉｃｉｅｎｔ）系列などの音声特徴量時系列データを入力する。なお、本実施形態では、入力される音声特徴量時系列データをクラスタリング単位（例えば、所定の時間区間毎）に分割した上で、逐次入力する。なお、入力される音声特徴量時系列データの単位をそのままクラスタリング単位とする場合には分割処理は不要である。
【００６６】
また、教師ラベル入力部１０１は、データ入力部１０２によって入力される音声特徴量時系列データに対応づけて、当該音声特徴量時系列データが示す音データが音声のデータであるか雑音のデータであるかを示す教師ラベルを入力する。
【００６７】
準教師あり粒子情報更新部１０３は、入力された音声特徴量時系列データとその時系列データに教師ラベルが付与されている場合にはその教師ラベルとを用いて、粒子情報記憶部１０４に記憶されている粒子情報を更新する。粒子情報の更新方法は、第１の実施形態と同様である。
【００６８】
なお、本実施形態では、事前に学習データとそのデータに対する教師ラベル（音声または雑音のラベル）を、データ入力部１０２および教師ラベル入力部１０１から入力して、準教師あり粒子情報更新部１０３にそれらを用いて粒子情報を更新させ、学習結果として粒子情報記憶部１０４に記憶しておく。これにより、音声に対する複数のクラスタおよび雑音のクラスタが学習される。ここでは、入力されるラベルが音声または雑音の２ラベルであったとしても、入力される音声特徴量時系列データに応じて、それぞれ適切な数のクラスタとして学習される。
【００６９】
また、準教師あり粒子情報更新部１０３は、このように事前に学習された粒子情報が粒子情報記憶手段１０４に記憶された状態で、音声分類対象として新たな未知の音データ（教師ラベルが付与されていない音声特徴量時系列データ）が入力された場合には、入力された当該時系列データに対して、逐次、教師ラベルなしの場合における粒子情報の更新処理を行う。
【００７０】
クラスタ情報出力部１０５は、粒子情報記憶部１０４に記憶されている粒子情報を用いて、入力された音声特徴量時系列データに対して、逐次、式（５）の計算を行うことで、既存のクラスタまたは新たなクラスタに属する確率値を算出し、クラスタリング結果を示すクラスタ情報として出力する。本例では、入力された音データは、既存のクラスタもしくは新たなクラスタに確率的に分類される。
【００７１】
ここで、既存のクラスタに分類された場合は、事前にラベル情報を用いて学習されているため、そのクラスタが音声データのクラスであるか雑音データのクラスであるかは確率値として算出でき、音声分類が可能となる。一方、新たなクラスタに分類された場合は、未知の雑音もしくは雑音により強く歪められた音声データであると推測してもよい。その理由は、雑音については事前にすべてのパタンを準備することは困難であるが、クリーンな音声については事前に十分学習しておくことが可能であるためである。
【００７２】
なお、本実施形態では、学習データによって更新された粒子情報を基に粒子情報を更新して未知のデータに対するクラスタリングを行う例を説明したが、未知のデータに対するクラスタリングに用いる基礎粒子情報（音声分類対象データによる更新処理時に参照される粒子情報）は学習データを用いて更新させた粒子情報に限定されない。例えば、逐次処理において、未知のデータに対するクラスタリングにより更新された粒子情報を用いて次の未知のデータに対するクラスタリングを行うといったことも可能である。なお、そのような場合には、各クラスタに属するデータに付与された教師ラベルの情報とともに、教師ラベルが付与されていないデータの数をも考慮して、そのクラスタに属するとされたデータの種別を判定すればよい。
【００７３】
このように、本実施形態によれば、未知の音データが入力された場合であっても、その音データの各時系列データに対するクラスタリング結果を基にして、後段の音声認識システムに雑音または音声認識が困難な区間であることを通知することができる。なお、別途除去手段を設けて、当該音声分類装置内で不要雑音区間を除去するようにしてもよい。
【００７４】
次に、本発明の概要について説明する。図９は、本発明の概要を示すブロック図である。図９に示す逐次クラスタリング装置１０は、データ入力手段１１と、教師ラベル入力手段１２と、粒子情報更新手段１３と、クラスタ情報出力手段１４とを備える。
【００７５】
データ入力手段１１は、クラスタリングの処理単位であるデータを逐次、入力する。データ入力手段１１は、上記実施形態ではデータ入力部１０２として開示されている。
【００７６】
教師ラベル入力手段１２は、データ入力手段１１を介して入力されるデータのうちの少なくとも一部に付与される情報であって、付与先のデータが属するクラスタに関する情報または付与先のデータを含む２以上のデータ間のクラスタに関する相互関係を示す情報である教師ラベルを入力する。教師ラベル入力手段１２は、上記実施形態では教師ラベル入力部１０１として開示されている。
【００７７】
粒子情報更新手段１３は、入力された新たなデータが既存のクラスタまたは新たなクラスタに属する確率を、当該新たなデータに教師ラベルが付与されているか否かによって異なる値にして、逐次モンテカルロ法により、クラスタに対応するモデルの内部状態を示す情報である粒子情報を更新する。粒子情報更新手段１３は、上記実施形態では準教師あり粒子情報更新部１０３として開示されている。
【００７８】
クラスタ情報出力手段１４は、粒子情報更新手段１３により更新された粒子情報に基づいて、入力された新たなデータに対するクラスタリング結果を示すクラスタ情報を出力する。クラスタ情報出力手段１４は、上記実施形態ではクラスタ情報出力部１０４として開示されている。
【００７９】
このような構成を備えることによって、クラスタ数が未知の状態でデータを逐次処理してクラスタリングを行う逐次クラスタリングにおいて、入力データに教師ラベルが付随している場合にそれらを利用することができ、従って、より高精度にクラスタリングを行うことができる。
【００８０】
なお、上記の実施形態の一部または全部は、以下の付記のようにも記載されうるが、以下には限られない。
【００８１】
（付記１）クラスタリングの処理単位であるデータを逐次、入力するデータ入力手段と、前記データ入力手段を介して入力されるデータのうちの少なくとも一部に付与される情報であって、付与先のデータが属するクラスタに関する情報または付与先のデータを含む２以上のデータ間のクラスタに関する相互関係を示す情報である教師ラベルを入力する教師ラベル入力手段と、入力された新たなデータが既存のクラスタまたは新たなクラスタに属する確率を、当該新たなデータに教師ラベルが付与されているか否かによって異なる値にして、逐次モンテカルロ法により、クラスタに対応するモデルの内部状態を示す情報である粒子情報を更新する粒子情報更新手段と、前記粒子情報更新手段により更新された粒子情報に基づいて、入力された新たなデータに対するクラスタリング結果を示すクラスタ情報を出力するクラスタ情報出力手段とを備えた逐次クラスタリング装置。
【００８２】
（付記２）前記粒子情報更新手段は、入力された新たなデータに教師ラベルが付与されている場合に、前記教師ラベルにより示される当該新たなデータと当該新たなデータより前の時刻に入力されたデータである確定データ間のクラスタに関する相互関係に基づいて、確定データに対して行われたクラスタリング結果に対する重みを変更することにより、入力された新たなデータに教師ラベルが付与されているか否かによって、当該新たなデータが既存のクラスタまたは新たなクラスタに属する確率を異なる値にする、付記１に記載の逐次クラスタリング装置。
【００８３】
（付記３）前記粒子情報更新手段は、入力された新たなデータに教師ラベルが付与されていなかった場合に、当該新たなデータが既存の各クラスタに属する確率を、当該新たなデータより前の時刻に入力されたデータである確定データがそのクラスタに属する個数に比例するとし、かつ新たなクラスタに属するとする確率を、事前に指定した一定の変数に比例するとして算出し、前記粒子情報更新手段は、入力された新たなデータに教師ラベルが付与されていた場合に、既存の各クラスタについて、前記教師ラベルによって当該新たなデータと同一クラスタに含まれるとされたクラスタに属する確率を、他のクラスタに属する確率値よりも相対的に大きくする、付記１または付記２に記載の逐次クラスタリング装置。
【００８４】
（付記４）前記粒子情報更新手段は、入力された新たなデータに教師ラベルが付与されていなかった場合に、当該新たなデータが既存の各クラスタに属する確率を、当該新たなデータより前の時刻に入力されたデータである確定データがそのクラスタに属する個数に比例するとし、かつ新たなクラスタに属するとする確率を、事前に指定した一定の変数に比例するとして算出し、前記粒子情報更新手段は、入力された新たなデータに教師ラベルが付与されていた場合に、既存の各クラスタについて、前記教師ラベルによって当該新たなデータと同一クラスタに含まれないとされたクラスタに属する確率を、他のクラスタに属する確率値よりも相対的に小さくする、付記１から付記３のうちのいずれかに記載の逐次クラスタリング装置。
【００８５】
（付記５）前記粒子情報更新手段は、入力された新たなデータに教師ラベルが付与されていた場合、当該新たなデータが既存の各クラスタに属する確率を、確定データがそのクラスタに属する個数に対して、そのうちの前記教師ラベルによって当該新たなデータと同一クラスタに含まれるとされた確定データの個数に、指定した一定の係数をかけて加算した値に比例するとし、かつ新たなクラスタに属するとする確率を、事前に指定した一定の変数に比例するとして算出する、付記１、付記２または付記４に記載の逐次クラスタリング装置。
【００８６】
（付記６）前記粒子情報更新手段は、入力された新たなデータに教師ラベルが付与されていた場合、当該新たなデータが既存の各クラスタに属する確率を、確定データがそのクラスタに属する個数に対して、そのうちの教師ラベルによって当該新たなデータと同一クラスタに含まれないとされた確定データの個数に、指定した一定の係数をかけて減算した値に比例するとし、かつ新たなクラスタに属するとする確率を、事前に指定した一定の変数に比例するとして算出する、付記１から付記４のうちのいずれかに記載の逐次クラスタリング装置。
【００８７】
（付記７）前記粒子情報更新手段は、入力された新たなデータに教師ラベルが付与されていた場合、当該新たなデータが既存の各クラスタに属する確率を、確定データがそのクラスタに属する個数に対して、そのうちの前記教師ラベルによって当該新たなデータと同一クラスタに含まれるとされた確定データの個数に指定した一定の係数をかけて加算するとともに、そのうちの前記教師ラベルによって当該新たなデータと同一クラスタに含まれないとされた確定データの個数に指定した別の一定の係数をかけて減算した結果算出された値に比例するとし、かつ新たなクラスタに属するとする確率を、事前に指定した一定の変数に比例するとして算出する、付記１から付記４のうちのいずれかに記載の逐次クラスタリング装置。
【００８８】
（付記８）クラスタリングの処理単位であるデータを逐次入力する際に、前記入力されたデータに当該データが属するクラスタに関する情報または当該データを含む２以上のデータ間のクラスタに関する相互関係を示す情報である教師ラベルが付与されている場合には付与されている前記教師ラベルを入力し、入力された新たなデータが既存のクラスタまたは新たなクラスタに属する確率を、当該新たなデータに教師ラベルが付与されているか否かによって異なる値にして、逐次モンテカルロ法により、クラスタに対応するモデルの内部状態を示す情報である粒子情報を更新し、前記粒子情報更新手段により更新された粒子情報に基づいて、入力された新たなデータに対するクラスタリング結果を示すクラスタ情報を出力する逐次クラスタリング方法。
【００８９】
（付記９）コンピュータに、クラスタリングの処理単位であるデータを逐次入力する際に、前記入力されたデータに当該データが属するクラスタに関する情報または当該データを含む２以上のデータ間のクラスタに関する相互関係を示す情報である教師ラベルが付与されている場合には付与されている前記教師ラベルを入力する処理、入力された新たなデータが既存のクラスタまたは新たなクラスタに属する確率を、当該新たなデータに教師ラベルが付与されているか否かによって異なる値にして、逐次モンテカルロ法により、クラスタに対応するモデルの内部状態を示す情報である粒子情報を更新する処理、および粒子情報更新手段により更新された粒子情報に基づいて、入力された新たなデータに対するクラスタリング結果を示すクラスタ情報を出力する処理を実行させるための逐次クラスタリングプログラム。
【産業上の利用可能性】
【００９０】
本発明は、クラスタ数が未知の状態で入力されるデータを逐次処理してクラスタリングを行うものであって、ＤＰＭモデルを逐次モンテカルロ法で推定する枠組みにおいて、現時刻以前のデータが少なくとも一つは属する各クラスタまたは新たなクラスタに属する確率をＣＲＰを用いて算出する手法を用いるものであれば、どのような用途にも適用可能である。例えば、音声認識システムにおける雑音分類や話者ラベリングといった用途にも好適に適用可能である。
【符号の説明】
【００９１】
１００  逐次クラスタリング装置
１０１  教師ラベル入力部
１０２  データ入力部
１０３  準教師あり粒子情報更新部
１０４  粒子情報記憶部
１０５  クラスタ情報出力部
２００  音声分類装置
１０  逐次クラスタリング装置
１１  データ入力手段
１２  教師ラベル入力手段
１３  粒子情報更新手段
１４  クラスタ情報出力手段
【図１】
2011210063.tif 000010
【図２】
2011210063.tif 000011
【図３】
2011210063.tif 000012
【図４】
2011210063.tif 000013
【図５】
2011210063.tif 000014
【図６】
2011210063.tif 000015
【図７】
2011210063.tif 000016
【図８】
2011210063.tif 000017
【図９】
2011210063.tif 000018