(57)【要約】【課題】スパースなモデルを作成できる技術を提供する。【解決手段】学習用データからモデルを作成するモデル作成装置において、モデルを表すパラメータである重み付けパラメータの事前分布としてラプラス分布を仮定する。そして、この事前分布と学習用データから算出されるモデルの尤もらしさ（事後確率）が最大となるように、重み付けパラメータや事前分布を決定することによってモデルを作成する。事後確率の最大化するモデルパラメータの最適化処理は、期待値最大化法によって行われることが好ましい。【選択図】図４
2008009548.tif 000002
【特許請求の範囲】
【請求項１】
学習用データからモデルを作成するモデル作成装置であって、
モデルを表すパラメータの事前分布としてラプラス分布を仮定し、該事前分布と学習用データから算出されるモデルの尤もらしさが最大となるように前記パラメータを決定することによってモデルを作成するモデル作成装置。
【請求項２】
学習用データからモデルを作成するモデル作成装置であって、
学習用データを入力する入力手段と、
複数の基底関数の重み付け和として表されるモデルを作成するモデル作成手段と、
を備え、
前記モデル作成手段は、
前記複数の基底関数の重み付けを制御する重み付けパラメータの事前分布を、ハイパーパラメータによって制御されるラプラス分布として決定する事前分布決定手段と、
前記重み付けパラメータを決定する重み付けパラメータ決定手段と、
を有し、
前記重み付けパラメータおよび前記ハイパーパラメータは、前記事前分布と前記学習用データから算出されるモデルの尤もらしさを表すモデルの事後確率が最大となるように決定される
ことを特徴とするモデル作成装置。
【請求項３】
前記重み付けパラメータおよび前記ハイパーパラメータの決定は、期待値最大化法によって行われることを特徴とする請求項２に記載のモデル作成装置。
【請求項４】
前記基底関数の重み付け係数は前記重み付けパラメータを変数とする重み付けマッピング関数によって決定され、
前記重み付けマッピング関数は前記重み付けパラメータに対して線形であることを特徴とする請求項２又は３に記載のモデル作成装置。
【請求項５】
前記基底関数の重み付け係数は前記重み付けパラメータを変数とする重み付けマッピング関数によって決定され、
前記重み付けマッピング関数は前記重み付けパラメータに対して非線形であることを特徴とする請求項２又は３に記載のモデル作成装置。
【請求項６】
前記重み付けマッピング関数は、ステップ関数であることを特徴とする請求項５に記載のモデル作成装置。
【請求項７】
入力されたデータを識別する識別装置であって、
データを入力するデータ入力手段と、
請求項１〜６のいずれかに記載のモデル作成装置によって作成されたモデルを記憶する記憶手段と、
入力されたデータを前記モデルによって識別する識別手段と、
を備える識別装置。
【請求項８】
学習用データからモデルを作成するモデル作成方法であって、
情報処理装置が、
学習用データを取得するステップと、
モデルを表すパラメータの事前分布としてラプラス分布を仮定するステップと、
前記事前分布と前記学習用データから算出されるモデルの尤もらしさが最大となるように前記パラメータを決定することによってモデルを作成するステップと、
を含むモデル作成方法。
【請求項９】
学習用データからモデルを作成するモデル作成方法であって、
情報処理装置が、
学習用データを取得するステップと、
複数の基底関数の重み付け和として表されるモデルを作成するステップと、
を含み、
前記モデルを作成するステップは、
前記複数の基底関数の重み付けを制御する重み付けパラメータの事前分布を、ハイパーパラメータによって制御されるラプラス分布として決定するステップと、
前記重み付けパラメータを決定するステップと、
を含み、
前記重み付けパラメータおよび前記ハイパーパラメータは、前記事前分布と前記学習用データから算出されるモデルの尤もらしさを表すモデルの事後確率が最大となるように決定される
ことを特徴とするモデル作成方法。
【請求項１０】
データを識別する識別方法であって、
請求項８または９に記載のモデル作成方法によって作成されたモデルを有する情報処理装置が、
データを取得するステップと、
前記モデルに基づいて、前記データを識別するステップと、
前記データの識別結果を出力ステップと、
を含む識別方法。
【請求項１１】
学習用データからモデルを作成するためのプログラムであって、
情報処理装置に、
学習用データを取得するステップと、
モデルを表すパラメータの事前分布としてラプラス分布を仮定するステップと、
前記事前分布と前記学習用データから算出されるモデルの尤もらしさが最大となるように前記パラメータを決定することによってモデルを作成するステップと、
を実行させるプログラム。
【請求項１２】
学習用データからモデルを作成するためのプログラムであって、
情報処理装置に、
学習用データを取得するステップと、
複数の基底関数の重み付け和として表されるモデルを作成するステップと、
を実行させ、
前記モデルを作成するステップは、
前記複数の基底関数の重み付けを制御する重み付けパラメータの事前分布を、ハイパーパラメータによって制御されるラプラス分布として決定するステップと、
前記重み付けパラメータを決定するステップと、
を含み、
前記重み付けパラメータおよび前記ハイパーパラメータは、前記事前分布と前記学習用データから算出されるモデルの尤もらしさを表すモデルの事後確率が最大となるように決定される
ことを特徴とするプログラム。
【請求項１３】
データを識別するためのプログラムであって、
請求項１１または１２に記載のプログラムによって作成されたモデルを有する情報処理
装置に、
データを取得するステップと、
前記モデルに基づいて、前記データを識別するステップと、
前記データの識別結果を出力ステップと、
を実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、データモデルを作成する技術および作成されたモデルを用いてデータを識別する技術に関する。
【背景技術】
【０００２】
データのモデル化および解析は、与えられた学習用データから決定関数および未知の分布を学習することを目的とする。そして、得られた決定関数または分布は、未知のサンプルを識別（分類）するために用いられる。
【０００３】
一般に、モデル化問題においては、入力ベクトルｘｉ（ｉ＝１〜Ｎ）および対応するクラス（ターゲット、ラベルとも呼ばれる）ｔｉ（ｉ＝１〜Ｎ）を含む、数１で表される学習用データセットが与えられる。
【０００４】
【数１】
2008009548.tif 000003
【０００５】
この学習用データから、モデルｐ（ｔ｜ｘ）の推論が行われる。そして、未知のサンプルｘ＊が与えられたときに、得られたモデルを用いてこのサンプルのクラスを推定することができる。
【０００６】
このようにして得られたデータモデルの性能は、問題そのものの複雑さ、学習用データのサンプル数、学習用データ内の誤りの数、識別器の複雑さなど、いくつかの要因によって定まる。一般に、情報検索や人間とコンピュータのやりとりなどのデータ解析問題の多くは複雑である。したがって、これらのデータ解析問題においては、カーネル・トリックなどの複雑な方法を使用しなければならない。一方、これらの用途においては、メモリ容量の小さなランタイムライブラリである必要があり、また、高速な評価速度も必要である。従来のモデル化手法では、上記のような複雑な問題を小サイズのランタイムライブラリで高速に評価することは困難であった。
【０００７】
良好な性能を得るために、サポート・ベクトル・マシン（Support Vector Machine。以下、ＳＶＭと表記。特許文献１）や、レリバント・ベクトル・マシン（Relevant Vector Machine。以下、ＲＶＭと表記。特許文献２）では、数２で表される判別関数に基づいて
識別を行っている。
【０００８】
【数２】
2008009548.tif 000004
ここで、ｗｉ（ｉ＝０〜Ｎ）は重み付け係数であり、Ｋ（ｘ，ｘｉ）はカーネル関数である。
【０００９】
ＳＶＭにおいては、ターゲット関数の最適化は、学習セットについての分類エラーを最小にしつつ、同時にトレードオフ・パラメータでカーネルによって暗黙裏に定められる特徴空間における２つの分類の間のマージンを最大化することによって行われる。このようにして行われる最適化によると、重み付けの多くがゼロとなり、非ゼロの重み付けがマージン上／マージン内あるいはマージンの誤り側に位置するｘｉのみに組み合わされるスパ
ース（疎）なカーネル分離器を得ることができる。非ゼロの重み付けが与えられたｘｉはサポートベクトルと呼ばれる。決定関数はこれらのサポートベクトルのみによって決定されるため、モデルの複雑さが簡略化される。ＳＶＭにおいては、一般に、学習サンプルのうちの１／１０〜１／５がサポートベクトルとなる。
【００１０】
ＲＶＭはＳＶＭよりもさらにスパースな学習方法である。ＲＶＭでは、数２における重み付け係数ｗｉに、数３で表される独立なハイパーパラメータαによって制御される平均ゼロのガウス事前分布を導入する。
【００１１】
【数３】
2008009548.tif 000005
【００１２】
そして、学習サンプルに基づいて、周辺尤度が最大になるように、重み付け係数およびハイパーパラメータを決定する。
【００１３】
ＲＶＭはＳＶＭよりもスパースであるが、特徴選択などのいくつかの用途については依然として十分にスパースではない。また、重み付け係数が数２で表されるように線形な形式であるという点も、現実の用途において柔軟性に欠ける。
【特許文献１】米国特許第５６４９０６８号明細書
【特許文献２】米国特許第６６３３８５７号明細書
【発明の開示】
【発明が解決しようとする課題】
【００１４】
本発明は上記実情に鑑みてなされたものであって、その目的とするところは、スパースなモデルを作成するための技術を提供することにある。
【課題を解決するための手段】
【００１５】
上記目的を達成するために本発明では、以下の手段または処理によって学習用データからモデルの作成を行う。すなわち、本発明は、学習用データからモデルを作成するモデル作成装置であって、モデルを表すパラメータの事前分布としてラプラス分布を仮定し、この事前分布と学習用データから算出されるモデルの尤もらしさ（事後確率）が最大となるように、パラメータを決定することによってモデルを作成する。
【００１６】
より具体的には、本発明は学習用データからモデルを作成するモデル作成装置であって、学習用データを入力する入力手段と、複数の基底関数の重み付け和として表されるモデルを作成するモデル作成手段とを備える。ここで、モデル作成手段は、基底関数の重み付けを制御する重み付けパラメータの事前分布を、ハイパーパラメータによって制御されるラプラス分布として決定する事前分布決定手段と、重み付けパラメータを決定する重み付けパラメータ決定手段と、を有し、重み付けパラメータおよびハイパーパラメータは、事前分布に基づいて算出される学習用データが与えられたときのモデルの尤もらしさを表すモデルの事後確率が最大となるように決定される。
【００１７】
このように、重み付けパラメータの事前分布としてラプラス分布を設定することによって、重み付けパラメータは０を取る確率が高くなる。すなわち、事後確率を最大化することによって得られる重み付けパラメータの多くは０となる。したがって、モデルを決定するために記憶する必要のある学習データの数が少ないモデル、つまり、スパースなモデルを得ることが可能となる。
【００１８】
事後確率を最大化するように重み付けパラメータおよびハイパーパラメータを決定する処理は、期待値最大化法によって行われることが好ましい。つまり、重み付けパラメータおよびハイパーパラメータの推定値を決定し、この推定値に基づいて条件付き期待値を算出して、条件付き期待値が最適化されるように重み付けパラメータおよびハイパーパラメータを修正する。そして、修正後の重み付けパラメータおよびハイパーパラメータに基づいて、上記の処理を繰り返し適用する。この繰り返し処理は、所定の収束条件を満たすまで行われることが好ましい。
【００１９】
また、基底関数の重み付け係数は、重み付けパラメータを変数とする重み付けマッピング関数によって決定されることが好ましい。この際、重み付けマッピング関数は重み付けパラメータに対して、線形であっても非線型であっても良い。特に、本発明に係るモデル作成装置では、非線形な重み付けマッピング関数を用いることができ、したがって柔軟なモデルを作成することが可能となる。なお、非線形な重み付けマッピング関数としては、ステップ関数を用いることも好ましい。
【００２０】
なお、本発明の別の態様は、上記のモデル作成装置によって作成されたモデルを用いた識別装置である。すなわち、入力されたデータを識別する識別装置であって、データを入力するデータ入力手段と、上記のモデル作成装置によって作成されたモデルを記憶する記憶手段と、入力されたデータをこのモデルによって識別する識別手段とを有する。
【００２１】
上記のモデル作成装置によって作成されるモデルはスパースなモデルであるため、識別装置に必要とされるメモリ容量が少なくて済み、また、識別処理を高速に行うことが可能である。
【００２２】
また、本発明は、上記処理の少なくとも一部を含むモデル作成方法や識別方法、または、かかる方法を実現するためのプログラムとして捉えることもできる。上記手段および処理の各々は可能な限り互いに組み合わせて本発明を構成することができる。
【発明の効果】
【００２３】
本発明によれば、スパースなモデルを作成することが可能となる。
【発明を実施するための最良の形態】
【００２４】
以下に図面を参照して、この発明の好適な実施の形態を例示的に詳しく説明する。
【００２５】
本実施形態は、入力されたデータを識別（分類）する識別装置である。識別装置では、あらかじめ学習によって得られた識別器に、データを入力することでそのデータを識別する。
【００２６】
以下で説明するモデルは、どのような識別処理に対しても有効である。識別処理としては、例えば、顔画像から男性か女性かを判別する２クラス分類問題、顔画像から年齢層を判別したり、複数の登録者のうちどの顔と合致するか判断（顔認証）したりという多クラス分類問題、顔画像から顔の向きを角度（連続値）で推定する回帰分析があるが、このいずれにも適用可能である。なお、ここでは入力データとして顔画像を例に説明したが、その他の画像データや音声データ、あるいはその他どのようなデータを識別するモデルであっても構わない。
【００２７】
以下では、まず識別器の学習方法について説明し、次に学習によって得られた識別器を用いて識別を行う方法について説明する。
【００２８】
なお、以下で説明する学習処理および識別処理は、汎用のコンピュータ（情報処理装置
）が、プログラムを実行することによって行われる。典型的なコンピュータのハードウェア構成は図１に示す通りである。コンピュータは、入力装置１０１，メモリ１０２，ＣＰＵ（中央演算処理装置）１０３，出力装置１０４を備える。また、以下の学習処理および識別処理は分散型のコンピュータや他のどのような形式のコンピュータによって実行されても構わない。
【００２９】
＜学習処理＞
［概要］
まず初めに、一般化予測モデルの概要について説明する。図２は、予測モデルの概要を示す図である。モデル２０２は、入力データ２０１を受け付けて、この入力データがどのクラスに属するかを示す離散値または連続値の識別結果２０３を出力する線形な予測モデルであって良い。したがって、モデル２０２の作成は、モデル作成装置に入力される学習用データセットに基づいて、モデルについて事前分布を生成することによって行われる必要がある。なお、モデル作成装置（学習装置）は、汎用のコンピュータ上においてＣＰＵがプログラムを実行することで、以下の処理を行う。
【００３０】
図３は、モデル作成装置の概要を示す図である。前述したように、モデル作成装置３０２は、数４で示される学習用データセット３０１を受け取る。
【数４】
2008009548.tif 000006
ここで、ｘｉはパターンベクトルであり、ｔｉは対応するスカラー・ターゲットである。
【００３１】
モデル作成装置３０２は、数５で表されるモデル３０３を最終的に出力する。なお、モデル作成装置３０２のより詳細な機能ブロック図を図４に示す。モデル作成装置３０２は、学習用データの入力を受け付ける学習データ入力部３４と、学習用データからモデルを作成するモデル作成部３０とから構成される。モデル作成部３０は、重み付けパラメータの事前分布を決定する事前分布決定部３２と、重み付けパラメータを決定する重み付けパラメータ決定部３３と、決定された事前分布・重み付けパラメータ・入力された学習用データに基づいてモデルの事後確率を求める事後確率算出部３１とを備える。事前分布決定部３２と重み付けパラメータ決定部３３は、モデルの事後確率が最大となるように、事前分布および重み付けパラメータを決定する。以下、各処理の詳細について説明する。
【数５】
2008009548.tif 000007
【００３２】
［一般化予測モデル］
一般化線形予測モデルにおいては、学習装置の出力は、数６で示すようにいくつかの基底関数Ｋ（ｘｉ，ｘ）の線形重み付け和として表現することができる。
【数６】
2008009548.tif 000008
【００３３】
ｓ（ｗｉ）は、基底関数Ｋ（ｘｉ，ｘ）に関連付けられ、重み付けパラメータｗｉ（ｉ
＝０〜Ｎ）によって制御される重み付けマッピング関数であり、さまざまな形態を持つことが可能であるが、最も一般的な形として以下のような２種類の形態がある。
【数７】
2008009548.tif 000009
【数８】
2008009548.tif 000010
【００３４】
また、εは、平均値０および偏差σを有する雑音である。
【００３５】
モデルの学習処理においては、学習用データセットが与えられたときのモデルの尤もらしさが最大となるようにモデルパラメータを決定する。条件付き分布
【数９】
2008009548.tif 000011
が、ガウシアンまたは正規形式
【数１０】
2008009548.tif 000012
であるとする。この場合、学習用データセットの尤度は、次のように表される。
【数１１】
2008009548.tif 000013
【００３６】
なお、Φは、Ｎ×（Ｎ＋１）の設計マトリクスであり、次の数１２で表される内部学習セット・カーネル値から成る。
【数１２】
2008009548.tif 000014
【００３７】
ｗおよびσの最尤推定によると、一般に過学習が生じ、学習データに過剰に依存することになる。そこで、重み付けパラメータに対して次の数１３で表される平均が０のラプラス分布を事前分布として定義する。
【数１３】
2008009548.tif 000015
ここで、||w||1は、
【数１４】
2008009548.tif 000016
であり、また、αは一様分布のもとで分布したスカラー・ハイパーパラメータである。図５にラプラス分布の例を示した。図５に示す実線のグラフがラプラス分布であり、点線はＲＶＭにおいて事前分布として利用される正規分布（ガウス分布）である。
【００３８】
事後確率最大化法によれば、最適なパラメータは以下の式によって求められる。
【数１５】
2008009548.tif 000017
【００３９】
しかしながら、これらのパラメータは直接数式から求めることはできないので、αを隠れ変数と考えてＥＭアルゴリズムを用いることによりｐ（ｗ，σ２｜ｔ）を最大化する。αを考慮することにより、最大化すべき事後確率は、
【数１６】
2008009548.tif 000018
となる。これは、ベイズ推定則によって以下のように変形できる。
【数１７】
2008009548.tif 000019
【００４０】
これを最大化するＥＭアルゴリズムは、以下のＥステップとＭステップの２つから構成され、これらのステップを繰り返し適用することで事後確率を最大化する。
【００４１】
Ｅステップ：
【数１８】
2008009548.tif 000020
【００４２】
Ｍステップ：
【数１９】
2008009548.tif 000021
【００４３】
Ｅステップは、以下のように計算できる。
【数２０】
2008009548.tif 000022
【００４４】
Ｍステップでは、以下の手続によって、σ２（ｋ＋１），ｗ（ｋ＋１）を求め、Ｑを最大化する。σ２（ｋ＋１）は、以下の式によって得ることができる。
【数２１】
2008009548.tif 000023
【００４５】
ｗ（ｋ＋１）は、以下の条件が成立するｗを求めることにより推定する。これには共役勾配法などの手法を用いることができる。
【数２２】
2008009548.tif 000024
【００４６】
異なる重み付けマッピング関数Ｓ（ｗ）について、ＥＭアルゴリズムは異なる具体的な形態を有する。ここでは、Ｓ（ｗ）＝ｗの場合における、重み付けパラメータｗおよび雑音偏差σの最適化の具体的な方法について、以下で図６のフローチャートに基づいて説明する。なお、Ｓ（ｗ）＝ｗ以外の場合も同様にｗおよびσの最適化を行うことができる。
【００４７】
［Ｓ０．初期化］
まず、ｋ＝０における、パラメータの初期値ｗ（０）およびσ（０）を定める。この初期値は、任意の値を取ることができるが、経験的に妥当な値が分かっている場合にはその値を用いることが好ましい。
【００４８】
［Ｓ１．小さな重み付けパラメータを省略］
次に、重み付けパラメータのうち十分に小さいならば、それらに対応するサンプルを学習セットから削除することができる。すなわち、重み付けパラメータのうち所定の閾値よりも小さい場合には、それに対応するサンプルを学習セットから取り除き、残った学習セットに対応する重み付けパラメータだけからｗを再構成する。たとえば、今、ｍ番目の重みｗｍが十分に小さかったとすると、再構成されるｗは、以下のようになる。
【数２３】
2008009548.tif 000025
【００４９】
［Ｓ２．モデルパラメータの更新］
Ｓ（ｗ）＝ｗの場合には、雑音偏差σは、次式の方法で更新することができる。ここで、Φは、上記のＳ１において省略したｗに対応する列を取り除いて再構成したものである。
【数２４】
2008009548.tif 000026
【００５０】
また、重み付けパラメータｗは、以下の式にしたがって更新することができる。
【数２５】
2008009548.tif 000027
【００５１】
［Ｓ３．対数事後確率の計算］
次に、上記のようにして更新されたｗ（ｋ＋１）、σ（ｋ＋１）に基づいて、Ｑ（ｋ＋１）を以下の式にしたがって計算することができる。
【数２６】
2008009548.tif 000028
【００５２】
［Ｓ４．収束判定］
事後確率が収束するか否かを判定する。すなわち、｜Ｑ（ｋ＋１）−Ｑ（ｋ）｜が所定の閾値以下であるか否かを判定する。事後確率が収束する場合には、最適化処理を終了し、収束しない場合にはＳ１へと戻る。
【００５３】
このようにして、重み付けパラメータｗと雑音偏差σが定められ、したがって、モデルｐ（ｔ｜ｘ）が決定される。なお、重み付けパラメータｗｉはラプラス分布にしたがっているため、ｗｉのうちの多くはゼロとなる。すなわち、モデルｐ（ｔ｜ｘ）の決定のために記憶する必要のある基底関数の数が少なくなり、本実施形態に係る学習モデルはスパースである。
【００５４】
図７は、本実施形態に係るモデル作成装置によって作成されるモデルのスパースさを説明する図である。図において、各点は学習データを表し、丸で囲まれたものは対応する重み付けパラメータが非ゼロの学習データである。図７（ａ）はＳＶＭによって作成されたモデルであり、重み付けパラメータが非ゼロの学習データ（ＳＶＭにおいてはサポートベクトルと呼ばれる）は８８個である。図７（ｂ）はＲＶＭによって作成されたモデルであり、重み付けパラメータが非ゼロの学習データ（ＲＶＭにおいてはレリバント・ベクトルと呼ばれる）は４個であり、ＳＶＭよりもスパースである。図７（ｃ）は本実施形態に係るモデル作成装置によって作成されたモデルであり、重み付けパラメータが非ゼロの学習データは３個であり、ＲＶＭよりもさらにスパースなモデルを作成することができる。なお、ＳＶＭ，ＲＶＭ、本実施形態とも使用した学習データは同じものでありその数は３００個である。
【００５５】
スパースなモデルを作成することの利点は以下の通りである。まず、重み付けが０である学習データは記憶する必要がないので、モデルを小サイズのランタイム・ライブラリとすることが可能であり、メモリ容量に対する制限の厳しい小型の装置（携帯電話機やＰＤＡなど）にも搭載することが可能となる。また、モデルを用いた識別処理において、計算量が少なくてすむため、高速な識別処理が可能となる。さらに、スパースであればあるほど、学習モデルに対する依存度が低くなることが知られており、未知のサンプルに対する汎化性能が高いモデルとなる。
【００５６】
上記の説明においては、重み付けマッピング関数としてＳ（ｗ）＝ｗの線形の重み付けマッピング関数を仮定したが、本実施形態では非線形の重み付けマッピング関数を用いることができる。この場合も、モデルパラメータはＥＭアルゴリズムによって決定することができる。非線形の重み付けマッピング関数を用いることによって、様々な特徴を有するモデルに対応することができる。また、重み付けマッピング関数として、次式で示されるステップ関数を用いることも好ましい。
【数２７】
2008009548.tif 000029
【００５７】
このようなステップ関数を用いることで、重み付け係数は離散値（例えば、−１，０，＋１）となる。重み付け係数を整数に限定することで、重み付け係数が実数を取りうる場合に比較して、コンピュータ上における識別処理を高速に行うことが可能である。
【００５８】
＜識別処理＞
識別装置は、モデル作成装置と同様に、図１に示すような汎用のコンピュータによって構成される。識別装置は、入力装置１０１からデータの入力を受け付け、メモリ１０２に格納されたモデルに基づいて識別処理を行い、識別結果を出力装置１０４に出力する。メモリ１０２に格納されたモデルは、上記で説明した学習処理によって作成されるモデルである。この識別処理は、ＣＰＵ１０３が、プログラムを実行することによって実現される。
【００５９】
入力装置１０１は、例えば、ハードディスク装置などの記録媒体からデータを読み込むための装置であったり、ネットワークを介してデータを取得するためのネットワークインタフェースであったりする。
【００６０】
本実施形態において、モデルの識別結果は連続値として出力されるため、回帰分析を行うことも可能であり、適切な閾値を設定することで２クラス分類や他クラス分類の分類処理を行うことも可能である。
【図面の簡単な説明】
【００６１】
【図１】本実施形態に係るモデル作成装置および識別装置のハードウェア構成を示す図である。
【図２】本実施形態において作成されるモデルの概要を示す図である。
【図３】本実施形態に係るモデル作成装置の概要を示す図である。
【図４】本実施形態に係るモデル作成装置の機能ブロックを示す図である。
【図５】本実施形態および従来例において使用される事前分布を示す図である。
【図６】本実施形態におけるモデルパラメータを決定する処理の流れを示すフローチャートである。
【図７】本実施形態および従来例において作成されるモデルのスパースさを説明する図である。
【符号の説明】
【００６２】
３０２    モデル作成装置
３０      モデル作成部
３１      事後確率算出部
３２      事前分布決定部
３３      重み付けパラメータ決定部
３４      学習データ入力部
【図１】
2008009548.tif 000030
【図２】
2008009548.tif 000031
【図３】
2008009548.tif 000032
【図４】
2008009548.tif 000033
【図５】
2008009548.tif 000034
【図６】
2008009548.tif 000035
【図７】
2008009548.tif 000036