"誤ったカテゴリに分類されたコンテンツである誤分類サンプルを含む、コンテンツの属するカテゴリが既知のサンプル集合の中から、誤分類サンプルを検出する誤分類検出装置であって、各サンプルnのコンテンツxnとカテゴリynの同時確率モデルpxn、ynのパラメータ値Θを、一点除外交差検定法に基づく前記同時確率モデルpxn、ynの予測尤度を最大化させるように、サンプルnごとに設定した重みwnを用いて計算する確率モデル生成手段と、前記確率モデル生成手段によって計算された前記同時確率モデルpxn、ynのパラメータ値Θに基づいて、各サンプルnについてコンテンツxnが分類されているカテゴリynの予測クラス事後確率Pyn|xnを計算し、各サンプルnの予測クラス事後確率Pyn|xnに基づいて、誤分類サンプルを検出する誤分類サンプル検出手段と、を含む誤分類検出装置。前記確率モデル生成手段は、誤って分類されているサンプルnに大きな値を設定すべき重みw0n及び正しく分類されているサンプルnに大きな値を設定すべき重みw1nを規定する重みパラメータ行列の推定値Wに基づいて求められる、一点除外交差検定法に基づくパラメータ値Θnを用いて、各サンプルnが正しく分類されているか否かの予測を与える正誤予測確率Pz|xn、yn;Θnを計算する正誤予測確率計算手段と、前記正誤予測確率計算手段によって計算された前記正誤予測確率Pz|xn、yn;Θnを用いて、前記重みパラメータ行列の推定値Wを計算する重み計算手段と、前記重みパラメータ行列の推定値Wの変化量を計算し収束条件を満たす前記重みパラメータ行列の推定値Wが求まるまで、あるいは所定の回数に達するまで、前記正誤予測確率計算手段による計算及び前記重み計算手段による計算の繰り返し処理を行う収束判定手段と、前記収束判定手段による繰り返し処理により得られた前記重みパラメータ行列の推定値Wを用いて、サンプルnごとに、一点除外交差検定法に基づく前記同時確率モデルpxn、ynのパラメータの推定値Θnを計算するパラメータ計算手段と、を含む請求項1記載の誤分類検出装置。前記確率モデル生成手段は、一点除外交差検定法に基づく各サンプルnの対数尤度の和を最大化させるように、正しく分類されているサンプルnに大きな値を設定すべき重みw1nを規定する重みパラメータ行列の推定値Wを計算する重み計算手段と、前記重みパラメータ行列の推定値Wの変化量を計算し収束条件を満たす前記重みパラメータ行列の推定値Wが求まるまで、あるいは所定の回数に達するまで、前記重み計算手段による計算の繰り返し処理を行う収束判定手段と、前記収束判定手段による繰り返し処理により得られた前記重みパラメータ行列の推定値Wを用いて、サンプルnごとに、一点除外交差検定法に基づく前記同時確率モデルpxn、ynのパラメータの推定値Θnを計算するパラメータ計算手段と、を含む請求項1記載の誤分類検出装置。誤ったカテゴリに分類されたコンテンツである誤分類サンプルを含む、コンテンツの属するカテゴリが既知のサンプル集合の中から、誤分類サンプルを検出する誤分類検出方法であって、確率モデル生成手段によって、各サンプルnのコンテンツxnとカテゴリynの同時確率モデルpxn、ynのパラメータ値Θを、一点除外交差検定法に基づく前記同時確率モデルpxn、ynの予測尤度を最大化させるように、サンプルnごとに設定した重みwnを用いて計算するステップと、誤分類サンプル検出手段によって、前記確率モデル生成手段によって計算された前記同時確率モデルpxn、ynのパラメータ値Θに基づいて、各サンプルnについてコンテンツxnが分類されているカテゴリynの予測クラス事後確率Pyn|xnを計算し、各サンプルnの予測クラス事後確率Pyn|xnに基づいて、誤分類サンプルを検出するステップと、を含むことを特徴とする誤分類検出方法。前記同時確率モデルpxn、ynのパラメータ値Θを計算するステップは、正誤予測確率計算手段によって、誤って分類されているサンプルnに大きな値を設定すべき重みw0n及び正しく分類されているサンプルnに大きな値を設定すべき重みw1nを規定する重みパラメータ行列の推定値Wに基づいて求められる、一点除外交差検定法に基づくパラメータ値Θnを用いて、各サンプルnが正しく分類されているか否かの予測を与える正誤予測確率Pz|xn、yn;Θnを計算するステップと、重み計算手段によって、前記正誤予測確率計算手段によって計算された前記正誤予測確率Pz|xn、yn;Θnを用いて、前記重みパラメータ行列の推定値Wを計算するステップと、収束判定手段によって、前記重みパラメータ行列の推定値Wの変化量を計算し収束条件を満たす前記重みパラメータ行列の推定値Wが求まるまで、あるいは所定の回数に達するまで、前記正誤予測確率計算手段による計算及び前記重み計算手段による計算の繰り返し処理を行うステップと、パラメータ計算手段によって、前記収束判定手段による繰り返し処理により得られた前記重みパラメータ行列の推定値Wを用いて、サンプルnごとに、一点除外交差検定法に基づく前記同時確率モデルpxn、ynのパラメータの推定値Θnを計算するステップと、を含む請求項4記載の誤分類検出方法。前記同時確率モデルpxn、ynのパラメータ値Θを計算するステップは、重み計算手段によって、一点除外交差検定法に基づく各サンプルnの対数尤度の和を最大化させるように、正しく分類されているサンプルnに大きな値を設定すべき重みw1nを規定する重みパラメータ行列の推定値Wを計算するステップと、収束判定手段によって、前記重みパラメータ行列の推定値Wの変化量を計算し収束条件を満たす前記重みパラメータ行列の推定値Wが求まるまで、あるいは所定の回数に達するまで、前記重み計算手段による計算の繰り返し処理を行うステップと、パラメータ計算手段によって、前記収束判定手段による繰り返し処理により得られた前記重みパラメータ行列の推定値Wを用いて、サンプルnごとに、一点除外交差検定法に基づく前記同時確率モデルpxn、ynのパラメータの推定値Θnを計算するステップと、を含む請求項4記載の誤分類検出方法。コンピュータを、請求項1~請求項3の何れか1項記載の誤分類検出装置の各手段として機能させるためのプログラム。上記の非特許文献1、2の技術では、カテゴリの推定に用いる統計的分類器を、推定対象のサンプルを除いた訓練データを用いて学習させる。その訓練データの中には、誤分類されたサンプルが含まれている。一般に、誤分類されたサンプルを含む訓練データ集合を用いて学習させた統計的分類器の性能は、誤分類されたサンプルを訓練データ集合から除外して学習させた統計的分類器の性能より劣る。したがって、統計的分類器の精度を向上させるために、誤分類されたサンプルが統計的分類器の学習に与える悪影響を抑制する技術が必要となる。上記の非特許文献3、4では、訓練データ中のサンプルに付与されたカテゴリを入れ換えて学習を行うことで、カテゴリの推定精度を向上させている。しかし、上記の非特許文献3、4に記載の技術は、カテゴリの種類が2つの場合のみの問題を想定しており、カテゴリが複数ある分類問題には適用できない。本発明は、上記の事情を鑑みてなされたもので、検出に利用する統計的分類器の学習に誤分類されたサンプルが与える悪影響を抑制して、カテゴリが複数ある一般的な分類問題で誤分類されたサンプルを検出することができる誤分類検出装置、方法、及びプログラムを提供することを目的とする。上記の目的を達成するために本発明に係る誤分類検出装置は、誤ったカテゴリに分類されたコンテンツである誤分類サンプルを含む、コンテンツの属するカテゴリが既知のサンプル集合の中から、誤分類サンプルを検出する誤分類検出装置であって、各サンプルnのコンテンツxnとカテゴリynの同時確率モデルpxn、ynのパラメータ値Θを、一点除外交差検定法に基づく前記同時確率モデルpxn、ynの予測尤度を最大化させるように、サンプルnごとに設定した重みwnを用いて計算する確率モデル生成手段と、前記確率モデル生成手段によって計算された前記同時確率モデルpxn、ynのパラメータ値Θに基づいて、各サンプルnについてコンテンツxnが分類されているカテゴリynの予測クラス事後確率Pyn|xnを計算し、各サンプルnの予測クラス事後確率Pyn|xnに基づいて、誤分類サンプルを検出する誤分類サンプル検出手段と、を含んで構成されている。本発明に係る誤分類検出方法は、誤ったカテゴリに分類されたコンテンツである誤分類サンプルを含む、コンテンツの属するカテゴリが既知のサンプル集合の中から、誤分類サンプルを検出する誤分類検出方法であって、確率モデル生成手段によって、各サンプルnのコンテンツxnとカテゴリynの同時確率モデルpxn、ynのパラメータ値Θを、一点除外交差検定法に基づく前記同時確率モデルpxn、ynの予測尤度を最大化させるように、サンプルnごとに設定した重みwnを用いて計算するステップと、誤分類サンプル検出手段によって、前記確率モデル生成手段によって計算された前記同時確率モデルpxn、ynのパラメータ値Θに基づいて、各サンプルnについてコンテンツxnが分類されているカテゴリynの予測クラス事後確率Pyn|xnを計算し、各サンプルnの予測クラス事後確率Pyn|xnに基づいて、誤分類サンプルを検出するステップと、を含むことを特徴とする。本発明によれば、確率モデル生成手段によって、各サンプルnのコンテンツxnとカテゴリynの同時確率モデルpxn、ynのパラメータ値Θを、一点除外交差検定法に基づく前記同時確率モデルpxn、ynの予測尤度を最大化させるように、サンプルnごとに設定した重みwnを用いて計算する。そして、誤分類サンプル検出手段によって、前記確率モデル生成手段によって計算された前記同時確率モデルpxn、ynのパラメータ値Θに基づいて、各サンプルnについてコンテンツxnが分類されているカテゴリynの予測クラス事後確率Pyn|xnを計算し、各サンプルnの予測クラス事後確率Pyn|xnに基づいて、誤分類サンプルを検出する。このように、同時確率モデルpxn、ynのパラメータ値Θを、一点除外交差検定法に基づく同時確率モデルpxn、ynの予測尤度を最大化させるように、サンプルnごとに設定した重みを用いて計算し、同時確率モデルpxn、ynのパラメータ値Θに基づいて計算される各サンプルnの予測クラス事後確率Pyn|xnを用いて、誤分類サンプルを検出することにより、検出に利用する統計的分類器の学習に誤分類されたサンプルが与える悪影響を抑制して、カテゴリが複数ある一般的な分類問題で誤分類されたサンプルを検出することができる。本発明に係る確率モデル生成手段は、誤って分類されているサンプルnに大きな値を設定すべき重みw0n及び正しく分類されているサンプルnに大きな値を設定すべき重みw1nを規定する重みパラメータ行列の推定値Wに基づいて求められる、一点除外交差検定法に基づくパラメータ値Θnを用いて、各サンプルnが正しく分類されているか否かの予測を与える正誤予測確率Pz|xn、yn;Θnを計算する正誤予測確率計算手段と、前記正誤予測確率計算手段によって計算された前記正誤予測確率Pz|xn、yn;Θnを用いて、前記重みパラメータ行列の推定値Wを計算する重み計算手段と、前記重みパラメータ行列の推定値Wの変化量を計算し収束条件を満たす前記重みパラメータ行列の推定値Wが求まるまで、あるいは所定の回数に達するまで、前記正誤予測確率計算手段による計算及び前記重み計算手段による計算の繰り返し処理を行う収束判定手段と、前記収束判定手段による繰り返し処理により得られた前記重みパラメータ行列の推定値Wを用いて、サンプルnごとに、一点除外交差検定法に基づく前記同時確率モデルpxn、ynのパラメータの推定値Θnを計算するパラメータ計算手段と、を含むようにすることができる。本発明に係る確率モデル生成手段は、一点除外交差検定法に基づく各サンプルnの対数尤度の和を最大化させるように、正しく分類されているサンプルnに大きな値を設定すべき重みw1nを規定する重みパラメータ行列の推定値Wを計算する重み計算手段と、前記重みパラメータ行列の推定値Wの変化量を計算し収束条件を満たす前記重みパラメータ行列の推定値Wが求まるまで、あるいは所定の回数に達するまで、前記重み計算手段による計算の繰り返し処理を行う収束判定手段と、前記収束判定手段による繰り返し処理により得られた前記重みパラメータ行列の推定値Wを用いて、サンプルnごとに、一点除外交差検定法に基づく前記同時確率モデルpxn、ynのパラメータの推定値Θnを計算するパラメータ計算手段と、を含むようにすることができる。本発明に係るプログラムは、コンピュータを、上記の誤分類検出装置の各手段として機能させるためのプログラムである。以上説明したように、本発明の誤分類検出装置、方法、及びプログラムによれば、同時確率モデルpxn、ynのパラメータ値Θを、一点除外交差検定法に基づく同時確率モデルpxn、ynの予測尤度を最大化させるように、サンプルnごとに設定した重みを用いて計算し、同時確率モデルpxn、ynのパラメータ値Θに基づいて計算される各サンプルnの予測クラス事後確率Pyn|xnを用いて、誤分類サンプルを検出することにより、検出に利用する統計的分類器の学習に誤分類されたサンプルが与える悪影響を抑制して、カテゴリが複数ある一般的な分類問題で誤分類されたサンプルを検出することができる、という効果が得られる。以下、図面を参照して本発明の実施の形態を詳細に説明する。データベースに含まれる論文、特許等の文書、オンラインニュースデータ、電子メール等のテキスト情報から成るコンテンツや、Webデータ、blogデータ等のテキスト情報とリンク情報から成るコンテンツ、あるいは画像データ等のコンテンツ、といった特徴ベクトルにより表現することが可能なコンテンツを、スポーツ、音楽、数学といった種別を表すカテゴリに分類したサンプルの集合の中から、誤ったカテゴリに分類されているサンプルを検出する誤分類検出装置に本発明を適用した場合について説明する。第1の実施の形態<システム構成>本発明の第1の実施の形態に係る誤分類検出装置100は、所属するカテゴリのラベルが付与されたコンテンツを含むサンプルの集合が入力され、入力されたサンプルの集合の中から、誤ったカテゴリのラベルが付与されているサンプルを検出して出力する。この誤分類検出装置100は、CPUと、RAMと、後述する誤分類検出処理ルーチンを実行するためのプログラムを記憶したROMとを備えたコンピュータで構成され、機能的には次に示すように構成されている。図1に示すように、誤分類検出装置100は、入力部10と、演算部20と、出力部30とを備えている。入力部10は、入力された、所属するカテゴリのラベルが付与されたコンテンツを含むサンプルの集合を受け付ける。コンテンツに含まれる単語や画素、リンク、あるいはそれらの組み合わせ等により構成される特徴量空間をT={t1titV}とするとき、コンテンツの特徴ベクトルxは、コンテンツに含まれるtiの頻度xiをもとにx={x1xixVTで表現される。Vはコンテンツに含まれる可能性がある特徴の種類の数を表す。例えば、コンテンツがテキストデータである場合、Vはコンテンツに出現する可能性がある語彙の総数を表す。サンプル集合の各サンプルは、コンテンツの特徴ベクトルxと、所属するカテゴリのラベルyとを含む。また、入力部10は、入力された、後述する各種パラメータハイパーパラメータベクトルηと、カテゴリの事前確率P、正誤の事前確率Pと、n番目のサンプルのカテゴリynが誤っている場合のクラス条件付確率Pを受け付ける。演算部20は、サンプルデータベース21、確率モデル生成部22、記憶部23、及び誤分類サンプル検出部24を備えている。サンプルデータベース21は、入力部10により受け付けたサンプル集合を記憶する。ここで、誤分類検出対象のサンプル集合を、DNn1とする。確率モデル生成部22は、誤分類検出対象のサンプル集合DNn1に対して、同時確率モデルpのパラメータΘθ1θkθKの一点交差検定法に基づく推定値^Θ-nNn1を計算する。計算された確率モデルのパラメータの推定値^Θ-nNn1は、記憶部23に記憶される。ここで、nは誤分類検出対象のサンプル集合に含まれるサンプルのID番号を表し、xnはn番目のサンプルの特徴ベクトル、y∈1kKはサンプルが属するカテゴリを表す。^Θ-nはn番目のサンプルをサンプル集合Dから除外して得られるサブ集合D-nn≠nを用いて計算される確率モデルのパラメータの推定値であり、pは確率密度を表す。誤分類サンプル検出部24は、同時確率モデルのパラメータの推定値^Θ-nを用いて各サンプルの予測クラス事後確率P=pΣKk1pを計算し、その予測クラス事後確率が小さいサンプルを誤ったカテゴリに分類された疑いがあるサンプルとして検出する。あるいは、誤分類サンプル検出部24は、サンプルが分類されているカテゴリyn以外のカテゴリy≠ynに対する予測事後確率の最大値と予測クラス事後確率との比RnPmaxy≠ynPを計算し、Rnが小さいサンプルを検出しても良い。ここで、Pは確率値を表す。出力部30は、誤分類サンプルの検出結果をユーザに対して出力する。図2に示すように、確率モデル生成部22は、正誤予測確率計算部31と、重み計算部32と、第1収束判定部33と、第2収束判定部34と、パラメータ計算部35と、を備える。正誤予測確率計算部31は、サンプルデータベース21に記憶されたサンプル集合DNn1を読み込んで、重みパラメータ行列の初期値W、もしくは第2収束判定部34から入力される収束途中の重みパラメータ行列Wと、ハイパーパラメータベクトルηと、カテゴリの事前確率Pと、正誤の事前確率Pと、n番目のサンプルのカテゴリynが誤っている場合のクラス条件付確率Pと、を用いて、各サンプルnの正誤予測確率P-nを計算する。ここで、z∈z1z0はサンプルのコンテンツxが分類されているカテゴリyが正しいか否かを表す潜在変数であり、zz1の場合は正しく分類されていることを意味し、zz0の場合は誤って分類されていることを意味する。重みパラメータ行列Wは、n番目のサンプルが正しく分類されている可能性が高いほど大きな値が与えられる重みw1nを要素とする重みベクトルw1Tと、n番目のサンプルが誤って分類されている可能性が高いほど大きな値が与えられる重みw0nを要素とする重みベクトルw0Tと、から成る行列Ww1w0である。aTはaの転置ベクトルを表す。重み計算部32は、重みパラメータ行列の初期値W、もしくは第2収束判定部34から入力される収束途中の重みパラメータ行列W、もしくは第1収束判定部33から入力される収束途中の重みパラメータ行列Wと、各サンプルnの正誤予測確率P-nと、を用いて重みパラメータ行列の更新値Wを計算する。第1収束判定部33は、重みパラメータ行列の変化量dを計算し、収束条件d0かつθy1ΣVi1θyi1である。また、Θθ1θkθKTはNBモデルのパラメータ行列を表す。P0はカテゴリyの出現確率を表し、ΣKk1P1を満たす。また、本実施の形態では、誤ったカテゴリに分類されたサンプルの特徴ベクトルxの確率モデルを、それぞれの特徴tiの出現確率θz0iが独立であると仮定して、以下の2式で定義する。ここで、θz0Tであり、θz0i0かつθz01ΣVi1θz0i1である。<誤分類検出装置の作用>次に、第1の実施の形態に係る誤分類検出装置100の作用について説明する。まず、所属するクラスがラベル付けされたコンテンツを含むサンプルの集合が誤分類検出装置100に入力されると、誤分類検出装置100によって、入力されたサンプル集合が、サンプルデータベース21へ格納される。また、各種パラメータハイパーパラメータベクトルηと、カテゴリの事前確率Pと、正誤の事前確率Pと、n番目のサンプルのカテゴリynが誤っている場合のクラス条件付確率Pが、誤分類検出装置100に入力されると、誤分類検出装置100によって、図3に示す誤分類検出処理ルーチンが実行される。まず、ステップS101において、確率モデル生成部22によって、サンプルデータベース21から、誤分類検出対象のサンプル集合DNn1を読み込んで、各サンプルnについて、確率モデルのパラメータの一点除外交差検定法に基づく推定値^Θ-nの計算を行う。^Θ-nの各要素は、入力された重みパラメータ行列Wまたは計算された重みパラメータ行列Wの要素である重みパラメータベクトルw1と、入力されたハイパーパラメータ値ηy∀yを用いて、以下の3式で計算される。ここで、Iyは、ynyの場合にIy1とし、yn≠yの場合にIy0とする指示関数である。xn1はxnのL1ノルムを表す。同様に、誤ったカテゴリに分類されたサンプルの特徴ベクトルxの確率モデルpのパラメータの、一点除外交差検定法に基づく推定値^θz0-nの各要素を、入力された重みパラメータ行列Wまたは計算された重みパラメータ行列Wの要素である、重みパラメータベクトルw0と、入力されたハイパーパラメータ値ηz0とを用いて、以下の4式に従って計算する。ハイパーパラメータベクトルηは、パラメータ計算のために事前に設定された定数値である。ここで、確率モデルのパラメータの一点除外交差検定法に基づく推定値^Θ-nを計算する原理について説明する。本実施の形態では、重みパラメータ行列Wの値を、サンプル集合Dに対する同時確率モデルpの、一点除外交差検定法に基づく予測尤度の最大化により与える。サンプル集合の中には誤ったカテゴリに分類されたサンプルも含まれるため、コンテンツの特徴ベクトルxと、カテゴリyと、正誤を表す潜在変数z∈z1z0との同時確率モデルppPを用いて、同時確率モデルpΣ1j0pPを設計する。サンプルのクラスが正しい場合のpを以下の5式で与える。また、サンプルのクラスが誤りである場合のpを、以下の6式で与える。このとき、重みパラメータ行列Wの値は、以下の7式に示す目的関数の最大化により与えられる。なお、上記7式のLWは、一点除外交差検定法に基づく同時確率モデルpxn、ynの予測尤度に対応している。上記7式に示す目的関数を最大化させるWの値は、期待値最大化アルゴリズムのような繰り返し計算を二重に行うことによって求めることができる。なお、EMアルゴリズムについては、参考文献APDempsterNMLairdandDBRubinMaximumlikelihoodfromincompletedataviatheEMalgorithmJournaloftheRoyalStatisticalSocietySeriesB391-38に記載されているため、詳細な説明を省略する。Wの学習ステップでの推定値をWとするとき、logb≦b-1よりL-L≧Q-QWを満たすQ関数を以下の8式で与えることができる。上記8式に示すQ関数は、一点除外交差検定法に基づく各サンプルの対数尤度を、上記正誤予測確率で重み付けして加算することにより与えられる。学習ステップでQを最大化させる値を推定値Wとして繰り返し計算することでLを局所的に最大化させるWを求めることができる。そして、最終的に求められた重みパラメータ行列の推定値Wに基づいて、上記3式に従って、確率モデルのパラメータの一点除外交差検定法に基づく推定値^Θ-nNn1を計算する。上記ステップS101の処理は、図4に示す確率モデル生成処理ルーチンによって実現される。ステップS111において、正誤予測確率計算部31によって、各サンプルnに対して、以下のように、上記9式、10式で与えられるP-nを計算する。まず、入力された重みパラメータ行列の推定値Wを上記3式及び4式に代入して得られるパラメータ値を^Θ-n^θ1-n^θk-n^θK-n^θz0-nとする。つぎに、その値を上記1式のθyと上記2式のθz0に代入することで、p1とp0の値を得る。さらに、その値を、上記9式と10式に代入して計算することでP-nを得る。すなわち、正誤予測確率計算部31は、正しいカテゴリに分類されているサンプルに対して設計した同時確率モデルと、誤分類サンプルに対して設計した同時確率モデルと、を用いて正誤予測確率を計算する。上記9式と10式に含まれる事前確率PPと、クラス条件付確率Pは、未知パラメータとして値を推定することも可能であるが、パラメータ計算アルゴリズムの簡略化と、これらのパラメータ値の調節によって精度向上を図るために、本実施の形態では、外部より与えるパラメータ値とする。また、Qを最大化させるWの値は、Wの学習ステップでの推定値をWとするとき、log≦b-1よりQ-QW≧QW-QWWを満たすQ関数を以下の11式で与えることができる。したがって、学習ステップでQWを最大化させる値を推定値Wとして繰り返し計算することでQをWの近傍で局所的に最大化させるWを求めることができる。ステップS112では、重み計算部32によって、QWを最大化させるWの解Wを、以下の14式、15式に従って計算する。学習ステップs1における重みパラメータ行列Wを計算した後、ステップS113において、第1収束判定部33によって、例えば以下の16式で与える収束条件を満たすか否かを判定する。ここで、wj2はベクトルwjのL2ノルムを表す。εsは設計者が与える微小な値である。上記ステップS113で収束条件を満たすと判定された場合は、WをWとして、ステップS114へ進む。一方、収束条件を満たさないと判定された場合は、s←s1として、上記ステップS112からステップS113までの処理を繰り返す。学習ステップにおける重みパラメータ行列Wを計算したあと、ステップS114において、第2収束判定部34によって、例えば以下の17式で与える収束条件を満たすか否かを判定する。ここで、εtは設計者が与える微小な値である。上記ステップS114で収束条件を満たすと判定された場合は、Wを重みパラメータ行列の推定値^WとしてステップS115へ進む。一方、収束条件を満たさない場合は、t←t1として、上記ステップS111からステップS114までの処理を繰り返す。ステップS115では、パラメータ計算部35によって、重みパラメータ行列の推定値^Wを上記3式に代入して、サンプルnごとに確率モデルの一点除外交差検定法に基づくパラメータの推定値^Θnを計算して、記憶部23に格納し、確率モデル生成処理ルーチンを終了する。以上説明したパラメータ計算アルゴリズムを整理して書くと下記のようになる。手順1:各種パラメータの設定。1ハイパーパラメータηと、事前確率PPと、クラス条件付確率Pとを所定値として外部から設定。2収束条件のパラメータεtεsと、最大繰り返し計算数tmaxsmaxの値を設定。手順2;学習ステップtと重みパラメータ行列の初期値を設定。1tに0を代入。2重みパラメータ行列の値Wを設定。手順3:重みパラメータ行列の推定値^Wを計算。1Wを用いて、上記1式~4式、9式、10式により、サンプルnごとに、サンプルの正誤予測確率P-nを計算。2sに0を代入。WにWを代入。3Qを最大化させる重みパラメータ行列の値Wを計算。Wを用いて、上記12式~15式によりWを計算。上記16式を用いて収束判定処理を実行。4上記17式を用いて収束判定処理を実行。手順4:収束した重みパラメータ行列の推定値^Wを上記3式に代入して、サンプルnごとに一点除外交差検定法に基づく確率モデルのパラメータの推定値^Θnを計算。手順5:パラメータの推定値^Θ-nNn1を誤分類サンプル検出部24に出力。そして、誤分類検出処理ルーチンのステップS102では、誤分類サンプル検出部24によって、同時確率モデルのパラメータの推定値^Θ-nを用いて各サンプルnの予測クラス事後確率PpPΣKk1pPを計算し、その予測クラス事後確率が閾値以下となるサンプルを誤ったカテゴリに分類された疑いがあるサンプルとして検出する。あるいは、誤分類サンプル検出部24によって、サンプルが分類されているカテゴリyn以外のカテゴリy≠ynに対する予測事後確率の最大値と予測クラス事後確率の比RnPmaxy≠ynPを計算し、Rnが閾値以下となるサンプルを検出しても良い。上記ステップS102の処理は、一般的な並び換えを行うアルゴリズムで簡単に実現することが可能であるので、これ以上の説明は省略する。以上説明したように、第1の実施の形態に係る誤分類検出装置によれば、同時確率モデルpxn、ynのパラメータ値Θを、一点除外交差検定法に基づく同時確率モデルpxn、ynの予測尤度を最大化させるように、サンプルnごとに設定した重みを用いて計算し、同時確率モデルpxn、ynのパラメータ値Θに基づいて計算される各サンプルnの予測クラス事後確率Pyn|xnを用いて、誤分類サンプルを検出することにより、検出に利用する統計的分類器の学習に、誤分類されたサンプルが与える悪影響を抑制して、カテゴリが複数ある一般的な分類問題で誤分類されたサンプルを検出することができる。訓練データ集合に含まれる各サンプルに重みを与え、その重み付き訓練データ集合を用いて確率モデルに基づく統計的分類器のパラメータ値Θを学習させることで、訓練データ集合に含まれる誤分類されたサンプルが確率モデルの学習に与える悪影響を低減させることを可能にする。また、訓練データ集合に含まれる各サンプルに与えられた重みを、一点交差検定法に基づいて得られる確率モデルの尤度を最大化させるように設定することで、誤分類されたサンプルが正確に分類されたサンプルより少ない場合に、誤分類されたサンプルより正確に分類されたサンプルのカテゴリに高い予測確率を与える確率モデルを得る。この効果によって、カテゴリの予測確率を用いて誤分類されたサンプルの検出を行う装置の性能が高まる。第2の実施の形態<システム構成>次に、第2の実施の形態について説明する。なお、第1の実施の形態と同様の構成となる部分については、同一符号を付して説明を省略する。第2の実施の形態では、正誤予測確率計算部と第2収束判定部が省略されている点が、第1の実施の形態と異なっている。図5に示すように、第2の実施の形態に係る誤分類検出装置の確率モデル生成部222は、重み計算部232と、第1収束判定部233と、パラメータ計算部35とを備えている。重み計算部232は、重みパラメータ行列の初期値W、もしくは第1収束判定部233から入力される収束途中の重みパラメータ行列Wを用いて重みパラメータ行列の更新値Wを計算する。第1収束判定部233は、重みパラメータ行列の変化量dを計算し、収束条件dεsを満たせば、W←Wとして重みパラメータ行列の推定値Wを出力する。収束条件を満たさなければ、パラメータの学習のステップをs←s1のように更新して、重み計算部232の処理を再度実施する。この処理は収束条件を満たすか、sが所定の回数smaxに到達するまで繰り返される。ここで、確率モデルのパラメータの一点除外交差検定法に基づく推定値^Θ-nを計算する原理について説明する。本実施の形態では、コンテンツの特徴ベクトルxと、カテゴリyと、正誤を表す潜在変数z∈z1z0との同時確率モデルppPに対して、Pz1=1、Pz0=0とする。重みパラメータ行列Wの値は、以下の18式に示す目的関数の最大化により与えられる。なお、Pz0=0としているため、重みパラメータ行列Wのうち、重みベクトルw0Tは計算されない。上記18式に示す目的関数を最大化させるWの値は、上記の第1の実施の形態と同様に、期待値最大化での推定値をWとするとき、logb≦b-1よりL-L≧Q-QWを満たすQ関数を以下の19式で与えることができる。以上のように、重みパラメータ行列Wの値は、一点除外交差検定法に基づく各サンプルの対数尤度の和の最大化により与えられる。なお、上記18式のLWは、一点除外交差検定法に基づく各サンプルnの対数尤度の和に対応している。そして、最終的に求められた重みパラメータ行列の推定値Wに基づいて、上記3式に従って、確率モデルの一点除外交差検定法に基づく推定値^Θ-nNn1を計算する。<誤分類検出装置の作用>まず、所属するクラスがラベル付けされたコンテンツを含むサンプルの集合が誤分類検出装置100に入力されると、誤分類検出装置100によって、入力されたサンプル集合が、サンプルデータベース21へ格納される。また、ハイパーパラメータベクトルηが、誤分類検出装置100に入力されると、誤分類検出装置100によって、上記第1の実施の形態と同様に、誤分類検出処理ルーチンが実行される。また、第2の実施の形態に係る確率モデル生成処理ルーチンについて、図6を用いて説明する。なお、第1の実施の形態と同様の処理については、同一符号を付して詳細な説明を省略する。まず、ステップS211において、重み計算部232によって、上記19式のQ関数を最大化させるWの解Wを計算する。学習ステップs1における重みパラメータ行列Wを計算した後、ステップS212において、第1収束判定部233によって、上記16式で与える収束条件を満たすか否かを判定する。上記ステップS212で収束条件を満たすと判定された場合は、WをWとして、ステップS115へ進む。一方、収束条件を満たさないと判定された場合は、s←s1として、上記ステップS211の処理を繰り返す。ステップS115では、重みパラメータ行列の推定値^Wを上記3式に代入して、サンプルnごとに確率モデルの一点除外交差検定法に基づくパラメータの推定値^Θnを計算して、記憶部23に格納し、確率モデル生成処理ルーチンを終了する。なお、第2の実施の形態に係る誤分類検出装置の他の構成及び作用については、第1の実施の形態と同様であるため、説明を省略する。上記で計算される確率モデルのパラメータの推定値^Θ-nは、上記の第1の実施の形態において、正誤の事前確率Pを、P1P0に設定する場合に計算される確率モデルのパラメータの推定値^Θ-nと一致する。このように、確率モデル生成部を簡略化して設計することができる。実施例次に、上記の実施の形態に係る手法を適用して実験を行った結果について説明する。上位カテゴリとしてコンピュータに属する文書データを,5つのサブカテゴリのいずれかに分類する問題で、誤ったサブカテゴリに分類された文書データを検出する評価実験を行った。テキスト分類問題で性能評価に良く用いられるデータベース20newsgroups20News、参考文献参照を用いた。評価用データセットを作成するため、1000個のサンプルを5つのサブカテゴリに属する文書データの中から無作為に抽出した。そして1000個のサンプルの中からrmのサンプルを無作為に選択し、文書データが属するサブカテゴリを別の4つのサブカテゴリのいずれかに無作為に変更することで誤分類サンプルを作成した。この操作によって得られた誤分類サンプルを含むデータセットを誤分類検出対象のサンプル集合として性能評価に用いた。性能評価の尺度には、情報検索タスクなどでサンプルの順位付けの良さを測るのによく利用される平均適合率を用いた。平均適合率は、誤分類サンプルの総数をMとするとき、以下の20式で計算される。平均適合率は、値が大きいほどサンプルの順位付けの性能が高いことを示す。表1に、上記第1の実施の形態で説明した確率モデル生成部22をもつ本発明に係わる装置でP05とした場合に得られた平均適合率と、上記第2の実施の形態で説明した確率モデル生成部222をもつ本発明に係わる装置で得られた平均適合率と、重みパラメータ行列を導入せずに単純に一点除外交差検定法をNBモデルに適用して得られた平均適合率の結果を示す。実験では、各方法で得られたパラメータの推定値^Θ-nNn1を用いてRnPmaxy≠ynPを計算し、その値が小さい順に誤分類が疑われるサンプルとして検出した。上記表1より、rmの値を変えて行った実験のすべての場合で、方法1、方法2で得られた平均適合率が、方法3で得られた平均適合率を上回った。以上の結果より、誤って分類されている危険性が高い順にサンプルを検出するのに、本発明に係わる装置は効果があることが分かった。なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。例えば、本願明細書中において、プログラムが予めインストールされている実施形態として説明したが、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能である。"