"コンピュータを、予め識別情報が関連付けられた画像情報から識別情報毎に画像情報を取得する取得手段と、前記取得手段が取得した画像情報から特徴情報を生成する生成手段と、前記生成手段が生成した特徴情報と当該特徴情報に対応する画像情報の識別情報との関係を複数の確率分布の混合による確率モデルにより学習して学習結果を生成するものであって、前記複数の確率分布のうちの一の確率分布に属する特徴情報から定まる第1の変数と、前記取得手段によって識別情報の内容に関わらず取得された画像情報から得られる特徴情報の集合を用いて定められる確率分布を記述する変数とから、前記一の確率分布に属する特徴情報の密度に応じた寄与率に基づいて第2の変数を算出し、当該第2の変数で記述される分布を用いて学習する学習手段として機能させる画像識別情報付与プログラム。前記学習手段は、前記一の確率分布の変数の初期値として、前記取得手段により識別情報の内容に関わらず取得された画像情報から得られる特徴情報の集合を用いて定まる初期値を用いる請求項1に記載の画像識別情報付与プログラム。予め識別情報が関連付けられた画像情報から識別情報毎に画像情報を取得する取得手段と、前記取得手段が取得した画像情報から特徴情報を生成する生成手段と、前記生成手段が生成した特徴情報と当該特徴情報に対応する画像情報の識別情報との関係を複数の確率分布の混合による確率モデルにより学習して学習結果を生成するものであって、前記複数の確率分布のうちの一の確率分布に属する特徴情報から定まる第1の変数と、前記取得手段によって識別情報の内容に関わらず取得された全ての画像情報から得られる特徴情報の集合を用いて定められる確率分布を記述する変数とから、前記一の確率分布に属する特徴情報の密度に応じた寄与率に基づいて第2の変数を算出し、当該第2の変数で記述される分布を用いて学習する学習手段とを有する画像識別情報付与装置。本発明の目的は、確率モデルにより学習した学習結果を利用して、入力される画像情報に識別情報を付与する画像識別情報付与プログラム及び画像識別情報付与装置を提供することにある。本発明の一態様は、上記目的を達成するため、以下の画像識別情報付与プログラム及び画像識別情報付与装置を提供する。[1]コンピュータを、予め識別情報が関連付けられた画像情報から識別情報毎に画像情報を取得する取得手段と、前記取得手段が取得した画像情報から特徴情報を生成する生成手段と、前記生成手段が生成した特徴情報と当該特徴情報に対応する画像情報の識別情報との関係を複数の確率分布の混合による確率モデルにより学習して学習結果を生成するものであって、前記複数の確率分布のうちの一の確率分布に属する特徴情報から定まる第1の変数と、前記取得手段によって識別情報の内容に関わらず取得された画像情報から得られる特徴情報の集合を用いて定められる確率分布を記述する変数とから、前記一の確率分布に属する特徴情報の密度に応じた寄与率に基づいて第2の変数を算出し、当該第2の変数で記述される分布を用いて学習する学習手段として機能させる画像識別情報付与プログラム。[2]前記学習手段は、前記一の確率分布の変数の初期値として、前記取得手段により識別情報の内容に関わらず取得された画像情報から得られる特徴情報の集合を用いて定まる初期値を用いる前記[1]に記載の画像識別情報付与プログラム。[3]予め識別情報が関連付けられた画像情報から識別情報毎に画像情報を取得する取得手段と、前記取得手段が取得した画像情報から特徴情報を生成する生成手段と、前記生成手段が生成した特徴情報と当該特徴情報に対応する画像情報の識別情報との関係を複数の確率分布の混合による確率モデルにより学習して学習結果を生成するものであって、前記複数の確率分布のうちの一の確率分布に属する特徴情報から定まる第1の変数と、前記取得手段によって識別情報の内容に関わらず取得された全ての画像情報から得られる特徴情報の集合を用いて定められる確率分布を記述する変数とから、前記一の確率分布に属する特徴情報の密度に応じた寄与率に基づいて第2の変数を算出し、当該第2の変数で記述される分布を用いて学習する学習手段とを有する画像識別情報付与装置。請求項1又は3に係る発明によれば、確率モデルにより学習した学習結果を利用して、入力される画像情報に識別情報を付与することができる。請求項2に係る発明によれば、学習する特徴情報の密度が低い場合には、識別情報の内容に関わらず取得された全ての画像情報から得られる特徴情報の傾向を反映し、学習する特徴情報の密度が高い場合には、学習する特徴情報の傾向を反映した学習結果を得ることができる。画像識別情報付与装置の構成図1は、本発明の実施の形態に係る画像識別情報付与装置の構成の一例を示す図である。画像識別情報付与装置1は、CPUCentralProcessingUnit等から構成され各部を制御するとともに各種のプログラムを実行する制御部10と、HDDHardDiskDriveやフラッシュメモリ等の記憶媒体から構成され情報を記憶する記憶部11と、外部とネットワークを介して通信する通信部12を備える。画像識別情報付与装置1は、通信部12等を介して入力される画像に山川子供等の被写体が含まれるとき、これら山川子供等の語句以下、アノテーション単語という。を画像情報に対する識別情報以下、ラベルという。として付与する。また、画像識別情報付与装置1は、記憶部11等に格納された予めラベルが付与された学習用の画像情報を用いて学習を行うものである。制御部10は、後述する画像識別情報付与プログラム110を実行することで、画像取得手段100、画像分割手段101、特徴ベクトル生成手段102、学習データ集合取得手段103、全体的画像特徴分布推定手段104、モデル学習手段105、尤度計算手段106、アノテーション単語推定手段107及び出力手段108等として機能する。画像取得手段100は、学習の際に記憶部11に格納された画像情報111から学習に必要な画像情報を選択して取得し、又ラベルを推定する際に通信部12を介して外部の端末装置等から入力された画像情報を取得する。画像分割手段101は、画像取得手段100が取得した画像情報及び記憶部11に格納された学習用の画像情報111を、それぞれ複数の領域に分割し、部分領域を生成する。画像分割手段101は、例えば、矩形でメッシュ状に分割する方法やk近傍法等のクラスタリング手法を用いて類似の近接する画素を同一の部分領域と定める方法等を用いる。特徴ベクトル生成手段102は、画像分割手段101が生成した部分領域のそれぞれから、例えば、ガボールフィルタを用いる方法やRGB、正規化RG、CIELAB等の特徴量を抽出する方法によって特徴ベクトルを生成する。ここで、特徴ベクトルは特徴情報の一例である。学習データ集合取得手段103は、画像情報111から同一のラベルが与えられた画像情報を取得し、当該画像情報に含まれる特徴ベクトルの集合を学習データ集合として取得する。また、ラベルの内容に関わらず全ての画像情報111から得られる特徴ベクトルの集合以下、ユニバーサルモデルという。を学習データ集合として取得する。なお、学習データ集合の選択には、全ての学習データを取得する方法に限らず、例えば、学習データの数が非常に多くなる場合等には、全ての学習データから無作為に規定データ数となるまで抽出する等の方法を用いても良い。全体的画像特徴分布推定手段104は、ユニバーサルモデルを事前確率モデルとして学習し、その学習結果以下、全体的画像特徴分布という。を推定する。モデル学習手段105は、学習データ集合取得手段103が取得した学習データ集合を用いて学習を行うものであり、データ密度推定手段105a及びパラメータ最適化手段105bを有する。データ密度推定手段105aは、あるラベルのあるデータ領域におけるデータの密度を推定する。ここで、データ領域とは、混合ガウス分布モデルGaussianMixtureModel:GMMにより、特徴ベクトルの空間全体をK個のガウス分布で分割していると捉えたとき、k番目のガウス分布が受け持っている特徴ベクトルの空間内の領域図3A参照。なお、詳細については2詳細学習動作にて後述をいい、データ密度とは、k番目のガウス分布のデータ領域に含まれるデータの密度をいう。パラメータ最適化手段105bは、データ密度推定手段105aが推定したデータ領域のデータ密度に応じた寄与率に基づいて、当該データ領域に属する特徴情報から定まる第1の変数と、全体的特徴分布を記述する変数とから、第2の変数を算出して最適化する。尤度計算手段106は、画像取得手段100が取得した画像情報の特徴ベクトルの任意のラベルに対する尤度を計算する。アノテーション単語推定手段107は、尤度の高いラベルに対応したアノテーション単語を入力された画像情報の識別情報として推定する。出力手段108は、アノテーション単語推定手段107が推定したアノテーション単語のうち、例えば、尤度の高い上位数個を表示装置、印刷装置、記憶部11等に出力する。このように、出力手段108は、出力するアノテーション単語を、尤度に応じて提示する。また、画像識別情報付与装置1の利用者は、提示されたアノテーション単語から適切なアノテーション単語を尤度に応じて選択することができる。記憶部11は、制御部10を上述した各手段として動作させる画像識別情報付与プログラム110、学習の際に用いられる画像情報111、画像情報111に含まれる画像情報とラベルとを関連付けるラベル情報112及びモデル学習手段105による学習結果として保存される学習情報113等を記憶する。画像識別情報付与装置の動作以下に、画像識別情報付与装置の動作例を各図を参照しつつ、1基本学習動作、2詳細学習動作、3アノテーション推定動作に分けて説明する。図4は、画像識別情報付与装置の動作例を示すフローチャートである。1基本学習動作図2a及びbは、基本学習動作の一例を説明する概略図である。まず、画像取得手段100は、記憶部11から学習用データとして画像情報111を取得するS1。画像情報111は、例えば、山、太陽、車等のアノテーション単語がそれぞれラベルとして関連付けられた複数の画像情報を含むものとする。次に、画像分割手段101は、画像取得手段100が取得した画像情報の一例として図2aに示す画像情報111aの表示画像を、図2bに示すようにn個の領域に分割し、部分領域A1~Anを生成するS2。一例として、図示するように矩形でメッシュ状に分割する。この動作は、画像取得手段100が取得した複数の画像情報のそれぞれについて行われる。次に、特徴ベクトル生成手段102は、部分領域A1~Anから、一例としてガボールフィルタ等を用いて複数の特徴量f1~fDを抽出し、部分領域A1~An毎にこれら特徴量f1~fDを成分とした特徴ベクトルx1、x2、...、xnを生成するS3。この動作についても、画像取得手段100が取得した複数の画像情報のそれぞれについて行われる。次に、学習データ集合取得手段103は、ラベル情報112を参照し、画像情報111から、まずラベルC1例えば、アノテーション単語山に対応付けられた画像情報を取得するとともに、取得した画像情報から生成された特徴ベクトルの集合を学習データ集合として取得するS4、S5。次に、モデル学習手段105は、学習データ集合取得手段103が取得したラベルC1の学習データについて学習を実行しS6、学習結果を記憶部11の学習情報113に保存するS7。上記ステップS5~S7は、すべてのラベル=M個について実行されるS8、S9。以下の2詳細学習動作において、ステップS6でモデル学習手段105が実行する学習動作の詳細について説明する。2詳細学習動作モデル学習手段105は、確率生成モデルとして、混合ガウス分布モデルGMMを用いる。入力される学習データ集合をX={x1,...xN}とし、特徴ベクトルの次元をDとすると、混合ガウス分布モデルpは、次式で定義される。ここで、Nは入力される学習データ数、Kは混合要素数である。πkcは混合比を表わし、Nxi|μkc,Σkcは、平均μkc、分散ΣkcであるD次元ガウス分布である。また、混合比は、次式を満たす。全体的画像特徴分布推定手段104は、全てのラベルに共通する事前確率として、全ての画像情報111を学習データ集合としたモデルユニバーサルモデルの学習を行う。これを本発明では、全体的画像特徴分布と呼ぶ。本実施の形態においては、全体的画像特徴分布は、次のようなGMMで表わされる。混合比πku、平均μku、分散Σku1≦k≦Kは、学習データ集合設定において設定されたすべてのラベルの学習データ集合又は、ラベルを規定せずに無作為に抽出された学習データ集合を用いて通常のEMアルゴリズムにより事前に学習を行い得られるものである。全体的画像特徴分布を用いてあるラベルに該当するガウス分布Nxi|μkc,Σkcを修正する第一の方法として、パラメータ最適化手段105bは、EMアルゴリズムを用いてパラメータ混合比、平均、分散を求める際に、その初期値として全体的画像特徴分布のパラメータを用いる。一般にEMアルゴリズムには、初期値依存性があり、学習データ数が少ないほどその傾向は大きくなる。したがって、学習データサンプル数が少なく学習データの信頼性が低い場合には、より全体的画像特徴分布を反映したガウス分布を、学習データサンプル数が多い場合には、学習データサンプルの傾向をより強く反映したガウス分布を得ることができる。次に、全体的画像特徴分布を用いてあるラベルに該当するガウス分布Nxi|μkc,Σkcを修正する第二の方法として、モデル学習手段105は、全体的画像特徴分布を事前分布として用いる。GMMにおいて、特定のGMMを事前分布とした場合、ガウス分布の各パラメータ第2の変数は、となる。ここで、rikcは、負担率と呼ばれるデータxiが与えられたときの混合要素kの事後分布であり、次式で定義される。τは予め定められた実数定数であり、Ncはラベルcの学習データ数である。式4~6をみると分かるように、学習データが少ないほど、ガウス分布のパラメータ第2の変数は、全体的画像特徴のパラメータを強く反映する。さて、式5は、次のように解釈できる式8を図式化すると以下のようになる。図3Aは、ラベルcに対するk番目のガウス分布及び全体的画像特徴分布とモデル学習手段105によって導出される平均μkcとの関係を示した図である。なお、説明を簡略化するため特徴ベクトルの次元が1次元の場合を表しており、白抜きの丸のそれぞれがデータサンプルを示している。データ密度推定手段105aは、式8-2に基づいてデータ密度Nkcを推定する。すると、τは予め定められる定数であるためデータ密度Nkcが小さいほど、モデル学習手段105は平均μkc第2の変数の算出結果として全体的画像特徴分布の平均μkuに近づくような値を得る。また、データ密度Nkcが大きいほど、モデル学習手段105は平均μkc第2の変数の算出結果としてラベルcの領域kにおけるサンプル平均に近づくような値を得る。また、同様に式は、πkcは、ラベルcの領域kにおけるデータ密度で定義されている。すなわち、この式10を式2により規格化することにより、式4が得られる。このように、モデル学習手段105は、データ密度推定手段105aによりデータ領域におけるデータ密度を推定し、パラメータ最適化手段105bによりそのデータ密度により全体的画像特徴量のパラメータを反映させる寄与率を定める。以上より、あるτが与えられると、それぞれのラベルcに対する学習はEMアルゴリズムを用いて求められる。次に、EMアルゴリズムを用いた学習アルゴリズムの詳細を以下に示す。図5は、学習アルゴリズムの内容を示すフローチャートである。また、図3Bは、特徴ベクトルの分布及びデータ領域の範囲を示す概略図である。なお、説明を簡略化するため特徴ベクトルの次元が2次元の場合を表しており、白抜きの丸がデータサンプルを示している。まず、モデル学習手段105のパラメータ最適化手段105bは、パラメータ{πkc,μkc,Σkc}を初期化するS11。なお、パラメータ最適化手段105bは、ユニバーサルモデルを活用し、全体的画像特徴分布のパラメータを初期値に定める。ステップS11の結果、データサンプルはガウス分布のデータ領域のいずれかに属することとなる。次に、モデル学習手段105は、各ガウス分布に所属するデータサンプルについて、Eステップとして負担率rjkを式7に従って算出する。次に、モデル学習手段105は、Mステップとしてパラメータ{πkc,μkc,Σkc}を式4~6に従って更新するS13。ステップS13の結果、データサンプルは、更新されたパラメータに従った各ガウス分布のデータ領域のいずれかに属することとなる。次に、モデル学習手段105は、収束条件を満たすか否か判定しS14、対数尤度の変化が予め定められた既定値以下であればS14;Yes、計算を終了し、既定値以下でなければS14;No、ステップS12に戻る。次に、モデル学習手段105は、ラベル毎にモデルの学習済みパラメータ{πkc,μkc,Σkc}を学習情報113として記憶部11に保存する。3アノテーション推定動作図6は、画像識別情報付与装置の動作例を示すフローチャートである。まず、画像取得手段100は、ラベルを推定する対象として通信部12を介して外部から入力された画像情報を取得するS21。次に、画像分割手段101は、画像をn個の領域に分割し、部分領域を生成するS22。次に、特徴ベクトル生成手段102は、部分領域から複数の特徴量を抽出し、部分領域毎にこれら特徴量を成分とした特徴ベクトルx1、x2、...、xnを生成するS23。次に、尤度計算手段106は、学習情報113からステップS6で学習した各ラベルのモデルを読み込むS24。具体的には、モデルのパラメータ{πkc,μkc,Σkc}を記憶部11から読み込み、図示しないメモリに展開する。次に、尤度計算手段106は、各部分領域の特徴ベクトルについて事後確率を算出するS25。予測するべき入力画像Iから抽出される特徴ベクトルのセットX={x1,...xn}が与えられた場合のラベルcの事後確率pc|Xがベイズの定理を用いて次のように計算される。ここで、pcは、ラベルcの事前確率である。これには、学習データ集合における相対頻度を用いる。px1...xnは、特徴ベクトル集合の事前分布であるが、ラベルに対しては一定値をとる。したがって、画像Iに対するラベルcの対数尤度は、定数部分を除いて、次式のように表わせる。式12が大きいほど画像Iのラベルとして適していると考えられる。式12の大きいものから数個を画像Iのラベルアノテーション単語とする。次に、尤度計算手段106は、あるラベルcに対する部分画像の特徴ベクトルxiの尤度を算出するS26。尤度が計算されると、アノテーション単語推定手段107は、尤度の大きいものから順に、例えば、上位5つのラベルを取得し、画像情報の識別情報としてラベルに対応付けられたアノテーション単語を付与するS27。次に、出力手段108は、図示しない定められた出力装置ディスプレイ、プリンター、ハードディスク等にアノテーション単語推定結果を出力するS28。[他の実施の形態]なお、本発明は、上記実施の形態に限定されず、本発明の趣旨を逸脱しない範囲で種々な変形が可能である。また、上記実施の形態で使用される画像識別情報付与プログラム110は、CD-ROM等の記憶媒体から装置内の記憶部11に読み込んでも良く、インターネット等のネットワークに接続されているサーバ装置等から装置内の記憶部11にダウンロードしてもよい。また、記憶部11を装置外に配置してもよいし、装置外に配置した記憶部11と画像識別情報付与装置1とをネットワークを介して接続してもよい。また、上記実施の形態で使用される手段100~108の一部または全部をASIC等のハードウェアによって実現してもよい。"