(57)【特許請求の範囲】
【請求項１】
与えられた信号と、その信号を説明する情報である付加情報との関係性を学習する半教師トピックモデル学習装置であって、
付加情報が予め付与された信号の集合である完全蓄積信号集合の要素である完全蓄積信号、及び付加情報が与えられていない信号の集合である不完全蓄積信号集合の要素である不完全蓄積信号のそれぞれから、各信号の特性を表現するベクトルである蓄積信号特徴を抽出する蓄積信号特徴抽出部と、
前記完全蓄積信号に付与された付加情報の集合である蓄積付加情報集合の要素である蓄積付加情報のそれぞれから、蓄積付加情報の特性を表現するベクトルである蓄積付加情報特徴を抽出する蓄積付加情報特徴抽出部と、
前記完全蓄積信号の蓄積信号特徴の集合である完全蓄積信号特徴集合と、前記不完全蓄積信号の蓄積信号特徴の集合である不完全蓄積信号特徴集合と、前記蓄積付加情報特徴の集合である蓄積付加情報特徴集合とから、信号と付加情報の関係性を記述するための変数である蓄積潜在変数を抽出する蓄積潜在変数抽出部と、
前記完全蓄積信号特徴集合と、前記不完全蓄積信号特徴集合と、前記蓄積付加情報特徴集合と、前記蓄積潜在変数の集合である蓄積潜在変数集合とから、信号と付加情報との関係性を記述するモデルであるトピックモデルを抽出するトピックモデル学習部と
を備え、
前記蓄積潜在変数抽出部は、
前記完全蓄積信号特徴集合と前記不完全蓄積信号特徴集合と前記蓄積付加情報特徴集合とから、蓄積潜在変数が存在する多次元ベクトル空間である潜在変数空間を生成する潜在変数空間生成部と、
前記完全蓄積信号特徴集合と前記蓄積付加情報特徴集合と前記潜在変数空間とを用いて、前記完全蓄積信号特徴集合に対応する蓄積潜在変数集合である完全蓄積潜在変数集合を抽出する完全蓄積潜在変数集合抽出部と、
前記完全蓄積信号特徴集合と前記不完全蓄積信号特徴集合と前記潜在変数空間とを用いて、不完全蓄積信号特徴集合に対応する蓄積潜在変数集合である不完全蓄積潜在変数集合を抽出し、当該不完全蓄積潜在変数集合と前記完全蓄積潜在変数集合とを合わせて蓄積潜在変数集合全体を形成する蓄積潜在変数集合抽出部と
を備えることを特徴とすることを特徴とする半教師トピックモデル学習装置。
【請求項２】
前記トピックモデル学習部は、
前記蓄積潜在変数集合から、蓄積潜在変数そのものの確率的構造を記述するモデルである潜在変数モデルを抽出する潜在変数モデル学習部と、
前記完全蓄積信号特徴集合と前記不完全蓄積信号特徴集合と前記蓄積潜在変数集合とから、信号と潜在変数との関係性を記述するモデルである信号・潜在変数関係モデルを抽出する信号・潜在変数関係モデル学習部と、
前記蓄積付加情報特徴集合と前記蓄積潜在変数集合とから、付加情報と潜在変数との関係性を記述するモデルである付加情報・潜在変数関係モデルを抽出する付加情報・潜在変数関係モデル学習部と
を備え、
前記潜在変数モデルと前記信号・潜在変数関係モデルと前記付加情報・潜在変数関係モデルとを統合してトピックモデルとする
ことを特徴とする請求項１に記載の半教師トピックモデル学習装置。
【請求項３】
前記トピックモデル学習部は、
前記付加情報・潜在変数関係モデルと前記蓄積付加情報特徴集合と前記蓄積潜在変数集合とから、前記不完全蓄積信号特徴集合に対応する潜在変数の分布を考慮して前記付加情報・潜在変数関係モデルを更新する付加情報・潜在変数関係モデル更新部と、
前記付加情報・潜在変数関係モデルが更新した付加情報・潜在変数関係モデルと前記蓄積付加情報特徴集合とから、当該蓄積付加情報特徴集合の情報を一定程度保持するように付加情報・潜在変数関係モデルを補正する付加情報・潜在変数関係モデル補正部と
を更に備えることを特徴とする請求項２に記載の半教師トピックモデル学習装置。
【請求項４】
前記潜在変数モデル学習部は、各蓄積潜在変数をパラメータとする確率密度関数の重ね合わせで潜在変数モデルを抽出し、
前記信号・潜在変数関係モデル学習部は、各蓄積潜在変数に対して個別に、かつ蓄積信号特徴をパラメータとする確率密度関数に基づいて、信号・潜在変数関係モデルを抽出し、
前記付加情報・潜在変数関係モデル学習部は、各蓄積潜在変数に対して個別に、かつ付加情報特徴をパラメータとする確率密度関数に基づいて、付加情報・潜在変数関係モデルを抽出する
ことを特徴とする請求項２又は３に記載の半教師トピックモデル学習装置。
【請求項５】
与えられた信号と、その信号を説明する情報である付加情報との関係性を学習する半教師トピックモデル学習装置において用いられる半教師トピックモデル学習方法であって、
蓄積信号特徴抽出部が、付加情報が予め付与された信号の集合である完全蓄積信号集合の要素である完全蓄積信号、及び付加情報が与えられていない信号の集合である不完全蓄積信号集合の要素である不完全蓄積信号のそれぞれから、各信号の特性を表現するベクトルである蓄積信号特徴を抽出するステップと、
蓄積付加情報特徴抽出部が、前記完全蓄積信号に付与された付加情報の集合である蓄積付加情報集合の要素である蓄積付加情報のそれぞれから、蓄積付加情報の特性を表現するベクトルである蓄積付加情報特徴を抽出するステップと、
蓄積潜在変数抽出部が、前記完全蓄積信号の蓄積信号特徴の集合である完全蓄積信号特徴集合と、前記不完全蓄積信号の蓄積信号特徴の集合である不完全蓄積信号特徴集合と、前記蓄積付加情報特徴の集合である蓄積付加情報特徴集合とから、信号と付加情報の関係性を記述するための変数である蓄積潜在変数を抽出するステップと、
トピックモデル学習部が、前記完全蓄積信号特徴集合と、前記不完全蓄積信号特徴集合と、前記蓄積付加情報特徴集合と、前記蓄積潜在変数の集合である蓄積潜在変数集合とから、信号と付加情報との関係性を記述するモデルであるトピックモデルを抽出するステップと
を含み、
前記蓄積潜在変数を抽出するステップは、
潜在変数空間生成部が、前記完全蓄積信号特徴集合と前記不完全蓄積信号特徴集合と前記蓄積付加情報特徴集合とから、蓄積潜在変数が存在する多次元ベクトル空間である潜在変数空間を生成するステップと、
完全蓄積潜在変数集合抽出部が、前記完全蓄積信号特徴集合と前記蓄積付加情報特徴集合と前記潜在変数空間とを用いて、前記完全蓄積信号特徴集合に対応する蓄積潜在変数集合である完全蓄積潜在変数集合を抽出するステップと、
蓄積潜在変数集合抽出部が、前記完全蓄積信号特徴集合と前記不完全蓄積信号特徴集合と前記潜在変数空間とを用いて、不完全蓄積信号特徴集合に対応する蓄積潜在変数集合である不完全蓄積潜在変数集合を抽出し、当該不完全蓄積潜在変数集合と前記完全蓄積潜在変数集合とを合わせて蓄積潜在変数集合全体を形成するステップと
を含むことを特徴とする半教師トピックモデル学習方法。
【請求項６】
前記トピックモデルを抽出するステップは、
潜在変数モデル学習部が、前記蓄積潜在変数集合から、蓄積潜在変数そのものの確率的構造を記述するモデルである潜在変数モデルを抽出するステップと、
信号・潜在変数関係モデル学習部が、前記完全蓄積信号特徴集合と前記不完全蓄積信号特徴集合と前記蓄積潜在変数集合とから、信号と潜在変数との関係性を記述するモデルである信号・潜在変数関係モデルを抽出するステップと、
付加情報・潜在変数関係モデル学習部が、前記蓄積付加情報特徴集合と前記蓄積潜在変数集合とから、付加情報と潜在変数との関係性を記述するモデルである付加情報・潜在変数関係モデルを抽出するステップと
を含み、
前記潜在変数モデルと前記信号・潜在変数関係モデルと前記付加情報・潜在変数関係モデルとを統合してトピックモデルとする
ことを特徴とする請求項５に記載の半教師トピックモデル学習方法。
【請求項７】
前記トピックモデルを抽出するステップは、
付加情報・潜在変数関係モデル更新部が、前記付加情報・潜在変数関係モデルと前記蓄積付加情報特徴集合と前記蓄積潜在変数集合とから、前記不完全蓄積信号特徴集合に対応する潜在変数の分布を考慮して前記付加情報・潜在変数関係モデルを更新するステップと、
付加情報・潜在変数関係モデル補正部が、前記付加情報・潜在変数関係モデルが更新した付加情報・潜在変数関係モデルと前記蓄積付加情報特徴集合とから、当該蓄積付加情報特徴集合の情報を一定程度保持するように付加情報・潜在変数関係モデルを補正するステップと
を更に含むことを特徴とする請求項６に記載の半教師トピックモデル学習方法。
【請求項８】
前記潜在変数モデルを抽出するステップは、各蓄積潜在変数をパラメータとする確率密度関数の重ね合わせで潜在変数モデルを抽出し、
前記信号・潜在変数関係モデルを抽出するステップは、各蓄積潜在変数に対して個別に、かつ蓄積信号特徴をパラメータとする確率密度関数に基づいて、信号・潜在変数関係モデルを抽出し、
前記付加情報・潜在変数関係モデルを抽出するステップは、各蓄積潜在変数に対して個別に、かつ付加情報特徴をパラメータとする確率密度関数に基づいて、付加情報・潜在変数関係モデルを抽出する
ことを特徴とする請求項６又は７に記載の半教師トピックモデル学習方法。
【請求項９】
与えられた信号と、その信号を説明する情報である付加情報との関係性を学習する半教師トピックモデル学習装置としてのコンピュータに、
蓄積信号特徴抽出部が、付加情報が予め付与された信号の集合である完全蓄積信号集合の要素である完全蓄積信号、及び付加情報が与えられていない信号の集合である不完全蓄積信号集合の要素である不完全蓄積信号のそれぞれから、各信号の特性を表現するベクトルである蓄積信号特徴を抽出するステップと、
蓄積付加情報特徴抽出部が、前記完全蓄積信号に付与された付加情報の集合である蓄積付加情報集合の要素である蓄積付加情報のそれぞれから、蓄積付加情報の特性を表現するベクトルである蓄積付加情報特徴を抽出するステップと、
蓄積潜在変数抽出部が、前記完全蓄積信号の蓄積信号特徴の集合である完全蓄積信号特徴集合と、前記不完全蓄積信号の蓄積信号特徴の集合である不完全蓄積信号特徴集合と、前記蓄積付加情報特徴の集合である蓄積付加情報特徴集合とから、信号と付加情報の関係性を記述するための変数である蓄積潜在変数を抽出するステップと、
トピックモデル学習部が、前記完全蓄積信号特徴集合と、前記不完全蓄積信号特徴集合と、前記蓄積付加情報特徴集合と、前記蓄積潜在変数の集合である蓄積潜在変数集合とから、信号と付加情報との関係性を記述するモデルであるトピックモデルを抽出するステップと
を実行させ、
前記蓄積潜在変数を抽出するステップは、
潜在変数空間生成部が、前記完全蓄積信号特徴集合と前記不完全蓄積信号特徴集合と前記蓄積付加情報特徴集合とから、蓄積潜在変数が存在する多次元ベクトル空間である潜在変数空間を生成するステップと、
完全蓄積潜在変数集合抽出部が、前記完全蓄積信号特徴集合と前記蓄積付加情報特徴集合と前記潜在変数空間とを用いて、前記完全蓄積信号特徴集合に対応する蓄積潜在変数集合である完全蓄積潜在変数集合を抽出するステップと、
蓄積潜在変数集合抽出部が、前記完全蓄積信号特徴集合と前記不完全蓄積信号特徴集合と前記潜在変数空間とを用いて、不完全蓄積信号特徴集合に対応する蓄積潜在変数集合である不完全蓄積潜在変数集合を抽出し、当該不完全蓄積潜在変数集合と前記完全蓄積潜在変数集合とを合わせて蓄積潜在変数集合全体を形成するステップと
を実行させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、半教師トピックモデル学習装置、半教師トピックモデル学習方法及びプログラムに関する。
【背景技術】
【０００２】
近年、所望の画像を与えられた言語情報に基づいて検索する画像検索技術、及び、与えられた画像に対してその画像を説明する言語情報を自動的に付与する画像認識技術は、ディジタルカメラ・携帯電話などの撮像装置の普及、インターネット上での画像共有の一般化などに伴い、非常に重要な技術となってきている。また、画像検索と画像認識とを同一の枠組の下で実現する画像認識検索技術が数多く開発されている（例えば、非特許文献１参照）。
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】中山、原田、國吉、大津”画像・単語間概念対応の確率構造学習を利用した超高速画像認識・検索方法”、電子情報通信学会技術報告、PRMU2007-147、2007年12月
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、非特許文献１に記載された技術では、実際に検索又は認識を行う前に、画像と言語情報との関連性を学習しておく必要があるが、この学習の際に、同時共起する画像と言語情報との組が数多く必要となる。しかし、大量の画像に手動で言語情報を付与することは多くの労力を伴うため、言語情報が関連付けられている画像を大量に召集することは困難である。言語情報が関連付けられた画像が十分に用意できない場合には、画像と言語情報の関係性を精度良く学習することができないため、結果として画像認識及び画像検索の信頼性が損なわれてしまう、という問題がある。
【０００５】
本発明は上記の点に鑑みてなされたものであり、その目的は、言語情報（付加情報）が関連付けられた画像（信号）が少量しか利用できない場合においても、画像（信号）と言語情報（付加情報）の関係性を精度良く学習することができる半教師トピックモデル学習装置、半教師トピックモデル学習方法及びプログラムを提供することにある。
【課題を解決するための手段】
【０００６】
本発明は上記の課題を解決するためになされたものであり、本発明の一態様は、与えられた信号と、その信号を説明する情報である付加情報との関係性を学習する半教師トピックモデル学習装置であって、付加情報が予め付与された信号の集合である完全蓄積信号集合の要素である完全蓄積信号、及び付加情報が与えられていない信号の集合である不完全蓄積信号集合の要素である不完全蓄積信号のそれぞれから、各信号の特性を表現するベクトルである蓄積信号特徴を抽出する蓄積信号特徴抽出部と、前記完全蓄積信号に付与された付加情報の集合である蓄積付加情報集合の要素である蓄積付加情報のそれぞれから、蓄積付加情報の特性を表現するベクトルである蓄積付加情報特徴を抽出する蓄積付加情報特徴抽出部と、前記完全蓄積信号の蓄積信号特徴の集合である完全蓄積信号特徴集合と、前記不完全蓄積信号の蓄積信号特徴の集合である不完全蓄積信号特徴集合と、前記蓄積付加情報特徴の集合である蓄積付加情報特徴集合とから、信号と付加情報の関係性を記述するための変数である蓄積潜在変数を抽出する蓄積潜在変数抽出部と、前記完全蓄積信号特徴集合と、前記不完全蓄積信号特徴集合と、前記蓄積付加情報特徴集合と、前記蓄積潜在変数の集合である蓄積潜在変数集合とから、信号と付加情報との関係性を記述するモデルであるトピックモデルを抽出するトピックモデル学習部とを備え、前記蓄積潜在変数抽出部は、前記完全蓄積信号特徴集合と前記不完全蓄積信号特徴集合と前記蓄積付加情報特徴集合とから、蓄積潜在変数が存在する多次元ベクトル空間である潜在変数空間を生成する潜在変数空間生成部と、前記完全蓄積信号特徴集合と前記蓄積付加情報特徴集合と前記潜在変数空間とを用いて、前記完全蓄積信号特徴集合に対応する蓄積潜在変数集合である完全蓄積潜在変数集合を抽出する完全蓄積潜在変数集合抽出部と、前記完全蓄積信号特徴集合と前記不完全蓄積信号特徴集合と前記潜在変数空間とを用いて、不完全蓄積信号特徴集合に対応する蓄積潜在変数集合である不完全蓄積潜在変数集合を抽出し、当該不完全蓄積潜在変数集合と前記完全蓄積潜在変数集合とを合わせて蓄積潜在変数集合全体を形成する蓄積潜在変数集合抽出部とを備えることを特徴とすることを特徴とする半教師トピックモデル学習装置である。
【０００８】
また、本発明の一態様は、上記の半教師トピックモデル学習装置において、前記トピックモデル学習部は、前記蓄積潜在変数集合から、蓄積潜在変数そのものの確率的構造を記述するモデルである潜在変数モデルを抽出する潜在変数モデル学習部と、前記完全蓄積信号特徴集合と前記不完全蓄積信号特徴集合と前記蓄積潜在変数集合とから、信号と潜在変数との関係性を記述するモデルである信号・潜在変数関係モデルを抽出する信号・潜在変数関係モデル学習部と、前記蓄積付加情報特徴集合と前記蓄積潜在変数集合とから、付加情報と潜在変数との関係性を記述するモデルである付加情報・潜在変数関係モデルを抽出する付加情報・潜在変数関係モデル学習部とを備え、前記潜在変数モデルと前記信号・潜在変数関係モデルと前記付加情報・潜在変数関係モデルとを統合してトピックモデルとすることを特徴とする。
【０００９】
また、本発明の一態様は、上記の半教師トピックモデル学習装置において、前記トピックモデル学習部は、前記付加情報・潜在変数関係モデルと前記蓄積付加情報特徴集合と前記蓄積潜在変数集合とから、前記不完全蓄積信号特徴集合に対応する潜在変数の分布を考慮して前記付加情報・潜在変数関係モデルを更新する付加情報・潜在変数関係モデル更新部と、前記付加情報・潜在変数関係モデルが更新した付加情報・潜在変数関係モデルと前記蓄積付加情報特徴集合とから、当該蓄積付加情報特徴集合の情報を一定程度保持するように付加情報・潜在変数関係モデルを補正する付加情報・潜在変数関係モデル補正部とを更に備えることを特徴とする。
【００１０】
また、本発明の一態様は、上記の半教師トピックモデル学習装置において、前記潜在変数モデル学習部は、各蓄積潜在変数をパラメータとする確率密度関数の重ね合わせで潜在変数モデルを抽出し、前記信号・潜在変数関係モデル学習部は、各蓄積潜在変数に対して個別に、かつ蓄積信号特徴をパラメータとする確率密度関数に基づいて、信号・潜在変数関係モデルを抽出し、前記付加情報・潜在変数関係モデル学習部は、各蓄積潜在変数に対して個別に、かつ付加情報特徴をパラメータとする確率密度関数に基づいて、付加情報・潜在変数関係モデルを抽出することを特徴とする。
【００１１】
また、本発明の一態様は、与えられた信号と、その信号を説明する情報である付加情報との関係性を学習する半教師トピックモデル学習装置において用いられる半教師トピックモデル学習方法であって、蓄積信号特徴抽出部が、付加情報が予め付与された信号の集合である完全蓄積信号集合の要素である完全蓄積信号、及び付加情報が与えられていない信号の集合である不完全蓄積信号集合の要素である不完全蓄積信号のそれぞれから、各信号の特性を表現するベクトルである蓄積信号特徴を抽出するステップと、蓄積付加情報特徴抽出部が、前記完全蓄積信号に付与された付加情報の集合である蓄積付加情報集合の要素である蓄積付加情報のそれぞれから、蓄積付加情報の特性を表現するベクトルである蓄積付加情報特徴を抽出するステップと、蓄積潜在変数抽出部が、前記完全蓄積信号の蓄積信号特徴の集合である完全蓄積信号特徴集合と、前記不完全蓄積信号の蓄積信号特徴の集合である不完全蓄積信号特徴集合と、前記蓄積付加情報特徴の集合である蓄積付加情報特徴集合とから、信号と付加情報の関係性を記述するための変数である蓄積潜在変数を抽出するステップと、トピックモデル学習部が、前記完全蓄積信号特徴集合と、前記不完全蓄積信号特徴集合と、前記蓄積付加情報特徴集合と、前記蓄積潜在変数の集合である蓄積潜在変数集合とから、信号と付加情報との関係性を記述するモデルであるトピックモデルを抽出するステップとを含み、前記蓄積潜在変数を抽出するステップは、潜在変数空間生成部が、前記完全蓄積信号特徴集合と前記不完全蓄積信号特徴集合と前記蓄積付加情報特徴集合とから、蓄積潜在変数が存在する多次元ベクトル空間である潜在変数空間を生成するステップと、完全蓄積潜在変数集合抽出部が、前記完全蓄積信号特徴集合と前記蓄積付加情報特徴集合と前記潜在変数空間とを用いて、前記完全蓄積信号特徴集合に対応する蓄積潜在変数集合である完全蓄積潜在変数集合を抽出するステップと、蓄積潜在変数集合抽出部が、前記完全蓄積信号特徴集合と前記不完全蓄積信号特徴集合と前記潜在変数空間とを用いて、不完全蓄積信号特徴集合に対応する蓄積潜在変数集合である不完全蓄積潜在変数集合を抽出し、当該不完全蓄積潜在変数集合と前記完全蓄積潜在変数集合とを合わせて蓄積潜在変数集合全体を形成するステップとを含むことを特徴とする半教師トピックモデル学習方法である。
【００１３】
また、本発明の一態様は、上記の半教師トピックモデル学習方法において、前記トピックモデルを抽出するステップは、潜在変数モデル学習部が、前記蓄積潜在変数集合から、蓄積潜在変数そのものの確率的構造を記述するモデルである潜在変数モデルを抽出するステップと、信号・潜在変数関係モデル学習部が、前記完全蓄積信号特徴集合と前記不完全蓄積信号特徴集合と前記蓄積潜在変数集合とから、信号と潜在変数との関係性を記述するモデルである信号・潜在変数関係モデルを抽出するステップと、付加情報・潜在変数関係モデル学習部が、前記蓄積付加情報特徴集合と前記蓄積潜在変数集合とから、付加情報と潜在変数との関係性を記述するモデルである付加情報・潜在変数関係モデルを抽出するステップとを含み、前記潜在変数モデルと前記信号・潜在変数関係モデルと前記付加情報・潜在変数関係モデルとを統合してトピックモデルとすることを特徴とする。
【００１４】
前記トピックモデルを抽出するステップは、付加情報・潜在変数関係モデル更新部が、前記付加情報・潜在変数関係モデルと前記蓄積付加情報特徴集合と前記蓄積潜在変数集合とから、前記不完全蓄積信号特徴集合に対応する潜在変数の分布を考慮して前記付加情報・潜在変数関係モデルを更新するステップと、付加情報・潜在変数関係モデル補正部が、前記付加情報・潜在変数関係モデルが更新した付加情報・潜在変数関係モデルと前記蓄積付加情報特徴集合とから、当該蓄積付加情報特徴集合の情報を一定程度保持するように付加情報・潜在変数関係モデルを補正するステップとを更に含むことを特徴とする。
【００１５】
前記潜在変数モデルを抽出するステップは、各蓄積潜在変数をパラメータとする確率密度関数の重ね合わせで潜在変数モデルを抽出し、前記信号・潜在変数関係モデルを抽出するステップは、各蓄積潜在変数に対して個別に、かつ蓄積信号特徴をパラメータとする確率密度関数に基づいて、信号・潜在変数関係モデルを抽出し、前記付加情報・潜在変数関係モデルを抽出するステップは、各蓄積潜在変数に対して個別に、かつ付加情報特徴をパラメータとする確率密度関数に基づいて、付加情報・潜在変数関係モデルを抽出することを特徴とする。
【００１６】
また、本発明の一態様は、与えられた信号と、その信号を説明する情報である付加情報との関係性を学習する半教師トピックモデル学習装置としてのコンピュータに、蓄積信号特徴抽出部が、付加情報が予め付与された信号の集合である完全蓄積信号集合の要素である完全蓄積信号、及び付加情報が与えられていない信号の集合である不完全蓄積信号集合の要素である不完全蓄積信号のそれぞれから、各信号の特性を表現するベクトルである蓄積信号特徴を抽出するステップと、蓄積付加情報特徴抽出部が、前記完全蓄積信号に付与された付加情報の集合である蓄積付加情報集合の要素である蓄積付加情報のそれぞれから、蓄積付加情報の特性を表現するベクトルである蓄積付加情報特徴を抽出するステップと、蓄積潜在変数抽出部が、前記完全蓄積信号の蓄積信号特徴の集合である完全蓄積信号特徴集合と、前記不完全蓄積信号の蓄積信号特徴の集合である不完全蓄積信号特徴集合と、前記蓄積付加情報特徴の集合である蓄積付加情報特徴集合とから、信号と付加情報の関係性を記述するための変数である蓄積潜在変数を抽出するステップと、トピックモデル学習部が、前記完全蓄積信号特徴集合と、前記不完全蓄積信号特徴集合と、前記蓄積付加情報特徴集合と、前記蓄積潜在変数の集合である蓄積潜在変数集合とから、信号と付加情報との関係性を記述するモデルであるトピックモデルを抽出するステップとを実行させ、前記蓄積潜在変数を抽出するステップは、潜在変数空間生成部が、前記完全蓄積信号特徴集合と前記不完全蓄積信号特徴集合と前記蓄積付加情報特徴集合とから、蓄積潜在変数が存在する多次元ベクトル空間である潜在変数空間を生成するステップと、完全蓄積潜在変数集合抽出部が、前記完全蓄積信号特徴集合と前記蓄積付加情報特徴集合と前記潜在変数空間とを用いて、前記完全蓄積信号特徴集合に対応する蓄積潜在変数集合である完全蓄積潜在変数集合を抽出するステップと、蓄積潜在変数集合抽出部が、前記完全蓄積信号特徴集合と前記不完全蓄積信号特徴集合と前記潜在変数空間とを用いて、不完全蓄積信号特徴集合に対応する蓄積潜在変数集合である不完全蓄積潜在変数集合を抽出し、当該不完全蓄積潜在変数集合と前記完全蓄積潜在変数集合とを合わせて蓄積潜在変数集合全体を形成するステップとを実行させることを特徴とするプログラムである。
【発明の効果】
【００１７】
本発明によれば、蓄積潜在変数抽出部により、付加情報（言語情報）が関連付けられた信号と付加情報が関連付けられていない信号の双方からの、信号と付加情報の関係性を記述するための蓄積潜在変数の抽出することにより、付加情報が関連付けられた信号が少量しか利用できない場合においても、信号と付加情報の関係性を精度良く学習することができる。すなわち、付加情報が関連付けられていない信号を、信号と付加情報との関係性を学習する際に、同時に利用することにより、付加情報が関連付けられた信号のみを少数利用する場合に比べて、高い精度で信号と付加情報の関係性を学習することができる。
【図面の簡単な説明】
【００１８】
【図１】本実施形態による半教師トピックモデル学習装置の機能構成を示すブロック図である。
【図２】本実施形態による蓄積潜在変数抽出部の機能構成を示すブロック図である。
【図３】本実施形態によるトピックモデル学習部の機能構成を示すブロック図である。
【図４】本実施形態による半教師トピックモデル学習処理の手順を示すフローチャートである。
【図５】本実施形態による蓄積潜在変数抽出部における蓄積潜在変数抽出処理の手順を示すフローチャートである。
【図６】本実施形態によるトピックモデル学習部におけるトピックモデル学習処理の手順を示すフローチャートである。
【発明を実施するための形態】
【００１９】
以下、図面を参照しながら本発明の実施形態について詳しく説明する。
まず、以下で用いる語を次のように定義する。
付加情報とは、対象とする信号を説明する情報（テキストラベル）であり、対象とする信号と異なる種類の信号を広く一般的に指すものとする。ここで用いられる信号の種類としては、たとえば静止画像、動画像（映像）、音響信号（音声、音楽、環境音など）、テキスト、生体信号（脳波、筋電信号など）、地理情報（ＧＰＳ取得情報、所在地名など）、機器情報（カメラ型番、符号化コーデックなど）など、様々なものが含まれる。以下では、対象とする信号として画像、付加情報としてテキストの場合を例に説明を行うため「蓄積画像」という表現を用いるが、前述のような信号に置き換えることも可能であるため、これを「蓄積信号」と読み替えても良い。完全蓄積画像（信号）とは、付加情報が予め付与された画像（信号）である。不完全蓄積画像（信号）とは、付加情報が付与されていない画像（信号）である。また、完全蓄積画像（信号）集合Ｇｃ＝｛ｇ１，ｇ２，…，ｇＮ｝は、Ｎ（Ｎは１以上の整数）枚の完全蓄積画像の集合である。不完全蓄積画像（信号）集合ＧＩ＝｛ｇＮ＋１，ｇＮ＋２，…，ｇＮ＋Ｎｘ｝は、Ｎｘ（Ｎｘは１以上の整数）枚の不完全蓄積画像の集合である。なお、多くの場合Ｎ≪Ｎｘ（ＮはＮｘより十分に小さい）である。また、完全蓄積画像集合Ｇｃと不完全蓄積画像集合ＧＩとを合わせて蓄積画像（信号）集合Ｇとする。蓄積付加情報集合Ｗ１＝｛ｗ１，ｗ２，…，ｗＮ｝は、画像（信号）に付与された付加情報の集合である。
【００２０】
図１は、本実施形態による半教師トピックモデル学習装置１０の機能構成を示すブロック図である。
半教師トピックモデル学習装置１０は、完全蓄積画像集合Ｇｃと不完全蓄積画像集合ＧＩと蓄積付加情報集合Ｗ１とを入力とし、画像と付加情報との関係性を記述するモデルである画像（信号）・付加情報関係モデル（トピックモデル）を出力（学習）する、例えばコンピュータ等から構築される装置である。半教師トピックモデル学習装置１０は、蓄積信号特徴抽出部１と、蓄積付加情報特徴抽出部２と、蓄積潜在変数抽出部３と、トピックモデル学習部４とを含んで構成される。
【００２１】
蓄積信号特徴抽出部１は、完全蓄積画像集合Ｇｃと不完全蓄積画像集合ＧＩとを入力とし、完全蓄積画像集合Ｇｃの要素である完全蓄積画像と不完全蓄積画像集合ＧＩの要素である不完全蓄積画像のそれぞれから、各画像の特性を表現するベクトルである蓄積画像（信号）特徴を抽出する。そして、蓄積信号特徴抽出部１は、完全蓄積画像（信号）特徴の集合である完全蓄積画像（信号）特徴集合と不完全蓄積画像（信号）特徴の集合である不完全蓄積画像（信号）特徴集合とを蓄積潜在変数抽出部３に出力する。完全蓄積画像特徴は完全蓄積画像の蓄積画像特徴であり、不完全蓄積画像特徴は不完全蓄積画像の蓄積画像特徴である。
【００２２】
具体的には、蓄積信号特徴抽出部１は、蓄積画像が静止画像であれば、まず、各画像について、ＳＵＲＦ（Ｓｐｅｅｄｅｄ−ｕｐ  ｒｏｂｕｓｔ  ｆｅａｔｕｒｅｓ；例えばH. Bay, A. Ess, T. Tuytelaars, and L. Van Gool,“Speeded-up robust features (SURF),” CVIU, vol. 110, no. 3, pp. 346-359, 2008.参照）を用いて画像の特徴点を検出する。続いて、蓄積信号特徴抽出部１は、特徴点について計算した局所特徴量を量子化し、量子化した各特徴量をヒストグラムとして表現する。これにより、蓄積信号特徴抽出部１は、完全蓄積画像特徴集合Ｘｃ＝｛ｘ１，ｘ２，…，ｘＮ｝と不完全蓄積画像特徴集合ＸＩ＝｛ｘＮ＋１，ｘＮ＋２，…，ｘＮ＋Ｎｘ｝を求める。画像特徴集合の要素ｘｎ（ｎ＝１，２，３，…，Ｎｘ）は、ヒストグラムである。
【００２３】
また、蓄積画像が動画像であれば、「時系列アクティブ探索（ＴＡＳ）法（特許第３０６５３１４号明細書）」のように時系列信号から生成したヒストグラムを特徴量として利用しても良い。また、蓄積画像の代わりに音響信号を用いる場合には、MFCC(Mel-frequency cepstral coefficients)やchroma特徴量などを用いることができる。また、地理情報であれば、ＧＰＳで取得した経度、緯度、時刻等の情報をそのまま特徴量として利用することができる。テキストの場合は、後述の蓄積負荷情報特徴抽出部２の説明で述べる。
【００２４】
なお、本実施形態では、蓄積信号特徴抽出部１は、局所特徴量の量子化ヒストグラムにより蓄積画像特徴を求めているが、これに換えて、例えば、色ヒストグラム、画像中の各小領域のデジタルコサイン変換の低周波成分、Ｈａａｒ ｗａｖｅｌｅｔの低周波成分もしくは高周波成分、高次局所自己相関特徴（例えば、N. Otsu and T. Kurita “A new scheme for practical flexible and intelligent vision systems,” Proc. IAPR Workshop on Computer Vision, pp.431-435, 1988.参照）などを用いることもできる。また、特徴点の抽出と局所特徴量の計算には上述のSURFを用いているが、これに換えて、例えばＳＩＦＴ（例えば、D. Lowe, “Distinctive image features from scale-invariant keypoints,” International Journal of Computer Vision, Vol.60, No.2, pp.91-110, 2004.参照）などの他の方法を用いることもできる。
【００２５】
蓄積付加情報特徴抽出部２は、蓄積付加情報集合Ｗ１を入力とし、蓄積付加情報集合Ｗ１の要素である蓄積付加情報のそれぞれから、蓄積付加情報の特性を表現するベクトルである蓄積付加情報特徴を抽出し、この蓄積付加情報特徴の集合である蓄積付加情報特徴集合Ｙを蓄積潜在変数抽出部３に出力する。蓄積付加情報特徴集合Ｙの抽出方法は、特に限定されるものではないが、本実施形態では、以下の３つの実施例について説明する。
【００２６】
［第１の実施例］
蓄積付加情報特徴は、テキストラベルに含まれる単語の有無を表現する２値ベクトルである。すなわち、蓄積付加情報特徴は、考慮すべき単語の総数と同数の次元を持つベクトルであり、ベクトルの各次元が単語に対応する。便宜的に、単語を、上記ベクトルにおいて対応する次元のインデックスを用いて表現する。蓄積付加情報特徴抽出部２は、蓄積付加情報に単語ｉが含まれている場合には蓄積付加情報特徴の第ｉ次元を１とし、そうではない場合には０とする。
【００２７】
［第２の実施例］
蓄積付加情報特徴として単語共起ベクトルＹ＝｛ｙ１，ｙ２，・・・，ｙＮ｝を用いる。蓄積付加情報特徴抽出部２は、単語共起ベクトルｙｎの第ｄ番目の要素ｙｎ，ｄを、テキストラベルｗｎに含まれるｄ番目の単語の個数とする。
【００２８】
［第３の実施例］
ＬＳＡ（Ｌａｔｅｎｔ  Ｓｅｍａｎｔｉｃ  Ａｎａｌｙｓｉｓ）を使う。第１または第２の実施例の方法で導出したベクトルを列ベクトルとする行列Ｗを考え、蓄積付加情報特徴抽出部２は、この行列Wに特異値分解を行うことで、Ｗ＝ＵΣＶＴ（ＶＴはＶの転置行列）を満たす正規直交行列Ｕ、Ｖと対角行列Σを得る。Σの対角成分にはＷの特異値が並ぶ。このとき、Σの値が左上から降順（値の大きい順）となるように、ＵとＶの列が適切に並びかえられているものとする。次に、蓄積付加情報特徴抽出部２は、予め定められたＤｙについて、Σの左上Ｄｙ×Ｄｙの部分行列ΣＤｙと、Ｕの左Ｄｙ列までを取り出した部分行列ＵＤｙとを用いて、蓄積付加情報特徴ｙｎ（ｎ＝１，２，・・・，Ｎ）をｙｎ＝ＵＤｙＴΣＤｙｗｎにより得る。
【００２９】
蓄積潜在変数抽出部３は、完全蓄積画像特徴集合Ｘｃと、不完全蓄積画像特徴集合ＸＩと、蓄積付加情報特徴集合Ｙとを入力とし、これらの特徴集合から、画像（信号）と付加情報の関係性を記述するための変数の集合である蓄積潜在変数集合Ｚ＝｛ｚ１，ｚ２，・・・，ｚＮｘ＋Ｎ｝を抽出し、この蓄積潜在変数集合をトピックモデル学習部４へ出力する。蓄積潜在変数抽出部３における処理の詳細については後述する。
【００３０】
トピックモデル学習部４は、完全蓄積画像特徴集合ＸＣと、不完全蓄積画像特徴集合ＸＩと、蓄積付加情報特徴集合Ｙと、蓄積潜在変数集合Ｚとを入力とし、これらの集合から、画像と付加情報との関係性を記述するモデルであるトピックモデルを学習（抽出）し、このトピックモデルを出力する。トピックモデル学習部４における処理の詳細については後述する。
【００３１】
次に、蓄積潜在変数抽出部３における処理の詳細について説明する。図２は、本実施形態による蓄積潜在変数抽出部３の機能構成を示すブロック図である。
蓄積潜在変数抽出部３は、関数ｆｘ：ＲＤｘ→ＲＤｚ（Ｄｘ次元実数ベクトルの集合からＤｚ次元実数ベクトルの集合を生成する関数）と、関数ｆｘｙ：ＲＤｘ×ＲＤｙ→ＲＤｚ（Ｄｘ次元実数ベクトルの集合とＤｙ次元実数ベクトルの集合とからＤｚ次元実数ベクトルの集合を生成する関数）の組（ｆｘ，ｆｘｙ）を、（Ｘ，Ｙ）から求めると共に、これらの関数を用いて（Ｘ，Ｙ）からＺを生成する。ここで、Ｘは、完全蓄積画像特徴集合Ｘｃと不完全蓄積画像特徴集合ＸＩを合わせた蓄積画像特徴集合である。また、Ｄｘは蓄積画像特徴の次元であり、Ｄｙは蓄積付加情報特徴の次元であり、Ｄｚは蓄積潜在変数の次元である。本実施形態では、多変量解析の一種である正準相関分析を改良した方法を用いて蓄積潜在変数集合の抽出を行う。蓄積潜在変数抽出部３は、潜在変数空間生成部３１と、完全蓄積潜在変数集合抽出部３２と、蓄積潜在変数集合抽出部３３とを含んで構成される。
【００３２】
潜在変数空間生成部３１は、完全蓄積画像特徴集合Ｘｃと、不完全蓄積画像特徴集合ＸＩと、蓄積付加情報特徴集合Ｙとから、蓄積潜在変数が存在する多次元ベクトル空間である潜在変数空間を生成する。潜在変数空間の生成方法は、特に限定されるものではないが、本実施形態においては、潜在変数空間生成部３１は、次式（１）で与えられる一般化固有値問題を解くことによって導出する。一般化固有値問題は、式（１）を満たす固有値λおよび固有ベクトルａを求める問題である。
【００３３】
【数１】
0005499361.tif 000002
【００３４】
ここで、ａは（Ｄｘ＋Ｄｙ）次元のベクトルである。ただし、数式（１）におけるＢは次式（２）で表される。
【００３５】
【数２】
0005499361.tif 000003
【００３６】
また、数式（１）におけるＣは次式（３）で表される。
【００３７】
【数３】
0005499361.tif 000004
【００３８】
ただし、Ｔは、（ベクトルもしくは行列の）転置を意味する。またＩｄは、ｄ×ｄの単位行列を表す。なお、式中の文字上部にハット（＾）が付いた文字は、文中において文字の前にハット（＾）を記載して示す。Ｂ及びＣを構成する各要素ハット（＾）Ｓ（C）ｘｘ、ハット（＾）Ｓ（C）ｙｙ、ハット（＾）Ｓ（C）ｘｙ、ハット（＾）Ｓ（C）ｙｘ、ハット（＾）Ｓｘｘ、及びハット（＾）Ｓｙｙは、次式（４）から（９）にて表される。
【００３９】
【数４】
0005499361.tif 000005
【００４０】
【数５】
0005499361.tif 000006
【００４１】
【数６】
0005499361.tif 000007
【００４２】
【数７】
0005499361.tif 000008
【００４３】
【数８】
0005499361.tif 000009
【００４４】
【数９】
0005499361.tif 000010
【００４５】
ここで、βは予め与えられた実数である。なお、一般化固有値問題の解法については、参考文献として、Hardoon, Szedmak and Shawe-Taylor ”Canonical correlation analysis: An overview with applications to learning methods,”Neural Computation, Vol.16, Issue 12, pp.2639-2664, December 2004がある。
【００４６】
数式（１）に示す一般化固有値問題を解き、予め定められた数の固有値と固有ベクトルとの組、もしくは固有値の和が予め定められた閾値を上回る最少数の固有値と固有ベクトルとの組を求める、もしくはBartlett検定を用いた方法により決定された数の固有値と固有ベクトルの数を求めることで、潜在変数空間を決定することができる。なお、Bartlett検定については、参考文献として、M.S. Bartlett “THE STATISTICAL SIGNIFICANCE OF CANONICAL CORRELATIONS,”Biometrika, Vol.32 pp.29-37, 1941. がある。
【００４７】
但し、Ｄｚは、取り出した固有値及び固有ベクトルの数であり、Ｄｚ≦ｍｉｎ（Ｄｘ、Ｄｙ）を満たす。各固有ベクトルａｄ（ｄ＝１，２，・・・，Ｄｚ）は、先頭のＤｘ次元ベクトルａｘ，ｄと後続のＤｙ次元ベクトルａｙ，ｄとに分解することができる。これにより、潜在変数空間生成部３１は潜在変数空間を分解した固有ベクトルを列として持つ行列（Ａｘ，Ａｙ）を出力する。ここで、Ａｘ＝｛ａｘ，１，ａｘ，２，ａｘ，３，…，ａｘ，Ｄｘ｝であり、Ａｙ＝｛ａｙ，１，ａｙ，２，ａｙ，３，…，ａｙ，Ｄｙ｝である。
【００４８】
完全蓄積潜在変数集合抽出部３２は、完全蓄積画像特徴集合Ｘｃと、蓄積付加情報特徴集合Ｙと、潜在変数空間Ａとを用いて、完全蓄積画像特徴集合Ｘｃに対応する蓄積潜在変数集合である完全蓄積潜在変数集合Ｚｃを抽出する。具体的には、まず、完全蓄積潜在変数集合抽出部３２は、次式（１０）によりｆｘｙを定める。なお、式中の文字上部に〜が付いた文字は、文中において文字の前に〜を記載して示す。
【００４９】
【数１０】
0005499361.tif 000011
【００５０】
ただし、Λは、式（１）の解のうちｄ番目に大きい固有値λｄ（ｄ＝１，２，…，Ｄｚ）をｄ番目の対角成分とする対角行列である。また、Ｍｘ及びＭｙは、ＭｘＭｙＴ＝Λを満たし、かつスペクトルノルムが１より小さいＤｚ次元正方行列である。〜Λは次式（１１）で表される。
【００５１】
【数１１】
0005499361.tif 000012
【００５２】
そして、完全蓄積潜在変数集合抽出部３２は、次式（１２）から完全蓄積潜在変数集合Ｚｃの各要素ｚｎ（ｎ＝１，２，…Ｎ）を算出することにより、完全蓄積潜在変数集合Ｚｃを抽出する。
【００５３】
【数１２】
0005499361.tif 000013
【００５４】
蓄積潜在変数集合抽出部３３は、完全蓄積画像特徴集合Ｘｃと、不完全蓄積画像特徴集合ＸＩと、潜在変数空間Ａとを用いて、不完全蓄積画像特徴集合ＸＩに対応する蓄積潜在変数集合である不完全蓄積潜在変数集合ＺＩを抽出する。そして、蓄積潜在変数集合抽出部３３は、完全蓄積潜在変数集合Ｚｃと不完全蓄積潜在変数集合ＺＩとを合わせて蓄積潜在変数集合Ｚ全体を形成する。具体的には、まず、蓄積潜在変数集合抽出部３３は、次式（１３）によりｆｘを定める。
【００５５】
【数１３】
0005499361.tif 000014
【００５６】
そして、蓄積潜在変数集合抽出部３３は、次式（１４）から不完全蓄積潜在変数集合ＺＩの各要素ｚｎ（ｎ＝Ｎ＋１，Ｎ＋２，…Ｎ＋Ｎｘ）を算出することにより、不完全蓄積潜在変数集合ＺＩを抽出する。
【００５７】
【数１４】
0005499361.tif 000015
【００５８】
そして、蓄積潜在変数集合抽出部３３は、完全蓄積潜在変数集合Ｚｃと不完全蓄積潜在変数集合ＺＩとを合わせて蓄積潜在変数集合Ｚとし、この蓄積潜在変数集合Ｚを出力する。
【００５９】
次に、トピックモデル学習部４における処理の詳細について説明する。図３は、本実施形態によるトピックモデル学習部４の機能構成を示すブロック図である。
トピックモデル学習部４は、潜在変数モデル学習部４１と、信号・潜在変数関係モデル学習部４２と、初期付加情報・潜在変数関係モデル学習部４３と、付加情報・潜在変数関係モデル更新部４４と、付加情報・潜在変数関係モデル補正部４５と、収束判定部４６とを含んで構成される。
【００６０】
潜在変数モデル学習部４１は、蓄積潜在変数集合Ｚを入力とし、この蓄積潜在変数そのものの確率的構造を記述するモデルである潜在変数モデルを学習（抽出）し、この潜在変数モデルを出力する。潜在変数モデルの学習方法は、特に限定されるものではないが、本実施形態では、以下の３つの実施例について説明する。いずれも、潜在変数モデルとして、蓄積潜在変数ｚの生起確率ｐ(ｚ)を採用する。
【００６１】
［第１の実施例］
潜在変数モデル学習部４１は、蓄積潜在変数集合Ｚを用いた次式（１５）の多点近似によって、潜在変数モデルｐ(ｚ)を算出する。ここで、Ｋｚ（ｚ）はｚをパラメータとする確率密度関数である。Ｋｚとして、たとえばディラックのデルタ関数や正規分布などが利用できる。つまり、潜在変数モデル学習部４１は、蓄積潜在変数ｚをパラメータとする確率密度関数の重ね合わせで潜在変数モデルｐ(ｚ)を抽出する。
【００６２】
【数１５】
0005499361.tif 000016
【００６３】
［第２の実施例］
潜在変数モデル学習部４１は、正準相関分析の確率的な構造を考慮し、潜在変数モデルｐ(ｚ)を次式（１６）により算出する。ただし、関数Ｎは第一引数を平均、第二引数を共分散行列とする正規分布である。
【００６４】
【数１６】
0005499361.tif 000017
【００６５】
［第３の実施例］
潜在変数モデル学習部４１は、次式（１７）に示す混合正規分布によって、潜在変数モデルｐ（ｚ）を算出する。
【００６６】
【数１７】
0005499361.tif 000018
【００６７】
ただし、Ｍｚは混合する分布の数、ωｍはｍ番目の分布の重み（Σｍ＝１Ｍｚ ωｍ＝１）、￣ｚｍはｍ番目の分布の平均、Σｚｍはｍ番目の分布の分散を表す。Ｍｚを予め定めておくと、ωｍ、￣ｚｍ、ΣｚｍはＥＭアルゴリズムで求められる。
【００６８】
信号・潜在変数関係モデル学習部４２は、蓄積画像特徴集合Ｘと蓄積潜在変数集合Ｚとを入力とし、これらの集合を用いて蓄積画像と蓄積潜在変数との関係性を記述するモデルである信号・潜在変数関係モデルを学習（抽出）し、この信号・潜在変数関係モデルを出力する。信号・潜在変数関係モデルの学習方法は特に限定されるものではないが、本実施形態では、以下の２つの実施例について説明する。いずれも、信号・潜在変数関係モデルとして、蓄積潜在変数ｚが与えられたときの蓄積画像特徴ｘの条件付生起確率ｐ(ｘ|ｚ)を採用する。
【００６９】
［第１の実施例］
信号・潜在変数関係モデル学習部４２は、蓄積潜在変数集合の各要素ｚｎについて、信号・潜在変数関係モデルｐ(ｘ|ｚｎ)を次式（１８）により算出する。つまり、信号・潜在変数関係モデル学習部４２は、各蓄積潜在変数ｚｎに対して個別に、かつ蓄積画像特徴ｘをパラメータとする確率密度関数に基づいて信号・潜在変数関係モデルを抽出する。
【００７０】
【数１８】
0005499361.tif 000019
【００７１】
ただし、〜ｚは、蓄積画像特徴ｘを蓄積潜在変数抽出部３により変換した蓄積潜在変数であり、Ｋｘ（ｚ）はｚをパラメータとする確率密度関数である。Ｋｘとして、例えば、ディラックのデルタ関数や正規分布などが利用できる。
【００７２】
［第２の実施例］
信号・潜在変数関係モデル学習部４２は、正準相関分析の確率的な構造を考慮し、信号・潜在変数関係モデルｐ(ｘ|ｚ)を次式（１９）により算出する。
【００７３】
【数１９】
0005499361.tif 000020
【００７４】
初期付加情報・潜在変数関係モデル学習部４３は、蓄積付加情報特徴集合Ｙと蓄積潜在変数集合Ｚとを入力とし、これら集合を用いて付加情報と蓄積潜在変数との関係性を記述するモデルである初期付加情報・潜在変数関係モデルを学習（抽出）し、この初期付加情報・潜在変数関係モデルを出力する。初期付加情報・潜在変数関係モデルの学習方法は特に限定されるものではないが、本実施例では、以下の３つの実施例について述べる。いずれも、初期付加情報・潜在変数関係モデルとして、蓄積潜在変数ｚが与えられたときの付加情報特徴ｙの条件付生起確率ｐ(ｙ|ｚ)を採用する。
【００７５】
［第１の実施例］
信号・潜在変数関係モデル学習部４２と同様の方法が利用できる。
【００７６】
［第２の実施例］
初期付加情報・潜在変数関係モデル学習部４３は、蓄積潜在変数集合の各要素ｚｎについて、初期付加情報・潜在変数関係モデルｐ(ｙ|ｚｎ)を次式（２０）から（２３）により算出する。つまり、初期付加情報・潜在変数関係モデル学習部４３は、各蓄積潜在変数ｚｎに対して個別に、かつ付加情報をパラメータとする確率密度関数に基づいて付加情報・潜在変数関係モデルを抽出する。
【００７７】
【数２０】
0005499361.tif 000021
【００７８】
【数２１】
0005499361.tif 000022
【００７９】
【数２２】
0005499361.tif 000023
【００８０】
【数２３】
0005499361.tif 000024
【００８１】
ここで、μは０≦μ≦１を満たす定数であり、ｙｎ，ｄは蓄積付加情報特徴ｙｎの第ｄ要素である。また、Ｋｙ（ｙ）はｙをパラメータとする確率密度関数であり、例えば、クロネッカーのデルタ関数、多項分布などが利用できる。すなわち、上記の関係式は、まず、各テキストラベルが独立に生起することを仮定し（式（２０））、各テキストラベルの生起確率を、各サンプルｎでのテキストラベルの経験分布（式（２１）のＫｙ（ｙｄ−ｙｎ，ｄ）に相当）と全サンプルでのテキストラベルの経験分布（式（２１）のＭｄ／Ｍに相当）とを混合比μで混合して生成することを意味する。
【００８２】
［第３の実施例］
初期付加情報・潜在変数関係モデル学習部４３は、正準相関分析の確率的な構造を考慮し、初期付加情報・潜在変数関係モデルｐ(ｙ|ｚ)を次式（２４）により算出する。
【００８３】
【数２４】
0005499361.tif 000025
【００８４】
付加情報・潜在変数関係モデル更新部４４は、初期付加情報・潜在変数関係モデル（もしくは付加情報・潜在変数関係モデル補正部４５により補正された付加情報・潜在変数関係モデル）と、蓄積付加情報特徴集合Ｙと、蓄積潜在変数集合Ｚとから、不完全蓄積画像特徴集合に対応する蓄積潜在変数の分布を考慮して（初期）付加情報・潜在変数関係モデルを更新し、新たな付加情報・潜在変数関係モデルとして出力する。
【００８５】
以下、表記の簡略化のために、次式（２５）に示す行列表記を導入する。
【００８６】
【数２５】
0005499361.tif 000026
【００８７】
Ｐｍ，ｎは行列Ｐの（ｍ，ｎ）成分であり、次式（２６）により表される。
【００８８】
【数２６】
0005499361.tif 000027
【００８９】
また、Ｆｎ，ｄは行列Ｆの（ｎ，ｄ）成分であり、次式（２７）により表される。
【００９０】
【数２７】
0005499361.tif 000028
【００９１】
ここで、行列Ｆが付加情報・潜在変数関係モデルである。また、初期付加情報・潜在変数関係モデル学習部４３により求めた初期付加情報・潜在変数関係モデルをＦ（０）とし、ｋ回目に更新した付加情報・潜在変数関係モデルをＦ（ｋ）とする。付加情報・潜在変数関係モデル更新部４４は、次式（２８）により付加情報・潜在変数関係モデルを更新し、Ｆ（ｋ）を新たな付加情報・潜在変数関係モデルとして出力する。
【００９２】
【数２８】
0005499361.tif 000029
【００９３】
蓄積画像が大量にある場合、上記の行列Pが大きくなり過ぎる問題が生じることがある。これを回避するために、以下のような方法を取ることもできる。
【００９４】
まず、式（２６）にて計算された行列Pの各要素のうち小さい値を取る要素を強制的に0に書き換える。書き換える要素を選択する基準としては、例えば、行列Pの各行についてあらかじめ定められた数の要素を選択する、あらかじめ定められた閾値を下回る要素を選択する、などの方法が考えられる。多くの実施形態において、行列Pの各要素は潜在変数空間内の2つのベクトルの距離によって決定されることから、この場合には、書き換えずにそのまま残す要素を決定することは、潜在変数空間内での近傍探索もしくは範囲探索を行うことと等価となる。
【００９５】
次に、0に置き換えずに残した要素のみを保持する新しい行列Pハットを考え、これを行列Pの代わりに用いて式（２８）を計算する。
【００９６】
元の行列Pがその保持に蓄積画像の数の2乗程度の領域を必要とするのに対し、新しい行列Pハットは、その保持に必要な領域を蓄積画像の数とほぼ同じオーダまで削減することができる。
【００９７】
付加情報・潜在変数関係モデル補正部４５は、付加情報・潜在変数関係モデル更新部４４で更新した付加情報・潜在変数関係モデルと、蓄積付加情報特徴集合Ｙとから、与えられている蓄積付加情報特徴の情報を一定程度（所定の値）保持するように付加情報・潜在変数関係モデルを補正し、新たな付加情報・潜在変数関係モデルとして出力する。付加情報・潜在変数関係モデルＦは、次式（２９）で記述できる。
【００９８】
【数２９】
0005499361.tif 000030
【００９９】
ここで、Ｆ（ｋ）Ｌは、完全蓄積画像に対応するＮ×Ｄｙ行列の付加情報・潜在変数関係モデルであり、Ｆ（ｋ）Ｕは、不完全蓄積画像に対応するＮｘ×Ｄｙ行列の付加情報・潜在変数関係モデルを表す。付加情報・潜在変数関係モデル補正部４５は、次式（３０）により、付加情報・潜在変数関係モデルＦのうち、完全蓄積画像に対する付加情報・潜在変数関係モデルを補正する。
【０１００】
【数３０】
0005499361.tif 000031
【０１０１】
ここで、Ｔは（ｎ，ｎ）成分をｔｎ（０＜ｔｎ≦１，ｎ＝１，２，・・・，Ｎ）とする対角行列であり、与えられている付加情報をどの程度重視して、付加情報・潜在変数関係モデルを補正するかを決定するための正則化パラメータである。なお、行列Ｔの値は予め自由に定めておくことができる。
【０１０２】
収束判定部４６は、付加情報・潜在変数関係モデル更新部４４と付加情報・潜在変数関係モデル補正部４５とにより補正された付加情報・潜在変数関係モデルと、補正前の付加情報・潜在変数関係モデル（付加情報・潜在変数関係モデル補正部４５の１つ前の出力）とを比較する。そして、収束判定部４６は、付加情報・潜在変数関係モデルが収束していると判定すれば、付加情報・潜在変数関係モデルを出力して処理を終了し、一方、収束していないと判定すれば、付加情報・潜在変数関係モデル更新部４４へ処理を移行し、再び付加情報・潜在変数関係モデルの更新・補正処理を繰り返す。このとき、収束判定部４６は、補正後の付加情報・潜在変数関係モデルＦ（ｋ＋１）と補正前の付加情報・潜在変数関係モデルＦ（ｋ―１）の行列ノルムを算出し、この行列ノルムの差が所定の閾値以内であれば収束していると判定し、閾値より大きければ収束していないと判定する。
【０１０３】
トピックモデル学習部４は、潜在変数モデルと、信号・潜在変数関係モデルと、付加情報・潜在変数関係モデルとを統合してトピックモデルとし、このトピックモデルを出力する。
【０１０４】
次に、図４から６を参照して、本実施形態による半教師トピックモデル学習装置１における半教師トピックモデル学習処理について説明する。図４は、半教師トピックモデル学習処理の手順を示すフローチャートである。
まず、ステップＳ１において、蓄積信号特徴抽出部１が、完全蓄積画像集合及び不完全蓄積画像集合の要素である画像それぞれから各画像の特徴を抽出し、完全蓄積画像特徴集合ＸＣ及び不完全蓄積画像特徴集合ＸＩを生成する。次に、ステップＳ２において、蓄積付加情報特徴抽出部２が、蓄積付加情報集合の要素である蓄積付加情報それぞれから蓄積付加情報特徴を抽出し、蓄積付加情報特徴集合Ｙを生成する。次に、ステップＳ３において、蓄積潜在変数抽出部３が、完全蓄積画像特徴集合ＸＣと不完全蓄積画像特徴集合ＸＩと蓄積付加情報特徴集合Ｙとから、蓄積潜在変数集合Ｚを抽出する。最後に、ステップＳ４において、トピックモデル学習部４が、完全蓄積画像特徴集合ＸＣと、不完全蓄積画像特徴集合ＸＩと、蓄積付加情報特徴集合Ｙと、及び蓄積潜在変数集合Ｚとに基づいて、画像・付加情報関係モデルであるトピックモデルを抽出する。
【０１０５】
図５は、本実施形態による蓄積潜在変数抽出部３における蓄積潜在変数抽出処理の手順を示すフローチャートである。
まず、ステップＳ３１において、潜在変数空間生成部３１が、完全蓄積画像特徴集合ＸＣと不完全蓄積画像特徴集合ＸＩと蓄積付加情報特徴集合Ｙとから、潜在変数空間ｗを生成する。次に、ステップＳ３２において、完全蓄積潜在変数集合抽出部３２が、完全蓄積画像特徴集合ＸＣと蓄積付加情報特徴集合Ｙと潜在変数空間ｗとを用いて、完全蓄積潜在変数集合ＺＣを抽出する。最後に、ステップＳ３３において、蓄積潜在変数集合抽出部３３が、完全蓄積画像特徴集合ＸＣと不完全蓄積画像特徴集合ＸＩと潜在変数空間ｗとを用いて、不完全蓄積潜在変数集合ＺＩを抽出して、蓄積潜在変数集合Ｚ全体を形成する。
【０１０６】
図６は、本実施形態によるトピックモデル学習部４におけるトピックモデル学習処理の手順を示すフローチャートである。
まず、ステップＳ４１において、潜在変数モデル学習部４１が、蓄積潜在変数集合Ｚから潜在変数モデルｐ(ｚ)を学習する。次に、ステップＳ４２において、信号・潜在変数関係モデル学習部４２が、蓄積画像特徴集合Ｘと蓄積潜在変数集合Ｚから信号・潜在変数関係モデルｐ(ｘ|ｚ)を学習する。次に、ステップＳ４３において、初期付加情報・潜在変数関係モデル学習部４３が、蓄積付加情報特徴集合Ｙと蓄積潜在変数集合Ｚとから初期付加情報・潜在変数関係モデルｐ(ｙ|ｚ)を学習する。
【０１０７】
次に、ステップＳ４４において、付加情報・潜在変数関係モデル更新部４４が、初期付加情報・潜在変数関係モデルｐ(ｙ|ｚ)もしくは、付加情報・潜在変数関係モデル補正部４５により補正された付加情報・潜在変数関係モデルを更新する。次に、ステップＳ４５において、付加情報・潜在変数関係モデル補正部４５が、付加情報・潜在変数関係モデルを補正する。そして、ステップＳ４６において、収束判定部４６が、補正後の付加情報・潜在変数関係モデルと補正前の付加情報・潜在変数関係モデルとを比較し、収束したか否かを判定する。収束したと判定した場合には、収束判定部４６は、この補正後の付加情報・潜在変数関係モデルを出力して処理を終了する。一方、収束していないと判定した場合には、ステップＳ４４へ処理を移行する。
【０１０８】
このように、本実施形態によれば、蓄積潜在変数抽出部３により、付加情報が関連付けられた画像と付加情報が関連付けられていない画像の双方からの、画像と付加情報の関係性を記述するための蓄積潜在変数の抽出することにより、付加情報が関連付けられた画像が少量しか利用できない場合においても、画像と付加情報の関係性を精度良く学習することができる。すなわち、付加情報が関連付けられていない画像を、画像と付加情報との関係性を学習する際に、同時に利用することにより、付加情報が関連付けられた画像のみを少数利用する場合に比べて、高い精度で画像と付加情報の関係性を学習することができる。
また、付加情報・潜在変数関係モデル更新部４４及び付加情報・潜在変数関係モデル補正部４５において、付加情報・潜在変数関係モデルが収束するまで更新及び補正をすることにより、より高精度な付加情報・潜在変数関係モデルを出力することができる。
【０１０９】
また、図４から６に示す各ステップを実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、半教師トピックモデル学習処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものであってもよい。
また、「コンピュータシステム」は、ＷＷＷシステムを利用している場合であれば、ホームページ提供環境（あるいは表示環境）も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、フラッシュメモリ等の書き込み可能な不揮発性メモリ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
【０１１０】
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ（例えばＤＲＡＭ（Dynamic Random Access Memory））のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク（通信網）や電話回線等の通信回線（通信線）のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル（差分プログラム）であっても良い。  
【０１１１】
以上、図面を参照してこの発明の一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、この発明の要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。
例えば、本実施形態では、蓄積画像集合と蓄積付加情報集合を入力しているが、半教師トピックモデル学習装置１０が記憶部を備え、この記憶部に蓄積画像集合及び蓄積付加情報集合を予め記憶しておいてもよい。
【符号の説明】
【０１１２】
１…  蓄積信号特徴抽出部  ２…蓄積付加情報特徴抽出部  ３…蓄積潜在変数抽出部  ４…トピックモデル学習部  １０…半教師トピックモデル学習装置  ３１…潜在変数空間生成部  ３２…完全蓄積潜在変数集合抽出部  ３３…蓄積潜在変数集合抽出部  ４１…潜在変数モデル学習部  ４２…信号・潜在変数関係モデル学習部  ４３…初期付加情報・潜在変数関係モデル学習部  ４４…付加情報・潜在変数関係モデル更新部  ４５…付加情報・潜在変数モデル補正部  ４６…収束判定部
【図１】
0005499361.tif 000032
【図２】
0005499361.tif 000033
【図３】
0005499361.tif 000034
【図４】
0005499361.tif 000035
【図５】
0005499361.tif 000036
【図６】
0005499361.tif 000037