(57)【特許請求の範囲】
【請求項１】
画像の内容を表す参照ラベルが予め付与された参照画像群から、入力された検索キー画像と同一の物体を含む参照画像、又は前記参照画像に付与された情報を検索する画像認識装置であって、
前記参照画像群に含まれる参照画像の各々、及び前記検索キー画像から特徴量を抽出する特徴抽出部と、
学習画像の各々から抽出された一つ以上の特徴量に基づいて、前記特徴量からＶｉｓｕａｌ  Ｗｏｒｄｓ（ＶＷ）への量子化を行うための量子化器を作成する量子化器作成部と、
前記参照画像の各々、及び前記検索キー画像について、抽出された一つ以上の特徴量と、前記作成された量子化器とに基づいて、前記抽出された一つ以上の特徴量に対してＶＷを割り当てることにより量子化する量子化部と、
前記参照画像群に含まれる前記参照画像毎にＶＷを割り当てた結果に基づいて、ＶＷの各々の出現頻度から、ＶＷの各々の第一重要度を算出する第一重要度算出部と、
前記参照画像群に含まれる前記参照画像毎にＶＷを割り当てた結果と、前記参照画像毎に付与された前記参照ラベルとに基づいて、前記参照画像の各々に対し、前記参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、又は前記参照画像とは異なる参照ラベルが付与され、かつ、類似する参照画像間におけるＶＷの各々の出現頻度から、前記参照画像に割り当てられたＶＷの各々の重要度を算出し、前記参照画像に対して算出したＶＷの各々の重要度と、前記算出されたＶＷの各々の第一重要度とを掛けて、前記参照画像に割り当てられたＶＷの各々の第二重要度を算出する第二重要度算出部と、
前記参照画像の各々について、前記参照画像に割り当てられたＶＷと、前記第一重要度又は前記第二重要度とに基づいて、前記参照画像毎に割り当てられたＶＷの数の違いの影響を抑制するための正規化係数を算出する正規化係数算出部と、
前記検索キー画像に割り当てられたＶＷと、前記参照画像毎に割り当てられたＶＷと、前記第一重要度又は前記第二重要度と、前記正規化係数とに基づいて、前記検索キー画像に類似する上位Ｘ枚の参照画像を検索する検索ランキング部と、
を含む画像認識装置。
【請求項２】
前記第二重要度算出部は、前記参照画像の各々に対し、前記参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、及び前記参照画像と異なる参照ラベルが付与され、かつ、前記参照画像と類似する参照画像間におけるＶＷの各々の出現頻度から、前記参照画像に割り当てられたＶＷの各々の重要度を算出し、前記参照画像に対して算出したＶＷの各々の重要度と、前記算出されたＶＷの各々の第一重要度とを掛けて、前記参照画像に割り当てられたＶＷの各々の第二重要度を算出する請求項１に記載の画像認識装置。
【請求項３】
画像の内容を表す参照ラベルが予め付与された参照画像群から、入力された検索キー画像と同一の物体を含む参照画像、又は前記参照画像に付与された情報を検索する画像認識装置であって、
前記参照画像群に含まれる参照画像の各々、及び前記検索キー画像から特徴量を抽出する特徴抽出部と、
前記参照画像の各々から抽出された一つ以上の特徴量に基づいて、前記特徴量からＶｉｓｕａｌ  Ｗｏｒｄｓ（ＶＷ）への量子化を行うための量子化器を作成する量子化器作成部と、
前記参照画像の各々、及び前記検索キー画像について、抽出された一つ以上の特徴量と、前記作成された量子化器とに基づいて、前記抽出された一つ以上の特徴量に対してＶＷを割り当てることにより量子化する量子化部と、
前記参照画像の各々、及び前記検索キー画像について、前記抽出された一つ以上の特徴量と、前記作成された量子化器と、前記割り当てられたＶＷとに基づいて、前記割り当てられたＶＷ毎の残差ベクトルを作成するベクトル作成部と、
前記参照画像群に含まれる前記参照画像毎にＶＷを割り当てた結果に基づいて、ＶＷの各々の出現頻度から、ＶＷの各々の第一重要度を算出する第一重要度算出部と、
前記参照画像群に含まれる前記参照画像毎にＶＷを割り当てた結果と、前記参照画像毎に付与された前記参照ラベルとに基づいて、前記参照画像の各々に対し、前記参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、又は前記参照画像とは異なる参照ラベルが付与され、かつ、類似する参照画像間におけるＶＷの各々の出現頻度から、前記参照画像に割り当てられたＶＷの各々の重要度を算出し、前記参照画像に対して算出したＶＷの各々の重要度と、前記算出されたＶＷの各々の第一重要度とを掛けて、前記参照画像に割り当てられたＶＷの各々の第二重要度を算出する第二重要度算出部と、
前記参照画像の各々について、前記参照画像に割り当てられたＶＷと、前記第一重要度又は前記第二重要度とに基づいて、前記参照画像毎に割り当てられたＶＷの数の違いの影響を抑制するための正規化係数を算出する正規化係数算出部と、
前記検索キー画像について作成されたＶＷ毎の残差ベクトルと、前記参照画像の各々について作成されたＶＷ毎の残差ベクトルと、前記第一重要度又は前記第二重要度と、前記正規化係数とに基づいて、前記検索キー画像に類似する上位Ｘ枚の参照画像を検索する検索ランキング部と、
を含む画像認識装置。
【請求項４】
前記第二重要度算出部は、前記参照画像の各々に対し、前記参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、及び前記参照画像と異なる参照ラベルが付与され、かつ、前記参照画像と類似する参照画像間におけるＶＷの各々の出現頻度から、前記参照画像に割り当てられたＶＷの各々の重要度を算出し、前記参照画像に対して算出したＶＷの各々の重要度と、前記算出されたＶＷの各々の第一重要度とを掛けて、前記参照画像に割り当てられたＶＷの各々の第二重要度を算出する請求項３に記載の画像認識装置。
【請求項５】
画像の内容を表す参照ラベルが予め付与された参照画像群から、入力された検索キー画像と同一の物体を含む参照画像、又は前記参照画像に付与された情報を検索する画像認識装置における画像認識方法であって、
特徴抽出部が、前記参照画像群に含まれる参照画像の各々、及び前記検索キー画像から特徴量を抽出するステップと、
量子化器作成部が、学習画像の各々から抽出された一つ以上の特徴量に基づいて、前記特徴量からＶｉｓｕａｌ  Ｗｏｒｄｓ（ＶＷ）への量子化を行うための量子化器を作成するステップと、
量子化部が、前記参照画像の各々、及び前記検索キー画像について、抽出された一つ以上の特徴量と、前記作成された量子化器とに基づいて、前記抽出された一つ以上の特徴量に対してＶＷを割り当てることにより量子化するステップと、
第一重要度算出部が、前記参照画像群に含まれる前記参照画像毎にＶＷを割り当てた結果に基づいて、ＶＷの各々の出現頻度から、ＶＷの各々の第一重要度を算出するステップと、
第二重要度算出部が、前記参照画像群に含まれる前記参照画像毎にＶＷを割り当てた結果と、前記参照画像毎に付与された前記参照ラベルとに基づいて、前記参照画像の各々に対し、前記参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、又は前記参照画像とは異なる参照ラベルが付与され、かつ、類似する参照画像間におけるＶＷの各々の出現頻度から、前記参照画像に割り当てられたＶＷの各々の重要度を算出し、前記参照画像に対して算出したＶＷの各々の重要度と、前記算出されたＶＷの各々の第一重要度とを掛けて、前記参照画像に割り当てられたＶＷの各々の第二重要度を算出するステップと、
正規化係数算出部が、前記参照画像の各々について、前記参照画像に割り当てられたＶＷと、前記第一重要度又は前記第二重要度とに基づいて、前記参照画像毎に割り当てられたＶＷの数の違いの影響を抑制するための正規化係数を算出するステップと、
検索ランキング部が、前記検索キー画像に割り当てられたＶＷと、前記参照画像毎に割り当てられたＶＷと、前記第一重要度又は前記第二重要度と、前記正規化係数とに基づいて、前記検索キー画像に類似する上位Ｘ枚の参照画像を検索するステップと、
を含む画像認識方法。
【請求項６】
前記第二重要度算出部が算出するステップは、前記参照画像の各々に対し、前記参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、及び前記参照画像と異なる参照ラベルが付与され、かつ、前記参照画像と類似する参照画像間におけるＶＷの各々の出現頻度から、前記参照画像に割り当てられたＶＷの各々の重要度を算出し、前記参照画像に対して算出したＶＷの各々の重要度と、前記算出されたＶＷの各々の第一重要度とを掛けて、前記参照画像に割り当てられたＶＷの各々の第二重要度を算出する請求項５に記載の画像認識方法。
【請求項７】
画像の内容を表す参照ラベルが予め付与された参照画像群から、入力された検索キー画像と同一の物体を含む参照画像、又は前記参照画像に付与された情報を検索する画像認識装置における画像認識方法であって、
特徴抽出部が、前記参照画像群に含まれる参照画像の各々、及び前記検索キー画像から特徴量を抽出するステップと、
量子化器作成部が、前記参照画像の各々から抽出された一つ以上の特徴量に基づいて、前記特徴量からＶｉｓｕａｌ  Ｗｏｒｄｓ（ＶＷ）への量子化を行うための量子化器を作成するステップと、
量子化部が、前記参照画像の各々、及び前記検索キー画像について、抽出された一つ以上の特徴量と、前記作成された量子化器とに基づいて、前記抽出された一つ以上の特徴量に対してＶＷを割り当てることにより量子化するステップと、
ベクトル作成部が、前記参照画像の各々、及び前記検索キー画像について、前記抽出された一つ以上の特徴量と、前記作成された量子化器と、前記割り当てられたＶＷとに基づいて、前記割り当てられたＶＷ毎の残差ベクトルを作成するステップと、
第一重要度算出部が、前記参照画像群に含まれる前記参照画像毎にＶＷを割り当てた結果に基づいて、ＶＷの各々の出現頻度から、ＶＷの各々の第一重要度を算出するステップと、
第二重要度算出部が、前記参照画像群に含まれる前記参照画像毎にＶＷを割り当てた結果と、前記参照画像毎に付与された前記参照ラベルとに基づいて、前記参照画像の各々に対し、前記参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、又は前記参照画像とは異なる参照ラベルが付与され、かつ、類似する参照画像間におけるＶＷの各々の出現頻度から、前記参照画像に割り当てられたＶＷの各々の重要度を算出し、前記参照画像に対して算出したＶＷの各々の重要度と、前記算出されたＶＷの各々の第一重要度とを掛けて、前記参照画像に割り当てられたＶＷの各々の第二重要度を算出するステップと、
正規化係数算出部が、前記参照画像の各々について、前記参照画像に割り当てられたＶＷと、前記第一重要度又は前記第二重要度とに基づいて、前記参照画像毎に割り当てられたＶＷの数の違いの影響を抑制するための正規化係数を算出するステップと、
検索ランキング部が、前記検索キー画像について作成されたＶＷ毎の残差ベクトルと、前記参照画像の各々について作成されたＶＷ毎の残差ベクトルと、前記第一重要度又は前記第二重要度と、前記正規化係数とに基づいて、前記検索キー画像に類似する上位Ｘ枚の参照画像を検索するステップと、
を含む画像認識方法。
【請求項８】
前記第二重要度算出部が算出するステップは、前記参照画像の各々に対し、前記参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、及び前記参照画像と異なる参照ラベルが付与され、かつ、前記参照画像と類似する参照画像間におけるＶＷの各々の出現頻度から、前記参照画像に割り当てられたＶＷの各々の重要度を算出し、前記参照画像に対して算出したＶＷの各々の重要度と、前記算出されたＶＷの各々の第一重要度とを掛けて、前記参照画像に割り当てられたＶＷの各々の第二重要度を算出する請求項７に記載の画像認識方法。
【請求項９】
コンピュータを、請求項１〜請求項４のいずれか１項に記載の画像認識装置の各部として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像認識装置、方法、及びプログラムに係り、特に、入力画像に類似する参照画像を求める画像認識装置、方法、及びプログラムに関する。
【背景技術】
【０００２】
デジタルカメラ、スマートホン等の携帯撮影デバイスの普及により、一個人が撮影するデジタル写真の枚数が急速に増大した。それに伴い、画像を利用したコミュニケーションが発達し、ＷＷＷ(World Wide Web)上には大量の画像が蓄積されている。例えば、あるソーシャルメディアサイトでは、毎月２５億の画像がアップロードされているとの報告がある。
【０００３】
ユーザはこのような豊富な画像を見て楽しむことができる一方で、画像中の未知の物体に興味を持っても、その情報を取得することが困難であるという問題が存在する。例えば、画像中のある商品に興味を持っても、ユーザがその商品名、外見等の知識を持っていない場合には、その商品に関する情報を取得することは困難である。これを解決するためには、画像がいったい何を写しているのかといった情報を画像から特定する画像認識技術が必要となる。
【０００４】
従来、種々の技術が発明・開示されている。例えば非特許文献１では、ＳＩＦＴ(Scale Invariant Feature Transform)特徴量のマッチングに基づく方法が開示されている。これは、名称が既知の物体を含む画像(以下参照画像と呼ぶ)によりあらかじめ参照画像データベースを構築し、これを用いて新たに入力された画像(以下入力画像と呼ぶ)に含まれる物体の名称を推定する。まず入力画像、参照画像それぞれの画像中から、特徴的であるような微小な領域として特徴点を検出し、特徴点毎にＳＩＦＴ特徴量を算出する。次に、入力画像と参照画像の間で、得られたそれぞれのＳＩＦＴ特徴量間の距離を計算し、その距離が一定値以下となる特徴点の個数(マッチング数)を算出する。このマッチング数が多いほど、入力画像に対応した参照画像である(類似度が大きい）ことになる。こうして得られた類似度が大きい参照画像に含まれる物体の名称を認識結果として出力する。
【０００５】
このような特徴量のマッチングに基づく方法は、入力画像と参照画像のＳＩＦＴ特徴量の全ての組み合わせについて距離を計算するために、非効率的である。特に、大規模な参照画像データベース(例えば認識したい対象となる物体が多い場合など）を対象にした場合、現実的な時間で認識を行うことができないという問題がある。そこで、非特許文献２では、特徴量をＶｉｓｕａｌ Ｗｏｒｄｓ(以下ＶＷと称する)と呼ばれる符号に量子化し、同一のＶＷに量子化された局所特徴量の数で類似度を算出する技術を開示している。ＶＷに対応付く代表ベクトルは、参照画像群の特徴量、または、学習用の画像(以下学習画像と呼ぶ)群の特徴量をクラスタリングすることで作成されることが多い。通常、同一のVWに量子化される特徴量は少数であり、然るに同一のVWを持つような参照画像は、元の参照画像の内ごく限られている。この知見から、非特許文献２では、ＶＷをキーとして、これを保持するような参照画像を逆引きできるように設計された転置インデクスと呼ばれるデータ構造を利用する。これにより、類似度の大きい参照画像の高速な特定が可能となる。
【０００６】
しかしながら、前述した従来技術によれば、図６に示す商品１と商品２のような、外見が非常に類似する商品に関する参照画像がある場合には、正しく参照画像を発見することができない。これは、全体が類似する参照画像を含む場合には、異なる物体であっても多数の局所特徴量間の距離が近くなるため、両者が持つVWの大多数が一致し、見分けが付きにくくなるためである。全体が類似するが、相互に別の物体であるようなものを見分けるためには、これら物体の差異となる特徴量が重要となる。
【０００７】
このような問題を解決するべく、重要な特徴量、または、ＶＷを強調する技術に関する取り組みがなされてきた。従来いくつかの発明がなされ、開示されてきている。
【０００８】
特許文献１に開示されている技術では、Ｗｅｂページのキーワード検索でよく用いられるＢＭ２５(Best Match 25)と呼ばれるランキング手法を応用し、BM25におけるキーワードの重要度を示す指標であるＩＤＦ(Inverse Document Frequency)をＶＷの重要度とみなし、重要度が高いVWを多く含む画像を検索するための指標とする。参照画像に共通して多く現れるVWの影響を抑制し、出現頻度の低いVWを強調することで、よりレアなVWを重要視した精度の良い認識が実現されている。
【０００９】
非特許文献３に開示されている技術では、参照画像群から、その特徴量に基づき、全体が類似する参照画像の一部領域を発見する。これら一部領域において現れる特徴量を比較し、距離の遠い特徴量を、差異となる特徴量として選択する。選択した特徴量のみを用いることで、例え全体が類似した商品であっても、精度の良い認識が実現されている。
【先行技術文献】
【特許文献】
【００１０】
【特許文献１】特開２０１４−９９１１０号公報
【非特許文献】
【００１１】
【非特許文献１】D.G. Lowe: Distinctive Image Features from Scale-Invariant Keypoints. International Journal of Computer Vision, 2004.
【非特許文献２】J. Sivic et al.: Video Google: A Text Retrieval Approach to Object Matching in Videos, in Proc. ICCV, 2003.
【非特許文献３】渡邉之人, 入江豪, 新井啓之, 谷口行信: 類似する物体画像群からの特定物体検索に関する一検討, 映像情報メディア学会技術報告, 38(43), 69-73, 2014.
【発明の概要】
【発明が解決しようとする課題】
【００１２】
非特許文献３の技術は、全体が類似する物体の差異となる部分の特徴量のみを用いることで、類似した異なる物体を高精度に見分けることが可能である。しかしながら、認識は特徴量同士のマッチングに基づく方法であったため、大規模なデータベースに対して効率的な認識を行うことはできなかった。
【００１３】
さらに、非特許文献３の技術は、差異となる特徴量を選択するためには、参照画像の特徴量の全ての組み合わせで距離計算を行う必要があり、大規模なデータベースにおいては膨大な計算量が必要となる。
【００１４】
また、特許文献１の技術は、出現頻度の低いＶＷを強調することが可能である。そのため、全ての参照画像が同様に類似するデータベースにおいては、差異となるＶＷの出現頻度は低くなり見分けることが可能である。しかしながら、データベース中に全体が類似する参照画像が一部でも存在する場合、それら類似する参照画像間の差異となるＶＷが、データベース全体において出現頻度が低くなるようなものであるとは限らない。データベース全体では出現頻度が高いＶＷが、一部参照画像間の差異となる場合には、当該ＶＷの抑制により精度が劣化する可能性もあり、必ずしも類似する参照画像を見分けることはできない。
【００１５】
本発明は、上記問題点を解決するために成されたものであり、入力画像に類似する参照画像の情報を、精度よく、かつ、高速に得ることができる画像認識装置、方法、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【００１６】
上記目的を達成するために、第１の発明に係る画像認識装置は、画像の内容を表す参照ラベルが予め付与された参照画像群から、入力された検索キー画像と同一の物体を含む参照画像、又は前記参照画像に付与された情報を検索する画像認識装置であって、前記参照画像群に含まれる参照画像の各々、及び前記検索キー画像から特徴量を抽出する特徴抽出部と、学習画像の各々から抽出された一つ以上の特徴量に基づいて、前記特徴量からＶｉｓｕａｌ  Ｗｏｒｄｓ（ＶＷ）への量子化を行うための量子化器を作成する量子化器作成部と、前記参照画像の各々、及び前記検索キー画像について、抽出された一つ以上の特徴量と、前記作成された量子化器とに基づいて、前記抽出された一つ以上の特徴量に対してＶＷを割り当てることにより量子化する量子化部と、前記参照画像群に含まれる前記参照画像毎にＶＷを割り当てた結果に基づいて、ＶＷの各々の出現頻度から、ＶＷの各々の第一重要度を算出する第一重要度算出部と、前記参照画像群に含まれる前記参照画像毎にＶＷを割り当てた結果と、前記参照画像毎に付与された前記参照ラベルとに基づいて、前記参照画像の各々に対し、前記参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、又は前記参照画像とは異なる参照ラベルが付与され、かつ、類似する参照画像間におけるＶＷの各々の出現頻度から、前記参照画像に割り当てられたＶＷの各々の重要度を算出し、前記参照画像に対して算出したＶＷの各々の重要度と、前記算出されたＶＷの各々の第一重要度とを掛けて、前記参照画像に割り当てられたＶＷの各々の第二重要度を算出する第二重要度算出部と、前記参照画像の各々について、前記参照画像に割り当てられたＶＷと、前記第一重要度又は前記第二重要度とに基づいて、前記参照画像毎に割り当てられたＶＷの数の違いの影響を抑制するための正規化係数を算出する正規化係数算出部と、前記検索キー画像に割り当てられたＶＷと、前記参照画像毎に割り当てられたＶＷと、前記第一重要度又は前記第二重要度と、前記正規化係数とに基づいて、前記検索キー画像に類似する上位Ｘ枚の参照画像を検索する検索ランキング部と、を含んで構成されている。
【００１７】
また、第１の発明に係る画像認識装置において、前記第二重要度算出部は、前記参照画像の各々に対し、前記参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、及び前記参照画像と異なる参照ラベルが付与され、かつ、前記参照画像と類似する参照画像間におけるＶＷの各々の出現頻度から、前記参照画像に割り当てられたＶＷの各々の重要度を算出し、前記参照画像に対して算出したＶＷの各々の重要度と、前記算出されたＶＷの各々の第一重要度とを掛けて、前記参照画像に割り当てられたＶＷの各々の第二重要度を算出してもよい。
【００１８】
第２の発明に係る画像認識装置は、画像の内容を表す参照ラベルが予め付与された参照画像群から、入力された検索キー画像と同一の物体を含む参照画像、又は前記参照画像に付与された情報を検索する画像認識装置であって、前記参照画像群に含まれる参照画像の各々、及び前記検索キー画像から特徴量を抽出する特徴抽出部と、前記参照画像の各々から抽出された一つ以上の特徴量に基づいて、前記特徴量からＶｉｓｕａｌ  Ｗｏｒｄｓ（ＶＷ）への量子化を行うための量子化器を作成する量子化器作成部と、前記参照画像の各々、及び前記検索キー画像について、抽出された一つ以上の特徴量と、前記作成された量子化器とに基づいて、前記抽出された一つ以上の特徴量に対してＶＷを割り当てることにより量子化する量子化部と、前記参照画像の各々、及び前記検索キー画像について、前記抽出された一つ以上の特徴量と、前記作成された量子化器と、前記割り当てられたＶＷとに基づいて、前記割り当てられたＶＷ毎の残差ベクトルを作成するベクトル作成部と、前記参照画像群に含まれる前記参照画像毎にＶＷを割り当てた結果に基づいて、ＶＷの各々の出現頻度から、ＶＷの各々の第一重要度を算出する第一重要度算出部と、前記参照画像群に含まれる前記参照画像毎にＶＷを割り当てた結果と、前記参照画像毎に付与された前記参照ラベルとに基づいて、前記参照画像の各々に対し、前記参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、又は前記参照画像とは異なる参照ラベルが付与され、かつ、類似する参照画像間におけるＶＷの各々の出現頻度から、前記参照画像に割り当てられたＶＷの各々の重要度を算出し、前記参照画像に対して算出したＶＷの各々の重要度と、前記算出されたＶＷの各々の第一重要度とを掛けて、前記参照画像に割り当てられたＶＷの各々の第二重要度を算出する第二重要度算出部と、前記参照画像の各々について、前記参照画像に割り当てられたＶＷと、前記第一重要度又は前記第二重要度とに基づいて、前記参照画像毎に割り当てられたＶＷの数の違いの影響を抑制するための正規化係数を算出する正規化係数算出部と、前記検索キー画像について作成されたＶＷ毎の残差ベクトルと、前記参照画像の各々について作成されたＶＷ毎の残差ベクトルと、前記第一重要度又は前記第二重要度と、前記正規化係数とに基づいて、前記検索キー画像に類似する上位Ｘ枚の参照画像を検索する検索ランキング部と、を含んで構成されている。
【００１９】
また、第２の発明に係る画像認識装置において、記第二重要度算出部は、前記参照画像の各々に対し、前記参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、及び前記参照画像と異なる参照ラベルが付与され、かつ、前記参照画像と類似する参照画像間におけるＶＷの各々の出現頻度から、前記参照画像に割り当てられたＶＷの各々の重要度を算出し、前記参照画像に対して算出したＶＷの各々の重要度と、前記算出されたＶＷの各々の第一重要度とを掛けて、前記参照画像に割り当てられたＶＷの各々の第二重要度を算出してもよい。
【００２０】
第３の発明に係る画像認識方法は、画像の内容を表す参照ラベルが予め付与された参照画像群から、入力された検索キー画像と同一の物体を含む参照画像、又は前記参照画像に付与された情報を検索する画像認識装置における画像認識方法であって、特徴抽出部が、前記参照画像群に含まれる参照画像の各々、及び前記検索キー画像から特徴量を抽出するステップと、量子化器作成部が、学習画像の各々から抽出された一つ以上の特徴量に基づいて、前記特徴量からＶｉｓｕａｌ  Ｗｏｒｄｓ（ＶＷ）への量子化を行うための量子化器を作成するステップと、量子化部が、前記参照画像の各々、及び前記検索キー画像について、抽出された一つ以上の特徴量と、前記作成された量子化器とに基づいて、前記抽出された一つ以上の特徴量に対してＶＷを割り当てることにより量子化するステップと、第一重要度算出部が、前記参照画像群に含まれる前記参照画像毎にＶＷを割り当てた結果に基づいて、ＶＷの各々の出現頻度から、ＶＷの各々の第一重要度を算出するステップと、第二重要度算出部が、前記参照画像群に含まれる前記参照画像毎にＶＷを割り当てた結果と、前記参照画像毎に付与された前記参照ラベルとに基づいて、前記参照画像の各々に対し、前記参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、又は前記参照画像とは異なる参照ラベルが付与され、かつ、類似する参照画像間におけるＶＷの各々の出現頻度から、前記参照画像に割り当てられたＶＷの各々の重要度を算出し、前記参照画像に対して算出したＶＷの各々の重要度と、前記算出されたＶＷの各々の第一重要度とを掛けて、前記参照画像に割り当てられたＶＷの各々の第二重要度を算出するステップと、正規化係数算出部が、前記参照画像の各々について、前記参照画像に割り当てられたＶＷと、前記第一重要度又は前記第二重要度とに基づいて、前記参照画像毎に割り当てられたＶＷの数の違いの影響を抑制するための正規化係数を算出するステップと、検索ランキング部が、前記検索キー画像に割り当てられたＶＷと、前記参照画像毎に割り当てられたＶＷと、前記第一重要度又は前記第二重要度と、前記正規化係数とに基づいて、前記検索キー画像に類似する上位Ｘ枚の参照画像を検索するステップと、を含んで実行することを特徴とする。
【００２１】
また、第３の発明に係る画像認識方法において、前記第二重要度算出部が算出するステップは、前記参照画像の各々に対し、前記参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、及び前記参照画像と異なる参照ラベルが付与され、かつ、前記参照画像と類似する参照画像間におけるＶＷの各々の出現頻度から、前記参照画像に割り当てられたＶＷの各々の重要度を算出し、前記参照画像に対して算出したＶＷの各々の重要度と、前記算出されたＶＷの各々の第一重要度とを掛けて、前記参照画像に割り当てられたＶＷの各々の第二重要度を算出してもよい。
【００２２】
第４の発明に係る画像認識方法は、画像の内容を表す参照ラベルが予め付与された参照画像群から、入力された検索キー画像と同一の物体を含む参照画像、又は前記参照画像に付与された情報を検索する画像認識装置における画像認識方法であって、特徴抽出部が、前記参照画像群に含まれる参照画像の各々、及び前記検索キー画像から特徴量を抽出するステップと、量子化器作成部が、前記参照画像の各々から抽出された一つ以上の特徴量に基づいて、前記特徴量からＶｉｓｕａｌ  Ｗｏｒｄｓ（ＶＷ）への量子化を行うための量子化器を作成するステップと、量子化部が、前記参照画像の各々、及び前記検索キー画像について、抽出された一つ以上の特徴量と、前記作成された量子化器とに基づいて、前記抽出された一つ以上の特徴量に対してＶＷを割り当てることにより量子化するステップと、ベクトル作成部が、前記参照画像の各々、及び前記検索キー画像について、前記抽出された一つ以上の特徴量と、前記作成された量子化器と、前記割り当てられたＶＷとに基づいて、前記割り当てられたＶＷ毎の残差ベクトルを作成するステップと、第一重要度算出部が、前記参照画像群に含まれる前記参照画像毎にＶＷを割り当てた結果に基づいて、ＶＷの各々の出現頻度から、ＶＷの各々の第一重要度を算出するステップと、第二重要度算出部が、前記参照画像群に含まれる前記参照画像毎にＶＷを割り当てた結果と、前記参照画像毎に付与された前記参照ラベルとに基づいて、前記参照画像の各々に対し、前記参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、又は前記参照画像とは異なる参照ラベルが付与され、かつ、類似する参照画像間におけるＶＷの各々の出現頻度から、前記参照画像に割り当てられたＶＷの各々の重要度を算出し、前記参照画像に対して算出したＶＷの各々の重要度と、前記算出されたＶＷの各々の第一重要度とを掛けて、前記参照画像に割り当てられたＶＷの各々の第二重要度を算出するステップと、正規化係数算出部が、前記参照画像の各々について、前記参照画像に割り当てられたＶＷと、前記第一重要度又は前記第二重要度とに基づいて、前記参照画像毎に割り当てられたＶＷの数の違いの影響を抑制するための正規化係数を算出するステップと、検索ランキング部が、前記検索キー画像について作成されたＶＷ毎の残差ベクトルと、前記参照画像の各々について作成されたＶＷ毎の残差ベクトルと、前記第一重要度又は前記第二重要度と、前記正規化係数とに基づいて、前記検索キー画像に類似する上位Ｘ枚の参照画像を検索するステップと、を含んで実行することを特徴とする。
【００２３】
また、第４の発明に係る画像認識方法において、前記第二重要度算出部が算出するステップは、前記参照画像の各々に対し、前記参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、及び前記参照画像と異なる参照ラベルが付与され、かつ、前記参照画像と類似する参照画像間におけるＶＷの各々の出現頻度から、前記参照画像に割り当てられたＶＷの各々の重要度を算出し、前記参照画像に対して算出したＶＷの各々の重要度と、前記算出されたＶＷの各々の第一重要度とを掛けて、前記参照画像に割り当てられたＶＷの各々の第二重要度を算出してもよい。
【００２４】
第５の発明に係るプログラムは、コンピュータを、第１又は第２のいずれかの発明に係る画像認識装置の各部として機能させるためのプログラムである。
【発明の効果】
【００２５】
本発明の画像認識装置、方法、及びプログラムによれば、入力画像に類似する参照画像の情報を、精度よく、かつ、高速に得ることができる、という効果が得られる。
【図面の簡単な説明】
【００２６】
【図１】本発明の第１の実施の形態に係る画像認識装置の構成を示すブロック図である。
【図２】本発明の第１の実施の形態に係る画像認識装置における画像認識処理ルーチンを示すフローチャートである。
【図３】本発明の第２の実施の形態に係る画像認識装置の構成を示すブロック図である。
【図４】残差ベクトルの作成処理の一例を示す図である。
【図５】本発明の第２の実施の形態に係る画像認識装置における画像認識処理ルーチンを示すフローチャートである。
【図６】全体像が類似しているが細部が異なる物体の一例を示す図である。
【発明を実施するための形態】
【００２７】
以下、図面を参照して本発明の実施の形態を詳細に説明する。
【００２８】
＜本発明の実施の形態に係る概要＞
【００２９】
まず、本発明の実施の形態における概要を説明する。第１及び第２の実施の形態に係る画像認識装置においては、検索ランキングにおける類似度の算出方法が異なっている。
【００３０】
第１の実施形態では、画像の特徴量を量子化し、そのＶＷに基づいて、参照画像群を検索して上位Ｘ枚の参照画像をランキングする。ランキングする際には、入力された検索キー画像が持つＶＷ毎に、同一のＶＷを持つ参照画像に投票を行い、その得票数を用いて入力画像（検索キー画像）と参照画像の類似度を算出する。
【００３１】
第２の実施形態では、画像の特徴量をＶＷに量子化し、さらに各ＶＷを表す代表ベクトルと特徴量との残差ベクトルを用いて１画像を最大ＶＷ数分の残差ベクトルで表現し、その残差ベクトルに基づいて、参照画像群を検索して上位Ｘ枚の参照画像をランキングする。ランキングする際には入力画像の残差ベクトルと、参照画像の残差ベクトルの内積を用いて類似度を算出する。
【００３２】
要約すれば、第１の実施形態はＶＷの一致のみに基づいて検索を実施する場合について述べているのであり、第２の実施形態はさらに特徴量をＶＷに量子化した際の残差ベクトルによって検索を実施する場合について述べている。然るに第１の実施形態は第２の実施形態と比べ計算量が少なく、必要とするメモリも少ないという利点があるが、比較して検索精度の点で劣る。一方、第２の実施形態は、第１の実施形態に対して詳細な残差ベクトルに基づいて検索ランキングを行うため、時間・空間における計算量は増加するが、より精度の高い画像認識結果を得ることができる。実用上どちらの実施形態を取るべきかは利用する形態に依存するのであり、いずれの実施形態を用いた場合であっても本発明の要点を損なうものではない。
【００３３】
また、いずれの実施形態においても、第一重要度または第二重要度からなる、ＶＷに対する重要度を用いる。第一重要度は参照画像全体でのＶＷの出現頻度から算出し、出現頻度が高いＶＷを抑制することで、特定の画像に出現するＶＷを強調し画像認識精度が向上する効果が得られる。第一重要度は、ＶＷ数と同数の値を持つ。第二重要度は、重要度Ａ、重要度Ｂという最大２種類の重要度から算出される。重要度Ａは、同一物体画像における出現頻度が高いＶＷを強調する。重要度Ｂは、参照画像中の類似する画像群における出現頻度が高いＶＷを抑制する。第二重要度を算出するための重要度の形態は、重要度Ａ、重要度Ｂ、または、重要度Ａ×重要度Ｂの３種類がある。重要度Ａを用いて第二重要度を算出する場合、重要度算出の計算量は最も少なく、参照画像群に同一物体画像が複数存在する場合には画像認識精度の向上効果が得られるが、同一物体画像が複数存在しない場合には精度向上効果は得られない。重要度Ｂを用いて第二重要度を算出する場合、計算量は重要度Ａよりも多いが、参照画像中に類似する画像が含まれている場合には画像認識精度の向上効果が得られる。重要度Ａ×重要度Ｂを用いて第二重要度を算出する場合、計算量は最も多いが、照画像群に同一物体画像が複数存在する場合、照画像中に類似する画像が含まれている場合のどちらの場合でも精度向上効果が得られる。いずれの場合であっても、第二重要度は、ＶＷ数×参照画像枚数と同数の値を持つ。
【００３４】
ここで、本実施の形態の画像認識装置は画像の内容を表す参照ラベルが予め付与された参照画像群から、入力された検索キー画像と同一の物体を含む参照画像、又は参照画像に付与された情報を検索する装置である。
【００３５】
＜本発明の第１の実施の形態に係る画像認識装置の構成＞
【００３６】
次に、本発明の第１の実施の形態に係る画像認識装置の構成について説明する。図１に示すように、本発明の第１の実施の形態に係る画像認識装置１００は、ＣＰＵと、ＲＡＭと、後述する画像認識処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することが出来る。この画像認識装置１００は、機能的には図１に示すように入力部１０と、演算部２０と、出力部６０とを備えている。
【００３７】
入力部１０は、画像の内容を表す参照ラベルが付与された参照画像からなる参照画像群の入力を受け付ける。本実施の形態では、量子化器の学習に用いる学習画像群は、参照画像群と同一としてもよいし、別の画像群を用いてもよい。以下では、参照画像の枚数はＮ枚（Ｉ１、Ｉ２、・・・ＩＮ）として説明する。Ｎは自然数である。参照ラベルは、例えば、参照画像の枚数と同数の自然数配列とし、画像の内容が同一である参照画像群のラベルは同じ自然数とすればよい。画像の内容が不明である参照画像については、参照ラベルとして０や−１など、画像内容が分かっている他の参照画像と区別ができる整数を割り当てればよい。また、入力部１０は、入力画像として検索キー画像を受け付ける。
【００３８】
演算部２０は、特徴量抽出部３０と、量子化器作成部３２と、量子化器記憶部３４と、量子化部３６と、第一重要度算出部３８と、第二重要度算出部４０と、参照情報記憶部５０と、正規化係数算出部５２と、検索ランキング部５４とを含んで構成されている。
【００３９】
特徴量抽出部３０は、入力部１０で受け付けた参照画像群に含まれる参照画像の各々から特徴量を抽出する。特徴量としては任意の公知のものを用いて構わないが、好ましくは局所特徴量を用いる。特徴量の抽出方法としては、例えばＳＩＦＴ（上記非特許文献１)、ＳＵＲＦ（非特許文献４：H. Bay, T. Tuytelaars and L.V. Gool: SURF: Speeded Up Robust Features. Lecture Notes in Computer Science, 2006）などの方法を用いればよい。ＳＩＦＴを用いた場合、１枚の画像からは、１２８次元の特徴ベクトルの集合が抽出される。
【００４０】
また、特徴量抽出部３０は、入力部１０で受け付けた検索キー画像から特徴量を抽出する。
【００４１】
量子化器作成部３２は、学習画像群に含まれる学習画像の各々から抽出された一つ以上の特徴量に基づいて、特徴量からＶＷへの量子化を行うための量子化器を作成する。ここで、量子化器とは、特徴量を量子化するために、Ｖｉｓｕａｌ Ｗｏｒｄｓと呼ばれるＩＤ（＝１〜Ｋ)と、代表ベクトルとを対応付けたものである。量子化器の作成には、公知の方法を用いればよい。例えば、取得した一つ以上の特徴量に対してｋ−ｍｅａｎｓクラスタリング等のクラスタリングを適用することで、Ｋ個のクラスタ（Ｋ個のＶＷのＩＤ）とそれらの代表ベクトルを算出できる。あるいは、全特徴量からランダムに選択したＫ個の特徴量をそのまま代表ベクトルとしてもよい。ＫはＶＷ（及び代表ベクトル）の数であり、任意の自然数である。例えば、Ｋ＝２５６, Ｋ＝２０４８, Ｋ＝６５５３６など、任意の値に設定してよいが、以下では、一般の場合としてＶＷの数はＫとして説明する。
【００４２】
量子化器記憶部３４には、量子化器作成部３２により作成された量子化器が記憶されている。
【００４３】
量子化部３６は、参照画像の各々について、当該参照画像から抽出された一つ以上の特徴量と、作成された量子化器とに基づいて、当該参照画像から抽出された一つ以上の特徴量に対してＶＷを割り当てることにより量子化し、参照情報記憶部５０に格納する。量子化方法は、例えば、画像の各特徴量との距離が最も小さくなる一つ以上の代表ベクトルを算出し、当該特徴量にそのＶＷを割り当てるようにすればよい。また、距離が一定値以下のいくつかの代表ベクトルに対応付けられるＶＷを割り当ててもよい。
【００４４】
また、量子化部３６は、検索キー画像について、抽出された一つ以上の特徴量と、作成された量子化器とに基づいて、抽出された一つ以上の特徴量に対してＶＷを割り当てることにより量子化する。
【００４５】
第一重要度算出部３８は、参照画像群に含まれる参照画像毎にＶＷを割り当てた結果に基づいて、ＶＷの各々の出現頻度から、ＶＷの各々の第一重要度を算出し、参照情報記憶部５０に格納する。
【００４６】
第一重要度算出部３８は、具体的には、参照画像毎に割り当てられたＶＷを用いて、どのＶＷが重要なのかという第一重要度を算出し、出力する。第一重要度は、例えば、Ｋ個の数値で表現することができる。第一重要度としては、例えば、ＩＤＦ(Inverse Document Frequency)や、上記特許文献１に記載されている、ＥＢＭ２５を用いればよい。ＩＤＦを用いる場合、ＶＷ毎に以下（１）式のように第一重要度を算出可能である。
【００４７】
第一重要度＝ｌｏｇ（Ｎ／ｄｆ）  ・・・（１）
【００４８】
ｄｆは、参照画像群全体において、注目しているＶＷの出現回数である。これにより、ＶＷ毎に１個の数値を算出することができる。
【００４９】
検索ランキング部５４は、以下に説明するように、量子化部３６により、検索キー画像に割り当てられたＶＷと、参照画像毎に割り当てられたＶＷと、第一重要度又は後述する第二重要度と、後述する正規化係数とに基づいて、検索キー画像に類似する上位Ｘ枚の参照画像を検索する。本実施の形態では、第二重要度を用いる。
【００５０】
検索ランキング部５４の検索において、ＶＷ毎の重要度(Ｋ個の数値で表現される)が入力される場合(第一重要度)と、参照画像毎のＶＷ毎の重要度(Ｎ×Ｋの数値で表現される)が入力される場合(第二重要度)とがあるが、その参照方法以外に違いはない。正規化係数は、参照画像毎に重要度を正規化する係数であり、Ｎ個の数値で表現される。検索ランキング部５４は、具体的には、まず検索キー画像が持つＶＷ毎に、同一のＶＷを持つ参照画像への投票を繰り返す。つまり、検索キー画像が持つＶＷ毎に、各参照画像の当該ＶＷの個数をカウントする。例えば、検索キー画像がＩＤ１〜３のＶＷを持つとする。そのＶＷ毎に、当該ＶＷを持つ参照画像を算出する。
【００５１】
以下に、「検索キー画像が持つＶＷ−＞当該ＶＷを持つ参照画像」として表す。
【００５２】
１−＞Ｉ２、Ｉ３
２−＞Ｉ２、Ｉ３、Ｉ４
３−＞Ｉ３、Ｉ４
【００５３】
ここで、仮に投票時の１票の重さを１とすると、参照画像毎の得票値は以下のように「参照画像−＞得票値」として表される。
【００５４】
Ｉ１−＞０
Ｉ２−＞１＋１＝２
Ｉ３−＞１＋１＋１＝３
Ｉ４−＞１＋１＝２
【００５５】
投票時には、重要度として第一重要度が与えられている場合は、当該ＶＷに応じた第一重要度の数値を１票の重さとして投票する。重要度として第二重要度が与えられている場合は、参照画像に対応するＶＷに第二重要度の数値を１票の重さとして投票する。例えば、重要度として、ＩＤ１、２、３のＶＷの重要度がそれぞれ０．５、０．３、０．７という第一重要度が与えられている場合は、参照画像毎の得票値は以下のように「参照画像−＞重要度に基づく得票値」として表される。
【００５６】
Ｉ１−＞０
Ｉ２−＞０．５＋０．３＝０．８
Ｉ３−＞０．５＋０．３＋０．７＝１．５
Ｉ４−＞０．３＋０．７＝１．０
【００５７】
検索ランキング部５４では、全投票後、参照画像毎に、当該参照画像の得票値に、当該参照画像に対して算出された正規化係数を掛けた値を、検索キー画像と当該参照画像との類似度とする。例えば、Ｉ１、Ｉ２、Ｉ３、Ｉ４の正規化係数がそれぞれ１．１、１．２、１．３、１．４の場合、類似度は以下のように「参照画像−＞類似度」として表される。
【００５８】
Ｉ１−＞０×１．１＝０
Ｉ２−＞０．８×１．２＝０．９６
Ｉ３−＞１．５×１．３＝１．９５
Ｉ４−＞１．０×１．４＝１．４
【００５９】
そして、検索ランキング部５４は、類似度が高い順に参照画像をソートし、各上位Ｘ枚を検索ランキング結果とする。Ｘは１以上Ｎ以下の整数である。
【００６０】
参照情報記憶部５０は、参照情報として、参照画像毎にＶＷを割り当てた結果（どのＶＷがどの参照画像中にいくつ存在するのかを示す）と、第一重要度と、後述する第二重要度と、参照画像毎に割り当てられたＶＷの数の違いの影響を抑制するための正規化係数と、が格納されている。
【００６１】
正規化係数算出部５２は、参照画像の各々について、参照情報記憶部５０に格納された、参照画像に割り当てられたＶＷと、第一重要度又は第二重要度とに基づいて、参照画像毎に割り当てられたＶＷの数の違いの影響を抑制するための正規化係数を算出し、参照情報記憶部５０に格納する。
【００６２】
正規化係数は参照画像毎に、以下の通りに算出する。
【００６３】
正規化係数＝１／（Σ重要度）（１／２）  ・・・（２）
【００６４】
参照画像毎に、当該参照画像が持つＶＷの重要度を足し合わせ、正の平方根と取った上で、逆数にしたものである。正規化係数は、参照画像毎に値を持つ。なお、入力される重要度は、本実施の形態では、第一重要度（Ｋ個の数値で表現される)と、後述する第二重要度(Ｎ×Ｋの数値で表現される）とがあるが、本実施の形態では、第一重要度を算出後に第一重要度を用いた第一正規化係数を算出し、第二重要度算出後に第二重要度を用いた第二正規化係数を算出する。本実施の形態では、検索ランキング部５４の処理において第二重要度を用いて算出した第二正規化係数を適用して検索を行うが、第一重要度を用いて算出した正規化係数を適用してもよい。また、後述する検索部４４では、第一重要度を用いて算出した第一正規化係数を適用して検索を行う。
【００６５】
第二重要度算出部４０は、参照情報記憶部５０に格納された参照画像群に含まれる参照画像毎にＶＷを割り当てた結果と、参照画像毎に付与された参照ラベルとに基づいて、参照画像の各々に対し、参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、及び参照画像とは異なる参照ラベルが付与され、かつ、類似する参照画像間におけるＶＷの各々の出現頻度から、参照画像に割り当てられたＶＷの各々の重要度を算出し、参照画像に対して算出したＶＷの各々の重要度と、算出されたＶＷの各々の第一重要度とを掛けて、参照画像に割り当てられたＶＷの各々の第二重要度を算出し、参照情報記憶部５０に格納する。
【００６６】
具体的には、第二重要度算出部４０は、重要度Ａ算出部４２と、検索部４４と、重要度Ｂ算出部４６とから構成される。
【００６７】
ここで、第二重要度は、参照画像の各々に対するＶＷ毎に値を持ち、例えばＮ×Ｋの行列で表現できる。第二重要度には、以下に説明する「重要度Ａ」、「重要度Ｂ」、「重要度Ａ×重要度Ｂ」を用いる３種類の形態がある。本実施の形態では、第二重要度は「重要度Ａ×重要度Ｂ」を用いる形態とするが、「重要度Ａ」を用いる形態、又は「重要度Ｂ」を用いる形態としてもよい。ここで、重要度Ａの算出には、参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度を用いる。重要度Ｂの算出には、参照画像とは異なる参照ラベルが付与され、かつ、類似する参照画像間におけるＶＷの各々の出現頻度を用いる。
【００６８】
以下、「重要度Ａ」、「重要度Ｂ」、「重要度Ａ×重要度Ｂ」のそれぞれの重要度を用いる場合について説明する。
【００６９】
［重要度Ａを用いて第二重要度を算出する形態］
【００７０】
まず、第二重要度を、重要度Ａを用いて算出する場合について説明する。
【００７１】
重要度Ａ算出部４２は、参照画像毎に割り当てられたＶＷ毎に以下の（３）式に従って重要度Ａを算出する。
【００７２】
重要度Ａ＝１／ｌｏｇ(((Ｎｓ＋１)/(ｄｆｓ＋１)＋１))  ・・・（３）
【００７３】
ここで、Ｎｓは、同一の参照ラベルを持つ画像枚数、ｄｆｓは、当該参照ラベルを持つ参照画像群における、各ＶＷの出現回数である。画像内容が不明な参照画像（参照ラベルが０や−１の画像など）に対しては、例えば、重要度Ａは全て１とすれば良い。また、画像内容が分かっている参照画像の重要度Ａの平均値としても良い。参照画像毎のＶＷ毎に、重要度Ａの値に対して、第一重要度の値を掛けた値を第二重要度とする。ただし、第一重要度は参照画像毎に値は持っていないため、ＶＷ毎に値を持つＫ個の数値であるため、参照画像毎に同一の値を用いて計算する。
【００７４】
そして、重要度Ａ算出部４２は、参照画像毎に割り当てられたＶＷ毎に、重要度Ａの値に対して、第一重要度の値を掛けた値を第二重要度とする。なお、重要度Ａを用いて第二重要度を算出する形態においては、第二重要度算出部４０は、検索部４４、及び重要度Ｂ算出部４６を含まなくてもよい。
【００７５】
［重要度Ｂを用いて第二重要度を算出する形態］
【００７６】
次に、第二重要度を、重要度Ｂを用いて算出する場合について説明する。
【００７７】
まず、検索部４４によって、検索ランキング部５４と同様の処理によって、入力された参照画像の各々について、当該参照画像を検索参照画像とし、検索参照画像に割り当てられたＶＷと、当該検索参照画像以外の参照画像毎に割り当てられたＶＷと、第一重要度と、第一正規化係数とに基づいて、検索参照画像に類似する上位Ｌ枚の参照画像を検索する。ここで、Ｌは１以上Ｘ以下の整数とする。
【００７８】
重要度Ｂ算出部４６は、当該検索参照画像に割り当てられたＶＷ、参照ラベル、及び検索部４４で検索された当該検索参照画像の検索ランキング結果から、重要度Ｂを算出する。
【００７９】
重要度Ｂの算出においては、まず、当該検索参照画像の検索ランキング結果のうち、当該検索参照画像の参照ラベルと異なる参照ラベルを持つ参照画像上位Ｌ枚を、当該検索参照画像の類似画像とする。次に、当該検索参照画像に含まれるＶＷ毎に以下の（４）式に従って重要度Ｂを算出する。
【００８０】
重要度Ｂ＝ｌｏｇ（（Ｌ＋１）／ｄｆｌ）  ・・・（４）
【００８１】
ｄｆｌは、当該検索参照画像、及び、その類似画像Ｌ枚を合わせたＬ＋１毎の参照画像群における、各ＶＷの出現回数である。
【００８２】
そして、重要度Ｂ算出部４６は、検索参照画像毎に割り当てられたＶＷ毎に、重要度Ｂの値に対して、第一重要度の値を掛けた値を第二重要度とする。なお、重要度Ｂを用いて第二重要度を算出する形態においては、第二重要度算出部４０は、重要度Ａ算出部４２を含まなくてもよい。
【００８３】
［重要度Ａ×重要度Ｂを用いて第二重要度を算出する形態］
【００８４】
次に、第二重要度を、重要度Ａ×重要度Ｂを用いて算出する場合について説明する。
【００８５】
重要度Ａ算出部４２及び重要度Ｂ算出部４６は、重要度Ａ、及び重要度Ｂの各々を、上記と同様の手法で算出する。
【００８６】
そして、重要度Ｂ算出部４６は、参照画像毎に割り当てられたＶＷ毎に、重要度Ａ×重要度Ｂの値に対して、第一重要度の値を掛けた値を第二重要度とする。
【００８７】
＜本発明の実施の形態に係る画像認識装置の作用＞
【００８８】
次に、本発明の実施の形態に係る画像認識装置１００の作用について説明する。入力部１０において参照ラベルが付与された参照画像からなる参照画像群の入力を受け付けると、画像認識装置１００は、図２に示す画像認識処理ルーチンを実行する。
【００８９】
まず、ステップＳ１００では、入力部１０で受け付けた参照画像群に含まれる参照画像の各々から特徴量を抽出する。なお、学習画像群が、参照画像群と異なる場合には、別途学習画像群に含まれる学習画像の各々から特徴量を抽出する。
【００９０】
次に、ステップＳ１０２では、参照画像群を、量子化器を作成するための学習画像群として、ステップＳ１００で参照画像の各々から抽出された一つ以上の特徴量に基づいて、特徴量からＶＷへの量子化を行うための量子化器を作成し、量子化器記憶部３４に記憶する。
【００９１】
ステップＳ１０４では、参照画像の各々について、ステップＳ１００で抽出された一つ以上の特徴量と、ステップＳ１０２で作成された量子化器とに基づいて、抽出された一つ以上の特徴量に対してＶＷを割り当てることにより量子化し、参照情報記憶部５０に記憶する。
【００９２】
ステップＳ１０６では、ステップＳ１０４における参照画像群に含まれる参照画像毎にＶＷを割り当てた結果に基づいて、ＶＷの各々の出現頻度から、ＶＷの各々の第一重要度を算出し、参照情報記憶部５０に記憶する。
【００９３】
ステップＳ１０８では、参照画像の各々について、参照情報記憶部５０に記憶された、参照画像に割り当てられたＶＷと、第一重要度とに基づいて、第一正規化係数を算出し、参照情報記憶部５０に記憶する。
【００９４】
ステップＳ１１０では、処理対象とする参照画像を選択する。なお、第二重要度を算出しない場合には、本ステップからステップＳ１２２までを実行しなくてもよい。
【００９５】
ステップＳ１１２では、ステップＳ１１０で選択した当該参照画像のＶＷ毎に上記（３）式に従って重要度Ａを算出する。
【００９６】
ステップＳ１１４では、当該参照画像を検索参照画像とし、参照画像に割り当てられたＶＷと、当該参照画像以外の参照画像毎に割り当てられたＶＷと、第一重要度と、第一正規化係数とに基づいて、検索参照画像に類似する上位Ｘ枚の参照画像を検索する。
【００９７】
ステップＳ１１６では、当該参照画像に割り当てられたＶＷ、参照ラベル、及びステップＳ１１４で検索された当該参照画像の検索ランキング結果から、当該参照画像に含まれるＶＷ毎に、上記（４）式に従って重要度Ｂを算出し、参照画像毎に割り当てられたＶＷ毎に、重要度Ａ×重要度Ｂの値に対して、第一重要度の値を掛けた値を、当該参照画像の第二重要度として算出し、参照情報記憶部５０に記憶する。
【００９８】
ステップＳ１１８では、ステップＳ１１２〜Ｓ１１６の処理により、全ての参照画像について第二重要度を算出したかを判定し、全ての参照画像について算出していれば、ステップＳ１２０へ移行し、全ての参照画像について算出していなければステップＳ１１０へ戻って次の参照画像を選択して処理を繰り返す。
【００９９】
ステップＳ１２０では、参照画像の各々について、参照情報記憶部５０に記憶された、参照画像に割り当てられたＶＷと、第二重要度とに基づいて、第二正規化係数を算出し、参照情報記憶部５０に記憶する。
【０１００】
ステップＳ１２２では、入力部１０により、検索キー画像の入力を受け付け、検索キー画像から特徴量を抽出する。
【０１０１】
ステップＳ１２４では、検索キー画像について、ステップＳ１２２で抽出された一つ以上の特徴量と、作成された量子化器とに基づいて、抽出された一つ以上の特徴量に対してＶＷを割り当てることにより量子化し、参照情報記憶部５０に記憶する。
【０１０２】
ステップＳ１２６では、ステップＳ１２４で検索キー画像に割り当てられたＶＷと、ステップＳ１０４で参照画像毎に割り当てられたＶＷと、ステップＳ１１０〜１１８で算出された第二重要度と、ステップＳ１２０で算出された第二正規化係数とに基づいて、検索キー画像に類似する上位Ｘ枚の参照画像を検索する。
【０１０３】
ステップＳ１２８では、ステップＳ１２６で検索された上位Ｘ枚の参照画像を出力部６０に出力し処理を終了する。
【０１０４】
以上説明したように、第１の実施の形態に係る画像認識装置によれば、参照画像の各々、及び検索キー画像から特徴量を抽出し、参照画像の各々から抽出された特徴量に基づいて、ＶＷへの量子化を行うための量子化器を作成し、特徴量と、量子化器とに基づいて、特徴量に対してＶＷを割り当てることにより量子化し、参照画像毎にＶＷを割り当てた結果に基づいて、ＶＷの各々の出現頻度から、ＶＷの各々の第一重要度を算出し、参照画像毎にＶＷを割り当てた結果と、参照ラベルとに基づいて、参照画像の各々に対し、参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、及び参照画像とは異なる参照ラベルが付与され、かつ、類似する参照画像間におけるＶＷの各々の出現頻度から、参照画像に割り当てられたＶＷの各々の重要度を算出し、参照画像に対して算出したＶＷの各々の重要度と、算出されたＶＷの各々の第一重要度とを掛けて、参照画像に割り当てられたＶＷの各々の第二重要度を算出し、参照画像の各々について正規化係数を算出し、検索キー画像に割り当てられたＶＷと、参照画像毎に割り当てられたＶＷと、第一重要度又は第二重要度と、正規化係数とに基づいて、検索キー画像に類似する上位Ｘ枚の参照画像を検索することにより、入力画像に類似する参照画像の情報を、精度よく、かつ、高速に得ることができる。
【０１０５】
＜本発明の第２の実施の形態に係る画像認識装置の構成＞
【０１０６】
次に、本発明の第２の実施の形態に係る画像認識装置の構成について説明する。なお、第１の実施の形態と同様の構成となる箇所については同一符号を付して説明を省略する。
【０１０７】
図３に示すように、本発明の第２の実施の形態に係る画像認識装置１００は、ＣＰＵと、ＲＡＭと、後述する画像認識処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することが出来る。この画像認識装置１００は、機能的には図３に示すように入力部１０と、演算部２２０と、出力部６０とを備えている。
【０１０８】
演算部２２０は、特徴量抽出部３０と、量子化器作成部３２と、ランダム行列算出部２３０と、量子化器記憶部３４と、量子化部３６と、ベクトル化部２３２と、第一重要度算出部３８と、第二重要度算出部４０と、参照情報記憶部５０と、正規化係数算出部５２と、検索ランキング部２３４とを含んで構成されている。
【０１０９】
ランダム行列算出部２３０は、画像の各々から抽出された一つ以上の特徴量の次元から、特徴量をランダムに写像するためのランダム行列を算出し、量子化器記憶部３４に記憶する。特徴量が１２８次元とすると、ランダム行列は１２８×Ｄの行列で表現できる。ここでＤは、１２８以下の自然数である。ランダム行列は、１２８×Ｄ個の要素を乱数で作成すれば良い。乱数としては、例えば、−１以上１以下の一様乱数、平均０、分散１の正規乱数などを用いれば良い。また、作成した行列を、ＬＵ分解、ＱＲ分解など、公知の行列分解方法によって分解し、ランダム行列としても良い。なお、残差ベクトルをバイナリベクトルにしない場合には、ランダム行列を必要としないため、ランダム行列算出部２３０を設けなくてもよい。
【０１１０】
ベクトル化部２３２は、参照画像の各々について、特徴量抽出部３０から抽出された一つ以上の特徴量と、作成された量子化器と、当該参照画像に割り当てられたＶＷと、算出されたランダム行列とに基づいて、当該参照画像に割り当てられたＶＷ毎の残差ベクトルを作成する。
【０１１１】
図４に、ベクトル化部２３２における残差ベクトルの作成方法の例を示す。具体的には、まず、特徴量毎に、割り当てられたＶＷの代表ベクトルとの残差ベクトルを算出する。例えば、特徴量が１２８次元の場合、残差は１２８次元となる。ある参照画像の全ての特徴量に対して、ＶＷ毎に残差の平均値を取ることで、１枚の参照画像に対して、当該量子が持つユニークなＶＷ数分の残差ベクトルを算出することができる。仮にある参照画像が持つユニークなＶＷ数がＰ個であるとすると、特徴量が１２８次元の場合、残差ベクトルは１２８×Ｐ次元となる。また、算出した残差ベクトルを２値化し、バイナリベクトルとしてもよい。例えば、残差ベクトルを、先に生成したランダム行列で写像した後、同じく代表ベクトルをランダム行列で写像した値を閾値としてこれより大きな値を持つ要素を１、それ以外を−１とすることにより、２値化すればよい。このようにバイナリ化した場合、元の実数値の残差ベクトルを用いる場合に比べて情報の精度は劣化するものの、実数値に比べてメモリ効率を稼ぐことができるという利点がある。なお、バイナリ化しない場合、ベクトル作成部２１２はランダム行列を入力として必要としない。
【０１１２】
また、ベクトル化部２３２は、検索キー画像について、上記の参照画像の場合と同様の手法を用いて、特徴量抽出部３０から抽出された一つ以上の特徴量と、作成された量子化器と、当該検索キー画像に割り当てられたＶＷと、算出されたランダム行列とに基づいて、当該検索キー画像に割り当てられたＶＷ毎の残差ベクトルを作成する。
【０１１３】
なお、作成した残差ベクトルは、参照情報記憶部５０に記憶される。
【０１１４】
検索ランキング部２３４は、以下に説明するように、検索キー画像について作成されたＶＷ毎の残差ベクトルと、参照画像の各々について作成されたＶＷ毎の残差ベクトルと、第一重要度又は第二重要度と、正規化係数とに基づいて、検索キー画像に類似する上位Ｘ枚の参照画像を検索する。本実施の形態では、第一重要度を用いずに、第二重要度を用いて、検索キー画像に類似する上位Ｘ枚の参照画像を検索する場合を例に説明する。
【０１１５】
検索ランキング部２３４は、具体的には、まず、第二重要度を重みとした重み付き内積を算出する。つまり、参照画像の各々について、検索キー画像の残差ベクトル(実数又はバイナリ)と、当該参照画像の残差ベクトルとの内積をＶＷ毎に計算し、重要度を、計算した内積にＶＷ毎に掛けたのち、総和を取る。第二重要度を用いる場合には、当該参照画像の各々に対応するＶＷ毎に、計算した内積に第二重要度の値を掛けるようにすればよい。そして、当該参照画像について算出された数値に、当該参照画像に応じた正規化係数を掛けた数値を類似度とする。類似度が高い順に参照画像をソートし、上位Ｘ枚を検索ランキング結果とする。なお、重要度として第一重要度を用いる場合には、ＶＷ毎に計算した内積に、参照画像群に共通したＶＷ毎の第一重要度の値を掛けるようにすればよい。
【０１１６】
なお、第２の実施の形態における他の構成は、第１の実施の形態と同様であるため説明を省略する。
【０１１７】
＜本発明の第２の実施の形態に係る画像認識装置の作用＞
【０１１８】
次に、本発明の第２の実施の形態に係る画像認識装置１００の作用について説明する。なお、第１の実施の形態と同様の作用となる箇所については同一符号を付して説明を省略する。
【０１１９】
入力部１０において参照ラベルが付与された参照画像からなる参照画像群の入力を受け付けると、画像認識装置１００は、図５に示す画像認識処理ルーチンを実行する。
【０１２０】
ステップＳ２００では、ステップＳ１００で参照画像の各々について抽出された一つ以上の特徴量の次元から、特徴量をランダムに写像するためのランダム行列を算出し、量子化器記憶部３４に記憶する。なお、残差ベクトルをバイナリベクトルにしない場合には、ステップＳ２００を省略してよい。
【０１２１】
ステップＳ２０２では、参照画像の各々について、ステップＳ１００で抽出された一つ以上の特徴量と、ステップＳ１０２で作成された量子化器と、ステップＳ１０４で当該参照画像に割り当てられたＶＷと、ステップＳ２００で算出されたランダム行列とに基づいて、当該参照画像に割り当てられたＶＷ毎の残差ベクトルを作成し、参照情報記憶部５０に記憶する。
【０１２２】
ステップＳ２０４では、検索キー画像について、ステップＳ１００で抽出された一つ以上の特徴量と、ステップＳ１０２で作成された量子化器と、ステップＳ１２４で当該検索キー画像に割り当てられたＶＷと、ステップＳ２００で算出されたランダム行列とに基づいて、当該検索キー画像に割り当てられたＶＷ毎の残差ベクトルを作成し、参照情報記憶部５０に記憶する。
【０１２３】
ステップＳ２０６では、ステップＳ２０４で検索キー画像について作成されたＶＷ毎の残差ベクトルと、ステップＳ２０２で参照画像の各々について作成されたＶＷ毎の残差ベクトルと、ステップＳ１１０〜１１８で算出された第二重要度と、ステップＳ１２０で算出された正規化係数とに基づいて、検索キー画像に類似する上位Ｘ枚の参照画像を検索する。
【０１２４】
なお、第２の実施の形態の他の作用は第１の実施の形態と同様であるため説明を省略する。
【０１２５】
以上説明したように、第２の実施の形態に係る画像認識装置によれば、参照画像の各々、及び検索キー画像から特徴量を抽出し、参照画像の各々から抽出された特徴量に基づいて、ＶＷへの量子化を行うための量子化器を作成し、特徴量と、量子化器とに基づいて、特徴量に対してＶＷを割り当てることにより量子化し、参照画像の各々、及び検索キー画像について、割り当てられたＶＷ毎の残差ベクトルを作成し、参照画像毎にＶＷを割り当てた結果に基づいて、ＶＷの各々の出現頻度から、ＶＷの各々の第一重要度を算出し、参照画像毎にＶＷを割り当てた結果と、参照ラベルとに基づいて、参照画像の各々に対し、参照画像と同一の参照ラベルが付与された参照画像間におけるＶＷの各々の出現頻度、及び参照画像とは異なる参照ラベルが付与され、かつ、類似する参照画像間におけるＶＷの各々の出現頻度から、参照画像に割り当てられたＶＷの各々の重要度を算出し、参照画像に対して算出したＶＷの各々の重要度と、算出されたＶＷの各々の第一重要度とを掛けて、参照画像に割り当てられたＶＷの各々の第二重要度を算出し、参照画像の各々について正規化係数を算出し、検索キー画像について作成されたＶＷ毎の残差ベクトルと、参照画像の各々について作成されたＶＷ毎の残差ベクトルと、第一重要度又は第二重要度と、正規化係数とに基づいて、検索キー画像に類似する上位Ｘ枚の参照画像を検索することにより、入力画像に類似する参照画像の情報を、精度よく、かつ、高速に得ることができる。
【０１２６】
なお、本発明は、上述した実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【０１２７】
例えば、上述した実施形態における画像認識装置をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、ＰＬＤ(Programmable Logic Device）やＦＰＧＡ(Field Programmable Gate Array）等のハードウェアを用いて実現されるものであってもよい。
【０１２８】
また、第１及び第２の実施の形態では、一つの検索キー画像から参照画像を検索する場合を例に説明したが、これに限定されるものではなく、複数の検索キー画像を入力とし、複数の検索キー画像の各々について、当該検索キー画像に類似する参照画像を検索するようにしてもよい。
【符号の説明】
【０１２９】
１０   入力部
２０   演算部
３０   特徴量抽出部
３２   量子化器作成部
３４   量子化器記憶部
３６   量子化部
３８   第一重要度算出部
４０   第二重要度算出部
４２   重要度Ａ算出部
４４   検索部
４６   重要度Ｂ算出部
５０   参照情報記憶部
５２   正規化係数算出部
５４、２３４  検索ランキング部
６０   出力部
２３０ ランダム行列算出部
２３２ ベクトル化部
【図１】
0006317715.tif 000002
【図２】
0006317715.tif 000003
【図３】
0006317715.tif 000004
【図４】
0006317715.tif 000005
【図５】
0006317715.tif 000006
【図６】
0006317715.tif 000007