(57)【要約】      （修正有）【課題】カメラの視野内にある人の位置および物体を示すパラメータである文脈情報（位置および方向のような）に基づいて、画像および映像内に対象物体を提供し、かつ一致させる。【解決手段】画像認識アルゴリズムは、キーポイントに基づく比較および領域に基づく色彩比較を含む。画像認識アルゴリズムを用いて目標画像を識別する方法は、処理装置で入力を受信する段階であって、その入力は、目標画像に関連するデータを含む段階、画像を画像データベースから検索することを含む検索ステップを実行する段階であって、その画像が受理または拒絶されるまで、その画像を候補画像として指定する。画像認識アルゴリズム出力を得るために、目標画像および候補画像上で画像認識アルゴリズムを実行するために、処理装置を使用することを含む画像認識ステップを実行する。【選択図】図１
2010152884.tif 000002
【特許請求の範囲】
【請求項１】
目標画像を識別する方法において、前記方法は、
キーポイントに基づく比較、
領域に基づく色彩比較、および
センサ・モダリティ分析、
を含む画像認識アルゴリズムを実行する段階を含むことを特徴とする方法。
【請求項２】
前記画像認識アルゴリズムは、ビジュアル・シンボル比較をさらに含むことを特徴とする請求項１記載の方法。
【請求項３】
前記ビジュアル・シンボル比較は、余弦比較を含むことを特徴とする請求項２記載の方法。
【請求項４】
前記キーポイントに基づく比較は、少なくとも２つのキーポイント特徴ベクトルのペアワイズ比較を含むことを特徴とする請求項１記載の方法。
【請求項５】
前記領域に基づく色彩比較は、少なくとも２つの色彩特徴ベクトルのアース・ムーバーズ・ディスタンス（ＥＭＤ）比較を含むことを特徴とする請求項１記載の方法。
【請求項６】
前記画像認識アルゴリズムは、オーディオ・コンテント分析をさらに含むことを特徴とする請求項１記載の方法。
【請求項７】
目標画像を識別する方法において、前記方法は、
処理装置で入力を受信する段階であって、前記入力は、前記目標画像に関連するデータを含む、段階と、
検索ステップを実行する段階であって、前記検索ステップは、画像データベースから画像を検索することを含み、前記画像データベースは、複数の潜在的に一致する画像を含み、前記画像が受理または拒絶されるまで、前記画像を候補画像として指定する、段階と、
画像認識ステップを実行する段階であって、前記画像認識ステップは、画像認識アルゴリズム出力を得るために、前記目標画像および前記候補画像上で画像認識アルゴリズムを実行するために前記処理装置を使用する段階を含む、段階と、
比較ステップを実行する段階であって、前記比較ステップは、
前記画像認識アルゴリズム出力が予め選択された範囲内にある場合は、前記目標画像として前記候補画像を受理し、
前記画像認識アルゴリズム出力が前記予め選択された範囲内にない場合は、前記候補画像を拒絶し、前記検索ステップ、前記画像認識ステップ、および前記比較ステップを繰り返す、段階と、
から構成されることをと特徴とする方法。
【請求項８】
前記画像認識アルゴリズムを実行するために前記処理装置を使用する段階は、キーポイントに基づく比較、領域に基づく色彩比較、およびビジュアル・シンボル比較のうちの少なくとも１つを実行するために前記処理装置を使用する段階を含むことを特徴とする請求項７記載の方法。
【請求項９】
前記キーポイントに基づく比較を実行する段階は、少なくとも２つのキーポイント特徴ベクトルのペアワイズ比較を実行する段階を含むことを特徴とする請求項８記載の方法。
【請求項１０】
前記領域に基づく色彩比較を実行する段階は、少なくとも２つの色彩特徴ベクトルのアース・ムーバーズ・ディスタンス（ＥＭＤ）比較を実行する段階を含むことを特徴とする請求項８記載の方法。
【請求項１１】
前記ビジュアル・シンボル比較を実行する段階は、余弦比較を実行する段階を含むことを特徴とする請求項８記載の方法。
【請求項１２】
前記処理装置で前記入力を受信する段階は、センサ・モダリティ・データを受信する段階を含み、
前記センサ・モダリティ・データは、位置システム、運動センサ、ジャイロスコープ、およびコンパスのうちの少なくとも１つからのデータを含む、
ことを特徴とする請求項７記載の方法。
【請求項１３】
前記複数の潜在的に一致する画像をフィルタするために、前記センサ・モダリティ・データを使用する段階をさらに含むことを特徴とする請求項１２記載の方法。
【請求項１４】
前記処理装置で前記入力を受信する段階は、ビジュアル・コンテント・データ、センサ・モダリティ・データ、およびオーディオ・コンテント・データのうちの少なくとも１つを受信する段階を含むことを特徴とする請求項７記載の方法。
【請求項１５】
前記処理装置で前記入力を受信する段階は、携帯用電子装置から前記入力を受信する段階を含むことを特徴とする請求項７記載の方法。
【請求項１６】
携帯用電子装置への送信のためにデータを選択する方法において、前記方法は、
処理装置で目標画像に関連する情報を受信する段階であって、前記情報は前記携帯用電子装置から送信される、段階と、
検索ステップを実行する段階であって、前記検索ステップは、画像データベースからの画像に関連する情報を検索する段階を含み、前記画像データベースは、複数の潜在的に一致する画像を含み、前記画像が受理または拒絶されるまで、候補画像として前記画像を指定する、段階と、
画像認識ステップを実行する段階であって、前記画像認識ステップは、画像認識アルゴリズム出力を得るために、前記目標画像および前記候補画像に関連する前記情報上で画像認識アルゴリズムを実行するために前記処理装置を使用することを含む、段階と、
比較ステップを実行する段階であって、前記比較ステップは、
前記画像認識アルゴリズム出力が予め選択された範囲内にある場合は、前記目標画像として前記候補画像を受理し、
前記画像認識アルゴリズム出力が前記予め選択された範囲内にない場合は、前記候補画像を拒絶し、検索ステップ、前記画像認識ステップ、および前記比較ステップを繰り返す、段階と、
前記目標画像として前記候補画像を受理した後、前記目標画像に関連するデータ・セットを前記携帯用電子装置へ送信する段階と、
から構成されることを特徴とする方法。
【請求項１７】
前記画像認識アルゴリズムを実行するために前記処理装置を使用する段階は、キーポイントに基づく比較、領域に基づく色彩比較、およびビジュアル・シンボル比較のうちの少なくとも１つを実行するために前記処理装置を使用する段階を含み、
前記キーポイントに基づく比較を実行する段階は、少なくとも２つのキーポイント特徴ベクトルのペアワイズ比較を実行する段階を含み、
前記領域に基づく色彩比較を実行する段階は、少なくとも２つの色彩特徴ベクトルのアース・ムーバーズ・ディスタンス（ＥＭＤ）比較を実行する段階を含み、
前記ビジュアル・シンボル比較を実行する段階は、余弦比較を実行する段階を含むことを特徴とする請求項１６記載の方法。
【請求項１８】
前記処理装置で前記目標画像に関連する前記情報を受信する段階は、センサ・モダリティ・データを受信する段階を含み、
前記センサ・モダリティ・データは、位置システム、アクセロメータ、ジャイロスコープ、およびコンパスの少なくとも１つのからのデータを含み、
前記方法は、前記複数の潜在的に一致する画像をフィルタするために、前記センサ・モダリティ・データを使用する段階をさらに含む、
ことを特徴とする請求項１６記載の方法。
【請求項１９】
前記処理装置で前記目標画像に関連する前記情報を受信する段階は、ビジュアル・コンテント・データ、センサ・モダリティ・データ、およびオーディオ・コンテント・データのうちの少なくとも１つを受信する段階を含むことを特徴とする請求項１６記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明の開示された実施例は、一般に画像認識に関し、より詳しくは、モバイル拡張現実の制約に基づく画像認識技術に関する。
【背景技術】
【０００２】
モバイル・インターネット装置（ＭＩＤ）は、急成長する世界市場を代表するものである。これらのモバイル・コンピューティング装置は、小型であること、インターネットに広く接続可能であること、および強力な演算処理能力によって特徴づけられる。これらの特徴は、ＭＩＤに搭載されたカメラの視野内にある人の位置および物体のようなパラメータに基づき、追加の文脈情報を提供することによって、人の知覚および経験を増強するためのモバイル用拡張現実アプリケーションを可能にする。この使用モデルを可能にする鍵となる技術は、文脈情報（位置および方向のような）に基づいて、画像および映像内に対象物体を提供し、かつ一致させることである。
【図面の簡単な説明】
【０００３】
開示された実施例は、以下の詳細な記述を添付図面と共に読むことにより、より一層理解されるであろう。
【図１】本発明の実施例に従った、制約に基づく画像認識システム・フローの概要図である。
【図２】本発明の実施例に従った、画像認識アルゴリズムの概要図である。
【図３】本発明の実施例に従った、画像認識アルゴリズムの概要図である。
【図４】本発明の実施例に従った、図１の制約に基づく画像認識システム・フローの概要図である。
【図５】本発明の実施例に従った、目標画像を識別する方法を示すフローチャートである。
【図６】本発明の実施例に従った、携帯用電子装置へ送信するためにデータを選択する方法を示すフローチャートである。
【０００４】
図面を単純化および明瞭化するために、図示された形状は一般的な構造方法を示し、周知の特徴および技術に関する記述および詳細事項は、本発明について記述された実施例に関する議論を必要以上に不明瞭化しないために省略される。さらに、図中の要素は、必ずしも同一縮尺で描かれない。例えば、本発明の実施例を理解しやすくするために、図中のいくつかの要素の大きさが、他の要素に比べて拡大される場合がある。異なる図中の同一の参照番号は同一の要素を示し、また、必ずというわけではないが、類似の参照番号が類似の要素を示す場合もある。
【０００５】
明細書および特許請求の範囲において、用語「第１」、「第２」、「第３」、「第４」等は、必要に応じて類似する要素を識別するために用いられるが、必ずしも特別な連続的または年代的順序を示すために用いられるわけではない。そのように用いられる用語は、適切な状況下では入れ替えが可能であり、したがって、例えば、ここに記載された本発明の実施例は、ここに図示または記載された以外の順序でも動作可能であると理解すべきである。同様に、ここで、一連の段階を含むような方法について記載されている場合、ここに示されたような段階の順序は、必ずしもそのような段階を実行するための唯一の順序ではなく、ここに記載されているある段階が省略されてもよく、および／または、ここに記載されていない他の段階が本方法に追加されてもよい。さらに、用語「包含する」、「含む」、「有する」、および、それらのあらゆるバリエーションは、非排他的な包含を含むことを意図しており、したがって、要素のリストを含む、プロセス、方法、物品、または機器は、それらの要素に必ずしも制限されず、明白には列挙されていない他の要素、あるいは、そのようなプロセス、方法、物品または機器に固有である他の要素を含んでもよい。
【０００６】
明細書および特許請求の範囲において、用語「左」、「右」、「前」、「後」、「上部」、「底部」、「上に」、「下に」等は、必要に応じて記述上の目的で用いられているが、必ずしも永久的な相対的位置について記述するために用いられるわけではない。そのように用いられる用語は、適切な状況下では入れ替えが可能であり、したがって、例えば、ここに記載された本発明の実施例は、ここに図示または記載された以外の方向でも動作可能であると理解すべきである。ここで使用される用語「結合された」は、電気的または非電気的な方法で、直接的または間接的に接続されることを意味する。ここで、相互に「隣接」していると記載された物体は、その語句が用いられる文脈に応じて、互いに物理的に接触している場合、互いに極めて近接している場合、または互いに同一の一般的な領域または場所内にある場合をいう。ここで、「一実施例において」という語句が使用される場合は、必ずしも全ての場合において、同一の実施例を指すものではない。
【発明を実施するための形態】
【０００７】
本発明の一実施例では、画像認識アルゴリズムは、キーポイントに基づく比較（ｋｅｙｐｏｉｎｔｓ−ｂａｓｅｄ  ｃｏｍｐａｒｉｓｏｎ）および領域に基づく色彩比較（ｒｅｇｉｏｎ−ｂａｓｅｄ  ｃｏｌｏｒ  ｃｏｍｐａｒｉｓｏｎ）を含む。このアルゴリズムは、さらに、ビジュアル・シンボル比較（ｖｉｓｕａｌ  ｓｙｍｂｏｌ  ｃｏｍｐａｒｉｓｏｎ）を含んでもよい。本発明の一実施例では、画像認識アルゴリズムを用いて目標画像（ｔａｒｇｅｔ  ｉｍａｇｅ）を識別する方法は、以下の段階を含む。すなわち、処理装置で入力を受信する段階であって、その入力は、目標画像に関連するデータを含む段階、画像を画像データベースから検索することを含む検索ステップを実行する段階であって、その画像が受理または拒絶されるまで、その画像を候補画像として指定する段階、目標画像および候補画像上で画像認識アルゴリズムを実行するために、処理装置を使用することを含む画像認識ステップを実行し、画像認識アルゴリズム出力する段階、および、比較ステップを実行する段階であって、画像認識アルゴリズム出力が予め選択された範囲内にある場合は、目標画像としてその候補画像を受理し、また、画像認識アルゴリズム出力が予め選択された範囲内にない場合は、候補画像を拒絶し、検索ステップ、画像認識ステップ、および比較ステップを繰り返す段階を含む。
【０００８】
従って、本発明の実施例は、モバイル拡張現実のための制約に基づく画像認識を可能にする。場所または目的物についてより認識することに関心のあるユーザは、ＭＩＤまたは他のモバイル装置を用いて場所または目的物の画像を捕らえ（キャプチャ）、その捕らえた場所または目的物に関連する情報を、可能ならモバイル装置上でその捕らえた画像上に重ねられた拡張情報の形式で受信する。ある実施例では、ユーザは、ＭＩＤまたは他の装置に搭載された自動領域分割アルゴリズムを実行することにより、クエリに対する関心領域を選択する。このようなアルゴリズムにおいて、ユーザは、描画ツールを使用することによってではなく、予め選択された領域に分割されたタッチ・スクリーン上に自動的に生成された領域セグメントを触れることにより、関心のある領域を容易に選択することができる。
【０００９】
リアルタイム応答および良好な情報検索精度は、モバイル装置のアプリケーションにとって２つの重要な構成要素である。しかしながら、ほとんどの画像認識アルゴリズムにとって、画像データベースのサイズが大きくなるにつれて、マッチングの速度および精度の両方が減少する。さらに、現在のコンピュータの視覚およびパターン認識技術は、異なる照明条件、視覚的な透視、回転、解像度、遮蔽下で捕らえられた画像を完全に識別することができないので、ビジュアル・コンテントのみに基づく画像認識は、非常に挑戦的であることが分かってきた。
【００１０】
本発明の実施例は、画像サーチの複雑さを減少させるために、位置システム・データ、３Ｄアクセロメータ・データ、ならびに、ジャイロスコープおよびデジタル・コンパス情報を利用する。位置システム・データは、全地球測位システム（ＧＰＳ）、広域ネットワーク（ＷＡＮ）、ワイヤレス・ネットワーク等からのデータを含めることも可能である。例えば、クエリ画像のＧＰＳ位置が、「ニューヨーク、マンハッタンのミッドタウン、３３丁目と３４丁目との間、５番街３５０」（エンパイア・ステート・ビルディングの所在地）に近い場合、そのクエリ画像を著しく異なるＧＰＳ位置の画像と比較する必要はない。したがって、例えば、そのクエリ画像は、シカゴのシアーズ・タワーまたはフランクフルトのコメルツバンク・タワー（両者は、他の多くの超高層ビルの中で、少なからずエンパイア・ステート・ビルに似ているように見える）の画像と混同することはないであろう。
【００１１】
さらに、本発明の実施例は、その場面に現われるテキストおよびロゴによって、および、光学的文字認識（ＯＣＲ）および音声認識技術を用いたユーザ入力からのスピーチ・キーワードによって、画像認識を補足する。テキストに基づく検索には、計算コストが安価、格納要求が少ない、および送信帯域幅が低いという長所がある。これらのテキストに基づく入力によって、その探索システムは、縮小された検索スペース内にリアルタイムでズーミングすることができる。さらに、テキスト情報は、類似する外観を有する目的物を識別するために有用である。上述のように、ある実施例は、さらに、領域に基づく色彩比較およびキーポイントに基づく比較を組み合わせた高度な画像認識アルゴリズムを使用する。両者の視覚的特徴空間の一致する結果を組み合わせることにより、両方の特徴から利点を取り出し、異なる照明条件、視覚的な透視、回転などに対処するための強健な画像認識システムを提供する。
【００１２】
ここで図面を参照すると、図１は、本発明の実施例に従う制約に基づく画像認識システム・フロー１００の概要図である。図１に示されるように、システム・フロー１００は、入力１１０を有し、図示されるように、ビジュアル・コンテント１１１、センサ・モダリティ１１２、および、オーディオ・コンテント１１３を含み、画像データベース１２０から検索された情報と共に、一致およびランキング手続１３０を実行し、検索結果１４０に至る。システム・フロー１００については、以下より詳細に記述される。
【００１３】
図２は、本発明の実施例に従った、画像認識アルゴリズム２００の概要図である。図２に示されるように、画像認識アルゴリズム２００は、キーポイントに基づく比較２１０および領域に基づく色彩比較２２０を含む。
【００１４】
キーポイントに基づく比較は、画像の大きさおよび画像の回転に対して不変であり、視点および照明の変化に対して部分的に不変である。したがって、同一の目的物に関する複数の画像は、画像がキーポイントに基づく比較技術を用いて処理された場合には、それらの画像が、異なる角度および距離などから、異なる照明条件の下で得られた場合にさえ、誤って不一致であると識別されるようなことが少ない。例えば、キーポイントに基づく比較２１０は、顕著なキーポイントの抽出手続２１１を含み、その結果キーポイント２１２が識別される。キーポイント特徴抽出２１３は、１セット（組）のキーポイント特徴ベクトル２１４を生成する。これらは、ペアワイズ比較（ｐａｉｒｗａｉｓｅ  ｃｏｍｐａｒｉｓｏｎ）２１５を用いて処理されるが、それについては以下でより詳しく述べる。その比較は、アウトライア（異常値）と一致するキーポイントを削除し、かつ、関心のある特定の目的物を表わす特徴ポイントの幾何学的な共通位置を強化するために、当業者間で知られているエピポーラ幾何拘束２１６または他の射影幾何技術を利用することによって、より改善することができる。
【００１５】
一実施例によれば、ペアワイズ比較２１５は、各画像からのキーポイントを使用して、２つの画像を直接比較することを含む。例えば、画像１がキーポイントＡ，Ｂを有し、画像２がキーポイントＣ，Ｄを有する場合、その際ペアワイズ比較２１５は、距離Ａ−Ｃ，Ａ−Ｄ、Ｂ−Ｃ、Ｂ−Ｄを含む２部グラフを構築する。距離がランク付けされ、最も小さい距離が決定され、その後、最も小さい距離からのポイントのいずれにも関係していない、その次に最も小さい距離が識別される。前記の例に関する小さいサンプル・サイズを使用すると、一旦Ａ−Ｃが最も小さな距離であると認められると、次に、ＡもＣも含まない唯一の残りの距離として、Ｂ−Ｄが残される。その後、距離Ａ−ＣおよびＢ−Ｄは、合計を得るために共に加算される。この合計が「小さい」場合、すなわち、予め選択されたある範囲内である場合、そのとき、画像１および画像２は、同一の目的物の画像であると識別することができる。この予め選択された範囲は、アプリケーションに依存しており、要求に応じて、より大きい数またはより小さい数に一致する画像を識別するために、上下に調整されてもよい。
【００１６】
ペアワイズ比較２１５は、対称であるという長所を有する。他の比較は、対称ではない、すなわち、どの画像が第１の画像として識別されるかに依存し、最も近い一致を見出す試みのために、画像の各キーポイントを、データベースからの複数の画像のキーポイント（一度に１つの画像ではなく）と比較することを含む。
【００１７】
領域に基づく色彩比較は、単一のピクセルよりもピクセルの領域がノイズおよび歪みに関してより安定しており、また、複数の目的物を含む全体的な画像よりも精緻なので、強力な比較戦略である。様々な実施例では、領域に基づく色彩比較２２０は、色彩のコレログラム（ｃｏｒｒｅｌｏｇｒａｍ）、色の三原色（ＲＧＢ）のヒストグラム、または他の適切な色彩に関連する特性の使用を含むことができる。例えば、領域に基づく色彩比較２２０は、領域分割手続２２１を含み、その結果、領域２２２を識別することができる。色彩特徴抽出２２３は、当技術分野において知られているようなアース・ムーバーズ・ディスタンス（ＥＭＤ：ｅａｒｔｈ  ｍｏｖｅｒ‘ｓ  ｄｉｓｔａｎｃｅ）比較２２５を使用して処理される１セットの色彩特徴ベクトル２２４を生成する。
【００１８】
図２でさらに示されるように、画像認識アルゴリズム２００は、さらにビジュアル・シンボル比較２３０を含めることができる。一例として、ビジュアル・シンボル比較２３０は、画像内の目的物上または目的物に関連して現われるテキスト、ロゴ、英数字、および他の文字およびシンボルを比較することができる。他の例として、ビジュアル・シンボル比較２３０は、ＯＣＲおよび音声認識のような技術２３１を利用して、キーワード２３２に到達する。これらは、当技術分野で知られている技術に従って、余弦比較２３３と比較される。ビジュアル・シンボル比較２３０、キーポイントに基づく比較２１０、および、領域に基づく色彩比較２２０は、一致およびランキング手続１３０に類似したプロセスにおいて２５０で結合され、検索結果１４０に達する（図１を参照）。
【００１９】
画像認識アルゴリズム２００は、入力２０１上で動作するが、それは図示された実施例において、ビジュアル・コンテント２０５およびオーディオ・コンテント２０６を含む。一例では、キーポイントに基づく比較２１０、領域に基づく色彩比較２２０、およびビジュアル・シンボル比較２３０は、ビジュアル・コンテント２０５から入力することができる。他の例では、オーディオ・コンテント２０６は、音声コマンド、画像コンテントの可聴記述、または同種のものを含んでもよい。画像認識アルゴリズム２００は、さらに、オーディオ・コンテント２０６の分析を含んでもよい。従来の音声認識技術は、オーディオ・コンテント２０６からキーワードを得るために使用されてもよい。
【００２０】
一実施例では、画像認識アルゴリズム２００は、さらに、センサ・モダリティ分析を含む。それは、本発明の実施例に従った画像認識アルゴリズム２００の概要図である図３に示される。単純化するために、図２に表された画像認識アルゴリズム２００のいくつかの要素は、図３では省略される。
【００２１】
図３に示されるように、画像認識アルゴリズム２００の入力２０１は、さらに、センサ・モダリティ３０５を含むことができる。これらは、ＧＰＳデータ３１０または他の適切な位置センサ・データ、アラインメント情報３１１、時間３２０、視認角および方向データ３３０などを含む。したがって、画像認識の精度および効率を改善するために、一実施例では、画像コンテント（例えば、ビジュアル・コンテント２０５およびオーディオ・コンテント２０６）をセンサ・モダリティ（３０５）と組み合わせる。一例では、ＧＰＳ位置、視認角、方向等が与えられると、異なる視認角および方向から得られる同一の目的物である２つの画像が、キーポイント抽出前に、視認角および方向データ３３０を使用して調整される。そうすることによって、異なる回転３３１、視認遠近などで捕らえられた同一の目的物を、より正確に一致させることができる。他の例では、ある画像が昼間に得られ、他の画像が夕方の時間に得られたことをキャプチャ時間（３２０）が示す場合、色彩比較はマッチング（一致）誤りを低減させるために全く使用されず、そうでなければ、昼／夕方および昼／夜の照明の違いによってもたらされる大きな色彩変化の結果として誤りが発生するであろう。さらに、ＯＣＲ精度は、テキストが水平位置にあることを必要とする。視認角、方向などのようなセンサ情報３３０の支援を用いて、必要であれば、ＯＣＲ処理（２３１）の精度を向上させるために、画像を水平位置へ回転することができる。
【００２２】
図３に示されるように、センサ・モダリティ３０５は、画像認識アルゴリズム２００の第一段階として生じる。センサ・モダリティ３０５は、画像識別プロセスにおいて追加の精製層としての役割を果たし、画像検索スペースのサイズを縮小することができる。それは、本発明の実施例による制約に基づく画像認識システム・フロー１００の概要図である図４に示される。図４は、センサ・モダリティ１１２（図３におけるセンサ・モダリティ３０５に相当する）を含む入力１１０を示す。センサ・モダリティ１１２は、フィルタリング・スキーム４２０を用いて（例えば、前述および図示されたように）、画像サーチ・スペースに接近する４１０ために使用される（例えば、図３に示され、上述されたように）。これは、サーチされるべき画像データベース１２０中の候補グループ４３０を生じるが、グループ４３０は、画像データベース１２０中の画像の数より著しく少ない。
【００２３】
図５は、本発明の実施例に従った目標画像を識別する方法５００を示すフローチャートである。上述のように、目標画像は、モバイル・コンピューティング装置によって捕らえられた、ユーザが生成した画像である。例えば、ユーザは、クエリとして全体の画像を提出する代わりに、関心のある領域を任意に指定することができる。画像ビジュアル・コンテント自体、テキストと共に、音声キーワード、および、ＧＰＳのようなセンサ・モダリティ、アクセロメータ、ジャイロスコープ、およびデジタル・コンパス情報は、画像一致サービスに転送される。計算／帯域幅資源に依存して、この画像一致サービスは、モバイル・コンピューティング装置上に存在してもよく、または、モバイル・コンピューティング装置にワイヤレスに接続されたバックエンド・サービスとして実行することもできる。
【００２４】
方法５００のステップ５１０では、処理装置で、目標画像に関連するデータを含む入力を受信する。例えば、入力は、図１で最初に示された入力１１０に類似するものである。一実施例では、ステップ５１０は、ビジュアル・コンテント・データ、センサ・モダリティ・データ、およびオーディオ・コンテント・データのうちの少なくとも１つを受信することを含む。同一または他の実施例において、ステップ５１０は、ＭＩＤのような携帯用電子装置、携帯電話、または同種のものからの入力を受信することを含む。一実施例では、ステップ５１０は、ＧＰＳ、アクセロメータまたは他の適切なモーション・センサ、ジャイロスコープ、およびコンパスのうちの少なくとも１つからのデータを含むセンサ・モダリティ・データを受信することを含む。一実施例では、アクセロメータは３Ｄアクセロメータでもよい。
【００２５】
例えば、処理装置は、サーバまたは他のバックエンド・サービスに、ＭＩＤまたは他のポータブル・コンピューティング装置に、あるいは同様の場所に配置することができる。処理装置は、他のタスク、目的物検出および認識のような画像／ビデオ処理タスク、ユーザ・インターフェイス、および画像／ビデオ・レンダリングの中で、実行しているソフトウェア・アルゴリズムを走らせるコンピューティング・プラットフォームの一部でもよい。例えば、そのようなアルゴリズムは、画像認識アルゴリズム２００に類似するものである。ビデオ・ディスプレイは、処理の結果を、画像データベースによって提供された実画像／ビデオ・データ、および追加情報と任意に組み合わせて表示するために使用される。
【００２６】
コンピューティング・プラットフォームは、さらに、静止画像およびビデオを取り込み、処理することができるピクセル・プロセッサに接続された画像センサを含む。ピクセル・プロセッサは、ヒストグラム計算、２Ｄフィルタリング、およびピクセルのアレイ上の算術演算のような単純な動作の特性から、オブジェクト検出、３Ｄフィルタリング等のより複雑なタスクの特性に及ぶ機能を有するようにプログラムすることができる。ホスト中央処理装置（ＣＰＵ）は、全体的なプラットフォーム動作を調整し、また、ソフトウェア・アルゴリズムの一部を実行してもよい。改善された電力および性能は、ピクセル・プロセッサに加えてプラットフォームに複数のアクセロメータを含めることにより得られてもよい。これらは、ビデオ・コーデック、画像／ビデオ安定化ブロック、および他の画像処理ブロックを含んでもよい。
【００２７】
相互接続ファブリックは、ホストＣＰＵおよび画像処理ブロックを、メイン・メモリ、ディスプレイ、および格納装置に接続する。これに加えて、相互接続ファブリックによって、個々の画像処理ブロックが、あるタスクを実行するために相互に直接的に接続される。この場合、未使用のプラットフォーム・コンポーネントは、プラットフォームの電力／性能を改善するために低電力状態に入ることができるであろう。全てのプラットフォーム・コンポーネントは、プラットフォーム・クロックにアクセスし、検出動作、計算動作、および始動動作を同期させる。プラットフォームは、割込み、メールボックス、および他の方法に基づいて、直接的なコンポーネント対コンポーネントの通信メカニズムのためのハードウェア・サポートを含んでもよい。
【００２８】
方法５００のステップ５２０では、複数の潜在的に一致する画像をフィルタするために、センサ・モダリティ・データを使用する。例えば、上述のように、この（任意の）フィルタリングは、画像サーチ空間を削減し、出力を獲得する速度と同様に、画像認識アルゴリズムの出力の精度を増加させる。
【００２９】
方法５００のステップ５３０では、複数の潜在的に一致する画像を含む画像データベースから画像を検索すること、および、画像が受理または拒絶されるまで、候補画像として画像を指定することを含む、検索ステップを実行する。例えば、画像データベースは、画像データベース１２０（図１を参照）、またはグループ４３０（図４を参照）のような画像データベース１２０のサブセットに類似する。
【００３０】
方法５００のステップ５４０では、画像認識アルゴリズムの出力を得るために、処理装置を使用して目標画像および候補画像上で画像認識アルゴリズムを実行することを含む、画像認識ステップを実行する。例えば、画像認識アルゴリズムは、図２で最初に示された画像認識アルゴリズム２００に類似する。従って、一実施例において、ステップ５４０は、処理装置を使用して、キーポイントに基づく比較、領域に基づく色彩比較、およびビジュアル・シンボル比較を実行することを含む。特定の実施例では、キーポイントに基づく比較の実行は、少なくとも２つのキーポイント特徴ベクトルのペアワイズ比較を実行することを含み、領域に基づく色彩比較の実行は、少なくとも２つの色彩特徴ベクトルのＥＭＤ比較を実行することを含み、ビジュアル・シンボル比較の実行は、余弦比較（ｃｏｓｉｎｅ  ｃｏｍｐａｒｉｓｏｎ）を実行することを含む。
【００３１】
方法５００のステップ５５０は、比較ステップを実行するステップであり、画像認識アルゴリズム出力が予め選択された範囲内（したがって、希望する質の一致を示す）にある場合、候補画像は目標画像として受理され、また、画像認識アルゴリズム出力が予め選択された範囲内（希望する質の一致が達成されなかったことを示す）にない場合、候補画像は拒絶され、検索ステップ、画像認識ステップ、および比較ステップが繰り返される。
【００３２】
図６は、本発明の実施例に従った携帯用電子装置への送信のためのデータを選択する方法６００を示すフローチャートである。
【００３３】
方法６００のステップ６１０では、処理装置で、目標画像に関連する携帯用電子装置からの情報を受信する。一実施例では、ステップ６１０は、ビジュアル・コンテント・データ、センサ・モダリティ・データ、およびオーディオ・コンテント・データの少なくとも１つを受信することを含む。一実施例では、ステップ６１０は、ＧＰＳ、３Ｄ（または他の）アクセロメータあるいは他の運動センサ、ジャイロスコープ、およびコンパスのうちの少なくとも１つからのデータを含む、センサ・モダリティ・データを受信することを含む。一実施例では、方法６００は、さらに、複数の潜在的に一致する画像をフィルタするために、センサ・モダリティ・データを使用することを含む。
【００３４】
方法６００のステップ６２０では、複数の潜在的に一致する画像を含む画像データベースからの画像に関連する情報を検索すること、および、画像が受理または拒絶されるまで、候補画像として画像を指定することを含む、検索ステップを実行する。例えば、検索された情報は、色彩特徴または他のビジュアル・コンテント・データ等を含む。
【００３５】
方法６００のステップ６３０では、画像認識アルゴリズム出力を得るために、処理装置を使用して、目標画像および候補画像に関連する情報上で画像認識アルゴリズムを実行することを含む画像認識ステップを実行する。一実施例では、ステップ６３０は、キーポイントに基づく比較、領域に基づく色彩比較、およびビジュアル・シンボル比較を実行するために、処理装置を使用することを含む。様々な実施例では、キーポイントに基づく比較による実行は、少なくとも２つのキーポイント特徴ベクトルのペアワイズ比較を実行することを含み、領域に基づく色彩比較の実行は、少なくとも２つの色彩特徴ベクトルのＥＭＤ比較を実行することを含み、ビジュアル・シンボル比較の実行は、余弦比較を実行することを含む。
【００３６】
方法６００のステップ６４０では、比較ステップを実行し、ここで、画像認識アルゴリズム出力が予め選択された範囲内（したがって、希望する質を示す）にある場合は、候補画像は、目標画像として受理され、また、画像認識アルゴリズム出力が予め選択された範囲内（希望する質の一致が達成されなかったことを示す）に無い場合は、候補画像は拒絶され、検索ステップ、画像認識ステップ、および比較ステップが繰り返される。
【００３７】
方法６００のステップ６５０では、候補画像が目標画像として受理された後、目標画像に関連するデータ・セットをパーソナル電子装置へ送信する。
【００３８】
本発明は、特定の実施例に関して記述されたが、当業者であれば、本発明の精神または範囲から逸脱することなく、様々な変更を行なうことが可能であることを理解できるであろう。従って、本発明の実施例の開示は、本発明の範囲の例示であることが意図され、制限するものであることは意図されない。本発明の範囲は、添付された請求項によって要求される程度までにのみ、制限されたものとすることが意図される。例えば、当該技術分野において通常の知識を有する者には、ここに議論された画像認識アルゴリズムおよび関連する方法は、様々な実施例において実施可能であること、また、これらの実施例に関する先の議論は、必ずしもあらゆる実施例について完全な記述を表わさないことは容易に明白であろう。
【００３９】
さらに、利益、他の利点、および問題の解決策が特定の実施例に関して記述された。しかしながら、利益、利点、問題の解決策、および、あらゆる要素は、あらゆる利益、利点、または解決策を利点、利点、問題の解決策を生じさせ、またはより明確にさせるかもしれないが、いずれかの重大な特徴、要求された特徴、あるいは本質的な特徴、要素、あるいは請求項の全てとして解釈されるべきではない。
【００４０】
さらに、ここに示された実施例および制限は、その実施例および／または制限が、（１）明らかに請求項で規定されていない場合、および、（２）均等理論の下において、請求項に明記された要素および／または制限の潜在的な均等物である場合、公共供与主義の下で公に提供されるものではない。
【符号の説明】
【００４１】
１１０  入力
１１１  ビジュアル・コンテント
１１２  センサ・モダリティ
１１３  オーディオ・コンテント
１２０  画像データベース
２００  画像認識アルゴリズム
２０５  ビジュアル・コンテント
２０６  オーディオ・コンテント
２１０  キーポイントに基づく比較
２１１  顕著なキーポイントの抽出
２１２  キーポイント
２１３  キーポイント特徴抽出
２１４  １セットのキーポイント特徴ベクトル
２１５  ペアワイズ比較
２２０  領域に基づく色彩比較
２２１  領域分割
２２３  色彩特徴抽出
２２４  １セットの色彩特徴ベクトル
２２５  ＥＭＤ比較
２３１  ＯＣＲ，音声認識
２３２  キーワード
２３３  余弦比較
３０５  センサ・モダリティ
３１０  ＧＰＳデータ
３１１  アラインメント
３３０  視認角および方向データ
【図１】
2010152884.tif 000003
【図２】
2010152884.tif 000004
【図３】
2010152884.tif 000005
【図４】
2010152884.tif 000006
【図５】
2010152884.tif 000007
【図６】
2010152884.tif 000008
【外国語明細書】
2010152884000001.pdf