(57)【特許請求の範囲】
【請求項１】
実空間を映す入力画像を取得する画像取得部と、
前記入力画像に映る物体の姿勢を認識する認識部と、
前記認識部により認識された前記物体の基準面が前記入力画像の撮像面に対応するように加工された加工画像を、前記入力画像から生成する生成部と、
前記生成部により生成された前記加工画像を表示装置に表示させる表示制御部と、
を備え、
前記表示制御部は、前記加工画像の表示に際して、前記入力画像が前記加工画像に徐々に変化していくようなアニメーションを前記表示装置に表示させる、
画像処理装置。
【請求項２】
前記基準面は、前記物体の正面であり、
前記加工画像は、前記物体の正面が前記撮像面に正対するように加工された正対画像である、
請求項１に記載の画像処理装置。
【請求項３】
前記物体は、矩形パターンを有する略平面状の物体であり、
前記正対画像は、前記矩形パターンが略長方形となるように加工された画像である、
請求項２に記載の画像処理装置
【請求項４】
前記生成部は、３次元レンダリングにおける視点が前記物体の正面方向に位置するように前記視点又は前記物体を３次元回転させることにより、前記正対画像を生成する、請求項３に記載の画像処理装置
【請求項５】
前記生成部は、前記物体に対応する前記入力画像内の部分領域に２次元的なアフィン変換を適用することにより、前記正対画像を生成する、請求項３に記載の画像処理装置
【請求項６】
前記生成部は、前記物体の前記入力画像から前記正対画像への加工量に応じて、前記物体に対応する前記入力画像内の部分領域の周辺領域をも加工する、請求項４に記載の画像処理装置。
【請求項７】
前記表示制御部は、前記物体が認識されている状態において第１のユーザ入力が検出された場合に、前記表示装置に前記加工画像を表示させる、請求項１に記載の画像処理装置。
【請求項８】
前記表示制御部は、前記加工画像が表示されている状態において第２のユーザ入力が検出された場合に、前記表示装置に前記入力画像を表示させる、請求項７に記載の画像処理装置。
【請求項９】
前記表示制御部は、前記物体の正面の前記撮像面に対する角度が所定の閾値を上回る場合に、前記表示装置に前記加工画像を表示させる、請求項１に記載の画像処理装置。
【請求項１０】
前記表示制御部は、前記入力画像内の前記物体に対応する部分領域の大きさが所定の閾値を下回る場合に、前記表示装置に前記加工画像を表示させる、請求項１に記載の画像処理装置。
【請求項１１】
前記表示制御部は、前記加工画像が表示されている場合に、前記物体に関連する仮想オブジェクトを前記表示装置に表示させ、当該仮想オブジェクトをユーザにより操作可能とする、請求項１に記載の画像処理装置。
【請求項１２】
実空間を映す入力画像を取得するステップと、
前記入力画像に映る物体の姿勢を認識するステップと、
認識された前記物体の基準面が前記入力画像の撮像面に対応するように加工された加工画像を、前記入力画像から生成するステップと、
生成された前記加工画像を表示装置に表示させるステップと、
を含み、
前記加工画像を前記表示装置に表示させるステップは、前記入力画像が前記加工画像に徐々に変化していくようなアニメーションを前記表示装置に表示させることを含む、
画像処理方法。
【請求項１３】
画像処理装置を制御するコンピュータを、
実空間を映す入力画像を取得する画像取得部と、
前記入力画像に映る物体の姿勢を認識する認識部と、
前記認識部により認識された前記物体の基準面が前記入力画像の撮像面に対応するように加工された加工画像を、前記入力画像から生成する生成部と、
前記生成部により生成された前記加工画像を表示装置に表示させる表示制御部と、
として機能させ、
前記表示制御部は、前記加工画像の表示に際して、前記入力画像が前記加工画像に徐々に変化していくようなアニメーションを前記表示装置に表示させる、
プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、画像処理方法及びプログラムに関する。
【背景技術】
【０００２】
昨今、テキスト、図形、記号又はイメージなどの形式で表現される様々な情報が実世界に存在している。これら情報は、通常、その正面から視認されることを前提として表現される。
【０００３】
例えば、下記特許文献１は、自動車の周辺に存在する道路標識の文字を認識して運転を支援するための技術を開示している。かかる技術においても、看板の文字は、正面から撮像されることを前提としている。情報を視覚的に読み取る際に当該情報を正面から視認することが望ましい点は、情報を読み取る主体が人間であってもコンピュータであっても同様である。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１０−２０２０１８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、実世界において、多くの物体は、情報の読み手の位置とは無関係に配置される。従って、情報を表現する物体の面を簡易に読み手の方向に向けることができれば有益である。
【課題を解決するための手段】
【０００６】
本開示によれば、実空間を映す入力画像を取得する画像取得部と、前記入力画像に映る物体の姿勢を認識する認識部と、前記認識部により認識された前記物体の基準面が前記入力画像の撮像面に対応するように加工された加工画像を、前記入力画像から生成する生成部と、前記生成部により生成された前記加工画像を表示装置に表示させる表示制御部と、を備える画像処理装置が提供される。
【０００７】
また、本開示によれば、実空間を映す入力画像を取得するステップと、前記入力画像に映る物体の姿勢を認識するステップと、認識された前記物体の基準面が前記入力画像の撮像面に対応するように加工された加工画像を、前記入力画像から生成するステップと、生成された前記加工画像を表示装置に表示させるステップと、を含む画像処理方法が提供される。
【０００８】
また、本開示によれば、画像処理装置を制御するコンピュータを、実空間を映す入力画像を取得する画像取得部と、前記入力画像に映る物体の姿勢を認識する認識部と、前記認識部により認識された前記物体の基準面が前記入力画像の撮像面に対応するように加工された加工画像を、前記入力画像から生成する生成部と、前記生成部により生成された前記加工画像を表示装置に表示させる表示制御部と、として機能させるためのプログラムが提供される。
【発明の効果】
【０００９】
本明細書で開示される技術によって、情報を表現する物体の面を簡易に読み手の方向に向けることが可能となる。
【図面の簡単な説明】
【００１０】
【図１】一実施形態に係る画像処理装置の概要について説明するための説明図である。
【図２】一実施形態に係る画像処理装置のハードウェア構成の一例を示すブロック図である。
【図３】一実施形態に係る画像処理装置の論理的機能の構成の一例を示すブロック図である。
【図４】画像認識部による認識の結果の一例について説明するための説明図である。
【図５Ａ】生成部による正対画像の生成手法の第１の例について説明するための第１の説明図である。
【図５Ｂ】生成部による正対画像の生成手法の第１の例について説明するための第２の説明図である。
【図６】生成部による正対画像の生成手法の第２の例について説明するための説明図である。
【図７】一実施形態に係る画像処理装置により表示される入力画像の一例を示す説明図である。
【図８】図７に例示した入力画像の加工について説明するための第１の説明図である。
【図９】図７に例示した入力画像の加工について説明するための第２の説明図である。
【図１０】図７に例示した入力画像から生成される正対画像の一例を示す説明図である。
【図１１】図１０に例示した正対画像に関連する仮想オブジェクトの操作の一例について説明するための説明図である。
【図１２】一実施形態に係る画像処理装置による処理の流れの一例を示すフローチャートである。
【発明を実施するための形態】
【００１１】
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【００１２】
また、以下の順序で説明を行う。
１．概要
２．一実施形態に係る画像処理装置の構成例
２−１．ハードウェア構成
２−２．機能構成
３．表示される画像の例
４．処理の流れ
５．まとめ
【００１３】
＜１．概要＞
図１は、本明細書で開示する技術の一実施形態の概要について説明するための説明図である。図１を参照すると、実空間１内でユーザにより携帯されている画像処理装置１００が示されている。
【００１４】
画像処理装置１００は、実空間を撮像した画像を画面上に表示する装置である。画像処理装置１００は、例えば、スマートフォン、ＰＤＡ（Personal  Digital  Assistant）、ゲーム端末又は携帯用音楽プレーヤなどの端末装置であってもよく、ＰＣ（Personal  Computer）又はワークステーションなどの情報処理装置であってよい。
【００１５】
実空間１は、画像処理装置１００が利用され得る空間の一例である。実空間１内には、物体１２ａ及び１２ｂが存在する。物体１２ａは、案内用の看板である。物体１２ａには、シンボルマーク１３ａが付されている。物体１２ｂは、情報表示用の掲示板である。画像処理装置１００は、このような実空間１を撮像した画像を取得し、取得した画像を画像処理装置１００の画面上に表示する。ここで、物体１２ａ及び１２ｂの正面は、必ずしも画像を撮像する装置の光軸方向に一致していない。従って、撮像された画像をそのまま画面上に表示すると、当該画像に映る情報（例えば、物体１２ａに描かれている情報、又は物体１２ｂにより掲示されている情報）をユーザが正しく読み取ることができない可能性がある。そこで、本実施形態に係る画像処理装置１００は、次節より詳しく説明するように、画像に映る物体の基準面が撮像面に対応するように画像を加工して、画像に映る情報の視認性を向上させる。
【００１６】
＜２．一実施形態に係る画像処理装置の構成例＞
［２−１．ハードウェア構成］
図２は、本実施形態に係る画像処理装置１００のハードウェア構成の一例を示すブロック図である。図２を参照すると、画像処理装置１００は、撮像部１０２、センサ部１０４、入力部１０６、記憶部１０８、表示部１１２、通信部１１４、バス１１８及び制御部１２０を備える。
【００１７】
（撮像部）
撮像部１０２は、画像を撮像するカメラモジュールである。撮像部１０２は、ＣＣＤ（Charge  Coupled  Device）又はＣＭＯＳ（Complementary  Metal  Oxide  Semiconductor）などの撮像素子を用いて実空間を撮像し、撮像画像を生成する。撮像部１０２は、映像入力のための撮像回路と静止画入力のための撮像回路の双方又はいずれか一方のみを有していてもよい。
【００１８】
（センサ部）
センサ部１０４は、画像処理装置１００の位置及び姿勢の認識を支援し、又は画像処理装置１００への一部のユーザ入力を検出するセンサ群である。例えば、センサ部１０４は、ＧＰＳ（Global  Positioning  System）信号を受信して画像処理装置１００の緯度、経度及び高度を測定するＧＰＳセンサを含んでもよい。また、センサ部１０４は、無線アクセスポイントから受信される無線信号の強度に基づいて画像処理装置１００の位置を測定する測位センサを含んでもよい。また、センサ部１０４は、画像処理装置１００の３軸加速度を測定する加速度センサ又は傾き角を測定するジャイロセンサなどのモーションセンサを含んでもよい。
【００１９】
（入力部）
入力部１０６は、ユーザが画像処理装置１００を操作し又は画像処理装置１００へ情報を入力するために使用される入力デバイスである。入力部１０６は、典型的には、表示部１１２の画面上へのユーザによるタッチを検出するタッチセンサを含む。その代わりに（又はそれに加えて）、入力部１０６は、マウス若しくはタッチパッドなどのポインティングデバイス、画像に映るユーザのジェスチャを認識するジェスチャ認識モジュール、又はＨＭＤ（Head  Mounted  Display）を装着したユーザの視線方向を検出する視線検出モジュールを含んでもよい。さらに、入力部１０６は、キーボード、キーパッド、ボタン又はスイッチなどのその他の種類の入力デバイスを含んでもよい。
【００２０】
（記憶部）
記憶部１０８は、半導体メモリ又はハードディスクなどの記憶媒体により構成され、画像処理装置１００による処理のためのプログラム及びデータを記憶する。記憶部１０８により記憶されるデータには、例えば、撮像部１０２により生成される画像データ及びセンサ部１０４により生成されるセンサデータが含まれ得る。また、記憶部１０８により記憶されるデータには、例えば、画像に映る物体の認識の際に用いられるモデルデータも含まれ得る。
【００２１】
（表示部）
表示部１１２は、ＬＣＤ（Liquid  Crystal  Display）、ＯＬＥＤ（Organic  light-Emitting  Diode）又はＣＲＴ（Cathode  Ray  Tube）などにより構成される表示モジュールである。表示部１１２は、例えば、撮像部１０２により撮像される画像、又は制御部１２０において加工される画像を画面上に表示する。
【００２２】
（通信部）
通信部１１４は、画像処理装置１００による他の装置との間の通信を仲介する通信インタフェースである。通信部１１４は、任意の無線通信プロトコル又は有線通信プロトコルをサポートし、他の装置との間の通信接続を確立する。
【００２３】
（バス）
バス１１８は、撮像部１０２、センサ部１０４、入力部１０６、記憶部１０８、表示部１１２、通信部１１４及び制御部１２０を相互に接続する。
【００２４】
（制御部）
制御部１２０は、ＣＰＵ（Central  Processing  Unit）又はＤＳＰ（Digital  Signal  Processor）などのプロセッサに相当する。制御部１２０は、記憶部１０８又は他の記憶媒体に記憶されるプログラムを実行することにより、後に説明する画像処理装置１００の様々な機能を動作させる。
【００２５】
［２−２．機能構成］
図３は、図２に示した画像処理装置１００の記憶部１０８及び制御部１２０により実現される論理的機能の構成の一例を示すブロック図である。図３を参照すると、画像処理装置１００は、画像取得部１３０、フレームメモリ１３２、モデルデータベース（ＤＢ）１３８、画像認識部１４０、検出部１５０、生成部１６０、画像ＤＢ１６２及び表示制御部１７０を含む。
【００２６】
（１）画像取得部
画像取得部１３０は、実空間を映した画像を入力画像として取得する。画像取得部１３０は、例えば、撮像部１０２からの映像入力の最新のフレームを入力画像として取得してもよい。また、画像取得部１３０は、記憶部１０８により記憶されている過去に撮像された映像入力の各フレーム又はスナップショットとして撮像された静止画を入力画像として取得してもよい。画像取得部１３０は、取得した入力画像を画像認識部１４０へ出力する。
【００２７】
（２）モデルＤＢ
モデルＤＢ１３８は、画像処理装置１００が認識の対象とする物体の形状又は外観に関するモデルデータを予め蓄積しているデータベースである。本実施形態において、画像処理装置１００による認識の対象は、典型的には、看板、案内板、掲示板、ポスター、スクリーン又は交通標識などの、何らかの情報が表現される面を有する物体である。モデルデータは、これら物体の形状を定義するデータを含んでもよい。また、モデルデータは、これら物体に付される所定のシンボルマーク又はテキストラベルなどの画像データを含んでもよい。また、モデルデータは、これら物体についての既知の画像から抽出された特徴量セットのデータを含んでもよい。
【００２８】
（３）画像認識部
画像認識部１４０は、画像取得部１３０から入力される入力画像にどの物体が映っているか、並びに入力画像に映っている物体の３次元的な位置及び姿勢を認識する。画像認識部１４０により認識される物体の位置及び姿勢は、典型的には、入力画像を撮像した装置の撮像面に対する相対的な位置及び姿勢である。画像認識部１４０は、例えば、入力画像から抽出される特徴点のセットをモデルデータにより定義され得る物体の形状と照合してもよい。また、画像認識部１４０は、モデルデータにより定義され得るシンボルマーク又はテキストラベルなどの画像データを入力画像と照合してもよい。また、画像認識部１４０は、モデルデータにより定義され得る既知の物体の画像の特徴量を入力画像から抽出される特徴量と照合してもよい。いずれの場合にも、画像認識部１４０は、所定の閾値よりも良好な照合スコアを示す物体が、当該照合スコアに対応する位置及び姿勢で入力画像に映っていると認識することができる。また、画像認識部１４０は、モデルデータを用いることなく、入力画像に現れる四角形のパターンを、何らかの矩形パターンを有する物体であると簡易に認識してもよい。
【００２９】
図４は、画像認識部１４０による認識の結果の一例について説明するための説明図である。図４を参照すると、画像認識部１４０へ入力される一例としての入力画像Ｉｍ０が示されている。そして、画像認識部１４０による画像認識の結果として、入力画像Ｉｍ０に映る物体１２ａの位置Ｘａ及び姿勢Ｗａ、並びに物体１２ｂの位置Ｘｂ及び姿勢Ｗｂが認識されている。各物体の位置Ｘは、３次元のグローバル座標系（ｘ，ｙ，ｚ）によって、各物体の基準点（例えば、モデル座標系の原点）の位置として与えられ得る。グローバル座標系は、例えば、画像処理装置１００の位置を原点とする相対的な位置座標を表す座標系であってもよい。その代わりに、グローバル座標系は、実空間内に固定的に定義される座標系であってもよい。各物体の姿勢Ｗは、グローバル座標系を基準とした各物体の回転を表す回転行列又はクォータニオン（四元数）として与えられ得る。なお、本明細書では、説明の簡明さのために各物体の位置Ｘ及び姿勢Ｗを別個の変量として説明する。しかしながら、各物体の位置Ｘ及び姿勢Ｗは、グローバル座標系と各物体のモデル座標系との間の変換を表す４行４列の１つの同次変換行列によって統合的に表現されてもよい。その場合には、各物体の位置Ｘ及び姿勢Ｗは、１つの同次変換行列から必要に応じて抽出され、用いられる。画像認識部１４０は、このように認識した入力画像に映る各物体の識別子、位置及び姿勢を、生成部１６０及び表示制御部１７０へ出力する。
【００３０】
（４）検出部
検出部１５０は、ユーザ入力を検出し、ユーザ入力情報を生成部１６０へ出力する。検出部１５０により検出されるユーザ入力は、例えば、図２に示した入力部１０６のタッチセンサへの様々なタッチ入力（例えば、タッチ、タップ、ダブルタップ、ドラッグ、フリック、ピンチイン及びピンチアウトなど）を含み得る。また、検出部１５０により検出されるユーザ入力は、例えば、図２に示したセンサ部１０４のセンサ群により測定される画像処理装置１００の動き（例えば、傾き又は揺れなど）をも含み得る。
【００３１】
本実施形態において、検出部１５０により検出される第１のユーザ入力は、通常表示モードから正対表示モードへの移行のトリガを意味する。通常表示モードでは入力画像が表示装置により表示されるのに対し、正対表示モードでは、後に説明する生成部１６０により生成される画像が表示される。検出部１５０により検出される第２のユーザ入力は、正対表示モードの終了を意味する。正対表示モードが終了すると、画像処理装置１００の状態は通常表示モードに復帰し、入力画像が再び表示される。第１のユーザ入力及び第２のユーザ入力は、上述した様々な種類のユーザ入力の任意の組合せであってよい。
【００３２】
（５）生成部
生成部１６０は、正対表示モードにおいて、画像認識部１４０により認識される物体の基準面が入力画像を撮像した装置の撮像面に対応するように入力画像を加工することにより、加工画像を生成する。第１の面が第２の面に「対応する」とは、例えば第１の面が第２の面と略平行となることをいう。以下の説明では、物体の基準面は当該物体の正面であり、上記加工画像は物体の正面が撮像面に正対するように加工された正対画像である例に主に言及する。物体が何らかの情報を表現する面を有する場合には、その面の法線方向が当該物体の正面であってよい。図４の例から理解されるように、物体の姿勢が決定されれば、当該物体の正面の方向を姿勢に基づいて決定することができる。但し、かかる例に限定されず、物体の基準面は、物体の側面、上面、背面、底面又は斜めの方角から見た面などであってもよい。物体の基準面は、例えば、物体固有のモデル座標系を用いてモデルデータ内で予め定義されてもよい。
【００３３】
（５−１）正対画像の生成手法
上述したように、本実施形態において、画像認識部１４０により認識される物体の多くは、その形状又は外観に矩形のパターンを有する略平面状の物体である。但し、物体の正面が撮像面に正対していない状態では、物体の矩形パターンは、画像内で長方形以外の四角形の形状を示す。生成部１６０は、そのような物体の矩形パターンが正対画像内で略長方形となるように正対画像を生成する。以下、図５及び図６を用いて、生成部１６０による正対画像の生成手法の２つの例を説明する。
【００３４】
第１の手法は、画像処理装置１００が３次元レンダリングを用いることを前提としている。３次元レンダリングにおいては、３次元的に定義される物体（モデル）の形状と仮想的な視点（カメラ位置）とに基づいて、物体の仮想的なグラフィックを表示することができる。そこで、第１の手法では、生成部１６０は、３次元レンダリングにおける視点が物体の正面方向に位置するように上記視点又は認識された物体を３次元回転させることにより、正対画像を生成する。
【００３５】
図５Ａ及び図５Ｂは、正対画像の生成手法の第１の例について説明するための説明図である。図５Ａの左には、入力画像に映る物体１２と画像処理装置１００の撮像面１０３との位置関係が概念的に示されている。３次元レンダリングの視点は、撮像面１０３の背後に位置する。Ｘ１及びＷ１は、それぞれ、撮像面１０３に対する物体１２の相対的な位置及び姿勢を表す。位置Ｘ１及び姿勢Ｗ１は、画像認識部１４０による認識の結果として取得される。生成部１６０は、このような３次元レンダリングの仮想的な空間内で、姿勢Ｗ１に対応する回転量αだけ視点の位置を回転移動させる。それにより、物体１２の正面に視点が位置することになり、レンダリングによって正対画像を生成することができる。
【００３６】
図５Ｂの左には、図５Ａと同様の物体１２と画像処理装置１００の撮像面１０３との位置関係が再び示されている。生成部１６０は、このような３次元レンダリングの仮想的な空間内で、姿勢Ｗ１に対応する回転量αだけ物体１２を回転させてもよい。この場合にも、物体１２の正面に視点が位置することになり、レンダリングによって正対画像を生成することができる。その結果、物体１２の正面の矩形パターンが、正対画像において略長方形となるように表示され得る。
【００３７】
第２の手法において、生成部１６０は、認識された物体に対応する入力画像内の部分領域に２次元的なアフィン変換を適用することにより、正対画像を生成する。図６を参照すると、物体１２の正面の矩形のパターンが入力画像内で歪んで映っている様子が示されている。ここで、物体１２の平面内の２つの基底ベクトルをｘｅ及びｙｅとする。また、撮像面内で互いに直交する２つの基底ベクトルをｘ´ｅ及びｙ´ｅとする。すると、物体１２に対応する部分領域が長方形となるように当該部分領域を変形させるためのアフィン変換の変換行列Ｍｔｒａｎｓを、次式によって導くことができる：
【００３８】
【数１】
0005724544.tif 000002
【００３９】
生成部１６０は、かかる変換行列Ｍｔｒａｎｓを用いて物体１２に対応する入力画像内の部分領域の各画素の画素位置を正対画像内の加工後の画素位置にマッピングすることにより、正対画像を生成することができる。図６の例では、入力画像内の部分領域の画素位置Ｐ０が変換行列Ｍｔｒａｎｓによって正対画像内の画素位置Ｐ０´にマッピングされる様子が示されている。
【００４０】
なお、上述した第１の手法及び第２の手法は、物体の基準面が物体の正面以外の面である場合にも適用可能である。また、第１の手法及び第２の手法のいずれにおいても、生成部１６０は、正対画像における物体１２の大きさを、物体１２により表現される情報が当該情報を読み取るために適した大きさとなるように拡大（又は縮小）してもよい。
【００４１】
また、生成部１６０は、正対させる対象の物体の入力画像から正対画像への加工量に応じて、上記部分領域の周辺領域をも加工してよい。第１の手法においては、物体の入力画像から正対画像への加工量とは、３次元レンダリングにおける視点又は物体の３次元回転の回転量を意味する。第２の手法においては、物体の入力画像から正対画像への加工量とは、上記変換行列Ｍｔｒａｎｓによる画素位置の平行移動及び回転の量を意味する。このような加工が行われると、周辺領域の画像に歪みは生じるものの、入力画像に映る物体とその周辺との見た目における連続性が正対画像においても維持される。それにより、ユーザは、入力画像に映るどの物体が加工されたのかを容易に理解することができる。
【００４２】
また、生成部１６０は、正対画像においても物体により表現される情報の読み取りが困難であると予測される場合には、当該物体の部分領域の画像を他の画像に差し替えてもよい。例えば、画像ＤＢ１６２は、画像処理装置１００による認識の対象となる各物体を正面から高解像度で撮像した画像を、各物体の識別子と関連付けて予め記憶する。それにより、生成部１６０は、画像認識部１４０から入力される物体の識別子を用いて当該物体に関連する画像を画像ＤＢ１６２から取得し、上記部分領域の画像を取得した画像に差し替えることができる。
【００４３】
（５−２）対象物体の特定
図４に例示したように、入力画像内で複数の物体が認識される可能性がある。その場合、生成部１６０は、いずれの物体を正対させるかを、ユーザによる明示的な指定に従って決定してもよい。物体の指定は、例えば、物体と関連付けられる判定領域に対するタッチセンサ上のタッチ又はポインティングデバイスを用いたクリックなどによって行われ得る。また、生成部１６０は、物体の基準面の撮像面に対する角度が最も大きい物体又は入力画像内の部分領域の大きさが最も大きい物体を、正対させる対象の物体として特定してもよい。また、生成部１６０は、入力画像内の複数の物体の全てを正対画像において撮像面に正対させてもよい。
【００４４】
（６）表示制御部
表示制御部１７０は、通常表示モードにおいては、表示部１１２の画面上に入力画像を表示させる。また、表示制御部１７０は、正対表示モードにおいては、生成部１６０により生成される正対画像を表示部１１２の画面上に表示させる。
【００４５】
通常表示モードから正対表示モードへの移行のトリガは、上述した第１のユーザ入力の検出であってもよい。第１のユーザ入力は、例えば、タッチセンサへの所定のタッチ入力又はモーションセンサにより感知される画像処理装置１００の所定の動きを含み得る。また、表示制御部１７０は、次のいずれかの条件が満たされた場合に、正対表示モードへ移行してもよい：
ａ）入力画像に映る物体の基準面の撮像面に対する角度が所定の閾値を上回る
ｂ）認識された物体に対応する入力画像内の部分領域の大きさが所定の閾値を下回る
これら条件が満たされる場合には、各物体により表現される情報の読み取りが困難となっていることが示唆される。そのため、ユーザ入力がなくとも、各条件が満たされる場合に情報の読み取りに適した正対画像を自動的に表示することが有益である。
【００４６】
また、表示制御部１７０は、正対表示モードにおいて第２のユーザ入力が検出された場合には、正対画像の表示を終了し、通常表示モードに復帰する。第２のユーザ入力は、第１のユーザ入力と同じ種類のユーザ入力であってもよく、第１のユーザ入力と異なる種類のユーザ入力であってもよい。また、表示制御部１７０は、正対表示モードへの移行から所定の時間が経過した場合に、通常表示モードに復帰してもよい。
【００４７】
通常表示モードから正対表示モードへの移行の際、表示制御部１７０は、入力画像が加工画像に徐々に変化していくようなアニメーションを表示装置に表示させてもよい。当該アニメーションは、例えば、対象の物体の基準面が撮像面に徐々に正対していくようなアニメーションである。その場合には、入力画像と正対画像との間で物体の姿勢が徐々に変化していく複数の中間的な画像が生成部１６０により生成され、表示制御部１７０は、それら中間的な画像を順次表示装置に表示させる。それにより、入力画像と正対画像との間の、ユーザに感知される連続性が強化される。従って、ユーザは、入力画像に映るどの物体が加工されたのかを直感的かつ容易に理解することができる。
【００４８】
また、表示制御部１７０は、正対表示モードにおいて、撮像面に正対するように表示された対象物体に関連する仮想オブジェクトをさらに画面上に表示させ、当該仮想オブジェクトをユーザにより操作可能としてもよい。ここでの仮想オブジェクトは、いわゆる拡張現実（ＡＲ：Augmented  Reality）のアノテーションであってよく、各物体に関連する情報コンテンツ（例えば、ナビゲーション情報、広告情報、店舗情報又はニュースなど）を表現するオブジェクトを含み得る。例えば、表示制御部１７０は、検出部１５０により仮想オブジェクトに対する第３のユーザ入力が検出された場合に、仮想オブジェクトの状態を変化させる。仮想オブジェクトの状態とは、仮想オブジェクトの位置、姿勢、サイズ又はスクロール位置などを含み得る（例えば、仮想オブジェクトがドラッグされた場合には情報コンテンツをスクロールさせ、仮想オブジェクトがピンチアウトされた場合には情報コンテンツを拡大する、など）。本実施形態では、物体により表現される情報の視認性が正対画像の表示によって高められるため、当該物体と関連する仮想オブジェクトの操作もまた、ユーザにとってより容易となる。
【００４９】
＜３．表示される画像の例＞
次に、図７〜図１１を用いて、本実施形態において表示され得る画像の例を説明する。
【００５０】
図７を参照すると、画像処理装置１００の画面上に入力画像Ｉｍ１ａが表示されている。入力画像Ｉｍ１ａには、物体１２ｄ及び物体１２ｅが映っている。画像処理装置１００の画像認識部１４０は、入力画像Ｉｍ１ａに物体１２ｄ及び物体１２ｅが映っていること、並びに各物体の位置及び姿勢を認識する。このような状況において、検出部１５０により、正対画像の表示のトリガとなる第１のユーザ入力（例えば、物体１２ｄの判定領域のユーザによるタップ）が検出されたものとする。すると、生成部１６０は、物体１２ｄの正面が撮像面に正対するように加工された正対画像を生成する。
【００５１】
図８を参照すると、入力画像Ｉｍ１ａ内で認識される物体１２ｄの部分領域が、枠１３ｄで囲まれている。物体１２ｄの部分領域は、図中で斜線の網掛けにより示されている矩形パターン１４ｄを含む。生成部１６０は、かかる物体１２ｄの矩形パターン１４ｄが正対画像内で略長方形となるように正対画像を生成する。図９を参照すると、入力画像Ｉｍ１ａから生成される正対画像Ｉｍ１ｂ内の物体１２ｄの部分領域を囲む枠１３ｄ及び矩形パターン１４ｄが示されている。矩形パターン１４ｄは、正対画像Ｉｍ１ｂ内で略長方形となっている。また、本実施形態では、生成部１６０は、正対させる対象の物体の部分領域のみならず、当該部分領域の周辺領域をも加工する。図９の例では、枠１３ｄに囲まれた物体１２ｄの部分領域のみならず、物体１２ｅが映る周辺領域も加工されていることが示されている。
【００５２】
図１０を参照すると、画像処理装置１００の画面上に生成部１６０により生成された正対画像Ｉｍ１ｂが表示されている。ユーザは、かかる正対画像Ｉｍ１ｂを参照することで、物体１２ｄにより表現されている情報を物体１２ｄの正面から視認することができる。
【００５３】
また、画像処理装置１００の表示制御部１７０は、正対画像が表示されている状態において、撮像面に正対した物体に関連する仮想オブジェクトを正対画像に重畳して表示させ得る。さらに、当該仮想オブジェクトは、ユーザにより操作可能であってよい。図１１を参照すると、図１０に例示した正対画像Ｉｍ１ｂに映る物体１２ｄに、仮想オブジェクト１５ｄが重畳されている。そして、図１１には、例えばユーザが画面上で仮想オブジェクト１５ｄをドラッグすることで、仮想オブジェクト１５ｄが左方向へスクロールする様子が示されている。なお、正対画像に重畳される仮想オブジェクトは、より高解像度の物体画像、情報量が追加された物体画像、又は物体と関連する何らかの情報を表現するテキスト、アイコン若しくは画像などであってよい。
【００５４】
＜４．処理の流れ＞
図１２は、本実施形態に係る画像処理装置１００による処理の流れの一例を示すフローチャートである。なお、図１２に示した処理の開始時において、画像処理装置１００は、通常表示モードの状態にあるものとする。
【００５５】
図１２を参照すると、まず、画像取得部１３０は、実空間を映した画像を入力画像として取得する（ステップＳ１０２）。次に、画像認識部１４０は、画像取得部１３０により取得された入力画像にどの物体が映っているか、並びに入力画像に映っている物体の３次元的な位置及び姿勢を認識する（ステップＳ１０４）。
【００５６】
次に、表示制御部１７０は、正対表示モードへの移行のトリガが検出されたか否かを判定する（ステップＳ１０６）。正対表示モードへのトリガが検出されていない場合には、表示制御部１７０は、画像取得部１３０により取得された入力画像を画面上に表示させる（ステップＳ１０８）。このとき、表示制御部１７０は、何らかの仮想オブジェクトを入力画像に重畳してもよい。例えば、画像認識部１４０により認識された物体の位置及び姿勢を示す（例えば、図８の枠１３ｄのような）補助的な仮想オブジェクト、又は各物体の上述した判定領域を示す補助的な仮想オブジェクトが入力画像に重畳され得る。そして、処理はステップＳ１０２へ戻る。
【００５７】
ステップＳ１０６において正対表示モードへの移行のトリガが検出された場合には、処理はステップＳ１１０へ進む。ステップＳ１１０では、生成部１６０は、ユーザによる明示的な指定、又は入力画像内での各物体の大きさ若しくは姿勢に応じて、入力画像に映るいずれの物体を正対させるかを決定する（ステップＳ１１０）。そして、生成部１６０は、決定した物体の基準面（例えば正面）が撮像面に正対するように入力画像を加工することにより、正対画像を生成する（ステップＳ１１２）。そして、表示制御部１７０は、生成部１６０により生成された正対画像を画面上に表示させる（ステップＳ１１４）。
【００５８】
その後、正対表示モードの終了のトリガ（例えば、上述した第２のユーザ入力又は所定の時間の経過など）が検出されると、画像処理装置１００の状態は通常表示モードに復帰し、処理はステップＳ１０２へ戻る（ステップＳ１１６）。
【００５９】
＜５．まとめ＞
ここまで、図１〜図１２を用いて、本技術の一実施形態について詳細に説明した。上述した実施形態によれば、入力画像に映る物体の基準面が撮像面に対応するように入力画像が加工され、加工画像が表示される。従って、実世界において何らかの情報を表現する物体の基準面を簡易に読み手の方向に向けることが可能となる。加工画像の表示は、画面へのタッチ又は端末の動きなどをトリガとして行われ得る。また、物体により表現される情報の視認性が加工画像の表示によって高められるため、加工画像に映る物体と関連付けて表示される仮想オブジェクト（例えば、ＡＲアプリケーションのアノテーション）の操作もまたユーザにとってより容易となる。
【００６０】
また、本実施形態によれば、認識された物体の基準面の撮像面に対する角度が所定の閾値を上回る場合、又は当該物体に対応する入力画像内の部分領域の大きさが所定の閾値を下回る場合にも、上記加工画像が表示され得る。従って、各物体により表現される情報の読み取りが困難となっている状況において、ユーザ入力を待つことなく、情報の読み取りに適した画像を迅速にユーザに提供することも可能である。
【００６１】
また、本実施形態によれば、上記加工画像が生成される際に、上記物体に対応する部分領域のみならず、当該部分領域の周辺領域もまた上記物体と同様に加工される。従って、入力画像に映る物体とその周辺との見た目における連続性が加工画像においても維持される。それにより、ユーザは、入力画像に映るどの物体が加工されたのかを容易に理解することができる。
【００６２】
本明細書において説明した画像処理装置１００による処理は、ソフトウェア、ハードウェア、及びソフトウェアとハードウェアとの組合せのいずれを用いて実現されてもよい。ソフトウェアを構成するプログラムは、例えば、各装置の内部又は外部に設けられる記憶媒体に予め格納される。そして、各プログラムは、例えば、実行時にＲＡＭ（Random  Access  Memory）に読み込まれ、ＣＰＵなどのプロセッサにより実行される。
【００６３】
なお、本実施形態では、主に画像処理装置１００の表示部１１２の画面上に加工画像が表示される例について説明した。しかしながら、他の実施形態として、ユーザにより携帯される端末装置から入力画像を受信する画像処理装置において、入力画像に映る物体の姿勢の認識結果に基づき、入力画像から加工画像が生成されてもよい。その場合には、生成された加工画像が当該画像処理装置から端末装置へ送信され、端末装置の画面上に加工画像が表示され得る。
【００６４】
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本技術はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
【００６５】
なお、本技術は以下のような構成も取ることができる。
（１）
実空間を映す入力画像を取得する画像取得部と、
前記入力画像に映る物体の姿勢を認識する認識部と、
前記認識部により認識された前記物体の基準面が前記入力画像の撮像面に対応するように加工された加工画像を、前記入力画像から生成する生成部と、
前記生成部により生成された前記加工画像を表示装置に表示させる表示制御部と、
を備える画像処理装置。
（２）
前記基準面は、前記物体の正面であり、
前記加工画像は、前記物体の正面が前記撮像面に正対するように加工された正対画像である、
前記（１）に記載の画像処理装置。
（３）
前記物体は、矩形パターンを有する略平面状の物体であり、
前記正対画像は、前記矩形パターンが略長方形となるように加工された画像である、
前記（２）に記載の画像処理装置
（４）
前記生成部は、３次元レンダリングにおける視点が前記物体の正面方向に位置するように前記視点又は前記物体を３次元回転させることにより、前記正対画像を生成する、前記（３）に記載の画像処理装置
（５）
前記生成部は、前記物体に対応する前記入力画像内の部分領域に２次元的なアフィン変換を適用することにより、前記正対画像を生成する、前記（３）に記載の画像処理装置
（６）
前記生成部は、前記物体の前記入力画像から前記正対画像への加工量に応じて、前記物体に対応する前記入力画像内の部分領域の周辺領域をも加工する、前記（４）又は前記（５）に記載の画像処理装置。
（７）
前記表示制御部は、前記物体が認識されている状態において第１のユーザ入力が検出された場合に、前記表示装置に前記加工画像を表示させる、前記（１）〜（６）のいずれか１項に記載の画像処理装置。
（８）
前記表示制御部は、前記加工画像が表示されている状態において第２のユーザ入力が検出された場合に、前記表示装置に前記入力画像を表示させる、前記（７）に記載の画像処理装置。
（９）
前記表示制御部は、前記物体の正面の前記撮像面に対する角度が所定の閾値を上回る場合に、前記表示装置に前記加工画像を表示させる、前記（１）〜（６）のいずれか１項に記載の画像処理装置。
（１０）
前記表示制御部は、前記入力画像内の前記物体に対応する部分領域の大きさが所定の閾値を下回る場合に、前記表示装置に前記加工画像を表示させる、前記（１）〜（６）のいずれか１項に記載の画像処理装置。
（１１）
前記表示制御部は、前記加工画像の表示に際して、前記入力画像が前記加工画像に徐々に変化していくようなアニメーションを前記表示装置に表示させる、前記（１）〜（１０）のいずれか１項に記載の画像処理装置。
（１２）
前記表示制御部は、前記加工画像が表示されている場合に、前記物体に関連する仮想オブジェクトを前記表示装置に表示させ、当該仮想オブジェクトをユーザにより操作可能とする、前記（１）〜（１１）のいずれか１項に記載の画像処理装置。
（１３）
実空間を映す入力画像を取得するステップと、
前記入力画像に映る物体の姿勢を認識するステップと、
認識された前記物体の基準面が前記入力画像の撮像面に対応するように加工された加工画像を、前記入力画像から生成するステップと、
生成された前記加工画像を表示装置に表示させるステップと、
を含む画像処理方法。
（１４）
画像処理装置を制御するコンピュータを、
実空間を映す入力画像を取得する画像取得部と、
前記入力画像に映る物体の姿勢を認識する認識部と、
前記認識部により認識された前記物体の基準面が前記入力画像の撮像面に対応するように加工された加工画像を、前記入力画像から生成する生成部と、
前記生成部により生成された前記加工画像を表示装置に表示させる表示制御部と、
として機能させるためのプログラム。
【符号の説明】
【００６６】
１００    画像処理装置
１３０    画像取得部
１４０    画像認識部
１５０    検出部
１６０    生成部
１７０    表示制御部
【図１】
0005724544.tif 000003
【図２】
0005724544.tif 000004
【図３】
0005724544.tif 000005
【図４】
0005724544.tif 000006
【図５Ａ】
0005724544.tif 000007
【図５Ｂ】
0005724544.tif 000008
【図６】
0005724544.tif 000009
【図７】
0005724544.tif 000010
【図８】
0005724544.tif 000011
【図９】
0005724544.tif 000012
【図１０】
0005724544.tif 000013
【図１１】
0005724544.tif 000014
【図１２】
0005724544.tif 000015