(57)【要約】【課題】画像の高解像度化処理を行う場合に、特定のオブジェクトの解像度をより向上させる。【解決手段】入力画像取得部４０６は、オブジェクトを撮像することで得られる撮像画像を取得する。学習部４０５は、前記オブジェクトに関する教師画像データのデータセットであって、前記オブジェクトの重要度を示すオブジェクト情報に基づいて決まるデータセットを用いた学習により、前記オブジェクトの画像の解像度を変換する処理に係るパラメータを決定するする。推論部４０７は、学習部４０５により決定した前記パラメータに基づいて、前記撮像画像の解像度を変換する。【選択図】図４
2020102012.tif 000002
【特許請求の範囲】
【請求項１】
オブジェクトを撮像することで得られる撮像画像を取得する第１取得手段と、
前記オブジェクトに関する教師画像データのデータセットであって、前記オブジェクトの重要度を示すオブジェクト情報に基づいて決まるデータセットを用いた学習により、前記オブジェクトの画像の解像度を変換する処理に係るパラメータを決定する決定手段と、
前記決定手段により決定した前記パラメータに基づいて、前記撮像画像の解像度を変換する変換手段と
を有することを特徴とする画像処理装置。
【請求項２】
前記オブジェクト情報に基づいて、前記オブジェクトの画像についての解像度の変換に関するレベルを取得する第２取得手段を有し、
前記決定手段は、前記レベルに応じた学習により前記パラメータを決定することを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記第２取得手段は、前記教師画像データおよび前記オブジェクト情報に基づいて導出された前記レベルを取得する
ことを特徴とする、請求項２に記載の画像処理装置。
【請求項４】
前記第２取得手段は、ユーザにより入力された前記レベルを取得する
ことを特徴とする、請求項２に記載の画像処理装置。
【請求項５】
前記第２取得手段は、前記決定手段による前記パラメータの決定のための学習が所定時間以内に終了するように前記レベルを再導出し、再導出した前記レベルを前記教師画像データの前記オブジェクトに付与する
ことを特徴とする、請求項２から４の何れか一項に記載の画像処理装置。
【請求項６】
前記教師画像データを取得する第３取得手段をさらに有する
ことを特徴とする、請求項１から５の何れか一項に記載の画像処理装置。
【請求項７】
前記オブジェクト情報は、前記オブジェクトの属性、前記オブジェクトの行動、前記オブジェクトに対する他のオブジェクトの行動、前記データセットの性質のうち少なくとも１つを含む
ことを特徴とする、請求項１から６の何れか一項に記載の画像処理装置。
【請求項８】
前記レベルおよび前記教師画像データに基づいて、データセットを作成する作成手段を有し、
前記決定手段は、前記レベルに応じた前記データセットに基づいて、前記パラメータを決定するための学習を行う
ことを特徴とする、請求項１から６の何れか一項に記載の画像処理装置。
【請求項９】
前記作成手段は、前記レベルに基づいて、前記撮像画像のデータと前記教師画像データとの解像度の倍率を決定する
ことを特徴とする、請求項８に記載の画像処理装置。
【請求項１０】
前記作成手段は、前記レベルに基づいて、画像データの分割度合いを決定し、決定した分割度合いに応じて前記教師画像データと前記撮像画像のデータを部位ごとに分割した前記データセットを作成する
ことを特徴とする、請求項８または９に記載の画像処理装置。
【請求項１１】
前記作成手段は、前記レベルに基づいて、特定のオブジェクトに特化したオブジェクト特化度合いを決定し、決定したオブジェクト特化度合いに応じて、前記特定のオブジェクトに対応する前記教師画像データに基づいた前記データセットを作成する
ことを特徴とする、請求項８から１０の何れか一項に記載の画像処理装置。
【請求項１２】
前記オブジェクト特化度合いは、前記特定のオブジェクト以外の数量、または前記特定のオブジェクトとの非類似性の大きさに比例して小さくなる値である
ことを特徴とする、請求項１１に記載の画像処理装置。
【請求項１３】
前記作成手段は、前記レベルに基づいて、特定の環境に特化した環境特化度合いを決定し、決定した環境特化度合いに応じて、前記特定の環境に対応する前記教師画像データに基づいた前記データセットを作成する
ことを特徴とする、請求項８から１２の何れか一項に記載の画像処理装置。
【請求項１４】
前記環境特化度合いは、前記特定の環境の種類数に比例して小さくなる値である
ことを特徴とする、請求項１３に記載の画像処理装置。
【請求項１５】
ユーザに情報を提示する表示手段を有し、
前記表示手段は、前記レベルに対応して生成した解像度調整画像が表示される領域を有するＵＩ画面を表示する
ことを特徴とする、請求項１から１４の何れか一項に記載の画像処理装置。
【請求項１６】
前記表示手段は、ユーザにより前記レベルを調整するためのレベル調整画像を有する前記ＵＩ画面を表示する
ことを特徴とする、請求項１５に記載の画像処理装置。
【請求項１７】
前記レベル調整画像は、前記レベルに対応しない範囲が前記ＵＩ画面に表示されず、前記レベルに対応する範囲にて、前記レベルを調整可能である
ことを特徴とする、請求項１６に記載の画像処理装置。
【請求項１８】
前記解像度調整画像は、前記レベル調整画像で調整した前記レベルに対応して生成される
ことを特徴とする、請求項１６または１７に記載の画像処理装置。
【請求項１９】
前記変換手段によって変換された前記撮像画像と前記オブジェクト情報に基づいて、仮想視点から見た画像を再構成する再構成手段をさらに有し、
前記オブジェクト情報は、前記仮想視点と前記オブジェクトとの距離、前記仮想視点の画像上での前記オブジェクトの位置、前記仮想視点から前記オブジェクトが観測される頻度、前記仮想視点から前記オブジェクトの前面が観測される頻度のうち少なくとも１つを含む
ことを特徴とする、請求項１から１８の何れか一項に記載の画像処理装置。
【請求項２０】
オブジェクトを撮像した撮像画像のデータを取得する第１取得工程と、
前記オブジェクトに関する教師画像データのデータセットであって、前記オブジェクトの重要度を示すオブジェクト情報に基づいて決まるデータセットを用いた学習により、前記オブジェクトの画像の解像度を変換する処理に係るパラメータを決定する決定工程と、
前記決定工程で決定した前記パラメータに基づいて、前記撮像画像の解像度を変換する変換工程と
を有することを特徴する画像処理方法。
【請求項２１】
コンピュータを、請求項１から１９の何れか一項に記載の画像処理装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、学習を利用して画像を高解像度化する技術に関する。
【背景技術】
【０００２】
第１の画像を、解像度がより高い第２の画像に変換する高解像度化技術として、機械学習を利用した手法がある。この手法では、第１の画像を第２の画像に変換する変換パラメータを学習によって予め求めておく必要がある。
【０００３】
変換パラメータを精度良く求める手法として、画像の撮像条件やオブジェクトといった、画像のクラスに応じたデータセットで学習を行わせる手法がある。特許文献１には、教師画像をクラスタリングして得られたクラス毎に学習を行わせることにより、演算コストを削減し、認識精度を向上させる技術が開示されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１８−４５３０２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、従来技術を用いた学習により画像の高解像度化を行う場合に、重要なオブジェクトの画像を十分な解像度で得られない場合があった。画像を高解像度化する処理に要する時間は、目標とする解像度が高くなるほど長くなる傾向がある。そのため、例えば画像の高解像度化を短い時間で行うことが要求される場合には、目標とする解像度が低く設定され、十分な解像度の画像が得られなくなることが考えられる。
【０００６】
本発明は、上述した課題に鑑みてなされたものであって、画像の高解像度化処理を行う場合に、特定のオブジェクトの画像の解像度をより向上することを目的とする。
【課題を解決するための手段】
【０００７】
本発明の一態様に係る画像処理装置は、オブジェクトを撮像することで得られる撮像画像を取得する第１取得手段と、前記オブジェクトに関する教師画像データのデータセットであって、前記オブジェクトの重要度を示すオブジェクト情報に基づいて決まるデータセットを用いた学習により、前記オブジェクトの画像の解像度を変換する処理に係るパラメータを決定する決定手段と、前記決定手段により決定した前記パラメータに基づいて、前記撮像画像の解像度を変換する変換手段とを有することを特徴とする。
【発明の効果】
【０００８】
本発明によれば、画像の高解像度化処理を行う場合に、特定のオブジェクトの画像の解像度をより向上することができる。
【図面の簡単な説明】
【０００９】
【図１】実施形態１に係る画像処理装置を備える撮像システム例の模式図。
【図２】撮像装置で取得した画像例を示す図。
【図３】画像処理装置のハードウェア構成例を示す図。
【図４】画像処理装置の機能構成例を示すブロック図。
【図５】画像変換処理の手順例を示すフローチャート。
【図６】データセット作成部による処理例を説明する図。
【図７】高解像度化レベル設定用のＵＩ画面例を示す図。
【図８】実施形態３に係る画像処理装置を備える撮像システム例の模式図。
【図９】撮像装置で取得した画像例を示す図。
【図１０】画像処理装置の機能構成例を示すブロック図。
【図１１】仮想視点画像の再構成処理の手順例を示すフローチャート。
【発明を実施するための形態】
【００１０】
以下、本発明の実施形態について図面を参照して説明する。ただし、この実施形態に記載されている構成要素はあくまで例示であり、本発明の範囲をそれらに限定する趣旨のものではない。また、実施形態で説明されている構成要素の組み合わせのすべてが、課題を解決するための手段に必須のものとは限らず、種々の変形及び変更が可能である。
【００１１】
［実施形態１］
＜撮像システムの全体構成＞
本実施形態では、スタジアムにおいて、オブジェクトとしてスポーツ選手を撮像し、撮像したスポーツ選手の画像の高解像度化を行う場合を例に挙げて説明する。
【００１２】
図１は、本実施形態に係る画像処理装置を備える撮像システム例を示す模式図である。図２（ａ）は入力画像例を示す図である。図２（ｂ）は教師画像例を示す図である。
【００１３】
撮像システム１００は、撮像装置１０１、画像処理装置１０２、表示装置１０３、操作装置１０４を有する。これら装置１０１、１０２、１０３、１０４は、データを互いに送受信可能に接続している。
【００１４】
撮像装置１０１は、焦点距離を調整可能でオブジェクトを撮像するカメラであって、スタジアムのフィールド１０６にいる３人のスポーツ選手１０５ａ、１０５ｂ、１０５ｃを撮像する。撮像装置１０１は、オブジェクトを撮像して得た撮像画像データ（以下、撮像画像という）２０１から高解像度化の対象である入力画像データ（以下、入力画像という）２０１ａ〜２０１ｃを取得する。入力画像（部分画像）２０１ａ、２０１ｂ、２０１ｃは、スポーツ選手１０５ａ、１０５ｂ、１０５ｃそれぞれに対応したオブジェクト領域を画像２０１から切り出した画像である。また、撮像装置１０１は、焦点距離を変え（調整し）オブジェクトを撮像して得た、撮像画像２０１と比べて解像度が高い高解像度画像データ（以下、高解像度画像という）２０２から教師画像データ（以下、教師画像という）２０２ａ〜２０２ｃを取得する。教師画像２０２ａ〜２０２ｃは、スポーツ選手１０５ａ、１０５ｂ、１０５ｃそれぞれに対応したオブジェクト領域を画像２０２から切り出した画像である。教師画像と入力画像とは、同日のほぼ同時刻に撮像した画像から取得された画像であると、両者の照明条件がほぼ同じとなるため、詳細につき後述する画像の高解像度化の精度が向上する。そこで、撮像システム１００が焦点距離の異なる複数の撮像装置１０１を有し、一方の撮像装置１０１により得られる撮像画像を高解像度化するための教師画像データとして、他方の撮像装置１０１により得られる撮像画像が用いられてもよい。ただしこれに限らず、ある撮像装置１０１により得られる撮像画像を高解像度化するための教師画像データとして、同じ撮像装置１０１により別の時刻に得られた撮像画像が用いられてもよい。
【００１５】
なお、教師画像の取得手法は、撮像装置の焦点距離の変更に限定されない。例えば、撮像距離を変更して撮像する、画面手前にオブジェクトが映った画像を利用する、より高画素数の撮像装置を使用して撮像する、データベースやウェブから取得する、などにより得られた高解像度画像から教師画像を取得しても良い。
【００１６】
画像処理装置１０２は、レベルに応じた、教師画像によるデータセットを用いた学習で変換パラメータを導出し、導出した変換パラメータに基づき、入力画像２０１ａ〜２０１ｃを高解像度化した高解像度化画像を生成する。そして、画像処理装置１０２は、撮像画像２０１の入力画像２０１ａ〜２０１ｃを高解像度化画像に置き換えた画像を出力する。
【００１７】
なお、本実施形態では、機械学習のタスクとして画像の高解像度化を行う例を示しているが、画像の解像度調整などのその他の画像変換を行う例にも適用可能である。また、教師画像をオブジェクトごとにクラスタリングする例を示しているが、オブジェクトの行動ごと、オブジェクトに対する他のオブジェクトの行動ごと、環境ごと等の、別の基準でクラスタリングを行う例にも適用可能である。オブジェクトの行動として、例えば、連続する複数の画像にて人物追跡などで抽出した画像に基づき特定したオブジェクトの所定の動きなどが挙げられる。所定の動きとして、例えばサッカーであればシュートやドリブルなどが挙げられる。オブジェクトに対する他のオブジェクトの行動として、例えば、連続する複数の画像にて人物認識や人物照合や人物追跡などで抽出した画像に基づき特定した、オブジェクトに対する他のオブジェクトの所定の動きなどが挙げられる。オブジェクトに対する他のオブジェクトの所定の動きとして、例えば、撮像装置からオブジェクトを見えづらくする位置に他のオブジェクトが居る、例えばサッカーであればインターセプト、ラグビーであればタックルなどが挙げられる。環境とは、例えば、雨などの天候や夜間などの撮像時間帯などの撮影環境などが挙げられる。また、スタジアムにおけるスポーツシーン例を説明したが、一般的なシーンにも適用可能である。
【００１８】
表示装置１０３は、ユーザに情報を提示する画像の表示を行う、液晶ディスプレイなどの各種画像表示デバイスである。操作装置１０４は、例えばマウスやキーボード等であり、ユーザによる操作を受け付けて各種の指示を画像処理装置１０２に入力するために用いられる。
【００１９】
図３は、画像処理装置１０２のハードウェア構成例を示す図である。画像処理装置１０２は、ＣＰＵ３０１、ＲＡＭ（Random Access Memory）３０２、ＲＯＭ３０３、二次記憶装置３０４、入力インターフェース（以下、「インターフェース」を「Ｉ／Ｆ」とする）３０５、出力Ｉ／Ｆ３０６を有する。画像処理装置１０２を構成する各部は、システムバス３０７によって相互に接続されている。また、画像処理装置１０２は、入力Ｉ／Ｆ３０５を介して、撮像装置１０１、操作装置１０４及び外部記憶装置３０８に接続されている。また、画像処理装置１０２は、出力Ｉ／Ｆ３０６を介して、外部記憶装置３０８及び表示装置１０３に接続されている。
【００２０】
ＣＰＵ３０１は、ＲＡＭ３０２をワークエリアとして、ＲＯＭ（Read Only Memory）３０３に格納されたプログラムを実行し、システムバス３０７を介して画像処理装置１０２の各部を統括的に制御する。これにより、後述する様々な処理が実行される。二次記憶装置３０４は、画像処理装置１０２で取り扱う種々の画像データや、処理のためのパラメータなどを記憶する記憶デバイスである。二次記憶装置３０４として、例えばＨＤＤや光ディスクドライブ、フラッシュメモリなどを用いることができる。ＣＰＵ（Central Processing Unit）３０１は、システムバス３０７を介して二次記憶装置３０４へのデータの書き込み及び二次記憶装置３０４に記憶されたデータの読み出しを行うことができる。
【００２１】
入力Ｉ／Ｆ３０５は、例えばＵＳＢやＩＥＥＥ１３９４等のシリアルバスインターフェースである。外部装置から画像処理装置１０２へのデータや命令等の入力は、入力Ｉ／Ｆ３０５を介して行われる。画像処理装置１０２は、入力Ｉ／Ｆ３０５を介して、撮像装置１０１から各種データ（例えば、撮像装置１０１が撮像した画像データや撮像装置１０１の撮像条件パラメータなどのデータ）を取得する。また、画像処理装置１０２は、入力Ｉ／Ｆ３０５を介して、外部記憶装置３０８（例えば、ハードディスク、メモリカード、ＣＦカード、ＳＤカード、ＵＳＢメモリなどの記憶媒体）からデータを取得する。また、画像処理装置１０２は、入力Ｉ／Ｆ３０５を介して、操作装置１０４を用いて入力されたユーザによる命令を取得する。
【００２２】
出力Ｉ／Ｆ３０６は、入力Ｉ／Ｆ３０５と同様にＵＳＢやＩＥＥＥ１３９４等のシリアルバスインターフェースを備える。その他に、出力Ｉ／Ｆ３０６として、例えばＤＶＩやＨＤＭＩ（登録商標）等の映像出力端子を用いることも可能である。画像処理装置１０２から外部装置へのデータ等の出力は、この出力Ｉ／Ｆ３０６を介して行われる。画像処理装置１０２は、出力Ｉ／Ｆ３０６を介して、外部記憶装置３０８へのデータの書き込みを行う。画像処理装置１０２は、出力Ｉ／Ｆ３０６を介して表示装置１０３に、画像処理装置１０２で処理された画像データを出力することで、画像の表示を行う。なお、画像処理装置１０２の構成要素は上記以外にも存在するが、本発明の主眼ではないため、説明を省略する。
【００２３】
＜高精度な高解像度化処理の概要＞
一般に、高精度な高解像度化処理を行うためには、演算時間や演算機資源を増やすなど、高い演算コストを費やす必要がある。また、高解像度化処理を行う重要度は、クラス毎に一律ではないと考えられる。例えば、スタジアムでスポーツ選手をオブジェクトとして撮像する場合、選手ごとに重要度が異なると考えられる。活躍が著しい選手や人気選手は、ユーザからの注目を受けやすいため、画像上で高解像度であることが望ましい。そこで、注目度の高い重要な選手に対しては、演算コストを割いて高精度な学習を行う。逆に、ユーザからの注目を受けにくいそうな注目度の低い選手に対しては、学習の精度を低下させて演算コストを低減する。
【００２４】
学習の演算コストと精度を調節するため、本実施形態では、高解像度化処理の倍率の変更を行う。ここで、倍率とは、高解像度化処理前後での画素数の比を表す。なお、高解像度化処理による高周波成分の増加度合いを倍率と定義しても良い。一般に、高い倍率の高解像度化処理では、演算コストは増加するものの、高解像度化処理の精度は向上する。本実施形態に基づく画像処理では、どの程度高解像度化されるべきかという目標値を、オブジェクトごとに付与して学習を行う。この目標値を高解像度化レベルと呼び、高解像度化レベルに基づいて倍率をオブジェクトごとに付与する。具体的には、高解像度化レベルが高いとオブジェクトには高倍率が、高解像度化レベルが中程度であるとオブジェクトには中倍率が、高解像度化レベルが低いとオブジェクトには低倍率がそれぞれ付与される。
【００２５】
高解像度化レベルを高く設定すべきオブジェクトは、活躍の著しい選手や、有名な選手など、ユーザからの注目度の高いオブジェクトである。一方、重要なイベントが発生する箇所から遠く離れた箇所に居る選手や、撮像方向にて他の選手の陰になり撮像装置から見えづらい選手は、高解像度化の重要度が低いと考えられる。また、教師画像の数量が少ない選手に関しては、演算コストを割いても学習の精度は向上しづらいため、高解像度化レベルを低く設定することが望ましい。
【００２６】
＜画像処理装置の構成と処理の流れ＞
画像処理装置１０２で行われる処理について、図４および図５を参照して説明する。図４は、画像処理装置１０２の機能構成例を示すブロック図である。図５は、画像変換処理の手順例を示すフローチャートである。画像処理装置１０２は、ＲＯＭ３０３に格納されたプログラムをＣＰＵ３０１がＲＡＭ３０２をワークメモリとして実行することで、図４に示す各部として機能し、図５のフローチャートに示す一連の処理を実行する。なお、以下に示す処理の全てがＣＰＵ３０１によって実行される必要はなく、処理の一部または全部が、ＣＰＵ３０１以外の一つ又は複数の処理回路によって行われるように画像処理装置１０２が構成されてもよい。各処理の説明における記号「Ｓ」は、フローチャートにおけるステップであることを意味する。以下、各部により行われる処理の流れを説明する。
【００２７】
まず、学習段階での処理を説明する。
【００２８】
Ｓ５０１では、教師画像取得部４０１は、撮像装置１０１、二次記憶装置３０４または外部記憶装置３０８から、高解像度でオブジェクトを撮像した画像（以下、高解像度画像ともいう）を取得する。そして、教師画像取得部４０１は、取得した高解像度画像から、人物認識や領域分割などの公知の技術により、オブジェクト（例えば、スポーツ選手など）に対応したオブジェクト領域を切り出した教師画像を取得する。次に、教師画像取得部４０１は、人物照合や人物追跡などの公知の技術により、教師画像をオブジェクト（例えば、スポーツ選手）ごとに分類する。オブジェクトごとに分類された教師画像は、高解像度化レベル取得部４０２、高解像度化レベル付与部４０３、データセット作成部（データセット構築部）４０４のそれぞれに出力される。なお、取得した高解像度画像および教師画像の数量は限定されず、１つでも２つ以上の複数でも構わない。
【００２９】
Ｓ５０２では、高解像度化レベル取得部４０２は、教師画像取得部４０１から入力された教師画像と、外部から入力された、オブジェクトの重要度を示すオブジェクト情報に基づき高解像度化レベルを導出して取得する。すなわち、高解像度化レベル取得部４０２は、取得した教師画像およびオブジェクト情報に基づき高解像度化レベルを導出して取得する。
【００３０】
オブジェクト情報は、二次記憶装置３０４または外部記憶装置３０８に予め格納された情報でもよいし、ユーザにより操作装置１０４を介して画像処理装置１０２に直接入力された情報でもよい。オブジェクトとしてスタジアムでスポーツ選手を撮像する場合、オブジェクト情報は、次の情報のうち少なくとも１つを含む。情報として、例えば、試合中のスポーツ選手ごとのイベント（オブジェクトの行動、オブジェクトに対する他のオブジェクトの行動）、スポーツ選手のプロフィール（オブジェクトの属性）が挙げられる。試合中のスポーツ選手ごとのイベントに関し、例えば、得点数、支配率、放送用カメラに映った回数などの数や歓声の大きさが大きいとスポーツ選手の重要度を高く設定し、その数や大きさが小さいとスポーツ選手の重要度を低く設定してもよい。スポーツ選手のプロフィールに関し、例えば、性別、国籍、過去勝率、人気度などにて注目度が高いとスポーツ選手の重要度を高く設定し、注目度が低いとスポーツ選手の重要度を低く設定してもよい。
【００３１】
また、オブジェクト情報に、対象となるオブジェクトの教師画像の枚数や、教師画像のバリエーションの度合い（分散）を導出した結果を含めてもよい。教師画像のバリエーションの度合いは、照明条件の種類数や撮像装置の撮像方向の数量に基づき導出される。例えば、様々な照明条件や撮像方向の教師画像の数が多いと分散は大きくなり、様々な照明条件や撮像方向の教師画像の数が少ないと分散は小さくなる。
【００３２】
オブジェクト情報は、複数の変数を要素に持つベクトルｘとして表現できる。要素として、例えば、試合中のスポーツ選手ごとのイベント、スポーツ選手のプロフィール、対象となるオブジェクトの教師画像の枚数や、教師画像のバリエーションの度合いなどが挙げられる。このようにオブジェクト情報をベクトルｘで表現できることから、変換関数をｆ、高解像度化レベルをｙとすると、高解像度化レベルｙは、演算式ｙ＝ｆ（ｘ）の導出結果で表せる。変換関数ｆは線形回帰式であり、その回帰係数は、ベクトルｘの各要素の重要度に応じて、事前に決定される。なお、変換関数ｆは、線形回帰式に限定されず、一般の回帰式、または一般の関数でも構わない。
【００３３】
高解像度化レベル取得部４０２は、以上説明した高解像度化レベルを、オブジェクトごとに導出する。導出して得られた高解像度化レベルは、高解像度化レベル付与部４０３に出力される。
【００３４】
Ｓ５０３では、高解像度化レベル付与部４０３は、高解像度化レベル取得部４０２から入力された高解像度化レベルを、教師画像取得部４０１から入力された教師画像の各々のオブジェクトに対して付与する。高解像度化レベルをオブジェクトに対して付与するとき、ユーザは、後述の学習に充てることのできる制限時間を設定し、設定した制限時間を、操作装置１０４を介して画像処理装置１０２に入力しても良い。その場合、学習が制限時間以内（所定時間以内）に終了するよう、スケーリング処理などにより高解像度化レベルを再び導出し、再導出した高解像度化レベルを各々のオブジェクトに付与する。スケーリング処理例として、学習に要する時間が高解像度化レベルの２乗に比例する場合を考える。見積もられる学習に要する時間が制限時間のα倍である場合、高解像度化レベルを各々１／√α倍に補正する。各オブジェクトに付与された高解像度化レベルは、データセット作成部４０４に出力される。
【００３５】
Ｓ５０４では、データセット作成部４０４は、教師画像取得部４０１から入力された教師画像と高解像度化レベル付与部４０３から入力された高解像度化レベルに基づき、オブジェクトごとのデータセットを作成する（構築する）。具体的には、データセット作成部４０４は、教師画像を、入力画像相当の解像度に低解像度化した学習用の低解像度画像をオブジェクトごとに作成する。なお、入力画像相当の解像度がＳ５０４の処理を行う前に既知であり、データセット作成部４０４は、Ｓ５０４の処理を行う前に、入力画像相当の解像度に関する情報を予め取得する。次に、データセット作成部４０４は、作成した学習用の低解像度画像の基となる教師画像を、高解像度化レベルおよびルックアップテーブルに応じた、低解像度画像のｒ倍の解像度になるように低解像度化した学習用の高解像度画像をオブジェクトごとに作成する。なお、ルックアップテーブルは、高解像度化レベルと倍率ｒの関係を示すテーブルであって事前に定められる。続いて、データセット作成部４０４は、同じ教師画像を基に作成した学習用の低解像度画像と学習用の高解像度画像との組の集合としてデータセットをオブジェクトごとに作成する。
【００３６】
データセットＤは、学習用の高解像度画像ｑと、学習用の低解像度画像ｐとの組の集合として、Ｄ＝｛（ｐ1，ｑ1），（ｐ2，ｑ2），・・・，（ｐn，ｑn）｝（ｎは自然数）という形式で表される。すなわち、データセット作成部４０４は、ｎ個の教師画像から、学習用の高解像度画像ｑと学習用の低解像度画像ｐとをｎ組の集合としてデータセットを作成する。ただし、学習用の低解像度画像ｐiおよび学習用の高解像度画像ｑiの「ｉ」は、データセットの組み番号を示す。ここでは、例えば、高解像度化レベルが低レベル、中レベル、高レベルの３つあり、高解像度化レベルが低レベルであればｒ＝２に、高解像度化レベルが中レベルであればｒ＝４に、高解像度化レベルが高レベルであればｒ＝８に設定される。なお、学習用の高解像度画像の解像度が教師画像の解像度と同じである場合には、教師画像の低解像度化を行わない。すなわち、学習用の高解像度画像の解像度としては、教師画像と同じ、または教師画像よりも低い解像度となる。得られたオブジェクトごとのデータセットは、学習部４０５に出力される。
【００３７】
Ｓ５０５では、学習部４０５は、受け取ったデータセットごとに、高解像度化レベルに応じて、低解像度画像を高解像度画像に変換する変換パラメータの学習を行い、オブジェクトの画像の解像度を変換する処理に係るパラメータを決定する。すなわち、高解像度化レベルが高ければ、学習部４０５は、受け取ったデータセットに含まれる全ての組のデータを用いて学習を行う。高解像度化レベルが中程度であければ、学習部４０５は、受け取ったデータセットに含まれる全ての組のデータから所定組数のデータを間引いた組数のデータを用いて学習を行う。高解像度化レベルが低ければ、学習部４０５は、受け取ったデータセットに含まれる全ての組のデータから、高解像度化レベルが中程度である場合と比べてさらに多くの組数のデータを間引いた組数のデータを用いて学習を行う。ここでは、公知の画像変換ニューラルネットワークを学習器として用いる。得られたオブジェクトごとの変換パラメータは、推論部（変換部）４０７に出力される。
【００３８】
Ｓ５０６では、入力画像取得部４０６は、撮像装置１０１、二次記憶装置３０４または外部記憶装置３０８から、オブジェクト領域を切り出した入力画像を取得する。次に、入力画像取得部４０６は、顔認識や位置推定に基づき、入力画像のオブジェクトに対応する選手を同定する。取得された入力画像は、推論部４０７に出力される。
【００３９】
Ｓ５０７では、推論部４０７は、学習部４０５から変換パラメータを、入力画像取得部４０６から入力画像をそれぞれ取得する。そして、推論部４０７は、取得した入力画像のオブジェクトと同じオブジェクトの変換パラメータに基づき、入力画像を変換して、変換結果の画像を得る推論を行う。推論には、学習部４０５で用いたものと同じニューラルネットワークを用いる。なお、Ｓ５０５とＳ５０７においては、ＳＶＭ（Support Vector Machine）やランダムフォレストといった、別の学習器を用いても構わない。
【００４０】
推論部４０７は、得られた変換結果の画像であるオブジェクト高解像度化画像を例えば、表示装置１０３に出力する。なお、撮像画像２０１のオブジェクト領域に対応する入力画像（部分画像）２０１ａ〜２０１ｃをオブジェクト高解像度化画像に置き換えた画像を表示装置１０３に出力しても構わない。
【００４１】
＜データセット作成部の処理詳細＞
本実施形態では、高解像度化レベルに基づいてオブジェクトごとに倍率ｒを決定し、決定した倍率に基づいてデータセットを作成する例を示した。データセットの性質を決定づけるパラメータは、倍率以外にも存在する。それらのパラメータを、高解像度化レベルに基づいて決定し、決定したパラメータに基づいてデータセットを作成してもよい。その例を以下に３つ示す。
【００４２】
＜部位特化型＞
第１に、部位に特化した学習をどの程度行うかという度合いを、高解像度化レベルに基づいて決定してもよい。その処理の具体例を、図６に示す。図６は、データセット作成部による処理例を説明する図である。ただし、閾値θ2は、閾値θ1より大きいとする。
【００４３】
まず、高解像度化レベルｙと閾値θ1、θ2との比較により、教師画像（オブジェクト画像）の分割度合いを３段階に分ける。高解像度化レベルｙが小さい場合、すなわち、高解像度化レベルｙが閾値θ1より小さい（ｙ＜θ1）場合には、オブジェクトの顔（頭部）および体全体を含むオブジェクトの全身画像６０１を学習部４０５に学習させる。高解像度化レベルｙが中程度である場合、すなわち、高解像度化レベルｙが閾値θ1より大きく閾値θ2より小さい（θ1＜ｙ＜θ2）場合には、部位認識によりオブジェクト画像を次の部位に分割し、分割した部位それぞれ別個のデータセットを作成する。オブジェクト画像を部位に分割する対象としては、例えば、顔（頭部）に対応した顔画像６０２ａと、顔以外の体全体に対応した体画像６０２ｂとが挙げられる。なお、顔画像６０２ａと体画像６０２ｂとの重複領域は、顔画像６０２ａ及び体画像６０２ｂを重ね、上の画像をグラデーションで徐々に透明にして下の画像を見える様に合成してもよい。また、顔画像６０２ａと体画像６０２ｂとの重複領域は、係数（α値）により合成してもよい。高解像度化レベルｙが大きい場合、すなわち、高解像度化レベルｙが閾値θ2より大きい（ｙ＞θ2）場合には、次の部位ごとのデータセットを作成する。部位ごとのデータセットとしては、例えば、右目に対応した右目画像６０３ａ、左目に対応した左目画像６０３ｂ、口に対応した口画像６０３ｃを顔画像から切り出した、部位ごとのデータセットが挙げられる。
【００４４】
学習部４０５は、切り出された部位１か所ごとに、個別のニューラルネットワークを作成して学習を行う。推論部４０７は、対応する部位のニューラルネットワークを用いて、対応する部位画像の高解像度化を行った後、高解像度化した部位画像を統合して全身画像（全体画像）を再構築し、表示装置１０３に出力する。この処理により、分割度合いを大きくした場合、部位に特化した高精度な高解像度化が可能となる。一方で、分割度合いの大きさに応じて、演算コストも増大する。高解像度化レベルの高いオブジェクトは、高演算コストかつ高精度な高解像度化を行う。
【００４５】
なお、全身画像の部位画像への分割方法は図６に示した分割例に限定されるものではなく、例えば腕や脚といった部位で画像を分割しても構わない。また、上記の例では分割度合いを３段階に設定したが、段階数は任意の値でも良い。
【００４６】
＜オブジェクト特化型＞
第２に、特定のオブジェクトに特化した学習をどの程度行うかというオブジェクト特化度合いを、高解像度化レベルに基づいて決定してもよい。
【００４７】
まず、上記の部位特化型と同様の閾値処理により、高解像度化レベルに基づいて、各オブジェクトへの特化度合いを導出する。オブジェクト特化度合いは、特定のオブジェクト以外の数量、または特定のオブジェクトとの非類似性の大きさに比例して小さくなる値である。オブジェクト特化度合いが低いと、複数のオブジェクトをまとめて同一のニューラルネットワークに学習させることになる。オブジェクト特化度合いが高いと、特定のオブジェクトを１つのニューラルネットワークに学習させることになる。オブジェクト特化度合いが中程度であると、オブジェクト特化度合いが低い場合と比べて少なく、オブジェクト特化度合いが高い場合と比べて多い複数のオブジェクトをまとめて同一のニューラルネットワークに学習させることになる。
【００４８】
オブジェクト特化度合いが低い場合、スタジアムでスポーツ選手をオブジェクトとして撮像する例では、同一国籍の選手や同一チームの選手を１つのニューラルネットワークで学習させることで、精度は低下するものの合計の演算コストを低減できる。
【００４９】
具体的な処理例として、選手ｋ1、ｋ2、ｋ3の高解像度化レベルが低く、かつ同じ国籍である場合を考える。３選手ｋ1、ｋ2、ｋ3の教師画像を区別せずに混合し、データセットＤ{1,2,3}を作成する。例えば、データセットに含まれる選手ｋ1の画像に関し、学習用の低解像度画像ｐk11、ｐk12、学習用の高解像度画像ｑK11、ｑK12があるとする。データセットに含まれる選手ｋ2の画像に関し、学習用の低解像度画像ｐk21、ｐk22、学習用の高解像度画像ｑK21、ｑK22があるとする。データセットに含まれる選手ｋ3の画像に関し、学習用の低解像度画像ｐk31、ｐk32、学習用の高解像度画像ｑK31、ｑK32があるとする。この場合、例えば、Ｄ{1,2,3}＝｛（ｐk11，ｑk11），（ｐk21，ｑk21），（ｐk31，ｑk31），（ｐk12，ｑk12），（ｐk22，ｑk22），（ｐk32，ｑk32）｝という形式で表される。このデータセット上で学習した変換パラメータに基づき、推論部４０７は３選手の入力画像を高解像度化する。
【００５０】
＜環境特化型＞
第３に、特定環境に特化した学習をどの程度行うかという度合いを、高解像度化レベルに基づいて決定してもよい。環境特化度合いは、前記特定の環境の種類数に比例して小さくなる値である。その具体的な処理を、試合中にスポーツ選手を撮像する場合を例に説明する。高解像度化レベルの高いスポーツ選手は、高解像度化を行いたい試合中に撮像して得た教師画像で学習を行う。これにより、入力画像と同じ照明条件の教師画像で学習を行えるため、画像の高精度な高解像度化が可能となる。一方、高解像度化レベルの低いスポーツ選手は、別の試合で撮像した画像やウェブから収集した画像を用いて、試合開始前に学習を行っておく。その後、試合中に撮像して得た教師画像を用い、少数回の追加学習を行う。これにより、画像の高解像度化の精度は低下するものの、試合開始後の学習時間を短縮できる。
【００５１】
なお、上記以外のデータセットを作成するためのパラメータを、高解像度化レベルに基づいて設定してもよい。
【００５２】
以上説明したように、本実施形態によれば、画像の高解像度化処理を行う場合に、特定のオブジェクトの画像の解像度をより向上することができる。また、重要度に応じて、オブジェクトについて高解像度化した画像を効率よく生成できる。すなわち、重要度に応じて、解像度を調整した画像を効率よく生成できる。
【００５３】
［実施形態２］
本実施形態では、表示装置に表示される高解像度化レベル設定用のＵＩ画面例について説明する。
【００５４】
図７は、表示装置に表示される高解像度化レベル設定用のユーザインターフェース（ＵＩ）画面例を示す図である。ＵＩ画面７０１は、ＣＰＵ３０１により表示装置１０３に表示される。ユーザが操作装置１０４を介して後述するスライダーやアローボタンを操作することにより、オブジェクトの高解像度化レベルは調節される。
【００５５】
ＵＩ画面７０１は、３つの窓部７０２ａ、７０２ｂ、７０２ｃ、各窓部７０２ａ、７０２ｂ、７０２ｃに対応したスライドバー７０３ａ、７０３ｂ、７０３ｃ、キャンセルボタン７０６、ＯＫボタン７０７を有する。３つの窓部７０２ａ、７０２ｂ、７０２ｃは、レベルに対応して生成した解像度調整画像例、すなわち、高解像度化レベルの各クラスの代表的な画像例を表示する領域である。スライドバー７０３ａ、７０３ｂ、７０３ｃは、高解像度化レベルを表示するものであって、窓部７０２ａ、７０２ｂ、７０２ｃの右横にそれぞれ配置される。ＵＩ画面７０１は、高解像度化した画像の時刻を設定する時刻設定部７０８をさらに有する。ユーザが操作装置１０４を介してポインタ７０９を操作して時刻設定部７０８のアローボタンをクリックすることで、所望の時刻に設定される。図７では、時刻設定部７０８が１２：００に設定された状態を示している。
【００５６】
続いて、画像処理装置１０２で行われる処理について、図４、図５および図７を参照して説明する。なお、Ｓ５０１、Ｓ５０２、Ｓ５０４〜Ｓ５０７は、実施形態１と同じであり、その説明を省略する。
【００５７】
Ｓ５０３では、高解像度化レベル付与部４０３は、取得および演算した各クラスの高解像度化レベルを、ＵＩ画面７０１に表示する。高解像度化レベルはスライダー７０４ａ〜７０４ｃの位置として可視化され、スライドバー７０３ａ、７０３ｂ、７０３ｃにおいて、右側に移動するほど高解像度化レベルが高く、左側に移動するほど高解像度化レベルが低いことを示している。すなわち、ＵＩ画面７０１は、ユーザがレベルを調整するためのレベル調整画像を有する。加えて、窓部７０２ａ、７０２ｂ、７０２ｃにも、高解像度化レベルを画像として可視化する。この画像は、その高解像度化レベルで学習と高解像度化を行った場合に、どの程度の解像度の結果が得られるかを予測したプレビュー画像である。プレビュー画像は、教師画像を低解像度化して作成される。なお、高解像度化レベルは、スライドバー７０３ａ〜７０３ｃでのスライダー７０４ａ〜７０４ｃの位置や窓部７０２ａ〜７０２ｃの画像としてではなく、数値として表示しても良い。
【００５８】
ユーザは、操作装置１０４を介してポインタ７０９を操作して、スライダー７０４を移動し、各クラスの高解像度化レベルを変更してもよい。このとき、画像処理装置１０２は、オブジェクト情報から導出された高解像度化レベルの上限値の情報を表示する。スライドバーが破線で示される部分７０５ａ、７０５ｃが、上限値を超える領域である。すなわち、ＵＩ画面７０１は、高解像度化レベル設定用の画面であって、高解像度化レベルに対応した範囲にて前記高解像度化レベルを調節可能に表示する。なお、上限値を境界線として表示する、上限値以上の領域を消去する、などの表示を行っても良い。ユーザが高解像度化レベルを上限以上の値に設定しようとした場合、画像処理装置は警告を行う。なお、上限を超える値への設定を禁止してもよい。スライダー７０４ａ、７０４ｂ、７０４ｃの位置が変更されると、画像処理装置１０２は、変更後のスライダー７０４ａ、７０４ｂ、７０４ｃの位置に応じて窓部７０２ａ、７０２ｂ、７０２ｃのプレビュー画像を更新する。
【００５９】
高解像度化レベルの調節を終えた後、ユーザは操作装置１０４を介してポインタ７０９を操作してＯＫボタン（決定ボタン）７０７をクリックすることにより、調節結果である設定された高解像度化レベルが二次記憶装置または外部記憶装置などに保存される。または、ユーザは操作装置１０４を介してポインタ７０９を操作してＣＡＮＣＥＬボタン（取り消しボタン）７０６をクリックすることにより調節結果が破棄（キャンセル）される。調節結果を保存する際、学習に必要であると見積もられる時間が制限時間を超過している場合、画像処理装置１０２はスケーリング処理により高解像度化レベルを引き下げる。なお、どのクラスの高解像度化レベルを引き下げるかという選択肢をユーザに複数提示し、その選択をユーザに求めても良い。得られた高解像度化レベルは、各々のクラスに対して付与される。
【００６０】
また、ユーザの操作により高解像度化レベル設定用のＵＩ画面７０１で調節された高解像度化レベルを記憶し、記憶した高解像度化レベルに基づいて変換関数ｆのパラメータを学習してもよい。
【００６１】
二次記憶装置３０４または外部記憶装置３０８は、ユーザが入力した高解像度化レベルｙ´と、高解像度化レベルが付与されるオブジェクトのオブジェクト情報のベクトルｘ´の組を複数記憶する。そして、高解像度化レベル取得部４０２は、二次記憶装置３０４または外部記憶装置３０８から、高解像度化レベルｙ´とオブジェクト情報のベクトルｘ´の組を複数取得し、演算式ｙ´＝ｆ（ｘ´）が成立するように、回帰式ｆの回帰係数を学習する。学習には、ＳＶＭやニューラルネットワークといった公知の学習器を用いる。学習の結果として得られた回帰式ｆを用いて、高解像度化レベルの導出を行う。
【００６２】
以上説明したように、本実施形態によれば、高解像度化レベルの導出にユーザの嗜好と意向を反映させることができ、より適切な高解像度化レベルの設定が可能となる。
【００６３】
［実施形態３］
本実施形態では、オブジェクトを複数の撮像装置で撮像して得られた画像（多視点画像）から、任意の仮想視点からオブジェクトを見たときに得られる画像（仮想視点画像）を再構成する、仮想視点画像再構成処理を行う例について説明する。
【００６４】
図８は、本実施形態に係る画像処理装置を備える撮像システム例を示す模式図である。図９（ａ）は入力画像例を示す図である。図９（ｂ）は教師画像例を示す図である。なお、本実施形態では、実施形態１と同一の装置については同一符号を付記しその説明を省略する。撮像システム８００は、入力画像９０１を取得するための複数台（図示例では６台）の撮像装置８０１と、教師画像９０２を取得するための複数台（図示例では３台）の撮像装置８０２とを有する。撮像システム８００の各装置１０２、１０３、１０４、８０１、８０２は、データを互いに送受信可能に接続している。なお、ここでは、簡単のため、各撮像装置８０２の視野の共通領域の中心を表す注視点８０７がフィールド８０６の中心に設定されているとする。注視点８０７は、フィールド８０６の中心に限定されず、例えば、サッカー場であれば、ゴールエリア付近や、ペナルティエリア、コーナーエリア付近などの注目度の高いエリアに設定してもよい。
【００６５】
座標系８０８はカメラの位置などを特定するときに用いる座標系を示している。ｘｙ平面上の矩形領域である被撮影領域としてのフィールド８０６が、本実施形態において画像処理の対象である範囲となる。撮像装置８０１による撮像画像データ、撮像装置８０２による撮像画像データはそれぞれ、画像処理装置１０２に送られ、所定の画像処理が施される。
【００６６】
複数台の撮像装置８０１は、焦点距離を調整可能でオブジェクトを撮像するカメラであって、スタジアムのフィールド８０６にいる３人のスポーツ選手８０５ａ、８０５ｂ、８０５ｃを撮像する。複数台の撮像装置８０１は、オブジェクトを撮像して得た画像９０１から高解像度化の対象である入力画像（部分画像）９０１ａ〜９０１ｃを取得する。入力画像９０１ａ〜９０１ｃは、スポーツ選手８０５ａ〜８０５ｃそれぞれに対応したオブジェクト領域を画像から切り出した画像である。また、複数台の撮像装置８０２も、焦点距離を調整可能でオブジェクトを撮像するカメラであって、スタジアムのフィールド８０６にいる３人のスポーツ選手（オブジェクト）８０５ａ、８０５ｂ、８０５ｃを撮像する。複数台の撮像装置８０２は、スポーツ選手８０５ａ〜８０５ｃを撮像して得た、画像９０１と比べて高解像度の画像９０２から教師画像９０２ａ〜９０２ｃを取得する。教師画像９０２ａ〜９０２ｃは、スポーツ選手８０５ａ、８０５ｂ、８０５ｃそれぞれに対応したオブジェクト領域を画像９０２から切り出した画像である。
【００６７】
画像処理装置１０２は、入力画像を高解像度化し、複数視点の撮像画像と高解像度化結果画像に基づいて仮想視点画像の再構成を行う。本実施形態では、仮想視点の情報や、複数の撮像装置それぞれの位置情報を用い、より適切に高解像度化レベルの設定を行う。
【００６８】
＜画像処理装置の構成と処理の流れ＞
以下、本実施形態の画像処理装置１０２で行われる仮想視点画像の再構成処理について、図１０および図１１を参照して説明する。図１０は、本実施形態の画像処理装置１０２の機能構成例を示すブロック図である。図１１は、本実施形態の画像処理装置１０２による仮想視点画像の再構成処理の手順例を示すフローチャートである。本実施形態の画像処理装置１０２は、ＲＯＭ３０３に格納されたプログラムをＣＰＵ３０１がＲＡＭ３０２をワークメモリとして実行することで、図１０に示す各部として機能し、図１１のフローチャートに示す一連の処理を実行する。なお、以下に示す処理の全てがＣＰＵ３０１によって実行される必要はなく、処理の一部または全部が、ＣＰＵ３０１以外の一つ又は複数の処理回路によって行われるように画像処理装置１０２が構成されてもよい。以下、各部により行われる処理の流れを説明する。
【００６９】
図１１のＳ１１０１の処理は、実施形態１におけるＳ５０１の処理と同様である。
【００７０】
Ｓ１１０２では、高解像度化レベル取得部４０２は、各撮像装置８０２のカメラ情報を取得する。カメラ情報には、カメラの設置位置、注視点位置、焦点距離といった情報が含まれる。このカメラ情報は、予め二次記憶装置３０４または外部記憶装置３０８に記憶しておいたものを読み出して取得してもよいし、各撮像装置８０２にアクセスして取得してもよい。そして、高解像度化レベル取得部４０２は、取得した各撮像装置８０２のカメラ情報に基づき、オブジェクトと注視点との距離を公知の演算式で導出し、導出した距離をベクトルｘの要素としてオブジェクト情報に含ませる。
【００７１】
注視点付近のイベントやオブジェクトは、ユーザからの関心を集めやすいと考えられる。従って、注視点からの距離の近いオブジェクトの高解像度化レベルが高くなるように、変換関数ｆを設定する。
【００７２】
なお、高解像度化レベル取得部４０２は、仮想カメラのパラメータ（仮想視点のパラメータ）を取得してもよい。仮想カメラのパラメータには、仮想カメラの位置、仮想カメラの撮像方向、焦点距離といったパラメータが含まれる。仮想カメラのパラメータは、予め二次記憶装置３０４または外部記憶装置３０８に記憶されたものでもよいし、ユーザにより撮像システム８００の画像処理装置１０２の操作装置１０４を介して設定されたものでもよい。なお、仮想視点は、時間に応じて異なる位置に存在したり、空間に複数存在したりしてもよい。
【００７３】
仮想視点とオブジェクトとの距離、仮想視点の画像上でのオブジェクト位置、仮想視点の画像上でのオブジェクトと画像中央との距離、仮想視点からオブジェクトが観測される頻度、仮想視点からオブジェクトの前面が観測される頻度、などを導出する。これらの情報のうち少なくとも１つをオブジェクト情報のベクトルｘに要素として追加し、得られたオブジェクト情報のベクトルｘに基づいて高解像度化レベルを導出する。
【００７４】
仮想視点からの距離が近いオブジェクトや、仮想視点から見えている頻度の高いオブジェクトは、高解像度化の重要度が高いと考えられる。逆に、仮想視点画像上で端部に映っているオブジェクトや、背面しか見えていないオブジェクトは、高解像度化の重要度が低いと考えられる。その重要度を高解像度化レベルに反映させるため、仮想視点の情報に基づいてオブジェクト情報のベクトルｘを演算する。
【００７５】
Ｓ１１０３〜Ｓ１１０７の各処理は、実施形態１におけるＳ５０３〜Ｓ５０７の各処理と同様である。
【００７６】
Ｓ１１０８では、仮想視点画像再構成部１００８は、Ｓ１１０７で得られたオブジェクト高解像度化画像と、仮想カメラのパラメータ（仮想視点のパラメータ）に基づいて仮想視点画像を再構成する。なお、仮想カメラのパラメータは、予め二次記憶装置３０４または外部記憶装置３０８に記憶しておいたものを読み出して取得してもよいし、ユーザにより撮像システム８００の画像処理装置１０２の操作装置１０４を介して設定されたものを取得してもよい。そして、仮想視点画像再構成部１００８は、再構成した仮想視点画像を例えば、表示装置１０３に出力する。
【００７７】
以上説明したように、本実施形態によれば、オブジェクトの重要度をより適切に反映した高解像度化レベルの設定が可能となる。
【００７８】
［その他の実施形態］
本発明は、上述の実施形態の１以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける１つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。
【符号の説明】
【００７９】
４０２    高解像度化レベル取得部
４０３    高解像度化レベル付与部
４０５    学習部
４０６    入力画像取得部
４０７    推論部
【図１】
2020102012.tif 000003
【図２】
2020102012.tif 000004
【図３】
2020102012.tif 000005
【図４】
2020102012.tif 000006
【図５】
2020102012.tif 000007
【図６】
2020102012.tif 000008
【図７】
2020102012.tif 000009
【図８】
2020102012.tif 000010
【図９】
2020102012.tif 000011
【図１０】
2020102012.tif 000012
【図１１】
2020102012.tif 000013