(57)【要約】【課題】撮影後にピント状態を指定可能な画像データの利点を活かしつつ、データ量を削減すること。【解決手段】画像処理装置は、撮影された光の強度を示す光線情報および光の方向を示す方向情報を用いて、ピント状態を指定可能な画像データを圧縮する。フォーカス範囲設定部１０４は画像内でピントを合わせる範囲を設定する。奥行きマップ生成部１０２は撮像部１０１から光線情報および方向情報を取得して画素ごとの奥行きを検出する。錯乱円径計算部１０３は、フォーカス範囲設定部１０４による設定範囲の情報と、奥行きマップ生成部１０２からの奥行き情報を取得して画素ごとに錯乱円径を算出する。記録データ生成部１０６は光線情報および方向情報のうち、錯乱円内を通過する光の情報を保持し、錯乱円外を通過する光の情報を削除することでデータ圧縮処理を行う。圧縮処理されたデータは、データ記録部１０７により記録媒体に記録される。【選択図】    図１
2014039119.tif 000002
【特許請求の範囲】
【請求項１】
撮影された光の強度を示す光線情報および光の方向を示す方向情報を含み、ピント状態を指定できる画像データの圧縮処理を行う画像処理装置であって、
画像内でピントを合わせる範囲を設定する設定手段と、
前記光線情報および方向情報を取得して画素ごとに奥行きを検出する奥行き検出手段と、
前記設定手段による設定範囲の情報および前記奥行き検出手段により検出された奥行き情報を取得して前記画素ごとに錯乱円径を算出し、錯乱円内を通過する光の光線情報および方向情報を保持し、錯乱円外を通過する光の光線情報および方向情報を削除することによりデータの圧縮処理を行う圧縮処理手段を備えることを特徴とする画像処理装置。
【請求項２】
前記圧縮処理手段は、前記設定手段による設定範囲の端位置と、前記奥行き検出手段により検出された奥行き情報から画素ごとに算出した距離情報の示す位置との差を算出し、当該差の大きさが最大となる距離から前記錯乱円径を算出する錯乱円径計算手段を備えることを特徴とする請求項１に記載の画像処理装置。
【請求項３】
前記錯乱円径計算手段は、
前記奥行き情報から前記距離情報を生成する距離情報生成手段と、
前記設定手段による設定範囲の端位置に対して、前記距離情報の示す位置との距離差を画素ごとに算出し、当該距離差が最大となる最大距離を算出する最大距離算出手段と、
前記最大距離を奥行き検出範囲の大きさで割った比率を最大錯乱円径に乗算することにより前記錯乱円径を算出する錯乱円径算出手段を備えることを特徴とする請求項２に記載の画像処理装置。
【請求項４】
前記画像データの記録モードを示す情報を記憶するモード記憶手段と、
前記モード記憶手段が記憶する情報が前記画像データを圧縮して記録処理を実行するモードである場合、前記圧縮処理手段により圧縮されたデータ、および錯乱円径のデータを合成して記録データを生成する記録データ生成手段を備えることを特徴とする請求項１から３のいずれか１項に記載の画像処理装置。
【請求項５】
撮影された光の強度を示す光線情報および光の方向を示す方向情報を含み、ピント状態を指定できる画像データの圧縮処理を行う画像処理装置にて実行される制御方法であって、
画像内でピントを合わせる範囲を設定する設定ステップと、
前記光線情報および方向情報を取得して画素ごとに奥行きを検出する奥行き検出ステップと、
前記設定ステップで設定された設定範囲の情報および前記奥行き検出ステップにて検出された奥行き情報を取得して前記画素ごとに錯乱円径を算出する算出ステップと、
錯乱円内を通過する光の光線情報および方向情報を保持し、錯乱円外を通過する光の光線情報および方向情報を削除することによりデータの圧縮処理を行う圧縮処理ステップを有することを特徴とする画像処理装置の制御方法。
【請求項６】
前記圧縮処理ステップは、前記設定ステップでの設定範囲の端位置と、前記奥行き検出ステップで検出した奥行き情報から画素ごとに算出した距離情報の示す位置との差を算出し、当該差の大きさが最大となる距離から前記錯乱円径を算出する錯乱円径計算ステップを有することを特徴とする請求項５に記載の画像処理装置の制御方法。
【請求項７】
前記錯乱円径計算ステップは、
前記奥行き情報から前記距離情報を生成する距離情報生成ステップと、
前記設定範囲の端位置に対して、前記距離情報の示す位置との距離差を画素ごとに算出し、当該距離差が最大となる最大距離を算出する最大距離算出ステップと、
前記最大距離を奥行き検出範囲の大きさで割った比率を最大錯乱円径に乗算することにより前記錯乱円径を算出する錯乱円径算出ステップを有することを特徴とする請求項６に記載の画像処理装置の制御方法。
【請求項８】
モード記憶手段が記憶する情報を取得し、前記画像データを圧縮して記録処理を実行するモードであるか否かを判定する判定ステップと、
前記判定ステップにて、前記画像データを圧縮して記録処理を実行するモードが判定された場合、前記圧縮処理ステップで圧縮したデータ、および前記算出した錯乱円径のデータを合成して記録データを生成する記録データ生成ステップを有することを特徴とする請求項５から７のいずれか１項に記載の画像処理装置の制御方法。
【請求項９】
撮影された光の強度を示す光線情報および光の方向を示す方向情報を含み、ピント状態を指定できる画像データの圧縮処理を行う画像処理装置であって、
前記光線情報および方向情報を解析して画素ごとの奥行き情報を生成する奥行き情報解析手段と、
前記奥行き情報解析手段から奥行き情報を取得し、前記画像データの一部を、前記光線情報および方向情報から積分計算した積分画素データに置き換えることによりデータの圧縮処理を行う圧縮処理手段を備えることを特徴とする画像処理装置。
【請求項１０】
前記圧縮処理手段は、前記奥行き情報解析手段から奥行き情報を取得し、画素ごとの奥行き情報が生成された第１の領域と、奥行き情報が解析できなかった第２の領域を特定し、前記第２の領域を、前記積分画素データへの置き換えを行う領域であると決定して当該領域の位置情報を出力する領域決定手段を備えることを特徴とする請求項９に記載の画像処理装置。
【請求項１１】
前記圧縮処理手段は、
前記光線情報および方向情報から前記積分画素データを生成する画素データ生成手段と、
前記第２の領域の位置情報、および前記積分画素データを取得し、前記第２の領域に対して前記積分画素データへの置き換えを行う置換処理手段を備えることを特徴とする請求項１０に記載の画像処理装置。
【請求項１２】
前記画素データ生成手段は、画質設定に従ってボケ量を変更した画素データまたは複数の画素領域にピントを合わせたパンフォーカス画像の画素データを、前記第２の領域内の画素データと置き換えるために生成することを特徴とする請求項１１に記載の画像処理装置。
【請求項１３】
前記積分画素データへの置き換えを行った前記第２の領域の位置情報を出力する位置情報出力手段を備えることを特徴とする請求項１０から１２のいずれか１項に記載の画像処理装置。
【請求項１４】
画像内のピントを合わせる位置を設定する設定手段と、
前記設定手段による設定情報と、前記圧縮処理手段により圧縮処理された画像データ、および前記領域決定手段による前記第２の領域の位置情報を取得し、前記光線情報および方向情報から生成した画像データおよび前記積分画素データへの置き換えを行った画像データを用いて画像表示データを生成する映像処理手段を備えることを特徴とする請求項１０から１３のいずれか１項に記載の画像処理装置。
【請求項１５】
撮影された光の強度を示す光線情報および光の方向を示す方向情報を含み、ピント状態を指定できる画像データの圧縮処理を行う画像処理装置にて実行される制御方法であって、
前記光線情報および方向情報を解析して画素ごとの奥行き情報を生成する奥行き情報解析ステップと、
前記奥行き情報解析ステップで生成した奥行き情報を用いて、前記画像データの一部を、前記光線情報および方向情報から積分計算した積分画素データに置き換えることによりデータの圧縮処理を行う圧縮処理ステップを有することを特徴とする画像処理装置の制御方法。
【請求項１６】
前記圧縮処理ステップは、前記画素ごとの奥行き情報が生成された第１の領域と、奥行き情報が解析できなかった第２の領域を特定するステップと、前記第２の領域を、前記積分画素データへの置き換えを行う領域であると決定するステップを有することを特徴とする請求項１５に記載の画像処理装置の制御方法。
【請求項１７】
前記圧縮処理ステップは、前記光線情報および方向情報から前記積分画素データを生成する画素データ生成ステップと、前記第２の領域の位置情報、および前記積分画素データを用いて、前記第２の領域に対して前記積分画素データへの置き換えを行う置換処理ステップを有することを特徴とする請求項１６に記載の画像処理装置の制御方法。
【請求項１８】
前記画素データ生成ステップにて、画質設定に従ってボケ量を変更した画素データまたは複数の画素領域にピントを合わせたパンフォーカス画像の画素データを、前記第２の領域内の画素データと置き換えるために生成することを特徴とする請求項１７に記載の画像処理装置の制御方法。
【請求項１９】
前記積分画素データへの置き換えを行った前記第２の領域の位置情報を出力するステップをさらに有することを特徴とする請求項１６から１８のいずれか１項に記載の画像処理装置の制御方法。
【請求項２０】
画像内のピントを合わせる位置を設定する設定ステップと、
前記設定ステップによる設定情報と、前記圧縮処理された画像データ、および前記第２の領域の位置情報を取得し、前記光線情報および方向情報から生成した画像データおよび前記積分画素データへの置き換えを行った画像データを用いて画像表示データを生成する映像処理ステップをさらに有することを特徴とする請求項１６から１９のいずれか１項に記載の画像処理装置の制御方法。
【請求項２１】
請求項５から８、１５から２０のいずれか１項に記載の画像処理装置の制御方法の各ステップをコンピュータに実行させるための画像処理プログラム。
【請求項２２】
請求項１から４、９から１４のいずれか１項に記載の画像処理装置と、
撮像光学系から複数のマイクロレンズを介してそれぞれ入射する光を電気信号に変換する複数の光電変換手段を有し、該複数の光電変換手段から出力される前記光線情報および方向情報を前記画像処理装置に出力する撮像手段を備えることを特徴とする撮像装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮影後にピント状態を指定可能な画像データの圧縮処理技術に関する。
【背景技術】
【０００２】
複数の光線情報を画素情報として取得して処理することで、撮影後にピントや視点を指定できるライトフィールド（以下、ＬＦとも表記する）と呼ばれる技術が知られている。近年、ＬＦカメラと呼ばれる撮像装置が実用化されている。この撮像装置は、イメージセンサ上に配置したマイクロレンズアレイによって入射光を分割することで、複数の方向の光を撮影して光線情報を記録する。撮影後の記録データから、光の強度と光の入射方向に基づいて所定の計算処理を実行することによって、任意の視点での画像や任意の位置にピントを合わせた画像を構築できる。つまり、ユーザはＬＦカメラで撮影した画像（以下、ＬＦ画像という）を視聴する場合、任意の奥行きにピントを合わせる操作を行える。記録データに対して計算処理を施すことにより、撮影後に視点やピント位置を変更した画像を構築できる点がＬＦカメラの利点である。
ＬＦカメラでは複数方向の光線情報を記録するため、通常のデジタルカメラに比較して、画素数に対するデータ量が大きくなる。そこで、データ量を削減するため、特許文献１には、撮像画像のボケ具合に応じてデータを圧縮する方法が開示されている。また、特許文献２に開示の技術では、一部のデータをＪＰＥＧ(Joint Photographic Experts Group)データに変換して画素データとして保持することで、全体のデータ量の削減を行っている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００６−２２９８３８号公報
【特許文献２】特開２００８−１８２６９２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
上記のようにＬＦカメラにより得られるデータ量に対しては削減が望まれるが、撮影後に視点やピント位置を指定できるというＬＦカメラの利点を維持する必要がある。
前記特許文献１に開示の技術では、撮影時の画像のボケ具合に応じて一律に圧縮が行われるに過ぎず、撮影後に視点やピント位置を指定できるデータの圧縮処理については考慮されていなかった。また、前記特許文献２に開示の技術では、データの置き換え画素が固定位置の画素であるために削減率が常に一定である。よって、さらにデータ量を減らすには限界がある。
本発明は、撮影後にピント状態を指定可能な画像データの利点を活かしつつ、データ量を削減することを目的とする。
【課題を解決するための手段】
【０００５】
上記課題を解決するために、本発明に係る第１の側面としての装置は、撮影された光の強度を示す光線情報および光の方向を示す方向情報を含み、ピント状態を指定できる画像データの圧縮処理を行う画像処理装置であって、画像内でピントを合わせる範囲を設定する設定手段と、前記光線情報および方向情報を取得して画素ごとに奥行きを検出する奥行き検出手段と、前記設定手段による設定範囲の情報および前記奥行き検出手段により検出された奥行き情報を取得して前記画素ごとに錯乱円径を算出し、錯乱円内を通過する光の光線情報および方向情報を保持し、錯乱円外を通過する光の光線情報および方向情報を削除することによりデータの圧縮処理を行う圧縮処理手段を備える。
また、本発明の第２の側面としての装置は、撮影された光の強度を示す光線情報および光の方向を示す方向情報を含み、ピント状態を指定できる画像データの圧縮処理を行う画像処理装置であって、前記光線情報および方向情報を解析して画素ごとの奥行き情報を生成する奥行き情報解析手段と、前記奥行き情報解析手段から奥行き情報を取得し、前記画像データの一部を、前記光線情報および方向情報から積分計算した積分画素データに置き換えることによりデータの圧縮処理を行う圧縮処理手段を備える。
【発明の効果】
【０００６】
本発明によれば、撮影後にピント状態を指定可能な画像データの利点を活かしつつ、データ量を削減することができる。
【図面の簡単な説明】
【０００７】
【図１】図２ないし図８と併せて本発明の第１実施形態を説明するために、画像処理装置の構成例を示すブロック図である。
【図２】撮像部の構成例を示す模式図である。
【図３】フォーカス可能範囲の説明図である。
【図４】マイクロレンズアレイとイメージセンサとの関係を表す模式図である。
【図５】撮像素子と錯乱円との関係を表す模式図である。
【図６】錯乱円径計算部の構成例を示すブロック図である。
【図７】錯乱円径計算部の処理例を説明するフローチャートである。
【図８】記録データ生成部の構成例を示すブロック図である。
【図９】第１実施形態の変形例に係る記録データ生成部の構成例を示すブロック図である。
【図１０】図１１ないし図１７と併せて本発明の第２実施形態を説明するために、映像表示装置の構成例を示すブロック図である。
【図１１】撮像装置の構成例を示すブロック図である。
【図１２】撮像データを映像表示装置へ送出する処理例を示すフローチャートである。
【図１３】奥行き解析に基づく画素領域の登録処理例を示すフローチャートである。
【図１４】データの圧縮処理例を示すフローチャートである。
【図１５】映像表示装置における処理例を示すフローチャートである。
【図１６】撮像データから画像表示データの生成する処理例を示すフローチャートである。
【図１７】画素領域テーブルを例示する図である。
【図１８】第２実施形態の変形例に係る撮像装置と外部装置を示すブロック図である。
【図１９】第２実施形態の変形例における処理例を示すフローチャートである。
【発明を実施するための形態】
【０００８】
以下に、本発明の各実施形態について、添付図面を参照して詳細に説明する。各実施形態では、撮像レンズとレンズアレイを用いた撮像光学系を備える撮像装置を例示して説明するが、本発明は複数の撮像装置を組み合わせて使用する実施形態にも適用できる。
【０００９】
［第１実施形態］
図１（Ａ）は本発明の第１実施形態に係る画像処理装置の構成の概略を示すブロック図である。
撮像部１０１は被写体の光線情報を記録する。本実施形態では装置内に撮像部１０１をもつ形態を説明する。なお、外部の撮像装置から画像処理装置にデータを取り込む形態については、変形例として後述する。
【００１０】
図２は、撮像部１０１の構成を概略的に示す模式図である。
撮像光学系を構成する撮像レンズ２０１を通過して、マイクロレンズアレイ２０２に入射した被写体からの光は、イメージセンサ２０３によって光電変換されて電気信号が得られる。撮像レンズ２０１は、被写体からの光をマイクロレンズアレイ２０２に投射する。撮像レンズ２０１は交換可能であり、撮像装置の本体部に装着して使用する。ユーザは撮像レンズ２０１のズーム操作により撮像倍率を変更することができる。マイクロレンズアレイ２０２は、多数の微小レンズ（マイクロレンズ２０２ａ）を格子状に配列して構成されており、撮像レンズ２０１とイメージセンサ２０３の間に位置する。
【００１１】
マイクロレンズアレイ２０２を構成する各マイクロレンズ２０２ａは、撮像レンズ２０１からの入射光を分割し、分割した光をイメージセンサ２０３に出力する。撮像部１０１を構成するイメージセンサ２０３は複数の画素を有する撮像素子であり、各画素にて光の強度を検出する。被写体からの光を受光するイメージセンサ２０３の各画素には、各マイクロレンズ２０２ａによって分割した光がそれぞれ入射する。各マイクロレンズ２０２ａは、イメージセンサ２０３における複数の画素が対応するように配置される。イメージセンサ２０３の各画素には各マイクロレンズ２０２ａが分割した光が入射し、各画素にて異なる方向からの光の強度（光線情報）を検出する。また、各マイクロレンズ２０２ａとイメージセンサ２０３の各画素との位置関係に応じて、マイクロレンズを介してイメージセンサ２０３の各画素に入射した光線の入射方向（方向情報）を検出できる。マイクロレンズアレイ２０２のレンズ頂点面からの距離が異なる焦点面での像は、各マイクロレンズ２０２ａの光軸からの偏心量に対応した位置にあるイメージセンサ２０３の画素の各出力を合成することで得られる。なお、光線は位置や方位、波長等のパラメータを用いて、平行な２平面によってパラメータ化される関数で表される。つまり、各マイクロレンズ２０２ａに対応する複数の画素の配置によって各画素への光の入射方向が決まっている。
以上のように取得した光線情報と方向情報に基づいて、光線の並べ替えと計算処理を行うことにより、任意のピント位置や視点を指定した画像データを生成できる。以下、光線情報および方向情報を総称してＬＦデータと呼ぶ。
【００１２】
図１の奥行きマップ生成部１０２は、ＬＦデータから奥行き検出を行って錯乱円径計算部１０３に検出結果を出力する。奥行きマップ生成部１０２は撮像部１０１から取得したＬＦデータを解析し、画素ごとに奥行き情報を生成する。奥行き情報をマップ化したものが奥行きマップである。奥行きマップ生成部１０２は、光線情報及び方向情報から２つ以上の異なる視点での画像を生成し、生成した画像同士を比較して画像の位置ズレを検出することで奥行き情報を生成する。奥行き情報は錯乱円径計算部１０３に送られる。錯乱円径計算部１０３は、撮像部１０１から取得したＬＦデータのうち、記録する必要のある部分を判定する。処理の詳細については後述する。
フォーカス範囲設定部１０４は、ＬＦデータの再生時に設定可能なピント位置の範囲について設定処理を行う。以下では、この設定範囲をフォーカス可能範囲という。図３はフォーカス可能範囲の概念を説明する模式図である。図３の例では撮像装置（ＬＦカメラ）で被写体Ａ、Ｂ、Ｃを撮影する状況を示す。被写体Ｂが撮像装置に最も近く、次に近いのが被写体Ａであり、最も遠いのが被写体Ｃである。「フォーカス可能範囲１」は被写体ＡおよびＢにピント合わせが可能な範囲を示し、「フォーカス可能範囲２」は被写体ＡおよびＣにピント合わせが可能な範囲を示す。
【００１３】
図３（Ａ）にて、フォーカス可能範囲１が設定されている場合、撮像装置は被写体Ａおよび被写体Ｂにピントを合わせてＬＦデータの生成および再生が可能である。一方、フォーカス可能範囲２が設定されている場合、被写体Ａおよび被写体Ｃにピントを合わせてＬＦデータの生成および再生を行えるが、被写体Ｂにピントを合わせることはできない。フォーカス可能範囲を示す情報は、錯乱円径計算部１０３に出力される。なお、フォーカス可能範囲については、撮影時にユーザ操作で設定してもよいし、撮影時にピントの合っていた位置を基準にして、その前後における一定範囲を自動で設定してもよい。
図１の記録データ生成部１０６は、撮像部１０１および錯乱円径計算部１０３から取得したデータを用いて圧縮処理を行って記録データを生成する。記録データ生成部１０６の詳細については後述する。データ記録部１０７は、記録データ生成部１０６により生成された記録データを受け取って記録媒体への記録処理を行う。データは、例えばメモリカード等のリムーバブルメディアに記録されるが、これに限るものではない。
【００１４】
次に錯乱円径計算部１０３の詳細を説明する。
まず、図４および図５を参照して、ＬＦ画像における錯乱円の概念を説明する。図４はマイクロレンズアレイ２０２とイメージセンサ２０３との関係を表す模式図である。図中に円形枠で示す部分は１つのマイクロレンズ２０２ａを表し、また四角形枠で示す部分はイメージセンサ２０３の各画素、つまり個々の検出素子２０３ａを表している。図４の例では、１個のマイクロレンズ２０２ａに対して、５行×５列＝２５個の検出素子２０３ａが割り当てられて配置されている。
【００１５】
図５（Ａ）は、図３に示す被写体Ａにピントを合わせている場合において、被写体Ａの撮像データを出力する撮像素子と錯乱円との関係を表す模式図である。つまり、図５（Ａ）は被写体Ａに対してピントが合った状態を示しており、錯乱円５０１は撮像素子における１つの検出素子２０３ａの範囲（四角形枠）内に収まっている。これは許容錯乱円であり、残りの２４個の検出素子２０３ａが出力するデータは必要ないこととなる。図５（Ｂ）は、図３における被写体Ａにピントを合わせている場合において、被写体Ｂの撮像データを出力する撮像素子と錯乱円の関係を表す模式図である。図３に示すように、撮像装置から見て、被写体Ｂは被写体Ａからやや離れて位置しているため、図５（Ａ）に比べて錯乱円６０１の円径が大きくなる。錯乱円６０１は撮像素子における１つの検出素子２０３ａの範囲（四角形枠）よりも大きい。すなわち、被写体Ｂにピントは合っていないが、画像のボケ具合は小さい状態である。図５（Ｃ）は、図３における被写体Ａにピントを合わせている場合において、被写体Ｃの撮像データを出力する撮像素子と錯乱円との関係を表す模式図である。図３に示すように、被写体Ｃは被写体Ｂと比較して、被写体Ａから大分離れて位置しているため、図５（Ｃ）に示すように錯乱円７０１の円径がさらに大きくなる。すなわち、画像のボケ具合が大きい状態である。なお、図５（Ａ）ないし（Ｃ）には最大錯乱円５００を円形枠で示す。
【００１６】
次に錯乱円径計算部１０３を説明する。図６は、錯乱円径計算部１０３の構成例を概略的に示すブロック図である。
距離情報生成部８０１は、奥行きマップ生成部１０２から取得したデータ、つまり奥行き情報を用いて、現在注目している画素（以下、注目画素という）の距離情報を生成する。この距離情報は、奥行き方向において注目画像に対応する位置と撮影位置との差に相当し、最大距離算出部８０２に送られる。最大距離算出部８０２は、距離情報生成部８０１から取得した距離情報、およびフォーカス範囲設定部１０４から取得したフォーカス可能範囲の情報に基づき、注目画素についてフォーカス可能範囲を基準とした最大距離を算出する。
【００１７】
図３（Ｂ）を参照して最大距離について説明する。図３（Ｂ）の例は、撮像データから奥行き情報として０〜１０が取得されている場合を示す。つまり奥行き検出範囲は１０である。被写体Ａ、Ｂ、Ｃについてはそれぞれ距離４、１、９に位置する場合を想定する。０で示す位置が撮像装置に最も近く、１０で示す位置が撮像装置から最も遠い。フォーカス可能範囲は２〜５に設定されており、撮像装置から見て手前側にある第１の端位置での距離が２であり、奥側にある第２の端位置での距離が５である。
撮像装置から見て、被写体Ｂはフォーカス可能範囲よりも手前側に位置している。このため、フォーカス可能範囲にて最も奥位置（第２の端位置）での距離５と、被写体Ｂの距離１との差分の絶対値４が最大距離として算出される。また、撮像装置から見て、被写体Ｃはフォーカス可能範囲よりもさらに奥側に位置している。このため、フォーカス可能範囲の最も手前の位置（第１の端位置）での距離２と、被写体Ｃの距離９との差分の絶対値７が最大距離となる。被写体Ａについては、フォーカス可能範囲内に位置している。このため、被写体Ａの距離４と第２の端位置での距離５との距離差｜５−４｜＝１、および被写体Ａの距離４と第１の端位置での距離２との距離差｜４−２｜＝２が比較される。両者のうちで大きい方の距離差、すなわち２が最大距離となる。
【００１８】
図６の錯乱円径算出部８０３は、最大距離算出部８０２の出力に応じて注目画素の錯乱円径を算出する。錯乱円径は、最大距離が０の場合に最小値（撮像素子の１画素分の面積に相当する）となり、最大距離が、取得されている奥行き情報の範囲（奥行き検出範囲）と一致する場合に最大値になるように算出する。具体的には、図３（Ｂ）の場合、奥行き検出範囲は１０である。最大距離算出部８０２が算出した最大距離が１０である場合、最大錯乱円径は１つのマイクロレンズ２０２ａがカバーする画素範囲の面積に比例し、図４および図５の場合、画素数２５となる。例えば、被写体Ａの場合、最大距離は２であるため、錯乱円径は２５×（２÷１０）＝５となる。被写体Ｃの場合、最大距離は７であるため、錯乱円径は２５×（７÷１０）≒１８となる。
【００１９】
次に、図７のフローチャートを参照して、錯乱円径計算部１０３の処理例を説明する。
錯乱円径計算部１０３は、奥行きマップ生成部１０２から取得した奥行き情報を用いて、注目画素の距離情報を取得する（Ｓ１００１）。次にフォーカス可能範囲にて最も奥位置（第２の端位置）と、注目画素の位置との距離差（これをＡと記す）が算出される（Ｓ１００２）。次にフォーカス可能範囲にて最も手前の位置（第１の端位置）と、注目画素の位置との距離差（これをＢと記す）が算出される（１００３）。
Ｓ１００４では、Ｓ１００２で算出した｜Ａ｜とＳ１００３で算出した｜Ｂ｜が比較される。つまり、差分の絶対値について大小関係が比較される。判定結果が｜Ａ｜≧｜Ｂ｜の場合、Ｓ１００５に処理を進め、｜Ａ｜＜｜Ｂ｜の場合、Ｓ１００６に処理を進める。Ｓ１００５ではＡの絶対値が最大距離に設定される。一方、Ｓ１００６では、Ｂの絶対値が最大距離に設定される。
【００２０】
Ｓ１００５、Ｓ１００６の次に、錯乱円径計算部１０３は、奥行きマップにて距離情報が取得できている範囲（奥行き検出範囲）の大きさを算出する（Ｓ１００７）。そして、下式を用いて錯乱円径が算出される（Ｓ１００８）。
・計算式
錯乱円径  ＝  最大錯乱円径×（最大距離÷奥行き検出範囲）
ＬＦカメラの最大錯乱円径は、１つのマイクロレンズ２０２ａに対応する撮像素子の検出画素数により算定される。最大錯乱円径に対して、最大距離と奥行き検出範囲の比率を乗算すれば、錯乱円径が得られる。Ｓ１００１からＳ１００８の処理を全ての画素に対して行うことで、全画素について錯乱円径を算出することができる。
【００２１】
次に、図１の記録データ生成部１０６について詳細を説明する。図８は記録データ生成部１０６の構成例を概略的に示すブロック図である。
撮像データ受信部１１０１は、撮像部１０１から撮像データ（ＬＦデータ）を受信して圧縮データ生成部１１０４へ送信する。錯乱円径受信部１１０２は、錯乱円径計算部１０３から画素ごとの錯乱円径の情報を受信し、圧縮データ生成部１１０４および錯乱円径データ生成部１１０５へ送信する。圧縮データ生成部１１０４は、錯乱円径受信部１１０２から受信した錯乱円径の情報に基づいて、錯乱円外（錯乱円よりもマイクロレンズの周縁側）を通過する光の光線情報および方向情報を削除することで圧縮データを生成する。錯乱円径データ生成部１１０５は、錯乱円径受信部１１０２から受信したデータを画素の順に並べて錯乱円径データを生成する。データ合成部１１０６は圧縮データ生成部１１０４が生成した圧縮データと、錯乱円径データ生成部１１０５が生成した錯乱円径データを受け取り、両者を合成することによって記録データを生成する。記録データは錯乱円径データを含むが、ＬＦデータの一部（錯乱円内を通過する光の光線情報および方向情報）だけを含むので、元のＬＦデータに比べてデータ量が少ない。
【００２２】
第１実施形態によれば、ＬＦ画像の利点を活かしつつ、再生時に必要となる錯乱円径に基づいて不要なデータを削除することで、効率良くデータ圧縮処理を行える。
【００２３】
［変形例（第１実施形態）］
次に、第１実施形態の変形例を説明する。なお、既に説明した部分と同様の部分には前記と同一の符号を用いることにより、それらの詳細な説明を省略し、主に相違点を説明する。
図１（Ａ）に示すモード記憶部１３０１は、画像データ（ＬＦデータ）の記録モードを示す情報を記憶している。記録モードには通常モードおよび圧縮モードがあり、通常モードではＬＦデータの圧縮処理を行わないものとする。記録データ生成部１０６はモード記憶部１３０１が記憶している記録モードの情報に応じて、撮像データから記録データを生成する。
【００２４】
図９は記録データ生成部１０６の構成例を概略的に示すブロック図である。図８との相違点は錯乱円径決定部１４０１である。錯乱円径決定部１４０１はモード記憶部１３０１から記録モードの情報を取得してモード判定処理を行う。記録モードが通常モードである場合、錯乱円径決定部１４０１は、ＬＦカメラの最大錯乱円径を錯乱円径データとして出力する。また、記録モードが圧縮モードである場合、錯乱円径決定部１４０１は、錯乱円径受信部１１０２から受信した錯乱円径を錯乱円径データとして出力する。
【００２５】
圧縮データ生成部１１０４および錯乱円径データ生成部１１０５は、錯乱円径決定部１４０１からそれぞれ受信した錯乱円径データを用いて各処理を実行する。錯乱円径データがＬＦカメラの最大錯乱円径を示す場合、錯乱円外を通過する光線のデータは存在しないので、データ圧縮処理は行われない。また、錯乱円径データが最大錯乱円径より小さい場合、該データの示す錯乱円外を通過する光線情報および方向情報を削除する圧縮処理が行われる。
変形例によれば、記録モードに応じて、ＬＦデータの圧縮処理を行う設定と、ＬＦデータの圧縮処理を行わない設定を切り替えることができる。
【００２６】
次に図１（Ｂ）を参照して、さらに別の変形例を説明する。例えば、パーソナルコンピュータ等の情報処理装置は、撮像装置からＬＦデータを取得して圧縮処理を行う。この場合、撮像部１０１は外部装置であり、装置内のデータ受信部１２２１に対してＬＦデータを無線または有線で送信する。
ＬＦカメラ１２１０は撮像部１０１およびデータ送信部１２１１を備える。データ送信部１２１１は撮像部１０１によるＬＦデータをデータ受信部１２２１へ送信する。データの送信には公知の映像インターフェース（ＤＶＩ等）やＥｔｈｅｒｎｅｔ（登録商標）等を利用すればよい。ＤＶＩは”Digital Visual Interface”の略号である。情報処理装置内のデータ受信部１２２１は、データ送信部１２１１からＬＦデータを受信し、奥行きマップ生成部１０２、錯乱円径計算部１０３、記録データ生成部１０６へそれぞれ出力する。
以上説明したように、撮影後にピント状態を指定できるというＬＦカメラの利点を維持したまま、データ量を削減することが可能となる。
【００２７】
［第２実施形態］
次に、本発明の第２実施形態を説明する。
第２実施形態では、撮像装置としてのＬＦカメラと、該カメラが生成したＬＦ映像信号受信して処理する映像表示装置について説明する。
図１０は撮像装置（ＬＦカメラ）２２００および映像表示装置２１００の構成例を示すブロック図である。
撮像装置２２００は被写体を撮像してＬＦ映像信号を出力する。映像表示装置２１００内の映像入力部２１０１は、撮像装置２２００から映像表示装置２１００に入力されるＬＦ映像信号を受信する。ＬＦ映像信号は、ＤＰやＤＶＩ、ＨＤＭＩ、ＳＤＩ等の映像入力端子より入力される。ＤＰは”DisplayPort”、ＨＤＭＩは”High-Definition Multimedia Interface”、ＳＤＩは”Serial Digital Interface”の略号である。
【００２８】
ＣＰＵ（中央演算処理装置）２１０２は、映像表示装置２１００全体を制御する。ＣＰＵ２１０２はメモリからプログラムを読み出して実行することにより各種制御を行う。ＲＡＭ（Random Access Memory）２１０３は各種データを一時保存するために使用する。一時保存データとしては、ＣＰＵ２１０２が実行するプログラムや各種テーブルデータ等が挙げられる。ＲＯＭ（Read Only Memory）２１０４は各種データを保存する書き換え可能な不揮発性記憶デバイスである。記憶データとしてはユーザ設定値等が挙げられる。操作検出部２１０５は各種ボタン操作を検出して操作指示をＣＰＵ２１０２へ通知する。ＣＰＵ２１０２は検出された操作指示信号に従って、電源のＯＮ／ＯＦＦや、入力切換、ＵＩ（ユーザ・インターフェース）処理等を制御する。
【００２９】
ＬＦデータ解析部２１０６は、映像入力部２１０１から受信したＬＦデータを用いて、ピント情報、視点情報、画素配置情報等を解析し、解析結果を後述の映像処理部２１０９に通知する。積分画素位置情報受信部（以下、位置情報受信部という）２１０７は、撮像装置２２００から送信される情報を受信して映像処理部２１０９に出力する。この情報（積分画素位置情報）は、積分画素データに置き換えた画素位置の情報であり、その詳細については後述する。
ピント位置指定部２１０８は、ユーザ操作または装置の動作モード等に応じてＬＦ画像に関するピント位置を指定し、画像内でピントを合わせる位置を設定する。設定情報（ピント情報）は映像処理部２１０９に送られる。映像処理部２１０９は、ＬＦデータ解析部２１０６、位置情報受信部２１０７、ピント位置指定部２１０８からの各情報に基づいて画像表示データを生成する。映像処理部２１０９は、映像入力部２１０１から入力された画像データに対して、色域変換、スケーリング処理、ＯＳＤ（On Screen Display）重畳等の各種処理を行う。映像処理部２１０９は、ピント位置指定部２１０８からの設定情報に基づいて画像表示データを生成する。生成された画像表示データは表示部２１１０へ送信される。表示部２１１０は、画像表示データに従って画像を表示する。
【００３０】
次に、図１１を参照して撮像装置２２００の構成要素について説明する。
撮像装置２２００は、被写体２２０１からの光を結像させるレンズ部２２０２を備える。被写体２２０１からの光はレンズ部２２０２を通して撮像素子部２２０３に到達する。撮像光学系を構成するレンズ部２２０２は、図２および図４で説明したように、撮像レンズとマイクロレンズアレイを組み合わせて構成される。レンズ部２２０２を通過した光線は撮像素子部２２０３で光電変換されて、撮像データが得られる。撮像レンズおよびマイクロレンズアレイの特性と、撮像素子の画素配置に基づき、撮像された画像に対してピントや視点といった各種ＬＦ情報が付与される。
カメラＣＰＵ２２０４は各種プログラムを実行して撮像装置２２００全体を制御する。ＲＡＭ２２０５は、一時保存データとして、カメラＣＰＵ２２０４が実行するプログラムや、ピント範囲の設定値や各種テーブルデータ等を記憶する。ＲＯＭ２２０６は各種データを保存する書き換え可能な不揮発性記憶デバイスである。各種データとしては、ＬＦ撮像データ、撮影モード設定等の各種ユーザ設定値等が挙げられる。ＬＦ撮像データはＬＦカメラで撮像したＬＦデータである。なお、ＲＯＭ２２０６については、ＬＦ撮像データの取り扱いの利便性を考慮して、取り外し可能なリムーバブルメディアを併用してもよい。
【００３１】
操作検出部２２０７は各種ボタン操作を検出して操作指示をカメラＣＰＵ２２０４へ通知する。カメラＣＰＵ２２０４は検出された操作指示信号に従って、電源のＯＮ／ＯＦＦや、シャッタ操作、ピント操作、絞り操作、撮影モード設定、各種ＵＩ処理等を制御する。
撮影モード設定部２２０８は、ＵＩ画面上でのユーザ操作等に応じて撮影モードの設定処理を行う。撮影モードは、ＬＦデータを圧縮しない通常モードと、ＬＦデータを圧縮してデータ量を削減する圧縮モードを含み、撮影モードの設定情報はＲＯＭ２２０６に保持される。奥行き情報解析部２２０９は、ＬＦデータを解析して奥行き情報を生成する。この奥行き情報をマップ化したデータは奥行きマップや３Ｄマップと呼ばれ、撮像データ中での各被写体の位置関係を表す情報を有する。
【００３２】
積分画素位置決定部２２１０は、奥行き情報解析部２２０９が解析した奥行き情報を取得し、撮像データ中の画素領域を解析する。積分画素位置決定部２２１０は、画素ごとの奥行き情報が生成された第１の領域と、奥行き情報が解析できなかった第２の領域を特定する領域決定処理を行う。その詳細は後述するが、第１の領域内の画素についてはＬＦデータの再構築により画像データを生成可能である。一方、第２の領域内の画素については、ピント変更によるボケ量の変更は必要ないため、ＬＦデータから積分計算した画素データ（積分画素データ）に置き換える処理が行われる。以下、第２の領域を、置換対象領域という。領域決定処理により置換対象領域として特定された領域内での、複数の画素位置を示す位置情報（以下、画素領域情報という）は映像データ生成部２２１２に出力される。
積分画素生成部２２１１は積分画素データ生成手段であり、置換対象領域内の画素に対して積分画素データを生成する。生成された積分画素データは、元のＬＦデータに比べてデータ量が削減される。これは、ＬＦデータの一部が、計算済みの積分画素データに置換されるので、計算前の元のＬＦデータに比べて画素数当たりのデータ量が少なくなるからである。
【００３３】
映像データ生成部２２１２は、積分画素位置決定部２２１０からの画素領域情報、積分画素生成部２２１１からの積分画素データ、および撮影モードの設定情報に基づいてＬＦデータの置換処理を行う。撮影モードが通常モードに設定されている場合、前記置換処理は行わない。また、圧縮モードの場合には、積分画素生成部２２１１が生成した積分画素データへの置換処理を行ったＬＦデータを、映像データ生成部２２１２が映像データ送信部２２１３に出力する。映像データ送信部２２１３は、処理済みのＬＦデータを映像表示装置２１００へ送信するためのインタフェース部である。積分画素位置情報送信部（以下、位置情報送信部という）２２１４は、積分画素データに置き換えた画素位置を示す情報を出力する位置情報出力手段である。位置情報送信部２２１４は、置換対象領域内の画素位置を示す画素領域情報を映像表示装置２１００へ送信する。映像表示装置２１００は、受信した画素領域情報に基づいて映像データの生成処理を行う。
【００３４】
撮像装置２２００における撮像素子の各画素とマイクロレンズとの対応関係は図２および図４で説明した通りである。また、被写体とカメラ位置との位置関係、およびピント位置とボケ具合を表現する錯乱円との関係については、図３および図５を用いて説明した通りである。なお、図５（Ａ）に示すように、ピントが合っている画像に対する錯乱円（許容錯乱円）は１個の検出素子の範囲内に収まっている。また、図５（Ｂ）に示すように、ピントは合っていないが、ピント位置から近い被写体に対する錯乱円径は比較的小さいので、画素データ生成時の積分範囲の面積が小さくなる。図５（Ｃ）に示すように、ピントが合っておらず、ピント位置から遠い被写体に対する錯乱円径は大きいので、画素データ生成時の積分範囲の面積が大きくなる。
【００３５】
次に図１２ないし図１７を参照して、本実施形態の処理について説明する。
図１２は撮像装置２２００がＬＦ撮像データを映像表示装置２１００へ送出する処理例を説明するフローチャートである。以下では、予めユーザ操作によって、撮影モードフラグが圧縮モードに設定されているものとする。表１に示す撮影モードフラグはカメラＣＰＵ２２０４が撮影モードの管理に使用する情報である。
【表１】
2014039119.tif 000003
まず、Ｓ８０１にて奥行き情報解析部２２０９は、ＬＦ撮像データに基づいて奥行き情報を解析する。次にＳ８０２で積分画素位置決定部２２１０は、奥行きが解析できなかった範囲を含む置換対象領域を特定する。具体的には、図１７に例示する画素領域テーブルが作成される。画素領域テーブルは、領域名とその開始位置のＸ座標およびＹ座標、縦サイズおよび横サイズの各情報を含む。これらの情報を用いることで、置き換え画素の各位置を特定できる。なお、本処理については図１３を参照して後述する。
【００３６】
Ｓ８０３にて積分画素生成部２２１１は、ＬＦ撮像データ、撮影モードフラグ、画素領域テーブル（図１７参照）の各情報に基づいて、置き換え画素データとしての積分画素データを生成する。本実施形態では、置換対象領域内の画素に対して積分画素データへの置換処理を１種類の画素データで行う。これに限らず、積分画素生成部２２１１では、画質設定に従ってボケ量を変更した画素データを生成してもよい。この場合、ボケ具合の異なる複数の画素データを置き換え画素データとして使用できる。あるいは、複数の画素領域を含む広い範囲にピントが合っているパンフォーカス画像の画素データを生成して前記の置換処理を行ってもよい。このように、複数種類の積分画素データを作成することが可能である。本処理ついては、図１４を参照して後述する。次のＳ８０４にて映像データ生成部２２１２は、積分画素データと、元のＬＦ撮像データに基づいて、更新ＬＦデータを生成する。更新ＬＦデータは、積分画素データとＬＦ撮像データが混在したデータである。Ｓ８０５で映像データ送信部２２１３は更新ＬＦデータを映像表示装置２１００へ送信し、位置情報送信部２２１４は置き換え画素の位置情報を映像表示装置２１００へ送信する。これらの情報は、各種映像送信規格やデータ送信規格に従ったデータとして送信される。
【００３７】
図１３は、図１２のＳ８０２の処理例を説明するフローチャートである。本処理は、奥行きが解析できなかった画素領域の情報を収集し、画素領域テーブル（図１７参照）を作成して、置き換え画素の位置を特定する処理であり、積分画素位置決定部２２１０が実行する。
まず、Ｓ９０１にて予め解析済みの奥行き情報（奥行き解析情報）が参照され、Ｓ９０２に処理を進める。Ｓ９０２は奥行き解析ができなかった領域の有無についての判定処理である。奥行き解析ができなかった領域があると判定された場合、Ｓ９０３に処理を進め、該領域が無いと判定された場合、Ｓ９０４に処理を進める。Ｓ９０３では、奥行き解析ができなかった領域内の画素に対して、積分画素データに置き換える領域として画素領域テーブル（図１７参照）に登録する処理が実行される。具体的には、置換対象領域として特定するための領域名と、開始位置のＸ座標およびＹ座標と、縦サイズおよび横サイズの各情報が登録される。一方、Ｓ９０４では積分画素データに置き換える画素領域が無いと判断されるため、画素領域テーブルへの登録処理は行わない。
Ｓ９０３やＳ９０４の後でＳ９０５に進み、ＬＦ撮像データを全て解析して置換画素領域の特定が終了したか否かについて判定される。解析処理が全て完了した場合、処理を終了する。解析処理が終わっていない場合、Ｓ９０６に進んで処理を続行し、Ｓ９０２に戻る。
【００３８】
次に、図１４のフローチャートを参照して、図１３のＳ９０３で説明した画素領域テーブルに従い、置き換え画素に対して積分画素データを生成して置き換えを行う処理を説明する。
Ｓ２００１では、撮影モードフラグが判定される。撮影モードが通常モードの場合、Ｓ２００２へ処理を進め、また、圧縮モードの場合、Ｓ２００３へ処理を進める。Ｓ２００３で積分画素生成部２２１１は、積分画素データを生成して映像データ生成部２２１２に出力する。この場合、映像データ生成部２２１２は、置換対象領域内の画素に対して、光線情報および方向情報から積分計算した積分画素データへの置換処理を実行し、データ量を削減する圧縮処理を行う。一方、Ｓ２００２では、映像データ生成部２２１２は、積分画素データへの置換処理を行わない。
【００３９】
次に、図１５のフローチャートを参照して、撮像装置２２００から映像表示装置２１００へ送信されたＬＦ撮像データを処理して映像表示を行う処理について説明する。なお、撮像装置２２００の映像データ送信部２２１３が送信したＬＦ撮像データは、映像表示装置２１００の映像入力部２１０１が受信する。また撮像装置２２００の位置情報送信部２２１４が送信した積分画素位置情報は、映像表示装置２１００の位置情報受信部２１０７が受信する。
まず、Ｓ２１０１にて映像処理部２１０９は、位置情報受信部２１０７から取得した積分画素位置情報から、積分画素データへの置換処理を行った領域の画素位置を特定する。但し、撮影モードの設定情報や被写体の位置関係によっては置換処理を行った領域が存在しない場合もある。次のＳ２１０２で映像処理部２１０９は、積分画素位置情報とＬＦ撮像データ、およびユーザ操作で指定したピント位置に基づいて画像表示データを生成する。本処理については、図１６を参照して後述する。Ｓ２１０３で表示部２１１０は、Ｓ２１０２で生成した画像表示データに従って画像を表示する。
【００４０】
次に図１６のフローチャートを参照して、図１５のＳ２１０２で説明した、ＬＦ撮像データから画像表示データを生成する処理について説明する。
Ｓ２２０１で映像処理部２１０９は、ユーザ操作により指定されたピント情報を取得する。次のＳ２２０２で映像処理部２１０９は、積分済み画素領域テーブルを参照する。積分済み画素領域とは、置換対象領域内の各画素に対して積分画素データへの置換処理を行った領域である。前記テーブルは積分画素データに置き換えた画素領域を記載した情報を含み、図１７と同様に、積分画素データへの置換処理を行った画素領域を特定するための領域名と、開始位置のＸ座標およびＹ座標と、縦サイズおよび横サイズの各情報を含む。
Ｓ２２０２では、積分済み画素領域が存在するか否かについての判定処理が行われる。積分済み画素領域が存在しない場合、Ｓ２２０３へ処理を進め、また、積分済み画素領域が存在する場合、Ｓ２２０４へ処理を進める。
【００４１】
Ｓ２２０３で映像処理部２１０９は、撮像装置２２００から送信されてきたデータが元のＬＦ撮像データ（つまり、積分画素データへの置換処理を行っていないデータ）のみで成り立っていると判断する。Ｓ２２０５に進み、映像処理部２１０９は当該ＬＦ撮像データから画像を再構築して画像表示データを生成する。一方、Ｓ２２０４では、積分済み画素領域が存在するので、映像処理部２１０９は当該領域内の画素データが積分画素データに置き換えられたデータとして送信されてきたと判断する。映像処理部２１０９は、撮像装置２２００にて積分画素データへの置換処理が行われた画素データについてはそのまま使用して画像表示データを生成する（Ｓ２２０５）。積分済み画素領域以外でのＬＦ撮影データについては再構築により画像表示データが生成される。
第２実施形態によれば、ＬＦデータの一部を積分画素データに置き換えることにより、ＬＦ画像の特徴を活かしたままで、データ量を削減することができる。
【００４２】
［変形例（第２実施形態）］
次に、図１８および図１９を参照して、第２実施形態の変形例を説明する。
第２実施形態に係る前記の例では、置換対象領域に対する置き換え画素データの生成および置換処理を、撮像装置２２００が行った。変形例では、図１８に示す撮像装置２２００から外部装置２６００に対して、ＬＦ撮像データと置換対象領域の情報が送信される。
【００４３】
図１８は撮像装置２２００としてＬＦカメラを例示し、外部装置２６００としてパーソナルコンピュータ（ＰＣ）等の情報処理装置を例示した図である。撮像装置２２００は外部装置２６００に対して、置換対象領域の画素位置情報を通知する。また撮像装置２２００において、ユーザ操作により画素生成モードフラグを設定しておくものとする。下表２の画素生成モードフラグは、置換対象領域に対する置き換え画素データの生成および置換処理を撮像装置２２００が行うのか、または外部装置２６００が行うのかを管理する情報である。これらの処理を外部装置２６００が行う場合、画素生成モードフラグは「外部」に設定され、撮像装置２２００が処理を行う場合には「カメラ」に設定される。
【表２】
2014039119.tif 000004
なお、外部装置２６００は有線または無線通信により、撮像装置２２００からデータを受信する機能と、図１０で説明した各構成要素により実現される機能と同様の機能を有する。例えば、外部装置２６００は、ＬＦ撮像データの編集や閲覧が可能であり、撮像装置２２００から送信された画素領域テーブル（図１７参照）の情報に基づいて、積分画素データの生成および置換処理を実行する機能が備わっている。
【００４４】
次に、図１９のフローチャートを参照して、変形例における処理例を説明する。なお、図１２との違いは、撮像装置２２００が画素生成モードフラグを参照し、積分画素データの生成とＬＦデータの再構築を行うか否かを判断する処理である。よって、図１２との相違点である、Ｓ２７０３ないしＳ２７０５の処理を説明する。なお、Ｓ８０５にて情報の出力先は外部装置２６００である。
Ｓ２７０３にて、画素生成モードフラグの値が判定され、これが「外部」に設定されている場合、Ｓ２７０４に処理を進め、フラグの値が「カメラ」に設定されている場合、Ｓ８０３に処理を進める。
【００４５】
Ｓ２７０４では、撮像装置２２００は積分画素データの生成および置換処理を行わず、Ｓ２７０５に進み、ＬＦ撮像データ、および置き換え画素の位置情報等を含む画素領域テーブル情報（図１７参照）を外部装置２６００へ送信する。外部装置２６００では、積分画素データの生成および置換処理が行われ、積分済みの画素データおよび元のＬＦ撮像データが混在した更新ＬＦデータが生成される。
なお、フラグの値が「カメラ」に設定されている場合、既に説明したＳ８０３からＳ８０５の処理が実行される。処理の詳細については、図１２で説明済みである。
変形例によれば、ユーザ操作による画素生成モードフラグの設定に応じて、積分画素データの生成および置換処理を撮像装置で行うか、または外部装置で行うかを任意に選択できる。よって、撮像装置のバッテリ残量や使用状況等に応じたＬＦ撮像データの処理が可能となり、ユーザの利便性が向上する。
【００４６】
［その他の実施形態］
また、本発明は、以下の処理を実行することによっても実現される。即ち、前記実施形態の機能を実現する画像処理プログラムを、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム又は装置のコンピュータ（またはＣＰＵやＭＰＵ等）がプログラムを読み出して実行する処理である。
【符号の説明】
【００４７】
１０１  撮像部
１０６  記録データ生成部
２０１  撮像レンズ
２０２  マイクロレンズアレイ
２０３  イメージセンサ
１３０１  モード記憶部
２１００  映像表示装置
２１０９  映像処理部
２２００  撮像装置（ＬＦカメラ）
２２１２  映像データ生成部
２６００  外部装置
【図１】
2014039119.tif 000005
【図２】
2014039119.tif 000006
【図３】
2014039119.tif 000007
【図４】
2014039119.tif 000008
【図５】
2014039119.tif 000009
【図６】
2014039119.tif 000010
【図７】
2014039119.tif 000011
【図８】
2014039119.tif 000012
【図９】
2014039119.tif 000013
【図１０】
2014039119.tif 000014
【図１１】
2014039119.tif 000015
【図１２】
2014039119.tif 000016
【図１３】
2014039119.tif 000017
【図１４】
2014039119.tif 000018
【図１５】
2014039119.tif 000019
【図１６】
2014039119.tif 000020
【図１７】
2014039119.tif 000021
【図１８】
2014039119.tif 000022
【図１９】
2014039119.tif 000023