(57)【要約】  画像間の視差に対応するずれの視認性を良好にすることができる画像処理装置、撮像装置、画像処理方法及び画像処理プログラムを提供する。  係数決定部の一例である画像処理部は、左目画像及び右目画像における対象画素毎に、拡張量係数（一例として線形関数の傾き）を有する入出力関数を決定する（ステップ４１０）。入出力関数は、スプリットイメージの右目画像及び左目画像における画像処理の対象画素毎に、入力視差に応じて定められた拡張量係数に従って出力視差を導出する。
2014045739.tif 000002
【特許請求の範囲】
【請求項１】
撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像され、第１及び第２の画像信号を出力する第１及び第２の画素群から出力された前記第１及び第２の画像信号に基づく前記第１及び第２の画像を取得する画像取得部と、
前記画像取得部により取得された前記第１の画像の各画素と前記画像取得部により取得された前記第２の画像の対応する画素とのずれ量を示す視差を算出する視差算出部と、
前記画像取得部により取得された前記第１及び第２の画像における画像処理の対象画素毎に、前記視差算出部により算出された視差に応じて該視差の拡張量を決定する拡張量決定部と、
前記画像取得部により取得された前記第１及び第２の画像における画像処理の対象画素毎に、前記視差算出部により算出された視差を、前記拡張量決定部により決定された拡張量に基づいて、拡張させた視差に変換させる視差変換係数を決定する係数決定部と、
前記対象画素に対して、前記係数決定部により決定された前記視差変換係数に基づいて視差を拡張する処理を行う画像処理部と、
前記第１及び第２の画素群を有する撮像素子から出力された画像信号に基づいて第１の表示用画像を生成すると共に、前記第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成する生成部と、
画像を表示する表示部と、
前記表示部に対して、前記第１の表示用画像を表示させ、前記対象画素に対して視差を拡張する処理が行われた画像を有する前記第２の表示用画像を前記第１の表示用画像の表示領域内に表示させる制御を行う表示制御部と、
を含む画像処理装置。
【請求項２】
前記拡張量を、前記視差算出部により算出された視差の減少に応じて増大する拡張量とした請求項１に記載の画像処理装置。
【請求項３】
前記拡張量を、所定の表示領域に表示された前記第１の表示用画像と該表示領域に表示された前記第２の表示用画像とのずれを発生させる少なくとも１つの因子に応じて定められた拡張量とした請求項１又は請求項２に記載の画像処理装置。
【請求項４】
前記少なくとも１つの因子は前記撮影レンズの絞り値の因子を含み、
前記拡張量を、前記絞り値が大きいほど増大する拡張量とした請求項３に記載の画像処理装置。
【請求項５】
前記拡張量決定部は、前記絞り値及び開放絞り値に基づいて前記拡張量を決定する請求項４に記載の画像処理装置。
【請求項６】
前記絞り値を、動画像の撮像時に使用する絞り値又は静止画像の撮像時に使用する絞り値とした請求項４に記載の画像処理装置。
【請求項７】
前記少なくとも１つの因子を、前記表示領域に表示された前記第１の表示用画像と第２の表示用画像とのずれ量を規定する複数の因子とした請求項３〜請求項６の何れか１項に記載の画像処理装置。
【請求項８】
前記撮像素子は、被写体像が瞳分割されずに結像されて第３の画像信号を出力する第３の画素群を有し、
前記生成部は、前記第３の画素群から出力される前記第３の画像信号に基づいて前記第１の表示用画像を生成する請求項１〜請求項７の何れか１項に記載の画像処理装置。
【請求項９】
前記対象画素を、前記第２の表示用画像における特定の部分画像に含まれる画素に相当する画素とした請求項１〜請求項８の何れか１項に記載の画像処理装置。
【請求項１０】
前記表示部の表示画面内の一部領域を指定する指定部を更に含み、
前記特定の部分画像を、前記第２の表示用画像のうちの前記指定部により指定された前記一部領域の位置に対応する位置の画像とした請求項９に記載の画像処理装置。
【請求項１１】
前記特定の部分画像を、前記第１の表示用画像と前記第２の表示用画像とが視差に応じたずれ量で視差発生方向に沿ってずれた画像に相当するスプリットイメージの一部とした請求項１０に記載の画像処理装置。
【請求項１２】
前記特定の部分画像を、前記スプリットイメージにおける他の領域とは異なる色特性を有する色彩が付与された画像とした請求項１０又は請求項１１に記載の画像処理装置。
【請求項１３】
前記対象画素が所定の条件を満たす特定の視差範囲外であるか否かを判定する判定部を更に含み、
前記拡張量決定部は、前記対象画素毎に、前記判定部により前記特定の視差範囲外であると判定された場合に前記拡張量を決定する請求項１〜請求項１２の何れか１項に記載の画像処理装置。
【請求項１４】
前記視差変換係数を、前記拡張量決定部に応じて定められたフィルタ係数とし、
前記画像処理部は、前記フィルタ係数を使用するフィルタにより前記対象画素に対してフィルタ処理を行うことにより視差を拡張する処理を行う請求項１〜請求項１３の何れか１項に記載の画像処理装置。
【請求項１５】
請求項１〜請求項１４の何れか１項に記載の画像処理装置と、
前記画像処理部により視差を拡張する処理が行われることにより得られた画像を記憶する記憶部と、
を含む撮像装置。
【請求項１６】
前記画像処理部により視差を拡張する処理が行われた画像を表示する電子ビューファインダーと、
前記電子ビューファインダーの使用を検出する検出部と、を更に含み、
前記拡張量決定部は、前記検出部により前記電子ビューファインダーの使用が検出された場合は前記電子ビューファインダーの使用時に用いる前記拡張量として予め定められた使用時拡張量を決定し、前記検出部により前記電子ビューファインダーの使用が検出されなかった場合は前記電子ビューファインダーの不使用時に用いる前記拡張量として予め定められた不使用時拡張量を決定する請求項１５に記載の撮像装置。
【請求項１７】
前記検出部により前記電子ビューファインダーの使用が検出されず、視差発生方向の画素数が前記電子ビューファインダーの視差発生方向の画素数と異なる画像表示部に前記画像処理部により視差を拡張する処理が行われた画像を表示する場合、前記不使用時拡張量を、前記画像表示部の使用時に用いる前記拡張量として予め定められた表示部使用時拡張量とした請求項１６に記載の撮像装置。
【請求項１８】
前記画像表示部の視差発生方向の画素数は前記電子ビューファインダーの視差発生方向の画素数よりも多く、
前記検出部により前記電子ビューファインダーの使用が検出された場合、前記使用時拡張量を、前記表示部使用時拡張量よりも大きな値とした請求項１７に記載の撮像装置。
【請求項１９】
撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像され、第１及び第２の画像信号を出力する第１及び第２の画素群から出力された前記第１及び第２の画像信号に基づく前記第１及び第２の画像を取得する画像取得工程と、
前記画像取得工程により取得された前記第１の画像の各画素と前記画像取得工程により取得された前記第２の画像の対応する画素とのずれ量を示す視差を算出する視差算出工程と、
前記画像取得工程により取得された前記第１及び第２の画像における画像処理の対象画素毎に、前記視差算出工程により算出された視差に応じて該視差の拡張量を決定する拡張量決定工程と、
前記画像取得工程により取得された前記第１及び第２の画像における画像処理の対象画素毎に、前記視差算出工程により算出された視差を、前記拡張量決定工程により決定された拡張量に基づいて、拡張させた視差に変換させる視差変換係数を決定する係数決定工程と、
前記対象画素に対して、前記係数決定工程により決定された前記視差変換係数に基づいて視差を拡張する処理を行う画像処理工程と、
前記第１及び第２の画素群を有する撮像素子から出力された画像信号に基づいて第１の表示用画像を生成すると共に、前記第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成する生成工程と、
画像を表示する表示部に対して、前記第１の表示用画像を表示させ、前記対象画素に対して視差を拡張する処理が行われた画像を有する前記第２の表示用画像を前記第１の表示用画像の表示領域内に表示させる制御を行う表示制御工程と、
を含む画像処理方法。
【請求項２０】
コンピュータを、
請求項１〜請求項１４の何れか１項に記載の画像処理装置における前記画像取得部、前記視差算出部、前記拡張量決定部、前記係数決定部、前記画像処理部、前記生成部及び前記表示制御部として機能させるための画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、撮像装置、画像処理方法及び画像処理プログラムに関する。
【背景技術】
【０００２】
デジタルカメラとして、位相差検出方式やコントラスト検出方式を用いたオートフォーカスの他に、使用者が手動でフォーカス調整を行うことができる、いわゆるマニュアルフォーカスモードを備えるものが広く知られている。【０００３】
マニュアルフォーカスモードを有するデジタルカメラとしては、被写体を確認しながらフォーカス調整ができるようにレフレックスミラーを設けて、目視による位相差を表示するスプリットマイクロプリズムスクリーンを用いた方法を採用したものが知られている。また、目視によるコントラストの確認を行う方法を採用したものも知られている。【０００４】
ところで、近年普及しているレフレックスミラーを省略したデジタルカメラでは、レフレックスミラーがないため位相差を表示しながら被写体像を確認する方法がなく、コントラス検出方式に頼らざるを得なかった。しかし、この場合には、ＬＣＤ（liquid crystal display：液晶ディスプレイ）等の表示装置の解像度以上のコントラストの表示ができず、一部拡大するなどして表示する方法を採らざるを得なかった。【０００５】
そこで、近年では、マニュアルフォーカスモード時に操作者が被写体に対してピントを合わせる作業を容易にするために、スプリットイメージをライブビュー画像（スルー画像ともいう）内に表示している。ここで、スプリットイメージとは、例えば２分割された分割画像（例えば上下方向に分割された各画像）であって、ピントのずれに応じて視差発生方向（例えば左右方向）にずれ、ピントが合った状態だと視差発生方向のずれがなくなる分割画像を指す。操作者（例えば撮影者）は、スプリットイメージ（例えば上下方向に分割された各画像）のずれがなくなるように、マニュアルフォーカスリングを操作してピントを合わせる。【０００６】
特開２００９−１４７６６５号公報に記載の撮像装置は、撮像光学系からの光束のうち、瞳分割部によって分割された光束により形成された第１の被写体像及び第２の被写体像をそれぞれ光電変換した第１の画像及び第２の画像を生成する。そして、これらの第１及び第２の画像を用いてスプリットイメージを生成すると共に、瞳分割部によって分割されない光束により形成された第３の被写体像を光電変換して第３の画像を生成する。そして、第３の画像を表示部に表示すると共に、第３の画像内に、生成したスプリットイメージを表示し、かつ第３の画像から抽出した色情報をスプリットイメージに付加するようにしている。このように第３の画像から抽出した色情報をスプリットイメージに付加することにより、スプリットイメージの視認性を良好にすることができる。【０００７】
また、カメラの電子ビューファインダーやカメラの背面側に設けられているディスプレイ（例えばＬＣＤ）は表示の解像度が低いため、スプリットイメージを見ながら正確なジャスピン位置（合焦状態のときの撮影レンズの位置）にピントを合わせることが難しい。そこで、スプリットイメージの視差発生方向のずれ量が視差に依存していることを利用して、視差を強調することでユーザのピント調整を支援する方法が提案されている。この方法によれば、スプリットイメージからピントがどの程度ずれているかをユーザに対してより一層直感的に認識させることができる。
【発明の概要】
【発明が解決しようとする課題】
【０００８】
しかしながら、撮像素子の撮像能力、ＬＣＤの解像度、カメラに搭載されている焦点レンズの種類などのスプリットイメージにおける画像間のずれを発生させる因子によっては画像間のずれを視覚的に認識し難い場合がある、という問題点があった。【０００９】
本発明は、このような実情を鑑みて提案されたものであり、画像間の視差に対応するずれの視認性を良好にすることができる画像処理装置、撮像装置、画像処理方法及び画像処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【００１０】
本発明の第１の態様に係る画像処理装置は、撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像され、第１及び第２の画像信号を出力する第１及び第２の画素群から出力された前記第１及び第２の画像信号に基づく前記第１及び第２の画像を取得する画像取得部と、前記画像取得部により取得された前記第１の画像の各画素と前記画像取得部により取得された前記第２の画像の対応する画素とのずれ量を示す視差を算出する視差算出部と、前記画像取得部により取得された前記第１及び第２の画像における画像処理の対象画素毎に、前記視差算出部により算出された視差に応じて該視差の拡張量を決定する拡張量決定部と、前記画像取得部により取得された前記第１及び第２の画像における画像処理の対象画素毎に、前記視差算出部により算出された視差を、前記拡張量決定部により決定された拡張量に基づいて、拡張させた視差に変換させる視差変換係数を決定する係数決定部と、前記対象画素に対して、前記係数決定部により決定された前記視差変換係数に基づいて視差を拡張する処理を行う画像処理部と、前記第１及び第２の画素群を有する撮像素子から出力された画像信号に基づいて第１の表示用画像を生成すると共に、前記第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成する生成部と、画像を表示する表示部と、前記表示部に対して、前記第１の表示用画像を表示させ、前記対象画素に対して視差を拡張する処理が行われた画像を有する前記第２の表示用画像を前記第１の表示用画像の表示領域内に表示させる制御を行う表示制御部と、を含む。これにより、本構成を有しない場合に比べ、画像間の視差に対応するずれの視認性を良好にすることができる。【００１１】
本発明の第２の態様は、本発明の第１の態様において、前記拡張量を、前記視差算出部により算出された視差の減少に応じて増大する拡張量としたものとしてもよい。これにより、本構成を有しない場合に比べ、画像間の視差に対応するずれの視認性をより一層良好にすることができる。【００１２】
本発明の第３の態様は、本発明の第１の態様又は第２の態様において、前記拡張量を、所定の表示領域に表示された前記第１の表示用画像と該表示領域に表示された前記第２の表示用画像とのずれを発生させる少なくとも１つの因子に応じて定められた拡張量としたものとしてもよい。これにより、本構成を有しない場合に比べ、画像間の視差に対応するずれの視認性をより一層良好にすることができる。【００１３】
本発明の第４の態様は、本発明の第３の態様において、前記少なくとも１つの因子が前記撮影レンズの絞り値の因子を含み、前記拡張量を、前記絞り値が大きいほど増大する拡張量としたものとしてもよい。これにより、本構成を有しない場合に比べ、画像間の視差に対応するずれが、絞り値が大きいほど視認し難くなるという事態の発生を抑制することができる。【００１４】
本発明の第５の態様は、本発明の第４の態様において、前記拡張量決定部が、前記絞り値及び開放絞り値に基づいて前記拡張量を決定するものとしてもよい。これにより、本構成を有しない場合に比べ、適切な拡張量を容易に決定することができる。【００１５】
本発明の第６の態様は、本発明の第４の態様において、前記絞り値を、動画像の撮像時に使用する絞り値又は静止画像の撮像時に使用する絞り値としたものとしてもよい。これにより、本構成を有しない場合に比べ、適切な拡張量を容易に決定することができる。【００１６】
本発明の第７の態様は、本発明の第３の態様から第６の態様の何れか１つにおいて、前記少なくとも１つの因子を、前記表示領域に表示された前記第１の表示用画像と第２の表示用画像とのずれ量を規定する複数の因子としたものとしてもよい。これにより、本構成を有しない場合に比べ、簡素な構成で、画像間の視差に対応するずれの視認性を良好にすることができる。【００１７】
本発明の第８の態様は、本発明の第１の態様から第７の態様の何れか１つにおいて、前記撮像素子は、被写体像が瞳分割されずに結像されて第３の画像信号を出力する第３の画素群を有し、前記生成部が、前記第３の画素群から出力される前記第３の画像信号に基づいて前記第１の表示用画像を生成するものとしてもよい。これにより、本構成を有しない場合に比べ、第１の表示用画像の画質を向上させることができる。【００１８】
本発明の第９の態様は、本発明の第１の態様から第８の態様の何れか１つにおいて、前記対象画素を、前記第２の表示用画像における特定の部分画像に含まれる画素に相当する画素としたものとしてもよい。これにより、本構成を有しない場合に比べ、画像処理にかかる負荷を軽減することができる。【００１９】
本発明の第１０の態様は、本発明の第９の態様において、前記表示部の表示画面内の一部領域を指定する指定部を更に含み、前記特定の部分画像を、前記第２の表示用画像のうちの前記指定部により指定された前記一部領域の位置に対応する位置の画像としたものとしてもよい。これにより、本構成を有しない場合に比べ、画像処理の対象画素を容易に指定することができる。【００２０】
本発明の第１１の態様は、本発明の第１０の態様において、前記特定の部分画像を、前記第１の表示用画像と前記第２の表示用画像とが視差に応じたずれ量で視差発生方向に沿ってずれた画像に相当するスプリットイメージの一部としたものとしてもよい。これにより、本構成を有しない場合に比べ、スプリットイメージ内において画像間の視差に対応するずれを視覚的に容易に認識することができる。【００２１】
本発明の第１２の態様は、本発明の第１０の態様又は第１１の態様において、前記特定の部分画像を、前記スプリットイメージにおける他の領域とは異なる色特性を有する色彩が付与された画像としたものとしてもよい。これにより、本構成を有しない場合に比べ、スプリットイメージ内において視差変換係数に基づく画像処理が行われた画像とそれ以外の画像とを視覚的に容易に特定することができる。【００２２】
本発明の第１３の態様は、本発明の第１の態様から第１２の態様の何れか１つにおいて、前記対象画素が所定の条件を満たす特定の視差範囲外であるか否かを判定する判定部を更に含み、前記拡張量決定部が、前記対象画素毎に、前記判定部により前記特定の視差範囲外であると判定された場合に前記拡張量を決定するものとしてもよい。これにより、本構成を有しない場合に比べ、画像処理を行う必要がない画素について拡張量が決定されることを抑制することができる。【００２３】
本発明の第１４の態様は、本発明の第１の態様から第１３の態様の何れか１つにおいて、前記視差変換係数を、前記拡張量決定部に応じて定められたフィルタ係数とし、前記画像処理部が、前記フィルタ係数を使用するフィルタにより前記対象画素に対してフィルタ処理を行うことにより視差を拡張する処理を行うものとしてもよい。これにより、本構成を有しない場合に比べ、簡素な構成で、対象画素に対して視差変換係数に基づく画像処理を行うことができる。【００２４】
本発明の第１５の態様に係る撮像装置は、本発明の第１の態様から第１４の態様の何れか１つの画像処理装置と、前記画像処理部により視差を拡張する処理が行われることにより得られた画像を記憶する記憶部と、を含む。これにより、本構成を有しない場合に比べ、画像間の視差に対応するずれの視認性を良好にすることができる。【００２５】
本発明の第１６の態様は、本発明の第１５の態様において、前記画像処理が行われた画像を表示する電子ビューファインダーと、前記電子ビューファインダーの使用を検出する検出部と、を更に含み、前記拡張量決定部が、前記検出部により前記電子ビューファインダーの使用が検出された場合は前記電子ビューファインダーの使用時に用いる前記拡張量として予め定められた使用時拡張量を決定し、前記検出部により前記電子ビューファインダーの使用が検出されなかった場合は前記電子ビューファインダーの不使用時に用いる前記拡張量として予め定められた不使用時拡張量を決定するものとしてもよい。これにより、本構成を有しない場合に比べ、電子ビューファインダーの使用時と不使用時において適切な拡張量を決定することができる。【００２６】
本発明の第１７の態様は、本発明の第１６の態様において、前記検出部により前記電子ビューファインダーの使用が検出されず、視差発生方向の画素数が前記電子ビューファインダーの視差発生方向の画素数と異なる画像表示部に前記画像処理部により視差を拡張する処理が行われた画像を表示する場合、前記不使用時拡張量を、前記画像表示部の使用時に用いる前記拡張量として予め定められた表示部使用時拡張量としたものとしてもよい。これにより、本構成を有しない場合に比べ、電子ビューファインダーとは視差発生方向の画素数が異なる画像表示部に画像処理済みの画像を表示する場合において適切な拡張量を決定することができる。【００２７】
本発明の第１８の態様は、本発明の第１７の態様において、前記画像表示部の視差発生方向の画素数は前記電子ビューファインダーの視差発生方向の画素数よりも多く、前記検出部により前記電子ビューファインダーの使用が検出された場合、前記使用時拡張量を、前記表示部使用時拡張量よりも大きな値としたものとしてもよい。これにより、本構成を有しない場合に比べ、電子ビューファインダーに画像処理済みの画像を表示する場合においてスプリットイメージにおける画像間の視差に対応するずれの視認性を良好にすることができる。【００２８】
本発明の第１９の態様に係る画像処理方法は、撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像され、第１及び第２の画像信号を出力する第１及び第２の画素群から出力された前記第１及び第２の画像信号に基づく前記第１及び第２の画像を取得する画像取得工程と、前記画像取得工程により取得された前記第１の画像の各画素と前記画像取得工程により取得された前記第２の画像の対応する画素とのずれ量を示す視差を算出する視差算出工程と、前記画像取得工程により取得された前記第１及び第２の画像における画像処理の対象画素毎に、前記視差算出工程により算出された視差に応じて該視差の拡張量を決定する拡張量決定工程と、前記画像取得工程により取得された前記第１及び第２の画像における画像処理の対象画素毎に、前記視差算出工程により算出された視差を、前記拡張量決定工程により決定された拡張量に基づいて、拡張させた視差に変換させる視差変換係数を決定する係数決定工程と、前記対象画素に対して、前記係数決定工程により決定された前記視差変換係数に基づいて視差を拡張する処理を行う画像処理工程と、前記第１及び第２の画素群を有する撮像素子から出力された画像信号に基づいて第１の表示用画像を生成すると共に、前記第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成する生成工程と、画像を表示する表示部に対して、前記第１の表示用画像を表示させ、前記対象画素に対して視差を拡張する処理が行われた画像を有する前記第２の表示用画像を前記第１の表示用画像の表示領域内に表示させる制御を行う表示制御工程と、を含む。これにより、本構成を有しない場合に比べ、画像間の視差に対応するずれの視認性を良好にすることができる。【００２９】
本発明の第２０の態様に係る画像処理プログラムを、本発明の第１の態様から第１６の態様の何れか１つの画像処理装置における前記画像取得部、前記視差算出部、前記拡張量決定部、前記係数決定部、前記画像処理部、前記生成部及び前記表示制御部としてコンピュータを機能させるためのものとした。これにより、本構成を有しない場合に比べ、画像間の視差に対応するずれの視認性を良好にすることができる。
【発明の効果】
【００３０】
本発明によれば、画像間の視差に対応するずれの視認性を良好にすることができる、という効果が得られる。
【図面の簡単な説明】
【００３１】
【図１】第１実施形態に係るレンズ交換式カメラである撮像装置の外観の一例を示す斜視図である。
【図２】図１に示す撮像装置の背面側を示す背面図である。
【図３】第１実施形態に係る撮像装置の電気系の構成の一例を示すブロック図である。
【図４】第１実施形態に係る撮像装置に含まれる撮像素子に設けられているカラーフィルタの配置の一例を示す概略配置図である。
【図５】図４に示すカラーフィルタに含まれる２×２画素のＧ画素の画素値から相関方向を判別する方法の説明に供する図である。基本配列パターンの概念を説明するための図である。
【図６】図４に示すカラーフィルタに含まれる基本配列パターンの概念を説明するための図である。
【図７】第１実施形態に係る撮像装置に含まれる撮像素子に設けられている遮光部材の配置の一例を示す概略配置図である。
【図８】第１実施形態に係る撮像装置の撮像素子に含まれる位相差画素（第１の画素及び第２の画素）の構成の一例を示す概略構成図である。
【図９】第１実施形態に係る撮像装置の要部機能の一例を示すブロック図である。
【図１０】第１実施形態に対する比較例であって、表示装置に表示されたライブビュー画像における通常画像及びスプリットイメージの一例を示す画面態様図である。
【図１１】第１実施形態に係るフィルタ処理の説明に供する図である。
【図１２】第１実施形態に係るフィルタ処理で用いられるフィルタであって、図１１に示すフィルタとは異なるフィルタの一例を示す模式図である。
【図１３】第１実施形態に係る入出力関数の一例を示すグラフである。
【図１４】第１実施形態に係る撮像装置の撮像素子に含まれる位相差画素の特性値と撮影レンズのＦ値との対応関係の一例を示すグラフである。
【図１５】左目画像と右目画像とのずれ量と視差変換係数とが対応付けられたルックアップテーブルの一例を示す模式図である。
【図１６Ａ】フィルタ係数を模式的に示すグラフである。
【図１６Ｂ】エッジ強調の度合いを模式的に示すグラフである。
【図１７】第１実施形態に係る領域指定処理の流れの一例を示すフローチャートである。
【図１８】第１実施形態に係る撮像装置に含まれる表示装置に表示されるスプリットイメージの表示領域における第１部分表示領域及び第２部分表示領域の一例を示す模式図である。
【図１９】第１実施形態に係る画像出力処理の流れの一例を示すフローチャートである。
【図２０】視差算出を行いながらフィルタ処理を行う態様の一例を示す模式図である。
【図２１】第１実施形態に係る関数決定処理の流れの一例を示すフローチャートである。
【図２２】第１実施形態に係る補正前後の入出力関数の一例を示すグラフである。
【図２３】第１実施形態に係る入出力関数により導出された出力視差と位相ずらし量との関係の一例を示すグラフである。
【図２４Ａ】第１実施形態に係る左目画像用の２次元フィルタの一例を示す模式図である。
【図２４Ｂ】第１実施形態に係る右目画像用の２次元フィルタの一例を示す模式図である。
【図２５】第１実施形態に係る画像出力処理が行われた場合のスプリットイメージの表示例であって第１部分表示領域に対応する左目画像と右目画像とのずれ量が拡張された場合のスプリットイメージの表示例を示す模式図である。
【図２６】第１実施形態に係る画像出力処理が行われた場合のスプリットイメージの表示例であってスプリットイメージの全表示領域に対応する左目画像と右目画像とのずれ量が拡張された場合のスプリットイメージの表示例を示す模式図である。
【図２７】第１実施形態に係る画像出力処理が行われた場合のスプリットイメージに対して有彩色が付与された場合のスプリットイメージの表示例を示す模式図である。
【図２８】第１実施形態に係る画像出力処理が行われた場合のスプリットイメージにおけるずれ量が強調された左目画像及び右目画像に対して他の左目画像及び右目画像とは異なる色特性を有する色彩が付与された場合のスプリットイメージの表示例を示す模式図である。
【図２９Ａ】図１８に示す第１部分表示領域に比べ、上下方向の長さを短くした第１部分表示領域の一例を示す模式図である。
【図２９Ｂ】円形の領域とされた第１部分表示領域の一例を示す模式図である。
【図２９Ｃ】正方形の領域とされた第１部分表示領域の一例を示す模式図である。
【図３０】第２実施形態に係るスマートフォンの外観の一例を示す斜視図である。
【図３１】第２実施形態に係るスマートフォンの電気系の要部構成の一例を示すブロック図である。
【発明を実施するための形態】
【００３２】
以下、添付図面に従って本発明に係る撮像装置の実施の形態の一例について説明する。
【００３３】
［第１実施形態］
図１は、第１実施形態に係る撮像装置１００の外観の一例を示す斜視図であり、図２は、図１に示す撮像装置１００の背面図である。
【００３４】
撮像装置１００は、レンズ交換式カメラであり、カメラ本体２００と、カメラ本体２００に交換可能に装着される交換レンズ３００（撮影レンズ及びフォーカスレンズ３０２（手動操作部））と、を含み、レフレックスミラーが省略されたデジタルカメラである。また、カメラ本体２００には、ハイブリッドファインダー（登録商標）２２０が設けられている。ここで言うハイブリッドファインダー２２０とは、例えば光学ビューファインダー（以下、「ＯＶＦ」という）及び電子ビューファインダー（以下、「ＥＶＦ」という）が選択的に使用可能なファインダーを指す。
【００３５】
カメラ本体２００と交換レンズ３００とは、カメラ本体２００に備えられたマウント２５６と、マウント２５６に対応する交換レンズ３００側のマウント３４６（図３参照）とが結合されることにより交換可能に装着される。
【００３６】
カメラ本体２００の前面には、ハイブリッドファインダー２２０に含まれるＯＶＦのファインダー窓２４１が設けられている。また、カメラ本体２００の前面には、ファインダー切替えレバー（ファインダー切替え部）２１４が設けられている。ファインダー切替えレバー２１４を矢印ＳＷ方向に回動させると、ＯＶＦで視認可能な光学像とＥＶＦで視認可能な電子像（ライブビュー画像）とが選択的に表示される（後述）。なお、ＯＶＦの光軸Ｌ２は、交換レンズ３００の光軸Ｌ１とは異なる光軸である。また、カメラ本体２００の上面には、主としてレリーズボタン２１１及び撮影モードや再生モード等の設定用のダイヤル２１２が設けられている。
【００３７】
カメラ本体２００の背面には、ＯＶＦのファインダー接眼部２４２、表示部２１３、十字キー２２２、ＭＥＮＵ／ＯＫキー２２４、ＢＡＣＫ／ＤＩＳＰボタン２２５が設けられている。
【００３８】
十字キー２２２は、メニューの選択、ズームやコマ送り等の各種の指令信号を出力するマルチファンクションのキーとして機能する。ＭＥＮＵ／ＯＫキー２２４は、表示部２１３の画面上にメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行などを指令するＯＫボタンとしての機能とを兼備した操作キーである。ＢＡＣＫ／ＤＩＳＰボタン２２５は、選択項目などの表示内容の消去や指定内容の取消し、あるいは１つ前の操作状態に戻すときなどに使用される。
【００３９】
表示部２１３は、例えばＬＣＤにより実現され、撮影モード時に連続フレームで撮像されて得られた連続フレーム画像の一例であるライブビュー画像（スルー画像）の表示に用いられる。また、表示部２１３は、静止画像の撮像の指示が与えられた場合に単一フレームで撮像されて得られた単一フレーム画像の一例である静止画像の表示にも用いられる。更に、表示部２１３は、再生モード時の再生画像の表示やメニュー画面等の表示にも用いられる。
【００４０】
図３は第１実施形態に係る撮像装置１００の電気系の構成（内部構成）の一例を示すブロック図である。
【００４１】
撮像装置１００は、撮像した静止画像や動画像を記録するデジタルカメラであり、カメラ全体の動作は、ＣＰＵ（central processing unit：中央処理装置）１２によって統括制御されている。撮像装置１００は、ＣＰＵ１２の他に、指定部の一例である操作部１４、インタフェース部２４、メモリ２６、エンコーダ３４、表示制御部３６及び本発明に係る検出部の一例である接眼検出部３７を含む。また、撮像装置１００は、本発明に係る画像取得部、視差算出部、拡張量決定部、係数決定部、画像処理部及び判定部の一例である画像処理部２８を含む。ＣＰＵ１２、操作部１４、インタフェース部２４、メモリ２６、画像処理部２８、エンコーダ３４、表示制御部３６、接眼検出部３７及び外部インタフェース（Ｉ／Ｆ）３９は、バス４０を介して相互に接続されている。
【００４２】
操作部１４は、レリーズボタン２１１、撮影モード等を選択するダイヤル（フォーカスモード切替え部）２１２、表示部２１３、ファインダー切替えレバー２１４、十字キー２２２、ＭＥＮＵ／ＯＫキー２２４及びＢＡＣＫ／ＤＩＳＰボタン２２５を含む。また、操作部１４は、各種情報を受け付けるタッチパネルも含む。このタッチパネルは、例えば表示部２１３の表示画面に重ねられている。操作部１４から出力された各種の操作信号はＣＰＵ１２に入力される。
【００４３】
撮影モードが設定されると、被写体を示す画像光は、手動操作により移動可能なフォーカスレンズを含む撮影レンズ１６及びシャッタ１８を介してカラーの撮像素子（一例としてＣＭＯＳセンサ）２０の受光面に結像される。撮像素子２０に蓄積された信号電荷は、デバイス制御部２２から入力される読出し信号によって信号電荷（電圧）に応じたデジタル信号として順次読み出される。撮像素子２０は、いわゆる電子シャッタ機能を有しており、電子シャッタ機能を働かせることで、読出し信号のタイミングによって各フォトセンサの電荷蓄積時間（シャッタスピード）を制御する。なお、本第１実施形態に係る撮像素子２０は、ＣＭＯＳ(Complementary Metal Oxide Semiconductor)型のイメージセンサであるが、これに限らず、ＣＣＤ(Charge-Coupled Device)イメージセンサでもよい。
【００４４】
図４には撮像素子２０に設けられているカラーフィルタ２１の配列の一例が模式的に示されている。なお、図４に示す例では、画素数の一例として（４８９６×３２６４）画素を採用し、アスペクト比として３：２を採用しているが、画素数及びアスペクト比はこれに限られるものではない。一例として図４に示すように、カラーフィルタ２１は、輝度信号を得るために最も寄与するＧ（緑）に対応する第１のフィルタＧ、Ｒ（赤）に対応する第２のフィルタＲ及びＢ（青）に対応する第３のフィルタＢを含む。第１のフィルタＧ（以下、Ｇフィルタと称する）、第２のフィルタＲ（以下、Ｒフィルタと称する）及び第３のフィルタＢ（以下、Ｂフィルタと称する）の配列パターンは、第１の配列パターンＡと第２の配列パターンＢとに分類される。
【００４５】
第１の配列パターンＡにおいて、Ｇフィルタは、３×３画素の正方配列の四隅及び中央の画素上に配置されている。第１の配列パターンＡにおいて、Ｒフィルタは、正方配列の水平方向における中央の垂直ライン上に配置されている。第１の配列パターンＡにおいて、Ｂフィルタは、正方配列の垂直方向における中央の水平ライン上に配置されている。第２の配列パターンＢは、第１の基本配列パターンＡとフィルタＧの配置が同一で且つフィルタＲの配置とフィルタＢの配置とを入れ替えたパターンである。カラーフィルタ２１は、６×６画素に対応する正方配列パターンからなる基本配列パターンＣを含む。基本配列パターンＣは、第１の配列パターンＡと第２の配列パターンＢとが点対称で配置された６×６画素のパターンであり、基本配列パターンＣが水平方向及び垂直方向に繰り返し配置されている。すなわち、カラーフィルタ２１では、Ｒ，Ｇ，Ｂの各色のフィルタ（Ｒフィルタ、Ｇフィルタ及びＢフィルタ）が所定の周期性をもって配列されている。そのため、カラー撮像素子から読み出されるＲ，Ｇ，Ｂ信号の同時化（補間）処理等を行う際に、繰り返しパターンにしたがって処理を行うことができる。
【００４６】
また、基本配列パターンＣの単位で間引き処理して画像を縮小する場合、間引き処理した縮小画像のカラーフィルタ配列は、間引き処理前のカラーフィルタ配列と同じにすることができ、共通の処理回路を使用することができる。
【００４７】
カラーフィルタ２１は、輝度信号を得るために最も寄与する色(本第１実施形態では、Ｇの色)に対応するＧフィルタが、カラーフィルタ配列の水平、垂直、及び斜め方向の各ライン内に配置されている。そのため、高周波となる方向によらず高周波領域での同時化処理の再現精度を向上させることができる。
【００４８】
カラーフィルタ２１は、上記Ｇの色以外の２色以上の他の色（本第１実施形態では、Ｒ，Ｂの色）に対応するＲフィルタ及びＢフィルタが、カラーフィルタ配列の水平方向及び垂直方向の各ライン内に配置されている。そのため、色モワレ（偽色）の発生が抑制され、これにより、偽色の発生を抑制するための光学ローパスフィルタを光学系の入射面から撮像面までの光路に配置しないようにすることができる。また、光学ローパスフィルタを適用する場合でも、偽色の発生を防止するための高周波数成分をカットする働きの弱いものを適用することができ、解像度を損なわないようにすることができる。
【００４９】
基本配列パターンＣは、破線の枠で囲んだ３×３画素の第１の配列パターンＡと、一点鎖線の枠で囲んだ３×３画素の第２の配列パターンＢとが、水平、垂直方向に交互に並べられた配列となっていると捉えることもできる。
【００５０】
第１の配列パターンＡ及び第２の配列パターンＢは、それぞれ輝度系画素であるＧフィルタが４隅と中央に配置され、両対角線上に配置されている。また、第１の配列パターンＡは、中央のＧフィルタを挟んでＢフィルタが水平方向に配列され、Ｒフィルタが垂直方向に配列される。一方、第２の配列パターンＢは、中央のＧフィルタを挟んでＲフィルタが水平方向に配列され、Ｂフィルタが垂直方向に配列されている。すなわち、第１の配列パターンＡと第２の配列パターンＢとは、ＲフィルタとＢフィルタとの位置関係が逆転しているが、その他の配置は同様になっている。
【００５１】
また、第１の配列パターンＡと第２の配列パターンＢの４隅のＧフィルタは、一例として図５に示すように第１の配列パターンＡと第２の配列パターンＢとが水平、垂直方向に交互に配置されることにより、２×２画素に対応する正方配列のＧフィルタが形成される。一例として図５に示すように取り出されたＧフィルタからなる２×２画素については、水平方向のＧ画素の画素値の差分絶対値、垂直方向のＧ画素の画素値の差分絶対値、斜め方向（右上斜め、左上斜め）のＧ画素の画素値の差分絶対値が算出される。これにより、水平方向、垂直方向、及び斜め方向のうち、差分絶対値の小さい方向に相関があると判断することができる。すなわち、水平方向、垂直方向、及び斜め方向のうちの相関の高い方向が最小画素間隔のＧ画素の情報を使用して判別される。この判別結果は、周囲の画素から補間する処理（同時化処理）に使用することができる。
【００５２】
カラーフィルタ２１の基本配列パターンＣは、その基本配列パターンＣの中心（４つのＧフィルタの中心）に対して点対称に配置されている。また、基本配列パターンＣ内の第１の配列パターンＡ及び第２の配列パターンＢも、それぞれ中心のＧフィルタに対して点対称に配置されている従って、後段の処理回路の回路規模を小さくしたり、簡略化したりすることが可能になる。
【００５３】
一例として図６に示すように基本配列パターンＣにおいて、水平方向の第１から第６のラインのうちの第１及び第３のラインのカラーフィルタ配列は、ＧＲＧＧＢＧである。第２のラインのカラーフィルタ配列は、ＢＧＢＲＧＲである。第４及び第６のラインのカラーフィルタ配列は、ＧＢＧＧＲＧである。第５のラインのカラーフィルタ配列は、ＲＧＲＢＧＢである。図６に示す例では、基本配列パターンＣ，Ｃ’，Ｃ”が示されている。基本配列パターンＣ’は基本配列パターンＣを水平方向及び垂直方向にそれぞれ１画素ずつシフトしたパターンを示し、基本配列パターンＣ”は、基本配列パターンＣを水平方向及び垂直方向にそれぞれ２画素ずつシフトしたパターンを示す。このように、カラーフィルタ２１は、基本配列パターンＣ’、Ｃ”を水平方向及び垂直方向に繰り返し配置しても、同じカラーフィルタ配列となる。なお、本第１実施形態では、基本配列パターンＣを、便宜上、基本配列パターンという。
【００５４】
撮像装置１００は、位相差ＡＦ機能を有する。撮像素子２０は、位相差ＡＦ機能を働かせた場合に用いられる複数の位相差検出用の画素を含む。複数の位相差検出用の画素は予め定めたパターンで配置されている。位相差検出用の画素上には、一例として図７に示すように、水平方向の左半分の画素を遮光する遮光部材２０Ａ及び水平方向の右半分の画素を遮光する遮光部材２０Ｂが設けられている。なお、本第１実施形態では、説明の便宜上、遮光部材２０Ａが設けられている位相差検出用の画素を「第１の画素」と称し、遮光部材２０Ｂが設けられている位相差画素を「第２の画素」と称する。また、第１の画素及び第２の画素を区別して説明する必要がない場合は「位相差画素」と称する。
【００５５】
図８には撮像素子２０に配置されている第１の画素及び第２の画素の一例が示されている。図８に示す第１の画素は遮光部材２０Ａを有し、第２の画素は遮光部材２０Ｂを有する。遮光部材２０Ａは、フォトダイオードＰＤの前面側（マイクロレンズＬ側）に設けられており、受光面の左半分を遮光する。一方、遮光部材２０Ｂは、フォトダイオードＰＤの前面側に設けられており、受光面の右半分を遮光する。
【００５６】
マイクロレンズＬ及び遮光部材２０Ａ，２０Ｂは瞳分割部として機能し、第１の画素は、撮影レンズ１６の射出瞳を通過する光束の光軸の左側のみを受光し、第２の画素は、撮影レンズ１６の射出瞳を通過する光束の光軸の右側のみを受光する。このように、射出瞳を通過する光束は、瞳分割部であるマイクロレンズＬ及び遮光部材２０Ａ，２０Ｂにより左右に分割され、それぞれ第１の画素および第２の画素に入射する。
【００５７】
また、撮影レンズ１６の射出瞳を通過する光束のうちの左半分の光束に対応する被写体像と、右半分の光束に対応する被写体像のうち、ピントが合っている（合焦状態である）部分は、撮像素子２０上の同じ位置に結像する。これに対し、前ピン又は後ピンの部分は、それぞれ撮像素子２０上の異なる位置に入射する（位相がずれる）。これにより、左半分の光束に対応する被写体像と右半分の光束に対応する被写体像とは、視差が異なる視差画像（左目画像、右目画像）として取得することができる。
【００５８】
撮像装置１００は、位相差ＡＦ機能を働かせることにより、第１の画素の画素値と第２の画素の画素値とに基づいて位相のずれ量を検出する。そして、検出した位相のずれ量に基づいて撮影レンズの焦点位置を調整する。なお、以下では、遮光部材２０Ａ，２０Ｂを区別して説明する必要がない場合は符号を付さずに「遮光部材」と称する。
【００５９】
本第１実施形態では、遮光部材が、一例として図７に示すように、基本配列パターンＣに含まれる２組の第１の配列パターンＡ及び第２の配列パターンＢの左上角部のＧフィルタの画素に対して設けられている。すなわち、図７に示す例では、０以上の整数を“ｎ”とすると、垂直方向において（６ｎ＋１）番目のラインに遮光部材２０Ａが配置され、（６ｎ＋４）番目のラインに遮光部材２０Ｂが配置されている。なお、図７に示す例では、全ての基本配列パターンＣに遮光部材が設けられているが、これに限らず、撮像素子２０の一部の所定の領域内の基本配列パターンＣにのみ設けるようにしてもよい。
【００６０】
このように、カラーフィルタ２１では、全ての第１の配列パターンＡ及び第２の配列パターンＢの左上角部のＧフィルタの画素に対して遮光部材が設けられており、垂直方向及び水平方向ともに３画素に１画素ずつ位相差画素が規則的に配置されている。このため、位相差画素の周囲に通常画素が比較的多く配置されるので、通常画素の画素値から位相差画素の画素値を補間する場合における補間精度を向上させることができる。なお、上記の「通常画素」とは、例えば位相差画素以外の画素（例えば遮光部材２０Ａ，２０Ｂを有しない画素）を指す。
【００６１】
撮像素子２０は、第１の画素群、第２の画素群及び第３の画素群に分類される。第１の画素群とは、例えば複数の第１の画素を指す。第２の画素群とは、例えば複数の第２の画素を指す。第３の画素群とは、例えば複数の通常画素を指す。なお、以下では、第１の画素群から出力されるＲＡＷ画像を「第１の画像」と称し、第２の画素群から出力されるＲＡＷ画像を「第２の画像」と称し、第３の画素群から出力されるＲＡＷ画像を「第３の画像」と称する。
【００６２】
図３に戻って、撮像素子２０は、第１の画素群から第１の画像（各第１の画素の画素値を示すデジタル信号）を出力し、第２の画素群から第２の画像（各第２の画素の画素値を示すデジタル信号）を出力する。また、撮像素子２０は、第３の画素群から第３の画像（各通常画素の画素値を示すデジタル信号）を出力する。なお、第３の画素群から出力される第３の画像は有彩色の画像であり、例えば通常画素の配列と同じカラー配列のカラー画像である。撮像素子２０から出力された第１の画像、第２の画像及び第３の画像は、インタフェース部２４を介してメモリ２６における揮発性の記憶領域に一時記憶される。
【００６３】
画像処理部２８は、通常処理部３０を有する。通常処理部３０は、第３の画素群に対応するＲ，Ｇ，Ｂ信号を処理することで第１の表示用画像の一例である有彩色の通常画像を生成する。また、画像処理部２８は、スプリットイメージ処理部３２を有する。スプリットイメージ処理部３２は、第１の画素群及び第２の画素群に対応するＧ信号を処理することで第２の表示用画像の一例である無彩色のスプリットイメージを生成する。なお、本第１実施形態に係る画像処理部２８は、画像処理に係る複数の機能の回路を１つにまとめた集積回路であるＡＳＩＣ（Application Specific Integrated Circuit）により実現される。しかし、ハードウェア構成はこれに限定されるものではなく、例えばプログラマブルロジックデバイスやＣＰＵ、ＲＯＭ及びＲＡＭを含むコンピュータなどの他のハードウェア構成であっても良い。
【００６４】
エンコーダ３４は、入力された信号を別の形式の信号に変換して出力する。ハイブリッドファインダー２２０は、電子像を表示するＬＣＤ２４７を有する。ＬＣＤ２４７における所定方向の画素数（一例として視差発生方向である水平方向の画素数）は、表示部２１３における同方向の画素数よりも少ない。表示制御部３６は、表示部２１３及びＬＣＤ２４７に接続されており、ＬＣＤ２４７及び表示部２１３を選択的に制御することによりＬＣＤ２４７又は表示部２１３に対して画像を表示させる。なお、以下では、表示部２１３及びＬＣＤ２４７を区別して説明する必要がない場合は「表示装置」と称する。
【００６５】
なお、本第１実施形態に係る撮像装置１００は、ダイヤル２１２（フォーカスモード切替え部）によりマニュアルフォーカスモードとオートフォーカスモードとを切り替え可能に構成されている。マニュアルフォーカスモードが選択されると、表示制御部３６は、スプリットイメージが合成されたライブビュー画像を表示装置に表示させる。一方、ダイヤル２１２によりオートフォーカスモードが選択されると、ＣＰＵ１２は、位相差検出部及び自動焦点調整部として動作する。位相差検出部は、第１の画素群から出力された第１の画像と第２の画素群から出力された第２の画像との位相差を検出する。自動焦点調整部は、検出された位相差に基づいて撮影レンズ１６のデフォーカス量をゼロにするように、デバイス制御部２２からマウント２５６，３４６を介してレンズ駆動部（図示省略）を制御し、撮影レンズ１６を合焦位置に移動させる。なお、上記の「デフォーカス量」とは、例えば第１の画像及び第２の画像の位相ずれ量を指す。
【００６６】
接眼検出部３７は、人（例えば撮影者）がファインダー接眼部２４２を覗き込んだことを検出し、検出結果をＣＰＵ１２に出力する。従って、ＣＰＵ１２は、接眼検出部３７での検出結果に基づいてファインダー接眼部２４２が使用されているか否かを把握することができる。
【００６７】
外部Ｉ／Ｆ３９は、ＬＡＮ（Local Area Network）やインターネットなどの通信網に接続され、通信網を介して、外部装置（例えばプリンタ）とＣＰＵ１２との間の各種情報の送受信を司る。従って、撮像装置１００は、外部装置としてプリンタが接続されている場合、撮影した静止画像をプリンタに出力して印刷させることができる。また、撮像装置１００は、外部装置としてディスプレイが接続されている場合は、撮影した静止画像やライブビュー画像をディスプレイに出力して表示させることができる。
【００６８】
図９は第１実施形態に係る撮像装置１００の要部機能の一例を示す機能ブロック図である。なお、図３に示すブロック図と共通する部分には同一の符号が付されている。
【００６９】
通常処理部３０及びスプリットイメージ処理部３２は、それぞれＷＢゲイン部、ガンマ補正部及び同時化処理部を有し（図示省略）、メモリ２６に一時記憶された元のデジタル信号（ＲＡＷ画像）に対して各処理部で順次信号処理を行う。すなわち、ＷＢゲイン部は、Ｒ，Ｇ，Ｂ信号のゲインを調整することによりホワイトバランス（ＷＢ）を実行する。ガンマ補正部は、ＷＢゲイン部でＷＢが実行された各Ｒ，Ｇ，Ｂ信号をガンマ補正する。同時化処理部は、撮像素子２０のカラーフィルタの配列（ここでは一例としてベイヤ配列）に対応した色補間処理を行い、同時化したＲ，Ｇ，Ｂ信号を生成する。なお、通常処理部３０及びスプリットイメージ処理部３２は、撮像素子２０により１画面分のＲＡＷ画像が取得される毎に、そのＲＡＷ画像に対して並列に画像処理を行う。
【００７０】
通常処理部３０は、インタフェース部２４からＲ，Ｇ，ＢのＲＡＷ画像が入力され、第３の画素群のＲ，Ｇ，Ｂ画素を、第１の画素群及び第２の画素群のうちの同色の周辺画素（例えばＧ画素）により補間して生成する。これにより、第３の画素群から出力された第３の画像から出力された第３の画像に基づいて記録用の通常画像を生成することができる。
【００７１】
また、通常処理部３０は、生成した記録用の通常画像の画像データをエンコーダ３４に出力する。通常処理部３０により処理されたＲ，Ｇ，Ｂ信号は、エンコーダ３４により記録用の信号に変換（エンコーディング）され、記録部４０（図９参照）に記録される。また、通常処理部３０により処理された第３の画像に基づく画像である表示用の通常画像は、表示制御部３６に出力される。なお、以下では、説明の便宜上、上記の「記録用の通常画像」及び「表示用の通常画像」を区別して説明する必要がない場合は「記録用の」との文言及び「表示用の」との文言を省略して「通常画像」と称する。
【００７２】
撮像素子２０は、第１の画素群及び第２の画素群の各々の露出条件（一例として電子シャッタによるシャッタ速度）を変えることができ、これにより露出条件の異なる画像を同時に取得することができる。従って、画像処理部２８は、露出条件の異なる画像に基づいて広ダイナミックレンジの画像を生成することができる。また、同じ露出条件で複数の画像を同時に取得することができ、これら画像を加算することによりノイズの少ない高感度の画像を生成し、あるいは高解像度の画像を生成することができる。
【００７３】
一方、スプリットイメージ処理部３２は、メモリ２６に一旦記憶されたＲＡＷ画像から第１の画素群及び第２の画素群のＧ信号を抽出し、第１の画素群及び第２の画素群のＧ信号に基づいて無彩色のスプリットイメージを生成する。ＲＡＷ画像から抽出される第１の画素群及び第２の画素群の各々は、上述したようにＧフィルタの画素による画素群である。そのため、スプリットイメージ処理部３２は、第１の画素群及び第２の画素群のＧ信号に基づいて、無彩色の左の視差画像及び無彩色の右の視差画像を生成することができる。なお、以下では、説明の便宜上、上記の「無彩色の左の視差画像」を「左目画像」と称し、上記の「無彩色の右の視差画像」を「右目画像」と称する。
【００７４】
スプリットイメージ処理部３２は、第１の画素群から出力された第１の画像に基づく左目画像と、第２の画素群から出力された第２の画像に基づく右目画像とを合成することによりスプリットイメージを生成する。生成したスプリットイメージの画像データは表示制御部３６に出力される。
【００７５】
表示制御部３６は、通常処理部３０から入力された第３の画素群に対応する記録用の画像データと、スプリットイメージ処理部３２から入力された第１、第２の画素群に対応するスプリットイメージの画像データとに基づいて表示用の画像データを生成する。例えば、表示制御部３６は、通常処理部３０から入力された第３の画素群に対応する記録用の画像データにより示される通常画像の表示領域内に、スプリットイメージ処理部３２から入力された画像データにより示されるスプリットイメージを合成する。そして、合成して得た画像データを表示部２１３に出力する。
【００７６】
ここで、スプリットイメージ処理部３２により生成されるスプリットイメージは、左目画像の一部と右目画像の一部とを合成した複数分割の画像である。ここで言う「複数分割の画像」としては、例えば左目画像のうちの上半分の画像の一部と右目画像のうちの下半分の画像の一部とを合成した画像であって、合焦状態に応じて２分割された上下画像間が所定方向（例えば視差発生方向）にずれた画像が挙げられる。この他にも、一例として図１０に示すスプリットイメージが挙げられる。図１０に示すスプリットイメージは、表示部２１３の所定領域の位置に対応する位置の左目画像の一部と右目画像の一部とを合成した画像であって、上下方向に４分割された画像間が合焦状態に応じて所定方向にずれた画像である。
【００７７】
通常画像にスプリットイメージを合成する方法は、通常画像の一部の画像に代えて、スプリットイメージを嵌め込む合成方法に限定されない。例えば、通常画像の上にスプリットイメージを重畳させる合成方法であってもよい。また、スプリットイメージを重畳する際に、スプリットイメージが重畳される通常画像の一部の画像とスプリットイメージとの透過率を適宜調整して重畳させる合成方法であってもよい。これにより、連続的に撮影している被写体像を示すライブビュー画像が表示部２１３の画面上に表示されるが、表示されるライブビュー画像は、通常画像の表示領域内にスプリットイメージが表示された画像となる。
【００７８】
ハイブリッドファインダー２２０は、ＯＶＦ２４０及びＥＶＦ２４８を含む。ＯＶＦ２４０は、対物レンズ２４４と接眼レンズ２４６とを有する逆ガリレオ式ファインダーであり、ＥＶＦ２４８は、ＬＣＤ２４７、プリズム２４５及び接眼レンズ２４６を有する。
【００７９】
また、対物レンズ２４４の前方には、液晶シャッタ２４３が配設されており、液晶シャッタ２４３は、ＥＶＦ２４８を使用する際に、対物レンズ２４４に光学像が入射しないように遮光する。
【００８０】
プリズム２４５は、ＬＣＤ２４７に表示される電子像又は各種の情報を反射させて接眼レンズ２４６に導くと共に、光学像とＬＣＤ２４７に表示される情報（電子像、各種の情報）とを合成する。
【００８１】
ここで、ファインダー切替えレバー２１４を図１に示す矢印ＳＷ方向に回動させると、回動させる毎にＯＶＦ２４０により光学像を視認することができるＯＶＦモードと、ＥＶＦ２４８により電子像を視認することができるＥＶＦモードとが交互に切り替えられる。
【００８２】
表示制御部３６は、ＯＶＦモードの場合、液晶シャッタ２４３が非遮光状態になるように制御し、接眼部から光学像が視認できるようにする。また、ＬＣＤ２４７には、スプリットイメージのみを表示させる。これにより、光学像の一部にスプリットイメージが重畳されたファインダー像を表示させることができる。
【００８３】
一方、表示制御部３６は、ＥＶＦモードの場合、液晶シャッタ２４３が遮光状態になるように制御し、接眼部からＬＣＤ２４７に表示される電子像のみが視認できるようにする。なお、ＬＣＤ２４７には、表示部２１３に出力されるスプリットイメージが合成された画像データと同等の画像データが入力され、これにより、表示部２１３と同様に通常画像の一部にスプリットイメージが合成された電子像を表示させることができる。
【００８４】
しかし、一例として図１０に示すようにスプリットイメージが通常画像と共に表示部２１３に表示されると、左目画像と右目画像との視差によっては、スプリットイメージにおける左目画像に基づく画像と右目画像に基づく画像とのずれが視認し難くなる場合がある。
【００８５】
そこで、本第１実施形態に係る撮像装置１００では、画像処理部２８が、視差を補正する処理と共にスプリットイメージのエッジを強調する処理を行う。ここで言う「視差を補正する処理」とは、例えば、画像処理部２８により、スプリットイメージに対して付与される位相ずらし量に依存する視差（スプリットイメージを通して表現される視差）を補正する処理を指す。以下では、説明の便宜上、上記の「視差を補正する処理」及び「エッジを強調する処理」をまとめて「視差補正処理」と称する。
【００８６】
画像処理部２８は、視差補正処理を行う場合、先ず、左目画像及び右目画像の対応点を検出し、視差を計測する。左目画像及び右目画像の対応点を検出するには、相関法などを用いればよい。例えば２次元座標系においてｘ方向に１５［pixel］、ｙ方向に１［pixel］であるようなカーネルをスキャンし、最も画素値の差分の２乗和が小さい箇所を探索することにより左目画像及び右目画像の対応点を検出することができる。視差の計測結果は、一例として図１１に示すように遠いほど明るく近いほど暗いようなモノクロ画像（距離画像）で表現することができる。サブピクセル単位での視差の測定も可能である。この詳細な方法については新井らによる「画像のブロックマッチングにおける相関関数とサブピクセル推定方式の最適化（情報処理学会研究報告）、巻：２００４、号：４０（CVIM-144）、頁：33-40)」などに記載されている。
【００８７】
なお、一般に視差計測においては、「視差が大きい場合に誤検出しやすい。」という問題点および「（差分の２乗和が小さくなる）平坦部分同士での対応点では、対応点の検出が難しい。」という問題点がある。しかしながら、単一の撮影レンズ１６＋位相差検出用の撮像素子２０による単眼の撮像装置１００では、元々の視差が極めて小さいため、前者の誤検出は一般に少ない。また、後者の誤検出についても、元が平坦部分であるため、たとえ対応点検出を誤って位相がずれたとしても最終的な画質への影響は少ないと言える。
【００８８】
画像処理部２８は、視差補正処理を行う場合、次に、左目画像及び右目画像にかける位相ずらしフィルタ（以下、単に「フィルタ」という）を局所ごとに設定する。例えば、左目画像内のある箇所において、１画素だけ位相をずらす場合は、一例として図１１に示すようにフィルタリングの中心を故意に１［pixel］だけずらしたフィルタ係数（画像処理係数の一例）を有するフィルタＦ（ＦＬ，ＦＲ）を設定する。なお、ハードウェア構成としてのフィルタＦは１つでよく、左目画像の畳み込み演算（以下、「フィルタ処理」という）時又は右目画像のフィルタ処理時にそれぞれの画像用のフィルタ係数を設定する。
【００８９】
フィルタＦは、ハイパスフィルタを含んで直流成分のフィルタとなっている。そのため、エッジ強調と位相ずらしを同時に行うことが可能である。なお、一例として図１１に示すフィルタＦＬ，ＦＲは、それぞれ１×７画素のカーネルサイズ（演算対象画素範囲）を有し、各フィルタＦＬ，ＦＲのフィルタ係数は、そのフィルタ係数の中心がカーネル中心から互いに逆方向にシフトしている。図１１に示す例では、フィルタＦＬのフィルタ係数の中心は、左方向に１画素［pixel］分シフトしており、フィルタＦＲは、右方向に１画素［pixel］分シフトしているので、全体として視差を２画素［pixel］分拡張（強調）することができる。
【００９０】
また、図１１に示す例では、１×７画素のカーネルサイズを例示しているが、これに限らず、１×５画素のカーネルサイズであってもよい。この場合も、例えば、図１２に示すように、各フィルタＦＬ，ＦＲのフィルタ係数は、そのフィルタ係数の中心がカーネル中心から互いに逆方向にシフトしている。図１２に示す例では、フィルタＦＬのフィルタ係数の中心は、左方向に１．２５画素［pixel］分シフトしており、フィルタＦＲは、右方向に１．２５画素［pixel］分シフトしているので、全体として視差を２．５画素［pixel］分拡張（強調）することができる。
【００９１】
また、本第１実施形態に係る撮像装置１００では、画像処理部２８が、スプリットイメージ用の視差として最終的に出力する視差を、一例として図１３に示す入出力関数Ｇを用いて決定し、決定した視差に基づいてフィルタＦＬ，ＦＲのフィルタ係数を決定する。
【００９２】
図１３には、本第１実施形態に係る入出力関数Ｇの一例が示されている。なお、図１３において、横軸（一例としてｘ軸）は、入出力関数Ｇによる変換前の視差であって表示装置の表示画面上での視差（以下、「入力視差」という）を示す。また、図１３において、縦軸（一例としてｙ軸）は、入出力関数Ｇによる変換後の視差であって表示装置の表示画面上での視差（以下、「出力視差」という）を示す。一例として図１３に示すように、入出力関数Ｇは、傾きとしての拡張量係数ｋを有する“ｙ＝ｋｘ”の線形関数である。本第１実施形態に係る撮像装置１００では、“ｋ”として１を超える値を採用している。ここで、“ｋ”として１を超える値を採用することで、“ｙ＝ｋｘ”の線形関数は、入力視差に対して出力視差が拡張されることを意味し、且つ、原点を通る線形関数なので、ジャスピン（合焦位置）に近付くにつれて出力視差が減少することも意味する。拡張量係数ｋは、表示装置に表示されたスプリットイメージにおける左目画像と右目画像とのずれを発生させる複数の因子に応じて定められる。なお、ここでは、拡張量係数ｋを例示しているが、これに限らず、入力視差に応じて一意に定まる拡張量そのものであってもよい。この場合、入力視差に応じて一意に定まる拡張量をテーブルを用いて導出する形態例が挙げられる。
【００９３】
ここで言う「複数の因子」としては、例えば撮影レンズ１６の絞り値の一例であるＦ値、撮影レンズ１６の実焦点距離、位相差画素の特性値、撮影レンズ１６の合焦位置までの奥行き（光軸方向に沿った奥行き）及び被写体位置までの奥行きが挙げられる。また、上記の「複数の因子」の一因子として、例えば、シャッタスピードも挙げられる。また、上記の「複数の因子」の一因子として、例えば、ＮＤフィルタにより低減される光量又はＮＤフィルタの透過光量も挙げられる。また、上記の「複数の因子」の一因子として、例えば、（撮像素子２０の対頂角）／４３．２６７との定数因子も挙げられる。また、上記の「複数の因子」の一因子として、例えば撮像素子２０の視差発生方向の画素数及び表示装置の表示画面上での視差発生方向の画素数に基づく定数因子も挙げられる。また、上記の「複数の因子」の一因子として、例えば撮像素子２０の視差発生方向の画素数、表示装置の表示画面上での視差発生方向の画素数及び撮像素子２０に含まれる画素間のピッチサイズに基づく定数因子も挙げられる。
【００９４】
また、本第１実施形態に係る撮像装置１００では、上記の「複数の因子」として、表示装置に表示された第１の画像と第２の画像とのずれ量を規定する複数の因子を採用している。ここで言う「表示装置に表示された第１の画像と第２の画像とのずれ量」としては、例えば表示装置に表示されたスプリットイメージにおける左目画像と右目画像とのずれ量が挙げられるが、表示装置に表示されない第１の画像と第２の画像とのずれ量でもよい。
【００９５】
なお、本第１実施形態に係る撮像装置１００では、表示装置に表示されたスプリットイメージにおける左目画像と右目画像に基づく画像とのずれ量は、撮影レンズ１６の絞り値の一例であるＦ値に依存する関数で表現される。また、左目画像と右目画像に基づく画像とのずれ量は、撮影レンズ１６の実焦点距離や位相差画素の特性値、撮影レンズ１６の合焦位置までの奥行きに依存する関数でも表現される。また、左目画像と右目画像に基づく画像とのずれ量は、被写体位置までの奥行きや撮像素子２０の対頂角に依存する関数でも表現される。また、左目画像と右目画像に基づく画像とのずれ量は、撮像素子２０に含まれる画素間のピッチや撮像素子２０の視差発生方向の画素数[pixel]、表示装置の表示画面上での視差発生方向の画素数[pixel]に依存する関数でも表現される。
【００９６】
左目画像と右目画像に基づく画像とのずれ量を示す関数は、例えば、左目画像と右目画像に基づく画像とのずれ量が、撮影レンズ１６の合焦位置までの奥行きから被写体位置までの奥行きを減じた値、撮像素子２０の対頂角、及び撮影レンズ１６の実焦点距離の各々に比例することを示す。また、左目画像と右目画像に基づく画像とのずれ量を示す関数は、例えば、左目画像と右目画像に基づく画像とのずれ量が、表示装置の表示画面上での視差発生方向の画素数[pixel]に比例することを示す。また、左目画像と右目画像に基づく画像とのずれ量を示す関数は、例えば、左目画像と右目画像に基づく画像とのずれ量が、撮影レンズ１６の合焦位置までの奥行きから、撮像素子２０の対頂角と撮影レンズ１６の実焦点距離との積を減じた値に反比例することを示す。また、左目画像と右目画像に基づく画像とのずれ量を示す関数は、例えば、左目画像と右目画像に基づく画像とのずれ量が、撮影レンズ１６の合焦位置までの奥行きに反比例することを示す。更に、左目画像と右目画像に基づく画像とのずれ量を示す関数は、例えば、左目画像と右目画像に基づく画像とのずれ量が、撮像素子２０に含まれる画素間のピッチ及び撮像素子２０の視差発生方向の画素数[pixel]にも反比例することを示す。
【００９７】
また、本第１実施形態に係る撮像装置１００は、一例として図１５に示すルックアップテーブル（ＬＵＴ）５０を有する。ＬＵＴ５０は、所定の記憶領域（例えばメモリ２６）に記憶されている。一例として図１５に示すように、ＬＵＴ５０は、ずれ量ΔＥを入力とし、拡張量係数ｋを出力とするテーブルを出力とするテーブルである。従って、画像処理部２８は、ＬＵＴ５０を用いて、上述した左目画像と右目画像に基づく画像とのずれ量を示す関数に従って算出したずれ量に応じて一意に定められた拡張量係数ｋを導出することができる。
【００９８】
画像処理部２８は、視差補正処理を行う場合、次に、上述したように設定されたフィルタＦＬ，ＦＲによるフィルタ処理を行うことで、左目画像及び右目画像に対して位相ずらしを行う。すなわち、左目画像内の対応点検出を行った対象画素（注目画素）を中心とする１×７画素の画素群について例えば図１１に示すフィルタＦＬを用いてフィルタ処理を行う。これにより、注目画素はエッジ強調されると共に、左方向に１画素分位相がずれる。同様に、左目画像の注目画素に対応する右目画像の注目画素を中心とする１×７画素の画素群について例えば図１１に示すフィルタＦＲを用いてフィルタ処理を行う。これにより、注目画素はエッジ強調されると共に、右方向に１画素分位相がずれる。このように、左目画像内の注目画素が左方向に１画素分位相がずれ、右目画像内の注目画素が右方向に１画素分位相がずれると、全体として画素位置が２画素分拡張されて視差が拡張されることとなる。
【００９９】
本第１実施形態に係るフィルタは、上述したように視差の拡張と同時にエッジ強調も行うが、一般に位相差画素を利用した３Ｄ撮像装置により撮像された左目画像及び右目画像は、視差の大きな箇所ほどぼけているという特徴がある。ぼけている箇所では、過度のエッジ強調がノイズ増大に繋がる可能性もある。
【０１００】
そこで、本第１実施形態に係る撮像装置１００では、視差の拡張に応じてエッジ強調の程度を弱める処理を行っている。これにより、ぼけた箇所でのノイズは減らしつつ、くっきりした箇所をよりくっきりさせることができる。
【０１０１】
視差の拡張に応じてエッジ強調の程度を補正するには、例えば、以下の方法が考えられる。先ず、周波数特性が以下の（１）式で表現可能なフィルタリングを考える。
【０１０２】
（フィルタ係数の周波数特性）＝（直流成分）＋α×（ＨＰＦ成分）
＝（直流成分）＋α×（（直流成分）−（ＬＰＦ成分））・・・・（１）
【０１０３】
エッジ強調の強さをαとし、ずらす位相ずらし量をμとし、ＬＰＦ成分を標準偏差σのガウシアンとし、上記（１）式をフーリエ変換すると、フィルタ係数は次式となる。なお、このフィルタ係数は、一例として図１６Ａに示すように表現される。また、エッジ強調の強さαは、周波数帯域σで制御することができる。また、ＨＰＦの強さは、エッジ強調の強さαを、元画像の視差［pixel］の関数（例えば図１６Ｂ参照）にすることで、視差に応じて制御することができる。
【０１０４】
【数１】
2014045739.tif 000003
次に本第１実施形態の作用として画像処理部２８で所定時間毎（例えば１秒毎）に行われる領域指定処理について、図１７を参照して説明する。ここで言う「領域指定処理」とは、例えば、画像処理部２８により、スプリットイメージの表示領域（例えば図１８参照）において左目画像と右目画像とのずれ量を拡張させる領域を指定する処理を指す。なお、ここでは、領域指定処理が画像処理部２８で行われる場合を例示するが、本発明はこれに限定されるものではなく、例えばＣＰＵ１２が領域指定処理プログラムを実行することにより撮像装置１００で領域指定処理が行われるものとしてもよい。
【０１０５】
また、ここでは、錯綜を回避するために、一例として図１８に示すように、表示部２１３におけるスプリットイメージの表示領域が第１部分表示領域と第２部分表示領域とに分類される場合について説明する。図１８に示す例では、スプリットイメージの表示領域を上下方向に３分割して得た分割領域のうちの中央部の分割領域を第１部分表示領域とし、これ以外の領域（スプリットイメージの表示領域の上縁部及び下縁部）を第２部分表示領域としている。従って、本領域指定処理が行われることで、第１部分表示領域、第２部分表示領域及びスプリットイメージの全表示領域の何れかが指定される。
【０１０６】
なお、第１部分表示領域及び第２部分表示領域の態様は図１８に示す態様に限定されるものではなく、例えば図２９Ａに示すように第１部分表示領域の上下方向の長さを短くし、第２部分表示領域の面積を広げてもよい。また、一例として図２９Ｂに示すようにスプリットイメージの表示領域の中央部における円形の領域を第１部分表示領域としてもよい。また、一例として図２９Ｃに示すようにスプリットイメージの表示領域の中央部における正方形の領域を第１部分表示領域としてもよい。また、ここでは、錯綜を回避するために、スプリットイメージの表示領域を第１部分表示領域と第２部分表示領域との２つの領域に分類しているが、これに限らず、３つ以上の領域に分類してもよいことは言うまでもない。
【０１０７】
図１７において、ステップ３５０では、画像処理部２８により、第１部分表示領域が操作部１４を介して指定されたか否かが判定される。本ステップ３５０において第１部分表示領域が指定された場合は判定が肯定されてステップ３５２へ移行する。ステップ３５２では、画像処理部２８により、第１部分表示領域が指定されたことを示す第１部分表示領域フラグが立てられ、その後、本領域指定処理を終了する。なお、ここでは、第１部分表示領域の指定方法として操作部１４による指定方法を例示しているが、指定方法はこれに限定されない。例えば、ＣＰＵ１２又は画像処理部２８により、接眼検出部３７の検出結果に基づいてハイブリッドファインダー２２０が使用されていると判定された場合に第１部分表示領域が指定されたと判定してもよい。
【０１０８】
一方、ステップ３５０において第１部分表示領域が指定されていない場合はステップ３５４へ移行する。ステップ３５４では、画像処理部２８により、第２部分表示領域が操作部１４を介して指定されたか否かが判定される。本ステップ３５４において第２部分表示領域が指定されていない場合は本領域指定処理を終了する。本ステップ３５４において第２部分表示領域が指定された場合は判定が肯定されてステップ３５６へ移行する。ステップ３５６では、画像処理部２８により、第２部分表示領域が指定されたことを示す第２部分表示領域フラグが立てられ、その後、本領域指定処理を終了する。
【０１０９】
次に本第１実施形態の作用として画像処理部２８で行われる上記の視差補正処理を含む画像出力処理について、図１９を参照して説明する。なお、ここでは、画像出力処理が画像処理部２８で行われる場合を例示するが、本発明はこれに限定されるものではなく、例えばＣＰＵ１２が画像出力処理プログラムを実行することにより撮像装置１００で画像出力処理が行われるものとしてもよい。
【０１１０】
図１９において、ステップ４００では、入力された第３の画像に基づく通常画像が画像処理部２８により生成される。上記ステップ４００で生成された通常画像は画像処理部２８により所定の記憶領域（例えばメモリ２６）に記憶される。
【０１１１】
次のステップ４０２では、画像処理部２８により、左目画像及び右目画像が取得され、取得された左目画像及び右目画像に基づいてスプリットイメージが生成される。
【０１１２】
次のステップ４０４では、画像処理部２８により、上記ステップ４０２で生成されたスプリットイメージにおける特定の領域に含まれる左目画像及び右目画像の一方の全画素の処理対象の画素が設定される。ここでは、画像処理部２８が、上記の領域指定処理で指定されたスプリットイメージ内の領域の位置に対応する位置の左目画像及び右目画像（特定の部分画像の一例）を取得する。例えば第１部分表示領域フラグが立てられていれば、図１８に示す第１部分表示領域の位置に対応する位置の左目画像及び右目画像を取得する。また、第２部分表示領域フラグが立てられていれば、図１８に示す第２部分表示領域の位置に対応する位置の左目画像及び右目画像を取得する。また、第１部分表示領域フラグ及び第２部分表示領域フラグが立てられていなければ、スプリットイメージの全表示領域の左目画像及び右目画像を取得する。例えば、スプリットイメージの全表示領域の上半分の位置に対応する位置の左目及び右目画像並びにスプリットイメージの全表示領域の下半分の位置に対応する位置の左目及び右目画像を取得する。そして、取得した左目画像及び右目画像に基づいてスプリットイメージを生成する。なお、以下では、錯綜を回避するために、本ステップ４０２において生成されたスプリットイメージにおける第１部分表示領域の位置に対応する位置の左目画像の全画素のうちの処理対象の画素（注目画素（ｉ，ｊ））が設定されることとする。この場合、例えば、左目画像の画像サイズがｍ×ｎ画素の場合、画素（１，１）から画素（ｍ，ｎ）まで、本ステップ４０４が行われる毎に順次注目画素を移動させる。
【０１１３】
次のステップ４０６では、画像処理部２８により、ステップ４０４で設定された注目画素（ｉ，ｊ）を基準にした画素群であって所定のブロックサイズ［Ｃｘ×Ｃｙ］［pixel］の画素群が抽出される。次のステップ４０８では、画像処理部２８により、上記ステップ４０６で抽出された左目画像の各画素に対する上記ステップ４０６で抽出された右目画像の対応する画素のずれ量を示す視差が算出される。
【０１１４】
上記ステップ４０８において、画像処理部２８は、例えば、先ず上記ステップ４０６で抽出した左目画像の画素群を元に、右目画像内から特徴点が一致する画素群を探索する。すなわち、一例として図２０に示すように左目画像から抽出した画素群（ブロック）と、右目画像のうちの左目画像から抽出した画素群（ブロック）に対応する右目画像内のブロックとの一致度を評価する。そして、ブロック間の一致度が最大となるときの右目画像のブロックの基準の画素を、左目画像の注目画素に対応する右目画像の対応点の画素とする。本第１実施形態では、ブロックマッチング法を用いてブロック間の一致度を評価しており、一致度を評価する関数として、例えば各ブロック内の画素の輝度差の２乗和（ＳＳＤ）を使用するもの（ＳＳＤブロックマッチング法）がある。
【０１１５】
ＳＳＤブロックマッチング法では、比較対象とされる両画像のブロック内の各画素ｆ（ｉ，ｊ），ｇ（ｉ，ｊ）について、次式の演算を行う。
【０１１６】
【数２】
2014045739.tif 000004
上記［数２］式の演算を、右目画像上でブロックの位置を所定の探索領域内で移動させながら行い、ＳＳＤ値が最小となるときの探索領域内の位置の画素を探索対象の画素とする。そして、左目画像上の注目画素と、探索した対応する右目画像上の画素との画素間のずれ量を示す視差を算出する。
【０１１７】
次のステップ４１０では、画像処理部２８により、関数決定処理が行われることにより入出力関数Ｇが決定される。図２１には、関数決定処理の流れの一例を示すフローチャートが示されている。
【０１１８】
図２１に示すように、ステップ４１０Ａでは、画像処理部２８により、複数の因子が取得される。
【０１１９】
次のステップ４１０Ｂでは、画像処理部２８により、上記ステップ４１０Ａで取得された複数の因子に対応する入出力関数Ｇが取得される。ここでは、例えば、画像処理部２８が、上記ステップ４１０Ａで取得した複数の因子に基づいてずれ量を算出する。そして、算出したずれ量に対応する拡張量係数ｋをＬＵＴ５０から導出することにより決定し、決定した拡張量係数ｋを傾きとして有する入出力関数Ｇを取得する。なお、本ステップ４１０Ｂで取得される拡張量係数ｋは、本発明に係る不使用時拡張量及び表示部使用時拡張量の一例である。
【０１２０】
次のステップ４１０Ｃでは、画像処理部２８により、現時点で指示されている撮像が静止画像の撮像であるか否かが判定される。本ステップ４１０Ｃにおいて現時点で指示されている撮像が静止画像の撮像でない場合は判定が否定されてステップ４１０Ｆへ移行する。本ステップ４１０Ｃにおいて現時点で指示されている撮像が静止画像の撮像である場合は判定が肯定されてステップ４１０Ｄへ移行する。
【０１２１】
ステップ４１０Ｄでは、画像処理部２８により、静止画像の撮像時に使用するＦ値として現時点で設定されているＦ値がライブビュー画像の撮像時に使用するＦ値として現時点で設定されているＦ値と一致していないか否かが判定される。本ステップ４１０Ｄにおいて静止画像の撮像時に使用するＦ値として現時点で設定されているＦ値がライブビュー画像の撮像時に使用するＦ値として現時点で設定されているＦ値と一致していない場合は判定が肯定されてステップ４１０Ｅへ移行する。本ステップ４１０Ｄにおいて静止画像の撮像時に使用するＦ値として現時点で設定されているＦ値がライブビュー画像の撮像時に使用するＦ値として現時点で設定されているＦ値と一致している場合は判定が否定されてステップ４１０Ｆへ移行する。
【０１２２】
ステップ４１０Ｅでは、画像処理部２８により、静止画像の撮像時に使用するＦ値として現時点で設定されているＦ値に応じて、上記ステップ４１０Ａで取得された入出力関数Ｇが補正される。ここでは、画像処理部２８が、静止画像の撮像時に使用するＦ値として現時点で設定されているＦ値及びライブビュー画像の撮像時に使用するＦ値として現時点で設定されているＦ値に基づいて入出力関数Ｇの傾きを決定する。具体的には、ライブビュー画像の撮像時に使用するＦ値として現時点で設定されているＦ値により規定された位相差画素の特性値に対する静止画像の撮像時に使用するＦ値として現時点で設定されているＦ値により規定された位相差画素の特性値の割合を算出する。そして、算出した割合を現時点で取得されている入出力関数Ｇの拡張量係数ｋに乗じることで入出力関数Ｇを補正する。なお、以下では、説明の便宜上、位相差画素の特性値をρ（Ｆ）と表現する。ここで、“Ｆ”とは、Ｆ値を指す。
【０１２３】
例えば、図２２に示すように、静止画像の撮像時に使用するＦ値が“１．４”であり、ライブビュー画像の撮像時に使用するＦ値が“４．０”である場合、拡張量係数ｋは“ρ（１．４）／ρ（４．０）”に補正される。また、静止画像の撮像時に使用するＦ値が“１．４”であり、ライブビュー画像の撮像時に使用するＦ値が“２．８”である場合、拡張量係数ｋは“ρ（１．４）／ρ（２．８）”に補正される。また、静止画像の撮像時に使用するＦ値が“１．４”であり、ライブビュー画像の撮像時に使用するＦ値が“２．０”である場合、拡張量係数ｋは“ρ（１．４）／ρ（２．０）”に補正される。
【０１２４】
このように、本第１実施形態に係る撮像装置１０では、画像処理部２８により、入力視差に応じて拡張量係数ｋが決定されることにより視差の拡張量が決定される。また、この拡張量は、入力視差の減少に応じて増大する拡張量とされている。すなわち、拡張量係数ｋは、入力視差が小さいほど大きくなる。但し、この拡張量係数ｋは、ジャスピン（合焦位置）に近付くにつれて視差が減少するものである。視差が拡張されるにしてもジャスピンに近付くにつれて視差が減少することにより良好な視認性を確保できる範囲内で視差が拡張されることとなる。
【０１２５】
なお、ここでは、静止画像の撮像時に使用するＦ値を用いて拡張量係数ｋを補正する例を挙げているが、これに限らず、開放絞り値に相当するＦ値を用いて拡張量係数ｋを補正してもよい。この場合、ライブビュー画像の撮像時に使用するＦ値として現時点で設定されているＦ値により規定されたρ（Ｆ）に対する開放絞り値に相当するＦ値により規定されたρ（Ｆ）の割合を算出し、算出した割合を入出力関数Ｇの拡張量係数ｋに乗じればよい。
【０１２６】
ステップ４１０Ｆでは、画像処理部２８により、ＥＶＦ鑑賞条件を満足しているか否かが判定される。ＥＶＦ鑑賞条件とは、例えば現時点でユーザがＥＶＦ２４８を使用していることを表す条件を指す。ユーザがＥＶＦ２４８を使用しているか否かは、例えば接眼検出部３７での検出結果に基づいてファインダー接眼部２４２が使用されていると判定されたか否かにより判定される。つまり、ファインダー接眼部２４２が使用されていると判定された場合はユーザがＥＶＦ２４８を使用していると判定され、ファインダー接眼部２４２が使用されていないと判定された場合はユーザがＥＶＦ２４８を使用していないと判定される。本ステップ４１０ＦにおいてＥＶＦ鑑賞条件を満足していない場合は判定が否定されて本関数決定処理を終了する。本ステップ４１０ＦにおいてＥＶＦ鑑賞条件を満足している場合は判定が肯定されてステップ４１０Ｇへ移行する。
【０１２７】
ステップ４１０Ｇでは、画像処理部２８により、上記ステップ４１０Ｂで取得された入出力関数Ｇ又は上記ステップ４１０Ｅで補正された入出力関数ＧがＥＶＦ用の入出力関数Ｇに補正された後、本関数決定処理を終了する。ＥＶＦ用の入出力関数Ｇとは、例えばＥＶＦ２４８の表示画面上での視差発生方向の画素数[pixel]に基づいて算出されたずれ量に対応する拡張量係数ｋを傾きとして有する入出力関数Ｇを指す。なお、本ステップ４１０Ｇで補正された入出力関数Ｇの拡張量係数ｋが本発明に係る使用時拡張量の一例である。
【０１２８】
図１９に戻って、ステップ４１２では、画像処理部２８により、上記ステップ４１０で決定された入出力関数Ｇを用いて導出される出力視差に対応するフィルタ係数が決定される。ここで、画像処理部２８は、先ず、上記ステップ４１０で決定した入出力関数Ｇを用いて出力視差に相当する視差γを導出する。すなわち、入力視差として上記ステップ４０８で算出された視差を、上記ステップ４１０で決定した入出力関数Ｇを用いて出力視差としての視差γに変換する。そして、視差γに対応する位相ずらし量μ［pixel］を導出する。位相ずらし量μは例えば図２３に示す関数（実線又は破線のグラフ）によって一意に定まる。図２３に示す実線のグラフは、左目画像に対する位相ずらし量μを示しており、合焦している被写体（視差０）よりも遠い被写体の視差γの符号はプラス、合焦している被写体よりも近い被写体の視差γの符号はマイナスとされている。また、右方向の位相ずらし量μはプラス、左方向の位相ずらし量μはマイナスとされている。そして、図２３の破線のグラフに示すように、右目画像に対する位相ずらし量μは、左目画像に対する位相ずらし量μとは符号が逆になる。
【０１２９】
図２３に示す例では、入出力関数Ｇにより決定された出力視差［pixel］の符号を変えることなく、所定のピクセル数範囲（一例として±Ｐ１）の視差γに対しては、傾きε（＞０）を乗じることで位相ずらし量μへの変換を行っている。所定の画素数範囲を超える視差γに対しては、視差計測結果にミスがあった場合に備え、傾きεが“ε＝０”になるように位相ずらし量μを一定にする。
【０１３０】
次に、画像処理部２８は、一例として図２３に示す関数に従って導出された位相ずらし量μ、予め設定された標準偏差σ、及びエッジ強調の強さのα（図１６Ａ及び図１６Ｂ参照）に基づいて、上述の［数１］式によりフィルタＦＬ，ＦＲのフィルタ係数を算出する。なお、本第１実施形態では、［数１］式を用いてフィルタＦＬ，ＦＲのフィルタ係数を算出する態様を例示しているが、本発明はこれに限定されるものではない。例えば、出力視差或いは位相ずらし量等に対応するフィルタ係数のセットが予め記憶されたルックアップテーブル（ＬＵＴ）を準備しておき出力視差等に基づいて対応するフィルタ係数のセットを読み出し、フィルタＦＬ，ＦＲを決定するようにしてもよい。
【０１３１】
ステップ４１４では、画像処理部２８により、上記ステップ４０６で抽出された画素群及び対応する画素群（例えば上記ステップ４０４で設定された注目画素（ｉ，ｊ）に対応する右目画像の対応点を基準に抽出された画素群）について画像処理（視差を拡張する処理）が行われる。
【０１３２】
本ステップ４１４において、例えば、画像処理部２８は、先ず、上記ステップ４０６で抽出された画素群（ブロック）について、このブロックサイズと同じカーネルサイズのフィルタＦＬによりフィルタ処理を行うことにより注目画素（ｉ，ｊ）の画素値を算出する。また、上記ステップ４０４で設定された注目画素（ｉ，ｊ）に対応する右目画像の対応点を基準に抽出された画素群について、このブロックサイズと同じカーネルサイズのフィルタＦＲによりフィルタ処理を行うことにより右目画像の対応点の画素値を算出する。
【０１３３】
画像処理部２８は、次に、上記のようにフィルタ処理された左目画像の注目画素（ｉ，ｊ）の画素値及び右目画像の対応点の画素の画素値を、元の位置から位相ずらし量μだけシフトした位置に配置（マッピング）する。
【０１３４】
ここで、ブロックサイズ［Ｃｘ×Ｃｙ］を、例えば７×７［pixel］とした場合、一例として図２４Ａ及び図２４Ｂに示すようにフィルタＦＬ，ＦＲのカーネルサイズも７×７［pixel］とする。そして、ブロックマッチング法により対応点の検出及び視差γの算出が行われた左目画像の画素群（ブロック）と右目画像の画素群（ブロック）を開放せずに、そのままＦＬ，ＦＲによりフィルタ処理を行う。これにより、メモリ使用量を削減することができ、また、処理も高速化させることができる。
【０１３５】
次のステップ４１６では、画像処理部２８により、上記ステップ４１４で行われた画像処理により得られた画素値が画素毎に所定の記憶領域（例えばメモリ２６）に記憶されることにより画像が記憶され、その後、ステップ４１８へ移行する。
【０１３６】
ステップ４１８では、画像処理部２８により、左目画像の全ての画素のフィルタ処理が終了したか否かが判定される。本ステップ４１８において左目画像の全ての画素のフィルタ処理が終了した場合は判定が肯定されてステップ４２０へ移行する。本ステップ４１８において左目画像の全ての画素のフィルタ処理が終了していない場合は判定が否定されてステップ４０４へ移行する。
【０１３７】
ステップ４２０では、画像処理部２８により、上記ステップ４００，４１６で所定の記憶領域に記憶された画像が所定の出力先に出力された後、本画像処理を終了する。なお、上記の「所定の出力先」としては、例えば表示制御部３６が挙げられ、この他にも、撮影者等により外部装置への出力が操作部１４を介して指示された場合は上記の「所定の出力先」として外部Ｉ／Ｆ４０が適用される。
【０１３８】
図１９に示す画像出力処理が画像処理部２８によって行われると、一例として図２５に示すように表示部２１３やハイブリッドファインダー２２０にライブビュー画像が表示される。図２５に示す例では、画面中央の枠６０の内側領域にスプリットイメージが表示されており、枠６０の外側領域に通常画像が表示されている。
【０１３９】
すなわち、第１及び第２の画素群は、枠６０のサイズに対応して設けられている。スプリットイメージは、第１の画素群から出力された第１の画像に対応する左目画像（視差画像）と、第２の画素群から出力された第２の画像に対応する右目画像（視差画像）とに大別される。
【０１４０】
ここで、枠６０内の画像に対応する被写体に対して、撮影レンズ１６のピントが合っていない場合は、図２５に示すようにスプリットイメージの右目画像と左目画像との境界の画像が視差発生方向（一例として水平方向）にずれる。また、通常画像とスプリットイメージとの境界の画像も視差発生方向にずれる。これは、位相差が生じていることを表しており、撮影者はスプリットイメージを通して視覚的に位相差が生じていること及び視差発生方向を認識することができる。
【０１４１】
一方、枠６０内の画像に対応する被写体に対して、撮影レンズ１６のピントが合っている場合は、スプリットイメージの右目画像と左目画像との境界の画像が一致する。また、通常画像とスプリットイメージとの境界の画像も一致する。これは、位相差が生じていないことを表しており、撮影者はスプリットイメージを通して視覚的に位相差が生じていないことを認識することができる。
【０１４２】
このように、撮影者は、表示部２１３に表示されるスプリットイメージにより撮影レンズ１６の合焦状態を確認することができる。また、マニュアルフォーカスモード時には、撮影レンズ１６のフォーカスリング３０２を手動操作することによりピントのずれ量（デフォーカス量）をゼロにすることができる。
【０１４３】
また、本第１実施形態に係る撮像装置１００では、上記ステップ４０４において上記の領域指定処理で指定されたスプリットイメージ内の第１部分表示領域の位置に対応する位置の画像に含まれる画素を対象にして注目画素が設定される。そのため、一例として図２５に示すように第１部分表示領域の位置に対応する位置の左目画像及び右目画像に対して上記ステップ４１４の画像処理が行われる。よって、一例として図２５に示すように第１部分表示領域の位置に対応する右目画像と左目画像とのずれ量が、他の右目画像と左目画像とのずれ量に比べ、拡張される。また、第１部分表示領域の位置に対応する位置の画像に対して画像処理が行われるので、スプリットイメージの全表示領域の位置に対応する右目画像及び左目画像に含まれる全画素に対して画像処理を行う場合に比べ、処理にかかる負荷を軽減することができる。
【０１４４】
なお、領域指定処理で第２部分表示領域が指定されると、第２部分表示領域の位置に対応する位置の左目画像及び右目画像に対して上記ステップ４１４の画像処理が行われる。よって、第２部分表示領域の位置に対応する右目画像と左目画像とのずれ量（図２５に示す枠６０の上縁部に隣接する左目画像と枠６０の下縁部に隣接する右目画像とのずれ量）が、他の右目画像と左目画像とのずれ量に比べ、拡張される。
【０１４５】
また、領域指定処理で第１部分表示領域及び第２部分表示領域が指定されないと（スプリットイメージの全表示領域が指定されると）、スプリットイメージの全表示領域の右目画像及び左目画像に対して上記ステップ４１４の画像処理が行われる。この場合、一例として図２６に示すように、スプリットイメージの全表示領域に含まれる全ての右目画像及び左目画像について右目画像と左目画像とのずれ量が拡張される。
【０１４６】
また、本第１実施形態では、スプリットイメージの表示色が無彩色の場合について説明したが、これに限らず、スプリットイメージに有彩色を付与してもよい。この場合、例えば、スプリットイメージを、互いに異なる色特性を有する色彩が付与された左目画像と右目画像とが所定方向（例えば視差発生方向と交差する方向）に交互に配置された画像とする態様が挙げられる。具体的には、図２５又は図２６に示す左目画像及び右目画像の一方の表示色を無彩色とし、他方の表示色を有彩色とする態様が挙げられる。スプリットイメージの表示色を有彩色にするには、例えばホワイトバランスの設定で用いられる原色成分（例えばＲ，Ｇ，Ｂ）の構成比を調節すればよい。
【０１４７】
また、一例として図２７に示すように、スプリットイメージの全てを有彩色としてもよい。この場合、左目画像の色特性と右目画像の色特性とを異ならせることが好ましい。なお、図２７に示す例では、左目画像に対して青系の色彩が、右目画像に対して緑系の色彩が各々付与されている。
【０１４８】
また、一例として図２８に示すように第１部分表示領域の位置に対応する位置の左目画像及び右目画像（ずれ量が拡張された画像）に対して、スプリットイメージにおける他の領域とは異なる色特性を有する色彩を付与するようにしてもよい。なお、図２８に示す例では、第１部分表示領域の位置に対応する位置の左目画像及び右目画像に対して橙系の色彩が付与されており、その他の左目画像及び右目画像に対して青系の色彩が付与されている。
【０１４９】
以上に説明にしたように、本第１実施形態に係る撮像装置１００は、撮影レンズ１６の射出瞳を通過する光束の光軸の左側及び右側（第１及び第２の領域を通過した被写体像の一例）が瞳分割されてそれぞれ結像される第１及び第２の画素群を有する。画像取得部の一例である画像処理部２８は、第１及び第２の画素群から出力された第１及び第２の画像に相当する左目画像及び右目画像を取得する（ステップ４０２）。また、視差算出部の一例である画像処理部２８は、左目画像の各画素と右目画像の各画素とのずれ量を示す入力視差を算出する（ステップ４０８）。また、拡張量決定部の一例である画像処理部２８は、左目画像及び右目画像における対象画素毎に、拡張量係数ｋ（一例として線形関数の傾き）を有する入出力関数Ｇを決定する（ステップ４１０）。また、係数決定部の一例である画像処理部２８は、左目画像及び右目画像における対象画素毎に、入力視差を、決定した入出力関数Ｇに基づいて、拡張させた視差に変換させる視差変換係数の一例であるフィルタ係数を決定する。更に、画像処理部２８は、対象画素に対して、決定したフィルタ係数に基づいて視差を拡張する処理を行う（ステップ４１４）。これにより、本構成を有しない場合に比べ、スプリットイメージにおける左目画像と右目画像との間の視差に対応するずれの視認性を良好にすることができる。
【０１５０】
また、本第１実施形態に係る撮像装置１００では、拡張量係数ｋとして、算出された入力視差の減少に応じて増大する拡張量係数を採用している。これにより、本構成を有しない場合に比べ、プリットイメージにおける左目画像と右目画像との間の視差に対応するずれの視認性をより一層良好にすることができる。
【０１５１】
また、本第１実施形態に係る撮像装置１００では、拡張量係数ｋとして、所定の表示領域に表示された左目画像と右目画像とのずれを発生させる少なくとも１つの因子に応じて定められた拡張量係数を採用している。これにより、本構成を有しない場合に比べ、プリットイメージにおける左目画像と右目画像との間の視差に対応するずれの視認性をより一層良好にすることができる。
【０１５２】
また、本第１実施形態に係る撮像装置１００では、複数の因子のうちの１つとして撮影レンズ１６のＦ値を採用し、拡張量係数ｋとして、Ｆ値が高いほど増大する拡張量係数を採用している。これにより、本構成を有しない場合に比べ、スプリットイメージにおける左目画像と右目画像との間の視差に対応するずれが、絞り値が大きいほど視認し難くなるという事態の発生を抑制することができる。
【０１５３】
また、本第１実施形態に係る撮像装置１００では、画像処理部２８が、撮影レンズ１６のＦ値及び開放Ｆ値に基づいて拡張量係数ｋを決定する。これにより、本構成を有しない場合に比べ、適切な拡張量係数ｋを容易に決定することができる。
【０１５４】
また、本第１実施形態に係る撮像装置１００では、拡張量係数ｋを決定する際に用いるＦ値として、ライブビュー画像の撮像時に使用されるＦ値又は静止画像の撮像時に使用されるＦ値を採用している。これにより、本構成を有しない場合に比べ、適切な拡張量係数ｋを容易に決定することができる。
【０１５５】
また、本第１実施形態に係る撮像装置１００では、複数の因子として、表示装置に表示された左目画像と右目画像とのずれ量を規定する複数の因子を採用している。これにより、本構成を有しない場合に比べ、簡素な構成で、スプリットイメージにおける左目画像と右目画像との間の視差に対応するずれの視認性を良好にすることができる。
【０１５６】
また、本第１実施形態に係る撮像装置１００では、画像処理部２８が、通常画像及びスプリットイメージを生成する。そして、表示制御部３６が、表示装置に対して、通常画像を表示させ、画像処理の対象画素に対してフィルタ処理が行われた画像を有するスプリットイメージを通常画像の表示領域内に表示させる制御を行う。これにより、本構成を有しない場合に比べ、画像間の視差に対応するずれを視覚的に容易に認識することができる。
【０１５７】
また、本第１実施形態に係る撮像装置１００では、撮像素子２０が、第３の画素群を有し、画像処理部２８が、第３の画素群から出力される第３の画像に基づいて通常画像を生成する。これにより、本構成を有しない場合に比べ、通常画像の画質を向上させることができる。
【０１５８】
また、本第１実施形態に係る撮像装置１００では、画像処理の対象画素として、スプリットイメージにおける左目画像及び右目画像における特定の部分画像に含まれる画素に相当する画素を採用している。これにより、本構成を有しない場合に比べ、画像処理にかかる負荷を軽減することができる。
【０１５９】
また、本第１実施形態に係る撮像装置１００では、表示制御部３６が、画像処理の対象画素に対して画像処理（視差を強調する処理）が行われた特定の部分画像を有する左目画像及び右目画像を表示装置に表示させる。これにより、本構成を有しない場合に比べ、スプリットイメージにおける左目画像と右目画像との間の視差に対応するずれを視覚的に容易に認識することができる。
【０１６０】
また、本第１実施形態に係る撮像装置１００では、画像処理部が、撮像素子２０から出力された画像に基づく通常画像を取得する（ステップ４００）。また、表示制御部３６が、表示装置に対して通常画像を表示させると共に、通常画像の表示領域内に、画像処理の対象画素に対して画像処理が行われた特定の部分画像を有する左目画像及び右目画像を表示させる。これにより、本構成を有しない場合に比べ、スプリットイメージと通常画像とのずれと共に、スプリットイメージにおける左目画像と右目画像との間の視差に対応するずれを視覚的に容易に認識することができる。
【０１６１】
また、本第１実施形態に係る撮像装置１００は、表示装置の表示画面内の一部領域を指定する指定部の一例である操作部１４を有する。また、特定の部分画像として、スプリットイメージにおける左目画像及び右目画像のうち操作部１４を介して指定された表示画面内の一部領域の位置に対応する位置の画像を採用している。これにより、本構成を有しない場合に比べ、画像処理（視差を強調する処理）の対象画素を容易に指定することができる。
【０１６２】
また、本第１実施形態に係る撮像装置１００では、特定の部分画像として、左目画像と右目画像とが視差に応じたずれ量で視差発生方向に沿ってずれた画像に相当するスプリットイメージの一部を採用している。これにより、本構成を有しない場合に比べ、スプリットイメージ内において左目画像と右目画像との間の視差に対応するずれを視覚的に容易に認識することができる。
【０１６３】
また、本第１実施形態に係る撮像装置１００では、スプリットイメージとして、互いに異なる色特性を有する色彩が付与された左目画像と右目画像とが視差発生方向に対して交差（一例として直交）する方向に交互に配置された画像を採用している。これにより、本構成を有しない場合に比べ、スプリットイメージ内において左目画像と右目画像との間の視差に対応するずれを視覚的に容易に認識することができる。
【０１６４】
また、本第１実施形態に係る撮像装置１００では、特定の部分画像として、スプリットイメージにおける他の領域とは異なる色特性を有する色彩が付与された画像を採用している。これにより、本構成を有しない場合に比べ、スプリットイメージ内において拡張量係数ｋに基づく画像処理が行われた画像とそれ以外の画像とを視覚的に容易に特定することができる。
【０１６５】
また、本第１実施形態に係る撮像装置１００では、画像処理部２８が、拡張量係数ｋに基づいてフィルタ係数を決定し、決定したフィルタ係数を使用するフィルタＦＬ，ＦＲにより画像処理の対象画素に対してフィルタ処理を行う。これにより、本構成を有しない場合に比べ、簡素な構成で、対象画素に対して拡張量係数ｋに基づく画像処理（視差を強調する処理）を行うことができる。
【０１６６】
また、本第１実施形態に係る撮像装置１００は、ＥＶＦ２４８の使用を検出する検出部の一例である接眼検出部３７を有する。また、画像処理部２８が、接眼検出部３７によりＥＶＦ２４８の使用が検出された場合はＥＶＦ２４８の使用時に用いる拡張量係数ｋを決定する。更に、接眼検出部３７によりＥＶＦ２４８の使用が検出されなかった場合はＥＶＦ２４８の不使用時に用いる拡張量係数ｋを決定する。これにより、本構成を有しない場合に比べ、ＥＶＦ２４８の使用時と不使用時において適切な拡張量係数ｋを決定することができる。
【０１６７】
また、本第１実施形態に係る撮像装置１００では、画像処理部２８が、接眼検出部３７によりＥＶＦ２４８の使用が検出されず、画像処理が行われた画素を表示部２１３に対して表示させる場合、表示部２１３の使用時に用いる拡張量係数ｋを決定する。これにより、本構成を有しない場合に比べ、ＥＶＦ２４８とは視差発生方向の画素数が異なる表示部２１３に画像処理（視差を強調する処理）済みの画像を表示する場合において適切な拡張量係数ｋを決定することができる。
【０１６８】
また、本第１実施形態に係る撮像装置１００では、接眼検出部３７によりＥＶＦ２４８の使用が検出された場合、拡張量係数ｋとして、表示部２１３の使用時に用いる拡張量係数ｋよりも大きな値を採用している。これにより、本構成を有しない場合に比べ、ＥＶＦ２４８に画像処理（視差を強調する処理）済みの画像を表示する場合においてスプリットイメージにおける左目画像と右目画像との間の視差に対応するずれの視認性を良好にすることができる。
【０１６９】
なお、上記第１実施形態では、複数の因子に基づいて拡張量係数ｋを算出する例を挙げたが、これに限らず、単一の因子に基づいて拡張量係数ｋを算出してもよい。単一の因子としては、撮影レンズ１６の絞り値（例えば撮影レンズ１６のＦ値）を用いることが好ましい。また、ライブビュー画像の撮像時において静止画像の撮像の指示が与えられていない場合は、画像処理部２８により、ライブビュー画像の撮像時に使用されるＦ値及び静止画像の撮像時に使用されるＦ値に基づいて拡張量係数ｋを決定してもよい。また、画像処理部２８により、撮影レンズ１６のＦ値及び開放絞り値に基づいて拡張量係数ｋを決定してもよい。
【０１７０】
また、上記第１実施形態では、入力視差の大きさに拘らず注目画素に対して画像処理を行ったが、これに限らず、入力視差が所定の条件を満たす特性の視差範囲外の注目画素に対して画像処理を行うようにしてもよい。この場合、例えば、画像処理部２８により、注目画素が所定の条件を満たす特定の視差範囲外であるか否かを判定する。ここで言う「所定の条件を満たす特性の視差範囲」とは、例えば合焦確認可能視差範囲を指す。「合焦確認可能視差範囲」とは、例えば、注目画素が表示装置（例えば表示部２１３）の表示画面上で人が合焦状態であると視認できる視差の範囲を指す。つまり、撮像装置１００の撮像系において注目画素に対応する撮像素子２０内の素子が被写界深度内である場合、注目画素は、表示装置の表示画面上で人が合焦状態であると視認できる視差を有することとなる。逆に、撮像装置１００の撮像系において注目画素に対応する撮像素子２０内の素子が被写界深度内でない場合、注目画素は、表示装置の表示画面上で人が非合焦状態であると視認できる視差を有することとなる。そして、画像処理部２８により、注目画素毎に、特定の視差範囲外であると判定した場合は上記第１実施形態で説明したように拡張量係数ｋを決定する。これにより、撮像装置１００は、本構成を有しない場合に比べ、画像処理（視差を強調する処理）を行う必要がない画素について拡張量係数ｋが決定されることを抑制することができる。
【０１７１】
また、上記第１実施形態では、入出力関数Ｇを線形関数としたが、これに限らず、非線形関数を適用してもよい。
【０１７２】
また、上記第１実施形態では、入力視差を入出力関数Ｇを用いて出力視差に変換する形態例を挙げて説明したが、入力視差をＬＵＴを用いて出力視差に変換してもよい。この場合、例えば、入力視差と入出力関数Ｇが有する拡張量係数ｋと出力視差とを予め関連付けておくことで、入力視差に対応する出力視差を導出することができる。
【０１７３】
また、上記第１実施形態では、レフレックスミラーが省略されたレンズ交換式のデジタルカメラを例示したが、これに限らず、一体型レンズを有する撮像装置に対しても本発明を適用することができる。
【０１７４】
また、上記第１実施形態では、表示部２１３及びＥＶＦ２４８を有する撮像装置１００を例示したが、これに限らず、表示部２１３及びＥＶＦ２４８の何れか一方を有しているものであってもよい。
【０１７５】
また、上記第１実施形態では、上下方向に複数分割されたスプリットイメージを例示したが、これに限らず、左右方向又は斜め方向に複数分割された画像をスプリットイメージとして適用してもよい。
【０１７６】
また、上記第１実施形態では、スプリットイメージを表示する形態例を挙げて説明したが、これに限らず、左目画像及び右目画像から他の合焦確認画像を生成し、合焦確認画像を表示するようにしてもよい。例えば、左目画像及び右目画像を重畳して合成表示し、ピントがずれている場合は２重像として表示され、ピントが合った状態ではクリアに画像が表示されるようにしてもよい。
【０１７７】
また、上記第１実施形態で説明した領域指定処理の流れ（図１７参照）、画像出力処理の流れ（図１９参照）及び関数決定処理の流れ（図２１参照）は一例である。従って、主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよいことは言うまでもない。また、領域指定処理に含まれる各処理、画像出力処理に含まれる各処理及び関数決定処理に含まれる各処理は、プログラムを実行することにより、コンピュータを利用してソフトウェア構成により実現されてもよいし、ハードウェア構成で実現されてもよい。また、ハードウェア構成とソフトウェア構成の組み合わせによって実現してもよい。
【０１７８】
領域指定処理、画像出力処理及び関数決定処理の少なくとも１つを、コンピュータによりプログラムを実行することにより実現する場合は、プログラムを所定の記憶領域（例えばメモリ２６）に予め記憶しておけばよい。なお、必ずしも最初からメモリ２６に記憶させておく必要はない。例えば、コンピュータに接続されて使用されるフレキシブルディスク、いわゆるＦＤ、ＣＤ−ＲＯＭ、ＤＶＤディスク、光磁気ディスク、ＩＣカードなどの任意の「可搬型の記憶媒体」に先ずはプログラムを記憶させておいてもよい。そして、コンピュータがこれらの可搬型の記憶媒体からプログラムを取得して実行するようにしてもよい。また、インターネットやＬＡＮ（Local Area Network）などを介してコンピュータに接続される他のコンピュータまたはサーバ装置などに各プログラムを記憶させておき、コンピュータがこれらからプログラムを取得して実行するようにしてもよい。
【０１７９】
［第２実施形態］
上記第１実施形態では、撮像装置１００を例示したが、撮像装置１００の変形例である携帯端末装置としては、例えばカメラ機能を有する携帯電話機やスマートフォン、ＰＤＡ（Personal Digital Assistants）、携帯型ゲーム機などが挙げられる。以下、スマートフォンを例に挙げ、図面を参照しつつ、詳細に説明する。
【０１８０】
図３０は、スマートフォン５００の外観の一例を示す斜視図である。図３０に示すスマートフォン５００は、平板状の筐体５０２を有し、筐体５０２の一方の面に表示部としての表示パネル５２１と、入力部としての操作パネル５２２とが一体となった表示入力部５２０を備えている。また、筐体５０２は、スピーカ５３１と、マイクロホン５３２と、操作部５４０と、カメラ部５４１とを備えている。なお、筐体５０２の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド構造を有する構成を採用することもできる。
【０１８１】
図３１は、図３０に示すスマートフォン５００の構成の一例を示すブロック図である。図３１に示すように、スマートフォン５００の主たる構成要素として、無線通信部５１０と、表示入力部５２０と、通話部５３０と、操作部５４０と、カメラ部５４１と、記憶部５５０と、外部入出力部５６０と、を備える。また、スマートフォン５００の主たる構成要素として、ＧＰＳ（Global Positioning System）受信部５７０と、モーションセンサ部５８０と、電源部５９０と、主制御部５０１と、を備える。また、スマートフォン５００の主たる機能として、基地局装置ＢＳと移動通信網ＮＷとを介した移動無線通信を行う無線通信機能を備える。
【０１８２】
無線通信部５１０は、主制御部５０１の指示に従って、移動通信網ＮＷに収容された基地局装置ＢＳに対して無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Ｗｅｂデータやストリーミングデータなどの受信を行う。
【０１８３】
表示入力部５２０は、いわゆるタッチパネルであって、表示パネル５２１と、操作パネル５２２とを備える。そのため、表示入力部５２０は、主制御部５０１の制御により、画像（静止画像および動画像）や文字情報などを表示して視覚的にユーザに情報を伝達するとともに、表示した情報に対するユーザ操作を検出する。なお、生成された３Ｄを鑑賞する場合には、表示パネル５２１は、３Ｄ表示パネルであることが好ましい。
【０１８４】
表示パネル５２１は、ＬＣＤ、ＯＥＬＤ(Organic Electro-Luminescence Display)などを表示デバイスとして用いたものである。操作パネル５２２は、表示パネル５２１の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。係るデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部５０１に出力する。次いで、主制御部５０１は、受信した検出信号に基づいて、表示パネル５２１上の操作位置（座標）を検出する。
【０１８５】
図３０に示すように、スマートフォン５００の表示パネル５２１と操作パネル５２２とは一体となって表示入力部５２０を構成しているが、操作パネル５２２が表示パネル５２１を完全に覆うような配置となっている。この配置を採用した場合、操作パネル５２２は、表示パネル５２１外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル５２２は、表示パネル５２１に重なる重畳部分についての検出領域（以下、表示領域と称する）と、それ以外の表示パネル５２１に重ならない外縁部分についての検出領域（以下、非表示領域と称する）とを備えていてもよい。
【０１８６】
なお、表示領域の大きさと表示パネル５２１の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル５２２が、外縁部分と、それ以外の内側部分の２つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体５０２の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル５２２で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
【０１８７】
通話部５３０は、スピーカ５３１やマイクロホン５３２を備える。通話部５３０は、マイクロホン５３２を通じて入力されたユーザの音声を主制御部５０１にて処理可能な音声データに変換して主制御部５０１に出力する。また、通話部５３０は、無線通信部５１０あるいは外部入出力部５６０により受信された音声データを復号してスピーカ５３１から出力する。また、図３０に示すように、例えば、スピーカ５３１を表示入力部５２０が設けられた面と同じ面に搭載し、マイクロホン５３２を筐体５０２の側面に搭載することができる。
【０１８８】
操作部５４０は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図３０に示すように、操作部５４０は、スマートフォン５００の筐体５０２の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
【０１８９】
記憶部５５０は、主制御部５０１の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータを記憶する。また、記憶部５５０は、ＷｅｂブラウジングによりダウンロードしたＷｅｂデータや、ダウンロードしたコンテンツデータを記憶する。また、記憶部５５０は、ストリーミングデータなどを一時的に記憶する。また、記憶部５５０は、スマートフォン内蔵の内部記憶部５５１と着脱自在な外部メモリスロットを有する外部記憶部５５２を有する。なお、記憶部５５０を構成するそれぞれの内部記憶部５５１と外部記憶部５５２は、フラッシュメモリタイプ（flash memory type）、ハードディスクタイプ（hard disk type）などの格納媒体を用いて実現される。格納媒体としては、この他にも、マルチメディアカードマイクロタイプ（multimedia card micro type）、カードタイプのメモリ（例えば、ＭｉｃｒｏＳＤ（登録商標）メモリ等）、ＲＡＭ（Random Access Memory）、ＲＯＭ（Read Only Memory）が例示できる。
【０１９０】
外部入出力部５６０は、スマートフォン５００に連結される全ての外部機器とのインタフェースの役割を果たすものであり、他の外部機器に通信等又はネットワークにより直接的又は間接的に接続するためのものである。他の外部機器に通信等としては、例えば、ユニバーサルシリアルバス（ＵＳＢ）、ＩＥＥＥ１３９４などが挙げられる。ネットワークとしては、例えば、インターネット、無線ＬＡＮ、ブルートゥース（Bluetooth（登録商標））、ＲＦＩＤ（Radio Frequency Identification）、赤外線通信（Infrared Data Association：ＩｒＤＡ（登録商標））が挙げられる。また、ネットワークの他の例としては、ＵＷＢ（Ultra Wideband（登録商標））、ジグビー（ZigBee（登録商標））などが挙げられる。
【０１９１】
スマートフォン５００に連結される外部機器としては、例えば、有／無線ヘッドセット、有／無線外部充電器、有／無線データポート、カードソケットを介して接続されるメモリカード（Memory card）が挙げられる。外部機器の他の例としては、ＳＩＭ(Subscriber Identity Module Card)／ＵＩＭ(User Identity Module Card)カード、オーディオ・ビデオＩ／Ｏ（Input/Output）端子を介して接続される外部オーディオ・ビデオ機器が挙げられる。外部オーディオ・ビデオ機器の他にも、無線接続される外部オーディオ・ビデオ機器が挙げられる。また、外部オーディオ・ビデオ機器に代えて、例えば有／無線接続されるスマートフォン、有／無線接続されるパーソナルコンピュータ、有／無線接続されるＰＤＡ、有／無線接続されるパーソナルコンピュータ、イヤホンなども適用可能である。
【０１９２】
外部入出力部は、このような外部機器から伝送を受けたデータをスマートフォン５００の内部の各構成要素に伝達することや、スマートフォン５００の内部のデータが外部機器に伝送されるようにすることができる。
【０１９３】
ＧＰＳ受信部５７０は、主制御部５０１の指示にしたがって、ＧＰＳ衛星ＳＴ１〜ＳＴｎから送信されるＧＰＳ信号を受信し、受信した複数のＧＰＳ信号に基づく測位演算処理を実行し、当該スマートフォン５００の緯度、経度、高度からなる位置を検出する。ＧＰＳ受信部５７０は、無線通信部５１０や外部入出力部５６０（例えば、無線ＬＡＮ）から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
【０１９４】
モーションセンサ部５８０は、例えば、３軸の加速度センサなどを備え、主制御部５０１の指示にしたがって、スマートフォン５００の物理的な動きを検出する。スマートフォン５００の物理的な動きを検出することにより、スマートフォン５００の動く方向や加速度が検出される。この検出結果は、主制御部５０１に出力されるものである。
【０１９５】
電源部５９０は、主制御部５０１の指示にしたがって、スマートフォン５００の各部に、バッテリ（図示しない）に蓄えられる電力を供給するものである。
【０１９６】
主制御部５０１は、マイクロプロセッサを備え、記憶部５５０が記憶する制御プログラムや制御データにしたがって動作し、スマートフォン５００の各部を統括して制御するものである。また、主制御部５０１は、無線通信部５１０を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
【０１９７】
アプリケーション処理機能は、記憶部５５０が記憶するアプリケーションソフトウェアにしたがって主制御部５０１が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部５６０を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。
【０１９８】
また、主制御部５０１は、受信データやダウンロードしたストリーミングデータなどの画像データ（静止画像や動画像のデータ）に基づいて、映像を表示入力部５２０に表示する等の画像処理機能を備える。画像処理機能とは、主制御部５０１が、上記画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部５２０に表示する機能のことをいう。
【０１９９】
更に、主制御部５０１は、表示パネル５２１に対する表示制御と、操作部５４０、操作パネル５２２を通じたユーザ操作を検出する操作検出制御とを実行する。
【０２００】
表示制御の実行により、主制御部５０１は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成するためのウィンドウを表示する。なお、スクロールバーとは、表示パネル５２１の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
【０２０１】
また、操作検出制御の実行により、主制御部５０１は、操作部５４０を通じたユーザ操作を検出したり、操作パネル５２２を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたりする。また、操作検出制御の実行により、主制御部５０１は、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
【０２０２】
更に、操作検出制御の実行により主制御部５０１は、操作パネル５２２に対する操作位置が、表示パネル５２１に重なる重畳部分（表示領域）か、それ以外の表示パネル２１に重ならない外縁部分（非表示領域）かを判定する。そして、この判定結果を受けて、操作パネル５２２の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
【０２０３】
また、主制御部５０１は、操作パネル５２２に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも１つについて軌跡を描く操作を意味する。
【０２０４】
カメラ部５４１は、ＣＭＯＳやＣＣＤなどの撮像素子を用いて撮像するデジタルカメラであり、図１等に示す撮像装置１００と同様の機能を備えている。
【０２０５】
また、カメラ部５４１は、マニュアルフォーカスモードとオートフォーカスモードとを切り替え可能である。マニュアルフォーカスモードが選択されると、操作部５４０又は表示入力部５２０に表示されるフォーカス用のアイコンボタン等を操作することにより、カメラ部５４１の撮影レンズのピント合わせを行うことができる。そして、マニュアルフォーカスモード時には、スプリットイメージが合成されたライブビュー画像を表示パネル５２１に表示させ、これによりマニュアルフォーカス時の合焦状態を確認できるようにしている。なお、図７に示すハイブリッドファインダー２２０をスマートフォン５００に設けるようにしてもよい。
【０２０６】
また、カメラ部５４１は、主制御部５０１の制御により、撮像によって得た画像データを例えばＪＰＥＧ(Joint Photographic coding Experts Group)などの圧縮した画像データに変換する。そして、変換して得た画像データを記憶部５５０に記録したり、入出力部５６０や無線通信部５１０を通じて出力することができる。図２７に示すにスマートフォン５００において、カメラ部５４１は表示入力部５２０と同じ面に搭載されているが、カメラ部５４１の搭載位置はこれに限らず、表示入力部５２０の背面に搭載されてもよいし、あるいは、複数のカメラ部５４１が搭載されてもよい。なお、複数のカメラ部５４１が搭載されている場合には、撮像に供するカメラ部５４１を切り替えて単独にて撮像したり、あるいは、複数のカメラ部５４１を同時に使用して撮像することもできる。
【０２０７】
また、カメラ部５４１はスマートフォン５００の各種機能に利用することができる。例えば、表示パネル５２１にカメラ部５４１で取得した画像を表示することや、操作パネル５２２の操作入力のひとつとして、カメラ部５４１の画像を利用することができる。また、ＧＰＳ受信部５７０が位置を検出する際に、カメラ部５４１からの画像を参照して位置を検出することもできる。更には、カメラ部５４１からの画像を参照して、３軸の加速度センサを用いずに、或いは、３軸の加速度センサと併用して、スマートフォン５００のカメラ部５４１の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部５４１からの画像をアプリケーションソフトウェア内で利用することもできる。
【０２０８】
その他、静止画又は動画の画像データに各種情報を付加して記憶部５５０に記録したり、入出力部５６０や無線通信部５１０を通じて出力したりすることもできる。ここで言う「各種情報」としては、例えば、静止画又は動画の画像データにＧＰＳ受信部５７０により取得した位置情報、マイクロホン５３２により取得した音声情報（主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい）が挙げられる。この他にも、モーションセンサ部５８０により取得した姿勢情報等などであってもよい。
【０２０９】
なお、上記各実施形態では、第１〜第３の画素群を有する撮像素子２０を例示したが、本発明はこれに限定されるものではなく、第１の画素群及び第２の画素群のみからなる撮像素子であってもよい。この種の撮像素子を有するデジタルカメラは、第１の画素群から出力された第１の画像及び第２の画素群から出力された第２の画像に基づいて３次元画像（３Ｄ画像）を生成することができるし、２次元画像（２Ｄ画像）も生成することができる。この場合、２次元画像の生成は、例えば第１の画像及び第２の画像の相互における同色の画素間で補間処理を行うことで実現される。また、補間処理を行わずに、第１の画像又は第２の画像を２次元画像として採用してもよい。
【０２１０】
上記各実施形態では、通常画像の表示領域内にスプリットイメージが表示される例を挙げて説明したが、本発明はこれに限定されるものではなく、表示装置に対して通常画像（第１の表示用画像の一例）を表示させずにスプリットイメージ（第２の表示用画像）を表示させてもよい。また、全画面を使用してスプリットイメージを表示させてもよい。ここで言う「スプリットイメージ」としては、位相差画素群（例えば第１の画素群及び第２の画素群）のみからなる撮像素子を使用する場合及び通常画素に対して所定の割合で位相差画素（例えば第１の画素群及び第２の画素群）が配置された撮像素子を使用する場合において、位相差画群から出力された画像（例えば第１の画素群から出力された第１の画像及び第２の画素群から出力された第２の画像）に基づくスプリットイメージが例示できる。このように、本発明は、通常画像とスプリットイメージとの双方を表示装置の同画面に同時に表示する態様に限定されるものではなく、スプリットイメージの表示が指示されている状態で通常画像の表示指示が解除された場合は表示制御部３６が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。
【符号の説明】
【０２１１】
１２  ＣＰＵ
１６  撮影レンズ
２０  撮像素子
２６  メモリ
２８  画像処理部
３０  通常処理部
３２  スプリットイメージ処理部
３６  表示制御部
３７  接眼検出部
１００  撮像装置
２１３  表示部
２２０  ハイブリッドファインダー
２４７  ＬＣＤ
【図１】
2014045739.tif 000005
【図２】
2014045739.tif 000006
【図３】
2014045739.tif 000007
【図４】
2014045739.tif 000008
【図５】
2014045739.tif 000009
【図６】
2014045739.tif 000010
【図７】
2014045739.tif 000011
【図８】
2014045739.tif 000012
【図９】
2014045739.tif 000013
【図１２】
2014045739.tif 000014
【図１３】
2014045739.tif 000015
【図１４】
2014045739.tif 000016
【図１５】
2014045739.tif 000017
【図１６Ａ】
2014045739.tif 000018
【図１６Ｂ】
2014045739.tif 000019
【図１７】
2014045739.tif 000020
【図１８】
2014045739.tif 000021
【図１９】
2014045739.tif 000022
【図２０】
2014045739.tif 000023
【図２１】
2014045739.tif 000024
【図２２】
2014045739.tif 000025
【図２３】
2014045739.tif 000026
【図２４Ａ】
2014045739.tif 000027
【図２４Ｂ】
2014045739.tif 000028
【図２９Ａ】
2014045739.tif 000029
【図２９Ｂ】
2014045739.tif 000030
【図２９Ｃ】
2014045739.tif 000031
【図３０】
2014045739.tif 000032
【図３１】
2014045739.tif 000033
【図１０】
2014045739.tif 000034
【図１１】
2014045739.tif 000035
【図２５】
2014045739.tif 000036
【図２６】
2014045739.tif 000037
【図２７】
2014045739.tif 000038
【図２８】
2014045739.tif 000039
【手続補正書】
【提出日】平成28年1月5日(2016.1.5)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像され、第１及び第２の画像信号を出力する第１及び第２の画素群から出力された前記第１及び第２の画像信号に基づく第１及び第２の画像を取得する画像取得部と、
前記画像取得部により取得された前記第１の画像の各画素と前記画像取得部により取得された前記第２の画像の対応する画素とのずれ量を示す視差を算出する視差算出部と、
前記画像取得部により取得された前記第１及び第２の画像における画像処理の対象画素毎に、前記視差算出部により算出された視差に応じて該視差の拡張量を決定する拡張量決定部と、
前記画像取得部により取得された前記第１及び第２の画像における画像処理の対象画素毎に、前記視差算出部により算出された視差を、前記拡張量決定部により決定された拡張量に基づいて、拡張させた視差に変換させる視差変換係数を決定する係数決定部と、
前記対象画素に対して、前記係数決定部により決定された前記視差変換係数に基づいて視差を拡張する処理を行う画像処理部と、
前記第１及び第２の画素群を有する撮像素子から出力された画像信号に基づいて第１の表示用画像を生成すると共に、前記第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成する生成部と、
画像を表示する表示部と、
前記表示部に対して、前記第１の表示用画像を表示させ、前記対象画素に対して視差を拡張する処理が行われた画像を有する前記第２の表示用画像を前記第１の表示用画像の表示領域内に表示させる制御を行う表示制御部と、
を含む画像処理装置。
【請求項２】
前記拡張量を、前記視差算出部により算出された視差の減少に応じて増大する拡張量とした請求項１に記載の画像処理装置。
【請求項３】
前記拡張量を、所定の表示領域に表示された前記第１の表示用画像と該表示領域に表示された前記第２の表示用画像とのずれを発生させる少なくとも１つの因子に応じて定められた拡張量とした請求項１又は請求項２に記載の画像処理装置。
【請求項４】
前記少なくとも１つの因子は前記撮影レンズの絞り値の因子を含み、
前記拡張量を、前記絞り値が大きいほど増大する拡張量とした請求項３に記載の画像処理装置。
【請求項５】
前記拡張量決定部は、前記絞り値及び開放絞り値に基づいて前記拡張量を決定する請求項４に記載の画像処理装置。
【請求項６】
前記絞り値を、動画像の撮像時に使用する絞り値又は静止画像の撮像時に使用する絞り値とした請求項４に記載の画像処理装置。
【請求項７】
前記少なくとも１つの因子を、前記表示領域に表示された前記第１の表示用画像と第２の表示用画像とのずれ量を規定する複数の因子とした請求項３〜請求項６の何れか１項に記載の画像処理装置。
【請求項８】
前記撮像素子は、被写体像が瞳分割されずに結像されて第３の画像信号を出力する第３の画素群を有し、
前記生成部は、前記第３の画素群から出力される前記第３の画像信号に基づいて前記第１の表示用画像を生成する請求項１〜請求項７の何れか１項に記載の画像処理装置。
【請求項９】
前記対象画素を、前記第２の表示用画像における特定の部分画像に含まれる画素に相当する画素とした請求項１〜請求項８の何れか１項に記載の画像処理装置。
【請求項１０】
前記表示部の表示画面内の一部領域を指定する指定部を更に含み、
前記特定の部分画像を、前記第２の表示用画像のうちの前記指定部により指定された前記一部領域の位置に対応する位置の画像とした請求項９に記載の画像処理装置。
【請求項１１】
前記特定の部分画像を、前記第１の表示用画像と前記第２の表示用画像とが視差に応じたずれ量で視差発生方向に沿ってずれた画像に相当するスプリットイメージの一部とした請求項１０に記載の画像処理装置。
【請求項１２】
前記特定の部分画像を、前記スプリットイメージにおける他の領域とは異なる色特性を有する色彩が付与された画像とした請求項１１に記載の画像処理装置。
【請求項１３】
前記対象画素が所定の条件を満たす特定の視差範囲外であるか否かを判定する判定部を更に含み、
前記拡張量決定部は、前記対象画素毎に、前記判定部により前記特定の視差範囲外であると判定された場合に前記拡張量を決定する請求項１〜請求項１２の何れか１項に記載の画像処理装置。
【請求項１４】
前記視差変換係数を、前記拡張量決定部に応じて定められたフィルタ係数とし、
前記画像処理部は、前記フィルタ係数を使用するフィルタにより前記対象画素に対してフィルタ処理を行うことにより視差を拡張する処理を行う請求項１〜請求項１３の何れか１項に記載の画像処理装置。
【請求項１５】
請求項１〜請求項１４の何れか１項に記載の画像処理装置と、
前記画像処理部により視差を拡張する処理が行われることにより得られた画像を記憶する記憶部と、
を含む撮像装置。
【請求項１６】
前記画像処理部により視差を拡張する処理が行われた画像を表示する電子ビューファインダーと、
前記電子ビューファインダーの使用を検出する検出部と、を更に含み、
前記拡張量決定部は、前記検出部により前記電子ビューファインダーの使用が検出された場合は前記電子ビューファインダーの使用時に用いる前記拡張量として予め定められた使用時拡張量を決定し、前記検出部により前記電子ビューファインダーの使用が検出されなかった場合は前記電子ビューファインダーの不使用時に用いる前記拡張量として予め定められた不使用時拡張量を決定する請求項１５に記載の撮像装置。
【請求項１７】
前記検出部により前記電子ビューファインダーの使用が検出されず、視差発生方向の画素数が前記電子ビューファインダーの視差発生方向の画素数と異なる画像表示部に前記画像処理部により視差を拡張する処理が行われた画像を表示する場合、前記不使用時拡張量を、前記画像表示部の使用時に用いる前記拡張量として予め定められた表示部使用時拡張量とした請求項１６に記載の撮像装置。
【請求項１８】
前記画像表示部の視差発生方向の画素数は前記電子ビューファインダーの視差発生方向の画素数よりも多く、
前記検出部により前記電子ビューファインダーの使用が検出された場合、前記使用時拡張量を、前記表示部使用時拡張量よりも大きな値とした請求項１７に記載の撮像装置。
【請求項１９】
撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像され、第１及び第２の画像信号を出力する第１及び第２の画素群から出力された前記第１及び第２の画像信号に基づく第１及び第２の画像を取得する画像取得工程と、
前記画像取得工程により取得された前記第１の画像の各画素と前記画像取得工程により取得された前記第２の画像の対応する画素とのずれ量を示す視差を算出する視差算出工程と、
前記画像取得工程により取得された前記第１及び第２の画像における画像処理の対象画素毎に、前記視差算出工程により算出された視差に応じて該視差の拡張量を決定する拡張量決定工程と、
前記画像取得工程により取得された前記第１及び第２の画像における画像処理の対象画素毎に、前記視差算出工程により算出された視差を、前記拡張量決定工程により決定された拡張量に基づいて、拡張させた視差に変換させる視差変換係数を決定する係数決定工程と、
前記対象画素に対して、前記係数決定工程により決定された前記視差変換係数に基づいて視差を拡張する処理を行う画像処理工程と、
前記第１及び第２の画素群を有する撮像素子から出力された画像信号に基づいて第１の表示用画像を生成すると共に、前記第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成する生成工程と、
画像を表示する表示部に対して、前記第１の表示用画像を表示させ、前記対象画素に対して視差を拡張する処理が行われた画像を有する前記第２の表示用画像を前記第１の表示用画像の表示領域内に表示させる制御を行う表示制御工程と、
を含む画像処理方法。
【請求項２０】
コンピュータを、
請求項１〜請求項１４の何れか１項に記載の画像処理装置における前記画像取得部、前記視差算出部、前記拡張量決定部、前記係数決定部、前記画像処理部、前記生成部及び前記表示制御部として機能させるための画像処理プログラム。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】００１０
【補正方法】変更
【補正の内容】
【００１０】
本発明の第１の態様に係る画像処理装置は、撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像され、第１及び第２の画像信号を出力する第１及び第２の画素群から出力された前記第１及び第２の画像信号に基づく第１及び第２の画像を取得する画像取得部と、前記画像取得部により取得された前記第１の画像の各画素と前記画像取得部により取得された前記第２の画像の対応する画素とのずれ量を示す視差を算出する視差算出部と、前記画像取得部により取得された前記第１及び第２の画像における画像処理の対象画素毎に、前記視差算出部により算出された視差に応じて該視差の拡張量を決定する拡張量決定部と、前記画像取得部により取得された前記第１及び第２の画像における画像処理の対象画素毎に、前記視差算出部により算出された視差を、前記拡張量決定部により決定された拡張量に基づいて、拡張させた視差に変換させる視差変換係数を決定する係数決定部と、前記対象画素に対して、前記係数決定部により決定された前記視差変換係数に基づいて視差を拡張する処理を行う画像処理部と、前記第１及び第２の画素群を有する撮像素子から出力された画像信号に基づいて第１の表示用画像を生成すると共に、前記第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成する生成部と、画像を表示する表示部と、前記表示部に対して、前記第１の表示用画像を表示させ、前記対象画素に対して視差を拡張する処理が行われた画像を有する前記第２の表示用画像を前記第１の表示用画像の表示領域内に表示させる制御を行う表示制御部と、を含む。これにより、本構成を有しない場合に比べ、画像間の視差に対応するずれの視認性を良好にすることができる。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】００２１
【補正方法】変更
【補正の内容】
【００２１】
本発明の第１２の態様は、第１１の態様において、前記特定の部分画像を、前記スプリットイメージにおける他の領域とは異なる色特性を有する色彩が付与された画像としたものとしてもよい。これにより、本構成を有しない場合に比べ、スプリットイメージ内において視差変換係数に基づく画像処理が行われた画像とそれ以外の画像とを視覚的に容易に特定することができる。
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】００２８
【補正方法】変更
【補正の内容】
【００２８】
本発明の第１９の態様に係る画像処理方法は、撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像され、第１及び第２の画像信号を出力する第１及び第２の画素群から出力された前記第１及び第２の画像信号に基づく第１及び第２の画像を取得する画像取得工程と、前記画像取得工程により取得された前記第１の画像の各画素と前記画像取得工程により取得された前記第２の画像の対応する画素とのずれ量を示す視差を算出する視差算出工程と、前記画像取得工程により取得された前記第１及び第２の画像における画像処理の対象画素毎に、前記視差算出工程により算出された視差に応じて該視差の拡張量を決定する拡張量決定工程と、前記画像取得工程により取得された前記第１及び第２の画像における画像処理の対象画素毎に、前記視差算出工程により算出された視差を、前記拡張量決定工程により決定された拡張量に基づいて、拡張させた視差に変換させる視差変換係数を決定する係数決定工程と、前記対象画素に対して、前記係数決定工程により決定された前記視差変換係数に基づいて視差を拡張する処理を行う画像処理工程と、前記第１及び第２の画素群を有する撮像素子から出力された画像信号に基づいて第１の表示用画像を生成すると共に、前記第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成する生成工程と、画像を表示する表示部に対して、前記第１の表示用画像を表示させ、前記対象画素に対して視差を拡張する処理が行われた画像を有する前記第２の表示用画像を前記第１の表示用画像の表示領域内に表示させる制御を行う表示制御工程と、を含む。これにより、本構成を有しない場合に比べ、画像間の視差に対応するずれの視認性を良好にすることができる。
【国際調査報告】
2014045739.tif 000040
2014045739.tif 000041
2014045739.tif 000042