(57)【特許請求の範囲】
【請求項１】
撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより、第１の画像信号を出力する第１の画素群及び第２の画像信号を出力する第２の画素群を有し、且つ、前記撮影レンズを透過した被写体像が瞳分割されずに結像されることにより第３の画像信号を出力する第３の画素群を有する撮像素子から出力された前記第１の画像信号に基づく無彩色の第１の画像と、前記撮像素子から出力された前記第２の画像信号に基づく無彩色の第２の画像と、前記撮像素子から出力された前記第３の画像信号に基づく有彩色の第３の画像とを生成する生成部と、
画像を表示する表示部と、
前記第１の画素群に含まれる第１の画素から出力された前記第１の画像信号の出力値と前記第１の画素と対応する画素であって前記第２の画素群に含まれる第２の画素から出力された前記第２の画像信号の出力値とを比較した比較結果が閾値未満の場合に、互いに対応する位置関係にある前記第１の画素と前記第３の画素群に含まれる第３の画素とを対象として、前記第１の画素の位置と対応する位置の前記第３の画素による前記第３の画像に含まれる有彩色を前記第１の画像における前記第１の画素の位置に付与し、かつ、互いに対応する位置関係にある前記第２の画素と前記第３の画素とを対象として、前記第２の画素の位置と対応する位置の前記第３の画素による前記第３の画像に含まれる有彩色を前記第２の画像における前記第２の画素の位置に付与し、付与して得た合焦確認に使用する有彩色画像を前記表示部に表示させる制御を行い、前記比較結果が前記閾値以上の場合に、前記第１の画素と対応する位置の前記第１の画像及び前記第２の画素と対応する位置の前記第２の画像に基づいて得た合焦確認に使用する無彩色画像を前記表示部に表示させる制御を行う制御部と、
を含む画像処理装置。
【請求項２】
前記制御部は、前記表示部に対して、前記第３の画像を表示させ、且つ、前記第３の画像の表示領域内に前記有彩色画像及び前記無彩色画像を選択的に表示させる制御を行う請求項１に記載の画像処理装置。
【請求項３】
前記比較結果は、前記第１の画像信号の出力値と前記第２の画像信号の出力値との差分及び比の少なくとも一方に基づく値である請求項１又は請求項２に記載の画像処理装置。
【請求項４】
前記比較結果は、前記差分の絶対値である請求項３に記載の画像処理装置。
【請求項５】
前記比較結果は、前記差分の絶対値を規格化して得た値である請求項３に記載の画像処理装置。
【請求項６】
前記比較結果は、前記第１の画像信号の出力値及び前記第２の画像信号の出力値の一方に対する他方の割合が基準値から乖離している度合いを示す乖離度である請求項３に記載の画像処理装置。
【請求項７】
前記閾値は、撮影条件に応じて定まる請求項１から請求項６の何れか１項に記載の画像処理装置。
【請求項８】
前記撮影条件は、絞り値であり、
前記絞り値が小さくなるに従って前記閾値を小さくする請求項７に記載の画像処理装置。
【請求項９】
前記撮影条件は、焦点距離であり、
前記焦点距離が長くなるに従って前記閾値を小さくする請求項７に記載の画像処理装置。
【請求項１０】
前記撮影条件は、露光時間であり、
前記露光時間が長くなるに従って前記閾値を小さくする請求項７に記載の画像処理装置。
【請求項１１】
前記撮影条件は、前記撮像素子のゲインであり、
前記ゲインが大きくなるに従って前記閾値を小さくする請求項７に記載の画像処理装置。
【請求項１２】
前記比較結果は、前記第１の領域を介して入射される光及び第２の領域を介して入射される光に基づく減光特性に応じた補正係数に基づいて前記減光特性が各々補正された前記第１の画像信号の出力値と前記第２の画像信号の出力値とを比較した比較結果である請求項１から請求項１１の何れか１項に記載の画像処理装置。
【請求項１３】
前記比較結果は、瞳分割方向と交差する方向に配置された前記第１の画素及び前記第２の画素から出力された前記第１の画像信号の出力値と前記第２の画像信号の出力値とを比較した比較結果である請求項１から請求項１２の何れか１項に記載の画像処理装置。
【請求項１４】
前記比較結果は、前記第１及び第２の画素群を含む画素群が分割されて得られた複数の分割画素群の各々において前記第１の画素群に含まれる前記第１の画素から出力された前記第１の画像信号の出力値と前記第１の画素と対応する画素であって前記第２の画素群に含まれる前記第２の画素から出力された前記第２の画像信号の出力値とを比較した比較結果である請求項１から請求項１３の何れか１項に記載の画像処理装置。
【請求項１５】
前記制御部は、前記比較結果が前記閾値未満の場合に、前記第１の画素と対応する位置の前記第３の画像から前記第１の画像における前記第１の画素の位置に彩度を付与し、かつ、前記第２の画素と対応する位置の前記第３の画像から前記第２の画像における前記第２の画素の位置に彩度を付与することにより前記第１及び第２の画像に有彩色を付与する制御を行う請求項１から請求項１４の何れか１項に記載の画像処理装置。
【請求項１６】
前記比較結果が前記閾値未満の場合に前記第１及び第２の画像に付与される有彩色の強度は、前記比較結果が前記閾値から乖離するに従って大きくなる請求項１から請求項１５の何れか１項に記載の画像処理装置。
【請求項１７】
請求項１から請求項１６の何れか１項に記載の画像処理装置と、
前記第１の画素群、前記第２の画素群、及び前記第３の画素群を有する撮像素子と、
前記撮像素子から出力された信号に基づいて生成された画像を記憶する記憶部と、
を含む撮像装置。
【請求項１８】
撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより、第１の画像信号を出力する第１の画素群及び第２の画像信号を出力する第２の画素群を有し、且つ、前記撮影レンズを透過した被写体像が瞳分割されずに結像されることにより第３の画像信号を出力する第３の画素群を有する撮像素子から出力された前記第１の画像信号に基づく無彩色の第１の画像と、前記撮像素子から出力された前記第２の画像信号に基づく無彩色の第２の画像と、前記撮像素子から出力された前記第３の画像信号に基づく有彩色の第３の画像とを生成し、
画像を表示する表示部に対し、前記第１の画素群に含まれる第１の画素から出力された前記第１の画像信号の出力値と前記第１の画素と対応する画素であって前記第２の画素群に含まれる第２の画素から出力された前記第２の画像信号の出力値とを比較した比較結果が閾値未満の場合に、互いに対応する位置関係にある前記第１の画素と前記第３の画素群に含まれる第３の画素とを対象として、前記第１の画素の位置と対応する位置の前記第３の画素による前記第３の画像に含まれる有彩色を前記第１の画像における前記第１の画素の位置に付与し、かつ、互いに対応する位置関係にある前記第２の画素と前記第３の画素とを対象として、前記第２の画素の位置と対応する位置の前記第３の画素による前記第３の画像に含まれる有彩色を前記第２の画像における前記第２の画素の位置に付与し、付与して得た合焦確認に使用する有彩色画像を表示させる制御を行い、前記比較結果が前記閾値以上の場合に、前記第１の画素と対応する位置の前記第１の画像及び前記第２の画素と対応する位置の前記第２の画像に基づいて得た合焦確認に使用する無彩色画像を表示させる制御を行う
ことを含む画像処理方法。
【請求項１９】
コンピュータに、
撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより、第１の画像信号を出力する第１の画素群及び第２の画像信号を出力する第２の画素群を有し、且つ、前記撮影レンズを透過した被写体像が瞳分割されずに結像されることにより第３の画像信号を出力する第３の画素群を有する撮像素子から出力された前記第１の画像信号に基づく無彩色の第１の画像と、前記撮像素子から出力された前記第２の画像信号に基づく無彩色の第２の画像と、前記撮像素子から出力された前記第３の画像信号に基づく有彩色の第３の画像とを生成し、
画像を表示する表示部に対し、前記第１の画素群に含まれる第１の画素から出力された前記第１の画像信号の出力値と前記第１の画素と対応する画素であって前記第２の画素群に含まれる第２の画素から出力された前記第２の画像信号の出力値とを比較した比較結果が閾値未満の場合に、互いに対応する位置関係にある前記第１の画素と前記第３の画素群に含まれる第３の画素とを対象として、前記第１の画素の位置と対応する位置の前記第３の画素による前記第３の画像に含まれる有彩色を前記第１の画像における前記第１の画素の位置に付与し、かつ、互いに対応する位置関係にある前記第２の画素と前記第３の画素とを対象として、前記第２の画素の位置と対応する位置の前記第３の画素による前記第３の画像に含まれる有彩色を前記第２の画像における前記第２の画素の位置に付与し、付与して得た合焦確認に使用する有彩色画像を表示させる制御を行い、前記比較結果が前記閾値以上の場合に、前記第１の画素と対応する位置の前記第１の画像及び前記第２の画素と対応する位置の前記第２の画像に基づいて得た合焦確認に使用する無彩色画像を表示させる制御を行う
ことを含む処理を実行させるための画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、撮像装置、画像処理方法及び画像処理プログラムに関する。
【背景技術】
【０００２】
デジタルカメラとして、位相差検出方式やコントラスト検出方式を用いたオートフォーカスの他に、使用者が手動でフォーカス調整を行うことができる、いわゆるマニュアルフォーカスモードを備えるものが広く知られている。【０００３】
マニュアルフォーカスモードを有するデジタルカメラとしては、被写体を確認しながらフォーカス調整ができるようにレフレックスミラーを設けて、目視による位相差を表示するスプリットマイクロプリズムスクリーンを用いた方法を採用したものが知られている。また、目視によるコントラストの確認を行う方法を採用したものも知られている。【０００４】
ところで、近年普及しているレフレックスミラーを省略したデジタルカメラでは、レフレックスミラーがないため、位相差を表示しながら被写体像を確認する方法がなく、コントラスト検出方式に頼らざるを得なかった。しかし、この場合には、ＬＣＤ（liquid crystal display：液晶ディスプレイ）等の表示装置の解像度以上のコントラストの表示ができず、一部拡大するなどして表示する方法を採らざるを得なかった。【０００５】
そこで、近年では、マニュアルフォーカスモード時にユーザ（例えば撮影者）が被写体に対してピントを合わせる作業を容易にするために、スプリットイメージをライブビュー画像（スルー画像ともいう）内に表示している。スプリットイメージとは、例えば表示領域が複数に分割された分割画像（例えば上下方向に分割された各画像）であって、ピントのずれに応じて視差発生方向（例えば左右方向）にずれ、ピントが合った状態だと視差発生方向のずれがなくなる分割画像を指す。ユーザは、スプリットイメージ（例えば上下方向に分割された各画像）のずれがなくなるように、マニュアルフォーカスリング（以下、「フォーカスリング」という）を操作してピントを合わせる。【０００６】
ここで、スプリットイメージの原理を説明する。撮影レンズにおける一対の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより得られる所謂右眼画像及び左眼画像を生成する。そして、右眼画像及び左眼画像を用いてスプリットイメージを生成し、且つ、撮影レンズを透過した被写体像が瞳分割されずに結像されることにより得られる通常画像を生成する。そして、表示部に通常画像を表示し、且つ、通常画像内にスプリットイメージを表示する。【０００７】
ところで、合焦状態か否かをユーザに認識させるために利用可能な様々な技術が知られている。例えば、特許文献１に記載の撮像装置は、スプリットイメージを表示し、位相差が所定条件を満たした場合に通常画像の色情報をスプリットイメージに付与する。これにより、合焦状態を示す表示画像と非合焦状態を示す表示画像との視覚的な識別が容易になる。
【先行技術文献】
【特許文献】
【０００８】
【特許文献１】特開２００９−１４７６６５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００９】
しかしながら、位相差を算出する処理は複雑であるため、色情報をスプリットイメージに付与する処理、及びスプリットイメージから色情報を除去する処理を即時的に行うことが困難である。【００１０】
本発明は、このような実情を鑑みて提案されたものであり、合焦状態を示す有彩色画像の表示と非合焦状態を示す無彩色画像の表示とを即時的に切り替えることができる画像処理装置、撮像装置、画像処理方法及び画像処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【００１１】
上記目的を達成するために、本発明の第１の態様に係る画像処理装置は、撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより、第１の画像信号を出力する第１の画素群及び第２の画像信号を出力する第２の画素群を有し、且つ、撮影レンズを透過した被写体像が瞳分割されずに結像されることにより第３の画像信号を出力する第３の画素群を有する撮像素子から出力された第１の画像信号に基づく無彩色の第１の画像と、撮像素子から出力された第２の画像信号に基づく無彩色の第２の画像と、撮像素子から出力された第３の画像信号に基づく有彩色の第３の画像とを生成する生成部と、画像を表示する表示部と、第１の画素群に含まれる第１の画素から出力された第１の画像信号の出力値と第１の画素と対応する画素であって第２の画素群に含まれる第２の画素から出力された第２の画像信号の出力値とを比較した比較結果が閾値未満の場合に、第１の画素と対応する位置の第３の画像に含まれる有彩色を第１の画像における第１の画素の位置に付与し、かつ、第２の画素と対応する位置の第３の画像に含まれる有彩色を第２の画像における第２の画素の位置に付与して得た合焦確認に使用する有彩色画像を表示部に表示させる制御を行い、比較結果が閾値以上の場合に、第１の画素と対応する位置の第１の画像及び第２の画素と対応する位置の第２の画像に基づいて得た合焦確認に使用する無彩色画像を表示部に表示させる制御を行う制御部と、を含む。これにより、画像処理装置は、合焦状態か否かの判定に供される位相差を算出する場合と比べ、合焦状態を示す有彩色画像の表示と非合焦状態を示す無彩色画像の表示とを即時的に切り替えることができる。【００１２】
本発明の第２の態様に係る画像処理装置では、本発明の第１の態様において、制御部は、表示部に対して、第３の画像を表示させ、且つ、第３の画像の表示領域内に有彩色画像及び無彩色画像を選択的に表示させる制御を行う。これにより、画像処理装置は、第３の画像の表示領域内に有彩色画像及び無彩色画像が選択的に表示されない場合と比べ、合焦状態か否かを視覚的に容易に認識させることができる。【００１３】
本発明の第３の態様に係る画像処理装置では、本発明の第１の態様又は第２の態様において、比較結果は、第１の画像信号の出力値と第２の画像信号の出力値との差分及び比の少なくとも一方に基づく値である。これにより、画像処理装置は、第１の画像信号の出力値と第２の画像信号の出力値との差分及び比の少なくとも一方に基づく値を比較結果として用いない場合と比べ、合焦状態か否かが判定されるまでに要する負荷を軽減することができる。【００１４】
本発明の第４の態様に係る画像処理装置では、本発明の第３の態様において、比較結果は、差分の絶対値である。これにより、画像処理装置は、差分の絶対値を比較結果として用いない場合と比べ、合焦状態か否かの高精度な判定を実現することができる。【００１５】
本発明の第５の態様に係る画像処理装置では、本発明の第３の態様において、比較結果は、差分の絶対値を規格化して得た値である。これにより、画像処理装置は、差分の絶対値を規格化して得た値を比較結果として用いない場合と比べ、合焦状態か否かの高精度な判定を実現することができる。【００１６】
本発明の第６の態様に係る画像処理装置では、本発明の第３の態様において、比較結果は、第１の画像信号の出力値及び第２の画像信号の出力値の一方に対する他方の割合が基準値から乖離している度合いを示す乖離度である。これにより、画像処理装置は、第１の画像信号の出力値及び第２の画像信号の出力値の一方に対する他方の割合が基準値から乖離している度合いを示す乖離度を比較結果として用いない場合と比べ、合焦状態か否かの高精度な判定を実現することができる。【００１７】
本発明の第７の態様に係る画像処理装置では、本発明の第１の態様から第６の態様の何れか１つにおいて、閾値は、撮影条件に応じて定まる。これにより、画像処理装置は、撮影条件に応じて閾値を定めない場合と比べ、有彩色画像が表示される頻度と無彩色画像が表示される頻度との均衡を図ることができる。【００１８】
本発明の第８の態様に係る画像処理装置では、本発明の第７の態様において、撮影条件は、絞り値であり、絞り値が小さくなるに従って閾値を小さくする。これにより、画像処理装置は、絞り値が小さくなるに従って閾値を小さくしない場合と比べ、有彩色画像が表示される頻度と無彩色画像が表示される頻度とを被写界深度に応じて均衡化することができる。【００１９】
本発明の第９の態様に係る画像処理装置では、本発明の第７の態様において、撮影条件は、焦点距離であり、焦点距離が長くなるに従って閾値を小さくする。これにより、画像処理装置は、焦点距離が長くなるに従って閾値を小さくしない場合と比べ、有彩色画像が表示される頻度と無彩色画像が表示される頻度とを被写界深度に応じて均衡化することができる。【００２０】
本発明の第１０の態様に係る画像処理装置では、本発明の第７の態様において、撮影条件は、露光時間であり、露光時間が長くなるに従って閾値を小さくする。これにより、画像処理装置は、露光時間が長くなるに従って閾値を小さくしない場合と比べ、有彩色画像が表示される頻度と無彩色画像が表示される頻度とを露光時間によるノイズ量に応じて均衡化することができる。【００２１】
本発明の第１１の態様に係る画像処理装置では、本発明の第７の態様において、撮影条件は、撮像素子のゲインであり、ゲインが大きくなるに従って閾値を小さくする。これにより、画像処理装置は、ゲインが大きくなるに従って閾値を小さくしない場合と比べ、有彩色画像が表示される頻度と無彩色画像が表示される頻度とをゲインによるノイズ量に応じて均衡化することができる。【００２２】
本発明の第１２の態様に係る画像処理装置では、本発明の第１の態様から第１１の態様の何れか１つにおいて、比較結果は、第１の領域を介して入射される光及び第２の領域を介して入射される光に基づく減光特性に応じた補正係数に基づいて減光特性が各々補正された第１の画像信号の出力値と第２の画像信号の出力値とを比較した比較結果である。これにより、画像処理装置は、第１の画像信号の出力値及び第２の画像信号の出力値に対して減光特性の補正を行わない場合と比べ、合焦状態か否かの高精度な判定を実現することができる。【００２３】
本発明の第１３の態様に係る画像処理装置では、本発明の第１の態様から第１２の態様の何れか１つにおいて、比較結果は、瞳分割方向と交差する方向に配置された第１の画素及び第２の画素から出力された第１の画像信号の出力値と第２の画像信号の出力値とを比較した比較結果である。これにより、画像処理装置は、瞳分割方向と交差する方向に配置された第１の画素及び第２の画素から出力された第１の画像信号の出力値と第２の画像信号の出力値とを比較した比較結果を用いない場合と比べ、合焦状態か否かの高精度な判定を実現することができる。【００２４】
本発明の第１４の態様に係る画像処理装置では、本発明の第１の態様から第１３の態様の何れか１つにおいて、比較結果は、第１及び第２の画素群を含む画素群が分割されて得られた複数の分割画素群の各々において第１の画素群に含まれる第１の画素から出力された第１の画像信号の出力値と第１の画素と対応する画素であって第２の画素群に含まれる第２の画素から出力された第２の画像信号の出力値とを比較した比較結果である。これにより、画像処理装置は、分割画素群の各々において第１の画素群に含まれる第１の画素から出力された第１の画像信号の出力値と第１の画素と対応する画素であって第２の画素群に含まれる第２の画素から出力された第２の画像信号の出力値とを比較した比較結果を用いない場合と比べ、合焦状態か否かの高精度な判定を実現することができる。【００２６】
本発明の第１６の態様に係る画像処理装置では、本発明の第１の態様から第１４の態様の何れか１つにおいて、制御部は、比較結果が閾値未満の場合に、第１の画素と対応する位置の第３の画像から第１の画像における第１の画素の位置に彩度を付与し、かつ、第２の画素と対応する位置の第３の画像から第２の画像における第２の画素の位置に彩度を付与することにより第１及び第２の画像に有彩色を付与する制御を行う。これにより、画像処理装置は、比較結果が閾値未満の場合に第１の画素と対応する位置の第３の画像から第１の画像における第１の画素の位置に彩度を付与し、かつ、第２の画素と対応する位置の第３の画像から第２の画像における第２の画素の位置に彩度を付与しない場合と比べ、簡素な構成で、有彩色画像を生成することができる。【００２７】
本発明の第１７の態様に係る画像処理装置では、本発明の第１の態様から第１４及び第１６の態様の何れか１つにおいて、比較結果が閾値未満の場合に第１及び第２の画像に付与される有彩色の強度は、比較結果が閾値から乖離するに従って大きくなる。これにより、画像処理装置は、比較結果が閾値から乖離するに従って有彩色の強度を大きくしない場合と比べ、有彩色画像と無彩色画像との間の領域において緩やかな色変化を実現することができる。【００２８】
上記目的を達成するために、本発明の第１８の態様に係る撮像装置は、第１の態様から第１４の態様及び第１６の態様から第１７の態様の何れか１つに記載の画像処理装置と、第１の画素群、第２の画素群、及び第３の画素群を有する撮像素子と、撮像素子から出力された信号に基づいて生成された画像を記憶する記憶部と、を含む。これにより、撮像装置は、合焦状態か否かの判定に供される位相差を算出する場合と比べ、合焦状態を示す有彩色画像の表示と非合焦状態を示す無彩色画像の表示とを即時的に切り替えることができる。【００２９】
上記目的を達成するために、本発明の第１９の態様に係る画像処理方法は、撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより、第１の画像信号を出力する第１の画素群及び第２の画像信号を出力する第２の画素群を有し、且つ、撮影レンズを透過した被写体像が瞳分割されずに結像されることにより第３の画像信号を出力する第３の画素群を有する撮像素子から出力された第１の画像信号に基づく無彩色の第１の画像と、撮像素子から出力され第２の画像信号に基づく無彩色の第２の画像と、撮像素子から出力された第３の画像信号に基づく有彩色の第３の画像とを生成し、画像を表示する表示部に対し、第１の画素群に含まれる第１の画素から出力された第１の画像信号の出力値と第１の画素と対応する画素であって第２の画素群に含まれる第２の画素から出力された第２の画像信号の出力値とを比較した比較結果が閾値未満の場合に、第１の画素と対応する位置の第３の画像に含まれる有彩色を第１の画像における第１の画素の位置に付与し、かつ、第２の画素と対応する位置の第３の画像に含まれる有彩色を第２の画像における第２の画素の位置に付与して得た合焦確認に使用する有彩色画像を表示させる制御を行い、比較結果が閾値以上の場合に、第１の画素と対応する位置の第１の画像及び第２の画素と対応する位置の第２の画像に基づいて得た合焦確認に使用する無彩色画像を表示させる制御を行うことを含む。これにより、画像処理方法は、合焦状態か否かの判定に供される位相差を算出する場合と比べ、合焦状態を示す有彩色画像の表示と非合焦状態を示す無彩色画像の表示とを即時的に切り替えることができる。【００３０】
上記目的を達成するために、本発明の第２０の態様に係る画像処理プログラムは、コンピュータに、撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより、第１の画像信号を出力する第１の画素群及び第２の画像信号を出力する第２の画素群を有し、且つ、撮影レンズを透過した被写体像が瞳分割されずに結像されることにより第３の画像信号を出力する第３の画素群を有する撮像素子から出力された第１の画像信号に基づく無彩色の第１の画像と、撮像素子から出力された第２の画像信号に基づく無彩色の第２の画像と、撮像素子から出力された第３の画像信号に基づく有彩色の第３の画像とを生成し、画像を表示する表示部に対し、第１の画素群に含まれる第１の画素から出力された第１の画像信号の出力値と第１の画素と対応する画素であって第２の画素群に含まれる第２の画素から出力された第２の画像信号の出力値とを比較した比較結果が閾値未満の場合に、第１の画素と対応する位置の第３の画像に含まれる有彩色を第１の画像における第１の画素の位置に付与し、かつ、第２の画素と対応する位置の第３の画像に含まれる有彩色を第２の画像における第２の画素の位置に付与して得た合焦確認に使用する有彩色画像を表示させる制御を行い、比較結果が閾値以上の場合に、第１の画素と対応する位置の第１の画像及び第２の画素と対応する位置の第２の画像に基づいて得た合焦確認に使用する無彩色画像を表示させる制御を行うことを含む処理を実行させるためのものである。これにより、画像処理プログラムは、合焦状態か否かの判定に供される位相差を算出する場合と比べ、合焦状態を示す有彩色画像の表示と非合焦状態を示す無彩色画像の表示とを即時的に切り替えることができる。
【発明の効果】
【００３１】
本発明によれば、合焦状態か否かの判定に供される位相差を算出する場合と比べ、合焦状態を示す有彩色画像の表示と非合焦状態を示す無彩色画像の表示とを即時的に切り替えることができる、という効果が得られる。
【図面の簡単な説明】
【００３２】
【図１】第１及び第２実施形態に係るレンズ交換式カメラである撮像装置の外観の一例を示す斜視図である。
【図２】第１及び第２実施形態に係る撮像装置の背面側を示す背面図である。
【図３】第１及び第２実施形態に係る撮像装置のハードウェア構成の一例を示すブロック図である。
【図４】第１実施形態に係る撮像装置に含まれる撮像素子に設けられているカラーフィルタの構成の一例を示す概略構成図である。
【図５】第１実施形態に係る撮像装置に含まれる撮像素子における通常画素、第１の画素及び第２の画素の配置例、並びに通常画素、第１の画素及び第２の画素の各々に対して割り当てられたカラーフィルタの色の配置例を示す模式図である。
【図６】第１及び第２実施形態に係る撮像装置に含まれる撮像素子における第１の画素及び第２の画素の各々の構成の一例を示す模式図である。
【図７】第１及び第２実施形態に係る撮像装置に含まれる画像処理部の要部機能の一例を示すブロック図である。
【図８】第１及び第２実施形態に係る撮像装置に含まれる画像処理部によって生成されるスプリットイメージの生成方法の説明に供する模式図である。
【図９】第１及び第２実施形態に係る撮像装置に含まれる第１ディスプレイに表示されたスプリットイメージ及び通常画像を含むライブビュー画像の一例を示す画面図である。
【図１０】第１及び第２実施形態に係る撮像装置に含まれるハイブリッドファインダーの構成の一例を示す概略構成図である。
【図１１】第１実施形態に係る画像生成処理の流れの一例を示すフローチャートである。
【図１２】左領域通過光及び右領域通過光による減光特性の原理（第１及び第２の画素の各々に入射する光束の経路の一例）の説明に供する説明図である。
【図１３】瞳分割方向の線形的な減光特性が左眼画像及び右眼画像の各々における瞳分割方向に相当する方向の各画素の出力に与える影響の一例を示すグラフである。
【図１４】補正前後の表示用左眼画像及び表示用右眼画像が受ける減光特性の影響の一例を示す概念図である。
【図１５】通常画像の輝度信号及び色差信号と色情報が付与される前のスプリットイメージの輝度信号及び色差信号とのメモリ上での対応関係の一例を示す模式図である。
【図１６】通常画像の輝度信号及び色差信号と色情報が付与された後のスプリットイメージの輝度信号及び色差信号とのメモリ上での対応関係の一例を示す模式図である。
【図１７】差分絶対値と通常画像の彩度に乗じるゲインとの対応関係の一例を示すグラフである。
【図１８】規格化された差分絶対値と通常画像の彩度に乗じるゲインとの対応関係の一例を示すグラフである。
【図１９】Ｆ値が３．５未満の場合及びＦ値が３．５以上の場合において規格化された差分絶対値と通常画像の彩度に乗じるゲインとの対応関係の一例を示すグラフである。
【図２０】Ｆ値が３．５未満の場合及びＦ値が３．５以上の場合において規格化された差分絶対値と通常画像の彩度に乗じるゲインとの対応関係の他の例を示すグラフである。
【図２１】焦点距離が５０ミリメートル未満の場合及び焦点距離が５０ミリメートル以上の場合において規格化された差分絶対値と通常画像の彩度に乗じるゲインとの対応関係の一例を示すグラフである。
【図２２】焦点距離が５０ミリメートル未満の場合及び焦点距離が５０ミリメートル以上の場合において規格化された差分絶対値と通常画像の彩度に乗じるゲインとの対応関係の他の例を示すグラフである。
【図２３】Ｔｖ値が６．０未満の場合及びＴｖ値が６．０以上の場合において規格化された差分絶対値と通常画像の彩度に乗じるゲインとの対応関係の一例を示すグラフである。
【図２４】Ｔｖ値が６．０未満の場合及びＴｖ値が６．０以上の場合において規格化された差分絶対値と通常画像の彩度に乗じるゲインとの対応関係の他の例を示すグラフである。
【図２５】出力値差分と通常画像の彩度に乗じるゲインとの対応関係の一例を示すグラフである。
【図２６】第２実施形態に係る画像生成処理の流れの一例を示すフローチャートである。
【図２７】第２実施形態に係る撮像装置に含まれる撮像素子における通常画素、第１の画素及び第２の画素の配置例、並びに通常画素、第１の画素及び第２の画素の各々に対して割り当てられたカラーフィルタの色の配置例を示す模式図である。
【図２８】第３実施形態に係るスマートフォンの外観の一例を示す斜視図である。
【図２９】第３実施形態に係るスマートフォンの電気系の要部構成の一例を示すブロック図である。
【図３０】第１の画素及び第２の画素の他の配置例を示す概略配置図である。
【図３１】カラーフィルタの他の構成例を示す概略構成図である。
【図３２】第１〜第３実施形態に係るスプリットイメージの変形例であって、行方向に対して傾いた斜めの分割線により分割されているスプリットイメージの一例を示す模式図である
【図３３Ａ】第１〜第３実施形態に係るスプリットイメージの変形例であって、格子状の分割線で分割されたスプリットイメージの一例を示す模式図である。
【図３３Ｂ】第１〜第３実施形態に係るスプリットイメージの変形例であって、市松模様に形成されたスプリットイメージの一例を示す模式図である。
【発明を実施するための形態】
【００３３】
以下、添付図面に従って本発明に係る撮像装置の実施形態の一例について説明する。
【００３４】
［第１実施形態］
図１は、第１実施形態に係る撮像装置１００の外観の一例を示す斜視図であり、図２は、図１に示す撮像装置１００の背面図である。
【００３５】
撮像装置１００は、レンズ交換式カメラである。撮像装置１００は、撮像装置本体２００と、撮像装置本体２００に交換可能に装着される交換レンズ３００と、を含み、レフレックスミラーが省略されたデジタルカメラである。交換レンズ３００は、手動操作により光軸方向に移動可能なフォーカスレンズ３０２を有する撮影レンズ１６（図３参照）を含む。また、撮像装置本体２００には、ハイブリッドファインダー（登録商標）２２０が設けられている。ここで言うハイブリッドファインダー２２０とは、例えば光学ビューファインダー（以下、「ＯＶＦ」という）及び電子ビューファインダー（以下、「ＥＶＦ」という）が選択的に使用されるファインダーを指す。
【００３６】
交換レンズ３００は、撮像装置本体２００に対して交換可能に装着される。また、交換レンズ３００の鏡筒には、マニュアルフォーカスモード時に使用されるフォーカスリング３０１が設けられている。フォーカスリング３０１の手動による回転操作に伴ってフォーカスレンズ３０２は、光軸方向に移動し、被写体距離に応じた合焦位置で後述の撮像素子２０（図３参照）に被写体光が結像される。
【００３７】
撮像装置本体２００の前面には、ハイブリッドファインダー２２０に含まれるＯＶＦのファインダー窓２４１が設けられている。また、撮像装置本体２００の前面には、ファインダー切替えレバー（ファインダー切替え部）２１４が設けられている。ファインダー切替えレバー２１４を矢印ＳＷ方向に回動させると、ＯＶＦで視認可能な光学像とＥＶＦで視認可能な電子像（ライブビュー画像）との間で切り換わるようになっている（後述）。なお、ＯＶＦの光軸Ｌ２は、交換レンズ３００の光軸Ｌ１とは異なる光軸である。また、撮像装置本体２００の上面には、主としてレリーズボタン２１１及び撮影モードや再生モード等の設定用のダイヤル２１２が設けられている。
【００３８】
撮影準備指示部及び撮影指示部としてのレリーズボタン２１１は、撮影準備指示状態と撮影指示状態との２段階の押圧操作が検出可能に構成されている。撮影準備指示状態とは、例えば待機位置から中間位置（半押し位置）まで押下される状態を指し、撮影指示状態とは、中間位置を超えた最終押下位置（全押し位置）まで押下される状態を指す。なお、以下では、「待機位置から半押し位置まで押下される状態」を「半押し状態」といい、「待機位置から全押し位置まで押下される状態」を「全押し状態」という。
【００３９】
本第１実施形態に係る撮像装置１００では、動作モードとして撮影モードと再生モードとがユーザの指示に応じて選択的に設定される。撮影モードでは、マニュアルフォーカスモードとオートフォーカスモードとがユーザの指示に応じて選択的に設定される。オートフォーカスモードでは、レリーズボタン２１１を半押し状態にすることにより撮影条件の調整が行われ、その後、引き続き全押し状態にすると露光（撮影）が行われる。つまり、レリーズボタン２１１を半押し状態にすることによりＡＥ（Automatic Exposure）機能が働いて露出状態が設定された後、ＡＦ（Auto-Focus）機能が働いて合焦制御され、レリーズボタン２１１を全押し状態にすると撮影が行われる。
【００４０】
図２に示す撮像装置本体２００の背面には、タッチパネル・ディスプレイ２１３、十字キー２２２、ＭＥＮＵ／ＯＫキー２２４、ＢＡＣＫ／ＤＩＳＰボタン２２５、及びＯＶＦのファインダー接眼部２４２が設けられている。
【００４１】
タッチパネル・ディスプレイ２１３は、液晶ディスプレイ（以下、「第１ディスプレイ」という）２１５及びタッチパネル２１６を備えている。
【００４２】
第１ディスプレイ２１５は、画像及び文字情報等を表示する。第１ディスプレイ２１５は、撮影モード時に連続フレームで撮影されて得られた連続フレーム画像の一例であるライブビュー画像（スルー画像）の表示に用いられる。また、第１ディスプレイ２１５は、静止画撮影の指示が与えられた場合に単一フレームで撮影されて得られた単一フレーム画像の一例である静止画像の表示にも用いられる。更に、第１ディスプレイ２１５は、再生モード時の再生画像の表示やメニュー画面等の表示にも用いられる。
【００４３】
タッチパネル２１６は、透過型のタッチパネルであり、第１ディスプレイ２１５の表示領域の表面に重ねられている。タッチパネル２１６は、指示体（例えば、指又はスタイラスペン）による接触を検知する。タッチパネル２１６は、検知結果（タッチパネル２１６に対する指示体による接触の有無）を示す検知結果情報を所定周期（例えば１００ミリ秒）で所定の出力先（例えば、後述のＣＰＵ１２（図３参照））に出力する。検知結果情報は、タッチパネル２１６が指示体による接触を検知した場合、タッチパネル２１６上の指示体による接触位置を特定可能な二次元座標（以下、「座標」という）を含み、タッチパネル２１６が指示体による接触を検知していない場合、座標を含まない。
【００４４】
十字キー２２２は、１つ又は複数のメニューの選択、ズームやコマ送り等の各種の指令信号を出力するマルチファンクションのキーとして機能する。ＭＥＮＵ／ＯＫキー２２４は、第１ディスプレイ２１５の画面上に１つ又は複数のメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行などを指令するＯＫボタンとしての機能とを兼備した操作キーである。ＢＡＣＫ／ＤＩＳＰボタン２２５は、選択項目など所望の対象の消去や指定内容の取消し、あるいは１つ前の操作状態に戻すときなどに使用される。
【００４５】
図３は、第１実施形態に係る撮像装置１００のハードウェア構成の一例を示す電気系ブロック図である。
【００４６】
撮像装置１００は、撮像装置本体２００に備えられたマウント２５６と、マウント２５６に対応する交換レンズ３００側のマウント３４６と、を含む。交換レンズ３００は、マウント２５６にマウント３４６が結合されることにより撮像装置本体２００に交換可能に装着される。
【００４７】
交換レンズ３００は、スライド機構３０３及びモータ３０４を含む。スライド機構３０３は、フォーカスリング３０１の操作が行われることでフォーカスレンズ３０２を光軸Ｌ１に沿って移動させる。スライド機構３０３には光軸Ｌ１に沿ってスライド可能にフォーカスレンズ３０２が取り付けられている。また、スライド機構３０３にはモータ３０４が接続されており、スライド機構３０３は、モータ３０４の動力を受けてフォーカスレンズ３０２を光軸Ｌ１に沿ってスライドさせる。
【００４８】
モータ３０４は、マウント２５６，３４６を介して撮像装置本体２００に接続されており、撮像装置本体２００からの命令に従って駆動が制御される。なお、本第１実施形態では、モータ３０４の一例として、ステッピングモータを適用している。従って、モータ３０４は、撮像装置本体２００からの命令によりパルス電力に同期して動作する。また、図３に示す例では、モータ３０４が交換レンズ３００に設けられている例が示されているが、これに限らず、モータ３０４は撮像装置本体２００に設けられていてもよい。
【００４９】
撮像装置１００は、撮影した静止画像や動画像を記録するデジタルカメラであり、カメラ全体の動作は、ＣＰＵ（central processing unit：中央処理装置）１２によって制御されている。撮像装置１００は、操作部１４、インタフェース部２４、一次記憶部２５、二次記憶部２６、画像処理部２８、スピーカ３５、表示制御部３６、接眼検出部３７、及び外部インタフェース（Ｉ／Ｆ）３９を含む。
【００５０】
ＣＰＵ１２、操作部１４、インタフェース部２４、一次記憶部２５、二次記憶部２６、画像処理部２８、スピーカ３５、表示制御部３６、接眼検出部３７、外部Ｉ／Ｆ３９、及びタッチパネル２１６は、バス４０を介して相互に接続されている。
【００５１】
一次記憶部２５とは、揮発性のメモリを意味し、例えばＲＡＭ（Random Access Memory）を指す。二次記憶部２６とは、不揮発性のメモリを意味し、例えばフラッシュメモリやＨＤＤ（Hard Disk Drive）を指す。
【００５２】
なお、本第１実施形態に係る撮像装置１００では、オートフォーカスモード時に、ＣＰＵ１２が、撮像によって得られた画像のコントラスト値が最大となるようにモータ３０４を駆動制御することによって合焦制御を行う。また、オートフォーカスモード時に、ＣＰＵ１２は、撮像によって得られた画像の明るさを示す物理量であるＡＥ情報を算出する。ＣＰＵ１２は、レリーズボタン２１１が半押し状態とされたときには、ＡＥ情報により示される画像の明るさに応じたシャッタスピード及びＦ値を導出する。そして、導出したシャッタスピード及びＦ値となるように関係各部を制御することによって露出状態の設定を行う。
【００５３】
操作部１４は、撮像装置１００に対して各種指示を与える際にユーザによって操作されるユーザインタフェースである。操作部１４は、レリーズボタン２１１、撮影モード等を選択するダイヤル２１２、ファインダー切替えレバー２１４、十字キー２２２、ＭＥＮＵ／ＯＫキー２２４及びＢＡＣＫ／ＤＩＳＰボタン２２５を含む。操作部１４によって受け付けられた各種指示は操作信号としてＣＰＵ１２に出力され、ＣＰＵ１２は、操作部１４から入力された操作信号に応じた処理を実行する。
【００５４】
撮像装置本体２００は、位置検出部２３を含む。位置検出部２３は、ＣＰＵ１２に接続されている。位置検出部２３は、マウント２５６，３４６を介してフォーカスリング３０１に接続されており、フォーカスリング３０１の回転角度を検出し、検出結果である回転角度を示す回転角度情報をＣＰＵ１２に出力する。ＣＰＵ１２は、位置検出部２３から入力された回転角度情報に応じた処理を実行する。
【００５５】
撮影モードが設定されると、被写体を示す画像光は、手動操作により移動可能なフォーカスレンズ３０２を含む撮影レンズ１６及びシャッタ１８を介してカラーの撮像素子（一例としてＣＭＯＳセンサ）２０の受光面に結像される。撮像素子２０に蓄積された信号電荷は、デバイス制御部２２から加えられる読出し信号によって信号電荷（電圧）に応じたデジタル信号として順次読み出される。撮像素子２０は、いわゆる電子シャッタ機能を有しており、電子シャッタ機能を働かせることで、読出し信号のタイミングによって各フォトセンサの電荷蓄積時間（シャッタスピード）を制御する。なお、本第１実施形態に係る撮像素子２０は、ＣＭＯＳ型のイメージセンサであるが、これに限らず、ＣＣＤイメージセンサでもよい。
【００５６】
撮像素子２０は、一例として図４に示すカラーフィルタ２１を備えている。カラーフィルタ２１は、輝度信号を得るために最も寄与するＧ（緑）に対応するＧフィルタＧ、Ｒ（赤）に対応するＲフィルタＲ、及びＢ（青）に対応するＢフィルタを含む。図５に示す例では、撮像素子２０の画素数の一例として“４８９６×３２６５”画素を採用しており、これらの画素に対してＧフィルタ、Ｒフィルタ及びＢフィルタが行方向（水平方向）及び列方向（垂直方向）の各々に所定の周期性で配置されている。そのため、撮像装置１００は、Ｒ，Ｇ，Ｂ信号の同時化（補間）処理等を行う際に、繰り返しパターンに従って処理を行うことが可能となる。なお、同時化処理とは、単板式のカラー撮像素子のカラーフィルタ配列に対応したモザイク画像から画素毎に全ての色情報を算出する処理を指す。例えば、ＲＧＢ３色のカラーフィルタからなる撮像素子の場合、同時化処理とは、ＲＧＢからなるモザイク画像から画素毎にＲＧＢ全ての色情報を算出する処理を意味する。
【００５７】
一例として図５に示すように、撮像素子２０は、後述する第１の画素Ｌ、第２の画素Ｒ、及び通常画素Ｎを含む。第１の画素Ｌ、第２の画素Ｒ、及び通常画素Ｎの各々にはマイクロレンズ１９が設けられており、マイクロレンズ１９を透過した光は、第１の画素Ｌ、第２の画素Ｒ、及び通常画素Ｎによって受光されて光電変換される。撮像素子２０の各画素には、カラーフィルタ２１に含まれる“Ｒ”、“Ｇ”及び“Ｂ”の何れかのフィルタが割り当てられている。なお、図５に示す例において、画素内の“Ｒ”とはＲフィルタを指し、画素内のＧ”とはＧフィルタを指し、画素内の“Ｂ”とはＢフィルタを指す。
【００５８】
撮像素子２０は、第１の画素行１５０、第２の画素行１５２、及び第３の画素行１５４を含む。第１の画素行１５０は、同一行内に第１の画素Ｌ、第２の画素Ｒ、及び通常画素Ｎを含む。第１の画素Ｌ及び第２の画素Ｒは、Ｇフィルタに対して第１の画素Ｌ及び第２の画素Ｒが割り当てられるように、行方向に複数の通常画素Ｎ（図５に示す例では２個の通常画素Ｎ）を介在させて交互に配置されている。第２の画素行１５２は、第１の画素行１５０と比べ、第１の画素Ｌと第２の画素Ｒの位置が逆になっている点が異なる。第３の画素行１５４とは、行内の全画素が通常画素Ｎの行を指す。第１の画素行１５０及び第２の画素行１５２は、列方向に複数行の第３の画素行１５４（本第１実施形態では、一例として、列方向に所定周期で行数が異なる第３の画素行１５４）を介在させて交互に配置されている。
【００５９】
このように第１の画素行１５０、第２の画素行１５２、及び第３の画素行１５４が所定規則に従って配置されることで、撮像素子２０では、行方向及び列方向の各々において第１の画素Ｌと第２の画素Ｒとが交互に配置される。本第１実施形態では、行方向において第１の画素Ｌ及び第２の画素Ｒの各々が６画素につき１画素ずつ配置され、列方向においても第１の画素Ｌ及び第２の画素Ｒの各々が６画素につき１画素ずつ配置される。
【００６０】
第１の画素Ｌは、一例として図６に示すように、遮光部材２０Ａによって受光面における行方向の左半分（受光面から被写体を臨む場合の左側（換言すると、被写体から受光面を臨む場合の右側））が遮光された画素である。第２の画素Ｒは、一例として図６に示すように、遮光部材２０Ｂによって受光面における行方向の右半分（受光面から被写体を臨む場合の右側（換言すると、被写体から受光面を臨む場合の左側））が遮光された画素である。なお、以下では、第１の画素Ｌ及び第２の画素Ｒを区別して説明する必要がない場合は「位相差画素」と称する。
【００６１】
撮影レンズ１６の射出瞳を通過する光束は、左領域通過光及び右領域通過光に大別される。左領域通過光とは、撮影レンズ１６の射出瞳を通過する光束のうちの左半分の光束を指し、右領域通過光とは、撮影レンズ１６の射出瞳を通過する光束のうちの右半分の光束を指す。撮影レンズ１６の射出瞳を通過する光束は、瞳分割部として機能するマイクロレンズ１９及び遮光部材２０Ａ，２０Ｂにより左右に分割され、第１の画素Ｌが左領域通過光を受光し、第２の画素Ｒが右領域通過光を受光する。この結果、左領域通過光に対応する被写体像及び右領域通過光に対応する被写体像は、視差が異なる視差画像（左領域通過光に対応する被写体像に相当する左の視差画像、及び右領域通過光に対応する被写体像に相当する右の視差画像）として取得される。なお、以下では、遮光部材２０Ａ，２０Ｂを区別して説明する必要がない場合は符号を付さずに「遮光部材」と称する。
【００６２】
撮像素子２０は、第１の画素群、第２の画素群及び第３の画素群に分類される。第１の画素群とは、一例として図５に示すように、行列状に配置された複数の第１の画素Ｌを指す。第２の画素群とは、一例として図５に示すように、行列状に配置された複数の第２の画素Ｒを指す。第３の画素群とは、一例として図５に示す複数の通常画素Ｎを指す。ここで、通常画素Ｎとは、位相差画素以外の画素（例えば遮光部材２０Ａ，２０Ｂが設けられていない画素）を指す。なお、以下では、第１〜第３の画素群を区別して説明する必要がない場合、「画素群」と称する。
【００６３】
また、以下では、説明の便宜上、各第１の画素Ｌから画素単位で出力される画素信号を「第１の画素信号」と称する。各第２の画素Ｒから画素単位で出力される画素信号を「第２の画素信号」と称する。また、各通常画素Ｎから画素単位で出力される画素信号を「第３の画素信号」と称する。また、第１〜第３の画素信号を区別して説明する必要がない場合、「画素信号」と称する。
【００６４】
また、以下では、説明の便宜上、第１の画素群から画素群単位（１画面単位）で出力され、左の視差画像（以下、「左眼画像」と称する）を示す画像信号を「第１の画像信号」と称する。また、第２の画素群から画素群単位で出力され、右の視差画像（以下、「右眼画像」と称する）を示す画像信号を「第２の画像信号」と称する。また、第３の画素群から出力される非視差画像（視差を有しない画像）を示す画像信号を「第３の画像信号」と称する。また、第１〜第３の画像信号を区別して説明する必要がない場合、「画像信号」と称する。
【００６５】
撮像素子２０によって同一の撮影タイミングで得られた第１の画像信号、第２の画像信号、及び第３の画像信号（１画面分の画像信号）は、同一のタイミングで画像処理部２８によって取得される。
【００６６】
画像処理部２８は、取得した画像信号に対して各種の信号処理を施す。画像処理部２８は、各種の信号処理に係る複数の機能の回路を１つにまとめた集積回路であるＡＳＩＣ（Application Specific Integrated Circuit）により実現される。但し、ハードウェア構成はこれに限定されるものではなく、例えばプログラマブルロジックデバイスであってもよいし、ＣＰＵ、ＲＯＭ及びＲＡＭを含むコンピュータなどの他のハードウェア構成であってもよい。
【００６７】
画像処理部２８は、通常画像生成部２８Ａ（本発明に係る生成部の一例）、スプリットイメージ生成部２８Ｂ（本発明に係る生成部の一例）、及び制御部２８Ｃ（本発明に係る制御部の一例）を有する。通常画像生成部２８Ａは、第３の画像信号を取得し、取得した第３の画像信号に基づく通常画像（本発明に係る第３の画像の一例）を生成する。通常画像は有彩色の画像であり、例えば、通常画素Ｎの配列と同じカラー配列のカラー画像である。
【００６８】
通常画像は、第３の画素群に含まれる全ての通常画素Ｎについて、対応する色以外の色の第３の画素信号が周囲の画素の第３の画素信号で補間されて、全ての通常画素ＮのＲ，Ｇ，Ｂの第３の画素信号に基づいて生成される。すなわち、全ての通常画素ＮのＲ，Ｇ，Ｂの第３の画素信号に対して所謂ＹＣ変換処理が施されることで輝度信号Ｙ及び色差信号Ｃｒ，Ｃｂが生成され、生成された輝度信号Ｙ及び色差信号Ｃｒ，Ｃｂに基づいて画面サイズに応じたサイズの通常画像が生成される。
【００６９】
スプリットイメージ生成部２８Ｂは、第１及び第２の画像信号を取得し、取得した第１の画像信号及び第２の画像信号に基づいて、合焦確認に使用する画像として無彩色のスプリットイメージ（本発明に係る無彩色画像の一例）を生成する。ここでは、例えば、スプリットイメージ生成部２８Ｂは、第１の画像信号及び第２の画像信号に対して信号処理を施すことにより輝度信号Ｙを生成し、生成した輝度信号Ｙに基づいて無彩色のスプリットイメージを生成する。
【００７０】
スプリットイメージとは、一例として図８に示すように、表示用左眼画像（本発明に係る第１の画像の一例）と表示用右眼画像（本発明に係る第２の画像の一例）とを所定方向（例えば、視差発生方向と直交する方向）に隣接させて配置した画像を指す。表示用左眼画像とは、左眼画像を所定方向に４分割して得た４つの分割画像のうちの一部の分割画像（図８に示す例では、正面視上から１番目及び３番目の分割画像）を指す。表示用右眼画像とは、右眼画像を所定方向に４分割して得た４つの分割画像から表示用左眼画像に対応する分割領域と隣接する分割領域について抽出した分割画像（図８に示す例では、正面視上から２番目及び４番目の分割画像）を指す。
【００７１】
制御部２８Ｃは、通常画像生成部２８Ａ及びスプリットイメージ生成部２８Ｂに接続されており、通常画像生成部２８Ａによって生成された通常画像、及びスプリットイメージ生成部２８Ｂによって生成された無彩色のスプリットイメージを取得する。制御部２８Ｃは、通常画像生成部２８Ａから取得した通常画像を表示制御部３６（図３参照）に出力する。
【００７２】
制御部２８Ｃは、スプリットイメージの生成に供した第１及び第２の画像信号を取得する。そして、取得した第１の画像信号の出力値と第２の画像信号の出力値とを比較した比較結果が閾値未満の場合に、有彩色のスプリットイメージ（本発明に係る有彩色画像の一例）を生成して表示制御部３６（図３参照）に出力する。有彩色のスプリットイメージは、通常画像に含まれる有彩色が、通常画像の位置に対応する位置の表示用右眼画像及び表示用左眼画像に付与されることによって生成される。
【００７３】
制御部２８Ｃは、取得した第１の画像信号の出力値と第２の画像信号の出力値とを比較した比較結果が閾値以上の場合に、スプリットイメージ生成部２８Ｂから取得した無彩色のスプリットイメージを表示制御部３６（図３参照）に出力する。なお、以下では、無彩色のスプリットイメージと有彩色のスプリットイメージとを区別して説明する必要がない場合、「スプリットイメージ」と称する。
【００７４】
図３に戻って、ハイブリッドファインダー２２０は、電子像を表示する液晶ディスプレイ（以下、「第２ディスプレイ」という）２４７を有する。
【００７５】
表示制御部３６は、第１ディスプレイ２１５及び第２ディスプレイ２４７に接続されている。表示制御部３６は、ＣＰＵ１２からの指示に従って、第１ディスプレイ２１５及び第２ディスプレイ２４７を選択的に制御することで第１ディスプレイ２１５及び第２ディスプレイ２４７（本発明に係る表示部の一例）に対して画像を選択的に表示させる。なお、以下では、第１ディスプレイ２１５及び第２ディスプレイ２４７を区別して説明する必要がない場合は「表示装置」と称する。
【００７６】
一例として図９に示すように、スプリットイメージは、表示装置の画面中央部の矩形枠内に表示され、スプリットイメージの外周領域に通常画像が表示される。図９に示す例では、表示用右眼画像と表示用左眼画像とが所定方向に交互に２つずつ配置されたスプリットイメージが示されている。スプリットイメージに含まれる表示用左眼画像及び表示用右眼画像は、合焦状態に応じて視差発生方向にずれる。また、図９に示す例では、人物の周辺領域（例えば、木）に対してピントが合っていて人物に対してピントがあっていない状態が示されている。
【００７７】
なお、本第１実施形態では、通常画像の一部の画像に代えて、スプリットイメージを嵌め込むことにより通常画像にスプリットイメージを合成するようにしているが、これに限らず、例えば、通常画像の上にスプリットイメージを重畳させる合成方法であってもよい。また、スプリットイメージを重畳する際に、スプリットイメージが重畳される通常画像の一部の画像とスプリットイメージとの透過率を適宜調整して重畳させる合成方法であってもよい。これにより、連続的に撮影している被写体像を示すライブビュー画像が表示装置の画面上に表示されるが、表示されるライブビュー画像は、通常画像の表示領域内にスプリットイメージが表示された画像となる。
【００７８】
なお、本第１実施形態に係る撮像装置１００は、ダイヤル２１２（フォーカスモード切替え部）によりマニュアルフォーカスモードとオートフォーカスモードとを切り替え可能に構成されている。何れかのフォーカスモードが選択されると、表示制御部３６は、スプリットイメージが合成されたライブビュー画像を表示装置に表示させる。また、ダイヤル２１２によりオートフォーカスモードが選択されると、ＣＰＵ１２は、位相差検出部及び自動焦点調整部として動作する。位相差検出部は、左眼画像と右眼画像との位相差を検出する。自動焦点調整部は、検出された位相差に基づいてフォーカスレンズ３０２のデフォーカス量をゼロにするように、デバイス制御部２２からマウント２５６，３４６を介してモータ３０４を制御し、フォーカスレンズ３０２を合焦位置に移動させる。なお、上記の「デフォーカス量」とは、例えば左眼画像及び右眼画像の位相ずれ量を指す。
【００７９】
図３に戻って、接眼検出部３７は、ユーザ（例えば撮影者）がファインダー接眼部２４２を覗き込んだことを検出し、検出結果をＣＰＵ１２に出力する。従って、ＣＰＵ１２は、接眼検出部３７での検出結果に基づいてファインダー接眼部２４２が使用されているか否かを把握することができる。
【００８０】
外部Ｉ／Ｆ３９は、ＬＡＮ（Local Area Network）やインターネットなどの通信網に接続され、通信網を介して、外部装置（例えばプリンタ）とＣＰＵ１２との間の各種情報の送受信を司る。従って、撮像装置１００は、外部装置としてプリンタが接続されている場合、撮影した静止画像をプリンタに出力して印刷させることができる。また、撮像装置１００は、外部装置としてディスプレイが接続されている場合は、撮影した静止画像やライブビュー画像をディスプレイに出力して表示させることができる。
【００８１】
一例として図１０に示すように、ハイブリッドファインダー２２０は、ＯＶＦ２４０及びＥＶＦ２４８を含む。ＯＶＦ２４０は、対物レンズ２４４と接眼レンズ２４６とを有する逆ガリレオ式ファインダーであり、ＥＶＦ２４８は、第２ディスプレイ２４７、プリズム２４５及び接眼レンズ２４６を有する。
【００８２】
また、対物レンズ２４４の前方には、液晶シャッタ２４３が配設されており、液晶シャッタ２４３は、ＥＶＦ２４８を使用する際に、対物レンズ２４４に光学像が入射しないように遮光する。
【００８３】
プリズム２４５は、第２ディスプレイ２４７に表示される電子像又は各種の情報を反射させて接眼レンズ２４６に導き、且つ、光学像と第２ディスプレイ２４７に表示される情報（電子像、各種の情報）とを合成する。
【００８４】
ここで、ファインダー切替えレバー２１４を図１に示す矢印ＳＷ方向に回動させると、回動させる毎にＯＶＦ２４０により光学像を視認することができるＯＶＦモードと、ＥＶＦ２４８により電子像を視認することができるＥＶＦモードとが交互に切り替えられる。
【００８５】
表示制御部３６は、ＯＶＦモードの場合、液晶シャッタ２４３が非遮光状態になるように制御し、接眼部から光学像が視認できるようにする。また、第２ディスプレイ２４７には、スプリットイメージのみを表示させる。これにより、光学像の一部にスプリットイメージが重畳されたファインダー像を表示させることができる。
【００８６】
また、表示制御部３６は、ＥＶＦモードの場合、液晶シャッタ２４３が遮光状態になるように制御し、接眼部から第２ディスプレイ２４７に表示される電子像のみが視認できるようにする。なお、第２ディスプレイ２４７には、第１ディスプレイ２１５に出力されるスプリットイメージが合成された画像データと同等の画像データが入力される。これにより、第２ディスプレイ２４７は、第１ディスプレイ２１５と同様に通常画像の一部にスプリットイメージが合成された電子像を表示することができる。
【００８７】
次に本第１実施形態の作用として、ＣＰＵ１２の制御下で画像処理部２８によって行われる画像生成処理について、図１１を参照して説明する。なお、図１１に示す画像生成処理は、マニュアルフォーカスモードが設定されてから一次記憶部２５に１画面分の第１〜第３の画像信号が記憶された場合に画像処理部２８によって行われる。
【００８８】
図１１に示す画像生成処理では、先ず、ステップ４００で、通常画像生成部２８Ａは、一次記憶部２５から第３の画像信号を取得し、取得した第３の画像信号に基づいて通常画像を生成する。
【００８９】
ところで、撮像装置１００では、一例として図１２に示すように、被写体が撮像される場合に撮影レンズ１６を通過した左領域通過光は、第１の画素Ｌに対応するマイクロレンズ１９を通過し、第１の画素Ｌに入射する。しかし、左領域通過光は、第２の画素Ｒに対応するマイクロレンズ１９を通過しても遮光部材２０Ｂによって遮光されるので、第２の画素Ｒに入射しない。一方、撮影レンズ１６を通過した右領域通過光は、第２の画素Ｒに対応するマイクロレンズ１９を通過し、第２の画素Ｒに入射する。しかし、右領域通過光は、第１の画素Ｌに対応するマイクロレンズ１９を通過しても遮光部材２０Ａによって遮光されるので、第１の画素Ｌに入射しない。このように画素の半分に対して遮光部材が配置されている上、左領域通過光及び右領域通過光の各々の中心が、撮影レンズ１６の光軸から偏倚しているため、第１の画素群及び第２の画素群の各々では、瞳分割方向の画素位置に応じて減光特性が線形的に変化する。減光特性の変化は、左眼画像及び右眼画像における出力の変化となって現れる。すなわち、仮に撮影レンズ１６に対して正面から光量が均一な光が入射された場合に得られる左眼画像及び右眼画像の左右方向（瞳分割方向に相当する方向）の出力は画素位置に応じて略線形的に変化することとなる。例えば、図１３に示すように、左眼画像は、右方向の画素位置ほど出力が小さくなり、右眼画像は、左方向の画素位置ほど出力が小さくなる。左眼画像及び右眼画像の各出力の左右の相反する方向への略線形的な変化は、スプリットイメージの画質に対しても影響を及ぼす。
【００９０】
そこで、図１１に示す画像生成処理では、ステップ４０２で、スプリットイメージ生成部２８Ｂは、一次記憶部２５から第１の画像信号及び第２の画像信号を取得し、取得した第１の画像信号及び第２の画像信号に対してシェーディング補正を施す。ここで、シェーディング補正とは、減光特性に応じて定まる補正係数に基づいて第１の画像信号及び第２の画像信号の減光特性を補正することを指す。補正係数は、例えば、補正用直線に基づいて導出される。補正用直線は、例えば、特定の一行に含まれる複数の画素の出力についての回帰直線と目標感度比（例えば１．０）との距離の２乗和が最小になる一次関数であり、補正用直線の従属変数が補正係数として用いられる。なお、補正係数は、これに限定されるものではなく、実機による実験やシミュレーション等によって予め得られたデフォルト値（事前に予想した減光特性をキャンセルする補正係数）であってもよい。また、ここでは、第１の画像信号の出力値及び第２の画像信号の出力値を補正する場合を例示しているが、これに限らず、第１の画素Ｌ及び第２の画素Ｒの感度を補正するようにしてもよい。
【００９１】
このように上記ステップ４０２の処理が行われることで、後述のステップ４０４で生成されるスプリットイメージに対する減光特性の影響を軽減することができる。すなわち、一例として図１４に示すように、瞳分割方向の画素の線形的な感度変化に起因する表示用左眼画像及び表示用右眼画像の線形的な出力変化は、補正係数に基づいて補正されない場合と比べ、軽減される。
【００９２】
次のステップ４０４で、スプリットイメージ生成部２８Ｂは、ステップ４０２でシェーディング補正が施された第１及び第２の画像信号に基づいて無彩色のスプリットイメージを生成し、その後、ステップ４０５へ移行する。
【００９３】
ステップ４０５で、スプリットイメージ生成部２８Ｂは、上記ステップ４０４で生成したスプリットイメージを一次記憶部２５の予め定められた記憶領域（以下、説明の便宜上、「所定の記憶領域」という）に記憶し、その後、ステップ４０６へ移行する。
【００９４】
ステップ４０６で、制御部２８Ｃは、ステップ４０２でシェーディング補正が施された第１及び第２の画像信号のうちの未処理の一対の位相差画素の第１及び第２の画素信号を取得し、その後、ステップ４０８へ移行する。ここで、「未処理」とは、本ステップ４０６において第１及び第２の画素信号が未だに取得されていないことを指す。また、ここで、「一対の位相差画素」とは、例えば、瞳分割方向と交差する方向（例えば、直交する方向）で隣り合う一対の位相差画素（第１の画素Ｌ及び第２の画素Ｒ）を指す。図５に示す例では、第１の画素行１５０と第２の画素行１５２とで行方向について位置が揃っている一対の第１の画素Ｌ及び第２の画素Ｒ（列方向で隣り合う第１の画素Ｌ及び第２の画素Ｒ）を指す。
【００９５】
ステップ４０８で、制御部２８Ｃは、ステップ４０６で取得した第１の画素信号の出力値とステップ４０６で取得した第２の画素信号の出力値とを比較した比較結果が閾値未満か否かを判定する。なお、ここでは、比較結果の一例として、ステップ４０６で取得した第１の画素信号の出力値とステップ４０６で取得した第２の画素信号の出力値との差分の絶対値（以下、「差分絶対値」という）を採用している。
【００９６】
ステップ４０８において、ステップ４０６で取得した第１の画素信号の出力値とステップ４０６で取得した第２の画素信号の出力値とを比較した比較結果が閾値未満の場合は、判定が肯定されて、ステップ４１０へ移行する。ステップ４０８において、ステップ４０６で取得した第１の画素信号の出力値とステップ４０６で取得した第２の画素信号の出力値とを比較した比較結果が閾値以上の場合は、判定が否定されて、ステップ４１２へ移行する。
【００９７】
なお、説明の便宜上、本第１実施形態において、「合焦状態」とは、ピントのずれ量がゼロになった場合に限らず、上記の比較結果が閾値未満の場合を意味する。また、説明の便宜上、本第１実施形態において、「非合焦状態」とは、上記の比較結果が閾値以上の場合を意味する。
【００９８】
ステップ４１０で、制御部２８Ｃは、ステップ４０６で取得した第１及び第２の画素信号の各々の位相差画素の位置に対応する位置の通常画像の色情報を、所定の記憶領域に記憶されているスプリットイメージの所定位置に付与する。ここで、所定位置とは、例えば、ステップ４０６で取得した第１及び第２の画素信号の各々の位相差画素の位置に対応する位置を指す。
【００９９】
スプリットイメージに対する色情報の付与は、例えば、ステップ４００で生成された通常画像における色差信号Ｃｒ，Ｃｂを用いて行われる。ここで、通常画像及びスプリットイメージの輝度信号Ｙ及び色差信号Ｃｒ，Ｃｂは、メモリ（例えば、一次記憶部２５）上で所謂ＹＣ４２２フォーマットの画像データとして取り扱われる。一例として図１５に示すように、ステップ４００で生成された通常画像は、輝度信号Ｙ０及び色差信号Ｃｒ０，Ｃｂ０に分解される。これに対し、ステップ４０４で生成された無彩色のスプリットイメージ（色情報が付与される前のスプリットイメージ）は、通常画像の画素位置と対応する画素位置毎に輝度信号Ｙ１に分解される。
【０１００】
上記ステップ４１０では、色差信号Ｃｒ０，Ｃｂ０に対してゲインを乗じて得た値を、一例として図１６に示すように、スプリットイメージの色差信号Ｃｒ１，Ｃｂ１として適用することで、無彩色のスプリットイメージに対する色情報の付与を実現している。
【０１０１】
ここで、色差信号Ｃｒ０，Ｃｂ０に対して乗じるゲインは、一例として図１７に示すように、差分絶対値に応じて変動する値として予め定められている。図１７に示す例では、閾値が“４０”に設定されているので、差分絶対値が“４０”以上の場合、色差信号Ｃｒ０，Ｃｂ０に対して“０”が乗じられる。この場合、無彩色のスプリットイメージには色情報が付与されないこととなる（ステップ４０８：Ｎ）。これに対し、差分絶対値が“４０”未満の場合、差分絶対値が小さいほど色差信号Ｃｒ０，Ｃｂ０に対して大きなゲインが乗じられる（ステップ４１０）。この結果、差分絶対値が小さいほど無彩色のスプリットイメージに対して付与される有彩色が鮮明に表れることとなる。なお、図１７に示すゲインと差分絶対値との対応関係は、テーブル又は演算式として二次記憶部２６に予め記憶されており、テーブル又は演算式は、制御部２８Ｃによって二次記憶部２６から読み出されて用いられる。
【０１０２】
次のステップ４１２で、制御部２８Ｃは、全ての一対の位相差画素について処理を終了したか否か（上記ステップ４０６の処理が実行されたか否か）を判定する。ステップ４１２において全ての一対の位相差画素について処理を終了した場合は、判定が肯定されて、ステップ４１４へ移行する。ステップ４１２において全ての一対の位相差画素について処理を終了していない場合は、判定が否定されて、ステップ４０６へ移行する。
【０１０３】
ステップ４１４で、制御部２８Ｃは、上記ステップ４００で生成された通常画像を表示制御部３６に出力し、且つ、所定の記憶領域に記憶されているスプリットイメージを表示制御部３６に出力し、その後、本画像生成処理を終了する。表示制御部３６は、通常画像及びスプリットイメージが入力されると、表示装置に対して通常画像を動画像として連続して表示させ、且つ、通常画像の表示領域内にスプリットイメージを動画像として連続して表示させる制御を行う。これに応じて、表示装置は、一例として図９に示すように、ライブビュー画像を表示する。従って、撮影者は、表示装置に表示されるスプリットイメージにより合焦状態を確認することができる。また、図１１に示す画像生成処理は、マニュアルフォーカスモードで実行されるため、撮影者は、スプリットイメージを視認しながらフォーカスリング３０１を操作することによりピントのずれ量をゼロにすることができる。
【０１０４】
以上説明したように、撮像装置１００では、第１の画像信号の出力値と第２の画像信号の出力値とが比較される。そして、比較結果が閾値未満の場合に、通常画像に含まれる有彩色が、通常画像の位置に対応する位置の無彩色のスプリットイメージに付与され、これにより、有彩色のスプリットイメージが表示される。また、比較結果が閾値以上の場合に、無彩色のスプリットイメージが表示される。従って、撮像装置１００は、位相差を算出する場合と比べ、有彩色のスプリットイメージと無彩色のスプリットイメージとを即時的に切り替えることができる。
【０１０５】
また、撮像装置１００では、通常画像の表示領域内に無彩色のスプリットイメージと有彩色のスプリットイメージとが選択的に表示される。従って、撮像装置１００は、通常画像の表示領域内に無彩色のスプリットイメージと有彩色のスプリットイメージとが選択的に表示されない場合と比べ、合焦状態か否かを視覚的に容易に認識させることができる
【０１０６】
また、撮像装置１００では、差分絶対値が閾値未満か否かが判定される。従って、撮像装置１００は、差分絶対値を用いない場合と比べ、合焦状態か否かの高精度な判定を実現することができる。
【０１０７】
また、撮像装置１００では、シェーディング補正が施された第１の画像信号の出力値とシェーディング補正が施された第２の画像信号の出力値とを比較した比較結果が閾値未満か否かが判定される。従って、撮像装置１００は、シェーディング補正が施された第１及び第２の画像信号の出力値を用いない場合と比べ、合焦状態か否かの高精度な判定を実現することができる。
【０１０８】
また、撮像装置１００では、瞳分割方向と交差する方向に配置された一対の位相差画素における第１の画素信号の出力値と第２の画素信号の出力値とを比較した比較結果が閾値未満か否かが判定される。従って、撮像装置１００は、瞳分割方向と交差する方向に配置された一対の位相差画素における第１及び第２の画素信号の出力値を用いない場合と比べ、合焦状態か否かの高精度な判定を実現することができる。
【０１０９】
また、撮像装置１００では、通常画像から無彩色のスプリットイメージに対して色差信号Ｃｒ，Ｃｂによる彩度が付与されることで無彩色のスプリットイメージに対して有彩色が付与される。これにより、撮像装置１００は、通常画像から無彩色のスプリットイメージに対して色差信号Ｃｒ，Ｃｂによる彩度を付与しない場合と比べ、簡易な構成で、無彩色のスプリットイメージに対して有彩色を付与することができる。
【０１１０】
また、撮像装置１００では、比較結果が閾値未満の場合に比較結果が閾値から乖離するに従って、無彩色のスプリットイメージに付与される有彩色の強度が大きくなる。従って、撮像装置１００は、比較結果が閾値から乖離するに従って有彩色の強度を大きくしない場合と比べ、有彩色領域と無彩色領域との間の領域において緩やかな色変化を実現することができる。
【０１１１】
なお、上記第１実施形態では、差分絶対値が閾値未満か否かを判定することによりスプリットイメージに対する色情報の付与の要否を判定する場合を例示したが、本発明はこれに限定されるものではない。例えば、一対の位相差画素の一方の位相差画素の画素信号の出力値に対する他方の位相差画素の画素信号の割合が基準値から乖離している度合いを示す乖離度に基づいて判定してもよい。ここで、一方の位相差画素の画素信号の出力値に対する他方の位相差画素の画素信号の割合とは、例えば、ステップ４０６で取得された第１の画素信号の出力値に対する第２の画素信号の出力値の割合を指す。また、基準値とは、例えば、“１”を指す。この場合、例えば、一対の位相差画素の画素信号の出力値の割合が所定範囲内（例えば、０．８以上１．２以下の範囲内）であれば、スプリットイメージに対して色情報が付与され、所定範囲外であれば、スプリットイメージに対して色情報が付与されない。
【０１１２】
また、上記第１実施形態では、スプリットイメージに付与する有彩色の強度を調整するために、差分絶対値に応じて定まるゲイン（図１７参照）によってスプリットイメージに付与する彩度を調整する場合を例示したが、本発明はこれに限定されるものではない。例えば、差分絶対値が規格化された値に応じて定まるゲインによってスプリットイメージに付与する彩度を調整するようにしてもよい。この場合、例えば、通常画像の彩度Ｃ０を次の数式（１）を用いて彩度Ｃ１に変換し、変換して得た彩度Ｃ１をスプリットイメージの彩度として適用する（彩度Ｃ１をスプリットイメージに付加する）。なお、数式（１）において、“ΔＳ”とは、差分絶対値を指し、“Ａｖｇ”とは、位相差画素平均値（例えば、ステップ４０６で取得した第１の画素信号の出力値とステップ４０６で取得した第２の画素信号の出力値との平均値）を指す。また、“ａ”及び“ｂ”は微調整のための係数であり、固定値であってもよいし、可変値（例えば、タッチパネル２１６によって受け付けられた指示に応じてカスタマイズされる値）であってもよい。
【０１１３】
Ｃ１＝Ｃ０×（ａ＾（ΔＳ／Ａｖｇ）×ｂ）・・・・・（１）
【０１１４】
ここで、ａ＝０．１、ｂ＝１、閾値＝０．４とした場合、彩度Ｃ０に乗じるゲイン（＝ａ＾（ΔＳ／Ａｖｇ）×ｂ）は、一例として図１８に示すように“ΔＳ／Ａｖｇ”に応じて定まる値として予め定められている。図１８に示す例では、閾値が“０．４”に設定されているので、“ΔＳ／Ａｖｇ”が“０．４”以上の場合、彩度Ｃ０に対して“０”が乗じられる。この場合、無彩色のスプリットイメージには色情報が付与されないこととなる。これに対し、“ΔＳ／Ａｖｇ”が“０．４”未満の場合、“ΔＳ／Ａｖｇ”が小さいほど彩度Ｃ０に対して大きな値が乗じられる。この結果、“ΔＳ／Ａｖｇ”が小さいほど無彩色のスプリットイメージに対して付与される有彩色が鮮明に表れることとなる。なお、図１８に示すゲインと“ΔＳ／Ａｖｇ”との対応関係は、テーブル又は演算式として二次記憶部２６に予め記憶されており、テーブル又は演算式は、スプリットイメージに対して色情報を付与する際に制御部２８Ｃによって読み出されて用いられる。
【０１１５】
なお、図１８に示す例では、閾値が固定されているが、これに限らず、閾値を変動させてもよい。この場合、撮影条件に応じて閾値を定めるとよい。例えば、被写界深度は絞り値に応じて変化するので、絞り値が小さくなるに従って閾値を小さくするとよい。図１９及び図２０に示す例では、Ｆ値が３．５未満の場合の閾値は０．４であり、Ｆ値が３．５以上の場合の閾値は０．６である。従って、Ｆ値が３．５未満の場合（被写界深度が浅い場合）は、Ｆ値が３．５以上の場合（被写界深度が深い場合）よりもスプリットイメージに対して有彩色が付与され難くなる。そのため、Ｆ値を変えた場合であってもスプリットイメージに対して有彩色が付与される頻度とスプリットイメージに対して有彩色が付与されない頻度との均衡を図ることができる。
【０１１６】
図１９に示す例では、ΔＳ／Ａｖｇが閾値未満の場合のゲインの値は、Ｆ値が３．５未満の場合とＦ値が３．５以上の場合とで相違していないが、本発明はこれに限定されるものではない。すなわち、ΔＳ／Ａｖｇが閾値未満の場合のゲインの値は、Ｆ値が３．５未満の場合とＦ値が３．５以上の場合とで異なっていてもよい。例えば、図２０に示す例では、ΔＳ／Ａｖｇが閾値未満の場合のゲインの値は、Ｆ値が３．５未満の場合よりもＦ値が３．５以上の場合の方が大きい。これにより、Ｆ値が３．５以上の場合（被写界深度が深い場合）は、Ｆ値が３．５未満の場合（被写界深度が浅い場合）よりもスプリットイメージに対して付与される有彩色を鮮明に表すことが可能となる。
【０１１７】
閾値は、焦点距離に応じて定めてもよい。この場合、例えば、焦点距離に応じて被写界深度が変化するので、焦点距離が長くなるに従って閾値を小さくするとよい。図２１及び図２２に示す例では、焦点距離ｆが５０ミリメートル以上の場合の閾値は０．４であり、焦点距離ｆが５０ミリメートル未満の場合の閾値は０．６である。従って、焦点距離ｆが５０ミリメートル以上の場合（被写界深度が浅い場合）は、焦点距離ｆが５０ミリメートル未満の場合（被写界深度が深い場合）よりもスプリットイメージに対して有彩色が付与され難くなる。そのため、焦点距離ｆを変えた場合であってもスプリットイメージに対して有彩色が付与される頻度とスプリットイメージに対して有彩色が付与されない頻度との均衡を図ることができる。
【０１１８】
図２１に示す例では、ΔＳ／Ａｖｇが閾値未満の場合のゲインの値は、焦点距離ｆが５０ミリメートル以上の場合と焦点距離ｆが５０ミリメートル未満の場合とで相違していないが、本発明はこれに限定されるものではない。すなわち、ΔＳ／Ａｖｇが閾値未満の場合のゲインの値は、焦点距離ｆが５０ミリメートル以上の場合と焦点距離ｆが５０ミリメートル未満の場合とで異なっていてもよい。例えば、図２２に示す例では、ΔＳ／Ａｖｇが閾値未満の場合のゲインの値は、焦点距離ｆが５０ミリメートル以上の場合よりも焦点距離ｆが５０ミリメートル未満の場合の方が大きい。これにより、焦点距離ｆが５０ミリメートル未満の場合（被写界深度が深い場合）は、焦点距離ｆが５０ミリメートル以上の場合（被写界深度が浅い場合）よりもスプリットイメージに対して付与される有彩色を鮮明に表すことが可能となる。
【０１１９】
閾値は、露光時間（Ｔｖ（ｔｉｍｅ ｖａｌｕｅ）値）に応じて定めてもよい。この場合、例えば、露光時間に応じてノイズが変化するので、露光時間が長くなるに従って閾値を小さくするとよい。図２３及び図２４に示す例では、Ｔｖ値が６．０以上の場合の閾値は０．４であり、Ｔｖ値が６．０未満の場合の閾値は０．６である。従って、Ｔｖ値が６．０以上の場合（ノイズが多い場合）は、Ｔｖ値が６．０未満の場合（ノイズが少ない場合）よりもスプリットイメージに対して有彩色が付与され難くなる。そのため、Ｔｖ値を変えた場合であってもスプリットイメージに対して有彩色が付与される頻度とスプリットイメージに対して有彩色が付与されない頻度との均衡を図ることができる。
【０１２０】
図２３に示す例では、ΔＳ／Ａｖｇが閾値未満の場合のゲインの値は、Ｔｖ値が６．０以上の場合とＴｖ値が６．０未満の場合とで相違していないが、本発明はこれに限定されるものではない。すなわち、ΔＳ／Ａｖｇが閾値未満の場合のゲインの値は、Ｔｖ値が６．０以上の場合とＴｖ値が６．０未満の場合とで異なっていてもよい。例えば、図２４に示す例では、ΔＳ／Ａｖｇが閾値未満の場合のゲインの値は、Ｔｖ値が６．０以上の場合よりもＴｖ値が６．０未満の場合の方が大きい。これにより、Ｔｖ値が６．０未満の場合（ノイズが少ない場合）は、Ｔｖ値が６．０以上の場合（ノイズが多い場合）よりもスプリットイメージに対して付与される有彩色を鮮明に表すことが可能となる。
【０１２１】
なお、ノイズは、撮像素子２０のゲインに応じて変化する。従って、撮像素子２０のゲインが大きくなるに従って閾値を小さくするようにしてもよい。これにより、撮像素子２０のゲインが変化した場合であってもスプリットイメージに対して有彩色が付与される頻度とスプリットイメージに対して有彩色が付与されない頻度との均衡を図ることができる。
【０１２２】
また、上記第１実施形態では、差分絶対値からゲインを導出する場合を例示したが、第１の画素信号の出力値と第２の画素信号の出力値との差分（出力値差分）からゲインを導出してもよい。この場合、例えば、図２５に示すように、出力値差分とゲインとの対応関係を予め定めておき、出力値差分とゲインとの対応関係を示すテーブル又は演算式を用いて出力値差分からゲインを導出してもよい。
【０１２３】
また、上記第１実施形態では、比較結果が閾値未満の場合に差分絶対値に応じてゲインを調整することによりスプリットイメージに付与する有彩色の強度を調整する場合を例示したが、本発明はこれに限定されるものではない。例えば、比較結果が閾値未満の場合に、差分絶対値に拘わらず通常画像の彩度をスプリットイメージにそのまま付与してもよい。この場合、テーブル又は演算式を用いて差分絶対値に対応するゲインを導出する必要がないので、有彩色のスプリットイメージと無彩色のスプリットイメージとの切り替えをより一層迅速に行うことが可能となる。
【０１２４】
また、上記第１実施形態では、一対の位相差画素毎に第１の画素信号の出力値と第２の画素信号の出力値とを比較する場合を例示したが、本発明はこれに限定されるものではない。例えば、第１の画素群に含まれる全ての第１の画素Ｌから出力される第１の画素信号の平均出力値と第２の画素群に含まれる全ての第２の画素Ｒから出力される第２の画素信号の平均出力値とを比較してもよい。また、全ての位相差画素について出力値の比較を行うのではなく、一部の位相差画素を対象にして出力値の比較を行うようにしてもよい。この場合、例えば、第１の画素群の一部の領域である第１領域から出力される第１の画素Ｌの画素信号の平均出力値と第２の画素群における第２領域（第１領域の位置に対応する位置の領域）から出力される第２の画素Ｒの画素信号の平均出力値とを比較してもよい。また、例えば、第１の画素群の中央部の第１の画素Ｌから出力される第１の画素信号の出力値と第２の画素群の中央部の第２の画素Ｒから出力される第２の画素信号の出力値とを比較してもよい。
【０１２５】
また、上記第１実施形態では、スプリットイメージに対して色情報を付与する場合を例示したが、これに限らず、スプリットイメージが生成される前の左眼画像及び右眼画像に対して色情報を付与するようにもよい。この場合、シェーディング補正が施された第１の画像信号により示される左眼画像、及びシェーディング補正が施された第２の画像信号により示される右眼画像に対して色情報を付与することが好ましい。
【０１２６】
また、上記第１実施形態で説明した画像生成処理の流れ（図１１参照）はあくまでも一例である。従って、主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよいことは言うまでもない。また、上記第１実施形態で説明した画像生成処理に含まれる各処理は、プログラムを実行することにより、コンピュータを利用してソフトウェア構成により実現されてもよい。また、上記第１実施形態で説明した画像生成処理に含まれる各処理は、ＡＳＩＣやプログラマブルロジックデバイス等のハードウェア構成で実現されてもよいし、ハードウェア構成とソフトウェア構成の組み合わせによって実現してもよい。
【０１２７】
上記第１実施形態で説明した画像生成処理を、コンピュータによりプログラムを実行することにより実現する場合は、プログラムを所定の記憶領域（例えば二次記憶部２６）に予め記憶しておけばよい。なお、必ずしも最初から二次記憶部２６に記憶させておく必要はない。例えば、コンピュータに接続されて使用されるＳＳＤ（Solid State Drive）、ＣＤ−ＲＯＭ、ＤＶＤディスク、光磁気ディスク、ＩＣカードなどの任意の可搬型の記憶媒体に先ずはプログラムを記憶させておいてもよい。そして、コンピュータがこれらの可搬型の記憶媒体からプログラムを取得して実行するようにしてもよい。また、インターネットやＬＡＮ（Local Area Network）などを介してコンピュータに接続される他のコンピュータまたはサーバ装置などに各プログラムを記憶させておき、コンピュータがこれらからプログラムを取得して実行するようにしてもよい。
【０１２８】
また、上記第１実施形態で説明した画像生成処理に含まれる各処理をソフトウェア構成により実現するには、例えば、ＣＰＵ１２が画像生成処理プログラムを実行することにより撮像装置１００で画像生成処理が行われるようにすればよい。ここで、画像生成処理プログラムは二次記憶部２６に記憶されていればよく、ＣＰＵ１２は、二次記憶部２６から画像生成処理プログラムを読み出し、一次記憶部２５に展開してから実行すればよい。この場合、ＣＰＵ１２は、画像生成処理プログラムを実行することで図７に示す通常画像生成部２８Ａ、スプリットイメージ生成部２８Ｂ、及び制御部２８Ｃと同様に動作する。
【０１２９】
また、上記第１実施形態では、第１〜第３の画素群を有する撮像素子２０を例示したが、本発明はこれに限定されるものではなく、第１の画素群及び第２の画素群のみからなる撮像素子であってもよい。この種の撮像素子を有するデジタルカメラは、第１の画素群から出力された第１の画像及び第２の画素群から出力された第２の画像に基づいて３次元画像（３Ｄ画像）を生成することができるし、２次元画像（２Ｄ画像）も生成することができる。この場合、２次元画像の生成は、例えば第１の画像及び第２の画像の相互における同色の画素間で補間処理を行うことで実現される。また、補間処理を行わずに、第１の画像又は第２の画像を２次元画像として採用してもよい。
【０１３０】
また、上記第１実施形態では、第１〜第３の画像が画像処理部２８に入力された場合に通常画像とスプリットイメージとの双方が表示装置の同画面に同時に表示される態様を例示したが、本発明はこれに限定されるものではない。例えば、表示制御部３６が、表示装置に対する通常画像の動画像としての連続した表示を抑止し、且つ、表示装置に対してスプリットイメージを動画像として連続して表示させる制御を行うようにしてもよい。ここで言う「通常画像の表示を抑止する」とは、例えば表示装置に対して通常画像を表示させないことを指す。具体的には、通常画像を生成するものの表示装置に通常画像を出力しないことで表示装置に対して通常画像を表示させないことや通常画像を生成しないことで表示装置に対して通常画像を表示させないことを指す。表示装置の画面全体を利用してスプリットイメージを表示させてもよいし、一例として図９に示すスプリットイメージの表示領域の全体を利用してスプリットイメージを表示させてもよい。
【０１３１】
また、通常画像の表示を抑止してスプリットイメージを表示させるための条件としては、様々な条件が考えられる。例えば、スプリットイメージの表示が指示されている状態で通常画像の表示指示が解除された場合に表示制御部３６が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。また、例えば、撮影者がハイブリッドファインダーを覗きこんだ場合に表示制御部３６が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。また、例えば、レリーズボタン２１１が半押し状態にされた場合に表示制御部３６が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。また、例えば、レリーズボタン２１１に対して押圧操作が行われていない場合に表示制御部３６が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。また、例えば、被写体の顔を検出する顔検出機能を働かせた場合に表示制御部３６が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。なお、ここでは、表示制御部３６が通常画像の表示を抑止する変形例を挙げたが、これに限らず、例えば、表示制御部３６は、通常画像に全画面のスプリットイメージを上書き表示するように制御を行ってもよい。
【０１３２】
また、上記第１実施形態で説明した撮像装置１００は、被写界深度を確認する機能（被写界深度確認機能）を有していてもよい。この場合、例えば撮像装置１００は被写界深度確認キーを有する。被写界深度確認キーは、ハードキーであってもよいし、ソフトキーであってもよい。ハードキーによる指示の場合は、例えばモーメンタリ動作型のスイッチ（非保持型スイッチ）を適用することが好ましい。ここで言うモーメンタリ動作型のスイッチとは、例えば所定位置に押し込まれている間だけ撮像装置１００における特定の動作状態を維持するスイッチを指す。ここで、被写界深度確認キーは、押下されると絞り値が変更される。また、被写界深度確認キーに対する押下が継続して行われている間（所定位置に押し込まれている間）、絞り値は限界値に達するまで変化し続ける。このように、被写界深度確認キーの押下中は、絞り値が変化するため、スプリットイメージを得るために必要な位相差が得られない場合がある。そこで、スプリットイメージが表示されている状態で、被写界深度確認キーが押下された場合、押下中はスプリットイメージから通常のライブビュー表示に変更するようにしてもよい。また、押下状態が解除された際に再度スプリットイメージを表示させるように画面の切り替えをＣＰＵ１２が行うようにしてもよい。なお、ここでは、被写界深度確認キーの一例としてモーメンタリ動作型のスイッチを適用した場合を例示したが、これに限らず、オルタネイト動作型のスイッチ（保持型スイッチ）を適用してもよい。
【０１３３】
［第２実施形態］
上記第１実施形態では、第１の画素信号の出力値と第２の画素信号の出力値とを比較する場合について説明したが、本第２実施形態では、第１の画素信号の平均出力値と第２の画素信号の平均出力値とを比較する場合について説明する。なお、本第２実施形態では、上記第１実施形態で説明した構成要素については、同一の符号を付し、説明を省略する。
【０１３４】
本第２実施形態に係る撮像装置１００Ａは、上記第１実施形態に係る撮像装置１００と比べ、撮像素子２０に代えて、一例として図２７に示す撮像素子２０Ｃを有する点が異なる。撮像素子２０Ｃは、撮像素子２０と比べ、行方向及び列方向の各々において第１の画素Ｌと第２の画素Ｒとが交互に配置される点は共通しているが、行方向及び列方向の各々における位相差画素の配置間隔が異なる。すなわち、撮像素子２０では、行方向において同種の位相差画素が６画素につき１画素ずつ配置されているのに対し、撮像素子２０Ｃでは、行方向において同種の位相差画素が５画素につき１画素ずつ配置されている。また、撮像素子２０では、列方向において同種の位相差画素が６画素につき１画素ずつ配置されているのに対し、撮像素子２０Ｃでは、列方向において同種の位相差画素が５画素につき１画素ずつ配置されている。
【０１３５】
本第２実施形態に係る撮像装置１００Ａは、上記第１実施形態に係る撮像装置１００と比べ、画像処理部２８によって図１１に示す画像生成処理が行われることに代えて、画像処理部２８によって図２６に示す画像生成処理が行われる点が異なる。図２６に示す画像生成処理は、図１１に示す画像生成処理と比べ、ステップ４０６〜４１２に代えてステップ７００〜ステップ７１０を有する点が異なる。
【０１３６】
図２６に示す画像生成処理では、ステップ７００で、制御部２８Ｃは、一例として図２７に示すように、撮像素子２０を分割して得た複数の分割領域６００のうちの注目すべき分割領域６００（以下、「注目分割領域」という）を設定する。ここで、「注目分割領域」とは、未だにステップ７０２の処理対象とされていない分割領域６００を指す。分割領域６００とは、例えば、撮像素子２０がＭ×Ｍの行列状（例えば、８×８の行列状）に分割されて得た各領域（図２７に示す例では、太実線で囲まれた領域）を指す。ここで、“Ｍ”とは、２以上の自然数を指す。
【０１３７】
分割領域６００は、一例として図２７に示すように、第１の画素Ｌ、第２の画素Ｒ、及び通常画素Ｎが所定規則に従って配置された行列状の画素群（本発明に係る分割画素群の一例（図２７に示す例では、５×５の行列状））である。分割領域６００は、一対の位相差画素を複数組（図２７に示す例では、２組）含む。分割領域６００に含まれる一対の位相差画素は、瞳分割方向に対して直交する方向で隣り合う第１の画素Ｌおよび第２の画素Ｒである。すなわち、行方向について位置が揃っている一対の第１の画素Ｌ及び第２の画素Ｒ（列方向で隣り合う第１の画素Ｌ及び第２の画素Ｒ）である。
【０１３８】
次のステップ７０２で、制御部２８Ｃは、ステップ７００で設定した注目分割領域に含まれる全ての第１の画素Ｌから出力された第１の画素信号を取得し、取得した全ての第１の画素信号の平均出力値を算出し、その後、ステップ７０４へ移行する。なお、本ステップ７０２で取得される第１の画素信号は、ステップ４０２でシェーディング補正が施された第２の画像信号である。また、図２７に示す例では、１つの分割領域６００（注目分割領域）から２つの第１の画素Ｌの各々から出力された第１の画素信号の平均出力値が算出されることとなる。
【０１３９】
ステップ７０４で、制御部２８Ｃは、ステップ７００で設定した注目分割領域に含まれる全ての第２の画素Ｒから出力された第２の画素信号を取得し、取得した全ての第２の画素信号の平均出力値を算出し、その後、ステップ７０６へ移行する。なお、本ステップ７０４で取得される第２の画素信号は、ステップ４０２でシェーディング補正が施された第２の画像信号である。また、図２７に示す例では、１つの分割領域６００（注目分割領域）から２つの第２の画素Ｒの各々から出力された第２の画素信号の平均出力値が算出されることとなる。
【０１４０】
ステップ７０６で、制御部２８Ｃは、ステップ７０２で算出した第１の画素信号の平均出力値とステップ７０４で算出した第２の画素信号の平均出力値とを比較した比較結果が閾値未満か否かを判定する。なお、ここでは、比較結果の一例として、ステップ７０２で取得した第１の画素信号の平均出力値とステップ７０４で取得した第２の画素信号の平均出力値との差分の絶対値を採用している。
【０１４１】
ステップ７０６においてステップ７０２で算出した第１の画素信号の平均出力値とステップ７０４で算出した第２の画素信号の平均出力値とを比較した比較結果が閾値未満の場合は、判定が肯定されて、ステップ７０８へ移行する。ステップ７０６においてステップ７０２で算出した第１の画素信号の平均出力値とステップ７０４で算出した第２の画素信号の平均出力値とを比較した比較結果が閾値以上の場合は、判定が否定されて、ステップ７１０へ移行する。
【０１４２】
ステップ７０８で、制御部２８Ｃは、ステップ７０２で取得した第１の画素信号及びステップ７０４で取得した第２の画素信号の各々の位相差画素の位置に対応する位置の通常画像の色情報を、所定の記憶領域に記憶されているスプリットイメージに付与する。
【０１４３】
次のステップ７１０で、制御部２８Ｃは、全ての分割領域６００についてステップ７００の処理を実行したか否かを判定する。ステップ７１０において、全ての分割領域６００についてステップ７００の処理を実行していない場合は、判定が否定されて、ステップ７００へ移行する。ステップ７１０において、全ての分割領域６００についてステップ７００の処理を実行した場合は、判定が肯定されて、ステップ４１４へ移行する。
【０１４４】
以上説明したように、撮像装置１００Ａでは、分割領域６００の各々において第１の画素信号の平均出力値と第２の画素信号の平均出力値とを比較した比較結果が閾値未満か否かが判定される。従って、撮像装置１００Ａは、分割領域６００の各々において比較結果が閾値未満か否かを判定しない場合と比べ、合焦状態か否かの高精度な判定を実現することができる。
【０１４５】
なお、上記第２実施形態では、分割領域６００の各々において第１の画素信号の平均出力値と第２の画素信号の平均出力値とを比較した比較結果が閾値未満か否かを判定する場合を例示したが、本発明はこれに限定されるものではない。例えば、分割領域６００の各々において第１の画素信号の出力値の中央値と第２の画素信号の出力値の中央値とを比較した比較結果が閾値未満か否かを判定するようにしてもよい。分割領域６００の各々において第１の画素信号の出力値の最頻値と第２の画素信号の出力値の最頻値とを比較した比較結果が閾値未満か否かを判定するようにしてもよい。また、分割領域６００の各々において第１の画素信号の出力値の代表値と第２の画素信号の出力値の代表値を比較した比較結果が閾値未満か否かを判定するようにしてもよい。ここで、第１の画素信号の出力値の代表値の一例としては、分割領域６００内の特定位置に存在する第１の画素Ｌから出力された第１の画素信号の出力値が挙げられる。また、第２の画素信号の出力値の代表値の一例としては、分割領域６００内の特定位置に存在する第２の画素Ｒから出力された第２の画素信号の出力値が挙げられる。
【０１４６】
また、上記第２実施形態では、比較結果の一例として、ステップ７０２で取得した第１の画素信号の平均出力値とステップ７０４で取得した第２の画素信号の平均出力値との差分の絶対値を採用しているが、本発明はこれに限定されるものではない。例えば、ステップ７０２で取得した第１の画素信号の平均出力値及びステップ７０４で取得した第２の画素信号の平均出力値の一方の平均出力値に対する他方の平均出力値の割合であってもよい。この場合、例えば、一方の平均出力値に対する他方の平均出力値の割合が基準値（例えば、１）から乖離している度合いを示す乖離度に基づいてスプリットイメージに色情報を付与するか否かを判定するようにすればよい。
【０１４７】
［第３実施形態］
上記各実施形態では、撮像装置１００，１００Ａを例示したが、撮像装置１００，１００Ａの変形例である携帯端末装置としては、例えばカメラ機能を有する携帯電話機やスマートフォンなどが挙げられる。この他にも、ＰＤＡ（Personal Digital Assistants）や携帯型ゲーム機などが挙げられる。本第３実施形態では、スマートフォンを例に挙げ、図面を参照しつつ、詳細に説明する。
【０１４８】
図２８は、スマートフォン５００の外観の一例を示す斜視図である。図２８に示すスマートフォン５００は、平板状の筐体５０２を有し、筐体５０２の一方の面に表示部としての表示パネル５２１と、入力部としての操作パネル５２２とが一体となった表示入力部５２０を備えている。また、筐体５０２は、スピーカ５３１と、マイクロホン５３２と、操作部５４０と、カメラ部５４１とを備えている。なお、筐体５０２の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド構造を有する構成を採用したりすることもできる。
【０１４９】
図２９は、図２８に示すスマートフォン５００の構成の一例を示すブロック図である。図２９に示すように、スマートフォン５００の主たる構成要素として、無線通信部５１０と、表示入力部５２０と、通信部５３０と、操作部５４０と、カメラ部５４１と、記憶部５５０と、外部入出力部５６０と、を備える。また、スマートフォン５００の主たる構成要素として、ＧＰＳ（Global Positioning System）受信部５７０と、モーションセンサ部５８０と、電源部５９０と、主制御部５０１と、を備える。また、スマートフォン５００の主たる機能として、基地局装置ＢＳと移動通信網ＮＷとを介した移動無線通信を行う無線通信機能を備える。
【０１５０】
無線通信部５１０は、主制御部５０１の指示に従って、移動通信網ＮＷに収容された基地局装置ＢＳに対して無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Ｗｅｂデータやストリーミングデータなどの受信を行う。
【０１５１】
表示入力部５２０は、いわゆるタッチパネルであって、表示パネル５２１と、操作パネル５２２とを備える。そのため、表示入力部５２０は、主制御部５０１の制御により、画像（静止画像および動画像）や文字情報などを表示して視覚的にユーザに情報を伝達し、且つ、表示した情報に対するユーザ操作を検出する。なお、生成された３Ｄを鑑賞する場合には、表示パネル５２１は、３Ｄ表示パネルであることが好ましい。
【０１５２】
表示パネル５２１は、ＬＣＤ、ＯＥＬＤ(Organic Electro-Luminescence Display)などを表示デバイスとして用いたものである。操作パネル５２２は、表示パネル５２１の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。係るデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部５０１に出力する。次いで、主制御部５０１は、受信した検出信号に基づいて、表示パネル５２１上の操作位置（座標）を検出する。
【０１５３】
図２９に示すように、スマートフォン５００の表示パネル５２１と操作パネル５２２とは一体となって表示入力部５２０を構成しているが、操作パネル５２２が表示パネル５２１を完全に覆うような配置となっている。この配置を採用した場合、操作パネル５２２は、表示パネル５２１外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル５２２は、表示パネル５２１に重なる重畳部分についての検出領域（以下、表示領域と称する）と、それ以外の表示パネル５２１に重ならない外縁部分についての検出領域（以下、非表示領域と称する）とを備えていてもよい。
【０１５４】
なお、表示領域の大きさと表示パネル５２１の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル５２２が、外縁部分と、それ以外の内側部分の２つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体５０２の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル５２２で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
【０１５５】
通信部５３０は、スピーカ５３１やマイクロホン５３２を備える。通信部５３０は、マイクロホン５３２を通じて入力されたユーザの音声を主制御部５０１にて処理可能な音声データに変換して主制御部５０１に出力する。また、通信部５３０は、無線通信部５１０あるいは外部入出力部５６０により受信された音声データを復号してスピーカ５３１から出力する。また、図２８に示すように、例えば、スピーカ５３１を表示入力部５２０が設けられた面と同じ面に搭載し、マイクロホン５３２を筐体５０２の正面下部に搭載することができる。
【０１５６】
操作部５４０は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図２８に示すように、操作部５４０は、スマートフォン５００の筐体５０２の正面下部に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
【０１５７】
記憶部５５０は、主制御部５０１の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータを記憶する。また、記憶部５５０は、ＷｅｂブラウジングによりダウンロードしたＷｅｂデータや、ダウンロードしたコンテンツデータを記憶する。また、記憶部５５０は、ストリーミングデータなどを一時的に記憶する。また、記憶部５５０は、スマートフォン内蔵の内部記憶部５５１と着脱自在な外部メモリスロットを有する外部記憶部５５２を有する。なお、記憶部５５０を構成するそれぞれの内部記憶部５５１と外部記憶部５５２は、フラッシュメモリタイプ（flash memory type）、ハードディスクタイプ
（hard disk type）などの格納媒体を用いて実現される。格納媒体としては、この他にも、マルチメディアカードマイクロタイプ（multimedia card micro type）、カードタイプのメモリ（例えば、ＭｉｃｒｏＳＤ（登録商標）メモリ等）、ＲＡＭ（Random Access Memory）、ＲＯＭ（Read Only Memory）が例示できる。
【０１５８】
外部入出力部５６０は、スマートフォン５００に連結される全ての外部機器とのインタフェースの役割を果たすものであり、他の外部機器に通信等又はネットワークにより直接的又は間接的に接続するためのものである。他の外部機器に通信等としては、例えば、ユニバーサルシリアルバス（ＵＳＢ）、ＩＥＥＥ１３９４などが挙げられる。ネットワークとしては、例えば、インターネット、無線ＬＡＮ、ブルートゥース（Bluetooth（登録商標））、ＲＦＩＤ（Radio Frequency Identification）、赤外線通信（Infrared Data Association：ＩｒＤＡ（登録商標））が挙げられる。また、ネットワークの他の例としては、ＵＷＢ（Ultra Wideband（登録商標））、ジグビー（ZigBee（登録商標））などが挙げられる。
【０１５９】
スマートフォン５００に連結される外部機器としては、例えば、有／無線ヘッドセット、有／無線外部充電器、有／無線データポート、カードソケットを介して接続されるメモリカード（Memory card）が挙げられる。外部機器の他の例としては、ＳＩＭ(SubscriberIdentity Module Card)／ＵＩＭ(User Identity Module Card)カード、オーディオ・ビデオＩ／Ｏ（Input/Output）端子を介して接続される外部オーディオ・ビデオ機器が挙げられる。外部オーディオ・ビデオ機器の他にも、無線接続される外部オーディオ・ビデオ機器が挙げられる。また、外部オーディオ・ビデオ機器に代えて、例えば有／無線接続されるスマートフォン、有／無線接続されるパーソナルコンピュータ、有／無線接続されるＰＤＡ、有／無線接続されるパーソナルコンピュータ、イヤホンなども適用可能である。
【０１６０】
外部入出力部５６０は、このような外部機器から伝送を受けたデータをスマートフォン５００の内部の各構成要素に伝達することや、スマートフォン５００の内部のデータが外部機器に伝送されるようにすることができる。
【０１６１】
ＧＰＳ受信部５７０は、主制御部５０１の指示にしたがって、ＧＰＳ衛星ＳＴ１〜ＳＴｎから送信されるＧＰＳ信号を受信し、受信した複数のＧＰＳ信号に基づく測位演算処理を実行し、当該スマートフォン５００の緯度、経度、高度からなる位置を検出する。ＧＰＳ受信部５７０は、無線通信部５１０や外部入出力部５６０（例えば、無線ＬＡＮ）から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
【０１６２】
モーションセンサ部５８０は、例えば、３軸の加速度センサなどを備え、主制御部５０１の指示にしたがって、スマートフォン５００の物理的な動きを検出する。スマートフォン５００の物理的な動きを検出することにより、スマートフォン５００の動く方向や加速度が検出される。この検出結果は、主制御部５０１に出力されるものである。
【０１６３】
電源部５９０は、主制御部５０１の指示にしたがって、スマートフォン５００の各部に、バッテリ（図示省略）に蓄えられる電力を供給するものである。
【０１６４】
主制御部５０１は、マイクロプロセッサを備え、記憶部５５０が記憶する制御プログラムや制御データにしたがって動作し、スマートフォン５００の各部を統括して制御するものである。また、主制御部５０１は、無線通信部５１０を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
【０１６５】
アプリケーション処理機能は、記憶部５５０が記憶するアプリケーションソフトウェアにしたがって主制御部５０１が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部５６０を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Ｗｅｂページを閲覧するＷｅｂブラウジング機能などがある。
【０１６６】
また、主制御部５０１は、受信データやダウンロードしたストリーミングデータなどの画像データ（静止画像や動画像のデータ）に基づいて、映像を表示入力部５２０に表示する等の画像処理機能を備える。画像処理機能とは、主制御部５０１が、上記画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部５２０に表示する機能のことをいう。
【０１６７】
更に、主制御部５０１は、表示パネル５２１に対する表示制御と、操作部５４０、操作パネル５２２を通じたユーザ操作を検出する操作検出制御とを実行する。
【０１６８】
表示制御の実行により、主制御部５０１は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトキーを表示したり、あるいは電子メールを作成したりするためのウィンドウを表示する。なお、スクロールバーとは、表示パネル５２１の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトキーのことをいう。
【０１６９】
また、操作検出制御の実行により、主制御部５０１は、操作部５４０を通じたユーザ操作を検出したり、操作パネル５２２を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたりする。また、操作検出制御の実行により、主制御部５０１は、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
【０１７０】
更に、操作検出制御の実行により主制御部５０１は、操作パネル５２２に対する操作位置が、表示パネル５２１に重なる重畳部分（表示領域）か、それ以外の表示パネル５２１に重ならない外縁部分（非表示領域）かを判定する。そして、この判定結果を受けて、操作パネル５２２の感応領域や、ソフトキーの表示位置を制御するタッチパネル制御機能を備える。
【０１７１】
また、主制御部５０１は、操作パネル５２２に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも１つについて軌跡を描く操作を意味する。
【０１７２】
カメラ部５４１は、ＣＭＯＳやＣＣＤなどの撮像素子を用いて撮影するデジタルカメラであり、図１等に示す撮像装置１００と同様の機能を備えている。
【０１７３】
また、カメラ部５４１は、マニュアルフォーカスモードとオートフォーカスモードとを切り替え可能である。マニュアルフォーカスモードが選択されると、操作部５４０又は表示入力部５２０に表示されるフォーカス用のアイコンボタン等を操作することにより、カメラ部５４１の撮影レンズのピント合わせを行うことができる。また、マニュアルフォーカスモード時には、スプリットイメージが合成されたライブビュー画像を表示パネル５２１に表示させ、これによりマニュアルフォーカス時の合焦状態を確認できるようにしている。なお、図１０に示すハイブリッドファインダー２２０をスマートフォン５００に設けるようにしてもよい。
【０１７４】
また、カメラ部５４１は、主制御部５０１の制御により、撮影によって得た画像データを例えばＪＰＥＧ(Joint Photographic coding Experts Group)などの圧縮した画像データに変換する。そして、変換して得た画像データを記憶部５５０に記録したり、外部入出力部５６０や無線通信部５１０を通じて出力することができる。図２９に示すにスマートフォン５００において、カメラ部５４１は表示入力部５２０と同じ面に搭載されているが、カメラ部５４１の搭載位置はこれに限らず、表示入力部５２０の背面に搭載されてもよいし、あるいは、複数のカメラ部５４１が搭載されてもよい。なお、複数のカメラ部５４１が搭載されている場合には、撮影に供するカメラ部５４１を切り替えて単独にて撮影したり、あるいは、複数のカメラ部５４１を同時に使用して撮影したりすることもできる。
【０１７５】
また、カメラ部５４１はスマートフォン５００の各種機能に利用することができる。例えば、表示パネル５２１にカメラ部５４１で取得した画像を表示することや、操作パネル５２２の操作入力のひとつとして、カメラ部５４１の画像を利用することができる。また、ＧＰＳ受信部５７０が位置を検出する際に、カメラ部５４１からの画像を参照して位置を検出することもできる。更には、カメラ部５４１からの画像を参照して、３軸の加速度センサを用いずに、或いは、３軸の加速度センサと併用して、スマートフォン５００のカメラ部５４１の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部５４１からの画像をアプリケーションソフトウェア内で利用することもできる。
【０１７６】
その他、静止画又は動画の画像データに各種情報を付加して記憶部５５０に記録したり、外部入出力部５６０や無線通信部５１０を通じて出力したりすることもできる。ここで言う「各種情報」としては、例えば、静止画又は動画の画像データにＧＰＳ受信部５７０により取得した位置情報、マイクロホン５３２により取得した音声情報（主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい）が挙げられる。この他にも、モーションセンサ部５８０により取得した姿勢情報等などであってもよい。
【０１７７】
なお、上記各実施形態では、第１の画素Ｌと第２の画素Ｒとを行方向及び列方向の各方向において所定画素数おきに交互に配置する場合を例示したが、本発明はこれに限定されるものではない。例えば、図３０に示すように、行方向については第１の画素Ｌと第２の画素Ｒとを所定画素数おきに交互に配置し、列方向については隣接する第１の画素Ｌ及び第２の画素Ｒを所定画素数おきに配置してもよい。この場合、第１の画素Ｌ及び第２の画素Ｒの位置を、第１の画素群と第２の画素群との間で列方向及び行方向の少なくとも一方について所定画素数内で揃えることが好ましい。なお、図３０に示す例では、第１の画素Ｌと第２の画素Ｒとを、第１の画素群と第２の画素群との間で列方向及び行方向の各々についての位置を１画素内で揃えた位置に配置した例が示されている。
【０１７８】
上記各実施形態では、原色（Ｒフィルタ，Ｇフィルタ，Ｂフィルタ）の配列をベイヤ配列としたカラーフィルタ２１（図４参照）を例示したが、本発明はこれに限定されるものではない。例えば、カラーフィルタ２１に代えて、図３１に示すカラーフィルタ２１Ｄを用いてもよい。図３１には、カラーフィルタ２１Ｄの原色（Ｒフィルタ，Ｇフィルタ，Ｂフィルタ）の配列及び遮光部材の配置の一例が模式的に示されている。図３０に示すカラーフィルタ２１Ｄでは、第１〜第４の行配列が列方向について繰り返し配置されている。第１の行配列とは、行方向に沿ってＢフィルタ及びＧフィルタが交互に配置された配列を指す。第２の行配列とは、第１の行配列を行方向に半ピッチ（半画素分）ずらした配列を指す。第３の行配列とは、行方向に沿ってＧフィルタ及びＲフィルタが交互に配置された配列を指す。第４の行配列とは、第３の行配列を行方向に半ピッチずらした配列を指す。
【０１７９】
第１の行配列及び第２の行配列は列方向について半ピッチずれて隣接している。第２の行配列及び第３の行配列も列方向について半ピッチずれて隣接している。第３の行配列及び第４の行配列も列方向について半ピッチずれて隣接している。第４の行配列及び第１の行配列も列方向について半ピッチずれて隣接している。従って、第１〜４の行配列の各々は、列方向について２画素毎に繰り返し現れる。
【０１８０】
第１の画素Ｌ及び第２の画素Ｒは、一例として図３１に示すように、第３及び第４の行配列に対して割り当てられている。すなわち、第１の画素Ｌは、第３の行配列に対して割り当てられており、第２の画素Ｒは、第４の行配列に対して割り当てられている。また、第１の画素Ｌ及び第２の画素Ｒは、互いに隣接して（最小ピッチ）で対になって配置されている。また、図３１に示す例では、第１の画素Ｌは、行方向及び列方向の各々について６画素毎に割り当てられており、第２の画素Ｒも、行方向及び列方向の各々について６画素毎に割り当てられている。
【０１８１】
また、図３１に示す例では、第１の画素Ｌ及び第２の画素ＲにはＧフィルタが割り当てられている。Ｇフィルタが設けられた画素は他色のフィルタが設けられた画素に比べ感度が良いため、補間精度を高めることができる。しかも、Ｇフィルタは、他色のフィルタに比べ、連続性があるため、Ｇフィルタが割り当てられた画素は他色のフィルタが割り当てられた画素に比べ補間がし易くなる。
【０１８２】
また、上記各実施形態では、上下方向に４分割されたスプリットイメージを例示したが、これに限らず、斜め方向又は左右方向に複数分割された画像をスプリットイメージとして適用してもよい。
【０１８３】
例えば、図３２に示すスプリットイメージ６６ｂは、行方向に傾き角を有する分割線６３ｂ（例えば、スプリットイメージ６６ｂの対角線）により２分割されている。このスプリットイメージ６６ｂでは、第１の画素群から出力された出力信号に基づき生成された位相差画像６６Ｌｂが一方の領域に表示される。また、第２の画素群から出力された出力信号に基づき生成された位相差画像６６Ｒｂが他方の領域に表示される。
【０１８４】
また、図３３Ａ及び図３３Ｂに示すスプリットイメージ６６ｃは、行方向及び列方向にそれぞれ平行な格子状の分割線６３ｃにより分割されている。スプリットイメージ６６ｃでは、第１の画素群から出力された出力信号に基づき生成された位相差画像６６Ｌｃが市松模様（チェッカーパターン）状に並べられて表示される。また、第２の画素群から出力された出力信号に基づき生成された位相差画像６６Ｒｃが市松模様状に並べられて表示される。
【０１８５】
更に、スプリットイメージに限らず、２つの位相差画像から他の合焦確認画像を生成し、合焦確認画像を表示するようにしてもよい。例えば、２つの位相差画像を重畳して合成表示し、ピントがずれている場合は２重像として表示され、ピントが合った状態ではクリアに画像が表示されるようにしてもよい。
【符号の説明】
【０１８６】
１６  撮影レンズ
２０，２０Ｃ  撮像素子
２８Ａ  通常画像生成部
２８Ｂ  スプリットイメージ生成部
２８Ｃ  制御部
３６  表示制御部
１００，１００Ａ  撮像装置
２１５  第１ディスプレイ
２４７  第２ディスプレイ
【図１】
0005972485.tif 000002
【図２】
0005972485.tif 000003
【図３】
0005972485.tif 000004
【図４】
0005972485.tif 000005
【図５】
0005972485.tif 000006
【図６】
0005972485.tif 000007
【図７】
0005972485.tif 000008
【図８】
0005972485.tif 000009
【図９】
0005972485.tif 000010
【図１０】
0005972485.tif 000011
【図１１】
0005972485.tif 000012
【図１２】
0005972485.tif 000013
【図１３】
0005972485.tif 000014
【図１４】
0005972485.tif 000015
【図１５】
0005972485.tif 000016
【図１６】
0005972485.tif 000017
【図１７】
0005972485.tif 000018
【図１８】
0005972485.tif 000019
【図１９】
0005972485.tif 000020
【図２０】
0005972485.tif 000021
【図２１】
0005972485.tif 000022
【図２２】
0005972485.tif 000023
【図２３】
0005972485.tif 000024
【図２４】
0005972485.tif 000025
【図２５】
0005972485.tif 000026
【図２６】
0005972485.tif 000027
【図２７】
0005972485.tif 000028
【図２８】
0005972485.tif 000029
【図２９】
0005972485.tif 000030
【図３０】
0005972485.tif 000031
【図３１】
0005972485.tif 000032
【図３２】
0005972485.tif 000033
【図３３Ａ】
0005972485.tif 000034
【図３３Ｂ】
0005972485.tif 000035