(57)【要約】  合焦確認用の画像に含まれる境界領域を視覚的に認識し易くすることができる画像処理装置、撮像装置、画像処理方法及び画像処理プログラムを提供する。  生成部２８Ｂは、撮像素子から出力された画像信号に基づいて第１の表示用画像を生成し、且つ、第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成する。補正部２８Ｃは、第２の表示用画像における空間周波数特性及び第２の表示用画像における画素値のヒストグラムの極値の少なくとも一方に基づいて定まる階調補正情報に従って第２の表示用画像の階調を補正する。
2014155812.tif 000002
【特許請求の範囲】
【請求項１】
撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第１及び第２の画像信号を出力する第１及び第２の画素群を有する撮像素子から出力された前記第１及び第２の画像信号に基づく第１及び第２の画像を取得する画像取得部と、
前記撮像素子から出力された画像信号に基づいて第１の表示用画像を生成し、且つ、前記第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成する生成部と、
前記第２の表示用画像における空間周波数特性及び前記第２の表示用画像における画素値のヒストグラムの極値の少なくとも一方に基づいて定まる階調補正情報に従って前記第２の表示用画像の階調を補正する補正部と、
画像を表示する表示部と、
前記表示部に対して、前記生成部により生成された前記第１の表示用画像を表示させ、且つ、前記第１の表示用画像の表示領域内に、前記補正部により階調が補正された前記第２の表示用画像を表示させる制御を行う表示制御部と、
を含む画像処理装置。
【請求項２】
撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第１及び第２の画像信号を出力する第１及び第２の画素群を有する撮像素子から出力された前記第１及び第２の画像信号に基づく第１及び第２の画像を取得する画像取得部と、
前記撮像素子から出力された画像信号に基づいて第１の表示用画像を生成し、且つ、前記第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成する生成部と、
前記第２の表示用画像における空間周波数特性及び前記第２の表示用画像における画素値のヒストグラムの極値の少なくとも一方に基づいて定まる階調補正情報に従って前記第２の表示用画像の階調を補正する補正部と、
画像を表示する表示部と、
前記表示部に対して、前記補正部により階調が補正された前記第２の表示用画像を表示させる制御を行う表示制御部と、
を含む画像処理装置。
【請求項３】
前記空間周波数特性は、前記第２の表示用画像における空間周波数強度が最大の方向である請求項１又は請求項２に記載の画像処理装置。
【請求項４】
前記階調補正係数は、前記空間周波数強度が最大の方向と前記第１の画像及び前記第２の画像に基づく視差方向との一致度の低下に応じて、所定値未満の輝度の画像領域のコントラストを大きくする階調補正係数である請求項３に記載の画像処理装置。
【請求項５】
前記第２の表示用画像は、前記第１の画像に含まれる第１画像領域と前記第２の画像に含まれる第２画像領域とを瞳分割方向に交差する方向に沿って組み合わせた画像を含み、
前記階調補正情報は、前記第２の表示用画像に含まれる前記第１画像領域と前記第２画像領域との境界を含む第１境界領域における前記空間周波数特性及び前記第２の表示用画像における画素値のヒストグラムの極値の少なくとも一方に基づいて定まる請求項１から請求項４の何れか１項に記載の画像処理装置。
【請求項６】
前記補正部は、前記階調補正情報に従って前記第１境界領域の階調を補正する請求項５に記載の画像処理装置。
【請求項７】
前記第２の表示用画像は、前記第１の画像に含まれる第１画像領域と前記第２の画像に含まれる第２画像領域とを瞳分割方向に交差する方向に沿って組み合わせた画像を含み、
前記補正部は、前記階調補正情報に従って、前記第２の表示用画像に含まれる前記第１画像領域と前記第２画像領域との境界を含む第１境界領域の階調を補正する請求項１から請求項４の何れか１項に記載の画像処理装置。
【請求項８】
前記ヒストグラムに基づいて定まる前記階調補正情報の内容は、前記ヒストグラムが複数の極大値を有する場合、前記複数の極大値のうちの特定の一対の極大値に対応する画素間のコントラストを補正前のコントラストよりも大きくする内容である請求項１から請求項７の何れか１項に記載の画像処理装置。
【請求項９】
前記コントラストを、与えられた指示に応じて決定する決定部を更に含む請求項８に記載の画像処理装置。
【請求項１０】
前記補正部は、前記第１の表示用画像と前記第２の表示用画像との境界に隣接する前記第１の表示用画像側の第２境界領域における所定値以上の彩度を有する画素の占有率が閾値未満の場合に前記階調補正情報に従って前記第２の表示用画像の階調を補正する請求項１から請求項９の何れか１項に記載の画像処理装置。
【請求項１１】
前記補正部は、前記占有率に応じて定まる調整値を用いて前記階調補正情報を調整し、調整後の前記階調補正情報に従って前記第２の表示用画像の階調を補正する請求項１０に記載の画像処理装置。
【請求項１２】
前記撮像素子は、前記撮影レンズを透過した被写体像が瞳分割されずに結像されて第３の画像信号を出力する第３の画素群を更に有し、
前記生成部は、前記第３の画素群から出力された前記第３の画像信号に基づいて前記第１の表示用画像を生成する請求項１から請求項１１の何れか１項に記載の画像処理装置。
【請求項１３】
請求項１から請求項１２の何れか１項に記載の画像処理装置と、
前記第１及び第２の画素群を有する撮像素子と、
前記撮像素子から出力された画像信号に基づいて生成された画像を記憶する記憶部と、
を含む撮像装置。
【請求項１４】
撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第１及び第２の画像信号を出力する第１及び第２の画素群を有する撮像素子から出力された前記第１及び第２の画像信号に基づく第１及び第２の画像を取得し、
前記撮像素子から出力された画像信号に基づいて第１の表示用画像を生成し、
前記第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成し、
前記第２の表示用画像における空間周波数特性及び前記第２の表示用画像における画素値のヒストグラムの極値の少なくとも一方に基づいて定まる階調補正情報に従って前記第２の表示用画像の階調を補正し、
画像を表示する表示部に対して、生成した前記第１の表示用画像を表示させ、且つ、前記第１の表示用画像の表示領域内に、階調を補正した前記第２の表示用画像を表示させる制御を行うことを含む画像処理方法。
【請求項１５】
撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第１及び第２の画像信号を出力する第１及び第２の画素群を有する撮像素子から出力された前記第１及び第２の画像信号に基づく第１及び第２の画像を取得し、
前記撮像素子から出力された画像信号に基づいて第１の表示用画像を生成し、
前記第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成し、
前記第２の表示用画像における空間周波数特性及び前記第２の表示用画像における画素値のヒストグラムの極値の少なくとも一方に基づいて定まる階調補正情報に従って前記第２の表示用画像の階調を補正し、
前記表示部に対して、階調を補正した前記第２の表示用画像を表示させる制御を行うことを含む画像処理方法。
【請求項１６】
コンピュータを、
請求項１から請求項１２の何れか１項に記載の画像処理装置における前記画像取得部、前記生成部、前記補正部及び前記表示制御部として機能させるための画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、撮像装置、画像処理方法及び画像処理プログラムに関する。
【背景技術】
【０００２】
デジタルカメラとして、位相差検出方式やコントラスト検出方式を用いたオートフォーカスの他に、使用者が手動でフォーカス調整を行うことができる、いわゆるマニュアルフォーカスモードを備えるものが広く知られている。【０００３】
マニュアルフォーカスモードを有するデジタルカメラとしては、被写体を確認しながらフォーカス調整ができるようにレフレックスミラーを設けて、目視による位相差を表示するスプリットマイクロプリズムスクリーンを用いた方法を採用したものが知られている。また、目視によるコントラストの確認を行う方法を採用したものも知られている。【０００４】
ところで、近年普及しているレフレックスミラーを省略したデジタルカメラでは、レフレックスミラーがないため位相差を表示しながら被写体像を確認する方法がなく、コントラスト検出方式に頼らざるを得なかった。しかし、この場合には、ＬＣＤ（liquid crystal display：液晶ディスプレイ）等の表示装置の解像度以上のコントラストの表示ができず、一部拡大するなどして表示する方法を採らざるを得なかった。【０００５】
そこで、近年では、マニュアルフォーカスモード時にユーザ（例えば撮影者）が被写体に対してピントを合わせる作業を容易にするために、スプリットイメージをライブビュー画像（スルー画像ともいう）内に表示している。スプリットイメージとは、例えば表示領域が複数に分割された分割画像（例えば上下方向に分割された各画像）であって、ピントのずれに応じて視差発生方向（例えば左右方向）にずれ、ピントが合った状態だと視差発生方向のずれがなくなる分割画像を指す。ユーザは、スプリットイメージ（例えば上下方向に分割された各画像）のずれがなくなるように、マニュアルフォーカスリング（以下、「フォーカスリング」という）を操作してピントを合わせる。【０００６】
特開２００９−１４７６６５号公報（以下、「特許文献１」という）に記載の撮像装置は、撮像光学系からの光束のうち、瞳分割部によって分割された光束により形成された第１の被写体像及び第２の被写体像をそれぞれ光電変換した第１の画像及び第２の画像を生成する。そして、これらの第１及び第２の画像を用いてスプリットイメージを生成し、且つ、瞳分割部によって分割されない光束により形成された第３の被写体像を光電変換して第３の画像を生成する。そして、第３の画像を表示部に表示し、且つ、第３の画像内に、生成したスプリットイメージを表示し、且つ第３の画像から抽出した色情報をスプリットイメージに付加するようにしている。このように第３の画像から抽出した色情報をスプリットイメージに付加することにより、スプリットイメージの視認性を良好にすることができる。【０００７】
ここで、マニュアルフォーカスモード時にＬＣＤに表示される画像の画質を向上させる技術として、例えば特許文献２及び特許文献３に記載の技術が知られている。【０００８】
特開２０１２−４７２９号公報（以下、「特許文献２」という）に記載の撮像装置は、焦点検出用画素の周囲にある通常画素の画素値に基づいて、焦点検出用画素周辺の像の平坦性を示すエッジ量と焦点検出画素周辺の像の輝度を示す周辺輝度とを算出する。また、これらの値に基づいて、平均値補正とゲイン補正のうちの何れか一方の補正方法で焦点検出用画素の画素値を補正する。そして、焦点検出用画素の画素値が補正された画像データに対してガンマ補正処理を施す。【０００９】
特開２００７−１２４６０４号公報（以下、「特許文献３」という）に記載の画像処理装置は、顔検出部で対象領域を画像データから検出する。そして、ガンマ補正部で対象領域の検出に応じて得られる対象領域の輝度値と画像データの全領域又は一部領域に応じて得られる分布情報である輝度の頻度分布とに基づいて補正テーブルを導出し、導出した補正テーブルを用いて画像データを色補正する。
【発明の概要】
【発明が解決しようとする課題】
【００１０】
ところで、スプリットイメージは、瞳分割されて得た第１の画像における画像領域（第１画像領域）と第２の画像における画像領域（第２画像領域）とを瞳分割方向に交差する方向に交互に組み合わせた画像である。そのため、被写体のコントラスト次第では、第１画像領域と第２画像領域との境界を含む境界領域が視認し難くなる場合がある。【００１１】
本発明は、このような実情を鑑みて提案されたものであり、合焦確認用の画像に含まれる境界領域を視覚的に認識し易くすることができる画像処理装置、撮像装置、画像処理方法及び画像処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【００１２】
上記目的を達成するために、本発明の第１の態様に係る画像処理装置は、撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第１及び第２の画像信号を出力する第１及び第２の画素群を有する撮像素子から出力された第１及び第２の画像信号に基づく第１及び第２の画像を取得する画像取得部と、撮像素子から出力された画像信号に基づいて第１の表示用画像を生成し、且つ、第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成する生成部と、第２の表示用画像における空間周波数特性及び第２の表示用画像における画素値のヒストグラムの極値の少なくとも一方に基づいて定まる階調補正情報に従って第２の表示用画像の階調を補正する補正部と、画像を表示する表示部と、表示部に対して、生成部により生成された第１の表示用画像を表示させ、且つ、第１の表示用画像の表示領域内に、補正部により階調が補正された第２の表示用画像を表示させる制御を行う表示制御部と、を含む。これにより、本構成を有しない場合に比べ、合焦確認用の画像に含まれる境界領域を視覚的に認識し易くすることができる。【００１３】
本発明の第２の態様に係る画像処理装置は、撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第１及び第２の画像信号を出力する第１及び第２の画素群を有する撮像素子から出力された第１及び第２の画像信号に基づく第１及び第２の画像を取得する画像取得部と、撮像素子から出力された画像信号に基づいて第１の表示用画像を生成し、且つ、第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成する生成部と、第２の表示用画像における空間周波数特性及び第２の表示用画像における画素値のヒストグラムの極値の少なくとも一方に基づいて定まる階調補正情報に従って第２の表示用画像の階調を補正する補正部と、画像を表示する表示部と、表示部に対して、補正部により階調が補正された第２の表示用画像を表示させる制御を行う表示制御部と、を含む。これにより、本構成を有しない場合に比べ、合焦確認用の画像に含まれる境界領域を視覚的に認識し易くすることができる。【００１４】
本発明の第３の態様は、本発明の第１の態様又は第２の態様において、空間周波数特性は、第２の表示用画像における空間周波数強度が最大の方向であるものとしてもよい。これにより、本構成を有しない場合に比べ、境界領域の視認性を向上させることができる。【００１５】
本発明の第４の態様は、本発明の第３の態様において、階調補正係数が、空間周波数強度が最大の方向と第１の画像及び第２の画像に基づく視差方向との一致度の低下に応じて、所定値未満の輝度の画像領域のコントラストを大きくする階調補正係数であるものとしてもよい。これにより、本構成を有しない場合に比べ、空間周波数強度が最大の方向と視差方向との一致度の低下に伴う視認性の悪化を抑制することができる。【００１６】
本発明の第５の態様は、本発明の第１の態様から第４の態様の何れか１つにおいて、第２の表示用画像が、第１の画像に含まれる第１画像領域と第２の画像に含まれる第２画像領域とを瞳分割方向に交差する方向に沿って組み合わせた画像を含み、階調補正情報が、第２の表示用画像に含まれる第１画像領域と第２画像領域との境界を含む第１境界領域における空間周波数特性及び第２の表示用画像における画素値のヒストグラムの極値の少なくとも一方に基づいて定まるものとしてもよい。これにより、本構成を有しない場合に比べ、的確な階調補正情報を定めることができる。【００１７】
本発明の第６の態様は、本発明の第５の態様において、補正部が、階調補正情報に従って第１境界領域の階調を補正するものとしてもよい。これにより、本構成を有しない場合に比べ、階調補正が不必要な領域に対して階調補正が実施されることを抑制することができる。【００１８】
本発明の第７の態様は、本発明の第１の態様から第４の態様の何れか１つにおいて、第２の表示用画像が、第１の画像に含まれる第１画像領域と第２の画像に含まれる第２画像領域とを瞳分割方向に交差する方向に沿って組み合わせた画像を含み、補正部が、階調補正情報に従って、第２の表示用画像に含まれる第１画像領域と第２画像領域との境界を含む第１境界領域の階調を補正するものとしてもよい。これにより、本構成を有しない場合に比べ、階調補正が不必要な領域に対して階調補正が実施されることを抑制することができる。【００１９】
本発明の第８の態様は、本発明の第１の態様から第７の態様の何れか１つにおいて、ヒストグラムに基づいて定まる階調補正情報の内容が、ヒストグラムが複数の極大値を有する場合、複数の極大値のうちの特定の一対の極大値に対応する画素間のコントラストを補正前のコントラストよりも大きくする内容であるものとしてもよい。これにより、本構成を有しない場合に比べ、階調補正が不必要な領域に対して階調補正が実施されることを抑制することができる。【００２０】
本発明の第９の態様は、本発明の第８の態様において、コントラストを、与えられた指示に応じて決定する決定部を更に含むものとしてもよい。これにより、本構成を有しない場合に比べ、ユーザビリティを向上させることができる。【００２１】
本発明の第１０の態様は、本発明の第１の態様から第９の態様の何れか１つにおいて、補正部が、第１の表示用画像と第２の表示用画像との境界に隣接する第１の表示用画像側の第２境界領域における所定値以上の彩度を有する画素の占有率が閾値未満の場合に階調補正情報に従って第２の表示用画像の階調を補正するものとしてもよい。これにより、本構成を有しない場合に比べ、不必要な階調補正の実施を回避することができる。【００２２】
本発明の第１１の態様は、本発明の第１０の態様において、補正部が、占有率に応じて定まる調整値を用いて階調補正情報を調整し、調整後の階調補正情報に従って第２の表示用画像の階調を補正するものとしてもよい。これにより、本構成を有しない場合に比べ、境界領域の視認性を向上させることができる。【００２３】
本発明の第１２の態様は、本発明の第１の態様から第１１の態様の何れか１つにおいて、撮像素子が、撮影レンズを透過した被写体像が瞳分割されずに結像されて第３の画像信号を出力する第３の画素群を更に有し、生成部が、第３の画素群から出力された第３の画像信号に基づいて第１の表示用画像を生成するものとしてもよい。これにより、本構成を有しない場合に比べ、簡素な構成で、第１の表示用画像の画質を向上させることができる。【００２４】
上記目的を達成するために、本発明の第１３の態様に係る撮像装置は、本発明の第１の態様から第１２の態様の何れか１つの画像処理装置と、第１及び第２の画素群を有する撮像素子と、撮像素子から出力された画像信号に基づいて生成された画像を記憶する記憶部と、を含む。これにより、本構成を有しない場合に比べ、合焦確認用の画像に含まれる境界領域を視覚的に認識し易くすることができる。【００２５】
上記目的を達成するために、本発明の第１４の態様に係る画像処理方法は、撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第１及び第２の画像信号を出力する第１及び第２の画素群を有する撮像素子から出力された第１及び第２の画像信号に基づく第１及び第２の画像を取得し、撮像素子から出力された画像信号に基づいて第１の表示用画像を生成し、第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成し、第２の表示用画像における空間周波数特性及び第２の表示用画像における画素値のヒストグラムの極値の少なくとも一方に基づいて定まる階調補正情報に従って第２の表示用画像の階調を補正し、画像を表示する表示部に対して、生成した第１の表示用画像を表示させ、且つ、第１の表示用画像の表示領域内に、階調を補正した第２の表示用画像を表示させる制御を行うことを含む。これにより、本構成を有しない場合に比べ、合焦確認用の画像に含まれる境界領域を視覚的に認識し易くすることができる。【００２６】
上記目的を達成するために、本発明の第１５の態様に係る画像処理方法は、撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第１及び第２の画像信号を出力する第１及び第２の画素群を有する撮像素子から出力された第１及び第２の画像信号に基づく第１及び第２の画像を取得し、撮像素子から出力された画像信号に基づいて第１の表示用画像を生成し、第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成し、第２の表示用画像における空間周波数特性及び第２の表示用画像における画素値のヒストグラムの極値の少なくとも一方に基づいて定まる階調補正情報に従って第２の表示用画像の階調を補正し、表示部に対して、階調を補正した第２の表示用画像を表示させる制御を行うことを含む。これにより、本構成を有しない場合に比べ、合焦確認用の画像に含まれる境界領域を視覚的に認識し易くすることができる。【００２７】
上記目的を達成するために、本発明の第１６の態様に係る画像処理プログラムは、本発明の第１の態様から第１２の態様の何れか１つの画像処理装置における画像取得部、生成部、補正部及び表示制御部としてコンピュータを機能させるためのものである。これにより、本構成を有しない場合に比べ、合焦確認用の画像に含まれる境界領域を視覚的に認識し易くすることができる。
【発明の効果】
【００２８】
本発明によれば、合焦確認用の画像に含まれる境界領域を視覚的に認識し易くすることができる、という効果が得られる。
【図面の簡単な説明】
【００２９】
【図１】第１及び第２実施形態に係るレンズ交換式カメラである撮像装置の外観の一例を示す斜視図である。
【図２】図１に示す撮像装置の背面側を示す背面図である。
【図３】図１に示す撮像装置の電気系の構成の一例を示すブロック図である。
【図４】図１に示す撮像装置に含まれる撮像素子に設けられているカラーフィルタの配置の一例を示す概略配置図である。
【図５】図１に示す撮像装置に含まれる撮像素子における位相差画素（第１の画素及び第２の画素）の構成の一例を示す概略構成図である。
【図６】図１に示す撮像装置に含まれる画像処理部の要部構成の一例を示す機能ブロック図である。
【図７】図６に示す画像処理部に含まれる生成部の要部構成の一例を示す機能ブロック図である。
【図８】図１に示す撮像装置の要部構成の一例を示す機能ブロック図である。
【図９】図１に示す撮像装置に含まれる表示装置におけるスプリットイメージの表示領域及び通常画像の表示領域の一例を示す模式図である。
【図１０】図６に示す補正部により用いられる画素値変換関数群の一例を示すグラフである。
【図１１】図６に示す補正部により用いられる係数導出関数の一例を示すグラフである。
【図１２】図１に示す撮像装置に含まれる表示装置に表示された通常画像及びスプリットイメージの第１例を示す図である。
【図１３】図６に示す画像処理部によって実行される第１実施形態に係る画像出力処理の流れの一例を示すフローチャートである。
【図１４】図１２に示すスプリットイメージにおける解析対象領域についてフーリエ変換が行われて得られた空間周波数の強度分布の一例を示す強度分布図である。
【図１５】図１に示す撮像装置に含まれる表示装置に表示された通常画像及びスプリットイメージの第２例を示す図である。
【図１６】図１５に示すスプリットイメージにおける解析対象領域についてフーリエ変換が行われて得られた空間周波数の強度分布の一例を示す強度分布図である。
【図１７】図１２に示すスプリットイメージにおける解析対象領域に含まれる画素値のヒストグラムの一例を示すグラフである。
【図１８】図１に示す撮像装置に含まれる表示装置にライブビュー画像及びコントラスト調整操作部（ソフトキー）が表示された状態の一例を示す図である。
【図１９】図１０に示す画素値変換関数群に含まれる１つの画素値変換関数のコントラスト調整操作部による調整方法の説明に供するグラフである。
【図２０】画素値変換関数が調整される前と調整された後の態様例を示すグラフである。
【図２１】図６に示す画像処理部によって実行される第２実施形態に係る画像出力処理の流れの一例を示すフローチャートである。
【図２２】第３実施形態に係るスマートフォンの外観の一例を示す斜視図である。
【図２３】第３実施形態に係るスマートフォンの電気系の要部構成の一例を示すブロック図である。
【図２４】第１〜第３実施形態に係るスプリットイメージの変形例であって、第１の画像及び第２の画像を奇数ラインと偶数ラインとに分けて交互に並べられて形成されたスプリットイメージの一例を示す模式図である。
【図２５】第１〜第３実施形態に係るスプリットイメージの変形例であって、行方向に対して傾いた斜めの分割線により分割されているスプリットイメージの一例を示す模式図である
【図２６Ａ】第１〜第３実施形態に係るスプリットイメージの変形例であって、格子状の分割線で分割されたスプリットイメージの一例を示す模式図である。
【図２６Ｂ】第１〜第３実施形態に係るスプリットイメージの変形例であって、市松模様に形成されたスプリットイメージの一例を示す模式図である。
【図２７】スプライン曲線に基づく階調補正カーブ（画素値変換関数）の一例を示すグラフである。
【発明を実施するための形態】
【００３０】
以下、添付図面に従って本発明に係る撮像装置の実施形態の一例について説明する。
【００３１】
［第１実施形態］
図１は、第１実施形態に係る撮像装置１００の外観の一例を示す斜視図であり、図２は、図１に示す撮像装置１００の背面図である。
【００３２】
撮像装置１００は、レンズ交換式カメラである。撮影装置１００は、カメラ本体２００と、カメラ本体２００に交換可能に装着される交換レンズ３００と、を含み、レフレックスミラーが省略されたデジタルカメラである。交換レンズ３００は、手動操作により光軸方向に移動可能なフォーカスレンズ３０２を有する撮影レンズ１６（図３参照）を含む。レフレックスミラーが省略されたデジタルカメラである。また、カメラ本体２００には、ハイブリッドファインダー（登録商標）２２０が設けられている。ここで言うハイブリッドファインダー２２０とは、例えば光学ビューファインダー（以下、「ＯＶＦ」という）及び電子ビューファインダー（以下、「ＥＶＦ」という）が選択的に使用されるファインダーを指す。
【００３３】
交換レンズ３００は、カメラ本体２００に対して交換可能に装着される。また、交換レンズ３００の鏡筒には、マニュアルフォーカスモード時に使用されるフォーカスリング３０１が設けられている。フォーカスリング３０１の手動による回転操作に伴ってフォーカスレンズ３０２は、光軸方向に移動し、被写体距離に応じた合焦位置で後述の撮像素子２０（図３参照）に被写体光が結像される。
【００３４】
カメラ本体２００の前面には、ハイブリッドファインダー２２０に含まれるＯＶＦのファインダー窓２４１が設けられている。また、カメラ本体２００の前面には、ファインダー切替えレバー（ファインダー切替え部）２１４が設けられている。ファインダー切替えレバー２１４を矢印ＳＷ方向に回動させると、ＯＶＦで視認可能な光学像とＥＶＦで視認可能な電子像（ライブビュー画像）との間で切り換わるようになっている（後述）。なお、ＯＶＦの光軸Ｌ２は、交換レンズ３００の光軸Ｌ１とは異なる光軸である。また、カメラ本体２００の上面には、主としてレリーズボタン２１１及び撮影モードや再生モード等の設定用のダイヤル２１２が設けられている。
【００３５】
撮影準備指示部及び撮影指示部としてのレリーズボタン２１１は、撮影準備指示状態と撮影指示状態との２段階の押圧操作が検出可能に構成されている。撮影準備指示状態とは、例えば待機位置から中間位置（半押し位置）まで押下される状態を指し、撮影指示状態とは、中間位置を超えた最終押下位置（全押し位置）まで押下される状態を指す。なお、以下では、「待機位置から半押し位置まで押下される状態」を「半押し状態」といい、「待機位置から全押し位置まで押下される状態」を「全押し状態」という。
【００３６】
本第１実施形態に係る撮像装置１００では、動作モードとして撮影モードと再生モードとがユーザの指示に応じて選択的に設定される。撮影モードでは、マニュアルフォーカスモードとオートフォーカスモードとがユーザの指示に応じて選択的に設定される。オートフォーカスモードでは、レリーズボタン２１１を半押し状態にすることにより撮影条件の調整が行われ、その後、引き続き全押し状態にすると露光（撮影）が行われる。つまり、レリーズボタン２１１を半押し状態にすることによりＡＥ（Automatic Exposure）機能が働いて露出状態が設定された後、ＡＦ（Auto-Focus）機能が働いて合焦制御され、レリーズボタン２１１を全押し状態にすると撮影が行われる。
【００３７】
カメラ本体２００の背面には、ＯＶＦのファインダー接眼部２４２、表示部２１３、十字キー２２２、ＭＥＮＵ／ＯＫキー２２４、ＢＡＣＫ／ＤＩＳＰボタン２２５が設けられている。
【００３８】
十字キー２２２は、１つ又は複数のメニューの選択、ズームやコマ送り等の各種の指令信号を出力するマルチファンクションのキーとして機能する。ＭＥＮＵ／ＯＫキー２２４は、表示部２１３の画面上に１つ又は複数のメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行などを指令するＯＫボタンとしての機能とを兼備した操作キーである。ＢＡＣＫ／ＤＩＳＰボタン２２５は、選択項目など所望の対象の消去や指定内容の取消し、あるいは１つ前の操作状態に戻すときなどに使用される。
【００３９】
表示部２１３は、例えばＬＣＤにより実現され、撮影モード時に連続フレームで撮像されて得られた連続フレーム画像の一例であるライブビュー画像（スルー画像）の表示に用いられる。また、表示部２１３は、静止画撮影の指示が与えられた場合に単一フレームで撮像されて得られた単一フレーム画像の一例である静止画像の表示にも用いられる。更に、表示部２１３は、再生モード時の再生画像の表示やメニュー画面等の表示にも用いられる。
【００４０】
図３は第１実施形態に係る撮像装置１００の電気系の構成（内部構成）の一例を示すブロック図である。
【００４１】
撮像装置１００は、カメラ本体２００に備えられたマウント２５６と、マウント２５６に対応する交換レンズ３００側のマウント３４６と、を含む。交換レンズ３００は、マウント２５６にマウント３４６が結合されることによりカメラ本体２００に交換可能に装着される。
【００４２】
交換レンズ３００は、スライド機構３０３及びモータ３０４を含む。スライド機構３０３は、フォーカスリング３０１の操作が行われることでフォーカスレンズ３０２を光軸Ｌ１方向に移動させる。スライド機構３０３には光軸Ｌ１方向に対してスライド可能にフォーカスレンズ３０２が取り付けられている。また、スライド機構３０３にはモータ３０４が接続されており、スライド機構３０３は、モータ３０４の動力を受けてフォーカスレンズ３０２を光軸Ｌ１方向に沿ってスライドさせる。
【００４３】
モータ３０４は、マウント２５６，３４６を介してカメラ本体２００に接続されており、カメラ本体２００からの命令に従って駆動が制御される。なお、本第１実施形態では、モータ３０４の一例として、ステッピングモータを適用している。従って、モータ３０４は、カメラ本体２００からの命令によりパルス電力に同期して動作する。
【００４４】
撮像装置１００は、撮影した静止画像や動画像を記録するデジタルカメラであり、カメラ全体の動作は、ＣＰＵ（central processing unit：中央処理装置）１２によって制御されている。撮像装置１００は、操作部１４、インタフェース部２４、メモリ２６及びエンコーダ３４を含む。また、撮像部１００は、本発明に係る表示制御部の一例である表示制御部３６Ａ，３６Ｂを含む。また、撮像部１００は、接眼検出部３７を含む。また、撮像装置１００は、本発明に係る画像取得部、生成部、補正部及び決定部の一例である画像処理部２８を含む。なお、以下では、表示制御部３６Ａ，３６Ｂを区別して説明する必要がない場合は「表示制御部３６」と称する。また、本第１実施形態では、画像処理部２８とは別のハードウェア構成として表示制御部３６を設けているが、これに限らず、画像処理部２８が表示制御部３６と同様の機能を有するものとしてもよく、この場合、表示制御部３６は不要となる。
【００４５】
ＣＰＵ１２、操作部１４、インタフェース部２４、記憶部の一例であるメモリ２６、画像処理部２８、エンコーダ３４、表示制御部３６Ａ，３６Ｂ、接眼検出部３７及び外部インタフェース（Ｉ／Ｆ）３９は、バス４０を介して相互に接続されている。なお、メモリ２６は、パラメータやプログラムなどが記憶された不揮発性の記憶領域（一例としてＥＥＰＲＯＭなど）と画像などの各種情報が一時的に記憶される揮発性の記憶領域（一例としてＳＤＲＡＭなど）とを有する。
【００４６】
なお、本第１実施形態に係る撮像装置１００では、オートフォーカスモード時に、ＣＰＵ１２が、撮像によって得られた画像のコントラスト値が最大となるようにモータ３０４を駆動制御することによって合焦制御を行う。また、オートフォーカスモード時に、ＣＰＵ１２は、撮像によって得られた画像の明るさを示す物理量であるＡＥ情報を算出する。ＣＰＵ１２は、レリーズボタン２１１が半押し状態とされたときには、ＡＥ情報により示される画像の明るさに応じたシャッタースピード及びＦ値を導出する。そして、導出したシャッタースピード及びＦ値となるように関係各部を制御することによって露出状態の設定を行う。
【００４７】
操作部１４は、撮像装置１００に対して各種指示を与える際にユーザによって操作されるユーザインタフェースである。操作部１４によって受け付けられた各種指示は操作信号としてＣＰＵ１２に出力され、ＣＰＵ１２は、操作部１４から入力された操作信号に応じた処理を実行する。
【００４８】
操作部１４は、レリーズボタン２１１、撮影モード等を選択するフォーカスモード切替え部２１２、ファインダー切替えレバー２１４、十字キー２２２、ＭＥＮＵ／ＯＫキー２２４及びＢＡＣＫ／ＤＩＳＰボタン２２５を含む。また、操作部１４は、各種情報を受け付けるタッチパネル２１５も含む。このタッチパネル２１５は、例えば表示部２１３の表示画面に重ねられている。
【００４９】
カメラ本体２００は、位置検出部２３を含む。位置検出部２３は、ＣＰＵ１２に接続されている。位置検出部２３は、マウント２５６，３４６を介してフォーカスリング３０１に接続されており、フォーカスリング３０１の回転角度を検出し、検出結果である回転角度を示す回転角度情報をＣＰＵ１２に出力する。ＣＰＵ１２は、位置検出部２３から入力された回転角度情報に応じた処理を実行する。
【００５０】
撮影モードが設定されると、被写体を示す画像光は、手動操作により移動可能なフォーカスレンズ３０２を含む撮影レンズ１６及びシャッタ１８を介してカラーの撮像素子（一例としてＣＭＯＳセンサ）２０の受光面に結像される。撮像素子２０に蓄積された信号電荷は、デバイス制御部２２から加えられる読出し信号によって信号電荷（電圧）に応じたデジタル信号として順次読み出される。撮像素子２０は、いわゆる電子シャッタ機能を有しており、電子シャッタ機能を働かせることで、読出し信号のタイミングによって各フォトセンサの電荷蓄積時間（シャッタスピード）を制御する。なお、本第１実施形態に係る撮像素子２０は、ＣＭＯＳ型のイメージセンサであるが、これに限らず、ＣＣＤイメージセンサでもよい。
【００５１】
撮像素子２０は、一例として図４に示すカラーフィルタ２１を備えている。カラーフィルタ２１は、輝度信号を得るために最も寄与するＧ（緑）に対応するＧフィルタ、Ｒ（赤）に対応するＲフィルタ及びＢ（青）に対応するＢフィルタを含む。図４に示す例では、撮像素子２０の画素数の一例として“４８９６×３２６５”画素を採用しており、これらの画素に対してＧフィルタ、Ｒフィルタ及びＢフィルタが水平方向（行方向）及び垂直方向（列方向）の各々に所定の周期性をもって配置されている。そのため、撮像装置１００は、Ｒ，Ｇ，Ｂ信号の同時化（補間）処理等を行う際に、繰り返しパターンに従って処理を行うことが可能となる。なお、同時化処理とは、単板式のカラー撮像素子のカラーフィルタ配列に対応したモザイク画像から画素毎に全ての色情報を算出する処理である。例えば、ＲＧＢ３色のカラーフィルタからなる撮像素子の場合、同時化処理とは、ＲＧＢからなるモザイク画像から画素毎にＲＧＢ全ての色情報を算出する処理を意味する。
【００５２】
撮像装置１００は、位相差ＡＦ機能を有する。撮像素子２０は、位相差ＡＦ機能を働かせた場合に用いられる複数の位相差検出用の画素を含む。複数の位相差検出用の画素は予め定めたパターンで配置されている。位相差検出用の画素上には、一例として図４に示すように、行方向の左半分の画素を遮光する遮光部材２０Ａ及び行方向の右半分の画素を遮光する遮光部材２０Ｂが設けられている。なお、本第１実施形態では、説明の便宜上、遮光部材２０Ａが設けられている位相差検出用の画素を「第１の画素」と称し、遮光部材２０Ｂが設けられている位相差画素を「第２の画素」と称する。また、第１の画素及び第２の画素を区別して説明する必要がない場合は「位相差画素」と称する。
【００５３】
一例として図５に示すように、遮光部材２０Ａは、フォトダイオードＰＤの前面側（マイクロレンズ１９側）に設けられており、受光面の左半分（受光面から被写体を臨む場合の左側（換言すると、被写体から受光面を臨む場合の右側））を遮光する。一方、遮光部材２０Ｂは、フォトダイオードＰＤの前面側に設けられており、受光面の右半分（受光面から被写体を臨む場合の右側（換言すると、被写体から受光面を臨む場合の左側））を遮光する。
【００５４】
マイクロレンズ１９及び遮光部材２０Ａ，２０Ｂは瞳分割部として機能し、第１の画素は、撮影レンズ１６の射出瞳を通過する光束の光軸の左側のみを受光し、第２の画素は、撮影レンズ１６の射出瞳を通過する光束の光軸の右側のみを受光する。このように、射出瞳を通過する光束は、瞳分割部であるマイクロレンズ１９及び遮光部材２０Ａ，２０Ｂにより左右に分割され、それぞれ第１の画素および第２の画素に入射する。
【００５５】
また、撮影レンズ１６の射出瞳を通過する光束のうちの左半分の光束に対応する被写体像と、右半分の光束に対応する被写体像のうち、ピントが合っている（合焦状態である）部分は、撮像素子２０上の同じ位置に結像する。これに対し、前ピン又は後ピンの部分は、それぞれ撮像素子２０上の異なる位置に入射する（位相がずれる）。これにより、左半分の光束に対応する被写体像及び右半分の光束に対応する被写体像は、視差が異なる視差画像（後述する左眼画像及び右眼画像）として取得することができる。
【００５６】
撮像装置１００は、位相差ＡＦ機能を働かせることにより、第１の画素の画素値と第２の画素の画素値とに基づいて位相のずれ量を検出する。そして、検出した位相のずれ量に基づいて撮影レンズの焦点位置を調整する。なお、以下では、遮光部材２０Ａ，２０Ｂを区別して説明する必要がない場合は符号を付さずに「遮光部材」と称する。
【００５７】
撮像素子２０は、第１の画素群、第２の画素群及び第３の画素群に分類される。第１の画素群とは、例えば複数の第１の画素を指す。第２の画素群とは、例えば複数の第２の画素を指す。第３の画素群とは、例えば複数の通常画素（第３の画素の一例）を指す。図４に示す例では、行方向及び列方向の各々について直線状に１の画素と第２の画素とが複数画素分（図４に示す例では２画素分）の間隔を空けて交互に配置されており、第１の画素と第２の画素との間に通常画素が配置されている。なお、以下では、第１の画素群から出力されるＲＡＷ画像を「第１の画像」と称し、第２の画素群から出力されるＲＡＷ画像を「第２の画像」と称し、第３の画素群から出力されるＲＡＷ画像を「第３の画像」と称する。
【００５８】
図３に戻って、撮像素子２０は、第１の画素群から第１の画像（各第１の画素Ｌの画素値を示すデジタル信号）を出力し、第２の画素群から第２の画像（各第２の画素Ｒの画素値を示すデジタル信号）を出力する。また、撮像素子２０は、第３の画素群から第３の画像（各通常画素の画素値を示すデジタル信号）を出力する。なお、第３の画素群から出力される第３の画像は有彩色の画像であり、例えば通常画素の配列と同じカラー配列のカラー画像である。撮像素子２０から出力された第１の画像、第２の画像及び第３の画像は、インタフェース部２４を介してメモリ２６における揮発性の記憶領域に一時記憶される。
【００５９】
画像処理部２８は、メモリ２６に記憶されている第１〜第３の画像に対して各種の画像処理を施す。画像処理部２８は、一例として図６に示すように、画像取得部２８Ａ、生成部２８Ｂ、補正部２８Ｃ及び決定部２８Ｄを含む。画像処理部２８は、画像処理に係る複数の機能の回路を１つにまとめた集積回路であるＡＳＩＣ（Application Specific Integrated Circuit）により実現される。但し、ハードウェア構成はこれに限定されるものではなく、例えばプログラマブルロジックデバイスであってもよいし、ＣＰＵ、ＲＯＭ及びＲＡＭを含むコンピュータなどの他のハードウェア構成であってもよい。
【００６０】
画像取得部２８Ａは、撮像素子２０から出力された第１の画像及び第２の画像を取得する。生成部２８Ｂは、撮像素子２０から出力された第３の画像に基づいて第１の表示用画像を生成し、且つ、画像取得部２８Ａにより取得された第１の画像及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成する。生成部２８Ｂは、一例として図７に示すように、通常処理部３０及びスプリットイメージ処理部３２を含む。通常処理部３０は、第３の画素群に対応するＲ，Ｇ，Ｂ信号を処理することで第１の表示用画像の一例である有彩色の通常画像を生成する。また、スプリットイメージ処理部３２は、第１の画素群及び第２の画素群に対応するＧ信号を処理することで第２の表示用画像の一例である無彩色のスプリットイメージを生成する。
【００６１】
補正部２８Ｃは、スプリットイメージにおける空間周波数特性及びスプリットイメージにおける画素値のヒストグラムの極値の少なくとも一方に基づいて定まる階調補正情報に従ってスプリットイメージの階調を補正する。ヒストグラムに基づいて定まる階調補正情報の内容としては、例えば、ヒストグラムが複数の極大値を有する場合、複数の極大値のうちの特定の一対の極大値に対応する画素間のコントラストを補正前のコントラストよりも大きくする内容が挙げられる。
【００６２】
決定部２８Ｄは、数の極大値のうちの特定の一対の極大値に対応する画素間のコントラストを、与えられた指示（例えば操作部１４を介したユーザによる指示）に応じて決定する。
【００６３】
図３に戻って、エンコーダ３４は、入力された信号を別の形式の信号に変換して出力する。ハイブリッドファインダー２２０は、電子像を表示するＬＣＤ２４７を有する。ＬＣＤ２４７における所定方向の画素数（一例として視差発生方向である行方向の画素数）は、表示部２１３における同方向の画素数よりも少ない。表示制御部３６Ａは表示部２１３に、表示制御分３６ＢはＬＣＤ２４７に各々接続されており、ＬＣＤ２４７及び表示部２１３が選択的に制御されることによりＬＣＤ２４７又は表示部２１３により画像が表示される。なお、以下では、表示部２１３及びＬＣＤ２４７を区別して説明する必要がない場合は「表示装置」と称する。
【００６４】
なお、本第１実施形態に係る撮像装置１００は、ダイヤル２１２（フォーカスモード切替え部）によりマニュアルフォーカスモードとオートフォーカスモードとを切り替え可能に構成されている。何れかのフォーカスモードが選択されると、表示制御部３６は、スプリットイメージが合成されたライブビュー画像を表示装置に表示させる。また、ダイヤル２１２によりオートフォーカスモードが選択されると、ＣＰＵ１２は、位相差検出部及び自動焦点調整部として動作する。位相差検出部は、第１の画素群から出力された第１の画像と第２の画素群から出力された第２の画像との位相差を検出する。自動焦点調整部は、検出された位相差に基づいてフォーカスレンズ３０２のデフォーカス量をゼロにするように、デバイス制御部２２からマウント２５６，３４６を介してモータ３０４を制御し、フォーカスレンズ３０２を合焦位置に移動させる。なお、上記の「デフォーカス量」とは、例えば第１の画像及び第２の画像の位相ずれ量を指す。
【００６５】
接眼検出部３７は、ユーザ（例えば撮影者）がファインダー接眼部２４２を覗き込んだことを検出し、検出結果をＣＰＵ１２に出力する。従って、ＣＰＵ１２は、接眼検出部３７での検出結果に基づいてファインダー接眼部２４２が使用されているか否かを把握することができる。
【００６６】
外部Ｉ／Ｆ３９は、ＬＡＮ（Local Area Network）やインターネットなどの通信網に接続され、通信網を介して、外部装置（例えばプリンタ）とＣＰＵ１２との間の各種情報の送受信を司る。従って、撮像装置１００は、外部装置としてプリンタが接続されている場合、撮影した静止画像をプリンタに出力して印刷させることができる。また、撮像装置１００は、外部装置としてディスプレイが接続されている場合は、撮影した静止画像やライブビュー画像をディスプレイに出力して表示させることができる。
【００６７】
図８は第１実施形態に係る撮像装置１００の要部機能の一例を示す機能ブロック図である。なお、図３に示すブロック図と共通する部分には同一の符号が付されている。
【００６８】
通常処理部３０及びスプリットイメージ処理部３２は、それぞれＷＢゲイン部、ガンマ補正部及び同時化処理部を有し（図示省略）、メモリ２６に一時記憶された元のデジタル信号（ＲＡＷ画像）に対して各処理部で順次信号処理を行う。すなわち、ＷＢゲイン部は、Ｒ，Ｇ，Ｂ信号のゲインを調整することによりホワイトバランス（ＷＢ）を実行する。ガンマ補正部は、ＷＢゲイン部でＷＢが実行された各Ｒ，Ｇ，Ｂ信号をガンマ補正する。同時化処理部は、撮像素子２０のカラーフィルタの配列に対応した色補間処理を行い、同時化したＲ，Ｇ，Ｂ信号を生成する。なお、通常処理部３０及びスプリットイメージ処理部３２は、撮像素子２０により１画面分のＲＡＷ画像が取得される毎に、そのＲＡＷ画像に対して並列に画像処理を行う。
【００６９】
通常処理部３０は、インタフェース部２４からＲ，Ｇ，ＢのＲＡＷ画像が入力され、第３の画素群のＲ，Ｇ，Ｂ画素を、第１の画素群及び第２の画素群のうちの同色の周辺画素（例えば隣接するＧ画素）により補間することで、記録用の通常画像を生成する。
【００７０】
また、通常処理部３０は、生成した記録用の通常画像の画像データをエンコーダ３４に出力する。通常処理部３０により処理されたＲ，Ｇ，Ｂ信号は、エンコーダ３４により記録用の信号に変換（エンコーディング）され、記録部４０に記録される。また、通常処理部３０により処理された第３の画像に基づく画像である表示用の通常画像は、表示制御部３６に出力される。なお、以下では、説明の便宜上、上記の「記録用の通常画像」及び「表示用の通常画像」を区別して説明する必要がない場合は「記録用の」との文言及び「表示用の」との文言を省略して「通常画像」と称する。
【００７１】
撮像素子２０は、第１の画素群及び第２の画素群の各々の露出条件（一例として電子シャッタによるシャッタ速度）を変えることができ、これにより露出条件の異なる画像を同時に取得することができる。従って、画像処理部２８は、露出条件の異なる画像に基づいて広ダイナミックレンジの画像を生成することができる。また、同じ露出条件で複数の画像を同時に取得することができ、これら画像を加算することによりノイズの少ない高感度の画像を生成し、あるいは高解像度の画像を生成することができる。
【００７２】
一方、スプリットイメージ処理部３２は、メモリ２６に一旦記憶されたＲＡＷ画像から第１の画素群及び第２の画素群のＧ信号を抽出し、第１の画素群及び第２の画素群のＧ信号に基づいて無彩色のスプリットイメージを生成する。ＲＡＷ画像から抽出される第１の画素群及び第２の画素群の各々に相当する画素群は、上述したようにＧフィルタの画素による画素群である。そのため、スプリットイメージ処理部３２は、第１の画素群及び第２の画素群の各々に相当する画素群のＧ信号に基づいて、無彩色の左の視差画像及び無彩色の右の視差画像を生成することができる。なお、以下では、説明の便宜上、上記の「無彩色の左の視差画像」を「左眼画像」と称し、上記の「無彩色の右の視差画像」を「右眼画像」と称する。
【００７３】
スプリットイメージ処理部３２は、スプリットイメージを生成する。スプリットイメージは、第１の画素群から出力された第１の画像に基づく左眼画像と、第２の画素群から出力された第２の画像に基づく右眼画像とを所定方向（例えば視差発生方向と交差する方向）に交互に組み合わせることによって生成される。生成されたスプリットイメージの画像データは、スプリットイメージ処理部３２によって表示制御部３６に出力される。
【００７４】
表示制御部３６は、通常処理部３０から入力された表示用の通常画像の画像データと、スプリットイメージ処理部３２から入力された第１、第２の画素群に対応するスプリットイメージの画像データとに基づいて表示用の画像データを生成する。例えば、表示制御部３６は、通常処理部３０から入力された第３の画素群に対応する画像データにより示される通常画像の表示領域内に、スプリットイメージ処理部３２から入力された画像データにより示されるスプリットイメージを合成する。そして、合成して得た画像データを表示装置に出力する。すなわち、表示制御部３６Ａは、画像データを表示部２１３に出力し、表示制御部３６Ｂは画像データをＬＣＤ２４７に出力する。これにより、表示装置は、通常画像を動画像として連続して表示し、且つ、通常画像の表示領域内に、スプリットイメージを動画像として連続して表示する。
【００７５】
スプリットイメージは、一例として図９に示すように、表示装置の画面中央部の矩形枠内に表示され、スプリットイメージの外周領域に通常画像が表示される。なお、図９に示す矩形枠を表す縁の線は実際には表示されないが、図９では説明の便宜上示されている。
【００７６】
なお、本第１実施形態では、通常画像の一部の画像に代えて、スプリットイメージを嵌め込むことにより通常画像にスプリットイメージを合成するようにしているが、これに限らず、例えば、通常画像の上にスプリットイメージを重畳させる合成方法であってもよい。また、スプリットイメージを重畳する際に、スプリットイメージが重畳される通常画像の一部の画像とスプリットイメージとの透過率を適宜調整して重畳させる合成方法であってもよい。これにより、連続的に撮影している被写体像を示すライブビュー画像が表示装置の画面上に表示されるが、表示されるライブビュー画像は、通常画像の表示領域内にスプリットイメージが表示された画像となる。
【００７７】
ハイブリッドファインダー２２０は、ＯＶＦ２４０及びＥＶＦ２４８を含む。ＯＶＦ２４０は、対物レンズ２４４と接眼レンズ２４６とを有する逆ガリレオ式ファインダーであり、ＥＶＦ２４８は、ＬＣＤ２４７、プリズム２４５及び接眼レンズ２４６を有する。
【００７８】
また、対物レンズ２４４の前方には、液晶シャッタ２４３が配設されており、液晶シャッタ２４３は、ＥＶＦ２４８を使用する際に、対物レンズ２４４に光学像が入射しないように遮光する。
【００７９】
プリズム２４５は、ＬＣＤ２４７に表示される電子像又は各種の情報を反射させて接眼レンズ２４６に導き、且つ、光学像とＬＣＤ２４７に表示される情報（電子像、各種の情報）とを合成する。
【００８０】
ここで、ファインダー切替えレバー２１４を図１に示す矢印ＳＷ方向に回動させると、回動させる毎にＯＶＦ２４０により光学像を視認することができるＯＶＦモードと、ＥＶＦ２４８により電子像を視認することができるＥＶＦモードとが交互に切り替えられる。
【００８１】
表示制御部３６Ｂは、ＯＶＦモードの場合、液晶シャッタ２４３が非遮光状態になるように制御し、接眼部から光学像が視認できるようにする。また、ＬＣＤ２４７には、スプリットイメージのみを表示させる。これにより、光学像の一部にスプリットイメージが重畳されたファインダー像を表示させることができる。
【００８２】
また、表示制御部３６Ｂは、ＥＶＦモードの場合、液晶シャッタ２４３が遮光状態になるように制御し、接眼部からＬＣＤ２４７に表示される電子像のみが視認できるようにする。なお、ＬＣＤ２４７には、表示部２１３に出力されるスプリットイメージが合成された画像データと同等の画像データが入力され、これにより、表示部２１３と同様に通常画像の一部にスプリットイメージが合成された電子像を表示させることができる。
【００８３】
本第１実施形態に係る撮像装置１００では、図６に示す補正部２８Ｃが一例として図１０に示す画素値変換関数群２６２を保持し、画素値変換関数群２６２を用いてスプリットイメージの階調を補正する。
【００８４】
画素値変換関数群２６２は、画素値を変換する複数の非線形関数を有する。画素値変換関数群２６２は、複数の非線形関数として関数２６２Ａ，２６２Ｂ，２６２Ｃ，２６２Ｄ，２６２Ｅ（本発明に係る階調補正情報の一例）を有している。関数２６２Ａ，２６２Ｂ，２６２Ｃ，２６２Ｄ，２６２Ｅは、図６に示す補正部２８Ｃによって選択的に用いられる。関数２６２Ａ，２６２Ｂ，２６２Ｃ，２６２Ｄ，２６２Ｅ（以下、区別して説明する必要がない場合は「画素値変換関数」という）は、一例として図１０に示すように、何れも出力画素値が入力画素値に対して対数関数的に増加する関数であり、各々ゲインが異なる。各画素値変換関数には、スプリットイメージに含まれる特定領域における第１〜第６空間周波数特性（以下、区別して説明する必要がない場合は「空間周波数特性」という）の何れかが対応付けられている。ここでは、関数２６２Ａに対して第１及び第６空間周波数特性が対応付けられている。また、関数２６２Ｂに対して第２空間周波数特性が対応付けられている。また、関数２６２Ｃに対して第３空間周波数特性が対応付けられている。また、関数２６２Ｄに対して第４空間周波数が対応付けられている。更に、関数２６２Ｅに対して第５空間周波数特性が対応付けられている。なお、「スプリットイメージに含まれる特定領域」としては、例えば左眼画像と右眼画像との境界を含む境界領域、又は、スプリットイメージの全領域が挙げられる。
【００８５】
第１空間周波数特性とは、スプリットイメージに含まれる特定領域における空間周波数の強度分布が第１の方向に顕著（基準値以上の密度で且つ他の方向よりも高密度）に拡がっている特性を意味する。第２空間周波数特性とは、スプリットイメージに含まれる特定領域における空間周波数の強度分布が第２の方向に顕著に拡がっている特性を意味する。第３空間周波数特性とは、スプリットイメージに含まれる特定領域における空間周波数の強度分布が第３の方向に顕著に拡がっている特性を意味する。第４空間周波数特性とは、スプリットイメージに含まれる特定領域における空間周波数の強度分布が第４の方向に顕著に拡がっている特性を意味する。第５空間周波数特性とは、スプリットイメージに含まれる特定領域における空間周波数の強度分布が第５の方向に顕著に拡がっている特性を意味する。第６空間周波数特性とは、スプリットイメージに含まれる特定領域における空間周波数の強度分布が第１〜第５の方向の何れの方向にも顕著に拡がっていない特性を意味する。強度分布が第１〜第５の方向の何れの方向にも顕著に拡がっていない特性とは、例えば、強度分布の密度が第１〜第５の方向の何れの方向についても基準値未満であることを意味する。
【００８６】
なお、本第１実施形態では、画素値変換関数を示すテーブルが補正部２８Ｃによって保持されているが、これに限らず、画素値変換関数を示す演算式が補正部２８Ｃによって保持されていてもよい。
【００８７】
また、図６に示す補正部２８Ｃは、一例として図１１に示す係数導出関数２６４を保持している。係数導出関数２６４は、画素値変換関数を調整する係数（本発明に係る調整値の一例）として、一例として図９に示す境界表示領域２６６（本発明に係る第２境界領域の一例）に表示される通常画像における高色彩画素の占有率（以下、「高彩度占有率」という）に応じた係数を導出する関数である。図１１に示す例では、係数導出関数２６４として、高彩度占有率の増加に伴って係数が漸次的に減少する曲線関数が示されている。境界表示領域２６６とは、例えば通常画像の表示領域におけるスプリットイメージとの境界から所定画素数（例えば５０画素）範囲内の表示領域を指し、図９に示す例では、破線矩形枠とスプリットイメージの表示領域の外枠とで囲まれた領域を指す。高色彩画素とは、例えば所定値（例えば３０％）以上の彩度を有する画素を指す。高彩度占有率とは、例えば境界表示領域２６６に表示される通常画像に含まれる全画素数に対する高色彩画素数の割合を指す。なお、本第１実施形態では、上記所定画素数として５０画素を例示しているが、これに限らず、最大画素数の１０％程度であってもよい。
【００８８】
ところで、一般的なスプリットイメージは、一例として図１２に示すように、左眼画像と右眼画像とを視差発生方向と交差する方向（図１２に示す例では上下方向）に交互に組み合わせた複数分割（図１２に示す例では４分割）の画像である。スプリットイメージに含まれる左眼画像及び右眼画像は、合焦状態に応じて所定方向（図１２に示す例では視差発生方向（左右方向））にずれる。
【００８９】
しかし、被写体のコントラスト次第では、スプリットイメージに含まれる左眼画像と右眼画像との境界領域２６８（本発明に係る第１境界領域の一例）が視覚的に認識し難くなる。ここで、境界領域２６８とは、例えば、左眼画像と右眼画像との境界を含み、境界を中心線として左眼画像領域側及び右眼画像領域側に各々所定画素数分（例えば５０画素分又は最大画素数の１０％程度）離れた位置間で囲まれる領域を指す。境界領域２６８が視覚的に認識し難いとは、換言すると、境界領域２６８とスプリットイメージに含まれる非境界領域２７０（スプリットイメージにおける境界領域２６８以外の領域）との視覚的な区別が困難な状態であることを意味する。図１２に示す例では、主要被写体が橙色（単色）であるため、スプリットイメージに含まれる主要被写体を示す左眼画像及び右眼画像の境界領域２６８と非境界領域２７０とを視覚的に区別することが困難となる。また、主要被写体の背景色が主要被写体の色彩と同系統の色彩（図１２に示す例では薄橙色）である場合、彩度が近似すると境界領域２６８の視認性が更に悪化することが予想される。
【００９０】
そこで、本第１実施形態に係る撮像装置１００では、マニュアルフォーカスモード時に、画像処理部２８が、一例として図１３に示す画像出力処理を行う。以下では、マニュアルフォーカスモードにおいて画像処理部２８によって行われる画像出力処理について、図１３を参照して説明する。なお、以下では、画像処理部２８が画像出力処理を行う場合を例示するが、本発明はこれに限定されるものではなく、例えばＣＰＵ１２が画像出力処理プログラムを実行することにより撮像装置１００で画像出力処理が行われるようにしてもよい。
【００９１】
図１３に示す画像出力処理では、先ず、ステップ４００において、生成部２８Ｂにより、画像取得部２８Ａが第１〜第３の画像を取得したか否かが判定される。ステップ４００において、画像取得部２８Ａが第１〜第３の画像を取得していない場合は、判定が否定されてステップ４００の判定を再び行う。ステップ４００において、画像取得部２８Ａが第１〜第３の画像を取得した場合は、判定が肯定されてステップ４０２へ移行する。
【００９２】
ステップ４０２では、生成部２８Ｂにより、ステップ４００で取得された第３の画像に基づいて通常画像が生成される。また、ステップ４０２では、生成部２８Ｂにより、ステップ４００で取得された第１及び第２の画像に基づく左眼画像及び右眼画像が生成され、生成された左眼画像及び右眼画像に基づいてスプリットイメージが生成される。
【００９３】
次のステップ４０４では、補正部２８Ｃにより、ステップ４０２で生成された通常画像のうち境界表示領域２６６に表示される通常画像における高彩度占有率が算出され、その後、ステップ４０６へ移行する。
【００９４】
ステップ４０６では、補正部２８Ｃにより、高彩度占有率が閾値未満か否かが判定される。ここで、閾値とは、例えば境界表示領域２６６に表示される通常画像の全画素数の７０％を指す。ステップ４０６において、高彩度占有率が閾値以上の場合は、判定が否定されてステップ４２６へ移行する。ステップ４０６において、高彩度占有率が閾値未満の場合は、判定が肯定されてステップ４０８へ移行する。
【００９５】
ステップ４０８では、補正部２８Ｃにより、ステップ４０２で生成されたスプリットイメージに含まれる解析対象領域についてフーリエ変換が行われる。ここで、解析対象領域とは、例えば図１２に示す境界領域２６８を指す。図１４には、ステップ４０８でフーリエ変換が行われることよって得られた結果の一例である空間周波数の強度分布の一例が示されている。一例として図１４に示す空間周波数の強度分布は、角度成分（第１〜第５の方向の一例）毎に切り分けられる。ここで、角度成分とは、例えば図１４に示す強度分布図の中心を原点として強度分布図を所定の複数の角度で区切って得た二次元座標領域を指す。図１４に示す例では、角度成分として０°成分（第１の方向の一例）、２２．５°成分（第２の方向の一例）、４５°成分（第３の方向の一例）、６７．５°成分（第４の方向の一例）及び９０°成分（第５の方向の一例）が例示されている。
【００９６】
次のステップ４１０では、補正部２８Ｃにより、ステップ４０８でフーリエ変換が行われることよって得られた空間周波数の強度分布の密度が基準値以上の角度成分が存在しているか否かが判定される。ステップ４１０において、ステップ４０８でフーリエ変換が行われることよって得られた空間周波数の強度分布の密度が基準値以上の角度成分が存在していない場合は、判定が否定されてステップ４１２へ移行する。ステップ４１０において、ステップ４０８でフーリエ変換が行われることよって得られた空間周波数の強度分布の密度が基準値以上の角度成分が存在している場合は、判定が肯定されてステップ４１４へ移行する。ここで、ステップ４０８でフーリエ変換が行われることよって得られた空間周波数の強度分布の密度が基準値以上の角度成分が存在していない場合とは、例えば空間周波数特性が第６空間周波数特性であることを意味する。これに対し、ステップ４０８でフーリエ変換が行われることよって得られた空間周波数の強度分布の密度が基準値以上の角度成分が存在している場合とは、例えば空間周波数特性が第１〜第５空間周波数特性の何れかであることを意味する。
【００９７】
なお、図１４に示す強度分布図では、空間周波数の強度分布の密度が基準値以上の角度成分として０°成分（第１空間周波数特性）が例示されている。従って、図１４に示す強度分布が得られた場合、ステップ４１０では、補正部２８Ｃにより、ステップ４０８でフーリエ変換が行われることよって得られた空間周波数の強度分布の密度が基準値以上の角度成分が存在していると判定される。
【００９８】
ステップ４１２では、補正部２８Ｃにより、第６空間周波数に対応する画素値変換関数である関数２６２Ａが導出される。また、補正部２８Ｃにより、ステップ４０４で算出された高彩度占有率に対応する係数が係数導出関数２６４から導出される。そして、導出された係数が特定の画素値に乗算されることで得られた１点を含む特定の３点に基づくスプライン補間等のアルゴリズムにより画素値変換関数（ここでは一例として関数２６２Ａ）が調整され、その後、ステップ４６へ移行する。ここで、特定の画素値とは、例えば、ステップ４０２で生成されたスプリットイメージにおける画素値のヒストグラムの最頻値、中央値、主要被写体領域の画素値、又は予め定められた画素値等を指す。また、特定の３点とは、例えば、（０，０）、（２５５，２５５）及び（特定の画素値，調整後の特定の画素値）の３点を指す。
【００９９】
なお、上記ステップ４１２で導出された係数が複数の特定の画素値に乗算されることで得られた複数点（２点以上）を含む特定の複数点（４点以上）に基づくスプライン補間等のアルゴリズムにより画素値変換関数が調整されてもよい。例えば、上記の調整後の画素値変換関数に代えて、図２７に示す調整後の画素値変換関数を採用してもよい。図２７に示す例では、調整後の画素値変換関数として、上記ステップ４１２で導出された係数が２つの特定の画素値に乗算されることで得られた２点（特定の画素値Ａ，Ｂ）を含む４点（（０，０）、（特定の画素値Ａ，調整後の特定の画素値Ａ）、（特定の画素値Ｂ，調整後の特定の画素値Ｂ）及び（２５５，２５５））により規定されるスプライン曲線に基づく階調補正機能を有する階調カーブが示されている。特定の画素値Ａ，Ｂとしては、ステップ４０２で生成されたスプリットイメージにおける画素値のヒストグラムの最頻値及び中央値が例示できる。
【０１００】
ステップ４１４では、補正部２８Ｃにより、ステップ４０８でフーリエ変換が行われることよって得られた空間周波数の強度分布のうち、最大の強度分布の方向（ここでは一例として空間周波数強度が最大の方向）に対応する画素値変換関数が導出される。
【０１０１】
ここで、空間周波数強度が最大の方向とは、図１４に示す強度分布図では、空間周波数強度が所定値以上の領域において、原点を通る直線を引いた場合にその直線が最も長くなる方向を指す。例えば、図１４に示す強度分布図では、空間周波数強度が最大の方向は、横軸方向である。図１４に示す強度分布図では、０°成分（横軸方向を含む角度成分）における強度分布の密度が他の角度成分における強度分布の密度よりも高いため、本ステップ４１４では、０°成分に対応する画素値変換関数である関数２６２Ａが導出される。また、ステップ４０２にて一例として図１５に示すスプリットイメージが生成され、生成されたスプリットイメージに含まれる解析対象領域についてフーリエ変換が行われると、一例として図１６に示す強度分布が得られる。この場合、６７．５°成分における強度分布の密度が他の角度成分のおける強度分布の密度よりも高いため、本ステップ４１４では、６７．５°成分に対応する画素値変換関数である関数２６２Ｄが導出される。
【０１０２】
また、ステップ４１４では、補正部２８Ｃにより、ステップ４０４で算出された高彩度占有率に対応する係数が係数導出関数２６４から導出される。そして、補正部２８Ｃにより、導出された係数が特定の画素値に乗算されることで得られた１点を含む特定の３点から上述したスプライン補間等のアルゴリズムにより画素値変換関数（ここでは一例として関数２６２Ａ）が調整される。
【０１０３】
更に、ステップ４１４では、補正部２８Ｃにより、空間周波数強度が最大の方向（ここでは一例として図１４に示す強度分布図の横軸方向）とステップ４００で取得された第１の画像及び第２の画像に基づく視差の方向（視差方向）との一致度が算出される。そして、算出された一致度が低いほど低輝度側のコントラストを大きくするように、本ステップ４１４で導出された係数が乗じられた画素値変換関数（ここでは一例としてスプライン補間等のアルゴリズムにより調整された関数２６２Ａ）が更に調整される。なお、ここで、低輝度側とは、例えば所定画素値未満（例えば０以上２５５以下の範囲内のうち１００未満の画素値）を意味する。本ステップ４１４が行われた後、画像出力処理はステップ４１６へ移行する。
【０１０４】
ステップ４１６では、補正部２８Ｃにより、ステップ４０２で生成されたスプリットイメージに含まれる解析対象領域（ここでは、一例として図１２に示す境界領域２６８）の画素値のヒストグラムが生成され、その後、ステップ４１８へ移行する。
【０１０５】
ステップ４１８では、補正部２８Ｃにより、ステップ４１６で生成されたヒストグラムに複数の極大値が存在しているか否かが判定される。ステップ４１８において、ステップ４１６で生成されたヒストグラムに複数の極大値が存在していない場合は、判定が否定されてステップ４２４へ移行する。ステップ４１８おいて、ステップ４１６で生成されたヒストグラムに複数の極大値が存在している場合は、判定が肯定されてステップ４２０へ移行する。例えば、ステップ４１６で生成されたヒストグラムにおいて、一例として図１７に示すように画素値ａ，ｂの各々に極大値が存在する場合、ステップ４１８の判定が肯定される。
【０１０６】
ステップ４２０では、決定部２８Ｄにより、一例として図１８に示すコントラスト調整操作部２７０が操作されたか否かが判定される。図１８に示すコントラスト調整操作部２７０は、表示部２１３に表示されるソフトウェアキー（ソフトキー）であり、Ｆボタン２７０Ａ、Ｂボタン２７０Ｂ、上方向指示ボタン２７０Ｃ及び下方向指示ボタン２７０Ｄを含む。コントラスト調整操作部２７０は、ユーザによる操作部１４を介した表示開始指示に応じて表示され、ユーザによる操作部１４を介した表示終了指示に応じて非表示される。表示部２１３に表示されたコントラスト調整操作部２７０は、ユーザによりタッチパネル２１５を介して操作される。ここで、コントラスト調整操作部２７０が操作された場合とは、例えばＦボタン２７０Ａの押下状態が維持されたまま上方向指示ボタン２７０Ｃが押下された場合及びＢボタン２７０Ｂの押下状態が維持されたまま下方向指示ボタン２７０Ｄが押下された場合を指す。
【０１０７】
ステップ４２０において、コントラスト調整操作部２７０が操作されていない場合は、判定が否定されてステップ４２４へ移行する。ステップ４２０において、コントラスト調整操作部２７０が操作された場合は、判定が肯定されてステップ４２２へ移行する。
【０１０８】
ステップ４２２では、決定部２８Ｄにより、ステップ４１６で生成されたヒストグラムにおける特定の２つの極大値に対応する画素値のコントラストがコントラスト調整操作部２７０の操作量に応じて大きくなるように画素値変換関数が調整される。
【０１０９】
ここで、特定の２つの極大値とは、例えば何れかの隣接する２つの極大値や、極大値間の差が最小の隣接する２つの極大値などを指す。図１７に示す例では、特定の２つの極大値に対応する画素値として画素値ａ，ｂが示されている。また、本ステップ４２２において調整対象とされる画素値変換関数は、ステップ４１２又はステップ４１４で調整された画素値変換関数である。
【０１１０】
従って、本ステップ４２２では、決定部２８Ｄにより、ステップ４１２又はステップ４１４で調整された画素値変換関数が、画素値（入力画素値）ａ，ｂに対する出力画素値のゲイン差がコントラスト調整操作部２７０の操作量に応じて大きくなるように調整される。例えば、図１９に示すように、Ｆボタン２７０Ａの押下状態が維持されたまま上方向指示ボタン２７０Ｃが押下されると、画素値ｂのゲインが上方向指示ボタン２７０Ｃの押下量（例えば継続押下時間、押下回数又は押圧力など）に応じて増加する。また、Ｂボタン２７０Ｂの押下状態が維持されたまま下方向指示ボタン２７０Ｄが押下されると、画素値ａのゲインが下方向指示ボタン２７０Ｄの押下量に応じて減少する。この結果、一例として図２０に示すように、画素値ａのゲインが２０％減少し、画素値ｂのゲインが１０％増加する。
【０１１１】
次のステップ４２４では、補正部２８Ｃにより、ステップ４１２、ステップ４１４又はステップ４２２で調整された画素値変換関数に従って補正対象領域に含まれる画像の階調が補正される。ここで、補正対象領域とは、例えば図１２に示す境界領域２６８を指す。なお、画像の階調の補正は、画素値変換関数に従って画素値が変換される（コントラストが調整される）ことによって実現される。
【０１１２】
次のステップ４２６では、補正部２８Ｃにより、ステップ４０２で生成された通常画像及びスプリットイメージ、又は、ステップ４０２で生成された通常画像及びステップ４２４で補正対象領域の階調が補正されたスプリットイメージが表示制御部３６に出力される。表示制御部３６は、通常画像及びスプリットイメージが入力されると、表示装置に対して通常画像を動画像として連続して表示させ、且つ、通常画像の表示領域内にスプリットイメージを動画像として連続して表示させる制御を行う。これにより、表示装置にライブビュー画像が表示される。また、ステップ４２６にてスプリットイメージにおける補正対象領域の階調が補正されているので、ライブビュー画像に含まれるスプリットイメージにおける境界領域２６８の位置が視覚的に特定し易くなる。よって、ユーザは、ライブビュー画像に含まれるスプリットイメージにより、撮影レンズ１６の合焦状態の確認がし易くなる。
【０１１３】
以上説明したように、本第１実施形態に係る撮像装置１００では、補正部２８Ｃにより、スプリットイメージにおける空間周波数特性及び画素値のヒストグラムの極大値に基づいて定まる画素値変換関数に従ってスプリットイメージの階調が補正される。これにより、本第１実施形態に係る撮像装置１００は、本構成を有しない場合に比べ、スプリットイメージに含まれる境界領域２６８を視覚的に認識し易くすることができる。
【０１１４】
また、本第１実施形態に係る撮像装置１００では、補正部２８Ｃにより、空間周波数特性強度が最大の方向に対応付けられた画素値変換関数に従ってスプリットイメージの階調が補正される。これにより、本第１実施形態に係る撮像装置１００は、空間周波数特性の強度分布が最大の方向以外の方向に対応付けられた画素値変換関数に従ってスプリットイメージの階調が補正される場合に比べ、境界領域２６８の視認性を向上させることができる。また、本第１実施形態では、画素値変換関数として、空間周波数強度が最大の方向と視差方向との一致度の低下に応じて、所定値未満の輝度の画像領域のコントラストを大きくする画素値変換関数を採用している。これにより、本構成を有しない場合に比べ、空間周波数強度が最大の方向と視差方向との一致度の低下に伴う視認性の悪化を抑制することができる。
【０１１５】
また、本第１実施形態に係る撮像装置１００では、補正部２８Ｃにより、境界領域２６８における空間周波数特性及び画素値のヒストグラムの極大値に基づいて画素値変換関数が定まる。これにより、本第１実施形態に係る撮像装置１００は、本構成を有しない場合に比べ、的確な画素値変換関数を定めることができる。
【０１１６】
また、本第１実施形態に係る撮像装置１００では、補正部２８Ｃにより、画素値変換関数に従って境界領域２６８に含まれる画像の階調が補正される。これにより、本第１実施形態に係る撮像装置１００は、ユーザに対して、境界領域２６８と他の領域との違いをより一層明確に認識させることができる。また、階調補正が不必要な領域に対して階調補正が実施されることを抑制することができる。
【０１１７】
また、本第１実施形態に係る撮像装置１００では、補正部２８Ｃにより、ヒストグラムにおける複数の極大値のうちの特定の一対の極大値に対応する画素値のコントラストを補正前のコントラストよりも大きくしている。これにより、本第１実施形態に係る撮像装置１００は、特定の一対の極大値に対応する画素値のコントラストを補正前のコントラストよりも大きくしない場合に比べ、境界領域２６８の視認性を向上させることができる。また、階調補正が不必要な領域に対して階調補正が実施されることを抑制することができる。
【０１１８】
また、本第１実施形態に係る撮像装置１００では、決定部２８Ｄにより、特定の一対の極大値に対応する画素値のコントラストが、与えられた指示に応じて決定される。これにより、本第１実施形態に係る撮像装置１００は、特定の一対の極大値に対応する画素値のコントラストが、与えられた指示に応じて決定されない場合に比べ、ユーザビリティを向上させることができる。
【０１１９】
また、本第１実施形態に係る撮像装置１００では、補正部２８Ｃにより、有彩色占有率が閾値未満の場合に画素値変換関数に従ってスプリットイメージの階調が補正される。これにより、本第１実施形態に係る撮像装置１００は、有彩色占有率が閾値未満の場合に画素値変換関数に従ってスプリットイメージの階調が補正される場合に比べ、不必要な階調補正の実施を回避することができる。
【０１２０】
また、本第１実施形態に係る撮像装置１００では、補正部２８Ｃにより、有彩色占有率に応じて定まる係数を用いて画素値変換関数が調整され、調整後の画素値変換関数に従ってスプリットイメージの階調が補正される。これにより、本第１実施形態に係る撮像装置１００は、有彩色占有率に応じて定まる係数を用いて画素値変換関数が調整されない場合に比べ、境界領域２６８の視認性を向上させることができる。
【０１２１】
なお、上記第１実施形態では、スプリットイメージにおける解析対象領域の画素値のヒストグラムに基づいて画素値変換関数を調整する場合を例に挙げて説明したが、本発明はこれに限定されるものではない。すなわち、スプリットイメージにおける解析対象領域の画素値のヒストグラムに基づいて画素値変換関数を調整しなくてもよい。この場合、図１３に示す画像出力処理からステップ４１６，４１８，４２０，４２２を除けばよい。
【０１２２】
また、上記第１実施形態では、境界領域２６８における空間周波数特性及び画素値のヒストグラムの極大値に基づいて画素値変換関数を定める例を挙げて説明したが、本発明はこれに限定されるものではない。例えば、スプリットイメージ全体における空間周波数特性及び画素値のヒストグラムの極大値に基づいて画素値変換関数を定めてもよい。
【０１２３】
また、上記第１実施形態では、境界領域２６８に含まれる画像の階調を補正する場合を例に挙げて説明したが、これに限らず、スプリットイメージ全体の階調を補正するようにしてもよい。
【０１２４】
また、上記第１実施形態では、補正部２８Ｃが、図１３に示す画像出力処理のステップ４１４にて空間周波数の強度分布が最大の方向に対応する画素値変換関数を導出する処理を行っているが、本発明はこれに限定されるものではない。例えば、ステップ４１４の処理に代えて、空間周波数の強度分布が最大の複数の方向（例えば第１及び第２の方向）に対応する複数の画素値変換関数を導出し、導出した複数の画素値変換関数を平均化した画素値変換関数を取得する処理を適用してもよい。また、ステップ４１４の処理に代えて、空間周波数の強度分布の密度が基準値以上の複数の角度成分に対応する複数の画素値変換関数を導出し、導出した複数の画素値変換関数を平均化した画素値変換関数を取得する処理を適用してもよい。
【０１２５】
また、上記第１実施形態では、補正部２８Ｃが、図１３に示す画像出力処理のステップ４１８にて複数の極大値の存在の有無を判定しているが、複数の極小値が存在しているか否かを判定するようにしてもよい。この場合、決定部２８Ｄは、ステップ４２２の処理に代えて、特定の２つの極小値に対応する画素値のコントラストを操作量に応じて大きくするように画素値変換関数を調整する処理を行えばよい。
【０１２６】
また、上記第１実施形態では、図１３に示す画像出力処理のステップ４０６で用いる閾値としてデフォルトで設定された固定値を採用しているが、これに限らず、ユーザが操作部１４を介して指示した値を採用してもよい。
【０１２７】
また、上記第１実施形態では、コントラスト調整操作部２７０としてソフトキーを採用しているが、ハードウェアキー（ハードキー）であってもよいし、ソフトキーとハードキーとの組み合わせであってもよい。また、上記第１実施形態では、コントラスト調整操作部２７０として押下式のボタンを採用しているが、これに限らず、スライド式の操作部であってもよい。
【０１２８】
［第２実施形態］
上記第１実施形態では、空間周波数の強度分布の方向に基づいて定まる画素値変換関数を用いて階調補正を行う場合を例示したが、本第２実施形態ではヒストグラムの極大値に基づいて定まる画素値変換関数を用いて階調補正を行う場合について説明する。なお、以下では、上記第１実施形態と同一の構成については、同一の符号を付し、説明を省略する。
【０１２９】
図１〜図３に示す本第２実施形態に係る撮像装置１００Ａは、上記第１実施形態で説明した撮像装置１００と比べ、画像処理部２８が図１３に示す画像出力処理に代えて図２１に示す画像出力処理を行う点が異なる。
【０１３０】
図２１に示す画像出力処理は、図１３に示す画像出力処理と比べ、ステップ４０８，４１０，４１２，４１４を除いた点が異なる。また図２１に示す画像出力処理は、図１３に示す画像出力処理と比べ、ステップ４１６とステップ４１８との間にステップ４５０を有する点が異なる。また、図２１に示す画像出力処理は、図１３に示す画像出力処理と比べ、ステップ４２０，４２２，４２４，４２６に代えてステップ４５２，４５４，４５６，４５８を有する点が異なる。
【０１３１】
図２１に示すステップ４５０では、補正部２８Ｃにより、基本の画素値変換関数が取得される。ここで、基本の画素値変換関数とは、例えば図２０において破線曲線で表された画素値変換関数を指す。本第２実施形態では、基本の画素値変換関数としてデフォルトで設定された関数を採用しているが、これに限らず、例えばヒストグラムの積分値に応じて一意に定まる画素値変換関数であってもよい。
【０１３２】
また、ステップ４５０では、補正部２８Ｃにより、ステップ４０４で算出された高彩度占有率に対応する係数が係数導出関数２６４から導出される。そして、補正部２８Ｃにより、本ステップ４５０で取得された基本の画素値変換関数が、本ステップ４５０で導出された係数が乗じられることで調整される。本ステップ４５０が行われた後、画像出力処理はステップ４１８へ移行する。
【０１３３】
ステップ４５２では、補正部２８Ｃにより、ステップ４１６で生成されたヒストグラムにおける特定の２つの極大値（以下、「特定の２つの極大値」という）に対応する画素値の調整係数が取得される。ここで、調整係数とは、例えば特定の２つの極大値に対応する画素値のゲイン調整で用いる係数を指す。調整係数は、画素値毎に且つ極大値間の差分（例えば差の絶対値）毎に予め定められており、テーブル又は演算式によって一意に導出される。
【０１３４】
次のステップ４５４では、補正部２８Ｃにより、ステップ４５０で調整された基本の画素値変換関数が、特定の２つの極大値に対応する画素値（入力画素値）に対する出力画素値の各々に対してステップ４５２で取得された各調整係数が乗じられることで調整される。本ステップ４５４で基本の画素値変換関数が調整されると、一例として図２０に示す実線曲線で表される画素値変換関数（以下、「調整済み関数」という）が得られる。図２０に示す例では、画素値ａに対応する出力画素値に調整係数が乗じられることで画素値ａに対応するゲインが２０％減少し、画素値ｂに対応する出力画素値に調整係数が乗じられることで画素値ｂに対応するゲインが１０％増加している。
【０１３５】
ステップ４５６では、補正部２８Ｃにより、ステップ４５０で調整された基本の画素値変換関数又はステップ４５６で得られた調整済み関数に従って補正対象領域に含まれる画像の階調が補正され、その後、ステップ４５８へ移行する。
【０１３６】
ステップ４５８では、補正部２８Ｃにより、ステップ４０２で生成された通常画像及びスプリットイメージ、又は、ステップ４０２で生成された通常画像及びステップ４５６で補正対象領域の階調が補正されたスプリットイメージが表示制御部３６に出力される。
【０１３７】
以上説明したように、本第２実施形態に係る撮像装置１００Ａでは、補正部２８Ｃにより、スプリットイメージにおける画素値のヒストグラムの極大値に基づいて定まる画素値変換関数に従ってスプリットイメージの階調が補正される。これにより、本第２実施形態に係る撮像装置１００は、本構成を有しない場合に比べ、簡易な構成で、スプリットイメージに含まれる境界領域２６８を視覚的に認識し易くすることができる。
【０１３８】
なお、上記第２実施形態では、補正部２８Ｃが調整係数を導出し、導出した調整係数を画素値変換関数における対応する出力画素値に乗じることによって基本の画素値変換関数を調整する例を挙げて説明したが、本発明はこれに限定されるものではない。例えば、特定の２つの極大値及びこれらの極大値に対応する画素値からテーブル又は演算式によって調整済み関数が一意に導出されるようにしてもよい。
【０１３９】
また、上記第２実施形態では、境界領域２６８における画素値のヒストグラムの極大値に基づいて画素値変換関数を定める例を挙げて説明したが、本発明はこれに限定されるものではない。例えば、スプリットイメージ全体における画素値のヒストグラムの極大値に基づいて画素値変換関数を定めてもよい。また、極大値に代えて極小値を採用してもよい。
【０１４０】
［第３実施形態］
上記各実施形態では、撮像装置１００（１００Ａ）を例示したが、撮像装置１００（１００Ａ）の変形例である携帯端末装置としては、例えばカメラ機能を有する携帯電話機やスマートフォンなどが挙げられる。この他にも、ＰＤＡ（Personal Digital Assistants）や携帯型ゲーム機などが挙げられる。本第３実施形態では、スマートフォンを例に挙げ、図面を参照しつつ、詳細に説明する。
【０１４１】
図２２は、スマートフォン５００の外観の一例を示す斜視図である。図２２に示すスマートフォン５００は、平板状の筐体５０２を有し、筐体５０２の一方の面に表示部としての表示パネル５２１と、入力部としての操作パネル５２２とが一体となった表示入力部５２０を備えている。また、筐体５０２は、スピーカ５３１と、マイクロホン５３２と、操作部５４０と、カメラ部５４１とを備えている。なお、筐体５０２の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド構造を有する構成を採用することもできる。
【０１４２】
図２３は、図２２に示すスマートフォン５００の構成の一例を示すブロック図である。図２３に示すように、スマートフォン５００の主たる構成要素として、無線通信部５１０と、表示入力部５２０と、通信部５３０と、操作部５４０と、カメラ部５４１と、記憶部５５０と、外部入出力部５６０と、を備える。また、スマートフォン５００の主たる構成要素として、ＧＰＳ（Global Positioning System）受信部５７０と、モーションセンサ部５８０と、電源部５９０と、主制御部５０１と、を備える。また、スマートフォン５００の主たる機能として、基地局装置ＢＳと移動通信網ＮＷとを介した移動無線通信を行う無線通信機能を備える。
【０１４３】
無線通信部５１０は、主制御部５０１の指示に従って、移動通信網ＮＷに収容された基地局装置ＢＳに対して無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Ｗｅｂデータやストリーミングデータなどの受信を行う。
【０１４４】
表示入力部５２０は、いわゆるタッチパネルであって、表示パネル５２１と、操作パネル５２２とを備える。そのため、表示入力部５２０は、主制御部５０１の制御により、画像（静止画像および動画像）や文字情報などを表示して視覚的にユーザに情報を伝達し、且つ、表示した情報に対するユーザ操作を検出する。なお、生成された３Ｄを鑑賞する場合には、表示パネル５２１は、３Ｄ表示パネルであることが好ましい。
【０１４５】
表示パネル５２１は、ＬＣＤ、ＯＥＬＤ(Organic Electro-Luminescence Display)などを表示デバイスとして用いたものである。操作パネル５２２は、表示パネル５２１の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。係るデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部５０１に出力する。次いで、主制御部５０１は、受信した検出信号に基づいて、表示パネル５２１上の操作位置（座標）を検出する。
【０１４６】
図２２に示すように、スマートフォン５００の表示パネル５２１と操作パネル５２２とは一体となって表示入力部５２０を構成しているが、操作パネル５２２が表示パネル５２１を完全に覆うような配置となっている。この配置を採用した場合、操作パネル５２２は、表示パネル５２１外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル５２２は、表示パネル５２１に重なる重畳部分についての検出領域（以下、表示領域と称する）と、それ以外の表示パネル５２１に重ならない外縁部分についての検出領域（以下、非表示領域と称する）とを備えていてもよい。
【０１４７】
なお、表示領域の大きさと表示パネル５２１の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル５２２が、外縁部分と、それ以外の内側部分の２つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体５０２の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル５２２で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
【０１４８】
通信部５３０は、スピーカ５３１やマイクロホン５３２を備える。通信部５３０は、マイクロホン５３２を通じて入力されたユーザの音声を主制御部５０１にて処理可能な音声データに変換して主制御部５０１に出力する。また、通信部５３０は、無線通信部５１０あるいは外部入出力部５６０により受信された音声データを復号してスピーカ５３１から出力する。また、図２３に示すように、例えば、スピーカ５３１を表示入力部５２０が設けられた面と同じ面に搭載し、マイクロホン５３２を筐体５０２の側面に搭載することができる。
【０１４９】
操作部５４０は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図２２に示すように、操作部５４０は、スマートフォン５００の筐体５０２の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
【０１５０】
記憶部５５０は、主制御部５０１の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータを記憶する。また、記憶部５５０は、ＷｅｂブラウジングによりダウンロードしたＷｅｂデータや、ダウンロードしたコンテンツデータを記憶する。また、記憶部５５０は、ストリーミングデータなどを一時的に記憶する。また、記憶部５５０は、スマートフォン内蔵の内部記憶部５５１と着脱自在な外部メモリスロットを有する外部記憶部５５２を有する。なお、記憶部５５０を構成するそれぞれの内部記憶部５５１と外部記憶部５５２は、フラッシュメモリタイプ（flash memory type）、ハードディスクタイプ（hard disk type）などの格納媒体を用いて実現される。格納媒体としては、この他にも、マルチメディアカードマイクロタイプ（multimedia card micro type）、カードタイプのメモリ（例えば、ＭｉｃｒｏＳＤ（登録商標）メモリ等）、ＲＡＭ（Random Access Memory）、ＲＯＭ（Read Only Memory）が例示できる。
【０１５１】
外部入出力部５６０は、スマートフォン５００に連結される全ての外部機器とのインタフェースの役割を果たすものであり、他の外部機器に通信等又はネットワークにより直接的又は間接的に接続するためのものである。他の外部機器に通信等としては、例えば、ユニバーサルシリアルバス（ＵＳＢ）、ＩＥＥＥ１３９４などが挙げられる。ネットワークとしては、例えば、インターネット、無線ＬＡＮ、ブルートゥース（Bluetooth（登録商標））、ＲＦＩＤ（Radio Frequency Identification）、赤外線通信（Infrared Data Association：ＩｒＤＡ（登録商標））が挙げられる。また、ネットワークの他の例としては、ＵＷＢ（Ultra Wideband（登録商標））、ジグビー（ZigBee（登録商標））などが挙げられる。
【０１５２】
スマートフォン５００に連結される外部機器としては、例えば、有／無線ヘッドセット、有／無線外部充電器、有／無線データポート、カードソケットを介して接続されるメモリカード（Memory card）が挙げられる。外部機器の他の例としては、ＳＩＭ(Subscriber Identity Module Card)／ＵＩＭ(User Identity Module Card)カード、オーディオ・ビデオＩ／Ｏ（Input/Output）端子を介して接続される外部オーディオ・ビデオ機器が挙げられる。外部オーディオ・ビデオ機器の他にも、無線接続される外部オーディオ・ビデオ機器が挙げられる。また、外部オーディオ・ビデオ機器に代えて、例えば有／無線接続されるスマートフォン、有／無線接続されるパーソナルコンピュータ、有／無線接続されるＰＤＡ、有／無線接続されるパーソナルコンピュータ、イヤホンなども適用可能である。
【０１５３】
外部入出力部は、このような外部機器から伝送を受けたデータをスマートフォン５００の内部の各構成要素に伝達することや、スマートフォン５００の内部のデータが外部機器に伝送されるようにすることができる。
【０１５４】
ＧＰＳ受信部５７０は、主制御部５０１の指示にしたがって、ＧＰＳ衛星ＳＴ１〜ＳＴｎから送信されるＧＰＳ信号を受信し、受信した複数のＧＰＳ信号に基づく測位演算処理を実行し、当該スマートフォン５００の緯度、経度、高度からなる位置を検出する。ＧＰＳ受信部５７０は、無線通信部５１０や外部入出力部５６０（例えば、無線ＬＡＮ）から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
【０１５５】
モーションセンサ部５８０は、例えば、３軸の加速度センサなどを備え、主制御部５０１の指示にしたがって、スマートフォン５００の物理的な動きを検出する。スマートフォン５００の物理的な動きを検出することにより、スマートフォン５００の動く方向や加速度が検出される。この検出結果は、主制御部５０１に出力されるものである。
【０１５６】
電源部５９０は、主制御部５０１の指示にしたがって、スマートフォン５００の各部に、バッテリ（図示省略）に蓄えられる電力を供給するものである。
【０１５７】
主制御部５０１は、マイクロプロセッサを備え、記憶部５５０が記憶する制御プログラムや制御データにしたがって動作し、スマートフォン５００の各部を統括して制御するものである。また、主制御部５０１は、無線通信部５１０を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
【０１５８】
アプリケーション処理機能は、記憶部５５０が記憶するアプリケーションソフトウェアにしたがって主制御部５０１が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部５６０を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Ｗｅｂページを閲覧するＷｅｂブラウジング機能などがある。
【０１５９】
また、主制御部５０１は、受信データやダウンロードしたストリーミングデータなどの画像データ（静止画像や動画像のデータ）に基づいて、映像を表示入力部５２０に表示する等の画像処理機能を備える。画像処理機能とは、主制御部５０１が、上記画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部５２０に表示する機能のことをいう。
【０１６０】
更に、主制御部５０１は、表示パネル５２１に対する表示制御と、操作部５４０、操作パネル５２２を通じたユーザ操作を検出する操作検出制御とを実行する。
【０１６１】
表示制御の実行により、主制御部５０１は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトキーを表示したり、あるいは電子メールを作成したりするためのウィンドウを表示する。なお、スクロールバーとは、表示パネル５２１の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトキーのことをいう。
【０１６２】
また、操作検出制御の実行により、主制御部５０１は、操作部５４０を通じたユーザ操作を検出したり、操作パネル５２２を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたりする。また、操作検出制御の実行により、主制御部５０１は、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
【０１６３】
更に、操作検出制御の実行により主制御部５０１は、操作パネル５２２に対する操作位置が、表示パネル５２１に重なる重畳部分（表示領域）か、それ以外の表示パネル２１に重ならない外縁部分（非表示領域）かを判定する。そして、この判定結果を受けて、操作パネル５２２の感応領域や、ソフトキーの表示位置を制御するタッチパネル制御機能を備える。
【０１６４】
また、主制御部５０１は、操作パネル５２２に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも１つについて軌跡を描く操作を意味する。
【０１６５】
カメラ部５４１は、ＣＭＯＳやＣＣＤなどの撮像素子を用いて撮像するデジタルカメラであり、図１等に示す撮像装置１００と同様の機能を備えている。
【０１６６】
また、カメラ部５４１は、マニュアルフォーカスモードとオートフォーカスモードとを切り替え可能である。マニュアルフォーカスモードが選択されると、操作部５４０又は表示入力部５２０に表示されるフォーカス用のアイコンボタン等を操作することにより、カメラ部５４１の撮影レンズのピント合わせを行うことができる。また、マニュアルフォーカスモード時には、スプリットイメージが合成されたライブビュー画像を表示パネル５２１に表示させ、これによりマニュアルフォーカス時の合焦状態を確認できるようにしている。なお、図８に示すハイブリッドファインダー２２０をスマートフォン５００に設けるようにしてもよい。
【０１６７】
また、カメラ部５４１は、主制御部５０１の制御により、撮像によって得た画像データを例えばＪＰＥＧ(Joint Photographic coding Experts Group)などの圧縮した画像データに変換する。そして、変換して得た画像データを記憶部５５０に記録したり、入出力部５６０や無線通信部５１０を通じて出力することができる。図２２に示すにスマートフォン５００において、カメラ部５４１は表示入力部５２０と同じ面に搭載されているが、カメラ部５４１の搭載位置はこれに限らず、表示入力部５２０の背面に搭載されてもよいし、あるいは、複数のカメラ部５４１が搭載されてもよい。なお、複数のカメラ部５４１が搭載されている場合には、撮像に供するカメラ部５４１を切り替えて単独にて撮像したり、あるいは、複数のカメラ部５４１を同時に使用して撮像したりすることもできる。
【０１６８】
また、カメラ部５４１はスマートフォン５００の各種機能に利用することができる。例えば、表示パネル５２１にカメラ部５４１で取得した画像を表示することや、操作パネル５２２の操作入力のひとつとして、カメラ部５４１の画像を利用することができる。また、ＧＰＳ受信部５７０が位置を検出する際に、カメラ部５４１からの画像を参照して位置を検出することもできる。更には、カメラ部５４１からの画像を参照して、３軸の加速度センサを用いずに、或いは、３軸の加速度センサと併用して、スマートフォン５００のカメラ部５４１の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部５４１からの画像をアプリケーションソフトウェア内で利用することもできる。
【０１６９】
その他、静止画又は動画の画像データに各種情報を付加して記憶部５５０に記録したり、入出力部５６０や無線通信部５１０を通じて出力したりすることもできる。ここで言う「各種情報」としては、例えば、静止画又は動画の画像データにＧＰＳ受信部５７０により取得した位置情報、マイクロホン５３２により取得した音声情報（主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい）が挙げられる。この他にも、モーションセンサ部５８０により取得した姿勢情報等などであってもよい。
【０１７０】
また、上記各実施形態では、上下方向に２分割されたスプリットイメージを例示したが、これに限らず、左右方向又は斜め方向に複数分割された画像をスプリットイメージとして適用してもよい。
【０１７１】
例えば、図２４に示すスプリットイメージ６６ａは、行方向に平行な複数の分割線６３ａにより奇数ラインと偶数ラインとに分割されている。このスプリットイメージ６６ａでは、第１の画素群から出力された出力信号に基づいて生成されたライン状（一例として短冊状）の位相差画像６６Ｌａが奇数ライン（偶数ラインでも可）に表示される。また、第２の画素群から出力された出力信号に基づき生成されたライン状（一例として短冊状）の位相差画像６６Ｒａが偶数ラインに表示される。
【０１７２】
また、図２５に示すスプリットイメージ６６ｂは、行方向に傾き角を有する分割線６３ｂ（例えば、スプリットイメージ６６ｂの対角線）により２分割されている。このスプリットイメージ６６ｂでは、第１の画素群から出力された出力信号に基づき生成された位相差画像６６Ｌｂが一方の領域に表示される。また、第２の画素群から出力された出力信号に基づき生成された位相差画像６６Ｒｂが他方の領域に表示される。
【０１７３】
また、図２６Ａ及び図２６Ｂに示すスプリットイメージ６６ｃは、行方向及び列方向にそれぞれ平行な格子状の分割線６３ｃにより分割されている。スプリットイメージ６６ｃでは、第１の画素群から出力された出力信号に基づき生成された位相差画像６６Ｌｃが市松模様（チェッカーパターン）状に並べられて表示される。また、第２の画素群から出力された出力信号に基づき生成された位相差画像６６Ｒｃが市松模様状に並べられて表示される。
【０１７４】
また、スプリットイメージに限らず、２つの位相差画像から他の合焦確認画像を生成し、合焦確認画像を表示するようにしてもよい。例えば、２つの位相差画像を重畳して合成表示し、ピントがずれている場合は２重像として表示され、ピントが合った状態ではクリアに画像が表示されるようにしてもよい。
【０１７５】
また、上記各実施形態では、第１〜第３の画素群を有する撮像素子２０を例示したが、本発明はこれに限定されるものではなく、第１の画素群及び第２の画素群のみからなる撮像素子であってもよい。この種の撮像素子を有するデジタルカメラは、第１の画素群から出力された第１の画像及び第２の画素群から出力された第２の画像に基づいて３次元画像（３Ｄ画像）を生成することができるし、２次元画像（２Ｄ画像）も生成することができる。この場合、２次元画像の生成は、例えば第１の画像及び第２の画像の相互における同色の画素間で補間処理を行うことで実現される。また、補間処理を行わずに、第１の画像又は第２の画像を２次元画像として採用してもよい。
【０１７６】
また、上記各実施形態では、第１〜第３の画像が画像処理部２８に入力された場合に通常画像とスプリットイメージとの双方を表示装置の同画面に同時に表示する態様を例示したが、本発明はこれに限定されるものではない。例えば、表示制御部３６が、表示装置に対する通常画像の動画像としての連続した表示を抑止し、且つ、表示装置に対してスプリットイメージを動画像として連続して表示させる制御を行うようにしてもよい。ここで言う「通常画像の表示を抑止する」とは、例えば表示装置に対して通常画像を表示させないことを指す。具体的には、通常画像を生成するものの表示装置に通常画像を出力しないことで表示装置に対して通常画像を表示させないことや通常画像を生成しないことで表示装置に対して通常画像を表示させないことを指す。表示装置の画面全体を利用してスプリットイメージを表示させてもよいし、一例として図９に示すスプリットイメージの表示領域の全体を利用してスプリットイメージを表示させてもよい。なお、ここで言う「スプリットイメージ」としては、特定の撮像素子を使用する場合において、位相差画群から出力された画像（例えば第１の画素群から出力された第１の画像及び第２の画素群から出力された第２の画像）に基づくスプリットイメージが例示できる。「特定の撮像素子を使用する場合」としては、例えば位相差画素群（例えば第１の画素群及び第２の画素群）のみからなる撮像素子を使用する場合が挙げられる。この他にも、通常画素に対して所定の割合で位相差画素（例えば第１の画素群及び第２の画素群）が配置された撮像素子を使用する場合が例示できる。
【０１７７】
また、通常画像の表示を抑止してスプリットイメージを表示させるための条件としては、様々な条件が考えられる。例えば、スプリットイメージの表示が指示されている状態で通常画像の表示指示が解除された場合に表示制御部３６が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。また、例えば、撮影者がハイブリッドファインダーを覗きこんだ場合に表示制御部３６が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。また、例えば、レリーズボタン２１１が半押し状態にされた場合に表示制御部３６が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。また、例えば、レリーズボタン２１１に対して押圧操作が行われていない場合に表示制御部３６が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。また、例えば、被写体の顔を検出する顔検出機能を働かせた場合に表示制御部３６が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。なお、ここでは、表示制御部３６が通常画像の表示を抑止する変形例を挙げたが、これに限らず、例えば、表示制御部３６は、通常画像に全画面のスプリットイメージを上書き表示するように制御を行ってもよい。
【０１７８】
また、上記各実施形態で説明した撮像装置１００（１００Ａ）は、被写界深度を確認する機能（被写界深度確認機能）を有していてもよい。この場合、例えば撮像装置１００は被写界深度確認キーを有する。被写界深度確認キーは、ハードキーであってもよいし、ソフトキーであってもよい。ハードキーによる指示の場合は、例えばモーメンタリ動作型のスイッチ（非保持型スイッチ）を適用することが好ましい。ここで言うモーメンタリ動作型のスイッチとは、例えば所定位置に押し込まれている間だけ撮像装置１００における特定の動作状態を維持するスイッチを指す。ここで、被写界深度確認キーは、押下されると絞り値が変更される。また、被写界深度確認キーに対する押下が継続して行われている間（所定位置に押し込まれている間）、絞り値は限界値に達するまで変化し続ける。このように、被写界深度確認キーの押下中は、絞り値が変化するため、スプリットイメージを得るために必要な位相差が得られない場合がある。そこで、スプリットイメージが表示されている状態で、被写界深度確認キーが押下された場合、押下中はスプリットイメージから通常のライブビュー表示に変更するようにしてもよい。また、押下状態が解除された際に再度スプリットイメージを表示させるように画面の切り替えをＣＰＵ１２が行うようにしてもよい。なお、ここでは、被写界深度確認キーの一例としてモーメンタリ動作型のスイッチを適用した場合を例示したが、これに限らず、オルタネイト動作型のスイッチ（保持型スイッチ）を適用してもよい。
【０１７９】
また、上記各実施形態で説明した画像出力処理の流れ（図１３及び図２１参照）はあくまでも一例である。従って、主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよいことは言うまでもない。また、上記各実施形態で説明した画像出力処理に含まれる各処理は、プログラムを実行することにより、コンピュータを利用してソフトウェア構成により実現されてもよいし、その他のハードウェア構成で実現されてもよい。また、ハードウェア構成とソフトウェア構成の組み合わせによって実現してもよい。
【０１８０】
上記各実施形態で説明した画像出力処理を、コンピュータによりプログラムを実行することにより実現する場合は、プログラムを所定の記憶領域（例えばメモリ２６）に予め記憶しておけばよい。なお、必ずしも最初からメモリ２６に記憶させておく必要はない。例えば、コンピュータに接続されて使用されるＳＳＤ（Solid State Drive）、ＣＤ−ＲＯＭ、ＤＶＤディスク、光磁気ディスク、ＩＣカードなどの任意の「可搬型の記憶媒体」に先ずはプログラムを記憶させておいてもよい。そして、コンピュータがこれらの可搬型の記憶媒体からプログラムを取得して実行するようにしてもよい。また、インターネットやＬＡＮ（Local Area Network）などを介してコンピュータに接続される他のコンピュータまたはサーバ装置などに各プログラムを記憶させておき、コンピュータがこれらからプログラムを取得して実行するようにしてもよい。
【符号の説明】
【０１８１】
１６  撮影レンズ
２０  撮像素子
２６  メモリ
２８Ａ  画像取得部
２８Ｂ  生成部
２８Ｃ  補正部
２８Ｄ  決定部
３６Ａ，３６Ｂ  表示制御部
１００，１００Ａ  撮像装置
２１３  表示部
２４７  ＬＣＤ
【図３】
2014155812.tif 000003
【図４】
2014155812.tif 000004
【図１３】
2014155812.tif 000005
【図１】
2014155812.tif 000006
【図２】
2014155812.tif 000007
【図５】
2014155812.tif 000008
【図６】
2014155812.tif 000009
【図７】
2014155812.tif 000010
【図８】
2014155812.tif 000011
【図９】
2014155812.tif 000012
【図１０】
2014155812.tif 000013
【図１１】
2014155812.tif 000014
【図１２】
2014155812.tif 000015
【図１４】
2014155812.tif 000016
【図１５】
2014155812.tif 000017
【図１６】
2014155812.tif 000018
【図１７】
2014155812.tif 000019
【図１８】
2014155812.tif 000020
【図１９】
2014155812.tif 000021
【図２０】
2014155812.tif 000022
【図２１】
2014155812.tif 000023
【図２２】
2014155812.tif 000024
【図２３】
2014155812.tif 000025
【図２４】
2014155812.tif 000026
【図２５】
2014155812.tif 000027
【図２６Ａ】
2014155812.tif 000028
【図２６Ｂ】
2014155812.tif 000029
【図２７】
2014155812.tif 000030
【手続補正書】
【提出日】平成28年10月4日(2016.10.4)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第１及び第２の画像信号を出力する第１及び第２の画素群を有する撮像素子から出力された前記第１及び第２の画像信号に基づく第１及び第２の画像を取得する画像取得部と、
前記撮像素子から出力された画像信号に基づいて第１の表示用画像を生成し、且つ、前記第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成する生成部と、
前記第２の表示用画像における空間周波数特性及び前記第２の表示用画像における画素値のヒストグラムの極値の少なくとも一方に基づいて定まる階調補正情報に従って前記第２の表示用画像の階調を補正する補正部と、
画像を表示する表示部と、
前記表示部に対して、前記生成部により生成された前記第１の表示用画像を表示させ、且つ、前記第１の表示用画像の表示領域内に、前記補正部により階調が補正された前記第２の表示用画像を表示させる制御を行う表示制御部と、
を含む画像処理装置。
【請求項２】
撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第１及び第２の画像信号を出力する第１及び第２の画素群を有する撮像素子から出力された前記第１及び第２の画像信号に基づく第１及び第２の画像を取得する画像取得部と、
前記撮像素子から出力された画像信号に基づいて第１の表示用画像を生成し、且つ、前記第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成する生成部と、
前記第２の表示用画像における空間周波数特性及び前記第２の表示用画像における画素値のヒストグラムの極値の少なくとも一方に基づいて定まる階調補正情報に従って前記第２の表示用画像の階調を補正する補正部と、
画像を表示する表示部と、
前記表示部に対して、前記補正部により階調が補正された前記第２の表示用画像を表示させる制御を行う表示制御部と、
を含む画像処理装置。
【請求項３】
前記空間周波数特性は、前記第２の表示用画像における空間周波数強度が最大の方向である請求項１又は請求項２に記載の画像処理装置。
【請求項４】
前記階調補正情報は、前記空間周波数強度が最大の方向と前記第１の画像及び前記第２の画像に基づく視差方向との一致度の低下に応じて、所定値未満の輝度の画像領域のコントラストを大きくする階調補正係数である請求項３に記載の画像処理装置。
【請求項５】
前記第２の表示用画像は、前記第１の画像に含まれる第１画像領域と前記第２の画像に含まれる第２画像領域とを瞳分割方向に交差する方向に沿って組み合わせた画像を含み、
前記階調補正情報は、前記第２の表示用画像に含まれる前記第１画像領域と前記第２画像領域との境界を含む第１境界領域における前記空間周波数特性及び前記第２の表示用画像における画素値のヒストグラムの極値の少なくとも一方に基づいて定まる請求項１から請求項４の何れか１項に記載の画像処理装置。
【請求項６】
前記補正部は、前記階調補正情報に従って前記第１境界領域の階調を補正する請求項５に記載の画像処理装置。
【請求項７】
前記第２の表示用画像は、前記第１の画像に含まれる第１画像領域と前記第２の画像に含まれる第２画像領域とを瞳分割方向に交差する方向に沿って組み合わせた画像を含み、
前記補正部は、前記階調補正情報に従って、前記第２の表示用画像に含まれる前記第１画像領域と前記第２画像領域との境界を含む第１境界領域の階調を補正する請求項１から請求項４の何れか１項に記載の画像処理装置。
【請求項８】
前記ヒストグラムに基づいて定まる前記階調補正情報の内容は、前記ヒストグラムが複数の極大値を有する場合、前記複数の極大値のうちの特定の一対の極大値に対応する画素間のコントラストを補正前のコントラストよりも大きくする内容である請求項１から請求項７の何れか１項に記載の画像処理装置。
【請求項９】
前記コントラストを、与えられた指示に応じて決定する決定部を更に含む請求項８に記載の画像処理装置。
【請求項１０】
前記補正部は、前記第１の表示用画像と前記第２の表示用画像との境界に隣接する前記第１の表示用画像側の第２境界領域における所定値以上の彩度を有する画素の占有率が閾値未満の場合に前記階調補正情報に従って前記第２の表示用画像の階調を補正する請求項１から請求項９の何れか１項に記載の画像処理装置。
【請求項１１】
前記補正部は、前記占有率に応じて定まる調整値を用いて前記階調補正情報を調整し、調整後の前記階調補正情報に従って前記第２の表示用画像の階調を補正する請求項１０に記載の画像処理装置。
【請求項１２】
前記撮像素子は、前記撮影レンズを透過した被写体像が瞳分割されずに結像されて第３の画像信号を出力する第３の画素群を更に有し、
前記生成部は、前記第３の画素群から出力された前記第３の画像信号に基づいて前記第１の表示用画像を生成する請求項１から請求項１１の何れか１項に記載の画像処理装置。
【請求項１３】
請求項１から請求項１２の何れか１項に記載の画像処理装置と、
前記第１及び第２の画素群を有する撮像素子と、
前記撮像素子から出力された画像信号に基づいて生成された画像を記憶する記憶部と、
を含む撮像装置。
【請求項１４】
撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第１及び第２の画像信号を出力する第１及び第２の画素群を有する撮像素子から出力された前記第１及び第２の画像信号に基づく第１及び第２の画像を取得し、
前記撮像素子から出力された画像信号に基づいて第１の表示用画像を生成し、
前記第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成し、
前記第２の表示用画像における空間周波数特性及び前記第２の表示用画像における画素値のヒストグラムの極値の少なくとも一方に基づいて定まる階調補正情報に従って前記第２の表示用画像の階調を補正し、
画像を表示する表示部に対して、生成した前記第１の表示用画像を表示させ、且つ、前記第１の表示用画像の表示領域内に、階調を補正した前記第２の表示用画像を表示させる制御を行うことを含む画像処理方法。
【請求項１５】
撮影レンズにおける第１及び第２の領域を通過した被写体像が瞳分割されてそれぞれ結像されることにより第１及び第２の画像信号を出力する第１及び第２の画素群を有する撮像素子から出力された前記第１及び第２の画像信号に基づく第１及び第２の画像を取得し、
前記撮像素子から出力された画像信号に基づいて第１の表示用画像を生成し、
前記第１及び第２の画像に基づいて合焦確認に使用する第２の表示用画像を生成し、
前記第２の表示用画像における空間周波数特性及び前記第２の表示用画像における画素値のヒストグラムの極値の少なくとも一方に基づいて定まる階調補正情報に従って前記第２の表示用画像の階調を補正し、
画像を表示する表示部に対して、階調を補正した前記第２の表示用画像を表示させる制御を行うことを含む画像処理方法。
【請求項１６】
コンピュータを、
請求項１から請求項１２の何れか１項に記載の画像処理装置における前記画像取得部、前記生成部、前記補正部及び前記表示制御部として機能させるための画像処理プログラム。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】００１６
【補正方法】変更
【補正の内容】
【００１６】
請求項３に記載の画像処理装置は、請求項４に記載の発明のように前記階調補正情報が、前記空間周波数強度が最大の方向と前記第１の画像及び前記第２の画像に基づく視差方向との一致度の低下に応じて、所定値未満の輝度の画像領域のコントラストを大きくする階調補正係数であるものとしてもよい。これにより、本構成を有しない場合に比べ、空間周波数強度が最大の方向と視差方向との一致度の低下に伴う視認性の悪化を抑制することができる。
【国際調査報告】
2014155812.tif 000031
2014155812.tif 000032