(57)【要約】      （修正有）【課題】画像から、被写体までの距離を精度良く取得することができる画像処理装置及び撮像装置を提供する。【解決手段】画像処理装置の画像処理プログラムは、取得手段、推定手段及び算出手段を備える。取得手段は、単眼カメラによって撮像された画像を取得する。推定手段は、取得された画像に基づいて、被写体までの距離を推定する。算出手段は、取得された画像に影響を与えている大気障害を考慮し、推定された距離を対象にした統計処理を実行して、被写体までの距離を算出する。【選択図】図３
2020024563.tif 000002
【特許請求の範囲】
【請求項１】
単眼カメラによって撮像された画像を取得する取得手段と、
前記取得された画像に基づいて、被写体までの距離を推定する推定手段と、
前記取得された画像に影響を与えている大気障害を考慮し、前記推定された距離を対象にした統計処理を実行して、前記被写体までの距離を算出する算出手段と
を具備する画像処理装置。
【請求項２】
前記算出手段は、
前記推定された距離に基づいて現在生じている大気障害の度合いを推定し、
前記推定された大気障害の度合いに基づいて前記統計処理の強度を算出し、
前記算出された統計処理の強度に基づいて、前記推定された距離を対象にした統計処理を実行して、前記被写体までの距離を算出する、請求項１に記載の画像処理装置。
【請求項３】
前記算出手段は、
ユーザの操作に応じて指定された前記統計処理の強度に基づいて、前記推定された距離を対象にした統計処理を実行して、前記被写体までの距離を算出する、請求項１または請求項２に記載の画像処理装置。
【請求項４】
前記算出手段は、
外部機器から取得される気象情報に基づいて前記統計処理の強度を算出し、
前記算出された統計処理の強度に基づいて、前記推定された距離を対象にした統計処理を実行して、前記被写体までの距離を算出する、請求項１乃至請求項３のいずれか１項に記載の画像処理装置。
【請求項５】
気温を計測する計測手段をさらに具備し、
前記算出手段は、
前記計測された気温に基づいて前記統計処理の強度を算出し、
前記算出された統計処理の強度に基づいて、前記推定された距離を対象にした統計処理を実行して、前記被写体までの距離を算出する、請求項１乃至請求項４のいずれか１項に記載の画像処理装置。
【請求項６】
前記算出手段は、
予め用意された画像であって、前記大気障害による影響がない画像と、前記取得された画像とを比較した結果に基づいて、現在生じている大気障害の度合いを推定し、
前記推定された大気障害の度合いに基づいて前記統計処理の強度を算出し、
前記算出された統計処理の強度に基づいて、前記推定された距離を対象にした統計処理を実行して、前記被写体までの距離を算出する、請求項１乃至請求項５のいずれか１項に記載の画像処理装置。
【請求項７】
前記推定された大気障害の度合いが閾値以上であった場合、前記被写体までの距離の測距を中止するようユーザに通知する通知手段をさらに具備する、請求項６に記載の画像処理装置。
【請求項８】
単眼カメラによって撮像された画像を取得する取得手段と、
前記取得された画像に基づいて、被写体までの距離を推定する推定手段と、
前記推定された距離を対象にした統計処理を前記推定された距離に基づく強度で実行して、前記被写体までの距離を算出する算出手段と
を具備する画像処理装置。
【請求項９】
前記推定手段は、
第１色成分の第１画像と、前記第１色成分とは異なり、ぼけ関数が非点対称に表された第２色成分の第２画像とを用いて、前記被写体までの距離を推定する、請求項１乃至請求項８のいずれか１項に記載の画像処理装置。
【請求項１０】
前記取得手段は、
ぼけ関数が偏りのないぼけの形状を示す第１画像と、前記ぼけ関数が偏ったぼけの形状を示す第２画像とを取得し、
前記推定手段は、
前記取得された第２画像に対して複数の異なるぼけを付加して、複数の第３画像を生成し、前記取得された第１画像と、前記生成された複数の第３画像との相関に応じて、前記被写体までの距離を推定する、請求項１乃至請求項８のいずれか１項に記載の画像処理装置。
【請求項１１】
前記取得手段は、
ぼけ関数が偏りのないぼけの形状を示す第１画像と、前記ぼけ関数が偏ったぼけの形状を示す第２画像とを取得し、
前記推定手段は、
前記取得された第１画像及び第２画像からエッジを抽出し、前記抽出された各画像のエッジ間の距離に基づいて前記各画像の色ずれ量を算出し、前記算出された色ずれ量に基づいて前記被写体までの距離を推定する、請求項１乃至請求項８のいずれか１項に記載の画像処理装置。
【請求項１２】
請求項１乃至請求項１１のいずれか１項に記載の画像処理装置と、
単眼カメラと
を具備する撮像装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明の実施形態は、画像処理装置及び撮像装置に関する。
【背景技術】
【０００２】
二つのカメラやステレオカメラ（複眼のカメラ）で撮像された画像から、被写体までの距離を取得する技術が知られている。また、近時、一つのカメラ（単眼のカメラ）で撮像された画像から、被写体までの距離を取得する技術が提案されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１３−２３６２４９号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
撮像された画像は、霧や陽炎といった大気障害の影響を受けることがある。このような画像を用いて被写体までの距離が取得される場合、精度が低下する可能性がある。
本発明の実施形態が解決しようとする課題は、画像から、被写体までの距離を精度良く取得できる画像処理装置及び撮像装置を提供することである。
【課題を解決するための手段】
【０００５】
一実施形態によれば、画像処理装置は、取得手段、推定手段及び算出手段を具備する。前記取得手段は、単眼カメラによって撮像された画像を取得する。前記推定手段は、前記取得された画像に基づいて、被写体までの距離を推定する。前記算出手段は、前記取得された画像に影響を与えている大気障害を考慮し、前記推定された距離を対象にした統計処理を実行して、前記被写体までの距離を算出する。
【図面の簡単な説明】
【０００６】
【図１】一実施形態に係る撮像装置の構成例を示す図。
【図２】同実施形態に係る画像処理部のシステム構成例を示す図。
【図３】同実施形態に係る画像処理プログラムの機能構成例を示す図。
【図４】同実施形態に係るフィルタの構成例を示す図。
【図５】同実施形態に係るフィルタの透過率特性の例を示す図。
【図６】同実施形態に係るフィルタが配置されたカラー開口の光線変化と、ぼけの形状とを説明するための図。
【図７】同実施形態に係る基準画像のぼけ関数の一例を示す図。
【図８】同実施形態に係る対象画像のぼけ関数の一例を示す図。
【図９】同実施形態に係るぼけ補正フィルタの一例を示す図。
【図１０】同実施形態に係る統計強度算出部による統計強度算出処理の手順の一例を示すフローチャート。
【図１１】同実施形態に係る統計強度と被写体までの距離との関係性を説明するための図。
【図１２】同実施形態に係る統計処理部による統計処理の手順の一例を示すフローチャート。
【図１３】同実施形態に係る統計処理部による統計処理を補足的に説明するための図。
【図１４】同実施形態に係る統計処理部による統計処理を補足的に説明するための別の図。
【図１５】同実施形態に係る統計処理部による統計処理を補足的に説明するためのさらに別の図。
【図１６】同実施形態に係る撮像装置を使用するユーザに提示されるアイコンを示す図。
【図１７】同実施形態に係る大気障害の度合いを算出する方法を説明するための図。
【図１８】同実施形態に係る撮像装置を使用するユーザに提示されるアイコンを示す別の図。
【図１９】同実施形態に係る撮像装置を監視カメラに適用した場合を説明するための図。
【図２０】同実施形態に係る撮像装置を測距儀に適用した場合を説明するための図。
【図２１】同実施形態に係る撮像装置を備える移動体の構成例を示す図。
【図２２】同実施形態に係る撮像装置を移動体である自動車に適用した場合を説明するための図。
【図２３】同実施形態に係る撮像装置を移動体であるドローンに適用した場合を説明するための図。
【図２４】同実施形態に係る撮像装置を移動体であるロボットに適用した場合を説明するための図。
【図２５】同実施形態に係る撮像装置を移動体であるロボットアームに適用した場合を説明するための図。
【発明を実施するための形態】
【０００７】
以下、実施の形態について図面を参照して説明する。開示はあくまで一例にすぎず、以下の実施形態に記載した内容により発明が限定されるものではない。当業者が容易に想到し得る変形は、当然に開示の範囲に含まれる。説明をより明確にするため、図面において、各部分のサイズ、形状等を実際の実施態様に対して変更して模式的に表す場合もある。複数の図面において、対応する要素には同じ参照数字を付して、詳細な説明を省略する場合もある。
【０００８】
まず、図１を参照して、一実施形態に係る撮像装置の構成を説明する。なお、撮像装置は測距装置と称されても良い。撮像装置１は、画像を撮像し、撮像された画像を用いて撮影地点から被写体までの距離（奥行きとも称する）を推定する。
この撮像装置１は、画像を撮像する撮像部１１と、撮像された画像を処理する画像処理部１２とを備える。撮像装置１は、撮像部１１と画像処理部１２とを備える一つの装置として実現されても良いし、撮像部１１に相当する撮像処理装置と、画像処理部１２に相当する画像処理装置とのような複数の装置で構成されるシステムであっても良い。撮像部１１は、被写体の画像と当該被写体までの距離に関する情報とを一度の撮影で取得する機能を有する。撮像部１１は、この機能により、例えば、撮像時の被写体までの距離情報が符号化された画像（以下では「距離画像」と称する）を取得する。また、画像処理部１２は、例えば、コンピュータ、または各種電子機器に内蔵される組み込みシステムとして実現され得る。
【０００９】
図１に示すように、撮像部１１は、フィルタ２１と、レンズ２２と、イメージセンサ２３とを備える単眼カメラにより構成される。フィルタ２１は、互いに異なる波長帯域（色成分）の光を透過する複数のフィルタ領域を含む。フィルタ２１は、例えば、２色のカラーフィルタ領域である第１フィルタ領域２１１と、第２フィルタ領域２１２とで構成される。
【００１０】
イメージセンサ２３は、フィルタ２１とレンズ２２とを透過した光を受光し、受光した光を電気信号に変換（光電変換）する。イメージセンサ２３には、例えばＣＣＤ（Charge Coupled Device）やＣＭＯＳ（Complementary Metal Oxide Semiconductor）が用いられる。イメージセンサ２３は、少なくとも２種類の撮像素子を含み、例えば、赤色（Ｒ）の光を受光する撮像素子を含む第１センサ２３１と、緑色（Ｇ）の光を受光する撮像素子を含む第２センサ２３２と、青色（Ｂ）の光を受光する撮像素子を含む第３センサ２３３とを備える。各撮像素子は、対応する波長帯域の光を受光し、受光した光を電気信号に変換する。この電気信号をＡ／Ｄ変換することによりカラー画像を生成することができる。以下では、画像のＲ成分、Ｇ成分、Ｂ成分である色成分画像（波長成分画像とも称する）を、それぞれＲ画像、Ｇ画像、Ｂ画像とも称する。なお、赤色、緑色、青色の撮像素子毎の電気信号を用いて、Ｒ画像、Ｇ画像、Ｂ画像をそれぞれ生成することもできる。つまり、撮像部１１は、一度の撮像（ワンショット）で、カラー画像、Ｒ画像、Ｇ画像、及びＢ画像の少なくとも一つを生成することができる。
【００１１】
図２は、図１に示す画像処理部１２のシステム構成の一例を示す図である。  
図２に示すように、画像処理部１２は、ＣＰＵ３１、ＲＡＭ３２、不揮発性メモリ３３、入出力部３４及び通信部３５を有し、また、ＣＰＵ３１、ＲＡＭ３２、不揮発性メモリ３３、入出力部３４及び通信部３５を相互に接続するバス３６を有する。
【００１２】
ＣＰＵ３１は、画像処理部１２内の様々なコンポーネントの動作を制御する。ＣＰＵ３１は、単一のプロセッサであっても良いし、複数のプロセッサで構成されていても良い。ＣＰＵ３１は、不揮発性メモリ３３からＲＡＭ３２にロードされる様々なプログラムを実行する。これらプログラムは、オペレーティングシステム（ＯＳ）や様々なアプリケーションプログラムを含む。アプリケーションプログラムは、画像処理プログラム３２Ａを含む。この画像処理プログラム３２Ａは、被写体を撮像した少なくとも一つの画像を用いて、撮影地点から当該被写体までの距離を推定し、当該推定した距離を統計的に解析することにより、当該被写体までの距離を算出するための命令群を含む。また、ＲＡＭ３２は、主記憶装置として用いられる記憶メディアである。不揮発性メモリ３３は、補助記憶装置として用いられる記憶メディアである。
【００１３】
入出力部３４は、例えば、撮像部１１から画像を入力したり、ユーザからの指示を入力したり、表示画面を図示しない表示部へ出力したり、といった入出力を実行するモジュールである。ユーザからの指示は、キーボード、ポインティングデバイス、操作ボタン等の操作に伴って入力されても良いし、図示しない表示部がタッチスクリーンディスプレイである場合、タッチスクリーンディスプレイ上でのタッチ操作に伴って入力されても良い。
【００１４】
通信部３５は、有線通信または無線通信を実行するように構成されたデバイスである。通信部３５は、信号を送信する送信部と信号を受信する受信部とを含む。通信部３５は、ネットワークを介した外部機器との通信、周辺に存在する外部機器との通信等を実行する。この外部機器には撮像部１１（撮像処理装置）も含まれ得る。つまり、通信部３５は、撮像部１１から画像を受信しても良い。
【００１５】
図３は、画像処理部１２のＣＰＵ３１によって実行される画像処理プログラム３２Ａの機能構成を例示する。画像処理プログラム３２Ａは、画像取得部４１、距離推定部４２、統計強度算出部４３及び統計処理部４４、等を備える。なお、各機能部が有する機能については後述するため、ここではその詳しい説明は省略する。
【００１６】
ここで、図４を参照して、図１に示すフィルタ２１の構成の例について説明する。  
フィルタ２１は、互いに異なる光の波長帯域（色成分）を透過する複数のフィルタ領域を有し、２以上のフィルタ領域は、撮像装置１の光学中心２１３に対して非点対称な形状である。フィルタ２１は、例えば、２色のカラーフィルタ領域である第１フィルタ領域２１１と第２フィルタ領域２１２とで構成される。フィルタ２１の中心は、撮像装置１（レンズ２２）の光学中心２１３と一致している。第１フィルタ領域２１１及び第２フィルタ領域２１２はそれぞれ、光学中心２１３に対して非点対称である形状を有している。また、例えば、二つのフィルタ領域２１１，２１２は重複せず、且つ二つのフィルタ領域２１１，２１２によってフィルタ２１の全領域を構成している。図４に示す例では、第１フィルタ領域２１１及び第２フィルタ領域２１２はそれぞれ、円形のフィルタ２１が光学中心２１３を通る線分で分割された半円の形状を有している。
【００１７】
第１フィルタ領域２１１は、例えばイエロー（Ｙ）のフィルタ領域であり、第２フィルタ領域２１２は、例えばシアン（Ｃ）のフィルタ領域である。なお、第１フィルタ領域２１１がマゼンタ（Ｍ）のフィルタ領域であって、第２フィルタ領域２１２がイエロー（Ｙ）のフィルタ領域であっても良い。さらに、第１フィルタ領域２１１がシアン（Ｃ）のフィルタ領域であって、第２フィルタ領域２１２がマゼンタ（Ｍ）のフィルタ領域であっても良い。
【００１８】
各カラーフィルタが透過する波長帯域は異なる。一つのフィルタ領域が透過する光の波長帯域の一部と、別の一つのカラーフィルタ領域が透過する光の波長帯域の一部は、例えば重複する。一つのカラーフィルタ領域が透過する光の波長帯域は、例えば別の一つのカラーフィルタ領域が透過する光の波長帯域を含んでも良い。
【００１９】
なお、第１フィルタ領域２１１と第２フィルタ領域２１２とは、任意の波長帯域の透過率を変更するフィルタ、任意方向の偏光光を通過させる偏光フィルタ、または任意の波長帯域の集光パワーを変更するマイクロレンズであっても良い。例えば、任意の波長帯域の透過率を変更するフィルタは、原色フィルタ（ＲＧＢ）、補色フィルタ（ＣＭＹ）、色補正フィルタ（ＣＣ−ＲＧＢ／ＣＭＹ）、赤外線・紫外線カットフィルタ、ＮＤフィルタ、または遮蔽板であっても良い。第１フィルタ領域２１１や第２フィルタ領域２１２がマイクロレンズである場合には、レンズ２２により光線の集光の分布に偏りが生じることでぼけの形状が変化する。
【００２０】
以下では、説明を分かり易くするために、図４に示すフィルタ２１において、第１フィルタ領域２１１がイエロー（Ｙ）のフィルタ領域であり、第２フィルタ領域２１２がシアン（Ｃ）のフィルタ領域である場合を主に例示する。
例えば、図４に示したフィルタ２１がカメラの開口部に配置されることにより、開口部が２色で２分割された構造開口であるカラー開口が構成される。このカラー開口を透過する光線に基づいて、イメージセンサ２３は画像を生成する。イメージセンサ２３に入射する光の光路上において、フィルタ２１とイメージセンサ２３との間にレンズ２２が配置されても良い。イメージセンサ２３に入射する光の光路上において、レンズ２２とイメージセンサ２３との間にフィルタ２１が配置されても良い。レンズ２２が複数設けられる場合、フィルタ２１は、二つのレンズ２２の間に配置されても良い。
【００２１】
第２センサ２３２に対応する波長帯域の光は、イエローの第１フィルタ領域２１１とシアンの第２フィルタ領域２１２の両方を透過する。第１センサ２３１に対応する波長帯域の光は、イエローの第１フィルタ領域２１１を透過し、シアンの第２フィルタ領域２１２を透過しない。第３センサ２３３に対応する波長帯域の光は、シアンの第２フィルタ領域２１２を透過し、イエローの第１フィルタ領域２１１を透過しない。
【００２２】
なお、ある波長帯域の光がフィルタまたはフィルタ領域を透過するとは、フィルタまたはフィルタ領域が高い透過率でその波長帯域の光を透過し、そのフィルタまたはフィルタ領域による当該波長帯域の光の減衰（すなわち、光量の低下）が極めて小さいことを意味する。また、ある波長帯域の光がフィルタまたはフィルタ領域を透過しないとは、光がフィルタまたはフィルタ領域に遮蔽されることであり、例えば、フィルタまたはフィルタ領域が低い透過率でその波長帯域の光を透過し、そのフィルタまたはフィルタ領域による当該波長帯域の光の減衰が極めて大きいことを意味する。例えば、フィルタまたはフィルタ領域は、ある波長帯の光を吸収することにより光を減衰させる。
【００２３】
図５は、第１フィルタ領域２１１及び第２フィルタ領域２１２の透過率特性の例を示す。なお、可視光の波長帯域のうち７００ｎｍより長い波長の光に対する透過率は図示を省略してあるが、その透過率は７００ｎｍの場合に近いものである。図５に示すイエローの第１フィルタ領域２１１の透過率特性２１４では、波長帯域が６２０ｎｍから７５０ｎｍ程度のＲ画像に対応する光と、波長帯域が４９５ｎｍから５７０ｎｍ程度のＧ画像に対応する光とが高い透過率で透過され、波長帯域が４５０ｎｍから４９５ｎｍ程度のＢ画像に対応する光がほとんど透過されていない。また、シアンの第２フィルタ領域２１２の透過率特性２１５では、Ｂ画像及びＧ画像に対応する波長帯域の光が高い透過率で透過され、Ｒ画像に対応する波長帯域の光がほとんど透過されていない。
【００２４】
したがって、Ｒ画像（第１センサ２３１）に対応する波長帯域の光はイエローの第１フィルタ領域２１１のみを透過し、Ｂ画像（第３センサ２３３）に対応する波長帯域の光はシアンの第２フィルタ領域２１２のみを透過する。Ｇ画像（第２センサ２３２）に対応する波長帯域の光は、第１フィルタ領域２１１と第２フィルタ領域２１２を透過する。
【００２５】
このようなＲ画像、Ｂ画像及び画像上のぼけの形状は被写体までの距離ｄに応じて、より詳細には、距離ｄと合焦距離ｄｆとの差分に応じて変化する。合焦距離ｄｆは、撮像位置から、画像上にぼけが発生しない（すなわち、ピントが合う）合焦位置までの距離である。また、各フィルタ領域２１１，２１２が光学中心２１３に対して非点対称な形状であるので、Ｒ画像上及びＢ画像上のぼけの形状は、被写体が合焦距離ｄｆよりも手前にあるか、それとも奥にあるかによって異なり、また偏っている。Ｒ画像上及びＢ画像上のぼけの偏りの方向は、撮像位置から見て、被写体が合焦距離ｄｆよりも手前にあるか、それとも奥にあるかによってそれぞれ反転する。
【００２６】
図６を参照して、フィルタ２１が配置されたカラー開口による光線変化と、ぼけの形状とについて説明する。  
被写体２１０が合焦距離ｄｆよりも奥にある場合（ｄ＞ｄｆ）、イメージセンサ２３によって撮像された画像にはぼけが発生する。この画像のぼけの形状を示すぼけ関数（PSF: Point Spread Function）は、Ｒ画像、Ｇ画像及びＢ画像でそれぞれ異なっている。例えば、Ｒ画像のぼけ関数２０１Ｒは左側に偏ったぼけの形状を示し、Ｇ画像のぼけ関数２０１Ｇは偏りのないぼけの形状を示し、Ｂ画像のぼけ関数２０１Ｂは右側に偏ったぼけの形状を示している。
【００２７】
また、被写体２１０が合焦距離ｄｆにある場合（ｄ＝ｄｆ）、イメージセンサ２３によって撮像された画像にほとんどぼけが発生しない。この画像のぼけの形状を示すぼけ関数は、Ｒ画像、Ｇ画像及びＢ画像でほぼ同じである。すなわち、Ｒ画像のぼけ関数２０２Ｒ、Ｇ画像のぼけ関数２０２Ｇ及びＢ画像のぼけ関数２０２Ｂは、偏りのないぼけの形状を示している。
【００２８】
また、被写体２１０が合焦距離ｄｆよりも手前にある場合（ｄ＜ｄｆ）、イメージセンサ２３によって撮像された画像にはぼけが発生する。この画像のぼけの形状を示すぼけ関数は、Ｒ画像、Ｇ画像及びＢ画像でそれぞれ異なっている。すなわち、Ｒ画像のぼけ関数２０３Ｒは右側に偏ったぼけの形状を示し、Ｇ画像のぼけ関数２０３Ｇは偏りのないぼけの形状を示し、Ｂ画像のぼけ関数２０３Ｂは左側に偏ったぼけの形状を示している。
【００２９】
このように、被写体２１０が合焦距離ｄｆよりも手前または奥にある場合、イエローの第１フィルタ領域２１１を透過した光線に基づくＲ画像のぼけ関数２０１Ｒ，２０３Ｒは非対称であり、またシアンの第２フィルタ領域２１２を透過した光線に基づくＢ画像のぼけ関数２０１Ｂ，２０３Ｂも非対称である。そして、そのＲ画像のぼけ関数２０１Ｒ，２０３Ｒは、Ｂ画像のぼけ関数２０１Ｂ，２０３Ｂとは異なっている。
【００３０】
撮像装置１の画像処理部１２（の画像処理プログラム３２Ａ）は、このような特性を利用して、被写体までの距離を算出する。  
画像取得部４１は、ぼけ関数が偏りのないぼけの形状を示すＧ画像を基準画像として取得する。また、画像取得部４１は、ぼけ関数が偏ったぼけの形状を示すＲ画像及びＢ画像の一方または両方を対象画像として取得する。対象画像と基準画像とは、１つの撮像装置により同時刻に撮像された画像である。
【００３１】
距離推定部４２は、複数のぼけ補正フィルタのうち、対象画像に付加すると、基準画像との相関がより高くなるぼけ補正フィルタを求めることで、被写体までの距離を推定する。また、距離推定部４２は、推定した距離から、距離マップ（距離画像）を生成する。複数のぼけ補正フィルタは、対象画像に対して、相互に異なるぼけを付加する関数である。ここで、距離推定部４２による距離推定処理の詳細について説明する。
【００３２】
距離推定部４２は、取得された対象画像と基準画像とをもとに、対象画像に異なるぼけを付加することで、対象画像のぼけ形状を補正した補正画像を生成する。ここでは、距離推定部４２は、被写体までの距離が任意の距離であると仮定して作成した複数のぼけ補正フィルタを用いて、対象画像のぼけ形状を補正した補正画像を生成し、補正画像と基準画像との相関がより高くなる距離を求めることで、被写体までの距離を算出するものとする。
【００３３】
撮像画像のぼけ関数は、撮像装置１の開口形状と、被写体の位置とピント位置との距離とにより決定する。図７は、基準画像のぼけ関数の一例を示す図である。図７に示すように、第２センサ２３２に対応する波長領域が透過する開口形状は点対称形である円形状であるため、ぼけ関数で示されるぼけの形状は、ピント位置の前後で変化はなく、被写体とピント位置との間の距離の大きさによってぼけの幅が変化する。このようなぼけの形状を示すぼけ関数は、被写体の位置とピント位置との間の距離の大きさによってぼけの幅が変化するガウス関数として表現できる。なお、ぼけ関数は、被写体の位置とピント位置との距離によってぼけの幅が変化するピルボックス関数として表現しても良い。
【００３４】
図８は、対象画像のぼけ関数の一例を示す図である。なお、各図の中心（ｘ０，ｙ０）＝（０，０）である。図８に示すように、対象画像（例えばＲ画像）のぼけ関数は、被写体がピント位置よりも遠方にあるｄ＞ｄｆの場合、ｘ＞０において第１フィルタ領域２１１での光減衰によってぼけの幅が減衰するガウス関数として表現できる。また、被写体がピント位置よりも近方にあるｄ＜ｄｆの場合、ｘ＜０において第１フィルタ領域２１１での光減衰によってぼけの幅が減衰するガウス関数として表現できる。
【００３５】
また、基準画像のぼけ関数と対象画像のぼけ関数とを解析することにより、対象画像のぼけ形状を基準画像のぼけ形状へ補正するための複数のぼけ補正フィルタを求めることができる。  
図９は、ぼけ補正フィルタの一例を示す図である。なお、図９に示すぼけ補正フィルタは、図４に示したフィルタ２１を用いた場合のぼけ補正フィルタである。図９に示すように、ぼけ補正フィルタは、第１フィルタ領域２１１と第２フィルタ領域２１２の境界の線分の中心点を通り、この線分に直交する直線上（直線付近）に分布する。その分布は、想定する距離毎にピーク点（直線上の位置、高さ）とピーク点からの広がり方とが異なる図９に示すような山状の分布となる。対象画像のぼけ形状は、ぼけ補正フィルタを用いて、任意の距離を想定した様々なぼけ形状に補正することができる。つまり、任意の距離を想定した補正画像を生成することができる。
【００３６】
距離推定部４２は、生成した補正画像と基準画像とのぼけ形状が最も近似または一致する距離を撮像画像の各画素から求める。ぼけ形状の一致度は、各画素を中心とする任意サイズの矩形領域における補正画像と基準画像との相関を計算すれば良い。ぼけ形状の一致度の計算は、既存の類似度評価手法を用いれば良い。距離推定部４２は、補正画像と基準画像とで相関が最も高くなる距離を求めることで、各画素について被写体までの距離を推定する。
【００３７】
例えば、既存の類似度評価手法は、ＳＳＤ（Sum of Squared Difference）、ＳＡＤ（Sum of Absolute Difference）、ＮＣＣ（Normalized Cross-Correlation）、ＺＮＣＣ（Zero-mean Normalized Cross-Correlation）、Color Alignment Measure等を利用すれば良い。
【００３８】
このように、距離推定部４２は、フィルタ領域に応じた対象画像のぼけ形状を、距離を仮定したぼけ補正フィルタにより補正した補正画像を生成し、生成した補正画像と基準画像との相関がより高くなる距離を求めることで、被写体までの距離を推定する。
また、距離推定部４２は、推定した距離から距離マップ（距離画像）を生成する。距離画像は、例えば、各画素の画素値が距離を示す画像として生成される。例えば、合焦位置の手前から奥に向かって、波長の長い色を示す値（赤）から波長の短い色を示す値（紫）が割り当てられる。このように、距離画像は、被写体までの距離を示す情報が画像の領域に対応させてマッピングされたものであり、被写体までの距離を示す情報として画素値が用いられるものである。画像として生成される距離画像は、表示できるので、色で、例えば複数の被写体間の奥行き方向の位置関係を確認することができる。距離推定部４２は、生成した距離画像を含む出力情報を生成し、これを統計強度算出部４３に出力する。
【００３９】
以上説明したように、撮像装置１は、撮像された画像上のぼけに基づいて、被写体までの距離を推定し、距離画像を生成することができる。しかしながら、撮像された画像上のぼけに基づいて被写体までの距離を推定する方法では、例えば、遠方の被写体を撮像した際に、霧や陽炎といった大気障害に起因して画像が劣化してしまうので、距離の推定精度が低下する可能性がある。大気障害による影響は、光線が空気中を通過する距離が長い程顕著に現れるため、被写体が撮影地点から遠方にある程、画像は劣化し、距離の推定精度が低下する可能性がある。このため、大気障害に起因して画像が劣化してしまったとしても、被写体までの距離を精度良く取得可能な新たな技術の実現が要求されている。
【００４０】
そこで、本実施形態に係る撮像装置１（画像処理部１２）は、統計強度算出部４３及び統計処理部４４を備えている。統計強度算出部４３及び統計処理部４４は、現在生じている大気障害の度合いを考慮した上で、距離推定部４２によって推定された被写体までの距離を対象にした統計処理を実行し、当該被写体までの距離を算出する。
【００４１】
統計強度算出部４３は、大気障害が画像に与える影響の度合いを推定し、距離推定部４２によって推定された被写体までの距離を対象にして実行される統計処理の強度（以下では「統計強度」と称する）を算出する。なお、統計強度は「補正強度」または「大気障害除去強度」と称されても良い。本実施形態において、統計強度は、統計処理部４４による統計処理時に用いられるフィルタのサイズを規定するものである。あるいは、フィルタサイズそのものを示すとしても良い。
【００４２】
ここで、図１０のフローチャートを参照しながら、統計強度算出部４３によって実行される統計強度算出処理の手順の一例を説明する。但し、ここでは、統計処理部４４による統計処理の対象が画像全体である場合の統計強度算出処理について説明する。すなわち、一つの画像に対して一つの統計強度が算出される場合について説明する。
【００４３】
まず、統計強度算出部４３は、距離推定部４２によって推定された被写体までの距離を示す情報を含んだ距離画像を取得する（ステップＳ１）。続いて、統計強度算出部４３は、取得された距離画像を構成する複数の画素の画素値の総和を算出する（ステップＳ２）。上記したように、距離画像は、各画素の画素値が距離を示す画像であるため、距離画像を構成する各画素の画素値の総和は、被写体までの距離の総和と同じことを意味する。
【００４４】
次に、統計強度算出部４３は、算出された画素値の総和と、取得された距離画像の画素数とに基づいて、距離画像を構成する複数の画素の画素値の平均を算出する。具体的には、算出された画素値の総和を、取得された距離画像の画素数で除算して、画素値の平均が算出される（ステップＳ３）。上記したように、距離画像を構成する各画素の画素値の総和は、被写体までの距離の総和と同じことを意味するため、画素値の平均は、距離画像に含まれる（写っている）被写体までの距離の平均と同じことを意味する。
【００４５】
統計強度算出部４３は、算出された画素値の平均が予め設定された第１閾値以上であるか否かを判定する（ステップＳ４）。  
一般的に、大気障害による影響は、光線が空気中を通過する距離が長い程顕著に現れる傾向がある。第１閾値はこの傾向を踏まえて設定される値であり、大気障害による影響が画像に顕著に現れ始めるとされる被写体までの距離であって、例えば２００ｍに相当する画素値が第１閾値として設定される。なお、第１閾値はユーザによって任意に変更されても良いものとする。
【００４６】
算出された画素値の平均が予め設定された第１閾値以上であると判定された場合（ステップＳ４のＹＥＳ）、統計強度算出部４３は、被写体が撮影地点から遠くに離れた位置に存在し、撮像された画像は大気障害による影響を受けて劣化している可能性が高いと判断する。その後、統計強度算出部４３は、統計強度として第１強度（例えば、強度「強」と表現しても良い）を算出し（ステップＳ５）、後述するステップＳ７の処理に進む。なお、第１強度とは、統計処理部４４による統計処理時に多くの情報をサンプリングすることが可能なフィルタのサイズに対応する強度である。
【００４７】
一方で、算出された画素値の平均が予め設定された第１閾値未満であると判定された場合（ステップＳ４のＮＯ）、統計強度算出部４３は、被写体が撮影地点から近い位置に存在し、撮像された画像は大気障害による影響を受けておらず、劣化している可能性は低いと判断する。その後、統計強度算出部４３は、統計強度として第２強度（例えば、強度「弱」と表現しても良い）を算出し（ステップＳ６）、後述するステップＳ７の処理に進む。なお、第２強度とは、統計処理部４４による統計処理時のサンプリング数が第１強度よりも少ないフィルタのサイズに対応する強度である。  
しかる後、統計強度算出部４３は、算出された統計強度を含む出力情報を生成し、これを統計処理部４４に出力し（ステップＳ７）、統計強度算出処理を終了させる。
【００４８】
図１１は、統計強度と被写体までの距離との関係性を示す模式図である。既に説明したように、被写体が撮影地点から遠くに離れた位置に存在する場合、撮像された画像は大気障害による影響を受けて劣化している可能性が高いため、図１１の左側に示されるように、第１強度に対応したサイズのフィルタが後述する統計処理時に使用される。また、被写体が撮影地点から近い位置に存在する場合には、撮像された画像は大気障害によって劣化している可能性が低いため、図１１の右側に示されるように、第１強度に対応したサイズのフィルタよりも小さい第２強度に対応したサイズのフィルタが後述する統計処理時に使用される。
【００４９】
なお、詳細については後述するが、統計処理部４４による統計処理時に用いられるフィルタのサイズは大きい程サンプリング数が多く、被写体までの距離の推定精度を向上させることが可能である一方で、距離画像のコントラストを低下させてしまうといった不都合がある。このため、大気障害による影響があまりないような場合、あまり大きなサイズのフィルタを利用しない（または統計処理を実行しない）方が好ましいといった事情がある。しかしながら、本実施形態においては、統計強度算出部４３が上記した一連の処理により、撮像された画像が大気障害による影響をどの程度受けているかを推定し、現在生じている大気障害の度合いに応じたフィルタのサイズを選択することが可能であるため（または、現在生じている大気障害の度合いに応じて統計処理の実行可否を選択することが可能であるため）、上記した事情を考慮した上での距離推定を可能にする。
【００５０】
統計処理部４４は、統計強度算出部４３によって算出された統計強度に応じたサイズのフィルタを用いて統計処理を実行し、撮影地点から被写体までの距離を算出する。統計処理部４４によって実行される統計処理は、平均値フィルタを用いた統計処理であっても良いし、中央値フィルタ（メディアンフィルタ）を用いた統計処理であっても良いし、ＤＮＮ（Deep Neural Network）等の学習型フィルタを用いた統計処理であっても良い。すなわち、統計処理部４４は、既存の統計フィルタのうちの任意のフィルタを用いた統計処理を実行することが可能である。
【００５１】
ここで、図１２のフローチャートと、図１３の模式図とを参照しながら、統計処理部４４によって実行される統計処理の手順の一例を説明する。なお、ここでは一例として、平均値フィルタを用いた場合の統計処理について説明する。
まず、統計処理部４４は、距離推定部４２によって推定された被写体までの距離を示す情報を含んだ距離画像と、統計強度算出部４３によって算出された統計強度を示す出力情報とを取得する（ステップＳ１１）。続いて、統計処理部４４は、取得された出力情報によって示される統計強度に応じたサイズのフィルタ（この場合平均値フィルタ）を選択する（ステップＳ１２）。なお、以下では、図１３に示すように、３×３サイズの平均値フィルタＦが選択された場合を想定して、説明する。また、この平均値フィルタＦに設定されている重み係数Ｗ１〜Ｗ９は全て１であるものとする。
【００５２】
統計処理部４４は、取得された距離画像を構成する複数の画素のうちの一つの画素に着目する（ステップＳ１３）。なお、以下では、図１３に示す画素Ｐ２２に着目した場合の処理について説明する。
【００５３】
統計処理部４４は、着目した画素Ｐ２２を平均値フィルタＦの中心とした時に、当該平均値フィルタＦに含まれる画素の画素値を取得する。詳しくは、統計処理部４４は、着目した画素Ｐ２２の画素値と、当該画素Ｐ２２の周囲に位置する８つの画素Ｐ１１〜Ｐ１３，Ｐ２１，Ｐ２３，Ｐ３１〜Ｐ３３の画素値とを取得する（ステップＳ１４）。
【００５４】
統計処理部４４は、取得された９つの画素Ｐ１１〜Ｐ１３，Ｐ２１〜Ｐ２３，Ｐ３１〜Ｐ３３の画素値の総和（より詳しくは、画素値×重み係数の総和）を算出する（ステップＳ１５）。その後、統計処理部４４は、算出された画素値の総和を９で除算して、画素値の平均を算出する（ステップＳ１６）。
【００５５】
統計処理部４４は、算出された画素値の平均を、着目した画素Ｐ２２の新たな画素値として設定する。換言すると、統計処理部４４は、着目した画素Ｐ２２の画素値を、算出された画素値の平均に置き換える（ステップＳ１７）。既に説明したように、距離画像においては、被写体までの距離を示す情報として画素値が用いられているため、着目した画素Ｐ２２に新たに設定された画素値は、大気障害による影響を除去した上で算出された被写体までの距離を意味する。
【００５６】
しかる後、統計処理部４４は、全ての画素に着目したか否かを判定する（ステップＳ１８）。全ての画素に着目していないと判定された場合（ステップＳ１８のＮＯ）、上記したステップＳ１３の処理に戻り、まだ着目していない画素に着目して同様な処理が実行される。一方で、全ての画素に着目したと判定された場合（ステップＳ１８のＹＥＳ）、統計処理を終了させる。
【００５７】
ここで、画像端に位置する画素に着目した場合の処理方法について補足的に説明する。なお、画像端に位置する画素とは、当該画素に着目し、当該画素をフィルタの中心にした時に、フィルタサイズ分の画素をフィルタ内に含めることができない画素のことを言う。このため、画像端に位置する画素の数は、用いられるフィルタのサイズに応じて変化し、例えば、３×３サイズのフィルタが用いられた場合、画像の周囲１画素分（図１４の斜線部分）が画像端に位置する画素となり、５×５サイズのフィルタが用いられた場合、画像の周囲２画素分が画像端に位置する画素となる。  
上記したステップＳ１３の処理において、画像端に位置する画素に着目した場合、統計処理部４４は、以下に示す方法のうちのいずれかを用いて上記したステップＳ１４の処理を実行し、不足分の画素値を取得する。
・画像端に位置する画素には着目しない。
・不足分の画素値は全て０とみなした上で、不足分の画素値を取得する。
・不足分の画素値は、画像端に位置する画素の画素値と同一であるとみなした上で（換言すると、画像端に位置する画素の画素値でパディングして）、不足分の画素値を取得する。
・不足分の画素値は、当該画像には上下（または左右）が逆の画像がくっついていると仮定した上で、当該逆の画像から不足分の画素値を取得する。
【００５８】
さらにここで、フィルタサイズが大きくなることにより生じる不都合（コントラストの低下）について補足的に説明する。なお、ここでは説明の簡略化を目的として、図１５に示すように、横方向に並んだ３つの画素Ｐ１〜Ｐ３によって構成される画像に対して、３×１サイズの平均値フィルタ（なお、平均値フィルタに設定されている重み係数は全て１であるものとする）を用いた上記統計処理が実行される場合を想定する。また、大気障害による影響がない場合の画素Ｐ１〜Ｐ３の各画素値は順に５０、６０、７０であり、これを真の値と称するものとする。一方で、実際には画素Ｐ２は大気障害による影響を受けており、画素Ｐ２の画素値は３０に劣化（変化）してしまっているものとする。さらに、ここでは、統計処理部４４は、画像端に位置する画素Ｐ１，Ｐ３に着目した場合には、画像端に位置する画素の画素値でパディングして、不足分の画素値を取得するものとする。
【００５９】
この場合、上記した一連の統計処理により、画素Ｐ１の画素値は４３（＝｛５０＋５０＋３０｝／３）となり、画素Ｐ２の画素値は５０（＝｛５０＋３０＋７０｝／３）となり、画素Ｐ３の画素値は５７（＝｛３０＋７０＋７０｝／３）となる。これによれば、大気障害による影響を受けている画素Ｐ２の画素値は３０から５０に変化するので、真の値である６０との誤差を３０から１０に縮めることができる。  
一方で、大気障害による影響を受けていない画素Ｐ１の画素値は５０から４３に変化するので、統計処理前には生じていなかった誤差が生じてしまうことになる。同様に、大気障害による影響を受けていない画素Ｐ３の画素値もまた７０から５７に変化するので、統計処理前には生じていなかった誤差が生じてしまうことになる。さらに、画素Ｐ１と画素Ｐ３の画素値の差は、統計処理前は２０であったにも関わらず、統計処理後は１４になってしまっており、中間階調の画素が増えてしまっていることから、当該画像のコントラストは低下してしまうことになる。
すなわち、大気障害による影響を受けていない画素からすると、フィルタサイズが大きくなる程、多くの画素（離れた画素）の影響を受けることになるので、統計処理が実行されたことによって生じる誤差は大きくなってしまう可能性が高く、ひいては、画像のコントラストの低下を招いてしまうことになる。このため、本実施形態においては、統計強度算出部４３において、現在生じている大気障害の度合いに適したサイズのフィルタを選択させるための統計強度が算出される。
【００６０】
統計処理部４４は、上記した一連の処理により、統計処理が施された距離の情報を含む距離画像を生成すると、生成した距離画像を、通信部３５を介してユーザ端末等に出力する。あるいは、撮像装置１にディスプレイが設けられている場合、当該ディスプレイに出力し、距離画像をディスプレイに表示させる。これによれば、ユーザ端末を操作するユーザや、撮像装置１を操作するユーザは、大気障害による影響を考慮して算出された被写体までの距離を視認することができる。
【００６１】
なお、図１２では、平均値フィルタを用いた場合の統計処理について説明したが、これに限定されず、統計処理部４４は、既存の統計フィルタのうちの任意のフィルタを用いた統計処理を同様に実行することが可能である。例えば、画像のコントラストを維持するという観点によれば、統計処理部４４はバイラテラルフィルタ等を用いた統計処理を実行するとしても良いし、あるいは、学習型フィルタを用いて大気障害による影響を受けている画素のみに着目し、大気障害による影響がない画素には着目しないような統計処理を実行するとしても良い。
【００６２】
上記した本実施形態においては、統計強度算出部４３は、統計強度として第１強度及び第２強度のどちらかを算出するとしたが、これに限定されず、統計強度算出部４３は、より細分化された統計強度を算出しても良い。例えば、統計処理部４４が用いることが可能なフィルタのサイズがｍ種類（ｍは正の整数）であった場合、統計強度算出部４３は、ｍ種類のフィルタサイズのいずれかを統計処理部４４に選択させるために、ｍ段階に細分化された統計強度のいずれかを算出する。
【００６３】
また、本実施形態においては、一つの画像に対して一つの統計強度が算出される場合を例示したが、これに限定されず、例えば、画像を構成する各画素に対して一つの統計強度が算出されるとしても良い。この場合、統計処理部４４は、着目する画素毎にフィルタのサイズを変更して統計処理を実行することが可能となり、被写体までの距離の推定精度をより向上させることが可能となる。
【００６４】
あるいは、画像内の所定の範囲（ROI: Region Of Interest）に対して一つの統計強度が算出されるとしても良い。この場合、統計強度算出部４３は、所定の範囲に対してのみ図１０に示した一連の処理を実行すれば良い上に、統計処理部４４もまた、当該所定の範囲に対してのみ統計処理を実行すれば良いため、処理対象を減らすことができ、図１０及び図１２に示した一連の処理に要する時間の短縮を図ることができる。なお、所定の範囲は、入出力部３４（または通信部３５）を介したユーザの操作に応じて設定されても良いし、例えば移動体が存在すると推定される範囲を検出し、当該検出された範囲が所定の範囲として設定されても良い。移動体の検出は、例えば、時系列的に連続した複数枚の画像を比較し、変化が見られた範囲を検出することで行われるとしても良い。
【００６５】
本実施形態においては、統計強度は、図１０に示した一連の処理が統計強度算出部４３によって実行されることにより算出されるとしたが、これに限定されず、統計強度はユーザの操作に応じて決定されても良い。具体的には、入出力部３４が、図１６に示すような統計強度を調整可能なアイコンＩｃ１を図示しない表示部へ出力し、当該アイコンＩｃ１に対するユーザからの指示を入力することで、統計強度は決定されても良い。例えば、図示しない表示部がタッチスクリーンディスプレイである場合、図１６に示すアイコンＩｃ１のゲージを左右に移動させる旨のタッチ操作に伴って、ユーザからの指示が入力され、統計強度は決定されるとしても良い。
【００６６】
また、統計強度は、統計強度算出部４３による図１０に示した一連の処理の結果と、ユーザからの指示の入力とに基づいて決定されても良い。例えば、図１０に示した一連の処理の結果、統計強度算出部４３が第１強度を算出し、且つ図１６に示すアイコンＩｃ１に対するユーザからの指示が統計強度「強」を指定する旨の指示であった場合、統計強度算出部４３は、第１強度の中でも強めの強度を、最終的な統計強度として算出（決定）するとしても良い。同様に、例えば図１０に示した一連の処理の結果、統計強度算出部４３が第１強度を算出し、且つ図１６に示すアイコンＩｃ１に対するユーザからの指示が統計強度「弱」を指定する旨の指示であった場合、統計強度算出部４３は、第１強度の中でも弱めの強度、最終的な統計強度として算出するとしても良い。
【００６７】
さらに、本実施形態においては、統計強度は、図１０に示した一連の処理が統計強度算出部４３によって実行されることにより算出されるとしたが、これに限定されず、統計強度は気象情報に基づいて決定されても良い。具体的には、統計強度算出部４３は、通信部３５を介して外部機器より気象情報を取得し、取得された気象情報に基づいて統計強度を決定するとしても良い。例えば、統計強度算出部４３は、取得された気象情報により示される天気が晴天であり且つ気温が（所定値よりも）高く、風速が（所定値よりも）弱い場合、大気障害の一つである陽炎が発生している可能性が高いと判断して、統計強度として第１強度を算出するとしても良い。すなわち、統計強度算出部４３は、取得された気象情報により示される気象条件が、大気障害が発生する条件を満たしていた場合には、統計強度として第１強度を算出し、大気障害が発生する条件を満たしていない場合には、統計強度として第２強度を算出するとしても良い。  
なお、気象情報に基づいて統計強度を決定する手法は、ユーザの操作に基づいて統計強度を決定する手法と同様に、統計強度を決定する他の手法（例えば図１０に示した一連の処理等）と併用されても良い。
【００６８】
さらに、本実施形態においては、統計強度は、図１０に示した一連の処理が統計強度算出部４３によって実行されることにより算出されるとしたが、これに限定されず、統計強度は撮像装置１に設けられる図示しない温度計（または温度計測機能）により計測された温度（気温）に基づいて決定されても良い。具体的には、統計強度算出部４３は、上記した温度計によって計測された現在の気温を示す計測情報を取得し、取得された計測情報に基づいて統計強度を決定するとしても良い。例えば、統計強度算出部４３は、取得された計測情報により示される気温が所定値よりも高い場合には、大気障害の一つである陽炎が発生している可能性が高いと判断して、統計強度として第１強度を算出するとしても良い。すなわち、統計強度算出部４３は、取得された計測情報により示される条件が、大気障害が発生する条件を満たしていた場合には、統計強度として第１強度を算出し、大気障害が発生する条件を満たしていない場合には、統計強度として第２強度を算出するとしても良い。なお、ここでは、撮像装置１に温度計が設けられている場合を想定したが、これに限定されず、例えば湿度計がさらに設けられ、統計強度は、温度計及び湿度計から取得される各計測情報に基づいて算出されるとしても良い。あるいは、高度計がさらに設けられ、統計強度は、温度計及び高度計から取得される各計測情報に基づいて算出されるとしても良い。  
なお、計測情報に基づいて統計強度を決定する手法は、ユーザの操作に基づいて統計強度を決定する手法や、気象情報に基づいて統計強度を決定する手法と同様に、統計強度を決定する他の手法と併用されても良い。
【００６９】
また、本実施形態においては、統計強度は、図１０に示した一連の処理が統計強度算出部４３によって実行されることにより算出されるとしたが、これに限定されず、統計強度は、予め用意された画像であって、大気障害による影響がなく、且つ移動体が含まれていない（写っていない）画像（以下では「背景画像」と称する）と、現在撮影された画像との比較の結果に基づいて決定されても良い。なお、背景画像は、例えば、時系列的に連続した複数枚の画像に対して統計処理が実行されることによって得ることができるものとする。
【００７０】
統計強度算出部４３は、上記した比較の結果として、例えば図１７に示すように、背景画像と現在撮影された画像との差分を算出することができる。この差分が大気障害による影響を受けている部分であるので、統計強度算出部４３は、現在撮影された画像を構成する画素の数と、当該差分部分に相当する画素の数とに基づいて、大気障害の度合い（大気障害の強度とも称する）を算出することができる。例えば、現在撮影された画像を構成する画素の数がＮであり、差分部分に相当する画素の数がａである場合、大気障害の度合いはａ／Ｎ［％］と算出される。これによれば、統計強度算出部４３は、以下に示す（１）式のように統計強度を算出することができる。なお、（１）式におけるＩは統計強度を示し、Ｃは所定の係数を示すものとする。
【００７１】
Ｉ＝Ｃ×（ａ／Ｎ）                                        ・・・（１）
このように、現在撮影された画像に対する固有の統計強度Ｉが算出可能になることで、統計処理部４４は、当該算出された統計強度Ｉを用いて、任意のサイズのフィルタを生成することが可能となる。
【００７２】
なお、上記した差分を算出するにあたって、統計強度算出部４３は、現在撮影された画像に移動体が写っているか否かを判定し、この判定の結果、移動体が写っていると判定された場合には、当該移動体が写っている移動体領域を、撮影された画像から除外した上で、背景画像との比較を行うものとする。移動体が写っているか否かの判定は、上記した移動体の検出と同様の手法にて行われれば良い。
【００７３】
また、統計強度算出部４３によって算出された大気障害の度合いは、入出力部３４を介して図示しない表示部に出力されるとしても良い。この場合、統計強度算出部４３は、算出された大気障害の度合いが予め設定された閾値ｔｈ以上であった場合、例えば図１８に示すように、大気障害の度合いを示すアイコンＩｃ２と共に、被写体までの距離の測距を中止するようユーザに促す旨のメッセージを図示しない表示部に表示させるとしても良い。
【００７４】
また、本実施形態においては、統計処理部４４は、統計強度算出部４３によって算出された統計強度に応じたサイズのフィルタを選択して統計処理を実行するとしたが、これに限定されず、統計処理部４４は、例えば、通信部３５を介して外部機器より取得される気象情報に基づいて現在生じている大気障害の種別を推定し、当該推定された大気障害の種別に対して好適な種別のフィルタを選択した上で、統計強度算出部４３によって算出された統計強度に応じたサイズのフィルタを選択して統計処理を実行するとしても良い。これによれば、現在生じている大気障害の度合いだけでなく、大気障害の種別をも考慮した統計処理を実行することが可能となり、被写体までの距離の推定精度をより向上させることが可能となる。
【００７５】
本実施形態において、距離推定部４２は、フィルタ領域に応じた対象画像のぼけ形状を、距離を仮定したぼけ補正フィルタにより補正した補正画像を生成し、生成した補正画像と基準画像との相関がより高くなる距離を求めることで、被写体までの距離を推定するとしたが、被写体までの距離を推定する手法はこれに限定されるものでない。例えば、距離推定部４２は、Ｒ画像、Ｇ画像、Ｂ画像を対象にしてエッジ抽出処理を行い、抽出された各画像のエッジ間の距離に基づいて各画像の色ずれ量を算出することで、被写体までの距離を推定するとしても良い。なお、この手法においても、Ｇ画像は基準画像として使用される。
【００７６】
また、距離推定部４２は、カメラの開口部にマスクや拡散板、位相板、レンズアレイ等が配置された符号化開口を透過する光線に基づいて生成される画像を用いて、被写体までの距離を推定するとしても良い。あるいは、距離推定部４２は、ＤＮＮ等のいわゆるディープ・ラーニングを利用して被写体までの距離を推定するとしても良いし、モーションブラー（動きぼけ）を利用して被写体までの距離を推定するとしても良い。ディープ・ラーニングを利用して被写体までの距離が推定される場合、例えば、撮影条件と、被写体となる対象とに応じた被写体までの距離を予め学習しておくことで、撮像された画像に写っている被写体が何であるかが判別され、その結果、当該被写体までの距離が推定される。
【００７７】
以上説明した一実施形態によれば、撮像装置１は、現在生じている大気障害に応じた統計強度を算出する統計強度算出部４３と、統計強度算出部４３によって算出された統計強度に応じたサイズのフィルタを選択し、距離推定部４２によって粗く推定された被写体までの距離を対象にした統計処理を実行する統計処理部４４とを備えている。これによれば、画像から、被写体までの距離を精度良く取得することが可能となる。
具体的には、ある程度の大きさを有した物体が被写体として写っている画像から、任意の１画素を選択して測距が行われた場合、大気障害による影響があると、実際の距離とは大幅にずれた距離が算出されてしまう可能性があるが、本実施形態に係る撮像装置１によれば、上記した統計処理により、大気障害に起因して画素（の画素値）に発生してしまっている誤差の分散を抑制することができるので、上記したように任意の１画素が選択されたとしても、正確な距離を測距できる可能性を高くすることができる。
【００７８】
（応用例）  
以下、前述のような構成を有する撮像装置１が適用される応用例についていくつか説明する。
【００７９】
図１９は、撮像装置１を監視カメラに適用した場合の例を示す。図１９に示す監視カメラ５０Ａは、遠方を定点で監視するための監視カメラを想定している。上記したように、大気障害による影響は、光線が空気中を通過する距離が長い程顕著に現れるため、遠方を監視するための監視カメラ５０Ａにおいては、大気障害による画像の劣化は大きな問題となる。しかしながら、本実施形態に係る撮像装置１が適用されることにより、大気障害による影響を除去することが可能となるため、遠方に位置する監視対象までの距離を精度良く算出することが可能である。また、一般的な大気障害を除去する方法では、撮像された画像に移動体が写り込んでいる場合には、当該移動体がいる移動体領域を除いた領域についてのみ大気障害の除去が行われるが、本実施形態に係る撮像装置１は移動体領域も含めて大気障害の除去を行うことが可能であるので、監視対象が移動体である場合に特に有用である。
【００８０】
図２０は、撮像装置１を測距儀（レンジファインダー）に適用した場合の例を示す。測距儀は、撮影地点から目標地点までの距離を計測するために使用され、例えば道路上に設置されて使用される。このため、測距儀は、アスファルトからの放射熱に伴う陽炎の影響を受け易いといった問題がある。しかしながら、本実施形態に係る撮像装置１が適用された測距儀５０Ｂによれば、アスファルトからの放射熱に伴い陽炎が発生していたとしても、当該陽炎による影響を除去した上で、目標地点までの距離を計測することができるようになる。すなわち、目標地点までの距離の計測精度を向上させることができる。
【００８１】
図１９及び図２０では、撮影時に停止している物体５０への撮像装置１の適用について説明したが、以下では、撮像装置１を移動体に適用する場合について説明する。  
図２１は、撮像装置１を含む移動体６０の機能構成例を示す。移動体６０は、例えば、自動運転機能を有する自動車、無人航空機、自律型の移動ロボット等として実現され得る。無人航空機は、人が乗ることができない飛行機、回転翼航空機、滑空機、飛行船であって、遠隔操作または自動操縦により飛行させることができるものであり、例えば、ドローン（マルチコプター）、ラジコン機、農薬散布用ヘリコプター等を含む。自律型の移動ロボットは、無人搬送車（Automated Guided Vehicle: AGV）のような移動ロボット、床を掃除するための掃除ロボット、来場者に各種案内を行うコミュニケーションロボット等を含む。移動体６０にはさらに、ロボット本体が移動するものだけでなく、ロボットアームのような、ロボットの一部分の移動・回転用の駆動機構を有する産業用ロボットも含まれ得る。
【００８２】
図２１に示すように、移動体６０は、例えば、撮像装置１と、制御信号生成部１３及び駆動機構１４とを有する。撮像装置１は、例えば、移動体６０またはその一部分の進行方向の被写体を撮像するように設置される。
【００８３】
図２２に示すように、移動体６０が自動車６０Ａである場合、撮像装置１は、前方を撮像するいわゆるフロントカメラとして設置され得る他、バック時に後方を撮像するいわゆるリアカメラとしても設置され得る。もちろん、これら両方が設置されても良い。また、撮像装置１は、いわゆるドライブレコーダーとしての機能を兼ねて設置されるものであっても良い。すなわち、撮像装置１は画像処理部１２を有した録画機器であっても良い。
【００８４】
次いで、図２３は、移動体２００がドローン６０Ｂである場合の例を示す。ドローン６０Ｂは、駆動機構１４に相当するドローン本体６１と、４つのプロペラ部６２１〜６２４とを備える。各プロペラ部６２１〜６２４はプロペラとモータとを有する。モータの駆動がプロペラに伝達されることによって、プロペラが回転し、その回転による揚力によってドローン６０Ｂが浮上する。ドローン本体６１の、例えば下部には、撮像装置１が搭載されている。
【００８５】
また、図２４は、移動体６０が自律型の移動ロボット６０Ｃである場合の例を示す。移動ロボット６０Ｃの下部には、駆動機構１４に相当する、モータや車輪等を含む動力部６３が設けられている。動力部６３は、モータの回転数や車輪の向きを制御する。移動ロボット６０Ｃは、モータの駆動が伝達されることによって、路面または床面に接地する車輪が回転し、当該車輪の向きが制御されることにより任意の方向に移動することができる。撮像装置１は、例えば、人型の移動ロボット６０Ｃの頭部に、前方を撮像するように設置され得る。なお、撮像装置１は、後方や左右を撮像するように設置されても良いし、複数の方位を撮像するように複数設置されても良い。
【００８６】
なお、移動体６０の一部分の移動及び回転を制御する場合、図２５に示すように、撮像装置１は、例えば、ロボットアーム６０Ｄで把持される物体を撮像するように、ロボットアームの先端等に設置されても良い。画像処理部１２は、把持しようとする物体までの距離を推定する。これにより、物体の正確な把持動作を行うことができる。
【００８７】
制御信号生成部１３は、撮像装置１から出力される被写体までの距離に基づいて、駆動機構１４を制御するための制御信号を出力する。駆動機構１４は、制御信号により、移動体６０または移動体６０の一部分を駆動する。駆動機構１４は、例えば、移動体６０またはその一部分の移動、回転、加速、減速、推力（揚力）の加減、進行方向の転換、通常運転モードと自動運転モード（衝突回避モード）の切り替え、及びエアバッグ等の安全装置の作動のうちの少なくとも一つを行う。駆動機構１４は、例えば、被写体までの距離が閾値未満である場合、移動、回転、加速、推力（揚力）の加減、物体に近寄る方向への方向転換、及び自動運転モード（衝突回避モード）から通常運転モードへの切り替えのうちの少なくとも一つを行っても良い。
【００８８】
自動車６０Ａの駆動機構１４は、例えばタイヤである。ドローン６０Ｂの駆動機構１４は、例えばプロペラである。移動ロボット６０Ｃの駆動機構１４は、例えば脚部である。ロボットアーム６０Ｄの駆動機構１４は、例えば撮像装置１が設けられた先端を支持する支持部である。
【００８９】
移動体６０は、さらに画像処理部１２からの被写体までの距離に関する情報が入力されるスピーカやディスプレイを備えていても良い。スピーカやディスプレイは、被写体までの距離に関する音声または画像を出力する。スピーカやディスプレイは、撮像装置１と有線または無線で接続されている。さらに、移動体６０は、画像処理部１２からの被写体までの距離に関する情報が入力される発光部を有していても良い。発光部は、例えば、画像処理部１２からの被写体までの距離に関する情報に応じて点灯したり消灯したりする。
【００９０】
また、移動体６０がドローンである場合、上空から、地図（物体の３次元形状）の作成、ビルや地形の構造調査、ひび割れや電線破断等の点検等が行われる際に、撮像装置１は対象を撮影した画像を取得し、被写体までの距離が閾値以上であるか否かを判定する。制御信号生成部１３は、この判定の結果に基づいて、点検対象との距離が一定になるようにドローンの推力を制御するための制御信号を生成する。ここでの推力には揚力も含まれる。駆動機構１４が、この制御信号に基づいてドローンを動作させることにより、ドローンを点検対象にして並行して飛行させることができる。移動体６０が監視用のドローンである場合、監視対象の物体との距離を一定に保つようにドローンの推力を制御するための制御信号を生成しても良い。
【００９１】
また、ドローンの飛行時に、撮像装置１は地面方向を撮像した画像を取得し、地面までの距離が閾値以上であるか否かを判定する。制御信号生成部１３は、この判定の結果に基づいて、地面からの高さが指定された高さになるようにドローンの推力を制御するための制御信号を生成する。駆動機構１４が、この制御信号に基づいてドローンを動作させることにより、ドローンを指定された高さで飛行させることができる。農薬散布用ドローンであれば、ドローンの地面からの高さを一定に保つことで、農薬を均等に散布し易くなる。
【００９２】
また、移動体６０がドローンまたは自動車である場合、ドローンの連携飛行や自動車の連隊走行時に、撮像装置１は、周囲のドローンや前方の自動車を撮像した画像を取得し、連携飛行中のドローンや連隊走行中の自動車までの距離が閾値以上であるか否かを判定する。制御信号生成部１３は、この判定の結果に基づいて、その周囲のドローンや前方の自動車との距離が一定になるように、ドローンの推力や自動車の速度を制御するための制御信号を生成する。駆動機構１４が、この制御信号に基づいてドローンや自動車を動作させることにより、ドローンの連携飛行や自動車の連隊走行を容易に行うことができる。移動体６０が自動車である場合、ドライバーが閾値を設定できるように、ユーザインタフェースを介してドライバーの指示を受理することで、閾値を変化させても良い。これにより、ドライバーが好む車間距離で自動車を走行させられる。あるいは、前方の自動車との安全な車間距離を保つために、自動車の速度に応じて閾値を変化させても良い。安全な車間距離は、自動車の速度によって異なる。そこで、自動車の速度が速い程閾値を大きく設定することができる。また、移動体６０が自動車である場合に、進行方向の所定の距離を閾値に設定しておき、その閾値の手前に物体が現れた場合にブレーキが自動で作動したり、エアバッグ等の安全装置が自動で作動したりする制御信号生成部１３を構成すると良い。この場合、自動ブレーキやエアバッグ等の安全装置が駆動機構１４に設けられる。
【００９３】
以上説明したように、一実施形態によれば、画像から、被写体までの距離を精度良く取得でき、取得した被写体までの距離を用いることにより、例えば、監視カメラ、測距儀、自動車、ドローン、ロボット等の動作を容易に制御することができる。
【００９４】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【符号の説明】
【００９５】
１…撮像装置、１１…撮像部、１２…画像処理部、２１…フィルタ、２２…レンズ、２３…イメージセンサ、４１…画像取得部、４２…距離推定部、４３…統計強度算出部、４４…統計処理部、２１１…第１フィルタ領域、２１２…第２フィルタ領域、２３１…第１センサ、２３２…第２センサ、２３３…第３センサ。
【図１】
2020024563.tif 000003
【図２】
2020024563.tif 000004
【図３】
2020024563.tif 000005
【図４】
2020024563.tif 000006
【図５】
2020024563.tif 000007
【図６】
2020024563.tif 000008
【図７】
2020024563.tif 000009
【図８】
2020024563.tif 000010
【図９】
2020024563.tif 000011
【図１０】
2020024563.tif 000012
【図１１】
2020024563.tif 000013
【図１２】
2020024563.tif 000014
【図１３】
2020024563.tif 000015
【図１４】
2020024563.tif 000016
【図１５】
2020024563.tif 000017
【図１６】
2020024563.tif 000018
【図１７】
2020024563.tif 000019
【図１８】
2020024563.tif 000020
【図１９】
2020024563.tif 000021
【図２０】
2020024563.tif 000022
【図２１】
2020024563.tif 000023
【図２２】
2020024563.tif 000024
【図２３】
2020024563.tif 000025
【図２４】
2020024563.tif 000026
【図２５】
2020024563.tif 000027