(57)【要約】【課題】画像から得た被写体までの距離の信頼度に関する出力や制御を行うことができる処理装置を提供する。【解決手段】実施形態によれば、処理装置は、取得部と、距離算出部と、信頼度算出部と、を具備する。前記取得部は、対称な第１のぼけ関数で示される形状のぼけを含む被写体の第１の画像と、非対称な第２のぼけ関数で示される形状のぼけを含む前記被写体の第２の画像とを取得する。前記距離算出部は、前記第１のぼけ関数と前記第２のぼけ関数との相関に基づき、前記被写体までの距離を算出する。前記信頼度算出部は、前記相関の度合いに基づき前記距離の信頼度を算出する。【選択図】図５
2018084571.tif 000002
【特許請求の範囲】
【請求項１】
対称な第１のぼけ関数で示される形状のぼけを含む被写体の第１の画像と、非対称な第２のぼけ関数で示される形状のぼけを含む前記被写体の第２の画像とを取得する取得部と、
前記第１のぼけ関数と前記第２のぼけ関数との相関に基づき、前記被写体までの距離を算出する距離算出部と、
前記相関の度合いに基づき前記距離の信頼度を算出する信頼度算出部と、
を具備する処理装置。
【請求項２】
前記距離算出部は、前記第２の画像と複数のぼけ補正フィルタそれぞれとにより生成される複数の補正画像それぞれと、前記第１の画像と、の相関により前記距離を算出し、
前記信頼度算出部は、前記複数の補正画像それぞれと前記第１の画像との相関関数の曲率に基づき、前記距離の信頼度を算出する、
請求項１に記載の処理装置。
【請求項３】
前記信頼度算出部は、前記複数の補正画像それぞれと前記第１の画像との相関関数の曲率、および、被写体像のエッジ方向または前記被写体像のエッジ強度に基づき、前記距離の信頼度を算出する請求項２に記載の処理装置。
【請求項４】
前記処理装置はさらにマップを出力する出力部を備え、前記マップは、前記第１の画像または前記第２の画像のいずれかにおける複数の第１点と対応する複数の第２点において、前記複数の第１点の前記距離と前記距離の信頼度とを示す、請求項１に記載の処理装置。
【請求項５】
前記処理装置はさらにリストを出力する出力部を備え、前記リストは、前記第１の画像または前記第２の画像の座標と、前記座標における前記距離と、前記距離の信頼度とを示す、請求項１に記載の処理装置。
【請求項６】
前記処理装置はさらに出力データを出力する出力部を備え、
前記出力データは、前記取得部により取得されるカラー画像データと、前記カラー画像データで示される画像上の複数の点の前記距離を含む距離データと、前記複数の点の前記距離の信頼度を含む信頼度データとを含む、請求項１に記載の処理装置。
【請求項７】
請求項１乃至６のいずれか１項に記載の処理装置と、
前記第１の画像と前記第２の画像とを撮像する撮像部と、
を具備する撮像装置。
【請求項８】
前記第１の画像と前記第２の画像は、一の撮像装置により同時刻に撮像された画像である、請求項７に記載の撮像装置。
【請求項９】
前記第１の画像上または前記第２の画像上の位置に対応する前記距離と前記距離の信頼度とを含む表示画像を表示可能な表示部を具備する請求項７または８のいずれか１項に記載の撮像装置。
【請求項１０】
前記表示画像上の位置の指定を受け付ける入力部をさらに具備し、
前記表示部は、前記入力部により指定された表示画像上の位置に対応する前記第１の画像上または前記第２の画像上における位置の前記距離と前記距離の信頼度を表示する、
請求項９に記載の撮像装置。
【請求項１１】
前記表示部は、前記距離の信頼度が閾値以下の場合、前記撮像装置を回転させることを促すメッセージを出力する請求項９または１０のいずれか１項に記載の撮像装置。
【請求項１２】
請求項７乃至１１のいずれか１項に記載の撮像装置と、
前記距離と前記距離の信頼度とに基づき、移動体の駆動機構を制御する制御部と、
を具備する移動体の自動制御システム。
【請求項１３】
前記制御部は、前記距離と前記距離の信頼度とから算出される前記距離の下方限界値を用いて前記駆動機構を制御する請求項１２に記載の自動制御システム。
【請求項１４】
前記制御部は、前記下方限界値に基づいて前記駆動機構を制御することにより移動体を停止、減速、加速または移動開始させる、請求項１３に記載の自動制御システム。
【請求項１５】
前記撮像装置は、回転機構に取り付けられ、
前記制御部は、前記撮像装置から得られる前記距離の信頼度がより高くなるように前記回転機構を制御する請求項１２に記載の自動制御システム。
【請求項１６】
少なくとも第１フィルタ領域と第２フィルタ領域とを含むフィルタを開口部に備えたカメラと、
鉛直方向を表す直線を前記フィルタに射影した第１直線と、前記フィルタの第１フィルタ領域と第２フィルタ領域との分割方向を表す第２直線と、が非平行であるように前記カメラを設置する手段と、
を具備する撮像装置。
【請求項１７】
前記第１直線と前記第２直線のなす角度に基づいて撮影画像を回転させる処理部をさらに具備する請求項１６記載の撮像装置。
【請求項１８】
請求項１７に記載の撮像装置と、
前記回転された撮影画像を表示する表示部と、を具備する撮像システム。
【請求項１９】
少なくとも第１フィルタ領域と第２フィルタ領域とを含むフィルタを開口部に備えたカメラであって、鉛直方向を表す直線を前記フィルタに射影した第１直線と、前記フィルタの第１フィルタ領域と第２フィルタ領域の分割方向を表す第２直線と、が非平行であるカメラを用いて被写体を撮影することと、
前記被写体の撮影画像から前記フィルタから前記被写体までの距離情報を取得することと、
を具備する距離情報取得方法。
【請求項２０】
前記第１直線と前記第２直線のなす角度に基づいて撮影画像を回転させることをさらに具備する請求項１９記載の距離情報取得方法。
【請求項２１】
前記回転された撮影画像を表示することをさらに具備する請求項２０記載の距離情報取得方法。
【請求項２２】
少なくとも第１フィルタ領域と第２フィルタ領域とを含むフィルタを開口部に備えたカメラと、
前記カメラから出力される撮影画像に含まれる第１主軸を表す直線を前記フィルタに射影した第１直線と、前記撮影画像に含まれる前記第１主軸と直交する第２主軸を表す直線を前記フィルタに射影した第２直線と、前記フィルタの第１フィルタ領域と第２フィルタ領域の分割方向を表す第３直線と、が非平行であるように前記カメラを設置する手段と、
を具備する撮像装置。
【請求項２３】
前記第１主軸と前記第２主軸は、撮像範囲に含まれる部屋の床又は壁の直交する２辺に沿う請求項２２記載の撮像装置。
【請求項２４】
前記第１主軸又は前記第２主軸は、撮像範囲に含まれる道路の延在方向又は車の進行方向に沿う請求項２２記載の撮像装置。
【請求項２５】
前記第１直線と前記第２直線のなす角度に基づいて前記撮影画像を回転させる処理部をさらに具備する請求項２２乃至請求項２４のいずれか一項記載の撮像装置。
【請求項２６】
前記回転された撮影画像を表示する表示部をさらに具備する請求項２５記載の撮像装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明の実施形態は、処理装置、撮像装置、自動制御システム、撮像システム及び距離情報取得方法に関する。
【背景技術】
【０００２】
近年、被写体までの距離を画像から得る画像処理技術が注目されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１５−１９４４８６号公報
【特許文献２】特開２００４−３４０７１４号公報
【特許文献３】特許第４９７９５２５号公報
【特許文献４】実用新案登録第３１７９８３６号公報
【特許文献５】特開２０１６−２４１７４４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
本発明が解決しようとする課題は、画像から得た被写体までの距離の信頼度に関する出力や制御を行うことができる処理装置、撮像装置、自動制御システム、撮像システム及び距離情報取得方法を提供することである。
【課題を解決するための手段】
【０００５】
実施形態によれば、処理装置は、取得部と、距離算出部と、信頼度算出部と、を具備する。前記取得部は、対称な第１のぼけ関数で示される形状のぼけを含む被写体の第１の画像と、非対称な第２のぼけ関数で示される形状のぼけを含む前記被写体の第２の画像とを取得する。前記距離算出部は、前記第１のぼけ関数と前記第２のぼけ関数との相関に基づき、前記被写体までの距離を算出する。前記信頼度算出部は、前記相関の度合いに基づき前記距離の信頼度を算出する。
【図面の簡単な説明】
【０００６】
【図１】実施形態に係る撮像装置のハードウェア構成例を示すブロック図。
【図２】実施形態に係るフィルタの構成例を示す図。
【図３】実施形態に係るフィルタ領域の透過率特性の一例を示す図。
【図４】実施形態に係るカラー開口による光線変化と、ぼけの形状とについて説明するための図。
【図５】実施形態に係る撮像装置の機能構成例を示すブロック図。
【図６】実施形態に係る基準画像のぼけ関数の一例を示す図。
【図７】実施形態に係る対象画像のぼけ関数の一例を示す図。
【図８】実施形態に係るぼけ補正フィルタの一例を示す図。
【図９】実施形態における信頼度算出処理を説明するための第１の図。
【図１０】実施形態における信頼度算出処理を説明するための第２の図。
【図１１】実施形態における信頼度算出処理を説明するための第３の図。
【図１２】実施形態における信頼度算出処理を説明するための第４の図。
【図１３】ステレオマッチングにおける距離と相関値を説明するための図。
【図１４】実施形態における相関関数の曲率の算出方法の一例を説明するための図。
【図１５】実施形態における距離と距離の信頼度の出力形式の一例を示す図。
【図１６】実施形態における距離と距離の信頼度の出力形式の他の例を示す図。
【図１７】実施形態における画像処理の流れの一例を示すフローチャート。
【図１８】実施形態に係るロボットの機能構成例を示すブロック図。
【図１９】実施形態に係るロボットにおける距離の信頼度に基づく一動作例を説明するための図。
【図２０】実施形態に係る移動体の機能構成例を示すブロック図。
【図２１】実施形態に係る移動体における距離の信頼度に基づく一動作例を説明するための第１の図。
【図２２】実施形態に係る移動体における距離の信頼度に基づく一動作例を説明するための第２の図。
【図２３】実施形態に係る監視システムの機能構成例を示すブロック図。
【図２４】実施形態に係る監視システムにおける距離の信頼度に基づく一処理例を説明するための図。
【図２５】実施形態に係る監視システムにおける距離に基づく一処理例を説明するための図。
【図２６】実施形態に係る監視システムにおける距離の一提示例を示す図。
【図２７】実施形態に係る監視システムにおけるメッセージの一表示例を示す図。
【図２８】第２実施形態に係る撮像装置の設置例を示す図。
【図２９】第２実施形態に係る撮像装置の回転の一例を示す図。
【図３０】第２実施形態に係るシステムの電気的な構成の一例を示すブロック図。
【図３１】第２実施形態に係るシステムの距離算出、表示制御のための機能構成の一例を示すブロック図。
【図３２】第２実施形態に係る撮像装置により撮影される被写体の一例を示す図。
【図３３】第２実施形態に係る撮像装置のカラーフィルタの一例を示す図。
【図３４】第２実施形態に係る撮像装置のカラーフィルタの第１変形例を示す図。
【図３５】第２実施形態に係る撮像装置のカラーフィルタの第２変形例を示す図。
【図３６】第２実施形態に係る撮像装置のカラーフィルタの第３変形例を示す図。
【図３７】第２実施形態に係る撮像装置のカラーフィルタの第４変形例を示す図。
【図３８】第３実施形態に係る撮像装置の設置例を示す図。
【図３９】第３実施形態に係る撮像装置の回転の一例を示す図。
【図４０】第３実施形態に係る撮像装置における第１、第２主軸の一例を示す図。
【図４１】実施形態の第１応用例に係る監視システムの機能構成の一例を示すブロック図。
【図４２】監視システムの使用例を示す図。
【図４３】実施形態の第２応用例に係る自動ドアシステムの機能構成の一例を示す図。
【図４４】自動ドアシステムの動作例を示す図。
【図４５】自動ドアシステムの変形例に係る自動車ドア開閉システムの一例を示す図。
【図４６】実施形態の第３応用例に係る移動体制御システムの機能構成の一例を示すブロック図。
【図４７】第３応用例の移動体の一例であるロボットを示す図。
【図４８】第３応用例の移動体がドローンの場合の機能構成の一例を示すブロック図。
【図４９】第３応用例の移動体が自動車の場合の機能構成の一例を示すブロック図。
【発明を実施するための形態】
【０００７】
以下、実施形態について図面を参照して説明する。
【０００８】
図１は、実施形態に係る撮像装置のハードウェア構成例を示すブロック図である。この撮像装置１００は、画像を撮像し、撮像された画像を処理する機能を有する。この撮像装置１００は、たとえば、カメラ、カメラ機能を有する携帯電話機やスマートフォン、ＰＤＡ（Personal Digital Assistant, Personal Data Assistant）といった携帯情報端末、カメラ機能を有するパーソナルコンピュータ、または各種電子機器に内蔵される組み込みシステムとして実現され得る。
【０００９】
図１に示すように、撮像装置１００は、たとえば、フィルタ１０、レンズ２０、イメージセンサ３０、画像処理部、および記憶部を備える。画像処理部は、例えばＣＰＵ４０などの回路で構成される。記憶部は、例えばＲＡＭ５０や不揮発性メモリ９０で構成される。撮像装置１００は、さらにメモリカードスロット６０、ディスプレイ７０および通信部８０を備えてもよい。例えば、イメージセンサ３０、ＣＰＵ４０、ＲＡＭ５０、メモリカードスロット６０、ディスプレイ７０、通信部８０および不揮発性メモリ９０は、バス１１０を介して相互に接続され得る。
【００１０】
イメージセンサ３０は、フィルタ１０およびレンズ２０を透過した光を受光し、受光した光を電気信号に変換（光電変換）することによって、画像を生成する。イメージセンサ３０には、たとえばＣＣＤ（Charge Coupled Device）やＣＭＯＳ（Complementary Metal Oxide Semiconductor）が用いられる。イメージセンサ３０は、たとえば、赤色（Ｒ）の光を受光する撮像素子（第１のセンサ３１）と、緑色（Ｇ）の光を受光する撮像素子（第２のセンサ３２）と、青色（Ｂ）の光を受光する撮像素子（第３のセンサ３３）とを備える。各撮像素子は、対応する波長帯域の光を受光し、受光した光を電気信号に変換する。この電気信号をＡ／Ｄ変換することによりカラー画像を生成することができる。なお、赤、緑、青の撮像素子毎の電気信号を用いて、Ｒ画像、Ｇ画像、Ｂ画像をそれぞれ生成することもできる。つまり、カラー画像、Ｒ画像、Ｇ画像、Ｂ画像を同時に生成することができる。換言すると、撮像装置１００は、１度の撮像で、カラー画像、Ｒ画像、Ｇ画像、Ｂ画像を得ることができる。
【００１１】
ＣＰＵ４０は、撮像装置１００内の様々なコンポーネントの動作を制御するプロセッサである。ＣＰＵ４０は、ストレージデバイスである不揮発性メモリ９０からＲＡＭ５０にロードされる様々なプログラムを実行する。不揮発性メモリ９０には、イメージセンサ３０によって生成された画像や、その画像の処理結果も格納され得る。
【００１２】
メモリカードスロット６０には、ＳＤメモリカードやＳＤＨＣメモリカードのような各種の可搬記憶媒体が挿入され得る。メモリカードスロット６０に記憶媒体が挿入された場合、その記憶媒体に対するデータの書き込みおよび読み出しが実行され得る。データは、例えば画像データや距離データである。
【００１３】
ディスプレイ７０は、たとえばＬＣＤ（Liquid Crystal Display）である。ディスプレイ７０は、ＣＰＵ４０等によって生成される表示信号に基づいて画面イメージを表示する。なお、ディスプレイ７０はタッチスクリーンディスプレイであってもよい。その場合、たとえば、ＬＣＤの上面にタッチパネルが配置される。タッチパネルは、ＬＣＤの画面上で入力を行うための静電容量式のポインティングデバイスである。指が接触される画面上の接触位置および接触位置の動き等がタッチパネルによって検出される。
【００１４】
通信部８０は、有線通信または無線通信を実行するように構成されたインターフェース機器である。通信部８０は、信号を有線または無線送信する送信部と、信号を有線又は無線受信する受信部とを含む。
【００１５】
図２は、フィルタ１０の構成例を示す図である。フィルタ１０は、たとえば、２色のカラーフィルタ領域である第１のフィルタ領域１１と第２のフィルタ領域１２とで構成される。フィルタ１０の中心は、撮像装置１００の光学中心１３と一致している。第１のフィルタ領域１１および第２のフィルタ領域１２は、それぞれ、光学中心１３に対して非点対称である形状を有している。また、例えば各フィルタ領域１１，１２は重複せず、かつ、２つのフィルタ領域１１，１２によってフィルタ領域の全領域を構成している。図２に示す例では、第１のフィルタ領域１１および第２のフィルタ領域１２は、それぞれ、円形のフィルタ１０が光学中心１３を通る線分で分割された半円の形状を有している。また、第１のフィルタ領域１１は、たとえばイエロー（Ｙ）のフィルタ領域であり、第２のフィルタ領域１２は、たとえばシアン（Ｃ）のフィルタ領域である。
【００１６】
フィルタ１０は、２以上のカラーフィルタ領域を有する。カラーフィルタ領域それぞれは、撮像装置の光学中心に対して非対称な形状である。一のカラーフィルタ領域が透過する光の波長領域の一部と他の一のカラーフィルタ領域が透過する光の波長領域の一部は、例えば重複する。一のカラーフィルタ領域が透過する光の波長領域は、例えば他の一のカラーフィルタ領域が透過する光の波長領域を含んでもよい。以下では、例として図２のフィルタ１０を用いて説明する。
【００１７】
このようなフィルタ１０がカメラの開口部に配置されることによって、開口部が２色で２分割された構造開口であるカラー開口が構成される。このカラー開口を透過する光線に基づいて、イメージセンサ３０は画像を生成する。イメージセンサ３０に入射する光の光路上において、フィルタ１０とイメージセンサ３０との間にレンズ２０が配置されてもよい。イメージセンサ３０に入射する光の光路上において、レンズ２０とイメージセンサ３０との間にフィルタ１０が配置されてもよい。レンズ２０は複数設けられる場合には、フィルタ１０は２のレンズ２０の間に配置されてもよい。
【００１８】
より詳細には、第２のセンサ３２に対応する波長帯域の光は、イエローの第１のフィルタ領域１１とシアンの第２のフィルタ領域１２の両方を透過する。第１のセンサ３１に対応する波長帯域の光は、イエローの第１のフィルタ領域１１を透過し、シアンの第２のフィルタ領域１２を透過しない。第３のセンサ３３に対応する波長帯域の光は、シアンの第２のフィルタ領域１２を透過し、イエローの第２のフィルタ領域１２を透過しない。
【００１９】
なお、ある波長帯域の光がフィルタまたはフィルタ領域を透過するとは、フィルタまたはフィルタ領域が高い透過率でその波長帯域の光を透過し、そのフィルタまたはフィルタ領域による当該波長帯域の光の減衰（すなわち、光量の低下）が極めて小さいことを意味する。また、ある波長帯域の光がフィルタまたはフィルタ領域を透過しないとは、光がフィルタまたはフィルタ領域に遮蔽されることであり、例えば、フィルタまたはフィルタ領域が低い透過率でその波長帯域の光を透過し、そのフィルタまたはフィルタ領域による当該波長帯域の光の減衰が極めて大きいことを意味する。例えばフィルタまたはフィルタ領域は、ある波長帯の光を吸収することにより光を減衰させる。
【００２０】
図３は、第１のフィルタ領域１１および第２のフィルタ領域１２の透過率特性の例を示す図である。図３に示すように、イエローの第１のフィルタ領域１１の透過率特性２１では、Ｒ画像およびＧ画像に対応する波長帯域の光が高い透過率で透過され、Ｂ画像に対応する波長帯域の光がほとんど透過されていない。また、シアンの第２のフィルタ領域１２の透過率特性２２では、Ｂ画像およびＧ画像に対応する波長帯域の光が高い透過率で透過され、Ｒ画像に対応する波長帯域の光がほとんど透過されていない。
【００２１】
したがって、Ｒ画像に対応する波長帯域の光はイエローの第１のフィルタ領域１１のみを透過し、Ｂ画像に対応する波長帯域の光はシアンの第２のフィルタ領域１２のみを透過するので、Ｒ画像およびＢ画像上のぼけの形状は、被写体までの距離ｄに応じて、より詳細には、距離ｄと合焦距離ｄfとの差分に応じて変化する。また、各フィルタ領域が光学中心に対して非対称な形状なので、Ｒ画像およびＢ画像上のぼけの形状が、被写体が合焦距離ｄfよりも手前にあるか、それとも奥にあるかによって異なる。すなわち、Ｒ画像およびＢ画像上のぼけの形状は偏っている。
【００２２】
図４を参照して、フィルタ１０が配置されたカラー開口による光線変化と、ぼけの形状とについて説明する。
【００２３】
被写体１５が合焦距離ｄfよりも奥にある場合（ｄ＞ｄf）、イメージセンサ３０によって撮像された画像にはぼけが発生する。この画像上のぼけの形状を示すぼけ関数（ＰＳＦ：Point Spread Function）は、Ｒ画像、Ｇ画像およびＢ画像でそれぞれ異なっている。すなわち、Ｒ画像のぼけ関数１０１Ｒは左側に偏ったぼけの形状を示し、Ｇ画像のぼけ関数１０１Ｇは偏りのないぼけの形状を示し、Ｂ画像のぼけ関数１０１Ｂは右側に偏ったぼけの形状を示している。
【００２４】
被写体１５が合焦距離ｄfにある場合（ｄ＝ｄf）、イメージセンサ３０によって撮像された画像にはほとんどぼけが発生しない。この画像上のぼけの形状を示すぼけ関数は、Ｒ画像、Ｇ画像およびＢ画像でほぼ同じである。すなわち、Ｒ画像のぼけ関数１０２Ｒ、Ｇ画像のぼけ関数１０２Ｇ、およびＢ画像のぼけ関数１０２Ｂは、偏りのないぼけの形状を示している。
【００２５】
被写体１５が合焦距離ｄfよりも手前にある場合（ｄ＜ｄｆ）、イメージセンサ３０によって撮像された画像にはぼけが発生する。この画像上のぼけの形状を示すぼけ関数は、Ｒ画像、Ｇ画像及びＢ画像でそれぞれ異なっている。すなわち、Ｒ画像のぼけ関数１０３Ｒは右側に偏ったぼけの形状を示し、Ｇ画像のぼけ関数１０３Ｇは偏りのないぼけの形状を示し、Ｂ画像のぼけ関数１０３Ｂは左側に偏ったぼけの形状を示している。
【００２６】
本実施形態では、このような特性を利用して、被写体までの距離を算出する。
【００２７】
図５は、撮像装置１００の機能構成例を示すブロック図である。
【００２８】
図５に示すように、撮像装置１００は、前述のフィルタ１０、レンズ２０およびイメージセンサ３０に加えて、画像処理部４１を備える。フィルタ１０からイメージセンサ３０までの矢印は、光の経路を示す。イメージセンサ３０から画像処理部４１までの矢印は、電気信号の経路を示す。画像処理部４１は、たとえば、画像取得部４１１、距離算出部４１２、信頼度算出部４１３および出力部４１４を備える。画像処理部４１は、これらの一部またはすべてがソフトウェア（プログラム）で実現されても良いし、ハードウェア回路で実現されても良い。
【００２９】
画像取得部４１１は、ぼけ関数(Point spread function、PSF)が偏りのないぼけの形状を示すＧ画像を基準画像として取得する。また、ぼけ関数が偏ったぼけの形状を示すＲ画像およびＢ画像の一方または両方を対象画像として取得する。例えば、対象画像と基準画像は、一の撮像装置により同時刻に撮像された画像である。
【００３０】
距離算出部４１２は、複数のぼけ補正フィルタのうち、対象画像に付加すると、基準画像との相関がより高くなるぼけ補正フィルタを求めることで、画像に写る被写体までの距離を算出する。距離算出部４１２は、さらに算出した距離から、距離画像を出力してもよい。複数のぼけ補正フィルタは、対象画像に対して、相互に異なるぼけを付加する関数である。ここで、まず、距離算出部４１２による距離算出処理の詳細について説明する。
【００３１】
距離算出部４１２は、取得された対象画像と基準画像とをもとに、対象画像に異なるぼけを付加することで、対象画像のぼけ形状を補正した補正画像を生成する。本実施形態では、画像に写る被写体までの距離が任意の距離であると仮定して作成した複数のぼけ補正フィルタを用いて、対象画像のぼけ形状を補正した補正画像を生成し、補正画像と基準画像との相関がより高くなる距離を求めることで、被写体までの距離を算出する。なお、補正画像と基準画像との相関を計算する手法については後述する。
【００３２】
撮像画像のぼけ関数は、撮像装置１００の開口形状と、被写体の位置とピント位置との距離によって決定する。図６は、実施形態に係る基準画像のぼけ関数の一例を示す図である。図６に示すように、第２のセンサに対応する波長領域が透過する開口形状は点対称形である円形状であるため、ぼけ関数で示されるぼけの形状は、ピント位置の前後で変化はなく、被写体とピント位置との間の距離の大きさによってぼけの幅が変化する。このようなぼけの形状を示すぼけ関数は、被写体の位置とピント位置との間の距離の大きさによってぼけの幅が変化するガウス関数として表現できる。なお、ぼけ関数は、被写体の位置とピント位置との距離によってぼけの幅が変化するピルボックス関数として表現してもよい。
【００３３】
一方、図７は、実施形態に係る対象画像のぼけ関数の一例を示す図である。なお、各図の中心（x0,y0）＝（0,0）である。図７に示すように、対象画像（たとえばＲ画像）のぼけ関数は、被写体がピント位置よりも遠方にあるｄ＞ｄfの場合、ｘ＞０において第１のフィルタ領域１１での光減衰によってぼけの幅が減衰するガウス関数として表現できる。また、被写体がピント位置よりも近方にあるｄ＜ｄfの場合、ｘ＜０において第１のフィルタ領域１１での光減衰によってぼけの幅が減衰するガウス関数として表現できる。
【００３４】
また、基準画像のぼけ関数と対象画像のぼけ関数とを解析することにより、対象画像のぼけ形状を基準画像のぼけ形状へ補正するための複数のぼけ補正フィルタを求めることができる。
【００３５】
図８は、実施形態に係るぼけ補正フィルタの一例を示す図である。なお、図８に示すぼけ補正フィルタは、図２に示したフィルタ１０を用いた場合のぼけ補正フィルタである。図８に示すように、ぼけ補正フィルタは、第１のフィルタ領域１１と第２のフィルタ領域１２の境界の線分の中心点を通り、この線分に直交する直線上（直線付近）に分布する。その分布は、想定する距離毎にピーク点（直線上の位置，高さ）とピーク点からの広がり方とが異なる図示のような山状の分布となる。対象画像のぼけ形状は、ぼけ補正フィルタを用いて、任意の距離を想定した様々なぼけ形状に補正することができる。つまり、任意の距離を想定した補正画像を生成することができる。
【００３６】
距離算出部４１２は、生成した補正画像と基準画像とのぼけ形状が最も近似または一致する距離を撮像画像の各画素から求める。ぼけ形状の一致度は、各画素を中心とする任意サイズの矩形領域における補正画像と基準画像との相関を計算すれば良い。ぼけ形状の一致度の計算は、既存の類似度評価手法を用いれば良い。距離算出部４１２は、補正画像と基準画像とで相関が最も高くなる距離を求め、各画素に写る被写体までの距離を算出する。
【００３７】
たとえば、既存の類似度評価手法は、ＳＳＤ（Sum of Squared Difference）、ＳＡＤ（Sum of Absolute Difference）、ＮＣＣ（Normalized Cross-Correlation）、ＺＮＣＣ（Zero-mean Normalized Cross-Correlation）、Color Alignment Measure等を利用すれば良い。本実施形態では、自然画像の色成分が局所的には線形な関係を持つ特性を有することを利用したColor Alignment Measureを利用する。Color Alignment Measureでは、撮像画像の対象画素を中心とする局所境域の色分布の分散から、相関関係を表す指標が算出される。
【００３８】
このように、距離算出部４１２は、フィルタ領域に応じた対象画像のぼけ形状を、距離を仮定したぼけ補正フィルタにより補正した補正画像を生成し、生成した補正画像と基準画像との相関がより高くなる距離を求めることで、被写体までの距離を算出する。
【００３９】
信頼度算出部４１３は、以上のように距離算出部４１２が算出した距離の信頼性を算出する。次に、信頼度算出部４１３による信頼度算出処理の詳細について説明する。
【００４０】
たとえば、図９に示すように、被写体（Ａ）の位置がピント位置よりも遠い場合、被写体像（Ｂ）のぼけは、Ｂ画像においては右側に偏り（Ｃ１）、Ｒ画像においては左側に偏る（Ｃ２）。Ｇ画像においては、左右対称のぼけが現れる。なお、図９の被写体（Ａ）と被写体像（Ｂ）の横軸は、Ｃ１、Ｃ２、Ｄ１、Ｄ２、Ｅの横軸と同じ次元である。また、Ｃ１、Ｃ２、Ｄ１、Ｄ２の縦軸は、ぼけに関する色成分の量を示す。
【００４１】
このように、Ｂ画像およびＲ画像の一方または両方について、ぼけの形状をＧ画像のぼけの形状に一致させるべく（Ｅ）、距離毎のぼけ補正フィルタ（Ｄ１，Ｄ２）の中から最適なぼけ補正フィルタを探索することにより、被写体（Ａ）までの距離を得ることができる。
【００４２】
図１０は、図９に示した被写体像（Ｂ）のぼけの形状（Ｃ１，Ｃ２）および補正後のぼけの形状（Ｅ）を断面波形として表した図である。図１１に示すように、Ｂ画像およびＲ画像の一方または両方について、ぼけの形状をＧ画像のぼけの形状と一致させるためのぼけ補正量を探索する（Ａ１，Ａ２）という探索問題は凸最適化問題である。つまり、距離毎のぼけ補正フィルタ（図９：Ｄ１，Ｄ２）による補正後のＢ画像またはＲ画像のぼけの形状とＧ画像のぼけの形状との相関関数は凸関数となる。
【００４３】
また、凸関数である当該相関関数の曲率は、図１２に示すように、閾値以上の相関値が得られたぼけ補正フィルタの数が少ない場合、すなわち、解のばらつきが小さい場合、大きくなり、解のばらつきが大きい場合、小さくなる。信頼度算出部４１３は、この相関関数の曲率に基づき、距離算出部４１２により算出された距離の信頼度を算出する。これに対して、２枚の画像からステレオマッチングにより被写体までの距離を算出する場合、一方の画像上の注目点に対応する他方の画像上の対応点を探索するという探索問題は、たとえば図１３に示すように、凸最適化問題ではない。したがって、ステレオマッチングの場合、相関値で距離の信頼度を得ることは難しい。
【００４４】
図１４を参照して、相関関数の曲率の算出方法の一例を説明する。
【００４５】
たとえば、距離毎のぼけ補正フィルタ（ｆn）適用時の各相関値（ｒn）から得られる曲線として２次関数をフィッティング（最小二乗法）し、相関関数の曲率を、当該２次関数の２次係数とする。この場合には、３点（ｐ1，ｐ2，ｐ3）から曲率を算出することができる。
【００４６】
より詳細には、上記３点（ｐ1，ｐ2，ｐ3）について、
ｒ1＝ｃ+ｂｆ1+ａｆ12  …（式１）
ｒ2＝ｃ+ｂｆ2+ａｆ22  …（式２）
ｒ3＝ｃ+ｂｆ3+ａｆ32  …（式３）
の式を立て、この３つの式からａ，ｂ，ｃの値を算出する。すなわち、曲率とする２次係数であるａを算出する。
【００４７】
また、このようにして算出した曲率を、例えば、ガウス関数を用いた以下の（式４）により信頼度（０〜１）へと変換する。
【００４８】
信頼度＝１−exp（−（曲率2／２σ2））  …（式４）
信頼度算出部４１３は、被写体までの距離を算出する過程で算出される距離毎のぼけ補正フィルタ処理適用時の相関値を距離算出部４１２から取得し、たとえば前述した方法により、距離算出部４１２により算出された距離の信頼度を算出する。
【００４９】
出力部４１４は、距離算出部４１２により算出された距離と、信頼度算出部４１３により算出された距離の信頼度とを対応づけた出力データを出力する。出力部４１４は、たとえば、図１５に示すように、画像と位置的に対応づけて配置したマップ形式で、画素単位に算出される距離と距離の信頼度とを出力する。あるいは、出力部４１４は、たとえば、図１６に示すように、画像上に設定される座標に基づく順序で並べたリスト形式で、画素単位に算出される距離と距離の信頼度とを出力してもよい。出力部４１４は、図１５および図１６に示した形式に限らず、どのような形式で、画素単位に算出される距離と距離の信頼度とを出力してもよい。
【００５０】
例えば、前述したようなマップ形式で、距離（距離マップ）と信頼度（信頼度マップ）とを別々に出力してもよい。さらに、ＲＧＢの３画像データの後にこの２マップデータのいずれかまたは両方をつなげて出力データとしてもよい。あるいは、ＹＵＶ（輝度信号，色差信号［Ｃｂ］，色差信号［Ｃｒ］）の３データの後にこの２マップデータのいずれかまたは両方をつなげてもよい。
【００５１】
また、例えば、前述したようなリスト形式で、距離（距離リスト）と信頼度（信頼度リスト）とを別々に出力してもよい。さらに、ＲＧＢの３画像データの後にこの２リストデータのいずれかまたは両方をつなげて出力データとしてもよい。あるいは、ＹＵＶの３データの後にこの２リストデータのいずれかまたは両方をつなげてもよい。
【００５２】
また、信頼度を出力する形態は、例えば、距離画像上の位置を指定されると信頼度をポップアップで示す表示であってもよい。距離画像上の指定された位置における距離がポップアップで表示されてもよい
あるいは、カラー画像上に距離情報と信頼度をポップアップで表示してもよい。
【００５３】
距離は、画像中のすべての画素に対して算出しなくてもよい。例えば、距離を検出する対象となる被写体が予め特定されていてもよい。特定は、例えば画像認識や、ユーザの入力による指定により行うことができる。一方、信頼度も、距離が求められている画素すべてに対して算出しなくてもよい。例えば特定の被写体や距離が近い被写体については信頼度を算出し、遠い被写体については信頼度を算出しなくてもよい。
【００５４】
また、前述したようなマップ形式で、図１５に示すように距離と信頼度とを同時に出力する場合または距離マップと信頼度マップとで別々に出力する場合、あるいは、前述したようなリスト形式で、図１６に示すように距離と信頼度とを同時に出力する場合または距離リストと信頼度リストとで別々に出力する場合、のいずれにおいても、その出力データに、算出したすべての距離を載せなくてもよい。例えば、信頼度が所定値より低い、あるいは相対的に信頼度が低い場合にはその距離を出力データに載せなくてもよい。
【００５５】
また、このようにマップ、リストその他の様々な形式で出力され得る出力データは、例えば、ディスプレイ７０に出力されてもよい。
【００５６】
図１７は、実施形態における画像処理の流れの一例を示すフローチャートである。
【００５７】
画像取得部４１１は、イメージセンサ３０により生成される画像であって、フィルタ１０のフィルタ領域を透過した光のうち、第１のフィルタ領域および第２のフィルタ領域のいずれによっても減衰せずに透過する光により結像される基準画像を取得する（ステップＡ１）。また、画像取得部４１１は、同じくイメージセンサ３０により生成される画像であって、フィルタ１０のフィルタ領域を透過した光のうち、たとえば第１のフィルタ領域により減衰して透過する光により結像される対象画像を取得する（ステップＡ２）。ここでは、対象画像として、第１のフィルタ領域により減衰して透過する光により結像される画像を取得することを想定するが、画像取得部４１１は、第２のフィルタ領域により減衰して透過する光により結像される画像を取得してもよいし、第１のフィルタ領域により減衰して透過する光により結像される画像と、第２のフィルタ領域により減衰して透過する光により結像される画像との２つを取得してもよい。
【００５８】
距離算出部４１２は、ぼけ補正フィルタを用いて、対象画像のぼけ形状を補正した補正画像を生成し（ステップＡ３）、この補正画像のぼけと基準画像のぼけとの相関値を算出する（ステップＡ４）。補正画像の生成および相関値の算出は、距離毎のぼけ補正フィルタの数分行われる。距離算出部４１２は、算出した相関値に基づき、被写体までの距離を算出する（ステップＡ５）。より詳細には、距離毎のぼけ補正フィルタの中から、生成された補正画像と基準画像との相関が最も高いぼけ補正フィルタを探索することにより、被写体までの距離を取得する。あるいは、他の補正フィルタよりも基準画像等との相関が高い補正画像を生成するボケ補正フィルタが探索されてもよい。
【００５９】
また、信頼度算出部４１３は、被写体までの距離を算出する過程で算出される距離毎のぼけ補正フィルタ処理適用時の相関値に基づき、相関関数の曲率を算出する（ステップＡ６）。信頼度算出部４１３は、算出した曲率に基づき、距離算出部４１２により算出された距離の信頼度を算出する（ステップＡ７）。
【００６０】
そして、出力部４１４は、距離算出部４１２により算出された距離と、信頼度算出部４１３により算出された距離の信頼度とを対応づけて出力する（ステップＡ８）。
【００６１】
以上のように、本実施形態によれば、画像から得た被写体までの距離の信頼度を、実際の信頼性を反映した値として算出することができる。
【００６２】
ところで、前述の説明では、距離毎のぼけ補正フィルタにより生成される補正画像と基準画像との相関関数の曲率を算出し、この曲率を距離の信頼度へと変換した。補正画像と基準画像との相関値を、その補正画像の生成に用いられたぼけ補正フィルタに対応づけられる距離が正しい値である確率（０〜１）として捉えて、算出された相関値そのものを距離の信頼度としてもよい。より詳細には、複数のぼけ補正フィルタのうち、補正画像と基準画像との相関が最も高いぼけ補正フィルタの相関値を距離の信頼度としてもよい。
【００６３】
また、たとえば曲率を距離の信頼度へと変換する際、最も高い相関値を重みとして用いて、その相関値が高いほど、距離の信頼度が高くなるようにしてもよい。あるいは、被写体像のエッジ方向、より詳細には、処理対象となっている画素のエッジ勾配方向を重みとして用いて、その方向がフィルタ１０の第１のフィルタ領域と第２のフィルタ領域との境界線の方向と一致しているほど、距離の信頼度が高くなるようにしてもよい。相関値そのものを距離の信頼度とする場合においても、被写体像のエッジ方向を重みとして用いるようにしてもよい。あるいは、被写体像のエッジ強度、より詳細には、処理対象となっている画素のエッジ勾配の強度を重みとして用いて、その強度が強いほど、距離の信頼度が高くなるようにしてもよい。
【００６４】
なお、以上では、フィルタ１０で画像のぼけ関数を変更することにより、被写体までの距離を画像から算出する例を説明したが、たとえば２ＰＤセンサなどと称される、受光される入射光を画素毎に左右２分割するイメージセンサを利用すれば、フィルタ１０によらずに、少なくとも一方のぼけ関数を変更させた２つの画像を取得でき、かつ、これら２つの画像のぼけの形状の相関から距離を算出できる。この場合においても、前述した距離の信頼度を算出する手法は適用可能である。
【００６５】
次に、以上のように構成され、被写体までの距離および当該距離の信頼度を出力する撮像装置１００を適用するシステムの例についていくつか説明する。
【００６６】
＜自動制御システム：ロボット＞
図１８は、実施形態に係るロボット２００の機能構成例を示すブロック図である。ここでは、ロボット２００が、たとえば複数種の製品を生産し得る生産ラインなどに設置される産業用ロボットであることを想定する。ロボット２００は、設置型に限らず、たとえばＡＧＶ（Automatic Guided Vehicle）など自律的に移動するものであってもよい。また、ロボット２００は、たとえば、床を掃除するための掃除ロボットや、来場者に各種案内を行うコミュニケーションロボットなどの非産業用としても実現され得る。
【００６７】
図１８に示すように、ロボット２００は、撮像装置１００と、制御部２０１と、駆動機構２０２と、回転機構２０３とを有する。また、撮像装置１００は、回転機構２０３に取り付けられている。
【００６８】
制御部２０１は、第１に、撮像装置１００から出力される、作業の対象物である被写体までの距離に基づき、駆動機構２０２を制御する。駆動機構２０２は、たとえば、対象物に部材を取り付けたり、対象物を摘み上げて所定の場所へ搬送したりするためのロボットアームである。また、制御部２０１は、第２に、撮像装置１００から距離とともに出力される当該距離の信頼度に基づき、回転機構２０３を制御する。図１９は、制御部２０１による回転機構２０３の制御を説明するための図である。
【００６９】
概して、被写体像のエッジ方向と、フィルタ１０の第１のフィルタ領域と第２のフィルタ領域との境界線の方向とが一致していると、距離の信頼度は高くなる。一方、これらの方向が直交する場合、距離の信頼度は低くなる。そこで、制御部２０１は、撮像装置１００から出力される距離の信頼度が高くなるように、回転機構２０３を制御する。より詳細には、被写体の形状や模様、置かれた向きなどにより、たとえば（Ａ）に示すように、被写体像のエッジが垂直方向に多く現れる場合、フィルタ１０の第１のフィルタ領域と第２のフィルタ領域との境界線が垂直方向となるように回転機構２０３を制御し、また、たとえば（Ｂ）に示すように、被写体像のエッジが水平方向に多く現れる場合、フィルタ１０の第１のフィルタ領域と第２のフィルタ領域との境界線が水平方向となるように回転機構２０３を制御する。
【００７０】
たとえば、制御部２０１は、まず、プレ撮像を撮像装置１００に行わせ、このプレ撮像時に撮像装置１００から出力される距離の信頼度に基づき、回転機構２０３により撮像装置１００を回転させるべき回転角を導き出す。プレ撮像では、撮像装置１００は、画像上の全画素分、距離と当該距離の信頼度とを算出するのではなく、ある程度の数のサンプリングした画素分、距離と当該距離の信頼度とを算出するようにしてもよい。また、制御部２０１は、たとえば、これらの平均値をプレ撮像における距離の信頼度とする。回転角の導出方法としては、たとえば、プレ撮像における距離の信頼度が閾値未満の場合、９０度とする等、様々な方法を適用可能である。回転機構２０３により撮像装置１００を回転させた後、制御部２０１は、本撮像を撮像装置１００に行わせる。
【００７１】
あるいは、制御部２０１は、回転機構２０３により撮像装置１００を回転させながら撮像装置１００に連続的に撮像を行わせて、距離の信頼度が最も高い画像を採用するようにしてもよい。
【００７２】
なお、図１９では、回転機構２０３が駆動機構２０２上に設けられる例を示したが、撮像装置１００を駆動機構２０２上に設けることは必須ではなく、したがって、回転機構２０３は、駆動機構２０２とは別途独立して設けられるものであってもよい。
【００７３】
距離の信頼度が高くなるように撮像装置１００を回転させるという手法は、ロボット２００以外の移動体にも適用可能である。移動体が、たとえばドローンなどの回転自在な飛翔体であるような場合、回転機構によらず、移動体３００全体を回転させるべく制御部３０１が駆動機構３０２を制御してもよい。
【００７４】
撮像装置１００は、イメージセンサ３０に対してフィルタ１０を回転させる回転機構を備えてもよい。回転機構は、例えば光学中心を中心にしてフィルタを一平面内で回転させる。フィルタ１０の回転により、信頼度の高い距離を取得することができる。
【００７５】
＜自動制御システム：移動体＞
図２０は、実施形態に係る移動体３００の機能構成例を示すブロック図である。ここでは、移動体３００が、たとえば自動車であることを想定する。移動体３００は、自動車を含む車両に限らず、移動用の駆動機構を有するものであるならば、ドローンや飛行機などの飛翔体、船舶、ＡＧＶや掃除ロボットなどのロボット等、様々なものとして実現され得る。さらに、移動体３００は自動ドアであってもよい。
【００７６】
図２０に示すように、移動体３００は、制御システムを有する。制御システムは、２つの撮像装置１００（１００−１，１００−２）と、制御部３０１と、駆動機構３０２とを有する。ここでは、２つの撮像装置１００を有することを想定しているが、３つ以上の撮像装置１００を有してもよい。制御システムは、移動体３００に搭載されてもよいし、移動体を遠隔で制御してもよい。制御部３０１は、駆動機構３０２を直接制御してもよいし、無線により間接的に制御してもよい。図２１に示すように、２つの撮像装置１００は、たとえば、移動体３００の進行方向の被写体を撮像するように設置される。なお、移動体３００の進行方向の被写体を撮像するように設置される形態としては、前方を撮像するいわゆるフロントカメラとして設置され得るほか、バック時に後方を撮像するいわゆるリアカメラとして設置され得る。もちろん、これら両方が設置されてもよい。また、撮像装置１００は、いわゆるドライブレコーダとしての機能を兼ねて設置されるものであってもよい。すなわち、撮像装置１００は、録画機器であってもよい。
【００７７】
制御部２０１は、２つの撮像装置１００それぞれから出力される距離と信頼度に基づいて、駆動機構３０２を制御する。例えば、２つの撮像装置１００それぞれから得られた距離のうち信頼度が高い方の距離に基づいて、制御部２０１は駆動機構３０２を制御する。または、２つの撮像装置１００それぞれから得られた距離を、それぞれの信頼度で重みづけして得た距離に基づいて、制御部２０１は駆動機構３０２を制御する。制御は、たとえば、進行方向にある被写体へ所定の距離まで近づいたら移動する移動体３００を停止させたり減速させたり加速させたり、停止している移動体３００を移動開始させたりすることである。あるいは、制御部２０１は、被写体が所定距離以上離れたら、移動体３００を停止、減速、加速、移動開始させるように駆動機構３０２を制御してもよい。あるいは、制御部２０１は、被写体へ所定の距離まで近づいたら通常駆動モードから衝突回避モードへ切り替えたり、被写体が所定の距離以上離れたら衝突回避モードから通常駆動モードに切り替えたりするように駆動機構３０２を制御してもよい。所定の距離は、例えば信頼度に応じて変更されてもよい。
【００７８】
信頼度は、画像単位で求められてもよいし、画像上の領域単位で求められてもよい。前者の場合、たとえば距離の信頼度の平均値が高い方の画像を採用する。後者の場合、たとえば２つの画像間の対応する画素毎に距離の信頼値を比較して、各々値が高い方を採用する。これにより、被写体までの距離を、より正確に取得することができる。駆動機構は、例えばタイヤやローラやプロペラを駆動するためのモータやエンジンである。
【００７９】
続いて、図２２を参照して、移動体３００における距離の信頼度の一活用例について説明する。
【００８０】
ここでは、制御部２０１が、駆動機構３０２の制御の１つとして、進行方向の被写体へ所定の距離まで近づいたら移動体３００を停止させるべく駆動機構３０２を制御する場合を想定する。制御部２０１は、被写体までの距離と当該距離の信頼度とを撮像装置１００から取得すると、この距離および当該距離の信頼度に基づき、誤差範囲の一端である距離の下方限界値を算出する。そして、制御部２０１は、撮像装置１００から出力された距離ではなく、この下方限界値を用いて、駆動機構３０２を制御する。下方限界値は、距離の信頼度が高い程、距離との差分が小さい値として算出され、距離の信頼度が低い程、距離との差分が大きい値として算出される。
【００８１】
たとえば、図２２に示すように、被写体までの実際の距離よりも長い距離が撮像装置１００により算出されて出力された場合であっても、距離の信頼度から算出される距離の下方限界値を用いることで、移動体３００の停止、減速、衝突回避、方向転換、エアバッグ等の安全装置の作動、などが後手に回ってしまうという事態を防止することができる。
【００８２】
なお、距離と距離の信頼度とから算出される距離の下方限界値を用いることは、撮像装置１００が１つの場合に行ってもよい。また、移動体３００に限らず、たとえば図１９および図２０を参照して説明したロボット２００などにおいても有効である。
【００８３】
＜監視システム＞
図２３は、実施形態に係る監視システム４００の機能構成例を示すブロック図である。ここでは、監視システム４００が、たとえば店舗内などにおける人の流れを時間帯毎に把握するためのシステムであることを想定する。
【００８４】
図２３に示すように、監視システム４００は、撮像装置１００と、制御部４０１と、ユーザインタフェース部４０２とを有する。撮像装置１００と制御部４０１とは、有線または無線のネットワーク経由で接続してもよい。
【００８５】
制御部４０１は、撮像装置１００に連続的に撮像を行わせ、第１に、撮像装置１００により撮像される画像を、ユーザインタフェース部４０２を介して表示する。ユーザインタフェース部４０２は、たとえばディスプレイ装置などへの表示処理と、たとえばキーボードやポインティングデバイスからの入力処理とを実行する。ディスプレイ装置とポインティングデバイスとは、たとえばタッチスクリーンディスプレイなどの一体型のデバイスであってもよい。
【００８６】
また、制御部４０１は、第２に、撮像装置１００から順次出力されてくる、被写体までの距離と当該距離の信頼度とに基づき、たとえば人が通路のどの辺りをどの方向に歩いているか等の人の流れを解析し、その解析結果をたとえばＨＤＤ（Hard Disk Drive）などの記憶装置に記録する。なお、この解析は、必ずしもリアルタイムに実行されるものでなくともよく、記憶装置に蓄積された被写体までの距離と当該距離の信頼度とを用いるバッチ処理として実行されてもよい。
【００８７】
いま、たとえば図２４に示すように、２つの立体物が撮像範囲に存在する状態下で撮像装置１００による撮像が行われたものとする。また、たとえば背景や照明などの様々な要因により、実際には存在しない立体物らしきものが写った画像が撮像され易い状況下にあるものとする。この場合、たとえば画像中の距離の分布に基づき、立体物を認識するものとすると、立体物らしきものが立体物として誤認識され（Ａ）、たとえば追跡対象などとなってしまうおそれがある。
【００８８】
これに対して、たとえば、画像中の距離の分布を算出する際、信頼度の低い距離を除外することで、立体物らしきものを立体物として誤認識してしまうという事態を防止することができる（Ｂ）。
【００８９】
続いて、図２５を参照して、以上のようにして認識される画像中の被写体像の追跡における距離の一活用例について説明する。
【００９０】
いま、ある人が、撮像装置１００から見て左から右へ移動し、別の人が、逆に、右から左へと移動しようとしている場合を想定する（Ａ）。また、この２人は身長が異なり、身長の低い方の人が、身長の高い方の人よりも、撮像装置１００から見て手前に位置しており、その結果、画像上の被写体像のサイズが略一致した状態にあるものと想定する。
【００９１】
この２人がそのまま移動し続けると、ある時点で画像上の被写体像が重なり（Ｂ）、その後、左右に離れていく（Ｃ）。このような場合、距離を用いず、たとえば画像認識のみで被写体像を追跡すると、被写体像の交差時、追跡対象を取り違えて、２人がそれぞれＵターンしたように誤追跡してしまうおそれがある。
【００９２】
これに対して、距離を用いることで、被写体像の交差時に追跡対象の取り違えを起こしてしまうという事態を防止することができる。
【００９３】
また、以上のようにして認識される画像中の被写体像の追跡における距離の他の活用例としては、たとえば、被写体がドアに向かって移動しており、かつ、所定の距離まで近づいたことを検知した場合、ドアを自動的に開け、一方、被写体がドアから遠ざかるように移動しており、かつ、所定の距離以上遠ざかったことを検知した場合、ドアを自動的に占める自動ドアシステムなどを挙げることができる。
【００９４】
図２６は、信頼度を活用した距離の一提示例を示す図である。
【００９５】
前述したように、制御部４０１は、撮像装置１００により撮像される画像を、ユーザインタフェース部４０２を介して表示する。また、制御部４０１は、被写体までの距離と当該距離の信頼度とを撮像装置１００から取得する。さらに、制御部４０１は、たとえばポインティングデバイスにより画像上の任意の位置が指定された場合、その座標を含むイベント情報をユーザインタフェース部４０２から受け取る。
【００９６】
このイベント情報を受け取ると、制御部４０１は、その座標に対応する画素について撮像装置１００において算出された距離と当該距離の信頼度とに基づき、誤差範囲の両端である距離の下方限界値および上方限界値を算出する。そして、制御部２０１は、距離だけではなく、誤差を考慮した距離の範囲を、ユーザインタフェース部４０２を介して、たとえばポインティングデバイスのポインタ近傍にポップアップ表示する。
【００９７】
つまり、被写体が写っている画像上の位置を指し示すと、その被写体までの距離を、誤差範囲を認識可能に提示させることのできるＧＵＩ（graphical user interface）を提供することができる。
【００９８】
また、ユーザインタフェース部４０２は、左右対称のぼけが現れるＧ画像、左右非対称のぼけが現れるＢ画像とＲ画像、およびカラー画像（ＲＧＢ画像）の少なくとも一つと、距離画像とを同時に表示し、Ｇ画像上、Ｂ画像上もしくはＲ画像上またはカラー画像上の位置が指定されると、距離画像上に距離と信頼度とを表示するというＧＵＩを提供してもよい。
【００９９】
また、このようなＧＵＩは、タブレットコンピュータやスマートフォンなどのスタンドアロン型の電子機器で撮像装置を構成する場合においても有用である。たとえば、電子機器で画像を撮像し、画像が表示されるタッチスクリーンディスプレイ上でタッチ操作を行うことで、被写体までの距離を表示するといった測距ツールとして当該ＧＵＩを提供してもよい。
【０１００】
また、被写体までの距離を画素単位で取得できれば、これらの距離を用いて、被写体の各部分の長さを算出することも可能である。したがって、たとえば販売店に展示されている家具などを撮像することにより、その家具の寸法を測ることのできる採寸ツールを、スタンドアロン型の電子機器において実現することができる。前述したように、距離の信頼度は、被写体像のエッジ方向、より詳細には、処理対象となっている画素のエッジ勾配方向と、フィルタ１０の第１のフィルタ領域と第２のフィルタ領域との境界線の方向とに依存する。そこで、距離の信頼度が閾値未満であった場合、たとえば図２７に示すように、より正確な距離が算出されるように、回転角を示し、電子機器を回転させて画像を撮像することを促すメッセージをディスプレイ等に表示するといったＧＵＩを提供してもよい。あるいは、ディスプレイは、現在の電子機器の向きを針や矢印などの棒状の図形で表し、正確な距離を算出しやすい向きを針谷矢印などの棒上の図形で表したり、回転角や回転の向きを矢印で表したりしてもよい。
【０１０１】
以上説明したように、本実施形態によれば、相関関数の曲率を用いて、画像から得た被写体までの距離の信頼度に関する出力や制御を行うことができる。
【０１０２】
以下、他の実施の形態について図面を参照して説明する。なお、開示はあくまで一例にすぎず、以下の実施形態に記載した内容により発明が限定されるものではない。当業者が容易に想到し得る変形は、当然に開示の範囲に含まれる。説明をより明確にするため、図面において、各部分のサイズ、形状等を実際の実施態様に対して変更して模式的に表す場合もある。複数の図面において、対応する要素には同じ参照数字を付して、詳細な説明を省略する場合もある。
【０１０３】
［第２実施形態］  
上述したように、カラー開口を備える単眼カメラである撮像装置により撮影された画像から被写体までの距離が求められる。カラー開口は、少なくとも２つのカラーフィルタ領域を備えるカラーフィルタを撮像装置の開口部に配置することによって構成される。カラー開口を透過する光線に基づいてイメージセンサが画像を生成する。図２に示す例では、第１、第２フィルタ領域は円形のフィルタが光学中心を通る鉛直方向の線分により左右（水平方向）に分割されてなる半円の形状を有している。例えば、第１フィルタ領域はイエロー（Ｙ）のフィルタ領域であり、第２フィルタ領域はシアン（Ｃ）のフィルタ領域である。緑（Ｇ）画像の波長帯域の光は第１、第２フィルタ領域を透過するが、赤（Ｒ）画像の波長帯域の光は第１フィルタ領域のみを透過し、青（Ｂ）画像の波長帯域の光は第２フィルタ領域のみを透過する。そのため、Ｇ画像のぼけの形状は被写体までの距離に応じて変化しないが、Ｒ画像およびＢ画像のぼけの形状は被写体までの距離に応じて変化する。具体的には被写体が合焦距離よりも手前又は奥にあるかに応じてＲ画像とＢ画像のぼけは右又は左に偏る。
【０１０４】
カラー開口によって変化したＲ、Ｇ、Ｂ画像のぼけの形状差は被写体までの距離と一対一で対応している。そのため、カラー開口によって変化したＲ画像とＢ画像のぼけの形状をＧ画像のぼけの形状に補正するぼけ補正フィルタを用意する。ぼけ補正フィルタは、被写体までの距離と対応する。そして、ぼけ補正フィルタをＲ画像及び／又はＢ画像に演算し、補正後の画像とＧ画像との相関に基づいて距離を決定する。
【０１０５】
図８に示すように、ぼけ補正フィルタはフィルタ領域を第１、第２フィルタ領域に分割する鉛直方向（分割方向）に直交する水平方向付近に分布する。このような補正フィルタによりＲ画像及び／又はＢ画像を補正することは、Ｒ画像及び／又はＢ画像と補正フィルタを水平方向に畳み込むことである。そのため、カラー開口のフィルタ領域分割方向と直交する水平方向のエッジ（濃度勾配方向は鉛直方向）ではどの想定距離でも畳み込み結果は同じとなり、距離が決定できない可能性がある。このような可能性を低くするために、第２実施形態の撮像装置は、カラー開口のフィルタ領域分割方向が被写体に含まれるエッジの方向と直交しないように、言い換えるとフィルタ領域分割方向が被写体の濃度勾配方向と一致しないように、設置することができるように構成されている。
【０１０６】
［撮像装置の設置例］  
図２８は第２実施形態に係る撮像装置の設置例を示す。第２実施形態の撮像装置は監視システム等に応用することができる。図２８はカラー開口５０４を備える撮像装置５０２をチルト／パン／ロール可能な取付具を介して部屋の天井に取り付ける例を示す。チルト／パンは実施形態には直接関係ないので、それらの機能は省略可能である。さらに、後述するように、ロール機能も省略可能である。図２に示したように、Ｘ軸、Ｙ軸はカラー開口の平面内の軸である。Ｚ軸は撮像装置５０２の光軸方向の軸である。
【０１０７】
撮像装置５０２の後端の中心に円柱状のアーム５０８の先端が固定されている。アーム５０８の軸と撮像装置５０２の光軸とは一致する。アーム５０８の後端は、アーム５０８と同心でアーム５０８より大径のアーム５１２の先端に挿入される。このため、アーム５０８（及び撮像装置５０２）はアーム５１２に挿入された状態で光軸（ロール軸とも称する）を中心に時計方向、反時計方向にロール回転可能である。時計方向、反時計方向は視線の方向で変わるが、この明細書では、撮像装置５０２から被写体を見た状態で回転方向を定義する。すなわち、Ｘ軸に沿った被写体がＹ軸に沿うような回転を時計方向の回転と称する。時計方向、反時計方向それぞれのロール角度（鉛直方向を基準とする角度）は９０度以上である必要は無く、４５度程度でもよい。アーム５０８の回転はビス等で抑制され、ロール角度が固定される。ロール角度を調整することにより、カラー開口のフィルタ領域分割方向が被写体に含まれるエッジの方向と直交しないように、言い換えるとフィルタ領域分割方向が被写体の濃度勾配方向と一致しないように、設置することができる。
【０１０８】
アーム５１２の後端は垂直方向のアーム５１４の下端に軸支される。この軸はチルト軸とも称する。このため、アーム５１２（及びアーム５０８、撮像装置５０２）は上下方向にチルト回転可能である。アーム５１２の回転はビス等で抑制され、チルト角度が固定される。
【０１０９】
アーム５１４の上端はアーム５１４と同心でアーム５１４より大径のアーム５１６の下端に挿入される。このため、アーム５１４（及びアーム５１２、５０８、撮像装置５０２）はアーム５１６に挿入された状態で水平方向にパン回転可能である。アーム５１４の回転はビス等で抑制され、パン角度が固定される。アーム５１６の上端は取付板５２０と一体化されている。
【０１１０】
チルト角度、パン角度は撮像装置の設置前に特定の角度に固定しておいてもよいし、設置後に所望の視野が撮影されるようにアーム５１２、５１４を可動して調整してもよい。
【０１１１】
図２８は天井に取り付ける取付具の例を示すが、アーム５１６を水平方向に曲げる、あるいは水平アームをアーム５１６にさらに接続すれば、部屋の壁あるいは道路脇の電信柱、街路灯等に取り付けることも可能である。
【０１１２】
［撮像装置の回転］  
図２９は第２実施形態に係る撮像装置の回転の一例を示す。ここでは、カラー開口のフィルタ分割方向が鉛直方向であり、距離が算出し難い可能性のあるエッジは水平方向のエッジであるとする。そのため、鉛直方向を表す直線を仮定する。撮像装置５０２のロール角度が０度、すなわち撮像装置５０２の上下方向が鉛直方向と一致する場合、図２９（ａ）に示すように、鉛直方向を表す直線をフィルタ面に射影した直線と、フィルタの分割方向を表す直線は平行になる。この状態では、フィルタの分割方向を表す直線と直交する水平方向のエッジの距離は算出し難い可能性がある。図２９（ｂ）に示すように、撮像装置５０２（アーム５０８）を光軸を中心としてロール回転させ、撮像装置５０２の上下方向が鉛直方向と一致しないようにすれば、鉛直方向を表す直線をフィルタ面に射影した直線と、フィルタの分割方向を表す直線は非平行とすることができる。これにより、被写体に含まれる水平方向のエッジとフィルタ分割方向が直交しなくなり、水平方向のエッジの距離が算出できるようになる。
【０１１３】
この場合のロール角度は０度より大きければよい。ロール角度が９０度となると、垂直方向のエッジの距離が算出し難い可能性がある。ロール角度は４５度程度でもよい。算出し難いエッジは避けられないので、どのエッジを算出させ、どのエッジを算出し難いエッジとするかはユーザの思惑次第である。
【０１１４】
設置後、被写体を撮影して距離を算出し、その結果を見ながらロール角度を調整しつつ適切な角度を試行錯誤的に求めることもできる。設置後、図１５、図１６に示すような信頼度のような指標に基づいてロール角度を決定してもよい。あるいは、被写体に含まれる種々のエッジの方向が予め既知の場合は、全てのエッジの方向がフィルタ分割方向と直交しないような適切なロール角度を予め求めておき、その角度に撮像装置を固定しておいてから設置してもよい。さらに、被写体に含まれる既知のエッジの方向から適切なロール角度が予め求められた場合、撮像装置が光軸を中心に回転された状態で天井等に取り付けることができれば、図２８に示すようなロール回転機構は必須ではない。ただし、ロール回転機構が備わっていれば、被写体に含まれるエッジの方向が変化した場合、容易に対処できる。ロール回転機構が備わっていなければ、被写体に含まれるエッジの方向が変化した場合、再度設置すればよい。
【０１１５】
ロール回転機構は図２８の例に限られない。図２８ではロール回転軸は撮像装置５０２の光軸と一致するが、光軸以外の軸を中心として撮像装置を回転するように撮像装置を設置してもよい。例えば、図２８において、アーム５０８の先端に撮像装置５０２を取り付けるのではなく、アーム５０８の表面に撮像装置５０２を載置するホルダを取り付けてもよい。この場合、アーム５０８を回転すると、撮像画像は画面外にあるアーム５０８の軸を中心として傾く。図２８の場合は、アーム５０８を回転すると、撮像画像は画面内にある光軸を中心として傾く。
【０１１６】
［システムブロック図］  
図３０は第２実施形態の撮像装置５０２の電気的な構成の一例を示すブロック図である。第２実施形態は、撮像部（カメラと称することもある）と処理装置（処理部）を含むシステムである。撮像部５０５は、例えばイメージセンサ５４２と撮影レンズ５３８とカラーフィルタ５３６とを含む。被写体からの光（図示破線矢印）が複数枚（便宜上図示は１枚）のレンズからなる撮影レンズ５３８を介してイメージセンサ５４２に入射される。イメージセンサ５４２は、入射光を光電変換し、画像信号（動画でも静止画でもよい）を出力するものであり、ＣＣＤ（Charge Coupled Device）型のイメージセンサ、ＣＭＯＳ（Complementary Metal Oxide Semiconductor）型のイメージセンサ等、どのようなセンサを用いてもよい。撮影レンズ５３８は例えば複数のレンズを備え、いずれかのレンズは焦点を調節するため光軸に沿って移動可能であってもよい。撮影レンズ５３８の開口（主点、あるいはその近傍）にカラーフィルタ５３６が形成される。カラーフィルタ５３６が追加された撮影レンズ５３８はカラー開口付レンズ５０４とも称する。撮影レンズ５３８の開口部の全面にカラーフィルタを配置する例を示したが、開口部の全面にカラーフィルタを配置しなくてもよい。例えば、開口部は、カラーフィルタ領域とカラーフィルタを設けない領域とにより構成されてもよい。
【０１１７】
処理装置は、ＣＰＵ（Central Processing Unit）５４４、フラッシュメモリまたはハードディスクドライブ等の不揮発性記憶部５４６、ＲＡＭ（Random Access Memory）等の揮発性メモリ５４８を備える。処理装置は、さらに通信インターフェース５５０、ディスプレイ５５６、メモリカードスロット５５２を備えてもよい。イメージセンサ５４２、ＣＰＵ５４４、不揮発性記憶部５４６、揮発性メモリ５４８、通信インターフェース５５０、ディスプレイ５５６、メモリカードスロット５５２等は、バス３４により互いに接続される。
【０１１８】
撮像部と処理装置は別体でもよいし、一体でもよい。一体の場合、両者は、スマートフォン、タブレット等のカメラ付の電子機器として実現されてもよい。別体の場合、一眼レフカメラ等として実現される撮像部から出力される信号が、パソコン等として実現される処理装置に入力されてもよい。撮像部と処理装置は、例えば無線または有線で通信可能である。
【０１１９】
ＣＰＵ５４４は、システム全体の動作を統括的に制御する。例えば、ＣＰＵ５４４は、不揮発性記憶部５４６に記憶された撮影制御プログラム、距離算出プログラム、表示制御プログラム等を実行し、撮影制御、距離算出、表示制御等のための機能ブロックを実現する。これにより、ＣＰＵ５４４は、撮像装置のイメージセンサ５４２に限らず、ディスプレイ５５６等も制御する。なお、撮影制御、距離算出、表示制御等のための機能ブロックをＣＰＵ５４４により実現するのではなく、専用のハードウェアにより実現してもよい。距離算出プログラムは、一例として上述した原理に基づき撮影画像の画素毎に当該画素に写っている被写体までの距離を求める。
【０１２０】
不揮発性記憶部５４６はハードディスクドライブ、フラッシュメモリ等から構成される。ディスプレイ５５６は、液晶ディスプレイやタッチパネル等から構成される。ディスプレイ５５６は、例えば撮影画像をカラー表示するとともに、画素毎に求められた距離情報を特定の形態で、例えば、撮影画像が距離に応じて色が付けられた距離画像（距離マップとも称する）として表示する。なお、距離情報の表示は、距離画像としてではなく、距離と位置の対応関係表等の表形式でもよい。
【０１２１】
例えばＳＤＲＡＭ（Synchronous Dynamic Random Access Memory）等からなる揮発性メモリ５４８は、システム全体の制御に関するプログラムや処理に使用される各種データ等を記憶する。
【０１２２】
通信Ｉ／Ｆ５５０は、外部機器との通信や、キーボード、操作ボタン等を用いるユーザによる各種指示の入力を制御するインターフェースである。撮影画像や距離情報はディスプレイ５５６で表示されるだけではなく、通信Ｉ／Ｆ５５０を介して外部へ送信され、距離情報に基づいて動作が制御される外部機器で利用されてもよい。外部機器の一例は、自動車やドローン等の走行支援システムや、不審者の侵入を監視する監視システム等がある。画像信号から距離を求める処理の一部を処理装置が行い、残りはホスト等の外部機器が行うように、複数の機器で分担して距離情報を求めてもよい。
【０１２３】
メモリカードスロット５５２には、ＳＤ（Secure Digital）メモリカードやＳＤＨＣ（SD High-Capacity）メモリカード等の可搬型記憶媒体が挿入可能である。撮影画像や距離情報が可搬記憶媒体に記憶され、可搬記憶媒体の情報が他の機器で読み取られることにより、撮影画像や距離情報が他の機器で利用されるようにしてもよい。あるいは、他の撮像装置で撮影された画像信号がメモリカードスロット５５２内の可搬型記憶媒体を介して本システムの処理装置に入力され、その画像信号に基づいて距離が算出されてもよい。さらに、他の撮像装置で撮影された画像信号が通信Ｉ／Ｆ５５０を介して本システムの処理装置に入力されてもよい。
【０１２４】
図３１はＣＰＵ５４４による距離算出、表示制御のための機能ブロック図である。ＣＰＵ５４４は、例えば撮影画像取得部５６２と、距離画像取得部５６４と、傾き補正部５６６、５６８と、回転角度・回転中心取得部５７０と、を含む。イメージセンサ５４２の出力が撮影画像取得部５６２に供給され、被写体の撮影画像が得られる。撮影画像は傾き補正部５６６と距離画像取得部５６４に供給される。距離画像取得部５６４は距離算出プログラムに基づき撮影画像の画素毎に当該画素に写っている被写体までの距離を求め、距離画像を求める。距離画像は、距離もしくは距離に相当するぼけの大きさを表す画像である。距離画像は傾き補正部５６８に供給される。傾き補正部５６６、５６８は回転角度・回転中心取得部５７０から供給される回転中心を中心として撮影画像と距離画像を回転角度・回転中心取得部５７０から供給される回転角度だけ回転する。回転角度・回転中心取得部５７０は撮像部５０５（撮像装置５０２）の回転中心と回転角度（例えば時計方向はプラス、反時計報告はマイナス）を求め、傾き補正部５６６、５６８は回転角度が表す方向の反対方向に画像を回転する。回転角度・回転中心取得部５７０は、連続する複数枚の撮影画像の中の特徴点を追跡することにより回転中心と回転角度を取得してもよいし、ユーザが予め測定した値を回転角度・回転中心取得部５７０に入力することにより回転中心と回転角度を取得してもよい。傾き補正部５６６、５６８で回転された画像がディスプレイ５５６で表示される。
【０１２５】
［画像の傾き補正］  
図３２を参照して傾き補正の一例を説明する。撮像部５０５のロール角を０度とした状態で撮像装置５０２を天井等に設置した後、算出された距離に基づいて距離画像が表示される。例えばユーザは距離画像を観察し水平方向のエッジの距離が正しくないと判断すると、光軸を中心として撮像部５０５は回転する。図２８のように撮像部５０５が撮像装置５０２と一体である場合は、撮像装置５０２を回転することにより撮像部５０５を回転するが、撮像部５０５のみ回転可能な場合は、撮像装置５０２は固定し撮像部５０５のみを回転してもよい。撮像部５０５が光軸を中心に時計方向に回転すると、画像取得部５６２が取得する撮影画像は、図３２（ａ）に示すように、水平線が時計方向に回転した撮影画像となる。すなわち、鉛直方向がフィルタ面に投影された直線は鉛直方向から時計方向に傾く。このままでもよいが、画像として観察するには違和感がある。傾き補正部５６６は撮影画像を反時計方向に回転し、図３２（ｂ）に示すように、表示枠やディスプレイ５６の横方向が画像の水平方向に一致する補正画像を生成する。距離画像も同様に傾き補正部５６８により傾きが補正される。傾き補正は必ず行う必要はない。画像を表示する場合は傾き補正を行う方が好ましい場合もあるが、算出した距離を利用するだけで距離画像を表示しない場合は、傾き補正は不要の場合が多い。
【０１２６】
［カラーフィルタの例］  
図３３は第２実施形態に係るカラーフィルタ５３６の一例を示す。カラーフィルタ５３６の中心にあるフィルタ領域５８０は、たとえば、２色のカラーフィルタ領域である第１フィルタ領域５８０Ａと第２フィルタ領域５８０Ｂとで構成される。フィルタ領域５８０の中心は、撮像部５０５の光学中心５８２と一致している。第１、第２フィルタ領域５８０Ａ、５８０Ｂそれぞれは光学中心５８２に対して非点対称である形状を有している。第１、第２フィルタ領域５８０Ａ、５８０Ｂは重複せず、かつ第１、第２フィルタ領域５８０Ａ、５８０Ｂによってフィルタ領域５８０の全領域を構成している。第１、第２フィルタ領域５８０Ａ、５８０Ｂは、それぞれ円形のフィルタ領域５８０が光学中心５８２を通る線分で分割された半円の形状を有している。
【０１２７】
第１、第２フィルタ領域５８０Ａ、５８０Ｂの重心を結ぶ線分の中点で当該線分に直交する直線をフィルタの分割方向を表す直線と定義する。第１、第２フィルタ領域５８０Ａ、５８０Ｂが同じサイズの同じ形状であると、フィルタの分割方向を表す直線は、図３３に示すフィルタ領域５８０を実際に分割する直線（２つの半円形の互いに接する直径）である。
【０１２８】
フィルタ領域５８０Ａ、５８０Ｂはそれぞれ異なる特定の波長帯の光を透過するカラーフィルタである。フィルタ領域５８０Ａ、５８０Ｂからなるフィルタ領域５８０は領域５８０Ａ、５８０Ｂに共通する色を透過する。透過光がイメージセンサ５４２に集光される際、むらが生じることがある。透過光のイメージセンサ５４２への集光むらを少なくするためには、フィルタ領域５８０のフィルタ面はイメージセンサ５４２の撮像面と平行に設置すればよい。
【０１２９】
第１フィルタ領域５８０Ａは、イメージセンサ５４２で受光される波長領域のうちの一部である第１の波長領域を透過する。例えば、第１フィルタ領域５８０Ａは、図３３（ｂ）に示すように、Ｒ画像に対応する波長帯の光とＧ画像に対応する波長帯の光を透過するイエロー（Ｙ）フィルタである。第２フィルタ領域５８０Ｂはイメージセンサ５４２で受光される光の色のうち第１波長領域とは異なる第２の波長領域を透過する。例えば、第２フィルタ領域５８０Ｂは、図３３（ｂ）に示すように、Ｂ画像に対応する波長域の光とＲ画像に対応する波長域の光を透過するマゼンタ（Ｍ）フィルタである。第１波長領域の一部と第２波長領域の一部は、重複する。Ｙ、Ｍフィルタが共に透過する共通色はＲである。一般に、Ｃ、Ｍ、Ｙの補色フィルタは、Ｒ、Ｇ、Ｂの原色フィルタと比較して感度が高いので、同じ波長帯の透過率が同一であっても、より多くの光を透過することが知られている。
【０１３０】
第１フィルタ領域５８０Ａと第２フィルタ領域５８０Ｂの組み合わせは、上記に限定されず、第１フィルタ領域５８０ＡがＲ画像に対応する波長域の光とＧ画像に対応する波長域の光を透過するＹフィルタで、第２フィルタ領域５８０ＢがＢ画像に対応する波長域の光とＧ画像に対応する波長域の光を透過するシアン（Ｃ）フィルタでもよいし、第１フィルタ領域５８０ＡがＲ画像に対応する波長域の光とＢ画像に対応する波長域の光を透過するＭフィルタで、第２フィルタ領域５８０ＢがＢ画像に対応する波長域の光とＧ画像に対応する波長域の光を透過するＣフィルタでもよいし、第１フィルタ領域５８０ＡがＣ、Ｍ、Ｙフィルタのいずれかで、第２フィルタ領域５８０Ｂが全ての色の光を透過する透明フィルタであってもよい。さらに、図３３において右側が第１フィルタ領域５８０Ａとし、左側が第２フィルタ領域５８０Ｂとしたが、この逆に、右側が第２フィルタ領域５８０Ｂであり、左側が第１フィルタ領域５８０Ａであってもよい。
【０１３１】
第１、第２フィルタ領域５８０Ａ、５８０Ｂは任意波長帯域の透過率を変更するフィルタや、任意方向の偏光光を透過させる偏光フィルタ（偏光板）、任意波長帯域の集光パワーを変更させるマイクロレンズであってもよい。例えば、任意波長帯域の透過率を変更するフィルタは、Ｒ、Ｇ、Ｂの原色フィルタ、Ｃ、Ｍ、Ｙの補色フィルタ、色補正フィルタ（ＣＣ−ＲＧＢ／ＣＭＹ）、赤外線・紫外線カットフィルタ、ＮＤフィルタ、遮蔽板であってもよい。第１、第２フィルタ領域５８０Ａ、５８０Ｂがマイクロレンズである場合、撮影レンズ５３８により光線の集光の分布に偏りが生じることでぼけ関数が変化する。
【０１３２】
図３３（ｂ）は、第１フィルタ領域５８０Ａ、第２フィルタ領域５８０Ｂの透過率特性の一例を示す。イエローフィルタである第１フィルタ領域５８０Ａの透過率特性５８６Ａは、Ｒ画像およびＧ画像に対応する波長帯域の光は高い透過率で透過し、Ｂ画像に対応する波長帯域の光はほとんど透過しないことを示す。マゼンタフィルタである第２フィルタ領域５８０Ｂの透過率特性５８６Ｂは、Ｂ画像およびＲ画像に対応する波長帯域の光は高い透過率で透過し、Ｇ画像に対応する波長帯域の光はほとんど透過しないことを示す。したがって、Ｒ画像に対応する波長帯域の光は第１、第２フィルタ領域５８０Ａ、５８０Ｂの両方を透過するが、Ｇ画像に対応する波長帯域の光は第１フィルタ領域５８０Ａのみを透過し、Ｂ画像に対応する波長帯域の光は第２フィルタ領域５８０Ｂのみを透過するので、Ｇ画像およびＢ画像上のぼけの形状は、被写体までの距離に応じて変化する。各フィルタ領域が光学中心に対して非対称な形状なので、Ｇ画像およびＢ画像上のぼけの形状は被写体が合焦距離よりも手前にあるか、それとも奥にあるかによって異なる。すなわち、Ｇ画像およびＢ画像上のぼけの形状は偏っている。そのため、Ｇ画像とＢ画像のぼけの形状をＲ画像のぼけの形状に補正するぼけ補正フィルタを距離毎に用意しておき、想定距離でのぼけ補正フィルタをＧ画像及び／又はＢ画像に演算し、補正後の画像とＲ画像との相関に基づいて距離を決定することができる。
【０１３３】
［カラーフィルタの変形例］  
図３３のフィルタ領域５８０は第１、第２フィルタ領域５８０Ａ、５８０Ｂによって全領域が構成されるように分割されている。変形例として、フィルタ領域が第１、第２、第３フィルタ領域に分割される例を説明する。
【０１３４】
図３４は第２実施形態に係るカラーフィルタの第１変形例を示す。図３４（ａ）、（ｂ）に示すように、フィルタ領域５９０は第１フィルタ領域５９０Ａ、第２フィルタ領域５９０Ｂ、第３フィルタ領域５９０ｃからなる。第１、第２フィルタ領域５９０Ａ、５９０Ｂは図３３の例と同様に、それぞれ異なる組み合わせの複数色を透過し、第３フィルタ領域５９０Ｃは第１、第２フィルタ領域を共に透過する共通色を透過する。第１、第２フィルタ領域５９０Ａ、５９０ＢがＹ、ＭあるいはＭ、Ｙフィルタの場合、第３フィルタ領域５９０ＣはＲフィルタである。第１、第２フィルタ領域５９０Ａ、５９０ＢがＹ、ＣあるいはＣ、Ｙフィルタの場合、第３フィルタ領域５９０ＣはＧフィルタである。第１、第２フィルタ領域５９０Ａ、５９０ＢがＣ、ＭあるいはＭ、Ｃフィルタの場合、第３フィルタ領域５９０ＣはＢフィルタである。なお、第３フィルタ領域５９０ＣはＲ、Ｇ、Ｂの全ての色を透過する透明フィルタであってもよい。
【０１３５】
図３４（ａ）では、第１、第２フィルタ領域５９０Ａ、５９０Ｂは光学中心５９２を通りＹ軸に沿って延在する直線の左右にそれぞれ位置し、形状は光学中心５９２において互いに接する円形である。第３フィルタ領域５９０Ｃは第１、第２フィルタ領域５９０Ａ、５９０Ｂ以外の領域である。図３４（ｂ）では、第１、第２フィルタ領域５９０Ａ、５９０Ｂは円形光学中心５９２を通りＹ軸に沿って延在する直線の左右にそれぞれ位置し、形状は光学中心５９２において互いに接する楕円形である。図３４（ａ）、（ｂ）では、第１、第２のフィルタ領域５９０Ａ、５９０Ｂは光学中心５９２を通りＹ軸に沿って延在する直線に対して線対称となるように配置された同じ大きさの領域であるが、異なる大きさの２つの領域が非線対称で配置されてもよい。第１、第２フィルタ領域５９０Ａ、５９０Ｂの形状は円形、楕円形に限らず、三角形、矩形、多角形でもよい。
【０１３６】
第１、第２フィルタ領域５９０Ａ、５９０Ｂの重心を結ぶ線分の中点を通り当該線分に直交する直線であるフィルタの分割方向を表す直線は、第１、第２フィルタ領域５９０Ａ、５９０ＢがＹ軸に対して線対称であると、光学中心５９２を通りＹ軸に沿って延在する直線である。
【０１３７】
図３４の第１変形例では、第１、第２フィルタ領域は光学中心で互いに接しているが、第１、第２フィルタ領域が互いに接していない第２変形例を説明する。図３５は第２実施形態に係るカラーフィルタの第２変形例を示す。図３５（ａ）、（ｂ）に示すように、フィルタ領域６００は第１フィルタ領域６００Ａ、第２フィルタ領域６００Ｂ、第３フィルタ領域６００Ｃからなる。第１、第２フィルタ領域６００Ａ、６００Ｂは図３３、図３４の例と同様に、一部重複する異なる波長領域の光を透過し、第３フィルタ領域６００Ｃは第１、第２フィルタ領域を共に透過する波長領域の光を透過する。第１、第２フィルタ領域の色の例は第１変形例と同じである。
【０１３８】
図３５（ａ）では、第１、第２フィルタ領域６００Ａ、６００Ｂの形状は光学中心６０２を通りＹ軸に沿って延在する直線の左右にそれぞれ対象に位置する三日月形である。第１、第２フィルタ領域６００Ａ、６００Ｂ以外の第３フィルタ領域６００Ｃは楕円形である。図３５（ｂ）では、円形のフィルタ領域６００がＹ軸に沿って延在する２本の直線によって３分割され、中央が第３フィルタ領域６００Ｃであり、第３フィルタ領域６００Ｃの両側が第１、第２フィルタ領域６００Ａ、６００Ｂである。円形のフィルタ領域６００を２本の直線ではなく、２本の波線によって３分割してもよい。２本の分割線は平行でなくてもよい。さらに、３分割は３等分に限定されず、３つの領域のサイズは任意である。
【０１３９】
第１、第２フィルタ領域６００Ａ、６００Ｂの重心を結ぶ線分の中点を通り当該線分に直交する直線であるフィルタの分割方向を表す直線は、第１、第２フィルタ領域６００Ａ、６００ＢがＹ軸に対して線対称であると、光学中心６０２を通りＹ軸に沿って延在する直線である。
【０１４０】
図３６は第２実施形態に係るカラーフィルタの第３変形例を示す。フィルタ領域６１０は図３３のフィルタ領域５８０と同様にそれぞれ半円形の第１、第２フィルタ領域６１０Ａ、６１０Ｂを含む。第１、第２フィルタ領域６１０Ａ、６１０Ｂの内部に複数の第３フィルタ領域６１０Ｃが設けられている。第３フィルタ領域６１０Ｃの形状、個数、配置は任意である。
【０１４１】
第１、第２フィルタ領域６１０Ａ、６１０Ｂの重心を結ぶ線分の中点を通り当該線分に直交する直線であるフィルタの分割方向を表す直線は、第１、第２フィルタ領域６１０Ａ、６１０ＢがＹ軸に対して線対称であり、第３フィルタ領域６１０ＣがＹ軸に対して線対称であると、光学中心６１２を通りＹ軸に沿って延在する直線である。
【０１４２】
図３７は第２実施形態に係るカラーフィルタの第４変形例を示す。第４変形例は、図３４に示した第２実施形態において第１、第２フィルタ領域が互いに接しておらず、離間している例である。図３７（ａ）では、第１、第２フィルタ領域６２０Ａ、６２０Ｂは光学中心６２２を通りＹ軸に沿って延在する直線の左右にそれぞれ離間して位置し、形状は円形である。図３７（ｂ）では、第１、第２フィルタ領域６２０Ａ、６２０Ｂは光学中心６２２を通りＹ軸に沿って延在する直線の左右にそれぞれ離間して位置し、形状は正方形である。第１、第２フィルタ領域６２０Ａ、６２０Ｂの形状は正方形に限らず、三角形、矩形、多角形でもよいし、複数の第１、第２フィルタ領域６２０Ａ、６２０Ｂを設けてもよいし、左右で非対称に設けてもよい。
【０１４３】
第１、第２フィルタ領域６２０Ａ、６２０Ｂの重心を結ぶ線分の中点を通り当該線分に直交する直線であるフィルタの分割方向を表す直線は、第１、第２フィルタ領域６２０Ａ、６２０ＢがＹ軸に対して線対称であると、光学中心６２２を通りＹ軸に沿って延在する直線である。
【０１４４】
以上をまとめると、フィルタ領域は、透過する波長領域が一部重複する第１フィルタ領域と第２フィルタ領域を含む。フィルタ領域は、第１フィルタと第２フィルタの両方に透過される波長領域を透過する第３フィルタ領域をさらに含んでもよい。第３フィルタ領域は、例えば第１フィルタ領域が透過する波長領域と第２フィルタ領域が透過する波長領域の光を透過してもよい。例えば、フィルタ領域は、第１、第２フィルタ領域に加えて、任意数・種類のフィルタ領域から構成してもよい。任意数・種類のフィルタ領域はＲフィルタ、Ｇフィルタ、Ｂフィルタ、Ｙフィルタ、Ｃフィルタ、Ｍフィルタ及び透明フィルタから選んでもよい。
【０１４５】
第２実施形態によれば、撮像部５０５を光軸を中心として回転し、カラー開口のフィルタ領域分割方向を任意の方向となるように撮像部５０５あるいは撮像装置５０２を設置することにより、フィルタ領域分割方向と直交するため被写体までの距離が算出し難いエッジの方向を変えることができる。そのため、距離が算出し難いエッジの方向を、被写体に含まれない、あるいは殆ど含まれないエッジの方向とすることができる。例えば、水平方向のエッジに関する距離が算出し難い状況を防ぐことができる。
【０１４６】
なお、図１８、図１９で説明した取付具においてロール回転を電動回転とし、算出した距離の信頼度に関する指標に応じて撮像部５０５あるいは撮像装置５０２を自動的に回転してもよい。
【０１４７】
［第３実施形態］  
図３８は第３実施形態に係る撮像装置５０２の設置例を示す。第３実施形態も監視システムに応用することができる。第２実施形態は天井、壁、柱等から斜め下を撮影したが、天井から真下を撮影する第３実施形態を説明する。すなわち、撮像部５０５の光軸は鉛直方向と平行である。撮像装置５０２の後端の中心に円柱状のアーム５２４の先端が固定されている。アーム５２４の軸と撮像部５０５あるいは撮像装置５０２の光軸とは一致する。アーム５２４の後端は、アーム５２４と同心でアーム５２４より大径のアーム５２６の先端に挿入される。このため、アーム５２４（及び撮像装置５０２）はアーム５２６に挿入された状態で光軸（ロール軸とも称する）を中心に時計方向および反時計方向にロール回転可能である。アーム５２６の上端は取付板５３０と一体化されている。
【０１４８】
第２実施形態と同様に、時計方向、反時計方向ともにロール角度は０度より大きければよい。ロール角度が９０度となると、垂直方向のエッジの距離が算出し難い可能性がある。ロール角度は４５度程度でもよい。算出し難いエッジは避けられないので、どのエッジを算出させ、どのエッジを算出し難いエッジとするかはユーザの思惑次第である。
【０１４９】
設置後、被写体を撮影して距離を算出し、その結果を見ながらロール角度を調整しつつ適切な角度を試行錯誤的に求めることもできる。設置後、図１５、図１６に示すような信頼度のような指標に基づいてロール角度を決定してもよい。あるいは、被写体に含まれる種々のエッジの方向が予め既知の場合は、フィルタ領域の分割方向が被写体に含まれる最も多いエッジ方向と直交しないようにロール角度を設定することができる。あるいは、全てのエッジの方向がフィルタ分割方向と直交しないような、言い換えるとフィルタ領域分割方向が被写体の濃度勾配方向と一致しないような適切なロール角度を予め求めておき、撮像部５０５のロール角度がその角度に一致するように撮像装置５０２を設置してもよい。さらに、被写体に含まれる既知のエッジの方向から適切なロール角度が予め求められた場合、取付板５３０を天井に取り付ける際、撮像部５０５が光軸を中心に回転された状態で撮像装置５０２を取り付けることができれば、図３８に示すようなロール回転機構は必須ではない。ただし、ロール回転機構が備わっていれば、被写体に含まれるエッジの方向が変化した場合、容易に対処できる。ロール回転機構が備わっていなければ、被写体に含まれるエッジの方向が変化した場合、撮像部５０５あるいは撮像装置５０２を任意の向きに再度設置すればよい。
【０１５０】
［撮像部の回転］  
図３９は第３実施形態に係る撮像部５０５あるいは撮像装置５０２の回転の一例を示す。第３実施形態では撮像部５０５あるいは撮像装置５０２の光軸が鉛直方向に沿っているので、鉛直方向をフィルタ面に投影すると、直線にはならず、点となる。そのため、距離を算出し難い条件の定義は、第２実施形態の定義と異なる。第３実施形態では、被写体のシーン中に直交する２つの軸（主軸と称する）を定義する。主軸はシーンの主たる構造に基づいて設定される。例えば、図４０（ａ）に示すように、撮像範囲が室内の場合は通常矩形の床面の２辺に沿って第１主軸、第２主軸が設定できる。例えば、第１主軸と第２主軸に平行な面は床面と平行である。また、人物が移動している場合、移動方向とそれに直交する方向に沿って第１主軸、第２主軸を設定してもよい。図４０（ｂ）に示すように、撮像範囲に道路や廊下等が含まれる場合、道路や廊下等の延在方向とそれに直交する方向に沿って第１主軸、第２主軸が設定できる。例えば、第１主軸と第２主軸に平行な面は、道路や廊下と平行である。また、自動車や人物が移動している場合、移動方向とそれに直交する方向に沿って第１主軸、第２主軸を設定してもよい。撮像範囲に自動車や人物など移動するものを含む場合は、例えば、第１主軸と第２主軸に平行な面は、自動車や人物が移動する面と平行である。撮像部５０５あるいは撮像装置５０２のロール角度が０度の場合、図３９（ａ）に示すように、第１主軸をフィルタ面に射影した直線又は第２主軸をフィルタ面に射影した直線と、フィルタの分割方向を表す直線は平行になる。この状態では、第２主軸方向のエッジの距離は算出し難い可能性がある。図３９（ｂ）に示すように、撮像部５０５あるいは撮像装置５０２（アーム５２４）を光軸を中心にロール回転させ、フィルタの分割方向を表す直線が第１主軸をフィルタ面に射影した直線及び第２主軸をフィルタ面に射影した直線とも非平行とする、すなわち、フィルタの分割方向を表す直線が第１主軸をフィルタ面に射影した直線及び第２主軸をフィルタ面に射影した直線と交差させることができる。
【０１５１】
これにより、被写体に含まれる第１主軸及び第２主軸の方向のエッジとフィルタ分割方向が直交しなくなり、第１主軸及び第２主軸の方向のエッジの距離が算出できるようになる。この場合のロール角度は０度より大きく、９０度未満である。ロール角度は、例えば５５度以下である。ロール角度は、例えば３５度以上である。
【０１５２】
このような第３実施形態においても、第２実施形態と同様に、撮像部５０５あるいは撮像装置５０２を光軸を中心に回転し、カラー開口のフィルタ領域分割方向を回転することにより、フィルタ領域分割方向と直交するため被写体までの距離が算出し難いエッジの方向を変えることができる。そのため、距離が算出し難いエッジを、被写体に含まれない、あるいは殆ど含まれない方向のエッジとすることができる。例えば、被写体内の第１主軸、第２主軸方向のエッジに関する距離が算出し難い状況を防ぐことができる。
【０１５３】
上述の実施形態は距離情報の出力形態の一例として距離画像の表示を説明したが、これに限らず、距離と位置の対応関係表の表示でもよい。各画素に写っている被写体までの距離に加えて、画像全体に映っている被写体の距離の最大値／最小値／中心値／平均値等を出力してもよい。さらに、画像全体の距離画像に限らず、画像の一部の距離を出力してもよい。
【０１５４】
距離情報を用いて各画素の画像信号のぼけを処理することにより下記の情報を得ることができる。全ての画素の画像信号が合焦状態である全焦点画像や、撮影時とは異なる被写体領域が合焦状態となり、撮影時に合焦状態の被写体領域は非合焦状態となるリフォーカス画像を生成することができる。任意の距離にある物体を抽出することや、抽出した物体を認識することも可能である。さらには、認識した物体の現在までの距離の変化を辿ることにより、物体の行動も推定できる。
【０１５５】
実施形態では、距離情報は処理装置においてユーザが認識できるように表示されるが、これに限らず、他の装置へ出力され、他の装置で距離情報が利用されてもよい。実施形態によれば、ステレオカメラを用いずに、単眼カメラを用いて撮影画像と距離情報を取得することができ、小型軽量の単眼カメラは種々の分野に応用できる。
【０１５６】
［応用例１：監視システム］  
監視システムは撮影装置で撮影している空間への侵入物を検出して、警報を発するものである。図４２は、監視システムの一例である、駐車場における人や車の流れ等を時間帯毎に把握するためのシステムを示す。監視システムは、駐車場に限らず、店舗内における人の流れのような撮像装置が撮影する範囲内を移動する様々な被写体の監視にも用いられる。
【０１５７】
図４１は監視システムのブロック図を示す。撮像装置５０２が図３１の撮影画像取得部５６２と距離画像取得部５６４の両方に対応する処理装置６３２に入力される。処理装置６３２から出力された撮影画像と画素毎の距離情報は、人物検出部６３４に入力される。人物検出部６３４は距離に変化に基づいて人物又は移動体を検出する。検出結果はエリア侵入／退出検出部６３６に供給される。エリア侵入／退出検出部６３６は、検出した人物又は移動体までの距離に基づいて撮像装置５０２から所定範囲内の特定エリアに人物又は移動体が侵入したか否か、あるいは特定エリアから人物又は移動体が退出したか否かを判定する。エリア侵入／退出検出部６３６は例えば、人がある基準距離内に入ったこと、人がある基準距離内から出たこと等の人の流れや、車がある基準距離内に入ったこと、車がある基準距離内から出たこと等の車の流れを解析し、その解析結果を例えばＨＤＤ（Hard Disk Drive）などの記憶装置に記録してもよい。人物検出部６３４とエリア侵入／退出検出部６３６とは、例えばＣＰＵに含まれてもよい。なお、人物または移動体を検出する処理と、所定範囲内の特定エリアに人物又は移動体が侵入したか否かあるいは特定エリアから人物又は移動体が退出したか否かを判定する処理とは、まとめて１つの処理で行われてもよい。
【０１５８】
図４２は、監視システムの使用例を示す。駐車場に設置された撮像装置５０２を用いて、駐車場の人や車の動きを監視することができる。特定エリアは、撮像可能な領域の一部に設定することができる。
【０１５９】
人物又は移動体の侵入／退出が検出されると、ユーザインタフェース部６３８で所定の警告が発せられる。警告は、例えば表示部による表示や、スピーカによる音声出力である。ユーザインタフェース部６３８は、例えばキーボードやポインティングデバイスからの入力処理も実行する。ユーザインタフェース部６３８がディスプレイ装置とポインティングデバイスを含む場合には、ユーザインタフェース部６３８は、例えばディスプレイ装置とポインティングデバイスが一体となったタッチスクリーンディスプレイであってもよい。
【０１６０】
この監視カメラは警告を発する代わりに、他のアクションを行うことも可能である。例えば、自動ドアの前方の空間をカメラで撮影し、その空間に人物が移動してくると、ドアを開けるようにしてもよい。
【０１６１】
［応用例２：自動ドアシステム］  
図４３は、撮像装置５０２を含む自動ドアシステムの機能構成を示す。自動ドアシステムは、撮像装置５０２と、制御信号生成部６４２と、駆動機構６４４と、ドア部６４６とを備える。
【０１６２】
制御信号生成部６４２は、図４１の監視部６３０と同じである。すなわち、制御信号生成部６４２は、図３１の撮影画像取得部５６２と距離画像取得部５６４と図４１の人物検出部６３４とエリア侵入/退出検出部６３６の機能を含み、被写体が基準距離よりも手前にあるか、それとも奥にあるかを判定し、その判定結果に基づいて、ドア部６４６の開閉に関する制御信号を生成し、生成された制御信号を駆動機構６４４に出力する。より具体的には、制御信号生成部６４２は、被写体が基準距離よりも手前にあることを示す判定結果に基づいて、ドア部６４６を開いた状態にするための制御信号あるいはドア部６４６が空いた状態を維持するための制御信号を生成し、駆動機構６４４に出力する。また、制御信号生成部６４２は、被写体が基準距離よりも奥にあることを示す判定結果に基づいて、ドア部６４６を閉じた状態にするための制御信号あるいはドア部６４６が閉じた状態を維持するための制御信号を生成し、駆動機構６４４に出力する。
【０１６３】
駆動機構６４４は、例えば、モータを有し、モータの駆動をドア部６４６に伝達することによって、ドア部６４６を開閉する。駆動機構６４４は、制御信号生成部６４２によって生成された制御信号に基づいて、ドア部６４６が開いた状態又は閉じた状態になるように動作させる。
【０１６４】
図４４は、自動ドアシステムの動作例を示す。ドア部６４６の正面を移動する歩行者等を撮影できる位置である、例えばドア部６４６の上方に、図２８に示したような取付具を用いて撮像装置５０２が設置されている。つまり、撮像装置５０２は、ドア部６４６の正面の通路等を俯瞰した画像が取得できるように設置される。
【０１６５】
制御信号生成部６４２における基準距離は、例えば、ドア部６４６正面の、ドア部６４６から一定の距離に設定される。撮像装置５０２の光軸は床面に対して斜めであるので、床面に直交するが撮像装置５０２の光軸に対しては斜めの平面６５２が基準距離の面として設定され、ドア部６４６の上方に設置されている撮像装置５０２は、歩行者６５０が、この平面６５２よりも手前にいるか、それとも奥にいるかを判定する。
【０１６６】
図４４（ａ）に示す例では、歩行者１０６が基準平面６５２よりも手前にいると判定される。制御信号生成部６４２は、この判定結果に基づいて、ドア部６４６を開いた状態にするための制御信号を生成し、駆動機構６４４に出力する。駆動機構６４４は、制御信号生成部６４２から受信した制御信号に基づいて、ドア部６４６が開いた状態になるように動作する。
【０１６７】
図４４（ｂ）に示す例では、歩行者１０６が基準平面６５２よりも奥にいると判定される。制御信号生成部６４２は、この判定結果に基づいて、ドア部６４６を閉じた状態にするための制御信号を生成し、駆動機構６４４に出力する。駆動機構６４４は、制御信号生成部６４２から受信した制御信号に基づいて、ドア部６４６が閉じた状態になるように動作する。
【０１６８】
このような自動ドアシステムは、自動車のドアの制御にも適用することができる。図４５に示すように、自動車のフロントガラスに自動車の右側側面を撮影する撮像装置５０２Ａと、左側側面を撮影する撮像装置５０２Ｂを設ける。人物が撮像装置５０２Ａ、５０２Ｂから第１距離に設定された第１平面より奥から手前に変化したことが判定されると、ドアを開けるようにしてもよい。また、人物が撮像装置５０２Ａ、５０２Ｂから第２距離に設定された第２平面より奥から手前に変化したことが判定されると、たとえ社内からドアを開けようとしてもドアが開かないようにしてもよい。第２距離は、例えば第１距離よりも短い距離とすることができる。これは、人間又は物体が自動車に接近している時、ドアが開くことによって、ドアと人間又は物体とが接触するような事故を防ぐためである。
【０１６９】
［応用例３：移動体制御システム］  
図４６は、撮像装置５０２を含む移動体６７０の機能構成例を示す。ここでは、移動体６７０が、例えば、移動ロボット（Automated Guided Vehicle）や掃除ロボット、コミュニケーションロボットなど自律的に移動するロボットであることを想定する。移動体６７０は、このようなロボットに限らず、移動用の駆動機構を有するものであるならば、自動車を含む車両、ドローンや飛行機などの飛翔体、船舶等、様々なものとして実現され得る。移動体６７０にはさらに、ロボット本体が移動するものだけでなく、ロボットアームのような、ロボットの一部分の移動・回転用の駆動機構を有する産業用ロボットも含まれ得る。
【０１７０】
図４６に示すように、移動体６７０は、撮像装置５０２と、制御信号生成部６７２と、駆動機構６７４とを有する。図４７に示すように、撮像装置５０２は、例えば、移動体６７０の進行方向の被写体を撮像するように設置される。移動体６７０の進行方向の被写体を撮像するように設置される形態としては、前方を撮像するいわゆるフロントカメラとして設置され得るほか、バック時に後方を撮像するいわゆるリアカメラとして設置され得る。もちろん、これら両方が設置されてもよい。また、撮像装置５０２は、いわゆるドライブレコーダとしての機能を兼ねて設置されるものであってもよい。すなわち、撮像装置５０２は、録画機器であってもよい。なお、移動体６７０の一部分の移動及び回転を制御する場合、撮像装置５０２は、例えば、ロボットアームで把持される物体を撮像するように、ロボットアームの先端等に設置されてもよい。
【０１７１】
制御信号生成部６７２は、図４１の処理装置６３２と同じであり、被写体との距離基づいて、移動体６７０又はその一部分の加速、減速、停止、衝突回避、方向転換、及びエアバック等の安全装置の作動の内の少なくとも一つに関する制御信号を生成する。
【０１７２】
制御信号生成部６７２は、図４３の制御信号生成部６４３と同じに、被写体との距離に基づいて、被写体が所定範囲内の特定エリアに侵入したか否かあるいは特定エリアから退出したか否かを判定してもよい。この場合、制御信号生成部６７２は、被写体が基準距離よりも手前にあることを示す判定結果に基づいて、減速、衝突回避、被写体から遠ざかる方向への方向転換、及び安全装置の作動の内の少なくとも一つに関する制御信号を生成し得る。また、制御信号生成部６７２は、被写体が基準距離よりも手前にあるという判定結果に基づいて、加速、及び被写体に近寄る方向への方向転換の内の少なくとも一つに関する制御信号を生成し得る。制御信号生成部６７２は、生成された制御信号を駆動機構６７４に出力する。
【０１７３】
駆動機構６７４は、この制御信号に基づいて移動体６７０を動作させる。つまり、駆動機構６７４は、制御信号に基づいて、移動体６７０又はその一部分によって加速、減速、衝突回避、方向転換、及びエアバック等の安全装置の作動の内の少なくとも一つが行われるように動作する。このような構成は、リアルタイムでの制御が要求される、例えば、ロボットの移動や自動車の自動運転等に適している。
【０１７４】
移動体６７０がドローンである場合、上空からのひび割れや電線破断等の点検時に、撮像装置５０２は点検対象を撮影した画像を取得し、被写体との距離を検出し、あるいは被写体が基準距離よりも手前にあるか、それとも奥にあるかを判定する。制御信号生成部６７２は、この検出結果または判定結果に基づいて、点検対象との距離が一定になるようにドローンの推力を制御するための制御信号を生成する。駆動機構６７４が、この制御信号に基づいてドローンを動作させることにより、ドローンを点検対象に並行して飛行させることができる。
【０１７５】
また、ドローンの飛行時に、撮像装置５０２は地面方向を撮影した画像を取得し、地面からのドローンの高さを検出し、あるいは地面からの高さが基準距離よりも手前にあるか、それとも奥にあるかを判定する。制御信号生成部６７２は、この検出結果または判定結果に基づいて、地面からの高さが指定された高さになるようにドローンの推力を制御するための制御信号を生成する。駆動機構６７４が、この制御信号に基づいてドローンを動作させることにより、ドローンを指定された高さで飛行させることができる。
【０１７６】
さらに、移動体６７０がドローン又は自動車である場合、ドローンの連携飛行や自動車の連隊走行時に、撮像装置５０２は、周囲のドローンや前方の自動車を撮影した画像を取得し、そのドローンや自動車との距離を検出し、あるいはそのドローンや自動車が基準距離よりも手前にあるか、それとも奥にあるかを判定する。制御信号生成部６７２は、この検出結果あるいは判定結果に基づいて、その周囲のドローンや前方の自動車との距離が一定になるように、ドローンの推力や自動車の速度を制御するための制御信号を生成する。駆動機構６７４が、この制御信号に基づいてドローンや自動車を動作させることにより、ドローンの連携飛行や自動車の連隊走行を容易に行うことができる。
【０１７７】
図４８は障害物を回避できるドローンの移動制御の一例のブロック図を示す。撮像装置５０２の出力が図３１の撮影画像取得部５６２と距離画像取得部５６４の両方の機能を含む処理装置６８０に入力される。処理装置６８０から出力された撮影画像と画素毎の距離情報は、障害物認識部６８２に入力される。ドローンの移動ルートは移動先と現在地が分ると自動的に決定される。ドローンはＧＰＳ６８６を備え、移動先情報と現在地情報が移動ルート計算部６８４に入力される。移動ルート計算部６８４から出力される移動ルート情報が障害物認識部６８２と、飛行制御部６８８に入力される。飛行制御部６８８はローターの回転、操舵を行う。
【０１７８】
障害物認識部６８２は、撮影画像と距離情報に基づいて、ドローンから一定距離以内の物体を抽出する。検出結果は、移動ルート計算部６８４に供給される。移動ルート計算部６８４は障害物が検知されると、移動先と現在地から決定された移動ルートを、障害物を回避できる滑らかな軌道の移動ルートに修正する。
【０１７９】
これにより、空中に予期せぬ障害物が出現した場合でも、自動的に障害物を避けて目的地までドローンを安全に飛行させることができる。図４８は、ドローンに限らず、移動ルートが決まっている移動ロボット（Automated Guided Vehicle）、掃除ロボット等にも同様に応用可能である。なお、掃除ロボットの場合、ルート自体が決まっているのではなく、障害物が検知されたら、曲がる、後退する等のルールが決まっている場合もある。この場合でも、障害物の検知、回避に図４８の構成が応用できる。
【０１８０】
図４９は、実施形態を自動車に応用した場合のシステム構成の一例を示す。撮像装置５０２の出力が図３１の撮影画像取得部５６２と距離画像取得部５６４の両方の機能を含む処理装置６９２に入力される。処理装置６９２は、撮影画像と画素毎の距離情報を出力する。撮影画像と距離情報は、歩行者／車両検出部６９４に入力される。歩行者／車両検出部６９４は、撮影画像と距離情報に基づいて、撮影画像内に道路に対して垂直な物体を歩行者／車両の候補領域として設定する。歩行者／車両検出部６９４は、各候補領域に対して特徴量を計算し、この特徴量を大量のサンプル画像データから予め求めておいた多数の基準データと比較することにより、歩行者／車両を検出することができる。歩行者／車両を検出すると、ドライバに警告６９８が出されてもよいし、自動ブレーキ６９６が作動され、自動車が減速あるいは停止されてもよい。
【０１８１】
撮像装置５０２は運転席のフロントカメラに限らず、サイドミラーに取り付けるサイドカメラ、リアガラスに取り付けられるリアカメラでもよい。サイドカメラ、リアカメラの場合は、歩行者／車両の検出の代わりに、後進して駐車する際の障害物を検出してもよい。フロントカメラの場合、近年、自動車のフロントガラスに取り付けられたカメラで撮影された自動車前方の風景をＳＤカード等に記録するドライブレコーダが開発されている。このドライブレコーダのカメラに実施形態のカメラを応用することにより、車内に別途カメラを設けることなく、自動車の前方の撮影画像に加えて距離情報を得ることができる。
【０１８２】
移動体ではなく静止しているが、移動部を備えるもの、例えば製造ロボット等にも応用可能である。部品を掴む、移す、部品を加工するアームからの距離に応じて障害物を検出すると、アームの移動を制限するようにしてもよい。
【０１８３】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【０１８４】
１０…フィルタ、１１…第１のフィルタ領域、１２…第２のフィルタ領域、２０…レンズ、３０…イメージセンサ、４０…ＣＰＵ、４１…画像処理部、５０…ＲＡＭ、６０…メモリカードスロット、７０…ディスプレイ、８０…通信部、９０…不揮発性メモリ、１００…撮像装置、１１０…バス、２００…ロボット、２０１…制御部、２０２…駆動機構、２０３…回転機構、３００…移動体、３０１…制御部、３０２…駆動機構、４００…監視システム、４０１…制御部、４０２…ユーザインタフェース部、４１１…画像取得部、４１２…距離算出部、４１３…信頼度算出部、４１４…出力部、５０２…撮像装置、５０４…カラー開口。
【図１】
2018084571.tif 000003
【図２】
2018084571.tif 000004
【図３】
2018084571.tif 000005
【図４】
2018084571.tif 000006
【図５】
2018084571.tif 000007
【図６】
2018084571.tif 000008
【図７】
2018084571.tif 000009
【図８】
2018084571.tif 000010
【図９】
2018084571.tif 000011
【図１０】
2018084571.tif 000012
【図１１】
2018084571.tif 000013
【図１２】
2018084571.tif 000014
【図１３】
2018084571.tif 000015
【図１４】
2018084571.tif 000016
【図１５】
2018084571.tif 000017
【図１６】
2018084571.tif 000018
【図１７】
2018084571.tif 000019
【図１８】
2018084571.tif 000020
【図１９】
2018084571.tif 000021
【図２０】
2018084571.tif 000022
【図２１】
2018084571.tif 000023
【図２２】
2018084571.tif 000024
【図２３】
2018084571.tif 000025
【図２４】
2018084571.tif 000026
【図２５】
2018084571.tif 000027
【図２６】
2018084571.tif 000028
【図２７】
2018084571.tif 000029
【図２８】
2018084571.tif 000030
【図２９】
2018084571.tif 000031
【図３０】
2018084571.tif 000032
【図３１】
2018084571.tif 000033
【図３２】
2018084571.tif 000034
【図３３】
2018084571.tif 000035
【図３４】
2018084571.tif 000036
【図３５】
2018084571.tif 000037
【図３６】
2018084571.tif 000038
【図３７】
2018084571.tif 000039
【図３８】
2018084571.tif 000040
【図３９】
2018084571.tif 000041
【図４０】
2018084571.tif 000042
【図４１】
2018084571.tif 000043
【図４２】
2018084571.tif 000044
【図４３】
2018084571.tif 000045
【図４４】
2018084571.tif 000046
【図４５】
2018084571.tif 000047
【図４６】
2018084571.tif 000048
【図４７】
2018084571.tif 000049
【図４８】
2018084571.tif 000050
【図４９】
2018084571.tif 000051
【手続補正書】
【提出日】平成29年8月1日(2017.8.1)
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】０００１
【補正方法】変更
【補正の内容】
【０００１】
本発明の実施形態は、処理装置、撮像装置および自動制御システムに関する。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】０００４
【補正方法】変更
【補正の内容】
【０００４】
本発明が解決しようとする課題は、画像から得た被写体までの距離の信頼度に関する出力や制御を行うことができる処理装置、撮像装置および自動制御システムを提供することである。
【手続補正４】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
対称な第１のぼけ関数で示される形状のぼけを含む被写体の第１の画像と、非対称な第２のぼけ関数で示される形状のぼけを含む前記被写体の第２の画像とを取得する取得部と、
前記第１のぼけ関数と前記第２のぼけ関数との相関に基づき、前記被写体までの距離を算出する距離算出部と、
前記相関の度合いに基づき前記距離の信頼度を算出する信頼度算出部と、
を具備する処理装置。
【請求項２】
前記距離算出部は、前記第２の画像と複数のぼけ補正フィルタそれぞれとにより生成される複数の補正画像それぞれと、前記第１の画像と、の相関により前記距離を算出し、
前記信頼度算出部は、前記複数の補正画像それぞれと前記第１の画像との相関関数の曲率に基づき、前記距離の信頼度を算出する、
請求項１に記載の処理装置。
【請求項３】
前記信頼度算出部は、前記複数の補正画像それぞれと前記第１の画像との相関関数の曲率、および、被写体像のエッジ方向または前記被写体像のエッジ強度に基づき、前記距離の信頼度を算出する請求項２に記載の処理装置。
【請求項４】
前記処理装置はさらにマップを出力する出力部を備え、前記マップは、前記第１の画像または前記第２の画像のいずれかにおける複数の第１点と対応する複数の第２点において、前記複数の第１点の前記距離と前記距離の信頼度とを示す、請求項１に記載の処理装置。
【請求項５】
前記処理装置はさらにリストを出力する出力部を備え、前記リストは、前記第１の画像または前記第２の画像の座標と、前記座標における前記距離と、前記距離の信頼度とを示す、請求項１に記載の処理装置。
【請求項６】
前記処理装置はさらに出力データを出力する出力部を備え、
前記出力データは、前記取得部により取得されるカラー画像データと、前記カラー画像データで示される画像上の複数の点の前記距離を含む距離データと、前記複数の点の前記距離の信頼度を含む信頼度データとを含む、請求項１に記載の処理装置。
【請求項７】
請求項１乃至６のいずれか１項に記載の処理装置と、
前記第１の画像と前記第２の画像とを撮像する撮像部と、
を具備する撮像装置。
【請求項８】
前記第１の画像と前記第２の画像は、一の撮像装置により同時刻に撮像された画像である、請求項７に記載の撮像装置。
【請求項９】
前記第１の画像上または前記第２の画像上の位置に対応する前記距離と前記距離の信頼度とを含む表示画像を表示可能な表示部を具備する請求項７または８のいずれか１項に記載の撮像装置。
【請求項１０】
前記表示画像上の位置の指定を受け付ける入力部をさらに具備し、
前記表示部は、前記入力部により指定された表示画像上の位置に対応する前記第１の画像上または前記第２の画像上における位置の前記距離と前記距離の信頼度を表示する、
請求項９に記載の撮像装置。
【請求項１１】
前記表示部は、前記距離の信頼度が閾値以下の場合、前記撮像装置を回転させることを促すメッセージを出力する請求項９または１０のいずれか１項に記載の撮像装置。
【請求項１２】
請求項７乃至１１のいずれか１項に記載の撮像装置と、
前記距離と前記距離の信頼度とに基づき、移動体の駆動機構を制御する制御部と、
を具備する移動体の自動制御システム。
【請求項１３】
前記制御部は、前記距離と前記距離の信頼度とから算出される前記距離の下方限界値を用いて前記駆動機構を制御する請求項１２に記載の自動制御システム。
【請求項１４】
前記制御部は、前記下方限界値に基づいて前記駆動機構を制御することにより移動体を停止、減速、加速または移動開始させる、請求項１３に記載の自動制御システム。
【請求項１５】
前記撮像装置は、回転機構に取り付けられ、
前記制御部は、前記撮像装置から得られる前記距離の信頼度がより高くなるように前記回転機構を制御する請求項１２に記載の自動制御システム。
【手続補正書】
【提出日】平成29年9月8日(2017.9.8)
【手続補正１】
【補正対象書類名】明細書
【補正対象項目名】０００３
【補正方法】変更
【補正の内容】
【０００３】
【特許文献１】特開２０１５−１９４４８６号公報
【特許文献２】特開２００４−３４０７１４号公報
【特許文献３】特許第４９７９５２５号公報
【特許文献４】実用新案登録第３１７９８３６号公報
【特許文献５】特開２０１６−１０２７３３号公報