(57)【要約】  被写体の正確な距離情報の生成を行う装置、方法を提供する。可視光成分から構成される第１画像と、可視光成分と赤外光成分を含む第２画像を入力して被写体距離を算出する画像処理部を有し、画像処理部は、第２画像を利用してＴＯＦ方式に従って算出される被写体距離であるＴＯＦ距離と、第１画像と第２画像を利用してステレオ方式に従って算出されるステレオ距離の２つの距離情報を算出し、ＴＯＦ距離の信頼度を示すＴＯＦ距離信頼度を判定し、ＴＯＦ距離の信頼度が低い画素領域について、ステレオ方式に従った被写体距離であるステレオ距離、または、ＴＯＦ距離とステレオ距離の合成処理によって算出した距離情報を最終的な距離情報として生成する。
2017159312.tif 000002
【特許請求の範囲】
【請求項１】
２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、被写体距離を示す距離情報を生成する画像処理部を有し、  前記画像処理部は、  前記第２画像の赤外光成分を利用してＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離であるＴＯＦ距離を算出するＴＯＦ方式距離算出部と、  前記第１画像と前記第２画像の可視光成分を利用してステレオ方式に従った被写体距離であるステレオ距離を算出するステレオ方式距離算出部と、  前記ＴＯＦ距離の信頼度を判定するＴＯＦ距離信頼度判定部と、  前記ＴＯＦ距離の信頼度が低い画素領域について、前記ステレオ距離、または、ＴＯＦ距離とステレオ距離の合成距離情報を最終的な距離情報として生成する被写体距離情報生成部を有する画像処理装置。
【請求項２】
前記画像処理装置は、  前記第２画像を可視光成分画像と赤外光成分画像に分離する赤外光分離部を有し、  前記ＴＯＦ方式距離算出部は、前記赤外光分離部の生成した赤外光成分画像を利用した被写体距離算出処理を実行し、  前記ステレオ方式距離算出部は、前記赤外光分離部の生成した可視光成分画像を利用した被写体距離算出処理を実行する請求項１に記載の画像処理装置。
【請求項３】
前記ＴＯＦ距離信頼度判定部は、  赤外光非照射時における前記第２撮像部の撮影画像である前記第２画像に含まれる赤外光成分の量に応じてＴＯＦ距離の信頼度を判定する請求項１に記載の画像処理装置。
【請求項４】
前記画像処理装置は、さらに、  前記ステレオ方式距離算出部の算出した被写体距離であるステレオ距離の信頼度を判定するステレオ距離信頼度判定部を有し、  前記被写体距離情報生成部は、  前記ステレオ距離の信頼度が低い画素領域について、前記ＴＯＦ距離、または、ＴＯＦ距離とステレオ距離の合成処理によって算出した距離情報を最終的な距離情報として生成する請求項１に記載の画像処理装置。
【請求項５】
前記ステレオ距離信頼度判定部は、  前記ステレオ方式距離算出部におけるブロックマッチング処理に適用したブロック構成画素の画素値の分散値に応じてステレオ距離の信頼度を判定する請求項４に記載の画像処理装置。
【請求項６】
前記被写体距離情報生成部は、  画素または画素領域単位の前記ＴＯＦ距離の信頼度に応じて、画素または画素領域単位で、  （ａ）ステレオ距離、  （ｂ）ＴＯＦ距離、  （ｃ）ステレオ距離とＴＯＦ距離の合成距離、  上記（ａ）〜（ｃ）いずれかの距離情報を最終的な距離情報として生成する請求項１に記載の画像処理装置。
【請求項７】
前記被写体距離情報生成部は、  画素または画素領域単位の前記ステレオ距離の信頼度に応じて、画素または画素領域単位で、  （ａ）ステレオ距離、  （ｂ）ＴＯＦ距離、  （ｃ）ステレオ距離とＴＯＦ距離の合成距離、  上記（ａ）〜（ｃ）いずれかの距離情報を最終的な距離情報として生成する請求項４に記載の画像処理装置。
【請求項８】
可視光成分から構成される第１画像を撮影する第１撮像部と、  可視光成分と赤外光成分を含む第２画像を撮影する第２撮像部と、  前記第１画像と前記第２画像を入力して、被写体距離を示す距離情報を生成する画像処理部を有し、  前記画像処理部は、  前記第２画像を利用してＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離算出を実行するＴＯＦ方式距離算出部と、  前記第１画像と前記第２画像を利用してステレオ方式に従った被写体距離算出を実行するステレオ方式距離算出部と、  前記ＴＯＦ方式距離算出部の算出した被写体距離であるＴＯＦ距離の信頼度を判定するＴＯＦ距離信頼度判定部と、  前記ＴＯＦ距離の信頼度に基づいて、最終的な距離情報を生成する被写体距離情報生成部を有し、  前記被写体距離情報生成部は、  前記ＴＯＦ距離の信頼度が低い画素領域について、前記ステレオ方式に従った被写体距離であるステレオ距離、または、ＴＯＦ距離とステレオ距離の合成処理によって算出した距離情報を最終的な距離情報として生成する撮像装置。
【請求項９】
２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、合成画像を生成する画像処理部を有し、  前記第１画像は可視光成分から構成される画像であり、前記第２画像は可視光成分と赤外光成分を含む画像であり、  前記画像処理部は、  前記第２画像を可視光成分画像と赤外光成分画像に分離する赤外光分離部と、  前記第１画像と、前記赤外光分離部が前記第２画像に基づいて生成した可視光成分画像との合成処理を実行する画像合成部を有する画像処理装置。
【請求項１０】
前記画像合成部は、  前記第１画像と、前記赤外光分離部が前記第２画像に基づいて生成した可視光成分画像との画素単位の位置ずれ量を算出する画像ずれ算出部と、  前記画像ずれ算出部の算出した位置ずれ量に応じて前記第１画像と、前記赤外光分離部が前記第２画像に基づいて生成した可視光成分画像との画素単位のブレンド率を算出するブレンド率算出部と、  前記ブレンド率算出部の算出したブレンド率に従って、前記第１画像と、前記赤外光分離部が前記第２画像に基づいて生成した可視光成分画像との画素単位のブレンド処理を実行するブレンド実行部を有する請求項９に記載の画像処理装置。
【請求項１１】
前記画像処理装置は、さらに、  前記第２画像を利用してＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離算出を実行するＴＯＦ方式距離算出部を有する請求項９に記載の画像処理装置。
【請求項１２】
前記画像処理装置は、さらに、  前記第１画像と前記第２画像を利用してステレオ方式に従った被写体距離算出を実行するステレオ方式距離算出部を有する請求項９に記載の画像処理装置。
【請求項１３】
画像処理装置において実行する画像処理方法であり、  前記画像処理装置は、２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、被写体距離を示す距離情報を生成する画像処理部を有し、  前記画像処理部が、  前記第２画像の赤外光成分を利用してＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離であるＴＯＦ距離を算出するＴＯＦ方式距離算出処理と、  前記第１画像と前記第２画像の可視光成分を利用してステレオ方式に従った被写体距離であるステレオ距離を算出するステレオ方式距離算出処理と、  前記ＴＯＦ距離の信頼度を判定するＴＯＦ距離信頼度判定処理と、  前記ＴＯＦ距離の信頼度が低い画素領域について、前記ステレオ距離、または、ＴＯＦ距離とステレオ距離の合成距離情報を最終的な距離情報として生成する被写体距離情報生成処理を実行する画像処理方法。
【請求項１４】
画像処理装置において実行する画像処理方法であり、  前記画像処理装置は、  ２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、合成画像を生成する画像処理部を有し、  前記第１画像は可視光成分から構成される画像であり、前記第２画像は可視光成分と赤外光成分を含む画像であり、  前記画像処理部が、  前記第２画像を可視光成分画像と赤外光成分画像に分離する赤外光分離処理と、  前記第１画像と、前記第２画像に基づいて生成した可視光成分画像との合成処理を実行する画像処理方法。
【請求項１５】
画像処理装置において画像処理を実行させるプログラムであり、  前記画像処理装置は、２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、被写体距離を示す距離情報を生成する画像処理部を有し、  前記プログラムは、前記画像処理部に、  前記第２画像の赤外光成分を利用してＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離であるＴＯＦ距離を算出するＴＯＦ方式距離算出処理と、  前記第１画像と前記第２画像の可視光成分を利用してステレオ方式に従った被写体距離であるステレオ距離を算出するステレオ方式距離算出処理と、  前記ＴＯＦ距離の信頼度を判定するＴＯＦ距離信頼度判定処理と、  前記ＴＯＦ距離の信頼度が低い画素領域について、前記ステレオ距離、または、ＴＯＦ距離とステレオ距離の合成距離情報を最終的な距離情報として生成する被写体距離情報生成処理を実行させるプログラム。
【請求項１６】
画像処理装置において画像処理を実行させるプログラムであり、  前記画像処理装置は、  ２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、合成画像を生成する画像処理部を有し、  前記第１画像は可視光成分から構成される画像であり、前記第２画像は可視光成分と赤外光成分を含む画像であり、  前記プログラムは、前記画像処理部に、  前記第２画像を可視光成分画像と赤外光成分画像に分離する赤外光分離処理と、  前記第１画像と、前記第２画像に基づいて生成した可視光成分画像との合成処理を実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】  本開示は、画像処理装置、撮像装置、および画像処理方法、並びにプログラムに関する。特に、被写体までの距離計測を行う画像処理装置、撮像装置、および画像処理方法、並びにプログラムに関する。
【背景技術】
【０００２】  被写体までの距離を計測するカメラとして、ＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）カメラが知られている。  ＴＯＦカメラは、赤外光を被写体に照射して、反射した赤外光がカメラに入射されるまでに要した時間から距離を算出する。  なお、ＴＯＦ方式について開示した従来技術として、例えば特許文献１（特開２０１３−２２０２５４号）、特許文献２（特開２０１６−００６６２７号公報）等がある。【０００３】  しかし、このような赤外光を利用した距離計測方式では、例えば太陽光が強い屋外や、照射した赤外光が届かない遠方の被写体の距離測定が困難となるという問題がある。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１３−２２０２５４号
【特許文献２】特開２０１６−００６６２７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】  本開示は、例えば、上記の問題点に鑑みてなされたものであり、本開示の一実施例においては、ＴＯＦ方式による正確な距離測定が困難な場合でも、正確な距離測定を可能とする画像処理装置、撮像装置、および画像処理方法、並びにプログラムを提供することを目的とする。【０００６】  また、本開示の一実施例においては、複数の画像を適用した高画質画像を生成する画像処理装置、撮像装置、および画像処理方法、並びにプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００７】  本開示の第１の側面は、  ２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、被写体距離を示す距離情報を生成する画像処理部を有し、  前記画像処理部は、  前記第２画像の赤外光成分を利用してＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離であるＴＯＦ距離を算出するＴＯＦ方式距離算出部と、  前記第１画像と前記第２画像の可視光成分を利用してステレオ方式に従った被写体距離であるステレオ距離を算出するステレオ方式距離算出部と、  前記ＴＯＦ距離の信頼度を判定するＴＯＦ距離信頼度判定部と、  前記ＴＯＦ距離の信頼度が低い画素領域について、前記ステレオ距離、または、ＴＯＦ距離とステレオ距離の合成距離情報を最終的な距離情報として生成する被写体距離情報生成部を有する画像処理装置にある。【０００８】  さらに、本開示の第２の側面は、  可視光成分から構成される第１画像を撮影する第１撮像部と、  可視光成分と赤外光成分を含む第２画像を撮影する第２撮像部と、  前記第１画像と前記第２画像を入力して、被写体距離を示す距離情報を生成する画像処理部を有し、  前記画像処理部は、  前記第２画像を利用してＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離算出を実行するＴＯＦ方式距離算出部と、  前記第１画像と前記第２画像を利用してステレオ方式に従った被写体距離算出を実行するステレオ方式距離算出部と、  前記ＴＯＦ方式距離算出部の算出した被写体距離であるＴＯＦ距離の信頼度を判定するＴＯＦ距離信頼度判定部と、  前記ＴＯＦ距離の信頼度に基づいて、最終的な距離情報を生成する被写体距離情報生成部を有し、  前記被写体距離情報生成部は、  前記ＴＯＦ距離の信頼度が低い画素領域について、前記ステレオ方式に従った被写体距離であるステレオ距離、または、ＴＯＦ距離とステレオ距離の合成処理によって算出した距離情報を最終的な距離情報として生成する撮像装置にある。【０００９】  さらに、本開示の第３の側面は、  ２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、合成画像を生成する画像処理部を有し、  前記第１画像は可視光成分から構成される画像であり、前記第２画像は可視光成分と赤外光成分を含む画像であり、  前記画像処理部は、  前記第２画像を可視光成分画像と赤外光成分画像に分離する赤外光分離部と、  前記第１画像と、前記赤外光分離部が前記第２画像に基づいて生成した可視光成分画像との合成処理を実行する画像合成部を有する画像処理装置にある。【００１０】  さらに、本開示の第４の側面は、  画像処理装置において実行する画像処理方法であり、  前記画像処理装置は、２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、被写体距離を示す距離情報を生成する画像処理部を有し、  前記画像処理部が、  前記第２画像の赤外光成分を利用してＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離であるＴＯＦ距離を算出するＴＯＦ方式距離算出処理と、  前記第１画像と前記第２画像の可視光成分を利用してステレオ方式に従った被写体距離であるステレオ距離を算出するステレオ方式距離算出処理と、  前記ＴＯＦ距離の信頼度を判定するＴＯＦ距離信頼度判定処理と、  前記ＴＯＦ��離の信頼度が低い画素領域について、前記ステレオ距離、または、ＴＯＦ距離とステレオ距離の合成距離情報を最終的な距離情報として生成する被写体距離情報生成処理を実行する画像処理方法にある。【００１１】  さらに、本開示の第５の側面は、  画像処理装置において実行する画像処理方法であり、  前記画像処理装置は、  ２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、合成画像を生成する画像処理部を有し、  前記第１画像は可視光成分から構成される画像であり、前記第２画像は可視光成分と赤外光成分を含む画像であり、  前記画像処理部が、  前記第２画像を可視光成分画像と赤外光成分画像に分離する赤外光分離処理と、  前記第１画像と、前記第２画像に基づいて生成した可視光成分画像との合成処理を実行する画像処理方法にある。【００１２】  さらに、本開示の第６の側面は、  画像処理装置において画像処理を実行させるプログラムであり、  前記画像処理装置は、２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、被写体距離を示す距離情報を生成する画像処理部を有し、  前記プログラムは、前記画像処理部に、  前記第２画像の赤外光成分を利用してＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離であるＴＯＦ距離を算出するＴＯＦ方式距離算出処理と、  前記第１画像と前記第２画像の可視光成分を利用してステレオ方式に従った被写体距離であるステレオ距離を算出するステレオ方式距離算出処理と、  前記ＴＯＦ距離の信頼度を判定するＴＯＦ距離信頼度判定処理と、  前記ＴＯＦ距離の信頼度が低い画素領域について、前記ステレオ距離、または、ＴＯＦ距離とステレオ距離の合成距離情報を最終的な距離情報として生成する被写体距離情報生成処理を実行させるプログラムにある。【００１３】  さらに、本開示の第７の側面は、  画像処理装置において画像処理を実行させるプログラムであり、  前記画像処理装置は、  ２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、合成画像を生成する画像処理部を有し、  前記第１画像は可視光成分から構成される画像であり、前記第２画像は可視光成分と赤外光成分を含む画像であり、  前記プログラムは、前記画像処理部に、  前記第２画像を可視光成分画像と赤外光成分画像に分離する赤外光分離処理と、  前記第１画像と、前記第２画像に基づいて生成した可視光成分画像との合成処理を実行させるプログラムにある。【００１４】  なお、本開示のプログラムは、例えば、様々なプログラム・コードを実行可能な情報処理装置やコンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、情報処理装置やコンピュータ・システム上でプログラムに応じた処理が実現される。【００１５】  本開示のさらに他の目的、特徴や利点は、後述する本開示の実施例や添付する図面に基づくより詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
【発明の効果】
【００１６】  本開示の一実施例の構成によれば、被写体の正確な距離情報の生成を行う装置、方法が実現される。  具体的には、可視光成分から構成される第１画像と、可視光成分と赤外光成分を含む第２画像を入力して被写体距離を算出する画像処理部を有し、画像処理部は、第２画像を利用してＴＯＦ方式に従って算出される被写体距離であるＴＯＦ距離と、第１画像と第２画像を利用してステレオ方式に従って算出されるステレオ距離の２つの距離情報を算出し、ＴＯＦ距離の信頼度を示すＴＯＦ距離信頼度を判定し、ＴＯＦ距離の信頼度が低い画素領域について、ステレオ方式に従った被写体距離であるステレオ距離、または、ＴＯＦ距離とステレオ距離の合成処理によって算出した距離情報を最終的な距離情報として生成する。  これらの処理により、被写体の正確な距離情報の生成を行う装置、方法が実現される。  なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
【図面の簡単な説明】
【００１７】
【図１】画像処理装置の構成例について説明する図である。
【図２】画像処理部の構成と処理について説明する図である。
【図３】赤外光分離処理について説明する図である。
【図４】ステレオ距離信頼度判定部の処理について説明する図である。
【図５】ＴＯＦ距離信頼度判定部の処理について説明する図である。
【図６】被写体距離情報生成部の実行する処理の一例について説明する図である。
【図７】被写体距離情報生成部の実行する処理の一例について説明する図である。
【図８】被写体距離情報生成部の実行する処理の一例について説明する図である。
【図９】被写体距離情報生成部の実行する処理の一例について説明する図である。
【図１０】距離情報生成処理シーケンスについて説明するフローチャートを示す図である。
【図１１】距離情報生成処理シーケンスについて説明するフローチャートを示す図である。
【図１２】距離情報生成処理シーケンスについて説明するフローチャートを示す図である。
【図１３】画像処理部の構成と処理について説明する図である。
【図１４】画像合成部の構成と処理について説明する図である。
【図１５】ブレンド実行部の実行する処理について説明する図である。
【図１６】ブレンド処理の効果について説明する図である。
【図１７】合成画像生成処理シーケンスについて説明するフローチャートを示す図である。
【発明を実施するための形態】
【００１８】  以下、図面を参照しながら本開示の画像処理装置、撮像装置、および画像処理方法、並びにプログラムの詳細について説明する。なお、説明は以下の項目に従って行う。  １．本開示の画像処理装置の構成と処理について  ２．距離（デプス）情報を生成する画像処理部の構成と処理について  ３．画像処理装置の実行する距離情報算出処理シーケンスについて  ３−１．ステレオ距離信頼度と、ＴＯＦ距離信頼度の２つの信頼度情報を用いた処理シーケンスについて  ３−２．ＴＯＦ距離信頼度のみの１つの信頼度情報を用いた処理シーケンスについて  ３−３．ＴＯＦ距離信頼度のみの１つの信頼度情報を用い、ステレオ距離情報、またはＴＯＦ距離情報のいずれかを、画素単位で選択して最終距離情報とする処理シーケンスについて  ４．画質を向上させた合成画像を生成する画像処理部の構成と処理について  ５．画像処理装置の実行する合成画像生成処理シーケンスについて  ６．本開示の構成のまとめ
【００１９】    ［１．本開示の画像処理装置の構成と処理について］  図１以下を参照して本開示の画像処理装置の構成と処理について説明する。  図１は、本開示の画像処理装置１００の一例である撮像装置の構成を示すブロック図である。  なお、本開示の画像処理装置は、撮像装置に限らず、例えば撮像装置の撮影画像を入力して画像処理を実行するＰＣ等の情報処理装置も含まれる。  以下では、本開示の画像処理装置１００の一例として、撮像装置の構成と処理について説明する。  以下の実施例において説明する撮影処理以外の画像処理は、撮像装置に限らず、ＰＣ等の情報処理装置において実行することも可能である。
【００２０】  図１に示す撮像装置としての画像処理装置１００は、制御部１０１、記憶部１０２、コーデック１０３、入力部１０４、出力部１０５、撮像部１０６、画像処理部１２０を有する。  撮像部１０６は、通常の画像撮影のみを行う第１に撮像部１０７と、赤外光照射を行い、赤外光と可視光を含む画像の撮影を行う第２撮像部１０８を有する。
【００２１】  第１撮像部１０７は、通常の画像撮影を行うための第１撮像素子１１１を有する。第１撮像素子１１１は、例えば、ベイヤ配列からなるＲＧＢカラーフィルタを有し、各画素単位でＲＧＢ各色の入力光対応の信号を出力するＲＧＢ画素配列型の撮像素子である。あるいはモノクロ画像を撮影する白黒（ＷＢ）センサ型の撮像素子としてもよい。
【００２２】  第２撮像部１０８は、赤外光を出力するＩＲ（赤外光）照射部１１３と、第２撮像素子１１２を有する。  第２撮像部１０８は、ＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式による被写体距離を計測するためのＩＲ（赤外光）照射部１１３と、赤外光と可視光を受光する第２撮像素子１１２を有する。
【００２３】  ＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式は、赤外光を被写体に照射して、反射した赤外光がカメラに入射されるまでに要した時間から被写体距離を算出する方式である。
【００２４】  なお、第２撮像素子１１２の受光する可視光領域は、第１撮像素子１１１と同様の領域とすることが好ましい。例えば、第１撮像素子１１１がＲＧＢ画素配列型の撮像素子である場合は、第２撮像素子１１２もＲＧＢ画素配列型の撮像素子とする。第１撮像素子１１１が白黒（ＷＢ）センサ型の撮像素子である場合は、第２撮像素子１１２も白黒（ＷＢ）センサ型の撮像素子とする。  ただし、第２撮像素子１１２は可視光に併せて赤外光（ＩＲ）も受光し、センサ出力には、可視光成分と赤外光（ＩＲ）成分が含まれる。
【００２５】  第１撮像部１０７と、第２撮像部１０８は、所定間隔、離れた位置に設定される２つの撮像部であり、それぞれの撮影画像は異なる視点からの画像となる。  異なる視点からの２つの画像の対応画素、すなわち同一位置の画素には同一の被写体画像が撮影されず、視差に応じた被写体ずれが発生する。  この位置ずれを利用してステレオ方式による被写体距離算出が行われる。
【００２６】  第１撮像部１０７と、第２撮像部１０８は、撮影画像が静止画である場合は、同一タイミングで２枚の静止画を撮影する。動画を撮影する場合は、各撮像部の撮影フレームは、同期した撮影フレーム、すなわち同一タイミングで順次撮影される連続した画像フレームとなる。  なお、これらの撮影タイミングの制御は制御部１０１によって行われる。
【００２７】  制御部１０１は、画像の撮影、撮影画像に対する信号処理、画像の記録処理、表示処理等、撮像装置１００において実行する各種の処理を制御する。制御部１０１は、例えば記憶部１０２に格納された様々な処理プログラムに従った処理を実行するＣＰＵ等を備え、プログラムを実行するデータ処理部として機能する。
【００２８】  記憶部１０２は、撮影画像の格納部、さらに、制御部１０１において実行する処理プログラムや、各種パラメータの記憶部、さらにデータ処理時のワークエリアとして機能するＲＡＭ，ＲＯＭ等によって構成される。  コーデック１０３は、撮影画像の圧縮、伸長処理等の符号化、復号処理を実行する。  入力部１０４は、例えばユーザ操作部であり、撮影開始、終了、様々なモード設定等の制御情報を入力する。  出力部１０５は表示部、スピーカ等によって構成され、撮影画像、スルー画等の表示、音声出力等に利用される。
【００２９】  画像処理部１２０は、撮像部１０６から入力する２枚の画像を入力し、これら２枚の画像を適用して、被写体距離（デプス）を算出する。さらに、２枚の画像を合成することでノイズを低減させた高画質画像を生成する。
【００３０】  画像処理部１２０は、生成した画像１５１、距離（デプス）情報１５２を出力する。  これらのデータは、例えば、記憶部１０２に格納される。あるいは画像１５１は出力部１０５を構成する表示部に出力される。  また、距離（デプス）情報１５２は、制御部１０２において実行される様々な処理に利用される。
【００３１】    ［２．距離（デプス）情報を生成する画像処理部の構成と処理について］  次に、図２以下を参照して、図１に示す画像処理装置１００の画像処理部１２０の構成と処理について説明する。
【００３２】  前述したように、画像処理部１２０は、撮像部１０６から入力する２枚の画像を入力し、これら２枚の画像を適用して、被写体距離（デプス）を示す距離（デプス）情報１５２を生成する。さらに、２枚の画像を合成することでノイズを低減させた高画質画像としての画像１５１を生成する。  まず、画像処理部１２０において実行する距離（デプス）情報１５２の生成処理について説明する。
【００３３】  図２は、画像処理装置１００の画像処理部１２０の一部構成を示すブロック図である。  図２には、画像処理部１２０の構成中、距離（デプス）情報１５２の生成処理に適用する構成を示している。
【００３４】  図２に示ように、画像処理部１２０は、赤外光（ＩＲ）分離部１２１、ステレオ方式距離算出部１２２、ＴＯＦ方式距離算出部１２３、ステレオ距離信頼度判定部１２４、ＴＯＦ距離信頼度判定部１２５、被写体距離情報生成部１２６を有する。  画像処理部１２０は、被写体距離情報生成部１２６の生成した距離（デプス）情報１５２を出力する。  距離（デプス）情報１５２は、撮影画像に含まれる被写体について、各画素単位の距離情報を有するデータである。
【００３５】  画像処理部１２０に対する入力信号は、以下の各信号である。  （１）第１撮像部１０７から入力する可視光画像２００、  （２）第２撮像部１０８から入力する可視光＋赤外光画像２０１、
【００３６】  まず、赤外光（ＩＲ）分離部１２１が、第２撮像部１０８から入力する可視光＋赤外光画像２０１を入力し、可視光＋赤外光画像２０１の赤外光（ＩＲ）分離処理を実行する。  赤外光（ＩＲ）分離部１２１の実行する赤外光（ＩＲ）分離処理の具体例について、図３を参照して説明する。
【００３７】  図３は、第２撮像部１０８の第２撮像素子１１２が、以下の２つの構成である場合の各々の赤外光分離処理について説明する図である。  （１）ＩＲカットフィルタなしＷＢ（白黒）センサ利用例  （２）ＩＲカットフィルタなしＲＧＢセンサ利用例
【００３８】  まず、図３の「（１）ＩＲカットフィルタなしＷＢ（白黒）センサ利用例」を参照して、第２撮像部１０８の第２撮像素子１１２が、ＩＲカットフィルタなしＷＢ（白黒）センサである場合の赤外光分離処理について説明する。
【００３９】  この場合、赤外光（ＩＲ）分離部１２１は、第２撮像部１０８の第２撮像素子１１２からの出力信号に対して、以下の処理を実行して、可視光と赤外光を分離する。  赤外光（ＩＲ）＝黒（Ｂ）画素から取得  可視光＝白（Ｗ）画素出力−黒（Ｂ）画素出力
【００４０】  ただし、可視光については、位相合わせのため、所定領域単位の画素領域単位で、白（Ｗ）画素出力と、黒（Ｂ）画素出力の平均値（Ａｖｅ）を算出して、算出平均値の差分を可視光出力信号として算出することが好ましい。すなわち、以下の式に従って、可視光画像出力を得る。  可視光画像＝Ａｖｅ（白（Ｗ）画素出力）−Ａｖｅ（黒（Ｂ）画素出力）
【００４１】  次に、図３に示す「（２）ＩＲカットフィルタなしＲＧＢセンサ利用例」を参照して、第２撮像部１０８の第２撮像素子１１２が、ＩＲカットフィルタなしＲＧＢセンサである場合の赤外光分離処理について説明する。
【００４２】  この場合、赤外光（ＩＲ）分離部１２１は、第２撮像部１０８の第２撮像素子１１２からの出力信号に対して、以下の（式１）に示すマトリックス演算を実行して、可視光と赤外光を分離する。
【００４３】
【数１】
2017159312.tif 000003
【００４４】  上記（式１）に示すα１１〜α３２は、センサ特性に応じて決定される分離パラメータである。
【００４５】  このように、赤外光（ＩＲ）分離部１２１は、第２撮像部１０８の第２撮像素子１１２が、  （１）ＩＲカットフィルタなしＷＢ（白黒）センサ、  （２）ＩＲカットフィルタなしＲＧＢセンサ。  上記のいずれであるかによって、図３を参照して説明した異なる処理を実行して、第２撮像部１０８の第２撮像素子１１２の出力信号、すなわち、図２に示す「可視光＋赤外光画像２０１」から可視光と赤外光を分離する。
【００４６】  図２に示すように、赤外光（ＩＲ）分離部１２１の分離処理によって生成された可視光画像２０２は、ステレオ方式距離算出部１２２に入力される。  また、赤外光（ＩＲ）分離部１２１の分離処理によって生成された赤外光画像２０３は、ＴＯＦ方式距離算出部１２３に入力される。
【００４７】  次に、ステレオ方式距離算出部１２２の処理について説明する。  ステレオ方式距離算出部１２２は、以下の画像を入力する。  （１）第１撮像部１０７の撮影画像である可視光画像２００、  （２）第２撮像部１０８撮影画像から生成された可視光画像２０２、
【００４８】  前述したように、第１撮像部１０７と、第２撮像部１０８は、所定間隔、離れた位置に設定される２つの撮像部であり、それぞれの撮影画像（可視光画像２００、可視光画像２０２）は異なる視点からの画像となる。  異なる視点からの２つの画像、すなわち可視光画像２００と、可視光画像２０２との対応画素、すなわち同一位置の画素には同一の被写体画像が撮影されず、視差に応じた被写体ずれが発生する。  ステレオ方式距離算出部１２２は、この位置ずれを利用してステレオ方式による被写体距離算出を実行する。
【００４９】  具体的には、まず、第１撮像部１０７から入力する可視光画像２００と、第２撮像部１０８から入力する可視光画像２０２の２つの画像信号を用いて視差量を算出する。さらに、第１撮像部１０７と第２撮像部１０８との間隔である基線長と視差量に基づき三角測量によって被写体までの距離を算出する。  なお、この距離算出は、画像を構成する画素単位、あるいは複数画素からなる画素領域単位で実行される。  ステレオ方式距離算出部１２２の生成した被写体距離情報は、図２に示すようにステレオ距離情報２０４として、被写体距離情報生成部１２６に入力される。
【００５０】  次に、ＴＯＦ方式距離算出部１２３の処理について説明する。  ＴＯＦ方式距離算出部１２３は、以下の画像を入力する。  （１）第２撮像部１０８撮影画像から生成された赤外光（ＩＲ）画像２０３、
【００５１】  前述したように、ＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式は、赤外光を被写体に照射して、反射した赤外光がカメラに入射されるまでに要した時間から被写体距離を算出する方式である。
【００５２】  ＴＯＦ方式距離算出部１２３は、第２撮像部１０８の赤外光（ＩＲ）照射部１１３の赤外光照射タイミングから、第２撮像素子１１２における赤外光受光タイミングまでの時間を計測し、被写体距離を算出する。  なお、この被写体距離算出も、前述のステレオ方式と同様、画素単位、または所定数の画素からなる画素領域単位で実行される。
【００５３】  しかし、このような赤外光を利用した距離計測方式では、例えば太陽光が強い屋外や、照射した赤外光が届かない遠方の被写体の距離測定が困難となるという問題がある。  ＴＯＦ方式距離算出部１２３の生成した被写体距離情報は、図２に示すようにＴＯＦ距離情報２０５として、被写体距離情報生成部１２６に入力される。
【００５４】  次に、ステレオ距離信頼度判定部１２４の実行する処理について説明する。  ステレオ距離信頼度判定部１２４は、ステレオ方式距離算出部１２２の生成した被写体距離情報が信頼できるデータであるか否かを判定し、図２に示すように判定情報からなるステレオ信頼度２０６を生成して被写体距離情報生成部１２６に出力する。
【００５５】  なお、ステレオ距離信頼度判定部１２４の生成するステレオ信頼度２０６には、ステレオ方式距離算出部１２２の生成した画素単位または画素領域単位の被写体距離情報各々についての信頼度情報が含まれる。
【００５６】  ステレオ距離信頼度判定部１２４の実行する信頼度判定処理の具体例について、図４を参照して説明する。  図４に示す例は、ステレオ方式距離算出部１２２において実行する２つの画像の対応点検出におけるブロックマッチング処理に適用したブロック構成画素の分散値を用いて信頼度を判定する処理である。
【００５７】  ステレオ方式距離算出部１２２では、２つの異なる視点から撮影された画像、すなわち、  （１）第１撮像部１０７の撮影画像である可視光画像２００、  （２）第２撮像部１０８撮影画像から生成された可視光画像２０２、  これらの画像間の対応する画素ブロック、すなわち同一被写体が撮影されていると推定される画素ブロックを検出する、いわゆるブロックマッチング処理を実行する。
【００５８】  このブロックマッチングでは、利用する画素ブロックにエッジやテクスチャ等の特徴的な画像が含まれていれば、マッチング（対応付け）を正しく行なうことができる。すなわち高精度なブロックマッチングが可能となり、高精度な距離算出が可能となる。一方、例えば空のように特徴のない平坦な画像領域では、正しいマッチング（対応付け）が困難となる。結果として高精度な距離算出が難しくなる。
【００５９】  図４に示す例は、この特性を利用したステレオ距離の信頼度判定処理例である。  図４に示すグラフは、横軸が、ブロックマッチング処理に適用したブロック構成画素の分散値、縦軸が、ステレオ距離の信頼度βである。  なお、ステレオ距離の信頼度βは、０〜１の範囲の設定であり、数値が低いほど低信頼度であり、数値が高いほど高高信頼度であることを示す。
【００６０】  ブロックの分散値が大きい場合、ブロックに特徴的な画像、例えばエッジ部分やテクスチャ等の画像が多く含まれていることを意味し、ブロックマッチングの精度が高まる特徴的なブロックであることを意味する。  このようにブロック分散値が大である場合、ステレオ方式距離算出部１２２が算出したステレオ距離の信頼度βは、より高い値、すなわち１に近い値となる。
【００６１】  一方、ブロックの分散値が小さい場合、ブロックは、エッジ部分やテクスチャ等の画像が少なく、例えば空等の画素値の変化の少ない平坦な画像によって構成されるブロックであることを意味し、ブロックマッチングの精度が低下するブロックであることを意味する。  このようにブロック分散値が小である場合、ステレオ方式距離算出部１２２が算出したステレオ距離の信頼度βは、より低い値、すなわち０に近い値となる。
【００６２】  ステレオ距離信頼度判定部１２４は、ステレオ方式距離算出部１２２が算出したステレオ距離の信頼度βを、例えばブロック単位で実行し、ブロック単位、またはブロック構成画素単位の距離情報信頼度を生成する。  この信頼度情報が図２に示すステレオ信頼度２０６である。
【００６３】  ステレオ距離信頼度判定部１２４は、図２に示すように生成したステレオ信頼度２０６を被写体距離情報生成部１２６に出力する。
【００６４】  次に、ＴＯＦ距離信頼度判定部１２５の実行する処理について説明する。  ＴＯＦ距離信頼度判定部１２５は、ＴＯＦ方式距離算出部１２３の生成した被写体距離情報が信頼できるデータであるか否かを判定し、図２に示すように判定情報からなるＴＯＦ信頼度２０７を生成して被写体距離情報生成部１２６に出力する。
【００６５】  なお、ＴＯＦ距離信頼度判定部１２５の生成するＴＯＦ信頼度２０６には、ＴＯＦ方式距離算出部１２３の生成した画素単位または画素領域単位の被写体距離情報各々についての信頼度情報が含まれる。
【００６６】  ＴＯＦ距離信頼度判定部１２５の実行する信頼度判定処理の具体例について、図５を参照して説明する。  図５に示す例は、ＴＯＦ方式距離算出部１２３において実行するＴＯＦ方式に従った距離計測で利用する赤外光（ＩＲ）の非照射時の受光量を用いて信頼度を判定する処理である。
【００６７】  前述したように、ＴＯＦ方式距離算出部１２３では、第２撮像部１０８の赤外光（ＩＲ）照射部１１３の赤外光照射タイミングから、第２撮像素子１１２における赤外光受光タイミングまでの時間を計測し、被写体距離を算出する。
【００６８】  しかし、自然界にも赤外光は、存在し、特に太陽光には多くの赤外光成分が含まれる。  第２撮像部１０８の第２撮像素子１１２は、赤外光（ＩＲ）照射部１１３の照射する赤外光のみならず、このような赤外光（ＩＲ）照射部１１３の照射光以外の赤外光も受光する。
【００６９】  例えば晴れた日の屋外等、赤外光成分を含む太陽光の下で画像撮影を行った場合には、第２撮像素子１１２が、赤外光（ＩＲ）照射部１１３が照射した赤外光以外の自然界の赤外光を多く受光してしまう。このような状況では、赤外光（ＩＲ）照射部１１３の赤外光照射タイミングから、第２撮像素子１１２における赤外光受光タイミングまでの時間の計測精度が低下する。結果として高精度な距離算出が難しくなる。
【００７０】  一方、夜間や、室内等、赤外光成分を含む太陽光の影響の少ない環境で画像撮影を行った場合等には、第２撮像素子１１２が、赤外光（ＩＲ）照射部１１３の照射光以外の赤外光を受光する可能性が低減する。この結果、赤外光（ＩＲ）照射部１１３の赤外光照射タイミングから、第２撮像素子１１２における赤外光受光タイミングまでの時間の計測精度が高くなり高精度な距離算出が可能となる。
【００７１】  図５に示す例は、この特性を利用したＴＯＦ距離の信頼度判定処理例である。  図５に示すグラフは、横軸が、赤外光（ＩＲ）照射部１１３による赤外光の非照射時の第２撮像素子１１２による赤外光（ＩＲ）の受光強度、縦軸が、ＴＯＦ距離の信頼度αである。  なお、ＴＯＦ距離の信頼度αは、０〜１の範囲の設定であり、数値が低いほど低信頼度であり、数値が高いほど高信頼度であることを示す。
【００７２】  赤外光（ＩＲ）照射部１１３による赤外光の非照射時に、赤外光の受光強度が大きい場合、太陽光等、外的要因の赤外光が多いことを意味し、正確なＴＯＦ距離計測が困難となることを意味する。  このように赤外光（ＩＲ）照射部１１３による赤外光非照射時の受光強度が大きい場合、ＴＯＦ方式距離算出部１２３が算出したＴＯＦ距離の信頼度αは、より低い値、すなわち０に近い値となる。
【００７３】  一方、赤外光（ＩＲ）照射部１１３による赤外光非照射時の受光強度が小さい場合、太陽光等、外的要因の赤外光が少ないことを意味し、正確なＴＯＦ距離計測が可能となることを意味する。  このように赤外光（ＩＲ）照射部１１３による赤外光非照射時の受光強度が小さい場合、ＴＯＦ方式距離算出部１２３が算出したＴＯＦ距離の信頼度αは、より高い値、すなわち１に近い値となる。
【００７４】  ＴＯＦ距離信頼度判定部１２５は、ＴＯＦ方式距離算出部１２３が算出したＴＯＦ距離の信頼度αを、例えば画素単位、または画素領域単位で算出する。  この信頼度情報が図２に示すＴＯＦ信頼度２０７である。
【００７５】  ＴＯＦ距離信頼度判定部１２５は、図２に示すように生成したＴＯＦ信頼度２０７を被写体距離情報生成部１２６に出力する。
【００７６】  次に、被写体距離情報生成部１２６の実行する被写体距離情報生成処理について説明する。  図２に示すように、被写体距離情報生成部１２６は、以下の各データを入力する。  （１）ステレオ方式距離算出部１２２の算出したステレオ距離情報２０４、  （２）ＴＯＦ方式距離算出部１２３の算出したＴＯＦ距離情報２０５、  （３）ステレオ距離信頼度判定部１２４の生成したステレオ信頼度２０６、  （４）ＴＯＦ距離信頼度判定部１２５の生成したＴＯＦ信頼度２０７
【００７７】  被写体距離情報生成部１２６は、これらの各データを入力し、ステレオ方式距離算出部１２２の算出したステレオ距離情報２０４と、ＴＯＦ方式距離算出部１２３の算出したＴＯＦ距離情報２０５のいずれか、あるいはブレンド処理によって生成した最終的な距離情報を生成して、距離（デプス）情報１５２として出力する。
【００７８】  なお、被写体距離情報生成部１２６は、ステレオ信頼度２０６や、ＴＯＦ信頼度２０７に基づいて、信頼度の高いと判定されるいずれか一方の距離情報、あるいはブレンド処理によって生成した最終的な距離情報を生成して、距離（デプス）情報１５２として出力する。  なお、これらの信頼度判定に基づく最終的な距離情報の生成は、画素単位、または画素領域単位で実行される。
【００７９】  被写体距離情報生成部１２６の実行する具体的な処理例について、図６以下を参照して説明する。  被写体距離情報生成部１２６は、上述したように、ステレオ信頼度２０６と、ＴＯＦ信頼度２０７に基づいて、信頼度の高い一方の距離情報を選択、あるいはブレンド処理によって最終的な距離情報を生成して、距離（デプス）情報１５２として出力する。
【００８０】  図６に示す例は、ＴＯＦ方式距離算出部１２３の算出したＴＯＦ距離情報２０５を優先的に選択する設定とした処理例である。  図６に示すグラフは、  横軸が、ＴＯＦ距離信頼度判定部１２５の生成したＴＯＦ信頼度α、  縦軸が、ステレオ距離信頼度判定部１２４の生成したステレオ信頼度β、  である。  信頼度α、βはいずれも０〜１の範囲の値であり、最低の信頼度が０、最高の信頼度が１となる。
【００８１】  図６に示すグラフは、（ａ），（ｂ），（ｃ）の３つの領域に分割されている。  領域（ａ）は、  ＴＯＦ信頼度α≧Ｔｈ１  ステレオ信頼度β＝０〜１  これらの条件に該当する領域である。  なお、Ｔｈ１は信頼度しきい値であり、例えば、Ｔｈ１＝０．５である。
【００８２】  領域（ｂ）は、  ＴＯＦ信頼度α＜Ｔｈ１  ステレオ信頼度β≧Ｔｈ２  これらの条件に該当する領域である。  なお、Ｔｈ２も信頼度しきい値であり、例えば、Ｔｈ２＝０．５である。
【００８３】  領域（ｃ）は、  ＴＯＦ信頼度α＜Ｔｈ１  ステレオ信頼度β＜Ｔｈ２  これらの条件に該当する領域である。
【００８４】  被写体距離情報生成部１２６は、  （１）ステレオ距離信頼度判定部１２４の生成したステレオ信頼度β、  （２）ＴＯＦ距離信頼度判定部１２５の生成したＴＯＦ信頼度α、  これらの２つの信頼度が、領域（ａ）〜（ｃ）のどこに該当するかを判定し、各領域に応じて以下のように、最終的な距離情報、すなわち図２に示す被写体距離情報生成部１２６の出力である距離（デプス）情報１５２を生成する。
【００８５】  領域（ａ）、すなわち、  ＴＯＦ信頼度α≧Ｔｈ１  ステレオ信頼度β＝０〜１  これらの条件に該当する領域は、ＴＯＦ信頼度αが比較的高いと判定される領域である。  被写体距離情報生成部１２６は、この領域に対応する画素、または画素領域について、ＴＯＦ方式距離算出部１２３の算出したＴＯＦ距離情報２０５を、最終的な距離情報、すなわち図２に示す距離（デプス）情報１５２の構成データとする。
【００８６】  領域（ｂ）、すなわち、  ＴＯＦ信頼度α＜Ｔｈ１  ステレオ信頼度β≧Ｔｈ２  これらの条件に該当する領域は、ＴＯＦ信頼度αが比較的低く、ステレオ信頼度βが比較的高いと判定される領域である。  被写体距離情報生成部１２６は、この領域に対応する画素、または画素領域について、ステレオ方式距離算出部１２２の算出したステレオ距離情報２０４を、最終的な距離情報、すなわち図２に示す距離（デプス）情報１５２の構成データとする。
【００８７】  領域（ｃ）、すなわち、  ＴＯＦ信頼度α＜Ｔｈ１  ステレオ信頼度β＜Ｔｈ２  これらの条件に該当する領域は、ＴＯＦ信頼度αが比較的低く、ステレオ信頼度βも比較的低いと判定される領域である。  被写体距離情報生成部１２６は、この領域に対応する画素、または画素領域について、ＴＯＦ方式距離算出部１２３の算出したＴＯＦ距離情報２０５と、ステレオ方式距離算出部１２２の算出したステレオ距離情報２０４とのブレンド（合成）処理結果を、最終的な距離情報、すなわち図２に示す距離（デプス）情報１５２の構成データとする。  なお、ブレンド（合成）処理の具体例については後述する。
【００８８】  図６に示す処理例は、ＴＯＦ方式距離算出部１２３の算出したＴＯＦ距離情報２０５を優先的に選択する設定とした処理例である。  次に、図７を参照して、ステレオ方式距離算出部１２２の算出したステレオ距離情報２０４を優先的に選択する設定とした処理例について説明する。
【００８９】  図７に示すグラフは、図６に示すグラフと同様、  横軸が、ＴＯＦ距離信頼度判定部１２５の生成したＴＯＦ信頼度α、  縦軸が、ステレオ距離信頼度判定部１２４の生成したステレオ信頼度β、  である。  信頼度α、βはいずれも０〜１の範囲の値であり、最低の信頼度が０、最高の信頼度が１となる。
【００９０】  図７に示すグラフは、（ｄ），（ｅ），（ｆ）の３つの領域に分割されている。  領域（ｄ）は、  ステレオ信頼度β≧Ｔｈ２  ＴＯＦ信頼度α＝０〜１  これらの条件に該当する領域である。  なお、Ｔｈ２は信頼度しきい値であり、例えば、Ｔｈ２＝０．５である。
【００９１】  領域（ｅ）は、  ステレオ信頼度β＜Ｔｈ２  ＴＯＦ信頼度α≧Ｔｈ１  これらの条件に該当する領域である。  なお、Ｔｈ１も信頼度しきい値であり、例えば、Ｔｈ１＝０．５である。
【００９２】  領域（ｆ）は、  ステレオ信頼度β＜Ｔｈ２  ＴＯＦ信頼度α＜Ｔｈ１  これらの条件に該当する領域である。
【００９３】  被写体距離情報生成部１２６は、  （１）ステレオ距離信頼度判定部１２４の生成したステレオ信頼度β、  （２）ＴＯＦ距離信頼度判定部１２５の生成したＴＯＦ信頼度α、  これらの２つの信頼度が、領域（ｄ）〜（ｆ）のどこに該当するかを判定し、各領域に応じて以下のように、最終的な距離情報、すなわち図２に示す被写体距離情報生成部１２６の出力である距離（デプス）情報１５２を生成する。
【００９４】  領域（ｄ）、すなわち、  ステレオ信頼度β≧Ｔｈ２  ＴＯＦ信頼度α＝０〜１  これらの条件に該当する領域は、ステレオ信頼度βが比較的高いと判定される領域である。  被写体距離情報生成部１２６は、この領域に対応する画素、または画素領域について、ステレオ方式距離算出部１２２の算出したステレオ距離情報２０４を、最終的な距離情報、すなわち図２に示す距離（デプス）情報１５２の構成データとする。
【００９５】  領域（ｅ）、すなわち、  ステレオ信頼度β＜Ｔｈ２  ＴＯＦ信頼度α≧Ｔｈ１  これらの条件に該当する領域は、ステレオ信頼度βが比較的低く、ＴＯＦ信頼度αが比較的高いと判定される領域である。  被写体距離情報生成部１２６は、この領域に対応する画素、または画素領域について、ＴＯＦ方式距離算出部１２３の算出したＴＯＦ距離情報２０５を、最終的な距離情報、すなわち図２に示す距離（デプス）情報１５２の構成データとする。
【００９６】  領域（ｆ）、すなわち、  ステレオ信頼度β＜Ｔｈ２  ＴＯＦ信頼度α＜Ｔｈ１  これらの条件に該当する領域は、ステレオ信頼度βが比較的低く、ＴＯＦ信頼度αも比較的低いと判定される領域である。  被写体距離情報生成部１２６は、この領域に対応する画素、または画素領域について、ＴＯＦ方式距離算出部１２３の算出したＴＯＦ距離情報２０５と、ステレオ方式距離算出部１２２の算出したステレオ距離情報２０４とのブレンド（合成）処理結果を、最終的な距離情報、すなわち図２に示す距離（デプス）情報１５２の構成データとする。  なお、ブレンド（合成）処理の具体例については後述する。
【００９７】  さらに、図８を参照して、ステレオ方式距離算出部１２２の算出したステレオ距離情報２０４を優先的に選択する設定としたもう１つの処理例について説明する。  図８に示すグラフは、図６に示すグラフと同様、  横軸が、ＴＯＦ距離信頼度判定部１２５の生成したＴＯＦ信頼度α、  縦軸が、ステレオ距離信頼度判定部１２４の生成したステレオ信頼度β、  である。  信頼度α、βはいずれも０〜１の範囲の値であり、最低の信頼度が０、最高の信頼度が１となる。
【００９８】  図８に示すグラフは、（ｇ），（ｈ）の２つの領域に分割されている。  領域（ｇ）は、  ステレオ信頼度β≧Ｔｈ２  ＴＯＦ信頼度α＝０〜１、  または、  ステレオ信頼度β＜Ｔｈ２  ＴＯＦ信頼度α＜Ｔｈ１、  これら、いずれかの条件に該当する領域である。  なお、Ｔｈ１，Ｔｈ２は信頼度しきい値であり、例えば、Ｔｈ１＝０．５，Ｔｈ２＝０．５である。
【００９９】  領域（ｈ）は、  ステレオ信頼度β＜Ｔｈ２  ＴＯＦ信頼度α≧Ｔｈ１  これらの条件に該当する領域である。
【０１００】  被写体距離情報生成部１２６は、  （１）ステレオ距離信頼度判定部１２４の生成したステレオ信頼度β、  （２）ＴＯＦ距離信頼度判定部１２５の生成したＴＯＦ信頼度α、  これらの２つの信頼度が、領域（ｇ）〜（ｈ）のどこに該当するかを判定し、各領域に応じて以下のように、最終的な距離情報、すなわち図２に示す被写体距離情報生成部１２６の出力である距離（デプス）情報１５２を生成する。
【０１０１】  領域（ｇ）、すなわち、  ステレオ信頼度β≧Ｔｈ２  ＴＯＦ信頼度α＝０〜１、  または、  ステレオ信頼度β＜Ｔｈ２  ＴＯＦ信頼度α＜Ｔｈ１、  これら、いずれかの条件に該当する領域は、  ステレオ信頼度βが比較的高い領域、または、  ステレオ信頼度β、ＴＯＦ信頼度αの双方が比較的低い領域、  これらのいずれかの領域である。  被写体距離情報生成部１２６は、この領域に対応する画素、または画素領域について、ステレオ方式距離算出部１２２の算出したステレオ距離情報２０４を、最終的な距離情報、すなわち図２に示す距離（デプス）情報１５２の構成データとする。
【０１０２】  領域（ｈ）、すなわち、  ステレオ信頼度β＜Ｔｈ２  ＴＯＦ信頼度α≧Ｔｈ１  これらの条件に該当する領域は、ステレオ信頼度βが比較的低く、ＴＯＦ信頼度αが比較的高いと判定される領域である。  被写体距離情報生成部１２６は、この領域に対応する画素、または画素領域について、ＴＯＦ方式距離算出部１２３の算出したＴＯＦ距離情報２０５と、ステレオ方式距離算出部１２２の算出したステレオ距離情報２０４とのブレンド（合成）処理結果を、最終的な距離情報、すなわち図２に示す距離（デプス）情報１５２の構成データとする。  なお、ブレンド（合成）処理の具体例については後述する。
【０１０３】  図６、図７、図８を参照して説明したように、被写体距離情報生成部１２６は、  （１）ステレオ距離信頼度判定部１２４の生成したステレオ信頼度β、  （２）ＴＯＦ距離信頼度判定部１２５の生成したＴＯＦ信頼度α、  これらの２つの信頼度が、予め規定した信頼度区分領域のどこに該当するかを判定し、各領域に応じて以下のように、最終的な距離情報、すなわち図２に示す被写体距離情報生成部１２６の出力である距離（デプス）情報１５２を生成する。
【０１０４】  被写体距離情報生成部１２６の実行する２つの距離情報のブレンド（合成）処理の具体例について説明する。  図９には、図８を参照して説明した処理例と同様の被写体距離情報生成部１２６の処理例を示している。
【０１０５】  図９（１）は、ＴＯＦ距離信頼度が、比較的高いと推定される場合（Ｔｈ１≦ＴＯＦ信頼度α）の処理例を示している。  図８のグラフの右半分（Ｔｈ１≦ＴＯＦ信頼度α）の領域に対応する。
【０１０６】  図９（ｈ）は、図８（ｈ）の領域に対応し、ステレオ距離情報とＴＯＦ距離情報のブレンド処理を行ない、ブレンド（合成）処理結果を最終的な距離情報とする。  図９（ｇ１）は、図８（ｇ）の右側（Ｔｈ１≦ＴＯＦ信頼度α）の領域に対応する。  この領域では、ステレオ距離情報のステレオ信頼度βが十分高いため、ステレオ距離情報を最終的な距離情報とする。
【０１０７】  図９（２）は、ＴＯＦ距離信頼度が、比較的低いと推定される場合（ＴＯＦ信頼度α＜Ｔｈ１）の処理例を示している。  図８のグラフの左半分（ＴＯＦ信頼度α＜Ｔｈ１）の領域に対応する。
【０１０８】  図９（ｇ２）は、図８（ｇ）の左側（ＴＯＦ信頼度α＜Ｔｈ１）の領域に対応する。  この領域では、ＴＯＦ距離情報のＴＯＦ信頼度αが低いため、ステレオ距離情報を最終的な距離情報とする。
【０１０９】  図９（１）には、ステレオ距離情報とＴＯＦ距離情報のブレンド処理の具体的な処理例について示している。  ステレオ距離情報とＴＯＦ距離情報のブレンド処理は、様々な処理が可能である。  以下の、３つのブレンド処理例について説明する。  （ａ）平均化によるブレンド処理  （ｂ）ＴＯＦ信頼度αをブレンド率設定パラメータとして適用したブレンド処理  （ｃ）ステレオ信頼度βをブレンド率設定パラメータとして適用したブレンド処理
【０１１０】  これらの３種類のブレンド処理による最終的な距離情報［ｄｅｐｔｈ］は、  ステレオ方式距離算出部１２２の生成したステレオ距離情報２０４を［ｄｅｐｔｈｓｔｅｒｅｏ］、  ＴＯＦ方式距離算出部１２３の生成したＴＯＦ距離情報２０５を［ｄｅｐｔｈＴＯＦ］、  としたとき、以下の（式２ａ）〜（式２ｃ）で算出される。
【０１１１】
【数２】
2017159312.tif 000004
【０１１２】  なお、上記（式２ａ）〜（式２ｃ）は距離情報のブレンド処理の一例であり、そのたの様々な態様によるブレンド処理が適用可能である。
【０１１３】    ［３．画像処理装置の実行する距離情報算出処理シーケンスについて］  次に、図１０以下のフローチャートを参照して、画像処理装置の実行する距離情報算出処理シーケンスについて説明する。
【０１１４】  図１０〜図１２に示すフローチャートは、画像処理装置１００の実行する３種類の異なる距離情報算出処理シーケンスを説明するフローチャートである。  具体的には、それぞれ以下の態様の距離情報算出処理シーケンスに対応する。  （１）ステレオ距離信頼度と、ＴＯＦ距離信頼度の２つの信頼度情報を用いた処理シーケンス（図１０）  （２）ＴＯＦ距離信頼度のみの１つの信頼度情報を用いた処理シーケンス（図１１）  （３）ＴＯＦ距離信頼度のみの１つの信頼度情報を用い、ステレオ距離情報、またはＴＯＦ距離情報のいずれかを、画素単位で選択して最終距離情報とする処理シーケンス（図１２）
【０１１５】  なお、図１０以下に示すフローチャートは、例えば記憶部に格納された処理プログラムに従った処理を実行するＣＰＵ等を備えた制御部（データ処理部）の制御の下で実行される。  以下、図１０に示すフローチャートの各ステップの処理について、順次、説明する。
【０１１６】    ［３−１．ステレオ距離信頼度と、ＴＯＦ距離信頼度の２つの信頼度情報を用いた処理シーケンスについて］  まず、図１０に示すフローチャートを参照して、ステレオ距離信頼度と、ＴＯＦ距離信頼度の２つの信頼度情報を用いた処理シーケンスについて説明する。  以下、各ステップの処理について、順次、説明する。
【０１１７】    （ステップＳ１０１ａ，１０１ｂ）  ステップＳ１０１ａ，１０１ｂは、画像撮影処理である。  図１、図２に示す第１撮像部１０７と、第２撮像部１０８において２枚の画像が撮影される。  ステップＳ１０１ａは、図２に示す第１撮像部１０７における可視光画像２００の撮影処理である。  ステップＳ１０１ｂは、図２に示す第２撮像部１０８における可視光＋赤外光画像２０１の撮影処理である。
【０１１８】    （ステップＳ１０２）  ステップＳ１０２は、図２に示す赤外光（ＩＲ）分離部１２１の実行する処理である。  赤外光（ＩＲ）分離部１２１は、ステップＳ１０２において、ステップＳ１０１ｂで第２撮像部１０８が撮影した可視光＋赤外光画像２０１を入力し、赤外光（ＩＲ）分離処理を実行し、図２に示す可視光画像２０２と、赤外光画像２０３を生成する。  この赤外光（ＩＲ）分離処理は、先に図３を参照して説明した処理である。
【０１１９】    （ステップＳ１０３）  次のステップＳ１０３の処理は、図２に示すＴＯＦ方式距離算出部１２３の実行する処理である。  ＴＯＦ方式距離算出部１２３は、ステップＳ１０３において、ＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離算出処理を実行する。
【０１２０】  ＴＯＦ方式距離算出部１２３は、ステップＳ１０２において赤外光（ＩＲ）分離部１２１の生成した赤外光画像２０３を利用して、図２に示す第２撮像部１０８の赤外光（ＩＲ）照射部１１３の赤外光照射タイミングから、第２撮像素子１１２における赤外光受光タイミングまでの時間を計測し、被写体距離を算出する。  なお、この被写体距離算出は、画素単位、または所定数の画素からなる画素領域単位で実行される。
【０１２１】    （ステップＳ１０４）  次のステップＳ１０４の処理は、図２に示すステレオ方式距離算出部１２２の実行する処理である。  ステレオ方式距離算出部１２２は、ステップＳ１０４において、ステレオ方式に従った被写体距離算出処理を実行する。
【０１２２】  具体的には、ステップＳ１０１ａにおいて、第１撮像部１０７が撮影した可視光画像２００と、ステップＳ１０１ｂにおいて第２撮像部１０８が撮影し、ステップＳ１０２において生成された可視光画像２０２の２つの画像信号を用いて算出した視差量と、第１撮像部１０７と第２撮像部１０８との間隔である基線長とに基づく三角測量によって被写体までの距離を算出する。  なお、この距離算出は、画像を構成する画素単位、あるいは複数画素からなる画素領域単位で実行される。
【０１２３】    （ステップＳ１０５）  次のステップＳ１０５の処理は、図２に示すステレオ距離信頼度判定部１２４の実行する処理である。  ステレオ距離信頼度判定部１２４は、ステップＳ１０５において、ステレオ方式距離算出部１２２の生成した被写体距離情報が信頼できるデータであるか否かを判定し、図２に示すように判定情報からなるステレオ信頼度２０６を生成して被写体距離情報生成部１２６に出力する。
【０１２４】  なお、ステレオ距離信頼度判定部１２４の生成するステレオ信頼度２０６には、ステレオ方式距離算出部１２２の生成した画素単位または画素領域単位の被写体距離情報各々についての信頼度情報が含まれる。
【０１２５】  ステレオ距離信頼度判定部１２４は、先に図４を参照して説明したように、例えばステレオ方式距離算出部１２２におけるブロックマッチング処理に適用したブロック構成画素の分散値を用いて信頼度を判定する。
【０１２６】  ブロック分散値が大である場合、ステレオ距離信頼度βは、より高い値、すなわち１に近い値となる。一方、ブロックの分散値が小さい場合、ステレオ距離信頼度βは、より低い値、すなわち０に近い値となる。
【０１２７】    （ステップＳ１０６）  次のステップＳ１０６の処理は、図２に示すＴＯＦ距離信頼度判定部１２５の実行する処理である。  ＴＯＦ距離信頼度判定部１２５は、ステップＳ１０６において、ＴＯＦ方式距離算出部１２３の生成した被写体距離情報が信頼できるデータであるか否かを判定し、図２に示すように判定情報からなるＴＯＦ信頼度２０７を生成して被写体距離情報生成部１２６に出力する。
【０１２８】  なお、ＴＯＦ距離信頼度判定部１２５の生成するＴＯＦ信頼度２０６には、ＴＯＦ方式距離算出部１２３の生成した画素単位または画素領域単位の被写体距離情報各々についての信頼度情報が含まれる。
【０１２９】  ＴＯＦ距離信頼度判定部１２５の実行する信頼度判定処理は、例えば先に図５を参照して説明した処理である。  すなわち、赤外光（ＩＲ）照射部１１３による赤外光の非照射時における受光素子に対する外的な赤外光の入力両に応じて信頼度を判定する。
【０１３０】  赤外光（ＩＲ）照射部１１３による赤外光の非照射時に、赤外光の受光強度が大きい場合、太陽光等、外的要因の赤外光が多いことを意味し、正確なＴＯＦ距離計測が困難となることを意味する。  このように赤外光（ＩＲ）照射部１１３による赤外光非照射時の受光強度が大きい場合、ＴＯＦ方式距離算出部１２３が算出したＴＯＦ距離の信頼度αは、より低い値、すなわち０に近い値となる。
【０１３１】  一方、赤外光（ＩＲ）照射部１１３による赤外光非照射時の受光強度が小さい場合、太陽光等、外的要因の赤外光が少ないことを意味し、正確なＴＯＦ距離計測が可能となることを意味する。  このように赤外光（ＩＲ）照射部１１３による赤外光非照射時の受光強度が小さい場合、ＴＯＦ方式距離算出部１２３が算出したＴＯＦ距離の信頼度αは、より高い値、すなわち１に近い値となる。
【０１３２】  ＴＯＦ距離信頼度判定部１２５は、ＴＯＦ方式距離算出部１２３が算出したＴＯＦ距離の信頼度αを、例えば画素単位、または画素領域単位で算出する。  この信頼度情報が図２に示すＴＯＦ信頼度２０７である。
【０１３３】  ＴＯＦ距離信頼度判定部１２５は、図２に示すように生成したＴＯＦ信頼度２０７を被写体距離情報生成部１２６に出力する。
【０１３４】    （ステップＳ１０７）  ステップＳ１０７の処理は、図２に示す被写体距離情報生成部１２６の実行する処理である。  被写体距離情報生成部１２６は、ステレオ距離信頼度２０６、およびＴＯＦ距離信頼度２０７に基づいて、ステレオ距離情報２０４、ＴＯＦ距離情報２０５の信頼度を確認し、いずれかの距離情報を選択、または２つの距離情報の合成結果を生成して最終出力距離情報として生成する。  なお、この処理は、画素単位、または所定数の画素から構成される画素領域単位で実行される。
【０１３５】  被写体距離情報生成部１２６は、ステレオ信頼度２０６や、ＴＯＦ信頼度２０７に基づいて、信頼度の高いと判定されるいずれか一方の距離情報を選択、あるいはブレンド処理によって新たな距離情報を生成し、これらのいずれかを最終的な距離情報、すなわち距離（デプス）情報１５２として出力する。  この具体的な処理例については、図６〜図９を参照して説明した通りである。
【０１３６】    （ステップＳ１０８）  次に、ステップＳ１０８において、最終的な距離情報の生成が、全画素について完了したか否かを判定する。  完了していない画素がある場合は、ステップＳ１０５に戻り、未処理画素について、ステップＳ１０５以下の処理を実行する。
【０１３７】  ステップＳ１０８において、最終的な距離情報の生成が全画素について完了したと判定すると、処理を終了する。  この時点で、図２に示す距離（デプス）情報１５２が画像処理部１２０から出力される。
【０１３８】  この距離（デプス）情報１５２は、  （ａ）ステレオ距離情報、  （ｂ）ＴＯＦ距離情報、  （ｃ）ステレオ距離情報とＴＯＦ距離情報の合成距離情報、  上記（ａ）〜（ｃ）いずれかの距離情報が画素単位、または画素領域単位で設定された距離（デプス）情報である。  各画素に対応付けられた距離情報は、信頼度の高い距離情報が選択されており、画像全体について、高精度な距離情報が出力されることになる。
【０１３９】    ［３−２．ＴＯＦ距離信頼度のみの１つの信頼度情報を用いた処理シーケンスについて］  次に、図１１に示すフローチャートを参照して、ＴＯＦ距離信頼度のみの１つの信頼度情報を用いた処理シーケンスについて説明する。  以下、各ステップの処理について、順次、説明する。
【０１４０】    （ステップＳ１０１〜Ｓ１０４）  ステップＳ１０１〜Ｓ１０４の処理は、先に図１０のフローチャートを参照して説明したステップＳ１０１〜Ｓ１０４の処理と同様の処理である。
【０１４１】  ステップＳ１０１ａは、図２に示す第１撮像部１０７における可視光画像２００の撮影処理である。  ステップＳ１０１ｂは、図２に示す第２撮像部１０８における可視光＋赤外光画像２０１の撮影処理である。  ステップＳ１０２は、図２に示す赤外光（ＩＲ）分離部１２１の実行する処理であり、第２撮像部１０８が撮影した可視光＋赤外光画像２０１を入力し、赤外光（ＩＲ）分離処理を実行し、図２に示す可視光画像２０２と、赤外光画像２０３を生成する。
【０１４２】  ステップＳ１０３の処理は、図２に示すＴＯＦ方式距離算出部１２３の実行するＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離算出処理である。赤外光（ＩＲ）分離部１２１の生成した赤外光画像２０３を利用して、被写体距離（ＴＯＦ距離）を算出する。
【０１４３】  ステップＳ１０４の処理は、図２に示すステレオ方式距離算出部１２２の実行する処理である。ステレオ方式距離算出部１２２は、第１撮像部１０７が撮影した可視光画像２００と、第２撮像部１０８が撮影画像から得られた可視光画像２０２の２つの画像信号を用いて被写体距離（ステレオ距離）を算出する。  なお、この距離算出は、画像を構成する画素単位、あるいは複数画素からなる画素領域単位で実行される。
【０１４４】    （ステップＳ１５１）  次のステップＳ１５１の処理は、図２に示すＴＯＦ距離信頼度判定部１２５の実行する処理である。  ＴＯＦ距離信頼度判定部１２５は、ステップＳ１５１において、ＴＯＦ方式距離算出部１２３の生成した被写体距離情報が信頼できるデータであるか否かを判定し、図２に示すように判定情報からなるＴＯＦ信頼度２０７を生成して被写体距離情報生成部１２６に出力する。
【０１４５】  なお、ＴＯＦ距離信頼度判定部１２５の生成するＴＯＦ信頼度２０６には、ＴＯＦ方式距離算出部１２３の生成した画素単位または画素領域単位の被写体距離情報各々についての信頼度情報が含まれる。
【０１４６】  ＴＯＦ距離信頼度判定部１２５の実行する信頼度判定処理は、例えば先に図５を参照して説明した処理である。  すなわち、赤外光（ＩＲ）照射部１１３による赤外光の非照射時における受光素子に対する外的な赤外光の入力両に応じて信頼度を判定する。
【０１４７】  赤外光（ＩＲ）照射部１１３による赤外光の非照射時に、赤外光の受光強度が大きい場合、太陽光等、外的要因の赤外光が多いことを意味し、正確なＴＯＦ距離計測が困難となることを意味する。  このように赤外光（ＩＲ）照射部１１３による赤外光非照射時の受光強度が大きい場合、ＴＯＦ方式距離算出部１２３が算出したＴＯＦ距離の信頼度αは、より低い値、すなわち０に近い値となる。
【０１４８】  一方、赤外光（ＩＲ）照射部１１３による赤外光非照射時の受光強度が小さい場合、太陽光等、外的要因の赤外光が少ないことを意味し、正確なＴＯＦ距離計測が可能となることを意味する。  このように赤外光（ＩＲ）照射部１１３による赤外光非照射時の受光強度が小さい場合、ＴＯＦ方式距離算出部１２３が算出したＴＯＦ距離の信頼度αは、より高い値、すなわち１に近い値となる。
【０１４９】  ＴＯＦ距離信頼度判定部１２５は、ＴＯＦ方式距離算出部１２３が算出したＴＯＦ距離の信頼度αを、例えば画素単位、または画素領域単位で算出する。  この信頼度情報が図２に示すＴＯＦ信頼度２０７である。
【０１５０】  ＴＯＦ距離信頼度判定部１２５は、図２に示すように生成したＴＯＦ信頼度２０７を被写体距離情報生成部１２６に出力する。
【０１５１】    （ステップＳ１５２）  ステップＳ１５２の処理は、図２に示す被写体距離情報生成部１２６の実行する処理である。  被写体距離情報生成部１２６は、ＴＯＦ距離信頼度２０７に基づいて、  （ａ）ステレオ距離情報、  （ｂ）ＴＯＦ距離情報、  （ｃ）ステレオ距離情報とＴＯＦ距離情報の合成距離情報、  これらのいずれかの距離情報を最終出力距離情報として生成する。  なお、この処理は、画素単位、または所定数の画素から構成される画素領域単位で実行される。
【０１５２】  本例では、ステレオ信頼度２０６は用いず、ＴＯＦ信頼度２０７のみに基づいて出力情報を生成して、距離（デプス）情報１５２として出力する。
【０１５３】    （ステップＳ１５３）  次に、ステップＳ１５３において、最終的な距離情報の生成が、全画素について完了したか否かを判定する。  完了していない画素がある場合は、ステップＳ１５１に戻り、未処理画素について、ステップＳ１５１以下の処理を実行する。
【０１５４】  ステップＳ１５３において、最終的な距離情報の生成が全画素について完了したと判定すると、処理を終了する。  この時点で、図２に示す距離（デプス）情報１５２が画像処理部１２０から出力される。
【０１５５】  この距離（デプス）情報１５２は、  （ａ）ステレオ距離情報、  （ｂ）ＴＯＦ距離情報、  （ｃ）ステレオ距離情報とＴＯＦ距離情報の合成距離情報、  上記（ａ）〜（ｃ）いずれかの距離情報が画素単位、または画素領域単位で設定された距離（デプス）情報である。  各画素に対応付けられた距離情報は、信頼度の高い距離情報が選択されており、画像全体について、高精度な距離情報が出力されることになる。
【０１５６】    ［３−３．ＴＯＦ距離信頼度のみの１つの信頼度情報を用い、ステレオ距離情報、またはＴＯＦ距離情報のいずれかを、画素単位で選択して最終距離情報とする処理シーケンスについて］  次に、図１２に示すフローチャートを参照して、ＴＯＦ距離信頼度のみの１つの信頼度情報を用い、ステレオ距離情報、またはＴＯＦ距離情報のいずれかを、画素単位で選択して最終距離情報とする処理シーケンスについて説明する。  以下、各ステップの処理について、順次、説明する。
【０１５７】    （ステップＳ１０１〜Ｓ１０４）  ステップＳ１０１〜Ｓ１０４の処理は、先に図１０のフローチャートを参照して説明したステップＳ１０１〜Ｓ１０４の処理と同様の処理である。
【０１５８】  ステップＳ１０１ａは、図２に示す第１撮像部１０７における可視光画像２００の撮影処理である。  ステップＳ１０１ｂは、図２に示す第２撮像部１０８における可視光＋赤外光画像２０１の撮影処理である。  ステップＳ１０２は、図２に示す赤外光（ＩＲ）分離部１２１の実行する処理であり、第２撮像部１０８が撮影した可視光＋赤外光画像２０１を入力し、赤外光（ＩＲ）分離処理を実行し、図２に示す可視光画像２０２と、赤外光画像２０３を生成する。
【０１５９】  ステップＳ１０３の処理は、図２に示すＴＯＦ方式距離算出部１２３の実行するＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離算出処理である。赤外光（ＩＲ）分離部１２１の生成した赤外光画像２０３を利用して、被写体距離（ＴＯＦ距離）を算出する。
【０１６０】  ステップＳ１０４の処理は、図２に示すステレオ方式距離算出部１２２の実行する処理である。ステレオ方式距離算出部１２２は、第１撮像部１０７が撮影した可視光画像２００と、第２撮像部１０８が撮影画像から得られた可視光画像２０２の２つの画像信号を用いて被写体距離（ステレオ距離）を算出する。  なお、この距離算出は、画像を構成する画素単位、あるいは複数画素からなる画素領域単位で実行される。
【０１６１】    （ステップＳ１８１）  次のステップＳ１８１の処理は、図２に示すＴＯＦ距離信頼度判定部１２５の実行する処理である。  ＴＯＦ距離信頼度判定部１２５は、ステップＳ１８１において、ＴＯＦ方式距離算出部１２３の生成した被写体距離情報が信頼できるデータであるか否かを判定し、図２に示すように判定情報からなるＴＯＦ信頼度２０７を生成して被写体距離情報生成部１２６に出力する。
【０１６２】  なお、ＴＯＦ距離信頼度判定部１２５の生成するＴＯＦ信頼度２０６には、ＴＯＦ方式距離算出部１２３の生成した画素単位または画素領域単位の被写体距離情報各々についての信頼度情報が含まれる。
【０１６３】  ＴＯＦ距離信頼度判定部１２５の実行する信頼度判定処理は、例えば先に図５を参照して説明した処理である。  すなわち、赤外光（ＩＲ）照射部１１３による赤外光の非照射時における受光素子に対する外的な赤外光の入力両に応じて信頼度を判定する。
【０１６４】  赤外光（ＩＲ）照射部１１３による赤外光の非照射時に、赤外光の受光強度が大きい場合、太陽光等、外的要因の赤外光が多いことを意味し、正確なＴＯＦ距離計測が困難となることを意味する。  このように赤外光（ＩＲ）照射部１１３による赤外光非照射時の受光強度が大きい場合、ＴＯＦ方式距離算出部１２３が算出したＴＯＦ距離の信頼度αは、より低い値、すなわち０に近い値となる。
【０１６５】  一方、赤外光（ＩＲ）照射部１１３による赤外光非照射時の受光強度が小さい場合、太陽光等、外的要因の赤外光が少ないことを意味し、正確なＴＯＦ距離計測が可能となることを意味する。  このように赤外光（ＩＲ）照射部１１３による赤外光非照射時の受光強度が小さい場合、ＴＯＦ方式距離算出部１２３が算出したＴＯＦ距離の信頼度αは、より高い値、すなわち１に近い値となる。
【０１６６】  ＴＯＦ距離信頼度判定部１２５は、ＴＯＦ方式距離算出部１２３が算出したＴＯＦ距離の信頼度αを、例えば画素単位、または画素領域単位で算出する。  この信頼度情報が図２に示すＴＯＦ信頼度２０７である。
【０１６７】  ＴＯＦ距離信頼度判定部１２５は、図２に示すように生成したＴＯＦ信頼度２０７を被写体距離情報生成部１２６に出力する。
【０１６８】    （ステップＳ１８２）  ステップＳ１８２〜Ｓ１８４の処理は、図２に示す被写体距離情報生成部１２６の実行する処理である。  被写体距離情報生成部１２６は、ＴＯＦ距離信頼度２０７に基づいて、  （ａ）ステレオ距離情報、  （ｂ）ＴＯＦ距離情報、  これらのいずれかの距離情報を最終出力距離情報として生成する。  なお、この処理は、画素単位、または所定数の画素から構成される画素領域単位で実行される。
【０１６９】  本例では、ステレオ距離情報とＴＯＦ距離情報を合成する処理を実行せず、ステレオ距離情報、ＴＯＦ距離情報のいずれかを画素単位で選択して最終出力距離情報とする。
【０１７０】  ステップＳ１８２において、ＴＯＦ信頼度２０７が低い、すなわち既定しきい値未満であるか否かを判定し、既定しきい値未満でありＴＯＦ信頼度２０７が低いと判定した場合は、ステップＳ１８３に進む。  一方、ＴＯＦ信頼度２０７が低くない、すなわち既定しきい値以上であると判定し、ＴＯＦ信頼度２０７が高いと判定した場合は、ステップＳ１８４に進む。
【０１７１】    （ステップＳ１８３）  ステップＳ１８２において、ＴＯＦ信頼度２０７が低いと判定した場合は、被写体距離情報生成部１２６は、ステップＳ１８３において、最終出力距離情報としてステレオ距離情報を選択する。
【０１７２】    （ステップＳ１８４）  一方、ステップＳ１８２において、ＴＯＦ信頼度２０７が低くないと判定した場合は、被写体距離情報生成部１２６は、ステップＳ１８４において、最終出力距離情報としてＴＯＦ距離情報を選択する。
【０１７３】    （ステップＳ１８５）  次に、ステップＳ１８５において、最終的な距離情報の生成が、全画素について完了したか否かを判定する。  完了していない画素がある場合は、ステップＳ１８１に戻り、未処理画素について、ステップＳ１８１以下の処理を実行する。
【０１７４】  ステップＳ１８５において、最終的な距離情報の生成が全画素について完了したと判定すると、処理を終了する。  この時点で、図２に示す距離（デプス）情報１５２が画像処理部１２０から出力される。
【０１７５】  この距離（デプス）情報１５２は、  （ａ）ステレオ距離情報、  （ｂ）ＴＯＦ距離情報、  上記（ａ）〜（ｂ）いずれかの距離情報が画素単位、または画素領域単位で設定された距離（デプス）情報である。  各画素に対応付けられた距離情報は、信頼度の高い距離情報が選択されており、画像全体について、高精度な距離情報が出力されることになる。
【０１７６】    ［４．画質を向上させた合成画像を生成する画像処理部の構成と処理について］  次に、図１３以下を参照して、画質を向上させた合成画像を生成する画像処理部の構成と処理について説明する。
【０１７７】  前述したように、画像処理部１２０は、撮像部１０６から入力する２枚の画像を入力し、これら２枚の画像を適用して、被写体距離（デプス）を示す距離（デプス）情報１５２を生成するとともに、２枚の画像を合成することでノイズを低減させた高画質画像としての画像１５１を生成する。
【０１７８】  以下、画像処理部１２０における画質を向上させた合成画像の生成処理について説明する。
【０１７９】  図１３は、画像処理装置１００の画像処理部１２０の一部構成を示すブロック図である。  図１３には、画像処理部１２０の構成中、合成画像４１０の生成処理に適用する構成を示している。
【０１８０】  図１３に示ように、画像処理部１２０は、赤外光（ＩＲ）分離部１２１、画像合成部３００を有する。
【０１８１】  画像処理部１２０に対する入力信号は、以下の各信号である。  （１）第１撮像部１０７から入力する可視光画像２００、  （２）第２撮像部１０８から入力する可視光＋赤外光画像２０１、
【０１８２】  まず、赤外光（ＩＲ）分離部１２１が、第２撮像部１０８から入力する可視光＋赤外光画像２０１を入力し、可視光＋赤外光画像２０１の赤外光（ＩＲ）分離処理を実行する。  赤外光（ＩＲ）分離部１２１の実行する赤外光（ＩＲ）分離処理は、先に図３を参照して説明した処理である。
【０１８３】  画像合成部３００には、以下の画像が入力される。  （１）第１撮像部１０７の撮影画像である可視光画像２００、  （２）第２撮像部１０８撮影画像から生成された可視光画像２０２、
【０１８４】  画像合成部３００の構成と処理例について、図１４を参照して説明する。  図１４に示すように、画像合成部３００は、画像ずれ検出部３０１、ブレンド率算出部３０２、ブレンド実行部３０３を有する。
【０１８５】  画像ずれ検出部３０１は、以下の２つの画像を入力する。  （１）第１撮像部１０７の撮影画像である可視光画像２００、  （２）第２撮像部１０８撮影画像から生成された可視光画像２０２、
【０１８６】  画像ずれ検出部３０１は、これら２つの画像について、画像の位置ずれを検出するる。画素単位の位置ずれ量を算出し、画素単位のずれ量データからなるずれ情報３１１を生成してブレンド率算出部３０２に出力する。
【０１８７】  ブレンド率算出部３０２は、画像ずれ検出部３０１から入力する「ずれ情報３１１」、すなわち画素単位のずれ量に基づいて２つの画像、すなわち、  （１）第１撮像部１０７の撮影画像である可視光画像２００、  （２）第２撮像部１０８撮影画像から生成された可視光画像２０２、  これら２つの画像の対応位置、すなわち同一座標位置の画素同士のブレンド率を算出する。
【０１８８】  具体的には、ずれ量が小さい画素については、ブレンド率を高く設定し、ずれ量の大きい画素についてはブレンド率を小さく設定する。  例えば図１５に示すグラフのような設定でブレンド率を決定する。  図１５に示すグラフは、横軸が、２つの画像の対応画素の位置ずれ量、縦軸がブレンド率を示す。  ブレント率＝１は、２つの画像の対応位置の画素を１：１でブレンド（合成）することを示す。ブレンド率＝０は、ブレンドせず、一方の画像の画素値をそのまま出力することを意味する。
【０１８９】  ブレンド率算出部３０２は、このように、画像ずれ検出部３０１から入力する「ずれ情報３１１」、すなわち画素単位のずれ量に基づいて２つの画像の対応位置、すなわち同一座標位置の画素同士のブレンド率を算出する。  図１４に示すように、算出したブレンド率３１２は、ブレンド実行部３０３に出力される。
【０１９０】  ブレンド実行部３０３は、ブレンド率算出部３０２から入力した「ずれ情報３１１」、すなわち画素単位のずれ量に基づいて２つの画像の対応位置、すなわち同一座標位置の画素同士のブレンド処理を実行し、合成画像４１０を生成して出力する。
【０１９１】  合成画像４１０は、２つの画像の合成により、ノイズの低減された高品質な画像となる。  なお、この合成処理によって期待される画質向上のレベルは、画像を撮影する撮像部の撮像素子の構成によって異なる。
【０１９２】  撮像素子構成と期待される画質向上態様の対応関係について、図１６を参照して説明する。  図１６には、第１撮像部と第２撮像部が、各々、ベイヤ配列、すなわちＲＧＢ画素配列である場合と、ホワイト配列、すなわちＷＢ画素配列である場合、これらの４通りの組み合わせとした場合、上述した２つの画像の合成処理によって実現される画質向上態様を示している。
【０１９３】  ２つの撮像部がいずれもベイヤ配列である場合、輝度信号と、クロマ信号（色、彩度）のいずれの信号についてもノイズ低減効果が得られる。  また、少なくともいずれか一方がホワイト配列の撮像素子である場合は、輝度信号のみについてノイズ低減効果が得られる。
【０１９４】    ［５．画像処理装置の実行する合成画像生成処理シーケンスについて］  次に、図１７に示すフローチャートを参照して、画像処理装置の実行する画質を向上させた合成画像の生成処理シーケンスについて説明する。  以下、各ステップの処理について、順次、説明する。
【０１９５】    （ステップＳ２０１）  ステップＳ２０１ａは、図２に示す第１撮像部１０７における可視光画像２００の撮影処理である。  ステップＳ２０１ｂは、図２に示す第２撮像部１０８における可視光＋赤外光画像２０１の撮影処理である。
【０１９６】    （ステップＳ２０２）  ステップＳ２０２は、図２に示す赤外光（ＩＲ）分離部１２１の実行する処理であり、第２撮像部１０８が撮影した可視光＋赤外光画像２０１を入力し、赤外光（ＩＲ）分離処理を実行し、図２に示す可視光画像２０２と、赤外光画像２０３を生成する。  図１３、図１４に示すように、画像合成部３００には、以下の画像が入力される。  （１）第１撮像部１０７の撮影画像である可視光画像２００、  （２）第２撮像部１０８撮影画像から生成された可視光画像２０２、
【０１９７】    （ステップＳ２０３）  ステップＳ２０３の処理は、図１４に示す画像合成部３００の画像ずれ検出部３０１の実行する処理である。  画像ずれ検出部３０１は、以下の２つの画像を入力する。  （１）第１撮像部１０７の撮影画像である可視光画像２００、  （２）第２撮像部１０８撮影画像から生成された可視光画像２０２、
【０１９８】  画像ずれ検出部３０１は、これら２つの画像について、画像の位置ずれを検出するる。画素単位の位置ずれ量を算出し、画素単位のずれ量データからなるずれ情報３１１を生成してブレンド率算出部３０２に出力する。
【０１９９】    （ステップＳ２０４）  ステップＳ２０４の処理は、図１４に示す画像合成部３００のブレンド率算出部３０２の実行する処理である。  ブレンド率算出部３０２は、画像ずれ検出部３０１から入力する「ずれ情報３１１」、すなわち画素単位のずれ量に基づいて２つの画像、すなわち、  （１）第１撮像部１０７の撮影画像である可視光画像２００、  （２）第２撮像部１０８撮影画像から生成された可視光画像２０２、  これら２つの画像の対応位置、すなわち同一座標位置の画素同士のブレンド率を算出する。
【０２００】  具体的には、ずれ量が小さい画素については、ブレンド率を高く設定し、ずれ量の大きい画素についてはブレンド率を小さく設定する。算出したブレンド率３１２は、ブレンド実行部３０３に出力される。
【０２０１】    （ステップＳ２０５）  ステップＳ２０５の処理は、図１４に示す画像合成部３００のブレンド実行部３０３の実行する処理である。  ブレンド実行部３０３は、ブレンド率算出部３０２から入力した「ずれ情報３１１」、すなわち画素単位のずれ量に基づいて２つの画像の対応位置、すなわち同一座標位置の画素同士のブレンド処理を実行し、各画素の補正画素値を算出する。
【０２０２】    （ステップＳ２０６）  次に、ステップＳ２０６において、補正画素値算出が全画素について完了したか否かを判定する。  完了していない画素がある場合は、ステップＳ２０３戻り、未処理画素について、ステップＳ２０３以下の処理を実行する。
【０２０３】  ステップＳ２０６において、補正画素値算出が全画素について完了したと判定すると、ステップＳ２０７に進む。
【０２０４】    （ステップＳ２０７）  図１４に示す画像合成部３００のブレンド実行部３０３は、補正画素値算出が全画素について完了すると、補正画素値を設定した合成画像４１０をむ生成して出力する。  合成画像４１０は、２つの画像の合成により、ノイズの低減された高品質な画像となる。
【０２０５】    ［６．本開示の構成のまとめ］  以上、特定の実施例を参照しながら、本開示の実施例について詳解してきた。しかしながら、本開示の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本開示の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
【０２０６】  なお、本明細書において開示した技術は、以下のような構成をとることができる。  （１）  ２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、被写体距離を示す距離情報を生成する画像処理部を有し、  前記画像処理部は、  前記第２画像の赤外光成分を利用してＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離であるＴＯＦ距離を算出するＴＯＦ方式距離算出部と、  前記第１画像と前記第２画像の可視光成分を利用してステレオ方式に従った被写体距離であるステレオ距離を算出するステレオ方式距離算出部と、  前記ＴＯＦ距離の信頼度を判定するＴＯＦ距離信頼度判定部と、  前記ＴＯＦ距離の信頼度が低い画素領域について、前記ステレオ距離、または、ＴＯＦ距離とステレオ距離の合成距離情報を最終的な距離情報として生成する被写体距離情報生成部を有する画像処理装置。
【０２０７】  （２）  前記画像処理装置は、  前記第２画像を可視光成分画像と赤外光成分画像に分離する赤外光分離部を有し、  前記ＴＯＦ方式距離算出部は、前記赤外光分離部の生成した赤外光成分画像を利用した被写体距離算出処理を実行し、  前記ステレオ方式距離算出部は、前記赤外光分離部の生成した可視光成分画像を利用した被写体距離算出処理を実行する（１）に記載の画像処理装置。
【０２０８】  （３）  前記ＴＯＦ距離信頼度判定部は、  赤外光非照射時における前記第２撮像部の撮影画像である前記第２画像に含まれる赤外光成分の量に応じてＴＯＦ距離の信頼度を判定する（１）または（２）に記載の画像処理装置。
【０２０９】  （４）  前記画像処理装置は、さらに、  前記ステレオ方式距離算出部の算出した被写体距離であるステレオ距離の信頼度を判定するステレオ距離信頼度判定部を有し、  前記被写体距離情報生成部は、  前記ステレオ距離の信頼度が低い画素領域について、前記ＴＯＦ距離、または、ＴＯＦ距離とステレオ距離の合成処理によって算出した距離情報を最終的な距離情報として生成する（１）〜（３）いずれかに記載の画像処理装置。
【０２１０】  （５）  前記ステレオ距離信頼度判定部は、  前記ステレオ方式距離算出部におけるブロックマッチング処理に適用したブロック構成画素の画素値の分散値に応じてステレオ距離の信頼度を判定する（４）に記載の画像処理装置。
【０２１１】  （６）  前記被写体距離情報生成部は、  画素または画素領域単位の前記ＴＯＦ距離の信頼度に応じて、画素または画素領域単位で、  （ａ）ステレオ距離、  （ｂ）ＴＯＦ距離、  （ｃ）ステレオ距離とＴＯＦ距離の合成距離、  上記（ａ）〜（ｃ）いずれかの距離情報を最終的な距離情報として生成する（１）〜（５）いずれかに記載の画像処理装置。
【０２１２】  （７）  前記被写体距離情報生成部は、  画素または画素領域単位の前記ステレオ距離の信頼度に応じて、画素または画素領域単位で、  （ａ）ステレオ距離、  （ｂ）ＴＯＦ距離、  （ｃ）ステレオ距離とＴＯＦ距離の合成距離、  上記（ａ）〜（ｃ）いずれかの距離情報を最終的な距離情報として生成する（１）〜（６）いずれかに記載の画像処理装置。
【０２１３】  （８）  可視光成分から構成される第１画像を撮影する第１撮像部と、  可視光成分と赤外光成分を含む第２画像を撮影する第２撮像部と、  前記第１画像と前記第２画像を入力して、被写体距離を示す距離情報を生成する画像処理部を有し、  前記画像処理部は、  前記第２画像を利用してＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離算出を実行するＴＯＦ方式距離算出部と、  前記第１画像と前記第２画像を利用してステレオ方式に従った被写体距離算出を実行するステレオ方式距離算出部と、  前記ＴＯＦ方式距離算出部の算出した被写体距離であるＴＯＦ距離の信頼度を判定するＴＯＦ距離信頼度判定部と、  前記ＴＯＦ距離の信頼度に基づいて、最終的な距離情報を生成する被写体距離情報生成部を有し、  前記被写体距離情報生成部は、  前記ＴＯＦ距離の信頼度が低い画素領域について、前記ステレオ方式に従った被写体距離であるステレオ距離、または、ＴＯＦ距離とステレオ距離の合成処理によって算出した距離情報を最終的な距離情報として生成する撮像装置。
【０２１４】  （９）  ２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、合成画像を生成する画像処理部を有し、  前記第１画像は可視光成分から構成される画像であり、前記第２画像は可視光成分と赤外光成分を含む画像であり、  前記画像処理部は、  前記第２画像を可視光成分画像と赤外光成分画像に分離する赤外光分離部と、  前記第１画像と、前記赤外光分離部が前記第２画像に基づいて生成した可視光成分画像との合成処理を実行する画像合成部を有する画像処理装置。
【０２１５】  （１０）  前記画像合成部は、  前記第１画像と、前記赤外光分離部が前記第２画像に基づいて生成した可視光成分画像との画素単位の位置ずれ量を算出する画像ずれ算出部と、  前記画像ずれ算出部の算出した位置ずれ量に応じて前記第１画像と、前記赤外光分離部が前記第２画像に基づいて生成した可視光成分画像との画素単位のブレンド率を算出するブレンド率算出部と、  前記ブレンド率算出部の算出したブレンド率に従って、前記第１画像と、前記赤外光分離部が前記第２画像に基づいて生成した可視光成分画像との画素単位のブレンド処理を実行するブレンド実行部を有する（９）に記載の画像処理装置。
【０２１６】  （１１）  前記画像処理装置は、さらに、  前記第２画像を利用してＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離算出を実行するＴＯＦ方式距離算出部を有する（９）または（１０）に記載の画像処理装置。
【０２１７】  （１２）  前記画像処理装置は、さらに、  前記第１画像と前記第２画像を利用してステレオ方式に従った被写体距離算出を実行するステレオ方式距離算出部を有する（９）〜（１１）いずれかに記載の画像処理装置。
【０２１８】  （１３）  画像処理装置において実行する画像処理方法であり、  前記画像処理装置は、２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、被写体距離を示す距離情報を生成する画像処理部を有し、  前記画像処理部が、  前記第２画像の赤外光成分を利用してＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離であるＴＯＦ距離を算出するＴＯＦ方式距離算出処理と、  前記第１画像と前記第２画像の可視光成分を利用してステレオ方式に従った被写体距離であるステレオ距離を算出するステレオ方式距離算出処理と、  前記ＴＯＦ距離の信頼度を判定するＴＯＦ距離信頼度判定処理と、  前記ＴＯＦ距離の信頼度が低い画素領域について、前記ステレオ距離、または、ＴＯＦ距離とステレオ距離の合成距離情報を最終的な距離情報として生成する被写体距離情報生成処理を実行する画像処理方法。
【０２１９】  （１４）  画像処理装置において実行する画像処理方法であり、  前記画像処理装置は、  ２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、合成画像を生成する画像処理部を有し、  前記第１画像は可視光成分から構成される画像であり、前記第２画像は可視光成分と赤外光成分を含む画像であり、  前記画像処理部が、  前記第２画像を可視光成分画像と赤外光成分画像に分離する赤外光分離処理と、  前記第１画像と、前記第２画像に基づいて生成した可視光成分画像との合成処理を実行する画像処理方法。
【０２２０】  （１５）  画像処理装置において画像処理を実行させるプログラムであり、  前記画像処理装置は、２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、被写体距離を示す距離情報を生成する画像処理部を有し、  前記プログラムは、前記画像処理部に、  前記第２画像の赤外光成分を利用してＴＯＦ（Ｔｉｍｅ  ｏｆ  Ｆｌｉｇｈｔ）方式に従った被写体距離であるＴＯＦ距離を算出するＴＯＦ方式距離算出処理と、  前記第１画像と前記第２画像の可視光成分を利用してステレオ方式に従った被写体距離であるステレオ距離を算出するステレオ方式距離算出処理と、  前記ＴＯＦ距離の信頼度を判定するＴＯＦ距離信頼度判定処理と、  前記ＴＯＦ距離の信頼度が低い画素領域について、前記ステレオ距離、または、ＴＯＦ距離とステレオ距離の合成距離情報を最終的な距離情報として生成する被写体距離情報生成処理を実行させるプログラム。
【０２２１】  （１６）  画像処理装置において画像処理を実行させるプログラムであり、  前記画像処理装置は、  ２つの異なる視点からの撮影画像である第１画像と第２画像を入力して、合成画像を生成する画像処理部を有し、  前記第１画像は可視光成分から構成される画像であり、前記第２画像は可視光成分と赤外光成分を含む画像であり、  前記プログラムは、前記画像処理部に、  前記第２画像を可視光成分画像と赤外光成分画像に分離する赤外光分離処理と、  前記第１画像と、前記第２画像に基づいて生成した可視光成分画像との合成処理を実行させるプログラム。
【０２２２】  また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。例えば、プログラムは記録媒体に予め記録しておくことができる。記録媒体からコンピュータにインストールする他、ＬＡＮ（Ｌｏｃａｌ  Ａｒｅａ  Ｎｅｔｗｏｒｋ）、インターネットといったネットワークを介してプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
【０２２３】  なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
【産業上の利用可能性】
【０２２４】  以上、説明したように、本開示の一実施例の構成によれば、被写体の正確な距離情報の生成を行う装置、方法が実現される。  具体的には、可視光成分から構成される第１画像と、可視光成分と赤外光成分を含む第２画像を入力して被写体距離を算出する画像処理部を有し、画像処理部は、第２画像を利用してＴＯＦ方式に従って算出される被写体距離であるＴＯＦ距離と、第１画像と第２画像を利用してステレオ方式に従って算出されるステレオ距離の２つの距離情報を算出し、ＴＯＦ距離の信頼度を示すＴＯＦ距離信頼度を判定し、ＴＯＦ距離の信頼度が低い画素領域について、ステレオ方式に従った被写体距離であるステレオ距離、または、ＴＯＦ距離とステレオ距離の合成処理によって算出した距離情報を最終的な距離情報として生成する。  これらの処理により、被写体の正確な距離情報の生成を行う装置、方法が実現される。
【符号の説明】
【０２２５】  １００  画像処理装置  １０１  制御部  １０２  記憶部  １０３  コーデック  １０４  入力部  １０５  出力部  １０６  撮像部  １０７  第１撮像部  １０８  第２撮像部  １１１  第１撮像素子  １１２  第２撮像素子  １１３  赤外光（ＩＲ）照射部  １２０  画像処理部  １２１  赤外光（ＩＲ）分離部  １２２  ステレオ方式距離算出部  １２３  ＴＯＦ方式距離算出部  １２４  ステレオ距離信頼度判定部  １２５  ＴＯＦ距離信頼度判定部  １２６  被写体距離情報生成部  １５１  画像  １５２  距離（デプス）情報  ３００  画像合成部  ３０１  画像ずれ検出部  ３０２  ブレンド率算出部  ３０３  ブレンド実行部  ４１０  合成画像
【図１】
2017159312.tif 000005
【図２】
2017159312.tif 000006
【図３】
2017159312.tif 000007
【図４】
2017159312.tif 000008
【図５】
2017159312.tif 000009
【図６】
2017159312.tif 000010
【図７】
2017159312.tif 000011
【図８】
2017159312.tif 000012
【図９】
2017159312.tif 000013
【図１０】
2017159312.tif 000014
【図１１】
2017159312.tif 000015
【図１２】
2017159312.tif 000016
【図１３】
2017159312.tif 000017
【図１４】
2017159312.tif 000018
【図１５】
2017159312.tif 000019
【図１６】
2017159312.tif 000020
【図１７】
2017159312.tif 000021
【国際調査報告】
2017159312.tif 000022
2017159312.tif 000023
2017159312.tif 000024
2017159312.tif 000025
2017159312.tif 000026
2017159312.tif 000027
2017159312.tif 000028