(57)【要約】  偏光画像とカラー画像を同時に取得できる偏光カメラを利用するものであって、空の一部分の偏光情報である青空偏光画像を、青空偏光画像取得部１００で取得する。そして、撮影時の太陽位置を取得する太陽位置取得部１３０１からの情報を用い、前述の青空偏光画像が、全天においてどの方角・領域の偏光パターンであるかを、カメラ向き推定部１０１で求める。最後に、カメラ（撮像装置）が地球上でどちらの方角に向いているのかを出力する。これによって、センサを別に備えることなく、また全天・太陽を捉えることなく、カメラの方位、およびカメラと太陽の相対的位置関係を取得する。
2010079557.tif 000002
【特許請求の範囲】
【請求項１】
偏光位相画像を含む偏光画像、および輝度画像を撮影によって取得する撮像部を備えた撮像装置の向きを検出する撮像装置向き検出装置であって、
前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成する画像処理部と、
前記撮像部の向きによって決まる撮像装置向きを前記青空偏光位相画像に基づいて推定する向き推定部と、
前記向き推定部で推定された撮像装置向きを示す情報を出力する出力部と
を備える撮像装置向き検出装置。
【請求項２】
撮影時における太陽の位置に関する情報を取得する太陽位置取得部を備え、
前記向き推定部は、前記情報を用いて撮像装置向きの推定を行う、請求項１に記載の撮像装置向き検出装置。
【請求項３】
前記太陽の位置に関する情報に基づいて、撮影時における空の偏光状態を示す全天偏光マップを取得する全天偏光マップ取得部を備え、
前記向き推定部は、前記青空偏光位相画像および前記全天偏光マップに基づいて、前記撮像装置向きを推定する請求項２に記載の撮像装置向き検出装置。
【請求項４】
前記全天偏光マップ取得部は、全天偏光マップを含むデータベースから撮影時における空の偏光状態を示す全天偏光マップを取得する、請求項３に記載の撮像装置向き検出装置。
【請求項５】
前記データベースを格納する記憶装置を備える請求項４に記載の撮像装置向き検出装置。
【請求項６】
前記データベースを格納する外部の記憶装置にアクセスする通信装置を備える請求項４に記載の撮像装置向き検出装置。
【請求項７】
前記全天偏光マップ取得部は、撮影時における空の偏光状態を示す全天偏光マップを計算によって生成する請求項３に記載の撮像装置向き検出装置。
【請求項８】
前記向き推定部は、前記青空領域の偏光位相から前記青空領域の方向を計算し、前記撮像装置の向きを推定する請求項１に記載の撮像装置向き検出装置。
【請求項９】
撮影時における空の偏光状態を示す全天偏光マップを取得する全天偏光マップ取得部を備え、
前記向き推定部は、サーチモードおよび計算モードの少なくとも一方で動作し、
前記サーチモードでは、前記青空偏光位相画像および前記全天偏光マップに基づいて、前記青空領域の方向を探索し、前記計算モードでは、前記青空領域の偏光位相から前記青空領域の方向を計算する、請求項１に記載の撮像装置向き検出装置。
【請求項１０】
前記撮像装置の傾きを補正する水平度補正部を備える請求項１に記載の撮像装置向き検出装置。
【請求項１１】
前記撮像装置の傾きは、ロール方向の傾きを含む請求項１０に記載の撮像装置向き検出装置。
【請求項１２】
前記撮像装置は、水準器を備えており、
前記水準器によって水平度を取得し、取得した水平度に基づいて撮像装置の傾きを補正する請求項１１に記載の撮像装置向き検出装置。
【請求項１３】
撮像範囲の画角を取得し、取得した画角に基づいて青空領域の範囲を決定する画角取得部を有する請求項１に記載の撮像装置向き検出装置。
【請求項１４】
前記撮像部は、偏光主軸角度が異なる複数の偏光子を備え、
前記複数の偏光子を透過してくる光に応じて前記偏光画像を取得する、請求項１に記載の撮像装置向き検出装置。
【請求項１５】
前記偏光画像は、前記偏光位相画像に加えて偏光度画像を含む、請求項１に記載の撮像装置向き検出装置。
【請求項１６】
前記画像処理部は、空の偏光度が基準値以上の場合、偏光度を利用して前記青空領域を切り出し、前記偏光度が前記基準値よりも低い場合、色相を利用して前記青空領域を切り出し、前記青空偏光位相画像を出力する請求項１に記載の撮像装置向き検出装置。
【請求項１７】
推定結果の信頼度を判定し、使用者に情報を提示する信頼度判定部を備える請求項２に記載の撮像装置向き検出装置。
【請求項１８】
撮影時における太陽の位置に関する情報から得られる太陽の高度に応じて推定の可否を判定する太陽高度判定部を備えた請求項１７記載の撮像装置向き検出装置。
【請求項１９】
太陽の高度および方位、ならびに撮像装置向きに基づいて、座標変換を行ってカメラ座標での太陽位置を取得する請求項２に記載の撮像装置向き検出装置。
【請求項２０】
偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、
請求項１に記載の撮像装置向き検出装置と、
を備える撮像装置。
【請求項２１】
請求項１に記載の撮像装置向き検出装置を備える移動体であって、
偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、
前記移動体の向きと前記撮像装置向きとの関係に応じて、検出された前記撮像装置向きから前記移動体の向きを決定する移動体向き推定部と、
を備えている、移動体。
【請求項２２】
請求項１に記載の撮像装置向き検出装置を備える携帯機器であって、
偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、
前記携帯機器の向きと前記撮像装置向きとの関係に応じて、検出された前記撮像装置向きから前記携帯機器の向きを決定する携帯機器向き推定部と、
を備えている、携帯機器。
【請求項２３】
偏光位相画像を含む偏光画像、および輝度画像を撮影によって取得する撮像部と、
前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成する画像処理部と、
前記撮像部の向きによって決まる撮像装置向きを前記青空偏光位相画像に基づいて推定する向き推定部と、
前記撮像部によって撮像された画像のデータ、および前記向き推定部で推定された撮像装置向きを示す情報を出力する出力部と
を備える画像入力装置。
【請求項２４】
画像データと、
撮影時の日時を示すデータと、
撮影場所の経度緯度を示すデータと、
撮像装置向きを示すデータと保持する画像フォーマット。
【請求項２５】
撮像装置によって偏光画像および輝度画像を取得するステップと、
前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成するステップと、
撮像装置向きを前記青空偏光位相画像に基づいて推定するステップと、
撮像装置向きを示す情報を出力するステップと
を含む撮像装置向き検出方法。
【請求項２６】
撮影時の撮像装置向きを天空の偏光パターンを利用して検出する撮像装置向き検出装置のためのプログラムであって、
撮像装置によって偏光画像および輝度画像を取得するステップと、
前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成するステップと、
撮像装置向きを前記青空偏光位相画像に基づいて推定するステップと、
撮像装置向きを示す情報を出力するステップと
をコンピュータに実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は撮影に際して撮像装置と太陽との相対的な位置関係を取得できる撮像装置向き検出装置に関する。また、本発明は、撮像装置向き検出装置を備える撮像装置や移動体にも関している。
【背景技術】
【０００２】
近年のデジタルカメラの普及に伴い、デジタルカメラによって取得された画像に対して行う画像処理の重要度が高まってきている。このような画像処理は、例えば、（ｉ）従来、カメラ撮影時の失敗の主な原因を占めていた逆光の補正、（ｉｉ）デジタルズームとして知られる画像の高解像度化、（ｉｉｉ）人の顔などを認識し、フォーカスを自動的にあわせるといった認識処理、（ｉｖ）現実の画像に、Ｃｏｍｐｕｔｅｒ−Ｇｒａｐｈｉｃｓで仮想的に作成された画像を重畳表示する拡張現実など、実に様々である。【０００３】
これらの画像処理は、画像撮像の際に撮像素子に記録された、被写体の「見え」を基に処理が行われている。この物体の「見え」は、光源からの光が被写体表面で反射され、その反射光を撮像素子が受光することで得られる。そのため、光源情報は画像処理において非常に重要である。つまり、光源情報を取得して、撮像や画像処理に利用することは非常に効果的である。例えば、敢えて半逆光状態に被写体を置くことで、自然な立体感を与えるテクニックなどがよく用いられている。しかし、その撮影の成否は状況によるところが大きく、結果、撮影者の勘や経験に頼ったものになってしまう。【０００４】
もし光源情報がわかれば、前記テクニックを真似て撮影者にうまく撮影できるよう、例えばカメラの処理によって撮影方向を指示することができる。また、光源情報に基づいて自動的な露出補正を行うことも可能である。特許文献１では、カメラ上部にセンサをつけて光源検出を行い、撮影者に撮影方向の指示を行う手法が提案されている。特許文献１の技術では、光源方向を知るためのセンサとして、光電変換素子に魚眼レンズを付けたものを用いている。全天から集光された光の強度がセンサ上で最大となる位置を求め、光源方向を決定している。しかし、この場合、窓に反射した太陽などが高い位置に見える場合には、現実の太陽の方向以外の方向にも強い光源が存在することになり、太陽方向検出に失敗する可能性がある。【０００５】
特許文献２においては、太陽位置をより正確に反映した情報を取得するために、全天の偏光状態を利用するという手法が提案されている。本文献に開示されている技術によれば、特許文献１と同様に光源検出部をカメラ上部に設置する。この光源検出部は、偏光フィルタを備えた全天観測センサにより、全天の偏光撮影を行う。偏光フィルタを回転させて撮影した複数の画像から、全天の偏光特性を取得し、そこから太陽方向の判定を行う。空の偏光については、非特許文献１でも取り上げられており、前述の特許文献１、２と同様に、広範な空領域を撮影可能な魚眼カメラを用い、空の偏光状態を観測している。また、具体的な手法は述べられていないものの、偏光状態から太陽方向が求まる可能性に言及している。【０００６】
特許文献３は、偏光主軸が異なる複数の偏光画像を取得するためのパターン化偏光子を開示している。【０００７】
空の偏光パターンについては、非特許文献２、非特許文献３、および非特許文献４にも記載されている。
【先行技術文献】
【特許文献】
【０００８】
【特許文献１】特開平８−１６０５０７号公報
【特許文献２】特開２００４−１１７４７８号公報
【特許文献３】特開２００７−８６７２０号公報
【非特許文献】
【０００９】
【非特許文献１】“Ｐｏｌａｒｉｚａｔｉｏｎ Ａｎａｌｙｓｉｓ ｏｆ ｔｈｅ Ｓｋｙｌｉｇｈｔ Ｃａｕｓｅｄ ｂｙ Ｒａｙｌｅｉｇｈ Ｓｃａｔｔｅｒｉｎｇ ａｎｄ Ｓｕｎ Ｏｒｉｅｎｔａｔｉｏｎ Ｅｓｔｉｍａｔｉｏｎ ｕｓｉｎｇ Ｆｉｓｈｅｙｅ −Ｌｅｎｓ Ｃａｍｅｒａ”、Ｄａｉｓｕｋｅ Ｍｉｙａｚａｋｉ ｅｔ ａｌ、電子情報通信学会パターン認識・メディア理解研究会、 Ｖｏｌ．１０８， Ｎｏ．１９８， ｐｐ．２５−３２， ２００８
【非特許文献２】“Ｈｏｗ ｔｈｅ ｃｌｅａｒ−ｓｋｙ ａｎｇｌｅ ｏｆ ｐｏｌａｒｉｚａｔｉｏｎ ｐａｔｔｅｒｎ ｃｏｎｔｉｎｕｅｓ ｕｎｄｅｒｎｅａｔｈｃｌｏｕｄｓ: Ｆｕｌｌ−ｓｋｙ ｍｅａｓｕｒｅｍｅｎｔｓ ａｎｄ ｉｍｐｌｉｃａｔｉｏｎｓ ｆｏｒ ａｎｉｍａｌ ｏｒｉｅｎｔａｔｉｏｎ”、 Ｉｓｔｖａｎ Ｐｏｍｏｚｉ ｅｔ ａｌ， Ｔｈｅ Ｊｏｕｒｎａｌ ｏｆ Ｅｘｐｅｒｉｍｅｎｔａｌ Ｂｉｏｌｏｇｙ ２０４、 ２９３３−２９４２（２００１）
【非特許文献３】「光と電波」  徳丸仁著  森北出版  ２０００年３月２１日発行
【非特許文献４】“Ｐｏｌａｒｉｚａｔｉｏｎ ｓｉｎｇｕｌａｒｉｔｉｅｓ ｉｎ ｔｈｅ ｃｌｅａｒ ｓｋｙ” Ｍ．Ｖ．Ｂｅｒｒｙ、 ｅｔ ａｌ 、 Ｎｅｗ Ｊｏｕｒｎａｌ ｏｆ Ｐｈｙｓｉｃｓ ６ （２００４） １６２
【発明の概要】
【発明が解決しようとする課題】
【００１０】
しかしながら、上記従来技術によれば、撮像素子以外に、カメラ上部に全天観測センサを必要とするため、サイズ面で不利と言わざるを得ない。また、把持する撮影者にとって持ちにくさ、不便を与えうる。【００１１】
更に、光源情報の取得のため、カメラ上部のセンサで全天の画像を取得する必要がある。例えば、縦長の写真を撮影するために、カメラを９０度、右側へ傾けて撮影した場合や、或いは、屋根のある屋外環境下でシーンを撮影する場合などの実際に使用する際のことを考えてみる。この場合、カメラ上部のセンサが光源情報を捉えることは不可能である。すなわち、撮影場所・撮影姿勢の自由度の高いカメラ撮影において、センサが正しく全天を捉えられない場合も多く存在する。【００１２】
また、前述のセンサによる全天撮影時には、殆どの場合でその撮影範囲に太陽を含む。しかし、太陽光は大変強いため、例えば、入射する光の成分を減少させる機構が必要となってくる。すなわち太陽を含むようなカメラ撮影・光電変換素子への入力は簡易なものではない。【００１３】
以上のように、これらの従来技術には多くの制約が存在し、ユーザビリティが重視されるカメラ撮影においては、より自由度の高い太陽・カメラ向き検出技術が望ましい。【００１４】
本発明は、以上のような問題点を考慮して行われたものであり、全天観測センサを備えることなく、シーン画像中の部分的な空の状態から、撮像装置と太陽の相対位置関係や、撮像装置の向きを検出できる装置を提供することを目的とする。【００１５】
また、本発明の他の目的は、そのような撮像装置を備える移動体（携帯端末、携帯電話、自動車などを含む）であって、当該移動体の向きを検出する機能を有するものを提供することにある。
【課題を解決するための手段】
【００１６】
本発明の撮像装置向き検出装置は、偏光位相画像を含む偏光画像、および輝度画像を撮影によって取得する撮像部を備えた撮像装置の向きを検出する撮像装置向き検出装置であって、前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成する画像処理部と、前記撮像部の向きによって決まる撮像装置向きを前記青空偏光位相画像に基づいて推定する向き推定部と、前記向き推定部で推定された撮像装置向きを示す情報を出力する出力部とを備える。【００１７】
好ましい実施形態において、撮影時における太陽の位置に関する情報を取得する太陽位置取得部を備え、前記向き推定部は、前記情報を用いて撮像装置向きの推定を行う。【００１８】
好ましい実施形態において、前記太陽の位置に関する情報に基づいて、撮影時における空の偏光状態を示す全天偏光マップを取得する全天偏光マップ取得部を備え、前記向き推定部は、前記青空偏光位相画像および前記全天偏光マップに基づいて、前記撮像装置向きを推定する。【００１９】
好ましい実施形態において、前記全天偏光マップ取得部は、全天偏光マップを含むデータベースから撮影時における空の偏光状態を示す全天偏光マップを取得する。【００２０】
好ましい実施形態において、前記データベースを格納する記憶装置を備える。【００２１】
好ましい実施形態において、前記データベースを格納する外部の記憶装置にアクセスする通信装置を備える。【００２２】
好ましい実施形態において、前記全天偏光マップ取得部は、撮影時における空の偏光状態を示す全天偏光マップを計算によって生成する。【００２３】
好ましい実施形態において、前記向き推定部は、前記青空領域の偏光位相から前記青空領域の方向を計算し、前記撮像装置の向きを推定する。【００２４】
好ましい実施形態において、撮影時における空の偏光状態を示す全天偏光マップを取得する全天偏光マップ取得部を備え、前記向き推定部は、サーチモードおよび計算モードの少なくとも一方で動作し、前記サーチモードでは、前記青空偏光位相画像および前記全天偏光マップに基づいて、前記青空領域の方向を探索し、前記計算モードでは、前記青空領域の偏光位相から前記青空領域の方向を計算する。【００２５】
好ましい実施形態において、前記撮像装置の傾きを補正する水平度補正部を備える。【００２６】
好ましい実施形態において、前記撮像装置の傾きは、ロール方向の傾きを含む。【００２７】
好ましい実施形態において、前記撮像装置は、水準器を備えており、前記水準器によって水平度を取得し、取得した水平度に基づいて撮像装置の傾きを補正する。【００２８】
好ましい実施形態において、撮像範囲の画角を取得し、取得した画角に基づいて青空領域の範囲を決定する画角取得部を有する。【００２９】
好ましい実施形態において、前記撮像部は、偏光主軸角度が異なる複数の偏光子を備え、前記複数の偏光子を透過してくる光に応じて前記偏光画像を取得する。【００３０】
好ましい実施形態において、前記偏光画像は、前記偏光位相画像に加えて偏光度画像を含む。【００３１】
好ましい実施形態において、前記画像処理部は、空の偏光度が基準値以上の場合、偏光度を利用して前記青空領域を切り出し、前記偏光度が前記基準値よりも低い場合、色相を利用して前記青空領域を切り出し、前記青空偏光位相画像を出力する。【００３２】
好ましい実施形態において、推定結果の信頼度を判定し、使用者に情報を提示する信頼度判定部を備える。【００３３】
好ましい実施形態において、撮影時における太陽の位置に関する情報から得られる太陽の高度に応じて推定の可否を判定する太陽高度判定部を備えている。【００３４】
好ましい実施形態において、太陽の高度および方位、ならびに撮像装置向きに基づいて、座標変換を行ってカメラ座標での太陽位置を取得する。【００３５】
本発明の撮像装置（カメラ）は、偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、上記いずれかの撮像装置向き検出装置とを備える。【００３６】
本発明の移動体は、上記いずれかの撮像装置向き検出装置を備える移動体であって、偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、前記移動体の向きと前記撮像装置向きとの関係に応じて、検出された前記撮像装置向きから前記移動体の向きを決定する移動体向き推定部とを備えている。【００３７】
本発明の携帯機器は、上記いずれかの撮像装置向き検出装置を備える携帯機器であって、偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、前記携帯機器の向きと前記撮像装置向きとの関係に応じて、検出された前記撮像装置向きから前記携帯機器の向きを決定する携帯機器向き推定部とを備えている。【００３８】
本発明の画像入力装置は、偏光位相画像を含む偏光画像、および輝度画像を撮影によって取得する撮像部と、前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成する画像処理部と、前記撮像部の向きによって決まる撮像装置向きを前記青空偏光位相画像に基づいて推定する向き推定部と、前記撮像部によって撮像された画像のデータ、および前記向き推定部で推定された撮像装置向きを示す情報を出力する出力部とを備える。【００３９】
本発明の画像フォーマットは、画像データと、撮影時の日時を示すデータと、撮影場所の経度緯度を示すデータと、撮像装置向きを示すデータとを保持する。【００４０】
本発明の撮像装置向き検出方法は、撮像装置によって偏光画像および輝度画像を取得するステップと、前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成するステップと、撮像装置向きを前記青空偏光位相画像に基づいて推定するステップと、撮像装置向きを示す情報を出力するステップとを含む。【００４１】
本発明のプログラムは、撮影時の撮像装置向きを天空の偏光パターンを利用して検出する撮像装置向き検出装置のためのプログラムであって、撮像装置によって偏光画像および輝度画像を取得するステップと、前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成するステップと、撮像装置向きを前記青空偏光位相画像に基づいて推定するステップと、撮像装置向きを示す情報を出力するステップとをコンピュータに実行させる。
【発明の効果】
【００４２】
本発明によれば、様々な撮影場所・撮影姿勢での屋外シーンの撮影において、全天観測センサを備えることなく、空の部分的な偏光情報を用いて、撮像装置や移動体の向きを取得できる。
【図面の簡単な説明】
【００４３】
【図１Ａ】屋外でカメラが視線方向（ｚ軸方向）の風景写真をとる様子を示す図である。
【図１Ｂ】撮影されたシーン画像の例を示す模式図である。
【図１Ｃ】全天の偏光位相パターンの例を示す図である。
【図１Ｄ】全天の偏光位相パターンの他の例を示す図である。
【図１Ｅ】カメラ視線方向（ｚ軸方向）と太陽位置との関係の一例を示す図である。
【図１Ｆ】本発明の第１の実施形態における画像入力装置の構成を示すブロック図である。
【図２】本発明の説明に用いられる、カメラまわりの回転方向を示した概念図である。
【図３】シーン画像・シーン偏光画像取得部の構成を示すブロック図である。
【図４】カラー偏光取得部３０１の基本的な構成を示す模式図である。
【図５】（ａ）および（ｂ）は、偏光画像撮影部の撮像面の一部を上から見た模式図である。
【図６】（ａ）、（ｂ）、（ｃ）は、それぞれ、Ｂ、Ｇ、Ｒ偏光画素の波長特性を模式的に示すグラフである。
【図７】Ｇのカラーフィルタの透過域と偏光分離域を示すグラフである。
【図８】異なる偏光主軸を有する偏光子を透過した光の輝度を示すグラフである。
【図９】（ａ）、（ｂ）、（ｃ）は、それぞれ、シーン画像・シーン偏光画像取得部で撮影される偏光度画像、偏光位相画像、カラー画像（輝度画像）であり、（ｄ）は、カラー画像の模式図である。
【図１０】（ａ）および（ｂ）は、シーン画像のロール水平度補正について示す模式図である。
【図１１Ａ】青空偏光画像処理部の構成を示すブロック図である。
【図１１Ｂ】青空偏光画像処理部の他の構成を示すブロック図である。
【図１１Ｃ】青空偏光画像処理部の更に他の構成を示すブロック図である。
【図１２】（ａ）〜（ｆ）は、本手法を実際に昼の東空シーン画像に適用した場合の処理結果を示す図である。
【図１３】（ａ）〜（ｄ）は、図１２の画像についての最終的な処理結果を示す図である。
【図１４】（ａ）〜（ｆ）は、本手法を実際に夕方の東空シーン画像に適用した場合の処理結果（失敗）を示す図である。
【図１５】（ａ）〜（ｄ）は、本手法において色相類似度を利用して夕方の東空シーン画像に適用した場合の処理結果を示す図である。
【図１６】（ａ）および（ｂ）は、カメラ向き取得部の構成を示すブロック図である。
【図１７】（ａ）〜（ｃ）は、全天偏光マップおよび青空偏光位相画像の関係を示す概念図である。
【図１８】（ａ）および（ｂ）は、天球座標系を示す模式図である。
【図１９】撮影画像とカメラの関係を示す模式図である。
【図２０】カメラと、画像座標系と、天球座標系の関係を示す模式図である。
【図２１】本発明の第２の実施形態における画像入力装置の構成を示すブロック図である。
【図２２Ａ】第２の実施形態における青空偏光画像処理部を示した模式図である。
【図２２Ｂ】第２の実施形態における青空偏光画像処理部の他の構成を示すブロック図である。
【図２２Ｃ】第２の実施形態における青空偏光画像処理部の更に他の構成を示すブロック図である。
【図２３】（ａ）〜（ｆ）は、本手法を実際に昼の東空シーン画像に適用した場合の処理結果を示す図である。
【図２４】本発明の第２の実施形態におけるカメラ向き取得部の第１のモードの構成を示すブロック図である。
【図２５】全天偏光マップ候補領域取得部により得られる探索候補領域を示した概念図である。
【図２６Ａ】本発明の第２の実施形態におけるカメラ向き取得部の第１のモードの他の構成を示すブロック図である。
【図２６Ｂ】全天偏光画像の探索の信頼度が下がる場合の全天の偏光マップを示した概念図である。
【図２７】本発明の第２の実施形態におけるカメラ向き取得部の第２のモードの構成を示すブロック図である。
【図２８】本発明の第３の実施形態における画像入力装置の構成を示すブロック図である。
【図２９】本発明の第３の実施形態における出力部の構成を示すブロック図である。
【図３０】画像フォーマットを示す模式図である。
【図３１】本発明によるカメラ向き検出方法の一例を示すフローチャートである。
【図３２Ａ】本発明の第４の実施形態における移動体向き検出装置の構成を示すブロック図である。
【図３２Ｂ】本発明の第４の実施形態におけるデータベース２６０に蓄積されているデータ構造の一例を示す図である。
【図３３】本発明の第４の実施形態における移動体向き検出方法の一例を示すフローチャートである。
【図３４】本発明の第４の実施形態における移動体向き検出装置の一使用例を示す図である。
【図３５】本発明の第４の実施形態における移動体向き検出装置の設置例を示す図である。
【図３６】本発明の第４の実施形態における移動体向き検出装置の圏外表示の一例を示す図である。
【図３７】本発明の第５の実施形態における携帯機器向き検出装置の構成を示すブロック図である。
【図３８】本発明の第５の実施形態における携帯機器向き検出方法の一例を示すフローチャートである。
【図３９】本発明の第５の実施形態における携帯機器向き検出装置の一使用例を示す図である。
【図４０】本発明の第５の実施形態における携帯機器向き検出装置の設置例を示す図である。
【図４１】本発明の第５の実施形態における携帯機器向き検出装置の圏外表示の一例を示す図である。
【図４２】本発明の第６の実施形態におけるカメラ向き検出装置の構成を示す図である。
【図４３】本発明の第６の実施形態におけるシーン画像・シーン偏光画像取得部の構成を示すブロック図である。
【図４４】本発明の第６の実施形態における偏光取得部の基本的な構成を示す模式図である。
【図４５】本発明の第６の実施形態における偏光画像撮影部の撮像面の一部を上から見た模式図である。
【図４６Ａ】本発明の第６の実施形態における青空偏光画像処理部の構成を示すブロック図である。
【図４６Ｂ】本発明の第６の実施形態における青空偏光画像処理部の他の構成を示すブロック図である。
【図４６Ｃ】本発明の第６の実施形態における青空偏光画像処理部の更に他の構成を示すブロック図である。
【図４６Ｄ】本発明の第６の実施形態における青空偏光画像処理部の更に他の構成を示すブロック図である。
【図４７】本発明の第６の実施形態における撮像装置向き（カメラ向き）検出方法の一例を示すフローチャートである。
【図４８】（ａ）および（ｂ）は、それぞれ、本発明の第６の実施形態における撮像装置向き（カメラ向き）検出方法の別の例を示すブロック図およびフローチャートである。
【発明を実施するための形態】
【００４４】
本発明は、青空が偏光していることに着目し、その偏光のパターンを利用すれば、シーン画像に含まれる青空領域の偏光情報に基づいて、撮像装置の向きを推定することができるという知見に基づいて完成された。
【００４５】
図１Ａに示すように、屋外で撮像装置（簡単のため、「カメラ」と称する）１０が視線方向（ｚ軸方向）の風景写真をとる場合を考える。ここでは、図１Ｂに示すように、撮影したシーン画像内に青空の一部（青空領域）が含まれていることを前提とする。図１Ｂに示すシーン画像内の青空領域には、斜めの斜線が付されているが、この斜線は、青空の偏光位相を模式的に示しているものとする。ここで、偏光位相とは、偏光主軸方向を示す角度（位相角度）であり、カメラ視線方向（ｚ軸方向）の回りの回転角度によって規定される。
【００４６】
偏光位相の方向（位相角度）は、人間の視覚によって直接的に視認されるものではなく、通常の画像（輝度画像）には表れない情報である。しかし、カメラ１０の前に偏光フィルタを配置し、図１Ａに示すカメラ視線方向（ｚ軸方向）の回りに偏光フィルタを回転させると、特定の回転角度において、青空から出た光（偏光）が偏光フィルタを最も高い透過率で透過することができる。このときの偏光フィルタの透過軸方向（角度）が、カメラ視線方向（ｚ軸）の先に位置する青空領域の偏光方向（位相角度）に相当している。
【００４７】
図１Ｃおよび図１Ｄは、全天の偏光位相パターンの例を示す図であり、半球状の全天が有する偏光位相のパターンがそれぞれの円内に示されている。この円の中心が天頂、外周が地平に相当する。図１Ｃ、図１Ｄでは、多数の曲線が記載されており、各曲線の任意の位置における接線方向がその位置における偏光位相（角度）の向きを示している。この全天の偏光パターンは、最も簡易なモデルでは太陽を中心とした同心円方向に偏光方向を有するというものであるが、実際には特異な偏光特性を持つ点を４つ有することが実測により知られている。これについては非特許文献４に詳しい説明がある。
【００４８】
後に詳しく説明するように、青空の偏光は、天空における太陽の位置に応じて変化する。このため、撮影日時、撮影位置（経度、緯度）などの情報に基づいて天空における太陽の位置が求められると、その時刻における天空の偏光位相パターンが定まる。天空の任意の位置における偏光位相は、撮影日時・位置が与えられれば計算によって求めることもできるが、天空上の位置と偏光位相とを対応付けたマップ（全天偏光マップ）をデータベースとして記憶装置に格納しておくこともできる。
【００４９】
図１Ｅは、カメラ視線方向（ｚ軸方向）と太陽との位置関係の例を示す図である。カメラ視線方向（ｚ軸方向）の先には、撮影されるシーン画像の矩形範囲（画像エリア）が模式的に示されている。この矩形範囲に記載された矢印は、その方向における青空領域の偏光方向（偏光位相の向き）を示している。ある日時における青空の偏光位相は、天空における位置によって異なるため、カメラの向きが変わると、撮影される青空領域の偏光位相の向きも変化する。
【００５０】
本発明の好ましい態様によれば、天空の偏光情報をデータベースから、或いは計算によって取得する一方、撮影シーンに含まれる青空領域の偏光状態を検出するため、天空の偏光情報と対比することにより、撮影方向や、太陽位置とカメラの関係を求めることができる。また、他の態様によれば、データベースを利用することなく、計算によって青空領域の方向を求め、それによってカメラ向き（撮像装置向き）を推定することも可能である。
【００５１】
以下、図面を参照しながら、本発明の実施形態を説明する。
【００５２】
（実施形態１）
図１Ｆは、本実施形態に係る画像入力装置の構成を示している。この画像入力装置は、青空偏光位相画像取得部１００、カメラ向き推定部１０１、出力部１０２を備えている。青空偏光位相画像取得部１００は、シーン画像・シーン偏光画像取得部１００ａ、ロール水平度補正部１００ｂ、青空偏光画像処理部１００ｃを有し、青空偏光位相画像φｓｋｙを出力する。
【００５３】
本明細書において、「偏光画像」とは、画像を構成する複数の画素の各々が、その画素の偏光情報を表示する画像を意味するものとする。偏光情報は、偏光度および偏光位相（位相角度）を含む。したがって、「偏光画像」とは、特別に限定しない限り、個々の画素の偏光度を二次元的に表示した「偏光度画像」、および、個々の画素の偏光位相を二次元的に表示した「偏光位相画像」を総称したものである。
【００５４】
なお、各画素の偏光度および偏光位相の大きさ（数値）は、その画素における明度または色相によって表現され得る。本願の図面では、明度の高低によって偏光度や偏光位相の大きさを表現している。
【００５５】
次に、本実施形態による画像入力装置の詳細な構成および動作を説明する。
【００５６】
まず、図２を参照して本明細書で用いるカメラの回転方向に関する用語を説明する。
【００５７】
カメラの側方へ伸びる軸（ここではｘ軸）まわりの回転２０１がヨーである。また、カメラの上下方向へ伸びる軸（ここではｙ軸）まわりの回転２０２が、ピッチである。最後に、カメラの前後方向へ伸びる軸（ここではｚ軸）まわりの回転２０３が、ロールである。
【００５８】
なお、図１Ｆに示す構成要素のうちの全ての構成要素が図２に示すカメラに収められていることが好ましいが、例えばシーン画像・シーン偏光画像取得部１００ａとロール方向の傾きを計測する水準器とが図２のカメラ内に備えられ、ロール水平度補正部１００ｂ、青空偏光画像処理部１００ｃ、カメラ向き推定部１０１、および出力部１０２がカメラの外部に設けられていても良い。
【００５９】
カメラは、シーン画像・シーン偏光画像取得部１００ａとして機能する撮像部を備えるため、カメラの向きに応じて撮影されるシーン画像・シーン偏光画像の内容が変化する。
【００６０】
カメラ向きを推定するための一連の処理は、カメラの内部で実行されることが好ましいが、必ずしもカメラの内部で実行される必要はない。
【００６１】
本明細書では、輝度画像と偏光画像を取得する「撮像部」を備え、ユーザが撮像方向を変化させることのできる装置を「カメラ」と称し、そのカメラに内蔵されるか否かにかかわらず、カメラ向き（撮像装置向き）を推定する装置を「カメラ向き検出装置」または「撮像装置向き検出装置」と称する。また、このような「撮像部」と「撮像装置向き検出装置（カメラ向き検出装置）」の両方を備える装置を「画像入力装置」と称することとする。「撮像部」から「撮像装置向き検出装置（カメラ向き検出装置）」には、シーン画像およびシーン偏光画像のデータが送られるが、このデータの送受信は、リムーバブルメモリ、通信線、インターネットなどの各種の情報伝達媒体を通じて行うことができる。
【００６２】
このような「撮像装置向き検出装置」を備える装置は、カメラなどの撮像装置に限定されない。例えば、携帯端末（ノートパソコンを含む）、携帯電話などの携帯機器に「撮像装置」および「撮像装置向き検出装置」が備えられていても良い。また、自動車や二輪車などの移動体に「撮像装置」と「撮像装置向き検出装置」が備えられていても良い。
【００６３】
携帯機器や移動体の向きは、これらの装置が備える撮像装置の向きに一致している必要は無い。携帯機器や移動体の向きと撮像装置の向きとは、所定の関係にあるため、撮像装置向きが検出されれば、この検出された撮像装置向きから携帯機器や移動体の向きを求めることができる。
【００６４】
なお、本明細書における「カメラ」とは、通常、人が手に持って撮影する形態のいわゆる一般的なカメラに限らない。自動車などの移動体に備え付けられる撮像装置も、「カメラ」に含まれるものとする。
【００６５】
次に、図３を参照して、本実施形態のシーン画像・シーン偏光画像取得部１００ａの構成を説明する。屋外においては、シーン画像およびシーン偏光画像の両方を取得することが必要である。風による雲の動きなども存在するため、偏光画像もリアルタイムに取得することが好ましい。なお、シーン画像とシーン偏光画像は同時に取得することが好ましいが、数秒程度までの間隔で取得しても構わない。
【００６６】
従来技術では、偏光画像取得に際して、偏光板を回転させて複数画像を撮影するものが一般的であるが、屋外では非実用的であった。従来のモノクロ画像と偏光画像とを同時取得する技術が例えば特許文献３に開示されている。この技術では、輝度画像と被写体の部分偏光の画像とを同時に取得するため、複数の異なる偏光主軸（透過軸）を有するパターン化偏光子を撮像素子に空間的に配置する。パターン化偏光子としては、フォトニック結晶や構造複屈折波長板アレイが利用されている。しかしながら、これらの技術ではカラー画像と偏光画像とが同時に取得できなかった。
【００６７】
これに対して、図３のシーン画像・シーン偏光画像取得部１００ａは、被写体に対してリアルタイムにカラー画像情報を取得すると同時に偏光画像情報を取得し、２種類の偏光画像情報（偏光度画像ρ及び偏光位相画像φ）を出力する構成となっている。
【００６８】
図３のシーン画像・シーン偏光画像取得部１００ａでは、レンズ３００ａおよび絞り３００ｂを通った入射光が、カラー偏光取得部３０１に入射する。この入射光から、カラー偏光取得部３０１はカラー動画像情報および偏光画像情報の両方をリアルタイムに取得することができる。カラー偏光取得部３０１からは、カラー動画像情報および偏光情報画像情報を示す信号が出力され、それぞれ、カラー情報処理部３０２および偏光情報処理部３０３に与えられる。カラー情報処理部３０２および偏光情報処理部３０３は、上記信号に対して各種の処理を施し、カラー画像Ｃ、偏光度画像ρ、偏光位相画像φを出力する。
【００６９】
図４は、カラー偏光取得部３０１の基本的な構成を示す模式図である。図示されている例では、カラーフィルタ４０１およびパターン化偏光子４０２が、撮像素子画素４０３の前面に重ねて設置されている。入射光は、カラーフィルタ４０１およびパターン化偏光子４０２を透過して撮像素子に到達し、撮像素子画素４０３によって輝度が観測される。このように本実施形態によれば、カラーモザイク型の単板カラー撮像素子を用いてカラー画像情報および偏光画像情報の両方を同時に取得することができる。
【００７０】
図５（ａ）は、カラー偏光取得部３０１における撮像面の一部を光軸方向の真上から見た図である。図５（ａ）には、簡単のため、撮像面のうち、１６個の画素（４×４）のみが図示されている。図示されている４つの矩形領域５０１から５０４は、それぞれ、４個の画素セル上に設置されたベイヤ型カラーモザイクフィルタの対応部分を示している。矩形領域５０１は、Ｂ（ブルー）フィルタ領域であり、画素セルＢ１からＢ４をカバーしている。画素セルＢ１からＢ４には、それぞれ異なる偏光主軸を有するＢ（ブルー）用パターン化偏光子が密着している。ここで、「偏光主軸」とは、偏光子を透過する光の偏波面（透過偏波面）に平行な軸である。本実施形態では、同一色の画素内において異なる角度の透過偏波面を有する偏光子単位（微小偏光板）が隣接して配置されている。より詳細には、透過偏波面の方向が相互に異なる４種類の偏光子単位がＲ（レッド）、Ｇ（グリーン）、Ｂ（ブルー）の各同一色の画素内に配置されている。１つの偏光子単位は、４つの微細偏光画素に対応している。図５（ａ）では、個々の偏光画素に対して、Ｇ１などの符号が与えられている。
【００７１】
図５（ｂ）は、Ｂ（ブルー）用パターン化偏光子が密着する４つの微細偏光画素に割り当てられる偏光主軸を示している。図５（ｂ）において、各微細偏光画素に記載された直線は、微小偏光板の偏光主軸方向を模式的に示している。図５（ｂ）の例では、４つの微細偏光画素が、それぞれ、角度Ψｉ＝０°、４５°、９０°、１３５°の偏光主軸を有している。
【００７２】
矩形領域５０２、５０４の画素には、それぞれ、４個のＧ（グリーン）用パターン化偏光子が密着し、矩形領域５０３の画素には、４個のＲ（レッド）用パターン化偏光子が密着している。図中、参照符号「５０５」で示される位置は、本撮像系における矩形領域５０１における４画素を一括した仮想的な画素位置を示している。各矩形領域５０２〜５０４のパターン化偏光子も、図５（ｂ）に示すように異なる４つの偏光主軸を有する部分に分割されている。
【００７３】
このように本実施形態では、各カラー画素に対して、異なる偏光主軸を有する複数の微細偏光画素が包含される点に特徴を有しており、カラーモザイク配列自体は任意である。以下の説明では、個々の微細偏光画素を「偏光画素」と称することとする。
【００７４】
図６（ａ）から（ｃ）は、それぞれ、Ｂ（ブルー）、Ｇ（グリーン）、Ｒ（レッド）偏光画素の波長特性を模式的に示すグラフである。各グラフの縦軸は透過光の強度、横軸は波長である。Ｂ、Ｇ、Ｒ用の偏光画素は、Ｂ、Ｇ、Ｒの各波長帯域においてＴＭ波（Ｔｒａｎｓｖｅｒｓｅ Ｍａｇｎｅｔｉｃ Ｗａｖｅ）を透過し、ＴＥ波（Ｔｒａｎｓｖｅｒｓｅ Ｅｌｅｃｔｒｉｃ Ｗａｖｅ）を反射（透過せず）する偏光特性を有している。ＴＭ波は、磁場成分が入射面に対して横向きの波であり、ＴＥ波は、電場成分が入射面に対して横向きの波である。
【００７５】
図６（ａ）には、Ｂ偏光画像の偏光特性６０２、６０３と、Ｂ用カラーフィルタの透過特性６０１とが示されている。偏光特性６０２、６０３は、それぞれ、ＴＭ波およびＴＥ波の透過率を示している。
【００７６】
図６（ｂ）には、Ｇ偏光画像の偏光特性６０５、６０６と、Ｇ用のカラーフィルタの透過特性６０４とが示されている。偏光特性６０５、６０６は、それぞれ、ＴＭ波およびＴＥ波の透過率を示している。
【００７７】
図６（ｃ）には、Ｒ偏光画像の偏光特性６０８、６０９と、Ｒ用カラーフィルタの透過特性６０７とが示されている。偏光特性６０８、６０９は、それぞれ、ＴＭ波およびＴＥ波の透過率を示している。
【００７８】
図６（ａ）から（ｃ）に示すような特性は、例えば特許文献３に記載されたフォトニック結晶を用いて実現することができる。フォトニック結晶の場合、その表面に形成された溝に平行な電場ベクトル振動面を持つ光がＴＥ波、垂直な電場ベクトル振動面を持つ光がＴＭ波となる。
【００７９】
本実施形態で重要な点は、図６（ａ）から（ｃ）に示すように、Ｂ、Ｇ、Ｒの透過波長帯域の各々において偏光分離特性を示すパターン化偏光子を用いることにある。
【００８０】
図７は、Ｇのカラーフィルタの透過域と、偏光特性６１０１、６１０２によって定まる偏光分離域との間で波長がずれている場合を示している。このような特性を示す偏光子によれば、本発明の目的とする動作を行うことはできない。
【００８１】
モノクロ輝度と偏光フィルタとを使用する場合には、偏光分離特性を示す波長域の最適化は不要であったが、カラーの画素ごとに偏光情報を取得する場合は、カラーの分離特性と偏光の分離特性と整合させる必要がある。
【００８２】
本明細書では、偏光画素における偏光主軸の方位を表示する４つの数字「１、２、３、４」と、カラーを区別するため３つの符号「Ｒ、Ｇ、Ｂ」の組合せ（例えば「Ｒ１」や「Ｇ１」など）を用いて、偏光画素の特性を示すこととする。偏光画素Ｒ１および偏光画素Ｇ１は、数字が同じであるため、偏光主軸の方向は一致しているが、ＲＧＢ符号が異なるため、透過する光の波長帯域が異なる偏光画素に相当している。本実施形態では、このような偏光画素の配列を、図４に示すカラーフィルタ４０１およびパターン化偏光子４０２の組合せによって実現している。
【００８３】
被写体の特に明るい鏡面反射部分に含まれる偏光成分や、被写体の影領域に含まれる偏光成分などを確実に取得するため、撮像素子の輝度ダイナミックレンジとビット数はなるべく大きいこと（例えば１６ｂｉｔ）が望ましい。
【００８４】
図５に示す構成によって偏光画素毎に取得された輝度の情報は、図３の偏光情報処理部３０３で処理される。以下、この処理を説明する。
【００８５】
図８は、方向が異なる偏光主軸（Ψｉ＝０°、４５°、９０°、１３５°）を有する４種類の偏光子を透過した光の輝度７０１〜７０４を示している。ここで、偏光主軸の回転角ψがψｉの時における観測輝度をＩｉとする。但し、「ｉ」は、１以上Ｎ以下の整数、「Ｎ」はサンプル数とする、図８に示す例では、Ｎ＝４であるため、ｉ＝１、２、３、４となる。図８には、４画素のサンプル（ψｉ、Ｉｉ）に対応する輝度７０１〜７０４が示されている。
【００８６】
偏光主軸の角度Ψｉと輝度７０１〜７０４との関係は、正弦関数カーブによって表現される。図８では、輝度７０１〜７０４の４点が１本の正弦関数カーブ上に位置するように記載されている。より多くの観測輝度に基づいて正弦関数カーブを決定した場合、観測輝度の一部が正弦関数カーブ上から僅かに外れる場合もあり得るが、その場合でも問題はない。
【００８７】
なお、本明細書における「偏光情報」とは、輝度の偏光主軸角度に対する依存性を示す正弦関数カーブにおける振幅変調度および位相情報を意味するものとする。
【００８８】
実際の処理では、図５（ａ）に示す同一カラー領域５０１〜５０４ごとに内部の４個の画素輝度値をサンプルとして、パターン化偏光子の主軸角ψに対する反射光輝度Ｉを以下のように近似する。
【数１】
2010079557.tif 000003
ここで図８に示すようにＡ、Ｂ、Ｃは定数であり、それぞれ、偏光輝度の変動カーブの振幅、位相、平均値を表現している。図８の例においては、Ｂは負の値をとる。（式１）は、以下のように展開できる。
【数２】
2010079557.tif 000004
ただし、ＡおよびＢは、それぞれ、以下の（式３）および（式４）で示される。
【数３】
2010079557.tif 000005
【数４】
2010079557.tif 000006
以下の（式５）を最小にするＡ、Ｂ、Ｃを求めれば、輝度Ｉと偏光主軸角Ψとの関係を（式１）の正弦関数によって近似できる。
【数５】
2010079557.tif 000007
【００８９】
以上の処理で１つのカラーについて正弦関数近似のＡ、Ｂ、Ｃの３パラメータが確定する。こうして、偏光度ρを示す偏光度画像と偏光位相φを示す偏光位相画像が求められる。偏光度ρは、該当画素の光が偏光している程度を表し、偏光位相φは、該当画素の光の部分偏光の主軸角度を表している。なお、偏光の主軸角度は０と１８０°（π）は同一である。値ρおよびφ（０≦φ≦π）は、それぞれ、以下の（式６）および（式７）によって算出される。
【数６】
2010079557.tif 000008
【数７】
2010079557.tif 000009
【００９０】
なお、本実施形態のパターン化偏光子は、フォトニック結晶、フィルム型の偏光素子、ワイヤーグリッド型、その他の原理による偏光素子であってもよい。
【００９１】
図３に示すカラー情報処理部３０２は、カラー偏光取得部３０１から出力される情報を用いて、カラー輝度を計算する。偏光子を透過した光の輝度は、偏光子に入射する前の光が有する本来の輝度とは異なる。非偏光照明の場合、理論的には、偏光のすべての偏光主軸における観測輝度を平均化した値が偏光子に入射する前の光が有する本来の輝度に相当する。角度偏光画素Ｒ１の画素における観測輝度をＩＲ１と表現すると、以下の（式８）に基づいて、カラー輝度を算出することができる。
【数８】
2010079557.tif 000010
【００９２】
各偏光画素における輝度を得ることにより、通常のカラーモザイク画像を生成できる。モザイク画像に基づいて各画素でＲＧＢ画素値を有するカラー画像へ変換することにより、カラー画像Ｃが生成される。このような変換は、例えばベイヤーモザイクの補間方法などの公知の補間技術を用いて実現される。
【００９３】
カラー画像Ｃ、偏光度画像ρ、偏光位相画像φの各々における各画素の輝度および偏光情報は、図５（ｂ）に示す４つの偏光画素を用いて得られる。そのため、個々の輝度および偏光情報は、図５（ｂ）に示す４つの偏光画素の中心に位置する仮想画素点５０５における値の代表を示していると考えることができる。従って、カラー画像および偏光画像の解像度は本来のカラー単板撮像素子の有する解像度の縦１／２×横１／２に低下する。このため撮像素子画素数はできるだけ大きいことが望ましい。
【００９４】
実際の偏光度画像ρ、偏光位相画像φ、カラー画像Ｃの例を図９に示す。図９は、遠方の建物のシーンを被写体とする画像である。図９（ａ）の偏光度画像ρは、偏光の強度を画素の明度によって表現しており、画素の明度が高い（白い）ほど、その画素の偏光度が高い。図９（ｂ）の偏光位相画像φは、偏光位相の角度を明度によって表現している。偏光位相は０から１８０度までの値を明度に割り当てて表現している。位相角度には周期性があるため、偏光位相画像上の白と黒の位相角度は、実際には連続していることに注意する。図９（ｃ）のカラー画像Ｃは、通常のＲＧＢカラーの輝度画像である。ただし、この図面では、色相が表現されず、個々の画素の輝度のみが明度によって表現されたモノクロの輝度画像として記載されている。図９（ｄ）は、図９（ｃ）の画像に対応する模式図である。写真では分かりづらいが、８０１が空、８０２が雲、８０３が建物、８０４が植え込み、８０５がカメラ台の一部となっている。
【００９５】
また、図１０に示すように、以降の処理の前提として、シーンの撮影は水平線が画面内でも水平となるよう補正する。撮影したシーン画像・シーン偏光画像の傾き補正は、ロール水平度補正部１００ｂ（図１Ｆ）で行う。ここで補正するのは、カメラ光軸まわりの傾きである。すなわち、図２のｘ軸が、地面と水平になるように、方向２０３の回りにθｒだけ回転させることにより傾きを補正する。
【００９６】
以下、図１０を参照して水平度補正の一例を説明する。
【００９７】
まず、撮影した画像例として図１０（ａ）に模式的に示すように傾斜した画像が得られたものとする。地面からの垂線９０１１、地面の水平線９０２を図１０（ａ）に示すように規定する。このとき、画像が歪みのない理想的な画像（或いは、そのように補正された画像）とすると、図２のカメラｘ軸を図１０（ａ）のｘ軸と等価とみなすことができ、画像の水平な線９０２、すなわち地面からのカメラｘ軸方向の傾きは、θｒとなる。したがって、まず、この傾きθｒを、カメラ内部に設置された水準器で検出する。搭載する水準器は、例えば特開２００７−２４０８３２号公報に開示されているような、カメラ内部に搭載可能な水準器であれば何でもよい。
【００９８】
次に、水準器から得られた傾きθｒを使い、偏光位相画像の偏光位相補正を行う。具体的には、式７で得られたφを、以下の式９で補正することより、補正された偏光位相方向φｎｅｗを得ることができる。
【数９】
2010079557.tif 000011
【００９９】
また可能であれば、後段処理のため、シーン画像・シーン偏光画像についても傾き補正（水平度補正）を行う。シーン画像・シーン偏光画像の傾き補正は必須ではなく、傾いた画像のまま後段処理を行うことも可能であるが、説明の簡略化のため、ここでは傾き補正を実施する。図１０（ｂ）は、傾き補正後の画像である。補正前の図１０（ａ）における地面からの垂線９０１１は、図１０（ｂ）では、Ｘ’軸に平行となった画像の水平な線９０２と直交する新しい垂線９０１２までθｒ回転している。
【０１００】
図１０（ａ）における画素９０３の座標（Ｘｒ、Ｙｒ）は、角度θｒだけ画像を回転させた結果、以下の式１０で表される座標（Ｘｒ’、Ｙｒ’）に変換される。座標（Ｘｒ’、Ｙｒ’）の画素は、図１０（ｂ）において画素９０４として記載されている。
【数１０】
2010079557.tif 000012
この変換を画像内の全画素に適用することで、ロール方向に傾いて撮影された画像を、傾きが除去された画像に修正することができる（傾き補正）。
【０１０１】
なお、この補正は、水平線に対する空領域の偏光位相角が分かればよいため、例えば、雲領域を除去した後に行ってもよい。また、本補正を行わない場合は、以降のカメラ向き推定部での計算において、全天偏光マップを全てカメラ座標に座標変換すればよい。
【０１０２】
次に、図１１Ａを参照しながら、青空偏光画像処理部１００ｃの構成を説明する。
【０１０３】
青空偏光画像処理部１００ｃは、偏光度画像ρ、偏光位相画像φ、およびカラー画像Ｃを入力として、青空偏光位相画像φＳＫＹを出力する。青空偏光位相画像φＳＫＹは、シーンの中からカメラ向き、太陽向きを推定するために用いられる。
【０１０４】
青空偏光画像処理部１００ｃにおいて、偏光度２値化部１００１は、偏光度画像ρをしきい値Ｔρで２値化する。輝度変換部１００２は、カラー画像Ｃを輝度画像Ｙに変換する。輝度２値化部１００３、１００４は、変換された輝度画像Ｙに対して、しきい値ＴＣ１、およびＴＣ２を用いて２値化処理する。画像演算部１００５は、偏光度２値化部１００１で２値化された偏光画像ρ’と、輝度２値化部１００３で２値化された輝度画像Ｃ１’とのＡＮＤ（論理積）演算をし、マスク画像Ａ’を出力する。
【０１０５】
色相類似度変換部１００６は、カラー画像ＣをＨＳＶ変換し、空色の色相との色相類似度を表現した色相類似度画像ｈを出力する。色相類似度２値化部１００７は、色相類似度画像ｈをしきい値ＴＨでしきい値処理して、空色相領域のみを抽出した画像ｈ’を出力する。画像演算部１００８は、輝度２値化部１００４で２値化された輝度Ｃ２’、色相類似度２値化部１００７で２値化処理された特定色相との論理積演算を行う。
【０１０６】
出力選択部１００９は、２値化された輝度・偏光度画像Ｃ１’、ρ’から生成された第１の青空領域マスクＡ’、および、２値化された輝度・色相類似度画像Ｃ２’、ｈ’から生成された第２の青空領域マスクＢ’のいずれを採用するかを、偏光度判定部１０１０の出力ρｄに基づいて決定する。
【０１０７】
画像演算部１０１１は、採用された青空領域マスクＭｓｋｙと偏光位相画像φとの論理積演算を実施して、青空偏光位相画像φｓｋｙを生成する。
【０１０８】
従来の青空領域検出手法として、カラー画像から、画像上での色相が青に類似し、かつ平坦な領域を探すというものがある。この手法では、曇り空を含む青空に対し、カラー情報とテクスチャ情報から確率的に求める。しかし、カラー情報を利用するため、（ｉ）夕焼け空のようにカラーの色相情報がブルーからマゼンタ、レッドまで次第に移り変わる場合、あるいは（ｉｉ）地上の建物が青色、白色の場合に、特に実際の空または雲と識別が不可能になるという課題がある。
【０１０９】
このため、天空の物理的要因で様々に変化するカラー情報を明示的に使わずに、モノクロ輝度情報のみで空を検出できることが望ましい。このような検出を行うには、例えばシーン画像で最も輝度が高い領域が空であると仮定すればよい。実験によると、このような仮定に基づく空検出を行うと、曇天や夕焼け空の場合には、ある程度良好な結果が得られた。しかし、晴天の時は、空の輝度以上に、地上の建物が鏡面反射した輝度の方が高くなってしまう場合が多く、良好な結果が得られなかった。晴天の場合、太陽光の正反射が原因というよりは、人工物（建物）が青空の全周照明を受けることで、その滑らかな表面に予想以上に強い鏡面反射が生じてしまったことが原因であったと考えられる。
【０１１０】
そこで、本実施形態では、輝度に加えてシーンの偏光度を用いて青空領域を検出する。これは晴天昼における空の偏光度が、水平線近傍で非常に高いということを利用するものである。非特許文献２では、全天の空の偏光状態を朝（日の出）から夕方（日の入り）まで１２時間にわたり１時間ごとに記録しているが、この文献によると、朝と夕方の東西方向を除いてほとんどの時間で地平線近傍では空の偏光度が強い。実験によると、この空の偏光度は、多くの場合に地上の山などの遠景、建物などの人工物の偏光度よりもさらに強いため、有効な空検出手段になりえる。ただし、地上の建物の屋根やガラス等も非常に強く偏光する。この建物などに起因する偏光を除くためには、上記の偏光度と輝度のしきい値を併用したマスクを生成し、除去すべき領域を検出すればよい。
【０１１１】
ただし、先ほど述べたように朝と夕方は太陽の通り道となる東西方向で地平線近傍の偏光度が低くなるうえに、特に朝の西方向の空、及び夕方における東方向の空は輝度も低いことが多いため、本手法が適用できないケースが生じることがある。この場合はカラー色相と輝度を用いて検出すればよい。このケースについての詳細は後述する。
【０１１２】
以下、実際のシーン画像を示す図１２を参照しながら、図１１Ａの構成を備える青空偏光画像処理部１００ｃの動作を説明する。なお、以下の説明において、実際のシーン画像は撮像範囲が円領域となっているが、これは実験時のカメラ装置におけるレンズのケラレによるものであり本質的には矩形画像で考えてよい。
【０１１３】
青空偏光画像処理部１００ｃは、条件によっては、図１１Ａに示す破線で囲んだ最小構成１０１２によって実現できる。まず、図１２、図１３を参照しつつ、最小構成１０１２の動作を説明する。
【０１１４】
図１２（ａ）は、シーン画像の偏光度画像ρである。図１２（ｂ）は、図１２（ａ）の偏光度画像ρの内容を模式的に示す図である。図１２（ｂ）に示すように、シーン画像は、空領域１１０１、建物領域１１０２、雲領域１１０３、地面領域１１０４、カメラ台１１０５を含む。
【０１１５】
偏光度画像ρに対して、偏光度２値化部１００１で処理を行った結果が図１２（ｃ）の画像（ρ’）である。ここで、２値化閾値Ｔρ＝０．１４としている。２値化閾値Ｔρは、偏光度ヒストグラムから決定する。このシーンでは、空領域１１０１および地上の建物などの風景１１０２、１１０４が、偏光度の高い領域および低い領域にわかれて、双峰性分布を作っている。偏光度ヒストグラムにおける２つのピークの中間値を閾値Ｔρとする。ここで、２値化閾値Ｔρは、偏光度の高低を判定するための閾値であり、０＜Ｔρ＜１の関係を満たす。
【０１１６】
図において、建物の右側の雲領域１１０３も偏光度が低い場合には除去される。下部の黒色のカメラ架台１１０５だけは強く偏光していて除去できず残存してしまう。
【０１１７】
図１２（ｄ）は、シーン画像のカラー画像Ｃを輝度変換部１００２で処理した輝度画像Ｙである。輝度変換した輝度画像を、輝度２値化部１００３で２値化処理（ＴＣ１＝０．４）した結果が、図１２（ｅ）の画像（Ｃ１’）となる。このシーンでは、空領域１１０１の輝度と建物１１０２の輝度とがほぼ等しく、輝度での分離が困難であるが、このような場合でも閾値ＴＣ１、ＴＣ２を適当に設定することにより、カメラ架台など暗部は除去できている。本実施形態における閾値ＴＣ１、ＴＣ２は、輝度値を評価するため、０＜ＴＣ１＜１、０＜ＴＣ２＜１の大きさとなるように、正規化されたものである。例えば、輝度値が８ビットで表現される場合、ここでは、０〜２５５の輝度値を０〜１の数値に規格化して閾値ＴＣ１、ＴＣ２と比較する。輝度値が１６ビットで表現される場合は、０〜６５５３５の輝度値を０〜１の数値に規格化したうえで、閾値ＴＣ１、ＴＣ２と比較している。
【０１１８】
以上の２種のマスク画像ρ’、Ｃ１’を画像演算部１００５において論理積演算処理すると、図１２（ｆ）に示すように、一部偏光度の低い雲領域を除去した青空領域のみを分離したマスク画像Ａ’を得ることができる。このマスク画像Ａ’を出力選択部１００９で選択し、画像演算部１０１１において、図１３（ａ）の偏光位相画像φと論理積演算処理する。図１３（ｂ）は、図１２（ｂ）と同じシーン画像の模式図である。図１３（ｃ）は、図１２（ｆ）と同様にマスク画像Ａ’を示す。
【０１１９】
以上の処理によって、図１３（ｄ）の青空偏光位相画像φｓｋｙが得られる。
【０１２０】
ここで注意すべきは、青空領域を決定する際、原則的には雲領域を除去することが望ましい、ということである。後段のカメラ向き検出において、青空偏光位相画像φｓｋｙと全天偏光マップとの間で対応する点を探索する必要がある。当然ながら、全天偏光マップには、雲の存在が考慮されていない。ため、雲の存在によって偏光位相が乱された青空偏光位相画像φｓｋｙを利用してしまうと、推定誤りが起こる可能性がある。
【０１２１】
なお、特に雲が薄い場合、雲領域でも偏光位相が乱されないことがある。このような場合は、青空領域が雲を含んでいても良い。雲によって偏光位相が乱されるかどうかは、雲領域の偏光度の低下度合いが目安になる。偏光に基づいて青空領域を決定する本実施形態の方法によれば、偏光度の低い雲領域のみを自動的に除去できる、という利点がある。
【０１２２】
次に、夕方の東空を撮影したシーンを示す図１４を用いて、最小構成１０１２では処理できない場合について説明する。
【０１２３】
図１４（ａ）から（ｆ）は、それぞれ、シーン偏光度画像ρ、シーン画像の模式図、２値化したシーン偏光度画像ρ’、シーン輝度画像Ｙ、２値化したシーン輝度画像Ｃ２’である。図１４（ｂ）に示すように、このシーン画像は、空領域１２０１、建物領域１２０２、地面領域１２０３、カメラ台１２０４を含む。
【０１２４】
図１２（ａ）〜（ｆ）を参照しながら説明した処理と同様な処理を行った結果、最終的に、図１４（ｆ）に示すようなマスク画像Ａ’が得られる。明らかに青空領域の検出に失敗している。その理由は、図１４（ａ）のシーン偏光画像ρにおける青空領域の偏光度が低く、また輝度も低いためである。
【０１２５】
そこで、本実施形態では、このような場合に、図１１Ａに示す偏光度判定部１０１０を利用する。シーン偏光度画像ρの偏光度ヒストグラムに基づいて平均偏光度を求め、平均偏光度が所定閾値（Ｔρ１＝０．１）より低い場合には、これを採用せずに、カラー色相と輝度を用いた方法に切り替える。以下、その処理を図１１Ａと図１５を参照して説明する。
【０１２６】
まず、色相類似度変換部１００６において、空の色相である青の色相角とカラー画像Ｃの色相角との差異を示す色相角度の誤差を求めることにより、カラー画像Ｃが色相類似度画像に変換される。ここで空の色相を青色としたのは、このカラー画像を使う処理が使われるのは空の偏光度が低く輝度も低い場合に限られ、それは朝方の西空、および夕方の東空のいずれかであるから、空の色は青色とみなしてよいという仮定に基づく。
【０１２７】
典型的な空の青色の色相角（０°〜３６０°）をＨｓｋｙ（＝２５４°）とし、入力されるシーンの色相角をＨｔｅｓｔとする。よく知られたＲＧＢ空間からＨＳＶ（色相、彩度、明度）空間の色相Ｈへの変換式（ＲＧＢ＿ｔｏ＿Ｈ）を用い、さらに色相角が３６０度周期であることを考慮すると、色相類似度ΔＨは以下の式で表現される。
【数１１】
2010079557.tif 000013
この色相類似度画像ｈを、色相類似度２値化部１００７で閾値処理することにより、青空領域の候補のマスク画像ｈ’が求められる。図１５（ａ）は、図１４のシーン画像と同じシーン画像から色相類似度変換部で変換された色相誤差画像を表している。
【０１２８】
図１５（ｂ）は、図１５（ａ）のシーン画像の模式図を示す。図１５（ｃ）は、輝度２値化部１００４において、閾値（ＴＣ２＝０．２９）処理を行った輝度の２値化結果であり、図１５（ｄ）は、画像演算部１００８において、図１５（ａ）で示す色相２値化結果ｈ’と図１５（ｃ）で示す輝度の２値化結果Ｃ２’とを論理積演算した結果のマスク画像Ｂ’である。
【０１２９】
図１１Ａの出力選択部１００９において、偏光度判定部１０１０から出力されるρｄが閾値を超えない場合に、偏光度からのマスク画像Ａ’の代わりにこのマスク画像Ｂ’が採用される。この場合、画像演算部１０１１でマスク画像Ｂ’と偏光位相画像φと論理積演算を行って、青空偏光位相画像φｓｋｙが得られる。
【０１３０】
なお、先に述べた通り、最小構成１０１２のみで実施できるかどうかは、大きくは時刻に依存する。したがって、偏光度判定部１０１０を利用して、青空領域を抽出するためのマスクを切り替える代わりに、撮影日時によってマスクを切り替えるようにしてもよい。例えば午後４時以降、日没までを夕方として定義し、夕方でない場合は最小構成１０１２のみで青空領域の決定を実施し、夕方は図１１Ａの全構成を用いた切替も可能である。
【０１３１】
次に、図１１Ｂ、図１１Ｃを参照して、青空偏光画像処理部１００ｃの他の構成例を説明する。
【０１３２】
図１１Ａに示された青空偏光画像処理部１００ｃでは、前述したように、出力選択部１００９が、２値化された輝度・偏光度画像Ｃ１’、ρ’から生成された第１の青空領域マスクＡ’、および、２値化された輝度・色相類似度画像Ｃ２’、ｈ’から生成された第２の青空領域マスクＢ’のいずれを採用するかを偏光度判定部１０１０の出力ρｄに基づいて決定する。
【０１３３】
これに対して、図１１Ｂの青空偏光画像処理部１００ｃでは、第１の青空領域マスクＡ’および第２の青空領域マスクＢ’を作成する前の段階で、いずれのマスクを作成すべきかを選択部１０１４が偏光度判定部１０１０の出力ρｄに基づいて決定する。例えば、偏光度判定部１０１０から出力されるρｄが閾値を超えない場合、図１１Ｂの選択部１０１４は、第１の青空領域マスクＡ’ではなく、第２の青空領域マスクＢ’の作成を選択する。その結果、図１１Ｂの青空偏光画像処理部１００ｃは、第１の青空領域マスクＡ’を作成せず、第２の青空領域マスクＢ’のみを作成する。そして、画像演算部１０１１には、第２の青空領域マスクＢ’だけが入力されることになる。このため、選択されたマスクのみを作成すればよく、使用しないマスクを作成するための処理を省くことができる。
【０１３４】
図１１Ｃの青空偏光画像処理部１００ｃでも、同様に、第１の青空領域マスクＡ’および第２の青空領域マスクＢ’を作成する前の段階で、いずれのマスクを作成すべきかを選択部１０１４が決定する。ただし、図１１Ｃの青空偏光画像処理部１００ｃでは、マスクの選択を、偏光度判定部１０１０の出力ρｄに基づいてではなく、日時情報取得部１０１６が出力する撮影日時情報に基づいて決定する。時刻が夕方（例えば午後４時以降、日没まで）を示しているとき、図１１Ｃの選択部１０１４は、第１の青空領域マスクＡ’ではなく、第２の青空領域マスクＢ’の作成を選択する。その結果、画像演算部１０１１には、第２の青空領域マスクＢ’だけが入力されることになる。
【０１３５】
次に、カメラ向き推定部１０１で、カメラ方向を求める。図１６に、カメラ向き推定部１０１の構成を示す。
【０１３６】
図１６（ａ）は、サーチモードを実行する構成を示しており、この構成は、太陽位置取得部１３０１、全天偏光位相マップ取得部１３０２、青空領域方向推定部１３０３、および画角取得部１３０４を備えている。
【０１３７】
図１６（ｂ）は、計算モードを実行する構成を示しており、この構成は、太陽位置取得部１３０１、画角取得部１３０４、および青空領域方向計算部１３０５を備えている。
【０１３８】
これらの構成は、どちらも入力は同じ青空偏光位相画像φであり、太陽位置取得部１３０１の構成も共通である。カメラ向き推定部１０１は、図１６（ａ）および（ｂ）に示す構成の両方を備えていてもよいし、一方だけを備えていてもよい。また、どのモードを使用するかについては、撮影者が選択することも可能であるし、カメラ内部で自動的に決定してもよい。各モードの詳細については後述する。
【０１３９】
カメラ向き推定部１０１は、撮影された偏光位相パターンが、全天においてどの方向にあるかを求める。したがって、はじめに、空の偏光状態について説明する。
【０１４０】
空から降り注ぐ太陽の光は、電磁波の性質を有する。電磁波は伝播時、媒質の変化や、伝播路の構造的な変化があった場合、或いは急に物体が現れるような場合に、その変化する領域で二次的な電磁波を放射する。これが散乱である。
【０１４１】
再放射を生じる構造である、この散乱体が、電波の波長に比べて十分大きい場合、散乱体表面の現象を局所的に平面波反射・入射として扱うことができる。このような場合に生じる散乱が「幾何光学散乱」である。
【０１４２】
一方、散乱体が波長に比べて十分に小さいとき、散乱体表面の電磁界は静磁界で近似できる。このような場合に生じる散乱が「レイリー散乱」である。レイリー散乱の散乱特性は、散乱体の形状によらず、微小ダイポールの指向性と同じ特性を示す。
【０１４３】
なお、散乱体が波長と同程度の大きさ、つまり幾何光学散乱とレイリー散乱の中間にあたる場合は、分極の際に散乱体の表面や内部に過渡電流が流れる。この過渡現象が共振を生じ、特殊な散乱現象を示す。これが「ミー散乱」である。
【０１４４】
大気中には太陽光の波長の約千分の一程度の小さい分子が媒質として存在しているため、太陽光はレイリー散乱される。レイリー散乱では、分子散乱の際、波長の４乗に反比例する散乱係数で散乱するため、波長の短い光ほど強く散乱されるといえる。
【０１４５】
空の色について考えてみると、昼間の空が青いのは、波長の短い青色が強く散乱されて我々の眼に届くためである。一方、夕空が赤いのは、光源である太陽と我々の距離が長くなるために青色成分は消散し、透過光として残った赤色が我々の眼に届くからである。光は、レイリー散乱する際、光源である太陽との位置関係によって、偏波する性質を持つ。これが、空の偏光パターンが作られ、そして時事刻々と移り変わる要因である。
【０１４６】
ある平面波が球状散乱体に入射する場合を考える。散乱体が光の波長に比べて十分小さい場合には、散乱体内部の電気分極が瞬間的に定まり、十分遠方の散乱界については、散乱体の分極電荷ダイポールモーメントを備えた微小ダイポールとして近似できる。これは特に散乱角がπ／２のときに、完全偏波となる。このとき、太陽と、青空上の観測点と、視点を結ぶ散乱面に垂直な方向の偏光位相が得られる。それ以外の場合は、太陽と観測点と視点との位置関係に偏波位相特性は依存し、空の偏光を地上より観察すると、太陽を中心とした円の接線方向への偏光成分が強く観測されるようになる。
【０１４７】
非特許文献３によると、実測の結果、太陽以外に特異な偏光特性を持つ特異点が３点存在するという。非特許文献４では、それらを考慮した理論モデルを用い、現実に近い空の偏光パターンを得ることに成功している。
【０１４８】
なお、雲が存在する領域では偏光特性が異なる。雲は水滴などの雲粒の集まりであり、薄い雲であれば透けるが、濃くなると真っ白になって向う側は見えない。これは、雲の粒子間で多重散乱が起きているためである。ある散乱体で散乱された光が、今度は別の散乱体へ入射し、別の散乱を起こす、という散乱の繰り返しが多重散乱である。特に散乱体が数多く密に分布しているときには、散乱分光された光が重なり合うため白くなり、同様に、散乱によって偏光された光も重なり合って偏光特性を消失する。もちろん、完全に偏光特性を消失するわけではなく、雲の厚さや量によっては、偏光特性が残る場合もある。そのため、本手法では、初期の段階で雲領域を除去することはせず、偏光度の低い領域のみの除去を行い、空の偏光が利用できる領域のみに手法を適用する。
【０１４９】
続いて、カメラ向き推定部１０１の内容について、まず図１６（ａ）に示すサーチモードの説明を行う。
【０１５０】
空の偏光パターンは、先に述べたとおり、太陽の位置（太陽の高度および方位：以下、単に「太陽位置」と称する場合がある）に依存する。したがって、まず太陽位置取得部１３０１にて太陽位置を示す情報を取得する（以下、単に「太陽位置を取得する」と述べる場合がある）必要がある。
【０１５１】
太陽位置は、全天を見上げる日付・時刻・位置（緯度経度）により多様に変化するため、例えば、一般的にカメラに内蔵されている時計、およびＧＰＳ等を利用して全天における太陽の高度と方位を計算することで得ることができる。この場合の太陽高度・方位の計算方法について説明する。
【０１５２】
角度変数をθ0と置き、当該年元旦からの経過日数ｄｎを用い以下のように定義する。
【数１２】
2010079557.tif 000014
当該日の太陽赤緯をδと置くと、θ0を用いて以下のように求められる。
【数１３】
2010079557.tif 000015
また、緯度φ、経度λ、均時差Ｅｑ、日本標準時間ＪＳＴ、標準子午線経度ＪＳＫとおくと、太陽の時角ｔは以下の手順で求められる。
【数１４】
2010079557.tif 000016
【数１５】
2010079557.tif 000017
以上より、太陽方位θｓ、高度ｈｓを以下の式で求めることができる。
【数１６】
2010079557.tif 000018
【数１７】
2010079557.tif 000019
以上の計算は、立正大中川研究室の近似計算式による。
【０１５３】
なお、この求め方はあくまで一例であり、太陽位置の求め方としては他にも様々なものが存在する。例えば、「日の出・日の入りの計算」長沢  工（地人書館）などの文献に記載されている計算式で求めることも可能である。或いは、理科年表を利用した方法などで求めてもよい。
【０１５４】
次に、撮影時における撮影地点上の全天の偏光位相パターンを、全天偏光位相マップ取得部１３０２によって取得する。例えば、非特許文献３のように、各太陽高度・方位における偏光位相パターンを実観測によって記録したデータを作成し、それらを蓄積してデータベースとすることができる。そうして作成したデータベースから、撮影時の太陽高度・方位に対応する全天偏光位相マップを取得すれば、全天の偏光パターンがわかる。なお、撮影時の太陽高度、方位に等しいデータがない場合は、近いものを複数用いて補完するなどすればよい。
【０１５５】
また、非特許文献１、非特許文献２、或いは非特許文献４で利用されている数式を用い、太陽高度・方位から全天の偏光位相マップを理論計算により求めることも可能である。
【０１５６】
図１７に、前述の理論モデルに基づいた計算によって得られる全天の偏光位相パターンの概略図、および、青空偏光位相パターンとのマッチングの概念図を示す。図１７（ａ）の中心の大きな円は、午前９時頃の全天偏光図の例である。位相パターンは、分かりやすくするために点線で描かれているが、実際は、マップ上の各点が、位相を持っており、この図はその位相面の一部を可視化したものである。
【０１５７】
ここに示すように、全天の偏光パターンは、太陽１４０１を中心にした同心円状のパターンとなっている。より詳細には、特異点として知られるＢａｂｉｎｅｔ点１４０２や、Ａｒａｇｏ点１４０３などが影響することが知られている。天頂直下の点１４０４は、カメラ位置である。天頂から地平線に垂直に伸ばした線、すなわち地平線の垂線（Ｌｏｃａｌ Ｍｅｒｉｄｉａｎ）を定義する。カメラ位置から見た全天図の各点からの光が、それぞれが属するＬｏｃａｌ Ｍｅｒｉｄｉａｎに対し、どういった傾きの偏光位相を持つかを点線で示している。位相図の見方については、以下で詳しく説明する。なお、位相の方向は、位置１４０５における偏光位相φｐｉｘを示す図に併記している通り、Ｌｏｃａｌ Ｍｅｒｉｄｉａｎに沿った方向を０°、時計回りに正となるよう定義する。位置１４０５〜１４０８の図では、それぞれの偏光位相方向を点線矢印によって表している。この位相の大きさは、カメラの視線方向の先にある天空上の１点を通るＬｏｃａｌ Ｍｅｒｉｄｉａｎを基準線として決定される。基準線に対し、マップ上の位相線が、どのように交わっているかが、偏光位相の方向（位相角度）を与えるものとする。地平線付近の位置１４０５における位相角度は、Ｌｏｃａｌ Ｍｅｒｉｄｉａｎに対して約−２０°である。太陽経路上の位置１４０６における位相角度は、Ｌｏｃａｌ Ｍｅｒｉｄｉａｎに対し、±９０°である。これは、太陽経路上の全ての点でこうなることが知られている。位置１４０７における位相角度は、Ｌｏｃａｌ Ｍｅｒｉｄｉａｎに対し、約４０°である。太陽付近の位置１４０８における位相角度は、Ｌｏｃａｌ Ｍｅｒｉｄｉａｎに対し、ほぼ０°である。
【０１５８】
このように、カメラの方位によって、取得されるＬｏｃａｌ Ｍｅｒｉｄｉａｎに対する偏光位相は異なることがわかる。
【０１５９】
図１７（ｂ）、（ｃ）に、撮影される偏光位相画像の模式図１４０９、１４１０を示す。図中の矢印は、説明のために偏光位相の方向を模式的に示しているだけであり、実際には写真上に現れない。
【０１６０】
シーン画像・シーン偏光画像撮影部１００ａの説明に際して述べたように、各画素が偏光位相を示す値をもっている。複数の画素の偏光位相の並びから、天空のどの部分を撮影したものかがわかる。
【０１６１】
以下、撮影方向を決定する方法の好ましい例を説明する。
【０１６２】
まず、ある時刻において、図１７（ｂ）に示す青空偏光位相画像１４０９、および、図１７（ｃ）に示す青空偏光位相画像１４１０が得られたとする。これらは同じシーンに見えるが、空の偏光位相パターンが異なる。青空偏光位相画像１４０９は、空領域の偏光が、全体的に１１時の方向に偏光軸を持っている。一方、青空偏光位相画像１４１０では、空領域の偏光が、全体的に２時の方向に偏光軸を持っている。これら２枚の青空偏光位相画像１４０９、１４１０を、図１７（ａ）に示す天空の偏光パターンと比較することにより、例えば青空偏光位相画像１４０９は位置１４０５の偏向位相を有する北の方向を撮影したということがわかる。また同様に、青空偏光位相画像１４１０は、位置１４０７の偏向位相を有する南の方向を撮影したものであることが分かる。このように、シーン画像では同じように見えた２枚の画像であっても、画像に含まれる空領域の偏光位相が異なることにより、視線方向が違うシーンであると識別できる。
【０１６３】
偏光位相パターンは、図１７（ａ）では、簡単のため２次元座標上で示されているが、実際の位相偏光パターンの探索は、図１８（ａ）、（ｂ）に示すように、３次元地球座標上で行うことが望ましい。図１８は、地球座標系での太陽、およびカメラ向きの関係を表した概念図である。求めるカメラ向きについて、方位をθ１、仰角をθ２と置いている。ｘ軸＋方向に北、−方向に南、ｙ軸＋方向に西、−方向に東の方角をとっている。なお、座標は必ずしもこのようにとる必要はなく、方角と天球の対応が分かるように座標を取ればどのようでもよい。図１８の場合、カメラの方位は東側を０度にとり、北周りに回転させた角度となる。カメラの仰角は、地平線から垂直に上方へ仰ぎ見た角度となる。これらが、求めるカメラ向きとなる。
【０１６４】
図１８（ａ）において、太陽１５０１は座標Ｐｓにある。青空偏光位相画像中のある１点に対応する、天球１５０５上の点１５０２は、座標Ｐｖにとられている。参照符号１５０３はＰｖにおける偏光位相φｐｉｘである。カメラ１５０４の位置は、座標Ｐｃ（０、０、０）にある。Ｐｓの天頂角がφ２、Ｐｖの天頂角がθ２である。図１８（ｂ）は、図１８（ａ）のｘ−ｙ平面をｚ軸上より見下ろした図である。Ｐｓの方位角がφ１、Ｐｖの方位角がθ１である。
【０１６５】
ここで、天球１５０５の半径をｒとすると、座標Ｐｓ、Ｐｖに位置する各点は、φ１〜θ２を用いて、以下のように表すことができる。
【数１８】
2010079557.tif 000020
ここで、撮影画像の画素位置と、天球上の位置の対応をとるため、撮影画像の画素位置を、カメラ中心からの角度に置き換える。
【０１６６】
図１９に、カメラと撮影画像の位置関係の概略図を示す。図１８と共通する構成要素には同じ参照符号を付与している。
【０１６７】
処理対象の画素位置１６０１をＰｇ（ｐｇｘ、ｐｇｙ）とする。また、図１８のＰｖ１５０２に画像中心１６０２が対応するとし、その座標をＰｇｃ（ｃｘ、ｃｙ）とおく。また、カメラのｘ方向画角をθｐｘ、ｙ方向画角をθｐｙとする。この画角は、図１６の画角取得部１３０４によって取得する。画角については、レンズの焦点距離とチップサイズで決まるため、カメラ内部のメモリにデータとして予め与えておけばよい。ここでは、それを取得して用いる。画角は、青空領域の範囲を決定するために用いられる。
【０１６８】
カメラ１５０４とＰｇ１６０１とを結ぶ直線と、カメラ１５０４とＰｇｃ１６０２とを結ぶ直線との間の角度を、ｗｘ方向にθｐｘ’、ｗｙ方向にθｐｙ’とする。なお、既に画像には水平度の補正が施されているため、θｐｙ’はカメラ仰角方向のθ２にのみ寄与する。このとき、これらの角度θｐｘ’、θｐｙ’は、以下の式で表すことができる。
【数１９】
2010079557.tif 000021
このとき、Ｐｇに対応する天球位置Ｐｇｖは、以下の式で表される。
【数２０】
2010079557.tif 000022
なお、視点から太陽、および視点から観測点へのベクトルが分かれば、偏光位相は分かるため、今後は、天球の半径ｒ＝１としてよい。以上より、各画素に対応する偏光位相の天球上での位置を求める。
【０１６９】
図２０に、カメラ１５０４、画像エリア２０００、天球１５０５の俯瞰図を示す。カメラ１５０４から画像中心１６０２を結んだ線は、天球１５０５上で、点１５０２に到達している。なお、図１８、図１９と共通の構成要素には、同じ参照符号を付している。画角１６０３、１６０４の範囲が、撮影範囲に等しい。
【０１７０】
カメラ向きの推定には、従来のパターンマッチング手法を適用してよい。偏光位相は０°〜１８０°を１周期とするため、１８０°〜３６０°の位相については、その位相から１８０を引き、０°〜１８０°の範囲に収めるとよい。
【０１７１】
最も簡易なパターンマッチングの手法として、ＳＳＤ（Ｓｕｍ ｏｆ Ｓｑｕａｒｅｄ Ｄｉｆｆｅｒｅｎｃｅ）を利用できる。カメラ向きを仮想的に決定すると、先述のカメラ中心画素位置Ｐｇｃが、全天偏光マップ上でどこにあたるかが分かる。その際に、青空偏光画像の各画素位置における偏光位相と、全天偏光マップ上において前記各画素位置に対応する位置の偏光位相との差を求め、２乗誤差を計算する。仮想的に決定したカメラ向きを変化させながら２乗誤差を計算し、その誤差を最小化するカメラ向きを決定する。具体的には、先ほどの全天偏光パターン上の点Ｐｇｖ１６０７での偏光位相をφｐｇｖとする。また、実画像上の点Ｐｇ１６０１での偏光位相をφｐｇ、２乗誤差をＥｒｒとおく。このとき、２乗誤差Ｅｒｒは、以下の式で表される。
【数２１】
2010079557.tif 000023
【０１７２】
２乗誤差Ｅｒｒが最小になる部分が最も位相がマッチした場合であるので、この２乗誤差Ｅｒｒを最小にするように、画像中心Ｐｇｃ１６０６に対応する全天偏光パターン上の点Ｐｖ１５０２を動かす。
【０１７３】
このようなマッチングについては、“領域ベースマッチングのための２次元同時サブピクセル推定法” 清水雅夫、 奥富正敏（電子情報通信学会論文誌 Ｄ−ＩＩ、 Ｖｏｌ．Ｊ８７−Ｄ−ＩＩ、 Ｎｏ．２、 ｐｐ．５５４−５６４、 Ｆｅｂｒｕａｒｙ、 ２００４）に詳しい説明がある。実際には、θ１、θ２を変化させることになるが、前期文献記載の推定法を利用すれば、サブピクセル精度でＰｖ１５０２を求めることができる。結果をそのときカメラが見ている方位とし、以上によって得られるカメラ方位θ１、θ２を、カメラ向き出力部へ出力する。
【０１７４】
次に図１６（ｂ）に示す計算モードについて説明する。
【０１７５】
サーチモードと同様に、太陽位置を太陽位置取得部１３０１にて取得する。ここで、前述のとおり、非特許文献１、或いは非特許文献３では、数式で理論的な全天偏光パターンを求めている。逆にこれを利用して、得られたパターンと、太陽位置を用いて計算を行うことにより、カメラの方位角を取得することができる。
【０１７６】
例えば、非特許文献１の式を利用すると、青空偏光画像中のある画素での偏光位相をφｐｇとして、以下の式が成立する。
【数２２】
2010079557.tif 000024
【０１７７】
計算モードで求めたいものは、図１９の画素中心Ｐｇｃに対応する天球上の位置Ｐｖ（θ１、θ２）を規定する２つの変数θ１、θ２である（図１８（ａ）参照）。ここで、青空偏光位相画像の画素（青空領域の画素）は、殆どの場合、複数存在する。これらの画角が既知であることから、各画素Ｐｇの位置を、Ｐｇｖ（θ１+θｐｘ’、θ２+θｐｙ’）とおくことができる。なお、θｐｘ’、θｐｙ’は、画角とピクセル位置より、式１９によって求められる。
【０１７８】
以上より、青空偏光位相画像中のそれぞれの画素に対応するφｐｇ、φ１、φ２から、式２２を用いてθ１、θ２を計算できる。θ１、θ２を求めるには、最低３つの点について計算すればよいが、実際は偏光位相画像中のノイズの存在などが考えられるため、できるだけ多くの点を利用することが好ましい。例えば、動的計画法を繰り返して適用する手法を用いればよい。
【０１７９】
以上により求まったカメラの向きについて、最後に、ロール平行度の補正部でθｒ°補正したカメラ座標ｚ軸周りの傾きを、元通りに回転させる。これは、式１０を逆算すればよい。
【０１８０】
なお、計算モードで使用する数式は、前記式２２に限ったものではない。他の空の偏光を求める式を利用しても、同様にカメラ向きが取得できる。
【０１８１】
次に、図１Ｆの出力部１０２について説明する。出力部１０２は、上記の方法によって取得されたカメラの方位と仰角とを、後段で必要な形式のデータとして出力する。すなわち、図１９のθ１とθ２を示す情報を、場合に応じた出力形態にて出力する。
【０１８２】
（実施形態２）
図２１は、本発明の第２の実施形態に係るカメラ向き検出装置の構成を示すブロック図である。図２１において、図１Ｆに示す構成要素と共通の構成要素には同一の符号を付しており、ここではその詳細な説明を省略する。
【０１８３】
実施形態１と本実施形態との間で異なる第１の点は、実施形態１の装置が「青空偏光位相画像取得部１００」を備えていた（図１Ｆ）のに対して、本実施形態の装置が「青空偏光画像取得部１７００」を備えていることにある（図２１）。本明細書において「青空偏光画像」は、青空偏光位相画像および青空偏光度画像の両方を意味する。すなわち、本実施形態では、青空偏光位相画像だけでなく、青空偏光度画像を取得する。実施形態１と本実施形態との間で異なる第２の点は、本実施形態の装置が実施形態１の「カメラ向き推定部１０１」とは異なる処理を実行する「カメラ向き推定部１７０１」を備えていることにある。
【０１８４】
以下、本実施形態における青空偏光画像取得部１７００およびカメラ向き推定部１７０１の構成と動作を説明する。
【０１８５】
図２２Ａに青空偏光画像取得部１７００における青空偏光画像処理部１００ｃの構成図を示す。図１１Ａに示す構成要素と共通の構成要素については同一の符号を付しており、その詳細な説明を省略する。
【０１８６】
図２２Ａにおいて、図１１Ａと異なる部分は、出力として青空偏光位相画像φｓｋｙだけでなく、青空偏光度画像ρｓｋｙも出力されるという点である。本実施形態でも、出力選択部１００９において、第１のマスク画像Ａ’或いは第２のマスク画像Ｂ’のどちらかが採用されるが、本実施形態では、その採用されたマスク画像（「マスク画像Ｃ’」と称する）と、偏光度画像ρとのＡＮＤを画像演算部１８０１でとることで、青空偏光度画像ρｓｋｙを計算し、青空偏光位相画像φｓｋｙとともに出力する。
【０１８７】
以下、実際に撮影された図２３のシーン画像を用いて説明する。
【０１８８】
図２３（ａ）の画像はシーン画像の偏光位相画像φ、図２３（ｂ）の画像はシーン画像の偏光度画像ρである。図２３（ｃ）の模式図に示すように、空領域１１０１、建物領域１１０２、雲領域１１０３、地面領域１１０４、カメラ台１１０５を画像内に含む。なお、これらの符号は、図１２の対応する各領域に付されていた符号と同一である。
【０１８９】
図２３（ｄ）の画像は、最小構成１０１２によって生成されたマスクＡ’である。画像演算部１０１１で、偏光位相画像φと論理積演算した結果が図２３（ｅ）の青空偏光位相画像φｓｋｙであり、画像演算部１８０１にて偏光度画像ρと論理積演算した結果が図２３（ｆ）の青空偏光度画像ρｓｋｙである。ともに、空の特徴的なパターンを有していることがわかる。空の偏光度パターンも、偏光位相パターンと同様に、太陽の位置から計算によって求めることができるため、カメラ向きの推定に利用できる。
【０１９０】
なお、図１１Ａの青空偏光画像処理部１００ｃの変形例（図１１Ｂ、図１１Ｃ）と同様に、図２２Ａの青空偏光画像処理部１００ｃについても、図２２Ｂ、図２２Ｃに示す変形が可能である。すなわち、図２２Ｂの構成例では、第１の青空領域マスクＡ’および第２の青空領域マスクＢ’を作成する前の段階で、いずれのマスクを作成すべきかを選択部１０１４が偏光度判定部１０１０の出力ρｄに基づいて決定する。また、図２２Ｃの構成例では、第１の青空領域マスクＡ’および第２の青空領域マスクＢ’を作成する前の段階で、いずれのマスクを作成すべきかを選択部１０１４が撮影日時情報に基づいて決定する。
【０１９１】
次に、図２１のカメラ向き推定部１７０１の構成を図２４および図２７に示す。図２４はサーチモードの構成、図２７は計算モードの構成を示している。どちらも、図１６の構成要素と共通の構成要素には同一の符号を付しており、ここではその詳細な説明を省略する。実施形態１における対応する構成と本実施形態の構成との相違点は、青空偏光画像、すなわち、青空偏光位相画像φｓｋｙに加えて青空偏光度画像ρｓｋｙを入力として持つ点にある。
【０１９２】
まず、図２４を参照する。
【０１９３】
ヨー水平度取得部１９０１は、カメラのヨー方向の角度、すなわち仰角を取得する。全天偏光マップ候補領域取得部１９０３は、取得した青空偏光画像に対応する全天偏光マップ領域を、カメラの画角と仰角を元に、候補領域になる部分だけを切り出す。青空領域方向推定部１３０３は、実施形態１における青空領域方向推定部１３０３と同様の働きをする。信頼度判定部１９０４は、取得されたカメラ向きの信頼度を判定する。以下、各部の詳細を説明する。
【０１９４】
ヨー水平度取得部１９０１は、カメラの仰角を取得する。これによって、後段の全天偏光マップの探索領域を制限する。方法としては、例えば、青空偏光画像取得部１７００のロール水平度補正部１００ｂが有する水準器と同じものを、仰角が取得できるよう同一平面に設置すればよい。前述したとおり、搭載する水準器は、たとえば特許文献に記載されているような、カメラ内部に搭載可能なものであれば何でもよい。求まった仰角がθ２に相当する。これにより、青空領域方向推定部１３０３では、カメラの方位角θ１のみを変化させるだけで、カメラの方位を簡易に求めることが可能である。
【０１９５】
図２５に概念図を示す。図１７と同様に、天空の偏光位相を示す図の中に太陽１４０１およびカメラ位置１４０４が示されている。撮影された偏光画像の模式図１４０９には、空の偏光位相が矢印で模式的に示されている。なお、全天の偏光度マップについても、本探索領域制限の手順については同じであるため、図を省略する。
【０１９６】
カメラの画角と仰角が既知であれば、撮影されたシーン画像内の青空領域と全天偏光マップのマッチングを行うとき、全天偏光マップ候補領域取得部１９０３により探索範囲を全天偏光マップ内の帯状領域２００１（θ２：固定）に制限することができる。この領域２００１の内部で、仰角・画角を固定し、カメラ方位のみを変数としたサーチを実施形態１について説明した方法と同様にして行えばよい。このため、サーチの高速化が期待できる。
【０１９７】
ここでは２次元の図を参照しながら説明を行っているが、図１８に示すような３次元座標上でのマッチングを行う際にも、θ２を固定して、θ１のみ変化させたマッチングを行えばよい。
【０１９８】
なお、計測ズレなどの可能性もあるため、必ずしも画角と仰角を固定する必要はなく、取得した画角の前後、および仰角の前後の適当な範囲の数値に対して、適宜変化させてマッチングに用いることももちろん可能である。
【０１９９】
次に、図２６Ａを参照して、太陽高度によって信頼度を判定する形態を説明する。図２６Ａの構成は、太陽位置取得部１３０１と太陽高度判定部１３０２を備えている点に特徴を有している。
【０２００】
太陽高度判定部１３０２は、太陽位置取得部１３０１から得た太陽の高度について、定めた高度以上であれば「信頼度なし」と判定し、処理停止、エラー表示、などの処理を行う。これは、太陽が天頂に近くなった場合、偏光マップが東西南北でほぼ等しくなってしまい、判定の信頼度が低下するからである。
【０２０１】
図２６Ｂに、太陽２１０１が天頂に位置するときの天空の偏光位相パターンを示す。太陽２１０１が、完全に天頂に位置してしまった結果、どの方位を向いても、Ｌｏｃａｌ Ｍｅｒｅｄｉａｎからの偏光位相が９０°になってしまっている。これでは、カメラ向きを求めることができない。
【０２０２】
実際に太陽がどの程度天頂近くを通るかは、緯度経度と季節により異なるため、太陽の南中高度が天頂からある閾値以内の範囲にあった場合は、カメラ向きの判定が不可能とする。この場合、カメラ向き取得を停止し、使用者にエラー表示を行ったうえで終了する。例えば、太陽高度が天頂角５度以内であった場合は、判定不可能とする、などとする。
【０２０３】
好ましい実施形態では、図２４に示すヨー方向水平度取得部１９０１と、全天偏光マップ候補領域１９０３、および図２６Ａに示す太陽位置取得部１３０１および太陽高度判定部１３０２とをともに備えている。
【０２０４】
図２４、図２６Ａの構成例によれば、最後に、信頼度判定部１９０４にて、推定結果の信頼度を判定し、使用者に提示する。図２６Ａの構成例では、太陽高度の情報が得られるため、これによって信頼度を評価することができるが、信頼度の評価に太陽高度以外の情報を用いることができる。例えば、複数の候補領域が取得された場合に、候補領域数が多ければ、信頼度を低下させるようにしてもよい。或いは、偏光度が低い領域が選択された場合に、信頼度を低下させるようにしてもよい。
【０２０５】
信頼度が低い場合は、使用者がこの情報に対し何らかの手段を講じる必要がある。例えば、複数のカメラ向きが提示されている場合には、それらの中から、実際の撮影方向・撮影位置・太陽位置に一番近いものを選択する、という手段がある。或いは、撮影方向を、後述するカメラのオススメ機能により変更するという手段、また、撮影状況が許す場合には、撮影時間を、カメラの表示部で提案される時間まで延期する、という手段などがある。
【０２０６】
次に、図２７を参照して計算モードを説明する。
【０２０７】
図２７において、図１６（ｂ）と共通する部分には同じ符号を付している。図１６（ｂ）と異なる点は、部分青空領域方向計算部１３０４を備え、部分青空領域方向計算部１３０４に入力される情報として、ヨー方向の水平度および太陽高度の判定結果が加えられている点である。これらを計算の際の制約条件とし、実施形態１と同様に、計算により青空領域方向を求める。例えば、太陽高度判定部１９０２の出力結果が、「高度が高すぎるため、計算不可」となれば、その後の計算をストップし、信頼度判定部１９０４で「信頼度なし」と判断された場合と同様に、利用者に、判定不可である旨をディスプレイなどで通知する。
【０２０８】
また、ヨー方向の水平度が既知となる、或いは手がかりとできることで、式２２での計算を行う際、θ１のみ求めればよくなるため、簡略かつ信頼度の高い推定を行えるようになる。サーチモード同様に、最後に信頼度判定部１９０４にて推定結果の信頼度を判定し、使用者に通知する。信頼度が低い場合には、使用者は先に述べた説明同様に、何らかの手段を講じることが求められる。
【０２０９】
（実施形態３）
図２８は、本発明の第３の実施形態に係るカメラ向き検出装置の構成を示す図である。図２８において、図２１の構成要素と共通の構成要素には同一の符号を付しており、ここでは、その詳細な説明を省略する。
【０２１０】
本実施形態に特徴的な点は、出力部２２０１の構成と機能にある。出力部２２１０は、カメラ座標における太陽の方向を計算し、太陽の方向を示す情報とカメラ向きを示す情報を含むデータを規定のフォーマット形式にして作成・出力するという部分を備えている。以下、出力部２２０１について説明する。
【０２１１】
出力部２２０１の構成を図２９に示す。カメラの方位・仰角を元に、座標変換部２３０１にて、カメラ座標での太陽位置が計算される。そして画像フォーマット作成部２３０２にて、カメラの向き・太陽方向などを含んだフォーマットの画像Ｉｍが作成される。以下、その流れを説明する。
【０２１２】
カメラ向きとして、天球上でＣａｍＶｅｃｔ（ｘｃｍ、ｙｃｍ、ｚｃｍ）が得られたとする。太陽は、天球上でＰｓ（ｘｓ、ｙｓ、ｚｓ）であるとする。まず、ＣａｍＶｅｃｔについて、カメラ光軸方向をｚ軸に一致させる必要がある。このとき、３×３の回転行列Ｒ１を考える。
【０２１３】
以下の式２６を満たすＲ１を太陽の座標Ｐｓに用いれば、カメラ光軸がｚ軸方向へ向けた際の太陽位置が求まる。
【数２３】
2010079557.tif 000025
【０２１４】
また、この時点でのカメラ座標は、ロール水平度が補正された状態のままであるため、青空偏光画像取得部で取得したロール方向水平度の値を用いて、実際のカメラ座標の状態に戻す。これは、式１０を逆算する回転行列Ｒ２を用意すればよい。
【０２１５】
これより、天球座標上の太陽Ｐｓ（ｘｓ、ｙｓ、ｚｓ）に対して、Ｒ１、Ｒ２を用いてカメラ座標上の太陽ＳＵＮｃｍ（ｘｓｃｍ、ｙｓｃｍ、ｚｓｃｍ）が以下のように求まる。
【数２４】
2010079557.tif 000026
【０２１６】
次に、画像フォーマット作成部２３０２について説明する。本発明は、カメラ内部での処理以外にも、カメラ外部で、例えば撮影した画像を用いてコンピュータで後処理を施す際にも利用できる。したがって、カメラ向きや太陽方向の情報を、外部に取り出す独自フォーマットが必要となる。
【０２１７】
画像フォーマット２４０１の例を図３０に示す。画像フォーマット２４０１は、撮影した画像Ｉｍに対し、撮影時の
・時刻、緯度経度データ  ２４０２
・天球座標上でのカメラ向き（方位・仰角）情報  ２４０３・２４０４
・カメラ座標上での太陽位置情報  ２４０５
・青空領域分割結果データ  ２４０６
・青空領域偏光位相画像  ２４０７
・デジカメ画像データ  ２４０８
などを同時に有することを特徴とする。もちろん、その他一般的な画像フォーマットが有するような情報を同時に有していてもよい。
【０２１８】
アプリケーションによって、最低限必須となる情報は異なるが、特に最低限の情報として、撮影場所の経度緯度、およびカメラ向き（方位）を備えている。本フォーマットの画像が、本画像入力装置から出力される。
【０２１９】
以上の情報を有することで、カメラ内部だけでなく、カメラ外部のコンピュータ上などでも、
ｉ）撮影位置とカメラ向きから、撮影対象・撮影物体の認識、ラベリング
ｉｉ）カメラ位置と太陽位置から、逆光補正・色補正などの画像補正
ｉｉｉ）青空領域の色変換
ｉｖ）画像の真贋判断
等の処理を行うことが可能である。これらの４つの適用例について、以下で説明する。
【０２２０】
まずｉ）について説明する。例えば、パリの凱旋門前などの観光地で、ある写真を撮ったとする。このとき、ＧＰＳをカメラが備えていれば、「凱旋門の近くで撮った写真」であることは分かるが、それだけでは、凱旋門を撮ったものなのか、それとも、凱旋門を背にシャンゼリゼ通りを取ったものかは、分からない。
【０２２１】
本手法を利用すれば、カメラの方位２４０３がわかるため、世界地図と照らし合わせて、凱旋門とシャンゼリゼ、どちらを撮ったのかが分かる。これを利用すれば、例えば個人がＰＣに保存している画像の撮影対象分類に利用できる。或いは、ｗｅｂ上にある画像情報の、撮影対象分類にも利用できる情報となる。
【０２２２】
さらに、カメラの仰角２４０５の情報を利用することで、おおよそのカメラ視点方向が認識できる。カメラ光軸方向がわかれば、例えば、個人或いはｗｅｂ上の、撮影対象ごとに分類された画像間で、画像合成を行う際に非常に有効な情報として利用でき、ＣＧ・ＣＶ分野での利用について有効な情報を提供できる。
【０２２３】
次にｉｉ）について説明する。太陽方向座標２４０４が導出済みであるため、カメラに対する太陽の位置関係が分かる。例えば、カメラが太陽の方向を向いていれば逆光であると予測されるため、逆光補正を行う、或いは、利用者に「逆光補正をオススメ」することができる。この場合、カメラが「オススメ」する向きに対して、その向きにカメラが近づくとピントが合い、逆に離れるとピントがボケる、等の処理を表示部で行えば、利用者が自然にオススメ向きへカメラを向けられるようなフレーミング提案を行うこともできる。なお、日付と時間、緯度経度データ２４０２と、カメラ向き・仰角データ２４０３・２４０５から、ＰＣ上で太陽位置の計算を行うことも可能であるため、必ずしも太陽方向２４０４がフォーマット上で導出済みである必要はない。
【０２２４】
次にｉｉｉ）について説明する。フォーマットが青空領域分割結果データ２４０６を保持するため、これを利用して、昼間撮影した写真の青空領域の色を夕空の色に変換する、或いは変換候補として提示するなどすることができる。また、同時に、青空領域以外の部分は、別の変換を施す（少し暗くするなど）、或いは施せるようにすることで、より自然なシーン画像の変換が可能となり、画像処理ソフトウェアにおいて、有効な情報を提供できる。
【０２２５】
最後にｉｖ）について説明する。青空領域偏光画像２４０７を有するため、ある画像のデジカメ画像データ２４０１・時刻データ２４０２が画像変換・ヘッダ書き換えにより明け方のように変換されていた場合も、本手法で利用した明け方の偏光マップと照らし合わせることで、それが加工されたデータであるかどうかが分かり、画像の真贋判断に利用できる。
【０２２６】
あくまでこの４つは代表的な適用例であり、本フォーマットで実施可能な後段処理はこれに限らない。
【０２２７】
以上説明してきたように、本発明のカメラ向き検出装置を備える画像入力装置（カメラなど）によれば、シーン画像内の青空領域の偏光情報からカメラ向きを推定するため、天空全体の偏光パターンを取得するための特別なレンズは必要ない。
【０２２８】
なお、本発明によるカメラ向き検出方法は、図３１に示すように、カメラによって偏光画像およびカラー画像を取得するステップＳ２５００と、偏光画像およびカラー画像に基づいてカラー画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成するステップＳ２５０２と、カメラ向きを青空偏光位相画像に基づいて推定するステップＳ２５０４と、カメラ向きを示す情報を出力するステップＳ２５０６とを含む。このようなステップを実行する本発明のカメラ向き検出方法は、上述した構成を有する装置に適用される場合に限定されず、他の構成を有する装置に適用されても実施することが可能である。また、上記のステップをコンピュータに実行させるプログラムを用意し、このプログラムによってカメラなどの画像入力装置に内蔵されるコンピュータの動作を制御すれば、プログラムの改変によって画像入力装置の動作を改善することが容易になる。
【０２２９】
（実施形態４）
以下、本発明の第４の実施形態を説明する。
【０２３０】
上記の実施形態は、「撮像装置向き検出部」を備える撮像装置に関連しているが、本実施形態は、「撮像装置向き検出部」を備える移動体（典型的には、自動車）に関連している。すなわち、本実施形態における移動体は、偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、上記の撮像装置向き検出装置とを備えている。更に、この移動体は、移動体の向きと撮像装置向きとの関係に応じて、検出された撮像装置向きから移動体の向きを決定する移動体向き推定部を備えている。
【０２３１】
一般的に、カーナビゲーションシステムでは、ＧＰＳにより車の位置を求め、車が前進、或いは後進しているという前提のもと、車が移動した際の位置変化に基づいて、車の前面がどちらを向いているか（方位）を求める。
【０２３２】
しかし、移動体の停止時には、位置変化が起こらない。したがって、方位の取得には、過去のデータに基づいた推定を行う必要が発生する。停止時だけでなく、交差点のように、ほぼ同じ位置で向きの変更が起こるような場合も、ＧＰＳの位置データは変化しない。そのため、過去の方位データと、走行時のタイヤの回転数等の情報から、移動体の方位を推定している。
【０２３３】
これらの方法では、過去の状況を元に推定しているため、移動体の停止時間や、路面状況・停止までの走行状況によっては、現在の実際の方位を正しく示さない場合がある。例えば、車がスピンして停止した場合などは、タイヤの回転数から車の回転方向を算出することが出来ないため、車がどちらの方位を向いて停止したのか推定することができない。
【０２３４】
これに対して、より直接的に方位を求める方法としては、オーソドックスな方位磁針の利用が考えられるが、方位磁針は磁気の影響を受けやすいことが知られている。すなわち、方位磁針の近くに磁力が発生しているものが存在すれば、簡単に方位が狂ってしまう。車のように、金属である移動体に搭載した場合、移動体の磁化により方位磁針が狂う可能性がある。また、地磁気が検出できないといわれる場所は多くあるが、そのような場所でも利用できないという問題がある。
【０２３５】
図３２Ａは、本実施形態における移動体が備える移動体向き検出装置の構成を示す図である。上記各実施形態の構成と異なる部分は、移動体向き検出装置が、移動体向きを求める移動体向き推定部２６００と、移動体向きを出力する移動体向き出力部２６０１とを備えている点である。更に、本実施形態では、カメラ向きと移動体向きとの関係を規定する情報を提供するデータベース２６０が、移動体向き推定部２６００と接続される。このデータベース２６００は、移動体が備えていても良いし、移動体の外部に設置されたデータベース２６００と有線または無線によって適宜接続されても良い。
【０２３６】
次に、図３３を参照しながら、本実施形態における移動体向きの検出動作を説明する。図３３は、本実施形態における移動体が備える移動体向き検出装置の動作を示すフローチャートである。図３２Ａに示すシーン画像・シーン偏光画像取得部（画像撮像部）１００ａにおいて画像撮像ステップＳ２７００を実行した後、青空偏光画像処理部１００ｃにおいて画像処理ステップＳ２７０１を実行する。こうして、青空偏光画像を取得する。
【０２３７】
続いてカメラ向き推定部１０１においてカメラ向き推定ステップＳ２７０２を実行することにより撮像素子の向き（撮像装置向き）を推定する。推定した撮像装置向きを示す情報に基づいて、移動体向き推定部２６００で移動体向き推定ステップＳ２７０３を実行することにより、移動体の向きを推定する。
【０２３８】
ここで、撮像装置向きと移動体向きとの関係を説明する。後に図３５を参照して説明するように、撮像装置向きと移動体向きとの関係は、カメラ（撮像部）の取り付け位置によって変化する。そのため、撮像装置向きは、必ずしも移動体向きに一致していない。このため、例えば移動体における撮像部の取り付け位置（簡単に「カメラ位置」と称する。）に応じて、撮像装置向きから移動体向きを求める必要がある。
【０２３９】
本実施形態では、図３２Ｂに示すような構造を有するデータ（テーブル）がデータベース２６０内に蓄積されている。データベース２６０内のデータを参照し、移動体上のカメラ位置（前、後、右、左）に応じて、カメラ向きを示す座標を変換すれば、移動体向きの座標を算出することができる。例えば、撮像装置が自動車の後部に設置されている場合、移動体向きの方位は、カメラ向きの方位を１８０度回転させたものとなる。
【０２４０】
厳密には、カメラ向きと移動体向きとの関係は、カメラ位置のみならず、カメラの視線方向と移動体向きとの関係によって規定される。このため、データベース２６０に蓄積されるデータは、カメラ向きと移動体向きとのより正確な関係を示す情報を有していることが好ましい。
【０２４１】
最後に移動体向き出力部２６０１において、移動体向き出力ステップＳ２７０４を実行することによって、移動体の向き情報を、利用者にディスプレイや音声等で提示できるよう処理する。
【０２４２】
図３４を参照して、本実施形態における移動体（車２８０１）の動作の例を説明する。
【０２４３】
ここでは、交差点２８００に車２８０１が進入し、停止したという状況を示している。ＧＰＳ等の速度差分を利用する手法では、現在の車の向きを知るため、交差点から繋がるいずれかの道を選んで、一定距離走行する必要がある。その際、選んだ道が、通過するつもりであった道と異なった場合、改めて交差点から正しい道へ進みなおす必要があり煩雑である。これに対し、本発明を用いると、図３４の画像領域２８０２に示す、車外の青空偏光画像を取得するだけで、一定距離走行することなく、車の向きを利用者に提示することができる。
【０２４４】
なお、提示の方法は、図３４に示すように、ディスプレイ２８０３を利用しても、音声警告２８０４であってもかまわない。特にディスプレイ２８０３に、現在地付近の地図表示がなされている場合は、車の向きを、地図上に矢印２８０５のような形式で表示することで、利用者が自車の向きを容易に理解できるという効果がある。
【０２４５】
以下、本実施形態をさらに詳しく説明する。
【０２４６】
図３２Ａを参照する。図３２Ａに示すシーン画像・シーン偏光画像取得部１００ａ、青空偏光画像処理部１００ｃ、及びカメラ向き推定部１０１は、図１Ｆに示す、同じ番号の処理部とそれぞれ同一の動作を行うため、ここでは説明を省略する。ロール水平度補正部１００ｂについては、図１Ｆと同様の動作でもよいが、以下に説明する別の動作でもよい。
【０２４７】
撮像部は、車上または車中に走行中は固定される。したがって、設置時に地面に対するロール水平度を一度記憶しておけば、その後は設置時の水平度を用いて補正を行えばよい。毎回水平線の抽出を行わなくてよいため、より高速に処理が行えるという効果がある。
【０２４８】
続いて、移動体向き推定部２６００について説明する。
【０２４９】
図３５に、移動体上における偏光撮像素子（撮像装置）２９００の代表的な設置例を示す。図３５には、本実施形態に係る移動体（自動車）２９０１〜２９０４が図示されている。
【０２５０】
移動体２９０１では、偏光撮像素子２９０５のように、前面ボンネット上の位置、或いは後ろボンネット上の位置に設置する。こうすることで、運転の邪魔にならない、比較的高い位置から、青空偏光位相画像を取得できる。
【０２５１】
移動体２９０２のように、ボンネットより低い位置、例えば車体下部近くに偏光撮像素子２９０６または偏光撮像素子２９０７を設置してもよい。こうすることで、外観に与える影響を少なくすることができる。また、偏光撮像素子２９０７のように、斜め向きに設置してもよい。
【０２５２】
移動体２９０３における偏光撮像素子２９０８のように、運転席の直前の窓、或いは同乗者席の窓等に設置すれば、より高い位置から安定して青空偏光画像を取得できる。
【０２５３】
なお、上記の偏光撮像素子２９０５〜２９０８は、設置場所のみ異なる同じ偏光撮像素子であるため、偏光撮像素子２９００と称する。
【０２５４】
永久的に固定位置に設置するのではなく、乗車前のタイミングで、いつでも好きな時に利用者が偏光撮像素子２９００の設置位置を決めてもよい。例えばケーブル等で撮像装置と、青空偏光画像処理部を含む装置を接続できるようにすれば、移動体２９０４に示すように、撮像部の位置をユーザが広い範囲から選択することができる。このようにすると、各利用者の都合に合わせた利用の仕方が出来るため、便利である。撮像部は、車外の青空偏光位相画像を取得できる位置で、なおかつ、車体の直上（画像に太陽を含む可能性が非常に高くなる）を向かない方向であれば、どこにどの向きで利用者が設置してもよい。したがって、ここに図示した配置例以外にも、先ほどの設置条件を満たす位置に設置されればよい。
【０２５５】
なお、屋外が雨や曇であることが分かった場合、或いは、時間帯や位置の関係上、カメラ向き推定の精度が著しく落ちる場合は、図３６に示すように、そのような状況下にある移動体３０００に、本実施形態の装置からメッセージを発するとよい。例えば、ディスプレイ３００１に示すように、「信頼度が低いため、利用不可能」と表示する、或いは、音声警告３００２にて、本発明の装置が利用不可能である旨を利用者に伝えるといったことがある。このようにすることで、間違った情報を利用者が受け取る可能性を低減できる。
【０２５６】
（実施形態５）
以下、本発明の第５の実施形態を説明する。
【０２５７】
一般的に、ポータブル機器が有するナビゲーションシステムでは、ＧＰＳにより移動する人物の位置を求め、人物が前進、或いは後進しているという前提のもと、人物が移動した際の位置変化に基づいて、人物がどちらを向いているか（方位）を求めている。
【０２５８】
しかし、人物が停止した際には、その位置変化が起こらないという問題がある。そのため、方位の取得には、過去のデータに基づいた推定を行う必要がある。ただし、特に人物の歩行速度は車に比べて遅いため、過去の方位データから人物の向きを精度よく推定することは難しい。特に一度立ち止まって周囲を見渡してしまうと、その人物がどちらを向いているのか、目の前の道路が、地図上でどの道路にあたるのかといった情報を提供することは非常に困難である。
【０２５９】
本実施形態における向き検出装置では、人物が歩行していない状態でも、人物が把持している携帯機器の向きを推定できる。
【０２６０】
図３７は、本実施形態における携帯機器向き検出装置の構成例を示す図である。図３７の構成において、他の実施形態の構成と異なる部分は、携帯機器向きを求める携帯機器向き推定部３１００と、携帯機器向きを出力する携帯機器向き出力部３１０１を備えている点である。
【０２６１】
次に、図３８を参照しながら、本実施形態における携帯機器向きの検出動作を説明する。図３８は、本実施形態における移動体が備える携帯機器向き検出装置の動作を示すフローチャートである。図３２Ａに示すシーン画像・シーン偏光画像取得部１００ａにおいて画像撮像ステップＳ３２００を実行した後、青空偏光画像処理部１００ｃにおいて画像処理ステップＳ３２０１を実行する。こうして、青空偏光画像を取得する。
【０２６２】
続いてカメラ向き推定部１０１においてカメラ向き推定ステップＳ３２０２を実行することにより撮像素子の向きを推定する。推定した向きの情報に基づいて、携帯機器向き推定部３１００で携帯機器向き推定ステップＳ３２０３を実行することにより、携帯機器の向きを推定する。
【０２６３】
本実施形態でも、図３２Ａ、図３２Ｂを参照して説明したデータベースを用いることにより、カメラ向きと携帯機器向きとの関係に基づいてカメラ向きから携帯機器向きを決定することができる。
【０２６４】
最後に携帯機器向き出力部３１０１において、携帯機器向き出力ステップＳ３２０４によって、携帯機器の向き情報を、利用者にディスプレイや音声等で提示できるよう処理する。
【０２６５】
図３９に、利用状況の例を図示する。ここでは、分岐３３００に人物３３０１がたどり着き、停止したという状況を示している。ＧＰＳ等の速度差分を利用する手法では、現在の人物の向きを知るためには、分岐から繋がるいずれかの道を選んで、一定距離歩行する必要がある。その際、選んだ道が、通過するつもりであった道と異なった場合、改めて分岐から正しい道へ進みなおす必要があり、煩雑である。これに対し、本発明を用いると、図３９の画像領域３３０２に示す、車外の青空偏光画像を取得するだけで、長距離の無駄な歩行を伴うことなく、携帯機器の向きを利用者に提示することが出来る。なお、提示の方法は、図３９に示すように、ディスプレイ３３０３を利用しても、音声警告３３０４であってもかまわない。特にディスプレイ３３０３に、現在地付近の地図表示がなされている場合は、携帯機器の向きを、地図上に矢印３３０５等で表示することで、利用者が自らの向きを容易に理解できるという効果がある。
【０２６６】
以下で、本実施形態をさらに詳しく説明する。
【０２６７】
図３７に示すシーン画像・シーン偏光画像取得部１００ａ、青空偏光画像処理部１００ｃ、及びカメラ向き推定部１０１は、図１Ｆに示す、同じ番号の処理部とそれぞれ同一の動作を行うため、ここでは説明を省略する。
【０２６８】
なお、ロール水平度補正部１００ｂについては、図１Ｆと同様の動作でもよいが、さらに以下に説明する別の動作を追加してもよい。
【０２６９】
地面に対する撮像素子のロール水平度は、すなわち携帯機器の把持状態を示す要素となる。一般的には、撮像素子もディスプレイも、ともに携帯機器に固定されて搭載される。ディスプレイを見ている利用者の状態も、一般的には地面に垂直に立つか座るかである。したがって、撮像素子の地面に対する水平度が判れば、それは利用者に対するディスプレイの水平度と等しくなる。したがって、ロール水平度は、青空偏光位相の処理だけでなく、出力部にも入力し、水平度に応じた表示を行うように補正する、という処理を追加すれば、利用者が容易に向きを認識可能になるという効果がある。
【０２７０】
続いて、携帯機器向き推定部３１００について説明する。
【０２７１】
まず、図４０に、携帯機器上における偏光撮像素子３４００の設置例のうちの代表的なものを示す。図４０には、本実施形態に係る携帯機器（携帯電話）３４０１〜３４０３が図示されている。
【０２７２】
携帯機器３４０１における、偏光撮像素子３４００のように、携帯電話付設のカメラを、カラー画像・偏光画像が同時に撮影できる偏光撮像素子を用いたものとすることで、利用者に不便を感じさせることなく、青空偏光位相画像を取得できる。
【０２７３】
なお、この場合、本実施形態の装置は、カメラ向き検出装置として動作することに加え、例えば任意の携帯電話付設カメラ撮影画像に対して、例えば図１３(ａ)に示した、偏光位相を表した画像に変換したものを出力してもよい。また、図１３（ｄ）に示すような、空のみ抜き出した画像を作成したり、空の領域のみ別のテクスチャに置き換えるといった画像変換に用いても良い。  また、携帯機器３４０２の偏光撮像素子３４０４のように、ディスプレイを確認する際に、最も高度が高い位置にくる場所近くに偏光撮像素子３４０４を設置することで、より高い位置から安定に青空偏光画像の取得が行える可能性がある。
【０２７４】
また、永久的に固定位置に設置するのではなく、ケーブルで接続可能な外部パーツとして、いつでも好きな時に利用者が素子の設置位置を決められるようにしてもよい。携帯機器３４０３に示すように、青空偏光位相画像を取得できるような位置で、なおかつ、直上（画像に太陽を含む可能性が非常に高くなる）を向かない方向であれば、どこにどの向きで利用者が設置してもよい。このようにすると、各利用者は簡易に青空領域の取得位置の調整が行えるため、便利である。
【０２７５】
ここに図示した以外にも、先ほどの設置条件を満たす位置に設置されたものについては、全て本発明の本実施形態が含むものとする。
【０２７６】
なお、屋外が雨や曇であることが分かった場合、或いは、時間帯や位置の関係上、カメラ向き推定の精度が著しく落ちる場合は、図４１に示すように、そのような状況下にある携帯機器３５００に、本発明の装置からメッセージを発するとよい。例えば、ディスプレイ３５０１に示すように、「信頼度が低いため、利用不可能」と表示する、或いは、音声警告３５０２にて、本発明の装置が利用不可能である旨を利用者に伝えるといったことがある。このようにすることで、間違った情報を利用者が受け取る可能性を低減できる。
【０２７７】
（実施形態６）
本発明の第６の実施形態について以下で説明する。
【０２７８】
以上で述べた本発明の実施形態は、カラー偏光画像撮像部を備えることを特徴としていたが、本発明による撮像装置向きの検出には、必ずしもカラー画像を取得する必要はない。例えばモノクロの輝度画像によっても撮像装置向きを決定することができる。  図４２は、本発明の第６の実施形態における撮像装置向き検出装置の構成を示す図である。図４２の構成において、他の実施形態における構成と異なる部分は、シーンの画像を取得するシーン画像・シーン偏光画像取得部３６００ａ、及び青空領域の偏光状態を求める青空偏光画像処理部３６００ｃを備える点にある。これ以外の構成については、実施形態１の構成と同様であるため、ここでは説明を省略する。
【０２７９】
本実施形態の撮像装置向き検出装置は、全ての構成要素が図４３に示すカメラに収められていることが好ましい。しかし、例えばシーン画像・シーン偏光画像取得部３６００ａとロール方向の傾きを計測する水準器とを図４２の画像取得部３６００が備え、ロール水平度補正部１００ｂ、青空偏光画像処理部３６００ｃ、カメラ向き推定部１０１、および出力部１０２がカメラの外部に設けられていても良い。
【０２８０】
図４３に、シーン画像・シーン偏光画像取得部３６００ａの構成を示す。
【０２８１】
カメラは、シーン画像・シーン偏光画像取得部３６００ａとして機能する撮像部を備えるため、カメラの向きに応じて撮影されるシーン画像・シーン偏光画像の内容が変化する。
【０２８２】
カメラ向きを推定するための一連の処理は、カメラの内部で実行されることが好ましいが、必ずしもカメラの内部で実行される必要はない。
【０２８３】
図４３に、本実施形態のシーン画像・シーン偏光画像取得部３６００ａの構成を示す。屋外においては、シーン画像およびシーン偏光画像の両方を取得することが必要である。風による雲の動きなども存在するため、偏光画像もリアルタイムに取得することが好ましい。なお、シーン画像とシーン偏光画像は同時に取得することが好ましいが、数秒程度までの間隔で取得しても構わない。
【０２８４】
図４３のシーン画像・シーン偏光画像取得部３６００ａは、被写体に対してリアルタイムに輝度画像情報を取得すると同時に偏光画像情報を取得し、２種類の偏光画像情報（偏光度画像ρ及び偏光位相画像φ）を出力する構成となっている。
【０２８５】
図４３のシーン画像・シーン偏光画像取得部３６００ａでは、レンズ３７００ａおよび絞り３７００ｂを通った入射光が、偏光取得部３７０１に入射する。この入射光から、偏光取得部３７０１は輝度動画像情報および偏光画像情報の両方をリアルタイムに取得することができる。偏光取得部３７０１からは、輝度動画像情報および偏光情報画像情報を示す信号が出力され、それぞれ、輝度情報処理部３７０２および偏光情報処理部３７０３に与えられる。輝度情報処理部３７０２および偏光情報処理部３７０３は、上記信号に対して各種の処理を施し、輝度画像Ｃ、偏光度画像ρ、偏光位相画像φを出力する。
【０２８６】
偏光取得部３７０１では、モノクロ画像と偏光画像とを同時に取得する。このためには、例えば特許文献３に開示されている技術を利用することができる。この技術では、輝度画像と被写体の部分偏光の画像とを同時に取得することを目的とし、複数の異なる偏光主軸（透過軸）を有するパターン化偏光子を撮像素子に空間的に配置する。パターン化偏光子としては、フォトニック結晶や構造複屈折波長板アレイが利用されている。図４４は、このような偏光輝度撮像素子の一例を示す。狭帯域カラーフィルタ３８００、およびパターン化偏光子３８０１が、撮像素子画素３８０２の前面に重ねて設置されている。入射光は狭帯域カラーフィルタ３８００、パターン化偏光子３８０１を透過して撮像素子に到達し、撮像素子画素３８０２によってモノクロ輝度が観測される。このようにすれば、輝度画像情報および偏光画像情報の両方を同時に取得することができる。なお、狭帯域カラーフィルタ３８００は、パターン化偏光子の動作する波長帯を選択するように、例えば、５００−５５０（ｎｍ）の透過域を有するものを利用することが望ましい。
【０２８７】
図４５は、偏光取得部３７０１における撮像面の一部を光軸方向の真上から見た図である。簡単のため、撮像面のうち、密着する４つの微細偏光画素（２×２）のみが図示されている。各微細偏光画素の上に記されているストライプは、微小偏光板の偏光主軸方向を模式的に示している。図４５の例では、４つの微細偏光画素が、それぞれ、角度Ψｉ＝０°、４５°、９０°、１３５°の偏光主軸を有している。
【０２８８】
なお、被写体の特に明るい鏡面反射部分に含まれる偏光成分や、被写体の影領域に含まれる偏光成分などを確実に取得するため、撮像素子の輝度ダイナミックレンジとビット数はなるべく大きいこと（例えば１６ｂｉｔ）が望ましい。
【０２８９】
図４５に示す構成によって偏光画素毎に取得された輝度の情報は、図４３の偏光情報処理部３７０３で処理される。この処理は、図８を参照して説明した処理と同一である。
【０２９０】
以上の処理で正弦関数近似のＡ、Ｂ、Ｃの３パラメータが確定する。こうして、偏光度ρを示す偏光度画像と偏光位相φを示す偏光位相画像が求められる。偏光度ρは、該当画素の光が偏光している程度を表し、偏光位相φは、該当画素の光の部分偏光の主軸角度を表している。なお、偏光の主軸角度は０と１８０°（π）は同一である。値ρおよびφ（０≦φ≦π）は、それぞれ、実施形態１同様に、（式６）および（式７）によって算出される。
【０２９１】
なお、本実施形態のパターン化偏光子は、フォトニック結晶、フィルム型の偏光素子、ワイヤーグリッド型、その他の原理による偏光素子であってもよい。
【０２９２】
図４３に示す輝度情報処理部３７０２は、偏光取得部３７０１から出力される情報を用いて、輝度を計算する。偏光子を透過した光の輝度は、偏光子に入射する前の光が有する本来の輝度とは異なる。非偏光照明の場合、理論的には、偏光のすべての偏光主軸における観測輝度を平均化した値が偏光子に入射する前の光が有する本来の輝度に相当する。角度偏光画素Ｐ１の画素における観測輝度をＩ１と表現すると、（式８）同様の観測輝度平均化を行うことで、輝度を算出することができる。
【０２９３】
各偏光画素における輝度を得ることにより、通常の輝度画像を生成できる。
【０２９４】
輝度画像Ｃ、偏光度画像ρ、偏光位相画像φの各々における各画素の輝度および偏光情報は、図４５に示す４つの偏光画素を用いて得られる。そのため、個々の輝度および偏光情報は、図４５に示す４つの偏光画素の中心に位置する仮想画素点３９００における値の代表を示していると考えることができる。従って、輝度画像および偏光画像の解像度は本来の撮像素子の有する解像度の縦１／２×横１／２に低下する。このため撮像素子画素数はできるだけ大きいことが望ましい。
【０２９５】
図４２に示すロール水平度補正部１００ｂによる撮影したシーン画像・シーン偏光画像の傾き補正については実施形態１と同じであるため説明を省略する。
【０２９６】
続いて、図４６Ａを参照しながら、青空偏光画像処理部３６００ｃの構成を説明する。
【０２９７】
青空偏光画像処理部３６００ｃは、偏光度画像ρ、偏光位相画像φ、および輝度画像Ｙを入力として、青空偏光位相画像φＳＫＹを出力する。青空偏光位相画像φＳＫＹは、シーンの中からカメラ向き、太陽向きを推定するために用いられる。
【０２９８】
青空偏光画像処理部３６００ｃにおいて、偏光度２値化部１００１は、偏光度画像ρをしきい値Ｔρで２値化する。輝度２値化部１００３は、輝度画像Ｙに対して、しきい値ＴＣ１を用いて２値化処理する。画像演算部１００５は、偏光度２値化部１００１で２値化された偏光画像ρ’と、輝度２値化部１００３で２値化された輝度画像Ｃ１’とのＡＮＤ（論理積）演算をし、マスク画像Ａ’を出力する。
【０２９９】
画像演算部１０１１は、採用された青空領域マスクＭｓｋｙと偏光位相画像φとの論理積演算を実施して、青空偏光位相画像φｓｋｙを生成する。
【０３００】
なお、２値化閾値Ｔρは、画像中の各画素の偏光度から作成したヒストグラムから決定し、偏光度ヒストグラムにおける偏光度の２つのピークの中間値を閾値Ｔρとするとよい。ここで、２値化閾値Ｔρは、偏光度の高低を判定するための閾値であり、０＜Ｔρ＜１の関係を満たす。
【０３０１】
以上の２種のマスク画像ρ’、Ｃ１’を画像演算部１００５において論理積演算処理すると、一部偏光度の低い雲領域を除去した青空領域のみを分離したマスク画像Ａ’を得ることができる。このマスク画像Ａ’を画像演算部１０１１において、偏光位相画像φと論理積演算処理する。
【０３０２】
以上の処理によって、青空偏光位相画像φｓｋｙが得られる。
【０３０３】
ここで注意すべきは、青空領域を決定する際、原則的には雲領域を除去することが望ましい、ということである。後段のカメラ向き検出において、青空偏光位相画像φｓｋｙと全天偏光マップとの間で対応する点を探索する必要がある。当然ながら、全天偏光マップには、雲の存在が考慮されていない。ため、雲の存在によって偏光位相が乱された青空偏光位相画像φｓｋｙを利用してしまうと、推定誤りが起こる可能性がある。
【０３０４】
なお、特に雲が薄い場合、雲領域でも偏光位相が乱されないことがある。このような場合は、青空領域が雲を含んでいても良い。雲によって偏光位相が乱されるかどうかは、雲領域の偏光度の低下度合いが目安になる。偏光に基づいて青空領域を決定する本実施形態の方法によれば、偏光度の低い雲領域のみを自動的に除去できる、という利点がある。
【０３０５】
なお、画像上に現れる空領域の偏光度が低い場合、以上に述べた青空領域抽出が失敗してしまうこともある。これを防ぐため、図４６Ｂに示す出力選択部４００１、偏光度判定部１０１０を利用してもよい。出力選択部４００１は、２値化された輝度画像Ｃ１’、偏光度画像ρ’から生成された第１の青空領域マスクＡ’を採用するかどうかを、偏光度判定部１０１０の出力ρｄに基づいて決定する。
【０３０６】
具体的には、偏光度判定部１０１０でシーン偏光度画像ρの偏光度ヒストグラムに基づいて平均偏光度を求める。続いて、図４６Ｂの出力選択部４００１において、偏光度判定部１０１０から出力される平均偏光度ρｄが閾値を超えない場合、偏光度からの青空偏光位相画像φｓｋｙ抽出は信頼度が低くなるため、処理を停止するものとする。所定閾値は、たとえばＴρ１＝０．１より低い場合に、圏外表示に切り替えるとすればよい。
【０３０７】
なお、先に述べた通り、図４６Ａの構成で実施できるかどうかは、大きくは時刻に依存する。したがって、出力選択部４００１、偏光度判定部１０１０を利用して、青空領域の抽出可否を切り替える代わりに、撮影日時によって切り替えるようにしてもよい。例えば午後４時以降、日没までを夕方として定義し、夕方でない場合は図４６Ａの構成で青空領域の決定を実施し、夕方は図４６Ｂの構成を用いて抽出可否を判断するようにするということも可能である。
【０３０８】
次に、図４６Ｃ、図４６Ｄを参照して、青空偏光画像処理部３６００ｃの他の構成例を説明する。
【０３０９】
図４６Ｂに示された青空偏光画像処理部３６００ｃでは、前述したように、２値化された輝度・偏光度画像Ｃ１’、ρ’から生成された青空領域マスクＡ’を採用するかを偏光度判定部１０１０の出力ρｄに基づき、出力選択部４００１で判定した。
【０３１０】
これに対して、図４６Ｃの青空偏光画像処理部１００ｃでは、青空領域マスクＡ’を作成する前の段階で、マスクを作成すべきかどうかを選択部４１０１において、偏光度判定部１０１０の出力ρｄに基づき判定する。例えば、偏光度判定部１０１０から出力されるρｄが閾値を超えない場合、図４６Ｃの選択部４１０１は、青空領域マスクＡ’を作成せずに処理停止を選択する。その結果、図４６Ｃの青空偏光画像処理部３６００ｃは、第１の青空領域マスクＡ’を作成せず、処理を停止する。利用者には、圏外表示等を行っても良い。このため、偏光度が十分高い場合のみマスクを作成すればよく、使用されないマスクを作成するための処理を省くことができる。
【０３１１】
図４６Ｄの青空偏光画像処理部３６００ｃでも、同様に、第１の青空領域マスクＡ’を作成する前の段階で、マスクを作成すべきかを選択部４２０１が決定する。ただし、図４６Ｄの青空偏光画像処理部３６００ｃでは、マスク作成可否の選択を、偏光度判定部１０１０の出力ρｄに基づいてではなく、日時情報取得部１０１６が出力する撮影日時情報に基づいて決定する。時刻が夕方（例えば午後４時以降、日没まで）を示しているとき、図４６Ｄの選択部４２０１は、第１の青空領域マスクＡ’を作成不可と判定する。その結果、マスクＡ’は作成されず、処理を停止する。図４６Ｃ同様に、使用されないマスクは作成されないため、より処理が効率化されるという効果がある。
【０３１２】
以上の手順で作成された青空偏光位相画像、或いは青空偏光画像を用いて、撮像装置向きの推定を行う。なお、図４２に示したカメラ向き推定部１０１、及び出力部１０２の動作については、他の実施形態と同じであるため、ここでは詳細な説明を省略する。
【０３１３】
なお、本実施形態におけるカメラ向き検出方法は、図４７に示すように、カメラによって偏光画像および輝度画像を取得するステップＳ４３００と、偏光画像および輝度画像に基づいて輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成するステップＳ４３０１と、カメラ向きを青空偏光位相画像に基づいて推定するステップＳ４３０２と、カメラ向きを示す情報を出力するステップＳ４３０３とを含む。このようなステップを実行する本発明のカメラ向き検出方法は、上述した構成を有する装置に適用される場合に限定されず、他の構成を有する装置に適用されても実施することが可能である。また、上記のステップをコンピュータに実行させるプログラムを用意し、このプログラムによってカメラなどの画像入力装置に内蔵されるコンピュータの動作を制御すれば、プログラムの改変によって画像入力装置の動作を改善することが容易になる。
【０３１４】
なお、本実施形態におけるカメラ向き検出方法は、特に図４６Ｂ、図４６Ｃ、図４６Ｄでの例で示したような場合、すなわち、偏光度判定部１０１０からの出力結果を元に、出力選択部４００１において処理継続の可否を判定するようなケースでは、処理継続不可の場合にカメラ向き推定部１０１が必ずしも動作する必要性はない。
【０３１５】
従って、図４８（ａ）に示すように、青空偏光画像処理部３６００ｃから出力部１０２へ、例えば「処理続行不可」の指示を送りユーザへの表示をするようなパスを本装置が備えていてもよい。同様に、図４８（ｂ）に示すように、本装置を実現する方法が、青空偏光位相画像を生成するステップＳ４３０１から直接、出力ステップへ処理継続可否情報を出力してもよい。前記の構成、或いはフローを採用することによって、カメラ向き推定部において無駄な処理が発生することを防ぐことが出来るという効果がある。
【産業上の利用可能性】
【０３１６】
本発明の画像入力装置は、空の偏光現象を利用することにより、完全にパッシブな方法で一般の環境シーンにおけるカメラ−太陽間の光源情報を取得できるため、各種デジタルスチルカメラ、デジタルムービーカメラ、監視カメラなどに適用可能である。そして、今後のカメラの小型化に際して不足すると思われる画像輝度情報に対して、コンピュータグラフィックス処理によって情報量の付与を行う場合についても、実用的な入力装置として利用できると考えられる。
【符号の説明】
【０３１７】
１０  カメラ
１００  青空偏光位相画像取得部
１００ａ  シーン画像・シーン偏光画像取得部
１００ｂ  ロール水平度補正部
１００ｃ  青空偏光画像処理部
１０１    カメラ向き推定部
１０２    出力部
１３０１  太陽位置取得部
１３０２  全天偏光位相マップ取得部
１３０３  青空領域方向推定部
１３０４  画角取得部
１３０５  青空領域方向計算部
１９０１  ピッチ方向水平度取得部
１９０２  太陽高度判定部
１９０４  信頼度判定部
２３０１  座標変換部
２４０１  画像フォーマット
【図１Ａ】
2010079557.tif 000027
【図１Ｂ】
2010079557.tif 000028
【図１Ｃ】
2010079557.tif 000029
【図１Ｄ】
2010079557.tif 000030
【図１Ｅ】
2010079557.tif 000031
【図１Ｆ】
2010079557.tif 000032
【図２】
2010079557.tif 000033
【図３】
2010079557.tif 000034
【図４】
2010079557.tif 000035
【図５】
2010079557.tif 000036
【図６】
2010079557.tif 000037
【図７】
2010079557.tif 000038
【図８】
2010079557.tif 000039
【図９】
2010079557.tif 000040
【図１０】
2010079557.tif 000041
【図１１Ａ】
2010079557.tif 000042
【図１１Ｂ】
2010079557.tif 000043
【図１１Ｃ】
2010079557.tif 000044
【図１２】
2010079557.tif 000045
【図１３】
2010079557.tif 000046
【図１４】
2010079557.tif 000047
【図１５】
2010079557.tif 000048
【図１６】
2010079557.tif 000049
【図１７】
2010079557.tif 000050
【図１８】
2010079557.tif 000051
【図１９】
2010079557.tif 000052
【図２０】
2010079557.tif 000053
【図２１】
2010079557.tif 000054
【図２２Ａ】
2010079557.tif 000055
【図２２Ｂ】
2010079557.tif 000056
【図２２Ｃ】
2010079557.tif 000057
【図２３】
2010079557.tif 000058
【図２４】
2010079557.tif 000059
【図２５】
2010079557.tif 000060
【図２６Ａ】
2010079557.tif 000061
【図２６Ｂ】
2010079557.tif 000062
【図２７】
2010079557.tif 000063
【図２８】
2010079557.tif 000064
【図２９】
2010079557.tif 000065
【図３０】
2010079557.tif 000066
【図３１】
2010079557.tif 000067
【図３２Ａ】
2010079557.tif 000068
【図３２Ｂ】
2010079557.tif 000069
【図３３】
2010079557.tif 000070
【図３４】
2010079557.tif 000071
【図３５】
2010079557.tif 000072
【図３６】
2010079557.tif 000073
【図３７】
2010079557.tif 000074
【図３８】
2010079557.tif 000075
【図３９】
2010079557.tif 000076
【図４０】
2010079557.tif 000077
【図４１】
2010079557.tif 000078
【図４２】
2010079557.tif 000079
【図４３】
2010079557.tif 000080
【図４４】
2010079557.tif 000081
【図４５】
2010079557.tif 000082
【図４６Ａ】
2010079557.tif 000083
【図４６Ｂ】
2010079557.tif 000084
【図４６Ｃ】
2010079557.tif 000085
【図４６Ｄ】
2010079557.tif 000086
【図４７】
2010079557.tif 000087
【図４８】
2010079557.tif 000088
【手続補正書】
【提出日】平成22年8月12日(2010.8.12)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
偏光位相画像を含む偏光画像、および輝度画像を撮影によって取得する撮像部を備えた撮像装置の向きを検出する撮像装置向き検出装置であって、
前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成する画像処理部と、
前記撮像部の向きによって決まる撮像装置向きを前記青空偏光位相画像に基づいて推定する向き推定部と、
前記向き推定部で推定された撮像装置向きを示す情報を出力する出力部と
を備える撮像装置向き検出装置。
【請求項２】
撮影時における太陽の位置に関する情報を取得する太陽位置取得部を備え、
前記向き推定部は、前記情報を用いて撮像装置向きの推定を行う、請求項１に記載の撮像装置向き検出装置。
【請求項３】
前記太陽の位置に関する情報に基づいて、撮影時における空の偏光状態を示す全天偏光マップを取得する全天偏光マップ取得部を備え、
前記向き推定部は、前記青空偏光位相画像および前記全天偏光マップに基づいて、前記撮像装置向きを推定する請求項２に記載の撮像装置向き検出装置。
【請求項４】
前記全天偏光マップ取得部は、全天偏光マップを含むデータベースから撮影時における空の偏光状態を示す全天偏光マップを取得する、請求項３に記載の撮像装置向き検出装置。
【請求項５】
前記データベースを格納する記憶装置を備える請求項４に記載の撮像装置向き検出装置。
【請求項６】
前記データベースを格納する外部の記憶装置にアクセスする通信装置を備える請求項４に記載の撮像装置向き検出装置。
【請求項７】
前記全天偏光マップ取得部は、撮影時における空の偏光状態を示す全天偏光マップを計算によって生成する請求項３に記載の撮像装置向き検出装置。
【請求項８】
前記向き推定部は、前記青空領域の偏光位相から前記青空領域の方向を計算し、前記撮像装置の向きを推定する請求項１に記載の撮像装置向き検出装置。
【請求項９】
撮影時における空の偏光状態を示す全天偏光マップを取得する全天偏光マップ取得部を備え、
前記向き推定部は、サーチモードおよび計算モードの少なくとも一方で動作し、
前記サーチモードでは、前記青空偏光位相画像および前記全天偏光マップに基づいて、前記青空領域の方向を探索し、前記計算モードでは、前記青空領域の偏光位相から前記青空領域の方向を計算する、請求項１に記載の撮像装置向き検出装置。
【請求項１０】
前記撮像装置の傾きを補正する水平度補正部を備える請求項１に記載の撮像装置向き検出装置。
【請求項１１】
前記撮像装置の傾きは、ロール方向の傾きを含む請求項１０に記載の撮像装置向き検出装置。
【請求項１２】
前記撮像装置は、水準器を備えており、
前記水準器によって水平度を取得し、取得した水平度に基づいて撮像装置の傾きを補正する請求項１１に記載の撮像装置向き検出装置。
【請求項１３】
撮像範囲の画角を取得し、取得した画角に基づいて青空領域の範囲を決定する画角取得部を有する請求項１に記載の撮像装置向き検出装置。
【請求項１４】
前記撮像部は、偏光主軸角度が異なる複数の偏光子を備え、
前記複数の偏光子を透過してくる光に応じて前記偏光画像を取得する、請求項１に記載の撮像装置向き検出装置。
【請求項１５】
前記偏光画像は、前記偏光位相画像に加えて偏光度画像を含む、請求項１に記載の撮像装置向き検出装置。
【請求項１６】
前記画像処理部は、空の偏光度が基準値以上の場合、偏光度を利用して前記青空領域を切り出し、前記偏光度が前記基準値よりも低い場合、色相を利用して前記青空領域を切り出し、前記青空偏光位相画像を出力する請求項１に記載の撮像装置向き検出装置。
【請求項１７】
推定結果の信頼度を判定し、使用者に情報を提示する信頼度判定部を備える請求項２に記載の撮像装置向き検出装置。
【請求項１８】
撮影時における太陽の位置に関する情報から得られる太陽の高度に応じて推定の可否を判定する太陽高度判定部を備えた請求項１７記載の撮像装置向き検出装置。
【請求項１９】
太陽の高度および方位、ならびに撮像装置向きに基づいて、座標変換を行ってカメラ座標での太陽位置を取得する請求項２に記載の撮像装置向き検出装置。
【請求項２０】
偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、
請求項１に記載の撮像装置向き検出装置と、
を備える撮像装置。
【請求項２１】
請求項１に記載の撮像装置向き検出装置を備える移動体であって、
偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、
前記移動体の向きと前記撮像装置向きとの関係に応じて、検出された前記撮像装置向きから前記移動体の向きを決定する移動体向き推定部と、
を備えている、移動体。
【請求項２２】
請求項１に記載の撮像装置向き検出装置を備える携帯機器であって、
偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、
前記携帯機器の向きと前記撮像装置向きとの関係に応じて、検出された前記撮像装置向きから前記携帯機器の向きを決定する携帯機器向き推定部と、
を備えている、携帯機器。
【請求項２３】
偏光位相画像を含む偏光画像、および輝度画像を撮影によって取得する撮像部と、
前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成する画像処理部と、
前記撮像部の向きによって決まる撮像装置向きを前記青空偏光位相画像に基づいて推定する向き推定部と、
前記撮像部によって撮像された画像のデータ、および前記向き推定部で推定された撮像装置向きを示す情報を出力する出力部と
を備える画像入力装置。
【請求項２４】
撮影したカラー画像、および前記カラー画像と同時に撮影した青空領域偏光画像を含む画像データと、
撮影時の日時を示すデータと、
撮影場所の経度緯度を示すデータと、
撮像装置向きを示すデータとを保持する画像フォーマット。
【請求項２５】
撮像装置によって偏光画像および輝度画像を取得するステップと、
前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成するステップと、
撮像装置向きを前記青空偏光位相画像に基づいて推定するステップと、
撮像装置向きを示す情報を出力するステップと
を含む撮像装置向き検出方法。
【請求項２６】
撮影時の撮像装置向きを天空の偏光パターンを利用して検出する撮像装置向き検出装置のためのプログラムであって、
撮像装置によって偏光画像および輝度画像を取得するステップと、
前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成するステップと、
撮像装置向きを前記青空偏光位相画像に基づいて推定するステップと、
撮像装置向きを示す情報を出力するステップと
をコンピュータに実行させるプログラム。
【請求項２７】
撮像装置向きを示すデータは、仰角を含む請求項２４に記載の画像フォーマット。
【請求項２８】
画像データは、更に青空領域分割結果データを含む請求項２４に記載の画像フォーマット。
【手続補正書】
【提出日】平成22年12月17日(2010.12.17)
【手続補正１】
【補正対象書類名】明細書
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は撮影に際して撮像装置と太陽との相対的な位置関係を取得できる撮像装置向き検出装置に関する。また、本発明は、撮像装置向き検出装置を備える撮像装置や移動体にも関している。
【背景技術】
【０００２】
近年のデジタルカメラの普及に伴い、デジタルカメラによって取得された画像に対して行う画像処理の重要度が高まってきている。このような画像処理は、例えば、（ｉ）従来、カメラ撮影時の失敗の主な原因を占めていた逆光の補正、（ｉｉ）デジタルズームとして知られる画像の高解像度化、（ｉｉｉ）人の顔などを認識し、フォーカスを自動的にあわせるといった認識処理、（ｉｖ）現実の画像に、Ｃｏｍｐｕｔｅｒ−Ｇｒａｐｈｉｃｓで仮想的に作成された画像を重畳表示する拡張現実など、実に様々である。
【０００３】
これらの画像処理は、画像撮像の際に撮像素子に記録された、被写体の「見え」を基に処理が行われている。この物体の「見え」は、光源からの光が被写体表面で反射され、その反射光を撮像素子が受光することで得られる。そのため、光源情報は画像処理において非常に重要である。つまり、光源情報を取得して、撮像や画像処理に利用することは非常に効果的である。例えば、敢えて半逆光状態に被写体を置くことで、自然な立体感を与えるテクニックなどがよく用いられている。しかし、その撮影の成否は状況によるところが大きく、結果、撮影者の勘や経験に頼ったものになってしまう。
【０００４】
もし光源情報がわかれば、前記テクニックを真似て撮影者にうまく撮影できるよう、例えばカメラの処理によって撮影方向を指示することができる。また、光源情報に基づいて自動的な露出補正を行うことも可能である。特許文献１では、カメラ上部にセンサをつけて光源検出を行い、撮影者に撮影方向の指示を行う手法が提案されている。特許文献１の技術では、光源方向を知るためのセンサとして、光電変換素子に魚眼レンズを付けたものを用いている。全天から集光された光の強度がセンサ上で最大となる位置を求め、光源方向を決定している。しかし、この場合、窓に反射した太陽などが高い位置に見える場合には、現実の太陽の方向以外の方向にも強い光源が存在することになり、太陽方向検出に失敗する可能性がある。
【０００５】
特許文献２においては、太陽位置をより正確に反映した情報を取得するために、全天の偏光状態を利用するという手法が提案されている。本文献に開示されている技術によれば、特許文献１と同様に光源検出部をカメラ上部に設置する。この光源検出部は、偏光フィルタを備えた全天観測センサにより、全天の偏光撮影を行う。偏光フィルタを回転させて撮影した複数の画像から、全天の偏光特性を取得し、そこから太陽方向の判定を行う。空の偏光については、非特許文献１でも取り上げられており、前述の特許文献１、２と同様に、広範な空領域を撮影可能な魚眼カメラを用い、空の偏光状態を観測している。また、具体的な手法は述べられていないものの、偏光状態から太陽方向が求まる可能性に言及している。
【０００６】
特許文献３は、偏光主軸が異なる複数の偏光画像を取得するためのパターン化偏光子を開示している。
【０００７】
空の偏光パターンについては、非特許文献２、非特許文献３、および非特許文献４にも記載されている。
【先行技術文献】
【特許文献】
【０００８】
【特許文献１】特開平８−１６０５０７号公報
【特許文献２】特開２００４−１１７４７８号公報
【特許文献３】特開２００７−８６７２０号公報
【非特許文献】
【０００９】
【非特許文献１】“Ｐｏｌａｒｉｚａｔｉｏｎ Ａｎａｌｙｓｉｓ ｏｆ ｔｈｅ Ｓｋｙｌｉｇｈｔ Ｃａｕｓｅｄ ｂｙ Ｒａｙｌｅｉｇｈ Ｓｃａｔｔｅｒｉｎｇ ａｎｄ Ｓｕｎ Ｏｒｉｅｎｔａｔｉｏｎ Ｅｓｔｉｍａｔｉｏｎ ｕｓｉｎｇ Ｆｉｓｈｅｙｅ −Ｌｅｎｓ Ｃａｍｅｒａ”、Ｄａｉｓｕｋｅ Ｍｉｙａｚａｋｉ ｅｔ ａｌ、電子情報通信学会パターン認識・メディア理解研究会、 Ｖｏｌ．１０８， Ｎｏ．１９８， ｐｐ．２５−３２， ２００８
【非特許文献２】“Ｈｏｗ ｔｈｅ ｃｌｅａｒ−ｓｋｙ ａｎｇｌｅ ｏｆ ｐｏｌａｒｉｚａｔｉｏｎ ｐａｔｔｅｒｎ ｃｏｎｔｉｎｕｅｓ ｕｎｄｅｒｎｅａｔｈｃｌｏｕｄｓ: Ｆｕｌｌ−ｓｋｙ ｍｅａｓｕｒｅｍｅｎｔｓ ａｎｄ ｉｍｐｌｉｃａｔｉｏｎｓ ｆｏｒ ａｎｉｍａｌ ｏｒｉｅｎｔａｔｉｏｎ”、 Ｉｓｔｖａｎ Ｐｏｍｏｚｉ ｅｔ ａｌ， Ｔｈｅ Ｊｏｕｒｎａｌ ｏｆ Ｅｘｐｅｒｉｍｅｎｔａｌ Ｂｉｏｌｏｇｙ ２０４、 ２９３３−２９４２（２００１）
【非特許文献３】「光と電波」  徳丸仁著  森北出版  ２０００年３月２１日発行
【非特許文献４】“Ｐｏｌａｒｉｚａｔｉｏｎ ｓｉｎｇｕｌａｒｉｔｉｅｓ ｉｎ ｔｈｅ ｃｌｅａｒ ｓｋｙ” Ｍ．Ｖ．Ｂｅｒｒｙ、 ｅｔ ａｌ 、 Ｎｅｗ Ｊｏｕｒｎａｌ ｏｆ Ｐｈｙｓｉｃｓ ６ （２００４） １６２
【発明の概要】
【発明が解決しようとする課題】
【００１０】
しかしながら、上記従来技術によれば、撮像素子以外に、カメラ上部に全天観測センサを必要とするため、サイズ面で不利と言わざるを得ない。また、把持する撮影者にとって持ちにくさ、不便を与えうる。
【００１１】
更に、光源情報の取得のため、カメラ上部のセンサで全天の画像を取得する必要がある。例えば、縦長の写真を撮影するために、カメラを９０度、右側へ傾けて撮影した場合や、或いは、屋根のある屋外環境下でシーンを撮影する場合などの実際に使用する際のことを考えてみる。この場合、カメラ上部のセンサが光源情報を捉えることは不可能である。すなわち、撮影場所・撮影姿勢の自由度の高いカメラ撮影において、センサが正しく全天を捉えられない場合も多く存在する。
【００１２】
また、前述のセンサによる全天撮影時には、殆どの場合でその撮影範囲に太陽を含む。しかし、太陽光は大変強いため、例えば、入射する光の成分を減少させる機構が必要となってくる。すなわち太陽を含むようなカメラ撮影・光電変換素子への入力は簡易なものではない。
【００１３】
以上のように、これらの従来技術には多くの制約が存在し、ユーザビリティが重視されるカメラ撮影においては、より自由度の高い太陽・カメラ向き検出技術が望ましい。
【００１４】
本発明は、以上のような問題点を考慮して行われたものであり、全天観測センサを備えることなく、シーン画像中の部分的な空の状態から、撮像装置と太陽の相対位置関係や、撮像装置の向きを検出できる装置を提供することを目的とする。
【００１５】
また、本発明の他の目的は、そのような撮像装置を備える移動体（携帯端末、携帯電話、自動車などを含む）であって、当該移動体の向きを検出する機能を有するものを提供することにある。
【課題を解決するための手段】
【００１６】
本発明の撮像装置向き検出装置は、偏光位相画像を含む偏光画像、および輝度画像を撮影によって取得する撮像部を備えた撮像装置の向きを検出する撮像装置向き検出装置であって、前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成する画像処理部と、前記撮像部の向きによって決まる撮像装置向きを前記青空偏光位相画像に基づいて推定する向き推定部と、前記向き推定部で推定された撮像装置向きを示す情報を出力する出力部とを備える。
【００１７】
好ましい実施形態において、撮影時における太陽の位置に関する情報を取得する太陽位置取得部を備え、前記向き推定部は、前記情報を用いて撮像装置向きの推定を行う。
【００１８】
好ましい実施形態において、前記太陽の位置に関する情報に基づいて、撮影時における空の偏光状態を示す全天偏光マップを取得する全天偏光マップ取得部を備え、前記向き推定部は、前記青空偏光位相画像および前記全天偏光マップに基づいて、前記撮像装置向きを推定する。
【００１９】
好ましい実施形態において、前記全天偏光マップ取得部は、全天偏光マップを含むデータベースから撮影時における空の偏光状態を示す全天偏光マップを取得する。
【００２０】
好ましい実施形態において、前記データベースを格納する記憶装置を備える。
【００２１】
好ましい実施形態において、前記データベースを格納する外部の記憶装置にアクセスする通信装置を備える。
【００２２】
好ましい実施形態において、前記全天偏光マップ取得部は、撮影時における空の偏光状態を示す全天偏光マップを計算によって生成する。
【００２３】
好ましい実施形態において、前記向き推定部は、前記青空領域の偏光位相から前記青空領域の方向を計算し、前記撮像装置の向きを推定する。
【００２４】
好ましい実施形態において、撮影時における空の偏光状態を示す全天偏光マップを取得する全天偏光マップ取得部を備え、前記向き推定部は、サーチモードおよび計算モードの少なくとも一方で動作し、前記サーチモードでは、前記青空偏光位相画像および前記全天偏光マップに基づいて、前記青空領域の方向を探索し、前記計算モードでは、前記青空領域の偏光位相から前記青空領域の方向を計算する。
【００２５】
好ましい実施形態において、前記撮像装置の傾きを補正する水平度補正部を備える。
【００２６】
好ましい実施形態において、前記撮像装置の傾きは、ロール方向の傾きを含む。
【００２７】
好ましい実施形態において、前記撮像装置は、水準器を備えており、前記水準器によって水平度を取得し、取得した水平度に基づいて撮像装置の傾きを補正する。
【００２８】
好ましい実施形態において、撮像範囲の画角を取得し、取得した画角に基づいて青空領域の範囲を決定する画角取得部を有する。
【００２９】
好ましい実施形態において、前記撮像部は、偏光主軸角度が異なる複数の偏光子を備え、前記複数の偏光子を透過してくる光に応じて前記偏光画像を取得する。
【００３０】
好ましい実施形態において、前記偏光画像は、前記偏光位相画像に加えて偏光度画像を含む。
【００３１】
好ましい実施形態において、前記画像処理部は、空の偏光度が基準値以上の場合、偏光度を利用して前記青空領域を切り出し、前記偏光度が前記基準値よりも低い場合、色相を利用して前記青空領域を切り出し、前記青空偏光位相画像を出力する。
【００３２】
好ましい実施形態において、推定結果の信頼度を判定し、使用者に情報を提示する信頼度判定部を備える。
【００３３】
好ましい実施形態において、撮影時における太陽の位置に関する情報から得られる太陽の高度に応じて推定の可否を判定する太陽高度判定部を備えている。
【００３４】
好ましい実施形態において、太陽の高度および方位、ならびに撮像装置向きに基づいて、座標変換を行ってカメラ座標での太陽位置を取得する。
【００３５】
本発明の撮像装置（カメラ）は、偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、上記いずれかの撮像装置向き検出装置とを備える。
【００３６】
本発明の移動体は、上記いずれかの撮像装置向き検出装置を備える移動体であって、偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、前記移動体の向きと前記撮像装置向きとの関係に応じて、検出された前記撮像装置向きから前記移動体の向きを決定する移動体向き推定部とを備えている。
【００３７】
本発明の携帯機器は、上記いずれかの撮像装置向き検出装置を備える携帯機器であって、偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、前記携帯機器の向きと前記撮像装置向きとの関係に応じて、検出された前記撮像装置向きから前記携帯機器の向きを決定する携帯機器向き推定部とを備えている。
【００３８】
本発明の画像入力装置は、偏光位相画像を含む偏光画像、および輝度画像を撮影によって取得する撮像部と、前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成する画像処理部と、前記撮像部の向きによって決まる撮像装置向きを前記青空偏光位相画像に基づいて推定する向き推定部と、前記撮像部によって撮像された画像のデータ、および前記向き推定部で推定された撮像装置向きを示す情報を出力する出力部とを備える。
【００３９】
本発明の画像フォーマットは、画像データと、撮影時の日時を示すデータと、撮影場所の経度緯度を示すデータと、撮像装置向きを示すデータとを保持する。
【００４０】
本発明の撮像装置向き検出方法は、撮像装置によって偏光画像および輝度画像を取得するステップと、前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成するステップと、撮像装置向きを前記青空偏光位相画像に基づいて推定するステップと、撮像装置向きを示す情報を出力するステップとを含む。
【００４１】
本発明のプログラムは、撮影時の撮像装置向きを天空の偏光パターンを利用して検出する撮像装置向き検出装置のためのプログラムであって、撮像装置によって偏光画像および輝度画像を取得するステップと、前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成するステップと、撮像装置向きを前記青空偏光位相画像に基づいて推定するステップと、撮像装置向きを示す情報を出力するステップとをコンピュータに実行させる。
【発明の効果】
【００４２】
本発明によれば、様々な撮影場所・撮影姿勢での屋外シーンの撮影において、全天観測センサを備えることなく、空の部分的な偏光情報を用いて、撮像装置や移動体の向きを取得できる。
【図面の簡単な説明】
【００４３】
【図１Ａ】屋外でカメラが視線方向（ｚ軸方向）の風景写真をとる様子を示す図である。
【図１Ｂ】撮影されたシーン画像の例を示す模式図である。
【図１Ｃ】全天の偏光位相パターンの例を示す図である。
【図１Ｄ】全天の偏光位相パターンの他の例を示す図である。
【図１Ｅ】カメラ視線方向（ｚ軸方向）と太陽位置との関係の一例を示す図である。
【図１Ｆ】本発明の第１の実施形態における画像入力装置の構成を示すブロック図である。
【図２】本発明の説明に用いられる、カメラまわりの回転方向を示した概念図である。
【図３】シーン画像・シーン偏光画像取得部の構成を示すブロック図である。
【図４】カラー偏光取得部３０１の基本的な構成を示す模式図である。
【図５】（ａ）および（ｂ）は、偏光画像撮影部の撮像面の一部を上から見た模式図である。
【図６】（ａ）、（ｂ）、（ｃ）は、それぞれ、Ｂ、Ｇ、Ｒ偏光画素の波長特性を模式的に示すグラフである。
【図７】Ｇのカラーフィルタの透過域と偏光分離域を示すグラフである。
【図８】異なる偏光主軸を有する偏光子を透過した光の輝度を示すグラフである。
【図９】（ａ）、（ｂ）、（ｃ）は、それぞれ、シーン画像・シーン偏光画像取得部で撮影される偏光度画像、偏光位相画像、カラー画像（輝度画像）であり、（ｄ）は、カラー画像の模式図である。
【図１０】（ａ）および（ｂ）は、シーン画像のロール水平度補正について示す模式図である。
【図１１Ａ】青空偏光画像処理部の構成を示すブロック図である。
【図１１Ｂ】青空偏光画像処理部の他の構成を示すブロック図である。
【図１１Ｃ】青空偏光画像処理部の更に他の構成を示すブロック図である。
【図１２】（ａ）〜（ｆ）は、本手法を実際に昼の東空シーン画像に適用した場合の処理結果を示す図である。
【図１３】（ａ）〜（ｄ）は、図１２の画像についての最終的な処理結果を示す図である。
【図１４】（ａ）〜（ｆ）は、本手法を実際に夕方の東空シーン画像に適用した場合の処理結果（失敗）を示す図である。
【図１５】（ａ）〜（ｄ）は、本手法において色相類似度を利用して夕方の東空シーン画像に適用した場合の処理結果を示す図である。
【図１６】（ａ）および（ｂ）は、カメラ向き取得部の構成を示すブロック図である。
【図１７】（ａ）〜（ｃ）は、全天偏光マップおよび青空偏光位相画像の関係を示す概念図である。
【図１８】（ａ）および（ｂ）は、天球座標系を示す模式図である。
【図１９】撮影画像とカメラの関係を示す模式図である。
【図２０】カメラと、画像座標系と、天球座標系の関係を示す模式図である。
【図２１】本発明の第２の実施形態における画像入力装置の構成を示すブロック図である。
【図２２Ａ】第２の実施形態における青空偏光画像処理部を示した模式図である。
【図２２Ｂ】第２の実施形態における青空偏光画像処理部の他の構成を示すブロック図である。
【図２２Ｃ】第２の実施形態における青空偏光画像処理部の更に他の構成を示すブロック図である。
【図２３】（ａ）〜（ｆ）は、本手法を実際に昼の東空シーン画像に適用した場合の処理結果を示す図である。
【図２４】本発明の第２の実施形態におけるカメラ向き取得部の第１のモードの構成を示すブロック図である。
【図２５】全天偏光マップ候補領域取得部により得られる探索候補領域を示した概念図である。
【図２６Ａ】本発明の第２の実施形態におけるカメラ向き取得部の第１のモードの他の構成を示すブロック図である。
【図２６Ｂ】全天偏光画像の探索の信頼度が下がる場合の全天の偏光マップを示した概念図である。
【図２７】本発明の第２の実施形態におけるカメラ向き取得部の第２のモードの構成を示すブロック図である。
【図２８】本発明の第３の実施形態における画像入力装置の構成を示すブロック図である。
【図２９】本発明の第３の実施形態における出力部の構成を示すブロック図である。
【図３０】画像フォーマットを示す模式図である。
【図３１】本発明によるカメラ向き検出方法の一例を示すフローチャートである。
【図３２Ａ】本発明の第４の実施形態における移動体向き検出装置の構成を示すブロック図である。
【図３２Ｂ】本発明の第４の実施形態におけるデータベース２６０に蓄積されているデータ構造の一例を示す図である。
【図３３】本発明の第４の実施形態における移動体向き検出方法の一例を示すフローチャートである。
【図３４】本発明の第４の実施形態における移動体向き検出装置の一使用例を示す図である。
【図３５】本発明の第４の実施形態における移動体向き検出装置の設置例を示す図である。
【図３６】本発明の第４の実施形態における移動体向き検出装置の圏外表示の一例を示す図である。
【図３７】本発明の第５の実施形態における携帯機器向き検出装置の構成を示すブロック図である。
【図３８】本発明の第５の実施形態における携帯機器向き検出方法の一例を示すフローチャートである。
【図３９】本発明の第５の実施形態における携帯機器向き検出装置の一使用例を示す図である。
【図４０】本発明の第５の実施形態における携帯機器向き検出装置の設置例を示す図である。
【図４１】本発明の第５の実施形態における携帯機器向き検出装置の圏外表示の一例を示す図である。
【図４２】本発明の第６の実施形態におけるカメラ向き検出装置の構成を示す図である。
【図４３】本発明の第６の実施形態におけるシーン画像・シーン偏光画像取得部の構成を示すブロック図である。
【図４４】本発明の第６の実施形態における偏光取得部の基本的な構成を示す模式図である。
【図４５】本発明の第６の実施形態における偏光画像撮影部の撮像面の一部を上から見た模式図である。
【図４６Ａ】本発明の第６の実施形態における青空偏光画像処理部の構成を示すブロック図である。
【図４６Ｂ】本発明の第６の実施形態における青空偏光画像処理部の他の構成を示すブロック図である。
【図４６Ｃ】本発明の第６の実施形態における青空偏光画像処理部の更に他の構成を示すブロック図である。
【図４６Ｄ】本発明の第６の実施形態における青空偏光画像処理部の更に他の構成を示すブロック図である。
【図４７】本発明の第６の実施形態における撮像装置向き（カメラ向き）検出方法の一例を示すフローチャートである。
【図４８】（ａ）および（ｂ）は、それぞれ、本発明の第６の実施形態における撮像装置向き（カメラ向き）検出方法の別の例を示すブロック図およびフローチャートである。
【発明を実施するための形態】
【００４４】
本発明は、青空が偏光していることに着目し、その偏光のパターンを利用すれば、シーン画像に含まれる青空領域の偏光情報に基づいて、撮像装置の向きを推定することができるという知見に基づいて完成された。
【００４５】
図１Ａに示すように、屋外で撮像装置（簡単のため、「カメラ」と称する）１０が視線方向（ｚ軸方向）の風景写真をとる場合を考える。ここでは、図１Ｂに示すように、撮影したシーン画像内に青空の一部（青空領域）が含まれていることを前提とする。図１Ｂに示すシーン画像内の青空領域には、斜めの斜線が付されているが、この斜線は、青空の偏光位相を模式的に示しているものとする。ここで、偏光位相とは、偏光主軸方向を示す角度（位相角度）であり、カメラ視線方向（ｚ軸方向）の回りの回転角度によって規定される。
【００４６】
偏光位相の方向（位相角度）は、人間の視覚によって直接的に視認されるものではなく、通常の画像（輝度画像）には表れない情報である。しかし、カメラ１０の前に偏光フィルタを配置し、図１Ａに示すカメラ視線方向（ｚ軸方向）の回りに偏光フィルタを回転させると、特定の回転角度において、青空から出た光（偏光）が偏光フィルタを最も高い透過率で透過することができる。このときの偏光フィルタの透過軸方向（角度）が、カメラ視線方向（ｚ軸）の先に位置する青空領域の偏光方向（位相角度）に相当している。
【００４７】
図１Ｃおよび図１Ｄは、全天の偏光位相パターンの例を示す図であり、半球状の全天が有する偏光位相のパターンがそれぞれの円内に示されている。この円の中心が天頂、外周が地平に相当する。図１Ｃ、図１Ｄでは、多数の曲線が記載されており、各曲線の任意の位置における接線方向がその位置における偏光位相（角度）の向きを示している。この全天の偏光パターンは、最も簡易なモデルでは太陽を中心とした同心円方向に偏光方向を有するというものであるが、実際には特異な偏光特性を持つ点を４つ有することが実測により知られている。これについては非特許文献４に詳しい説明がある。
【００４８】
後に詳しく説明するように、青空の偏光は、天空における太陽の位置に応じて変化する。このため、撮影日時、撮影位置（経度、緯度）などの情報に基づいて天空における太陽の位置が求められると、その時刻における天空の偏光位相パターンが定まる。天空の任意の位置における偏光位相は、撮影日時・位置が与えられれば計算によって求めることもできるが、天空上の位置と偏光位相とを対応付けたマップ（全天偏光マップ）をデータベースとして記憶装置に格納しておくこともできる。
【００４９】
図１Ｅは、カメラ視線方向（ｚ軸方向）と太陽との位置関係の例を示す図である。カメラ視線方向（ｚ軸方向）の先には、撮影されるシーン画像の矩形範囲（画像エリア）が模式的に示されている。この矩形範囲に記載された矢印は、その方向における青空領域の偏光方向（偏光位相の向き）を示している。ある日時における青空の偏光位相は、天空における位置によって異なるため、カメラの向きが変わると、撮影される青空領域の偏光位相の向きも変化する。
【００５０】
本発明の好ましい態様によれば、天空の偏光情報をデータベースから、或いは計算によって取得する一方、撮影シーンに含まれる青空領域の偏光状態を検出するため、天空の偏光情報と対比することにより、撮影方向や、太陽位置とカメラの関係を求めることができる。また、他の態様によれば、データベースを利用することなく、計算によって青空領域の方向を求め、それによってカメラ向き（撮像装置向き）を推定することも可能である。
【００５１】
以下、図面を参照しながら、本発明の実施形態を説明する。
【００５２】
（実施形態１）
図１Ｆは、本実施形態に係る画像入力装置の構成を示している。この画像入力装置は、青空偏光位相画像取得部１００、カメラ向き推定部１０１、出力部１０２を備えている。青空偏光位相画像取得部１００は、シーン画像・シーン偏光画像取得部１００ａ、ロール水平度補正部１００ｂ、青空偏光画像処理部１００ｃを有し、青空偏光位相画像φｓｋｙを出力する。
【００５３】
本明細書において、「偏光画像」とは、画像を構成する複数の画素の各々が、その画素の偏光情報を表示する画像を意味するものとする。偏光情報は、偏光度および偏光位相（位相角度）を含む。したがって、「偏光画像」とは、特別に限定しない限り、個々の画素の偏光度を二次元的に表示した「偏光度画像」、および、個々の画素の偏光位相を二次元的に表示した「偏光位相画像」を総称したものである。
【００５４】
なお、各画素の偏光度および偏光位相の大きさ（数値）は、その画素における明度または色相によって表現され得る。本願の図面では、明度の高低によって偏光度や偏光位相の大きさを表現している。
【００５５】
次に、本実施形態による画像入力装置の詳細な構成および動作を説明する。
【００５６】
まず、図２を参照して本明細書で用いるカメラの回転方向に関する用語を説明する。
【００５７】
カメラの側方へ伸びる軸（ここではｘ軸）まわりの回転２０１がヨーである。また、カメラの上下方向へ伸びる軸（ここではｙ軸）まわりの回転２０２が、ピッチである。最後に、カメラの前後方向へ伸びる軸（ここではｚ軸）まわりの回転２０３が、ロールである。
【００５８】
なお、図１Ｆに示す構成要素のうちの全ての構成要素が図２に示すカメラに収められていることが好ましいが、例えばシーン画像・シーン偏光画像取得部１００ａとロール方向の傾きを計測する水準器とが図２のカメラ内に備えられ、ロール水平度補正部１００ｂ、青空偏光画像処理部１００ｃ、カメラ向き推定部１０１、および出力部１０２がカメラの外部に設けられていても良い。
【００５９】
カメラは、シーン画像・シーン偏光画像取得部１００ａとして機能する撮像部を備えるため、カメラの向きに応じて撮影されるシーン画像・シーン偏光画像の内容が変化する。
【００６０】
カメラ向きを推定するための一連の処理は、カメラの内部で実行されることが好ましいが、必ずしもカメラの内部で実行される必要はない。
【００６１】
本明細書では、輝度画像と偏光画像を取得する「撮像部」を備え、ユーザが撮像方向を変化させることのできる装置を「カメラ」と称し、そのカメラに内蔵されるか否かにかかわらず、カメラ向き（撮像装置向き）を推定する装置を「カメラ向き検出装置」または「撮像装置向き検出装置」と称する。また、このような「撮像部」と「撮像装置向き検出装置（カメラ向き検出装置）」の両方を備える装置を「画像入力装置」と称することとする。「撮像部」から「撮像装置向き検出装置（カメラ向き検出装置）」には、シーン画像およびシーン偏光画像のデータが送られるが、このデータの送受信は、リムーバブルメモリ、通信線、インターネットなどの各種の情報伝達媒体を通じて行うことができる。
【００６２】
このような「撮像装置向き検出装置」を備える装置は、カメラなどの撮像装置に限定されない。例えば、携帯端末（ノートパソコンを含む）、携帯電話などの携帯機器に「撮像装置」および「撮像装置向き検出装置」が備えられていても良い。また、自動車や二輪車などの移動体に「撮像装置」と「撮像装置向き検出装置」が備えられていても良い。
【００６３】
携帯機器や移動体の向きは、これらの装置が備える撮像装置の向きに一致している必要は無い。携帯機器や移動体の向きと撮像装置の向きとは、所定の関係にあるため、撮像装置向きが検出されれば、この検出された撮像装置向きから携帯機器や移動体の向きを求めることができる。
【００６４】
なお、本明細書における「カメラ」とは、通常、人が手に持って撮影する形態のいわゆる一般的なカメラに限らない。自動車などの移動体に備え付けられる撮像装置も、「カメラ」に含まれるものとする。
【００６５】
次に、図３を参照して、本実施形態のシーン画像・シーン偏光画像取得部１００ａの構成を説明する。屋外においては、シーン画像およびシーン偏光画像の両方を取得することが必要である。風による雲の動きなども存在するため、偏光画像もリアルタイムに取得することが好ましい。なお、シーン画像とシーン偏光画像は同時に取得することが好ましいが、数秒程度までの間隔で取得しても構わない。
【００６６】
従来技術では、偏光画像取得に際して、偏光板を回転させて複数画像を撮影するものが一般的であるが、屋外では非実用的であった。従来のモノクロ画像と偏光画像とを同時取得する技術が例えば特許文献３に開示されている。この技術では、輝度画像と被写体の部分偏光の画像とを同時に取得するため、複数の異なる偏光主軸（透過軸）を有するパターン化偏光子を撮像素子に空間的に配置する。パターン化偏光子としては、フォトニック結晶や構造複屈折波長板アレイが利用されている。しかしながら、これらの技術ではカラー画像と偏光画像とが同時に取得できなかった。
【００６７】
これに対して、図３のシーン画像・シーン偏光画像取得部１００ａは、被写体に対してリアルタイムにカラー画像情報を取得すると同時に偏光画像情報を取得し、２種類の偏光画像情報（偏光度画像ρ及び偏光位相画像φ）を出力する構成となっている。
【００６８】
図３のシーン画像・シーン偏光画像取得部１００ａでは、レンズ３００ａおよび絞り３００ｂを通った入射光が、カラー偏光取得部３０１に入射する。この入射光から、カラー偏光取得部３０１はカラー動画像情報および偏光画像情報の両方をリアルタイムに取得することができる。カラー偏光取得部３０１からは、カラー動画像情報および偏光情報画像情報を示す信号が出力され、それぞれ、カラー情報処理部３０２および偏光情報処理部３０３に与えられる。カラー情報処理部３０２および偏光情報処理部３０３は、上記信号に対して各種の処理を施し、カラー画像Ｃ、偏光度画像ρ、偏光位相画像φを出力する。
【００６９】
図４は、カラー偏光取得部３０１の基本的な構成を示す模式図である。図示されている例では、カラーフィルタ４０１およびパターン化偏光子４０２が、撮像素子画素４０３の前面に重ねて設置されている。入射光は、カラーフィルタ４０１およびパターン化偏光子４０２を透過して撮像素子に到達し、撮像素子画素４０３によって輝度が観測される。このように本実施形態によれば、カラーモザイク型の単板カラー撮像素子を用いてカラー画像情報および偏光画像情報の両方を同時に取得することができる。
【００７０】
図５（ａ）は、カラー偏光取得部３０１における撮像面の一部を光軸方向の真上から見た図である。図５（ａ）には、簡単のため、撮像面のうち、１６個の画素（４×４）のみが図示されている。図示されている４つの矩形領域５０１から５０４は、それぞれ、４個の画素セル上に設置されたベイヤ型カラーモザイクフィルタの対応部分を示している。矩形領域５０１は、Ｂ（ブルー）フィルタ領域であり、画素セルＢ１からＢ４をカバーしている。画素セルＢ１からＢ４には、それぞれ異なる偏光主軸を有するＢ（ブルー）用パターン化偏光子が密着している。ここで、「偏光主軸」とは、偏光子を透過する光の偏波面（透過偏波面）に平行な軸である。本実施形態では、同一色の画素内において異なる角度の透過偏波面を有する偏光子単位（微小偏光板）が隣接して配置されている。より詳細には、透過偏波面の方向が相互に異なる４種類の偏光子単位がＲ（レッド）、Ｇ（グリーン）、Ｂ（ブルー）の各同一色の画素内に配置されている。１つの偏光子単位は、４つの微細偏光画素に対応している。図５（ａ）では、個々の偏光画素に対して、Ｇ１などの符号が与えられている。
【００７１】
図５（ｂ）は、Ｂ（ブルー）用パターン化偏光子が密着する４つの微細偏光画素に割り当てられる偏光主軸を示している。図５（ｂ）において、各微細偏光画素に記載された直線は、微小偏光板の偏光主軸方向を模式的に示している。図５（ｂ）の例では、４つの微細偏光画素が、それぞれ、角度Ψｉ＝０°、４５°、９０°、１３５°の偏光主軸を有している。
【００７２】
矩形領域５０２、５０４の画素には、それぞれ、４個のＧ（グリーン）用パターン化偏光子が密着し、矩形領域５０３の画素には、４個のＲ（レッド）用パターン化偏光子が密着している。図中、参照符号「５０５」で示される位置は、本撮像系における矩形領域５０１における４画素を一括した仮想的な画素位置を示している。各矩形領域５０２〜５０４のパターン化偏光子も、図５（ｂ）に示すように異なる４つの偏光主軸を有する部分に分割されている。
【００７３】
このように本実施形態では、各カラー画素に対して、異なる偏光主軸を有する複数の微細偏光画素が包含される点に特徴を有しており、カラーモザイク配列自体は任意である。以下の説明では、個々の微細偏光画素を「偏光画素」と称することとする。
【００７４】
図６（ａ）から（ｃ）は、それぞれ、Ｂ（ブルー）、Ｇ（グリーン）、Ｒ（レッド）偏光画素の波長特性を模式的に示すグラフである。各グラフの縦軸は透過光の強度、横軸は波長である。Ｂ、Ｇ、Ｒ用の偏光画素は、Ｂ、Ｇ、Ｒの各波長帯域においてＴＭ波（Ｔｒａｎｓｖｅｒｓｅ Ｍａｇｎｅｔｉｃ Ｗａｖｅ）を透過し、ＴＥ波（Ｔｒａｎｓｖｅｒｓｅ Ｅｌｅｃｔｒｉｃ Ｗａｖｅ）を反射（透過せず）する偏光特性を有している。ＴＭ波は、磁場成分が入射面に対して横向きの波であり、ＴＥ波は、電場成分が入射面に対して横向きの波である。
【００７５】
図６（ａ）には、Ｂ偏光画像の偏光特性６０２、６０３と、Ｂ用カラーフィルタの透過特性６０１とが示されている。偏光特性６０２、６０３は、それぞれ、ＴＭ波およびＴＥ波の透過率を示している。
【００７６】
図６（ｂ）には、Ｇ偏光画像の偏光特性６０５、６０６と、Ｇ用のカラーフィルタの透過特性６０４とが示されている。偏光特性６０５、６０６は、それぞれ、ＴＭ波およびＴＥ波の透過率を示している。
【００７７】
図６（ｃ）には、Ｒ偏光画像の偏光特性６０８、６０９と、Ｒ用カラーフィルタの透過特性６０７とが示されている。偏光特性６０８、６０９は、それぞれ、ＴＭ波およびＴＥ波の透過率を示している。
【００７８】
図６（ａ）から（ｃ）に示すような特性は、例えば特許文献３に記載されたフォトニック結晶を用いて実現することができる。フォトニック結晶の場合、その表面に形成された溝に平行な電場ベクトル振動面を持つ光がＴＥ波、垂直な電場ベクトル振動面を持つ光がＴＭ波となる。
【００７９】
本実施形態で重要な点は、図６（ａ）から（ｃ）に示すように、Ｂ、Ｇ、Ｒの透過波長帯域の各々において偏光分離特性を示すパターン化偏光子を用いることにある。
【００８０】
図７は、Ｇのカラーフィルタの透過域と、偏光特性６１０１、６１０２によって定まる偏光分離域との間で波長がずれている場合を示している。このような特性を示す偏光子によれば、本発明の目的とする動作を行うことはできない。
【００８１】
モノクロ輝度と偏光フィルタとを使用する場合には、偏光分離特性を示す波長域の最適化は不要であったが、カラーの画素ごとに偏光情報を取得する場合は、カラーの分離特性と偏光の分離特性と整合させる必要がある。
【００８２】
本明細書では、偏光画素における偏光主軸の方位を表示する４つの数字「１、２、３、４」と、カラーを区別するため３つの符号「Ｒ、Ｇ、Ｂ」の組合せ（例えば「Ｒ１」や「Ｇ１」など）を用いて、偏光画素の特性を示すこととする。偏光画素Ｒ１および偏光画素Ｇ１は、数字が同じであるため、偏光主軸の方向は一致しているが、ＲＧＢ符号が異なるため、透過する光の波長帯域が異なる偏光画素に相当している。本実施形態では、このような偏光画素の配列を、図４に示すカラーフィルタ４０１およびパターン化偏光子４０２の組合せによって実現している。
【００８３】
被写体の特に明るい鏡面反射部分に含まれる偏光成分や、被写体の影領域に含まれる偏光成分などを確実に取得するため、撮像素子の輝度ダイナミックレンジとビット数はなるべく大きいこと（例えば１６ｂｉｔ）が望ましい。
【００８４】
図５に示す構成によって偏光画素毎に取得された輝度の情報は、図３の偏光情報処理部３０３で処理される。以下、この処理を説明する。
【００８５】
図８は、方向が異なる偏光主軸（Ψｉ＝０°、４５°、９０°、１３５°）を有する４種類の偏光子を透過した光の輝度７０１〜７０４を示している。ここで、偏光主軸の回転角ψがψｉの時における観測輝度をＩｉとする。但し、「ｉ」は、１以上Ｎ以下の整数、「Ｎ」はサンプル数とする、図８に示す例では、Ｎ＝４であるため、ｉ＝１、２、３、４となる。図８には、４画素のサンプル（ψｉ、Ｉｉ）に対応する輝度７０１〜７０４が示されている。
【００８６】
偏光主軸の角度Ψｉと輝度７０１〜７０４との関係は、正弦関数カーブによって表現される。図８では、輝度７０１〜７０４の４点が１本の正弦関数カーブ上に位置するように記載されている。より多くの観測輝度に基づいて正弦関数カーブを決定した場合、観測輝度の一部が正弦関数カーブ上から僅かに外れる場合もあり得るが、その場合でも問題はない。
【００８７】
なお、本明細書における「偏光情報」とは、輝度の偏光主軸角度に対する依存性を示す正弦関数カーブにおける振幅変調度および位相情報を意味するものとする。
【００８８】
実際の処理では、図５（ａ）に示す同一カラー領域５０１〜５０４ごとに内部の４個の画素輝度値をサンプルとして、パターン化偏光子の主軸角ψに対する反射光輝度Ｉを以下のように近似する。
【数１】
2010079557.tif 000089
ここで図８に示すようにＡ、Ｂ、Ｃは定数であり、それぞれ、偏光輝度の変動カーブの振幅、位相、平均値を表現している。図８の例においては、Ｂは負の値をとる。（式１）は、以下のように展開できる。
【数２】
2010079557.tif 000090
ただし、ＡおよびＢは、それぞれ、以下の（式３）および（式４）で示される。
【数３】
2010079557.tif 000091
【数４】
2010079557.tif 000092
以下の（式５）を最小にするＡ、Ｂ、Ｃを求めれば、輝度Ｉと偏光主軸角Ψとの関係を（式１）の正弦関数によって近似できる。
【数５】
2010079557.tif 000093
【００８９】
以上の処理で１つのカラーについて正弦関数近似のＡ、Ｂ、Ｃの３パラメータが確定する。こうして、偏光度ρを示す偏光度画像と偏光位相φを示す偏光位相画像が求められる。偏光度ρは、該当画素の光が偏光している程度を表し、偏光位相φは、該当画素の光の部分偏光の主軸角度を表している。なお、偏光の主軸角度は０と１８０°（π）は同一である。値ρおよびφ（０≦φ≦π）は、それぞれ、以下の（式６）および（式７）によって算出される。
【数６】
2010079557.tif 000094
【数７】
2010079557.tif 000095
【００９０】
なお、本実施形態のパターン化偏光子は、フォトニック結晶、フィルム型の偏光素子、ワイヤーグリッド型、その他の原理による偏光素子であってもよい。
【００９１】
図３に示すカラー情報処理部３０２は、カラー偏光取得部３０１から出力される情報を用いて、カラー輝度を計算する。偏光子を透過した光の輝度は、偏光子に入射する前の光が有する本来の輝度とは異なる。非偏光照明の場合、理論的には、偏光のすべての偏光主軸における観測輝度を平均化した値が偏光子に入射する前の光が有する本来の輝度に相当する。角度偏光画素Ｒ１の画素における観測輝度をＩＲ１と表現すると、以下の（式８）に基づいて、カラー輝度を算出することができる。
【数８】
2010079557.tif 000096
【００９２】
各偏光画素における輝度を得ることにより、通常のカラーモザイク画像を生成できる。モザイク画像に基づいて各画素でＲＧＢ画素値を有するカラー画像へ変換することにより、カラー画像Ｃが生成される。このような変換は、例えばベイヤーモザイクの補間方法などの公知の補間技術を用いて実現される。
【００９３】
カラー画像Ｃ、偏光度画像ρ、偏光位相画像φの各々における各画素の輝度および偏光情報は、図５（ｂ）に示す４つの偏光画素を用いて得られる。そのため、個々の輝度および偏光情報は、図５（ｂ）に示す４つの偏光画素の中心に位置する仮想画素点５０５における値の代表を示していると考えることができる。従って、カラー画像および偏光画像の解像度は本来のカラー単板撮像素子の有する解像度の縦１／２×横１／２に低下する。このため撮像素子画素数はできるだけ大きいことが望ましい。
【００９４】
実際の偏光度画像ρ、偏光位相画像φ、カラー画像Ｃの例を図９に示す。図９は、遠方の建物のシーンを被写体とする画像である。図９（ａ）の偏光度画像ρは、偏光の強度を画素の明度によって表現しており、画素の明度が高い（白い）ほど、その画素の偏光度が高い。図９（ｂ）の偏光位相画像φは、偏光位相の角度を明度によって表現している。偏光位相は０から１８０度までの値を明度に割り当てて表現している。位相角度には周期性があるため、偏光位相画像上の白と黒の位相角度は、実際には連続していることに注意する。図９（ｃ）のカラー画像Ｃは、通常のＲＧＢカラーの輝度画像である。ただし、この図面では、色相が表現されず、個々の画素の輝度のみが明度によって表現されたモノクロの輝度画像として記載されている。図９（ｄ）は、図９（ｃ）の画像に対応する模式図である。写真では分かりづらいが、８０１が空、８０２が雲、８０３が建物、８０４が植え込み、８０５がカメラ台の一部となっている。
【００９５】
また、図１０に示すように、以降の処理の前提として、シーンの撮影は水平線が画面内でも水平となるよう補正する。撮影したシーン画像・シーン偏光画像の傾き補正は、ロール水平度補正部１００ｂ（図１Ｆ）で行う。ここで補正するのは、カメラ光軸まわりの傾きである。すなわち、図２のｘ軸が、地面と水平になるように、方向２０３の回りにθｒだけ回転させることにより傾きを補正する。
【００９６】
以下、図１０を参照して水平度補正の一例を説明する。
【００９７】
まず、撮影した画像例として図１０（ａ）に模式的に示すように傾斜した画像が得られたものとする。地面からの垂線９０１１、地面の水平線９０２を図１０（ａ）に示すように規定する。このとき、画像が歪みのない理想的な画像（或いは、そのように補正された画像）とすると、図２のカメラｘ軸を図１０（ａ）のｘ軸と等価とみなすことができ、画像の水平な線９０２、すなわち地面からのカメラｘ軸方向の傾きは、θｒとなる。したがって、まず、この傾きθｒを、カメラ内部に設置された水準器で検出する。搭載する水準器は、例えば特開２００７−２４０８３２号公報に開示されているような、カメラ内部に搭載可能な水準器であれば何でもよい。
【００９８】
次に、水準器から得られた傾きθｒを使い、偏光位相画像の偏光位相補正を行う。具体的には、式７で得られたφを、以下の式９で補正することより、補正された偏光位相方向φｎｅｗを得ることができる。
【数９】
2010079557.tif 000097
【００９９】
また可能であれば、後段処理のため、シーン画像・シーン偏光画像についても傾き補正（水平度補正）を行う。シーン画像・シーン偏光画像の傾き補正は必須ではなく、傾いた画像のまま後段処理を行うことも可能であるが、説明の簡略化のため、ここでは傾き補正を実施する。図１０（ｂ）は、傾き補正後の画像である。補正前の図１０（ａ）における地面からの垂線９０１１は、図１０（ｂ）では、Ｘ’軸に平行となった画像の水平な線９０２と直交する新しい垂線９０１２までθｒ回転している。
【０１００】
図１０（ａ）における画素９０３の座標（Ｘｒ、Ｙｒ）は、角度θｒだけ画像を回転させた結果、以下の式１０で表される座標（Ｘｒ’、Ｙｒ’）に変換される。座標（Ｘｒ’、Ｙｒ’）の画素は、図１０（ｂ）において画素９０４として記載されている。
【数１０】
2010079557.tif 000098
この変換を画像内の全画素に適用することで、ロール方向に傾いて撮影された画像を、傾きが除去された画像に修正することができる（傾き補正）。
【０１０１】
なお、この補正は、水平線に対する空領域の偏光位相角が分かればよいため、例えば、雲領域を除去した後に行ってもよい。また、本補正を行わない場合は、以降のカメラ向き推定部での計算において、全天偏光マップを全てカメラ座標に座標変換すればよい。
【０１０２】
次に、図１１Ａを参照しながら、青空偏光画像処理部１００ｃの構成を説明する。
【０１０３】
青空偏光画像処理部１００ｃは、偏光度画像ρ、偏光位相画像φ、およびカラー画像Ｃを入力として、青空偏光位相画像φＳＫＹを出力する。青空偏光位相画像φＳＫＹは、シーンの中からカメラ向き、太陽向きを推定するために用いられる。
【０１０４】
青空偏光画像処理部１００ｃにおいて、偏光度２値化部１００１は、偏光度画像ρをしきい値Ｔρで２値化する。輝度変換部１００２は、カラー画像Ｃを輝度画像Ｙに変換する。輝度２値化部１００３、１００４は、変換された輝度画像Ｙに対して、しきい値ＴＣ１、およびＴＣ２を用いて２値化処理する。画像演算部１００５は、偏光度２値化部１００１で２値化された偏光画像ρ’と、輝度２値化部１００３で２値化された輝度画像Ｃ１’とのＡＮＤ（論理積）演算をし、マスク画像Ａ’を出力する。
【０１０５】
色相類似度変換部１００６は、カラー画像ＣをＨＳＶ変換し、空色の色相との色相類似度を表現した色相類似度画像ｈを出力する。色相類似度２値化部１００７は、色相類似度画像ｈをしきい値ＴＨでしきい値処理して、空色相領域のみを抽出した画像ｈ’を出力する。画像演算部１００８は、輝度２値化部１００４で２値化された輝度Ｃ２’、色相類似度２値化部１００７で２値化処理された特定色相との論理積演算を行う。
【０１０６】
出力選択部１００９は、２値化された輝度・偏光度画像Ｃ１’、ρ’から生成された第１の青空領域マスクＡ’、および、２値化された輝度・色相類似度画像Ｃ２’、ｈ’から生成された第２の青空領域マスクＢ’のいずれを採用するかを、偏光度判定部１０１０の出力ρｄに基づいて決定する。
【０１０７】
画像演算部１０１１は、採用された青空領域マスクＭｓｋｙと偏光位相画像φとの論理積演算を実施して、青空偏光位相画像φｓｋｙを生成する。
【０１０８】
従来の青空領域検出手法として、カラー画像から、画像上での色相が青に類似し、かつ平坦な領域を探すというものがある。この手法では、曇り空を含む青空に対し、カラー情報とテクスチャ情報から確率的に求める。しかし、カラー情報を利用するため、（ｉ）夕焼け空のようにカラーの色相情報がブルーからマゼンタ、レッドまで次第に移り変わる場合、あるいは（ｉｉ）地上の建物が青色、白色の場合に、特に実際の空または雲と識別が不可能になるという課題がある。
【０１０９】
このため、天空の物理的要因で様々に変化するカラー情報を明示的に使わずに、モノクロ輝度情報のみで空を検出できることが望ましい。このような検出を行うには、例えばシーン画像で最も輝度が高い領域が空であると仮定すればよい。実験によると、このような仮定に基づく空検出を行うと、曇天や夕焼け空の場合には、ある程度良好な結果が得られた。しかし、晴天の時は、空の輝度以上に、地上の建物が鏡面反射した輝度の方が高くなってしまう場合が多く、良好な結果が得られなかった。晴天の場合、太陽光の正反射が原因というよりは、人工物（建物）が青空の全周照明を受けることで、その滑らかな表面に予想以上に強い鏡面反射が生じてしまったことが原因であったと考えられる。
【０１１０】
そこで、本実施形態では、輝度に加えてシーンの偏光度を用いて青空領域を検出する。これは晴天昼における空の偏光度が、水平線近傍で非常に高いということを利用するものである。非特許文献２では、全天の空の偏光状態を朝（日の出）から夕方（日の入り）まで１２時間にわたり１時間ごとに記録しているが、この文献によると、朝と夕方の東西方向を除いてほとんどの時間で地平線近傍では空の偏光度が強い。実験によると、この空の偏光度は、多くの場合に地上の山などの遠景、建物などの人工物の偏光度よりもさらに強いため、有効な空検出手段になりえる。ただし、地上の建物の屋根やガラス等も非常に強く偏光する。この建物などに起因する偏光を除くためには、上記の偏光度と輝度のしきい値を併用したマスクを生成し、除去すべき領域を検出すればよい。
【０１１１】
ただし、先ほど述べたように朝と夕方は太陽の通り道となる東西方向で地平線近傍の偏光度が低くなるうえに、特に朝の西方向の空、及び夕方における東方向の空は輝度も低いことが多いため、本手法が適用できないケースが生じることがある。この場合はカラー色相と輝度を用いて検出すればよい。このケースについての詳細は後述する。
【０１１２】
以下、実際のシーン画像を示す図１２を参照しながら、図１１Ａの構成を備える青空偏光画像処理部１００ｃの動作を説明する。なお、以下の説明において、実際のシーン画像は撮像範囲が円領域となっているが、これは実験時のカメラ装置におけるレンズのケラレによるものであり本質的には矩形画像で考えてよい。
【０１１３】
青空偏光画像処理部１００ｃは、条件によっては、図１１Ａに示す破線で囲んだ最小構成１０１２によって実現できる。まず、図１２、図１３を参照しつつ、最小構成１０１２の動作を説明する。
【０１１４】
図１２（ａ）は、シーン画像の偏光度画像ρである。図１２（ｂ）は、図１２（ａ）の偏光度画像ρの内容を模式的に示す図である。図１２（ｂ）に示すように、シーン画像は、空領域１１０１、建物領域１１０２、雲領域１１０３、地面領域１１０４、カメラ台１１０５を含む。
【０１１５】
偏光度画像ρに対して、偏光度２値化部１００１で処理を行った結果が図１２（ｃ）の画像（ρ’）である。ここで、２値化閾値Ｔρ＝０．１４としている。２値化閾値Ｔρは、偏光度ヒストグラムから決定する。このシーンでは、空領域１１０１および地上の建物などの風景１１０２、１１０４が、偏光度の高い領域および低い領域にわかれて、双峰性分布を作っている。偏光度ヒストグラムにおける２つのピークの中間値を閾値Ｔρとする。ここで、２値化閾値Ｔρは、偏光度の高低を判定するための閾値であり、０＜Ｔρ＜１の関係を満たす。
【０１１６】
図において、建物の右側の雲領域１１０３も偏光度が低い場合には除去される。下部の黒色のカメラ架台１１０５だけは強く偏光していて除去できず残存してしまう。
【０１１７】
図１２（ｄ）は、シーン画像のカラー画像Ｃを輝度変換部１００２で処理した輝度画像Ｙである。輝度変換した輝度画像を、輝度２値化部１００３で２値化処理（ＴＣ１＝０．４）した結果が、図１２（ｅ）の画像（Ｃ１’）となる。このシーンでは、空領域１１０１の輝度と建物１１０２の輝度とがほぼ等しく、輝度での分離が困難であるが、このような場合でも閾値ＴＣ１、ＴＣ２を適当に設定することにより、カメラ架台など暗部は除去できている。本実施形態における閾値ＴＣ１、ＴＣ２は、輝度値を評価するため、０＜ＴＣ１＜１、０＜ＴＣ２＜１の大きさとなるように、正規化されたものである。例えば、輝度値が８ビットで表現される場合、ここでは、０〜２５５の輝度値を０〜１の数値に規格化して閾値ＴＣ１、ＴＣ２と比較する。輝度値が１６ビットで表現される場合は、０〜６５５３５の輝度値を０〜１の数値に規格化したうえで、閾値ＴＣ１、ＴＣ２と比較している。
【０１１８】
以上の２種のマスク画像ρ’、Ｃ１’を画像演算部１００５において論理積演算処理すると、図１２（ｆ）に示すように、一部偏光度の低い雲領域を除去した青空領域のみを分離したマスク画像Ａ’を得ることができる。このマスク画像Ａ’を出力選択部１００９で選択し、画像演算部１０１１において、図１３（ａ）の偏光位相画像φと論理積演算処理する。図１３（ｂ）は、図１２（ｂ）と同じシーン画像の模式図である。図１３（ｃ）は、図１２（ｆ）と同様にマスク画像Ａ’を示す。
【０１１９】
以上の処理によって、図１３（ｄ）の青空偏光位相画像φｓｋｙが得られる。
【０１２０】
ここで注意すべきは、青空領域を決定する際、原則的には雲領域を除去することが望ましい、ということである。後段のカメラ向き検出において、青空偏光位相画像φｓｋｙと全天偏光マップとの間で対応する点を探索する必要がある。当然ながら、全天偏光マップには、雲の存在が考慮されていない。ため、雲の存在によって偏光位相が乱された青空偏光位相画像φｓｋｙを利用してしまうと、推定誤りが起こる可能性がある。
【０１２１】
なお、特に雲が薄い場合、雲領域でも偏光位相が乱されないことがある。このような場合は、青空領域が雲を含んでいても良い。雲によって偏光位相が乱されるかどうかは、雲領域の偏光度の低下度合いが目安になる。偏光に基づいて青空領域を決定する本実施形態の方法によれば、偏光度の低い雲領域のみを自動的に除去できる、という利点がある。
【０１２２】
次に、夕方の東空を撮影したシーンを示す図１４を用いて、最小構成１０１２では処理できない場合について説明する。
【０１２３】
図１４（ａ）から（ｆ）は、それぞれ、シーン偏光度画像ρ、シーン画像の模式図、２値化したシーン偏光度画像ρ’、シーン輝度画像Ｙ、２値化したシーン輝度画像Ｃ２’である。図１４（ｂ）に示すように、このシーン画像は、空領域１２０１、建物領域１２０２、地面領域１２０３、カメラ台１２０４を含む。
【０１２４】
図１２（ａ）〜（ｆ）を参照しながら説明した処理と同様な処理を行った結果、最終的に、図１４（ｆ）に示すようなマスク画像Ａ’が得られる。明らかに青空領域の検出に失敗している。その理由は、図１４（ａ）のシーン偏光画像ρにおける青空領域の偏光度が低く、また輝度も低いためである。
【０１２５】
そこで、本実施形態では、このような場合に、図１１Ａに示す偏光度判定部１０１０を利用する。シーン偏光度画像ρの偏光度ヒストグラムに基づいて平均偏光度を求め、平均偏光度が所定閾値（Ｔρ１＝０．１）より低い場合には、これを採用せずに、カラー色相と輝度を用いた方法に切り替える。以下、その処理を図１１Ａと図１５を参照して説明する。
【０１２６】
まず、色相類似度変換部１００６において、空の色相である青の色相角とカラー画像Ｃの色相角との差異を示す色相角度の誤差を求めることにより、カラー画像Ｃが色相類似度画像に変換される。ここで空の色相を青色としたのは、このカラー画像を使う処理が使われるのは空の偏光度が低く輝度も低い場合に限られ、それは朝方の西空、および夕方の東空のいずれかであるから、空の色は青色とみなしてよいという仮定に基づく。
【０１２７】
典型的な空の青色の色相角（０°〜３６０°）をＨｓｋｙ（＝２５４°）とし、入力されるシーンの色相角をＨｔｅｓｔとする。よく知られたＲＧＢ空間からＨＳＶ（色相、彩度、明度）空間の色相Ｈへの変換式（ＲＧＢ＿ｔｏ＿Ｈ）を用い、さらに色相角が３６０度周期であることを考慮すると、色相類似度ΔＨは以下の式で表現される。
【数１１】
2010079557.tif 000099
この色相類似度画像ｈを、色相類似度２値化部１００７で閾値処理することにより、青空領域の候補のマスク画像ｈ’が求められる。図１５（ａ）は、図１４のシーン画像と同じシーン画像から色相類似度変換部で変換された色相誤差画像を表している。
【０１２８】
図１５（ｂ）は、図１５（ａ）のシーン画像の模式図を示す。図１５（ｃ）は、輝度２値化部１００４において、閾値（ＴＣ２＝０．２９）処理を行った輝度の２値化結果であり、図１５（ｄ）は、画像演算部１００８において、図１５（ａ）で示す色相２値化結果ｈ’と図１５（ｃ）で示す輝度の２値化結果Ｃ２’とを論理積演算した結果のマスク画像Ｂ’である。
【０１２９】
図１１Ａの出力選択部１００９において、偏光度判定部１０１０から出力されるρｄが閾値を超えない場合に、偏光度からのマスク画像Ａ’の代わりにこのマスク画像Ｂ’が採用される。この場合、画像演算部１０１１でマスク画像Ｂ’と偏光位相画像φと論理積演算を行って、青空偏光位相画像φｓｋｙが得られる。
【０１３０】
なお、先に述べた通り、最小構成１０１２のみで実施できるかどうかは、大きくは時刻に依存する。したがって、偏光度判定部１０１０を利用して、青空領域を抽出するためのマスクを切り替える代わりに、撮影日時によってマスクを切り替えるようにしてもよい。例えば午後４時以降、日没までを夕方として定義し、夕方でない場合は最小構成１０１２のみで青空領域の決定を実施し、夕方は図１１Ａの全構成を用いた切替も可能である。
【０１３１】
次に、図１１Ｂ、図１１Ｃを参照して、青空偏光画像処理部１００ｃの他の構成例を説明する。
【０１３２】
図１１Ａに示された青空偏光画像処理部１００ｃでは、前述したように、出力選択部１００９が、２値化された輝度・偏光度画像Ｃ１’、ρ’から生成された第１の青空領域マスクＡ’、および、２値化された輝度・色相類似度画像Ｃ２’、ｈ’から生成された第２の青空領域マスクＢ’のいずれを採用するかを偏光度判定部１０１０の出力ρｄに基づいて決定する。
【０１３３】
これに対して、図１１Ｂの青空偏光画像処理部１００ｃでは、第１の青空領域マスクＡ’および第２の青空領域マスクＢ’を作成する前の段階で、いずれのマスクを作成すべきかを選択部１０１４が偏光度判定部１０１０の出力ρｄに基づいて決定する。例えば、偏光度判定部１０１０から出力されるρｄが閾値を超えない場合、図１１Ｂの選択部１０１４は、第１の青空領域マスクＡ’ではなく、第２の青空領域マスクＢ’の作成を選択する。その結果、図１１Ｂの青空偏光画像処理部１００ｃは、第１の青空領域マスクＡ’を作成せず、第２の青空領域マスクＢ’のみを作成する。そして、画像演算部１０１１には、第２の青空領域マスクＢ’だけが入力されることになる。このため、選択されたマスクのみを作成すればよく、使用しないマスクを作成するための処理を省くことができる。
【０１３４】
図１１Ｃの青空偏光画像処理部１００ｃでも、同様に、第１の青空領域マスクＡ’および第２の青空領域マスクＢ’を作成する前の段階で、いずれのマスクを作成すべきかを選択部１０１４が決定する。ただし、図１１Ｃの青空偏光画像処理部１００ｃでは、マスクの選択を、偏光度判定部１０１０の出力ρｄに基づいてではなく、日時情報取得部１０１６が出力する撮影日時情報に基づいて決定する。時刻が夕方（例えば午後４時以降、日没まで）を示しているとき、図１１Ｃの選択部１０１４は、第１の青空領域マスクＡ’ではなく、第２の青空領域マスクＢ’の作成を選択する。その結果、画像演算部１０１１には、第２の青空領域マスクＢ’だけが入力されることになる。
【０１３５】
次に、カメラ向き推定部１０１で、カメラ方向を求める。図１６に、カメラ向き推定部１０１の構成を示す。
【０１３６】
図１６（ａ）は、サーチモードを実行する構成を示しており、この構成は、太陽位置取得部１３０１、全天偏光位相マップ取得部１３０２、青空領域方向推定部１３０３、および画角取得部１３０４を備えている。
【０１３７】
図１６（ｂ）は、計算モードを実行する構成を示しており、この構成は、太陽位置取得部１３０１、画角取得部１３０４、および青空領域方向計算部１３０５を備えている。
【０１３８】
これらの構成は、どちらも入力は同じ青空偏光位相画像φであり、太陽位置取得部１３０１の構成も共通である。カメラ向き推定部１０１は、図１６（ａ）および（ｂ）に示す構成の両方を備えていてもよいし、一方だけを備えていてもよい。また、どのモードを使用するかについては、撮影者が選択することも可能であるし、カメラ内部で自動的に決定してもよい。各モードの詳細については後述する。
【０１３９】
カメラ向き推定部１０１は、撮影された偏光位相パターンが、全天においてどの方向にあるかを求める。したがって、はじめに、空の偏光状態について説明する。
【０１４０】
空から降り注ぐ太陽の光は、電磁波の性質を有する。電磁波は伝播時、媒質の変化や、伝播路の構造的な変化があった場合、或いは急に物体が現れるような場合に、その変化する領域で二次的な電磁波を放射する。これが散乱である。
【０１４１】
再放射を生じる構造である、この散乱体が、電波の波長に比べて十分大きい場合、散乱体表面の現象を局所的に平面波反射・入射として扱うことができる。このような場合に生じる散乱が「幾何光学散乱」である。
【０１４２】
一方、散乱体が波長に比べて十分に小さいとき、散乱体表面の電磁界は静磁界で近似できる。このような場合に生じる散乱が「レイリー散乱」である。レイリー散乱の散乱特性は、散乱体の形状によらず、微小ダイポールの指向性と同じ特性を示す。
【０１４３】
なお、散乱体が波長と同程度の大きさ、つまり幾何光学散乱とレイリー散乱の中間にあたる場合は、分極の際に散乱体の表面や内部に過渡電流が流れる。この過渡現象が共振を生じ、特殊な散乱現象を示す。これが「ミー散乱」である。
【０１４４】
大気中には太陽光の波長の約千分の一程度の小さい分子が媒質として存在しているため、太陽光はレイリー散乱される。レイリー散乱では、分子散乱の際、波長の４乗に反比例する散乱係数で散乱するため、波長の短い光ほど強く散乱されるといえる。
【０１４５】
空の色について考えてみると、昼間の空が青いのは、波長の短い青色が強く散乱されて我々の眼に届くためである。一方、夕空が赤いのは、光源である太陽と我々の距離が長くなるために青色成分は消散し、透過光として残った赤色が我々の眼に届くからである。光は、レイリー散乱する際、光源である太陽との位置関係によって、偏波する性質を持つ。これが、空の偏光パターンが作られ、そして時事刻々と移り変わる要因である。
【０１４６】
ある平面波が球状散乱体に入射する場合を考える。散乱体が光の波長に比べて十分小さい場合には、散乱体内部の電気分極が瞬間的に定まり、十分遠方の散乱界については、散乱体の分極電荷ダイポールモーメントを備えた微小ダイポールとして近似できる。これは特に散乱角がπ／２のときに、完全偏波となる。このとき、太陽と、青空上の観測点と、視点を結ぶ散乱面に垂直な方向の偏光位相が得られる。それ以外の場合は、太陽と観測点と視点との位置関係に偏波位相特性は依存し、空の偏光を地上より観察すると、太陽を中心とした円の接線方向への偏光成分が強く観測されるようになる。
【０１４７】
非特許文献３によると、実測の結果、太陽以外に特異な偏光特性を持つ特異点が３点存在するという。非特許文献４では、それらを考慮した理論モデルを用い、現実に近い空の偏光パターンを得ることに成功している。
【０１４８】
なお、雲が存在する領域では偏光特性が異なる。雲は水滴などの雲粒の集まりであり、薄い雲であれば透けるが、濃くなると真っ白になって向う側は見えない。これは、雲の粒子間で多重散乱が起きているためである。ある散乱体で散乱された光が、今度は別の散乱体へ入射し、別の散乱を起こす、という散乱の繰り返しが多重散乱である。特に散乱体が数多く密に分布しているときには、散乱分光された光が重なり合うため白くなり、同様に、散乱によって偏光された光も重なり合って偏光特性を消失する。もちろん、完全に偏光特性を消失するわけではなく、雲の厚さや量によっては、偏光特性が残る場合もある。そのため、本手法では、初期の段階で雲領域を除去することはせず、偏光度の低い領域のみの除去を行い、空の偏光が利用できる領域のみに手法を適用する。
【０１４９】
続いて、カメラ向き推定部１０１の内容について、まず図１６（ａ）に示すサーチモードの説明を行う。
【０１５０】
空の偏光パターンは、先に述べたとおり、太陽の位置（太陽の高度および方位：以下、単に「太陽位置」と称する場合がある）に依存する。したがって、まず太陽位置取得部１３０１にて太陽位置を示す情報を取得する（以下、単に「太陽位置を取得する」と述べる場合がある）必要がある。
【０１５１】
太陽位置は、全天を見上げる日付・時刻・位置（緯度経度）により多様に変化するため、例えば、一般的にカメラに内蔵されている時計、およびＧＰＳ等を利用して全天における太陽の高度と方位を計算することで得ることができる。この場合の太陽高度・方位の計算方法について説明する。
【０１５２】
角度変数をθ0と置き、当該年元旦からの経過日数ｄｎを用い以下のように定義する。
【数１２】
2010079557.tif 000100
当該日の太陽赤緯をδと置くと、θ0を用いて以下のように求められる。
【数１３】
2010079557.tif 000101
また、緯度φ、経度λ、均時差Ｅｑ、日本標準時間ＪＳＴ、標準子午線経度ＪＳＫとおくと、太陽の時角ｔは以下の手順で求められる。
【数１４】
2010079557.tif 000102
【数１５】
2010079557.tif 000103
以上より、太陽方位θｓ、高度ｈｓを以下の式で求めることができる。
【数１６】
2010079557.tif 000104
【数１７】
2010079557.tif 000105
以上の計算は、立正大中川研究室の近似計算式による。
【０１５３】
なお、この求め方はあくまで一例であり、太陽位置の求め方としては他にも様々なものが存在する。例えば、「日の出・日の入りの計算」長沢  工（地人書館）などの文献に記載されている計算式で求めることも可能である。或いは、理科年表を利用した方法などで求めてもよい。
【０１５４】
次に、撮影時における撮影地点上の全天の偏光位相パターンを、全天偏光位相マップ取得部１３０２によって取得する。例えば、非特許文献３のように、各太陽高度・方位における偏光位相パターンを実観測によって記録したデータを作成し、それらを蓄積してデータベースとすることができる。そうして作成したデータベースから、撮影時の太陽高度・方位に対応する全天偏光位相マップを取得すれば、全天の偏光パターンがわかる。なお、撮影時の太陽高度、方位に等しいデータがない場合は、近いものを複数用いて補完するなどすればよい。
【０１５５】
また、非特許文献１、非特許文献２、或いは非特許文献４で利用されている数式を用い、太陽高度・方位から全天の偏光位相マップを理論計算により求めることも可能である。
【０１５６】
図１７に、前述の理論モデルに基づいた計算によって得られる全天の偏光位相パターンの概略図、および、青空偏光位相パターンとのマッチングの概念図を示す。図１７（ａ）の中心の大きな円は、午前９時頃の全天偏光図の例である。位相パターンは、分かりやすくするために点線で描かれているが、実際は、マップ上の各点が、位相を持っており、この図はその位相面の一部を可視化したものである。
【０１５７】
ここに示すように、全天の偏光パターンは、太陽１４０１を中心にした同心円状のパターンとなっている。より詳細には、特異点として知られるＢａｂｉｎｅｔ点１４０２や、Ａｒａｇｏ点１４０３などが影響することが知られている。天頂直下の点１４０４は、カメラ位置である。天頂から地平線に垂直に伸ばした線、すなわち地平線の垂線（Ｌｏｃａｌ Ｍｅｒｉｄｉａｎ）を定義する。カメラ位置から見た全天図の各点からの光が、それぞれが属するＬｏｃａｌ Ｍｅｒｉｄｉａｎに対し、どういった傾きの偏光位相を持つかを点線で示している。位相図の見方については、以下で詳しく説明する。なお、位相の方向は、位置１４０５における偏光位相φｐｉｘを示す図に併記している通り、Ｌｏｃａｌ Ｍｅｒｉｄｉａｎに沿った方向を０°、時計回りに正となるよう定義する。位置１４０５〜１４０８の図では、それぞれの偏光位相方向を点線矢印によって表している。この位相の大きさは、カメラの視線方向の先にある天空上の１点を通るＬｏｃａｌ Ｍｅｒｉｄｉａｎを基準線として決定される。基準線に対し、マップ上の位相線が、どのように交わっているかが、偏光位相の方向（位相角度）を与えるものとする。地平線付近の位置１４０５における位相角度は、Ｌｏｃａｌ Ｍｅｒｉｄｉａｎに対して約−２０°である。太陽経路上の位置１４０６における位相角度は、Ｌｏｃａｌ Ｍｅｒｉｄｉａｎに対し、±９０°である。これは、太陽経路上の全ての点でこうなることが知られている。位置１４０７における位相角度は、Ｌｏｃａｌ Ｍｅｒｉｄｉａｎに対し、約４０°である。太陽付近の位置１４０８における位相角度は、Ｌｏｃａｌ Ｍｅｒｉｄｉａｎに対し、ほぼ０°である。
【０１５８】
このように、カメラの方位によって、取得されるＬｏｃａｌ Ｍｅｒｉｄｉａｎに対する偏光位相は異なることがわかる。
【０１５９】
図１７（ｂ）、（ｃ）に、撮影される偏光位相画像の模式図１４０９、１４１０を示す。図中の矢印は、説明のために偏光位相の方向を模式的に示しているだけであり、実際には写真上に現れない。
【０１６０】
シーン画像・シーン偏光画像撮影部１００ａの説明に際して述べたように、各画素が偏光位相を示す値をもっている。複数の画素の偏光位相の並びから、天空のどの部分を撮影したものかがわかる。
【０１６１】
以下、撮影方向を決定する方法の好ましい例を説明する。
【０１６２】
まず、ある時刻において、図１７（ｂ）に示す青空偏光位相画像１４０９、および、図１７（ｃ）に示す青空偏光位相画像１４１０が得られたとする。これらは同じシーンに見えるが、空の偏光位相パターンが異なる。青空偏光位相画像１４０９は、空領域の偏光が、全体的に１１時の方向に偏光軸を持っている。一方、青空偏光位相画像１４１０では、空領域の偏光が、全体的に２時の方向に偏光軸を持っている。これら２枚の青空偏光位相画像１４０９、１４１０を、図１７（ａ）に示す天空の偏光パターンと比較することにより、例えば青空偏光位相画像１４０９は位置１４０５の偏向位相を有する北の方向を撮影したということがわかる。また同様に、青空偏光位相画像１４１０は、位置１４０７の偏向位相を有する南の方向を撮影したものであることが分かる。このように、シーン画像では同じように見えた２枚の画像であっても、画像に含まれる空領域の偏光位相が異なることにより、視線方向が違うシーンであると識別できる。
【０１６３】
偏光位相パターンは、図１７（ａ）では、簡単のため２次元座標上で示されているが、実際の位相偏光パターンの探索は、図１８（ａ）、（ｂ）に示すように、３次元地球座標上で行うことが望ましい。図１８は、地球座標系での太陽、およびカメラ向きの関係を表した概念図である。求めるカメラ向きについて、方位をθ１、仰角をθ２と置いている。ｘ軸＋方向に北、−方向に南、ｙ軸＋方向に西、−方向に東の方角をとっている。なお、座標は必ずしもこのようにとる必要はなく、方角と天球の対応が分かるように座標を取ればどのようでもよい。図１８の場合、カメラの方位は東側を０度にとり、北周りに回転させた角度となる。カメラの仰角は、地平線から垂直に上方へ仰ぎ見た角度となる。これらが、求めるカメラ向きとなる。
【０１６４】
図１８（ａ）において、太陽１５０１は座標Ｐｓにある。青空偏光位相画像中のある１点に対応する、天球１５０５上の点１５０２は、座標Ｐｖにとられている。参照符号１５０３はＰｖにおける偏光位相φｐｉｘである。カメラ１５０４の位置は、座標Ｐｃ（０、０、０）にある。Ｐｓの天頂角がφ２、Ｐｖの天頂角がθ２である。図１８（ｂ）は、図１８（ａ）のｘ−ｙ平面をｚ軸上より見下ろした図である。Ｐｓの方位角がφ１、Ｐｖの方位角がθ１である。
【０１６５】
ここで、天球１５０５の半径をｒとすると、座標Ｐｓ、Ｐｖに位置する各点は、φ１〜θ２を用いて、以下のように表すことができる。
【数１８】
2010079557.tif 000106
ここで、撮影画像の画素位置と、天球上の位置の対応をとるため、撮影画像の画素位置を、カメラ中心からの角度に置き換える。
【０１６６】
図１９に、カメラと撮影画像の位置関係の概略図を示す。図１８と共通する構成要素には同じ参照符号を付与している。
【０１６７】
処理対象の画素位置１６０１をＰｇ（ｐｇｘ、ｐｇｙ）とする。また、図１８のＰｖ１５０２に画像中心１６０２が対応するとし、その座標をＰｇｃ（ｃｘ、ｃｙ）とおく。また、カメラのｘ方向画角をθｐｘ、ｙ方向画角をθｐｙとする。この画角は、図１６の画角取得部１３０４によって取得する。画角については、レンズの焦点距離とチップサイズで決まるため、カメラ内部のメモリにデータとして予め与えておけばよい。ここでは、それを取得して用いる。画角は、青空領域の範囲を決定するために用いられる。
【０１６８】
カメラ１５０４とＰｇ１６０１とを結ぶ直線と、カメラ１５０４とＰｇｃ１６０２とを結ぶ直線との間の角度を、ｗｘ方向にθｐｘ’、ｗｙ方向にθｐｙ’とする。なお、既に画像には水平度の補正が施されているため、θｐｙ’はカメラ仰角方向のθ２にのみ寄与する。このとき、これらの角度θｐｘ’、θｐｙ’は、以下の式で表すことができる。
【数１９】
2010079557.tif 000107
このとき、Ｐｇに対応する天球位置Ｐｇｖは、以下の式で表される。
【数２０】
2010079557.tif 000108
なお、視点から太陽、および視点から観測点へのベクトルが分かれば、偏光位相は分かるため、今後は、天球の半径ｒ＝１としてよい。以上より、各画素に対応する偏光位相の天球上での位置を求める。
【０１６９】
図２０に、カメラ１５０４、画像エリア２０００、天球１５０５の俯瞰図を示す。カメラ１５０４から画像中心１６０２を結んだ線は、天球１５０５上で、点１５０２に到達している。なお、図１８、図１９と共通の構成要素には、同じ参照符号を付している。画角１６０３、１６０４の範囲が、撮影範囲に等しい。
【０１７０】
カメラ向きの推定には、従来のパターンマッチング手法を適用してよい。偏光位相は０°〜１８０°を１周期とするため、１８０°〜３６０°の位相については、その位相から１８０を引き、０°〜１８０°の範囲に収めるとよい。
【０１７１】
最も簡易なパターンマッチングの手法として、ＳＳＤ（Ｓｕｍ ｏｆ Ｓｑｕａｒｅｄ Ｄｉｆｆｅｒｅｎｃｅ）を利用できる。カメラ向きを仮想的に決定すると、先述のカメラ中心画素位置Ｐｇｃが、全天偏光マップ上でどこにあたるかが分かる。その際に、青空偏光画像の各画素位置における偏光位相と、全天偏光マップ上において前記各画素位置に対応する位置の偏光位相との差を求め、２乗誤差を計算する。仮想的に決定したカメラ向きを変化させながら２乗誤差を計算し、その誤差を最小化するカメラ向きを決定する。具体的には、先ほどの全天偏光パターン上の点Ｐｇｖ１６０７での偏光位相をφｐｇｖとする。また、実画像上の点Ｐｇ１６０１での偏光位相をφｐｇ、２乗誤差をＥｒｒとおく。このとき、２乗誤差Ｅｒｒは、以下の式で表される。
【数２１】
2010079557.tif 000109
【０１７２】
２乗誤差Ｅｒｒが最小になる部分が最も位相がマッチした場合であるので、この２乗誤差Ｅｒｒを最小にするように、画像中心Ｐｇｃ１６０６に対応する全天偏光パターン上の点Ｐｖ１５０２を動かす。
【０１７３】
このようなマッチングについては、“領域ベースマッチングのための２次元同時サブピクセル推定法” 清水雅夫、 奥富正敏（電子情報通信学会論文誌 Ｄ−ＩＩ、 Ｖｏｌ．Ｊ８７−Ｄ−ＩＩ、 Ｎｏ．２、 ｐｐ．５５４−５６４、 Ｆｅｂｒｕａｒｙ、 ２００４）に詳しい説明がある。実際には、θ１、θ２を変化させることになるが、前期文献記載の推定法を利用すれば、サブピクセル精度でＰｖ１５０２を求めることができる。結果をそのときカメラが見ている方位とし、以上によって得られるカメラ方位θ１、θ２を、カメラ向き出力部へ出力する。
【０１７４】
次に図１６（ｂ）に示す計算モードについて説明する。
【０１７５】
サーチモードと同様に、太陽位置を太陽位置取得部１３０１にて取得する。ここで、前述のとおり、非特許文献１、或いは非特許文献３では、数式で理論的な全天偏光パターンを求めている。逆にこれを利用して、得られたパターンと、太陽位置を用いて計算を行うことにより、カメラの方位角を取得することができる。
【０１７６】
例えば、非特許文献１の式を利用すると、青空偏光画像中のある画素での偏光位相をφｐｇとして、以下の式が成立する。
【数２２】
2010079557.tif 000110
【０１７７】
計算モードで求めたいものは、図１９の画素中心Ｐｇｃに対応する天球上の位置Ｐｖ（θ１、θ２）を規定する２つの変数θ１、θ２である（図１８（ａ）参照）。ここで、青空偏光位相画像の画素（青空領域の画素）は、殆どの場合、複数存在する。これらの画角が既知であることから、各画素Ｐｇの位置を、Ｐｇｖ（θ１+θｐｘ’、θ２+θｐｙ’）とおくことができる。なお、θｐｘ’、θｐｙ’は、画角とピクセル位置より、式１９によって求められる。
【０１７８】
以上より、青空偏光位相画像中のそれぞれの画素に対応するφｐｇ、φ１、φ２から、式２２を用いてθ１、θ２を計算できる。θ１、θ２を求めるには、最低３つの点について計算すればよいが、実際は偏光位相画像中のノイズの存在などが考えられるため、できるだけ多くの点を利用することが好ましい。例えば、動的計画法を繰り返して適用する手法を用いればよい。
【０１７９】
以上により求まったカメラの向きについて、最後に、ロール平行度の補正部でθｒ°補正したカメラ座標ｚ軸周りの傾きを、元通りに回転させる。これは、式１０を逆算すればよい。
【０１８０】
なお、計算モードで使用する数式は、前記式２２に限ったものではない。他の空の偏光を求める式を利用しても、同様にカメラ向きが取得できる。
【０１８１】
次に、図１Ｆの出力部１０２について説明する。出力部１０２は、上記の方法によって取得されたカメラの方位と仰角とを、後段で必要な形式のデータとして出力する。すなわち、図１９のθ１とθ２を示す情報を、場合に応じた出力形態にて出力する。
【０１８２】
（実施形態２）
図２１は、本発明の第２の実施形態に係るカメラ向き検出装置の構成を示すブロック図である。図２１において、図１Ｆに示す構成要素と共通の構成要素には同一の符号を付しており、ここではその詳細な説明を省略する。
【０１８３】
実施形態１と本実施形態との間で異なる第１の点は、実施形態１の装置が「青空偏光位相画像取得部１００」を備えていた（図１Ｆ）のに対して、本実施形態の装置が「青空偏光画像取得部１７００」を備えていることにある（図２１）。本明細書において「青空偏光画像」は、青空偏光位相画像および青空偏光度画像の両方を意味する。すなわち、本実施形態では、青空偏光位相画像だけでなく、青空偏光度画像を取得する。実施形態１と本実施形態との間で異なる第２の点は、本実施形態の装置が実施形態１の「カメラ向き推定部１０１」とは異なる処理を実行する「カメラ向き推定部１７０１」を備えていることにある。
【０１８４】
以下、本実施形態における青空偏光画像取得部１７００およびカメラ向き推定部１７０１の構成と動作を説明する。
【０１８５】
図２２Ａに青空偏光画像取得部１７００における青空偏光画像処理部１００ｃの構成図を示す。図１１Ａに示す構成要素と共通の構成要素については同一の符号を付しており、その詳細な説明を省略する。
【０１８６】
図２２Ａにおいて、図１１Ａと異なる部分は、出力として青空偏光位相画像φｓｋｙだけでなく、青空偏光度画像ρｓｋｙも出力されるという点である。本実施形態でも、出力選択部１００９において、第１のマスク画像Ａ’或いは第２のマスク画像Ｂ’のどちらかが採用されるが、本実施形態では、その採用されたマスク画像（「マスク画像Ｃ’」と称する）と、偏光度画像ρとのＡＮＤを画像演算部１８０１でとることで、青空偏光度画像ρｓｋｙを計算し、青空偏光位相画像φｓｋｙとともに出力する。
【０１８７】
以下、実際に撮影された図２３のシーン画像を用いて説明する。
【０１８８】
図２３（ａ）の画像はシーン画像の偏光位相画像φ、図２３（ｂ）の画像はシーン画像の偏光度画像ρである。図２３（ｃ）の模式図に示すように、空領域１１０１、建物領域１１０２、雲領域１１０３、地面領域１１０４、カメラ台１１０５を画像内に含む。なお、これらの符号は、図１２の対応する各領域に付されていた符号と同一である。
【０１８９】
図２３（ｄ）の画像は、最小構成１０１２によって生成されたマスクＡ’である。画像演算部１０１１で、偏光位相画像φと論理積演算した結果が図２３（ｅ）の青空偏光位相画像φｓｋｙであり、画像演算部１８０１にて偏光度画像ρと論理積演算した結果が図２３（ｆ）の青空偏光度画像ρｓｋｙである。ともに、空の特徴的なパターンを有していることがわかる。空の偏光度パターンも、偏光位相パターンと同様に、太陽の位置から計算によって求めることができるため、カメラ向きの推定に利用できる。
【０１９０】
なお、図１１Ａの青空偏光画像処理部１００ｃの変形例（図１１Ｂ、図１１Ｃ）と同様に、図２２Ａの青空偏光画像処理部１００ｃについても、図２２Ｂ、図２２Ｃに示す変形が可能である。すなわち、図２２Ｂの構成例では、第１の青空領域マスクＡ’および第２の青空領域マスクＢ’を作成する前の段階で、いずれのマスクを作成すべきかを選択部１０１４が偏光度判定部１０１０の出力ρｄに基づいて決定する。また、図２２Ｃの構成例では、第１の青空領域マスクＡ’および第２の青空領域マスクＢ’を作成する前の段階で、いずれのマスクを作成すべきかを選択部１０１４が撮影日時情報に基づいて決定する。
【０１９１】
次に、図２１のカメラ向き推定部１７０１の構成を図２４および図２７に示す。図２４はサーチモードの構成、図２７は計算モードの構成を示している。どちらも、図１６の構成要素と共通の構成要素には同一の符号を付しており、ここではその詳細な説明を省略する。実施形態１における対応する構成と本実施形態の構成との相違点は、青空偏光画像、すなわち、青空偏光位相画像φｓｋｙに加えて青空偏光度画像ρｓｋｙを入力として持つ点にある。
【０１９２】
まず、図２４を参照する。
【０１９３】
ヨー水平度取得部１９０１は、カメラのヨー方向の角度、すなわち仰角を取得する。全天偏光マップ候補領域取得部１９０３は、取得した青空偏光画像に対応する全天偏光マップ領域を、カメラの画角と仰角を元に、候補領域になる部分だけを切り出す。青空領域方向推定部１３０３は、実施形態１における青空領域方向推定部１３０３と同様の働きをする。信頼度判定部１９０４は、取得されたカメラ向きの信頼度を判定する。以下、各部の詳細を説明する。
【０１９４】
ヨー水平度取得部１９０１は、カメラの仰角を取得する。これによって、後段の全天偏光マップの探索領域を制限する。方法としては、例えば、青空偏光画像取得部１７００のロール水平度補正部１００ｂが有する水準器と同じものを、仰角が取得できるよう同一平面に設置すればよい。前述したとおり、搭載する水準器は、たとえば特許文献に記載されているような、カメラ内部に搭載可能なものであれば何でもよい。求まった仰角がθ２に相当する。これにより、青空領域方向推定部１３０３では、カメラの方位角θ１のみを変化させるだけで、カメラの方位を簡易に求めることが可能である。
【０１９５】
図２５に概念図を示す。図１７と同様に、天空の偏光位相を示す図の中に太陽１４０１およびカメラ位置１４０４が示されている。撮影された偏光画像の模式図１４０９には、空の偏光位相が矢印で模式的に示されている。なお、全天の偏光度マップについても、本探索領域制限の手順については同じであるため、図を省略する。
【０１９６】
カメラの画角と仰角が既知であれば、撮影されたシーン画像内の青空領域と全天偏光マップのマッチングを行うとき、全天偏光マップ候補領域取得部１９０３により探索範囲を全天偏光マップ内の帯状領域２００１（θ２：固定）に制限することができる。この領域２００１の内部で、仰角・画角を固定し、カメラ方位のみを変数としたサーチを実施形態１について説明した方法と同様にして行えばよい。このため、サーチの高速化が期待できる。
【０１９７】
ここでは２次元の図を参照しながら説明を行っているが、図１８に示すような３次元座標上でのマッチングを行う際にも、θ２を固定して、θ１のみ変化させたマッチングを行えばよい。
【０１９８】
なお、計測ズレなどの可能性もあるため、必ずしも画角と仰角を固定する必要はなく、取得した画角の前後、および仰角の前後の適当な範囲の数値に対して、適宜変化させてマッチングに用いることももちろん可能である。
【０１９９】
次に、図２６Ａを参照して、太陽高度によって信頼度を判定する形態を説明する。図２６Ａの構成は、太陽位置取得部１３０１と太陽高度判定部１３０２を備えている点に特徴を有している。
【０２００】
太陽高度判定部１３０２は、太陽位置取得部１３０１から得た太陽の高度について、定めた高度以上であれば「信頼度なし」と判定し、処理停止、エラー表示、などの処理を行う。これは、太陽が天頂に近くなった場合、偏光マップが東西南北でほぼ等しくなってしまい、判定の信頼度が低下するからである。
【０２０１】
図２６Ｂに、太陽２１０１が天頂に位置するときの天空の偏光位相パターンを示す。太陽２１０１が、完全に天頂に位置してしまった結果、どの方位を向いても、Ｌｏｃａｌ Ｍｅｒｅｄｉａｎからの偏光位相が９０°になってしまっている。これでは、カメラ向きを求めることができない。
【０２０２】
実際に太陽がどの程度天頂近くを通るかは、緯度経度と季節により異なるため、太陽の南中高度が天頂からある閾値以内の範囲にあった場合は、カメラ向きの判定が不可能とする。この場合、カメラ向き取得を停止し、使用者にエラー表示を行ったうえで終了する。例えば、太陽高度が天頂角５度以内であった場合は、判定不可能とする、などとする。
【０２０３】
好ましい実施形態では、図２４に示すヨー方向水平度取得部１９０１と、全天偏光マップ候補領域１９０３、および図２６Ａに示す太陽位置取得部１３０１および太陽高度判定部１３０２とをともに備えている。
【０２０４】
図２４、図２６Ａの構成例によれば、最後に、信頼度判定部１９０４にて、推定結果の信頼度を判定し、使用者に提示する。図２６Ａの構成例では、太陽高度の情報が得られるため、これによって信頼度を評価することができるが、信頼度の評価に太陽高度以外の情報を用いることができる。例えば、複数の候補領域が取得された場合に、候補領域数が多ければ、信頼度を低下させるようにしてもよい。或いは、偏光度が低い領域が選択された場合に、信頼度を低下させるようにしてもよい。
【０２０５】
信頼度が低い場合は、使用者がこの情報に対し何らかの手段を講じる必要がある。例えば、複数のカメラ向きが提示されている場合には、それらの中から、実際の撮影方向・撮影位置・太陽位置に一番近いものを選択する、という手段がある。或いは、撮影方向を、後述するカメラのオススメ機能により変更するという手段、また、撮影状況が許す場合には、撮影時間を、カメラの表示部で提案される時間まで延期する、という手段などがある。
【０２０６】
次に、図２７を参照して計算モードを説明する。
【０２０７】
図２７において、図１６（ｂ）と共通する部分には同じ符号を付している。図１６（ｂ）と異なる点は、部分青空領域方向計算部１３０４を備え、部分青空領域方向計算部１３０４に入力される情報として、ヨー方向の水平度および太陽高度の判定結果が加えられている点である。これらを計算の際の制約条件とし、実施形態１と同様に、計算により青空領域方向を求める。例えば、太陽高度判定部１９０２の出力結果が、「高度が高すぎるため、計算不可」となれば、その後の計算をストップし、信頼度判定部１９０４で「信頼度なし」と判断された場合と同様に、利用者に、判定不可である旨をディスプレイなどで通知する。
【０２０８】
また、ヨー方向の水平度が既知となる、或いは手がかりとできることで、式２２での計算を行う際、θ１のみ求めればよくなるため、簡略かつ信頼度の高い推定を行えるようになる。サーチモード同様に、最後に信頼度判定部１９０４にて推定結果の信頼度を判定し、使用者に通知する。信頼度が低い場合には、使用者は先に述べた説明同様に、何らかの手段を講じることが求められる。
【０２０９】
（実施形態３）
図２８は、本発明の第３の実施形態に係るカメラ向き検出装置の構成を示す図である。図２８において、図２１の構成要素と共通の構成要素には同一の符号を付しており、ここでは、その詳細な説明を省略する。
【０２１０】
本実施形態に特徴的な点は、出力部２２０１の構成と機能にある。出力部２２１０は、カメラ座標における太陽の方向を計算し、太陽の方向を示す情報とカメラ向きを示す情報を含むデータを規定のフォーマット形式にして作成・出力するという部分を備えている。以下、出力部２２０１について説明する。
【０２１１】
出力部２２０１の構成を図２９に示す。カメラの方位・仰角を元に、座標変換部２３０１にて、カメラ座標での太陽位置が計算される。そして画像フォーマット作成部２３０２にて、カメラの向き・太陽方向などを含んだフォーマットの画像Ｉｍが作成される。以下、その流れを説明する。
【０２１２】
カメラ向きとして、天球上でＣａｍＶｅｃｔ（ｘｃｍ、ｙｃｍ、ｚｃｍ）が得られたとする。太陽は、天球上でＰｓ（ｘｓ、ｙｓ、ｚｓ）であるとする。まず、ＣａｍＶｅｃｔについて、カメラ光軸方向をｚ軸に一致させる必要がある。このとき、３×３の回転行列Ｒ１を考える。
【０２１３】
以下の式２６を満たすＲ１を太陽の座標Ｐｓに用いれば、カメラ光軸がｚ軸方向へ向けた際の太陽位置が求まる。
【数２３】
2010079557.tif 000111
【０２１４】
また、この時点でのカメラ座標は、ロール水平度が補正された状態のままであるため、青空偏光画像取得部で取得したロール方向水平度の値を用いて、実際のカメラ座標の状態に戻す。これは、式１０を逆算する回転行列Ｒ２を用意すればよい。
【０２１５】
これより、天球座標上の太陽Ｐｓ（ｘｓ、ｙｓ、ｚｓ）に対して、Ｒ１、Ｒ２を用いてカメラ座標上の太陽ＳＵＮｃｍ（ｘｓｃｍ、ｙｓｃｍ、ｚｓｃｍ）が以下のように求まる。
【数２４】
2010079557.tif 000112
【０２１６】
次に、画像フォーマット作成部２３０２について説明する。本発明は、カメラ内部での処理以外にも、カメラ外部で、例えば撮影した画像を用いてコンピュータで後処理を施す際にも利用できる。したがって、カメラ向きや太陽方向の情報を、外部に取り出す独自フォーマットが必要となる。
【０２１７】
画像フォーマット２４０１の例を図３０に示す。画像フォーマット２４０１は、撮影した画像Ｉｍに対し、撮影時の
・時刻、緯度経度データ  ２４０２
・天球座標上でのカメラ向き（方位・仰角）情報  ２４０３・２４０４
・カメラ座標上での太陽位置情報  ２４０５
・青空領域分割結果データ  ２４０６
・青空領域偏光位相画像  ２４０７
・デジカメ画像データ  ２４０８
などを同時に有することを特徴とする。もちろん、その他一般的な画像フォーマットが有するような情報を同時に有していてもよい。
【０２１８】
アプリケーションによって、最低限必須となる情報は異なるが、特に最低限の情報として、撮影場所の経度緯度、およびカメラ向き（方位）を備えている。本フォーマットの画像が、本画像入力装置から出力される。
【０２１９】
以上の情報を有することで、カメラ内部だけでなく、カメラ外部のコンピュータ上などでも、
ｉ）撮影位置とカメラ向きから、撮影対象・撮影物体の認識、ラベリング
ｉｉ）カメラ位置と太陽位置から、逆光補正・色補正などの画像補正
ｉｉｉ）青空領域の色変換
ｉｖ）画像の真贋判断
等の処理を行うことが可能である。これらの４つの適用例について、以下で説明する。
【０２２０】
まずｉ）について説明する。例えば、パリの凱旋門前などの観光地で、ある写真を撮ったとする。このとき、ＧＰＳをカメラが備えていれば、「凱旋門の近くで撮った写真」であることは分かるが、それだけでは、凱旋門を撮ったものなのか、それとも、凱旋門を背にシャンゼリゼ通りを取ったものかは、分からない。
【０２２１】
本手法を利用すれば、カメラの方位２４０３がわかるため、世界地図と照らし合わせて、凱旋門とシャンゼリゼ、どちらを撮ったのかが分かる。これを利用すれば、例えば個人がＰＣに保存している画像の撮影対象分類に利用できる。或いは、ｗｅｂ上にある画像情報の、撮影対象分類にも利用できる情報となる。
【０２２２】
さらに、カメラの仰角２４０５の情報を利用することで、おおよそのカメラ視点方向が認識できる。カメラ光軸方向がわかれば、例えば、個人或いはｗｅｂ上の、撮影対象ごとに分類された画像間で、画像合成を行う際に非常に有効な情報として利用でき、ＣＧ・ＣＶ分野での利用について有効な情報を提供できる。
【０２２３】
次にｉｉ）について説明する。太陽方向座標２４０４が導出済みであるため、カメラに対する太陽の位置関係が分かる。例えば、カメラが太陽の方向を向いていれば逆光であると予測されるため、逆光補正を行う、或いは、利用者に「逆光補正をオススメ」することができる。この場合、カメラが「オススメ」する向きに対して、その向きにカメラが近づくとピントが合い、逆に離れるとピントがボケる、等の処理を表示部で行えば、利用者が自然にオススメ向きへカメラを向けられるようなフレーミング提案を行うこともできる。なお、日付と時間、緯度経度データ２４０２と、カメラ向き・仰角データ２４０３・２４０５から、ＰＣ上で太陽位置の計算を行うことも可能であるため、必ずしも太陽方向２４０４がフォーマット上で導出済みである必要はない。
【０２２４】
次にｉｉｉ）について説明する。フォーマットが青空領域分割結果データ２４０６を保持するため、これを利用して、昼間撮影した写真の青空領域の色を夕空の色に変換する、或いは変換候補として提示するなどすることができる。また、同時に、青空領域以外の部分は、別の変換を施す（少し暗くするなど）、或いは施せるようにすることで、より自然なシーン画像の変換が可能となり、画像処理ソフトウェアにおいて、有効な情報を提供できる。
【０２２５】
最後にｉｖ）について説明する。青空領域偏光画像２４０７を有するため、ある画像のデジカメ画像データ２４０１・時刻データ２４０２が画像変換・ヘッダ書き換えにより明け方のように変換されていた場合も、本手法で利用した明け方の偏光マップと照らし合わせることで、それが加工されたデータであるかどうかが分かり、画像の真贋判断に利用できる。
【０２２６】
あくまでこの４つは代表的な適用例であり、本フォーマットで実施可能な後段処理はこれに限らない。
【０２２７】
以上説明してきたように、本発明のカメラ向き検出装置を備える画像入力装置（カメラなど）によれば、シーン画像内の青空領域の偏光情報からカメラ向きを推定するため、天空全体の偏光パターンを取得するための特別なレンズは必要ない。
【０２２８】
なお、本発明によるカメラ向き検出方法は、図３１に示すように、カメラによって偏光画像およびカラー画像を取得するステップＳ２５００と、偏光画像およびカラー画像に基づいてカラー画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成するステップＳ２５０２と、カメラ向きを青空偏光位相画像に基づいて推定するステップＳ２５０４と、カメラ向きを示す情報を出力するステップＳ２５０６とを含む。このようなステップを実行する本発明のカメラ向き検出方法は、上述した構成を有する装置に適用される場合に限定されず、他の構成を有する装置に適用されても実施することが可能である。また、上記のステップをコンピュータに実行させるプログラムを用意し、このプログラムによってカメラなどの画像入力装置に内蔵されるコンピュータの動作を制御すれば、プログラムの改変によって画像入力装置の動作を改善することが容易になる。
【０２２９】
（実施形態４）
以下、本発明の第４の実施形態を説明する。
【０２３０】
上記の実施形態は、「撮像装置向き検出部」を備える撮像装置に関連しているが、本実施形態は、「撮像装置向き検出部」を備える移動体（典型的には、自動車）に関連している。すなわち、本実施形態における移動体は、偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、上記の撮像装置向き検出装置とを備えている。更に、この移動体は、移動体の向きと撮像装置向きとの関係に応じて、検出された撮像装置向きから移動体の向きを決定する移動体向き推定部を備えている。
【０２３１】
一般的に、カーナビゲーションシステムでは、ＧＰＳにより車の位置を求め、車が前進、或いは後進しているという前提のもと、車が移動した際の位置変化に基づいて、車の前面がどちらを向いているか（方位）を求める。
【０２３２】
しかし、移動体の停止時には、位置変化が起こらない。したがって、方位の取得には、過去のデータに基づいた推定を行う必要が発生する。停止時だけでなく、交差点のように、ほぼ同じ位置で向きの変更が起こるような場合も、ＧＰＳの位置データは変化しない。そのため、過去の方位データと、走行時のタイヤの回転数等の情報から、移動体の方位を推定している。
【０２３３】
これらの方法では、過去の状況を元に推定しているため、移動体の停止時間や、路面状況・停止までの走行状況によっては、現在の実際の方位を正しく示さない場合がある。例えば、車がスピンして停止した場合などは、タイヤの回転数から車の回転方向を算出することが出来ないため、車がどちらの方位を向いて停止したのか推定することができない。
【０２３４】
これに対して、より直接的に方位を求める方法としては、オーソドックスな方位磁針の利用が考えられるが、方位磁針は磁気の影響を受けやすいことが知られている。すなわち、方位磁針の近くに磁力が発生しているものが存在すれば、簡単に方位が狂ってしまう。車のように、金属である移動体に搭載した場合、移動体の磁化により方位磁針が狂う可能性がある。また、地磁気が検出できないといわれる場所は多くあるが、そのような場所でも利用できないという問題がある。
【０２３５】
図３２Ａは、本実施形態における移動体が備える移動体向き検出装置の構成を示す図である。上記各実施形態の構成と異なる部分は、移動体向き検出装置が、移動体向きを求める移動体向き推定部２６００と、移動体向きを出力する移動体向き出力部２６０１とを備えている点である。更に、本実施形態では、カメラ向きと移動体向きとの関係を規定する情報を提供するデータベース２６０が、移動体向き推定部２６００と接続される。このデータベース２６００は、移動体が備えていても良いし、移動体の外部に設置されたデータベース２６００と有線または無線によって適宜接続されても良い。
【０２３６】
次に、図３３を参照しながら、本実施形態における移動体向きの検出動作を説明する。図３３は、本実施形態における移動体が備える移動体向き検出装置の動作を示すフローチャートである。図３２Ａに示すシーン画像・シーン偏光画像取得部（画像撮像部）１００ａにおいて画像撮像ステップＳ２７００を実行した後、青空偏光画像処理部１００ｃにおいて画像処理ステップＳ２７０１を実行する。こうして、青空偏光画像を取得する。
【０２３７】
続いてカメラ向き推定部１０１においてカメラ向き推定ステップＳ２７０２を実行することにより撮像素子の向き（撮像装置向き）を推定する。推定した撮像装置向きを示す情報に基づいて、移動体向き推定部２６００で移動体向き推定ステップＳ２７０３を実行することにより、移動体の向きを推定する。
【０２３８】
ここで、撮像装置向きと移動体向きとの関係を説明する。後に図３５を参照して説明するように、撮像装置向きと移動体向きとの関係は、カメラ（撮像部）の取り付け位置によって変化する。そのため、撮像装置向きは、必ずしも移動体向きに一致していない。このため、例えば移動体における撮像部の取り付け位置（簡単に「カメラ位置」と称する。）に応じて、撮像装置向きから移動体向きを求める必要がある。
【０２３９】
本実施形態では、図３２Ｂに示すような構造を有するデータ（テーブル）がデータベース２６０内に蓄積されている。データベース２６０内のデータを参照し、移動体上のカメラ位置（前、後、右、左）に応じて、カメラ向きを示す座標を変換すれば、移動体向きの座標を算出することができる。例えば、撮像装置が自動車の後部に設置されている場合、移動体向きの方位は、カメラ向きの方位を１８０度回転させたものとなる。
【０２４０】
厳密には、カメラ向きと移動体向きとの関係は、カメラ位置のみならず、カメラの視線方向と移動体向きとの関係によって規定される。このため、データベース２６０に蓄積されるデータは、カメラ向きと移動体向きとのより正確な関係を示す情報を有していることが好ましい。
【０２４１】
最後に移動体向き出力部２６０１において、移動体向き出力ステップＳ２７０４を実行することによって、移動体の向き情報を、利用者にディスプレイや音声等で提示できるよう処理する。
【０２４２】
図３４を参照して、本実施形態における移動体（車２８０１）の動作の例を説明する。
【０２４３】
ここでは、交差点２８００に車２８０１が進入し、停止したという状況を示している。ＧＰＳ等の速度差分を利用する手法では、現在の車の向きを知るため、交差点から繋がるいずれかの道を選んで、一定距離走行する必要がある。その際、選んだ道が、通過するつもりであった道と異なった場合、改めて交差点から正しい道へ進みなおす必要があり煩雑である。これに対し、本発明を用いると、図３４の画像領域２８０２に示す、車外の青空偏光画像を取得するだけで、一定距離走行することなく、車の向きを利用者に提示することができる。
【０２４４】
なお、提示の方法は、図３４に示すように、ディスプレイ２８０３を利用しても、音声警告２８０４であってもかまわない。特にディスプレイ２８０３に、現在地付近の地図表示がなされている場合は、車の向きを、地図上に矢印２８０５のような形式で表示することで、利用者が自車の向きを容易に理解できるという効果がある。
【０２４５】
以下、本実施形態をさらに詳しく説明する。
【０２４６】
図３２Ａを参照する。図３２Ａに示すシーン画像・シーン偏光画像取得部１００ａ、青空偏光画像処理部１００ｃ、及びカメラ向き推定部１０１は、図１Ｆに示す、同じ番号の処理部とそれぞれ同一の動作を行うため、ここでは説明を省略する。ロール水平度補正部１００ｂについては、図１Ｆと同様の動作でもよいが、以下に説明する別の動作でもよい。
【０２４７】
撮像部は、車上または車中に走行中は固定される。したがって、設置時に地面に対するロール水平度を一度記憶しておけば、その後は設置時の水平度を用いて補正を行えばよい。毎回水平線の抽出を行わなくてよいため、より高速に処理が行えるという効果がある。
【０２４８】
続いて、移動体向き推定部２６００について説明する。
【０２４９】
図３５に、移動体上における偏光撮像素子（撮像装置）２９００の代表的な設置例を示す。図３５には、本実施形態に係る移動体（自動車）２９０１〜２９０４が図示されている。
【０２５０】
移動体２９０１では、偏光撮像素子２９０５のように、前面ボンネット上の位置、或いは後ろボンネット上の位置に設置する。こうすることで、運転の邪魔にならない、比較的高い位置から、青空偏光位相画像を取得できる。
【０２５１】
移動体２９０２のように、ボンネットより低い位置、例えば車体下部近くに偏光撮像素子２９０６または偏光撮像素子２９０７を設置してもよい。こうすることで、外観に与える影響を少なくすることができる。また、偏光撮像素子２９０７のように、斜め向きに設置してもよい。
【０２５２】
移動体２９０３における偏光撮像素子２９０８のように、運転席の直前の窓、或いは同乗者席の窓等に設置すれば、より高い位置から安定して青空偏光画像を取得できる。
【０２５３】
なお、上記の偏光撮像素子２９０５〜２９０８は、設置場所のみ異なる同じ偏光撮像素子であるため、偏光撮像素子２９００と称する。
【０２５４】
永久的に固定位置に設置するのではなく、乗車前のタイミングで、いつでも好きな時に利用者が偏光撮像素子２９００の設置位置を決めてもよい。例えばケーブル等で撮像装置と、青空偏光画像処理部を含む装置を接続できるようにすれば、移動体２９０４に示すように、撮像部の位置をユーザが広い範囲から選択することができる。このようにすると、各利用者の都合に合わせた利用の仕方が出来るため、便利である。撮像部は、車外の青空偏光位相画像を取得できる位置で、なおかつ、車体の直上（画像に太陽を含む可能性が非常に高くなる）を向かない方向であれば、どこにどの向きで利用者が設置してもよい。したがって、ここに図示した配置例以外にも、先ほどの設置条件を満たす位置に設置されればよい。
【０２５５】
なお、屋外が雨や曇であることが分かった場合、或いは、時間帯や位置の関係上、カメラ向き推定の精度が著しく落ちる場合は、図３６に示すように、そのような状況下にある移動体３０００に、本実施形態の装置からメッセージを発するとよい。例えば、ディスプレイ３００１に示すように、「信頼度が低いため、利用不可能」と表示する、或いは、音声警告３００２にて、本発明の装置が利用不可能である旨を利用者に伝えるといったことがある。このようにすることで、間違った情報を利用者が受け取る可能性を低減できる。
【０２５６】
（実施形態５）
以下、本発明の第５の実施形態を説明する。
【０２５７】
一般的に、ポータブル機器が有するナビゲーションシステムでは、ＧＰＳにより移動する人物の位置を求め、人物が前進、或いは後進しているという前提のもと、人物が移動した際の位置変化に基づいて、人物がどちらを向いているか（方位）を求めている。
【０２５８】
しかし、人物が停止した際には、その位置変化が起こらないという問題がある。そのため、方位の取得には、過去のデータに基づいた推定を行う必要がある。ただし、特に人物の歩行速度は車に比べて遅いため、過去の方位データから人物の向きを精度よく推定することは難しい。特に一度立ち止まって周囲を見渡してしまうと、その人物がどちらを向いているのか、目の前の道路が、地図上でどの道路にあたるのかといった情報を提供することは非常に困難である。
【０２５９】
本実施形態における向き検出装置では、人物が歩行していない状態でも、人物が把持している携帯機器の向きを推定できる。
【０２６０】
図３７は、本実施形態における携帯機器向き検出装置の構成例を示す図である。図３７の構成において、他の実施形態の構成と異なる部分は、携帯機器向きを求める携帯機器向き推定部３１００と、携帯機器向きを出力する携帯機器向き出力部３１０１を備えている点である。
【０２６１】
次に、図３８を参照しながら、本実施形態における携帯機器向きの検出動作を説明する。図３８は、本実施形態における移動体が備える携帯機器向き検出装置の動作を示すフローチャートである。図３２Ａに示すシーン画像・シーン偏光画像取得部１００ａにおいて画像撮像ステップＳ３２００を実行した後、青空偏光画像処理部１００ｃにおいて画像処理ステップＳ３２０１を実行する。こうして、青空偏光画像を取得する。
【０２６２】
続いてカメラ向き推定部１０１においてカメラ向き推定ステップＳ３２０２を実行することにより撮像素子の向きを推定する。推定した向きの情報に基づいて、携帯機器向き推定部３１００で携帯機器向き推定ステップＳ３２０３を実行することにより、携帯機器の向きを推定する。
【０２６３】
本実施形態でも、図３２Ａ、図３２Ｂを参照して説明したデータベースを用いることにより、カメラ向きと携帯機器向きとの関係に基づいてカメラ向きから携帯機器向きを決定することができる。
【０２６４】
最後に携帯機器向き出力部３１０１において、携帯機器向き出力ステップＳ３２０４によって、携帯機器の向き情報を、利用者にディスプレイや音声等で提示できるよう処理する。
【０２６５】
図３９に、利用状況の例を図示する。ここでは、分岐３３００に人物３３０１がたどり着き、停止したという状況を示している。ＧＰＳ等の速度差分を利用する手法では、現在の人物の向きを知るためには、分岐から繋がるいずれかの道を選んで、一定距離歩行する必要がある。その際、選んだ道が、通過するつもりであった道と異なった場合、改めて分岐から正しい道へ進みなおす必要があり、煩雑である。これに対し、本発明を用いると、図３９の画像領域３３０２に示す、車外の青空偏光画像を取得するだけで、長距離の無駄な歩行を伴うことなく、携帯機器の向きを利用者に提示することが出来る。なお、提示の方法は、図３９に示すように、ディスプレイ３３０３を利用しても、音声警告３３０４であってもかまわない。特にディスプレイ３３０３に、現在地付近の地図表示がなされている場合は、携帯機器の向きを、地図上に矢印３３０５等で表示することで、利用者が自らの向きを容易に理解できるという効果がある。
【０２６６】
以下で、本実施形態をさらに詳しく説明する。
【０２６７】
図３７に示すシーン画像・シーン偏光画像取得部１００ａ、青空偏光画像処理部１００ｃ、及びカメラ向き推定部１０１は、図１Ｆに示す、同じ番号の処理部とそれぞれ同一の動作を行うため、ここでは説明を省略する。
【０２６８】
なお、ロール水平度補正部１００ｂについては、図１Ｆと同様の動作でもよいが、さらに以下に説明する別の動作を追加してもよい。
【０２６９】
地面に対する撮像素子のロール水平度は、すなわち携帯機器の把持状態を示す要素となる。一般的には、撮像素子もディスプレイも、ともに携帯機器に固定されて搭載される。ディスプレイを見ている利用者の状態も、一般的には地面に垂直に立つか座るかである。したがって、撮像素子の地面に対する水平度が判れば、それは利用者に対するディスプレイの水平度と等しくなる。したがって、ロール水平度は、青空偏光位相の処理だけでなく、出力部にも入力し、水平度に応じた表示を行うように補正する、という処理を追加すれば、利用者が容易に向きを認識可能になるという効果がある。
【０２７０】
続いて、携帯機器向き推定部３１００について説明する。
【０２７１】
まず、図４０に、携帯機器上における偏光撮像素子３４００の設置例のうちの代表的なものを示す。図４０には、本実施形態に係る携帯機器（携帯電話）３４０１〜３４０３が図示されている。
【０２７２】
携帯機器３４０１における、偏光撮像素子３４００のように、携帯電話付設のカメラを、カラー画像・偏光画像が同時に撮影できる偏光撮像素子を用いたものとすることで、利用者に不便を感じさせることなく、青空偏光位相画像を取得できる。
【０２７３】
なお、この場合、本実施形態の装置は、カメラ向き検出装置として動作することに加え、例えば任意の携帯電話付設カメラ撮影画像に対して、例えば図１３(ａ)に示した、偏光位相を表した画像に変換したものを出力してもよい。また、図１３（ｄ）に示すような、空のみ抜き出した画像を作成したり、空の領域のみ別のテクスチャに置き換えるといった画像変換に用いても良い。  また、携帯機器３４０２の偏光撮像素子３４０４のように、ディスプレイを確認する際に、最も高度が高い位置にくる場所近くに偏光撮像素子３４０４を設置することで、より高い位置から安定に青空偏光画像の取得が行える可能性がある。
【０２７４】
また、永久的に固定位置に設置するのではなく、ケーブルで接続可能な外部パーツとして、いつでも好きな時に利用者が素子の設置位置を決められるようにしてもよい。携帯機器３４０３に示すように、青空偏光位相画像を取得できるような位置で、なおかつ、直上（画像に太陽を含む可能性が非常に高くなる）を向かない方向であれば、どこにどの向きで利用者が設置してもよい。このようにすると、各利用者は簡易に青空領域の取得位置の調整が行えるため、便利である。
【０２７５】
ここに図示した以外にも、先ほどの設置条件を満たす位置に設置されたものについては、全て本発明の本実施形態が含むものとする。
【０２７６】
なお、屋外が雨や曇であることが分かった場合、或いは、時間帯や位置の関係上、カメラ向き推定の精度が著しく落ちる場合は、図４１に示すように、そのような状況下にある携帯機器３５００に、本発明の装置からメッセージを発するとよい。例えば、ディスプレイ３５０１に示すように、「信頼度が低いため、利用不可能」と表示する、或いは、音声警告３５０２にて、本発明の装置が利用不可能である旨を利用者に伝えるといったことがある。このようにすることで、間違った情報を利用者が受け取る可能性を低減できる。
【０２７７】
（実施形態６）
本発明の第６の実施形態について以下で説明する。
【０２７８】
以上で述べた本発明の実施形態は、カラー偏光画像撮像部を備えることを特徴としていたが、本発明による撮像装置向きの検出には、必ずしもカラー画像を取得する必要はない。例えばモノクロの輝度画像によっても撮像装置向きを決定することができる。  図４２は、本発明の第６の実施形態における撮像装置向き検出装置の構成を示す図である。図４２の構成において、他の実施形態における構成と異なる部分は、シーンの画像を取得するシーン画像・シーン偏光画像取得部３６００ａ、及び青空領域の偏光状態を求める青空偏光画像処理部３６００ｃを備える点にある。これ以外の構成については、実施形態１の構成と同様であるため、ここでは説明を省略する。
【０２７９】
本実施形態の撮像装置向き検出装置は、全ての構成要素が図４３に示すカメラに収められていることが好ましい。しかし、例えばシーン画像・シーン偏光画像取得部３６００ａとロール方向の傾きを計測する水準器とを図４２の画像取得部３６００が備え、ロール水平度補正部１００ｂ、青空偏光画像処理部３６００ｃ、カメラ向き推定部１０１、および出力部１０２がカメラの外部に設けられていても良い。
【０２８０】
図４３に、シーン画像・シーン偏光画像取得部３６００ａの構成を示す。
【０２８１】
カメラは、シーン画像・シーン偏光画像取得部３６００ａとして機能する撮像部を備えるため、カメラの向きに応じて撮影されるシーン画像・シーン偏光画像の内容が変化する。
【０２８２】
カメラ向きを推定するための一連の処理は、カメラの内部で実行されることが好ましいが、必ずしもカメラの内部で実行される必要はない。
【０２８３】
図４３に、本実施形態のシーン画像・シーン偏光画像取得部３６００ａの構成を示す。屋外においては、シーン画像およびシーン偏光画像の両方を取得することが必要である。風による雲の動きなども存在するため、偏光画像もリアルタイムに取得することが好ましい。なお、シーン画像とシーン偏光画像は同時に取得することが好ましいが、数秒程度までの間隔で取得しても構わない。
【０２８４】
図４３のシーン画像・シーン偏光画像取得部３６００ａは、被写体に対してリアルタイムに輝度画像情報を取得すると同時に偏光画像情報を取得し、２種類の偏光画像情報（偏光度画像ρ及び偏光位相画像φ）を出力する構成となっている。
【０２８５】
図４３のシーン画像・シーン偏光画像取得部３６００ａでは、レンズ３７００ａおよび絞り３７００ｂを通った入射光が、偏光取得部３７０１に入射する。この入射光から、偏光取得部３７０１は輝度動画像情報および偏光画像情報の両方をリアルタイムに取得することができる。偏光取得部３７０１からは、輝度動画像情報および偏光情報画像情報を示す信号が出力され、それぞれ、輝度情報処理部３７０２および偏光情報処理部３７０３に与えられる。輝度情報処理部３７０２および偏光情報処理部３７０３は、上記信号に対して各種の処理を施し、輝度画像Ｃ、偏光度画像ρ、偏光位相画像φを出力する。
【０２８６】
偏光取得部３７０１では、モノクロ画像と偏光画像とを同時に取得する。このためには、例えば特許文献３に開示されている技術を利用することができる。この技術では、輝度画像と被写体の部分偏光の画像とを同時に取得することを目的とし、複数の異なる偏光主軸（透過軸）を有するパターン化偏光子を撮像素子に空間的に配置する。パターン化偏光子としては、フォトニック結晶や構造複屈折波長板アレイが利用されている。図４４は、このような偏光輝度撮像素子の一例を示す。狭帯域カラーフィルタ３８００、およびパターン化偏光子３８０１が、撮像素子画素３８０２の前面に重ねて設置されている。入射光は狭帯域カラーフィルタ３８００、パターン化偏光子３８０１を透過して撮像素子に到達し、撮像素子画素３８０２によってモノクロ輝度が観測される。このようにすれば、輝度画像情報および偏光画像情報の両方を同時に取得することができる。なお、狭帯域カラーフィルタ３８００は、パターン化偏光子の動作する波長帯を選択するように、例えば、５００−５５０（ｎｍ）の透過域を有するものを利用することが望ましい。
【０２８７】
図４５は、偏光取得部３７０１における撮像面の一部を光軸方向の真上から見た図である。簡単のため、撮像面のうち、密着する４つの微細偏光画素（２×２）のみが図示されている。各微細偏光画素の上に記されているストライプは、微小偏光板の偏光主軸方向を模式的に示している。図４５の例では、４つの微細偏光画素が、それぞれ、角度Ψｉ＝０°、４５°、９０°、１３５°の偏光主軸を有している。
【０２８８】
なお、被写体の特に明るい鏡面反射部分に含まれる偏光成分や、被写体の影領域に含まれる偏光成分などを確実に取得するため、撮像素子の輝度ダイナミックレンジとビット数はなるべく大きいこと（例えば１６ｂｉｔ）が望ましい。
【０２８９】
図４５に示す構成によって偏光画素毎に取得された輝度の情報は、図４３の偏光情報処理部３７０３で処理される。この処理は、図８を参照して説明した処理と同一である。
【０２９０】
以上の処理で正弦関数近似のＡ、Ｂ、Ｃの３パラメータが確定する。こうして、偏光度ρを示す偏光度画像と偏光位相φを示す偏光位相画像が求められる。偏光度ρは、該当画素の光が偏光している程度を表し、偏光位相φは、該当画素の光の部分偏光の主軸角度を表している。なお、偏光の主軸角度は０と１８０°（π）は同一である。値ρおよびφ（０≦φ≦π）は、それぞれ、実施形態１同様に、（式６）および（式７）によって算出される。
【０２９１】
なお、本実施形態のパターン化偏光子は、フォトニック結晶、フィルム型の偏光素子、ワイヤーグリッド型、その他の原理による偏光素子であってもよい。
【０２９２】
図４３に示す輝度情報処理部３７０２は、偏光取得部３７０１から出力される情報を用いて、輝度を計算する。偏光子を透過した光の輝度は、偏光子に入射する前の光が有する本来の輝度とは異なる。非偏光照明の場合、理論的には、偏光のすべての偏光主軸における観測輝度を平均化した値が偏光子に入射する前の光が有する本来の輝度に相当する。角度偏光画素Ｐ１の画素における観測輝度をＩ１と表現すると、（式８）同様の観測輝度平均化を行うことで、輝度を算出することができる。
【０２９３】
各偏光画素における輝度を得ることにより、通常の輝度画像を生成できる。
【０２９４】
輝度画像Ｃ、偏光度画像ρ、偏光位相画像φの各々における各画素の輝度および偏光情報は、図４５に示す４つの偏光画素を用いて得られる。そのため、個々の輝度および偏光情報は、図４５に示す４つの偏光画素の中心に位置する仮想画素点３９００における値の代表を示していると考えることができる。従って、輝度画像および偏光画像の解像度は本来の撮像素子の有する解像度の縦１／２×横１／２に低下する。このため撮像素子画素数はできるだけ大きいことが望ましい。
【０２９５】
図４２に示すロール水平度補正部１００ｂによる撮影したシーン画像・シーン偏光画像の傾き補正については実施形態１と同じであるため説明を省略する。
【０２９６】
続いて、図４６Ａを参照しながら、青空偏光画像処理部３６００ｃの構成を説明する。
【０２９７】
青空偏光画像処理部３６００ｃは、偏光度画像ρ、偏光位相画像φ、および輝度画像Ｙを入力として、青空偏光位相画像φＳＫＹを出力する。青空偏光位相画像φＳＫＹは、シーンの中からカメラ向き、太陽向きを推定するために用いられる。
【０２９８】
青空偏光画像処理部３６００ｃにおいて、偏光度２値化部１００１は、偏光度画像ρをしきい値Ｔρで２値化する。輝度２値化部１００３は、輝度画像Ｙに対して、しきい値ＴＣ１を用いて２値化処理する。画像演算部１００５は、偏光度２値化部１００１で２値化された偏光画像ρ’と、輝度２値化部１００３で２値化された輝度画像Ｃ１’とのＡＮＤ（論理積）演算をし、マスク画像Ａ’を出力する。
【０２９９】
画像演算部１０１１は、採用された青空領域マスクＭｓｋｙと偏光位相画像φとの論理積演算を実施して、青空偏光位相画像φｓｋｙを生成する。
【０３００】
なお、２値化閾値Ｔρは、画像中の各画素の偏光度から作成したヒストグラムから決定し、偏光度ヒストグラムにおける偏光度の２つのピークの中間値を閾値Ｔρとするとよい。ここで、２値化閾値Ｔρは、偏光度の高低を判定するための閾値であり、０＜Ｔρ＜１の関係を満たす。
【０３０１】
以上の２種のマスク画像ρ’、Ｃ１’を画像演算部１００５において論理積演算処理すると、一部偏光度の低い雲領域を除去した青空領域のみを分離したマスク画像Ａ’を得ることができる。このマスク画像Ａ’を画像演算部１０１１において、偏光位相画像φと論理積演算処理する。
【０３０２】
以上の処理によって、青空偏光位相画像φｓｋｙが得られる。
【０３０３】
ここで注意すべきは、青空領域を決定する際、原則的には雲領域を除去することが望ましい、ということである。後段のカメラ向き検出において、青空偏光位相画像φｓｋｙと全天偏光マップとの間で対応する点を探索する必要がある。当然ながら、全天偏光マップには、雲の存在が考慮されていない。ため、雲の存在によって偏光位相が乱された青空偏光位相画像φｓｋｙを利用してしまうと、推定誤りが起こる可能性がある。
【０３０４】
なお、特に雲が薄い場合、雲領域でも偏光位相が乱されないことがある。このような場合は、青空領域が雲を含んでいても良い。雲によって偏光位相が乱されるかどうかは、雲領域の偏光度の低下度合いが目安になる。偏光に基づいて青空領域を決定する本実施形態の方法によれば、偏光度の低い雲領域のみを自動的に除去できる、という利点がある。
【０３０５】
なお、画像上に現れる空領域の偏光度が低い場合、以上に述べた青空領域抽出が失敗してしまうこともある。これを防ぐため、図４６Ｂに示す出力選択部４００１、偏光度判定部１０１０を利用してもよい。出力選択部４００１は、２値化された輝度画像Ｃ１’、偏光度画像ρ’から生成された第１の青空領域マスクＡ’を採用するかどうかを、偏光度判定部１０１０の出力ρｄに基づいて決定する。
【０３０６】
具体的には、偏光度判定部１０１０でシーン偏光度画像ρの偏光度ヒストグラムに基づいて平均偏光度を求める。続いて、図４６Ｂの出力選択部４００１において、偏光度判定部１０１０から出力される平均偏光度ρｄが閾値を超えない場合、偏光度からの青空偏光位相画像φｓｋｙ抽出は信頼度が低くなるため、処理を停止するものとする。所定閾値は、たとえばＴρ１＝０．１より低い場合に、圏外表示に切り替えるとすればよい。
【０３０７】
なお、先に述べた通り、図４６Ａの構成で実施できるかどうかは、大きくは時刻に依存する。したがって、出力選択部４００１、偏光度判定部１０１０を利用して、青空領域の抽出可否を切り替える代わりに、撮影日時によって切り替えるようにしてもよい。例えば午後４時以降、日没までを夕方として定義し、夕方でない場合は図４６Ａの構成で青空領域の決定を実施し、夕方は図４６Ｂの構成を用いて抽出可否を判断するようにするということも可能である。
【０３０８】
次に、図４６Ｃ、図４６Ｄを参照して、青空偏光画像処理部３６００ｃの他の構成例を説明する。
【０３０９】
図４６Ｂに示された青空偏光画像処理部３６００ｃでは、前述したように、２値化された輝度・偏光度画像Ｃ１’、ρ’から生成された青空領域マスクＡ’を採用するかを偏光度判定部１０１０の出力ρｄに基づき、出力選択部４００１で判定した。
【０３１０】
これに対して、図４６Ｃの青空偏光画像処理部１００ｃでは、青空領域マスクＡ’を作成する前の段階で、マスクを作成すべきかどうかを選択部４１０１において、偏光度判定部１０１０の出力ρｄに基づき判定する。例えば、偏光度判定部１０１０から出力されるρｄが閾値を超えない場合、図４６Ｃの選択部４１０１は、青空領域マスクＡ’を作成せずに処理停止を選択する。その結果、図４６Ｃの青空偏光画像処理部３６００ｃは、第１の青空領域マスクＡ’を作成せず、処理を停止する。利用者には、圏外表示等を行っても良い。このため、偏光度が十分高い場合のみマスクを作成すればよく、使用されないマスクを作成するための処理を省くことができる。
【０３１１】
図４６Ｄの青空偏光画像処理部３６００ｃでも、同様に、第１の青空領域マスクＡ’を作成する前の段階で、マスクを作成すべきかを選択部４２０１が決定する。ただし、図４６Ｄの青空偏光画像処理部３６００ｃでは、マスク作成可否の選択を、偏光度判定部１０１０の出力ρｄに基づいてではなく、日時情報取得部１０１６が出力する撮影日時情報に基づいて決定する。時刻が夕方（例えば午後４時以降、日没まで）を示しているとき、図４６Ｄの選択部４２０１は、第１の青空領域マスクＡ’を作成不可と判定する。その結果、マスクＡ’は作成されず、処理を停止する。図４６Ｃ同様に、使用されないマスクは作成されないため、より処理が効率化されるという効果がある。
【０３１２】
以上の手順で作成された青空偏光位相画像、或いは青空偏光画像を用いて、撮像装置向きの推定を行う。なお、図４２に示したカメラ向き推定部１０１、及び出力部１０２の動作については、他の実施形態と同じであるため、ここでは詳細な説明を省略する。
【０３１３】
なお、本実施形態におけるカメラ向き検出方法は、図４７に示すように、カメラによって偏光画像および輝度画像を取得するステップＳ４３００と、偏光画像および輝度画像に基づいて輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成するステップＳ４３０１と、カメラ向きを青空偏光位相画像に基づいて推定するステップＳ４３０２と、カメラ向きを示す情報を出力するステップＳ４３０３とを含む。このようなステップを実行する本発明のカメラ向き検出方法は、上述した構成を有する装置に適用される場合に限定されず、他の構成を有する装置に適用されても実施することが可能である。また、上記のステップをコンピュータに実行させるプログラムを用意し、このプログラムによってカメラなどの画像入力装置に内蔵されるコンピュータの動作を制御すれば、プログラムの改変によって画像入力装置の動作を改善することが容易になる。
【０３１４】
なお、本実施形態におけるカメラ向き検出方法は、特に図４６Ｂ、図４６Ｃ、図４６Ｄでの例で示したような場合、すなわち、偏光度判定部１０１０からの出力結果を元に、出力選択部４００１において処理継続の可否を判定するようなケースでは、処理継続不可の場合にカメラ向き推定部１０１が必ずしも動作する必要性はない。
【０３１５】
従って、図４８（ａ）に示すように、青空偏光画像処理部３６００ｃから出力部１０２へ、例えば「処理続行不可」の指示を送りユーザへの表示をするようなパスを本装置が備えていてもよい。同様に、図４８（ｂ）に示すように、本装置を実現する方法が、青空偏光位相画像を生成するステップＳ４３０１から直接、出力ステップへ処理継続可否情報を出力してもよい。前記の構成、或いはフローを採用することによって、カメラ向き推定部において無駄な処理が発生することを防ぐことが出来るという効果がある。
【産業上の利用可能性】
【０３１６】
本発明の画像入力装置は、空の偏光現象を利用することにより、完全にパッシブな方法で一般の環境シーンにおけるカメラ−太陽間の光源情報を取得できるため、各種デジタルスチルカメラ、デジタルムービーカメラ、監視カメラなどに適用可能である。そして、今後のカメラの小型化に際して不足すると思われる画像輝度情報に対して、コンピュータグラフィックス処理によって情報量の付与を行う場合についても、実用的な入力装置として利用できると考えられる。
【符号の説明】
【０３１７】
１０  カメラ
１００  青空偏光位相画像取得部
１００ａ  シーン画像・シーン偏光画像取得部
１００ｂ  ロール水平度補正部
１００ｃ  青空偏光画像処理部
１０１    カメラ向き推定部
１０２    出力部
１３０１  太陽位置取得部
１３０２  全天偏光位相マップ取得部
１３０３  青空領域方向推定部
１３０４  画角取得部
１３０５  青空領域方向計算部
１９０１  ピッチ方向水平度取得部
１９０２  太陽高度判定部
１９０４  信頼度判定部
２３０１  座標変換部
２４０１  画像フォーマット
【手続補正２】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
偏光位相画像を含む偏光画像、および輝度画像を撮影によって取得する撮像部を備えた撮像装置の向きを検出する撮像装置向き検出装置であって、
前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成する画像処理部と、
前記撮像部の向きによって決まる撮像装置向きを前記青空偏光位相画像に基づいて推定する向き推定部と、
前記向き推定部で推定された撮像装置向きを示す情報を出力する出力部と
を備える撮像装置向き検出装置。
【請求項２】
撮影時における太陽の位置に関する情報を取得する太陽位置取得部を備え、
前記向き推定部は、前記情報を用いて撮像装置向きの推定を行う、請求項１に記載の撮像装置向き検出装置。
【請求項３】
前記太陽の位置に関する情報に基づいて、撮影時における空の偏光状態を示す全天偏光マップを取得する全天偏光マップ取得部を備え、
前記向き推定部は、前記青空偏光位相画像および前記全天偏光マップに基づいて、前記撮像装置向きを推定する請求項２に記載の撮像装置向き検出装置。
【請求項４】
前記全天偏光マップ取得部は、全天偏光マップを含むデータベースから撮影時における空の偏光状態を示す全天偏光マップを取得する、請求項３に記載の撮像装置向き検出装置。
【請求項５】
前記データベースを格納する記憶装置を備える請求項４に記載の撮像装置向き検出装置。
【請求項６】
前記データベースを格納する外部の記憶装置にアクセスする通信装置を備える請求項４に記載の撮像装置向き検出装置。
【請求項７】
前記全天偏光マップ取得部は、撮影時における空の偏光状態を示す全天偏光マップを計算によって生成する請求項３に記載の撮像装置向き検出装置。
【請求項８】
前記向き推定部は、前記青空領域の偏光位相から前記青空領域の方向を計算し、前記撮像装置の向きを推定する請求項１に記載の撮像装置向き検出装置。
【請求項９】
撮影時における空の偏光状態を示す全天偏光マップを取得する全天偏光マップ取得部を備え、
前記向き推定部は、サーチモードおよび計算モードの少なくとも一方で動作し、
前記サーチモードでは、前記青空偏光位相画像および前記全天偏光マップに基づいて、前記青空領域の方向を探索し、前記計算モードでは、前記青空領域の偏光位相から前記青空領域の方向を計算する、請求項１に記載の撮像装置向き検出装置。
【請求項１０】
前記撮像装置の傾きを補正する水平度補正部を備える請求項１に記載の撮像装置向き検出装置。
【請求項１１】
前記撮像装置の傾きは、ロール方向の傾きを含む請求項１０に記載の撮像装置向き検出装置。
【請求項１２】
前記撮像装置は、水準器を備えており、
前記水準器によって水平度を取得し、取得した水平度に基づいて撮像装置の傾きを補正する請求項１１に記載の撮像装置向き検出装置。
【請求項１３】
撮像範囲の画角を取得し、取得した画角に基づいて青空領域の範囲を決定する画角取得部を有する請求項１に記載の撮像装置向き検出装置。
【請求項１４】
前記撮像部は、偏光主軸角度が異なる複数の偏光子を備え、
前記複数の偏光子を透過してくる光に応じて前記偏光画像を取得する、請求項１に記載の撮像装置向き検出装置。
【請求項１５】
前記偏光画像は、前記偏光位相画像に加えて偏光度画像を含む、請求項１に記載の撮像装置向き検出装置。
【請求項１６】
前記画像処理部は、空の偏光度が基準値以上の場合、偏光度を利用して前記青空領域を切り出し、前記偏光度が前記基準値よりも低い場合、色相を利用して前記青空領域を切り出し、前記青空偏光位相画像を出力する請求項１に記載の撮像装置向き検出装置。
【請求項１７】
推定結果の信頼度を判定し、使用者に情報を提示する信頼度判定部を備える請求項２に記載の撮像装置向き検出装置。
【請求項１８】
撮影時における太陽の位置に関する情報から得られる太陽の高度に応じて推定の可否を判定する太陽高度判定部を備えた請求項１７に記載の撮像装置向き検出装置。
【請求項１９】
太陽の高度および方位、ならびに撮像装置向きに基づいて、座標変換を行ってカメラ座標での太陽位置を取得する請求項２に記載の撮像装置向き検出装置。
【請求項２０】
偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、
請求項１に記載の撮像装置向き検出装置と、
を備える撮像装置。
【請求項２１】
請求項１に記載の撮像装置向き検出装置を備える移動体であって、
偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、
前記移動体の向きと前記撮像装置向きとの関係に応じて、検出された前記撮像装置向きから前記移動体の向きを決定する移動体向き推定部と、
を備えている、移動体。
【請求項２２】
請求項１に記載の撮像装置向き検出装置を備える携帯機器であって、
偏光位相画像を含む偏光画像、および輝度画像を取得する撮像部を有する撮像装置と、
前記携帯機器の向きと前記撮像装置向きとの関係に応じて、検出された前記撮像装置向きから前記携帯機器の向きを決定する携帯機器向き推定部と、
を備えている、携帯機器。
【請求項２３】
偏光位相画像を含む偏光画像、および輝度画像を撮影によって取得する撮像部と、
前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成する画像処理部と、
前記撮像部の向きによって決まる撮像装置向きを前記青空偏光位相画像に基づいて推定する向き推定部と、
前記撮像部によって撮像された画像のデータ、および前記向き推定部で推定された撮像装置向きを示す情報を出力する出力部と
を備える画像入力装置。
【請求項２４】
撮影したカラー画像、および前記カラー画像と同時に撮影した青空領域偏光画像を含む画像データと、
撮影時の日時を示すデータと、
撮影場所の経度緯度を示すデータと、
撮像装置向きを示すデータとを保持する画像フォーマット。
【請求項２５】
撮像装置によって偏光画像および輝度画像を取得するステップと、
前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成するステップと、
撮像装置向きを前記青空偏光位相画像に基づいて推定するステップと、
撮像装置向きを示す情報を出力するステップと
を含む撮像装置向き検出方法。
【請求項２６】
撮影時の撮像装置向きを天空の偏光パターンを利用して検出する撮像装置向き検出装置のためのプログラムであって、
撮像装置によって偏光画像および輝度画像を取得するステップと、
前記偏光画像および輝度画像に基づいて、前記輝度画像に含まれる青空領域の偏光位相を示す青空偏光位相画像を生成するステップと、
撮像装置向きを前記青空偏光位相画像に基づいて推定するステップと、
撮像装置向きを示す情報を出力するステップと
をコンピュータに実行させるプログラム。
【請求項２７】
撮像装置向きを示すデータは、仰角を含む請求項２４に記載の画像フォーマット。
【請求項２８】
画像データは、更に青空領域分割結果データを含む請求項２４に記載の画像フォーマット。
【手続補正３】
【補正対象書類名】図面
【補正対象項目名】全図
【補正方法】変更
【補正の内容】
【図１Ａ】
2010079557.tif 000113
【図１Ｂ】
2010079557.tif 000114
【図１Ｃ】
2010079557.tif 000115
【図１Ｄ】
2010079557.tif 000116
【図１Ｅ】
2010079557.tif 000117
【図１Ｆ】
2010079557.tif 000118
【図２】
2010079557.tif 000119
【図３】
2010079557.tif 000120
【図４】
2010079557.tif 000121
【図５】
2010079557.tif 000122
【図６】
2010079557.tif 000123
【図７】
2010079557.tif 000124
【図８】
2010079557.tif 000125
【図９】
2010079557.tif 000126
【図１０】
2010079557.tif 000127
【図１１Ａ】
2010079557.tif 000128
【図１１Ｂ】
2010079557.tif 000129
【図１１Ｃ】
2010079557.tif 000130
【図１２】
2010079557.tif 000131
【図１３】
2010079557.tif 000132
【図１４】
2010079557.tif 000133
【図１５】
2010079557.tif 000134
【図１６】
2010079557.tif 000135
【図１７】
2010079557.tif 000136
【図１８】
2010079557.tif 000137
【図１９】
2010079557.tif 000138
【図２０】
2010079557.tif 000139
【図２１】
2010079557.tif 000140
【図２２Ａ】
2010079557.tif 000141
【図２２Ｂ】
2010079557.tif 000142
【図２２Ｃ】
2010079557.tif 000143
【図２３】
2010079557.tif 000144
【図２４】
2010079557.tif 000145
【図２５】
2010079557.tif 000146
【図２６Ａ】
2010079557.tif 000147
【図２６Ｂ】
2010079557.tif 000148
【図２７】
2010079557.tif 000149
【図２８】
2010079557.tif 000150
【図２９】
2010079557.tif 000151
【図３０】
2010079557.tif 000152
【図３１】
2010079557.tif 000153
【図３２Ａ】
2010079557.tif 000154
【図３２Ｂ】
2010079557.tif 000155
【図３３】
2010079557.tif 000156
【図３４】
2010079557.tif 000157
【図３５】
2010079557.tif 000158
【図３６】
2010079557.tif 000159
【図３７】
2010079557.tif 000160
【図３８】
2010079557.tif 000161
【図３９】
2010079557.tif 000162
【図４０】
2010079557.tif 000163
【図４１】
2010079557.tif 000164
【図４２】
2010079557.tif 000165
【図４３】
2010079557.tif 000166
【図４４】
2010079557.tif 000167
【図４５】
2010079557.tif 000168
【図４６Ａ】
2010079557.tif 000169
【図４６Ｂ】
2010079557.tif 000170
【図４６Ｃ】
2010079557.tif 000171
【図４６Ｄ】
2010079557.tif 000172
【図４７】
2010079557.tif 000173
【図４８】
2010079557.tif 000174
【国際調査報告】
2010079557.tif 000175
2010079557.tif 000176
2010079557.tif 000177
2010079557.tif 000178