(57)【要約】  撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する撮像装置であって、センサによって検知された物理的な傾きを基準にして、画像処理の対象となる角度範囲を定めた上で、撮像画像に対して画像処理を行って、撮像画像中の線分をその傾斜角と共に検出する。そして、線分の傾斜角の度数分布を示すヒストグラムを作成し、作成したヒストグラムにおいて、ある一定の基準を満たす度数を有する傾斜角を、回転変換のための回転角として選択する。
2009001512.tif 000002
【特許請求の範囲】
【請求項１】
撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する撮像装置であって、
撮像部と、
撮像部の物理的な傾きを検知するセンサと、
センサによって検知された物理的な傾きに基づいて、撮像画像の被写体に現れる複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する処理部と、
を備える撮像装置。
【請求項２】
前記処理部は、
センサによって検知された物理的な傾きに基づいて、撮像画像に対して画像処理を行って、撮像画像の被写体に現れる複数の角度成分を検出する画像処理部と、
撮像画像の被写体に現れる複数の角度成分に対する統計処理を実行し、複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する補正処理部と、
を備える請求項１記載の撮像装置。
【請求項３】
前記画像処理は、撮像画像中の線分をその傾斜角とともに検出する処理であり、
前記物理的な傾きに基づく画像処理は、前記物理的な傾きを基準にして、画像処理の対象となる角度範囲を定めた上で、画像処理を行うことであり、
前記統計処理は、複数の角度成分の度数分布を示すヒストグラムを作成することであり、
複数の角度成分のうち、ある一定の基準を満たす角度成分は、作成されたヒストグラムにおいて、ある一定の基準を満たす度数を有する角度成分である
請求項２記載の撮像装置。
【請求項４】
前記処理部は、
撮像部による撮像画像に対して画像処理を行って、撮像画像の被写体に現れる複数の角度成分を検出する画像処理部と、
センサによって検知された物理的な傾きに基づいて、撮像画像の被写体に現れる複数の角度成分に対する統計処理を実行し、複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する補正処理部と、
を備える請求項１記載の撮像装置。
【請求項５】
撮像画像の被写体に現れる複数の角度成分は、撮像画像の被写体に現れる輝度勾配がなす角度であり、
前記統計処理は、複数の角度成分の度数分布を示すヒストグラムを作成することであり、
前記物理的な傾きに基づく統計処理は、前記物理的な傾きを基準にして、統計処理の対象となる角度範囲を定めた上で、統計処理を実行することである
請求項４記載の撮像装置。
【請求項６】
前記補正処理部は、前記ある一定の基準を満たす度数を有する角度成分のうち、前記ヒストグラム中の最大の度数を有する角度成分を、回転変換のための回転角として選択する
請求項３記載の撮像装置。
【請求項７】
前記ある一定の基準を満たす角度成分が存在しない場合、前記処理部は前記センサにより検出された傾きを、回転変換のための回転角として選択する
請求項１記載の撮像装置。
【請求項８】
前記処理部は、前記撮像画像から特定の被写体を検出する検出部をさらに備え、
前記ある一定の基準を満たす角度成分が存在しない場合、前記処理部は前記特定の被写体の傾きを、回転変換のための回転角として選択する
請求項１記載の撮像装置。
【請求項９】
前記処理部は、自装置の位置を検出する位置検出部をさらに備え、
前記ある一定の基準を満たす角度成分が存在せず、かつ、前記位置検出部により検出された位置が予め設定されている特定の位置である場合、前記補正処理部は、前記ヒストグラム中の最大の度数を有する角度成分を、回転変換のための回転角として選択する
請求項３記載の撮像装置。
【請求項１０】
前記処理部は、単位角度毎の誤差分布を記憶している記憶部と、
前記センサにより検出された物理的な傾きに基づいて、当該傾きに相当する誤差分布を前記記憶部から取得する誤差分布取得部と、をさらに備え、
前記補正処理部は、前記ヒストグラムと前記誤差分布取得部により取得された誤差分布とから算出される傾き尤度のうち、最大の傾き尤度に相当する角度成分を、前記回転変換のための回転角として選択する
請求項３記載の撮像装置。
【請求項１１】
単位角度毎の誤差分布の関係式を記憶している記憶部と、
前記センサにより検出された物理的な傾きに基づいて、前記関係式から誤差分布を算出する誤差分布算出部と、をさらに備え、
前記補正処理部は、前記ヒストグラムと前記誤差分布算出部により算出された誤差分布とから算出される傾き尤度のうち、最大の傾き尤度に相当する角度成分を、前記回転変換のための回転角として選択する
請求項３記載の撮像装置。
【請求項１２】
前記記憶部は、自装置の静止状態における誤差分布と動作状態における誤差分布とをそれぞれ記憶しており、
前記誤差分布取得部は、前記センサにより検出された物理的な傾きに基づいて自装置の動作状態を判定し、判定した結果、静止状態であれば前記静止状態における誤差分布を取得し、動作状態であれば前記動作状態における誤差分布を取得する
請求項１０記載の撮像装置。
【請求項１３】
前記記憶部は、自装置の静止状態における誤差分布の関係式と動作状態における誤差分布の関係式とをそれぞれ記憶しており、
前記誤差分布算出部は、前記センサにより検出された物理的な傾きに基づいて自装置の動作状態を判定し、判定した結果、静止状態であれば前記静止状態における誤差分布の関係式から誤差分布を算出し、動作状態であれば前記動作状態における誤差分布の関係式から誤差分布を算出する
請求項１１記載の撮像装置。
【請求項１４】
前記処理部は、前記撮像画像の歪みを補正する歪み補正部をさらに備え、
前記画像処理部は、補正後の撮像画像に対して画像処理を行う
請求項２に記載の撮像装置。
【請求項１５】
前記補正処理部は、前記ヒストグラムにおいて複数の角度成分の度数分布を示す際に、各角度成分の度数に対する重み付けを行い、前記重みは前記撮像画像から検出された線分の長さが長いほど大きくなる
請求項３記載の撮像装置。
【請求項１６】
前記補正処理部は、前記ヒストグラムにおいて複数の角度成分の度数分布を示す際に、各角度成分の度数に対する重み付けを行い、前記重みは前記撮像画像から検出された線分が垂直に近いほど大きくなる
請求項３記載の撮像装置。
【請求項１７】
前記補正処理部は、前記ヒストグラムにおいて複数の角度成分の度数分布を示す際に、各角度成分の度数に対する重み付けを行い、前記重みは前記センサにより検出された物理的な傾きと前記撮像画像から検出された線分の傾斜角との差分が小さいほど大きくなる
請求項３記載の撮像装置。
【請求項１８】
撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する方法であって、
撮像部の物理的な傾きを検知するステップと、
検知された物理的な傾きに基づいて、撮像画像の被写体に現れる複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択するステップと、
を備える方法。
【請求項１９】
撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する撮像装置に設けられるシステム集積回路であって、
撮像部と、
撮像部の物理的な傾きを検知するセンサと、
センサによって検知された物理的な傾きに基づいて、撮像画像の被写体に現れる複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する処理部と、
を備えるシステム集積回路。
【請求項２０】
撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する処理をコンピュータに行わせるプログラムであって、
撮像部の物理的な傾きを検知する手順と、
検知された物理的な傾きに基づいて、撮像画像の被写体に現れる複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する手順と、
を備えるプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮像装置に関し、特にセンサを用いた画像補正の技術に関する。
【背景技術】
【０００２】
近年、利用者が常時身体に装着し、利用者の体験する日常生活をライフログとして記録し続けることができる撮像装置（例えば、ウェアラブルカメラ）が登場しつつある。ウェアラブルカメラとは身体に着用できる小型の端末であり、例えば、紐が付けられたウェアラブルカメラを利用者の首にぶら下げる等、身体の所定部位を基準として支持することにより着用する。ウェアラブルカメラは、手による操作といった明示的な操作をしなくても、撮像や収音ができる特性を有している。【０００３】
ところで、ウェアラブルカメラにより被写体を撮影する場合、ウェアラブルカメラが傾いた状態で被写体が撮影される場合がある。これは利用者の動作の影響によりウェアラブルカメラの位置がずれることが原因であるが、ウェアラブルカメラの姿勢が適切に保たれていない状態で撮影が行われると、被写体が傾いた状態で撮影されてしまい、利用者にとっては非常に見難い画像となる。【０００４】
そこで、従来、傾いた状態で撮影された画像を傾いていない画像に補正する方法として、ウェアラブルカメラに加速度センサを設け、加速度センサにより重力加速度を測定することでウェアラブルカメラの地軸に対する回転角を検出し、検出した回転角に基づいて撮影した画像の傾きを補正する方法が知られている（特許文献１参照）。その他の先行技術としては、特許文献２ないし４に記載のものがある。
【特許文献１】特開２００６−２４５７２６号公報
【特許文献２】特開２００２−２０７２３２号公報
【特許文献３】特開２００３−３０４４８６号公報
【特許文献４】特開２００３−１５３０７２号公報
【発明の開示】
【発明が解決しようとする課題】
【０００５】
しかしながら、加速度センサには筐体固有の誤差があるので、検出した回転角に基づいて補正をしたとしても、依然として利用者にとって見難い画像となってしまう場合がある。【０００６】
また、加速度センサではその原理上、重力加速度とカメラの運動によって生じる加速度とが重畳して検出され、それらを区別することができない。すなわち、カメラの運動によって生じる加速度の影響も誤差として現れるものとして考えることができる。このことは身体に装着するという特性上撮影時に筐体が激しい運動にさらされるウェアラブルカメラにおいては、加速度センサによって重力加速度のみを正確に検知することが困難であることを意味する。従来の加速度センサの用いられ方では、画像の見易さを向上させるのは難しいのが現状である。【０００７】
なお、撮像装置の動きを角速度センサにより検知し、検知した動きに応じてレンズ群を駆動して像のぶれを補正する、いわゆる手ぶれ補正と呼ばれる技術があるが、これはカメラの撮像素子の露光時間内における、カメラの相対的な動きの変化を補正するための技術であり、補正の基準となるのはシャッターが切られる瞬間の姿勢である。【０００８】
したがって、例えば画像の水平方向に対する傾きを補正したい場合、シャッターが切られる瞬間にカメラが既に水平に対して傾いているのであれば、いくら手ぶれ補正を適用しても撮影される画像が水平になることはない。【０００９】
つまり、手ぶれ補正技術はカメラの運動による相対的な角度を補償することはできるが、水平などを基準とする絶対的な角度を補償することはできない。【００１０】
本発明は、高精度で画像の傾きを補正する撮像装置を提供することを目的とする。
【課題を解決するための手段】
【００１１】
上記課題を解決するために、本発明は、撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する撮像装置であって、撮像部と、撮像部の物理的な傾きを検知するセンサと、センサによって検知された物理的な傾きに基づいて、撮像画像の被写体に現れる複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する処理部と、を備える。
【発明の効果】
【００１２】
本発明は上記の構成を備えることにより、センサにより検出された物理的な傾きを撮像画像の補正に直接利用するのではなく、撮像画像の被写体に現れる複数の角度成分から回転角を選択する際に利用する。センサにより検出された物理的な傾きと撮像画像の被写体に現れる角度成分とに基づいて、回転変換のための回転角を選択するので、筐体固有の誤差により補正後の画像の見易さが左右されることはなくなる。【００１３】
また、回転角を選択する際に、撮像画像の被写体に現れる複数の角度成分のうちある一定の基準を満たす角度成分を回転角として選択するので、補正の精度を向上させることができる。【００１４】
なお、撮像画像の被写体に現れる角度成分としては、撮像画像中の線分の傾斜角や撮像画像の被写体に現れる輝度勾配がなす角度等が該当する。【００１５】
ここで、前記処理部は、センサによって検知された物理的な傾きに基づいて、撮像画像に対して画像処理を行って、撮像画像の被写体に現れる複数の角度成分を検出し、検出した複数の角度成分に対する統計処理を実行し、複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択するとしてもよい。【００１６】
センサによって検知された物理的な傾きに基づいて、撮像画像に対して画像処理を行うことにより、撮像画像の被写体に現れる複数の角度成分を検出することができる。複数の角度成分に対する統計処理を実行し、ある一定の基準を満たす角度成分を回転角として選択するので、補正の精度を向上させることができる。【００１７】
ところで、一般的に画像処理にはＨｏｕｇｈ変換が用いられるが、画像処理の対象となるべき画像によっては特徴点の数が膨大になり、その結果、画像処理における処理負荷が重くなったり、たとえ検出した角度成分に基づき補正を行ったとしても、必ずしも正確に補正できなかったりし、処理負荷及び精度の両面で問題がある。【００１８】
そこで、画像を補正する際の処理負荷を低減しつつ補正精度を向上させるために、前記画像処理は、撮像画像中の線分をその傾斜角とともに検出する処理であり、前記物理的な傾きに基づく画像処理は、前記物理的な傾きを基準にして、画像処理の対象となる角度範囲を定めた上で、画像処理を行うことであり、前記統計処理は、複数の角度成分の度数分布を示すヒストグラムを作成することであり、複数の角度成分のうち、ある一定の基準を満たす角度成分は、作成されたヒストグラムにおいて、ある一定の基準を満たす度数を有する角度成分である、とするのが望ましい。【００１９】
これにより、センサにより検出された物理的な傾きを、線分を検出する際の角度範囲の基準として用いることができる。画像処理部は画像中の全ての線分を検出するのではなく、角度範囲にある線分を検出するので、線分検出における処理負荷を軽減することができるとともに、不必要な線分を検出しないので精度の向上を図れる。【００２０】
ここで、前記処理部は、撮像部による撮像画像に対して画像処理を行って、撮像画像の被写体に現れる複数の角度成分を検出し、センサによって検知された物理的な傾きに基づいて、検出した複数の角度成分に対する統計処理を実行し、複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択するとしてもよい。【００２１】
撮像画像に対して画像処理を行うことにより、撮像画像の被写体に現れる複数の角度成分を検出することができる。センサによって検知された物理的な傾きに基づいて、複数の角度成分に対する統計処理を実行し、ある一定の基準を満たす角度成分を回転変換のための回転角として選択するので、補正の精度を向上させることができる。【００２２】
ここで、撮像画像の被写体に現れる複数の角度成分は、撮像画像の被写体に現れる輝度勾配がなす角度であり、前記統計処理は、複数の角度成分の度数分布を示すヒストグラムを作成することであり、前記物理的な傾きに基づく統計処理は、前記物理的な傾きを基準にして、統計処理の対象となる角度範囲を定めた上で、統計処理を実行することである、としてもよい。【００２３】
これにより、センサにより検出された物理的な傾きを、ヒストグラムを作成する際の角度範囲の基準として用いることができる。撮像画像の被写体に現れる輝度勾配がなす角度の、全てについてのヒストグラムを作成するのではなく、角度範囲におけるヒストグラムを作成するので、不必要な角度成分を除くことができ、補正の精度の向上を図れる。【００２４】
ここで、前記補正処理部は、前記ある一定の基準を満たす度数を有する角度成分のうち、前記ヒストグラム中の最大の度数を有する角度成分を、回転変換のための回転角として選択するとしてもよい。【００２５】
これにより、ヒストグラム中の最大の度数を有する角度成分を回転角として選択するので、補正に対する信頼性を高めることができる。【００２６】
ここで、前記ある一定の基準を満たす角度成分が存在しない場合、前記処理部は前記センサにより検出された傾きを、回転変換のための回転角として選択するとしてもよい。【００２７】
これにより、ある一定の基準を満たす角度成分が存在しない場合、すなわち、撮像画像の被写体に現れる複数の角度成分に対する信頼性が低い場合には、前記センサにより検出された傾きを、回転変換のための回転角として選択するので、補正に対する信頼性を高めることができる。【００２８】
ここで、前記処理部は、前記撮像画像から特定の被写体を検出する検出部をさらに備え、前記ある一定の基準を満たす角度成分が存在しない場合、前記処理部は前記特定の被写体の傾きを、回転変換のための回転角として選択するとしてもよい。【００２９】
これにより、ある一定の基準を満たす角度成分が存在しない場合、すなわち、撮像画像の被写体に現れる複数の角度成分に対する信頼性が低い場合には、特定の被写体の傾きを、回転変換のための回転角として選択するので、補正に対する信頼性を高めることができる。【００３０】
ここで、前記処理部は、自装置の位置を検出する位置検出部をさらに備え、前記ある一定の基準を満たす角度成分が存在せず、かつ、前記位置検出部により検出された位置が予め設定されている特定の位置である場合、前記補正処理部は、前記ヒストグラム中の最大の度数を有する角度成分を、回転変換のための回転角として選択するとしてもよい。【００３１】
これにより、ある一定の基準を満たすか否かに加え、さらに前記位置検出部により検出された位置が特定の位置か否かにより回転角を選択するので、補正に対する信頼性を高めることができる。【００３２】
ここで、前記処理部は、単位角度毎の誤差分布を記憶している記憶部と、前記センサにより検出された物理的な傾きに基づいて、当該傾きに相当する誤差分布を前記記憶部から取得する誤差分布取得部と、をさらに備え、前記補正処理部は、前記ヒストグラムと前記誤差分布取得部により取得された誤差分布とから算出される傾き尤度のうち、最大の傾き尤度に相当する角度成分を、前記回転変換のための回転角として選択するとしてもよい。【００３３】
また、単位角度毎の誤差分布の関係式を記憶している記憶部と、前記センサにより検出された物理的な傾きに基づいて、前記関係式から誤差分布を算出する誤差分布算出部と、をさらに備え、前記補正処理部は、前記ヒストグラムと前記誤差分布算出部により算出された誤差分布とから算出される傾き尤度のうち、最大の傾き尤度に相当する角度成分を、前記回転変換のための回転角として選択するとしてもよい。【００３４】
これにより、センサの誤差分布を反映して回転角を選択するので、より高精度で回転角を選択することができ、より高精度で補正を行うことができる。【００３５】
ところで、上述したように、加速度センサ自体が利用者の動作に起因して加速度を受けた場合には、これを重力加速度と区別して測定することはできず、検出した角度に基づいて補正をしたとしても、依然として利用者にとって見難い画像となってしまう。【００３６】
そこで、利用者が動作中に撮影した画像であっても、正確に画像を補正するために、前記記憶部は、自装置の静止状態における誤差分布と動作状態における誤差分布とをそれぞれ記憶しており、前記誤差分布取得部は、前記センサにより検出された物理的な傾きに基づいて自装置の動作状態を判定し、判定した結果、静止状態であれば前記静止状態における誤差分布を取得し、動作状態であれば前記動作状態における誤差分布を取得するとするのが望ましい。【００３７】
また、前記記憶部は、自装置の静止状態における誤差分布の関係式と動作状態における誤差分布の関係式とをそれぞれ記憶しており、前記誤差分布算出部は、前記センサにより検出された物理的な傾きに基づいて自装置の動作状態を判定し、判定した結果、静止状態であれば前記静止状態における誤差分布の関係式から誤差分布を算出し、動作状態であれば前記動作状態における誤差分布の関係式から誤差分布を算出するとしてもよい。【００３８】
これにより、撮像装置の動作状態に応じた誤差分布を取得するので、利用者が動作中であっても、より高精度で補正を行うことができる。【００３９】
ここで、前記処理部は、前記撮像画像の歪みを補正する歪み補正部をさらに備え、前記画像処理部は、補正後の撮像画像に対して画像処理を行うとしてもよい。【００４０】
これにより、撮像装置の光学系に起因する画像の歪みによって線分が歪んで撮像されていても正しい線分が検出でき、より高精度で補正を行うことができる。【００４１】
ここで、前記補正処理部は、前記ヒストグラムにおいて複数の角度成分の度数分布を示す際に、各角度成分の度数に対する重み付けを行い、前記重みは前記撮像画像から検出された線分の長さが長いほど大きくなるとしてもよい。【００４２】
これにより、例えば画像の端から端にわたるような目立つ線分があった場合に、その重要度を高くすることで、短い線分が多数あるような環境でも安定して大局的な角度成分を選択することができる。【００４３】
ここで、前記補正処理部は、前記ヒストグラムにおいて複数の角度成分の度数分布を示す際に、各角度成分の度数に対する重み付けを行い、前記重みは前記撮像画像から検出された線分が垂直に近いほど大きくなるとしてもよい。【００４４】
画像中に存在する線分のうち、実世界において垂直に近い角度の線分は信頼性が高いので、これに対する重み付けを高くすることにより、より高精度で補正を行うことができる。【００４５】
ここで、前記補正処理部は、前記ヒストグラムにおいて複数の角度成分の度数分布を示す際に、各角度成分の度数に対する重み付けを行い、前記重みは前記センサにより検出された物理的な傾きと前記撮像画像から検出された線分の傾斜角との差分が小さいほど大きくなるとしてもよい。【００４６】
これにより、前記センサにより検出された物理的な傾きと、前記撮像画像から検出された線分の傾斜角との差分により重み付けされるので、より高精度で補正を行うことができる。
【図面の簡単な説明】
【００４７】
【図１】（ａ）ウェアラブルカメラを装着した様子を表す模式図である。（ｂ）画像の回転軸を表す模式図である。
【図２】受光面の傾きによる画像の変化を示す図である。
【図３】ウェアラブルカメラ１００の機能ブロック図である。
【図４】補正処理部３０の機能ブロック図である。
【図５】２軸加速度センサによってロール軸周りの回転角を算出する方法を示す模式図である。
【図６】センサの出力と線分を検出する角度範囲の関係を示す模式図である。
【図７】Ｈｏｕｇｈ変換の原理を説明するための図である。
【図８】ある画角で撮影された画像を別の画角で撮影された画像に対応付ける際の関係を示す模式図である。
【図９】ウェアラブルカメラ１００の動作の流れを表すフローチャートである。
【図１０】Ｈｏｕｇｈ変換による線分検出処理の流れを表すフローチャートである。
【図１１】（ａ）撮像部１０により撮像された画像（補正前の画像）を示す図である。（ｂ）図１１（ａ）に示される画像中の、全ての線分が検出された画像を示す図である。
【図１２】（ａ）画像中の全ての線分を検出した場合の最も頻度の高い傾斜角を示す図である。（ｂ）図１２（ａ）に対応する角度ヒストグラムを示す図である。
【図１３】（ａ）線分検出範囲を制限した場合の最も頻度の高い傾斜角を示す図である。（ｂ）図１３（ａ）に対応する角度ヒストグラムを示す図である。
【図１４】補正後の画像を示す図である。
【図１５】ウェアラブルカメラ１００ａの機能ブロック図である。
【図１６】誤差確率分布のテーブルを示す図である。
【図１７】補正処理部３０ａの詳細な機能を示す図である。
【図１８】ウェアラブルカメラ１００ａの動作の流れを表すフローチャートである。
【図１９】誤差確率分布の例を示す図である。
【図２０】（ａ）静止状態における誤差確率分布テーブルを示す図である。（ｂ）動作状態における誤差確率分布テーブル示す図である。
【図２１】補正処理部３０ｂの詳細な機能を示す図である。
【図２２】ウェアラブルカメラ１００ｂの動作の流れを表すフローチャートである。
【図２３】ウェアラブルカメラ１００ｃの機能ブロック図である。
【図２４】画素のコントラストの変化の方向をどのように求めるかを説明するための図である。
【図２５】Ｓｏｂｅｌフィルタを示す図である。
【符号の説明】
【００４８】
１００、１００ａ、１００ｂ  ウェアラブルカメラ
１０  撮像部
２０  センシング部
３０、３０ａ、３０ｂ  補正処理部
３１  角度範囲決定部
３２  線分検出部
３３  ヒストグラム作成部
３４  画像処理部
３５  誤差確率分布取得部
３６  尤度算出部
３７  動作状態判定部
４０  出力部
５０  通信部
６０  表示部
７０  フレームメモリ
８０、８０ｂ  記憶部
【発明を実施するための最良の形態】
【００４９】
（実施の形態１）
＜概要＞
本実施の形態では、撮像装置として、ウェアラブルカメラを例に挙げて説明する。【００５０】
ウェアラブルカメラはカメラやマイクロホン、加速度センサを含んで構成され、カメラやマイクロホンによって撮影された画像及び音声を記録媒体に記録する。【００５１】
ウェアラブルカメラで撮影された画像の特徴について説明すると、ウェアラブルカメラで撮影された画像には装着者の動作に伴う体の動きによって回転が生じる。生じる回転の種類について、図１を用いて説明する。図１（ａ）はウェアラブルカメラを装着した様子を表す模式図である。ウェアラブルカメラは取り付け部を備え、取り付け部にひもをつけ、首にぶら下げるなど身体の所定部位を基準として支持される。図１（ａ）のように水平方向にｘ軸、垂直方向にｙ軸、ｘ軸とｙ軸とからなる平面に直交する方向、すなわちウェアラブルカメラの光軸方向にｚ軸を設定した場合、図１（ｂ）に示すようにｘ軸周りの回転をピッチ（Ｐｉｔｃｈ）、ｙ軸周りの回転をヨー（Ｙａｗ）、ｚ軸周りの回転をロール（Ｒｏｌｌ）と呼ぶ。【００５２】
ウェアラブルカメラがロール方向に回転した場合、図２（ａ）、（ｂ）、（ｃ）のように画角が変動し、撮影される画像はそれぞれ図２（ｄ）、（ｅ）、（ｆ）のようになる。なお、図２（ａ）、（ｂ）、（ｃ）の黒丸は回転中心を表す。【００５３】
実際にはロール方向の回転に加え、ピッチ方向、ヨー方向の回転も併せて加わるが、本実施の形態では特にロール方向の回転、すなわちｘ軸とｙ軸とからなる平面の光軸周りの水平ないし垂直に対する回転を補正する方法に絞ってその構成を述べる。なぜならば、上記３軸の回転のうち、画像を閲覧する上でユーザが最も違和感を覚えるのがロール方向の回転であり、これを補正することが画質に最も影響を与えるからである。【００５４】
そこで本実施の形態では、ウェアラブルカメラはロール方向の回転角を検出し、検出した回転角を基準とした角度範囲をセンサの誤差分布に基づいて定める。撮像された画像において定めた角度範囲内で線分を検出し、検出した線分の傾斜角に基づいて画像の補正を行う。すなわち、センサにより検出された回転角は、直接補正に用いられるのではなく、回転角はあくまでも画像処理における線分検出の範囲の制限に用いられる。画像補正に用いられるべき線分は誤差分布に基づいた角度範囲から検出され、実際の補正は検出した線分の傾斜角に基づいて行われるので、センサ自体に誤差があろうとも、より高精度で補正を行うことができる。【００５５】
以下、本実施の形態におけるウェアラブルカメラについて、図面を用いて詳細に説明する。
＜ウェアラブルカメラ１００の構成＞
図３は本実施の形態に係るウェアラブルカメラ１００の機能ブロック図である。【００５６】
ウェアラブルカメラ１００は、具体的には、マイクロプロセッサ、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）、ＤＳＰ（Digital Signal Processor）などから構成されるコンピュータシステムである。前記ＲＯＭには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムにしたがって動作することにより、ウェアラブルカメラ１００はその機能を達成する。【００５７】
ウェアラブルカメラ１００は、撮像部１０、センシング部２０、補正処理部３０、出力部４０、通信部５０、表示部６０、及びフレームメモリ７０を含んで構成される。【００５８】
撮像部１０は具体的にはCCD（Charge Coupled Device）やCMOS（Complementary Metal-Oxide Semiconductor）といった撮像素子やレンズ部を含んで構成され、画像を撮像する機能を有する。【００５９】
センシング部２０は具体的にはピエゾ抵抗型加速度センサ等を含んで構成され、光軸に対し垂直な面である受光面の、水平ないし垂直からの光軸周りの回転角を検出する。詳細は＜ピエゾ抵抗型加速度センサ＞、＜ロール方向の回転角測定方法＞で説明する。【００６０】
補正処理部３０はセンシング部２０により検出された回転角に基づいて、撮像部１０により撮像された画像に対し、当該画像を補正するための画像処理を行う。詳細については＜補正処理部３０の機能＞で説明する。【００６１】
出力部４０は具体的にはＳＤメモリカード等の記録媒体を含んで構成され、補正処理部３０により補正処理された画像等を記録媒体に記録する。【００６２】
通信部５０は具体的には変調回路や復調回路等を含む送受信回路を含んで構成され、アンテナ等を介して、撮像部１０により撮影された画像や補正後の画像、センシング部２０により検出された回転角等を外部ネットワークに送信する。【００６３】
表示部６０は具体的には液晶ディスプレイ等を含んで構成され、撮像部１０により撮影された画像や補正処理部３０により補正処理された画像を表示する。【００６４】
フレームメモリ７０（７０ａ、７０ｂ、…）は画像（１フレーム）を記憶するための専用メモリである。例えば、フレームメモリ７０には、撮像部１０から入力される補正前の画像や画像処理部３５から入力される補正後の画像が記憶される。
＜補正処理部３０の機能＞
続いて、補正処理部３０の詳細な機能について説明する。図４は補正処理部３０の機能ブロック図である。補正処理部３０は角度範囲決定部３１、線分検出部３２、ヒストグラム作成部３３、及び画像処理部３４を含んで構成される。【００６５】
角度範囲決定部３１は、センシング部２０から入力される回転角に基づいて線分を検出する際の角度範囲θ±φを決定し、線分検出部３２に送信する。具体的には、＜角度範囲＞で説明する。【００６６】
線分検出部３２は、フレームメモリ７０ａから撮像部１０により撮像された画像を取得し、取得された画像を構成する線分のうち角度範囲決定部３１から入力された角度範囲θ±φにおける線分をその傾斜角とともに検出し、検出された傾斜角をヒストグラム作成部３３に出力する。線分の検出についての詳細は＜Ｈｏｕｇｈ変換＞、＜線分検出処理＞で説明する。【００６７】
ヒストグラム作成部３３は、線分検出部３２から入力された各線分の傾斜角の度数をカウントし、その傾斜角毎の度数を表す角度ヒストグラムを作成する。そして、最も高い度数の傾斜角を選択し、画像処理部３４に送信する。なお、ここでいう角度ヒストグラムとは具体的には１次元配列のことである。【００６８】
なお、角度ヒストグラムを作成する際、水平及び垂直のどちらを基準としてもよく、このとき、最終的に選択される傾斜角は基準とした水平あるいは垂直のいずれかからの回転角に相当する。【００６９】
画像処理部３４は、フレームメモリ７０ａから補正対象となる画像を取得し、ヒストグラム作成部３３から入力される傾斜角に基づいて画像処理を行い、処理後の画像をフレームメモリ７０ｂに記憶する。画像処理についての詳細は＜画像の回転の補正＞で説明する。
＜ピエゾ抵抗型加速度センサ＞
次に、ピエゾ抵抗型加速度センサについて説明する。ピエゾ抵抗効果とは、導体の長さや断面積が変化することで抵抗が変化する現象を指す。具体的には長さＬ、断面積Ｓ、抵抗率ρの導体の抵抗Ｒは数１で表される。
Ｒ ＝ ρＬ／Ｓ・・・（数１）
この導体を長さ方向に引っ張り、長さがＬ’、断面積がＳ’になったとすると、このときの抵抗Ｒ’は（数２）で表される。
Ｒ’＝ρＬ’／Ｓ’・・・（数２）
（数１）及び（数２）より、Ｌ’＞Ｌ、Ｓ’＜ＳとするとＲ’＞Ｒが成立する。したがって、導体に機械的な力が加わることで抵抗が変化することがわかる。ピエゾ抵抗型加速度センサは、加速度に伴って発生する力を受けて歪みが発生するピエゾ抵抗素子を備え、加速度に伴う抵抗の変化を電圧や電流の変化量として計測することができる。すなわち、電圧や電流の値からピエゾ抵抗素子に作用している加速度を得ることができる。また、ピエゾ抵抗素子を複数の向きに設置することで、それぞれの向きにかかる加速度を計測することができる。
＜ロール方向の回転角測定方法＞
実際にピエゾ抵抗型加速度センサを用いてロール方向の回転角を測定する方法について図５を用いて説明する。互いに直交するｘ軸、ｙ軸の２方向の加速度を加速度センサを用いて測定するものとする。ｙ軸が鉛直方向からθだけ傾いているとすると、静止状態でｙ軸方向にかかる加速度ｇｙは、ｇｙ＝ｇｃｏｓθと表すことができる。なお、ｇは重力加速度を表す。同様に、ｘ軸方向にかかる加速度ｇｘは、ｇｘ＝ｇｓｉｎθと表すことができるので、傾斜角θはｇｘ、ｇｙを用いて（数３）のように表すことができる。
θ＝ｔａｎ-1（ｇｘ／ｇｙ）・・・（数３）
（数３）に示されるように、加速度センサの各軸方向の出力の比を求め、その逆正接を求めることによって傾斜角θを検出することができる。
＜角度範囲＞
次に、角度範囲をどのように決定するかについて説明する。センシング部２０により傾斜角θが検出されると、角度範囲決定部３１は、図６に示されるようにθから±φの範囲を角度範囲として決定する。なお、水平及び垂直からそれぞれθ±φの範囲を角度範囲として決定するとしてもよい。ここで、φの値は加速度センサの出力値θに対するマージンと考えることができるので、例えば、加速度センサの誤差分布に応じてφの値を決定することができる。加速度センサの誤差が平均μ、標準偏差σの正規分布にしたがうとした場合には、φ＝ａσとすることが考えられる。こうすることにより、φの値を固定にする場合に発生する以下のようなデメリットを抑制する効果が考えられる。【００７０】
固定値の角度範囲をφｃ、加速度センサの誤差分布によって決まる角度範囲をφとする。φｃ＞φの場合、φより大きい範囲の線分は真の水平ないし垂直ではない可能性が高く、このような線分を検出するのは無駄な演算量の増加を招くだけでなく、最終的な補正結果に悪影響を与える可能性がある。逆にφｃ＜φの場合、誤差がφｃより大きかった場合に本来水平ないし垂直であったはずの線分を検出することができず、最終的な補正結果に悪影響を与える可能性がある。【００７１】
なお、一般的な正規分布の性質から、ａの値をａ＝２とすると出力のおよそ９５％が、ａ＝３とするとおよそ９９％が誤差範囲内に含まれる。したがって、状況に応じて、どの程度の誤差であれば許容でき、どの程度の演算量に抑える必要があるのかを適宜判断し、最適なａの値を決定することができる。
＜Ｈｏｕｇｈ変換＞
続いて、撮像画像から線分を検出する方法について説明する。ここでは線分の検出にＨｏｕｇｈ変換と呼ばれる手法を用いる。以下、図７を用いてＨｏｕｇｈ変換による線分の検出手法について説明する。図７（ａ）より、画像中の点（ｘｉ、ｙｉ）を通る直線は、パラメータ（ρ、θ）によって表される（数４）を満たす。
ρ＝ｘｉｃｏｓθ ＋ ｙｉｓｉｎθ・・・（数４）
これは、点（ｘｉ、ｙｉ）を通る直線群が図７（ｂ）における１本の曲線に対応付けられることを意味する。一方、同じ直線上にある複数の点について（数４）に基づく対応付けを行うと、得られる複数の曲線はある１点で交わる。この交点に対応するパラメータがこれらの点を通る直線を表している。実際にはパラメータ（ρ、θ）は離散的に扱われる。つまり、（ρ、θ）のパラメータ空間を一定の大きさΔθ毎に区切り、θを順番に変えながらρの値を求めてその頻度をカウントする。頻度の高いパラメータ（ρ、θ）の組に対応する直線が実際に画像中に存在する可能性が高いと考えられる。そして、このときの区切りの間隔Δθが小さいほど、検出される直線の角度分解能が高く、より正確な角度を表すことができる。【００７２】
しかし、Δθを小さくするとρの値を求める回数が多くなり、その分処理時間が長くなるというデメリットがある。これに対して、角度範囲決定部３１により決定された角度範囲内でθを変動させることで、高い分解能を保ちつつ処理の回数を減らすことができる。【００７３】
また、線分検出の際に必要となるメモリの問題がある。すなわち、検出しようとする線分の傾斜角の精度を高めるにはθを細かく設定し計算する必要があり、それだけパラメータ平面を大きく設定しなければならず、大きな配列用のメモリが必要となる。【００７４】
本実施の形態では、線分を検出する範囲を検出された傾斜角θから±φの範囲内に絞っているので、必要なメモリの容量を削減することができる。
＜画像の回転の補正＞
続いて、画像の補正について説明する。画像の回転の補正は以下のようにして行う。一般的に、画像平面上の点Ｐ＝（ｘ、ｙ）を、カメラを中心とした座標系であるカメラ座標系ＸＹＺで表したものをＰ１＝（ｘ１、ｙ１、ｚ１）とすると、以下の（数５）で表す関係が成り立つ。
ｓＰ’＝ＫＰ１’・・・（数５）
ただし、Ｐ’、Ｐ１’はそれぞれＰ、Ｐ１を同次座標で表したもので、Ｐ’＝（ｘ、ｙ、１）、Ｐ１’＝（ｘ１、ｙ１、ｚ１、１）である。また、Ｋは内部パラメータ行列と呼ばれる３×４の行列で、焦点距離、アスペクト比、画像平面と光軸の交点である画像中心の座標などによって決まる。また、ｓはスケーリングパラメータである。【００７５】
また、Ｐ１を別のカメラ座標系Ｘ’Ｙ’Ｚ’で表したときの座標をＰ２＝（ｘ２、ｙ２、ｚ２）とすると、以下の（数６）で表す関係が成り立つ。
Ｐ２’＝[Ｒ]Ｐ１’・・・（数６）
ただし、Ｐ２’はＰ２を同次座標で表したもので、Ｐ２’＝（ｘ２、ｙ２、ｚ２、１）である。また、［Ｒ］はＰ１からＰ２への４×４の回転行列である。そして、Ｐ２を画像座標系で表した点をＱ＝（ｕ、ｖ）とすると、（数５）と同様に（数７）で表す関係が成り立つ。
ｓＱ’＝ＫＰ２’・・・（数７）
ただし、Ｑ’はＱを同次座標で表したもので、Ｑ’＝（ｕ、ｖ、１）である。また、Ｋはカメラの内部パラメータが変化しない限り一定である。これらの式をまとめると、ＰとＱとの間には（数８）で表す関係が成り立つ。
Ｑ’＝Ｋ[Ｒ]Ｋ-1Ｐ’・・・（数８）
ただし、Ｋ-1はＫの逆行列である。ウェアラブルカメラの装着者の動きによって画角が変化するというのは、上記のカメラ座標系の変換が加わることに相当する。内部パラメータ行列Ｋは一定と考えると、前に画像を撮影した時から次に画像を撮影するまでの回転を測定することで、撮影した画像間の対応付けを行うことができる。上記の関係をまとめたものが図８である。なお、回転を、前に画像を撮影した時からの変化量として測定する代わりに、任意の位置に定めた原点及び座標軸からの変化量として測定してもよい。
＜センサの読み取り周期と画像処理のタイミング＞
続いて、センサの読み取り周期と画像処理のタイミングについて説明する。どの時点のセンサ出力を線分検出に用いるかについては、センサ出力は理想としては撮影されたタイミングと同期していることが望ましい。【００７６】
センサの読み取り周期は、センサの信号をダイレクトに使う場合であれば、３３ms毎(各フレーム毎)にセンサの出力を得ることができる。なお、ノイズを低減するために、１フレームあたり例えば５回センサの出力を読み出して、その平均値を当該フレームに対応するセンサ出力値とするとしてもよい。【００７７】
画像処理のタイミングはＤＳＰなど専用のプロセッサを利用することを前提とし、例えば５フレーム毎に行うとしてよい。この場合、処理結果が出たときにはそれは「200ms前の画像における線分の角度」であって「現在の画像における線分の角度」に対してずれが生じるが、この間の動きが小さいものと仮定すればずれは問題ない。【００７８】
以上を踏まえて、例えば３０フレーム毎秒での撮影を前提とすると、センサ出力はフレーム(３３ms)毎に読み出され、画像処理は５フレーム(200ms)毎に行われる。
＜撮像装置の動作＞
図９は、ウェアラブルカメラ１００の動作の流れを表すフローチャートである。まず、撮像部１０は画像を撮像する（ステップＳ１０１）。【００７９】
センシング部２０は、撮像部１０による画像の撮像に同期して、受光面が水平ないし垂直から光軸周りにどのくらい回転しているかを示す回転角を検出する（ステップＳ１０２）。具体的には、加速度センサの各軸方向の出力値を用いて、（数３）から回転角を求める。【００８０】
角度範囲決定部３１は、検出された回転角に基づき線分を検出する角度範囲を決定する（ステップＳ１０３）。具体的には、センシング部２０より得られた回転角をθとした場合にθ±φの範囲を角度範囲として決定する。【００８１】
続いて、線分検出部３２は、決定された角度範囲の線分を撮像画像中から１以上検出する（ステップＳ１０４）。具体的な処理内容は＜線分検出処理＞で説明する。【００８２】
ヒストグラム作成部３３は、検出された各線分の傾斜角をカウントし、その角度毎の度数を表す角度ヒストグラムを作成する（ステップＳ１０５）。【００８３】
画像処理部３４は、作成された角度ヒストグラム中で最も高い度数が予め定められている所定の閾値以上か否かを判定する（ステップＳ１０６）。所定の閾値以上の場合には（ステップＳ１０６でＹｅｓ）、最も高い度数に対応する傾斜角を実際に回転している角度であると判断し、これを補正するための処理に用いる（ステップＳ１０７）。具体的には、実際に回転している角度であると判断された傾斜角を打ち消すような逆方向の回転を撮像された画像に加えることにより補正を行う。所定の閾値未満の場合には（ステップＳ１０６でＮｏ）、補正を行わずにステップＳ１０８に移行する。【００８４】
出力部４０は画像を記録媒体に記録する（ステップＳ１０８）。【００８５】
以上がウェアラブルカメラ１００の動作の流れである。上述のように、センサにより検出された回転角を撮像画像の補正に直接利用するのではなく、センサにより検出された回転角を、線分検出処理を行う際の角度範囲の限定に用いるので、線分検出における処理負荷を軽減することができるとともに、精度の向上を図れる。
＜線分検出処理＞
次に、Ｈｏｕｇｈ変換による線分検出処理の具体的な流れを、図１０を用いて説明する。図１０はＨｏｕｇｈ変換による線分検出処理の流れを表すフローチャートである。本フローチャートにおいて、θ１、θ２はそれぞれセンシング部２０により検出された角度θに基づき角度範囲決定部３１により決定された角度範囲の下限値（θ−φ）及び上限値（θ＋φ）である。また、変数ｉは抽出された一の特徴点を示し、Ｎは特徴点の総数を示す。【００８６】
まず、線分検出部３２は撮像された画像中から線分が存在する可能性が高いと考えられる点である特徴点を抽出する（ステップＳ２０１）。特徴点の抽出には、画像のエッジを検出するフィルタを適用する等、既存の方法を用いることができる。【００８７】
何番目の特徴点かを特定するための変数ｉの値を１に初期化し（ステップＳ２０２）、Ｈｏｕｇｈ変換のパラメータθの値をθ１に初期化する（ステップＳ２０３）。【００８８】
続いて、パラメータ空間と関連付けた２次元配列のセルに投票を行う。（ステップＳ２０４）。具体的には、抽出されたｉ番目の特徴点（ｘｉ，ｙｉ）について、現在の角度θの値を基に（数４）からρの値を算出し、パラメータ空間中の（ρ，θ）と関連付けた２次元配列の対応するアドレスの頻度を１だけ増加させる。このような処理によって、配列の各アドレスには、当該アドレスに対応する（ρ，θ）が得られた度数が格納される。つまり、全ての特徴点について「投票」を実行することにより、１つの２次元配列Ｕ（ρ、θ）ができ、その配列を基に後述する判定処理を行い、線分を検出する。【００８９】
次に、角度θが角度範囲の上限である上限値θ２に達しているか否かを判定し（ステップＳ２０５）、上限値θ２に達していない場合には（ステップＳ２０５でＮｏ）、角度θにΔθを加算し、新たな角度θとした後（ステップＳ２０６）、ステップＳ２０４に移行する。【００９０】
上限値θ２に達している場合には（ステップＳ２０５でＹｅｓ）、ｉの値がＮに達しているか否かを判定する（ステップＳ２０７）。達していない場合には（ステップＳ２０７でＮｏ）、ｉを１計数し（ステップＳ２０８）、ステップＳ２０３に移行する。達している場合には（ステップＳ２０７でＹｅｓ）、判定処理を行う（ステップＳ２０９）。具体的には、まず、頻度が所定の閾値より大きいパラメータ（ρ，θ）の組を選び出し、選び出したパラメータ（ρ，θ）に対応する直線上に特徴点が連続して所定の数以上存在するか否かを判定する。所定の数以上存在する場合、実際に線分が存在すると判定する。これは直線上の全ての画素が特徴点になるとは限らず、途切れ途切れに特徴点が存在する場合があるからである。なお、実際に線分が存在すると判定するのと同時に、連続して存在する特徴点の始点と終点の位置とから線分の長さがわかる。この処理を選ばれた全ての（ρ，θ）の組に対して行い、判定処理を終了する。
＜具体例＞
続いて、具体例（図１１から図１４）を挙げ、線分を検出する角度範囲を制限することによる効果を説明する。図１１（ａ）は撮像部１０により撮像された画像（補正前の画像）を示す図である。撮像された画像は約２０°傾いているものとする。【００９１】
まず、線分を検出する角度範囲を制限しない場合について述べる。この場合には、線分検出処理により図１１（ｂ）に示されるように、図１１（ａ）に示される画像中の、全ての線分が検出されることになる。その結果、図１２（ｂ）に示されるように、−９０°から９０°の範囲の線分の傾斜角の頻度が角度ヒストグラムによって表される。図１２（ｂ）より、画像補正に用いるべき傾斜角は２０°であるが、実際には−９０°付近の傾斜角が最も頻度が高くなっていることがわかる。したがって、補正は最も頻度の高い傾斜角である−９０°付近の傾斜角に基づいて行われることになる。【００９２】
ここで、図１２（ａ）の実線で描かれている線分の傾斜角が最も頻度の高い傾斜角（すなわち、−９０°付近の傾斜角）に相当するが、これらの線分は元々水平であったはずの建物や道路の境界線を斜めから撮影した結果、画像上で斜めに見えているもので、これらの線分が画像上で真横、すなわち水平になるように画像を回転させると、実際の水平が画像の真横にならず、結局傾いた画像になってしまう。【００９３】
これに対して、線分を検出する角度範囲を制限する場合では、角度範囲決定部３１により決定された範囲内の１以上の線分のみが検出され、図１３（ｂ）に示されるように、該範囲内の各線分の傾斜角が角度ヒストグラムとして作成される。線分を検出する範囲を制限したことにより、図１３（ｂ）に示されるように、角度ヒストグラムにおいて最も頻度が高くなっているのは、図１２（ｂ）で最も頻度の高かった−９０°付近の傾斜角ではなく、画像補正に用いるべき傾斜角２０°であることがわかる。【００９４】
ここで、図１３（ａ）は加速度センサによって下向き矢印の方向が鉛直下向きであると判定され、図１３（ａ）の矢印を除いた実線で描かれている線分の傾斜角が、最も度数の高い角度に相当することを示している。これらの線分が画像上で縦、すなわち垂直になるように画像を回転させることで、図１４に示されるように、正確に傾斜角を補正することができる。【００９５】
このように、線分検出処理において、画像中の全ての線分を検出するのではなく、センシング部２０により検出された傾斜角θから±φの範囲内の線分のみを検出するので、処理の効率化が図れるとともに、最終的な回転角の推定に対して悪影響を及ぼす可能性のある線分を事前に排除することで、精度の向上を図ることができる。【００９６】
以上のように本実施の形態によれば、センサの誤差分布に基づき線分を検出する範囲を決定し、その範囲内から線分を検出することにより、処理の効率化を図るとともに、センサに誤差があったとしても、誤差分布に基づく範囲内から線分を検出するので、高精度で画像を補正することができる。【００９７】
センサ出力の用い方が従来とは大きく異なり、線分検出の際の角度範囲の基準として用いられるだけであり、画像補正はヒストグラムにおいて最も度数の高い角度に応じて行われるため、筐体固有の誤差により補正後の画像の見易さが左右されることはなくなる。
（実施の形態２）
本実施の形態では、尤度関数を用いて傾斜角を推定する。
＜構成＞
以下に、本実施の形態に係るウェアラブルカメラについて説明する。
図１５は、本実施の形態に係るウェアラブルカメラ１００ａの機能ブロック図である。ウェアラブルカメラ１００ａは、実施の形態１のウェアラブルカメラ１００に記憶部８０を追加した構成であり、また、補正処理部３０の代わりに補正処理部３０ａを備える。その他の構成部の機能は実施の形態１のウェアラブルカメラ１００と同様である。以下、ウェアラブルカメラ１００と相違のある部分のみ説明する。【００９８】
記憶部８０はセンシング部２０に備えられる加速度センサの角度毎の誤差確率分布データを記憶しており、補正処理部３０ａから参照され、誤差確率分布データを補正処理部３０ａに出力する。角度毎の誤差確率分布は、例えば、ウェアラブルカメラの出荷時に予め測定され、参照可能な形式で記憶しておく。図１６は誤差確率分布のテーブルの例であり、センサの出力値に対する誤差の分布確率を示している。例えば、センサの出力角度が２度の場合、真値との誤差が０度の確率が0.3818、誤差が１度の確率が0.2415となる。【００９９】
図１７は補正処理部３０ａの詳細な機能を示す図である。補正処理部３０ａは、センシング部２０により検出された回転角θに対応する誤差確率分布を記憶部８０から取得する誤差確率分布取得部３５、及び誤差確率分布と角度ヒストグラムとから角度尤度を算出する尤度算出部３６を含んで構成される。
＜動作＞
続いて、図１８はウェアラブルカメラ１００ａの動作の流れを表すフローチャートである。【０１００】
ウェアラブルカメラ１００との相違点は、ステップＳ３０３、３０７、３０８であり、他のステップはウェアラブルカメラ１００と同様の処理である。【０１０１】
ステップＳ３０３では、誤差確率分布取得部３５はステップＳ３０２で取得されたセンサの出力に対応する誤差確率分布を記憶部８０から取得する。図１９は誤差確率分布の例を表しており、センサの角度出力が22.0°の場合の確率分布である。【０１０２】
ステップＳ３０７では、ステップＳ３０３で取得された誤差確率分布とステップＳ３０６で作成された角度ヒストグラムとから角度尤度を算出する。角度尤度は正しい角度の尤もらしさを表す度合いであり、角度をθ、角度ヒストグラムをｈ（θ）、誤差確率分布をｐ（θ）とすると、角度尤度ｙ（θ）は、
（数９）で定義される。
ｙ（θ）＝ｈ（θ）×ｐ（θ）・・・（数９）
ステップＳ３０８では、ｙ（θ）の最大値ｙmaxと予め定められた閾値とを比較し、ｙmaxが閾値以上の場合は（ステップＳ３０８でＹｅｓ）、ｙmaxに対応する角度θに基づいて画像の補正を行う。具体的には、角度θと同じ値だけ画像を反対方向に回転させることにより、画像の補正を行う。【０１０３】
以上のように本実施の形態によれば、ステップＳ３０６で複数の近い角度、例えば２３°と２８°とでヒストグラムの値が大きくなった場合でも、（数９）の尤度関数からセンサの誤差分布を反映して画像の傾斜角を推定することができ、より高精度で傾斜角の推定及び補正を行うことができる。
（実施の形態３）
実施の形態２では、角度尤度ｙ（θ）を算出するために誤差確率分布を取得した。ところが、センシング部１２に加速度センサを用いた場合、重力により発生する加速度を基準として回転角を計測するので、動作状態では動作に起因する動加速度と重力加速度とが混合して測定されてしまい、測定誤差が静止状態に比べて大きくなってしまう。【０１０４】
そこで、本実施の形態では、静止時と動作時との誤差確率分布をそれぞれ記憶しておき、ウェアラブルカメラの動作状態を判定し、動作状態に応じた誤差確率分布を取得することにより、正確に画像の傾斜角を推定する。
＜構成＞
本実施の形態におけるウェアラブルカメラ１００ｂは、実施の形態１のウェアラブルカメラ１００の構成に加え、静止状態と動作状態の誤差確率分布をそれぞれ個別に記憶している記憶部８０ｂを備え、また、補正処理部３０の代わりに補正処理部３０ｂを備える。その他の構成部の機能は実施の形態１のウェアラブルカメラ１００と同様である。以下、ウェアラブルカメラ１００と相違のある部分のみ説明する。【０１０５】
記憶部８０ｂは、静止状態と動作状態の誤差確率分布をそれぞれ記憶している。図２０（ａ）に静止状態における誤差確率分布テーブルを示す。図２０（ｂ）に動作状態における誤差確率分布テーブルを示す。動作状態では、静止状態より誤差が大きくなり、差分が０でない確率が高くなっているのがわかる。【０１０６】
図２１は、補正処理部３０ｂの詳細な機能を示す図である。補正処理部３０ｂは、補正処理部３０ａの構成に加え、センサの出力値からウェアラブルカメラ１００ｂの動作状態を判定する動作状態判定部３７を含んで構成される。【０１０７】
本実施の形態における誤差確率分布取得部３５ｂは、検出された角度及び判定された動作状態に基づいて、対応する誤差確率分布を記憶部８０ｂから取得する。
＜動作＞
続いて、図２２は、ウェアラブルカメラ１００ｂの動作の流れを表すフローチャートである。【０１０８】
ウェアラブルカメラ１００ａとの相違点は、ステップＳ４０３、４０４であり、他のステップはウェアラブルカメラ１００ａと同様の処理である。【０１０９】
ステップＳ４０３では、ステップＳ４０２で取得されたセンサの出力値からウェアラブルカメラ１００ｂの動作状態を推定する。動作状態とは、静止中、動作中など、ウェアラブルカメラ１００ｂの運動状態を表す。動作状態判定部３７は例えば、ステップＳ４０２の出力値の時系列変化を算出し、その変化が予め定められた閾値以下の場合は静止中、閾値より大きい場合は動作中と判定する。【０１１０】
また、ステップＳ４０４では、ステップＳ４０３で判定された状態及びステップＳ４０２で取得されたセンサの出力値に基づいて、対応する誤差確率分布を取得する。【０１１１】
以上のように本実施の形態によれば、ウェアラブルカメラ１００ｂの動作状態を判定し、動作状態に応じた誤差確率分布を取得することにより、より正確に画像を補正することができる。
（実施の形態４）
上記実施の形態では、角度ヒストグラムを算出するにあたり、撮像画像中の線分を検出したが、撮像画像中の線分を検出するのではなく、画像中の各画素が持つ輝度勾配、すなわちコントラストの変化の方向を算出して、その度数を角度ヒストグラムとして扱ってもよい。なぜならば、線分の存在は他の領域とのコントラストの差が大きく、他の領域とは異なることによって知覚されるので、線分の検出を局所的なコントラストの変化の検出とすることでも同様の効果が得られるためである。【０１１２】
図２３に本実施の形態におけるウェアラブルカメラ１００ｃの機能ブロック図を示す。ウェアラブルカメラ１００ｃは、実施の形態１のウェアラブルカメラ１００の補正処理部３０の代わりに補正処理部３０ｃを備える。その他の構成部の機能は実施の形態１のウェアラブルカメラ１００と同様である。以下、ウェアラブルカメラ１００と相違のある部分のみ説明する。【０１１３】
角度範囲決定部３１ｃはセンシング部２０から入力される回転角に基づいて角度ヒストグラムを作成する際の角度範囲θ±φを決定し、ヒストグラム作成部３３ｃに送信する。【０１１４】
輝度勾配算出部３２ｃはフレームメモリ７０ａから撮像部１０により撮像された画像を取得し、取得された画像中の各画素が持つ輝度勾配を算出し、ヒストグラム作成部３３ｃに出力する。輝度勾配の算出についての詳細は＜輝度勾配の算出＞で説明する。【０１１５】
ヒストグラム作成部３３ｃは角度範囲決定部３１ｃから入力される角度範囲θ±φで、輝度勾配算出部３２ｃから入力された各画素が持つ輝度勾配の度数をカウントし、輝度勾配毎の度数を表す角度ヒストグラムを作成する。そして、最も高い度数の輝度勾配を選択し、画像処理部３４ｃに送信する。【０１１６】
画像処理部３４ｃはフレームメモリ７０ａから補正対象となる画像を取得し、ヒストグラム作成部３３ｃから入力される輝度勾配に基づいて画像処理を行い、処理後の画像をフレームメモリ７０ｂに記憶する。
＜輝度勾配の算出＞
以下、画素のコントラストの変化の方向を求める方法について、図２４、２５を用いて説明する。図２４において、位置Ｐにおける画像Ｉの画素値をＩ（Ｐ）とする。位置Ｐにおけるｘ方向、ｙ方向のコントラスト変化ｄｘ、ｄｙはそれぞれｄｘ＝∂I（Ｐ）／∂ｘ、ｄｙ＝∂I（Ｐ）／∂ｙで表される。このとき、コントラストの変化の方向をθとすると、θは（数１０）によって求めることができる。
θ＝ｔａｎ-1（ｄｙ／ｄｘ）・・・（数１０）
また、図２４に示されるように、位置Ｐを通る線分がある場合、この線分の向きはθに直交する向きである。【０１１７】
ｄｘ、ｄｙを求める方法として、例えばＳｏｂｅｌフィルタなどのフィルタを利用する。Ｓｏｂｅｌフィルタは図２５のような係数を持つフィルタであり、それぞれ画像の横方向、縦方向のコントラストの変化を測定するために用いられる。【０１１８】
以上のように本実施の形態によれば、角度範囲決定部３１ｃで決定された角度範囲θ±φで、輝度勾配毎の度数を表す角度ヒストグラムを作成し、この中で最も高い度数の輝度勾配に基づいて補正するので、補正の精度を向上させることができる。
（変形例）
以上、本発明に係る撮像装置について、実施の形態に基づいて説明したが、本発明は上記の実施の形態に限られないことは勿論である。
（１）上記実施の形態において、例えば、撮像部１０で撮影された画像の歪みを補正する歪み補正部を備え、補正処理部３０は補正後の画像に基づいて補正するとしてもよい。【０１１９】
ここでいう画像の歪みとは、特に撮像部１０の光学系に起因する歪曲収差を指す。歪曲収差の影響が残っている場合、本来実世界上では直線状のものが撮影された画像上では曲がって写る。このような画像から傾斜角に関する情報を取得しても実世界の情報を正しく反映していない可能性がある。これを補正することによって実世界上で直線状のものが画像上でも正しく直線として写り、補正の精度を向上することができる。なお、歪曲収差の補正方法については例えば以下の非特許文献１に記載の手法などを用いることができる。
【非特許文献１】Ｒｏｇｅｒ  Ｙ．  Ｔｓａｉ：”Ａｎ  Ｅｆｆｉｃｉｅｎｔ  ａｎｄ Ａｃｃｕｒａｔｅ  Ｃａｍｅｒａ  Ｃａｌｉｂｒａｔｉｏｎ  Ｔｅｃｈｎｉｑｕｅ ｆｏｒ ３Ｄ  Ｍａｃｈｉｎｅ  Ｖｉｓｉｏｎ”，ＩＥＥＥ  Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｐｕｔｅｒ  Ｖｉｓｉｏｎ  ａｎｄ Ｐａｔｔｅｒｎ  Ｒｅｃｏｇｎｉｔｉｏｎ，ｐｐ．３６４−３７４，１９８６（２）上記実施の形態において、角度ヒストグラムを作成する際、例えば、各線分の長さに応じた重み付けを行ってもよい。これによって、例えば画像の端から端にわたるような目立つ線分があった場合に、その重要度を高くすることで、短い線分が多数あるような環境でも安定して大局的な傾斜角を推定することができる。
【０１２０】
また、各線分の角度に応じた重み付けを行ってもよい。例えば、実世界中で垂直なものは撮影時にピッチ方向、ヨー方向の向きが変わっても、画像中ではやはり垂直に写る。しかし、実世界中で水平のものは、それに正対しない場合には画像中では斜めに写ることがあり、実際の角度と画像中での角度との対応が取りづらいことがある。したがって、画像中に存在する線分のうち、実世界中で垂直に近い角度の線分の方が角度に対する信頼性が高いと考えられる。このときの重みの与え方は、例えば所定の角度の範囲に対して一律に重みをかけてもよいし、垂直に近いほど重みを高くしてもよい。また、センシング部２０が有するセンサの誤差分布に基づいて決定してもよく、例えばセンサの誤差が平均μ、標準偏差σの正規分布にしたがう場合、この正規分布の確率密度関数の値そのものを重みとして利用することができる。さらに、センサにより検出された回転角と画像を構成する線分の傾斜角との差分が小さいほど重みが大きくなるよう重み付けを行ってもよい。
（３）上記実施の形態では、ピエゾ抵抗型加速度センサを用いたが、これに限らない。例えば、静電容量型や熱検知型の加速度センサ、あるいはジャイロでもよい。
（４）上記実施の形態では、出力部４０は補正処理部３０により補正処理された画像を記録媒体に記録するとしたが、撮像部１０で撮影された画像に回転角をメタデータとして付加して記録してもよい。メタデータの形式としてＥＸＩＦ（Ｅｘｃｈａｎｇｅａｂｌｅ Ｉｍａｇｅ Ｆｉｌｅ Ｆｏｒｍａｔ）やＭＰＥＧ（Ｍｏｖｉｎｇ Ｐｉｃｔｕｒｅ Ｅｘｐｅｒｔ Ｇｒｏｕｐ）７、ＭＰＥＧ２１といった標準規格が存在しており、これらの規格にしたがう形でメタデータを付与することができる。また、メタデータの形式はここに挙げた例に制限されることはなく、それ以外の標準規格や独自規格であってもよい。また、メタデータを画像データ内に透かしとして埋め込んでもよい。【０１２１】
また、通信部５０は撮像部１０により撮影された画像に、センシング部２０により検出された受光面の傾斜角を示す情報をメタデータとして付加した後、メタデータを付加した画像を外部のサーバに送信し、該サーバ内で画像の補正を行うとしてもよい。
（５）上記の実施の形態では、φ＝ａσとしたが、φの値は予め設定されている値としてもよい。
（６）また、上記の実施の形態において、角度ヒストグラム中の最大頻度に相当する角度が複数存在する場合、センサの誤差分布に基づいて補正に最適な傾斜角を選択してもよい。具体的な方法として、誤差が小さい方、すなわちセンサの出力角度に近い方の角度を補正に最適な角度として選択することが考えられる。
（７）上記実施の形態１では、ステップＳ１０６で最も高い頻度の値が閾値を超えていない場合（ステップＳ１０６でＮｏ）、画像処理部３４は画像補正を行わずに処理を終了していたが、角度ヒストグラムの最大頻度が所定の閾値を下回っている場合に、当該最大頻度に相当する傾斜角による画像補正を抑止し、センシング部２０により検出された回転角を用いて撮像された画像を補正する処理を行うとしてもよい。【０１２２】
また、画像から特定の被写体を抽出、認識する処理を行い、その結果、被写体が検出された場合にはステップＳ１０７の補正処理を行うようにしてもよい。なお、この際検出するべき被写体としては、垂直に立っていることが一般的な木や電柱やビル等のようにその存在がある方向を指し示し得るものが望ましい。具体的には、例えば、予め電柱やビル等の画像を記憶しておき、画像認識技術を用いて、撮影した画像から抽出される抽出画像が記憶している画像のいずれかであると認識できる場合に、抽出画像の傾斜角に基づき補正を行う。【０１２３】
なお、画像から特定の被写体を検出する代わりに、センシング部２０にＧＰＳ（Ｇｌｏｂａｌ  Ｐｏｓｉｔｉｏｎｉｎｇ  Ｓｙｓｔｅｍ）などの位置検出手段を備え、位置検出手段によって画像が撮影された位置を測定し、例えばビルが多く建っている、すなわち水平ないし垂直の線分が多く存在する可能性が高い都市部など、特定の位置で撮影された画像である場合にはステップＳ１０７の補正処理を行うようにしてもよい。具体的には、例えば、緯度、経度情報と都市部等を示す場所情報とを対応付けて保持しておき、ＧＰＳにより検出された位置情報に相当する緯度、経度情報に対応付けられた場所情報が予め設定された場所情報である場合に、補正を行う。また、緯度、経度情報と都市部等を示す場所情報とを対応付けた情報をウェアラブルカメラで保持せずに、ＧＰＳにより検出された位置情報に対応する場所情報を外部のサーバに問い合わせるとしてもよい。
（８）また、図９のフローチャートでは撮影された画像から直接画像処理によって傾斜角を推定しているが、センシング部２０で得られる角度などを利用して画像を補正する処理と、画像から傾斜角を推定する処理の両方を行ってもよい。具体的な形態として、まずセンシング部２０で得られる角度を基に画像を補正し、センサの誤差に相当する部分を画像処理で補償することが考えられる。【０１２４】
上記実施の形態１では、図１０に示されるように、図９のステップＳ１０３で設定された角度範囲は１つの範囲であったが、角度範囲は（θ１≦θ≦θ２、θ３≦θ≦θ４、・・・）などのように複数の範囲として設定されてもよく、その場合は、それぞれの範囲に対して図１０のステップＳ２０３以降を繰り返せばよい。
（９）上記実施の形態２では、図１６に示されるように誤差確率分布は、加速度センサの角度が１度刻みであったが、その間の角度値、例えば１．５度などの値の場合は、前後のセンサ角度に対する誤差確率を線形補間して用いてもよい。同様に、差分角度についても隣接する角度間では線形補間した値を用いてもよい。
（１０）上記実施の形態２では、記憶部８０に記憶されている加速度センサの誤差確率分布は、図１６のように角度毎にテーブルの形式で保存されていたが、加速度センサの出力角度を変数とした数式モデルで表現してもよい。例えば、加速度センサの誤差がガウス分布であると仮定し、ガウス分布を表現するパラメータを記憶部８０に保存しておき、ステップＳ３０３でそのパラメータから算出してもよい。【０１２５】
同様に、上記実施の形態３においても、記憶部８０ｂに静止状態と動作状態のパラメータをそれぞれ記憶しておき、ステップＳ４０４で動作状態に応じたパラメータから誤差分布を算出してもよい。
（１１）上記実施の形態では、センシング部２０に備えられる加速度センサにより検出された回転角を基準とした範囲を加速度センサの誤差分布に基づいて定め、当該範囲内の線分を撮像された画像から検出したが、線分検出の際には範囲を制限せずに撮像された画像から線分を検出し、検出した線分の傾斜角毎の頻度を表す角度ヒストグラムを作成してもよい。そして、角度ヒストグラムに基づいて補正に最適な傾斜角を選択する際に、センシング部２０に備えられる加速度センサにより検出された回転角を基準とした範囲を加速度センサの誤差分布に基づいて定め、作成した角度ヒストグラムの当該範囲に対して重み付けを行い、重み付けした範囲から画像の補正に最適な傾斜角を選択するとしてもよい。
（１２）上記実施の形態３において、動作状態として複数の状態を定義し、そのそれぞれにおいて誤差確率分布を定義してもよい。例えばウェアラブルカメラの装着者が歩行している時と走行している時では動きの激しさが異なるため、生じる誤差の分布も異なると考えられる。これらの状態のそれぞれに対して誤差分布を個別に定義しておくことで、動作状態に応じてより正確に傾斜角を推定することができる。
（１３）上記実施の形態では、撮像装置として、ウェアラブルカメラを例に挙げ説明したが、ウェアラブルカメラに限らず、例えば、デジタルスチルカメラ、デジタルビデオカメラ、及び携帯電話機等であってもよい。
（１４）上記の実施形態では、撮像装置について説明したが、本発明は上記フローチャートで示したステップを含む方法、及び上記フローチャートで示したステップをコンピュータに実行させるプログラムコードを含むプログラムであってもよいし、そのプログラムを記憶している記録媒体であるとしてもよい。【０１２６】
また、上述の各実施の形態の構成は、典型的には集積回路であるＬＳＩ（Ｌａｒｇｅ  Ｓｃａｌｅ  Ｉｎｔｅｇｒａｔｉｏｎ）で実現されているものとしてもよい。これらは、個別に１チップ化されていてもよいし、全ての構成又は一部の構成を含むように１チップ化されてもよい。集積回路は、集積度の違いにより、ＩＣ、システムＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩ等と呼称されることもある。また、集積回路の手法は、ＬＳＩに限定されるものではなく、専用回路又は汎用プロセッサを用いて実現してもよい。さらに、ＦＰＧＡ（Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）や、ＬＳＩ内部の回路セルの接続や設定を再構成することができるリコンフィギュアラブル・プロセッサを利用してもよい。【０１２７】
さらに、半導体技術の進歩により、又は派生する別技術により現在の半導体技術に置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。例えば、バイオ技術の適用等が考えられる。【０１２８】
上記実施の形態及び上記変形例をそれぞれ組み合わせるとしてもよい。【０１２９】
また、本発明に係る撮像装置は、その範囲を逸脱することなく本発明の趣旨に沿って様々な変形又は修正が可能であることは言うまでもない。
【産業上の利用可能性】
【０１３０】
本発明の撮像装置は、カメラの動きによる画角の変動を補正するための装置として有用であり、デジタルスチルカメラをはじめとする撮像装置、特に身体に装着可能な撮像装置に適用可能である。
【図１】
2009001512.tif 000003
【図２】
2009001512.tif 000004
【図３】
2009001512.tif 000005
【図４】
2009001512.tif 000006
【図５】
2009001512.tif 000007
【図６】
2009001512.tif 000008
【図７】
2009001512.tif 000009
【図８】
2009001512.tif 000010
【図９】
2009001512.tif 000011
【図１０】
2009001512.tif 000012
【図１１】
2009001512.tif 000013
【図１２】
2009001512.tif 000014
【図１３】
2009001512.tif 000015
【図１４】
2009001512.tif 000016
【図１５】
2009001512.tif 000017
【図１６】
2009001512.tif 000018
【図１７】
2009001512.tif 000019
【図１８】
2009001512.tif 000020
【図１９】
2009001512.tif 000021
【図２０】
2009001512.tif 000022
【図２１】
2009001512.tif 000023
【図２２】
2009001512.tif 000024
【図２３】
2009001512.tif 000025
【図２４】
2009001512.tif 000026
【図２５】
2009001512.tif 000027
【手続補正書】
【提出日】平成20年9月3日(2008.9.3)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する撮像装置であって、
撮像部と、
撮像部の物理的な傾きを検知するセンサと、
センサによって検知された物理的な傾きに基づいて、撮像画像に対して画像処理を行って、撮像画像の被写体に現れる複数の角度成分を検出する画像処理部と、
撮像画像の被写体に現れる複数の角度成分に対する統計処理を実行し、複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する補正処理部と
を備える撮像装置。
【請求項２】
（削除）
【請求項３】
前記画像処理は、撮像画像中の線分をその傾斜角とともに検出する処理であり、
前記物理的な傾きに基づく画像処理は、前記物理的な傾きを基準にして、画像処理の対象となる角度範囲を定めた上で、画像処理を行うことであり、
前記統計処理は、複数の角度成分の度数分布を示すヒストグラムを作成することであり、
複数の角度成分のうち、ある一定の基準を満たす角度成分は、作成されたヒストグラムにおいて、ある一定の基準を満たす度数を有する角度成分である
請求項１記載の撮像装置。
【請求項４】
（削除）
【請求項５】
（削除）
【請求項６】
前記補正処理部は、前記ある一定の基準を満たす度数を有する角度成分のうち、前記ヒストグラム中の最大の度数を有する角度成分を、回転変換のための回転角として選択する
請求項３記載の撮像装置。
【請求項７】
前記ある一定の基準を満たす角度成分が存在しない場合、前記補正処理部は前記センサにより検出された傾きを、回転変換のための回転角として選択する
請求項１記載の撮像装置。
【請求項８】
前記画像処理部は、前記撮像画像から特定の被写体を検出する検出部をさらに備え、
前記ある一定の基準を満たす角度成分が存在しない場合、前記補正処理部は前記特定の被写体の傾きを、回転変換のための回転角として選択する
請求項１記載の撮像装置。
【請求項９】
前記撮像装置は、自装置の位置を検出する位置検出部をさらに備え、
前記ある一定の基準を満たす角度成分が存在せず、かつ、前記位置検出部により検出された位置が予め設定されている特定の位置である場合、前記補正処理部は、前記ヒストグラム中の最大の度数を有する角度成分を、回転変換のための回転角として選択する
請求項３記載の撮像装置。
【請求項１０】
単位角度毎の誤差分布を記憶している記憶部と、
前記センサにより検出された物理的な傾きに基づいて、当該傾きに相当する誤差分布を前記記憶部から取得する誤差分布取得部と、をさらに備え、
前記補正処理部は、前記ヒストグラムと前記誤差分布取得部により取得された誤差分布とから算出される傾き尤度のうち、最大の傾き尤度に相当する角度成分を、前記回転変換のための回転角として選択する
請求項３記載の撮像装置。
【請求項１１】
単位角度毎の誤差分布の関係式を記憶している記憶部と、
前記センサにより検出された物理的な傾きに基づいて、前記関係式から誤差分布を算出する誤差分布算出部と、をさらに備え、
前記補正処理部は、前記ヒストグラムと前記誤差分布算出部により算出された誤差分布とから算出される傾き尤度のうち、最大の傾き尤度に相当する角度成分を、前記回転変換のための回転角として選択する
請求項３記載の撮像装置。
【請求項１２】
前記記憶部は、自装置の静止状態における誤差分布と動作状態における誤差分布とをそれぞれ記憶しており、
前記誤差分布取得部は、前記センサにより検出された物理的な傾きに基づいて自装置の動作状態を判定し、判定した結果、静止状態であれば前記静止状態における誤差分布を取得し、動作状態であれば前記動作状態における誤差分布を取得する
請求項１０記載の撮像装置。
【請求項１３】
前記記憶部は、自装置の静止状態における誤差分布の関係式と動作状態における誤差分布の関係式とをそれぞれ記憶しており、
前記誤差分布算出部は、前記センサにより検出された物理的な傾きに基づいて自装置の動作状態を判定し、判定した結果、静止状態であれば前記静止状態における誤差分布の関係式から誤差分布を算出し、動作状態であれば前記動作状態における誤差分布の関係式から誤差分布を算出する
請求項１１記載の撮像装置。
【請求項１４】
前記撮像装置は、前記撮像画像の歪みを補正する歪み補正部をさらに備え、
前記画像処理部は、補正後の撮像画像に対して画像処理を行う
請求項１に記載の撮像装置。
【請求項１５】
前記補正処理部は、前記ヒストグラムにおいて複数の角度成分の度数分布を示す際に、各角度成分の度数に対する重み付けを行い、前記重みは前記撮像画像から検出された線分の長さが長いほど大きくなる
請求項３記載の撮像装置。
【請求項１６】
前記補正処理部は、前記ヒストグラムにおいて複数の角度成分の度数分布を示す際に、各角度成分の度数に対する重み付けを行い、前記重みは前記撮像画像から検出された線分が垂直に近いほど大きくなる
請求項３記載の撮像装置。
【請求項１７】
前記補正処理部は、前記ヒストグラムにおいて複数の角度成分の度数分布を示す際に、各角度成分の度数に対する重み付けを行い、前記重みは前記センサにより検出された物理的な傾きと前記撮像画像から検出された線分の傾斜角との差分が小さいほど大きくなる
請求項３記載の撮像装置。
【請求項１８】
撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する方法であって、
撮像部の物理的な傾きを検知する検知ステップと、
検知された物理的な傾きに基づいて、撮像画像に対して画像処理を行って、撮像画像の被写体に現れる複数の角度成分を検出する画像処理ステップと、
撮像画像の被写体に現れる複数の角度成分に対する統計処理を実行し、複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する補正処理ステップと
を備える方法。
【請求項１９】
撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する撮像装置に設けられるシステム集積回路であって、
撮像部と、
撮像部の物理的な傾きを検知するセンサと、
センサによって検知された物理的な傾きに基づいて、撮像画像に対して画像処理を行って、撮像画像の被写体に現れる複数の角度成分を検出する画像処理部と、
撮像画像の被写体に現れる複数の角度成分に対する統計処理を実行し、複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する補正処理部と
を備えるシステム集積回路。
【請求項２０】
撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する処理をコンピュータに行わせるプログラムであって、
撮像部の物理的な傾きを検知する検知手順と、
検知された物理的な傾きに基づいて、撮像画像に対して画像処理を行って、撮像画像の被写体に現れる複数の角度成分を検出する画像処理手順と、
撮像画像の被写体に現れる複数の角度成分に対する統計処理を実行し、複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する補正処理手順と
を備えるプログラム。
【請求項２１】
撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する撮像装置であって、
撮像部と、
撮像部の物理的な傾きを検知するセンサと、
撮像部による撮像画像に対して画像処理を行って、撮像画像の被写体に現れる複数の角度成分を検出する画像処理部と、
センサによって検知された物理的な傾きに基づいて、撮像画像の被写体に現れる複数の角度成分に対する統計処理を実行し、複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する補正処理部と、
を備える撮像装置。
【請求項２２】
撮像画像の被写体に現れる複数の角度成分は、撮像画像の被写体に現れる輝度勾配がなす角度であり、
前記統計処理は、複数の角度成分の度数分布を示すヒストグラムを作成することであり、
前記物理的な傾きに基づく統計処理は、前記物理的な傾きを基準にして、統計処理の対象となる角度範囲を定めた上で、統計処理を実行することである
請求項２１記載の撮像装置。
【手続補正書】
【提出日】平成21年12月21日(2009.12.21)
【手続補正１】
【補正対象書類名】明細書
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮像装置に関し、特にセンサを用いた画像補正の技術に関する。
【背景技術】
【０００２】
近年、利用者が常時身体に装着し、利用者の体験する日常生活をライフログとして記録し続けることができる撮像装置（例えば、ウェアラブルカメラ）が登場しつつある。ウェアラブルカメラとは身体に着用できる小型の端末であり、例えば、紐が付けられたウェアラブルカメラを利用者の首にぶら下げる等、身体の所定部位を基準として支持することにより着用する。ウェアラブルカメラは、手による操作といった明示的な操作をしなくても、撮像や収音ができる特性を有している。
【０００３】
ところで、ウェアラブルカメラにより被写体を撮影する場合、ウェアラブルカメラが傾いた状態で被写体が撮影される場合がある。これは利用者の動作の影響によりウェアラブルカメラの位置がずれることが原因であるが、ウェアラブルカメラの姿勢が適切に保たれていない状態で撮影が行われると、被写体が傾いた状態で撮影されてしまい、利用者にとっては非常に見難い画像となる。
【０００４】
そこで、従来、傾いた状態で撮影された画像を傾いていない画像に補正する方法として、ウェアラブルカメラに加速度センサを設け、加速度センサにより重力加速度を測定することでウェアラブルカメラの地軸に対する回転角を検出し、検出した回転角に基づいて撮影した画像の傾きを補正する方法が知られている（特許文献１参照）。その他の先行技術としては、特許文献２ないし４に記載のものがある。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２００６−２４５７２６号公報
【特許文献２】特開２００２−２０７２３２号公報
【特許文献３】特開２００３−３０４４８６号公報
【特許文献４】特開２００３−１５３０７２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、加速度センサには筐体固有の誤差があるので、検出した回転角に基づいて補正をしたとしても、依然として利用者にとって見難い画像となってしまう場合がある。
また、加速度センサではその原理上、重力加速度とカメラの運動によって生じる加速度とが重畳して検出され、それらを区別することができない。すなわち、カメラの運動によって生じる加速度の影響も誤差として現れるものとして考えることができる。このことは身体に装着するという特性上撮影時に筐体が激しい運動にさらされるウェアラブルカメラにおいては、加速度センサによって重力加速度のみを正確に検知することが困難であることを意味する。従来の加速度センサの用いられ方では、画像の見易さを向上させるのは難しいのが現状である。
【０００７】
なお、撮像装置の動きを角速度センサにより検知し、検知した動きに応じてレンズ群を駆動して像のぶれを補正する、いわゆる手ぶれ補正と呼ばれる技術があるが、これはカメラの撮像素子の露光時間内における、カメラの相対的な動きの変化を補正するための技術であり、補正の基準となるのはシャッターが切られる瞬間の姿勢である。
したがって、例えば画像の水平方向に対する傾きを補正したい場合、シャッターが切られる瞬間にカメラが既に水平に対して傾いているのであれば、いくら手ぶれ補正を適用しても撮影される画像が水平になることはない。
【０００８】
つまり、手ぶれ補正技術はカメラの運動による相対的な角度を補償することはできるが、水平などを基準とする絶対的な角度を補償することはできない。
本発明は、高精度で画像の傾きを補正する撮像装置を提供することを目的とする。
【課題を解決するための手段】
【０００９】
上記課題を解決するために、本発明は、撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する撮像装置であって、撮像部と、撮像部の物理的な傾きを検知するセンサと、センサによって検知された物理的な傾きに基づいて、撮像画像の被写体に現れる複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する処理部と、を備える。
【発明の効果】
【００１０】
本発明は上記の構成を備えることにより、センサにより検出された物理的な傾きを撮像画像の補正に直接利用するのではなく、撮像画像の被写体に現れる複数の角度成分から回転角を選択する際に利用する。センサにより検出された物理的な傾きと撮像画像の被写体に現れる角度成分とに基づいて、回転変換のための回転角を選択するので、筐体固有の誤差により補正後の画像の見易さが左右されることはなくなる。
【００１１】
また、回転角を選択する際に、撮像画像の被写体に現れる複数の角度成分のうちある一定の基準を満たす角度成分を回転角として選択するので、補正の精度を向上させることができる。
なお、撮像画像の被写体に現れる角度成分としては、撮像画像中の線分の傾斜角や撮像画像の被写体に現れる輝度勾配がなす角度等が該当する。
【００１２】
ここで、前記処理部は、センサによって検知された物理的な傾きに基づいて、撮像画像に対して画像処理を行って、撮像画像の被写体に現れる複数の角度成分を検出し、検出した複数の角度成分に対する統計処理を実行し、複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択するとしてもよい。
センサによって検知された物理的な傾きに基づいて、撮像画像に対して画像処理を行うことにより、撮像画像の被写体に現れる複数の角度成分を検出することができる。複数の角度成分に対する統計処理を実行し、ある一定の基準を満たす角度成分を回転角として選択するので、補正の精度を向上させることができる。
【００１３】
ところで、一般的に画像処理にはＨｏｕｇｈ変換が用いられるが、画像処理の対象となるべき画像によっては特徴点の数が膨大になり、その結果、画像処理における処理負荷が重くなったり、たとえ検出した角度成分に基づき補正を行ったとしても、必ずしも正確に補正できなかったりし、処理負荷及び精度の両面で問題がある。
そこで、画像を補正する際の処理負荷を低減しつつ補正精度を向上させるために、前記画像処理は、撮像画像中の線分をその傾斜角とともに検出する処理であり、前記物理的な傾きに基づく画像処理は、前記物理的な傾きを基準にして、画像処理の対象となる角度範囲を定めた上で、画像処理を行うことであり、前記統計処理は、複数の角度成分の度数分布を示すヒストグラムを作成することであり、複数の角度成分のうち、ある一定の基準を満たす角度成分は、作成されたヒストグラムにおいて、ある一定の基準を満たす度数を有する角度成分である、とするのが望ましい。
【００１４】
これにより、センサにより検出された物理的な傾きを、線分を検出する際の角度範囲の基準として用いることができる。画像処理部は画像中の全ての線分を検出するのではなく、角度範囲にある線分を検出するので、線分検出における処理負荷を軽減することができるとともに、不必要な線分を検出しないので精度の向上を図れる。
ここで、前記処理部は、撮像部による撮像画像に対して画像処理を行って、撮像画像の被写体に現れる複数の角度成分を検出し、センサによって検知された物理的な傾きに基づいて、検出した複数の角度成分に対する統計処理を実行し、複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択するとしてもよい。
【００１５】
撮像画像に対して画像処理を行うことにより、撮像画像の被写体に現れる複数の角度成分を検出することができる。センサによって検知された物理的な傾きに基づいて、複数の角度成分に対する統計処理を実行し、ある一定の基準を満たす角度成分を回転変換のための回転角として選択するので、補正の精度を向上させることができる。
ここで、撮像画像の被写体に現れる複数の角度成分は、撮像画像の被写体に現れる輝度勾配がなす角度であり、前記統計処理は、複数の角度成分の度数分布を示すヒストグラムを作成することであり、前記物理的な傾きに基づく統計処理は、前記物理的な傾きを基準にして、統計処理の対象となる角度範囲を定めた上で、統計処理を実行することである、としてもよい。
【００１６】
これにより、センサにより検出された物理的な傾きを、ヒストグラムを作成する際の角度範囲の基準として用いることができる。撮像画像の被写体に現れる輝度勾配がなす角度の、全てについてのヒストグラムを作成するのではなく、角度範囲におけるヒストグラムを作成するので、不必要な角度成分を除くことができ、補正の精度の向上を図れる。
ここで、前記補正処理部は、前記ある一定の基準を満たす度数を有する角度成分のうち、前記ヒストグラム中の最大の度数を有する角度成分を、回転変換のための回転角として選択するとしてもよい。
【００１７】
これにより、ヒストグラム中の最大の度数を有する角度成分を回転角として選択するので、補正に対する信頼性を高めることができる。
ここで、前記ある一定の基準を満たす角度成分が存在しない場合、前記処理部は前記センサにより検出された傾きを、回転変換のための回転角として選択するとしてもよい。
これにより、ある一定の基準を満たす角度成分が存在しない場合、すなわち、撮像画像の被写体に現れる複数の角度成分に対する信頼性が低い場合には、前記センサにより検出された傾きを、回転変換のための回転角として選択するので、補正に対する信頼性を高めることができる。
【００１８】
ここで、前記処理部は、前記撮像画像から特定の被写体を検出する検出部をさらに備え、前記ある一定の基準を満たす角度成分が存在しない場合、前記処理部は前記特定の被写体の傾きを、回転変換のための回転角として選択するとしてもよい。
これにより、ある一定の基準を満たす角度成分が存在しない場合、すなわち、撮像画像の被写体に現れる複数の角度成分に対する信頼性が低い場合には、特定の被写体の傾きを、回転変換のための回転角として選択するので、補正に対する信頼性を高めることができる。
【００１９】
ここで、前記処理部は、自装置の位置を検出する位置検出部をさらに備え、前記ある一定の基準を満たす角度成分が存在せず、かつ、前記位置検出部により検出された位置が予め設定されている特定の位置である場合、前記補正処理部は、前記ヒストグラム中の最大の度数を有する角度成分を、回転変換のための回転角として選択するとしてもよい。
これにより、ある一定の基準を満たすか否かに加え、さらに前記位置検出部により検出された位置が特定の位置か否かにより回転角を選択するので、補正に対する信頼性を高めることができる。
【００２０】
ここで、前記処理部は、単位角度毎の誤差分布を記憶している記憶部と、前記センサにより検出された物理的な傾きに基づいて、当該傾きに相当する誤差分布を前記記憶部から取得する誤差分布取得部と、をさらに備え、前記補正処理部は、前記ヒストグラムと前記誤差分布取得部により取得された誤差分布とから算出される傾き尤度のうち、最大の傾き尤度に相当する角度成分を、前記回転変換のための回転角として選択するとしてもよい。
【００２１】
また、単位角度毎の誤差分布の関係式を記憶している記憶部と、前記センサにより検出された物理的な傾きに基づいて、前記関係式から誤差分布を算出する誤差分布算出部と、をさらに備え、前記補正処理部は、前記ヒストグラムと前記誤差分布算出部により算出された誤差分布とから算出される傾き尤度のうち、最大の傾き尤度に相当する角度成分を、前記回転変換のための回転角として選択するとしてもよい。
【００２２】
これにより、センサの誤差分布を反映して回転角を選択するので、より高精度で回転角を選択することができ、より高精度で補正を行うことができる。
ところで、上述したように、加速度センサ自体が利用者の動作に起因して加速度を受けた場合には、これを重力加速度と区別して測定することはできず、検出した角度に基づいて補正をしたとしても、依然として利用者にとって見難い画像となってしまう。
【００２３】
そこで、利用者が動作中に撮影した画像であっても、正確に画像を補正するために、前記記憶部は、自装置の静止状態における誤差分布と動作状態における誤差分布とをそれぞれ記憶しており、前記誤差分布取得部は、前記センサにより検出された物理的な傾きに基づいて自装置の動作状態を判定し、判定した結果、静止状態であれば前記静止状態における誤差分布を取得し、動作状態であれば前記動作状態における誤差分布を取得するとするのが望ましい。
【００２４】
また、前記記憶部は、自装置の静止状態における誤差分布の関係式と動作状態における誤差分布の関係式とをそれぞれ記憶しており、前記誤差分布算出部は、前記センサにより検出された物理的な傾きに基づいて自装置の動作状態を判定し、判定した結果、静止状態であれば前記静止状態における誤差分布の関係式から誤差分布を算出し、動作状態であれば前記動作状態における誤差分布の関係式から誤差分布を算出するとしてもよい。
【００２５】
これにより、撮像装置の動作状態に応じた誤差分布を取得するので、利用者が動作中であっても、より高精度で補正を行うことができる。
ここで、前記処理部は、前記撮像画像の歪みを補正する歪み補正部をさらに備え、前記画像処理部は、補正後の撮像画像に対して画像処理を行うとしてもよい。
これにより、撮像装置の光学系に起因する画像の歪みによって線分が歪んで撮像されていても正しい線分が検出でき、より高精度で補正を行うことができる。
【００２６】
ここで、前記補正処理部は、前記ヒストグラムにおいて複数の角度成分の度数分布を示す際に、各角度成分の度数に対する重み付けを行い、前記重みは前記撮像画像から検出された線分の長さが長いほど大きくなるとしてもよい。
これにより、例えば画像の端から端にわたるような目立つ線分があった場合に、その重要度を高くすることで、短い線分が多数あるような環境でも安定して大局的な角度成分を選択することができる。
【００２７】
ここで、前記補正処理部は、前記ヒストグラムにおいて複数の角度成分の度数分布を示す際に、各角度成分の度数に対する重み付けを行い、前記重みは前記撮像画像から検出された線分が垂直に近いほど大きくなるとしてもよい。
画像中に存在する線分のうち、実世界において垂直に近い角度の線分は信頼性が高いので、これに対する重み付けを高くすることにより、より高精度で補正を行うことができる。
【００２８】
ここで、前記補正処理部は、前記ヒストグラムにおいて複数の角度成分の度数分布を示す際に、各角度成分の度数に対する重み付けを行い、前記重みは前記センサにより検出された物理的な傾きと前記撮像画像から検出された線分の傾斜角との差分が小さいほど大きくなるとしてもよい。
これにより、前記センサにより検出された物理的な傾きと、前記撮像画像から検出された線分の傾斜角との差分により重み付けされるので、より高精度で補正を行うことができる。
【図面の簡単な説明】
【００２９】
【図１】（ａ）ウェアラブルカメラを装着した様子を表す模式図である。（ｂ）画像の回転軸を表す模式図である。
【図２】受光面の傾きによる画像の変化を示す図である。
【図３】ウェアラブルカメラ１００の機能ブロック図である。
【図４】補正処理部３０の機能ブロック図である。
【図５】２軸加速度センサによってロール軸周りの回転角を算出する方法を示す模式図である。
【図６】センサの出力と線分を検出する角度範囲の関係を示す模式図である。
【図７】Ｈｏｕｇｈ変換の原理を説明するための図である。
【図８】ある画角で撮影された画像を別の画角で撮影された画像に対応付ける際の関係を示す模式図である。
【図９】ウェアラブルカメラ１００の動作の流れを表すフローチャートである。
【図１０】Ｈｏｕｇｈ変換による線分検出処理の流れを表すフローチャートである。
【図１１】（ａ）撮像部１０により撮像された画像（補正前の画像）を示す図である。（ｂ）図１１（ａ）に示される画像中の、全ての線分が検出された画像を示す図である。
【図１２】（ａ）画像中の全ての線分を検出した場合の最も頻度の高い傾斜角を示す図である。（ｂ）図１２（ａ）に対応する角度ヒストグラムを示す図である。
【図１３】（ａ）線分検出範囲を制限した場合の最も頻度の高い傾斜角を示す図である。（ｂ）図１３（ａ）に対応する角度ヒストグラムを示す図である。
【図１４】補正後の画像を示す図である。
【図１５】ウェアラブルカメラ１００ａの機能ブロック図である。
【図１６】誤差確率分布のテーブルを示す図である。
【図１７】補正処理部３０ａの詳細な機能を示す図である。
【図１８】ウェアラブルカメラ１００ａの動作の流れを表すフローチャートである。
【図１９】誤差確率分布の例を示す図である。
【図２０】（ａ）静止状態における誤差確率分布テーブルを示す図である。（ｂ）動作状態における誤差確率分布テーブル示す図である。
【図２１】補正処理部３０ｂの詳細な機能を示す図である。
【図２２】ウェアラブルカメラ１００ｂの動作の流れを表すフローチャートである。
【図２３】ウェアラブルカメラ１００ｃの機能ブロック図である。
【図２４】画素のコントラストの変化の方向をどのように求めるかを説明するための図である。
【図２５】Ｓｏｂｅｌフィルタを示す図である。
【発明を実施するための形態】
【００３０】
（実施の形態１）
＜概要＞
本実施の形態では、撮像装置として、ウェアラブルカメラを例に挙げて説明する。
ウェアラブルカメラはカメラやマイクロホン、加速度センサを含んで構成され、カメラやマイクロホンによって撮影された画像及び音声を記録媒体に記録する。
【００３１】
ウェアラブルカメラで撮影された画像の特徴について説明すると、ウェアラブルカメラで撮影された画像には装着者の動作に伴う体の動きによって回転が生じる。生じる回転の種類について、図１を用いて説明する。図１（ａ）はウェアラブルカメラを装着した様子を表す模式図である。ウェアラブルカメラは取り付け部を備え、取り付け部にひもをつけ、首にぶら下げるなど身体の所定部位を基準として支持される。図１（ａ）のように水平方向にｘ軸、垂直方向にｙ軸、ｘ軸とｙ軸とからなる平面に直交する方向、すなわちウェアラブルカメラの光軸方向にｚ軸を設定した場合、図１（ｂ）に示すようにｘ軸周りの回転をピッチ（Ｐｉｔｃｈ）、ｙ軸周りの回転をヨー（Ｙａｗ）、ｚ軸周りの回転をロール（Ｒｏｌｌ）と呼ぶ。
【００３２】
ウェアラブルカメラがロール方向に回転した場合、図２（ａ）、（ｂ）、（ｃ）のように画角が変動し、撮影される画像はそれぞれ図２（ｄ）、（ｅ）、（ｆ）のようになる。なお、図２（ａ）、（ｂ）、（ｃ）の黒丸は回転中心を表す。
実際にはロール方向の回転に加え、ピッチ方向、ヨー方向の回転も併せて加わるが、本実施の形態では特にロール方向の回転、すなわちｘ軸とｙ軸とからなる平面の光軸周りの水平ないし垂直に対する回転を補正する方法に絞ってその構成を述べる。なぜならば、上記３軸の回転のうち、画像を閲覧する上でユーザが最も違和感を覚えるのがロール方向の回転であり、これを補正することが画質に最も影響を与えるからである。
【００３３】
そこで本実施の形態では、ウェアラブルカメラはロール方向の回転角を検出し、検出した回転角を基準とした角度範囲をセンサの誤差分布に基づいて定める。撮像された画像において定めた角度範囲内で線分を検出し、検出した線分の傾斜角に基づいて画像の補正を行う。すなわち、センサにより検出された回転角は、直接補正に用いられるのではなく、回転角はあくまでも画像処理における線分検出の範囲の制限に用いられる。画像補正に用いられるべき線分は誤差分布に基づいた角度範囲から検出され、実際の補正は検出した線分の傾斜角に基づいて行われるので、センサ自体に誤差があろうとも、より高精度で補正を行うことができる。
【００３４】
以下、本実施の形態におけるウェアラブルカメラについて、図面を用いて詳細に説明する。
＜ウェアラブルカメラ１００の構成＞
図３は本実施の形態に係るウェアラブルカメラ１００の機能ブロック図である。
ウェアラブルカメラ１００は、具体的には、マイクロプロセッサ、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）、ＤＳＰ（Digital Signal Processor）などから構成されるコンピュータシステムである。前記ＲＯＭには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムにしたがって動作することにより、ウェアラブルカメラ１００はその機能を達成する。
【００３５】
ウェアラブルカメラ１００は、撮像部１０、センシング部２０、補正処理部３０、出力部４０、通信部５０、表示部６０、及びフレームメモリ７０を含んで構成される。
撮像部１０は具体的にはCCD（Charge Coupled Device）やCMOS（Complementary Metal-Oxide Semiconductor）といった撮像素子やレンズ部を含んで構成され、画像を撮像する機能を有する。
【００３６】
センシング部２０は具体的にはピエゾ抵抗型加速度センサ等を含んで構成され、光軸に対し垂直な面である受光面の、水平ないし垂直からの光軸周りの回転角を検出する。詳細は＜ピエゾ抵抗型加速度センサ＞、＜ロール方向の回転角測定方法＞で説明する。
補正処理部３０はセンシング部２０により検出された回転角に基づいて、撮像部１０により撮像された画像に対し、当該画像を補正するための画像処理を行う。詳細については＜補正処理部３０の機能＞で説明する。
【００３７】
出力部４０は具体的にはＳＤメモリカード等の記録媒体を含んで構成され、補正処理部３０により補正処理された画像等を記録媒体に記録する。
通信部５０は具体的には変調回路や復調回路等を含む送受信回路を含んで構成され、アンテナ等を介して、撮像部１０により撮影された画像や補正後の画像、センシング部２０により検出された回転角等を外部ネットワークに送信する。
【００３８】
表示部６０は具体的には液晶ディスプレイ等を含んで構成され、撮像部１０により撮影された画像や補正処理部３０により補正処理された画像を表示する。
フレームメモリ７０（７０ａ、７０ｂ、…）は画像（１フレーム）を記憶するための専用メモリである。例えば、フレームメモリ７０には、撮像部１０から入力される補正前の画像や画像処理部３５から入力される補正後の画像が記憶される。
＜補正処理部３０の機能＞
続いて、補正処理部３０の詳細な機能について説明する。図４は補正処理部３０の機能ブロック図である。補正処理部３０は角度範囲決定部３１、線分検出部３２、ヒストグラム作成部３３、及び画像処理部３４を含んで構成される。
【００３９】
角度範囲決定部３１は、センシング部２０から入力される回転角に基づいて線分を検出する際の角度範囲θ±φを決定し、線分検出部３２に送信する。具体的には、＜角度範囲＞で説明する。
線分検出部３２は、フレームメモリ７０ａから撮像部１０により撮像された画像を取得し、取得された画像を構成する線分のうち角度範囲決定部３１から入力された角度範囲θ±φにおける線分をその傾斜角とともに検出し、検出された傾斜角をヒストグラム作成部３３に出力する。線分の検出についての詳細は＜Ｈｏｕｇｈ変換＞、＜線分検出処理＞で説明する。
【００４０】
ヒストグラム作成部３３は、線分検出部３２から入力された各線分の傾斜角の度数をカウントし、その傾斜角毎の度数を表す角度ヒストグラムを作成する。そして、最も高い度数の傾斜角を選択し、画像処理部３４に送信する。なお、ここでいう角度ヒストグラムとは具体的には１次元配列のことである。
なお、角度ヒストグラムを作成する際、水平及び垂直のどちらを基準としてもよく、このとき、最終的に選択される傾斜角は基準とした水平あるいは垂直のいずれかからの回転角に相当する。
【００４１】
画像処理部３４は、フレームメモリ７０ａから補正対象となる画像を取得し、ヒストグラム作成部３３から入力される傾斜角に基づいて画像処理を行い、処理後の画像をフレームメモリ７０ｂに記憶する。画像処理についての詳細は＜画像の回転の補正＞で説明する。
＜ピエゾ抵抗型加速度センサ＞
次に、ピエゾ抵抗型加速度センサについて説明する。ピエゾ抵抗効果とは、導体の長さや断面積が変化することで抵抗が変化する現象を指す。具体的には長さＬ、断面積Ｓ、抵抗率ρの導体の抵抗Ｒは数１で表される。
【００４２】
Ｒ ＝ ρＬ／Ｓ・・・（数１）
この導体を長さ方向に引っ張り、長さがＬ’、断面積がＳ’になったとすると、このときの抵抗Ｒ’は（数２）で表される。
【００４３】
Ｒ’＝ρＬ’／Ｓ’・・・（数２）
（数１）及び（数２）より、Ｌ’＞Ｌ、Ｓ’＜ＳとするとＲ’＞Ｒが成立する。したがって、導体に機械的な力が加わることで抵抗が変化することがわかる。ピエゾ抵抗型加速度センサは、加速度に伴って発生する力を受けて歪みが発生するピエゾ抵抗素子を備え、加速度に伴う抵抗の変化を電圧や電流の変化量として計測することができる。すなわち、電圧や電流の値からピエゾ抵抗素子に作用している加速度を得ることができる。また、ピエゾ抵抗素子を複数の向きに設置することで、それぞれの向きにかかる加速度を計測することができる。
＜ロール方向の回転角測定方法＞
実際にピエゾ抵抗型加速度センサを用いてロール方向の回転角を測定する方法について図５を用いて説明する。互いに直交するｘ軸、ｙ軸の２方向の加速度を加速度センサを用いて測定するものとする。ｙ軸が鉛直方向からθだけ傾いているとすると、静止状態でｙ軸方向にかかる加速度ｇｙは、ｇｙ＝ｇｃｏｓθと表すことができる。なお、ｇは重力加速度を表す。同様に、ｘ軸方向にかかる加速度ｇｘは、ｇｘ＝ｇｓｉｎθと表すことができるので、傾斜角θはｇｘ、ｇｙを用いて（数３）のように表すことができる。
【００４４】
θ＝ｔａｎ−１（ｇｘ／ｇｙ）・・・（数３）
（数３）に示されるように、加速度センサの各軸方向の出力の比を求め、その逆正接を求めることによって傾斜角θを検出することができる。
＜角度範囲＞
次に、角度範囲をどのように決定するかについて説明する。センシング部２０により傾斜角θが検出されると、角度範囲決定部３１は、図６に示されるようにθから±φの範囲を角度範囲として決定する。なお、水平及び垂直からそれぞれθ±φの範囲を角度範囲として決定するとしてもよい。ここで、φの値は加速度センサの出力値θに対するマージンと考えることができるので、例えば、加速度センサの誤差分布に応じてφの値を決定することができる。加速度センサの誤差が平均μ、標準偏差σの正規分布にしたがうとした場合には、φ＝ａσとすることが考えられる。こうすることにより、φの値を固定にする場合に発生する以下のようなデメリットを抑制する効果が考えられる。
【００４５】
固定値の角度範囲をφｃ、加速度センサの誤差分布によって決まる角度範囲をφとする。φｃ＞φの場合、φより大きい範囲の線分は真の水平ないし垂直ではない可能性が高く、このような線分を検出するのは無駄な演算量の増加を招くだけでなく、最終的な補正結果に悪影響を与える可能性がある。逆にφｃ＜φの場合、誤差がφｃより大きかった場合に本来水平ないし垂直であったはずの線分を検出することができず、最終的な補正結果に悪影響を与える可能性がある。
【００４６】
なお、一般的な正規分布の性質から、ａの値をａ＝２とすると出力のおよそ９５％が、ａ＝３とするとおよそ９９％が誤差範囲内に含まれる。したがって、状況に応じて、どの程度の誤差であれば許容でき、どの程度の演算量に抑える必要があるのかを適宜判断し、最適なａの値を決定することができる。
＜Ｈｏｕｇｈ変換＞
続いて、撮像画像から線分を検出する方法について説明する。ここでは線分の検出にＨｏｕｇｈ変換と呼ばれる手法を用いる。以下、図７を用いてＨｏｕｇｈ変換による線分の検出手法について説明する。図７（ａ）より、画像中の点（ｘｉ、ｙｉ）を通る直線は、パラメータ（ρ、θ）によって表される（数４）を満たす。
【００４７】
ρ＝ｘｉｃｏｓθ ＋ ｙｉｓｉｎθ・・・（数４）
これは、点（ｘｉ、ｙｉ）を通る直線群が図７（ｂ）における１本の曲線に対応付けられることを意味する。一方、同じ直線上にある複数の点について（数４）に基づく対応付けを行うと、得られる複数の曲線はある１点で交わる。この交点に対応するパラメータがこれらの点を通る直線を表している。実際にはパラメータ（ρ、θ）は離散的に扱われる。つまり、（ρ、θ）のパラメータ空間を一定の大きさΔθ毎に区切り、θを順番に変えながらρの値を求めてその頻度をカウントする。頻度の高いパラメータ（ρ、θ）の組に対応する直線が実際に画像中に存在する可能性が高いと考えられる。そして、このときの区切りの間隔Δθが小さいほど、検出される直線の角度分解能が高く、より正確な角度を表すことができる。
【００４８】
しかし、Δθを小さくするとρの値を求める回数が多くなり、その分処理時間が長くなるというデメリットがある。これに対して、角度範囲決定部３１により決定された角度範囲内でθを変動させることで、高い分解能を保ちつつ処理の回数を減らすことができる。
また、線分検出の際に必要となるメモリの問題がある。すなわち、検出しようとする線分の傾斜角の精度を高めるにはθを細かく設定し計算する必要があり、それだけパラメータ平面を大きく設定しなければならず、大きな配列用のメモリが必要となる。
【００４９】
本実施の形態では、線分を検出する範囲を検出された傾斜角θから±φの範囲内に絞っているので、必要なメモリの容量を削減することができる。
＜画像の回転の補正＞
続いて、画像の補正について説明する。画像の回転の補正は以下のようにして行う。一般的に、画像平面上の点Ｐ＝（ｘ、ｙ）を、カメラを中心とした座標系であるカメラ座標系ＸＹＺで表したものをＰ１＝（ｘ１、ｙ１、ｚ１）とすると、以下の（数５）で表す関係が成り立つ。
【００５０】
ｓＰ’＝ＫＰ１’・・・（数５）
ただし、Ｐ’、Ｐ１’はそれぞれＰ、Ｐ１を同次座標で表したもので、Ｐ’＝（ｘ、ｙ、１）、Ｐ１’＝（ｘ１、ｙ１、ｚ１、１）である。また、Ｋは内部パラメータ行列と呼ばれる３×４の行列で、焦点距離、アスペクト比、画像平面と光軸の交点である画像中心の座標などによって決まる。また、ｓはスケーリングパラメータである。
【００５１】
また、Ｐ１を別のカメラ座標系Ｘ’Ｙ’Ｚ’で表したときの座標をＰ２＝（ｘ２、ｙ２、ｚ２）とすると、以下の（数６）で表す関係が成り立つ。
Ｐ２’＝[Ｒ]Ｐ１’・・・（数６）
ただし、Ｐ２’はＰ２を同次座標で表したもので、Ｐ２’＝（ｘ２、ｙ２、ｚ２、１）である。また、［Ｒ］はＰ１からＰ２への４×４の回転行列である。そして、Ｐ２を画像座標系で表した点をＱ＝（ｕ、ｖ）とすると、（数５）と同様に（数７）で表す関係が成り立つ。
【００５２】
ｓＱ’＝ＫＰ２’・・・（数７）
ただし、Ｑ’はＱを同次座標で表したもので、Ｑ’＝（ｕ、ｖ、１）である。また、Ｋはカメラの内部パラメータが変化しない限り一定である。これらの式をまとめると、ＰとＱとの間には（数８）で表す関係が成り立つ。
【００５３】
Ｑ’＝Ｋ[Ｒ]Ｋ−１Ｐ’・・・（数８）
ただし、Ｋ−１はＫの逆行列である。ウェアラブルカメラの装着者の動きによって画角が変化するというのは、上記のカメラ座標系の変換が加わることに相当する。内部パラメータ行列Ｋは一定と考えると、前に画像を撮影した時から次に画像を撮影するまでの回転を測定することで、撮影した画像間の対応付けを行うことができる。上記の関係をまとめたものが図８である。なお、回転を、前に画像を撮影した時からの変化量として測定する代わりに、任意の位置に定めた原点及び座標軸からの変化量として測定してもよい。
＜センサの読み取り周期と画像処理のタイミング＞
続いて、センサの読み取り周期と画像処理のタイミングについて説明する。どの時点のセンサ出力を線分検出に用いるかについては、センサ出力は理想としては撮影されたタイミングと同期していることが望ましい。
【００５４】
センサの読み取り周期は、センサの信号をダイレクトに使う場合であれば、３３ms毎(各フレーム毎)にセンサの出力を得ることができる。なお、ノイズを低減するために、１フレームあたり例えば５回センサの出力を読み出して、その平均値を当該フレームに対応するセンサ出力値とするとしてもよい。
画像処理のタイミングはＤＳＰなど専用のプロセッサを利用することを前提とし、例えば５フレーム毎に行うとしてよい。この場合、処理結果が出たときにはそれは「200ms前の画像における線分の角度」であって「現在の画像における線分の角度」に対してずれが生じるが、この間の動きが小さいものと仮定すればずれは問題ない。
以上を踏まえて、例えば３０フレーム毎秒での撮影を前提とすると、センサ出力はフレーム(３３ms)毎に読み出され、画像処理は５フレーム(200ms)毎に行われる。
＜撮像装置の動作＞
図９は、ウェアラブルカメラ１００の動作の流れを表すフローチャートである。まず、撮像部１０は画像を撮像する（ステップＳ１０１）。
【００５５】
センシング部２０は、撮像部１０による画像の撮像に同期して、受光面が水平ないし垂直から光軸周りにどのくらい回転しているかを示す回転角を検出する（ステップＳ１０２）。具体的には、加速度センサの各軸方向の出力値を用いて、（数３）から回転角を求める。
角度範囲決定部３１は、検出された回転角に基づき線分を検出する角度範囲を決定する（ステップＳ１０３）。具体的には、センシング部２０より得られた回転角をθとした場合にθ±φの範囲を角度範囲として決定する。
【００５６】
続いて、線分検出部３２は、決定された角度範囲の線分を撮像画像中から１以上検出する（ステップＳ１０４）。具体的な処理内容は＜線分検出処理＞で説明する。
ヒストグラム作成部３３は、検出された各線分の傾斜角をカウントし、その角度毎の度数を表す角度ヒストグラムを作成する（ステップＳ１０５）。
画像処理部３４は、作成された角度ヒストグラム中で最も高い度数が予め定められている所定の閾値以上か否かを判定する（ステップＳ１０６）。所定の閾値以上の場合には（ステップＳ１０６でＹｅｓ）、最も高い度数に対応する傾斜角を実際に回転している角度であると判断し、これを補正するための処理に用いる（ステップＳ１０７）。具体的には、実際に回転している角度であると判断された傾斜角を打ち消すような逆方向の回転を撮像された画像に加えることにより補正を行う。所定の閾値未満の場合には（ステップＳ１０６でＮｏ）、補正を行わずにステップＳ１０８に移行する。
【００５７】
出力部４０は画像を記録媒体に記録する（ステップＳ１０８）。
以上がウェアラブルカメラ１００の動作の流れである。上述のように、センサにより検出された回転角を撮像画像の補正に直接利用するのではなく、センサにより検出された回転角を、線分検出処理を行う際の角度範囲の限定に用いるので、線分検出における処理負荷を軽減することができるとともに、精度の向上を図れる。
＜線分検出処理＞
次に、Ｈｏｕｇｈ変換による線分検出処理の具体的な流れを、図１０を用いて説明する。図１０はＨｏｕｇｈ変換による線分検出処理の流れを表すフローチャートである。本フローチャートにおいて、θ１、θ２はそれぞれセンシング部２０により検出された角度θに基づき角度範囲決定部３１により決定された角度範囲の下限値（θ−φ）及び上限値（θ＋φ）である。また、変数ｉは抽出された一の特徴点を示し、Ｎは特徴点の総数を示す。
【００５８】
まず、線分検出部３２は撮像された画像中から線分が存在する可能性が高いと考えられる点である特徴点を抽出する（ステップＳ２０１）。特徴点の抽出には、画像のエッジを検出するフィルタを適用する等、既存の方法を用いることができる。
何番目の特徴点かを特定するための変数ｉの値を１に初期化し（ステップＳ２０２）、Ｈｏｕｇｈ変換のパラメータθの値をθ１に初期化する（ステップＳ２０３）。
【００５９】
続いて、パラメータ空間と関連付けた２次元配列のセルに投票を行う。（ステップＳ２０４）。具体的には、抽出されたｉ番目の特徴点（ｘｉ，ｙｉ）について、現在の角度θの値を基に（数４）からρの値を算出し、パラメータ空間中の（ρ，θ）と関連付けた２次元配列の対応するアドレスの頻度を１だけ増加させる。このような処理によって、配列の各アドレスには、当該アドレスに対応する（ρ，θ）が得られた度数が格納される。つまり、全ての特徴点について「投票」を実行することにより、１つの２次元配列Ｕ（ρ、θ）ができ、その配列を基に後述する判定処理を行い、線分を検出する。
【００６０】
次に、角度θが角度範囲の上限である上限値θ２に達しているか否かを判定し（ステップＳ２０５）、上限値θ２に達していない場合には（ステップＳ２０５でＮｏ）、角度θにΔθを加算し、新たな角度θとした後（ステップＳ２０６）、ステップＳ２０４に移行する。
上限値θ２に達している場合には（ステップＳ２０５でＹｅｓ）、ｉの値がＮに達しているか否かを判定する（ステップＳ２０７）。達していない場合には（ステップＳ２０７でＮｏ）、ｉを１計数し（ステップＳ２０８）、ステップＳ２０３に移行する。達している場合には（ステップＳ２０７でＹｅｓ）、判定処理を行う（ステップＳ２０９）。具体的には、まず、頻度が所定の閾値より大きいパラメータ（ρ，θ）の組を選び出し、選び出したパラメータ（ρ，θ）に対応する直線上に特徴点が連続して所定の数以上存在するか否かを判定する。所定の数以上存在する場合、実際に線分が存在すると判定する。これは直線上の全ての画素が特徴点になるとは限らず、途切れ途切れに特徴点が存在する場合があるからである。なお、実際に線分が存在すると判定するのと同時に、連続して存在する特徴点の始点と終点の位置とから線分の長さがわかる。この処理を選ばれた全ての（ρ，θ）の組に対して行い、判定処理を終了する。
＜具体例＞
続いて、具体例（図１１から図１４）を挙げ、線分を検出する角度範囲を制限することによる効果を説明する。図１１（ａ）は撮像部１０により撮像された画像（補正前の画像）を示す図である。撮像された画像は約２０°傾いているものとする。
【００６１】
まず、線分を検出する角度範囲を制限しない場合について述べる。この場合には、線分検出処理により図１１（ｂ）に示されるように、図１１（ａ）に示される画像中の、全ての線分が検出されることになる。その結果、図１２（ｂ）に示されるように、−９０°から９０°の範囲の線分の傾斜角の頻度が角度ヒストグラムによって表される。図１２（ｂ）より、画像補正に用いるべき傾斜角は２０°であるが、実際には−９０°付近の傾斜角が最も頻度が高くなっていることがわかる。したがって、補正は最も頻度の高い傾斜角である−９０°付近の傾斜角に基づいて行われることになる。
【００６２】
ここで、図１２（ａ）の実線で描かれている線分の傾斜角が最も頻度の高い傾斜角（すなわち、−９０°付近の傾斜角）に相当するが、これらの線分は元々水平であったはずの建物や道路の境界線を斜めから撮影した結果、画像上で斜めに見えているもので、これらの線分が画像上で真横、すなわち水平になるように画像を回転させると、実際の水平が画像の真横にならず、結局傾いた画像になってしまう。
【００６３】
これに対して、線分を検出する角度範囲を制限する場合では、角度範囲決定部３１により決定された範囲内の１以上の線分のみが検出され、図１３（ｂ）に示されるように、該範囲内の各線分の傾斜角が角度ヒストグラムとして作成される。線分を検出する範囲を制限したことにより、図１３（ｂ）に示されるように、角度ヒストグラムにおいて最も頻度が高くなっているのは、図１２（ｂ）で最も頻度の高かった−９０°付近の傾斜角ではなく、画像補正に用いるべき傾斜角２０°であることがわかる。
【００６４】
ここで、図１３（ａ）は加速度センサによって下向き矢印の方向が鉛直下向きであると判定され、図１３（ａ）の矢印を除いた実線で描かれている線分の傾斜角が、最も度数の高い角度に相当することを示している。これらの線分が画像上で縦、すなわち垂直になるように画像を回転させることで、図１４に示されるように、正確に傾斜角を補正することができる。
【００６５】
このように、線分検出処理において、画像中の全ての線分を検出するのではなく、センシング部２０により検出された傾斜角θから±φの範囲内の線分のみを検出するので、処理の効率化が図れるとともに、最終的な回転角の推定に対して悪影響を及ぼす可能性のある線分を事前に排除することで、精度の向上を図ることができる。
以上のように本実施の形態によれば、センサの誤差分布に基づき線分を検出する範囲を決定し、その範囲内から線分を検出することにより、処理の効率化を図るとともに、センサに誤差があったとしても、誤差分布に基づく範囲内から線分を検出するので、高精度で画像を補正することができる。
【００６６】
センサ出力の用い方が従来とは大きく異なり、線分検出の際の角度範囲の基準として用いられるだけであり、画像補正はヒストグラムにおいて最も度数の高い角度に応じて行われるため、筐体固有の誤差により補正後の画像の見易さが左右されることはなくなる。
（実施の形態２）
本実施の形態では、尤度関数を用いて傾斜角を推定する。
＜構成＞
以下に、本実施の形態に係るウェアラブルカメラについて説明する。
図１５は、本実施の形態に係るウェアラブルカメラ１００ａの機能ブロック図である。ウェアラブルカメラ１００ａは、実施の形態１のウェアラブルカメラ１００に記憶部８０を追加した構成であり、また、補正処理部３０の代わりに補正処理部３０ａを備える。その他の構成部の機能は実施の形態１のウェアラブルカメラ１００と同様である。以下、ウェアラブルカメラ１００と相違のある部分のみ説明する。
【００６７】
記憶部８０はセンシング部２０に備えられる加速度センサの角度毎の誤差確率分布データを記憶しており、補正処理部３０ａから参照され、誤差確率分布データを補正処理部３０ａに出力する。角度毎の誤差確率分布は、例えば、ウェアラブルカメラの出荷時に予め測定され、参照可能な形式で記憶しておく。図１６は誤差確率分布のテーブルの例であり、センサの出力値に対する誤差の分布確率を示している。例えば、センサの出力角度が２度の場合、真値との誤差が０度の確率が0.3818、誤差が１度の確率が0.2415となる。
【００６８】
図１７は補正処理部３０ａの詳細な機能を示す図である。補正処理部３０ａは、センシング部２０により検出された回転角θに対応する誤差確率分布を記憶部８０から取得する誤差確率分布取得部３５、及び誤差確率分布と角度ヒストグラムとから角度尤度を算出する尤度算出部３６を含んで構成される。
＜動作＞
続いて、図１８はウェアラブルカメラ１００ａの動作の流れを表すフローチャートである。
【００６９】
ウェアラブルカメラ１００との相違点は、ステップＳ３０３、３０７、３０８であり、他のステップはウェアラブルカメラ１００と同様の処理である。
ステップＳ３０３では、誤差確率分布取得部３５はステップＳ３０２で取得されたセンサの出力に対応する誤差確率分布を記憶部８０から取得する。図１９は誤差確率分布の例を表しており、センサの角度出力が22.0°の場合の確率分布である。
【００７０】
ステップＳ３０７では、ステップＳ３０３で取得された誤差確率分布とステップＳ３０６で作成された角度ヒストグラムとから角度尤度を算出する。角度尤度は正しい角度の尤もらしさを表す度合いであり、角度をθ、角度ヒストグラムをｈ（θ）、誤差確率分布をｐ（θ）とすると、角度尤度ｙ（θ）は、
（数９）で定義される。
【００７１】
ｙ（θ）＝ｈ（θ）×ｐ（θ）・・・（数９）
ステップＳ３０８では、ｙ（θ）の最大値ｙmaxと予め定められた閾値とを比較し、ｙmaxが閾値以上の場合は（ステップＳ３０８でＹｅｓ）、ｙmaxに対応する角度θに基づいて画像の補正を行う。具体的には、角度θと同じ値だけ画像を反対方向に回転させることにより、画像の補正を行う。
【００７２】
以上のように本実施の形態によれば、ステップＳ３０６で複数の近い角度、例えば２３°と２８°とでヒストグラムの値が大きくなった場合でも、（数９）の尤度関数からセンサの誤差分布を反映して画像の傾斜角を推定することができ、より高精度で傾斜角の推定及び補正を行うことができる。
（実施の形態３）
実施の形態２では、角度尤度ｙ（θ）を算出するために誤差確率分布を取得した。ところが、センシング部１２に加速度センサを用いた場合、重力により発生する加速度を基準として回転角を計測するので、動作状態では動作に起因する動加速度と重力加速度とが混合して測定されてしまい、測定誤差が静止状態に比べて大きくなってしまう。
【００７３】
そこで、本実施の形態では、静止時と動作時との誤差確率分布をそれぞれ記憶しておき、ウェアラブルカメラの動作状態を判定し、動作状態に応じた誤差確率分布を取得することにより、正確に画像の傾斜角を推定する。
＜構成＞
本実施の形態におけるウェアラブルカメラ１００ｂは、実施の形態１のウェアラブルカメラ１００の構成に加え、静止状態と動作状態の誤差確率分布をそれぞれ個別に記憶している記憶部８０ｂを備え、また、補正処理部３０の代わりに補正処理部３０ｂを備える。その他の構成部の機能は実施の形態１のウェアラブルカメラ１００と同様である。以下、ウェアラブルカメラ１００と相違のある部分のみ説明する。
【００７４】
記憶部８０ｂは、静止状態と動作状態の誤差確率分布をそれぞれ記憶している。図２０（ａ）に静止状態における誤差確率分布テーブルを示す。図２０（ｂ）に動作状態における誤差確率分布テーブルを示す。動作状態では、静止状態より誤差が大きくなり、差分が０でない確率が高くなっているのがわかる。
図２１は、補正処理部３０ｂの詳細な機能を示す図である。補正処理部３０ｂは、補正処理部３０ａの構成に加え、センサの出力値からウェアラブルカメラ１００ｂの動作状態を判定する動作状態判定部３７を含んで構成される。
【００７５】
本実施の形態における誤差確率分布取得部３５ｂは、検出された角度及び判定された動作状態に基づいて、対応する誤差確率分布を記憶部８０ｂから取得する。
＜動作＞
続いて、図２２は、ウェアラブルカメラ１００ｂの動作の流れを表すフローチャートである。
【００７６】
ウェアラブルカメラ１００ａとの相違点は、ステップＳ４０３、４０４であり、他のステップはウェアラブルカメラ１００ａと同様の処理である。
ステップＳ４０３では、ステップＳ４０２で取得されたセンサの出力値からウェアラブルカメラ１００ｂの動作状態を推定する。動作状態とは、静止中、動作中など、ウェアラブルカメラ１００ｂの運動状態を表す。動作状態判定部３７は例えば、ステップＳ４０２の出力値の時系列変化を算出し、その変化が予め定められた閾値以下の場合は静止中、閾値より大きい場合は動作中と判定する。
【００７７】
また、ステップＳ４０４では、ステップＳ４０３で判定された状態及びステップＳ４０２で取得されたセンサの出力値に基づいて、対応する誤差確率分布を取得する。
以上のように本実施の形態によれば、ウェアラブルカメラ１００ｂの動作状態を判定し、動作状態に応じた誤差確率分布を取得することにより、より正確に画像を補正することができる。
（実施の形態４）
上記実施の形態では、角度ヒストグラムを算出するにあたり、撮像画像中の線分を検出したが、撮像画像中の線分を検出するのではなく、画像中の各画素が持つ輝度勾配、すなわちコントラストの変化の方向を算出して、その度数を角度ヒストグラムとして扱ってもよい。なぜならば、線分の存在は他の領域とのコントラストの差が大きく、他の領域とは異なることによって知覚されるので、線分の検出を局所的なコントラストの変化の検出とすることでも同様の効果が得られるためである。
【００７８】
図２３に本実施の形態におけるウェアラブルカメラ１００ｃの機能ブロック図を示す。ウェアラブルカメラ１００ｃは、実施の形態１のウェアラブルカメラ１００の補正処理部３０の代わりに補正処理部３０ｃを備える。その他の構成部の機能は実施の形態１のウェアラブルカメラ１００と同様である。以下、ウェアラブルカメラ１００と相違のある部分のみ説明する。
【００７９】
角度範囲決定部３１ｃはセンシング部２０から入力される回転角に基づいて角度ヒストグラムを作成する際の角度範囲θ±φを決定し、ヒストグラム作成部３３ｃに送信する。
輝度勾配算出部３２ｃはフレームメモリ７０ａから撮像部１０により撮像された画像を取得し、取得された画像中の各画素が持つ輝度勾配を算出し、ヒストグラム作成部３３ｃに出力する。輝度勾配の算出についての詳細は＜輝度勾配の算出＞で説明する。
【００８０】
ヒストグラム作成部３３ｃは角度範囲決定部３１ｃから入力される角度範囲θ±φで、輝度勾配算出部３２ｃから入力された各画素が持つ輝度勾配の度数をカウントし、輝度勾配毎の度数を表す角度ヒストグラムを作成する。そして、最も高い度数の輝度勾配を選択し、画像処理部３４ｃに送信する。
画像処理部３４ｃはフレームメモリ７０ａから補正対象となる画像を取得し、ヒストグラム作成部３３ｃから入力される輝度勾配に基づいて画像処理を行い、処理後の画像をフレームメモリ７０ｂに記憶する。
＜輝度勾配の算出＞
以下、画素のコントラストの変化の方向を求める方法について、図２４、２５を用いて説明する。図２４において、位置Ｐにおける画像Ｉの画素値をＩ（Ｐ）とする。位置Ｐにおけるｘ方向、ｙ方向のコントラスト変化ｄｘ、ｄｙはそれぞれｄｘ＝∂I（Ｐ）／∂ｘ、ｄｙ＝∂I（Ｐ）／∂ｙで表される。このとき、コントラストの変化の方向をθとすると、θは（数１０）によって求めることができる。
【００８１】
θ＝ｔａｎ−１（ｄｙ／ｄｘ）・・・（数１０）
また、図２４に示されるように、位置Ｐを通る線分がある場合、この線分の向きはθに直交する向きである。
【００８２】
ｄｘ、ｄｙを求める方法として、例えばＳｏｂｅｌフィルタなどのフィルタを利用する。Ｓｏｂｅｌフィルタは図２５のような係数を持つフィルタであり、それぞれ画像の横方向、縦方向のコントラストの変化を測定するために用いられる。
以上のように本実施の形態によれば、角度範囲決定部３１ｃで決定された角度範囲θ±φで、輝度勾配毎の度数を表す角度ヒストグラムを作成し、この中で最も高い度数の輝度勾配に基づいて補正するので、補正の精度を向上させることができる。
（変形例）
以上、本発明に係る撮像装置について、実施の形態に基づいて説明したが、本発明は上記の実施の形態に限られないことは勿論である。
（１）上記実施の形態において、例えば、撮像部１０で撮影された画像の歪みを補正する歪み補正部を備え、補正処理部３０は補正後の画像に基づいて補正するとしてもよい。
【００８３】
ここでいう画像の歪みとは、特に撮像部１０の光学系に起因する歪曲収差を指す。歪曲収差の影響が残っている場合、本来実世界上では直線状のものが撮影された画像上では曲がって写る。このような画像から傾斜角に関する情報を取得しても実世界の情報を正しく反映していない可能性がある。これを補正することによって実世界上で直線状のものが画像上でも正しく直線として写り、補正の精度を向上することができる。なお、歪曲収差の補正方法については例えば以下の文献に記載の手法などを用いることができる。
Ｒｏｇｅｒ  Ｙ．  Ｔｓａｉ：”Ａｎ  Ｅｆｆｉｃｉｅｎｔ  ａｎｄ Ａｃｃｕｒａｔｅ  Ｃａｍｅｒａ  Ｃａｌｉｂｒａｔｉｏｎ  Ｔｅｃｈｎｉｑｕｅ ｆｏｒ ３Ｄ  Ｍａｃｈｉｎｅ  Ｖｉｓｉｏｎ”，ＩＥＥＥ  Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｐｕｔｅｒ  Ｖｉｓｉｏｎ  ａｎｄ Ｐａｔｔｅｒｎ  Ｒｅｃｏｇｎｉｔｉｏｎ，ｐｐ．３６４−３７４，１９８６
（２）上記実施の形態において、角度ヒストグラムを作成する際、例えば、各線分の長さに応じた重み付けを行ってもよい。これによって、例えば画像の端から端にわたるような目立つ線分があった場合に、その重要度を高くすることで、短い線分が多数あるような環境でも安定して大局的な傾斜角を推定することができる。
【００８４】
また、各線分の角度に応じた重み付けを行ってもよい。例えば、実世界中で垂直なものは撮影時にピッチ方向、ヨー方向の向きが変わっても、画像中ではやはり垂直に写る。しかし、実世界中で水平のものは、それに正対しない場合には画像中では斜めに写ることがあり、実際の角度と画像中での角度との対応が取りづらいことがある。したがって、画像中に存在する線分のうち、実世界中で垂直に近い角度の線分の方が角度に対する信頼性が高いと考えられる。このときの重みの与え方は、例えば所定の角度の範囲に対して一律に重みをかけてもよいし、垂直に近いほど重みを高くしてもよい。また、センシング部２０が有するセンサの誤差分布に基づいて決定してもよく、例えばセンサの誤差が平均μ、標準偏差σの正規分布にしたがう場合、この正規分布の確率密度関数の値そのものを重みとして利用することができる。さらに、センサにより検出された回転角と画像を構成する線分の傾斜角との差分が小さいほど重みが大きくなるよう重み付けを行ってもよい。
（３）上記実施の形態では、ピエゾ抵抗型加速度センサを用いたが、これに限らない。例えば、静電容量型や熱検知型の加速度センサ、あるいはジャイロでもよい。
（４）上記実施の形態では、出力部４０は補正処理部３０により補正処理された画像を記録媒体に記録するとしたが、撮像部１０で撮影された画像に回転角をメタデータとして付加して記録してもよい。メタデータの形式としてＥＸＩＦ（Ｅｘｃｈａｎｇｅａｂｌｅ Ｉｍａｇｅ Ｆｉｌｅ Ｆｏｒｍａｔ）やＭＰＥＧ（Ｍｏｖｉｎｇ Ｐｉｃｔｕｒｅ Ｅｘｐｅｒｔ Ｇｒｏｕｐ）７、ＭＰＥＧ２１といった標準規格が存在しており、これらの規格にしたがう形でメタデータを付与することができる。また、メタデータの形式はここに挙げた例に制限されることはなく、それ以外の標準規格や独自規格であってもよい。また、メタデータを画像データ内に透かしとして埋め込んでもよい。
【００８５】
また、通信部５０は撮像部１０により撮影された画像に、センシング部２０により検出された受光面の傾斜角を示す情報をメタデータとして付加した後、メタデータを付加した画像を外部のサーバに送信し、該サーバ内で画像の補正を行うとしてもよい。
（５）上記の実施の形態では、φ＝ａσとしたが、φの値は予め設定されている値としてもよい。
（６）また、上記の実施の形態において、角度ヒストグラム中の最大頻度に相当する角度が複数存在する場合、センサの誤差分布に基づいて補正に最適な傾斜角を選択してもよい。具体的な方法として、誤差が小さい方、すなわちセンサの出力角度に近い方の角度を補正に最適な角度として選択することが考えられる。
（７）上記実施の形態１では、ステップＳ１０６で最も高い頻度の値が閾値を超えていない場合（ステップＳ１０６でＮｏ）、画像処理部３４は画像補正を行わずに処理を終了していたが、角度ヒストグラムの最大頻度が所定の閾値を下回っている場合に、当該最大頻度に相当する傾斜角による画像補正を抑止し、センシング部２０により検出された回転角を用いて撮像された画像を補正する処理を行うとしてもよい。
【００８６】
また、画像から特定の被写体を抽出、認識する処理を行い、その結果、被写体が検出された場合にはステップＳ１０７の補正処理を行うようにしてもよい。なお、この際検出するべき被写体としては、垂直に立っていることが一般的な木や電柱やビル等のようにその存在がある方向を指し示し得るものが望ましい。具体的には、例えば、予め電柱やビル等の画像を記憶しておき、画像認識技術を用いて、撮影した画像から抽出される抽出画像が記憶している画像のいずれかであると認識できる場合に、抽出画像の傾斜角に基づき補正を行う。
【００８７】
なお、画像から特定の被写体を検出する代わりに、センシング部２０にＧＰＳ（Ｇｌｏｂａｌ  Ｐｏｓｉｔｉｏｎｉｎｇ  Ｓｙｓｔｅｍ）などの位置検出手段を備え、位置検出手段によって画像が撮影された位置を測定し、例えばビルが多く建っている、すなわち水平ないし垂直の線分が多く存在する可能性が高い都市部など、特定の位置で撮影された画像である場合にはステップＳ１０７の補正処理を行うようにしてもよい。具体的には、例えば、緯度、経度情報と都市部等を示す場所情報とを対応付けて保持しておき、ＧＰＳにより検出された位置情報に相当する緯度、経度情報に対応付けられた場所情報が予め設定された場所情報である場合に、補正を行う。また、緯度、経度情報と都市部等を示す場所情報とを対応付けた情報をウェアラブルカメラで保持せずに、ＧＰＳにより検出された位置情報に対応する場所情報を外部のサーバに問い合わせるとしてもよい。
（８）また、図９のフローチャートでは撮影された画像から直接画像処理によって傾斜角を推定しているが、センシング部２０で得られる角度などを利用して画像を補正する処理と、画像から傾斜角を推定する処理の両方を行ってもよい。具体的な形態として、まずセンシング部２０で得られる角度を基に画像を補正し、センサの誤差に相当する部分を画像処理で補償することが考えられる。
【００８８】
上記実施の形態１では、図１０に示されるように、図９のステップＳ１０３で設定された角度範囲は１つの範囲であったが、角度範囲は（θ１≦θ≦θ２、θ３≦θ≦θ４、・・・）などのように複数の範囲として設定されてもよく、その場合は、それぞれの範囲に対して図１０のステップＳ２０３以降を繰り返せばよい。
（９）上記実施の形態２では、図１６に示されるように誤差確率分布は、加速度センサの角度が１度刻みであったが、その間の角度値、例えば１．５度などの値の場合は、前後のセンサ角度に対する誤差確率を線形補間して用いてもよい。同様に、差分角度についても隣接する角度間では線形補間した値を用いてもよい。
（１０）上記実施の形態２では、記憶部８０に記憶されている加速度センサの誤差確率分布は、図１６のように角度毎にテーブルの形式で保存されていたが、加速度センサの出力角度を変数とした数式モデルで表現してもよい。例えば、加速度センサの誤差がガウス分布であると仮定し、ガウス分布を表現するパラメータを記憶部８０に保存しておき、ステップＳ３０３でそのパラメータから算出してもよい。
【００８９】
同様に、上記実施の形態３においても、記憶部８０ｂに静止状態と動作状態のパラメータをそれぞれ記憶しておき、ステップＳ４０４で動作状態に応じたパラメータから誤差分布を算出してもよい。
（１１）上記実施の形態では、センシング部２０に備えられる加速度センサにより検出された回転角を基準とした範囲を加速度センサの誤差分布に基づいて定め、当該範囲内の線分を撮像された画像から検出したが、線分検出の際には範囲を制限せずに撮像された画像から線分を検出し、検出した線分の傾斜角毎の頻度を表す角度ヒストグラムを作成してもよい。そして、角度ヒストグラムに基づいて補正に最適な傾斜角を選択する際に、センシング部２０に備えられる加速度センサにより検出された回転角を基準とした範囲を加速度センサの誤差分布に基づいて定め、作成した角度ヒストグラムの当該範囲に対して重み付けを行い、重み付けした範囲から画像の補正に最適な傾斜角を選択するとしてもよい。
（１２）上記実施の形態３において、動作状態として複数の状態を定義し、そのそれぞれにおいて誤差確率分布を定義してもよい。例えばウェアラブルカメラの装着者が歩行している時と走行している時では動きの激しさが異なるため、生じる誤差の分布も異なると考えられる。これらの状態のそれぞれに対して誤差分布を個別に定義しておくことで、動作状態に応じてより正確に傾斜角を推定することができる。
（１３）上記実施の形態では、撮像装置として、ウェアラブルカメラを例に挙げ説明したが、ウェアラブルカメラに限らず、例えば、デジタルスチルカメラ、デジタルビデオカメラ、及び携帯電話機等であってもよい。
（１４）上記の実施形態では、撮像装置について説明したが、本発明は上記フローチャートで示したステップを含む方法、及び上記フローチャートで示したステップをコンピュータに実行させるプログラムコードを含むプログラムであってもよいし、そのプログラムを記憶している記録媒体であるとしてもよい。
【００９０】
また、上述の各実施の形態の構成は、典型的には集積回路であるＬＳＩ（Ｌａｒｇｅ  Ｓｃａｌｅ  Ｉｎｔｅｇｒａｔｉｏｎ）で実現されているものとしてもよい。これらは、個別に１チップ化されていてもよいし、全ての構成又は一部の構成を含むように１チップ化されてもよい。集積回路は、集積度の違いにより、ＩＣ、システムＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩ等と呼称されることもある。また、集積回路の手法は、ＬＳＩに限定されるものではなく、専用回路又は汎用プロセッサを用いて実現してもよい。さらに、ＦＰＧＡ（Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）や、ＬＳＩ内部の回路セルの接続や設定を再構成することができるリコンフィギュアラブル・プロセッサを利用してもよい。
【００９１】
さらに、半導体技術の進歩により、又は派生する別技術により現在の半導体技術に置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。例えば、バイオ技術の適用等が考えられる。
上記実施の形態及び上記変形例をそれぞれ組み合わせるとしてもよい。
また、本発明に係る撮像装置は、その範囲を逸脱することなく本発明の趣旨に沿って様々な変形又は修正が可能であることは言うまでもない。
【産業上の利用可能性】
【００９２】
本発明の撮像装置は、カメラの動きによる画角の変動を補正するための装置として有用であり、デジタルスチルカメラをはじめとする撮像装置、特に身体に装着可能な撮像装置に適用可能である。
【符号の説明】
【００９３】
１００、１００ａ、１００ｂ  ウェアラブルカメラ
１０  撮像部
２０  センシング部
３０、３０ａ、３０ｂ  補正処理部
３１  角度範囲決定部
３２  線分検出部
３３  ヒストグラム作成部
３４  画像処理部
３５  誤差確率分布取得部
３６  尤度算出部
３７  動作状態判定部
４０  出力部
５０  通信部
６０  表示部
７０  フレームメモリ
８０、８０ｂ  記憶部
【手続補正２】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する撮像装置であって、
撮像部と、
撮像部の物理的な傾きを検知するセンサと、
センサによって検知された物理的な傾きに基づいて、撮像画像に対して画像処理を行って、撮像画像の被写体に現れる複数の角度成分を検出する画像処理部と、
撮像画像の被写体に現れる複数の角度成分に対する統計処理を実行し、複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する補正処理部と
を備える撮像装置。
【請求項２】
前記画像処理は、撮像画像中の線分をその傾斜角とともに検出する処理であり、
前記物理的な傾きに基づく画像処理は、前記物理的な傾きを基準にして、画像処理の対象となる角度範囲を定めた上で、画像処理を行うことであり、
前記統計処理は、複数の角度成分の度数分布を示すヒストグラムを作成することであり、
複数の角度成分のうち、ある一定の基準を満たす角度成分は、作成されたヒストグラムにおいて、ある一定の基準を満たす度数を有する角度成分である
請求項１記載の撮像装置。
【請求項３】
前記補正処理部は、前記ある一定の基準を満たす度数を有する角度成分のうち、前記ヒストグラム中の最大の度数を有する角度成分を、回転変換のための回転角として選択する
請求項２記載の撮像装置。
【請求項４】
前記ある一定の基準を満たす角度成分が存在しない場合、前記補正処理部は前記センサにより検出された傾きを、回転変換のための回転角として選択する
請求項１記載の撮像装置。
【請求項５】
前記画像処理部は、前記撮像画像から特定の被写体を検出する検出部をさらに備え、
前記ある一定の基準を満たす角度成分が存在しない場合、前記補正処理部は前記特定の被写体の傾きを、回転変換のための回転角として選択する
請求項１記載の撮像装置。
【請求項６】
前記撮像装置は、自装置の位置を検出する位置検出部をさらに備え、
前記ある一定の基準を満たす角度成分が存在せず、かつ、前記位置検出部により検出された位置が予め設定されている特定の位置である場合、前記補正処理部は、前記ヒストグラム中の最大の度数を有する角度成分を、回転変換のための回転角として選択する
請求項２記載の撮像装置。
【請求項７】
単位角度毎の誤差分布を記憶している記憶部と、
前記センサにより検出された物理的な傾きに基づいて、当該傾きに相当する誤差分布を前記記憶部から取得する誤差分布取得部と、をさらに備え、
前記補正処理部は、前記ヒストグラムと前記誤差分布取得部により取得された誤差分布とから算出される傾き尤度のうち、最大の傾き尤度に相当する角度成分を、前記回転変換のための回転角として選択する
請求項２記載の撮像装置。
【請求項８】
単位角度毎の誤差分布の関係式を記憶している記憶部と、
前記センサにより検出された物理的な傾きに基づいて、前記関係式から誤差分布を算出する誤差分布算出部と、をさらに備え、
前記補正処理部は、前記ヒストグラムと前記誤差分布算出部により算出された誤差分布とから算出される傾き尤度のうち、最大の傾き尤度に相当する角度成分を、前記回転変換のための回転角として選択する
請求項２記載の撮像装置。
【請求項９】
前記記憶部は、自装置の静止状態における誤差分布と動作状態における誤差分布とをそれぞれ記憶しており、
前記誤差分布取得部は、前記センサにより検出された物理的な傾きに基づいて自装置の動作状態を判定し、判定した結果、静止状態であれば前記静止状態における誤差分布を取得し、動作状態であれば前記動作状態における誤差分布を取得する
請求項７記載の撮像装置。
【請求項１０】
前記記憶部は、自装置の静止状態における誤差分布の関係式と動作状態における誤差分布の関係式とをそれぞれ記憶しており、
前記誤差分布算出部は、前記センサにより検出された物理的な傾きに基づいて自装置の動作状態を判定し、判定した結果、静止状態であれば前記静止状態における誤差分布の関係式から誤差分布を算出し、動作状態であれば前記動作状態における誤差分布の関係式から誤差分布を算出する
請求項８記載の撮像装置。
【請求項１１】
前記撮像装置は、前記撮像画像の歪みを補正する歪み補正部をさらに備え、
前記画像処理部は、補正後の撮像画像に対して画像処理を行う
請求項１に記載の撮像装置。
【請求項１２】
前記補正処理部は、前記ヒストグラムにおいて複数の角度成分の度数分布を示す際に、各角度成分の度数に対する重み付けを行い、前記重みは前記撮像画像から検出された線分の長さが長いほど大きくなる
請求項２記載の撮像装置。
【請求項１３】
前記補正処理部は、前記ヒストグラムにおいて複数の角度成分の度数分布を示す際に、各角度成分の度数に対する重み付けを行い、前記重みは前記撮像画像から検出された線分が垂直に近いほど大きくなる
請求項２記載の撮像装置。
【請求項１４】
前記補正処理部は、前記ヒストグラムにおいて複数の角度成分の度数分布を示す際に、各角度成分の度数に対する重み付けを行い、前記重みは前記センサにより検出された物理的な傾きと前記撮像画像から検出された線分の傾斜角との差分が小さいほど大きくなる
請求項２記載の撮像装置。
【請求項１５】
撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する方法であって、
撮像部の物理的な傾きを検知する検知ステップと、
検知された物理的な傾きに基づいて、撮像画像に対して画像処理を行って、撮像画像の被写体に現れる複数の角度成分を検出する画像処理ステップと、
撮像画像の被写体に現れる複数の角度成分に対する統計処理を実行し、複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する補正処理ステップと
を備える方法。
【請求項１６】
撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する撮像装置に設けられるシステム集積回路であって、
撮像部と、
撮像部の物理的な傾きを検知するセンサと、
センサによって検知された物理的な傾きに基づいて、撮像画像に対して画像処理を行って、撮像画像の被写体に現れる複数の角度成分を検出する画像処理部と、
撮像画像の被写体に現れる複数の角度成分に対する統計処理を実行し、複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する補正処理部と
を備えるシステム集積回路。
【請求項１７】
撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する処理をコンピュータに行わせるプログラムであって、
撮像部の物理的な傾きを検知する検知手順と、
検知された物理的な傾きに基づいて、撮像画像に対して画像処理を行って、撮像画像の被写体に現れる複数の角度成分を検出する画像処理手順と、
撮像画像の被写体に現れる複数の角度成分に対する統計処理を実行し、複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する補正処理手順と
を備えるプログラム。
【請求項１８】
撮像画像に回転変換を施すことにより、撮像画像中の被写体の傾きを補正する撮像装置であって、
撮像部と、
撮像部の物理的な傾きを検知するセンサと、
撮像部による撮像画像に対して画像処理を行って、撮像画像の被写体に現れる複数の角度成分を検出する画像処理部と、
センサによって検知された物理的な傾きに基づいて、撮像画像の被写体に現れる複数の角度成分に対する統計処理を実行し、複数の角度成分のうちある一定の基準を満たす角度成分を、回転変換のための回転角として選択する補正処理部と、
を備える撮像装置。
【請求項１９】
撮像画像の被写体に現れる複数の角度成分は、撮像画像の被写体に現れる輝度勾配がなす角度であり、
前記統計処理は、複数の角度成分の度数分布を示すヒストグラムを作成することであり、
前記物理的な傾きに基づく統計処理は、前記物理的な傾きを基準にして、統計処理の対象となる角度範囲を定めた上で、統計処理を実行することである
請求項１８記載の撮像装置。
【手続補正３】
【補正対象書類名】図面
【補正対象項目名】全図
【補正方法】変更
【補正の内容】
【図１】
2009001512.tif 000028
【図２】
2009001512.tif 000029
【図３】
2009001512.tif 000030
【図４】
2009001512.tif 000031
【図５】
2009001512.tif 000032
【図６】
2009001512.tif 000033
【図７】
2009001512.tif 000034
【図８】
2009001512.tif 000035
【図９】
2009001512.tif 000036
【図１０】
2009001512.tif 000037
【図１１】
2009001512.tif 000038
【図１２】
2009001512.tif 000039
【図１３】
2009001512.tif 000040
【図１４】
2009001512.tif 000041
【図１５】
2009001512.tif 000042
【図１６】
2009001512.tif 000043
【図１７】
2009001512.tif 000044
【図１８】
2009001512.tif 000045
【図１９】
2009001512.tif 000046
【図２０】
2009001512.tif 000047
【図２１】
2009001512.tif 000048
【図２２】
2009001512.tif 000049
【図２３】
2009001512.tif 000050
【図２４】
2009001512.tif 000051
【図２５】
2009001512.tif 000052
【国際調査報告】
2009001512.tif 000053
2009001512.tif 000054