(57)【要約】【課題】画像内の重要度の高い物体を含む領域の解像度および露出が自動的に最良の状態となるような撮像装置および撮像方法を提供すること。【解決手段】画像内の物体の形状と記憶された物体の形状との一致度を判定し、判定結果に基づいて画像の解像度および露出を制御することにより、画像内の重要度の高い物体を含む領域の解像度および露出が自動的に最良の状態となるような撮像装置および撮像方法を提供することができる。【選択図】図２
2008053901.tif 000002
【特許請求の範囲】
【請求項１】
撮像される画像の解像度を制御する解像度制御部と撮像される画像の露出を制御する露出制御部とを有する撮像部を備えた撮像装置において、
前記撮像部で撮像された画像から物体を検出する物体検出部と、
少なくとも一つの物体の形状を記憶する形状記憶部と、
検出された前記物体と前記形状記憶部に記憶されている物体の形状との一致度を判定する重要度判定部と、
前記重要度判定部の判定結果に基づいて、前記撮像部で撮像される画像の解像度および露出の何れか一方あるいは両方を前記解像度制御部および前記露出制御部に制御させるための制御信号を出力する撮像制御部とを備えたことを特徴とする撮像装置。
【請求項２】
前記撮像制御部は、前記解像度制御部に、少なくとも前記重要度判定部によって一致度の高い物体と判定された物体を含む領域の画像の解像度が間引き撮像時の解像度よりも高くなるように制御させるための制御信号を出力することを特徴とする請求項１に記載の撮像装置。
【請求項３】
前記撮像制御部は、前記露出制御部に、少なくとも前記重要度判定部によって一致度の高い物体と判定された物体を含む領域の画像の露出が所定の露出となるように制御させるための制御信号を出力することを特徴とする請求項１または２に記載の撮像装置。
【請求項４】
前記撮像制御部の制御信号に従って前記解像度制御部および前記露出制御部によって制御された解像度および露出で撮像された画像を表示する表示部を備えたことを特徴とする請求項１乃至３の何れか１項に記載の撮像装置。
【請求項５】
前記物体検出部は、前記撮像制御部の制御信号に従って前記解像度制御部および前記露出制御部によって制御された解像度および露出を用いて前記撮像部で撮像された画像から物体を再検出し、
前記重要度判定部は、再検出された前記物体の重要度を再判定し、
前記重要度判定部による再判定の結果に基づいて重要度の高い物体の存在を告知する重要物体告知部を備えたことを特徴とする請求項１乃至４の何れか１項に記載の撮像装置。
【請求項６】
前記重要物体告知部は、音声による告知を行う発音部を有することを特徴とする請求項５に記載の撮像装置。
【請求項７】
前記重要物体告知部は、画像による告知を行う表示部を有することを特徴とする請求項５に記載の撮像装置。
【請求項８】
撮像を行う撮像工程と、
前記撮像工程で撮像された画像から物体を検出する物体検出工程と、
前記物体検出工程で検出された物体の重要度を判定する重要度判定工程と、
前記重要度判定工程での判定結果に基づいて、前記撮像工程で撮像される画像の解像度および露出の何れか一方あるいは両方を制御する撮像制御工程とを備えたことを特徴とする撮像装置の撮像方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、撮像装置および撮像方法に関し、特に、画像内の物体の形状と記憶された物体の形状との一致度を判定し、判定結果に基づいて画像内の物体を含む領域の解像度および露出の何れか一方あるいは両方を制御する撮像装置および撮像方法に関する。
【背景技術】
【０００２】
従来の車載用撮像装置においては、例えば走行中に道路上の車両や路側の人物や道路標識をカーナビゲーションシステムのモニタに映し出すために、あるいは、撮像した動画像から道路上の障害物や路側からの人物の飛び出し等を検知して警告を行う安全運転支援システムのために、車載カメラが撮像可能な最大の解像度よりも低い解像度の画像を高フレームレートで撮像することにより、限られた画像データ転送速度の中でフレーム間の画像の変化があまり大きくない滑らかな動画像を得るような工夫が行われている。
【０００３】
しかし、この方法では滑らかな動画像が得られるという意味では画質は向上するが、得られる画像の解像度が低いために、例えばモニタに映し出された画像内の物体が何であるか（例えば人物か街路樹の幹か等）の判別がつきにくかったり、あるいは、駐車禁止の標識等、走行に関係ない道路標識を速度制限の標識と見誤ったりといったような誤認の可能性があり、それによる事故等の危険が発生したりする。つまり、少なくとも画像内の注目したいあるいは注目する必要のある部分、つまり重要度の高い部分の解像度については、可能な限り高解像度にしたいという要求がある。また、画像の露出についても、画像内の重要度の高い部分が適正な露出となることが望ましい。
【０００４】
そこで、例えば、テレビ会議システムにおいて発言者の画像を鮮明に表示するための方法として、ステレオマイクから得られた音声信号により発言者の位置を推定し、推定された位置を中心に所定の範囲の画像領域を他の画像領域より高解像度にする方法が提案されている（例えば、特許文献１参照）。あるいは、車載カメラシステムにおいて、自車の運行速度に応じて撮影ズーム率を変更することにより撮影距離を変更して撮影することで、鮮明な画像を取得し、危険障害物の検知を容易にする方法が提案されている（例えば、特許文献２参照）。
【０００５】
また、スチルカメラの露出制御において、主要部測光エリア内に主要部以外の背景を含む率を少なくして主要部の測光精度を向上させるための方法として、測距回路により求められた主要被写体までの距離に基づいて主要被写体の顔サイズを決定し、決定された顔サイズをほぼカバーする主要部測光エリアを求め、主要部測光エリア内に位置する多分割測光素子の出力により露出制御を行う方法が提案されている（例えば、特許文献３参照）。さらに、車載用カメラにおいて、画面の高輝度部分の影響を排除して自車が走行する車線部分の輝度レベルを安定に保つために、画像内の自車が走行する車線部分を検出し、車線部分の輝度が予め定められた目標輝度となるようにアイリスあるいはシャッタを調節して露出制御を行う方法が提案されている（例えば、特許文献４参照）。
【特許文献１】特開平６−２１７２７６号公報
【特許文献２】特開２００５−２７４５１８号公報
【特許文献３】特開平５−６６４５８号公報
【特許文献４】特開平８−２４０８３３号公報
【発明の開示】
【発明が解決しようとする課題】
【０００６】
しかし、特許文献１の方法では、音声信号により発言者を特定しているため、テレビ会議システムのような室内の限られた条件下では発言者を特定できても、車載用撮像装置のような屋外で距離も様々で騒音も多いといった条件下では適用は困難である。
【０００７】
また、特許文献２の方法では、車速に応じてズームされるために、例えば高速走行時は画角が狭くなって周囲の画像が得られない状態、つまり視野が狭くなった状態となり、自車の側方等から向かって来る障害物を見落とすという問題が発生する。
【０００８】
さらに、特許文献３の方法では、主要被写体までの距離情報を得るために測距回路が必須でシステムが複雑で大掛かりとなり、さらに対象を人物に限定しているために、車載用撮像装置のように多様な物体を撮像対象とするシステムにはそぐわない。
【０００９】
また、特許文献４の方法では、道路に露出を合わせるようになっており、画像内の重要度の高い部分が必ずしも適正な露出となるわけではない。
【００１０】
本発明は、上記事情に鑑みてなされたもので、画像内の重要度の高い物体を含む領域の解像度および露出が自動的に最良の状態となるような撮像装置および撮像方法を提供することを目的とする。
【課題を解決するための手段】
【００１１】
本発明の目的は、下記構成により達成することができる。
【００１２】
１．撮像される画像の解像度を制御する解像度制御部と撮像される画像の露出を制御する露出制御部とを有する撮像部を備えた撮像装置において、
前記撮像部で撮像された画像から物体を検出する物体検出部と、
少なくとも一つの物体の形状を記憶する形状記憶部と、
検出された前記物体と前記形状記憶部に記憶されている物体の形状との一致度を判定する重要度判定部と、
前記重要度判定部の判定結果に基づいて、前記撮像部で撮像される画像の解像度および露出の何れか一方あるいは両方を前記解像度制御部および前記露出制御部に制御させるための制御信号を出力する撮像制御部とを備えたことを特徴とする撮像装置。
【００１３】
２．前記撮像制御部は、前記解像度制御部に、少なくとも前記重要度判定部によって一致度の高い物体と判定された物体を含む領域の画像の解像度が間引き撮像時の解像度よりも高くなるように制御させるための制御信号を出力することを特徴とする１に記載の撮像装置。
【００１４】
３．前記撮像制御部は、前記露出制御部に、少なくとも前記重要度判定部によって一致度の高い物体と判定された物体を含む領域の画像の露出が所定の露出となるように制御させるための制御信号を出力することを特徴とする１または２に記載の撮像装置。
【００１５】
４．前記撮像制御部の制御信号に従って前記解像度制御部および前記露出制御部によって制御された解像度および露出で撮像された画像を表示する表示部を備えたことを特徴とする１乃至３の何れか１項に記載の撮像装置。
【００１６】
５．前記物体検出部は、前記撮像制御部の制御信号に従って前記解像度制御部および前記露出制御部によって制御された解像度および露出を用いて前記撮像部で撮像された画像から物体を再検出し、
前記重要度判定部は、再検出された前記物体の重要度を再判定し、
前記重要度判定部による再判定の結果に基づいて重要度の高い物体の存在を告知する重要物体告知部を備えたことを特徴とする１乃至４の何れか１項に記載の撮像装置。
【００１７】
６．前記重要物体告知部は、音声による告知を行う発音部を有することを特徴とする５に記載の撮像装置。
【００１８】
７．前記重要物体告知部は、画像による告知を行う表示部を有することを特徴とする５に記載の撮像装置。
【００１９】
８．撮像を行う撮像工程と、
前記撮像工程で撮像された画像から物体を検出する物体検出工程と、
前記物体検出工程で検出された物体の重要度を判定する重要度判定工程と、
前記重要度判定工程での判定結果に基づいて、前記撮像工程で撮像される画像の解像度および露出の何れか一方あるいは両方を制御する撮像制御工程とを備えたことを特徴とする撮像装置の撮像方法。
【発明の効果】
【００２０】
本発明によれば、画像内の物体の形状と記憶された物体の形状との一致度を判定し、判定結果に基づいて画像の解像度および露出を制御することにより、画像内の重要度の高い物体を含む領域の解像度および露出が自動的に最良の状態となるような撮像装置および撮像方法を提供することができる。
【発明を実施するための最良の形態】
【００２１】
以下、本発明を図示の実施の形態に基づいて説明するが、本発明は該実施の形態に限られない。なお、図中、同一あるいは同等の部分には同一の番号を付与し、重複する説明は省略する。
【００２２】
まず最初に、本発明における撮像装置の一例である車載用撮像装置について、図１を用いて説明する。図１は車載用撮像装置１００の概要を示す模式図で、図１（ａ）は車載用撮像装置１００を搭載した車両２００が道路上を走行している状態を上空から見た模式図、図１（ｂ）はその時の車載用撮像装置１００で撮像された画像の模式図である。
【００２３】
図１（ａ）および（ｂ）において、車載用撮像装置１００を搭載した車両２００は、白線２４１と２４２とで示された車線２５１上を紙面の右から左に走行している。車両２００の前方には同一の車線２５１上に車両２１０が同方向に走行しており、車両２００の進行方向に向かって白線２４１の左側には人物２２０と道路標識２３０（この例では制限速度６０ｋｍの標識）とが立っている。車両２００の進行方向に向かって白線２４２の右側には白線２４２と２４３とで示された車線２５２がある。
【００２４】
本例においては、上述した重要度の高い部分に相当するのは、前方を走行する車両２１０、左路側の人物２２０および道路標識２３０である。以下、画像内の重要度の高い物体を含む領域を重要物エリアＮＡと言う。なお、ここでは車載用撮像装置１００として車両前方を撮像する例を示したが、これに限るものではなく、車両後方、側方を撮像するものであってもよい。さらに、本発明における撮像装置は、本例のような車載用撮像装置に限るものではなく、例えば路側や高速道路の料金所等に設置された定点撮像装置であってもよい。このような定点撮像装置においては、例えば車両のナンバープレートや運転席や助手席にいる人物の顔といったものも上述した重要度の高い物体に相当すると考えられる。
【００２５】
次に、車載用撮像装置１００の第１の実施の形態について、図２および図３を用いて説明する。
【００２６】
図２は、車載用撮像装置１００の構成を示すブロック図である。図２において、車載用撮像装置１００は、撮像部１１０、物体検出部１２０、重要度判定部１３０、撮像制御部１４０、画像処理部１５０および表示部１６０等で構成されている。
【００２７】
撮像部１１０で、撮像部１１０が持つ最大解像度よりも低い解像度で撮像（以下、間引き撮像と言う）された画像信号１１０ａは物体検出部１２０に入力され、物体検出が行われる。物体検出部１２０で検出された輪郭形状情報１２０ａは重要度判定部１３０に入力され、重要度が判定される。一方、間引き撮像された画像信号１１０ａは、画像処理部１５０に入力されて表示のための既定の画像処理が施され、例えばカーナビゲーションシステムのモニタ等である表示部１６０に表示される。
【００２８】
重要度判定部１３０で判定された重要度情報１３０ａおよび重要物エリア座標情報１３０ｂは撮像制御部１４０に入力され、重要度に応じて撮像部１１０の撮像動作を制御する制御信号１４０ａに反映される。具体的には、重要物エリアＮＡの解像度を間引き撮像時の解像度よりも高く制御する、あるいは重要物エリアＮＡの露出が所定の露出となるように制御するような制御信号１４０ａが出力される。解像度と露出の両方を共に制御してもよい。ここに、所定の露出とは、例えば表示部１６０で再現可能な輝度範囲の中央近傍の輝度等を意味する。
【００２９】
制御信号１４０ａは、画像処理部１５０にも入力され、撮像部１１０の撮像動作の制御に合わせた既定の画像処理の選択が行われる。上述した物体の重要度が反映されて撮像された画像信号１１０ａは、画像処理部１５０に入力されて表示のための既定の画像処理が施され、表示部１６０に表示され、運転者が視認できる状態となる。
【００３０】
図３は、図２に示した車載用撮像装置１００の動作の流れを示すフローチャートである。図３において、ステップＳ１０１（撮像工程）で撮像部１１０によって間引き撮像が行われ、画像信号１１０ａが物体検出部１２０に入力される。ステップＳ１０３（物体検出工程）で物体検出部１２０によって画像信号１１０ａから物体が検出され、輪郭形状情報１２０ａが重要度判定部１３０に入力される。ステップＳ１０５（重要度判定工程）で重要度判定部１３０によって輪郭形状情報１２０ａから物体の重要度が判定され、ステップＳ１０７で判定結果から重要度の高い物体の有無が判断される。
【００３１】
重要度の高い物体がない場合（ステップＳ１０７；Ｎｏ）、ステップＳ１１３に進み、ステップＳ１１３（表示工程）で間引き撮像された画像が表示部１６０に表示される。ステップＳ１１５で上述した一連の動作を終了するか否かが確認され、終了する場合（ステップＳ１１５；Ｙｅｓ）にはそのまま動作が終了される。動作を終了せず、撮像を継続する場合（ステップＳ１１５；Ｎｏ）、ステップＳ１０１に戻り動作が継続される。
【００３２】
ステップＳ１０７で重要度の高い物体がある場合（ステップＳ１０７；Ｙｅｓ）、重要度情報１３０ａおよび重要物エリア座標情報１３０ｂが撮像制御部１４０に入力されてステップＳ１１１に進む。ステップＳ１１１（撮像制御工程および撮像工程）で撮像制御部１４０の制御信号１４０ａに従って撮像部１１０の解像度および露出の何れか一方あるいは両方の制御が変更されて撮像が行われ、画像信号１１０ａが画像処理部１５０に入力される。
【００３３】
ステップＳ１１３（表示工程）で物体の重要度が反映されて撮像された画像が表示部１６０に表示され、運転者が重要度の高い物体を視認できる状態となる。ステップＳ１１５で上述した一連の動作を終了するか否かが確認され、終了する場合（ステップＳ１１５；Ｙｅｓ）にはそのまま動作が終了される。動作を終了せず、撮像を継続する場合（ステップＳ１１５；Ｎｏ）、ステップＳ１０１に戻り動作が継続される。
【００３４】
次に、図２に示した各部の詳細について、図４乃至図９を用いて説明する。
【００３５】
図４は、上述した撮像部１１０の構成を示すブロック図である。図４において、撮像部１１０は、撮像レンズ１１１、絞り１１２、撮像素子１１３、アンプ１１４、アナログデジタル（Ａ／Ｄ）変換器１１５、インターフェース１１６、タイミングジェネレータ１１７、絞り制御部１１８等で構成されている。
【００３６】
撮像レンズ１１１で結像され、絞り制御部１１８によって制御された絞り１１２で光量制御された被写体からの光は撮像素子１１３で光電変換され、アンプ１１４で増幅され、Ａ／Ｄ変換器でデジタルデータに変換され、インターフェース１１６を介して画像信号１１０ａとして出力される。これらの一連の撮像動作およびアンプ１１４の増幅率は、タイミングジェネレータ１１７によって制御される。
【００３７】
一方、上述した撮像制御部１４０からの制御信号１４０ａはインターフェース１１６を介してタイミングジェネレータ１１７および絞り制御部１１８に入力され、制御信号１４０ａに従って、撮像素子１１３の読出の解像度、露出時間およびアンプ１１４の増幅率、および絞り１１２の絞り値等の制御が行われる。ここに、タイミングジェネレータ１１７は本発明における解像度制御部として機能し、タイミングジェネレータ１１７および絞り制御部１１８は本発明における露出制御部として機能する。
【００３８】
図５は、上述した物体検出部１２０および重要度判定部１３０の構成を示すブロック図である。図５において、物体検出部１２０は、エッジ画像算出部１２１および輪郭形状抽出部１２２等で構成され、重要度判定部１３０は、輪郭形状比較部１３１、重要物エリア座標算出部１３２、テンプレート記憶部１３３、テンプレート選択部１３４、テンプレート変形処理部１３５等で構成されている。
【００３９】
上述した間引き撮像の画像信号１１０ａがエッジ画像算出部１２１に入力され、画像信号１１０ａに対してエッジ検出用フィルタであるソベルフィルタ等のフィルタ処理が行われ、重要度判定部１３０で行われるテンプレートマッチングのためのエッジ画像が算出される。エッジ検出用フィルタはソベルフィルタ以外のフィルタであってもよいし、エッジ画像の代わりに二値化画像を用いてもよい。エッジ画像算出部１２１で算出されたエッジ画像は輪郭形状抽出部１２２に入力されて物体の輪郭形状が抽出され、輪郭形状情報１２０ａとして重要度判定部１３０に入力される。
【００４０】
重要度判定部１３０のテンプレート記憶部１３３には、人物、車両、道路標識等の重要度の高い物体の輪郭形状がテンプレートとして記憶されている。テンプレート選択部１３４は、テンプレート記憶部１３３に記憶されている各種のテンプレートから輪郭形状情報１２０ａと比較するためのテンプレートを選択する。テンプレート変形処理部１３５は、テンプレート選択部１３４によって選択されたテンプレートと輪郭形状情報１２０ａとを比較するために、選択されたテンプレートに拡大、縮小、回転、反転等の処理を施して輪郭形状比較部１３１に入力するとともに、輪郭形状比較部１３１による比較で、選択されたテンプレートと輪郭形状情報１２０ａとの一致度が高いと判断された場合には、重要度情報１３０ａを出力する。
【００４１】
輪郭形状比較部１３１は、テンプレート変形処理部１３５で変形処理された選択されたテンプレートと輪郭形状情報１２０ａとを画素単位で比較し、一致する画素の割合が既定値を超える場合に選択されたテンプレートと輪郭形状情報１２０ａとの一致度が高いと判断する。ここに、テンプレート記憶部１３３は本発明における形状記憶部として機能する。
【００４２】
重要エリア座標算出部１３２は、輪郭形状比較部１３１によって選択されたテンプレートと輪郭形状情報１２０ａとが一致度が高いすると判断された場合に、画像信号１１０ａ上での輪郭形状の座標を重要物エリア座標情報１３０ｂとして出力する。重要物エリアＮＡの形状は、選択されたテンプレートの形状であっても、輪郭形状情報１２０ａで示される形状であってもよいし、後に図７等で示すような輪郭形状情報１２０ａで示される重要度の高い物体の形状に外接する四角形であってもよい。
【００４３】
ここでは重要度判定方法としてテンプレートマッチングを用いた方法を例示したが、これに限るものではなく、他の画像認識方法を用いて重要度の判定を行ってもよい。また、重要度の高い物体は一つと限るものではなく、１つの画像信号１１０ａから複数の物体を検出し、それぞれに対して重要度を判定して重要度情報１３０ａおよび重要物エリア座標情報１３０ｂを出力してもよいし、抽出された複数の重要度情報の中から最も重要度の高いものを選択して重要度情報１３０ａおよび重要物エリア座標情報１３０ｂを出力してもよい。
【００４４】
図６は、撮像制御部１４０の制御信号１４０ａに従って制御される撮像部１１０の間引き撮像を説明する模式図で、図６（ａ）は撮像部１１０の撮像素子１１３の仕様を例示した模式図、図６（ｂ）は垂直方向を１／２に間引きする場合の駆動方法を例示した模式図、図６（ｃ）は間引き駆動によって生成される間引き画像を例示した模式図である。
【００４５】
図６（ａ）において、撮像素子１１３は、例えば、画素数がＶＧＡ（水平６４０画素×垂直４８０行）で、毎秒３０フレームのフレームレートで撮像可能な撮像素子であるとする。この撮像素子１１３を、図６（ｂ）に示すように垂直方向に１行読み出し、続く１行を読み出さずに読み飛ばすという垂直１／２間引き駆動すると、図６（ｃ）に示すような水平６４０画素×垂直２４０行の垂直１／２間引き画像を得ることができ、この場合のフレームレートは毎秒６０フレームとなり、高速読出が可能となる。
【００４６】
なお、撮像素子１１３がモノクロームの場合や、所謂ナイトビジョンと呼ばれる遠赤外線カメラの画像等の場合には、上述した「垂直方向に１行読み出し、続く１行を読み飛ばす」ことで垂直１／２間引き駆動が可能となるが、例えば撮像素子１１３がベイヤ配列の原色（ＲＧＢ）カラーフィルタを備えている場合は、図６（ｂ）で「垂直方向に２行読み出し、続く２行を読み飛ばす」ことで、色情報の欠落を起こさずに垂直１／２間引き駆動が可能となる。
【００４７】
図７は、図６に示した撮像部１１０の間引き撮像において、重要度の高い物体が存在する場合の画像信号の読出方法を示す模式図である。図７において、領域Ｂの左側に重要物エリアＮＡ（ここでは、図５で説明した重要度の高い物体の形状に外接する四角形で表される）がある場合、重要度の高い物体が存在しない領域Ａおよび領域Ｃについては、図６に示したと同じ垂直１／２間引き駆動を行って垂直１／２間引き画像を得る。領域Ｂについては、図６の垂直１／２間引き駆動は行わず、垂直行を全て読み出す全行読出駆動を行う。
【００４８】
図６および図７に示した例では、重要物エリアＮＡがある領域Ｂについては、水平、垂直共に全画素の信号を読み出すようにしたが、撮像素子１１３が垂直だけでなく水平の各画素についても読み出すか読み飛ばすかを設定できるような構成のものであれば、重要物エリアＮＡの部分だけを全画素読出し、その他の重要度の高い物体の存在しない部分については水平、垂直共に間引き駆動を行うことができる。この例を示したのが図８である。
【００４９】
図８においては、画面左下に重要物エリアＮＡがあり、その他の部分には重要度の高い物体は存在しないとする。この場合、画面左下の重要物エリアＮＡのみ全画素読出を行い、その他の領域については水平、垂直共に例えば１／２間引き駆動を行う。この場合、読み出す画素数が全画素読出の場合の約１／４となるため、フレームレートは約４倍の毎秒約１２０フレームとなり、図６および図７の例よりもさらに高速読出が可能となるため、高速で移動する車両に備えられる車載用撮像装置に最適のものとなる。
【００５０】
図７および図８の例では、重要物エリアＮＡが一つの場合を示したが、例えば図１に示した、前方を走行する車両２１０、左路側の人物２２０および道路標識２３０の３つの重要度の高い物体が存在する場合のように複数の重要度の高い物体が存在する場合には、重要度の高い物体を含むエリアを、それぞれ重要物エリアＮＡとして表示してもよい。
【００５１】
次に、重要物エリアＮＡに露出を合わせる方法について図９を用いて説明する。ここでは、重要度の高い物体の種類とそれが存在する画面内の位置について重み付けを行い、その結果から露出を決定する方法について説明する。
【００５２】
図９は、撮像制御部１４０の制御信号１４０ａに従って制御される撮像部１１０の露出制御を説明する模式図で、図９（ａ）は重要度の高い物体の種類による重み付けを示す模式図、図９（ｂ）は重要度の高い物体の存在する画面内の位置による重み付けを示す模式図である。
【００５３】
ここで、重要度の高い物体の種類による重み付け係数をＷ１とし、例えば、
（１）重要度の高い物体が人物の場合、Ｗ１＝３
（２）重要度の高い物体が車両や道路標識の場合、Ｗ１＝２
（３）重要度の高い物体が存在しない場合、Ｗ１＝１
のように重み付け係数Ｗ１を設定する。
【００５４】
そして例えば図１に示したように画面左下に人物が存在する場合、図９（ａ）において、画面左下の重要物エリアＮＡについては重み付け係数Ｗ１＝３であり、その他の部分については重み付け係数Ｗ１＝１である。
【００５５】
次に、重要度の高い物体の存在する画面内の位置による重み付け係数をＷ２とし、危険度の高い位置ほど重み付け係数Ｗ２を大きく設定する。例えば、
（ａ）道路内は道路外よりＷ２が大きくなるように、
（ｂ）自車に近いほどＷ２が大きくなるように、
設定する。
【００５６】
図９（ｂ）には重み付け係数Ｗ２の設定の例を示した。例えば、自車の直前が一番Ｗ２が大きく（Ｗ２＝１０）、次いで左右の直前がＷ２が高く（Ｗ２＝８）設定され、遠方あるいは空の部分はＷ２が低く（Ｗ２＝１）設定されている。ここでは重み付け係数Ｗ２が左右対称の例を示したが、例えば、日本では車両が左側車線を走行するために左側から人物が飛び出す危険が高いので、同じ距離でも右よりも左の重み付け係数Ｗ２を高くするといったことでもよい。
【００５７】
次に、上述した重み付け係数Ｗ１およびＷ２を用いて、画面各部の輝度評価値を決定する。撮像された画像の画素Ｐ（ｘ，ｙ）における輝度値をＹ（ｘ，ｙ）、輝度評価値をＹｉ（ｘ，ｙ）とし、重み付け係数をそれぞれＷ１（ｘ，ｙ）、Ｗ２（ｘ，ｙ）とすると、
Ｙｉ（ｘ，ｙ）＝Ｗ１（ｘ，ｙ）×Ｗ２（ｘ，ｙ）×Ｙ（ｘ，ｙ）
となる。
【００５８】
さらに、Ｙｉ（ｘ，ｙ）の全画素平均を求め、それを画像の輝度評価値Ｙｉとし、輝度評価値Ｙｉが所定の輝度となるように絞り１１２の絞り値、撮像素子１１３の露出時間、アンプ１１４の増幅率等を制御することで、重要物エリアＮＡの露出を所定の露出に合わせることができる。
【００５９】
以上に述べたように、本第１の実施の形態によれば、間引き撮像によって得られた画像内の物体の形状とテンプレート記憶部１３３に記憶された重要度の高い物体の形状とを比較して一致度を判定し、判定結果に基づいて一致度の高い物体を含むエリアすなわち重要物エリアＮＡの解像度を高くして撮像した画像を表示部に表示することで運転者が重要度の高い物体を高解像度で視認できるようになり、また、同じく判定結果に基づいて重要物エリアＮＡの露出を所定の露出に合わせることで運転者が重要度の高い物体を適正な明るさで正確に視認できるようになり、重要度の高い物体の誤認や、衝突、人身事故等の危険を回避する安全運転に大きく寄与することができる。
【００６０】
次に、車載用撮像装置１００の第２の実施の形態について、図１０および図１１を用いて説明する。図１０は、車載用撮像装置１００の構成を示すブロック図である。図１０において、車載用撮像装置１００は、撮像部１１０、物体検出部１２０、重要度判定部１３０、撮像制御部１４０および警告部１７０等で構成されている。
【００６１】
最初に、撮像部１１０で、間引き撮像された画像信号１１０ａは物体検出部１２０に入力され、ラフな物体検出が行われる。物体検出部１２０で検出された輪郭形状情報１２０ａは重要度判定部１３０に入力され、ラフな重要度判定が行われる。撮像部１１０は図４に示したと同じものでよく、物体検出部１２０および重要度判定部１３０は図５に示したと同じものでよい。
【００６２】
重要度判定部１３０でラフに判定された重要度情報１３０ａおよび重要物エリア座標情報１３０ｂは撮像制御部１４０に入力され、重要度に応じて撮像部１１０の撮像動作を制御するための制御信号１４０ａに反映される。ここでは、重要物エリアＮＡの解像度を間引き撮像よりも高く制御し、かつ、重要物エリアＮＡの露出を所定の露出に制御するような制御信号１４０ａが出力されるとする。
【００６３】
上述した物体のラフな重要度が反映されて、重要物エリアＮＡが高解像度でかつ所定の露出に制御された画像信号１１０ａは、再度物体検出部１２０に入力され、再度物体検出が行われる。物体検出部１２０で再検出された輪郭形状情報１２０ａは重要度判定部１３０に入力され、重要度が再判定される。
【００６４】
再判定でも重要度の高い物体が存在すると判定された場合、撮像制御部１４０は重要物体情報１４０ｂを警告部１７０に出力する。警告部１７０は、重要物体情報１４０ｂを受けて、音声による告知を行う発音部１８０に信号を送信し、重要度の高い物体の存在を、例えば「左側に人物がいます」等の言葉あるいはブザー等の警告音により告知する。
【００６５】
重要度の高い物体の存在の告知は音声による告知に限るものではなく、例えば第１の実施の形態と同様に、カーナビゲーションシステムのモニタ等の表示部１６０に、重要物エリアＮＡが高解像度でかつ所定の露出に制御された画像を表示してもよいし、発光ダイオード等を点滅させて警告表示してもよい。ここに、警告部１７０および発音部１８０あるいは表示部１６０は本発明における重要物体告知部として機能する。
【００６６】
図１１は、図１０に示した車載用撮像装置１００の第２の実施の形態における動作の流れを示すフローチャートである。図１１において、ステップＳ２０１（撮像工程）で撮像部１１０によって間引き撮像が行われ、画像信号１１０ａが物体検出部１２０に入力される。ステップＳ２０３（物体検出工程）で物体検出部１２０によって画像信号１１０ａから物体がラフに検出され、輪郭形状情報１２０ａが重要度判定部１３０に入力される。ステップＳ２０５（重要度判定工程）で重要度判定部１３０によって輪郭形状情報１２０ａから物体の重要度がラフに判定され、ステップＳ２０７で判定結果から重要度の高い物体の有無が判断される。
【００６７】
重要度の高い物体がない場合（ステップＳ２０７；Ｎｏ）、ステップＳ２２３に進み、ステップＳ２２３で上述した一連の動作を終了するか否かが確認され、終了する場合（ステップＳ２２３；Ｙｅｓ）にはそのまま動作が終了される。動作を終了せず、撮像を継続する場合（ステップＳ２２３；Ｎｏ）、ステップＳ２０１に戻り動作が継続される。
【００６８】
ステップＳ２０７で重要度の高い物体がある場合（ステップＳ２０７；Ｙｅｓ）、重要度情報１３０ａおよび重要物エリア座標情報１３０ｂが撮像制御部１４０に入力されてステップＳ２１１に進む。ステップＳ２１１（撮像制御工程および撮像工程）で撮像制御部１４０の制御信号１４０ａに従って撮像部１１０の重要物エリアＮＡの解像度が高解像度に設定され、かつ重要物エリアＮＡの露出が所定の露出に設定されて撮像が行われ、画像信号１１０ａが再度物体検出部１２０に入力される。
【００６９】
ステップＳ２１３（物体検出工程）で物体検出部１２０によって画像信号１１０ａから再度物体検出が行われ、輪郭形状情報１２０ａが再度重要度判定部１３０に入力される。ステップＳ２１５（重要度判定工程）で重要度判定部１３０によって輪郭形状情報１２０ａから物体の重要度が再判定され、ステップＳ２１７で再判定結果から重要度の高い物体の有無が再判断される。
【００７０】
重要度の高い物体がない場合（ステップＳ２１７；Ｎｏ）、ステップＳ２２３に進み、ステップＳ２２３で上述した一連の動作を終了するか否かが確認され、終了する場合（ステップＳ２２３；Ｙｅｓ）にはそのまま動作が終了される。動作を終了せず、撮像を継続する場合（ステップＳ２２３；Ｎｏ）、ステップＳ２０１に戻り動作が継続される。
【００７１】
ステップＳ２１７で重要度の高い物体がある場合（ステップＳ２１７；Ｙｅｓ）、撮像制御部１４０から重要物体情報１４０ｂが警告部１７０に出力される。ステップＳ２２１（重要物体告知工程）で、警告部１７０および発音部１８０により重要度の高い物体の存在を言葉あるいはブザー等の警告音や画像等により運転者に告知する。
【００７２】
ステップＳ２２３で上述した一連の動作を終了するか否かが確認され、終了する場合（ステップＳ２２３；Ｙｅｓ）にはそのまま動作が終了される。動作を終了せず、撮像を継続する場合（ステップＳ２２３；Ｎｏ）、ステップＳ２０１に戻り動作が継続される。
【００７３】
本第２の実施の形態においては、重要物体の存在を音声や画像で運転者に告知するとしたが、それに限るものではなく、例えば重要物体の存在を検知した場合に、ブレーキ操作やハンドル操作に直接あるいは間接に検出結果をフィードバックすることでもよい。
【００７４】
以上に述べたように、本第２の実施の形態によれば、間引き撮像によって得られた画像内の物体の形状とテンプレート記憶部１３３に記憶された重要度の高い物体の形状とをラフに比較して一致度を判定し、ラフな判定結果に基づいて一致度の高い物体を含むエリアすなわち重要物エリアＮＡの解像度を高くし、かつ露出を適正にして撮像した画像を用いて再度画像内の物体の形状とテンプレート記憶部１３３に記憶された重要度の高い物体の形状とを高精度に比較して一致度を判定することで、重要度の高い物体を高精度に検出することができ、検出結果に基づいて重要物体の存在を音声や画像で運転者に告知することで、運転者が重要度の高い物体の存在を正確に把握できるようになり、衝突や人身事故等の危険を回避する安全運転に大きく寄与することができる。
【００７５】
以上に述べたように、本発明によれば、画像内の物体の形状と記憶された物体の形状との一致度を判定し、判定結果に基づいて画像の解像度および露出を制御することにより、画像内の重要度の高い物体を含む領域の解像度および露出が自動的に最良の状態となるような撮像装置および撮像方法を提供することができる。
【００７６】
尚、本発明に係る撮像装置および撮像方法を構成する各構成の細部構成および細部動作に関しては、本発明の趣旨を逸脱することのない範囲で適宜変更可能である。
【図面の簡単な説明】
【００７７】
【図１】車載用撮像装置の概要を示す模式図である。
【図２】車載用撮像装置の第１の実施の形態の構成を示すブロック図である。
【図３】図２に示した車載用撮像装置の動作の流れを示すフローチャートである。
【図４】撮像部の構成を示すブロック図である。
【図５】物体検出部および重要度判定部の構成を示すブロック図である。
【図６】撮像部の間引き撮像を説明する模式図である。
【図７】重要度の高い物体が存在する場合の画像信号の読出方法を示す模式図である。
【図８】撮像部の間引き撮像の別法を説明する模式図である。
【図９】撮像部の露出制御を説明する模式図である。
【図１０】車載用撮像装置の第２の実施の形態の構成を示すブロック図である。
【図１１】図１０に示した車載用撮像装置の動作の流れを示すフローチャートである。
【符号の説明】
【００７８】
１００  車載用撮像装置
１１０  撮像部
１１１  撮像レンズ
１１２  絞り
１１３  撮像素子
１１４  アンプ
１１５  アナログデジタル（Ａ／Ｄ）変換器
１１６  インターフェース
１１７  タイミングジェネレータ
１１８  絞り制御部
１２０  物体検出部
１３０  重要度判定部
１４０  撮像制御部
１５０  画像処理部
１６０  表示部
１７０  警告部
１８０  発音部
２００  車両
２１０  車両
２２０  人物
２３０  道路標識
２４１  白線
２４２  白線
２４３  白線
２５１  車線
２５２  車線
ＮＡ  重要物エリア
Ｗ１  （重要度の高い物体の種類による）重み付け係数
Ｗ２  （重要度の高い物体の存在する画面内の位置による）重み付け係数
【図１】
2008053901.tif 000003
【図２】
2008053901.tif 000004
【図３】
2008053901.tif 000005
【図４】
2008053901.tif 000006
【図５】
2008053901.tif 000007
【図６】
2008053901.tif 000008
【図７】
2008053901.tif 000009
【図８】
2008053901.tif 000010
【図９】
2008053901.tif 000011
【図１０】
2008053901.tif 000012
【図１１】
2008053901.tif 000013