(57)【特許請求の範囲】
【請求項１】
平面と、消失点に向かって延びる境界線が撮影されている時系列画像を取り込む画像取得手段と、
前記画像取得手段によって取り込まれた時系列画像の前記平面への逆投影画像を生成する逆投影画像生成手段と、
前記逆投影画像生成手段によって生成された逆投影画像上で前記境界線を検出する境界線検出手段と、
を具備し、
前記逆投影画像生成手段は、
前記時系列画像上での各点の輝度に基づくエッジ情報を前記平面へ逆投影することで逆投影像を生成し、
前記境界線検出手段は、
前記逆投影画像生成手段によって生成された逆投影画像に基づいて境界線候補を検出する境界線候補検出手段と、
前記境界線候補検出手段によって検出した境界線候補群から所定の条件に基づいて境界線を選択する境界線選択手段と、
を具備し、
前記境界線候補検出手段は、
前記逆投影画像生成手段によって生成された逆投影画像上で境界線候補線分を抽出する線分抽出手段と、
前記線分抽出手段によって抽出した境界線候補線分と、過去の時系列画像で検出された境界線候補の対応付けを行う対応付け手段と、
前記対応付け手段において対応のとれた境界線候補線分を境界線候補に統合することにより境界線候補を更新する境界線候補更新手段と、
前記対応付け手段において対応のとれなかった境界線候補線分を新たに境界線候補として生成する境界線候補登録手段と、
を具備した
ことを特徴とする画像処理装置。
【請求項２】
平面と、消失点に向かって延びる境界線が撮影されている時系列画像を取り込む画像取得手段と、
前記画像取得手段によって取り込まれた時系列画像の前記平面への逆投影画像を生成する逆投影画像生成手段と、
前記逆投影画像生成手段によって生成された逆投影画像上で前記境界線を検出する境界線検出手段と、
を具備し、
前記逆投影画像生成手段は、前記時系列画像上での各点の輝度に基づくエッジ情報を前記平面へ逆投影することで逆投影像を生成するものであって、
前記時系列画像上での各点における輝度の微分ベクトルを生成する微分ベクトル生成手段と、
前記時系列画像上での各点における境界線の方向に対する法線ベクトルを生成する法線ベクトル生成手段と、
前記時系列画像上での各点における前記微分ベクトル生成手段で求めた微分ベクトルと前記法線ベクトル生成手段で求めた法線ベクトルの内積を計算する内積計算手段と、
前記各点における前記内積計算手段で計算した内積値を前記平面へ逆投影変換してエッジ逆投影像を生成する逆投影変換手段と、
を具備した
ことを特徴とする画像処理装置。
【請求項３】
前記境界線候補検出手段は、
前記逆投影画像生成手段によって生成されたエッジ逆投影画像上における正の値を有する点ついて連続したエッジ強度のピークを連結して線分を求めると共に、前記エッジ逆投影画像上における負の値を有する点ついて連続したエッジ強度のピークを連結して線分を求め、
この線分の正負のペアを境界線の候補として抽出する
ことを特徴とする請求項１記載の画像処理装置。
【請求項４】
前記逆投影画像生成手段は、
前記時系列画像上での各点における輝度の微分ベクトルを生成する微分ベクトル生成手段と、
前記時系列画像上での各点における境界線の方向に対する法線ベクトルを生成する法線ベクトル生成手段と、
前記時系列画像上での各点における前記微分ベクトル生成手段で求めた微分ベクトルと前記法線ベクトル生成手段で求めた法線ベクトルの内積を計算する内積計算手段と、
前記各点における前記内積計算手段で計算した内積値を前記平面へ逆投影変換してエッジ逆投影像を生成する逆投影変換手段と、
を具備し、
前記境界線検出手段は、
前記検出した境界線の候補の前記逆投影画像上の各点から参考曲線を求め、
前記法線ベクトル生成手段は、
前記時系列画像上の各点において前記参考曲線を対応させ、各点における参考曲線の法線方向をその点の法線ベクトルとする
ことを特徴とする請求項３記載の画像処理装置。
【請求項５】
前記逆投影画像生成手段は、前記画像上での各点の濃淡情報を前記平面へ逆投影することで逆投影画像生成する
ことを特徴とする請求項１または２記載の画像処理装置。
【請求項６】
前記画像処理装置は、境界線を出力する境界線出力手段を有し、
この境界線出力手段は、
前記境界線検出手段によって検出された前記逆投影画像上の境界線を、前記時系列画像上に投影変換する境界線変換手段と、
前記境界線変換手段によって前記時系列画像上に変換された境界線を表示する境界線表示手段と、
を具備した
ことを特徴とする請求項１から５の少なくとも一項に記載の画像処理装置。
【請求項７】
平面と、消失点に向かって延びる境界線が撮影されている時系列画像を取り込む画像取得ステップと、
前記取り込まれた時系列画像の前記平面への逆投影画像を生成する逆投影画像生成ステップと、
前記逆投影画像生成ステップによって生成された逆投影画像上で前記境界線を検出する境界線検出ステップと、
を具備し、
前記逆投影画像生成ステップは、
前記時系列画像上での各点の輝度に基づくエッジ情報を前記平面へ逆投影することで逆投影像を生成し、
前記境界線検出ステップは、
前記逆投影画像生成ステップにおいて生成された逆投影画像に基づいて境界線候補を検出する境界線候補検出ステップと、
前記境界線候補検出ステップにおいて検出した境界線候補群から所定の条件に基づいて境界線を選択する境界線選択ステップと、
を具備し、
前記境界線候補検出ステップは、
前記逆投影画像生成ステップにおいて生成された逆投影画像上で境界線候補線分を抽出する線分抽出ステップと、
前記線分抽出ステップにおいて抽出した境界線候補線分と、過去の時系列画像で検出された境界線候補の対応付けを行う対応付けステップと、
前記対応付けステップにおいて対応のとれた境界線候補線分を境界線候補に統合することにより境界線候補を更新する境界線候補更新ステップと、
前記対応付けステップにおいて対応のとれなかった境界線候補線分を新たに境界線候補として生成する境界線候補登録ステップと、
を具備した
ことを特徴とする画像処理方法。
【請求項８】
平面と、消失点に向かって延びる境界線が撮影されている時系列画像を取り込む画像取得ステップと、
前記取り込まれた時系列画像の前記平面への逆投影画像を生成する逆投影画像生成ステップと、
前記逆投影画像生成ステップによって生成された逆投影画像上で前記境界線を検出する境界線検出ステップと、
を具備し、
前記逆投影画像生成ステップは、
前記時系列画像上での各点の輝度に基づくエッジ情報を前記平面へ逆投影することで逆投影像を生成し、
前記逆投影画像生成ステップは、
前記時系列画像上での各点における輝度の微分ベクトルを生成する微分ベクトル生成ステップと、
前記時系列画像上での各点における境界線の方向に対する法線ベクトルを生成する法線ベクトル生成ステップと、
前記時系列画像上での各点における前記微分ベクトル生成ステップで求めた微分ベクトルと前記法線ベクトル生成ステップで求めた法線ベクトルの内積を計算する内積計算ステップと、
前記各点における前記内積計算ステップで計算した内積値を前記平面へ逆投影変換してエッジ逆投影像を生成する逆投影変換ステップと、
を具備した
ことを特徴とする画像処理方法。
【請求項９】
平面と、消失点に向かって延びる境界線が撮影されている時系列画像を取り込む画像取得機能と、
前記画像取得機能によって取り込まれた時系列画像の前記平面への逆投影画像を生成する逆投影画像生成機能と、
前記逆投影画像生成機能によって生成された逆投影画像上で前記境界線を検出する境界線検出機能と、
を実現し、
前記逆投影画像生成機能は、
前記時系列画像上での各点の輝度に基づくエッジ情報を前記平面へ逆投影することで逆投影像を生成し、
前記境界線検出機能は、
前記逆投影画像生成機能によって生成された逆投影画像に基づいて境界線候補を検出する境界線候補検出機能と、
前記境界線候補検出機能によって検出した境界線候補群から所定の条件に基づいて境界線を選択する境界線選択機能と、
を実現し、
前記境界線候補検出機能は、
前記逆投影画像生成機能によって生成された逆投影画像上で境界線候補線分を抽出する線分抽出機能と、
前記線分抽出機能によって抽出した境界線候補線分と、過去の時系列画像で検出された境界線候補の対応付けを行う対応付け機能と、
前記対応付け機能において対応のとれた境界線候補線分を境界線候補に統合することにより境界線候補を更新する境界線候補更新機能と、
前記対応付け機能において対応のとれなかった境界線候補線分を新たに境界線候補として生成する境界線候補登録機能と、
をコンピュータによって実現する
ことを特徴とする画像処理方法のプログラム。
【請求項１０】
平面と、消失点に向かって延びる境界線が撮影されている時系列画像を取り込む画像取得機能と、
前記画像取得機能によって取り込まれた時系列画像の前記平面への逆投影画像を生成する逆投影画像生成機能と、
前記逆投影画像生成機能によって生成された逆投影画像上で前記境界線を検出する境界線検出機能と、
を実現し、
前記逆投影画像生成機能は、
前記時系列画像上での各点の輝度に基づくエッジ情報を前記平面へ逆投影することで逆投影像を生成し、
前記逆投影画像生成機能は、
前記時系列画像上での各点における輝度の微分ベクトルを生成する微分ベクトル生成機能と、
前記時系列画像上での各点における境界線の方向に対する法線ベクトルを生成する法線ベクトル生成機能と、
前記時系列画像上での各点における前記微分ベクトル生成機能で求めた微分ベクトルと前記法線ベクトル生成機能で求めた法線ベクトルの内積を計算する内積計算機能と、
前記各点における前記内積計算機能で計算した内積値を前記平面へ逆投影変換してエッジ逆投影像を生成する逆投影変換機能と、
をコンピュータによって実現する
ことを特徴とする画像処理方法のプログラム。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、ＴＶ・ビデオカメラなどから入力される時系列画像から、ある平面上に存在する境界線を安定に検出することに用いられるものであり、画像情報に基づいて高速に機器の制御を行うことに有用な画像処理装置及びその方法に関する。
【０００２】
例えば、車両に取り付けたカメラから得られる時系列画像において道路面上の白線を安定に検出することなどに用いられる。
【０００３】
【従来の技術】
従来から、自動車に搭載したカメラから得られる時系列のカメラ画像から平面（道路面）上の境界線（白線）を検出する方法としてさまざまな画像処理技術が提案されてきた。
【０００４】
そのひとつに、前処理として、白線と道路面の輝度勾配に着目して、カメラ画像上でエッジ強度の二値化を行い、白線候補を限定する方法がある。
【０００５】
この二値化したカメラ画像に対し、白線のテンプレートを複数用意してテンプレートマッチングにより白線を検出する方法や、複数の白線候補を設定し、仮定した白線上に最も多くのエッジ点が存在する白線候補を白線として検出する方法などがある。
【０００６】
これらの方法においては、まず前処理であるエッジ強度の二値化処理のためのしきい値を、天候条件、照明条件の変化によらず最適な値に設定するのが困難である。
【０００７】
また、車両前方の白線を検出する場合には、一般的にカメラの光軸が車両の進行方向と平行やや下向きになるようにカメラを設置する。このようにカメラを設置した場合、図５に示すように、カメラ画像上において走行レーンの左側の白線は画像中央付近から左下方向への直線、一方右側の白線は右下方向への直線、または曲線となる。このとき、図６に示すように、車両が走行レーン内のどこに位置するかによってカメラ画像上で白線の傾きは変化する。
【０００８】
つまり、テンプレートマッチングによる白線検出においては、計算量を削減するために画像上に探索領域を設定するが、車両の走行位置によって白線の傾きが異なるため探索領域を適応的に変える必要があり、そのための探索領域設定の処理が複雑となる。
【０００９】
同様に、仮定した白線候補上で最も多くエッジ点が存在するものを白線として検出する方法では白線候補の方向を設定する必要があるが、車両の走行位置によって白線の傾きが異なるため、境界線候補の方向設定の処理が複雑になることが考えられる。
【００１０】
さらに、テンプレートマッチングによる白線検出においては、カメラ画像上では、近傍と遠方で白線の幅が異なることと、さらに、曲線などに対応するため、多数のテンプレートを用意する必要があり、このテンプレートの選択などで処理が複雑になるという問題もある。
【００１１】
【発明が解決しようとする課題】
上述したように、エッジ検出に二値化などのしきい値処理を必要とする境界線検出では、雨天時などの撮像状況が悪いときに対応するしきい値設定が難しく、ロバストな境界線検出が困難である。
【００１２】
また、従来の境界線検出では、現在のフレームで境界線を検出したときに、その境界線と過去に検出された境界線との対応付けを行っていなかったため、車両の振動等により画像が上下動した後などに、検出精度が落ちる問題がある。
【００１３】
また、カメラから取り込まれた時系列画像上で境界線を検出する方法では、車両が走行レーン上の走行位置によって、カメラ画像上の白線の傾きが変化するため、領域設定や方向設定などの処理が複雑になり計算量が問題となる。
【００１４】
さらに、テンプレートマッチングにより白線を検出する方法では、カメラから取り込まれた時系列画像上では、手前側と奥側で境界線の線幅、傾きなどが異なるため、多数のテンプレートを用意する必要がある。また、テンプレートを切り替える判定のための処理も必要になり、計算量が増加する。
【００１５】
そこで、本発明は、平面における消失点に向かう境界線を確実に、かつ、計算量が少なく検出できる画像処理装置及びその方法を提供する。
【００１６】
【課題を解決するための手段】
請求項１の発明は、平面と、消失点に向かって延びる境界線が撮影されている時系列画像を取り込む画像取得手段と、前記画像取得手段によって取り込まれた時系列画像の前記平面への逆投影画像を生成する逆投影画像生成手段と、前記逆投影画像生成手段によって生成された逆投影画像上で前記境界線を検出する境界線検出手段と、を具備し、前記逆投影画像生成手段は、前記時系列画像上での各点の輝度に基づくエッジ情報を前記平面へ逆投影することで逆投影像を生成し、前記境界線検出手段は、前記逆投影画像生成手段によって生成された逆投影画像に基づいて境界線候補を検出する境界線候補検出手段と、前記境界線候補検出手段によって検出した境界線候補群から所定の条件に基づいて境界線を選択する境界線選択手段と、を具備し、前記境界線候補検出手段は、前記逆投影画像生成手段によって生成された逆投影画像上で境界線候補線分を抽出する線分抽出手段と、前記線分抽出手段によって抽出した境界線候補線分と、過去の時系列画像で検出された境界線候補の対応付けを行う対応付け手段と、前記対応付け手段において対応のとれた境界線候補線分を境界線候補に統合することにより境界線候補を更新する境界線候補更新手段と、前記対応付け手段において対応のとれなかった境界線候補線分を新たに境界線候補として生成する境界線候補登録手段と、を具備したことを特徴とする画像処理装置である。
【００１７】
請求項２の発明は、平面と、消失点に向かって延びる境界線が撮影されている時系列画像を取り込む画像取得手段と、前記画像取得手段によって取り込まれた時系列画像の前記平面への逆投影画像を生成する逆投影画像生成手段と、前記逆投影画像生成手段によって生成された逆投影画像上で前記境界線を検出する境界線検出手段と、を具備し、前記逆投影画像生成手段は、前記時系列画像上での各点の輝度に基づくエッジ情報を前記平面へ逆投影することで逆投影像を生成するものであって、前記時系列画像上での各点における輝度の微分ベクトルを生成する微分ベクトル生成手段と、前記時系列画像上での各点における境界線の方向に対する法線ベクトルを生成する法線ベクトル生成手段と、前記時系列画像上での各点における前記微分ベクトル生成手段で求めた微分ベクトルと前記法線ベクトル生成手段で求めた法線ベクトルの内積を計算する内積計算手段と、前記各点における前記内積計算手段で計算した内積値を前記平面へ逆投影変換してエッジ逆投影像を生成する逆投影変換手段と、を具備したことを特徴とする画像処理装置である。
【００２７】
本発明は、シーンの撮影によって得られる時系列画像を用い、その時系列画像を平面に逆投影した逆投影画像を生成し、その逆投影画像上で境界線の検出を行うものである。
【００２８】
例えば、入力画像を車両に搭載したカメラから得られる時系列画像とし、逆投影する平面を道路面、検出対象である境界線を道路面上の白線とすると、各フレームで複数の境界線候補線分を検出してフレーム間で境界線候補として対応を取り、この境界線候補が過去にどれくらい検出されているか等の各境界線候補の属性値により白線を選択するため、あるフレームで白線が検出されなくても影響が小さく、時間軸方向でのロバスト性が高い。
【００２９】
また、境界線を安定に検出するには正しい境界線候補を検出する必要があるが、この境界線候補検出の基本処理である境界線候補線分抽出処理は、二値化等のしきい値処理を行わないので、高いロバスト性を実現できる。
【００３０】
また、この境界線候補線分抽出処理は、境界線候補線分がもつべき属性の判定を厳しい条件で行っている。この結果得られた境界線候補線分を用いて境界線を検出するため、誤検出が少ない。
【００３１】
さらに、この境界線候補検出処理は図５のような時系列画像を平面上に逆投影した逆投影画像上で行っている。時系列画像上の境界線は、逆投影画像上ではその境界線が直線であれば画像の垂直方向に存在する直線、曲線であればほぼ一定の曲率でカーブし、幅一定の平行な線群になる。つまり、車両の走行レーン上の走行位置変化は、図６に示すように白線の平行移動となる。このため水平方向にピークの探索を行い、垂直方向に追跡を行うという簡単な処理で境界線候補を検出でき、計算量も低減できる。
【００３２】
【発明の実施の形態】
以下、本発明の一実施形態である画像処理装置２０について、図１から図１２を用いて説明する。
【００３３】
図１に、本実施形態の画像処理装置２０の構成を示す。
【００３４】
本実施形態の画像処理装置においては、「平面」とは道路面のことであり、「境界線」とは走行レーンをなす白線や路肩のことであるが、環境を屋内にした場合には平面は床、通路などの面であり、境界線は床、通路などと壁の境界である。また、「逆投影画像」とは、図５に示すように、カメラ画像をある平面に投影処理した画像である。つまり、本実施形態でいう逆投影画像とは、道路面を真上から法線方向に見た図になる。また、「消失点」とは、車両の進行方向を撮影した時系列画像においては、静止体がわき出してくる点をいう。
【００３５】
画像処理装置２０は、画像を時系列に取り込むことが可能な装置である画像取り込み部１４により得られた時系列画像から、逆投影画像生成部１により平面への逆投影画像を生成する。
【００３６】
次に、逆投影画像生成部１で生成された逆投影画像に対し、境界線検出部２より、平面上の境界線を検出する。
【００３７】
この画像処理装置２０は、パソコンなどのコンピュータによって、下記で説明する各部の機能をプログラムすることによって実現できる。
【００３８】
以下、各部の具体的な構成について述べる。
【００３９】
（１）画像取り込み部１４
画像取り込み部１４は、時系列画像は取得可能なＴＶカメラであり、道路を走行する車両の前部に取り付けられ、進行方向を撮影している。
【００４０】
（２）逆投影画像生成部１
図２に示すように、逆投影画像生成部１は前記時系列画像から平面への逆投影画像を生成するものである。
【００４１】
そして、時系列画像上の各点の微分ベクトルを生成する微分ベクトル生成部３、時系列画像上の各点を逆投影画像上に投影した場合にその点を通る境界線を求め、その境界線を時系列画像上に戻したときの法線ベクトルを生成する法線ベクトル生成部４、時系列上の各点について微分ベクトルと法線ベクトルの内積を計算する内積計算部５、この内積計算した値を平面に逆投影することでエッジ逆投影画像を生成する逆投影変換部６からなる。
【００４２】
（２−１）微分ベクトル生成部３
微分ベクトル生成部３において、１次微分フィルタなどで前記時系列画像上の各点の輝度について微分ベクトル（ｄｘ, ｄｙ）を計算する。つまり、輝度勾配を計算する。
【００４３】
例えば、３×３、５×５のソーベルフィルタなどを用いて、水平方向エッジｄｘ、垂直方向エッジｄｙを求めることにより微分ベクトルを生成する。
【００４４】
（２−２）法線ベクトル生成部４
法線ベクトル生成部４において、前記時系列画像上で各点を通る境界線を仮定する。
【００４５】
この境界線が曲線の場合は、連続したフレーム間で曲率がほとんど変化しないものとみなし、前フレームに後述する境界線外挿部９で求めた円弧の曲率を用いて境界線を仮定する。そして、各点における、この境界線の法線方向を法線ベクトルとする。すなわち、ある点Ｐ１における、曲線状の境界線に対する接線と直交するベクトルが、法線ベクトルである。
【００４６】
なお、境界線が直線の場合には、その直線と直交する法線方向を求め、これを各点共通の法線ベクトルとする。
【００４７】
図７にカメラ画像を示す。このカメラ画像上の上限ラインと下限ラインの間の逆投影変換領域について逆投影画像を生成する。
【００４８】
カメラ画像における上限ラインより上の画像は、遠方であり手前側に比べ解像度が低く境界線検出の精度が低下するため、この領域の境界線は逆投影画像上では検出しない。この上限ラインは無限遠点の下側に設定する。
【００４９】
また、下限ラインとは、カメラ画像に車両のボンネットなどが映っている場合に除外するために設定し、その下限は画像下端である。
【００５０】
この逆投影画像変換領域外の境界線は、相対的に解像度の高い逆投影変換領域で求めた境界線の曲率を用いて外挿する。
【００５１】
具体的な法線ベクトルの求め方は、前フレームでの境界線外挿部９により求めた逆投影画像上での参考曲線の曲率をカメラ画像上に変換することで、図７に示す点線のように点Ｐ１を通る境界線を仮定する。Ｐ１におけるこの境界線の法線方向をＰ１の法線ベクトルｎ１（図７中では、ｎ１の上に矢印を付している）として求める。
【００５２】
このように、過去（前フレーム）で検出された逆投影画像上の参考曲線の曲率を、カメラ画像上に変換して利用することで、曲線上のどの点であっても境界線の法線方向のエッジ強度を検出することができる。
【００５３】
この法線ベクトル生成部４において境界線を曲率ではなく二次微分係数を用いて放物線で仮定することもできる。
【００５４】
また、境界線を近似する方法は、本実施形態のような二次曲線に限定するものではなく、多次の多項式などで近似することも考えられる。
【００５５】
（２−３）内積計算部５
内積計算部５において、前記時系列画像上の各点の前記微分ベクトルと前記法線ベクトルの内積を計算することにより、境界線の法線方向のエッジ強度を求める。
【００５６】
この内積値の値は、境界線の左側のエッジは正の値になり、右側のエッジは負の値となる。その理由は、道路に白線が描かれているので、左側のエッジは、白から黒の輝度勾配（微分ベクトルの値）を持ち、逆に、右側のエッジは、黒から白の輝度勾配（微分ベクトルの値）を持つからである。
【００５７】
（２−４）逆投影変換部６
逆投影変換部６において、前記内積値を各画素のエッジ情報として平面へ逆投影したエッジ逆投影画像を生成する。
【００５８】
つまり、図８に示すように、境界線の左側のエッジは正の画素値（白）をもち、右側のエッジは負の画素値（黒）を有するスカラー画像を生成できる。この理由は、上記したように境界線の左側のエッジは正の値になり、右側のエッジは負の値となり、正を白の画素値に、負を黒の画素値で表しているからある。
【００５９】
このスカラ画像上において、境界線は画像下側でほぼ垂直、画像上側に行くにしたがってほぼ一定の曲率でカーブする平行な線群になり、この後の検出処理が容易になる。
【００６０】
（３）境界線検出部２
図３に示すように、境界線検出部２は、逆投影画像上で境界線候補を検出する境界線候補検出部７、境界線候補検出部７で検出した境界線候補群から実際の境界線を選択する境界線選択部８、境界線選択部８で選択された境界線の奥行き部分を外挿する境界線外挿部９、検出した境界線情報から消失点を推定する消失点推定部１０から構成される。
【００６１】
（３−１）境界線候補検出部７
図４に示すように、境界線候補検出部７は、逆投影画像上で境界線候補線分を抽出する線分抽出部１１、この線分抽出部１１で抽出した白線候補線分と過去の時系列画像において登録された境界線候補との対応付けを行う境界線候補更新部１２、また、この線分抽出部１１で抽出した境界線候補線分を統合して新たに境界線候補を登録する境界線候補登録部１３から構成される。
【００６２】
（３−１−１）線分抽出部１１
まず、線分抽出部１１は、前処理として、画像全体を平滑化してノイズ成分などを除外する。この平滑化にはガウシアンフィルタなどを用いる。
【００６３】
次に、逆投影画像生成部１で生成した逆投影画像の水平ラインを探索して、正の領域、負の領域それぞれでピークを求める。
【００６４】
ピークが求められたら探索するラインを垂直方向に１画素ずらして同様にピークを求める。
【００６５】
垂直方向に移動する前後で、水平ラインにおけるピーク位置のずれがしきい値以下であれば、接続して次のラインに移り同様の処理を繰り返す。この処理を逆投影画像すべてにおいて行うことで、正のピークを接続した線分と、負のピークを接続した線分が生成される。
【００６６】
図９に示すように、これらの抽出された線分の中で、正負ペアで存在する線分を境界線候補線分として抽出する。これは、白線の左側エッジと、右側エッジとが常に対になっているからである。
【００６７】
（３−１−２）境界線候補更新部１２
境界線候補更新部１２は、前フレームまでで検出されている境界線候補があれば、優先度順にソートして、順番を並び替えて記憶している。すなわち、それぞれの境界線候補は、持続時間、平均エッジ強度、検出時間、消失時間などを属性値として同時に記憶されている。ここで、「持続時間」とはこの境界線候補が何フレーム連続で検出されているか、「検出時間」とはこの境界線候補が初めて検出されてから何フレーム経過しているか、「消失時間」とはこの境界線候補が不検出になってから何フレーム経過しているか、を表す。
【００６８】
そして、優先度は境界線候補の持続時間、平均エッジ強度、検出時間、消失時間等で決定する。
【００６９】
次に、優先度の高い境界線候補から、抽出された境界線候補線分をマージできるか判断する。
【００７０】
具体的には、境界線候補線分と、境界線候補のエッジ強度、傾きなどの差がしきい値以下であれば、同一の境界線であるとして境界線候補線分を境界線候補にマージして、統合させる。
【００７１】
複数の境界線候補線分を、一つの境界線候補にマージする場合には、これら複数の境界線候補線分の間で接続可能であるかを判断する。
【００７２】
具体的には、境界線候補線分の間で、傾き、境界線の幅、エッジ強度、横方向の位置などの差が全てしきい値以下であれば、これらの境界線候補線分は同一の境界線候補とみなしマージする。
【００７３】
そして、境界線候補線分が境界線候補にマージされたら、持続時間等の各属性値を更新する。
【００７４】
（３−１−３）境界線候補登録部１３
境界線候補登録部１３は、境界線候補更新部１２で過去に検出済みの境界線候補にマージされなかった残りの境界線候補線分の中で、手前側にあり、かつ、しきい値以上の長さを有するものがあれば、新たに境界線候補として登録する。
【００７５】
これは、手前側は奥側に比べ解像度が高く、信頼性の高い境界線候補線分が抽出されているからである。その境界線候補線分と滑らかに接続できると判断される奥の方の境界線候補線分をマージして新しい境界線候補として登録する。
【００７６】
（３−２）境界線選択部８
境界線選択部８は、この更新、または新たに登録された境界線候補の中から走行車線の左右に対応すると思われる境界線を、境界線候補の水平位置、エッジ強度、左右の境界線候補間隔などの条件により、選択する。
【００７７】
（３−３）境界線外挿部９
境界線外挿部９は、左右の白線が検出されたら、それぞれの境界線の各点について曲率を計算し、それら全ての単純平均をとる。
【００７８】
その曲率の平均を用いて図１０に示すように、円弧で境界線の奥側を外挿する。また、境界線の各点の曲率に対して重み付けを行い、その重み付き平均値を用いて外挿することもできる。このようにして求められた連続した曲線は、参考曲線である。
【００７９】
これは、逆投影画像上では、境界線の曲率をほぼ一定にみなすことができることに着目している。また、手前側の境界線候補線分は奥の方に比べて情報量も多く、曲率を安定に求めることができるので、手前から得られる曲率で奥の方のおおまかな境界線を当てはめることが可能である。
【００８０】
また、境界線外挿部９において、参考曲線を円弧に当てはめるのではなく放物線にあてはめることもできる。逆投影画像上においてカーブは曲率一定の円弧で考えるのが妥当であるが、二次微分係数で外挿した放物線で扱う方が処理的には容易であるし、精度劣化もそれほどない。
【００８１】
また、二次曲線だけでなく３次以上の多項式で境界線を近似することも可能である。
【００８２】
最後に、図１１に示すように、逆投影画像上で求めた参考曲線の座標値をカメラ画像上に変換する。
【００８３】
（３−４）消失点推定部１０
消失点推定部１０では、検出した境界線の情報から消失点の位置を推定する。
【００８４】
図１２はカメラから得られた時系列画像例であり、左境界直線、右境界直線はそれぞれ検出された境界線の手前側を１次微分の平均で直線近似したものである。このカメラ画像の手前側部分の境界直線方向からこのフレームでの消失点vp1を推定する。この消失点を基に次フレームの逆投影画像生成を行う。
【００８５】
また、このvp1を仮の消失点として、前フレームでの消失点vp0と現フレームの消失点vp1の間に内挿した点を消失点とする方法もある。これは、除々に消失点を修正することによって、フレーム間で逆投影画像の大きな変化をなくし、フレーム間で境界線候補の対応を取りやすくするためである。このフィードバック処理により車両のゆれなどに対する高い追従性能が得ることができる。
【００８６】
（変更例）
なお、本発明は前記実施形態で記載した内容に限定されるものではない。
【００８７】
例えば、逆投影画像生成部１では、前記実施形態のようにエッジ情報を有する逆投影画像を生成するのではなく、時系列画像の濃淡情報を平面に逆投影して濃淡逆投影画像を生成することもできる。
【００８８】
この場合、逆投影画像生成部１では、図７に示すようにカメラ画像の逆投影変換領域の各画素を平面へ逆投影変換して濃淡逆投影画像を生成する。
【００８９】
この濃淡逆投影画像から境界線を検出する場合には、境界線候補検出部７における線分抽出部１１の方法を次のように変更する。
【００９０】
まず、前処理として、画像全体を平滑化してノイズ成分などを除外する。この平滑化には、ガウシアンフィルタなどを用いる。
【００９１】
次に、濃淡逆投影画像の水平ラインを走査して輝度値のピークを求める。ピークが求められたら走査するラインを垂直方向に１画素ずらして同様にピークを求める。垂直方向に移動する前後で水平ラインにおけるピーク位置のずれがしきい値以下であれば、接続して次のラインに移り同様の処理を繰り返す。
【００９２】
この処理を濃淡逆投影画像すべてにおいて行うことで、輝度ピークを接続した線分が生成される。この線分を境界線候補線分として抽出する。
【００９３】
【発明の効果】
本発明を用いることにより、雨天時などの撮像状況の悪い場合にでもロバストに境界線を検出することが可能である。
【００９４】
また、逆投影画像を生成することにより、境界線の探索が容易になり、境界線検出の計算コストも低減することができる。
【図面の簡単な説明】
【図１】本実施形態の画像処理装置の構成である。
【図２】逆投影画像生成部１の構成例である。
【図３】境界線検出部２の構成例である。
【図４】境界線候補検出部７の構成例である。
【図５】カメラ画像と逆投影画像の関係を示す。
【図６】車両の走行位置と、カメラ画像、逆投影画像それぞれとの関係を示す。
【図７】法線ベクトル生成法について示す。
【図８】逆投影画像例である。
【図９】境界線候補線分の抽出例である。
【図１０】境界線を外挿した例である。
【図１１】逆投影画像上の境界線をカメラ画像上に変換したものである。
【図１２】消失点の推定法について示す。
【符号の説明】
１    逆投影画像生成部
２    境界線線検出部
３    微分ベクトル生成部
４    法線ベクトル生成部
５    内積計算部
６    逆投影変換部
７    境界線候補検出部
８    境界線選択部
９    境界線外挿部
１０    消失点推定部
１１    線分抽出部
１２    境界線候補更新部
１３    境界線候補登録部
１４    画像取得部
２０    画像処理装置
【図１】
0003822468.tif 000002
【図２】
0003822468.tif 000003
【図３】
0003822468.tif 000004
【図４】
0003822468.tif 000005
【図５】
0003822468.tif 000006
【図６】
0003822468.tif 000007
【図７】
0003822468.tif 000008
【図８】
0003822468.tif 000009
【図９】
0003822468.tif 000010
【図１０】
0003822468.tif 000011
【図１１】
0003822468.tif 000012
【図１２】
0003822468.tif 000013