(57)【要約】  画像を撮影するカメラと、前記カメラのレンズを覆い、可視光を透過するカバーと、前記カメラの撮影方向を軸として前記カバーを回転させる駆動部と、前記画像から特徴点を抽出する抽出部と、時間的に連続する複数の前記画像を用いて抽出した複数の前記特徴点の動きを追跡し、前記特徴点の動きベクトルを計算する動きベクトル算出部と、前記動きベクトルを用いて前記カメラの移動に起因して動く第１特徴点と前記カバーの回転に起因して動く第２特徴点とを判別し、前記第１特徴点を検出する検出部とを、有することを特徴とする画像処理装置。
2016207987.tif 000002
【特許請求の範囲】
【請求項１】
画像を撮影するカメラと、
前記カメラのレンズを覆い、可視光を透過するカバーと、
前記カメラの撮影方向を軸として前記カバーを回転させる駆動部と、
前記画像から特徴点を抽出する抽出部と、
時間的に連続する複数の前記画像を用いて抽出した複数の前記特徴点の動きを追跡し、前記特徴点の動きベクトルを計算する動きベクトル算出部と、
前記動きベクトルを用いて前記カメラの移動に起因して動く第１特徴点と前記カバーの回転に起因して動く第２特徴点とを判別し、前記第１特徴点を検出する検出部とを、有することを特徴とする画像処理装置。
【請求項２】
請求項１記載に画像処理装置において、
前記検出部はさらに、前記特徴点の輝度値を用いて前記第１特徴点を検出することを特徴とする画像処理装置。
【請求項３】
請求項２記載に画像処理装置において、
さらに、前記カバーの内側から前記カバーへ向かう向きに光を照射する光源を、前記レンズの周囲に複数有し、
前記光源はあらかじめ設定された周期で発行することを特徴とする画像処理装置。
【請求項４】
あらかじめ設定された目的地へ自律して移動する自律移動装置であって、
地図情報および特徴点地図が蓄積されている記憶部と、
前記地図情報と入力された目的地とを用いて目的地までの走行ルートを設定するルート設定部と、
画像を撮影するカメラと、
前記カメラのレンズを覆い、可視光を透過するカバーと、
前記カメラの撮影方向を軸として前記カバーを回転させる駆動部と、
前記画像から特徴点を抽出する抽出部と、
時間的に連続する複数の前記画像を用いて抽出した複数の前記特徴点の動きを追跡し、前記特徴点の動きベクトルを計算する動きベクトル算出部と、
前記動きベクトルを用いて前記カメラの移動に起因して動く第１特徴点と前記カバーの回転に起因して動く第２特徴点とを判別し、前記第１特徴点を検出する検出部と、
前記第１特徴点と前記特徴点地図とを用いて前記自律移動装置の自己位置を推定する位置推定部と、を有することを特徴とする自律移動装置。
【請求項５】
請求項４に記載の自律移動装置であって、
前記カバーの内側から前記カバーへ向かう向きに光を照射する光源を、前記レンズの周囲に配置することを特徴とする自律移動装置。
【請求項６】
請求項５に記載の自律移動装置であって、
前記光源は複数のＬＥＤで構成され、
前記光源のあらかじめ設定された周期で発行することを特徴とする自律移動装置。
【請求項７】
移動装置の自己位置を推定する方法であって、
記憶部に記憶されている地図情報と、入力された目的地戸を用いて目的地までの走行ルートを設定する第１ステップと、
カメラで撮像された画像を受け取る第２ステップと、
前記画像から特徴点を抽出する第３ステップと、
複数の前記画像から抽出された複数の前記特徴点を用いて前記特徴点の動きベクトルを計算する第４ステップと、
前記カメラのレンズを覆うカバーの駆動情報と前記動きベクトルとを用いて、前記カメラの移動に起因して動く第１特徴点と前記カバーの回転に起因して動く第２特徴点とを判別し、前記第１特徴点を検出する第５ステップと、
前記記憶部に記憶されている特徴点地図と前記第１特徴点とを用いて、前記移動装置の自己位置を推定する第６ステップと、を有することを特徴とする自己位置推定方法。
【請求項８】
請求項７の自己位置推定方法において、
前記第５ステップでは、さらに前記特徴点の輝度値を用いて前記第１特徴点を検出することを特徴とする自己位置推定方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像処理装置、画像処理を用いて目的地まで自律で移動する自律移動装置および画像処理を用いた自己位置推定方法に関する。
【背景技術】
【０００２】
走行レールやガイドマーカなどのインフラが設置されていない一般公道を衛星測位システムや測域センサ等のセンサを用いて自己位置を推定しながら目的地まで自律走行する搭乗型自律移動装置が開発されている。【０００３】
衛星測位システムは、メートル精度の位置観測が可能なことで知られている。その反面、衛星から送信された電波が建造物、地表等に反射・回折して複数の伝送経路から電波が受信されるマルチパスと呼ばれる現象が生じる場合がある。マルチパスが発生すると測位に大きな誤差が生じる。また、衛星電波受信が中断して現在位置の測位自体が不可能になる場合もある。いずれも、正確な自己位置推定が出来なくなり、自律移動装置の継続が困難になる。【０００４】
本発明の搭乗型自律移動装置は、現在位置の測位が不可能になった場合、カメラで撮影した周辺環境画像を解析して、画像処理による自己位置推定を実施する。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２０１２−２４９０８２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
特許文献１によれば、カメラレンズを覆うように取り付けられた防水ドームにおいて、防水ドームの一部分は汚れないようにカバー内に収納されている。撮影画像を観測して雨滴等で汚れた部分を検知したら防水ドームを回転させ、汚れていないドーム面をカメラレンズに向けることで雨滴やゴミ等の汚れが撮影画像に映り込まないようにする方法が記載されている。【０００７】
しかし、特許文献１の方法は、完全に汚れていないドーム面の確保を前提としているため、屋外での適用は不可能である。雨天時等では絶え間なく雨滴や雪粒が降り続けるため、汚れた箇所を検知してドーム回転を繰り返すと、汚れていない面が無くなってしまい、画像処理ができないことになる。このように特許文献１では、汚れた状態のドーム面内画像での処理は考慮されていないため、雨天等の悪天候でのセンシングにおいてはロバストでない。【０００８】
本発明は、上記課題を鑑みてなされたものであり、その目的は、カメラの撮影画像を用いた周辺環境センシングにおいて、雨天、降雪、強風等の悪天候時においても好適に自己位置を推定することが可能な画像処理装置およびそれを用いた自律移動装置を提供することである。
【課題を解決するための手段】
【０００９】
上記課題を解決するために、例えば請求の範囲に記載の構成を採用する。本願は上記課題を解決する手段を複数含んでいるが、その一例を挙げるならば、画像処理装置であって、画像を撮影するカメラと、カメラのレンズを覆い、可視光を透過するカバーと、カメラの撮影方向を軸としてカバーを回転させる駆動部と、画像から特徴点を抽出する抽出部と、時間的に連続する複数の画像を用いて抽出した複数の特徴点の動きを追跡し、特徴点の動きベクトルを計算する動きベクトル算出部と、動きベクトルを用いてカメラの移動に起因して動く第１特徴点とカバーの回転に起因して動く第２特徴点とを判別し、第１特徴点を検出する検出部とを、有することを特徴とする。【００１０】
または、あらかじめ設定された目的地へ自律して移動する自律移動装置であって、地図情報および特徴点地図が蓄積されている記憶部と、記地図情報と入力された目的地とを用いて目的地までの走行ルートを設定するルート設定部と、画像を撮影するカメラと、カメラのレンズを覆い、可視光を透過するカバーと、カメラの撮影方向を軸としてカバーを回転させる駆動部と、画像から特徴点を抽出する抽出部と、時間的に連続する複数の画像を用いて抽出した複数の前記特徴点の動きを追跡し、特徴点の動きベクトルを計算する動きベクトル算出部と、動きベクトルを用いて前記カメラの移動に起因して動く第１特徴点とカバーの回転に起因して動く第２特徴点とを判別し、第１特徴点を検出する検出部と、第１特徴点と特徴点地図とを用いて自律移動装置の自己位置を推定する位置推定部と、を有することを特徴とする。【００１１】
あるいは、移動装置の自己位置を推定する方法であって、記憶部に記憶されている地図情報と、入力された目的地とを用いて目的地までの走行ルートを設定する第１ステップと、カメラで撮像された画像を受け取る第２ステップと、画像から特徴点を抽出する第３ステップと、複数の画像から抽出された複数の特徴点を用いて特徴点の動きベクトルを計算する第４ステップと、カメラのレンズを覆うカバーの駆動情報と前記動きベクトルとを用いて、カメラの移動に起因して動く第１特徴点と前記カバーの回転に起因して動く第２特徴点とを判別し、第１特徴点を検出する第５ステップと、記憶部に記憶されている特徴点地図と前記第１特徴点とを用いて、前記移動装置の自己位置を推定する第６ステップと、を有することを特徴とする。
【発明の効果】
【００１２】
本発明によれば、撮影画像に雨滴、雪、泥汚れ等の映り込みが生じても、自己位置推定処理の誤差を低減することができる。
【図面の簡単な説明】
【００１３】
【図１】自律移動装置に搭載する画像処理装置のブロック図。
【図２】画像処理による自己位置推定方法を示す図。
【図３】晴天時の特徴点検出処理のブロック構成図。
【図４】雨天時の走行における撮影画像の一例を示す図。
【図５】構造物の特徴点と雨滴で生じた特徴点の移動軌跡の差異を示す図。
【図６】自己位置推定部の特徴点検出処理のブロック構成を示す図。
【図７】魚眼カメラで撮像した画像イメージを示す図。
【図８】構造物の特徴点と雨滴で生じた特徴点の判別方法の概要を示す図。
【図９】魚眼カメラの外観の一例を示す図。
【図１０】自律移動装置の外観の一例を示す図。
【図１１】ＬＥＤの点灯パタンの一例を示す図。
【図１２】ＬＥＤの点灯パタンの別の一例を示す図。
【図１３】ＬＥＤの点灯パタンのさらに別の一例を示す図。
【図１４】ＬＥＤ照射時の雨滴の撮影状態の一例を示す図。
【図１５】画像処理装置における自己位置推定部の処理フローを示す図。
【図１６】無効特徴点判定の方法を示す図。
【図１７】画像処理装置における別の自己位置推定部の処理フローを示す図。
【図１８】晴天モードの自己位置推定処理フローを示す図。
【発明を実施するための形態】
【００１４】
（第一の実施形態）
図１は、搭乗型自律移動装置（以下、自律移動装置）に搭載する画像処理装置１００のブロック図の一例である。
【００１５】
本実施例の自律移動装置は、搭乗者が指示した目的地に自動運転で到達することができる。自律移動装置は、搭乗者の操作を伴わずに目的地までの走行ルートを決定して、且つ走行路の自動運転を行うための演算処理に必要な画像処理装置１００を備える。自律移動では、衛星測位システム１１１が受信した電波を使用して現在の走行位置を把握すると共に、設定された走行ルートを正しくトレースするように走行機構１１４に指示を出す。衛星測位システムは、人工衛星の電波を使用して現在位置を計測するシステムで、例えばＧＰＳ（Ｇｌｏｂａｌ  Ｐｏｓｉｔｉｏｎｉｎｇ  Ｓｙｓｔｅｍ）衛星の電波を用いる。
【００１６】
衛星測位システムは、メートル精度の位置観測が可能なことで知られている。その反面、衛星から送信された電波が建造物、地表等に反射・回折して複数の伝送経路から電波が受信されるマルチパスと呼ばれる現象が生じる場合がある。マルチパスが発生すると測位に大きな誤差が生じる。また、衛星電波受信が中断して現在位置の測位自体が不可能になる場合もある。搭乗型自律移動装置は、現在位置の測位が不可能になった場合、カメラで撮影した周辺環境画像を用いて画像処理による自己位置推定を実施する。周辺環境画像の取得には、３６０度半球形状の画像撮影が可能な赤外線対応魚眼カメラ１０８（以下、魚眼カメラ）を用いる。
【００１７】
この他に、搭乗者が目的地を指定、走行の一時停止、走行中断等の指示を自律移動装置へ伝達するための入力装置１１２、さらに搭乗者に対して周辺地図情報、走行予定経路情報および現在位置等を通知するための表示部１１３を備える。
【００１８】
画像処理装置１００は、所定のアルゴリズムに基づいて演算を実行する中央処理装置１０１と、中央処理装置１０１が所定のアルゴリズムで動作するように演算手順を記述したプログラムを保存する不揮発性の記憶装置１０２と、中央処理装置１０１が所定のアルゴリズムの演算を実行する際の途中経過を一時的に記憶するためのメモリ１０３を備える。
【００１９】
記憶装置１０２は、走行対象地域の地図情報および地図上の位置情報と対応付けた晴天時の周辺環境画像の特徴点情報（以下、特徴点地図）を格納した地図情報記憶部１０７と、前記地図情報を参照して搭乗者が指示した目的地までの走行ルートを設定する走行ルート設定部１０５と、ＧＰＳ衛星の電波を用いて自己位置を測位しながら自動走行を行う自律移動制御部１０４と、ＧＰＳ衛星の電波の代わりに周辺環境画像を用いた画像処理で自己位置を判断する自己位置推定部１０６を備える。
【００２０】
地図情報記憶部１０７の特徴点地図は、晴天時に取得した周辺環境画像の特徴点情報である。しかし本実施例の自律移動装置は屋外を走行するため必ずしも晴天でない場合がある。悪天候時の走行では、赤外線対応魚眼カメラ１０８で撮影した画像に雨滴、雪、泥汚れ等が映り込む。自律移動装置の画像処理による自己位置推定では、晴天時の周辺環境画像から検出した特徴点と走行時点で周辺環境画像から検出した特徴点とのマッチング処理により、現在位置の特定を行う。このため、悪天候時の画像に雨滴などの汚れが生じると特徴点の検出ミスが生じて現在位置が正しく検出できなくなる場合がある。
【００２１】
この特徴点の検出ミスを回避するため、雨除け対策として魚眼カメラにレンズカバーと複数個のＬＥＤを装着して、ＬＥＤをレンズカバーに向けて照射した状態でレンズカバーを回転させる。レンズカバーを回転させることで、入力画像の特徴点の連続した動きから算出した動きベクトルの違いから、周辺環境画像の特徴点（第１特徴点）と雨滴等の汚れの特徴点（第２特徴点）とを区別し、周辺環境画像の第１特徴点のみを抽出して特徴点地図とのマッチング処理を行うようにする。本実施例では、自己位置推定部でこのような画像処理を行うことで、雨天時などカメラに汚れが付着しやすい天候であっても、屋外での自己位置推定における誤差を大幅に低減することができる。
【００２２】
図２は、本発明の画像処理による自己位置推定方法を示す図である。同図は、魚眼カメラで撮影した画像の様子を示している。魚眼カメラは、撮像中心軸が天頂を向くように設置し、撮影画像に自律移動装置２００の車体が映り込まないように設置しているため、実際の画像では自装置が写りこむことはないが、周辺の構造物２０２と自律移動装置２００の位置関係は図２（ａ）（ｂ）に示す通りである。ここでは理解を助けるため、あえて自装置と魚関カメラで撮像した画像を重ね合わせたイメージ図を記載している。
【００２３】
図２（ａ）は、特徴点地図の作成方法を示す図である。特徴点地図は、事前に自律移動装置２００を手動操作で走行路２０１を走らせて撮影した画像から特徴点２０３を算出し、その特徴点を別に用意する座標情報が記録された２Ｄ地図上の座標と対応付けながら特徴点地図として保存する。特徴点地図および２Ｄ地図は、地図情報記憶部１０７に保存する。特徴点とは主に撮影画像から検出する特徴点２０３は、画像上に存在する建造物、標識等の構造物のコーナー部分を検出したものである。
【００２４】
特徴点地図は、撮影画像の映り込んだ様々な構造物２０２の特徴点２０３を検出、集約し、２Ｄ地図上の座標と対応付けて保存したデータである。
【００２５】
もちろん、事前の撮影時に偶然通りかかった車両や歩行者等が映り込む場合がある。この場合は、構造物２０２の特徴点２０３の動きベクトルと、車両や歩行者等の移動体の特徴点の動きベクトルを算出して、それぞれの動きベクトルの違い、即ち移動速度の違いから特徴点地図の作成に有効な構造物２０２の特徴点２０３のみを抽出するようにする。例えば、歩行者であれば時速５キロ程度、車両であれば時速５０キロ程度で移動しており、本実施例の自律移動装置は時速３０キロ程度であるため、移動速度の違いから両者を区別することは容易である。
【００２６】
特徴点検出の方法は特に限定はなく、公知の技術を用いればよい。例えば本実施例では、Ｈａｒｒｉｓコーナー検出等の手法を用いている。Ｈａｒｒｉｓコーナー検出は、画像の輝度値分布を解析して、一次微分値（差分）が一方向に大きければエッジ、多方向に大きければコーナーであるという知識に基づいて計算する処理方法である。但し、Ｈａｒｒｉｓコーナー検出に限らず、構造物２０２のコーナー部分を検出可能な別の方法を用いても良い。
【００２７】
図２（ｂ）は、走行時の検出特徴点を示す図、図２（ｃ）は、地図中の特徴点を示す図である。
【００２８】
撮影画像から検出した周辺に存在する構造物の特徴点２０４の集合２０５と、特徴点地図中のある部分の特徴点集合２０６のマッチングを行い、２個の特徴点集合（２０４、２０６）が一致するかどうかを判定する。２個の特徴点集合が一致した場合は、特徴点地図中から一致箇所の座標情報を取得して現在位置を把握する。一致しない場合は、一致するまで特徴点地図の別の箇所とのマッチング処理を継続する。所定のマッチング回数または所定の地図上の範囲まで繰り返しても特徴点集合の一致が得られない場合は、同撮影画像に関してはマッチング処理を中断して、エラーとして処理（表示部１３３への通知等）する。
【００２９】
図３は、晴天時の特徴点検出処理のブロック構成図である。
【００３０】
晴天時の特徴点検出は、撮影画像から周辺の構造物の特徴点を検出する特徴点検出部３００と、構造物の特徴点集合および予め作成して保存されている特徴点地図３０３の特徴点集合のマッチング処理を行う特徴点マッチング部３０１と、特徴点地図３０３から２個の特徴点集合が一致した場所の実空間の座標を取得して自律移動装置の内部で管理する走行制御マップ上の現在位置への正規化演算を行う自己位置算出部３０２の処理ブロックで構成する。計算した自己位置情報は、自律走行制御部１０４に送出して走行制御処理に反映する。
【００３１】
図４は、雨天時の走行における撮影画像の一例を示す図である。
【００３２】
悪天候は、雨天、降雪、強風等である。それぞれの天候下では、雨滴、雪、風で飛ばされた土埃やゴミ等がレンズカバーに付着する。以下の、実施例では、雨天時の条件で説明を行う。本発明の方法の性質上、降雪、強風においても同じ効果を得ることが可能である。
【００３３】
同図のように、雨天時はレンズカバーに雨滴４００、４０１が付着する。この状態の撮影画像で特徴点検出を行うと、構造物４０６の特徴点４０２、４０３と、雨滴４００、４０１の特徴点４０４、４０５の両方が検出される場合がある。雨滴４００、４０１の特徴点４０４、４０５はノイズであるため、このまま特徴点地図とマッチング処理を行うと、自己位置の誤検知または位置検出不可能という問題が生じる。
【００３４】
図５は、構造物の特徴点と雨滴で生じた特徴点の移動軌跡の差異を示す図である。
【００３５】
図４で説明した通り、構造物の特徴点（以後、有効特徴点あるいは第１特徴点と呼ぶ）と雨滴で生じた特徴点（以後、無効特徴点あるいは第２特徴点と呼ぶ）とを判別して雨滴で生じる第２特徴点をキャンセルする必要がある。
【００３６】
図５（ａ）は、有効特徴点の移動パタンの例である。自律移動装置が、矢印方向５１１に進行していると仮定する。このとき、魚眼レンズの撮影画像を連続で観測すると、有効特徴点は同図のように進行方向に対して前方から後方に向けて緩やかな孤を描く軌跡で移動する。
【００３７】
一方、図５（ｂ）は、無効特徴点の移動パタンの例である。自律移動装置の走行中は、魚眼カメラに装着したレンズカバーが常時回転するようにしているため、レンズカバーに付着した雨滴は画像内を周回する軌跡で移動する。
【００３８】
このように、有効特徴点と無効特徴点は異なる移動軌跡をとるため、特徴点軌跡の移動パタンを解析して有効特徴点と無効特徴点を判別する。判別の手段は、少なくとも２枚以上の複数の撮影画像からそれぞれの特徴点の追跡処理を行い、特徴点の動きベクトルを算出して所定の移動条件と比較することで有効特徴点の移動パタンであるか、或いは無効特徴点の移動パタンであるかを判別する。
【００３９】
図６は、自己位置推定部１０６の特徴点検出処理のブロック構成を示す図である。図１、図３と同じ処理ブロックについては同じ番号を付し、説明を省略する。
【００４０】
魚眼カメラ１０８にはレンズカバー４１４を装着し、レンズカバー４１４を回転させるための回転制御部４１３および回転機構４１２を備える。また、画像処理の際にレンズカバー４１４に付着した雨滴および雨滴の特徴点を精度良く認識するためのＬＥＤ照射機構（４１０）と照射制御部４１１を備える。
【００４１】
さらに、特徴点検出部３００と、入力した画像を含む複数画像から特徴点の動き追跡を行う特徴点追跡部４０３と、特徴点追跡から動きベクトルを計算する動きベクトル算出部４０４と、算出した動きベクトルの移動パタンを解析して雨滴付着に起因する無効特徴点を検出する無効特徴点判定部４０５と、特徴点検出部４０２で取得した特徴点のうち無効特徴点判定部４０５で取得した雨滴による無効特徴点をキャンセルして構造物上に存在する有効特徴点のみを取得する有効特徴点抽出部４０６と、特徴点地図３０３とのマッチング処理を行う特徴点マッチング部３０１と、特徴点地図３０３を用いて自己位置算出を行う自己位置算出部３０２の処理ブロックで構成する。計算した自己位置情報は、自律走行制御部１０４に送出して走行制御処理に反映する。
【００４２】
図７は、魚眼カメラに装着したレンズカバーの回転の様子を示す図である。
【００４３】
レンズカバーは、魚眼カメラのレンズ全体を覆うように装着する。また、魚眼カメラの撮像中心点を軸に一定方向に回転させる。回転方向は、例えば同図の矢印方向７０４である。回転方向は図示した矢印方向７０４と逆の方向でも良いし、図示した矢印方向７０４および逆方向を定期的に切り替えるようにしても良い。いずれの場合も、特徴点追跡および特徴点軌跡の移動パタンの判別を行うため、入力した撮影画像の時点でレンズカバーがどちらの方向に回転させていたかは予め認識しておく。
【００４４】
図８は、構造物の特徴点と雨滴で生じた特徴点の判別方法の概要を示す図である。
【００４５】
図（ａ）は、撮影画像から検出した特徴点の例を示す図である。自律移動装置は矢印方向８００に移動しているものと仮定する。検出した特徴点は、周辺の構造物８０１の特徴点８０２と雨滴８０３による特徴点８０４が混在している。
【００４６】
図（ｂ）は、レンズカバーを所定方向に回転させた時の雨滴の特徴点の移動軌跡の例を示す図である。レンズカバーは、魚眼カメラの撮像中心点を軸に回転するため、雨滴８０３の特徴点８０４も撮像中心点を軸に回転軌跡８０５を描くように移動する。
【００４７】
図（ｃ）は、レンズカバーを所定方向に回転させた時の構造物の特徴点の移動軌跡の例を示す図である。構造物８０７の特徴点８０２の軌跡８０６は、レンズカバー回転の影響を受けず、自律移動装置の移動方向に対して前方から後方にかけて緩やかな弧を描くように移動する。
【００４８】
図（ｄ）は、雨滴８０３の特徴点軌跡８０５の始点から終点までの移動の例である。雨滴８０３の特徴点軌跡８０５は、始点から終点まで回転軌跡を描くように移動する。
【００４９】
図（ｅ）は、構造物の特徴点軌跡の始点から終点までの移動の例である。構造物の特徴点８０２の軌跡８０６は、自律移動装置の移動方向に対して前方の始点から後方の終点にかけて緩やかな弧を描くように移動する。
同図のように構造物の特徴点と雨滴で生じた特徴点は、異なる移動軌跡をとるため、特徴点軌跡の移動パタンを解析して有効特徴点と無効特徴点を判別する。判別の手段は、少なくとも２枚以上の複数の撮影画像からそれぞれの特徴点の追跡処理を行い、特徴点の動きベクトルを算出して所定の移動条件と比較することで有効特徴点の移動パタンであるか、或いは無効特徴点の移動パタンであるかを判別する。
【００５０】
図９は、魚眼カメラの外観の一例を示す図である。
【００５１】
同図の魚眼カメラの例は、魚眼レンズ９００と撮像センサを内蔵したカメラ本体９０１を組合せた例である。魚眼レンズ９００には、カバー台座９０５に固定した状態のレンズカバー９０２を装着し、さらにレンズカバーを回転させるための回転機構９０３を備える。モーター（図示せず）等を回転させて発生させた回転エネルギー９０７を回転機構９０３からカバー台座９０５に伝え、台座に固定されたてレンズカバー９０２を回転９０８させる。
【００５２】
レンズカバー内部のカバー台座部分には、画像処理の際にレンズカバー９０２に付着した雨滴および雨滴の特徴点を精度良く認識するためのＬＥＤ（９０４）を装着する。このときＬＥＤ（９０４）は一つでもかまわないが、魚眼レンズの周囲を囲み、なお且つレンズカバー内側からレンズカバー全体に照射光が均等に照射されるように複数個配置した方が、より有効特徴点と無効特徴点とを判別しやすい。
【００５３】
魚眼レンズ９００およびカメラ本体９０１は、カメラ台座９０６を介して自律移動装置本体に固定するため、魚眼レンズ９００およびカメラ本体９０１は回転しない。
【００５４】
同図の例は、魚眼レンズ枠上にＬＥＤ（９０４）を固定して、ＬＥＤ（９０４）自体は回転しないようにしているが、ＬＥＤ（９０４）をカバー台座９０５に固定してＬＥＤ（９０４）自体もレンズカバー９０２と一緒に回転するように設置しても良い。
【００５５】
図１０は、自律移動装置の外観の一例を示す図である。
【００５６】
自律移動装置１０００は、搭乗者１００６が着座姿勢で乗車できる空間１００５を備えている。魚眼カメラおよびＧＰＳアンテナ１００２は、自律移動装置１０００の屋根に装着する。また、走行において前方の障害物等を検知して回避するためのレーダーセンサ１００３を本体前部に装着してもよい。（図１では図示せず）。これにより、自動で障害物を回避する経路を選択でき、自律走行の安全性が向上する。また、前進、後退、右回転、左回転等の走行移動を行うための車輪１００４を備える。
【００５７】
図１１は、ＬＥＤを複数個設けた場合における魚眼レンズ１１０１の枠上１１００に固定したＬＥＤの点灯パタンの一例を示す図（魚眼レンズ側から見た図）である。
【００５８】
ＬＥＤ照射光を所定の点灯パタンで周期的に変化させることで、雨滴および雨滴の特徴点を精度良く認識することができる。つまり、背景の構造物にはＬＥＤ照射光は到達せず、雨滴のみに照射光が当たることを利用して、雨滴に生じる反射光の変化（即ち輝度値の変化）を人工的に作り出し、それを観測することで、構造物の特徴点と雨滴の特徴点を判別する。即ち、ＬＥＤの点灯パタンと同期して観測領域の輝度値が変化する部分には雨滴が存在すると判別することができる。輝度値が変化する領域と重なる、または近傍の特徴点は雨滴の特徴点（無効特徴点）としてキャンセルする。なお、このときLEDの照射光が赤外に近い波長である方が、夜間であっても雨滴を区別しやすいため、白色光の場合よりも識別効果が高い。
【００５９】
図１１（ａ）は、全てのＬＥＤ（１１０２）を点灯したパタンである。
【００６０】
図１１（ｂ）は、全てのＬＥＤ（１１０３）を消灯したパタンである。ＬＥＤの全点灯と全消灯を所定の時間間隔で切り換えるようにする。全点灯と全消灯の切換え周期は、常に同一の周期でも良いし、異なる周期でも良い。また、全点灯と全消灯の時間間隔がそれぞれ異なるように変則に設定しても良い。
【００６１】
図１２は、ＬＥＤの点灯パタンの別の一例を示す図  （魚眼レンズ側から見た図）  である。
【００６２】
同図は、ＬＥＤの点灯箇所を複数個所に分割して周期的に点灯位置を変化させる点灯パタンである。図１２（ａ）はＬＥＤ（１２００）が全点灯、図１２（ｂ）は向かって左側半分のＬＥＤ（１２０１）が点灯、図１２（ｃ）は向かって右側半分のＬＥＤ（１２０２）が点灯、図１２（ｄ）は向かって上側半分のＬＥＤ（１２０３）が点灯、図１２（ｅ）は向かって下側半分のＬＥＤ（１２０４）が点灯する状態を示している。
【００６３】
同図の点灯パタンを実施する効果は、図１１で説明した効果に加え、ＬＥＤ点灯位置が周期的に変化するため、照射光が雨滴に反射する領域もＬＥＤ点灯に同期して周期的に変化する。この周期的な雨滴の輝度値変化を観測することで、より確実に雨滴が存在する箇所を判別することができる。
【００６４】
別の応用パタンとして、同図に加えて全消灯のパタンを追加しても良い。また、ＬＥＤの点灯部分をさらに細かく区切って点灯パタンを増やして、周期的に点灯箇所を変化するようにしても良い。各点灯箇所の切換え周期は、常に同一の周期でも良いし、異なる周期でも良い。また、各点灯箇所の時間間隔がそれぞれ異なるように変則に設定しても良い。各点灯箇所の点灯順序は、一定の順番を繰り返しても良いし、異なる順番でランダムに点灯しても良い。
【００６５】
図１３は、ＬＥＤの点灯パタンのさらに別の一例を示す図  （魚眼レンズ側から見た図）  である。
【００６６】
１つ１つのＬＥＤを順番に点灯させ、円を描くように点灯位置を変化させる点灯パタンである。
【００６７】
図１３（ａ）は、向かって反時計回りに１つ１つのＬＥＤ（１３００）が順番に点灯する状態を示している。図１３（ｂ）は、向かって時計回りに１つ１つのＬＥＤ（１３０１）が順番に点灯する状態を示している。
【００６８】
個々のＬＥＤ点灯箇所の切換え周期は、常に同一の周期でも良いし、異なる周期でも良い。また、個々のＬＥＤ点灯箇所の時間間隔がそれぞれ異なるように変則に設定しても良い。個々のＬＥＤ点灯箇所の点灯順序は、図１３（ａ）または図１３（ｂ）の点灯パタンを常に繰り返しても良いし、図１３（ａ）および図１３（ｂ）の点灯パタンを交互に行うようにしても良い。
【００６９】
図１４は、雨滴が付着したレンズカバーに向かってＬＥＤを照射した場合の雨滴の撮影状態の一例を示す図である。
【００７０】
図１４（ａ）は、ＬＥＤ照射光の軌跡を示す図である。ＬＥＤ（１４０３）から照射された光はレンズカバー方向に向かって拡散しながら進み、レンズカバー１４０２に付着した雨滴１４０４の内部で屈折現象（光波は異なる物質の境界面を境にして進行方向が変わる性質を持つスネルの法則に基づく）が生じて反射する。その反射した光の一部がカメラ撮像素子１４０１に届く。
【００７１】
図１４（ｂ）は、ＬＥＤの照射方向と撮影画像に観測される雨滴の輝度状態の一例を示す図である。
雨滴１４０６の表面は、表面張力により球面形状を持つので雨滴内で屈折した光は、ＬＥＤ照射光の照射方向１４０７および光の入射角度の条件に基づき、ある箇所に部分的に集中する性質を持つ。例えば、同図のように向かって左側からＬＥＤ照射がある場合は、向かって右側の雨滴部分１４０８に屈折した光が集中する。よって、撮影画像も向かって右側の雨滴部分１４０８の輝度値が高くなった状態で移り込むことになる。
【００７２】
図１５は、本発明の画像処理装置における自己位置推定部の処理フローを示す図である。
【００７３】
まず、自律移動装置の利用者が表示部１１３に表示された情報を元に、入力装置１１２を用いて目的地を設定する（Ｓ１）。走行ルート設定部１０５は、現在位置から入力された目的地までの走行ルートを設定する（Ｓ２）。画像処理装置は、地図情報記憶部１０７から特徴点地図を読み込む（Ｓ３）。続いて、レンズカバー回転機構１０９にてレンズカバー回転を開始（Ｓ４）、ＬＥＤ照射機構１１０がＬＥＤ照射を開始（Ｓ５）して、走行機構１１４の制御により自律移動装置の移動を開始する（Ｓ６）。次に、目的地に到着したか否かを判定（Ｓ７）し、まだ目的地に到達していなければカメラ１０８が撮影した画像を入力（Ｓ８）して、特徴点検出部３００が入力画像の特徴点抽出を行い（Ｓ９）、抽出した特徴点情報（Ａ）をメモリ１０３に一時保存する。次に、特徴点追跡部４０３は１つ前の入力画像の特徴点情報と現在画像の特徴点情報（Ａ）を用いて特徴点の追跡計算を行い（Ｓ１０）、動きベクトル算出部４０４が追跡結果から特徴点の動きベクトルを計算する（Ｓ１１）。求めた特徴点の動きベクトルについて、特徴点判定部４０５が無効特徴点か否かを判定し（Ｓ１２）、無効特徴点情報（Ｂ）をメモリ１０３に一時保存する。
【００７４】
ここで、有効特徴点修習粒４０６が特徴点情報（Ａ）から無効特徴点情報（Ｂ）を減算（除去）し、有効特徴点情報（Ｃ）を得る（Ｓ１３）。次に特徴点マッチング部３０１は特徴点地図と有効特徴点とのマッチング処理を行い（Ｓ１４）、自己位置算出部３０２で現在位置を特定し（Ｓ１５）、走行ルート設定部１０５が走行ルートを更新してステップＳ７の目的地到達の確認に戻る（Ｓ１６）。
【００７５】
目的地到達の確認（Ｓ７）において目的地に到着した場合は、自律移動装置の走行停止（Ｓ１７）、ＬＥＤ照射停止（Ｓ１８）およびレンズカバー回転停止（Ｓ１９）を行い、処理フローを終了する。
【００７６】
図１６は、無効特徴点判定（Ｓ１２）の方法を示す図である。
【００７７】
無効特徴点の判定方法は、特徴点の動きベクトルを入力し（Ｓ１６１）、特徴点の動きベクトルがレンズカバー回転の動きベクトルと一致しているか否かを判定する（Ｓ１６２２）。一致していない場合は、入力した特徴点は周辺の構造物の特徴点であると判断して有効特徴点に設定する（Ｓ１６７）。一致している場合は、まずＬＥＤ照射機構がＯＮになっているかを判定する（Ｓ１６３）。ＬＥＤ照射機構がＯＦＦあるいは存在していない場合には、雨滴等による特徴点であるとして無効特徴点に設定する（Ｓ１６６）。ＬＥＤ照射機構がＯＮの場合には特徴点付近の輝度値変化周期を計算し（Ｓ１６４）、輝度値の変化周期がＬＥＤ照射パタンの変化周期と一致しているか否かを判定する（Ｓ１６５）。一致していない場合は、入力した特徴点は周辺の構造物の特徴点であると判断して有効特徴点に設定する（Ｓ１６７）。一致している場合は、入力した特徴点は雨滴等による特徴点であると判断して無効特徴点に設定する（Ｓ１６６）。
【００７８】
図１７は、本発明の画像処理装置における別の自己位置推定部の処理フローを示す図である。
【００７９】
これまで説明したように、本発明の画像処理装置は、天候に関係なく常にレンズカバーを回転させ、ＬＥＤ照射機構が設けられている場合にはＬＥＤ照射も行うようにしている。晴天時や曇りの場合は、レンズカバーに雨滴が付着しないために撮影画像の特徴点を誤検知することがないため、常にレンズカバー回転とＬＥＤ照射とを行っても支障がないためである。また、雨天と晴天を判別して動作モードを切り換える必要がないという装置制御上の利点もある。
【００８０】
一方、省電力化等の理由から雨天時と晴天時を切り換える必要が生じた場合は、目的地到達の確認（Ｓ７）以降の処理フローを次のように置き換えても良い。
【００８１】
現在の天候が雨天か否かを判定し（Ｓ１７１）、雨天ならばレンズカバー回転およびＬＥＤ照射を使用して有効特徴点を特定する自己位置推定処理（図１５のＳ８からＳ１６の処理フロー）を実行する（Ｓ１７２）。晴天ならば、レンズカバー回転およびＬＥＤ照射を実行しない自己位置推定処理を実行する（Ｓ１７３）。
【００８２】
現在の天候が雨天か否かの判定は、雨滴センサ等の降雨検知デバイスを用いて判定するようにしても良いし、画像処理による雨滴検知で判定するようにしても良い。画像処理による雨滴検知の例としては、Ｓ１１において無効特徴点が検出された場合は雨滴が存在すると推測されるため雨天であると判定する方法がある。
【００８３】
図１８は、晴天モード（Ｓ１７３）の自己位置推定処理フローを示す図である。
【００８４】
晴天モードでは、レンズカバー回転およびＬＥＤ照射を実行しない自己位置推定処理を実行する。
【００８５】
カメラから撮影画像を入力（Ｓ１８１）して入力画像の特徴点抽出を行う（Ｓ１８２）。抽出した特徴点情報と特徴点地図とのマッチング処理を行い（Ｓ１８３）、現在位置を特定し（Ｓ１８４）、走行ルートを更新（Ｓ１８５）して目的地到達の確認（Ｓ７）に戻る。
【００８６】
以上を踏まえれば、本実施例に記載の画像処理装置は、画像を撮影するカメラ１０８と、カメラのレンズ９００を覆い、可視光を透過するカバー４１４，９０２と、カメラの撮影方向を軸としてカバーを回転させる駆動部４１２，４１３と、画像から特徴点を抽出する抽出部３００と、時間的に連続する複数の画像を用いて抽出した複数の特徴点の動きを追跡し、特徴点の動きベクトルを計算する動きベクトル算出部４０４と、動きベクトルを用いてカメラの移動に起因して動く第１特徴点とカバーの回転に起因して動く第２特徴点とを判別し、第１特徴点を検出する検出部４０６とを、有することを特徴とする。
【００８７】
このように、レンズ上にカバーを設け、カバーとカメラ自体とが異なる動きをすることを利用し、ノイズとなる特徴点を除去することができる。
【００８８】
また、本実施例に記載の自律移動装置は、地図情報および特徴点地図が蓄積されている記憶部１０７と、地図情報と入力された目的地とを用いて目的地までの走行ルートを設定するルート設定部１０５と、画像を撮影するカメラ１０８と、カメラのレンズ９００を覆い、可視光を透過するカバー４１４，９０２と、カメラの撮影方向を軸としてカバーを回転させる駆動部４１２，４１３と、画像から特徴点を抽出する抽出部３００と、時間的に連続する複数の画像を用いて抽出した複数の特徴点の動きを追跡し、特徴点の動きベクトルを計算する動きベクトル算出部４０４と、動きベクトルを用いてカメラの移動に起因して動く第１特徴点とカバーの回転に起因して動く第２特徴点とを判別し、第１特徴点を検出する検出部４０６と、第１特徴点と特徴点地図３０３とを用いて自律移動装置の自己位置を推定する位置推定部１０６と、を有することを特徴とする。
【００８９】
このように、ノイズとなる特徴点を除去することで、雨天時においても画像処理のみを用いて自己位置推定ができ、屋外での移動が可能となる。
【００９０】
さらに、本実施例に記載の自己位置推定方法は、記憶部１０７に記憶されている地図情報と、入力された目的地戸を用いて目的地までの走行ルートを設定する第１ステップ（Ｓ１，Ｓ２）と、カメラで撮像された画像を受け取る第２ステップと（Ｓ８）、画像から特徴点を抽出する第３ステップ（Ｓ９）と、複数の画像から抽出された複数の特徴点を用いて特徴点の動きベクトルを計算する第４ステップ（Ｓ１１）と、カメラのレンズを覆うカバーの駆動情報と前記動きベクトルとを用いて、カメラの移動に起因して動く第１特徴点とカバーの回転に起因して動く第２特徴点とを判別し、第１特徴点を検出する第５ステップ（Ｓ１３）と、記憶部１０７に記憶されている特徴点地図３０３と第１特徴点とを用いて、移動装置の自己位置を推定する第６ステップ（Ｓ１５）と、を有することを特徴とする。
【００９１】
このように、ノイズとなる特徴点を除去することで、雨天時においても画像処理のみを用いて自己位置推定ができる。
【００９２】
尚、本発明は、上述の各実施の形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で種々の変更が可能である。例えば、上記した実施形態は本発明を分かりやすく説明するために詳細に説明したのであり、必ずしも説明の全ての構成を備えるものに限定されものではない。また、ある実施形態の構成の一部を他の実施形態の構成に置き換えることが可能であり、また、ある実施形態の構成に他の実施形態の構成を加えることが可能である。また、各実施形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
【００９３】
また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、各構成、機能等の機能を実現するソフトウェアで実現する場合を主に説明したが、各機能を実現するプログラム、データ、ファイル等の情報は、メモリのみならず、ハードディスク、ＳＳＤ（Ｓｏｌｉｄ  Ｓｔａｔｅ  Ｄｒｉｖｅ）等の記録装置、または、ＩＣカード、ＳＤカード、ＤＶＤ等の記録媒体におくことができるし、必要に応じて無線ネットワーク等を介してダウンロード、インストロールすることも可能である。
【符号の説明】
【００９４】
１００…画像処理装置、
１０１…中央処理装置、
１０２…記憶装置、
１０３…メモリ、
１０４…自律走行制御部、
１０５…走行ルート設定部、
１０６…自己位置推定部、
１０７…地図情報記憶部、
１０８…魚眼カメラ、
１０９…レンズカバー回転機構、
１１０…ＬＥＤ、
１１１…衛星測位システム、
１１２…入力装置、
１１３…表示部、
１１４…走行機構。
【図１】
2016207987.tif 000003
【図２】
2016207987.tif 000004
【図３】
2016207987.tif 000005
【図４】
2016207987.tif 000006
【図５】
2016207987.tif 000007
【図６】
2016207987.tif 000008
【図７】
2016207987.tif 000009
【図８】
2016207987.tif 000010
【図９】
2016207987.tif 000011
【図１０】
2016207987.tif 000012
【図１１】
2016207987.tif 000013
【図１２】
2016207987.tif 000014
【図１３】
2016207987.tif 000015
【図１４】
2016207987.tif 000016
【図１５】
2016207987.tif 000017
【図１６】
2016207987.tif 000018
【図１７】
2016207987.tif 000019
【図１８】
2016207987.tif 000020
【手続補正書】
【提出日】平成29年10月23日(2017.10.23)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
画像を撮影するカメラと、
前記カメラのレンズを覆い、可視光を透過するカバーと、
前記カメラの撮影方向を軸として前記カバーを回転させる駆動部と、
前記画像から特徴点を抽出する抽出部と、
時間的に連続する複数の前記画像を用いて抽出した複数の前記特徴点の動きを追跡し、前記特徴点の動きベクトルを計算する動きベクトル算出部と、
前記動きベクトルを用いて前記カメラの移動に起因して動く第１特徴点と前記カバーの回転に起因して動く第２特徴点とを判別し、前記第１特徴点を検出する検出部とを、有することを特徴とする画像処理装置。
【請求項２】
請求項１記載に画像処理装置において、
前記検出部はさらに、前記特徴点の輝度値を用いて前記第１特徴点を検出することを特徴とする画像処理装置。
【請求項３】
請求項２記載に画像処理装置において、
さらに、前記カバーの内側から前記カバーへ向かう向きに光を照射する光源を、前記レンズの周囲に複数有し、
前記光源はあらかじめ設定された周期で発行することを特徴とする画像処理装置。
【請求項４】
あらかじめ設定された目的地へ自律して移動する自律移動装置であって、
地図情報および特徴点地図が蓄積されている記憶部と、
前記地図情報と入力された目的地とを用いて目的地までの走行ルートを設定するルート設定部と、
画像を撮影するカメラと、
前記カメラのレンズを覆い、可視光を透過するカバーと、
前記カメラの撮影方向を軸として前記カバーを回転させる駆動部と、
前記画像から特徴点を抽出する抽出部と、
時間的に連続する複数の前記画像を用いて抽出した複数の前記特徴点の動きを追跡し、前記特徴点の動きベクトルを計算する動きベクトル算出部と、
前記動きベクトルを用いて前記カメラの移動に起因して動く第１特徴点と前記カバーの回転に起因して動く第２特徴点とを判別し、前記第１特徴点を検出する検出部と、
前記第１特徴点と前記特徴点地図とを用いて前記自律移動装置の自己位置を推定する位置推定部と、を有することを特徴とする自律移動装置。
【請求項５】
請求項４に記載の自律移動装置であって、
前記カバーの内側から前記カバーへ向かう向きに光を照射する光源を、前記レンズの周囲に配置することを特徴とする自律移動装置。
【請求項６】
請求項５に記載の自律移動装置であって、
前記光源は複数のＬＥＤで構成され、
前記光源のあらかじめ設定された周期で発行することを特徴とする自律移動装置。
【請求項７】
移動装置の自己位置を推定する方法であって、
記憶部に記憶されている地図情報と、入力された目的地とを用いて目的地までの走行ルートを設定する第１ステップと、
カメラで撮像された画像を受け取る第２ステップと、
前記画像から特徴点を抽出する第３ステップと、
複数の前記画像から抽出された複数の前記特徴点を用いて前記特徴点の動きベクトルを計算する第４ステップと、
前記カメラのレンズを覆うカバーの駆動情報と前記動きベクトルとを用いて、前記カメラの移動に起因して動く第１特徴点と前記カバーの回転に起因して動く第２特徴点とを判別し、前記第１特徴点を検出する第５ステップと、
前記記憶部に記憶されている特徴点地図と前記第１特徴点とを用いて、前記移動装置の自己位置を推定する第６ステップと、を有することを特徴とする自己位置推定方法。
【請求項８】
請求項７の自己位置推定方法において、
前記第５ステップでは、さらに前記特徴点の輝度値を用いて前記第１特徴点を検出することを特徴とする自己位置推定方法。
【国際調査報告】
2016207987.tif 000021
2016207987.tif 000022
2016207987.tif 000023