(57)【要約】【課題】  自体運動推定装置及び方法を提供する。【解決手段】  自体運動推定装置は、入力イメージの複数の領域から場面フローフィールドを算出し、場面フローに基づいて複数の領域をクラスタリングし、クラスタリングされた複数の領域に対する確率ベクトルマップをアップデートし、アップデートされた確率ベクトルマップに基づいて静的背景を識別し、識別された静的背景に基づいて自体運動情報を推定する。【選択図】      図３
2020024667.tif 000002
【特許請求の範囲】
【請求項１】
自体運動推定方法において、
領域に区分される入力イメージに対して、前記領域のそれぞれに対する場面フローを指示する場面フローフィールドを生成するステップと、
前記場面フローフィールドに基づいて、前記領域をグループにクラスタリングするステップと、
前記グループに基づいて、前記領域のラベルに対する確率ベクトルマップを生成するステップと、
前記生成された確率ベクトルマップに基づいて、装置の自体運動情報を推定するステップと、
を含む自体運動推定方法。
【請求項２】
前記場面フローフィールドを生成するステップは、
前記領域のそれぞれに対して２次元動きを指示するモーションベクトル及び深度方向の動きを指示する深度ベクトルを算出するステップと、
前記モーションベクトル及び前記深度ベクトルに基づいて場面フローを算出するステップと、
を含む、請求項１に記載の自体運動推定方法。
【請求項３】
前記クラスタリングするステップは、前記領域のうち類似の場面フローを示す類似の領域を含むように前記グループの各グループを形成するステップを含む、請求項１又は２に記載の自体運動推定方法。
【請求項４】
前記類似の領域の場面フロー間の差が閾値差の未満である、請求項３に記載の自体運動推定方法。
【請求項５】
前記クラスタリングするステップは、
前記領域のうち予め決定された個数の領域をランダムに選択するステップと、
前記ランダムに選択された領域のそれぞれに対する場面フローが互いに類似の場合に応答して、前記ランダムに選択された領域を基準領域に指定するステップと、
前記基準領域に基づいて前記領域をグループに分類するステップと、
を含む、請求項１−４のうち何れか一項に記載の自体運動推定方法。
【請求項６】
前記クラスタリングするステップは、前記ランダムに選択された領域のそれぞれに対する場面フローが互いに類似しない場合に応答して、前記領域のうち予め決定された個数の領域を再びランダムに選択するステップをさらに含む、請求項５に記載の自体運動推定方法。
【請求項７】
前記グループに分類するステップは、前記基準領域周辺の領域のうちから、前記基準領域の周辺領域のうち前記基準領域の代表場面フローに類似な場面フローを有する領域を前記基準領域と同じグループに決定するステップを含む、請求項５に記載の自体運動推定方法。
【請求項８】
前記代表場面フローは、前記基準領域で場面フローの平均フローを含む、請求項７に記載の自体運動推定方法。
【請求項９】
前記代表場面フローから空間の前記場面フローのベクトル差は閾値差の未満である、請求項８に記載の自体運動推定方法。
【請求項１０】
前記クラスタリングするステップは、前記領域がクラスタリングされた各グループに対してラベルをマッチングさせるステップを含む、請求項１−４のうち何れか一項に記載の自体運動推定方法。
【請求項１１】
前記自体運動情報を推定するステップは、
前記確率ベクトルマップに基づいて静的背景を識別するステップと、
前記識別された静的背景に基づいて前記自体運動情報を算出するステップと、
を含む、請求項１−１０のうち何れか一項に記載の自体運動推定方法。
【請求項１２】
前記静的背景を識別するステップは、前記確率ベクトルマップから最も高い確率を指示するラベルに基づいて、前記領域のうち静的背景を識別するステップを含む、請求項１１に記載の自体運動推定方法。
【請求項１３】
前記確率ベクトルマップを生成するステップは、前記領域がクラスタリングされた結果及び以前フレームの確率ベクトルマップに基づいて、現在フレームに対する確率ベクトルマップを算出するステップを含む、請求項１−１２のうち何れか一項に記載の自体運動推定方法。
【請求項１４】
前記現在フレームに対する確率ベクトルマップを算出するステップは、
以前フレームから現在フレームまでの各領域の移動を指示する変換ベクトルマップに基づいて、前記以前フレームの確率ベクトルマップを補償することによって補償されたベクトルマップを生成するステップと、
前記補償されたベクトルマップ及び前記領域がクラスタリングされた結果に基づいて、前記現在フレームに対する確率ベクトルマップを算出するステップと、
を含む、請求項１３に記載の自体運動推定方法。
【請求項１５】
前記変換ベクトルマップは、以前フレームに対して算出された場面フローを含む、請求項１４に記載の自体運動推定方法。
【請求項１６】
前記入力イメージとしてチャネルイメージ及び深度イメージを取得するステップをさらに含み、
前記場面フローフィールドを生成するステップは、３次元場面フローを指示する場面フローフィールドを生成するステップを含む、請求項１−１５のうち何れか一項に記載の自体運動推定方法。
【請求項１７】
前記チャネルイメージは、赤色チャネルイメージ、緑色チャネルイメージ、及び青色チャネルイメージのうちの１つ又は２以上の組合せを含む、請求項１６に記載の自体運動推定方法。
【請求項１８】
前記入力イメージをグリッドパターンに基づいて前記領域に分割するステップをさらに含む、請求項１−１６のうち何れか一項に記載の自体運動推定方法。
【請求項１９】
前記領域のそれぞれは、前記入力イメージに含まれたピクセルのうちから少なくとも１つのピクセルを含む、請求項１−１８のうち何れか一項に記載の自体運動推定方法。
【請求項２０】
前記装置が動いていないとき取得される初期イメージで、静的な領域に対して静的背景に対応するラベルをマッチングさせるステップをさらに含む、請求項１−１９のうち何れか一項に記載の自体運動推定方法。
【請求項２１】
請求項１乃至２０のいずれか一項に記載の自体運動推定方法を装置のコンピュータに実行させるコンピュータプログラム。
【請求項２２】
自体運動推定装置において、
入力イメージを取得するイメージセンサと、
前記入力イメージを領域に区分し、前記領域のそれぞれに対する場面フローを指示する場面フローフィールドを生成し、前記場面フローフィールドに基づいて前記領域をグループにクラスタリングし、前記グループに基づいて前記領域のラベルに対する確率ベクトルマップを生成し、前記生成された確率ベクトルマップに基づいて装置の自体運動情報を推定するプロセッサと、
を含む自体運動推定装置。
【請求項２３】
自体運動推定方法において、
領域に分割された入力イメージに対して、前記領域のそれぞれに対する場面フローを指示する場面フローフィールドを生成するステップと、
閾値よりも小さいグループで領域の場面フロー間の差に基づいてグループに前記領域をクラスタリングするステップと、
前記グループに基づいて、前記領域のラベルに対する確率ベクトルマップを生成するステップと、
前記確率ベクトルマップに基づいて静的背景を識別するステップと、
前記静的背景に基づいて装置の自体運動情報を推定するステップと、
を含む自体運動推定方法。
【発明の詳細な説明】
【技術分野】
【０００１】
以下、自体運動情報を推定する技術が提供される。
【背景技術】
【０００２】
移動ロボット、ドローン、及び自律走行車両などのような装置は、オドメトリ（ｏｄｏｍｅｔｒｙ）を用いて装置自体の相対的位置を認識できる。オドメトリは静的環境、すなわち、カメラ以外の動いている物体のない環境を仮定しているため、動的環境（カメラ以外の動いている物体が存在する環境）で動作する場合に姿勢推定が正確でないことが懸念される。
【０００３】
例えば、自律走行車両が走行するとき周辺に歩行者や他の自動車が存在し得る。サービスロボットが動作するとき、サービスロボットの周辺に歩行者が存在し得る。したがって、自律走行車両などは、より正確なオドメトリ動作を行うために静的領域と動的領域とを区分する技術が求められている。
【発明の概要】
【発明が解決しようとする課題】
【０００４】
一実施形態に係る自体運動推定装置の目的は、移動オブジェクト及び静的背景とを区別してオドメトリを正確に行うことにある。
【０００５】
一実施形態に係る自体運動推定装置の目的は、モーション空間分割及びモーション時間分割を用いて入力イメージからオブジェクト及び背景を区別することにある。
【課題を解決するための手段】
【０００６】
一実施形態に係る自体運動推定方法は、領域（spaces）に区分される入力イメージに対して、前記領域のそれぞれに対する場面フローを指示する場面フローフィールドを生成するステップと、前記場面フローフィールドに基づいて、前記領域をグループにクラスタリングするステップと、前記グループに基づいて、前記領域のラベルに対する確率ベクトルマップを生成するステップと、前記生成された確率ベクトルマップに基づいて、装置の自体運動情報を推定するステップとを含む。
【０００７】
前記場面フローフィールドを生成するステップは、前記領域のそれぞれに対して２次元動きを指示するモーションベクトル及び深度方向の動きを指示する深度ベクトルを算出するステップと、前記モーションベクトル及び前記深度ベクトルに基づいて場面フローを算出するステップとを含み得る。
【０００８】
前記クラスタリングするステップは、前記領域のうち類似の場面フローを示す類似の領域を含むように前記グループの各グループを形成するステップを含み得る。
【０００９】
前記類似の領域の場面フロー間の差が閾値差の未満であり得る。
【００１０】
前記クラスタリングするステップは、前記領域のうち予め決定された個数の領域をランダムに選択するステップと、前記ランダムに選択された領域のそれぞれに対する場面フローが互いに類似の場合に応答して、前記ランダムに選択された領域を基準領域に指定するステップと、前記基準領域に基づいて前記領域をグループに分類するステップとを含み得る。
【００１１】
前記クラスタリングするステップは、前記ランダムに選択された領域のそれぞれに対する場面フローが互いに類似しない場合に応答して、前記領域のうち予め決定された個数の領域を再びランダムに選択するステップをさらに含み得る。
【００１２】
前記グループに分類するステップは、前記基準領域周辺の領域のうちから、前記基準領域の周辺領域のうち前記基準領域の代表場面フローに類似な場面フローを有する領域を前記基準領域と同じグループに決定するステップを含み得る。
【００１３】
前記代表場面フローは、前記基準領域で場面フローの平均フローを含み得る。
【００１４】
前記代表場面フローから空間の前記場面フローのベクトル差は閾値差の未満であり得る。
【００１５】
前記クラスタリングするステップは、前記領域がクラスタリングされた各グループに対してラベルをマッチングさせるステップを含み得る。
【００１６】
前記自体運動情報を推定するステップは、前記確率ベクトルマップに基づいて静的背景を識別するステップと、前記識別された静的背景に基づいて前記自体運動情報を算出するステップとを含み得る。
【００１７】
前記静的背景を識別するステップは、前記確率ベクトルマップから最も高い確率を指示するラベルに基づいて、前記領域のうち静的背景を識別するステップを含み得る。
【００１８】
前記確率ベクトルマップを生成するステップは、前記領域がクラスタリングされた結果及び以前フレームの確率ベクトルマップに基づいて、現在フレームに対する確率ベクトルマップを算出するステップを含み得る。
【００１９】
前記現在フレームに対する確率ベクトルマップを算出するステップは、以前フレームから現在フレームまでの各領域の移動を指示する変換ベクトルマップに基づいて、前記以前フレームの確率ベクトルマップを補償することによって補償されたベクトルマップを生成するステップと、前記補償されたベクトルマップ及び前記領域がクラスタリングされた結果に基づいて、前記現在フレームに対する確率ベクトルマップを算出するステップとを含み得る。
【００２０】
前記変換ベクトルマップは、以前フレームに対して算出された場面フローを含み得る。
【００２１】
自体運動推定方法は、前記入力イメージとしてチャネルイメージ及び深度イメージを取得するステップをさらに含み、前記場面フローフィールドを生成するステップは、３次元場面フローを指示する場面フローフィールドを生成するステップを含み得る。
【００２２】
前記チャネルイメージは、赤色チャネルイメージ、緑色チャネルイメージ、及び青色チャネルイメージのうちの１つ又は２以上の組合せを含み得る。
【００２３】
自体運動推定方法は、前記入力イメージをグリッドパターンに基づいて前記領域に分割するステップをさらに含み得る。
【００２４】
前記領域のそれぞれは、前記入力イメージに含まれたピクセルのうちから少なくとも１つのピクセルを含み得る。
【００２５】
自体運動推定方法は、前記装置が動いていないとき取得される初期イメージで、静的な領域に対して静的背景に対応するラベルをマッチングさせるステップをさらに含み得る。
【００２６】
一実施形態に係る自体運動推定装置は、入力イメージを取得するイメージセンサと、前記入力イメージを領域に区分し、前記領域のそれぞれに対する場面フローを指示する場面フローフィールドを生成し、前記場面フローフィールドに基づいて前記領域をグループにクラスタリングし、前記グループに基づいて前記領域のラベルに対する確率ベクトルマップを生成し、前記生成された確率ベクトルマップに基づいて装置の自体運動情報を推定するプロセッサとを含む。
【００２７】
一実施形態に係る自体運動推定方法は、領域に分割された入力イメージに対して、前記領域のそれぞれに対する場面フローを指示する場面フローフィールドを生成するステップと、閾値よりも小さいグループで領域の場面フロー間の差に基づいてグループに前記領域をクラスタリングするステップと、前記グループに基づいて、前記領域のラベルに対する確率ベクトルマップを生成するステップと、前記確率ベクトルマップに基づいて静的背景を識別するステップと、前記静的背景に基づいて装置の自体運動情報を推定するステップとを含む。
【発明の効果】
【００２８】
一実施形態に係る自体運動推定装置は、場面の流れに対するモーション空間分割及びモーション時間分割を用いて区別したオブジェクト及び背景を用いて、動的物体が存在する状況でも自分の位置を確実に推定することができる。
【００２９】
一実施形態に係る自体運動推定装置は、正確に識別された静的背景を用いて自体運動情報を正確に推定することができる。
【００３０】
一実施形態に係る自体運動推定装置は、より安全な走行経験を提供することができる。
【図面の簡単な説明】
【００３１】
【図１】一実施形態に係る自体運動情報推定システムを説明する図である。
【図２】一実施形態に係る自体運動推定方法を説明するフローチャートである。
【図３】一実施形態に係る自体運動情報推定の過程を説明する図である。
【図４】一実施形態に係る入力イメージを説明する図である。
【図５】一実施形態に係る場面フローフィールドを説明する図である。
【図６】一実施形態に係るクラスタリング動作を説明する図である。
【図７】一実施形態に係るラベリング動作を説明する図である。
【図８】一実施形態に係る確率ベクトルマップを説明する図である。
【図９】一実施形態に係る確率ベクトルマップをアップデートする動作を説明する図である。
【図１０】一実施形態に係る自体運動推定装置の構成を説明するブロック図である。
【発明を実施するための形態】
【００３２】
下記で説明する実施形態は様々な変更が加えられることができる。特許出願の範囲がこのような実施形態によって制限も限定もされることはない。各図面に提示された同じ参照符号は同じ部材を示す。
【００３３】
本明細書で開示されている特定の構造的又は機能的な説明は単に実施形態を説明するための目的として例示されたものであり、実施形態は様々な異なる形態で実施され、本明細書に説明された実施形態に限定されることはない。
【００３４】
本明細書で用いた用語は、単に特定の実施形態を説明するために用いられるものであって、本発明を限定しようとする意図はない。単数の表現は、文脈上、明白に異なる意味をもたない限り複数の表現を含む。本明細書において、「含む」又は「有する」等の用語は明細書上に記載した特徴、数字、ステップ、動作、構成要素、部品又はこれらを組み合わせたものが存在することを示すものであって、１つ又はそれ以上の他の特徴や数字、ステップ、動作、構成要素、部品、又はこれを組み合わせたものなどの存在又は付加の可能性を予め排除しないものとして理解しなければならない。
【００３５】
異なる定義がされない限り、技術的であるか又は科学的な用語を含むここで用いる全ての用語は、本実施形態が属する技術分野で通常の知識を有する者によって一般的に理解されるものと同じ意味を有する。一般的に用いられる予め定義された用語は、関連技術の文脈上で有する意味と一致する意味を有するものと解釈すべきであって、本明細書で明白に定義しない限り、理想的又は過度に形式的な意味として解釈されることはない。
【００３６】
また、添付図面を参照して説明することにおいて、図面符号に関係なく同じ構成要素は同じ参照符号を付与し、これに対する重複する説明は省略する。実施形態の説明において関連する公知技術に対する具体的な説明が実施形態の要旨を不要に曖昧にすると判断される場合、その詳細な説明は省略する。
【００３７】
図１は、一実施形態に係る自体運動情報推定システムを説明する図である。
【００３８】
一実施形態によれば、自体運動推定装置１１０は、オドメトリを行う。オドメトリは、自体運動情報（ｅｇｏ  ｍｏｔｉｏｎ  ｉｎｆｏｒｍａｔｉｏｎ）を推定する動作を示す。自体運動情報は、装置自体の運動に関する情報であって、例えば、装置自体の相対的な動き、座標、及び姿勢を含む。オドメトリは、全てのオブジェクトが停止した静的な環境を仮定して実行され得るが、このような仮定は、車両や歩行者が存在する環境に対するオドメトリ動作の位置推定性能を低下させることがある。したがって、一般的な動的環境でカメラの位置を確実に推定するためには、自体運動推定装置１１０は、カメラの視野（ＦＯＶ、ｆｉｅｌｄ  ｏｆ  ｖｉｅｗ）内に示される互いに異なる動的オブジェクト及び背景を区別する必要がある。
【００３９】
自体運動推定装置１１０は、オドメトリを正確に行うために移動オブジェクト１８０及び静的背景１９０を区別する。例えば、自体運動推定装置１１０は、入力イメージで静的背景１９０に識別された部分のみを用いて、自体運動情報を推定する。移動オブジェクト１８０は、任意の速度及び方向に移動するオブジェクトを示す。静的背景１９０は、停止した状態のオブジェクト、事物、又は、背景を示す。
【００４０】
例えば、自体運動推定装置１１０は、入力イメージに対して算出された場面の流れ（ｓｃｅｎｅ  ｆｌｏｗ）に対してモーション空間分割（Ｍｏｔｉｏｎ  Ｓｐａｔｉａｌ  Ｓｅｇｍｅｎｔａｔｉｏｎ）及びモーション時間分割（Ｍｏｔｉｏｎ  Ｔｅｍｐｏｒａｌ  Ｓｅｇｍｅｎｔａｔｉｏｎ）を適用することで、入力イメージに示されるオブジェクト及び背景を区別し得る。一実施形態に係る自体運動推定装置１１０は、視野内で大きい部分を占めている動的物体についても確実に自分の位置を推定できる。
【００４１】
図１は、自体運動推定装置１１０が走行車両に装着された例示を示している。自体運動推定装置１１０の前方には任意の移動オブジェクト１８０として他の車両が存在し、静的背景１９０として固定された事物が存在し得る。車両が走行する環境で固定された事物は、例えば、街灯、信号機、及び壁などであってもよい。自体運動推定装置１１０は、イメージセンサを介して周辺に対する入力イメージを取得する。例えば、自体運動推定装置１１０は、カラーイメージ及び深度イメージを取得する。自体運動推定装置１１０は、入力イメージから静的背景１９０を識別し、静的背景１９０に基づいて自体運動情報を正確に推定できる。したがって、自律走行車両において、自体運動推定装置１１０はより安全な走行を補助することができる。
【００４２】
また、自体運動推定装置１１０は、正確に推定された自体運動情報に基づいて、ユーザに車両用ＡＲ（ａｕｇｍｅｎｔｅｄ  ｒｅａｌｉｔｙ）を現実感のあるように提供できる。
【００４３】
図２は、一実施形態に係る自体運動推定方法を説明するフローチャートである。
【００４４】
まず、ステップＳ２１０において、自体運動推定装置は、複数の領域（ｓｐａｃｅｓ）に区分される入力イメージに対して、複数の領域のそれぞれに対する場面フローを指示する場面フローフィールドを生成する。
【００４５】
入力イメージは、イメージセンサによって取得されるイメージとして、複数の領域に区分される。例えば、入力イメージは、格子パターンに区分される領域を含んでもよく、格子間の個別領域は１つ以上のピクセルを含んでもよい。入力イメージが区分されるパターンはユーザによって予め指定され得るが、これに限定されることはない。
【００４６】
入力イメージは、例えば、チャネルイメージ及び深度イメージを含む。チャネルイメージは平面的な情報を含むイメージであって、例えば、色イメージなどを含んでもよい。色イメージは、赤色チャネルイメージ、緑色チャネルイメージ、及び青色チャネルイメージを含んでもよい。色イメージに含まれたピクセルは、該当の色に対応する強度値を示す。深度イメージは、深度情報を含むイメージであって、ＴｏＦ（ｔｉｍｅ  ｏｆ  ｆｌｉｇｈｔ）方式及び構造光（ｓｔｒｕｃｔｕｒｅｄ  ｌｉｇｈｔ）方式などに基づいて取得されたイメージを示す。本明細書では、入力イメージが３つの色チャネルイメージ及び１つの深度イメージを含む例示を主に説明するが、これに限定されることはない。
【００４７】
場面フローは、イメージ内の一部が移動する３次元変位及び３次元方向を指示するベクトルを示す。例えば、任意の時間フレームに対して入力ａイメージの１つの領域に対して算出された場面フローは、該当の時間フレームから次の時間フレームまで該当領域の３次元移動を指示する。場面フローは、該当の時間フレームから次の時間フレームまでの該当領域の２次元動きを示すモーションベクトル、及び該当領域の深度方向の動きを示す深度ベクトルから生成される。例えば、自体運動推定装置は、モーションベクトル及び深度ベクトルを関連づけることによって場面フローを決定し得る。
【００４８】
場面フローフィールドは場面フローの集合であって、例えば、上述した入力イメージの複数領域のそれぞれに対して算出された場面フローの集合を示す。
【００４９】
そして、ステップＳ２２０において、自体運動推定装置は、場面フローフィールドに基づいて、複数の領域を複数のグループにクラスタリングする。例えば、自体運動推定装置は、類似のモーションを有する領域どうしのグループを形成するよう、複数の領域をクラスタリングしてもよい。個別グループは、静的背景又は動的オブジェクトにラベリングされる。動的オブジェクトにラベリングされたグループは、入力イメージで類似のモーションを示す領域がクラスタ化されたものであるため、任意の剛体（ｒｉｇｉｄ  ｂｏｄｙ）を示す。クラスタリング動作については、下記の図６を参照して説明する。
【００５０】
次に、ステップＳ２３０において、自体運動推定装置は、複数のグループに基づいて、複数の領域のラベルに対する確率ベクトルマップを生成する。確率ベクトルマップは、入力イメージが区分された領域に対して確率ベクトルがマッピングされたマップを示す。任意の領域にマッピングされた確率ベクトルは、該当領域が各ラベルに属する確率を示す。例えば、ｍ個のラベルが前提となる場合、確率ベクトルは、該当領域がｍ個のラベルそれぞれに属する確率を指示する。確率ベクトルマップについては、下記の図８を参照して説明する。
【００５１】
そして、ステップＳ２４０において、自体運動推定装置は、生成された確率ベクトルマップに基づいて装置の自体運動情報を推定する。例えば、自体運動推定装置は、静的背景に基づいて自体運動情報を推定してもよい。
【００５２】
一実施形態によれば、入力イメージは、ｎ個の領域に区分される。ここで、ｎは１以上の整数であり得る。場面フローフィールドは、ｎ個の領域それぞれに対する場面フローを含む。グループラベルは、ｎ個の領域それぞれが属するグループを指示するラベルを含む。確率ベクトルマップは、ｎ個の領域それぞれに対する確率ベクトルを含む。
【００５３】
図３は、一実施形態に係る自体運動情報推定の過程を説明する図である。
【００５４】
まず、ステップＳ３０１において、自体運動推定装置は、入力イメージを取得する。例えば、自体運動推定装置は、ＲＧＢ−Ｄイメージの対を入力イメージとして取得する。ＲＧＢ−Ｄイメージは、ＲＧＢイメージ及び深度イメージの対を示す。
【００５５】
そして、ステップＳ３１０において、自体運動推定装置は、場面フローを算出する。例えば、自体運動推定装置は、入力イメージの複数の領域のそれぞれに対して２次元平面上の動きを示すモーションベクトル（例えば、２次元オプティカルフロー）及び深度方向の動きを示す深度ベクトルを算出する。自体運動推定装置は、モーションベクトル及び深度ベクトルを関連づけることにより場面フローを決定する。異なる例として、自体運動推定装置は、入力イメージの複数の領域のそれぞれに対して場面フローとして３次元オプティカルフローを算出する。
【００５６】
次に、ステップＳ３２０において、自体運動推定装置は、モーション空間分割動作を行う。自体運動推定装置は、複数の領域を場面フローに基づいてクラスタリングする。一実施形態によれば、自体運動推定装置は、複数の領域のうち類似の場面フローを示す領域で複数のグループの各グループを形成する。例えば、自体運動推定装置は、ステップＳ３２１において基準領域を指定し、テップＳ３２２において、検証された基準領域に基づいて領域をグループに分類し、ステップＳ３２３において、グループがクラスタリングされた結果を生成する。したがって、自体運動推定装置は、３次元空間に対して推定された３次元場面フローのそれぞれが、どのような剛体に属するかを判断する。クラスタリング動作については、下記の図６を参照して説明する。
【００５７】
参考として、上述したクラスタリングの結果は、時間フレームに関係なく算出されたものであるため、以前時間フレームでＡというラベルを有する剛体と判断された物体が、次の時間フレームでＡではないＢというラベルを有する剛体として判断されてもよい。したがって、剛体ラベルの一貫性を保持するための動作が求められる。
【００５８】
剛体ラベルの一貫性を保持するために、自体運動推定装置はステップＳ３３０において、モーション時間分割動作を行う。例えば、自体運動推定装置は、ステップＳ３３１において、クラスタリングされた結果のそれぞれをラベリングし、ステップＳ３３３において、確率ベクトルマップを補償し、ステップＳ３３２において、確率ベクトルマップをアップデートする。Ｇ（ｋ）は、ｋ番目の時間フレームで各領域にラベリングされたグループラベルを示す。Ｃ（ｋ−１）は、ｋ−１番目の時間フレームの確率ベクトルマップにカメラ移動などが補償されたマップを示す。Ｐ（ｋ）は、ｋ番目の時間フレームの確率ベクトルマップを示す。このような確率ベクトルマップのアップデートは、下記の図９を参照して説明する。
【００５９】
そして、ステップＳ３３５において、自体運動推定装置は、静的背景を分割する。例えば、自体運動推定装置は、ｋ番目の時間フレームに対する確率ベクトルマップＰ（ｋ）に基づいて、入力イメージの領域のうち静的背景に対応する領域を識別する。例えば、自体運動推定装置は、確率ベクトルマップに基づいて静的背景を識別する。
【００６０】
次に、ステップＳ３４０において、自体運動推定装置は、自体運動情報を推定する。例えば、自体運動推定装置は、識別された静的背景に基づいてカメラの動きを示す自体運動情報を算出する。
【００６１】
図４は、一実施形態に係る入力イメージを説明する図である。
【００６２】
入力イメージ４００は、上述したようにチャネルイメージであってもよい。例えば、自体運動推定装置のイメージセンサは、外部を撮影することにより入力イメージ４００を生成する。また、自体運動推定装置は、時間フレームごとに入力イメージ４００を連続的に撮影する。入力イメージ４００は、上述したように複数の領域に区分され、各領域に対して下記の図５に示すように場面フローが推定され得る。
【００６３】
図５は、一実施形態に係る場面フローフィールドを説明する図である。
【００６４】
場面フローフィールド５００は、上述したように、入力イメージの領域のそれぞれに対して推定された場面フローの集合を示す。各場面フローは、２次元動きを指示するモーションベクトル及び深度方向の動きを指示する深度ベクトルを含む。モーションベクトルは、例えば、オプティカルフローであってもよい。自体運動推定装置は、Ｌｕｃａｓ−Ｋａｎａｄｅ法により複数の領域それぞれに対するモーションベクトルとしてオプティカルフローを算出する。自体運動推定装置は、オプティカルフローによって領域単位（ｓｐａｃｅ−ｗｉｓｅ）モーションを推定するが、これに限定されることなく、ピクセル単位（ｐｉｘｅｌ−ｗｉｓｅ）モーションを追跡してもよい。図５は、図４に示された入力イメージの各領域に対する場面フローが推定された場面フローフィールド５００を示すが、図４に示す入力イメージに示された移動オブジェクト（例えば、写真）について算出された場面フローは、右側移動を指示する。図５に示された場面フローフィールドは、説明の便宜のために場面フローが２次元移動方向のみに示されているが、場面フローは、該当領域の３次元移動方向及び３次元移動量を含んでもよい。
【００６５】
一実施形態によれば、自体運動推定装置は、平面チャネルイメージ及び深度イメージを入力イメージとして利用するため、各領域（ｓｐａｃｅ）に対して３次元速度を推定できる。
【００６６】
図６は、一実施形態に係るクラスタリング動作を説明する図である。
【００６７】
図３を参照して上述したように、自体運動推定装置は、ステップＳ３２０において、入力イメージの各領域に対して算出された場面フローに基づいて、複数の領域を複数のグループにクラスタリングする。一実施形態によれば、自体運動推定装置は、複数の領域のうち類似の場面フローを示す領域で複数のグループの各グループを形成する。例えば、自体運動推定装置は、各グループ内に属する各領域の場面フロー間の差が閾値差の未満になるよう、複数の領域を複数のグループのうち一つのグループに決定する。２つの場面フロー間の差は、例えば、ユークリッド距離であるが、これに限定されることはない。
【００６８】
まず、ステップＳ６２１において、自体運動推定装置は、複数の領域のうち予め決定された個数の領域６５１をランダムに選択する。予め決定された個数は、ユーザによって予め指定されるが、これに限定されることなく、設計に応じて変更され得る。
【００６９】
そして、ステップＳ６２２において、自体運動推定装置は、ランダムに選択された領域のそれぞれに対する場面フローが互いに類似の場合に応答して、ランダムに選択された領域６５１を基準領域６５２として指定する。例えば、自体運動推定装置は、ランダムに選択された場面フロー間の差が閾値差の未満である場合に応答して、選択された領域６５１を基準領域６５２として決定する。
【００７０】
ただし、自体運動推定装置は、ランダムに選択された領域のそれぞれに対する場面フローが互いに類似しない場合に応答して、複数の領域のうち予め決定された個数の領域６５１を再びランダムに選択する。例えば、自体運動推定装置は、選択された領域６５１に対する場面フローの差が閾値差以上である場合に応答して、領域を再び選択し得る。
【００７１】
次に、ステップＳ６２３において、自体運動推定装置は、基準領域に基づいて複数の領域を複数のグループに分類する。例えば、自体運動推定装置は、基準領域の周辺領域のうち、基準領域の代表場面フローに類似の場面フローを有する領域を基準領域と同じグループ６５３に決定してもよい。基準領域の代表場面フローは、例えば、基準領域内の場面フローの平均フローであるが、これに限定されることはない。例えば、自体運動推定装置は、周辺領域のうち代表場面フロー間のベクトル差が閾値差の未満である場面フローを有する領域を基準領域と同じグループ６５３に追加する。
【００７２】
そして、ステップＳ６２４において、自体運動推定装置は、クラスタリングされていない残りの領域についても上述したステップＳ６２１〜Ｓ６２３を繰り返す。自体運動推定装置は、残りの領域についてもランダムに基準領域を選択する動作及び基準領域に基づいて該当グループを拡張する動作を行う。
【００７３】
次に、ステップＳ６２５において、自体運動推定装置は、全領域に対するグループが指定されたクラスタリング結果を生成する。
【００７４】
図７は、一実施形態に係るラベリング動作を説明する図である。
【００７５】
一実施形態に係る自体運動推定装置は、クラスタリングが完了した複数の領域に対してラベルを決定する。自体運動推定装置は、複数の領域がクラスタリングされた各グループに対してラベルをマッチングさせる。
【００７６】
例えば、図７は、場面フローフィールド７００が第１グループ７１０に属する領域及び第２グループ７２０に属する領域に分類された結果を示す。自体運動推定装置は、第１グループ７１０に対しては第１ラベル、第２グループ７２０に対しては第２ラベルをマッチングさせてもよい。自体運動推定装置は、以前時間フレームで第１グループ７１０が第１ラベルを指示した場合に応答して、現在時間フレームの第１グループ７１０についても第１ラベルをマッチングさせる。したがって、自体運動推定装置は、連続するフレームイメージに対して、各領域にマッチングされるラベルが連続性を有するようにラベリング動作を行うことができる。
【００７７】
一実施形態によれば、自体運動推定装置は、装置が停止した間に取得される初期イメージで、静的な領域に対して静的背景に対応するラベルをマッチングさせ得る。自体運動推定装置は、初期動作時に静的背景を予め識別し得る。その後、自体運動推定装置は、上述したように以前時間フレームにおけるラベルに基づいて、現在時間フレームのラベルを領域にマッチングさせることで、場面フローにより移動した領域に対して一貫したラベルを指定できる。
【００７８】
図８は、一実施形態に係る確率ベクトルマップを説明する図である。
【００７９】
確率ベクトルマップ８００は、上述したように複数の確率ベクトルを含むマップを示す。確率ベクトルマップ８００は、入力イメージの複数の領域と同じ個数及び次元で配列された領域を含む。複数の確率ベクトルのそれぞれは、確率ベクトルマップ８００の各領域に割り当てられる。
【００８０】
確率ベクトル８１０は、上述したように該当領域が各ラベルに属する確率を示す。例えば、確率ベクトル８１０は、該当確率ベクトル８１０がマッピングされた領域がｍ個のラベルのそれぞれに属する確率を指示する。ここで、ｍは１以上の整数であってもよく、自体運動装置によって観測される最大個数であってもよい。確率ベクトル８１０が該当領域はｉ番目のラベルに属する確率が最も高いことを指示する場合、自体運動推定装置は、該当領域がｉ番目の物体を指示するものと決定する。ここで、ｉは１以上ｍ以下の整数である。ｍはユーザによって決定されるが、これに限定されることはない。
【００８１】
図８に示された確率ベクトルマップ８００で、任意の領域８０１に対する確率ベクトル８１０は、１番目のラベルに対して最も高い確率を示す。自体運動推定装置は、図８に示す確率ベクトルマップ８００に基づいて、該当領域８０１が１番目のラベルに対応するオブジェクトを指示すると決定する。
【００８２】
一実施形態によれば、自体運動推定装置は、確率ベクトルマップ８００から最も高い確率を指示するラベルに基づいて、複数の領域のうち静的背景を識別する。例えば、自体運動推定装置は、各領域に対して最も高い確率のラベルを指定し、そのうちの静的背景に対応するラベルが指定された領域を静的背景に識別する。
【００８３】
図９は、一実施形態に係る確率ベクトルマップをアップデートする動作を説明する図である。
【００８４】
一実施形態に係る自体運動推定装置は、時間フレームごとに確率ベクトルマップをアップデートする。自体運動推定装置は、複数の領域がクラスタリングされた結果及び以前フレームの確率ベクトルマップに基づいて、現在フレームに対する確率ベクトルマップを算出する。例えば、自体運動推定装置は、ｋ番目のフレームに対する確率ベクトルマップをアップデートする。
【００８５】
まず、ステップＳ３１０において、自体運動推定装置は、ｋ番目のフレームに対して取得された入力イメージＩ（ｋ）から場面フローフィールドＭ（ｋ）を算出する。そして、ステップＳ３２３において、自体運動推定装置は、場面フローフィールドＭ（ｋ）をクラスタリングした結果、ＧｗｉｔｈｏｕｔＬａｂｅｌ（ｋ）を生成する。次に、ステップＳ３３１において、自体運動推定装置は、クラスタリング結果ＧｗｉｔｈｏｕｔＬａｂｅｌ（ｋ）にラベルをマッチングさせることで、ラベリングされたグループＧ（ｋ）を算出する。
【００８６】
また、ステップＳ３３３において、自体運動推定装置は、以前フレームから現在フレームまでの各領域の移動を指示する変換ベクトルマップＴ（ｋ−１）に基づいて、以前フレームの確率ベクトルマップＰ（ｋ−１）を補償することにより、補償されたベクトルマップＣ（ｋ−１）を生成する。自体運動推定装置は、変換ベクトルマップＴ（ｋ−１）により以前フレームの確率ベクトルマップＰ（ｋ−１）の各領域に割り当てられたベクトルを移動させたり調整する。
【００８７】
変換ベクトルマップＴ（ｋ−１）は、複数の領域それぞれに変換ベクトルがマッピングされたマップを示す。変換ベクトルは、カメラ移動及び対象オブジェクトの移動などによって領域が移動しなければならない方向及び距離を示すベクトルを示す。自体運動推定装置は、以前フレームに対して算出された場面フローＭ（ｋ−１）を変換ベクトルマップＴ（ｋ−１）に決定するが、これに限定されることはない。例えば、変換ベクトルマップＴ（ｋ−１）は、以前フレームイメージの領域及び現在フレームイメージの領域間の特徴マッチングによって生成されてもよい。
【００８８】
ステップＳ３３２において、自体運動推定装置は、補償されたベクトルマップＣ（ｋ−１）及び複数の領域がクラスタリングされた結果（例えば、ラベリングされたグループＧ（ｋ））に基づいて、現在フレームに対する確率ベクトルマップＰ（ｋ）を算出する。例えば、自体運動推定装置は、ラベリングされたグループＧ（ｋ）の各領域のラベル及び補償されたベクトルマップＣ（ｋ−１）の平均を現在フレームに対する確率ベクトルマップＰ（ｋ）に決定する。ラベリングされたグループＧ（ｋ）で各領域に割り当てられたベクトルは、複数のラベルのうちいずれか１つのラベルに対する確率が最大値１であり、残りのラベルに対する確率が０に設定されたベクトルである。例えば、補償されたベクトルマップＣ（ｋ−１）の１つの領域に割り当てられたベクトルが［０．５、０．４、０．１］であり、ラベリングされたグループＧ（ｋ）で該当領域に割り当てられたベクトルが［１、０、０］である場合、現在フレームに対する確率ベクトルマップＰ（ｋ）で該当領域に対して算出されるベクトルは［０．７５、０．２、０．０５］である。ただし、これは説明の便宜のための例示であって、これに限定されることはない。
【００８９】
自体運動推定装置は、フレームごとに上述した動作を繰り返すことで確率ベクトルマップＰ（ｋ）を継続的にアップデートすることができる。
【００９０】
図１０は、一実施形態に係る自体運動推定装置１０００の構成を説明するブロック図である。
【００９１】
自体運動推定装置１０００は、イメージセンサ１０１０、プロセッサ１０２０、及びディスプレこれを含む。
【００９２】
イメージセンサ１０１０は入力イメージを取得する。イメージセンサ１０１０は、カラーセンサ及び深度センサなどを含む。イメージセンサ１０１０は、入力イメージとしてチャネルイメージ及び深度イメージを取得する。
【００９３】
プロセッサ１０２０は、入力イメージを複数の領域に区分する。例えば、プロセッサ１０２０は、入力イメージをグリッドパターンに基づいて複数の領域に分割する。プロセッサ１０２０は、入力イメージに含まれた複数のピクセルのうちの１つ以上のピクセルを含むように複数の領域を形成する。
【００９４】
プロセッサ１０２０は、複数の領域のそれぞれに対する場面フローを指示する場面フローフィールドを生成する。例えば、プロセッサ１０２０は、３次元動きを指示する場面フローに対する場面フローフィールドを生成する。
【００９５】
プロセッサ１０２０は、場面フローフィールドに基づいて、複数の領域を複数のグループにクラスタリングする。プロセッサ１０２０は、複数のグループに基づいて、複数の領域のラベルに対する確率ベクトルマップを生成する。プロセッサ１０２０は、生成された確率ベクトルマップに基づいて、装置の自体運動情報を推定する。
【００９６】
一実施形態に係る自体運動推定装置１０００は、動的環境に強いモーション分類基盤のリアルタイム映像基盤の走行記録計で具現される。自体運動推定装置１０００は、車両のＥＣＵ（ｅｌｅｃｔｒｏｎｉｃ  ｃｏｎｔｒｏｌ  ｕｎｉｔ）又はＶＣＵ（ｖｅｈｉｃｌｅ  ｃｏｎｔｒｏｌ  ｕｎｉｔ）、ＰＣ（ｐｅｒｓｏｎａｌ  ｃｏｍｐｕｔｅｒ）、データサーバ、又は、携帯型電子装置で提供されたり実施される。ここで説明された携帯型電子装置は、例えば、知能型エージェント、モバイルフォン、携帯電話、スマートフォン、ウェアラブルスマート装置（例えば、指輪、時計、メガネ、メガネタイプ装置、ブレスレット、アンクレット、ベルト、ネックレス、イヤリング、ヘアバンド、ヘルメット、服に内蔵されている装置、又はＥＧＤ（ｅｙｅ  ｇｌａｓｓ  ｄｉｓｐｌａｙ））、ラップトップ、ノート型パソコン、サブノート型パソコン、ネットブック、ＵＭＰＣ（ｕｌｔｒａ  ｍｏｂｉｌｅ  ＰＣ）、タブレットコンピュータ、ファブレット、ＭＩＤ（ｍｏｂｉｌｅ  ｉｎｔｅｒｎｅｔ  ｄｅｖｉｃｅ）、ＰＤＡ（ｐｅｒｓｏｎａｌ  ｄｉｇｉｔａｌ  ａｓｓｉｓｔａｎｔ）、ＥＤＡ（ｅｎｔｅｒｐｒｉｓｅ  ｄｉｇｉｔａｌ  ａｓｓｉｓｔａｎｔ）、デジタルカメラ、デジタルビデオカメラ、携帯型ゲームコンソール、ｍｐ３プレーヤー、ＰＭＰ（ｐｏｒｔａｂｌｅ／ｐｅｒｓｏｎａｌ  ｍｕｌｔｉｍｅｄｉａ  ｐｌａｙｅｒ）、ハンドヘルドｅブック、携帯型ラップトップＰＣ、ＧＰＳナビゲーション、個人ナビゲーション装置、ＰＮＤ（ｐｏｒｔａｂｌ  ｎａｖｉｇａｔｉｏｎ  ｄｅｖｉｃｅ）、ハンドヘルドゲームコンソール、ｅブック、ＨＤＴＶ（ｈｉｇｈ  ｄｅｆｉｎｉｔｉｏｎ  ｔｅｌｅｖｉｓｉｏｎ）、スマート機器、通信システム、イメージ処理システム、グラフィック処理システム、ネットワークを介して制御されるＩＯＴ（Ｉｎｔｅｒｎｅｔ  ｏｆ  Ｔｈｉｎｇｓ）装置又は他のＣＥ／ＩＴ（ｃｏｎｓｕｍｅｒ  ｅｌｅｃｔｒｏｎｉｃｓ／ｉｎｆｏｒｍａｔｉｏｎ  ｔｅｃｈｎｏｌｏｇｙ）装置を示す。また、自体運動推定装置１０００は、車両のためのリアルタイム位置推定及び制御技術に直接的に適用され得る。
【００９７】
ここで言及された車両は、輸送、配達、又は通信のうち任意のモードを示し、例えば、自動車、トラック、トラクター、スクーター、バイク、サイクル、水陸両用車、スノーモービル、船舶、公共輸送車両、バス、モノレール、汽車、トラム、自動又は無人走行車両、知能型車両、自律走行車両、無人航空機、電気車、ハイブリッドカー、及びドローンを示す。
【００９８】
自体運動推定装置１０００は、歩行者や車両などの動的物体のある環境で自分の位置を確実に推定できる。さらに、自体運動推定装置１０００は、室内無人化技術の核心である映像基盤航法における限界点を改善する方法として、無人宇宙探査ロボット、飛行体、車両などに適用される。自体運動推定装置１０００は、カメラセンサのみを用いてプラットフォームに制約されることなく適用することができる。
【００９９】
一実施形態に係る自体運動推定装置１０００は、複数のオブジェクトを区別することができ、移動オブジェクトに対する制約がなく、事前情報（ｐｒｉｏｒ  ｉｎｆｏｒｍａｔｉｏｎ）がなくても静的な背景から移動オブジェクトを分離できる。さらに、自体運動推定装置１０００は、演算負荷が少ない。
【０１００】
以上述した装置は、ハードウェア構成要素、ソフトウェア構成要素、又はハードウェア構成要素及びソフトウェア構成要素の組み合せで具現される。例えば、本実施形態で説明した装置及び構成要素は、例えば、プロセッサ、コントローラ、ＡＬＵ（ａｒｉｔｈｍｅｔｉｃ  ｌｏｇｉｃ  ｕｎｉｔ）、デジタル信号プロセッサ（ｄｉｇｉｔａｌ  ｓｉｇｎａｌ  ｐｒｏｃｅｓｓｏｒ）、マイクロコンピュータ、ＦＰＡ（ｆｉｅｌｄ  ｐｒｏｇｒａｍｍａｂｌｅ  ａｒｒａｙ）、ＰＬＵ（ｐｒｏｇｒａｍｍａｂｌｅ  ｌｏｇｉｃ  ｕｎｉｔ）、マイクロプロセッサー、又は命令（ｉｎｓｔｒｕｃｔｉｏｎ）を実行して応答する異なる装置のように、１つ以上の汎用コンピュータ又は特殊目的コンピュータを用いて具現される。処理装置は、オペレーティングシステム（ＯＳ）及びオペレーティングシステム上で実行される１つ以上のソフトウェアアプリケーションを実行する。また、処理装置は、ソフトウェアの実行に応答してデータをアクセス、格納、操作、処理、及び生成する。理解の便宜のために、処理装置は１つが使用されるものとして説明する場合もあるが、当技術分野で通常の知識を有する者は、処理装置が複数の処理要素（ｐｒｏｃｅｓｓｉｎｇ  ｅｌｅｍｅｎｔ）及び／又は複数類型の処理要素を含むことが把握する。例えば、処理装置は、複数のプロセッサ又は１つのプロセッサ及び１つのコントローラを含む。また、並列プロセッサ（ｐａｒａｌｌｅｌ  ｐｒｏｃｅｓｓｏｒ）のような、他の処理構成も可能である。
【０１０１】
ソフトウェアはコンピュータプログラム、コード、命令、又はそのうちの一つ以上の組合せを含み、希望の通りに動作するよう処理装置を構成したり、独立的又は結合的に処理装置を命令することができる。ソフトウェア及び／又はデータは、処理装置によって解釈されたり処理装置に命令又はデータを提供するために、いずれかの類型の機械、構成要素、物理的装置、仮想装置、コンピュータ格納媒体又は装置、又は送信される信号波に永久的又は一時的に具体化することができる。ソフトウェアはネットワークに連結されたコンピュータシステム上に分散され、分散した方法で格納されたり実行され得る。ソフトウェア及びデータは一つ以上のコンピュータで読出し可能な記録媒体に格納され得る。
【０１０２】
本実施形態による方法は、様々なコンピュータ手段を介して実施されるプログラム命令の形態で具現され、コンピュータ読み取り可能な記録媒体に記録される。記録媒体は、プログラム命令、データファイル、データ構造などを単独又は組み合せて含む。記録媒体及びプログラム命令は、本発明の目的のために特別に設計して構成されたものでもよく、コンピュータソフトウェア分野の技術を有する当業者にとって公知のものであり使用可能なものであってもよい。コンピュータ読み取り可能な記録媒体の例としては、ハードディスク、フロッピー（登録商標）ディスク及び磁気テープのような磁気媒体、ＣＤ−ＲＯＭ、ＤＹＩＪＤのような光記録媒体、フロプティカルディスクのような磁気−光媒体、及びＲＯＭ、ＲＡＭ、フラッシュメモリなどのようなプログラム命令を保存して実行するように特別に構成されたハードウェア装置を含む。プログラム命令の例としては、コンパイラによって生成されるような機械語コードだけでなく、インタプリタなどを用いてコンピュータによって実行される高級言語コードを含む。ハードウェア装置は、本発明に示す動作を実行するために１つ以上のソフトウェアモジュールとして作動するように構成してもよく、その逆も同様である。
【０１０３】
上述したように実施形態をたとえ限定された図面によって説明したが、当技術分野で通常の知識を有する者であれば、上記の説明に基づいて様々な技術的な修正及び変形を適用することができる。例えば、説明された技術が説明された方法と異なる順で実行されるし、及び／又は説明されたシステム、構造、装置、回路などの構成要素が説明された方法と異なる形態で結合又は組み合わせられてもよいし、他の構成要素又は均等物によって置き換え又は置換されたとしても適切な結果を達成することができる。
【０１０４】
したがって、本発明の範囲は、開示された実施形態に限定されて定められるものではなく、特許請求の範囲及び特許請求の範囲と均等なものなどによって定められるものである。
【符号の説明】
【０１０５】
１０００：自体運動推定装置
１０１０：イメージセンサ
１０２０：プロセッサ
【図１】
2020024667.tif 000003
【図２】
2020024667.tif 000004
【図３】
2020024667.tif 000005
【図４】
2020024667.tif 000006
【図５】
2020024667.tif 000007
【図６】
2020024667.tif 000008
【図７】
2020024667.tif 000009
【図８】
2020024667.tif 000010
【図９】
2020024667.tif 000011
【図１０】
2020024667.tif 000012