(57)【要約】      （修正有）【課題】価格が高いレーザーセンサに依存せずコストを低減する、走行経路を生成するための方法及び装置を提供する。【解決手段】方法は、無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得することと、走行場所の二次元画像に基づいて全局地図を生成し、前方場所の二次元画像に基づいて局所地図を生成することと、全局地図及び局所地図に基づいて経路計画をし、全局的経路及び全局的経路の方向に沿う局所的経路を生成することと、を含む。車両の感知システムは、無人航空機に取り付けられているカメラを用いてグローバルの低い精細度の感知を実現し、車両に取り付けられているカメラを用いて局所の高い精細度の感知を実現し、両者を結合することにより構成する。【選択図】図２
2020144101.tif 000002
【特許請求の範囲】
【請求項１】
走行経路を生成するための方法であって、
無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得することと、
前記走行場所の二次元画像に基づいて全局地図を生成し、前記前方場所の二次元画像に基づいて局所地図を生成することと、
前記全局地図及び前記局所地図に基づいて経路計画をし、全局的経路及び前記全局的経路の方向に沿う局所的経路を生成することと
を含むことを特徴とする方法。
【請求項２】
前記無人航空機に取り付けられているカメラは、単眼カメラであり、前記走行場所の二次元画像は、単眼画像であり、
前記走行場所の二次元画像に基づいて全局地図を生成することは、
前記単眼画像に対して三次元再構成をすることによって、前記走行場所の三次元モデルを得ることと、
前記車両及び目的地が前記走行場所の三次元モデルにおける位置を特定することと、
特定された位置に基づいて前記走行場所の三次元モデルに対してラべリングすることによって、前記全局地図を生成することと、
を含むことを特徴とする請求項１に記載の方法。
【請求項３】
前記単眼画像に対して三次元再構成をする方法は、大規模な運動からの構造復元アルゴリズムであることを特徴とする請求項２に記載の方法。
【請求項４】
前記車両及び目的地が前記走行場所の三次元モデルにおける位置を特定することは、
画像識別技術を用いて前記単眼画像に対して識別を行うことによって、前記車両及び前記目的地が前記単眼画像における位置を特定することと、
前記車両及び前記目的地が前記単眼画像における位置を、前記車両及び前記目的地が前記走行場所の三次元モデルにおける位置に投影変換することと、
を含むことを特徴とする請求項２に記載の方法。
【請求項５】
前記車両に取り付けられているカメラは、両眼カメラであり、前記前方場所の二次元画像は、両眼画像であり、
前記前方場所の二次元画像に基づいて局所地図を生成することは、
前記両眼画像に対して画像のマッチングを行うことによって、前記両眼画像の視差画像を得ることと、
前記視差画像に基づいて前記前方場所の奥行き画像を生成することと、
前記奥行き画像に対して三次元再構成を行うことによって、前記局所地図を得ることと、
を含むことを特徴とする請求項１に記載の方法。
【請求項６】
前記局所的経路は、前記局所的経路における前記車両の向きと前記全局的経路における前記車両の向きとの間の偏差が所定の偏差範囲内にあり、前記局所的経路が前記全局的経路からずれた距離が所定の距離範囲内にあり、前記車両が前記局所的経路に沿って走行するプロセスにおいて障害物と衝突しないという条件のうちの少なくとも１つの制約条件を満たすことを特徴とする請求項１〜５の何れか１項に記載の方法。
【請求項７】
前記車両は、無人自主掘削機であることを特徴とする請求項１〜５の何れか1つに記載の方法。
【請求項８】
無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得するように配置されている画像取得ユニットと、
前記走行場所の二次元画像に基づいて全局地図を生成し、前記前方場所の二次元画像に基づいて局所地図を生成するように配置されている地図生成ユニットと、
前記全局地図及び前記局所地図に基づいて経路計画をし、全局的経路及び局所的経路を生成し、前記局所的経路は、前記全局的経路の方向に沿うように配置されている経路生成ユニットと、
を含むことを特徴とする走行経路を生成するための装置。
【請求項９】
前記無人航空機に取り付けられているカメラは、単眼カメラであり、前記走行場所の二次元画像は、単眼画像であり、
前記地図生成ユニットは、
前記単眼画像に対して三次元再構成をすることによって、前記走行場所の三次元モデルを得るように配置されている走行場所再構成サブユニットと、
前記車両及び目的地が前記走行場所の三次元モデルにおける位置を特定するように配置されている位置特定サブユニットと、
特定された位置に基づいて前記走行場所の三次元モデルに対してラべリングすることによって、前記全局地図を生成するように配置されている全局地図生成サブユニットと、
を含むことを特徴とする請求項８に記載の装置。
【請求項１０】
前記単眼画像に対して三次元再構成を行う方法は、大規模な運動からの構造復元アルゴリズムであることを特徴とする請求項９に記載の装置。
【請求項１１】
前記位置特定サブユニットは、
画像識別技術を用いて前記単眼画像に対して識別を行うことによって、前記車両及び前記目的地が前記単眼画像における位置を特定するように配置されている画像識別モジュールと、
前記車両及び前記目的地が前記単眼画像における位置を、前記車両及び前記目的地が前記走行場所の三次元モデルにおける位置に投影変換するように配置されている投影変換モジュールと、
を含むことを特徴とする請求項９に記載の装置。
【請求項１２】
前記車両に取り付けられているカメラは、両眼カメラであり、前記前方場所の二次元画像は、両眼画像であり、
前記地図生成ユニットは、
前記両眼画像に対して画像のマッチングを行うことによって、前記両眼画像の視差画像を得るように配置されている画像マッチングサブユニットと、
前記視差画像に基づいて前記前方場所の奥行き画像を生成するように配置されている奥行き画像生成サブユニットと、
前記奥行き画像に対して三次元再構成を行うことによって、前記局所地図を得るように配置されている局所地図再構成サブユニットとを含むことを特徴とする請求項８に記載の装置。
【請求項１３】
前記局所的経路は、制約条件として、前記局所的経路における前記車両の向きと前記全局的経路における前記車両の向きとの間の偏差が所定の偏差範囲内にあることと、前記局所的経路が前記全局的経路からずれた距離が所定の距離範囲内にあることと、前記車両が前記局所的経路に沿って走行するプロセスにおいて障害物と衝突しないこととのうちの少なくとも１つを満たすことを特徴とする請求項８〜１２の何れか１項に記載の装置。
【請求項１４】
前記車両は、無人自主掘削機であることを特徴とする請求項８〜１２の何れか１項に記載の装置。
【請求項１５】
１つ又は複数のプロセッサーと、
１つ又は複数のプログラムを記憶している記憶装置とを備え、
前記１つ又は複数のプログラムが前記１つ又は複数のプロセッサーにより実行されると、前記１つ又は複数のプロセッサーは、請求項１〜７の何れか１項に記載の方法を実現することを特徴とする電子デバイス。
【請求項１６】
コンピュータプログラムを記憶しているコンピュータ可読メディアであって、
前記コンピュータプログラムがプロセッサーによって実行されると、請求項１〜７の何れか１項に記載の方法を実現することを特徴とするコンピュータ可読メディア。
【発明の詳細な説明】
【技術分野】
【０００１】
本願の実施形態は、自動運転技術分野に関し、特には、走行経路を生成するための方法及び装置に関する。
【背景技術】
【０００２】
無人運転車は、新型なインテリジェント車両であり、主に、制御装置（即ち、車載インテリジェント脳）により車両の各部分に対して正確的な制御及び計算分析を行い、最終的にECU（Electronic Control Unit、電気制御ユニット）により命令を発して無人運転車の異なるデバイスをそれぞれ制御することによって、車両の全自動運転を実現し、車両の無人運転の目的を達成する。
【０００３】
車両の無人運転の目的を達成するために、予め走行経路を計画して無人運転車を走行経路に沿って自主運転をするように制御する必要がある。現在、よく使われている走行経路生成方式では、無人運転車にレーザーセンサ及びカメラを設置し、レーザーセンサにより広範囲の低い精細度の感知を実現し、カメラにより小さい範囲の高い精細度の感知を実現し、両者により感知された低い精細度の情報及び高い精細度の情報に基づいて走行経路を生成する。
【発明の概要】
【課題を解決するための手段】
【０００４】
本願の実施形態は、走行経路を生成するための方法及び装置を提供する。
【０００５】
第一態様において、走行経路を生成するための方法であって、無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得することと、前記走行場所の二次元画像に基づいて全局地図を生成し、前記前方場所の二次元画像に基づいて局所地図を生成することと、前記全局地図及び前記局所地図に基づいて経路計画をし、全局的経路及び前記全局的経路の方向に沿う局所的経路を生成することとを含むことを特徴とする方法を提供する。
【０００６】
幾つかの実施例において、前記無人航空機に取り付けられているカメラは、単眼カメラであり、前記走行場所の二次元画像は、単眼画像であり、前記走行場所の二次元画像に基づいて全局地図を生成することは、前記単眼画像に対して三次元再構成をすることによって、前記走行場所の三次元モデルを得ることと、前記車両及び目的地が前記走行場所の三次元モデルにおける位置を特定することと、特定された位置に基づいて前記走行場所の三次元モデルに対してラべリングすることによって、前記全局地図を生成することと、を含む。
【０００７】
幾つかの実施例において、前記単眼画像に対して三次元再構成をする方法は、大規模な運動からの構造復元アルゴリズムである。
【０００８】
幾つかの実施例において、前記車両及び目的地が前記走行場所の三次元モデルにおける位置を特定することは、画像識別技術を用いて前記単眼画像に対して識別を行うことによって、前記車両及び前記目的地が前記単眼画像における位置を特定することと、前記車両及び前記目的地が前記単眼画像における位置を、前記車両及び前記目的地が前記走行場所の三次元モデルにおける位置に投影変換することと、を含む。
【０００９】
幾つかの実施例において、前記車両に取り付けられているカメラは、両眼カメラであり、前記前方場所の二次元画像は、両眼画像であり、前記前方場所の二次元画像に基づいて局所地図を生成することは、前記両眼画像に対して画像のマッチングを行うことによって、前記両眼画像の視差画像を得ることと、前記視差画像に基づいて前記前方場所の奥行き画像を生成することと、前記奥行き画像に対して三次元再構成を行うことによって、前記局所地図を得ることと、を含む。
【００１０】
幾つかの実施例において、前記局所的経路は、前記局所的経路における前記車両の向きと前記全局的経路における前記車両の向きとの間の偏差が所定の偏差範囲内にあり、前記局所的経路が前記全局的経路からずれた距離が所定の距離範囲内にあり、前記車両が前記局所的経路に沿って走行するプロセスにおいて障害物と衝突しないという条件のうちの少なくとも１つの制約条件を満たす。
【００１１】
幾つかの実施例において、前記車両は、無人自主掘削機である。
【００１２】
第二態様において、無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得するように配置されている画像取得ユニットと、
【００１３】
前記走行場所の二次元画像に基づいて全局地図を生成し、前記前方場所の二次元画像に基づいて局所地図を生成するように配置されている地図生成ユニットと、前記全局地図及び前記局所地図に基づいて経路計画をし、全局的経路及び局所的経路を生成し、前記局所的経路は、前記全局的経路の方向に沿うように配置されている経路生成ユニットと、を含むことを特徴とする走行経路を生成するための装置を提供する。
【００１４】
幾つかの実施例において、前記無人航空機に取り付けられているカメラは、単眼カメラであり、前記走行場所の二次元画像は、単眼画像であり、前記地図生成ユニットは、前記単眼画像に対して三次元再構成をすることによって、前記走行場所の三次元モデルを得るように配置されている走行場所再構成サブユニットと、前記車両及び目的地が前記走行場所の三次元モデルにおける位置を特定するように配置されている位置特定サブユニットと、特定された位置に基づいて前記走行場所の三次元モデルに対してラべリングすることによって、前記全局地図を生成するように配置されている全局地図生成サブユニットと、を含む。
【００１５】
幾つかの実施例において、前記単眼画像に対して三次元再構成を行う方法は、大規模な運動からの構造復元アルゴリズムである。
【００１６】
幾つかの実施例において、前記位置特定サブユニットは、画像識別技術を用いて前記単眼画像に対して識別を行うことによって、前記車両及び前記目的地が前記単眼画像における位置を特定するように配置されている画像識別モジュールと、前記車両及び前記目的地が前記単眼画像における位置を、前記車両及び前記目的地が前記走行場所の三次元モデルにおける位置に投影変換するように配置されている投影変換モジュールと、を含む。
【００１７】
幾つかの実施例において、前記車両に取り付けられているカメラは、両眼カメラであり、前記前方場所の二次元画像は、両眼画像であり、前記地図生成ユニットは、前記両眼画像に対して画像のマッチングを行うことによって、前記両眼画像の視差画像を得るように配置されている画像マッチングサブユニットと、前記視差画像に基づいて前記前方場所の奥行き画像を生成するように配置されている奥行き画像生成サブユニットと、前記奥行き画像に対して三次元再構成を行うことによって、前記局所地図を得るように配置されている局所地図再構成サブユニットとを含む。
【００１８】
幾つかの実施例において、前記局所的経路は、制約条件として、前記局所的経路における前記車両の向きと前記全局的経路における前記車両の向きとの間の偏差が所定の偏差範囲内にあることと、前記局所的経路が前記全局的経路からずれた距離が所定の距離範囲内にあることと、前記車両が前記局所的経路に沿って走行するプロセスにおいて障害物と衝突しないこととのうちの少なくとも１つを満たす。
【００１９】
幾つかの実施例において、前記車両は、無人自主掘削機である。
【００２０】
第三態様において、１つ又は複数のプロセッサーと、１つ又は複数のプログラムを記憶している記憶装置とを備え、前記１つ又は複数のプログラムが前記１つ又は複数のプロセッサーにより実行されると、前記１つ又は複数のプロセッサーは、第一態様の何れか１の実施例に記載の方法を実現することを特徴とする電子デバイスを提供する。
【００２１】
第四態様において、コンピュータプログラムを記憶しているコンピュータ可読メディアであって、前記コンピュータプログラムがプロセッサーによって実行されると、第一態様の何れか１の実施例に記載の方法を実現することを特徴とするコンピュータ可読メディアを提供する。
【００２２】
本願の実施形態による走行経路を生成するための方法及び装置は、まず、無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得し、その後、走行場所の二次元画像に基づいて全局地図を生成し、前方場所の二次元画像に基づいて局所地図を生成し、最後に、全局地図及び局所地図に基づいて経路計画をし、全局的経路及び局所的経路を生成する。無人航空機に取り付けられているカメラを用いてグローバルの低い精細度の感知を実現し、車両に取り付けられているカメラを用いて局所の高い精細度の感知を実現し、両者を結合することにより車両の感知システムを構成するので、価格が高いレーザーセンサに依存せず、走行経路を生成するコストを低減することができる。また、レーザーセンサは、感知する奥行きポイントが疎らであり、奥行き及び強さの情報しかなく、情報の量に限りがある。無人航空機に取り付けられているカメラは、奥行き情報を感知することができるだけではなく、語義等の他の役に立つ情報も感知することができ、情報の量がより豊かであるので、無人航空機に取り付けられているカメラと車両に取り付けられているカメラからなる感知システムの感知能力を高めることができる。
【図面の簡単な説明】
【００２３】
以下の図面による非限定的な実施形態についての詳細な説明を読み、参照することにより、本願の他の特徴、目的及び利点がより明らかになる。
【図１】本願を適用可能な例示システムアーキテクチャである。
【図２】本願による走行経路を生成するための方法の１つの実施形態のフローチャート図である。
【図３】本願による走行経路を生成するための方法のもう１つの実施形態のフローチャート図である。
【図４】図３に示される走行経路を生成するための方法の１つの応用場面の模式図である。
【図５】本願による走行経路を生成するための装置の１つの実施形態の構造模式図である。
【図６】本願の実施形態の電子デバイスを実現するのに適するコンピュータシステムの構造模式図である。
【発明を実施するための形態】
【００２４】
以下、図面及び実施形態を参照しながら、本願を更に詳しく説明する。ここで記載された具体的な実施形態は、関連発明を解釈するために用いられ、本発明を限定しないことが理解されたい。なお、説明の便宜上、図面は、発明と関係する部分しか示されていない。
【００２５】
なお、衝突しない限り、本願の実施形態及び実施形態の特徴は、組合わせても良い。以下、図面を参照しながら、実施形態を用いて本願を説明する。
【００２６】
図１は、本願が用いられることが可能な、走行経路を生成するための方法又は走行経路を生成するための装置の実施形態の例示的システム構成１００を示している。
【００２７】
図１に示すように、システム構成１００は、無人航空機１０１、車両１０２、サーバー１０３及びネットワーク１０４を含んでも良い。ネットワーク１０４は、無人航空機１０１、車両１０２とサーバー１０３の間において通信リンクのメディアを提供するための。ネットワーク１０４は、有線、無線通信リンク又は光ファイバーケーブル等のような様々な接続タイプを含んでも良い。
【００２８】
無人航空機１０１には、カメラを取り付けることができ、車両１０２の走行場所の二次元画像を空撮するための。通常、無人航空機１０１に取り付けられたカメラは、単眼カメラであっても良く、走行場所の単眼画像を空撮するための。
【００２９】
車両１０２には、カメラを取り付けることができ、車両１０２の前方場所の二次元画像を撮影するための。通常、車両１０２に取り付けられたカメラは、両眼カメラであっても良く、車両１０２の前方に取り付けられており、前方場所の両眼画像を撮影するための。
【００３０】
サーバー１０３は、様々なサービスを提供するサーバーであっても良く、例えば、車両１０２のバックエンドサーバーである。車両１０２のバックエンドサーバーは、無人航空機１０１に取り付けられたカメラから空撮された走行場所の二次元画像を取得し、車両１０２に取り付けられたカメラから撮影された前方場所の二次元画像を取得し、その後、取得した走行場所の二次元画像及び前方場所の二次元画像等のデータに対して分析等の処理を行い、処理結果（例えば、全局的（global）経路及び局所的（local）経路）を生成する。
【００３１】
なお、サーバー１０３は、ハードウェアであっても良く、ソフトウェアであっても良い。サーバー１０３がハードウェアである場合、複数のサーバーからなる分布式サーバーグループとして実現しても良く、単独のサーバーとして実現しても良い。サーバー１０３がソフトウェアである場合、複数のソフトウェア又はソフトウェアモジュール（例えば、分布式サービスを提供するための）として実現しても良く、単独のソフトウェア又はソフトウェアモジュールとして実現しても良い。ここでは、具体的に限定されない。
【００３２】
なお、本願の実施形態による走行経路を生成するための方法は、一般的にサーバー１３０により実行され、相応するように、走行経路を生成するための装置は、一般的にサーバー１０３の中に取り付けられている。
【００３３】
図１における無人航空機、車両、サーバー及びネットワークの数は、例示するものに過ぎないことが理解されたい。実際の必要に応じて任意の数の無人航空機、車両、サーバー及びネットワークを有しても良い。
【００３４】
図２は、本願による走行経路を生成するための方法の１つの実施形態のフロー２００を示している。走行経路を生成するための当該方法は、ステップ２０１、ステップ２０２及びステップ２０３を備える。
【００３５】
ステップ２０１においては、無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得する。
【００３６】
本実施形態においては、走行経路を生成するための方法の実行主体（例えば、図１に示すサーバー１０３）は、無人航空機（例えば、図１に示す無人航空機１０１）に取り付けられているカメラから車両の走行場所を空撮して得られた二次元画像を取得することができる。また、前記実行主体は、車両（例えば、図１に示す車両１０２）に取り付けられているカメラから車両の前方場所を撮影して得られた二次元画像を取得することができる。なお、走行場所は、車両がその中で走行する場所であっても良く、車両の起点位置及び目的地を含む。前方場所は、車両の前方領域が所在する場所であっても良く、走行場所の中の一部の場所に属する。通常、車両の現在の所在地は、前方場所の端にある。
【００３７】
実践中、無人航空機にカメラを取り付けることができ、無人航空機が走行場所の上方でフライトする際、その上に取り付けられたカメラをオンして走行場所を空撮することができる。同様に、車両にカメラを取り付けることができる。通常、カメラは、車両の前方に取り付けられており、これにより、車両に取り付けられているカメラは、車両の前方場所をリアルタイム又は周期的に撮影することができる。
【００３８】
ステップ２０２においては、走行場所の二次元画像に基づいて全局地図を生成し、前方場所の二次元画像に基づいて局所地図を生成する。
【００３９】
本実施形態においては、前記実行主体は、走行場所の二次元画像に対して分析を行い、走行場所の二次元画像の分析結果に基づいて走行場所の地図を生成し、全局地図とすることができる。また、前記実行主体は、前方場所の二次元画像に対して分析を行い、前方場所の二次元画像の分析結果に基づいて前方場所の地図を生成し、走行場所の局所地図とすることができる。なお、全局地図は、走行場所の三次元モデルであっても良く、車両の起点位置及び目的地を含んでも良い。局所地図は、前方場所の三次元モデルであっても良い。例えば、無人航空機に取り付けられているカメラは、走行場所の複数の角度の二次元画像を撮影することができる。これにより、前記実行主体は、走行場所の複数の角度の二次元画像を用いて三次元再構成をすることによって、全局地図を得ることができる。また、車両に取り付けられているカメラは、前方場所の複数の角度の二次元画像を撮影することができる。これにより、前記実行主体は、前方場所の複数の角度の二次元画像を用いて三次元再構成をすることによって、局所地図を得ることができる。
【００４０】
ステップ２０３においては、全局地図及び局所地図に基づいて経路計画を行うことによって、全局的経路及び局所的経路を生成する。
【００４１】
本実施形態においては、前記実行主体は、全局地図に基づいて全局的経路計画を行うことによって、全局的経路を生成することができる。その後、前記実行主体は、局所地図及び全局的経路に基づいて局所的経路計画を行うことによって、局所的経路を生成することができる。なお、全局的経路は、車両の起点位置を起点とし、車両の目的地を終点とする衝突なしの経路であっても良い。局所的経路は、車両の現在位置を起点として、全局的経路の方向に沿う衝突なしの経路であっても良い。
【００４２】
実践中、全局的経路は、無人航空機に取り付けられたカメラにより空撮された低い精細度の情報に基づいて生成したので、低い精細度の経路に属し、正確度が比較的低い。更に、全局地図には、静的物体（木、材料スダック等）が存在するだけではなく、動的物体（他の車両、人等）も存在する。全局地図における動的物体の位置は、無人航空機が走行場所を空撮する時刻の位置である。時間の推移に伴い、動的物体の位置は、絶えずに変化することがある。全局的経路の上述した２つの特徴により、車両が全局的経路に沿って自主走行すれば、車両が障害物と衝突しないということを完全に保証することができない。よって、前記実行主体は、局所地図及び全局的経路に基づいて全局的経路の方向に沿った局所的経路を生成する必要もある。局所的経路は、車両に取り付けられたカメラにより撮影された高い精細度の情報に基づいて生成したので、高い精細度の経路に属し、正確度が比較的高い。また、前方場所は、走行場所内の小さな範囲の領域であるため、車両に取り付けられたカメラが前方場所の二次元画像を撮影する時から、車両が局所的経路に沿って走行し局所的経路の終点に到達するまで、短い時間しか必要としない。当該期間中、動的物体の位置の変化は比較的小さい。局所的経路の上述した２つの特徴により、車両が局所的経路に沿って自主走行すれば、通常、障害物と衝突しない。
【００４３】
本実施形態の幾つかの選択可能な実現方法においては、局所的経路は、通常、局所的経路における車両の向きと全局的経路における車両の向きとの間の偏差が所定の偏差範囲内にあり、局所的経路が全局的経路からずれた距離が所定の距離範囲内にあり、車両が局所的経路に沿って走行するプロセスにおいて障害物と衝突しない等という条件のうちの少なくとも１つの制約条件を満たすことができる。
【００４４】
本実施形態の幾つかの選択可能な実現方法においては、車両は、無人自主掘削機であっても良い。この時、走行場所は、無人自主掘削機の作業場所であっても良い。無人自主掘削機のスタート位置は、無人自主掘削機の現在の所在地であっても良い。無人自主掘削機の目的地は、無人自主掘削機が掘削しようとする材料スダックの所在地であっても良い。なお、材料スダックは、材料が同じところに積まれてなるものであっても良い。材料は、主に土壌、石炭、泥砂及び予め土かきされた土壌及び岩石等である。
【００４５】
なお、前記実行主体は、様々な経路計画アルゴリズム（例えば、SLAM（simultaneous localization and mapping、自己位置推定と環境地図作成を同時に行う）、VSLAM（visual simultaneous localization and mapping、ビジュアルに基づいて自己位置推定と環境地図作成を同時に行う））を用いて全局的経路及び局所的経路を生成しても良く、予めトレーニングされた、走行経路を生成するための様々なディープニューラルネットワーク（例えば、多層畳み込みニューラルネットワーク）を用いて全局的経路及び局所的経路を生成しても良い。上述した様々な経路計画アルゴリズム及び走行経路を生成するための様々なディープニューラルネットワークは、現在、幅広く研究及び応用されている周知の技術であり、ここでは、繰り返して説明しない。
【００４６】
本願の実施形態による走行経路を生成するための方法においては、まず、無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得し、その後、走行場所の二次元画像に基づいて全局地図を生成し、前方場所の二次元画像に基づいて局所地図を生成し、最後に、全局地図及び局所地図に基づいて経路計画をし、全局的経路及び局所的経路を生成する。無人航空機に取り付けられているカメラを用いてグローバルの低い精細度の感知を実現し、車両に取り付けられているカメラを用いて局所の高い精細度の感知を実現し、両者を結合することにより車両の感知システムを構成するので、価格が高いレーザーセンサに依存せず、走行経路を生成するコストを低減することができる。また、レーザーセンサは、感知する奥行きポイントが疎らであり、奥行き及び強さの情報しかなく、情報の量に限りがある。無人航空機に取り付けられているカメラは、奥行き情報を感知することができるだけではなく、語義等の他の役に立つ情報も感知することができ、情報の量がより豊かであるので、無人航空機に取り付けられているカメラと車両に取り付けられているカメラからなる感知システムの感知能力を高めることができる。
【００４７】
図３は、本願による走行経路を生成するための方法のもう１つの実施形態のフロー３００を示している。走行経路を生成するための当該方法は、ステップ３０１ａ、ステップ３０２ａ、ステップ３０３ａ、ステップ３０４ａ、ステップ３０１ｂ、ステップ３０２ｂ、ステップ３０３ｂ、ステップ３０４ｂ及びステップ３０５を含む。
【００４８】
ステップ３０１ａにおいては、無人航空機に取り付けられている単眼カメラにより空撮された走行場所の単眼画像を取得する。
【００４９】
本実施形態においては、走行経路を生成するための実行主体（例えば、図１に示すサーバー１０３）は、無人航空機（例えば、図１に示す無人航空機１０１）に取り付けられている単眼カメラから車両の走行場所を空撮することで得られた単眼画像を取得することができる。なお、無人航空機に取り付けられているカメラは、単眼カメラであっても良く、走行場所の二次元画像は、単眼画像であっても良い。
【００５０】
ステップステップ３０２ａにおいては、単眼画像に対して三次元再構成をすることによって、走行場所の三次元モデルを得る。
【００５１】
本実施形態においては、前記実行主体は、無人航空機に取り付けられている単眼カメラから取得された車両の走行場所の単眼画像に対して分析を行い、分析結果に基づいて走行場所の三次元モデルを生成することができる。
【００５２】
本実施形態の幾つかの選択可能な実現方法においては、単眼画像に対して三次元再構成をする方法は、大規模な運動からの構造復元アルゴリズムであっても良い。なお、運動からの構造復元（Structure−From−Motion、SFM）は、複数枚の画像又はビデオシーケンスからカメラのパラメータ及び場面の三次元構造を自動的に復元することができる技術であり、幅広く応用され、例えば、拡張現実、ロボット及び自動運転等の領域に応用することができる。大規模な運動からの構造復元（large scale structure from motion）は、大規模な場面に対する運動からの構造復元である。
【００５３】
ステップステップ３０３ａにおいては、車両及び目的地が走行場所の三次元モデルにおける位置を特定する。
【００５４】
本実施形態においては、前記実行主体は、走行場所の三次元モデルにおける車両及び目的地を識別し、車両及び目的地が走行場所の三次元モデルにおける位置を特定することができる。
【００５５】
本実施形態の幾つかの選択可能な実現方法においては、前記実行主体は、画像識別技術を用いて走行場所の三次元モデルを識別することによって、車両及び目的地が走行場所の三次元モデルにおける位置を特定することができる。
【００５６】
本実施形態の幾つかの選択可能な実現方法においては、前記実行主体は、まず、画像識別技術を用いて単眼画像に対して識別を行うことによって、車両及び目的地が単眼画像における位置を特定し、その後、車両及び目的地が単眼画像における位置を車両及び目的地が走行場所の三次元モデルにおける位置に投影変換することができる。
【００５７】
ステップ３０４ａにおいては、特定された位置に基づいて走行場所の三次元モデルに対してラべリングし、全局地図を生成する。
【００５８】
本実施形態においては、前記実行主体は、車両及び目的地が走行場所の三次元モデルにおける位置に基づいて走行場所の三次元モデルにおける車両及び目的地を探し出し、探し出した車両及び目的地に対してラべリングし、全局地図を生成することができる。
【００５９】
ステップ３０１ｂにおいては、車両に取り付けられている両眼カメラにより撮影された前方場所の両眼画像を取得する。
【００６０】
本実施形態においては、前記実行主体は、車両（例えば、図１に示す車両１０２）に取り付けられている両眼カメラから車両の前方場所を撮影することで得られた両眼画像を取得することができる。なお、車両に取り付けられているカメラは、両眼カメラであっても良く、前方場所の二次元画像は、両眼画像であっても良い。
【００６１】
ステップ３０２ｂにおいては、両眼画像に対して画像のマッチングを行い、両眼画像の視差画像を得る。
【００６２】
本実施形態においては、前記実行主体は、車両に取り付けられている両眼カメラから取得された前方場所の両眼画像に対してマッチングを行うことによって、両眼画像の視差画像を得ることができる。通常、両眼画像は、両眼カメラが動物の両眼の働きのメカニズムをまねして撮影したものであるので、各グループの両眼画像間は、ある程度の水平視差が存在する。
【００６３】
ステップ３０３ｂにおいては、視差画像に基づいて前方場所の奥行き画像を生成する。
【００６４】
本実施形態においては、前記実行主体は、視差画像に対して分析を行うことによって、前方場所の奥行き画像を生成することができる。具体的には、前記実行主体は、水平視差に基づいて前方場所から両眼カメラまでの距離を推定することができ、即ち、前方場所の奥行き画像を得る。
【００６５】
ステップ３０４ｂにおいては、奥行き画像に対して三次元再構成をし、局所地図を得る。
【００６６】
本実施形態においては、前記実行主体は、三次元再構成アルゴリズムを用いて前方場所の奥行き画像に対して三次元再構成をすることによって、局所地図を得ることができる。例えば、前記実行主体は、Kinect Fusionアルゴリズムを用いて奥行き画像に対して三次元再構成をすることによって、局所地図を得ることができる。
【００６７】
ステップ３０５においては、全局地図及び局所地図に基づいて経路計画を行い、全局的経路及び局所的経路を生成する。
【００６８】
本実施形態においては、ステップ３０５の具体的な操作は、図２に示す実施形態のステップ２０３において詳しく説明したので、ここでは、繰り返して説明しない。
【００６９】
図４は、図３による走行経路を生成するための方法の１つの応用場面の模式図である。図４に示す応用場面においては、無人自主掘削機は、作業場所の土の山を掘削する必要がある。まず、無人航空機が作業場所の上方でフライトするように操縦し、その上に取り付けられている単眼カメラをオンして作業場所の単眼画像を空撮し、無人自主掘削機のバックエンドサーバーに送る。これにより、バックエンドサーバーは、大規模な場面の三次元再構成アルゴリズムを用いて単眼画像に対して三次元再構成をすることで、作業場所の三次元モデルを得ることができる。画像識別技術を用いて作業場所の三次元モデルにおける無人自主掘削機の位置及び土の山の位置を識別し、識別された位置に基づいて作業場所の三次元モデルにおける無人自主掘削機及び土の山に対してラべリングすることで、全局地図を生成する。全局地図に基づいて全局的経路を計画することで、全局的経路を生成する。その後、無人自主掘削機の車体の前方に取り付けられた両眼カメラをオンして前方場所の両眼画像を撮影し、無人自主掘削機のバックエンドサーバーに送る。これにより、バックエンドサーバーは、局所地形再構成アルゴリズムを用いて両眼画像に対して三次元再構成をすることで、局所地図を得ることができる。局所地図及び全局的経路に基づいて局所的経路を計画することで、全局的経路の方向に沿った局所的経路を生成する。この時、バックエンドサーバーは、局所的経路に基づいて無人自主掘削機のシャーシーの速度を制御することで、無人自主掘削機を局所的経路に沿って自主走行させることができる。局所的経路の終点に走行した時、両眼カメラを再びオンして現在の前方場所を撮影し、前記局所的経路を生成するステップを実行し続けて新たな局所的経路を生成し、新たな局所的経路に基づいて無人自主掘削機のシャーシーの速度を制御することで、無人自主掘削機を新たな局所的経路に沿って自主走行させる。無人自主掘削機が土の山の付近まで走行するまで、このように、繰り返して実行する。
【００７０】
図３から分かるように、図２に対応する実施形態に比べ、本実施形態の走行経路を生成ための方法のフロー３００は、全局地図及び局所地図を生成するステップを強調した。無人航空機に取り付けられている単眼カメラを用いて走行場所の単眼画像を撮影し、単眼画像に対して三次元再構成をすることによって、全局地図を生成する。また、車両に取り付けられている両眼カメラを用いて前方場所の両眼画像を撮影し、両眼画像に対して三次元再構成をすることによって、局所地図を生成する。よって、全局地図及び局所地図を生成する効率及び正確度を高めることができる。
【００７１】
図５は、上述したそれぞれの図面に示す方法の実現として、本願による走行経路を生成するための装置の１つの実施形態を提供する。当該装置の実施形態は、図２に示す方法の実施形態に対応し、当該装置は、具体的には、様々な電子デバイスに適用することができる。
【００７２】
図５に示すように、本実施形態の走行経路を生成するための装置５００は、画像取得ユニット５０１、地図生成ユニット５０２及び経路生成ユニット５０３を含んでも良い。なお、画像取得ユニット５０１は、無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得するように配置されている。地図生成ユニット５０２は、走行場所の二次元画像に基づいて全局地図を生成し、前方場所の二次元画像に基づいて局所地図を生成するように配置されている。経路生成ユニット５０３は、全局地図及び局所地図に基づいて経路計画をし、全局的経路及び局所的経路を生成し、なお、局所的経路は、全局的経路の方向に沿うように配置されている。
【００７３】
本実施形態においては、走行経路を生成するための装置５００における画像取得ユニット５０１、地図生成ユニット５０２及び経路生成ユニット５０３の具体的な処理及びもたらす技術効果は、それぞれ図２に対応する実施形態のステップ２０１、ステップ２０２及びステップ２０３の関連説明を参照することができるので、ここでは、繰り返して説明しない。
【００７４】
本実施形態の幾つかの選択可能な実現方法においては、無人航空機に取り付けられているカメラは、単眼カメラであり、走行場所の二次元画像は、単眼画像である。地図生成ユニット５０２は、単眼画像に対して三次元再構成をし、走行場所の三次元モデルを得るように配置されている走行場所再構成サブユニット（図示せず）と、車両及び目的地が走行場所の三次元モデルにおける位置を特定するように配置されている位置特定サブユニット（図示せず）と、特定された位置に基づいて走行場所の三次元モデルに対してラべリングし、全局地図を生成するように配置されている全局地図生成サブユニット（図示せず）とを含む。
【００７５】
本実施形態の幾つかの選択可能な実現方法においては、単眼画像に対して三次元再構成をする方法は、大規模な運動からの構造復元アルゴリズムである。
【００７６】
本実施形態の幾つかの選択可能な実現方法においては、位置特定サブユニットは、画像識別技術を用いて単眼画像に対して識別を行い、車両及び目的地が単眼画像における位置を特定するように配置されている画像識別モジュール（図示せず）と、車両及び目的地が単眼画像における位置を車両及び目的地が走行場所の三次元モデルにおける位置に投影変換するように配置されている投影変換モジュール（図示せず）とを含む。
【００７７】
本実施形態の幾つかの選択可能な実現方法においては、車両に取り付けられているカメラは、両眼カメラであり、前方場所の二次元画像は、両眼画像である。地図生成ユニット５０２は、両眼画像に対して画像のマッチングを行い、両眼画像の視差画像を得るように配置されている画像マッチングサブユニット（図示せず）と、視差画像に基づいて前方場所の奥行き画像を生成するように配置されている奥行き画像生成サブユニット（図示せず）と、奥行き画像に対して三次元再構成をし、局所地図を得るように配置されている局所地図再構成サブユニット（図示せず）とを含む。
【００７８】
本実施形態の幾つかの選択可能な実現方法においては、局所的経路は、局所的経路における車両の向きと全局的経路における車両の向きとの間の偏差が所定の偏差範囲内にあり、局所的経路が全局的経路からずれた距離が所定の距離範囲内にあり、車両が局所的経路に沿って走行するプロセスにおいて障害物と衝突しないという条件のうちの少なくとも１つの制約条件を満たす。
【００７９】
本実施形態の幾つかの選択可能な実現方法においては、車両は、無人自主掘削機である。
【００８０】
図６は、本願の実施形態による電子デバイス（例えば、図１に示すサーバー１０３）を実現するのに適するコンピュータシステム６００の構造模式図である。図６に示す電子デバイスは、１つの例示に過ぎず、本願の実施形態の機能及び使用範囲に如何なる制限をしない。
【００８１】
図６に示すように、コンピュータシステム６００は、リードオンリーメモリ（ＲＯＭ）６０２に記憶されているプログラム又は記憶部６０８からランダムアクセスメモリ（ＲＡＭ）６０３にロードされたプログラムに基づいて様々な適切な動作及び処理を実行することが可能な中央処理ユニット（ＣＰＵ）６０１を含む。ＲＡＭ６０３の中には、システム６００を操作するために必要な様々プログラム及びデータを更に記憶している。ＣＰＵ６０１、ＲＯＭ６０２及びＲＡＭ６０３は、バス６０４により互いに接続する。入力／出力（Ｉ／Ｏ）インターフェイス６０５もバス６０４に接続されている。
【００８２】
キーボード、マウス等を含む入力部６０６、陰極線管（ＣＲＴ）、液晶ディスプレイ（ＬＣＤ）等及びスピーカー等を含む出力部６０７、ハードディスク等を含む記憶部６０８及びＬＡＮカード、モデム等のネットワークインターフェイスカードを含む通信部６０９は、Ｉ／Ｏインターフェイス６０５に接続されている。通信部６０９は、インターネットのようなネットワークを通じて通信処理を行う。ドライバ６１０も、必要に応じてＩ／Ｏインターフェイス６０５に接続する。磁気ディスク、光ディスク、光磁気ディスク、半導体メモリ等のようなリムーバブルメディア６１１は、必要に応じてドライバ６１０に取り付けることによって、そこから読み出されたコンピュータプログラムは、必要に応じて記憶部６０８にインストールする。
【００８３】
特に、本願の実施形態により、上述した内容においてフローチャート図を参照して記載したプロセスは、コンピュータのソフトウェアのプログラムとして実現することができる。例えば、本願に開示する実施形態は、コンピュータのプログラムの製品を含み、当該コンピュータのプログラムの製品は、コンピュータ可読メディアにインストールされている、フローチャート図に示す方法を実行するためのプログラムコードを含むコンピュータのプログラムを備える。このような実施形態においては、当該コンピュータのプログラムは、通信部６０９によりネットワークからダウンロード及びインストールし、及び／又は、リムーバブルメディア６１１からインストールされる。当該コンピュータのプログラムが中央処理ユニット（ＣＰＵ）６０１に実行されると、本願の方法に限定される上述した機能を実行する。なお、本願の実施形態に記載のコンピュータ可読メディアは、コンピュータ可読な信号メディア又はコンピュータ可読な記憶メディア又は上述した２つの任意の組み合わせであっても良い。コンピュータ可読な記憶メディアは、電気、磁気、光、電磁気、赤外線、半導体のシステム、装置、デバイス又は前記ものの任意の組み合わせであっても良いが、これらに限定しない。コンピュータ可読な記憶メディアのより具体的な例としては、１つ又は複数のリード線を有する、電気的に接続するボータブルコンピュータディスク、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリーメモリ（ＲＯＭ）、書き込み・消去可能なリードオンリーメモり（ＥＰＲＯＭ又はフラッシュメモリ）、光ファイバー、コンパクトディスクリードオンリーメモリ（ＣＤ−ＲＯＭ）、光記憶装置、磁気記憶装置又は上述したものの任意の適切な組み合わせが挙げられる。本願においては、コンピュータ可読な記憶メディアは、プログラムを含む又は記憶する任意の有形メディアであっても良く、当該プログラムは、命令実行システム、装置又はデバイスに用いられ、又は、組合わせて用いられても良い。本願においては、コンピュータ可読な信号メディアは、ベースバンドの中にある又は搬送波の一部として伝播するデータ信号には、コンピュータ可読なプログラムコードが積載されている。このような伝播するデータ信号は、様々な形を用いることができ、電磁気信号、光信号又は上述したもの任意の適切な組み合わせを含むが、これらに限定されない。コンピュータ可読な信号メディアは、コンピュータ可読な記憶メディア以外の如何なるコンピュータ可読なメディアであっても良く、当該コンピュータ可読なメディアは、命令実行システム、装置又はデバイスに用いられ、又は、その組み合わせに用いられるためのプログラムを送信、伝播又は伝送することができる。コンピュータ可読なメディアに含まれるプログラムコードは、如何なる適切なメディアを用いて伝送しても良く、無線、電線、光ケーブル、ＲＦ等又は上述したものの任意の適切な組み合わせを含むが、これらに限定されない。
【００８４】
１つ又は複数のプログラム設計言語又はその組み合わせで本願の実施形態の操作を実行するコンピュータのプログラムコードをプログラミングすることができ、前記プログラム設計言語は、Ｊａｖａ、Ｓｍａｌｌｔａｌｋ、Ｃ＋＋のようなオブジェクト向けのプログラム設計言語を含み、「Ｃ」言語又は類似するプログラム設計言語のような通常の過程式プログラム設計言語も含む。プログラムコードは、完全にユーザーのコンピュータにより実行されても良く、部分的にユーザーのコンピュータにより実行されても良く、１つの独立したパッケージソフトとして実行されても良く、一部がユーザーのコンピュータにより実行され、一部が遠隔コンピュータにより実行されても良く、完全に遠隔コンピュータ又はサーバーにより実行されても良い。遠隔コンピュータにより実行される場合、遠隔コンピュータは、局所エリヤネットワーク（ＬＡＮ）又はワイドエリヤネットワーク（ＷＡＮ）を含む任意の種類のネットワークによりユーザーのコンピュータ又は外部コンピュータ（例えば、インターネットサービスプロバイダを用いてインターネットにより接続する）に接続されることができる。
【００８５】
図面におけるフローチャート図及びブロック図は、本願のそれぞれの実施形態によるシステム、方法及びコンピュータプログラム製品の実現可能な体系構成、機能及び操作を示している。ここでは、フローチャート図及びブロック図における各ブロックは、１つのモジュール、プログラムセグメント又はコードの一部を表すことができ、当該モジュール、プログラムセグメント又はコードの一部は、定められたロジック機能を実現するための１つ又は複数の実行可能な命令を含む。幾つかの代替できる実現としては、ブロックの中に示されている機能は、図面に示されている順番と違う順番で行われても良い。例えば、２つの連続して示されているブロックは、実は、ほぼ平行して行われても良く、逆の順序で行われる場合もあり、これは、係る機能によって決められることに注意すべきである。ブロック図及び/又はフローチャート図におけるそれぞれのブロック、及び、ブロック図及び/又はフローチャート図におけるブロックの組み合わせは、定めされた機能又は操作を実行するための専用のハードウェアを元にするシステムにより実行しても良く、又は、専用のハードウェアとコンピュータ命令の組み合わせにより実行しても良いことにも注意すべきである。
【００８６】
記載の本願の実施形態に係るユニットは、ソフトウェアの形で実現しても良く、ハードウェアの形で実現しても良い。記載のユニットは、プロセッサーの中に設置されても良く、例えば、画像取得ユニット、地図生成ユニット及び経路生成ユニットを含むプロセッサーであるというように記載しても良い。なお、これらのユニットの名称は、当該ユニット自身を限定しない場合があり、例えば、画像取得ユニットは、「無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得するユニット」とも記載されても良い。
【００８７】
もう１つの側面としては、本願は、コンピュータ可読メディアを更に提供する。当該コンピュータ可読メディアは、上述した実施形態に記載の電子デバイスに含まれても良く、当該電子デバイスに設置されずに単独で存在しても良い。前記コンピュータ可読メディアには、1つ又は複数のプログラムが積載され、当該１つ又は複数のプログラムが当該電子デバイスに実行されるとき、当該電子デバイスに次のことを実行させる：無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得し、走行場所の二次元画像に基づいて全局地図を生成し、前方場所の二次元画像に基づいて局所地図を生成し、全局地図及び局所地図に基づいて経路計画をし、全局的経路及び局所的経路を生成し、なお、局所的経路は、前全局的経路の方向に沿う。
【００８８】
上述した記載は、本願の比較的好ましい実施形態及び応用される技術原理に対する説明に過ぎない。当業者は、本願に係る発明の範囲が上述した技術特徴の特定の組み合わせからなる技術案に限らず、上述した発明の精神から逸脱しないかぎり、上述した技術特徴又は等価特徴から行われる任意の組み合わせによる他の技術案も含まれていることに理解すべきである。例えば、上述した特徴と本願の実施形態に開示されている特徴と類似する機能を有する技術特徴（しかし、限定しない）に対して置換えることで形成した技術案も含まれている。
【図１】
2020144101.tif 000003
【図２】
2020144101.tif 000004
【図３】
2020144101.tif 000005
【図４】
2020144101.tif 000006
【図５】
2020144101.tif 000007
【図６】
2020144101.tif 000008
【手続補正書】
【提出日】令和2年5月22日(2020.5.22)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
走行経路を生成するための方法であって、
無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得することと、
前記走行場所の二次元画像に基づいて全局地図を生成し、前記前方場所の二次元画像に基づいて局所地図を生成することと、
前記全局地図及び前記局所地図に基づいて経路計画をし、全局的経路及び前記全局的経路の方向に沿う局所的経路を生成することと
を含むことを特徴とする方法。
【請求項２】
前記無人航空機に取り付けられているカメラは、単眼カメラであり、前記走行場所の二次元画像は、単眼画像であり、
前記走行場所の二次元画像に基づいて全局地図を生成することは、
前記単眼画像に対して三次元再構成をすることによって、前記走行場所の三次元モデルを得ることと、
前記車両及び目的地が前記走行場所の三次元モデルにおける位置を特定することと、
特定された位置に基づいて前記走行場所の三次元モデルに対してラべリングすることによって、前記全局地図を生成することと、
を含むことを特徴とする請求項１に記載の方法。
【請求項３】
前記単眼画像に対して三次元再構成をする方法は、大規模な運動からの構造復元アルゴリズムであることを特徴とする請求項２に記載の方法。
【請求項４】
前記車両及び目的地が前記走行場所の三次元モデルにおける位置を特定することは、
画像識別技術を用いて前記単眼画像に対して識別を行うことによって、前記車両及び前記目的地が前記単眼画像における位置を特定することと、
前記車両及び前記目的地が前記単眼画像における位置を、前記車両及び前記目的地が前記走行場所の三次元モデルにおける位置に投影変換することと、
を含むことを特徴とする請求項２に記載の方法。
【請求項５】
前記車両に取り付けられているカメラは、両眼カメラであり、前記前方場所の二次元画像は、両眼画像であり、
前記前方場所の二次元画像に基づいて局所地図を生成することは、
前記両眼画像に対して画像のマッチングを行うことによって、前記両眼画像の視差画像を得ることと、
前記視差画像に基づいて前記前方場所の奥行き画像を生成することと、
前記奥行き画像に対して三次元再構成を行うことによって、前記局所地図を得ることと、
を含むことを特徴とする請求項１に記載の方法。
【請求項６】
前記局所的経路は、前記局所的経路における前記車両の向きと前記全局的経路における前記車両の向きとの間の偏差が所定の偏差範囲内にあり、前記局所的経路が前記全局的経路からずれた距離が所定の距離範囲内にあり、前記車両が前記局所的経路に沿って走行するプロセスにおいて障害物と衝突しないという条件のうちの少なくとも１つの制約条件を満たすことを特徴とする請求項１〜５の何れか１項に記載の方法。
【請求項７】
前記車両は、無人自主掘削機であることを特徴とする請求項１〜５の何れか1つに記載の方法。
【請求項８】
無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得するように配置されている画像取得ユニットと、
前記走行場所の二次元画像に基づいて全局地図を生成し、前記前方場所の二次元画像に基づいて局所地図を生成するように配置されている地図生成ユニットと、
前記全局地図及び前記局所地図に基づいて経路計画をし、全局的経路及び局所的経路を生成し、前記局所的経路は、前記全局的経路の方向に沿うように配置されている経路生成ユニットと、
を含むことを特徴とする走行経路を生成するための装置。
【請求項９】
前記無人航空機に取り付けられているカメラは、単眼カメラであり、前記走行場所の二次元画像は、単眼画像であり、
前記地図生成ユニットは、
前記単眼画像に対して三次元再構成をすることによって、前記走行場所の三次元モデルを得るように配置されている走行場所再構成サブユニットと、
前記車両及び目的地が前記走行場所の三次元モデルにおける位置を特定するように配置されている位置特定サブユニットと、
特定された位置に基づいて前記走行場所の三次元モデルに対してラべリングすることによって、前記全局地図を生成するように配置されている全局地図生成サブユニットと、
を含むことを特徴とする請求項８に記載の装置。
【請求項１０】
前記単眼画像に対して三次元再構成を行う方法は、大規模な運動からの構造復元アルゴリズムであることを特徴とする請求項９に記載の装置。
【請求項１１】
前記位置特定サブユニットは、
画像識別技術を用いて前記単眼画像に対して識別を行うことによって、前記車両及び前記目的地が前記単眼画像における位置を特定するように配置されている画像識別モジュールと、
前記車両及び前記目的地が前記単眼画像における位置を、前記車両及び前記目的地が前記走行場所の三次元モデルにおける位置に投影変換するように配置されている投影変換モジュールと、
を含むことを特徴とする請求項９に記載の装置。
【請求項１２】
前記車両に取り付けられているカメラは、両眼カメラであり、前記前方場所の二次元画像は、両眼画像であり、
前記地図生成ユニットは、
前記両眼画像に対して画像のマッチングを行うことによって、前記両眼画像の視差画像を得るように配置されている画像マッチングサブユニットと、
前記視差画像に基づいて前記前方場所の奥行き画像を生成するように配置されている奥行き画像生成サブユニットと、
前記奥行き画像に対して三次元再構成を行うことによって、前記局所地図を得るように配置されている局所地図再構成サブユニットとを含むことを特徴とする請求項８に記載の装置。
【請求項１３】
前記局所的経路は、制約条件として、前記局所的経路における前記車両の向きと前記全局的経路における前記車両の向きとの間の偏差が所定の偏差範囲内にあることと、前記局所的経路が前記全局的経路からずれた距離が所定の距離範囲内にあることと、前記車両が前記局所的経路に沿って走行するプロセスにおいて障害物と衝突しないこととのうちの少なくとも１つを満たすことを特徴とする請求項８〜１２の何れか１項に記載の装置。
【請求項１４】
前記車両は、無人自主掘削機であることを特徴とする請求項８〜１２の何れか１項に記載の装置。
【請求項１５】
１つ又は複数のプロセッサーと、
１つ又は複数のプログラムを記憶している記憶装置とを備え、
前記１つ又は複数のプログラムが前記１つ又は複数のプロセッサーにより実行されると、前記１つ又は複数のプロセッサーは、請求項１〜７の何れか１項に記載の方法を実現することを特徴とする電子デバイス。
【請求項１６】
コンピュータプログラムを記憶しているコンピュータ可読メディアであって、
前記コンピュータプログラムがプロセッサーによって実行されると、請求項１〜７の何れか１項に記載の方法を実現することを特徴とするコンピュータ可読メディア。
【請求項１７】
コンピュータプログラムであって、
前記コンピュータプログラムがプロセッサーによって実行されると、請求項１〜７の何れか１項に記載の方法を実現することを特徴とするコンピュータプログラム。
【外国語明細書】
2020144101000001.pdf