(57)【要約】      （修正有）【課題】自律ＡＤＶ（ＡＤＶ）の周囲環境を示すための方法を提供する。【解決手段】方法は、高精細地図からの第１の特徴セットと周囲環境における対象オブジェクトからの第２の特徴セットとを用いて周囲環境を示す。第１の特徴セットは、畳み込みニューラルネットワークにより高精細地図から抽出されたものであり、第２の特徴セットは、自律ＡＤＶの所定数の過去走行サイクルの間に対象オブジェクトからのハンドクラフト特徴である。第１の特徴セットと第２の特徴セットとは直列接続されて、ＣＮＮの複数の全結合層に提供されて対象オブジェクトの挙動を予測する。一実施形態において、自律ＡＤＶの走行サイクル毎について、当該方法における動作を繰り返すことができる。【選択図】図６
2020083310.tif 000002
【特許請求の範囲】
【請求項１】
自動運転車両（ＡＤＶ）の周囲環境を示すためのコンピュータによって実施される方法であって、
畳み込みニューラルネットワークを用いて高精細地図から複数の特徴を抽出するステップと、
抽出された複数の特徴と前記周囲環境における対象オブジェクトの複数のハンドクラフト特徴とを直列接続するステップと、
直列接続された特徴を用いて、前記畳み込みニューラルネットワークにより前記対象オブジェクトの１つ又は複数の挙動を予測するステップと、を備える自動運転車両（ＡＤＶ）の周囲環境を示すためのコンピュータによって実施される方法。
【請求項２】
前記高精細地図から複数の特徴を抽出するステップは、
前記高精細地図から複数のレイヤを抽出することと、
前記複数のレイヤを赤色、青色及び緑色（ＲＢＧ）表示に変換することと、
前記畳み込みニューラルネットワークの１つ又は複数の畳み込み層を用いて前記ＲＧＢ表示から前記複数の特徴を抽出することと、を備える請求項１に記載の方法。
【請求項３】
前記対象オブジェクトのハンドクラフト特徴は、前記ＡＤＶの感知システムによって所定数の過去走行サイクルにおいて収集される請求項１に記載の方法。
【請求項４】
前記ＡＤＶの走行サイクル毎に、抽出、直列接続及び予測を繰り返す請求項１に記載の方法。
【請求項５】
前記高精細地図から抽出された前記複数のレイヤは、同じグリッドサイズセットを共有する請求項１に記載の方法。
【請求項６】
前記畳み込みニューラルネットワークのオンライン推論を促進するために、前記高精細地図の抽出された特徴を予め計算してキャッシュする請求項１に記載の方法。
【請求項７】
前記畳み込みニューラルネットワークは、前記ＡＤＶの視野角内に位置する前記ＨＤ地図の一部から前記複数の特徴を抽出し、前記角度が前記ＡＤＶの進行方向に対応する請求項１に記載の方法。
【請求項８】
自動運転車両（ＡＤＶ）の周囲環境を示すための指令が格納されている非一時的機械可読媒体であって、前記指令は、プロセッサによって実行されるときに、
畳み込みニューラルネットワークを用いて高精細地図から複数の特徴を抽出するステップと、
抽出された複数の特徴と前記周囲環境における対象オブジェクトの複数のハンドクラフト特徴とを直列接続するステップと、
直列接続された特徴を用いて、前記畳み込みニューラルネットワークにより前記対象オブジェクトの１つ又は複数の挙動を予測するステップと、を備える動作を前記プロセッサに実行させる非一時的機械可読媒体。
【請求項９】
前記高精細地図から複数の特徴を抽出するステップは、
前記高精細地図から複数のレイヤを抽出することと、
前記複数のレイヤを赤色、青色及び緑色（ＲＢＧ）表示に変換することと、
前記畳み込みニューラルネットワークの１つ又は複数の畳み込み層を用いて前記ＲＧＢ表示から前記複数の特徴を抽出することと、を備える請求項８に記載の非一時的機械可読媒体。
【請求項１０】
前記対象オブジェクトのハンドクラフト特徴は、前記ＡＤＶの感知システムによって所定数の過去走行サイクルにおいて収集される請求項８に記載の非一時的機械可読媒体。
【請求項１１】
前記ＡＤＶの走行サイクル毎に、抽出、直列接続及び予測を繰り返す請求項８に記載の非一時的機械可読媒体。
【請求項１２】
前記高精細地図から抽出された前記複数のレイヤは、同じグリッドサイズセットを共有する請求項８に記載の非一時的機械可読媒体。
【請求項１３】
前記畳み込みニューラルネットワークのオンライン推論を促進するために、前記高精細地図の抽出された特徴を予め計算してキャッシュする請求項８に記載の非一時的機械可読媒体。
【請求項１４】
前記畳み込みニューラルネットワークは、前記ＡＤＶの視野角内に位置する前記ＨＤ地図の一部から前記複数の特徴を抽出し、前記角度が前記ＡＤＶの進行方向に対応する請求項８に記載の非一時的機械可読媒体。
【請求項１５】
プロセッサと、自動運転車両（ＡＤＶ）の周囲環境を示すための命令を格納するために前記プロセッサに接続されるメモリとを備えるデータ処理システムであって、前記命令は、プロセッサによって実行されるときに、
畳み込みニューラルネットワークを用いて高精細地図から複数の特徴を抽出するステップと、
抽出された複数の特徴と前記周囲環境における対象オブジェクトの複数のハンドクラフト特徴とを直列接続するステップと、
直列接続された特徴を用いて、前記畳み込みニューラルネットワークにより前記対象オブジェクトの１つ又は複数の挙動を予測するステップと、を備える動作を前記プロセッサに実行させるデータ処理システム。
【請求項１６】
前記高精細地図から複数の特徴を抽出するステップは、
前記高精細地図から複数のレイヤを抽出することと、
前記複数のレイヤを赤色、青色及び緑色（ＲＢＧ）表示に変換することと、
前記畳み込みニューラルネットワークの１つ又は複数の畳み込み層を用いて前記ＲＧＢ表示から前記複数の特徴を抽出することと、を備える請求項１５に記載のシステム。
【請求項１７】
前記対象オブジェクトのハンドクラフト特徴は、前記ＡＤＶの感知システムによって所定数の過去走行サイクルにおいて収集される請求項１５に記載のシステム。
【請求項１８】
前記ＡＤＶの走行サイクル毎に、抽出、直列接続及び予測を繰り返す請求項１５に記載のシステム。
【請求項１９】
前記高精細地図から抽出された前記複数のレイヤは、同じグリッドサイズセットを共有する請求項１５に記載のシステム。
【請求項２０】
前記畳み込みニューラルネットワークのオンライン推論を促進するために、前記高精細地図の抽出された特徴を予め計算してキャッシュする請求項１５に記載のシステム。
【請求項２１】
前記畳み込みニューラルネットワークは、前記ＡＤＶの視野角内に位置する前記ＨＤ地図の一部から前記複数の特徴を抽出し、前記角度が前記ＡＤＶの進行方向に対応する請求項１５に記載のシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示の実施形態は、主に自動運転車両の動作に関する。より具体的には、本開示の実施形態は、車両挙動予測に関する。
【背景技術】
【０００２】
自動運転車両（ＡＤＶ）は、乗員、特に運転手を運転に関連するいくつかの責務から解放することができる。自動運転モードで走行している場合に、車両が車載センサ及び高精細地図を用いて様々な場所にナビゲートされることができ、ヒューマンコンピュータインタラクションが最小限に抑えられた場合、又は乗員がいない状況下などで走行することを可能にする。
【０００３】
車両（即ち、自律車両，ｅｇｏ  ｖｅｈｉｃｌｅ）の安全で信頼性の高い自動運転には、周囲環境におけるオブジェクト（対象オブジェクト）の挙動を正確に予測することを必要とする。この予測は、周囲環境の正確で包括的な表示がなければ困難である。従来の方法は、高精細地図からの情報を考慮せずに、対象オブジェクトの特徴に焦点を当てることが一般的である。したがって、これらの方法は、自律車両の周囲環境を包括的に示すことができない。
【図面の簡単な説明】
【０００４】
本開示の実施形態は、添付図面の各図において、限定的ではなく例示的な形態で示され、添付図面における同じ図面符号は、同様の要素を示す。
【０００５】
【図１】一実施形態に係るネットワーク化システムを示すブロック図である。
【０００６】
【図２】一実施形態に係る自動運転車両の一例を示すブロック図である。
【０００７】
【図３Ａ】一実施形態に係る自動運転車両と一緒に用いられる感知・計画システムの一例を示すブロック図である。
【図３Ｂ】一実施形態に係る自動運転車両と一緒に用いられる感知・計画システムの一例を示すブロック図である。
【０００８】
【図４】実施形態に係るＡＤＶの運転環境を示すためのシステムを示す。
【０００９】
【図５】実施形態に係るＡＤＶの運転環境を示すためのシステムをさらに示す。
【００１０】
【図６】実施形態に係るＡＤＶの運転環境を示すための例示的なプロセスを示すフローチャートである。
【００１１】
【図７】本開示の一実施形態と一緒に使用可能なデータ処理システムの一例を示すブロック図である。
【発明を実施するための形態】
【００１２】
本開示の様々な実施形態及び態様は、以下に論じられる詳細を参照して説明され、添付図面は様々な実施形態を示す。以下の説明及び図面は、本開示を説明するためのものであり、本開示を限定するものとして解釈されるべきではない。本開示の様々な実施形態を完全に把握するために、多数の特定の詳細を説明する。しかしながら、場合によっては、本開示の実施形態に対する簡潔な説明を提供するために、周知又は従来の詳細について説明していない。
【００１３】
本明細書において「一実施形態」又は「実施形態」とは、該実施形態に関連して説明された特定の特徴、構造、又は特性が、本開示の少なくとも１つの実施形態に含まれてもよいことを意味する。本明細書の様々な箇所における「一実施形態において」という表現は、本明細書の全体において全てが同じ実施形態を指すとは限らない。
【００１４】
一実施形態において、自律ＡＤＶ（ｅｇｏ  ａｕｔｏｎｏｍｏｕｓ  ｄｒｉｖｉｎｇ  ｖｅｈｉｃｌｅ）の周囲環境を示すための方法が記述されている。該方法は、高精細（ＨＤ）地図からの第１の特徴セットと、周囲環境における対象オブジェクトからの第２の特徴セットとを用いて周囲環境を示す。第１の特徴セットは、畳み込みニューラルネットワーク（ＣＮＮ）により高精細地図から抽出されたものであり、第２の特徴セットは、自律ＡＤＶの所定数の過去走行サイクルの間に対象オブジェクトからのハンドクラフト（ｈａｎｄｃｒａｆｔｅｄ）特徴である。第１の特徴セットと第２の特徴セットとは直列接続されて、ＣＮＮの複数の全結合層に提供されて対象オブジェクトの挙動を予測する。
【００１５】
一実施形態において、自律ＡＤＶの走行サイクル毎について、当該方法における動作を繰り返す。他の一実施形態において、ＣＮＮのオンライン推論を促進するために、ＡＤＶが走行している道路の特定の道路区間の高精細地図の特徴をＡＤＶで予め計算してキャッシュすることができる。
【００１６】
一実施形態において、対象オブジェクトの挙動は、車線変更、左折、右折、最大曲がり速度、又は自律ＡＤＶが対象オブジェクトの挙動を予測する際に必要とされる可能性があるあらゆる他の運転関連パラメータを含むことができる。
【００１７】
一実施形態において、ＨＤ地図から第１の特徴セットを抽出するために、ＨＤ地図からの情報は抽出されて、車線特徴レイヤ、交通標識レイヤ、静的オブジェクトレイヤ及び一般地図情報レイヤを含む複数のレイヤにグループ化されてもよい。全てのレイヤは、同じグリッドサイズを共有し、それぞれのレイヤは、ＨＤ地図における異なる情報から抽出される。ハンドクラフト特徴は、対象オブジェクトのＧＰＳ座標、対象オブジェクトの幅及び長さ、対象オブジェクトの車種（例えば、スポーツタイプ多目的車）、対象オブジェクトの速度及びＡＤＶによって対象オブジェクトの挙動を予測するために使用できる対象オブジェクトのあらゆる他のプロパティ又は特性を含むことができる。
【００１８】
自動運転のために構築されたＨＤ地図には、ＡＤＶの特定の道路区間の全ての情報が含まれる。本明細書に記載のシステム及び方法は、ＨＤ地図からの特徴を用いることによって、ＡＤＶの運転環境の総合的なプレゼンテーションを提供することができる。
【００１９】
自動運転車両
図１は本開示の一実施形態に係る自動運転車両のネットワーク構成を示すブロック図である。図１を参照して、ネットワーク構成１００は、ネットワーク１０２を介して１つ又は複数のサーバ１０３〜１０４に通信可能に接続される自動運転車両１０１を備える。１台の自動運転車両のみが示されているが、複数の自動運転車両はネットワーク１０２を介して互いに接続され、及び／又はサーバ１０３〜１０４に接続されてもよい。ネットワーク１０２は、有線又は無線のローカルエリアネットワーク（ＬＡＮ）、インターネットなどのワイドエリアネットワーク（ＷＡＮ）、セルラーネットワーク、衛星ネットワーク又はそれらの組み合わせなどの任意のタイプのネットワークであってもよい。サーバ１０３〜１０４は、Ｗｅｂサーバ又はクラウドサーバ、アプリケーションサーバ、バックエンドサーバ又はそれらの組み合わせなどの任意のタイプのサーバ又はサーバクラスタであってもよい。サーバ１０３〜１０４は、データ解析サーバ、コンテンツサーバ、交通情報サーバ、地図・ポイントオブインタレスト（ＭＰＯＩ）サーバ又は位置サーバなどであってもよい。
【００２０】
自動運転車両とは、運転手からの入力がほとんど又は全くない状態でナビゲートされて環境を通過する自動運転モードにあるように構成されることが可能な車両を指す。このような自動運転車両は、車両が走行している環境に関する情報を検出するように構成される１つ又は複数のセンサを有するセンサシステムを備えてもよい。前記車両及びその関連コントローラが、検出された情報を用いてナビゲートして前記環境を通過する。自動運転車両１０１が手動モード、完全自動運転モード又は一部自動運転モードで走行することができる。
【００２１】
一実施形態において、自動運転車両１０１は、感知・計画システム１１０、車両制御システム１１１、無線通信システム１１２、ユーザインタフェースシステム１１３、インフォテインメントシステム１１４及びセンサシステム１１５を含むが、これらに限定されない。自動運転車両１０１は、エンジン、ホイール、ステアリングホイール、変速機などの一般車両に含まれるいくつかの共通構成要素をさらに含んでもよく、前記構成要素は車両制御システム１１１及び／又は感知・計画システム１１０により、加速信号又はコマンド、減速信号又はコマンド、ステアリング信号又はコマンド、ブレーキ信号又はコマンドなどの複数の通信信号及び／又はコマンドを用いて制御することができる。
【００２２】
構成要素１１０〜１１５は、インターコネクト、バス、ネットワーク又はそれらの組み合わせを介して互いに通信可能に接続されてもよい。例えば、構成要素１１０〜１１５は、コントローラエリアネットワーク（ＣＡＮ）バスを介して互いに通信可能に接続されてもよい。ＣＡＮバスは、ホストコンピュータなしアプリケーションにおいてマイクロコントローラ及び装置が相互に通信できる車両バス規格として設計される。これは、当初は自動車内の多重電気配線のために設計されたメッセージベースのプロトコルであるが、他の多くの環境においても使用される。
【００２３】
次に図２を参照して、一実施形態において、センサシステム１１５は、１つ又は複数のカメラ２１１と、全地球測位システム（ＧＰＳ）ユニット２１２と、慣性計測ユニット（ＩＭＵ）２１３と、レーダユニット２１４と、光検出・測距（ＬＩＤＡＲ）ユニット２１５とを含むが、それらに限定されない。ＧＰＳシステム２１２は、自動運転車両の位置に関する情報を提供するように動作されることが可能な送受信機を備えてもよい。ＩＭＵユニット２１３は、慣性加速度に基づいて自動運転車両の位置及び向きの変化を感知することができる。レーダユニット２１４は、無線信号を用いて自動運転車両のローカル環境内のオブジェクトを感知するシステムを表してもよい。いくつかの実施形態において、レーダユニット２１４は、オブジェクトを感知することに加えて、オブジェクトの速度及び／又は進行方向を更に感知することができる。ＬＩＤＡＲユニット２１５は、自動運転車両が位置している環境内のオブジェクトをレーザで感知することができる。他のシステム構成要素に加えて、ＬＩＤＡＲユニット２１５は、１つ又は複数のレーザ光源、レーザスキャナ及び１つ又は複数の検出器をさらに備えてもよい。カメラ２１１は、自動運転車両の周囲の環境の画像を取り込むための１つ又は複数のデバイスを含んでもよい。カメラ２１１は、スチルカメラ及び／又はビデオカメラであってもよい。カメラは、例えば、回転プラットフォーム及び／又は傾斜プラットフォームに取り付けられることによって、機械的に移動可能なものであってもよい。
【００２４】
センサシステム１１５は、ソナーセンサ、赤外線センサ、ステアリングセンサ、スロットルセンサ、ブレーキセンサ及びオーディオセンサ（例えば、マイクロホン）などの他のセンサをさらに含んでもよい。オーディオセンサは、自動運転車両の周囲の環境から音を取り込むように構成されてもよい。ステアリングセンサは、ステアリングホイールの操舵角、車両の車輪の曲がり角、又はそれらの組み合わせを感知するように構成されてもよい。スロットルセンサ及びブレーキセンサは、車両のスロットル位置及びブレーキ位置をそれぞれ検出する。場合によっては、スロットルセンサ及びブレーキセンサは、集積型スロットル／ブレーキセンサとして統合されてもよい。
【００２５】
一実施形態において、車両制御システム１１１は、ステアリングユニット２０１と、スロットルユニット２０２（加速ユニットとも呼ばれる）と、ブレーキユニット２０３とを含むが、それらに限定されない。ステアリングユニット２０１は、車両の方向又は進行方向を調整するために用いられる。スロットルユニット２０２は、モータ又はエンジンの速度を制御して、さらにモータ又はエンジンの速度が車両の速度及び加速度を制御するために用いられる。ブレーキユニット２０３は、車両の車輪又はタイヤを減速させる摩擦を与えることによって車両を減速させる。なお、図２に示される構成要素は、ハードウェア、ソフトウェア、又はそれらの組み合わせで実装されてもよい。
【００２６】
図１に戻って、無線通信システム１１２は、自動運転車両１０１と、デバイス、センサ、他の車両などの外部システムとの間の通信を可能にする。例えば、無線通信システム１１２は、１つ又は複数のデバイスと直接無線通信するか、又は通信ネットワークを介して無線通信し、例えばネットワーク１０２を介してサーバ１０３〜１０４と通信することができる。無線通信システム１１２は、ＷｉＦｉ（登録商標）などの任意のセルラー通信ネットワーク又は無線ローカルエリアネットワーク（ＷＬＡＮ）を用いて、他の構成要素又はシステムと通信することができる。無線通信システム１１２は、例えば、赤外線リンク、ブルートゥース（登録商標）などを用いて、デバイス（例えば、乗員の携帯装置、表示装置、車両１０１内のスピーカ）と直接通信することができる。ユーザインタフェースシステム１１３は、例えばキーボード、タッチスクリーン表示装置、マイクロホン及びスピーカなどを含む、車両１０１内に実装される周辺装置の一部であってもよい。
【００２７】
自動運転車両１０１の機能の一部又は全部は、特に自動運転モードで動作された場合に、感知・計画システム１１０によって制御又は管理されてもよい。感知・計画システム１１０は、センサシステム１１５、制御システム１１１、無線通信システム１１２及び／又はユーザインターフェースシステム１１３から情報を受信し、受信された情報を処理し、出発地から目的地までのルート又は経路を計画し、次いで計画及び制御情報に基づいて車両１０１を運転するために、必要なハードウェア（例えば、プロセッサ、メモリ、記憶デバイス）及びソフトウェア（例えば、オペレーティングシステム、計画及びルーティングプログラム）を備える。あるいは、感知・計画システム１１０は、車両制御システム１１１と一体化されてもよい。
【００２８】
例えば、乗員としてのユーザは、ユーザインタフェースを介して旅程の出発位置及び目的地を指定することができる。感知・計画システム１１０は旅程関連データを取得する。例えば、感知・計画システム１１０は、サーバ１０３〜１０４の一部であってもよいＭＰＯＩサーバから位置及びルート情報を取得することができる。位置サーバは、位置サービスを提供し、ＭＰＯＩサーバは、地図サービス及びある位置のＰＯＩを提供する。あるいは、そのような位置及びＭＰＯＩ情報は、感知・計画システム１１０の永続性記憶装置にローカルにキャッシュされてもよい。
【００２９】
自動運転車両１０１がルートに沿って走行している間に、感知・計画システム１１０は、交通情報システム又はサーバ（ＴＩＳ）からリアルタイム交通情報を取得することができる。なお、サーバ１０３〜１０４は、第三者機関によって操作されてもよい。あるいは、サーバ１０３〜１０４の機能は、感知・計画システム１１０と一体化されてもよい。リアルタイム交通情報、ＭＰＯＩ情報、位置情報及びセンサシステム１１５によって検出又は感知されたリアルタイムなローカル環境データ（例えば、障害物、オブジェクト、付近の車両）に基づいて、感知・計画システム１１０は、安全で効率的に指定された目的地に到達するように、最適なルートを計画し、かつ計画されたルートにより例えば制御システム１１１を介して車両１０１を運転することができる。
【００３０】
サーバ１０３は、様々なクライアントにデータ解析サービスを実行するためのデータ解析システムであってもよい。一実施形態において、データ解析システム１０３は、データコレクタ１２１と、機械学習エンジン１２２とを備える。データコレクタ１２１は、自動運転車両又は人間運転手によって運転される一般車両などの様々な車両から運転統計データ１２３を収集する。運転統計データ１２３は、異なる時点で車両のセンサにより取得された、発行された運転コマンド（例えば、スロットルコマンド、ブレーキコマンド及びステアリングコマンド）、並びに車両の応答（例えば、速度、加速、減速、方向）を表す情報を含む。運転統計データ１２３は、例えば、始点位置及び目的地の位置を含むルート、ＭＰＯＩ、道路状況、気象状況などのような、異なる時点における運転環境を記述する情報をさらに含むことができる。
【００３１】
機械学習エンジン１２２は、運転統計データ１２３に基づいて、様々な目的のためのルールセット、アルゴリズム及び／又は予測モデル１２４を生成又はトレーニングする。例えば、初期係数又はパラメータを有する１組の５次多項式関数を選択して定義することができる。なお、運転統計データ１２３から取得することができるセンサ仕様及び特定の車両設計などのハードウェア特性に基づいて、１組の制約を定義することができる。次に、アルゴリズム１２４を自動運転中にリアルタイムで使用するためにＡＤＶにアップロードすることができる。
【００３２】
図３Ａ及び図３Ｂは、一実施形態に係る自動運転車両と一緒に用いられる感知・計画システムの一例を示すブロック図である。システム３００は、感知・計画システム１１０、制御システム１１１及びセンサシステム１１５を含むが、これらに限定されなく、図１の自動運転車両１０１の一部として実施されてもよい。図３Ａ〜図３Ｂを参照し、感知・計画システム１１０は、測位モジュール３０１と、感知モジュール３０２と、予測モジュール３０３と、決定モジュール３０４と、計画モジュール３０５と、制御モジュール３０６と、ルーティングモジュール３０７とを含むが、それらに限定されない。
【００３３】
モジュール３０１〜３０７の一部又はすべては、ソフトウェア、ハードウェア、又はそれらの組み合わせによって実装されてもよい。例えば、これらのモジュールは、永続性記憶装置３５２にインストールされ、メモリ３５１にロードされ、１つ又は複数のプロセッサ（図示せず）によって実行されていてもよい。なお、これらのモジュールの一部又はすべては、図２に示す車両制御システム１１１におけるモジュールの一部又はすべてに通信可能に接続されるか、又は一体に統合されていてもよい。モジュール３０１〜３０７の一部は、集積モジュールとして一体化されていてもよい。
【００３４】
測位モジュール３０１は、自動運転車両３００の現在位置（例えば、ＧＰＳユニット２１２を利用し）を確定して、ユーザの旅程又はルートに関するあらゆるデータを管理する。測位モジュール３０１（地図・ルートモジュールとも呼ばれる）は、ユーザの旅程又はルートに関するあらゆるデータを管理する。ユーザは、例えばユーザインターフェースを介してログインして旅程の開始位置及び目的地を指定することができる。測位モジュール３０１は、旅程に関するデータを取得するために、自動運転車両３００の地図・ルート情報（又はデータ）３１１などの他の構成要素と通信する。例えば、測位モジュール３０１は、位置サーバと、地図・ポイントオブインタレスト（ＭＰＯＩ）サーバから位置及びルート情報を取得することができる。位置サーバは、位置サービスを提供し、ＭＰＯＩサーバは、地図サービスとある位置のＰＯＩとを提供し、これらを地図・ルート情報３１１の一部としてキャッシュされてもよい。自動運転車両３００がルートに沿って走行している間に、測位モジュール３０１は、さらに交通情報システム又はサーバからリアルタイム交通情報を取得することができる。
【００３５】
センサシステム１１５により提供されたセンサデータ、及び測位モジュール３０１により得られた測位情報に基づいて、感知モジュール３０２は周囲環境に対する感知を確定する。感知情報は、一般運転手が運転手によって運転されている車両の周囲で感知するものを表すことができる。感知とは、例えばオブジェクトの形態で、車線構成、信号機信号、他の車両の相対位置、歩行者、建築物、横断歩道又は他の交通関連標識（例えば、止まれ標識、ゆずれ標識）などを含むことができる。車線構成は、例えば、車線の形状（例えば、直線又はカーブ）、車線の幅、道路内の車線数、一方向車線又は二方向車線、合流車線又は分流車線、退出車線など、１つ又は複数の車線を記述する情報を含む。
【００３６】
感知モジュール３０２は、１つ又は複数のカメラによって取り込まれた画像を処理及び解析して、自動運転車両の環境におけるオブジェクト及び／又は特徴を認識するために、コンピュータビジョンシステム又はコンピュータビジョンシステムの機能を含むことができる。前記オブジェクトは、交通信号、道路境界、他の車両、歩行者及び／又は障害物などを含んでいてもよい。コンピュータビジョンシステムは、オブジェクト認識アルゴリズム、ビデオトラッキング、及び他のコンピュータビジョン技術を使用することができる。いくつかの実施形態において、コンピュータビジョンシステムは、環境地図の描画、オブジェクトの追跡、及びオブジェクトの速度の推定などを行うことができる。感知モジュール３０２は、レーダ及び／又はＬＩＤＡＲのような他のセンサによって提供される他のセンサデータに基づいてオブジェクトを検出することもできる。
【００３７】
オブジェクトのそれぞれについて、予測モジュール３０３は、その場合に該オブジェクトがどのように挙動するかを予測する。一組の地図・ルート情報３１１及び交通ルール３１２により、当該時点の運転環境を感知する感知データに基づいて、予測を実行する。例えば、オブジェクトが対向車両であって、現在の運転環境が交差点を含む場合に、予測モジュール３０３は、車両が前方に直進するか、それとも曲がるかを予測する。感知データが、交差点に信号機がないことを示す場合に、予測モジュール３０３は、交差点に進入する前に車両が完全に停止する必要があると予測することが可能である。感知データが、車両が現在左折のみの車線又は右折のみの車線にあることを示す場合に、予測モジュール３０３は、車両がそれぞれ左折又は右折する可能性が高いと予測可能である。
【００３８】
それぞれのオブジェクトについて、決定モジュール３０４は、オブジェクトを如何に扱うかについて決定を行う。例えば、特定のオブジェクト（例えば、交差ルートにおける他の車両）及びオブジェクトを記述するメタデータ（例えば、速度、方向、曲がり角）について、決定モジュール３０４は、前記オブジェクトとどのように出会うか（例えば、追い越し、道譲り、停止、追い抜き）を決定する。決定モジュール３０４は、交通ルールまたは運転ルール３１２などのルールセットに基づいてそのような決定を行うことができ、前記ルールセットは永続性記憶装置３５２に格納されていてもよい。
【００３９】
ルーティングモジュール３０７は、始点から目的地までの１つ以上のルート又は経路を提供するように構成される。ルーティングモジュール３０７は、開始位置から目的地位置までの所与の旅程（例えば、ユーザから受信された）について、地図・ルート情報３１１を取得し、開始位置から目的地位置までのすべての可能なルート又は経路を確定する。ルーティングモジュール３０７は、確定された開始位置から目的地位置までのルートのそれぞれのための基準線を地形図の形態で生成することができる。基準線とは、他の車両、障害物又は交通状況などの他の物体によって何ら干渉されることなく、理想的なルート又は経路を指す。即ち、ＡＤＶは、道路上に他の車両、歩行者又は障害物がない場合に、基準線に精確的に又は密接的に従うべきである。次いで、地形図が決定モジュール３０４及び／又は計画モジュール３０５に提供される。測位モジュール３０１からの交通状況、感知モジュール３０２によって感知される運転環境、及び予測モジュール３０３によって予測される交通状況などの、他のモジュールによって提供される他のデータに基づいて、決定モジュール３０４及び／又は計画モジュール３０５は、全ての可能なルートを検査して最適なルートのうちの１つを選択及び修正する。当該時点における特定の運転環境に応じて、ＡＤＶを制御するための実際の経路又はルートは、ルーティングモジュール３０７によって提供された基準線に近いか、又は異なっていてもよい。
【００４０】
感知されたオブジェクトのそれぞれについての決定に基づいて、計画モジュール３０５は、ルーティングモジュール３０７によって提供された基準線をベースとして、自動運転車両のための経路又はルート、並びに運転パラメータ（例えば、距離、速度、及び／又は曲がり角）を計画する。即ち、所与のオブジェクトについて、決定モジュール３０４は、該オブジェクトに対して何を行うかを決定し、計画モジュール３０５は、どのように行うかを確定する。例えば、所与のオブジェクトについて、決定モジュール３０４は前記オブジェクトを追い抜くか否かを決定することができ、計画モジュール３０５は前記オブジェクトを左側から追い抜くか又は右側から追い抜くかを確定することができる。計画及び制御データは、計画モジュール３０５により生成され、車両３００が次の移動周期（例えば、次のルート／経路区間）にはどのように移動するかを記述する情報を含む。例えば、計画及び制御データは車両３００が３０マイル／時間（ｍｐｈ）の速度で１０メートル走行し、次に２５ｍｐｈの速度で右車線に変更するように指示することができる。
【００４１】
制御モジュール３０６は、計画及び制御データに基づいて、計画及び制御データにより定義されたルート又は経路に応じて適当なコマンド若しくは信号を車両制御システム１１１に送信することにより自動運転車両を制御及び走行させる。前記計画及び制御データは、ルート又は経路に沿って異なる時点で適切な車両構成又は運転パラメータ（例えば、スロットル、ブレーキ及びステアリングコマンド）を使用して車両をルート又は経路の第１点から第２点まで走行させるように、十分な情報を含む。
【００４２】
一実施形態において、計画段階は、例えば、１００ミリ秒（ｍｓ）の時間間隔など、複数の計画サイクル（走行サイクルとも呼ばれる）で実行される。計画サイクル又は走行サイクルのそれぞれについて、計画データ及び制御データに基づいて１つ又は複数の制御コマンドを発する。即ち、１００ｍｓごとに、計画モジュール３０５は、次のルートセグメント又は経路区間（例えば、目標位置及びＡＤＶが目標位置に到着するのに必要な時間が含まれる）を計画する。あるいは、計画モジュール３０５は、具体的な速度、方向及び／又は操舵角などを更に指定することができる。一実施形態において、計画モジュール３０５は、次の所定期間（例えば、５秒）のルートセグメント又は経路区間を計画する。計画サイクルのそれぞれについて、計画モジュール３０５は、前のサイクルで計画された目標位置に基づいて、現在のサイクル（例えば、次の５秒）のための目標位置を計画する。次に、制御モジュール３０６は、現在のサイクルの計画データ及び制御データに基づいて、１つ又は複数の制御コマンド（例えば、スロットル、ブレーキ、ステアリング制御コマンド）を生成する。
【００４３】
なお、決定モジュール３０４及び計画モジュール３０５は、集積モジュールとして一体化されてもよい。決定モジュール３０４／計画モジュール３０５は、自動運転車両の運転経路を確定するために、ナビゲーションシステム又はナビゲーションシステムの機能を含んでいてもよい。例えば、ナビゲーションシステムは、自動運転車両の以下の経路に沿った走行を達成するための一連の速度及び進行方向を確定することができる。前記経路では、自動運転車両が最終的な目的地に通じる走行車線ベースの経路に沿って前進するとともに、感知された障害物を実質的に回避できる。目的地は、ユーザインターフェースシステム１１３により行われるユーザ入力に従って設定されてもよい。ナビゲーションシステムは、自動運転車両が走行している間に、運転経路を動的に更新することができる。ナビゲーションシステムは、自動運転車両のための運転経路を確定するために、ＧＰＳシステム及び１つ又は複数の地図からのデータを統合することができる。
【００４４】
なお、以上に例示及び記述された構成要素の一部又は全部は、ソフトウェア、ハードウェア又はそれらの組み合わせで実施されてもよい。例えば、このような構成要素は、永続性記憶装置にインストールされるとともに格納されるソフトウェアとして実施されてもよく、前記ソフトウェアは、本開示にわたって記載されたプロセス又は動作を実施するように、プロセッサ（図示せず）を介してメモリにロードして実行されてもよい。あるいは、このような構成要素は、集積回路（例えば、特定用途向け集積回路又はＡＳＩＣ）、デジタル信号プロセッサ（ＤＳＰ）、又はフィールドプログラマブルゲートアレイ（ＦＰＧＡ）のような専用ハードウェアにプログラミング又は埋め込まれた実行可能なコードとして実施されてもよく、前記実行可能なコードは、アプリケーションからの対応するドライバ及び／又はオペレーティングシステムを介してアクセスすることができる。また、このような構成要素は、ソフトウェア構成要素が１つ又は複数の特定の命令によってアクセス可能な命令セットの一部として、プロセッサ又はプロセッサコアにおける特定のハードウェアロジックとして実施されてもよい。
【００４５】
環境特徴表示
図４は、実施形態に係るＡＤＶの運転環境を示すためのシステムが示されている。図４に示すように、予測モジュール３０３は、地理情報システム（ＧＩＳ）ツールを用いて、地図・ルートデータ３１１のモジュールに格納された高精細（ＨＤ）地図４０１から複数の地図レイヤ４０２を抽出することができる。一実施形態において、地図レイヤは、道路車線、交通標識、静的オブジェクト、制限速度、及び一般道路情報などの特定のカテゴリ又はタイプの現実世界の実体を表す点、線、又はエリア（多角形）の特徴のクラスタを含むＧＩＳデータベースであってもよい。
【００４６】
一実施形態において、それぞれの走行サイクルについて、地図レイヤ４０２は、自律ＡＤＶの視野角内でＨＤ地図４０１から抽出されてもよい。視野角は、自律ＡＤＶの進行方向に対応する角度に基づき、視野角の深さが予測モジュール３０３によって予め決定されてもよい。走行中の自律ＡＤＶの進行方向は絶えず変化するため、自律ＡＤＶの走行周期毎に自律ＡＤＶの視野角が異なる可能性がある。したがって、予測モジュール３０３は、自律ＡＤＶの異なる走行サイクルについて地図レイヤ４０２を作成するために、ＨＤ地図４０１の異なる部分から情報を抽出することができる。
【００４７】
地図レイヤ４０２は直列接続され、赤色、緑色及び青色（ＲＧＢ）表示４０３に変換されてもよく、ＲＧＢ表示４０３は、それぞれの独立した画素を定義する赤色成分、緑色成分及び青色成分のｍ×ｎ×３のデータ配列であってもよい。ＲＧＢ表示４０３は、入力データとして畳み込みニューラルネットワーク４０４に提供されてもよい。畳み込み層４０５は、ＲＧＢ表示４０３から複数の特徴４０７を抽出するために使用されてもよい。抽出された特徴のそれぞれは、ＲＧＢ表示４０３のパッチ（ｐａｔｃｈ）であってもよく、バイナリグリッド（例えば、０及び１のバイナリグリッド）によって表されてもよい。例えば、特徴は、ＨＤ地図４０１における一時停止標識を示すバイナリグリッド又は特徴マップであってもよい。
【００４８】
自律ＡＤＶの周囲環境における対象オブジェクトの複数のハンドクラフト特徴４０５は、抽出された特徴４０７と直列接続されてもよい。対象オブジェクトは、特定の走行サイクルの視野角内にあってもよい。ハンドクラフト特徴４０５は、畳み込みニューラルネットワーク４０４によりＲＧＢ画像４０１から自動的に学習する抽出された特徴４０７とは異なり、１つ又は複数のセンサによって取得されたデータに基づいて、様々なアルゴリズムを使用して導出される対象オブジェクトのプロパティである。一実施形態において、対象オブジェクトは、自律ＡＤＶの感知及び予測領域における自動車、自転車又は歩行者であってもよい。
【００４９】
例えば、ハンドクラフト特徴４０５は、対象オブジェクトの位置、車種、幅、長さ及び速度、又は、自律ＡＤＶの所定数（ｎ）の過去走行サイクルにおける対象オブジェクトの挙動予測に関する対象オブジェクトのあらゆる他のプロパティを含むことができる。ハンドクラフト特徴４０５は、自律ＡＤＶのｎ個の走行サイクルにおける対象オブジェクトの平均速度など、これらのプロパティに関する統計データをさらに含むことができる。それぞれのハンドクラフト特徴は、同様に、バイナリグリッドによって表されてもよい。
【００５０】
一実施形態において、特徴とブロック情報とを関連付けるように、ハンドクラフト特徴４０５及び抽出された特徴４０７のそれぞれをラベル付けることができ、該ブロック情報は、特定の走行サイクルに対する自律ＡＤＶの感知及び予測領域におけるどのグリッドサブディビジョンを示す。
【００５１】
対象オブジェクトの予測４１１を生成するために、直列接続された特徴を、畳み込みニューラルネットワーク４０４の１つ又は複数の全結合層４０９に提供することができる。対象オブジェクトの予測挙動のそれぞれは、多クラス予測であってもよい。１つの例示的な予測は、対象オブジェクトが、７０％の左折確率、１０％の右折確率、及び２０％の直進確率を有することであってもよい。
【００５２】
一実施形態では、自律ＡＤＶの１つ又は複数の走行サイクル、又は特定の道路区間における自律ＡＤＶの全行程に対して、対象オブジェクトの挙動を予測する際にハンドクラフト特徴が使用されない場合、畳み込みニューラルネットワーク４０４のオンライン推論を促進するために、抽出された特徴４０７を予めに計算してキャッシュすることができる。
【００５３】
図５は、実施形態に係るＡＤＶの運転環境を示すためのシステムがさらに示されている。図５を参照して、地図レイヤ５０２は、自律ＡＤＶにおける予測モジュールによって、自律ＡＤＶの視野角内で高精細地図から抽出されてもよい。角度は、自律ＡＤＶの進行方向であってもよい。地図レイヤー５０２はテンソルを用いて実現されてもよく、車線特徴レイヤ５０３、交通標識レイヤ５０５、静的オブジェクトレイヤ５０７及び一般道路情報レイヤ５０９を含むことができる。予測するために構成された自律ＡＤＶの予測対象である対象オブジェクトの挙動に応じて、他のレイヤもＨＤ地図から抽出されてもよい。
【００５４】
地図レイヤ５０２は、３次元アレイであり得る画像類似ＲＧＢ表示５１０に変換されてもよい。自律ＡＤＶの予測モジュールには、ＲＧＢ表示５１０から特徴を抽出するために、トレーニングされた畳み込みニューラルネットワークモデル５１１が設けられてもよい。抽出された特徴５１３のそれぞれは、ＲＧＢ表示５１１のパッチを表すことができる。
【００５５】
抽出された特徴５１３は、自律ＡＤＶの所定数の過去走行サイクルのハンドクラフト特徴５１５と直列接続されてもよい。ハンドクラフト特徴５１５は、対象オブジェクトの予測に関する対象オブジェクトの複数のプロパティを含むことができ、例えば、ハンドクラフト特徴は、緯度５１６、経度５１７、長さ５１８、幅５１９、及びタイプ５２０を含むことができる。自律ＡＤＶによって予測される必要がある対象オブジェクトの挙動のタイプに応じて、他のハンドクラフト特徴を使用することもできる。
【００５６】
直列接続された特徴を、対象オブジェクトの挙動の予測５２５を生成することができる複数のＦＣ層５２１、５２３に提供することができる。以上のプロセスを走行サイクル毎に繰り返すことができる。
【００５７】
図６は、実施形態に係るＡＤＶの運転環境を示す例示的なプロセスを示すフローチャートである。
【００５８】
プロセス６００は、ソフトウェア、ハードウェア、又はそれらの組み合わせを含むことができる処理ロジックによって実行されてもよい。プロセス６００は、ハードウェア（例えば、回路、専用ロジック、プログラマブルロジック、プロセッサ、処理デバイス、中央処理装置（ＣＰＵ）、システムオンチップ（ＳｏＣ）等）、ソフトウェア（例えば、処理デバイスで稼働／実行される命令）、ファームウェア（例えば、マイクロコード）、又はそれらの組み合わせを含むことができる処理ロジックによって実行されてもよい。いくつかの実施形態において、プロセス６００は、図３Ａ及び図３Ｂに示されるような１つ又は複数のモジュールによって実行されてもよい。
【００５９】
図６を参照して、動作６０１において、畳み込みニューラルネットワークを用いて高精細地図から複数の特徴を抽出することができる。高精細地図から特徴を抽出することは、高精細地図から複数のレイヤを抽出することと、複数のレイヤを赤色、青色及び緑色（ＲＢＧ）表示に変換することと、畳み込みネットワークの１つ又は複数の畳み込み層を用いてＲＧＢ表示から複数の特徴を抽出することとを備える。地図レイヤは、車線特徴レイヤ、交通標識レイヤ、静的オブジェクトレイヤ、及び一般地図情報レイヤを含む。全てのレイヤは、同じグリッドサイズを共有し、それぞれのレイヤは、高精細地図における異なる情報から抽出される。
【００６０】
動作６０３において、高精細地図からの抽出された特徴と周囲環境における対象オブジェクトからの複数のハンドクラフト特徴とを直列接続する。ハンドクラフト特徴は、対象オブジェクトのＧＰＳ座標、対象オブジェクトの幅、長さ、車種（例えば、スポーツタイプ多目的車）、車両の速度、又はＡＤＶによって対象オブジェクトの挙動を予測するために使用できる対象オブジェクトのあらゆる他のプロパティ又は特性を含むことができる。対象オブジェクトのハンドクラフト特徴は、ＡＤＶの感知システムによって所定数のＡＤＶの過去走行サイクルにおいて収集される。
【００６１】
動作６０５において、畳み込みニューラルネットワークは、直列接続された特徴を用いて対象オブジェクトの１つ又は複数の挙動を予測する。対象オブジェクトへの予測を生成するために、直列接続された特徴を、畳み込みニューラルネットワークの１つ又は複数の全結合層に提供することができる。対象オブジェクトの挙動予測のそれぞれは、多クラス分類予測であってもよい。さらに、ＡＤＶは、これらの予測を用いて、次の１つ又は複数の走行サイクルにおける進路を計画することができる。
【００６２】
なお、以上に例示及び記述された構成要素の一部又は全部は、ソフトウェア、ハードウェア又はそれらの組み合わせで実施されてもよい。例えば、このような構成要素は、永続性記憶装置にインストールされるとともに格納されるソフトウェアとして実施されてもよく、前記ソフトウェアは、本開示にわたって記載されたプロセス又は動作を実施するように、プロセッサ（図示せず）を介してメモリにロードして実行されてもよい。あるいは、このような構成要素は、集積回路（例えば、特定用途向け集積回路又はＡＳＩＣ）、デジタル信号プロセッサ（ＤＳＰ）、又はフィールドプログラマブルゲートアレイ（ＦＰＧＡ）のような専用ハードウェアにプログラミング又は埋め込まれた実行可能なコードとして実施されてもよく、前記実行可能なコードは、アプリケーションからの対応するドライバ及び／又はオペレーティングシステムを介してアクセスすることができる。また、このような構成要素は、ソフトウェア構成要素が１つ又は複数の特定の命令によってアクセス可能な命令セットの一部として、プロセッサ又はプロセッサコアにおける特定のハードウェアロジックとして実施されてもよい。
【００６３】
図８は、本開示の一実施形態と一緒に使用可能なデータ処理システムの一例を示すブロック図である。例えば、システム１５００は、前記プロセス又は方法のいずれかを実行する上述したデータ処理システムのいずれかを示してもよい。システム１５００は、多数の異なる構成要素を備えてもよい。これらの構成要素は、集積回路（ＩＣ）、集積回路の一部、ディスクリート型電子デバイス、又は回路基板（例えば、コンピュータシステムのマザーボード若しくはアドインカード）に適するその他のモジュールとして実現されることができ、又は、他の形態でコンピュータシステムのシャーシ内に組み込まれる構成要素として実施されてもよい。
【００６４】
さらに注意すべきなのは、システム１５００は、コンピュータシステムの多数の構成要素の高レベルビューを示すことを意図している。しかしながら、いくつかの実施形態においては、付加的構成要素が存在する場合もあることを理解すべきである。また、他の実施形態においては示される構成要素が異なる構成を有してもよい。システム１５００は、デスクトップコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、サーバ、携帯電話、メディアプレヤー、パーソナルデジタルアシスタント（ＰＤＡ）、スマートウォッチ、パーソナルコミュニケーター、ゲーミングデバイス、ネットワークルーター又はハブ、無線アクセスポイント（ＡＰ）又はリピーター、セット・トップボックス、又はそれらの組み合わせを示してもよい。また、単一の機械又はシステムのみが示されたが、「機械」又は「システム」という用語は、本明細書で説明されるいずれか１つ又は複数の方法を実行するための、１つ（又は複数）の命令セットを単独で又は共同で実行する機械又はシステムの任意の組み合わせも含まれることを理解されたい。
【００６５】
一実施形態において、システム１５００は、バス又はインターコネクト１５１０を介して接続される、プロセッサ１５０１と、メモリ１５０３と、デバイス１５０５〜１５０８とを備える。プロセッサ１５０１は、単一のプロセッサコア又は複数のプロセッサコアが含まれる単一のプロセッサ又は複数のプロセッサを示してもよい。プロセッサ１５０１は、マイクロプロセッサ、中央処理装置（ＣＰＵ）などのような、１つ又は複数の汎用プロセッサを示してもよい。より具体的には、プロセッサ１５０１は、複雑命令セットコンピューティング（ＣＩＳＣ）マイクロプロセッサ、縮小命令セットコンピューティング（ＲＩＳＣ）マイクロプロセッサ、超長命令語（ＶＬＩＷ）マイクロプロセッサ、又は他の命令セットを実装するプロセッサ、又は命令セットの組み合わせを実装するプロセッサであってもよい。プロセッサ１５０１は、さらに、特定用途向け集積回路（ＡＳＩＣ）、セルラ又はベースバンドプロセッサ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、デジタル信号プロセッサ（ＤＳＰ）、ネットワークプロセッサ、グラフィックプロセッサ、通信プロセッサ、暗号プロセッサ、コプロセッサ、組込みプロセッサのような１つ又は複数の専用プロセッサ、又は命令処理可能な任意の他のタイプのロジックであってもよい。
【００６６】
プロセッサ１５０１は、超低電圧プロセッサのような低電力マルチコアプロセッサソケットであってもよく、前記システムの様々な構成要素と通信するための主処理ユニット及び中央ハブとして機能していてもよい。このようなプロセッサは、システムオンチップ（ＳｏＣ）として実装されてもよい。プロセッサ１５０１は、本明細書で説明される動作及びステップを実行するための命令を実行するように構成される。システム１５００は、選択可能なグラフィックサブシステム１５０４と通信するグラフィックインターフェースをさらに含んでもよく、グラフィックサブシステム１５０４は、表示コントローラ、グラフィックプロセッサ及び／又は表示装置をさらに備えてもよい。
【００６７】
プロセッサ１５０１は、メモリ１５０３と通信してもよく、メモリ１５０３は、一実施形態において、所定量のシステムメモリを提供するための複数のメモリデバイスによって実装されてもよい。メモリ１５０３は、ランダムアクセスメモリ（ＲＡＭ）、ダイナミックＲＡＭ（ＤＲＡＭ）、シンクロナスＤＲＡＭ（ＳＤＲＡＭ）、スタティックＲＡＭ（ＳＲＡＭ）、又は他のタイプの記憶デバイスのような、１つ又は複数の揮発性記憶（又はメモリ）デバイスを備えてもよい。メモリ１５０３は、プロセッサ１５０１又は他の任意のデバイスにより実行される命令シーケンスを含む情報を格納することができる。例えば、様々なオペレーティングシステム、デバイスドライバ、ファームウェア（例えば、基本入出力システム又はＢＩＯＳ）、及び／又はアプリケーションの実行可能なコード及び／又はデータは、メモリ１５０３にロードされてもよく、プロセッサ１５０１により実行されてもよい。オペレーティングシステムは、ロボットオペレーティングシステム（ＲＯＳ）、Ｍｉｃｒｏｓｏｆｔ（登録商標）社からのＷｉｎｄｏｗｓ（登録商標）オペレーティングシステム、アップル社からのＭａｃＯＳ（登録商標）／ｉＯＳ（登録商標）、Ｇｏｏｇｌｅ（登録商標）社からのＡｎｄｒｏｉｄ（登録商標）、ＬＩＮＵＸ（登録商標）、ＵＮＩＸ（登録商標）、又は他のリアルタイム若しくは組込みオペレーティングシステムのような、任意のタイプのオペレーティングシステムであってもよい。
【００６８】
システム１５００は、更に、ネットワークインターフェースデバイス１５０５、選択可能な入力デバイス１５０６、及び他の選択可能なＩ／Ｏデバイス１５０７を含むデバイス１５０５〜１５０８のようなＩ／Ｏデバイスを備えてもよい。ネットワークインターフェースデバイス１５０５は、無線送受信機及び／又はネットワークインターフェースカード（ＮＩＣ）を備えてもよい。前記無線送受信機は、ＷｉＦｉ送受信機、赤外線送受信機、ブルートゥース送受信機、ＷｉＭａｘ送受信機、無線携帯電話送受信機、衛星送受信機（例えば、全地球測位システム（ＧＰＳ）送受信機）、又は他の無線周波数（ＲＦ）送受信機、又はそれらの組み合わせであってもよい。ＮＩＣは、イーサネット（登録商標）カードであってもよい。
【００６９】
入力デバイス１５０６は、マウス、タッチパッド、タッチスクリーン（表示装置１５０４と一体に統合されてもよい）、ポインターデバイス（例えば、スタイラス）、及び／又はキーボード（例えば、物理キーボード又はタッチスクリーンの一部として表示された仮想キーボード）を備えてもよい。例えば、入力デバイス１５０６は、タッチスクリーンに接続されるタッチスクリーンコントローラを含んでもよい。タッチスクリーン及びタッチスクリーンコントローラは、例えば、様々なタッチ感応技術（コンデンサ、抵抗、赤外線、及び表面弾性波の技術を含むが、それらに限定されない）のいずれか、並びに他の近接センサアレイ、又は、タッチスクリーンと接触する１つ又は複数の点を確定するための他の素子を用いて、それらの接触、移動又は中断を検出することができる。
【００７０】
Ｉ／Ｏデバイス１５０７は音声装置を備えてもよい。音声装置は、音声認識、音声複製、デジタル記録、及び／又は電話機能のような音声サポート機能を促進するために、スピーカ及び／又はマイクロホンを含んでもよい。その他のＩ／Ｏデバイス１５０７は、ユニバーサルシリアルバス（ＵＳＢ）ポート、パラレルポート、シリアルポート、プリンタ、ネットワークインターフェース、バスブリッジ（例えば、ＰＣＩ−ＰＣＩブリッジ）、センサ（例えば、加速度計、ジャイロスコープ、磁力計、光センサ、コンパス、近接センサなどのモーションセンサ）、又はそれらの組み合わせをさらに備えてもよい。デバイス１５０７は、結像処理サブシステム（例えば、カメラ）をさらに備えてもよく、前記結像処理サブシステムは、写真及びビデオ断片の記録のようなカメラ機能を促進するための、電荷結合素子（ＣＣＤ）又は相補型金属酸化物半導体（ＣＭＯＳ）光学センサのような光学センサを備えてもよい。いくつかのセンサは、センサハブ（図示せず）を介してインターコネクト１５１０に接続されてもよく、キーボード又はサーマルセンサのような他のデバイスはシステム１５００の具体的な構成又は設計により、組込みコントローラ（図示せず）により制御されてもよい。
【００７１】
データ、アプリケーション、１つ又は複数のオペレーティングシステムなどの情報の永続的記憶を提供するために、プロセッサ１５０１には、大容量記憶デバイス（図示せず）が接続されてもよい。様々な実施形態において、薄型化と軽量化のシステム設計を可能にしながら、システムの応答能力を向上させるために、このような大容量記憶デバイスは、ソリッドステートデバイス（ＳＳＤ）によって実現されてもよい。しかしながら、他の実施形態において、大容量記憶デバイスは、主にハードディスクドライブ（ＨＤＤ）を使用して実現することができ、より小さい容量のＳＳＤ記憶デバイスをＳＳＤキャッシュとして機能することで、停電イベントの間にコンテキスト状態及び他のそのような情報の不揮発性記憶を可能にし、それによりシステム動作が再開するときに通電を速く実現することができる。また、フラッシュデバイスは、例えば、シリアルペリフェラルインターフェース（ＳＰＩ）を介してプロセッサ１５０１に接続されてもよい。このようなフラッシュデバイスは、前記システムのＢＩＯＳ及び他のファームウェアを含むシステムソフトウェアの不揮発性記憶のために機能することができる。
【００７２】
記憶デバイス１５０８は、本明細書に記載の方法又は機能のいずれか１つ又は複数を具現化する１つ又は複数の命令セット又はソフトウェア（例えば、モジュール、ユニット及び／又はロジック１５２８）が格納されているコンピュータアクセス可能な記憶媒体１５０９（機械可読記憶媒体又はコンピュータ可読媒体とも呼ばれる）を備えてもよい。処理モジュール／ユニット／ロジック１５２８は、計画モジュール３０５、制御モジュール３０６などの前記構成要素のいずれかを示してもよい。処理モジュール／ユニット／ロジック１５２８は、更に、データ処理システム１５００、メモリ１５０３及びプロセッサ１５０１による実行中に、メモリ１５０３内及び／又はプロセッサ１５０１内に完全的に又は少なくとも部分的に存在してもよく、データ処理システム１５００、メモリ１５０３、及びプロセッサ１５０１も機械アクセス可能な記憶媒体を構成する。処理モジュール／ユニット／ロジック１５２８は、更に、ネットワークによってネットワークインターフェースデバイス１５０５を介して送受信されてもよい。
【００７３】
コンピュータ可読記憶媒体１５０９は、以上に説明されたいくつかのソフトウェア機能を永続的に格納するために用いることができる。コンピュータ可読記憶媒体１５０９は、例示的な実施形態において単一の媒体として示されるが、「コンピュータ可読記憶媒体」という用語は、前記１つ又は複数の命令セットが格納される単一の媒体又は複数の媒体（例えば、集中型又は分散型データベース及び／又は関連するキャッシュとサーバ）を含むと解釈されるものとする。「コンピュータ可読記憶媒体」という用語は、更に、命令セットを格納又は符号化可能な任意の媒体を含むと解釈されるものであり、前記命令セットは機械により実行され、本開示のいずれか１つ又は複数の方法を前記機械に実行させるためのものである。したがって、「コンピュータ可読記憶媒体」という用語は、ソリッドステートメモリ、光学媒体及び磁気媒体、又は他の任意の非一時的機械可読媒体を含むが、それらに限定されないと解釈されるものとする。
【００７４】
本明細書に記載の処理モジュール／ユニット／ロジック１５２８、構成要素及び他の特徴は、ディスクリートハードウェア構成要素として実現されてもよく、又はハードウェア構成要素（例えば、ＡＳＩＣＳ、ＦＰＧＡ、ＤＳＰ又は類似のデバイス）の機能に統合されてもよい。さらに、処理モジュール／ユニット／ロジック１５２８は、ハードウェアデバイスにおけるファームウェア又は機能性回路として実現されていてもよい。また、処理モジュール／ユニット／ロジック１５２８は、ハードウェアデバイスとソフトウェア構成要素の任意の組み合わせで実現されてもよい。
【００７５】
なお、システム１５００は、データ処理システムの様々な構成要素を有するものとして示されているが、構成要素を相互接続する任意の特定のアーキテクチャまたは方式を表すことを意図するものではなく、そのような詳細は、本開示の実施形態とは密接な関係がない。また、より少ない構成要素又はより多くの構成要素を有するネットワークコンピュータ、ハンドヘルドコンピュータ、携帯電話、サーバ及び／又は他のデータ処理システムも、本開示の実施形態と共に使用可能であることを理解されたい。
【００７６】
上述した詳細な説明の一部は、コンピュータメモリにおけるデータビットに対する演算のアルゴリズムと記号表現により示された。これらのアルゴリズムの説明及び表現は、データ処理分野における当業者によって使用される、それらの作業実質を所属分野の他の当業者に最も効果的に伝達する方法である。本明細書では、一般的に、アルゴリズムは、所望の結果につながるセルフコンシステントシーケンスと考えられる。これらの動作は、物理量の物理的処置が必要とされるものである。
【００７７】
しかしながら、念頭に置くべきなのは、これらの用語及び類似の用語の全ては、適切な物理量に関連付けられるものであり、且つただこれらの量を標識しやすくするためのものに過ぎない。以上の説明で他に明示的に記載されていない限り、本明細書の全体にわたって理解すべきなのは、用語（例えば、添付された特許請求の範囲に記載のもの）による説明とは、コンピュータシステム、又は類似の電子計算装置の動作及び処理を指し、前記コンピュータシステム又は電子計算装置は、コンピュータシステムのレジスタ及びメモリにおける物理（電子）量として示されたデータを制御するとともに、前記データをコンピュータシステムメモリ又はレジスタ又はこのような他の情報記憶装置、伝送又は表示装置において同様に物理量として示された他のデータに変換する。
【００７８】
本開示の実施形態は、さらに本明細書における動作を実行するための装置に関する。このようなコンピュータプログラムは、非一時的コンピュータ可読媒体に格納される。機械可読媒体は、機械（例えば、コンピュータ）により読み取り可能な形態で情報を格納するための任意の機構を備える。例えば、機械可読（例えば、コンピュータ可読）媒体は、機械（例えば、コンピュータ）可読記憶媒体（例えば、読み出し専用メモリ（「ＲＯＭ」）、ランダムアクセスメモリ（「ＲＡＭ」）、磁気ディスク記憶媒体、光学記憶媒体、フラッシュメモリデバイス）を備える。
【００７９】
上述した図面において説明されたプロセス又は方法は、ハードウェア（例えば、回路、専用ロジックなど）、ソフトウェア（例えば、非一時的コンピュータ可読媒体に具現化されるもの）、又は両方の組み合わせを含む処理ロジックにより実行されてもよい。前記プロセス又は方法は、以上で特定の順序に応じて説明されたが、前記動作の一部が異なる順序で実行されてもよいことを理解されたい。また、いくつかの動作は、順番ではなく並行して実行されてもよい。
【００８０】
本開示の実施形態は、いずれの特定のプログラミング言語を参照することなく記載されている。理解すべきなのは、本明細書に記載の本開示の実施形態の教示を実現するために、様々なプログラミング言語を使用することができる。
【００８１】
本明細書において、本開示の実施形態は、既にその具体的な例示的な実施形態を参照しながら記載された。明らかなように、添付された特許請求の範囲に記載された本開示のより広い趣旨及び範囲を逸脱しない限り、本開示に対して様々な変更を行うことができる。したがって、本明細書及び図面は、限定的な意味でなく、例示的な意味で理解されるべきである。
【図１】
2020083310.tif 000003
【図２】
2020083310.tif 000004
【図３Ａ】
2020083310.tif 000005
【図３Ｂ】
2020083310.tif 000006
【図４】
2020083310.tif 000007
【図５】
2020083310.tif 000008
【図６】
2020083310.tif 000009
【図７】
2020083310.tif 000010
【手続補正書】
【提出日】令和1年11月6日(2019.11.6)
【手続補正１】
【補正対象書類名】明細書
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【発明の詳細な説明】
【技術分野】
【０００１】
本開示の実施形態は、主に自動運転車両の動作に関する。より具体的には、本開示の実施形態は、車両挙動予測に関する。
【背景技術】
【０００２】
自動運転車両（ＡＤＶ）は、乗員、特に運転手を運転に関連するいくつかの責務から解放することができる。自動運転モードで走行している場合に、車両が車載センサ及び高精細地図を用いて様々な場所にナビゲートされることができ、ヒューマンコンピュータインタラクションが最小限に抑えられた場合、又は乗員がいない状況下などで走行することを可能にする。
【０００３】
車両（即ち、自律車両，ｅｇｏ  ｖｅｈｉｃｌｅ）の安全で信頼性の高い自動運転には、周囲環境におけるオブジェクト（対象オブジェクト）の挙動を正確に予測することを必要とする。この予測は、周囲環境の正確で包括的な表示がなければ困難である。従来の方法は、高精細地図からの情報を考慮せずに、対象オブジェクトの特徴に焦点を当てることが一般的である。したがって、これらの方法は、自律車両の周囲環境を包括的に示すことができない。
【発明の概要】
【０００４】
本開示の一態様は、自動運転車両（ＡＤＶ）の周囲環境を示すためのコンピュータによって実施される方法であって、畳み込みニューラルネットワークを用いて高精度地図から複数の特徴を抽出するステップと、抽出された複数の特徴と周囲環境における対象オブジェクトの複数のハンドクラフト特徴とを直列接続するステップと、直列接続された特徴を用いて、畳み込みニューラルネットワークにより対象オブジェクトの１つ又は複数の挙動を予測するステップと、を備える、コンピュータによって実施される方法を提供している。
【０００５】
本開示の他の態様は、自動運転車両（ＡＤＶ）の周囲環境を示すための指令が格納されている非一時的機械可読媒体であって、指令は、プロセッサによって実行されるときに、畳み込みニューラルネットワークを用いて高精度地図から複数の特徴を抽出するステップと、抽出された複数の特徴と周囲環境における対象オブジェクトの複数のハンドクラフト特徴とを直列接続するステップと、直列接続された特徴を用いて、畳み込みニューラルネットワークにより対象オブジェクトの１つ又は複数の挙動を予測するステップと、を備える動作を、プロセッサに実行させる非一時的機械可読媒体を提供している。
【０００６】
本開示の更なる態様は、プロセッサと、自動運転車両（ＡＤＶ）の周囲環境を示すための命令を格納するためにプロセッサに接続されるメモリとを備えるデータ処理システムであって、命令は、プロセッサによって実行されるときに、畳み込みニューラルネットワークを用いて高精度地図から複数の特徴を抽出するステップと、抽出された複数の特徴と周囲環境における対象オブジェクトの複数のハンドクラフト特徴とを直列接続するステップと、直列接続された特徴を用いて、畳み込みニューラルネットワークにより対象オブジェクトの１つ又は複数の挙動を予測するステップと、を備える動作を、プロセッサに実行させるデータ処理システムを提供している。
【図面の簡単な説明】
【０００７】
本開示の実施形態は、添付図面の各図において、限定的ではなく例示的な形態で示され、添付図面における同じ図面符号は、同様の要素を示す。
【０００８】
【図１】一実施形態に係るネットワーク化システムを示すブロック図である。
【０００９】
【図２】一実施形態に係る自動運転車両の一例を示すブロック図である。
【００１０】
【図３Ａ】一実施形態に係る自動運転車両と一緒に用いられる感知・計画システムの一例を示すブロック図である。
【図３Ｂ】一実施形態に係る自動運転車両と一緒に用いられる感知・計画システムの一例を示すブロック図である。
【００１１】
【図４】実施形態に係るＡＤＶの運転環境を示すためのシステムを示す。
【００１２】
【図５】実施形態に係るＡＤＶの運転環境を示すためのシステムをさらに示す。
【００１３】
【図６】実施形態に係るＡＤＶの運転環境を示すための例示的なプロセスを示すフローチャートである。
【００１４】
【図７】本開示の一実施形態と一緒に使用可能なデータ処理システムの一例を示すブロック図である。
【発明を実施するための形態】
【００１５】
本開示の様々な実施形態及び態様は、以下に論じられる詳細を参照して説明され、添付図面は様々な実施形態を示す。以下の説明及び図面は、本開示を説明するためのものであり、本開示を限定するものとして解釈されるべきではない。本開示の様々な実施形態を完全に把握するために、多数の特定の詳細を説明する。しかしながら、場合によっては、本開示の実施形態に対する簡潔な説明を提供するために、周知又は従来の詳細について説明していない。
【００１６】
本明細書において「一実施形態」又は「実施形態」とは、該実施形態に関連して説明された特定の特徴、構造、又は特性が、本開示の少なくとも１つの実施形態に含まれてもよいことを意味する。本明細書の様々な箇所における「一実施形態において」という表現は、本明細書の全体において全てが同じ実施形態を指すとは限らない。
【００１７】
一実施形態において、自律ＡＤＶ（ｅｇｏ  ａｕｔｏｎｏｍｏｕｓ  ｄｒｉｖｉｎｇ  ｖｅｈｉｃｌｅ）の周囲環境を示すための方法が記述されている。該方法は、高精細（ＨＤ）地図からの第１の特徴セットと、周囲環境における対象オブジェクトからの第２の特徴セットとを用いて周囲環境を示す。第１の特徴セットは、畳み込みニューラルネットワーク（ＣＮＮ）により高精細地図から抽出されたものであり、第２の特徴セットは、自律ＡＤＶの所定数の過去走行サイクルの間に対象オブジェクトからのハンドクラフト（ｈａｎｄｃｒａｆｔｅｄ）特徴である。第１の特徴セットと第２の特徴セットとは直列接続されて、ＣＮＮの複数の全結合層に提供されて対象オブジェクトの挙動を予測する。
【００１８】
一実施形態において、自律ＡＤＶの走行サイクル毎について、当該方法における動作を繰り返す。他の一実施形態において、ＣＮＮのオンライン推論を促進するために、ＡＤＶが走行している道路の特定の道路区間の高精細地図の特徴をＡＤＶで予め計算してキャッシュすることができる。
【００１９】
一実施形態において、対象オブジェクトの挙動は、車線変更、左折、右折、最大曲がり速度、又は自律ＡＤＶが対象オブジェクトの挙動を予測する際に必要とされる可能性があるあらゆる他の運転関連パラメータを含むことができる。
【００２０】
一実施形態において、ＨＤ地図から第１の特徴セットを抽出するために、ＨＤ地図からの情報は抽出されて、車線特徴レイヤ、交通標識レイヤ、静的オブジェクトレイヤ及び一般地図情報レイヤを含む複数のレイヤにグループ化されてもよい。全てのレイヤは、同じグリッドサイズを共有し、それぞれのレイヤは、ＨＤ地図における異なる情報から抽出される。ハンドクラフト特徴は、対象オブジェクトのＧＰＳ座標、対象オブジェクトの幅及び長さ、対象オブジェクトの車種（例えば、スポーツタイプ多目的車）、対象オブジェクトの速度及びＡＤＶによって対象オブジェクトの挙動を予測するために使用できる対象オブジェクトのあらゆる他のプロパティ又は特性を含むことができる。
【００２１】
自動運転のために構築されたＨＤ地図には、ＡＤＶの特定の道路区間の全ての情報が含まれる。本明細書に記載のシステム及び方法は、ＨＤ地図からの特徴を用いることによって、ＡＤＶの運転環境の総合的なプレゼンテーションを提供することができる。
【００２２】
自動運転車両
図１は本開示の一実施形態に係る自動運転車両のネットワーク構成を示すブロック図である。図１を参照して、ネットワーク構成１００は、ネットワーク１０２を介して１つ又は複数のサーバ１０３〜１０４に通信可能に接続される自動運転車両１０１を備える。１台の自動運転車両のみが示されているが、複数の自動運転車両はネットワーク１０２を介して互いに接続され、及び／又はサーバ１０３〜１０４に接続されてもよい。ネットワーク１０２は、有線又は無線のローカルエリアネットワーク（ＬＡＮ）、インターネットなどのワイドエリアネットワーク（ＷＡＮ）、セルラーネットワーク、衛星ネットワーク又はそれらの組み合わせなどの任意のタイプのネットワークであってもよい。サーバ１０３〜１０４は、Ｗｅｂサーバ又はクラウドサーバ、アプリケーションサーバ、バックエンドサーバ又はそれらの組み合わせなどの任意のタイプのサーバ又はサーバクラスタであってもよい。サーバ１０３〜１０４は、データ解析サーバ、コンテンツサーバ、交通情報サーバ、地図・ポイントオブインタレスト（ＭＰＯＩ）サーバ又は位置サーバなどであってもよい。
【００２３】
自動運転車両とは、運転手からの入力がほとんど又は全くない状態でナビゲートされて環境を通過する自動運転モードにあるように構成されることが可能な車両を指す。このような自動運転車両は、車両が走行している環境に関する情報を検出するように構成される１つ又は複数のセンサを有するセンサシステムを備えてもよい。前記車両及びその関連コントローラが、検出された情報を用いてナビゲートして前記環境を通過する。自動運転車両１０１が手動モード、完全自動運転モード又は一部自動運転モードで走行することができる。
【００２４】
一実施形態において、自動運転車両１０１は、感知・計画システム１１０、車両制御システム１１１、無線通信システム１１２、ユーザインタフェースシステム１１３、インフォテインメントシステム（図示せず）及びセンサシステム１１５を含むが、これらに限定されない。自動運転車両１０１は、エンジン、ホイール、ステアリングホイール、変速機などの一般車両に含まれるいくつかの共通構成要素をさらに含んでもよく、前記構成要素は車両制御システム１１１及び／又は感知・計画システム１１０により、加速信号又はコマンド、減速信号又はコマンド、ステアリング信号又はコマンド、ブレーキ信号又はコマンドなどの複数の通信信号及び／又はコマンドを用いて制御することができる。
【００２５】
構成要素１１０〜１１５は、インターコネクト、バス、ネットワーク又はそれらの組み合わせを介して互いに通信可能に接続されてもよい。例えば、構成要素１１０〜１１５は、コントローラエリアネットワーク（ＣＡＮ）バスを介して互いに通信可能に接続されてもよい。ＣＡＮバスは、ホストコンピュータなしアプリケーションにおいてマイクロコントローラ及び装置が相互に通信できる車両バス規格として設計される。これは、当初は自動車内の多重電気配線のために設計されたメッセージベースのプロトコルであるが、他の多くの環境においても使用される。
【００２６】
次に図２を参照して、一実施形態において、センサシステム１１５は、１つ又は複数のカメラ２１１と、全地球測位システム（ＧＰＳ）ユニット２１２と、慣性計測ユニット（ＩＭＵ）２１３と、レーダユニット２１４と、光検出・測距（ＬＩＤＡＲ）ユニット２１５とを含むが、それらに限定されない。ＧＰＳシステム２１２は、自動運転車両の位置に関する情報を提供するように動作されることが可能な送受信機を備えてもよい。ＩＭＵユニット２１３は、慣性加速度に基づいて自動運転車両の位置及び向きの変化を感知することができる。レーダユニット２１４は、無線信号を用いて自動運転車両のローカル環境内のオブジェクトを感知するシステムを表してもよい。いくつかの実施形態において、レーダユニット２１４は、オブジェクトを感知することに加えて、オブジェクトの速度及び／又は進行方向を更に感知することができる。ＬＩＤＡＲユニット２１５は、自動運転車両が位置している環境内のオブジェクトをレーザで感知することができる。他のシステム構成要素に加えて、ＬＩＤＡＲユニット２１５は、１つ又は複数のレーザ光源、レーザスキャナ及び１つ又は複数の検出器をさらに備えてもよい。カメラ２１１は、自動運転車両の周囲の環境の画像を取り込むための１つ又は複数のデバイスを含んでもよい。カメラ２１１は、スチルカメラ及び／又はビデオカメラであってもよい。カメラは、例えば、回転プラットフォーム及び／又は傾斜プラットフォームに取り付けられることによって、機械的に移動可能なものであってもよい。
【００２７】
センサシステム１１５は、ソナーセンサ、赤外線センサ、ステアリングセンサ、スロットルセンサ、ブレーキセンサ及びオーディオセンサ（例えば、マイクロホン）などの他のセンサをさらに含んでもよい。オーディオセンサは、自動運転車両の周囲の環境から音を取り込むように構成されてもよい。ステアリングセンサは、ステアリングホイールの操舵角、車両の車輪の曲がり角、又はそれらの組み合わせを感知するように構成されてもよい。スロットルセンサ及びブレーキセンサは、車両のスロットル位置及びブレーキ位置をそれぞれ検出する。場合によっては、スロットルセンサ及びブレーキセンサは、集積型スロットル／ブレーキセンサとして統合されてもよい。
【００２８】
一実施形態において、車両制御システム１１１は、ステアリングユニット２０１と、スロットルユニット２０２（加速ユニットとも呼ばれる）と、ブレーキユニット２０３とを含むが、それらに限定されない。ステアリングユニット２０１は、車両の方向又は進行方向を調整するために用いられる。スロットルユニット２０２は、モータ又はエンジンの速度を制御して、さらにモータ又はエンジンの速度が車両の速度及び加速度を制御するために用いられる。ブレーキユニット２０３は、車両の車輪又はタイヤを減速させる摩擦を与えることによって車両を減速させる。なお、図２に示される構成要素は、ハードウェア、ソフトウェア、又はそれらの組み合わせで実装されてもよい。
【００２９】
図１に戻って、無線通信システム１１２は、自動運転車両１０１と、デバイス、センサ、他の車両などの外部システムとの間の通信を可能にする。例えば、無線通信システム１１２は、１つ又は複数のデバイスと直接無線通信するか、又は通信ネットワークを介して無線通信し、例えばネットワーク１０２を介してサーバ１０３〜１０４と通信することができる。無線通信システム１１２は、ＷｉＦｉ（登録商標）などの任意のセルラー通信ネットワーク又は無線ローカルエリアネットワーク（ＷＬＡＮ）を用いて、他の構成要素又はシステムと通信することができる。無線通信システム１１２は、例えば、赤外線リンク、ブルートゥース（登録商標）などを用いて、デバイス（例えば、乗員の携帯装置、表示装置、車両１０１内のスピーカ）と直接通信することができる。ユーザインタフェースシステム１１３は、例えばキーボード、タッチスクリーン表示装置、マイクロホン及びスピーカなどを含む、車両１０１内に実装される周辺装置の一部であってもよい。
【００３０】
自動運転車両１０１の機能の一部又は全部は、特に自動運転モードで動作された場合に、感知・計画システム１１０によって制御又は管理されてもよい。感知・計画システム１１０は、センサシステム１１５、制御システム１１１、無線通信システム１１２及び／又はユーザインターフェースシステム１１３から情報を受信し、受信された情報を処理し、出発地から目的地までのルート又は経路を計画し、次いで計画及び制御情報に基づいて車両１０１を運転するために、必要なハードウェア（例えば、プロセッサ、メモリ、記憶デバイス）及びソフトウェア（例えば、オペレーティングシステム、計画及びルーティングプログラム）を備える。あるいは、感知・計画システム１１０は、車両制御システム１１１と一体化されてもよい。
【００３１】
例えば、乗員としてのユーザは、ユーザインタフェースを介して旅程の出発位置及び目的地を指定することができる。感知・計画システム１１０は旅程関連データを取得する。例えば、感知・計画システム１１０は、サーバ１０３〜１０４の一部であってもよいＭＰＯＩサーバから位置及びルート情報を取得することができる。位置サーバは、位置サービスを提供し、ＭＰＯＩサーバは、地図サービス及びある位置のＰＯＩを提供する。あるいは、そのような位置及びＭＰＯＩ情報は、感知・計画システム１１０の永続性記憶装置にローカルにキャッシュされてもよい。
【００３２】
自動運転車両１０１がルートに沿って走行している間に、感知・計画システム１１０は、交通情報システム又はサーバ（ＴＩＳ）からリアルタイム交通情報を取得することができる。なお、サーバ１０３〜１０４は、第三者機関によって操作されてもよい。あるいは、サーバ１０３〜１０４の機能は、感知・計画システム１１０と一体化されてもよい。リアルタイム交通情報、ＭＰＯＩ情報、位置情報及びセンサシステム１１５によって検出又は感知されたリアルタイムなローカル環境データ（例えば、障害物、オブジェクト、付近の車両）に基づいて、感知・計画システム１１０は、安全で効率的に指定された目的地に到達するように、最適なルートを計画し、かつ計画されたルートにより例えば制御システム１１１を介して車両１０１を運転することができる。
【００３３】
サーバ１０３は、様々なクライアントにデータ解析サービスを実行するためのデータ解析システムであってもよい。一実施形態において、データ解析システム１０３は、データコレクタ１２１と、機械学習エンジン１２２とを備える。データコレクタ１２１は、自動運転車両又は人間運転手によって運転される一般車両などの様々な車両から運転統計データ１２３を収集する。運転統計データ１２３は、異なる時点で車両のセンサにより取得された、発行された運転コマンド（例えば、スロットルコマンド、ブレーキコマンド及びステアリングコマンド）、並びに車両の応答（例えば、速度、加速、減速、方向）を表す情報を含む。運転統計データ１２３は、例えば、始点位置及び目的地の位置を含むルート、ＭＰＯＩ、道路状況、気象状況などのような、異なる時点における運転環境を記述する情報をさらに含むことができる。
【００３４】
機械学習エンジン１２２は、運転統計データ１２３に基づいて、様々な目的のためのルールセット、アルゴリズム及び／又は予測モデル１２４を生成又はトレーニングする。例えば、初期係数又はパラメータを有する１組の５次多項式関数を選択して定義することができる。なお、運転統計データ１２３から取得することができるセンサ仕様及び特定の車両設計などのハードウェア特性に基づいて、１組の制約を定義することができる。次に、アルゴリズム１２４を自動運転中にリアルタイムで使用するためにＡＤＶにアップロードすることができる。
【００３５】
図３Ａ及び図３Ｂは、一実施形態に係る自動運転車両と一緒に用いられる感知・計画システムの一例を示すブロック図である。システム３００は、感知・計画システム１１０、制御システム１１１及びセンサシステム１１５を含むが、これらに限定されなく、図１の自動運転車両１０１の一部として実施されてもよい。図３Ａ〜図３Ｂを参照し、感知・計画システム１１０は、測位モジュール３０１と、感知モジュール３０２と、予測モジュール３０３と、決定モジュール３０４と、計画モジュール３０５と、制御モジュール３０６と、ルーティングモジュール３０７とを含むが、それらに限定されない。
【００３６】
モジュール３０１〜３０７の一部又はすべては、ソフトウェア、ハードウェア、又はそれらの組み合わせによって実装されてもよい。例えば、これらのモジュールは、永続性記憶装置３５２にインストールされ、メモリ３５１にロードされ、１つ又は複数のプロセッサ（図示せず）によって実行されていてもよい。なお、これらのモジュールの一部又はすべては、図２に示す車両制御システム１１１におけるモジュールの一部又はすべてに通信可能に接続されるか、又は一体に統合されていてもよい。モジュール３０１〜３０７の一部は、集積モジュールとして一体化されていてもよい。
【００３７】
測位モジュール３０１は、自動運転車両３００の現在位置（例えば、ＧＰＳユニット２１２を利用し）を確定して、ユーザの旅程又はルートに関するあらゆるデータを管理する。測位モジュール３０１（地図・ルートモジュールとも呼ばれる）は、ユーザの旅程又はルートに関するあらゆるデータを管理する。ユーザは、例えばユーザインターフェースを介してログインして旅程の開始位置及び目的地を指定することができる。測位モジュール３０１は、旅程に関するデータを取得するために、自動運転車両３００の地図・ルート情報（又はデータ）３１１などの他の構成要素と通信する。例えば、測位モジュール３０１は、位置サーバと、地図・ポイントオブインタレスト（ＭＰＯＩ）サーバから位置及びルート情報を取得することができる。位置サーバは、位置サービスを提供し、ＭＰＯＩサーバは、地図サービスとある位置のＰＯＩとを提供し、これらを地図・ルート情報（又はデータ）３１１の一部としてキャッシュされてもよい。自動運転車両３００がルートに沿って走行している間に、測位モジュール３０１は、さらに交通情報システム又はサーバからリアルタイム交通情報を取得することができる。
【００３８】
センサシステム１１５により提供されたセンサデータ、及び測位モジュール３０１により得られた測位情報に基づいて、感知モジュール３０２は周囲環境に対する感知を確定する。感知情報は、一般運転手が運転手によって運転されている車両の周囲で感知するものを表すことができる。感知とは、例えばオブジェクトの形態で、車線構成、信号機信号、他の車両の相対位置、歩行者、建築物、横断歩道又は他の交通関連標識（例えば、止まれ標識、ゆずれ標識）などを含むことができる。車線構成は、例えば、車線の形状（例えば、直線又はカーブ）、車線の幅、道路内の車線数、一方向車線又は二方向車線、合流車線又は分流車線、退出車線など、１つ又は複数の車線を記述する情報を含む。
【００３９】
感知モジュール３０２は、１つ又は複数のカメラによって取り込まれた画像を処理及び解析して、自動運転車両の環境におけるオブジェクト及び／又は特徴を認識するために、コンピュータビジョンシステム又はコンピュータビジョンシステムの機能を含むことができる。前記オブジェクトは、交通信号、道路境界、他の車両、歩行者及び／又は障害物などを含んでいてもよい。コンピュータビジョンシステムは、オブジェクト認識アルゴリズム、ビデオトラッキング、及び他のコンピュータビジョン技術を使用することができる。いくつかの実施形態において、コンピュータビジョンシステムは、環境地図の描画、オブジェクトの追跡、及びオブジェクトの速度の推定などを行うことができる。感知モジュール３０２は、レーダ及び／又はＬＩＤＡＲのような他のセンサによって提供される他のセンサデータに基づいてオブジェクトを検出することもできる。
【００４０】
オブジェクトのそれぞれについて、予測モジュール３０３は、その場合に該オブジェクトがどのように挙動するかを予測する。一組の地図・ルート情報３１１及び交通ルール３１２により、当該時点の運転環境を感知する感知データに基づいて、予測を実行する。例えば、オブジェクトが対向車両であって、現在の運転環境が交差点を含む場合に、予測モジュール３０３は、車両が前方に直進するか、それとも曲がるかを予測する。感知データが、交差点に信号機がないことを示す場合に、予測モジュール３０３は、交差点に進入する前に車両が完全に停止する必要があると予測することが可能である。感知データが、車両が現在左折のみの車線又は右折のみの車線にあることを示す場合に、予測モジュール３０３は、車両がそれぞれ左折又は右折する可能性が高いと予測可能である。
【００４１】
それぞれのオブジェクトについて、決定モジュール３０４は、オブジェクトを如何に扱うかについて決定を行う。例えば、特定のオブジェクト（例えば、交差ルートにおける他の車両）及びオブジェクトを記述するメタデータ（例えば、速度、方向、曲がり角）について、決定モジュール３０４は、前記オブジェクトとどのように出会うか（例えば、追い越し、道譲り、停止、追い抜き）を決定する。決定モジュール３０４は、交通ルールまたは運転ルール３１２などのルールセットに基づいてそのような決定を行うことができ、前記ルールセットは永続性記憶装置３５２に格納されていてもよい。
【００４２】
ルーティングモジュール３０７は、始点から目的地までの１つ以上のルート又は経路を提供するように構成される。ルーティングモジュール３０７は、開始位置から目的地位置までの所与の旅程（例えば、ユーザから受信された）について、地図・ルート情報３１１を取得し、開始位置から目的地位置までのすべての可能なルート又は経路を確定する。ルーティングモジュール３０７は、確定された開始位置から目的地位置までのルートのそれぞれのための基準線を地形図の形態で生成することができる。基準線とは、他の車両、障害物又は交通状況などの他の物体によって何ら干渉されることなく、理想的なルート又は経路を指す。即ち、ＡＤＶは、道路上に他の車両、歩行者又は障害物がない場合に、基準線に精確的に又は密接的に従うべきである。次いで、地形図が決定モジュール３０４及び／又は計画モジュール３０５に提供される。測位モジュール３０１からの交通状況、感知モジュール３０２によって感知される運転環境、及び予測モジュール３０３によって予測される交通状況などの、他のモジュールによって提供される他のデータに基づいて、決定モジュール３０４及び／又は計画モジュール３０５は、全ての可能なルートを検査して最適なルートのうちの１つを選択及び修正する。当該時点における特定の運転環境に応じて、ＡＤＶを制御するための実際の経路又はルートは、ルーティングモジュール３０７によって提供された基準線に近いか、又は異なっていてもよい。
【００４３】
感知されたオブジェクトのそれぞれについての決定に基づいて、計画モジュール３０５は、ルーティングモジュール３０７によって提供された基準線をベースとして、自動運転車両のための経路又はルート、並びに運転パラメータ（例えば、距離、速度、及び／又は曲がり角）を計画する。即ち、所与のオブジェクトについて、決定モジュール３０４は、該オブジェクトに対して何を行うかを決定し、計画モジュール３０５は、どのように行うかを確定する。例えば、所与のオブジェクトについて、決定モジュール３０４は前記オブジェクトを追い抜くか否かを決定することができ、計画モジュール３０５は前記オブジェクトを左側から追い抜くか又は右側から追い抜くかを確定することができる。計画及び制御データは、計画モジュール３０５により生成され、車両３００が次の移動周期（例えば、次のルート／経路区間）にはどのように移動するかを記述する情報を含む。例えば、計画及び制御データは車両３００が３０マイル／時間（ｍｐｈ）の速度で１０メートル走行し、次に２５ｍｐｈの速度で右車線に変更するように指示することができる。
【００４４】
制御モジュール３０６は、計画及び制御データに基づいて、計画及び制御データにより定義されたルート又は経路に応じて適当なコマンド若しくは信号を車両制御システム１１１に送信することにより自動運転車両を制御及び走行させる。前記計画及び制御データは、ルート又は経路に沿って異なる時点で適切な車両構成又は運転パラメータ（例えば、スロットル、ブレーキ及びステアリングコマンド）を使用して車両をルート又は経路の第１点から第２点まで走行させるように、十分な情報を含む。
【００４５】
一実施形態において、計画段階は、例えば、１００ミリ秒（ｍｓ）の時間間隔など、複数の計画サイクル（走行サイクルとも呼ばれる）で実行される。計画サイクル又は走行サイクルのそれぞれについて、計画データ及び制御データに基づいて１つ又は複数の制御コマンドを発する。即ち、１００ｍｓごとに、計画モジュール３０５は、次のルートセグメント又は経路区間（例えば、目標位置及びＡＤＶが目標位置に到着するのに必要な時間が含まれる）を計画する。あるいは、計画モジュール３０５は、具体的な速度、方向及び／又は操舵角などを更に指定することができる。一実施形態において、計画モジュール３０５は、次の所定期間（例えば、５秒）のルートセグメント又は経路区間を計画する。計画サイクルのそれぞれについて、計画モジュール３０５は、前のサイクルで計画された目標位置に基づいて、現在のサイクル（例えば、次の５秒）のための目標位置を計画する。次に、制御モジュール３０６は、現在のサイクルの計画データ及び制御データに基づいて、１つ又は複数の制御コマンド（例えば、スロットル、ブレーキ、ステアリング制御コマンド）を生成する。
【００４６】
なお、決定モジュール３０４及び計画モジュール３０５は、集積モジュールとして一体化されてもよい。決定モジュール３０４／計画モジュール３０５は、自動運転車両の運転経路を確定するために、ナビゲーションシステム又はナビゲーションシステムの機能を含んでいてもよい。例えば、ナビゲーションシステムは、自動運転車両の以下の経路に沿った走行を達成するための一連の速度及び進行方向を確定することができる。前記経路では、自動運転車両が最終的な目的地に通じる走行車線ベースの経路に沿って前進するとともに、感知された障害物を実質的に回避できる。目的地は、ユーザインターフェースシステム１１３により行われるユーザ入力に従って設定されてもよい。ナビゲーションシステムは、自動運転車両が走行している間に、運転経路を動的に更新することができる。ナビゲーションシステムは、自動運転車両のための運転経路を確定するために、ＧＰＳシステム及び１つ又は複数の地図からのデータを統合することができる。
【００４７】
なお、以上に例示及び記述された構成要素の一部又は全部は、ソフトウェア、ハードウェア又はそれらの組み合わせで実施されてもよい。例えば、このような構成要素は、永続性記憶装置にインストールされるとともに格納されるソフトウェアとして実施されてもよく、前記ソフトウェアは、本開示にわたって記載されたプロセス又は動作を実施するように、プロセッサ（図示せず）を介してメモリにロードして実行されてもよい。あるいは、このような構成要素は、集積回路（例えば、特定用途向け集積回路又はＡＳＩＣ）、デジタル信号プロセッサ（ＤＳＰ）、又はフィールドプログラマブルゲートアレイ（ＦＰＧＡ）のような専用ハードウェアにプログラミング又は埋め込まれた実行可能なコードとして実施されてもよく、前記実行可能なコードは、アプリケーションからの対応するドライバ及び／又はオペレーティングシステムを介してアクセスすることができる。また、このような構成要素は、ソフトウェア構成要素が１つ又は複数の特定の命令によってアクセス可能な命令セットの一部として、プロセッサ又はプロセッサコアにおける特定のハードウェアロジックとして実施されてもよい。
【００４８】
環境特徴表示
図４は、実施形態に係るＡＤＶの運転環境を示すためのシステムが示されている。図４に示すように、予測モジュール３０３は、地理情報システム（ＧＩＳ）ツールを用いて、地図・ルートデータ３１１のモジュールに格納された高精細（ＨＤ）地図４０１から複数の地図レイヤ４０２を抽出することができる。一実施形態において、地図レイヤは、道路車線、交通標識、静的オブジェクト、制限速度、及び一般道路情報などの特定のカテゴリ又はタイプの現実世界の実体を表す点、線、又はエリア（多角形）の特徴のクラスタを含むＧＩＳデータベースであってもよい。
【００４９】
一実施形態において、それぞれの走行サイクルについて、地図レイヤ４０２は、自律ＡＤＶの視野角内でＨＤ地図４０１から抽出されてもよい。視野角は、自律ＡＤＶの進行方向に対応する角度に基づき、視野角の深さが予測モジュール３０３によって予め決定されてもよい。走行中の自律ＡＤＶの進行方向は絶えず変化するため、自律ＡＤＶの走行周期毎に自律ＡＤＶの視野角が異なる可能性がある。したがって、予測モジュール３０３は、自律ＡＤＶの異なる走行サイクルについて地図レイヤ４０２を作成するために、ＨＤ地図４０１の異なる部分から情報を抽出することができる。
【００５０】
地図レイヤ４０２は直列接続され、赤色、緑色及び青色（ＲＧＢ）表示４０３に変換されてもよく、ＲＧＢ表示４０３は、それぞれの独立した画素を定義する赤色成分、緑色成分及び青色成分のｍ×ｎ×３のデータ配列であってもよい。ＲＧＢ表示４０３は、入力データとして畳み込みニューラルネットワーク４０４に提供されてもよい。畳み込み層４０６は、ＲＧＢ表示４０３から複数の特徴４０７を抽出するために使用されてもよい。抽出された特徴のそれぞれは、ＲＧＢ表示４０３のパッチ（ｐａｔｃｈ）であってもよく、バイナリグリッド（例えば、０及び１のバイナリグリッド）によって表されてもよい。例えば、特徴は、ＨＤ地図４０１における一時停止標識を示すバイナリグリッド又は特徴マップであってもよい。
【００５１】
自律ＡＤＶの周囲環境における対象オブジェクトの複数のハンドクラフト特徴４０５は、抽出された特徴４０７と直列接続されてもよい。対象オブジェクトは、特定の走行サイクルの視野角内にあってもよい。ハンドクラフト特徴４０５は、畳み込みニューラルネットワーク４０４によりＲＧＢ画像４０１から自動的に学習する抽出された特徴４０７とは異なり、１つ又は複数のセンサによって取得されたデータに基づいて、様々なアルゴリズムを使用して導出される対象オブジェクトのプロパティである。一実施形態において、対象オブジェクトは、自律ＡＤＶの感知及び予測領域における自動車、自転車又は歩行者であってもよい。
【００５２】
例えば、ハンドクラフト特徴４０５は、対象オブジェクトの位置、車種、幅、長さ及び速度、又は、自律ＡＤＶの所定数（ｎ）の過去走行サイクルにおける対象オブジェクトの挙動予測に関する対象オブジェクトのあらゆる他のプロパティを含むことができる。ハンドクラフト特徴４０５は、自律ＡＤＶのｎ個の走行サイクルにおける対象オブジェクトの平均速度など、これらのプロパティに関する統計データをさらに含むことができる。それぞれのハンドクラフト特徴は、同様に、バイナリグリッドによって表されてもよい。
【００５３】
一実施形態において、特徴とブロック情報とを関連付けるように、ハンドクラフト特徴４０５及び抽出された特徴４０７のそれぞれをラベル付けることができ、該ブロック情報は、特定の走行サイクルに対する自律ＡＤＶの感知及び予測領域におけるどのグリッドサブディビジョンを示す。
【００５４】
対象オブジェクトの予測４１１を生成するために、直列接続された特徴を、畳み込みニューラルネットワーク４０４の１つ又は複数の全結合層４０９に提供することができる。対象オブジェクトの予測挙動のそれぞれは、多クラス予測であってもよい。１つの例示的な予測は、対象オブジェクトが、７０％の左折確率、１０％の右折確率、及び２０％の直進確率を有することであってもよい。
【００５５】
一実施形態では、自律ＡＤＶの１つ又は複数の走行サイクル、又は特定の道路区間における自律ＡＤＶの全行程に対して、対象オブジェクトの挙動を予測する際にハンドクラフト特徴が使用されない場合、畳み込みニューラルネットワーク４０４のオンライン推論を促進するために、抽出された特徴４０７を予めに計算してキャッシュすることができる。
【００５６】
図５は、実施形態に係るＡＤＶの運転環境を示すためのシステムがさらに示されている。図５を参照して、地図レイヤ５０２は、自律ＡＤＶにおける予測モジュールによって、自律ＡＤＶの視野角内で高精細地図から抽出されてもよい。角度は、自律ＡＤＶの進行方向であってもよい。地図レイヤー５０２はテンソルを用いて実現されてもよく、車線特徴レイヤ５０３、交通標識レイヤ５０５、静的オブジェクトレイヤ５０７及び一般道路情報レイヤ５０９を含むことができる。予測するために構成された自律ＡＤＶの予測対象である対象オブジェクトの挙動に応じて、他のレイヤもＨＤ地図から抽出されてもよい。
【００５７】
地図レイヤ５０２は、３次元アレイであり得る画像類似ＲＧＢ表示５１０に変換されてもよい。自律ＡＤＶの予測モジュールには、ＲＧＢ表示５１０から特徴を抽出するために、トレーニングされた畳み込みニューラルネットワーク５１１が設けられてもよい。抽出された特徴５１３のそれぞれは、ＲＧＢ表示５１０のパッチを表すことができる。
【００５８】
抽出された特徴５１３は、自律ＡＤＶの所定数の過去走行サイクルのハンドクラフト特徴５１５と直列接続されてもよい。ハンドクラフト特徴５１５は、対象オブジェクトの予測に関する対象オブジェクトの複数のプロパティを含むことができ、例えば、ハンドクラフト特徴は、緯度５１６、経度５１７、長さ５１８、幅５１９、及びタイプ５２０を含むことができる。自律ＡＤＶによって予測される必要がある対象オブジェクトの挙動のタイプに応じて、他のハンドクラフト特徴を使用することもできる。
【００５９】
直列接続された特徴を、対象オブジェクトの挙動の予測５２５を生成することができる複数のＦＣ層５２１、５２３に提供することができる。以上のプロセスを走行サイクル毎に繰り返すことができる。
【００６０】
図６は、実施形態に係るＡＤＶの運転環境を示す例示的なプロセスを示すフローチャートである。
【００６１】
プロセス６００は、ソフトウェア、ハードウェア、又はそれらの組み合わせを含むことができる処理ロジックによって実行されてもよい。プロセス６００は、ハードウェア（例えば、回路、専用ロジック、プログラマブルロジック、プロセッサ、処理デバイス、中央処理装置（ＣＰＵ）、システムオンチップ（ＳｏＣ）等）、ソフトウェア（例えば、処理デバイスで稼働／実行される命令）、ファームウェア（例えば、マイクロコード）、又はそれらの組み合わせを含むことができる処理ロジックによって実行されてもよい。いくつかの実施形態において、プロセス６００は、図３Ａ及び図３Ｂに示されるような１つ又は複数のモジュールによって実行されてもよい。
【００６２】
図６を参照して、動作６０１において、畳み込みニューラルネットワークを用いて高精細地図から複数の特徴を抽出することができる。高精細地図から特徴を抽出することは、高精細地図から複数のレイヤを抽出することと、複数のレイヤを赤色、緑色及び青色（ＲＧＢ）表示に変換することと、畳み込みネットワークの１つ又は複数の畳み込み層を用いてＲＧＢ表示から複数の特徴を抽出することとを備える。地図レイヤは、車線特徴レイヤ、交通標識レイヤ、静的オブジェクトレイヤ、及び一般地図情報レイヤを含む。全てのレイヤは、同じグリッドサイズを共有し、それぞれのレイヤは、高精細地図における異なる情報から抽出される。
【００６３】
動作６０３において、高精細地図からの抽出された特徴と周囲環境における対象オブジェクトからの複数のハンドクラフト特徴とを直列接続する。ハンドクラフト特徴は、対象オブジェクトのＧＰＳ座標、対象オブジェクトの幅、長さ、車種（例えば、スポーツタイプ多目的車）、車両の速度、又はＡＤＶによって対象オブジェクトの挙動を予測するために使用できる対象オブジェクトのあらゆる他のプロパティ又は特性を含むことができる。対象オブジェクトのハンドクラフト特徴は、ＡＤＶの感知システムによって所定数のＡＤＶの過去走行サイクルにおいて収集される。
【００６４】
動作６０５において、畳み込みニューラルネットワークは、直列接続された特徴を用いて対象オブジェクトの１つ又は複数の挙動を予測する。対象オブジェクトへの予測を生成するために、直列接続された特徴を、畳み込みニューラルネットワークの１つ又は複数の全結合層に提供することができる。対象オブジェクトの挙動予測のそれぞれは、多クラス分類予測であってもよい。さらに、ＡＤＶは、これらの予測を用いて、次の１つ又は複数の走行サイクルにおける進路を計画することができる。
【００６５】
なお、以上に例示及び記述された構成要素の一部又は全部は、ソフトウェア、ハードウェア又はそれらの組み合わせで実施されてもよい。例えば、このような構成要素は、永続性記憶装置にインストールされるとともに格納されるソフトウェアとして実施されてもよく、前記ソフトウェアは、本開示にわたって記載されたプロセス又は動作を実施するように、プロセッサ（図示せず）を介してメモリにロードして実行されてもよい。あるいは、このような構成要素は、集積回路（例えば、特定用途向け集積回路又はＡＳＩＣ）、デジタル信号プロセッサ（ＤＳＰ）、又はフィールドプログラマブルゲートアレイ（ＦＰＧＡ）のような専用ハードウェアにプログラミング又は埋め込まれた実行可能なコードとして実施されてもよく、前記実行可能なコードは、アプリケーションからの対応するドライバ及び／又はオペレーティングシステムを介してアクセスすることができる。また、このような構成要素は、ソフトウェア構成要素が１つ又は複数の特定の命令によってアクセス可能な命令セットの一部として、プロセッサ又はプロセッサコアにおける特定のハードウェアロジックとして実施されてもよい。
【００６６】
図７は、本開示の一実施形態と一緒に使用可能なデータ処理システムの一例を示すブロック図である。例えば、システム１５００は、前記プロセス又は方法のいずれかを実行する上述したデータ処理システムのいずれかを示してもよい。システム１５００は、多数の異なる構成要素を備えてもよい。これらの構成要素は、集積回路（ＩＣ）、集積回路の一部、ディスクリート型電子デバイス、又は回路基板（例えば、コンピュータシステムのマザーボード若しくはアドインカード）に適するその他のモジュールとして実現されることができ、又は、他の形態でコンピュータシステムのシャーシ内に組み込まれる構成要素として実施されてもよい。
【００６７】
さらに注意すべきなのは、システム１５００は、コンピュータシステムの多数の構成要素の高レベルビューを示すことを意図している。しかしながら、いくつかの実施形態においては、付加的構成要素が存在する場合もあることを理解すべきである。また、他の実施形態においては示される構成要素が異なる構成を有してもよい。システム１５００は、デスクトップコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、サーバ、携帯電話、メディアプレヤー、パーソナルデジタルアシスタント（ＰＤＡ）、スマートウォッチ、パーソナルコミュニケーター、ゲーミングデバイス、ネットワークルーター又はハブ、無線アクセスポイント（ＡＰ）又はリピーター、セット・トップボックス、又はそれらの組み合わせを示してもよい。また、単一の機械又はシステムのみが示されたが、「機械」又は「システム」という用語は、本明細書で説明されるいずれか１つ又は複数の方法を実行するための、１つ（又は複数）の命令セットを単独で又は共同で実行する機械又はシステムの任意の組み合わせも含まれることを理解されたい。
【００６８】
一実施形態において、システム１５００は、バス又はインターコネクト１５１０を介して接続される、プロセッサ１５０１と、メモリ１５０３と、デバイス１５０５〜１５０８とを備える。プロセッサ１５０１は、単一のプロセッサコア又は複数のプロセッサコアが含まれる単一のプロセッサ又は複数のプロセッサを示してもよい。プロセッサ１５０１は、マイクロプロセッサ、中央処理装置（ＣＰＵ）などのような、１つ又は複数の汎用プロセッサを示してもよい。より具体的には、プロセッサ１５０１は、複雑命令セットコンピューティング（ＣＩＳＣ）マイクロプロセッサ、縮小命令セットコンピューティング（ＲＩＳＣ）マイクロプロセッサ、超長命令語（ＶＬＩＷ）マイクロプロセッサ、又は他の命令セットを実装するプロセッサ、又は命令セットの組み合わせを実装するプロセッサであってもよい。プロセッサ１５０１は、さらに、特定用途向け集積回路（ＡＳＩＣ）、セルラ又はベースバンドプロセッサ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、デジタル信号プロセッサ（ＤＳＰ）、ネットワークプロセッサ、グラフィックプロセッサ、通信プロセッサ、暗号プロセッサ、コプロセッサ、組込みプロセッサのような１つ又は複数の専用プロセッサ、又は命令処理可能な任意の他のタイプのロジックであってもよい。
【００６９】
プロセッサ１５０１は、超低電圧プロセッサのような低電力マルチコアプロセッサソケットであってもよく、前記システムの様々な構成要素と通信するための主処理ユニット及び中央ハブとして機能していてもよい。このようなプロセッサは、システムオンチップ（ＳｏＣ）として実装されてもよい。プロセッサ１５０１は、本明細書で説明される動作及びステップを実行するための命令を実行するように構成される。システム１５００は、選択可能なグラフィックサブシステム１５０４と通信するグラフィックインターフェースをさらに含んでもよく、グラフィックサブシステム１５０４は、表示コントローラ、グラフィックプロセッサ及び／又は表示装置をさらに備えてもよい。
【００７０】
プロセッサ１５０１は、メモリ１５０３と通信してもよく、メモリ１５０３は、一実施形態において、所定量のシステムメモリを提供するための複数のメモリデバイスによって実装されてもよい。メモリ１５０３は、ランダムアクセスメモリ（ＲＡＭ）、ダイナミックＲＡＭ（ＤＲＡＭ）、シンクロナスＤＲＡＭ（ＳＤＲＡＭ）、スタティックＲＡＭ（ＳＲＡＭ）、又は他のタイプの記憶デバイスのような、１つ又は複数の揮発性記憶（又はメモリ）デバイスを備えてもよい。メモリ１５０３は、プロセッサ１５０１又は他の任意のデバイスにより実行される命令シーケンスを含む情報を格納することができる。例えば、様々なオペレーティングシステム、デバイスドライバ、ファームウェア（例えば、基本入出力システム又はＢＩＯＳ）、及び／又はアプリケーションの実行可能なコード及び／又はデータは、メモリ１５０３にロードされてもよく、プロセッサ１５０１により実行されてもよい。オペレーティングシステムは、ロボットオペレーティングシステム（ＲＯＳ）、Ｍｉｃｒｏｓｏｆｔ（登録商標）社からのＷｉｎｄｏｗｓ（登録商標）オペレーティングシステム、アップル社からのＭａｃＯＳ（登録商標）／ｉＯＳ（登録商標）、Ｇｏｏｇｌｅ（登録商標）社からのＡｎｄｒｏｉｄ（登録商標）、ＬＩＮＵＸ（登録商標）、ＵＮＩＸ（登録商標）、又は他のリアルタイム若しくは組込みオペレーティングシステムのような、任意のタイプのオペレーティングシステムであってもよい。
【００７１】
システム１５００は、更に、ネットワークインターフェースデバイス１５０５、選択可能な入力デバイス１５０６、及び他の選択可能なＩ／Ｏデバイス１５０７を含むデバイス１５０５〜１５０８のようなＩ／Ｏデバイスを備えてもよい。ネットワークインターフェースデバイス１５０５は、無線送受信機及び／又はネットワークインターフェースカード（ＮＩＣ）を備えてもよい。前記無線送受信機は、ＷｉＦｉ送受信機、赤外線送受信機、ブルートゥース送受信機、ＷｉＭａｘ送受信機、無線携帯電話送受信機、衛星送受信機（例えば、全地球測位システム（ＧＰＳ）送受信機）、又は他の無線周波数（ＲＦ）送受信機、又はそれらの組み合わせであってもよい。ＮＩＣは、イーサネット（登録商標）カードであってもよい。
【００７２】
入力デバイス１５０６は、マウス、タッチパッド、タッチスクリーン（表示装置１５０４と一体に統合されてもよい）、ポインターデバイス（例えば、スタイラス）、及び／又はキーボード（例えば、物理キーボード又はタッチスクリーンの一部として表示された仮想キーボード）を備えてもよい。例えば、入力デバイス１５０６は、タッチスクリーンに接続されるタッチスクリーンコントローラを含んでもよい。タッチスクリーン及びタッチスクリーンコントローラは、例えば、様々なタッチ感応技術（コンデンサ、抵抗、赤外線、及び表面弾性波の技術を含むが、それらに限定されない）のいずれか、並びに他の近接センサアレイ、又は、タッチスクリーンと接触する１つ又は複数の点を確定するための他の素子を用いて、それらの接触、移動又は中断を検出することができる。
【００７３】
Ｉ／Ｏデバイス１５０７は音声装置を備えてもよい。音声装置は、音声認識、音声複製、デジタル記録、及び／又は電話機能のような音声サポート機能を促進するために、スピーカ及び／又はマイクロホンを含んでもよい。その他のＩ／Ｏデバイス１５０７は、ユニバーサルシリアルバス（ＵＳＢ）ポート、パラレルポート、シリアルポート、プリンタ、ネットワークインターフェース、バスブリッジ（例えば、ＰＣＩ−ＰＣＩブリッジ）、センサ（例えば、加速度計、ジャイロスコープ、磁力計、光センサ、コンパス、近接センサなどのモーションセンサ）、又はそれらの組み合わせをさらに備えてもよい。デバイス１５０７は、結像処理サブシステム（例えば、カメラ）をさらに備えてもよく、前記結像処理サブシステムは、写真及びビデオ断片の記録のようなカメラ機能を促進するための、電荷結合素子（ＣＣＤ）又は相補型金属酸化物半導体（ＣＭＯＳ）光学センサのような光学センサを備えてもよい。いくつかのセンサは、センサハブ（図示せず）を介してインターコネクト１５１０に接続されてもよく、キーボード又はサーマルセンサのような他のデバイスはシステム１５００の具体的な構成又は設計により、組込みコントローラ（図示せず）により制御されてもよい。
【００７４】
データ、アプリケーション、１つ又は複数のオペレーティングシステムなどの情報の永続的記憶を提供するために、プロセッサ１５０１には、大容量記憶デバイス（図示せず）が接続されてもよい。様々な実施形態において、薄型化と軽量化のシステム設計を可能にしながら、システムの応答能力を向上させるために、このような大容量記憶デバイスは、ソリッドステートデバイス（ＳＳＤ）によって実現されてもよい。しかしながら、他の実施形態において、大容量記憶デバイスは、主にハードディスクドライブ（ＨＤＤ）を使用して実現することができ、より小さい容量のＳＳＤ記憶デバイスをＳＳＤキャッシュとして機能することで、停電イベントの間にコンテキスト状態及び他のそのような情報の不揮発性記憶を可能にし、それによりシステム動作が再開するときに通電を速く実現することができる。また、フラッシュデバイスは、例えば、シリアルペリフェラルインターフェース（ＳＰＩ）を介してプロセッサ１５０１に接続されてもよい。このようなフラッシュデバイスは、前記システムのＢＩＯＳ及び他のファームウェアを含むシステムソフトウェアの不揮発性記憶のために機能することができる。
【００７５】
記憶デバイス１５０８は、本明細書に記載の方法又は機能のいずれか１つ又は複数を具現化する１つ又は複数の命令セット又はソフトウェア（例えば、モジュール、ユニット及び／又はロジック１５２８）が格納されているコンピュータアクセス可能な記憶媒体１５０９（機械可読記憶媒体又はコンピュータ可読媒体とも呼ばれる）を備えてもよい。処理モジュール／ユニット／ロジック１５２８は、計画モジュール３０５、制御モジュール３０６などの前記構成要素のいずれかを示してもよい。処理モジュール／ユニット／ロジック１５２８は、更に、データ処理システム１５００、メモリ１５０３及びプロセッサ１５０１による実行中に、メモリ１５０３内及び／又はプロセッサ１５０１内に完全的に又は少なくとも部分的に存在してもよく、データ処理システム１５００、メモリ１５０３、及びプロセッサ１５０１も機械アクセス可能な記憶媒体を構成する。処理モジュール／ユニット／ロジック１５２８は、更に、ネットワークによってネットワークインターフェースデバイス１５０５を介して送受信されてもよい。
【００７６】
コンピュータ可読記憶媒体１５０９は、以上に説明されたいくつかのソフトウェア機能を永続的に格納するために用いることができる。コンピュータ可読記憶媒体１５０９は、例示的な実施形態において単一の媒体として示されるが、「コンピュータ可読記憶媒体」という用語は、前記１つ又は複数の命令セットが格納される単一の媒体又は複数の媒体（例えば、集中型又は分散型データベース及び／又は関連するキャッシュとサーバ）を含むと解釈されるものとする。「コンピュータ可読記憶媒体」という用語は、更に、命令セットを格納又は符号化可能な任意の媒体を含むと解釈されるものであり、前記命令セットは機械により実行され、本開示のいずれか１つ又は複数の方法を前記機械に実行させるためのものである。したがって、「コンピュータ可読記憶媒体」という用語は、ソリッドステートメモリ、光学媒体及び磁気媒体、又は他の任意の非一時的機械可読媒体を含むが、それらに限定されないと解釈されるものとする。
【００７７】
本明細書に記載の処理モジュール／ユニット／ロジック１５２８、構成要素及び他の特徴は、ディスクリートハードウェア構成要素として実現されてもよく、又はハードウェア構成要素（例えば、ＡＳＩＣＳ、ＦＰＧＡ、ＤＳＰ又は類似のデバイス）の機能に統合されてもよい。さらに、処理モジュール／ユニット／ロジック１５２８は、ハードウェアデバイスにおけるファームウェア又は機能性回路として実現されていてもよい。また、処理モジュール／ユニット／ロジック１５２８は、ハードウェアデバイスとソフトウェア構成要素の任意の組み合わせで実現されてもよい。
【００７８】
なお、システム１５００は、データ処理システムの様々な構成要素を有するものとして示されているが、構成要素を相互接続する任意の特定のアーキテクチャまたは方式を表すことを意図するものではなく、そのような詳細は、本開示の実施形態とは密接な関係がない。また、より少ない構成要素又はより多くの構成要素を有するネットワークコンピュータ、ハンドヘルドコンピュータ、携帯電話、サーバ及び／又は他のデータ処理システムも、本開示の実施形態と共に使用可能であることを理解されたい。
【００７９】
上述した詳細な説明の一部は、コンピュータメモリにおけるデータビットに対する演算のアルゴリズムと記号表現により示された。これらのアルゴリズムの説明及び表現は、データ処理分野における当業者によって使用される、それらの作業実質を所属分野の他の当業者に最も効果的に伝達する方法である。本明細書では、一般的に、アルゴリズムは、所望の結果につながるセルフコンシステントシーケンスと考えられる。これらの動作は、物理量の物理的処置が必要とされるものである。
【００８０】
しかしながら、念頭に置くべきなのは、これらの用語及び類似の用語の全ては、適切な物理量に関連付けられるものであり、且つただこれらの量を標識しやすくするためのものに過ぎない。以上の説明で他に明示的に記載されていない限り、本明細書の全体にわたって理解すべきなのは、用語（例えば、添付された特許請求の範囲に記載のもの）による説明とは、コンピュータシステム、又は類似の電子計算装置の動作及び処理を指し、前記コンピュータシステム又は電子計算装置は、コンピュータシステムのレジスタ及びメモリにおける物理（電子）量として示されたデータを制御するとともに、前記データをコンピュータシステムメモリ又はレジスタ又はこのような他の情報記憶装置、伝送又は表示装置において同様に物理量として示された他のデータに変換する。
【００８１】
本開示の実施形態は、さらに本明細書における動作を実行するための装置に関する。このようなコンピュータプログラムは、非一時的コンピュータ可読媒体に格納される。機械可読媒体は、機械（例えば、コンピュータ）により読み取り可能な形態で情報を格納するための任意の機構を備える。例えば、機械可読（例えば、コンピュータ可読）媒体は、機械（例えば、コンピュータ）可読記憶媒体（例えば、読み出し専用メモリ（「ＲＯＭ」）、ランダムアクセスメモリ（「ＲＡＭ」）、磁気ディスク記憶媒体、光学記憶媒体、フラッシュメモリデバイス）を備える。
【００８２】
上述した図面において説明されたプロセス又は方法は、ハードウェア（例えば、回路、専用ロジックなど）、ソフトウェア（例えば、非一時的コンピュータ可読媒体に具現化されるもの）、又は両方の組み合わせを含む処理ロジックにより実行されてもよい。前記プロセス又は方法は、以上で特定の順序に応じて説明されたが、前記動作の一部が異なる順序で実行されてもよいことを理解されたい。また、いくつかの動作は、順番ではなく並行して実行されてもよい。
【００８３】
本開示の実施形態は、いずれの特定のプログラミング言語を参照することなく記載されている。理解すべきなのは、本明細書に記載の本開示の実施形態の教示を実現するために、様々なプログラミング言語を使用することができる。
【００８４】
本明細書において、本開示の実施形態は、既にその具体的な例示的な実施形態を参照しながら記載された。明らかなように、添付された特許請求の範囲に記載された本開示のより広い趣旨及び範囲を逸脱しない限り、本開示に対して様々な変更を行うことができる。したがって、本明細書及び図面は、限定的な意味でなく、例示的な意味で理解されるべきである。
【手続補正２】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
自動運転車両（ＡＤＶ）の周囲環境を示すためのコンピュータによって実施される方法であって、
畳み込みニューラルネットワークを用いて高精細地図から複数の特徴を抽出するステップと、
抽出された複数の特徴と前記周囲環境における対象オブジェクトの複数のハンドクラフト特徴とを直列接続するステップと、
直列接続された特徴を用いて、前記畳み込みニューラルネットワークにより前記対象オブジェクトの１つ又は複数の挙動を予測するステップと、を備える自動運転車両（ＡＤＶ）の周囲環境を示すためのコンピュータによって実施される方法。
【請求項２】
前記高精細地図から複数の特徴を抽出するステップは、
前記高精細地図から複数のレイヤを抽出することと、
前記複数のレイヤを赤色、緑色及び青色（ＲＧＢ）表示に変換することと、
前記畳み込みニューラルネットワークの１つ又は複数の畳み込み層を用いて前記ＲＧＢ表示から前記複数の特徴を抽出することと、を備える請求項１に記載の方法。
【請求項３】
前記対象オブジェクトのハンドクラフト特徴は、前記ＡＤＶの感知システムによって所定数の過去走行サイクルにおいて収集される請求項１に記載の方法。
【請求項４】
前記ＡＤＶの走行サイクル毎に、抽出、直列接続及び予測を繰り返す請求項１に記載の方法。
【請求項５】
前記高精細地図から抽出された前記複数のレイヤは、同じグリッドサイズセットを共有する請求項１に記載の方法。
【請求項６】
前記畳み込みニューラルネットワークのオンライン推論を促進するために、前記高精細地図の抽出された特徴を予め計算してキャッシュする請求項１に記載の方法。
【請求項７】
前記畳み込みニューラルネットワークは、前記ＡＤＶの視野角内に位置する前記高精細地図の一部から前記複数の特徴を抽出し、前記視野角が前記ＡＤＶの進行方向に対応する請求項１に記載の方法。
【請求項８】
自動運転車両（ＡＤＶ）の周囲環境を示すための指令が格納されている非一時的機械可読媒体であって、前記指令は、プロセッサによって実行されるときに、
畳み込みニューラルネットワークを用いて高精細地図から複数の特徴を抽出するステップと、
抽出された複数の特徴と前記周囲環境における対象オブジェクトの複数のハンドクラフト特徴とを直列接続するステップと、
直列接続された特徴を用いて、前記畳み込みニューラルネットワークにより前記対象オブジェクトの１つ又は複数の挙動を予測するステップと、を備える動作を前記プロセッサに実行させる非一時的機械可読媒体。
【請求項９】
前記高精細地図から複数の特徴を抽出するステップは、
前記高精細地図から複数のレイヤを抽出することと、
前記複数のレイヤを赤色、緑色及び青色（ＲＧＢ）表示に変換することと、
前記畳み込みニューラルネットワークの１つ又は複数の畳み込み層を用いて前記ＲＧＢ表示から前記複数の特徴を抽出することと、を備える請求項８に記載の非一時的機械可読媒体。
【請求項１０】
前記対象オブジェクトのハンドクラフト特徴は、前記ＡＤＶの感知システムによって所定数の過去走行サイクルにおいて収集される請求項８に記載の非一時的機械可読媒体。
【請求項１１】
前記ＡＤＶの走行サイクル毎に、抽出、直列接続及び予測を繰り返す請求項８に記載の非一時的機械可読媒体。
【請求項１２】
前記高精細地図から抽出された前記複数のレイヤは、同じグリッドサイズセットを共有する請求項８に記載の非一時的機械可読媒体。
【請求項１３】
前記畳み込みニューラルネットワークのオンライン推論を促進するために、前記高精細地図の抽出された特徴を予め計算してキャッシュする請求項８に記載の非一時的機械可読媒体。
【請求項１４】
前記畳み込みニューラルネットワークは、前記ＡＤＶの視野角内に位置する前記高精細地図の一部から前記複数の特徴を抽出し、前記視野角が前記ＡＤＶの進行方向に対応する請求項８に記載の非一時的機械可読媒体。
【請求項１５】
プロセッサと、自動運転車両（ＡＤＶ）の周囲環境を示すための命令を格納するために前記プロセッサに接続されるメモリとを備えるデータ処理システムであって、前記命令は、プロセッサによって実行されるときに、
畳み込みニューラルネットワークを用いて高精細地図から複数の特徴を抽出するステップと、
抽出された複数の特徴と前記周囲環境における対象オブジェクトの複数のハンドクラフト特徴とを直列接続するステップと、
直列接続された特徴を用いて、前記畳み込みニューラルネットワークにより前記対象オブジェクトの１つ又は複数の挙動を予測するステップと、を備える動作を前記プロセッサに実行させるデータ処理システム。
【請求項１６】
前記高精細地図から複数の特徴を抽出するステップは、
前記高精細地図から複数のレイヤを抽出することと、
前記複数のレイヤを赤色、緑色及び青色（ＲＧＢ）表示に変換することと、
前記畳み込みニューラルネットワークの１つ又は複数の畳み込み層を用いて前記ＲＧＢ表示から前記複数の特徴を抽出することと、を備える請求項１５に記載のシステム。
【請求項１７】
前記対象オブジェクトのハンドクラフト特徴は、前記ＡＤＶの感知システムによって所定数の過去走行サイクルにおいて収集される請求項１５に記載のシステム。
【請求項１８】
前記ＡＤＶの走行サイクル毎に、抽出、直列接続及び予測を繰り返す請求項１５に記載のシステム。
【請求項１９】
前記高精細地図から抽出された前記複数のレイヤは、同じグリッドサイズセットを共有する請求項１５に記載のシステム。
【請求項２０】
前記畳み込みニューラルネットワークのオンライン推論を促進するために、前記高精細地図の抽出された特徴を予め計算してキャッシュする請求項１５に記載のシステム。
【請求項２１】
前記畳み込みニューラルネットワークは、前記ＡＤＶの視野角内に位置する前記高精細地図の一部から前記複数の特徴を抽出し、前記視野角が前記ＡＤＶの進行方向に対応する請求項１５に記載のシステム。
【請求項２２】
コンピュータプログラムであって、
前記コンピュータプログラムがプロセッサにより実行されると、請求項１〜７のいずれか一項に記載の方法を実現する、コンピュータプログラム。
【外国語明細書】
2020083310000001.pdf
2020083310000002.pdf
2020083310000003.pdf
2020083310000004.pdf