(57)【要約】      （修正有）【課題】機械学習アルゴリズムのトレーニングに用いられるデータのラべリング処理を自動的に行う。【解決手段】自動運転車ＡＤＶが複数の障害物を含む関心区域内に移動する際に、前記ＡＤＶに取り付けられる一つ又は複数のセンサーからセンサーデータを収集する。収集されたセンサーデータを操作して、前記障害物に関する障害物データ、位置データ、並びに前記障害物データ及び前記位置データに対応する複数のタイムスタンプを取得する。タイムスタンプのそれぞれに対し、位置データに基づき、障害物の位置を障害物データ中のタイムスタンプに対応する幾つかにマッピングすることによって、障害物のマッピング情報を生成する。マッピング情報に対して自動的にラベリングすることによって、ラベル付きデータを生成し、ラベル付きデータは、後に、ＡＤＶの自動運転期間において障害物を識別するために機械学習アルゴリズムのトレーニングに用いられる。【選択図】図７
2019182412.tif 000002
【特許請求の範囲】
【請求項１】
ラベル付きデータを自動的に生成するコンピュータ実施方法であって、
自動運転車が複数の障害物を含む関心区域内に移動する際に、前記自動運転車に取り付けられる一つ又は複数のセンサーからセンサーデータを収集することと、
収集されたセンサーデータを操作して、前記障害物に関する障害物データ、位置データ、並びに前記障害物データ及び前記位置データに対応する複数のタイムスタンプを取得することと、
前記タイムスタンプのそれぞれに対し、前記位置データに基づき、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングすることによって、前記障害物のマッピング情報を生成することと、
前記マッピング情報に対して自動的にラベリングすることによって、ラベル付きデータを生成し、前記ラベル付きデータは、後に、自動運転車の自動運転期間において障害物を識別するために機械学習アルゴリズムをトレーニングすることに用いられるものであることと、を含むコンピュータ実施方法。
【請求項２】
前記自動運転車が前記関心区域内に移動する際に、前記自動運転車に取り付けられる一つ又は複数のセンサーから前記センサーデータを収集する前に、前記自動運転車の初期位置から前記関心区域及び前記複数の障害物をプレマーキングすることによって、プレマーキング付きデータを生成することを更に含み、
前記プレマーキング付きデータに基づき、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングする、請求項１に記載の方法。
【請求項３】
前記障害物の位置を、前記障害物データにおける、前記タイムスタンプに対応する幾つかにマッピングする前に、前記複数のタイムスタンプと前記障害物の位置の整列を行うこと、を更に含む請求項１に記載の方法。
【請求項４】
前記障害物データは、前記タイムスタンプに含まれる異なる時点で取得された光検出と測距のデータを含む請求項１に記載の方法。
【請求項５】
前記位置データは、前記異なる時点で取得された前記障害物の位置を含む請求項４に記載の方法。
【請求項６】
前記位置データを、慣性計測ユニット又はグローバルポジショニングシステムから取得する請求項５に記載の方法。
【請求項７】
前記プレマーキング付きデータは、前記関心区域の境界情報及び前記関心区域内の前記複数の障害物の初期位置及び境界情報を含む請求項２に記載の方法。
【請求項８】
命令が記憶されている非一時性機器可読メディアであって、
前記命令がプロセッサーにより実行される場合に、
自動運転車が複数の障害物を含む関心区域内に移動する際に、前記自動運転車に取り付けられる一つ又は複数のセンサーからセンサーデータを収集することと、
収集されたセンサーデータを操作して、前記障害物に関する障害物データ、位置データ、並びに前記障害物データ及び前記位置データに対応する複数のタイムスタンプを取得することと、
前記タイムスタンプのそれぞれに対し、前記位置データに基づき、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングすることによって、前記障害物のマッピング情報を生成することと、
前記マッピング情報に対して自動的にラベリングすることによって、ラベル付きデータを生成し、前記ラベル付きデータは、後に、自動運転車の自動運転期間において障害物を識別するために機械学習アルゴリズムをトレーニングすることに用いられるものであることと、
を含む操作を、前記プロセッサーに実行させる非一時性機器可読メディア。
【請求項９】
前記操作は、前記自動運転車が前記関心区域内に移動する際に、前記自動運転車に取り付けられる一つ又は複数のセンサーから前記センサーデータを収集する前に、前記自動運転車の初期位置から前記関心区域及び前記複数の障害物をプレマーキング付きすることによって、プレマーキング付きデータを生成することと、
前記プレマーキング付きデータに基づき、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングすることと、
を更に含む請求項８に記載の非一時性機器可読メディア。
【請求項１０】
前記操作は、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングする前に、前記複数のタイムスタンプと前記障害物の位置の整列を行うことを更に含む、請求項８に記載の非一時性機器可読メディア。
【請求項１１】
前記障害物データは、前記タイムスタンプに含まれる異なる時点で取得された光検出と測距のデータを含む請求項８に記載の非一時性機器可読メディア。
【請求項１２】
前記位置データは、前記異なる時点で取得された前記障害物の位置を含む請求項１１に記載の非一時性機器可読メディア。
【請求項１３】
前記位置データを、慣性感知装置又はグローバルポジショニングシステムから取得する請求項１２に記載の非一時性機器可読メディア。
【請求項１４】
前記プレマーキング付きデータは、前記関心区域の境界情報及び前記関心区域内の前記複数の障害物の初期位置及び境界情報を含む請求項９に記載の非一時性機器可読メディア。
【請求項１５】
データ処理システムであって、
プロセッサーと、
前記プロセッサーに接続して命令を記憶するメモリとを含み、
前記命令が前記プロセッサーにより実行される場合、
自動運転車が複数の障害物を含む関心区域内に移動する際に、前記自動運転車に取り付けられる一つ又は複数のセンサーからセンサーデータを収集することと、
収集されたセンサーデータを操作することによって、前記障害物に関する障害物データ、位置データ、並びに前記障害物データ及び前記位置データに対応する複数のタイムスタンプを取得することと、
前記タイムスタンプのそれぞれに対し、前記位置データに基づき、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングすることによって、前記障害物のマッピング情報を生成することと、
前記マッピング情報に対して自動的にラベリングすることによって、ラベル付きデータを生成し、前記ラベル付きデータは、後に、自動運転車の自動運転期間において障害物を識別するために機械学習アルゴリズムをトレーニングすることに用いられるものであることと、
を含む操作を前記プロセッサーに実行させるデータ処理システム。
【請求項１６】
前記操作は、前記自動運転車が前記関心区域内に移動する際に、前記自動運転車に取り付けられる一つ又は複数のセンサーから前記センサーデータを収集する前に、前記自動運転車の初期位置から前記関心区域及び前記複数の障害物をプレマーキング付きすることによって、プレマーキング付きデータを生成することと、
前記プレマーキング付きデータに基づき、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングすることとを更に含む請求項１５に記載のデータ処理システム。
【請求項１７】
前記操作は、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングする前に、前記複数のタイムスタンプと前記障害物の位置の整列を行うことを更に含む請求項１５に記載のデータ処理システム。
【請求項１８】
前記障害物データは、前記タイムスタンプに含まれる異なる時点で取得された光検出と測距のデータを含む請求項１５に記載のデータ処理システム。
【請求項１９】
前記位置データは、前記異なる時点で取得された前記障害物の位置を含む請求項１８に記載のデータ処理システム。
【請求項２０】
前記位置データを、慣性感知装置又はグローバルポジショニングシステムから取得する請求項１９に記載のデータ処理システム。
【請求項２１】
前記プレマーキング付きデータは、前記関心区域の境界情報及び前記関心区域内の前記複数の障害物の初期位置及び境界情報を含む請求項１６に記載のデータ処理システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明の実施形態は、主に自動運転車の操作に関する。具体的には、自動運転車に用いられる自動データラベリングに関する。
【背景技術】
【０００２】
自動運転モード（例えば、ドライバーレス）で走行している車両は、乗員、特に人間の運転手をいくつかの運転に関する役割から解放できる。自動運転モードで走行しているとき、車両は、車載センサを使用して様々な位置までにナビゲートされることが可能であり、最小限のヒューマンコンピュータインタラクションや乗客がいないなどの状況で走行することが可能となった。
【０００３】
運動計画・制御は、自動運転における重要な動作となる。しかしながら、従来の運動計画作業は、異なる種類の車両の特徴の違いを考慮せずに、主にその曲率及び速度に基づいて所与の経路を完成する難しさを推定する。いくつかの運動計画・制御は、すべてのタイプの車両に適用され、場合によっては、精度が低く平滑ではない可能性がある。
【発明の概要】
【発明が解決しようとする課題】
【０００４】
また、運動計画及び制御の操作には、通常周辺の障害物又はオブジェクトを感知する必要がある。より具体的には、障害物の識別、追跡及び／又は分類には、機械学習に基づく感知モジュールに用いられるデータをトレーニングしてテストするために、データ（例えば、センサーデータ）に対してラベリングをする必要がある。従来では、データのラベリングは、人間により実行される。しかしながら、現在の機械学習モデル／アルゴリズム（例えば、ディープニューロネットワークのようなディープラーニングアーキテクチャ）は、数千万のオーダーの大量のパラメータを含むので、人間によるデータラベリングは、（実行できないことではない場合に）大量の人力を必要とし、コストが高くなり、適宜な時間内において実行することができない。
【課題を解決するための手段】
【０００５】
【０００６】
【０００７】
【図面の簡単な説明】
【０００８】
本発明の実施形態は、図面の各図において限定的ではなく例示的な形態で示され、図面における同じ図面符号が類似した素子を示す。
【０００９】
【図１】一実施形態に係るネットワークシステムを示すブロック図である。
【００１０】
【図２】一実施形態に係る自動運転車両の一例を示すブロック図である。
【００１１】
【図３Ａ】一実施形態に係る自動運転車両と共に使用される感知・計画システムの一例を示すブロック図である。
【図３Ｂ】一実施形態に係る自動運転車両と共に使用される感知・計画システムの一例を示すブロック図である。
【００１２】
【図４】一実施形態に係る、自動データラベリングに用いられるシステムを示す図である。
【００１３】
【図５】一実施形態に係る、対応するタイムスタンプを有する障害物のマッピング情報の例示を示す図である。
【００１４】
【図６】一実施形態に係る、複数の障害物を含む関心区域において自動運転車を操作することを示す図である。
【００１５】
【図７】一実施形態に係る、ラベル付きデータを自動的に生成するための方法のフローチャート図である。
【００１６】
【図８】一実施形態に係る、データ処理システムを示すブロック図である。
【発明を実施するための形態】
【００１７】
以下、説明の詳細を参照しながら本発明の様々な実施形態及び態様を説明し、前記様々な実施形態が図面に示される。以下の説明及び図面は、本発明を例示するためのものであり、限定するものとして解釈されるべきではない。本発明の様々な実施形態を全面的に理解するために、多くの特定の詳細を説明する。なお、本発明の実施形態を簡潔的に説明するように、周知又は従来技術の詳細について説明していない場合もある。
【００１８】
本明細書において、「一実施形態」又は「実施形態」とは、当該実施形態に基づいて説明された特定の特徴、構造又は特性が本発明の少なくとも一実施形態に含まれてもよいと意味する。「一実施形態では」という表現は、本明細書の全体において全てが同一の実施形態を指すとは限らない。
【００１９】
幾つかの実施形態によれば、自動運転車に取り付けられているレーダー及び／又は光検出と測距（ＬＩＤＡＲ）のような一つ又は複数のセンサーからラベル付きデータを自動的に生成するために、関心区域（ＲＯＩ）を選択する。ＲＯＩを選択する時、ＲＯＩの境界（例えば、ｘとｙの座標）を測定して記録する。一実施形態においては、障害物又はオブジェクトは、番号が付けられ、ＲＯＩの内に置かれる。自動運転車に取り付けられた感知モジュールの要求に基づいて障害物を選択する。例えば、一実施形態においては、障害物は、その他の車両（例えば、通常の車両又は他の自動運転車）、交通標識モデル及び／又は仮想人体モデルを含む。一実施形態においては、自動運転車は、ＲＯＩ内（又は、ＲＯＩに接近するところ）において動作する。車両はＲＯＩ内（又は、ＲＯＩに接近する場所）において走行する時、自動運転車に取り付けられるセンサーからセンサーデータ（例えば、ＬＩＤＡＲデータ）を収集する。収集されたデータを処理して、収集されたデータの対応するタイムスタンプを取得し整列し、それぞれのタイムスタンプは、その相応するセンサーデータを収集する時の現在時刻を有する。それぞれのタイムスタンプに対し、相応するセンサーデータを整列し、例えば、慣性計測装置（ＩＭＵ）及び／又はグローバル・ポジショニング・システム（ＧＰＳ）及び障害物のプレマーキング付き位置（及び／又は境界）の位置データに基づき、障害物の位置（及び／又は境界）を、相応するセンサーデータ（例えば、ＬＩＤＡＲデータ）にマッピングする。そして、プレマーキング付きデータに対してラベリングすることによって、ラベル付きデータを生成する。このようにして、低コストで（人力が削減され、又は必要とされず）、毎日数百万のオーダーの量のラベル付きデータを自動的に生成することができる。
【００２０】
一実施形態においては、自動運転車（ＡＤＶ）が複数の障害物を含む関心区域（ＲＯＩ）において移動すると同時に、ＡＤＶに取り付けられている一つ又は複数のセンサーからセンサーデータを収集する。収集されたセンサーデータを操作して、障害物に関する障害物データと、位置データと、障害物データ及び位置データに対応する複数のタイムスタンプを取得する。それぞれのタイムスタンプに対しては、障害物の位置を、位置データに基づいて障害物データにおける当該タイムスタンプに対応する幾つかにマッピングすることによって、障害物のマッピング情報を生成する。マッピング情報を自動的にラベリングしてラベル付きデータを生成し、そして、ラベル付きデータを用いて、例えば、ＡＤＶの自動運転期間において障害物を識別するような機械学習アルゴリズムをトレーニングする。
【００２１】
一実施形態においては、ＡＤＶは、ＲＯＩ内において移動すると同時に、ＡＤＶに取り付けられるセンサーからセンサーデータを収集する前に、ＡＤＶの初期位置からＲＯＩ及び障害物をプレマーキングすることによって、プレマーキング付きデータを生成する。一実施形態においては、プレマーキング付きデータに基づいて障害物の位置を障害物データにおけるタイムスタンプに対応する幾つかにマッピングする。
【００２２】
一実施形態においては、障害物の位置を障害物データにおけるタイムスタンプに対応する幾つかにマッピングする前には、タイムスタンプと障害物を整列する。
【００２３】
図１は、本発明の一実施形態に係る自動運転車両のネットワーク構成を示すブロック図である。図１に示すように、ネットワーク構成１００は、ネットワーク１０２を介して１つ以上のサーバ１０３〜１０４に通信可能に接続される自動運転車両１０１を含む。１つの自動運転車両のみが示されているが、複数の自動運転車両が、ネットワーク１０２を介して、互いに接続され、及び／又はサーバ１０３〜１０４に接続されてもよい。ネットワーク１０２は、任意のタイプのネットワーク、例えば、有線又は無線のローカル区域ネットワーク（ＬＡＮ）、インターネットのようなワイド区域ネットワーク（ＷＡＮ）、セルラーネットワーク、衛星ネットワーク又はそれらの組み合わせであってもよい。サーバ１０３〜１０４は、如何なるタイプのサーバ又はサーバクラスタであってもよく、例えば、ネットワーク又はクラウドサーバ、アプリサーバ、バックエンドサーバ又はそれらの組み合わせが挙げられる。サーバ１０３〜１０４は、データ解析サーバ、コンテンツサーバ、交通情報サーバ、地図及び関心地点（ＭＰＯＩ）サーバ、又は位置サーバなどであってもよい。
【００２４】
自動運転車両とは、自動運転モードになるように構成可能な車両を指し、前記自動運転モードにおいて、車両が運転手からの入力がほとんど又は全くない場合に環境を通過するようにナビゲートされる。このような自動運転車両は、車両動作環境に関連する情報を検出するように構成された１つ以上のセンサを有するセンサシステムを含んでもよい。前記車両及びその関連コントローラは、検出された情報を使用して前記環境を通過するようにナビゲートする。自動運転車両１０１は、手動モード、全自動運転モード、又は部分自動運転モードで動作することができる。
【００２５】
一実施形態では、自動運転車両１０１は、感知・計画システム１１０、車両制御システム１１１、無線通信システム１１２、ユーザインターフェースシステム１１３、及びセンサシステム１１５を含むが、それらに限定されない。自動運転車両１０１は更に、エンジン、車輪、ステアリングホイール、変速機などの従来の車両に含まれるいくつかの共通構成要素を含んでもよい。前記構成要素は、車両制御システム１１１及び／又は感知・計画システム１１０によって様々な通信信号及び／又は命令で制御されることができ、これらの様々な通信信号及び／又は命令は、例えば加速信号又は命令、減速信号又は命令、ステアリング信号又は命令、ブレーキ信号又は命令などを含む。
【００２６】
構成要素１１０〜１１５は、インターコネクト、バス、ネットワーク、又はこれらの組み合わせを介して互いに通信可能に接続することができる。例えば、構成要素１１０〜１１５は、コントローラ区域ネットワーク（ＣＡＮ）バスを介して互いに通信可能に接続することができる。ＣＡＮバスは、ホストコンピュータなしのアプリケーションでマイクロコントローラ及びデバイスが相互に通信できるように設計された車両バス規格である。それは、もともと自動車内の多重電気配線のために設計されたメッセージに基づくプロトコルであるが、他の多くの環境にも用いられる。
【００２７】
ここで図２を参照すると、一実施形態では、センサシステム１１５は、１つ以上のカメラ２１１、全地球測位システム（ＧＰＳ）ユニット２１２、慣性計測ユニット（ＩＭＵ）２１３、レーダユニット２１４並びに光検出及び測距（ＬＩＤＡＲ）ユニット２１５を含むが、それらに限定されない。ＧＰＳユニット２１２は、自動運転車両の位置に関する情報を提供するように動作可能な送受信機を含んでもよい。ＩＭＵユニット２１３は、慣性加速度に基づいて自動運転車両の位置及び配向の変化を検知することができる。レーダユニット２１４は、無線信号を利用して自動運転車両のローカル環境内のオブジェクトを検知するシステムを表すことができる。いくつかの実施形態では、オブジェクトを検知することに加えて、レーダユニット２１４は、オブジェクトの速度及び／又は進行方向を更に検知することができる。ＬＩＤＡＲユニット２１５は、レーザを使用して自動運転車両の所在環境内のオブジェクトを検知することができる。ＬＩＤＡＲユニット２１５は、他のシステム構成要素のほかに、１つ以上のレーザ源、レーザスキャナ、及び１つ以上の検出器を更に含むことができる。カメラ２１１は、自動運転車両の周囲の環境における画像を取り込むための１つ以上の装置を含むことができる。カメラ２１１は、スチルカメラ及び／又はビデオカメラであってもよい。カメラは、例えば、回転及び／又は傾斜のプラットフォームにカメラを取り付けることによって、機械的に移動されてもよい。
【００２８】
センサシステム１１５は、ソナーセンサ、赤外線センサ、ステアリングセンサ、スロットルセンサ、ブレーキセンサ、及びオーディオセンサ（例えば、マイクロフォン）などの他のセンサを更に含むことができる。オーディオセンサは、自動運転車両の周囲の環境から音を取得するように構成されてもよい。ステアリングセンサは、ステアリングホイール、車両の車輪、又はそれらの組み合わせの操舵角を検知するように構成されてもよい。スロットルセンサ及びブレーキセンサそれぞれは、車両のスロットル位置及びブレーキ位置を検知する。場合によっては、スロットルセンサとブレーキセンサを統合型スロットル／ブレーキセンサとして一体化することができる。
【００２９】
一実施形態では、車両制御システム１１１は、ステアリングユニット２０１、スロットルユニット２０２（加速ユニットともいう）、及びブレーキユニット２０３を含むが、それらに限定されない。ステアリングユニット２０１は、車両の方向又は進行方向を調整するために用いられる。スロットルユニット２０２は、モータ又はエンジンの速度を制御するために用いられ、モータ又はエンジンの速度によって更に車両の速度及び加速度を制御する。ブレーキユニット２０３は、摩擦を与えることによって車両の車輪又はタイヤを減速させることで、車両を減速させる。なお、図２に示す構成要素は、ハードウェア、ソフトウェア、又はそれらの組み合わせで実現されることができる。
【００３０】
図１を再び参照して、無線通信システム１１２は、自動運転車両１０１と、装置、センサ、他の車両などの外部システムとの間の通信を可能にするものである。例えば、無線通信システム１１２は、直接又は通信ネットワークを介して一つ以上の装置と無線通信することができ、例えば、ネットワーク１０２を介してサーバ１０３〜１０４と通信することができる。無線通信システム１１２は、任意のセルラー通信ネットワーク又は無線ローカル区域ネットワーク（ＷＬＡＮ）を使用することができ、例えば、ＷｉＦｉ（登録商標）を使用して別の構成要素又はシステムと通信することができる。無線通信システム１１２は、例えば、赤外線リンク、ブルートゥース（登録商標）などを使用して、装置（例えば、乗客のモバイルデバイス、表示装置、車両１０１内のスピーカ）と直接通信することができる。ユーザインターフェースシステム１１３は、車両１０１内に実現された周辺装置の部分（例えば、キーボード、タッチスクリーン表示装置、マイクロホン、及びスピーカなどを含む）であってもよい。
【００３１】
特に自動運転モードで動作しているときに、自動運転車両１０１の機能の一部又は全部は、感知・計画システム１１０によって制御又は管理することができる。感知・計画システム１１０は、必要なハードウェア（例えば、プロセッサ、メモリ、記憶装置）及びソフトウェア（例えば、オペレーティングシステム、計画及びルーティングプログラム）を備え、センサシステム１１５、制御システム１１１、無線通信システム１１２、及び／又はユーザインターフェースシステム１１３から情報を受信し、受信した情報を処理し、出発地から目的地までのルート又は経路を計画し、その後、計画・制御情報に基づいて車両１０１を運転する。  あるいは、感知・計画システム１１０を車両制御システム１１１と統合することができる。
【００３２】
例えば、乗客としてのユーザは、例えば、ユーザインターフェースを介して、旅程の出発地位置及び目的地を指定することができる。感知・計画システム１１０は旅程関連データを取得する。例えば、感知・計画システム１１０は、ＭＰＯＩサーバから位置及びルート情報を取得することができ、前記ＭＰＯＩサーバはサーバ１０３〜１０４の一部であってもよい。位置サーバは位置サービスを提供し、ＭＰＯＩサーバは地図サービス及び特定の位置のＰＯＩを提供する。あるいは、そのような位置及びＭＰＯＩ情報は、感知・計画システム１１０の永続的記憶装置にローカルキャッシュされることが可能である。
自動運転車両１０１がルートに沿って移動するとき、感知・計画システム１１０は交通情報システム又はサーバ（ＴＩＳ）からリアルタイム交通情報を取得することもできる。なお、サーバ１０３〜１０４は第三者エンティティによって操作されることが可能である。あるいは、サーバ１０３〜１０４の機能は、感知・計画システム１１０と統合することができる。リアルタイム交通情報、ＭＰＯＩ情報、及び位置情報、並びにセンサシステム１１５によって検出又は検知されたリアルタイムローカル環境データ（例えば、障害物、オブジェクト、周辺車両）に基づいて、感知・計画システム１１０は、指定された目的地までに安全かつ効率的に到着するように、最適なルートを計画し、計画されたルートに従って、例えば、制御システム１１１によって車両１０１を運転する。
【００３３】
図３Ａ及び図３Ｂは、一実施形態に係る自動運転車両と共に使用される感知・計画システムの一例を示すブロック図である。システム３００は、図１の自動運転車両１０１の一部として実現することができ、感知・計画システム１１０、制御システム１１１、及びセンサシステム１１５を含むが、それらに限定されない。図３Ａ〜図３Ｂに示すように、感知・計画システム１１０は、測位モジュール３０１、感知モジュール３０２、予測モジュール３０３、決定モジュール３０４、計画モジュール３０５、制御モジュール３０６、ルーティングモジュール３０７、データコレクタ３０８、特徴抽出モジュール３０９及び機械学習エンジン３１０、位置アラインメント・マッピングモジュール３２１と、データラベリングモジュール３２２と、マーキングモジュール３１３とを含むが、それらに限定されない。
【００３４】
モジュール３０１〜３１３のうちの一部又は全部は、ソフトウェア、ハードウェア又はそれらの組み合わせで実現されてもよい。例えば、これらのモジュールは、永続的記憶装置３５２にインストールされ、メモリ３５１にロードされ、１つ以上のプロセッサ（図示せず）によって実行されることができる。なお、これらのモジュールの一部又は全部は、図２の車両制御システム１１１のモジュールの一部又は全部と通信可能に接続されるか、又は一体化されてもよい。モジュール３０１〜３１３の幾つかは、一体に集積モジュールとして集積されても良い。
【００３５】
測位モジュール３０１は、自動運転車両３００の現在の位置（例えば、ＧＰＳユニット２１２を利用して）を特定し、ユーザの旅程又はルートに関連する如何なるデータを管理する。測位モジュール３０１（地図及びルートモジュールともいう）は、ユーザの旅程又はルートに関連する如何なるデータを管理する。ユーザは、例えば、ユーザインターフェースを介してログインして、旅程の出発地位置及び目的地を指定することができる。測位モジュール３０１は、自動運転車両３００の地図・ルート情報３１１のような他の構成要素と通信して、旅程関連データを取得する。例えば、測位モジュール３０１は、位置サーバ並びに地図及びＰＯＩ（ＭＰＯＩ）サーバから位置及びルート情報を取得することができる。位置サーバは位置サービスを提供し、ＭＰＯＩサーバは、地図サービス及び特定の位置のＰＯＩを提供し、地図・ルート情報３１１の一部としてキャッシュすることができる。自動運転車両３００がルートに沿って移動するとき、測位モジュール３０１は交通情報システム又はサーバからリアルタイム交通情報を得ることもできる。
【００３６】
感知モジュール３０２は、センサシステム１１５により提供されたセンサデータと、測位モジュール３０１により取得された測位情報とに基づいて、周囲環境への感知を特定する。感知情報は、一般的な運転手が運転手により運転されている車両の周囲で感知すべきものを表すことができる。感知は、例えばオブジェクトの形態を採用する車線構成（例えば、直進車線又はカーブ車線）、信号機信号、他の車両の相対位置、歩行者、建築物、横断歩道、又は他の交通関連標識（例えば、止まれ標識、ゆずれ標識）などを含んでもよい。
【００３７】
感知モジュール３０２は、１つ以上のカメラによって取り込まれた画像を処理及び解析して、自動運転車両の環境内のオブジェクト及び／又は特徴を認識するためのコンピュータビジョンシステム又はコンピュータビジョンシステムの機能を含むことができる。前記オブジェクトは、交通信号、道路境界、他の車両、歩行者及び／又は障害物などを含むことができる。コンピュータビジョンシステムは、オブジェクト認識アルゴリズム、ビデオトラッキング、及び他のコンピュータビジョン技術を使用することができる。いくつかの実施形態では、コンピュータビジョンシステムは、環境地図を描き、オブジェクトを追跡し、オブジェクトの速度などを推定することができる。感知モジュール３０２は、レーダ及び／又はＬＩＤＡＲのような他のセンサによって提供される他のセンサデータに基づいてオブジェクトを検出することもできる。
【００３８】
各オブジェクトについて、予測モジュール３０３は、その場合にオブジェクトがどのように挙動するかを予測する。予測とは、地図・ルート情報３１１と交通ルール３１２のセットを考慮して、当該時点における運転環境を感知する感知データに基づいて実行される。例えば、オブジェクトが反対方向の車両であり、かつ現在の運転環境が交差点を含む場合に、予測モジュール３０３は、車両が直進するか、又は旋回するかを予測する。感知データが、交差点に信号機がないことを示す場合、予測モジュール３０３は、交差点に入る前に車両が完全に停止する必要があると予測する可能性がある。感知データが、車両が現在左折専用車線又は右折専用車線にあることを示す場合、予測モジュール３０３は、車両がそれぞれ左折又は右折する可能性がより高いと予測することができる。
【００３９】
それぞれのオブジェクトに対して、決定モジュール３０４はオブジェクトをどのように処理するかを決定する。例えば、特定のオブジェクト（例えば、交差のルートにおける他の車両）及びオブジェクトを記述するメタデータ（例えば、速度、方向、操舵角）について、決定モジュール３０４は前記オブジェクトと遇うときに如何に対応するか（例えば、追い越し、道譲り、停止、追い抜き）を決定する。決定モジュール３０４は、交通ルール又は運転ルール３１２のようなルールセットに基づいてそのような決定を行うことができ、前記ルールセットは永続的記憶装置３５２に記憶することができる。
【００４０】
ルーティングモジュール３０７は、出発地から目的地までの１つ以上のルート又は経路を提供するように構成される。ルーティングモジュール３０７は、出発地位置から目的地位置までの所与の行程（例えば、ユーザから受信された所与の旅程）について、地図・ルート情報３１１を取得し、出発地位置から目的地位置までのすべての可能なルート又は経路を決定する。ルーティングモジュール３０７は、出発地位置から目的地位置までの各ルートを決定する地形図の形の基準線を生成することができる。基準線とは、他の車両、障害物、又は交通状況などからの如何なる干渉を受けていない理想的なルート又は経路を指す。つまり、道路に他の車両、歩行者又は障害物がない場合、ＡＤＶは基準線に精確的に又は密接的に従うべきである。そして、地形図を決定モジュール３０４及び／又は計画モジュール３０５に提供する。決定モジュール３０４及び／又は計画モジュール３０５は、他のモジュールにより提供された他のデータ（例えば測位モジュール３０１からの交通状況、感知モジュール３０２により感知された運転環境及び予測モジュール３０３により予測された交通状況）に応じて、全ての走行可能なルートを検査して最適ルートのうちの一つを選択及び補正する。特定時点における特定の運転環境に応じて、ＡＤＶを制御するための実際の経路又はルートは、ルーティングモジュール３０７によって提供される基準線に近いか又は異なっていてもよい。
【００４１】
感知されたオブジェクトのそれぞれに対する決定に基づいて、計画モジュール３０５は、ルーティングモジュール３０７によって提供される基準線をベースとし、自動運転車両に対して経路又はルート並びに運転パラメータ（例えば、距離、速度及び／又は操舵角）を計画する。言い換えれば、特定のオブジェクトについて、決定モジュール３０４は当該オブジェクトに対して何をするかを決定し、計画モジュール３０５はどのようにするかを決定する。例えば、特定のオブジェクトについて、決定モジュール３０４は前記オブジェクトを追い抜くかを決定することができ、計画モジュール３０５は前記オブジェクトを左側から追い抜くか又は右側から追い抜くかを決定することができる。計画・制御データは、計画モジュール３０５により生成され、車両３００が次の移動周期（例えば、次のルート／経路区間）にはどのように移動するかを記述する情報を含む。例えば、計画・制御データは、車両３００に時速３０マイル（ｍｐｈ）で１０ｍ移動し、次に２５マイル（ｍｐｈ）で右車線に変更するように指示することができる。
【００４２】
制御モジュール３０６は、計画・制御データに基づいて、計画・制御データにより限定されたルート又は経路に応じて適当な命令又は信号を車両制御システム１１１に送信することにより自動運転車両を制御及び運転する。前記計画・制御データは、経路又はルートに沿って異なる時点で適切な車両配置又は運転パラメータ（例えば、スロットル、ブレーキ、及びステアリング命令）を使用して、車両をルート又は経路の第１の点から第２の点まで運転するのに十分な情報を含む。
【００４３】
一実施形態では、計画段階は、例えば、時間間隔が１００ミリ秒（ｍｓ）の周期など、複数の計画周期（命令周期ともいう）で実行される。計画周期又は命令周期のそれぞれについて、計画・制御データに基づいて１つ以上の制御命令を発する。すなわち、１００ｍｓごとに、計画モジュール３０５は、次のルート区間又は経路区間（例えば、目標位置及びＡＤＶが目標位置に到着するのに必要な時間が含まれる）を計画する。あるいは、計画モジュール３０５は、具体的な速度、方向、及び／又は操舵角などを更に指定することができる。一実施形態では、計画モジュール３０５は、次の所定期間（例えば、５秒）のルート区間又は経路区間を計画する。計画周期のそれぞれに対し、計画モジュール３０５は、前の周期で計画された目標位置に基づいて、現在の周期（例えば、次の５秒）のための目標位置を計画する。次に、制御モジュール３０６は、現在の周期の計画・制御データに基づいて、１つ以上の制御命令（例えば、スロットル、ブレーキ、ステアリングの制御命令）を生成する。
【００４４】
なお、決定モジュール３０４及び計画モジュール３０５は、集積モジュールとして一体化されてもよい。決定モジュール３０４／計画モジュール３０５は、自動運転車両の走行経路を決定するためのナビゲーションシステム又はナビゲーションシステムの機能を含んでもよい。例えば、ナビゲーションシステムは、自動運転車両の以下の経路に沿った移動を達成するための一連の速度及び進行方向を決定することができる。前記経路では、自動運転車両が最終的な目的地に通じる走行車線ベースの経路に沿って前進するとともに、感知した障害物を実質的に回避できる。目的地は、ユーザインターフェースシステム１１３を介したユーザ入力に従って設定することができる。ナビゲーションシステムは、自動運転車両が走行している間に走行経路を動的に更新することができる。ナビゲーションシステムは、自動運転車両のための走行経路を決定するために、ＧＰＳシステム及び１つ以上の地図からのデータを取り入れることができる。
【００４５】
決定モジュール３０４／計画モジュール３０５は、更に、自動運転車両の環境における潜在的な障害物を認識、評価、回避又は他の方法で通過するための衝突防止システム又は衝突防止システムの機能を含むことができる。例えば、衝突防止システムは、制御システム１１１の１つ以上のサブシステムを動作させて、方向変更動作、旋回動作、ブレーキ動作などを行うことによって、自動運転車両のナビゲーション中の変更を実現することができる。衝突防止システムは、周囲の交通パターンや道路状況などに基づいて、実行可能な障害物回避動作を自動的に決定することができる。衝突防止システムは、他のセンサシステムが、自動運転車両が方向変更して進入しようとする隣接区域における車両、建築障害物などを検出したときに、方向変更動作を行わないように構成されることができる。衝突防止システムは、自動運転車両の乗員の安全性を最大限にするとともに、利用可能な動作を自動的に選択することができる。衝突防止システムは、自動運転車両の客室内に最も少ない加速度を発生させると予測される回避動作を選択することができる。
【００４６】
また、図４を参照する。図４は、一実施形態に係る、自動データラベリングに用いられるシステムを示す図である。データコレクタ３０８は、自動運転車１０１に取り付けられるセンサーシステム１１５の様々なセンサー（例えば、カメラ２１１、ＧＰＳユニット２１２、ＩＭＵ２１３、レーダーユニット２１４及びＬＩＤＡＲユニット２１５）からセンサーデータを収集することができる。例えば、図６に示すように、自動運転車１０１がＲＯＩ６００内（又は、ＲＯＩ６００に接近するところ）において動作する際に、センサーシステム１１５は、ＲＯＩ６００内の複数の障害物（又は、オブジェクト）６０１〜６０４を検出し、かつ、異なる時点でセンサーデータ（例えば、位置データ、ＬＩＤＡＲデータ等）を生成することができる。自動運転車がＲＯＩ６００内に移動する時に、他のセンサーデータを生成する。例えば、ＲＯＩ６００は、車両がその中で操作可能な任意の区域又は地域であってもよく、例えば、交叉点であてもよい。障害物６０１〜６０４を感知モジュール３０２の要求に基づいてＲＯＩ６００の中に予め置くことができる。障害物６０１〜６０４は、例えば、他の車両（例えば、自動運転車又は通常車両）、歩行者の仮想モデル又は交通関連標識（停止標識、譲れ標識）のモデルであっても良い。図６においては、障害物６０１〜６０４を示しているが、ＲＯＩ内においては、如何なる数の障害物が存在しても良いと理解されるべきである。
【００４７】
図６においては、一つのＲＯＩのみを示しているが、操作においては、自動運転車１０１は、様々なＲＯＩに進入することが可能であり、それぞれのＲＯＩは、区域によって、異って位置決められた異なる数の障害物を有しても良いと理解されるべきである。
【００４８】
図３Ａ〜図３Ｂ及び図４に戻ると、データ処理モジュール３０９は、収集されたセンサーデータに対して処理又は操作を行うことによって、障害物データ１２１、位置データ１２２及びタイムスタンプ１２３を取得する。一実施形態においては、障害物データ１２１、位置データ１２２及びタイムスタンプ１２３は、データ記憶モジュール３１０により永続的記憶装置３５２に記憶されることが可能である。他の一実施形態においては、データ記憶モジュール３１０は、後続の処理に用いられるように、障害物データ１２１、位置データ１２２及びタイムスタンプ１２３が中央サーバー（例えば、サーバー１０３）に記憶されることが可能である。一実施形態においては、障害物データ１２１は、自動運転車１０１が所在する環境（例えば、図６のＲＯＩ６００）において感知された各障害物又は各オブジェクトの情報（例えば、ＬＩＤＡＲデータ及びレーダデータ）を含んでも良い。上述したように、障害物は、例えば、レーダーユニット２１４及び／又はＬＩＤＡＲユニット２１５により感知されることが可能である。一実施形態においては、位置データ１２２は、環境における各障害物の位置情報（例えば、ｘ、ｙ、ｚ座標）及び／又は境界情報（例えば、境界枠情報）を含んでも良い。一実施形態においては、位置データ１２２は、ＧＰＳユニット２１２及び／又はＩＭＵ２１３により提供することができる。一実施形態においては、タイムスタンプ１２３のそれぞれは、何れもセンサーデータ（例えば、障害物データ１２１、位置データ１２２）が収集される時の現在時刻を含んでも良い。例えば、自動運転車１０１が環境において移動すると同時に、特定のタイミングにおいてセンサーデータを収集する際に、タイムスタンプモジュール（図示せず）を呼び出すことで現在時刻を使ってセンサーデータにタイムスタンプを付けることができ、よって、収集されたセンサーデータにおいて様々なタイムスタンプを生成する。一実施形態においては、データ処理モジュール３０９は、収集されたセンサーデータに対して操作を行う時に、タイムスタンプ１２３を同期させるように、タイムスタンプ１２３を整列することができる。
【００４９】
タイムスタンプ１２３のそれぞれに対して、位置アラインメント・マッピングモジュール３２１は、位置データ１２２及びプレマーキング付きデータ１２５に基づいて環境内の各障害物の位置及び／又は境界を整列して障害物データ１２１に（本文の後述において更に詳しく説明したように）マッピングする。例えば、図５に示すように、タイムスタンプ１２３は、例えば、ＴＳ＿１．．．ＴＳ＿Ｎのような複数のタイムスタンプを含んでも良い。それぞれのタイムスタンプ（例えば、ＴＳ＿１、ＴＳ＿２、ＴＳ＿３．．．ＴＳ＿Ｎ）は、障害物データ１２１により提供される、感知された複数の障害物（例えば、障害物１、障害物２．．．．．．障害物Ｍ）に対応付けられることが可能である。そして、感知されたそれぞれの障害物の、位置データ１２２により提供された位置（例えば、Ｐ１、Ｐ２、  Ｐ３．．．．．．ＰＮ）を、障害物に関連付ける障害物データにマッピングすることによって、障害物のマッピング情報を形成する。即ち、タイムスタンプ１２３のそれぞれに対して、環境内において感知された複数の障害物にマッピング情報を生成する。幾つかの実施形態においては、障害物のマッピング情報は、障害物の位置（例えば、点クラウドデータセットのｘ、ｙ、ｚ座標）及び障害物の反射率を含むことができる。
【００５０】
障害物のマッピング情報をデータラベリングモジュール３２２に提供することによって、ラベル付きデータ１２４を自動的に生成する。このように、一実施形態においては、データラベリングモジュール３２２は、特定のタイムスタンプ（例えば、ＴＳ＿１、ＴＳ＿２、ＴＳ＿３．．．ＴＳ＿Ｎ）に対して、それぞれの障害物（例えば、障害物１、障害物２．．．．．．障害物Ｍ）のマッピング情報にラベル（例えば、複数のキャラクター）を追加し又はつけることによって、ラベル付きデータ１２４を生成する。他の一実施形態においては、データラベリングモジュール３２２は、このような特定のタイムスタンプに対して一組の障害物（例えば、障害物１、障害物２．．．．．．障害物Ｍ又はその任意の組み合わせ）のマッピング情報にラベルを自動的に付けることができる。相応的には、ラベル付きデータ１２４は、相応するデータラベルを有する複数の障害物（又は、複数の組の障害物）のマッピング情報を含んでも良い。通常、マッピング情報は、意味のあるラベルを用いてラベリングし、このようなラベルは、キャラクタの任意の組み合わせを有することができるが、これらのラベルは、情報が付けられているので、ラベルは、マッピング情報を十分に表現することができる。幾つかの実施形態においては、ラベル付きデータ１２４は、様々な操作、例えば、機械学習モデル／アルゴリズム（例えば、ディープニューラルネットワーク、畳み込みニューラルネットワーク、ディープ信念ネットワーク及び／又はリカレントニューラルネットワークのような深層学習アーキテクチャ）のトレーニングに用いられることが可能である。一実施形態においては、ラベル付きデータ１２４は、永続的記憶装置３５２に記憶されることが可能であるが、その代わりに、ラベル付きデータ１２４は、後続の処理のために、中央サーバー（例えば、サーバー１０３）に記憶されてもよい。
【００５１】
環境（例えば、図６のＲＯＩ６００）（又は、環境に接近するところ）において自動運転車１０１を運転する前に、一実施形態のマーキングモジュール３１３は、自動運転車１０１の初期位置からＲＯＩ及びＲＯＩ内の障害物をプレマーキングすることが可能である。例えば、後に当該ＲＯＩを選択して自動運転車１０１を操作することができるために、マーキングモジュール３１３は、ＧＰＳユニット２１２及び／又はＩＭＵ２１３の位置データを用いて、ＲＯＩの境界（例えば、ｘ、ｙ座標）を計測して記録することが可能である。一実施形態においては、レーダーユニット２１４からのレーダデータ及び／又はＬＩＤＡＲユニット２１５からのＬＩＤＡＲデータを用いて、マーキングモジュール３１３は、ＲＯＩ内のそれぞれの障害物の初期位置及び境界を計測して記録することができる。相応的には、記録されたＲＯＩの境界及びＲＯＩ内の障害物の初期位置及び／又は境界は、プレマーキング付きデータ１２５として記憶されることが可能である。一実施形態においては、プレマーキング付きデータ１２５は、永続的記憶装置３５２に記憶すされてもよい。他の一実施形態においては、プレマーキング付きデータ１２５は、中央サーバー（例えば、サーバー１０３）に記憶されてもよい。
【００５２】
上述したように、本発明の実施形態は、低コストで（人力は削減され、または必要とされず）、毎日数百万のオーダーの量のラベル付きデータを自動的に生成することができる。なお、モジュール３０８〜３１３は、感知・計画システム１１０において実現されることが示されているが、幾つかの実施形態においては、その代わりに、モジュール３０８〜３１３は、中央サーバー（例えば、サーバー１０３）において実現されることが可能である。
【００５３】
図７は、一実施形態による、ラベル付きデータを自動的に生成するための方法のフローチャート図である。プロセス７００は、処理ロジックにより実行されることが可能であり、前記処理ロジックは、ソフトウェア、ハードウェア又はその組み合わせを含むことができる。例えば、プロセス７００は、図１のサーバー１０３及び／又は感知・計画システム１１０により実行されることが可能である。
【００５４】
図７に示すように、ブロック７０１においては、自動運転車（ＡＤＶ）は、複数の障害物を含む関心区域（ＲＯＩ）において移動すると同時に、処理ロジックは、ＡＤＶに取り付けられた一つ又は複数のセンサーからセンサーデータを収集する。ブロック７０２においては、処理ロジックは、収集されたセンサーデータを操作して、障害物に関する障害物データ、位置データ及び障害物データ及び位置データに対応する複数のタイムスタンプを取得する。ブロック７０３においては、タイムスタンプのそれぞれに対し、処理ロジックは、位置データに基づいて障害物の位置を障害物データにおける、タイムスタンプと対応する幾つかの障害物データにマッピングすることによって、障害物のマッピング情報を生成する。ブロック７０４においては、処理ロジックは、マッピング情報に対して自動的にラベリングすることによって、ラベル付きデータを生成し、なお、ラベル付きデータがその後に、例えば、ＡＤＶの自動運転期間において障害物を識別するというような機械学習アルゴリズムのトレーニングに用いられる。
【００５５】
なお、以上に例示及び説明された構成要素の一部又は全ては、ソフトウェア、ハードウェア、又はそれらの組み合わせで実現されることが可能である。例えば、このような構成要素は、永続的記憶装置にインストールされるとともに記憶されるソフトウェアとして実現されてもよく、前記ソフトウェアは、本発明にわたって記載されたプロセス又は動作を実現するように、プロセッサ（図示せず）によってメモリにロードして実行されてもよい。あるいは、このような構成要素は、集積回路（例えば、特定用途向け集積回路又はＡＳＩＣ）、デジタルシグナルプロセッサ（ＤＳＰ）、又はフィールドプログラマブルゲートアレイ（ＦＰＧＡ）のような専用ハードウェアにプログラミング又は埋め込まれた実行可能なコードとして実現されてもよく、前記実行可能なコードは、アプリケーションからの対応するドライバー及び／又はオペレーティングシステムを介してアクセスすることができる。また、このような構成要素は、ソフトウェア構成要素が一つ以上の特定の命令によってアクセス可能な命令セットの一部として、プロセッサ又はプロセッサコアにおける特定のハードウェアロジックとして実現されることができる。
【００５６】
図８は、本発明の一実施形態と共に使用可能なデータ処理システムの一例を示すブロック図である。例えば、システム１５００は、前記プロセス又は方法のいずれかを実行する前記データ処理システムのいずれか（例えば、図１の感知・計画システム１１０、又はサーバ１０３〜１０４のいずれか）を表すことができる。システム１５００は、いくつかの異なる構成要素を含んでもよい。これらの構成要素は、集積回路（ＩＣ）、集積回路の一部、ディスクリート型電子デバイス、又は回路基板（例えば、コンピュータシステムのマザーボード若しくはアドインカード）に適するその他のモジュールとして実現されることが可能であり、又は、他の形態でコンピュータシステムのシャーシ内に組み込まれる構成要素として実現されることが可能である。
【００５７】
なお、システム１５００は、コンピュータシステムのいくつかの構成要素の高レベルビューを示すことを意図している。しかしながら、特定の実施例において付加的構成要素が存在してもよく、また、その他の実施例において示された構成要素を異なる配置にすることが可能であると理解すべきである。システム１５００は、デスクトップコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、サーバ、携帯電話、メディアプレイヤー、パーソナルデジタルアシスタント（ＰＤＡ）、スマートウォッチ、パーソナルコミュニケーター、ゲーム装置、ネットワークルーター又はハブ、無線アクセスポイント（ＡＰ）又はリピーター、セット・トップボックス、又はそれらの組み合わせを表すことができる。また、単一の機械又はシステムのみが示されたが、「機械」又は「システム」という用語は、本明細書で説明されるいずれか一種以上の方法を実現するための、単独で又は共同で１つ（又は複数）の命令セットを実行する機械又はシステムのいずれかの組み合わせも含まれると解釈されるべきである。
【００５８】
一実施形態では、システム１５００は、バス又はインターコネクト１５１０を介して接続される、プロセッサ１５０１と、メモリ１５０３と、装置１５０５〜１５０８とを含む。プロセッサ１５０１は、単一のプロセッサコア又は複数のプロセッサコアが含まれる単一のプロセッサ又は複数のプロセッサを表すことができる。プロセッサ１５０１は、マイクロプロセッサ、中央処理装置（ＣＰＵ）などのような、一つ以上の汎用プロセッサを表すことができる。より具体的には、プロセッサ１５０１は、複雑命令セットコンピューティング（ＣＩＳＣ）マイクロプロセッサ、縮小命令セットコンピューティング（ＲＩＳＣ）マイクロプロセッサ、超長命令語（ＶＬＩＷ）マイクロプロセッサ、又はその他の命令セットを実行するプロセッサ、又は命令セットの組み合わせを実行するプロセッサであってもよい。プロセッサ１５０１は更に、例えば、特定用途向け集積回路（ＡＳＩＣ）、セルラー又はベースバンドプロセッサ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、デジタルシグナルプロセッサ（ＤＳＰ）、ネットワークプロセッサ、グラフィックプロセッサ、通信プロセッサ、暗号化プロセッサ、コプロセッサ、組込みプロセッサ、又は命令を処理可能な任意の他のタイプのロジックのような、一つ以上の専用プロセッサであってもよい。
【００５９】
プロセッサ１５０１は、超低電圧プロセッサのような低電力マルチコアプロセッサソケットであってもよく、前記システムの様々な構成要素と通信するための主処理ユニット及び中央ハブとして機能することができる。このようなプロセッサは、システムオンチップ（ＳｏＣ）として実現されることができる。プロセッサ１５０１は、本明細書で説明される動作及びステップを実行するための命令を実行するように構成される。システム１５００は、更に所望によるグラフィックサブシステム１５０４と通信するグラフィックインターフェースを含むことができ、グラフィックサブシステム１５０４は、表示コントローラ、グラフィックプロセッサ、及び／又は表示装置を含むことができる。
【００６０】
プロセッサ１５０１は、メモリ１５０３と通信することができ、メモリ１５０３は、一実施形態では、所定量のシステムメモリを提供するための複数のメモリ装置によって実現されることができる。メモリ１５０３は、ランダムアクセスメモリ（ＲＡＭ）、ダイナミックＲＡＭ（ＤＲＡＭ）、シンクロナスＤＲＡＭ（ＳＤＲＡＭ）、スタティックＲＡＭ（ＳＲＡＭ）、又はその他のタイプの記憶装置のような、一つ以上の揮発性記憶（又はメモリ）装置を含むことができる。メモリ１５０３は、プロセッサ１５０１又はその他の任意の装置により実行される命令シーケンスを含む情報を記憶することができる。例えば、様々なオペレーティングシステム、デバイスドライバ、ファームウェア（例えば、ベーシックインプット／アウトプットシステム又はＢＩＯＳ）、及び／又はアプリケーションの実行可能なコード及び／又はデータは、メモリ１５０３にロードされ、プロセッサ１５０１により実行されることができる。オペレーティングシステムは、例えば、ロボットオペレーティングシステム（ＲＯＳ）、Ｍｉｃｒｏｓｏｆｔ（登録商標）社のＷｉｎｄｏｗｓ（登録商標）オペレーティングシステム、アップル社のＭａｃＯＳ（登録商標）／ｉＯＳ（登録商標）、Ｇｏｏｇｌｅ（登録商標）社のＡｎｄｒｏｉｄ（登録商標）、ＬＩＮＵＸ（登録商標）、ＵＮＩＸ（登録商標）、又はその他のリアルタイム若しくは組込みオペレーティングシステムのような、任意のタイプのオペレーティングシステムであってもよい。
【００６１】
システム１５００は、更に、ネットワークインターフェース装置１５０５、所望による入力装置１５０６、及びその他の所望によるＩ／Ｏ装置１５０７を含む装置１５０５〜１５０８のようなＩ／Ｏ装置を含むことができる。ネットワークインターフェース装置１５０５は、無線送受信機及び／又はネットワークインターフェースカード（ＮＩＣ）を含むことができる。前記無線送受信機は、ＷｉＦｉ送受信機、赤外線送受信機、ブルートゥース送受信機、ＷｉＭａｘ送受信機、無線携帯電話送受信機、衛星送受信機（例えば、全地球測位システム（ＧＰＳ）送受信機）、又はその他の無線周波数（ＲＦ）送受信機、又はそれらの組み合わせであってもよい。ＮＩＣは、イーサネット（登録商標）カードであってもよい。
【００６２】
入力装置１５０６は、マウス、タッチパネル、タッチスクリーン（表示装置１５０４と統合されてもよい）、ポインター装置（例えば、スタイラス）、及び／又はキーボード（例えば、物理キーボード又はタッチスクリーンの一部として表示された仮想キーボード）を含むことができる。例えば、入力装置１５０６は、タッチスクリーンと接続するタッチスクリーンコントローラを含むことができる。タッチスクリーン及びタッチスクリーンコントローラは、例えば、様々なタッチ感応技術（コンデンサ、抵抗、赤外線、及び表面弾性波の技術を含むが、それらに限定されない）のいずれか、並びにその他の近接センサアレイ、又は、タッチスクリーンと接触する一つ以上の点を決定するためのその他の素子を用いて、それらの接触及び移動又は間欠を検出することができる。
【００６３】
Ｉ／Ｏ装置１５０７は、音声装置を含むことができる。音声装置は、音声認識、音声複製、デジタル記録、及び／又は電話機能のような音声サポート機能を促進するために、スピーカ及び／又はマイクロフォンを含んでもよい。その他のＩ／Ｏ装置１５０７は、更に、ユニバーサルシリアルバス（ＵＳＢ）ポート、パラレルポート、シリアルポート、プリンタ、ネットワークインターフェース、バスブリッジ（例えば、ＰＣＩ−ＰＣＩブリッジ）、センサ（例えば、加速度計のようなモーションセンサ、ジャイロスコープ、磁力計、光センサ、コンパス、近接センサなど）、又はそれらの組み合わせを含むことができる。装置１５０７は、更に結像処理サブシステム（例えば、カメラ）を含むことができ、前記結像処理サブシステムは、写真及びビデオ断片の記録のようなカメラ機能を促進するための、電荷結合素子（ＣＣＤ）又は相補型金属酸化物半導体（ＣＭＯＳ）光学センサのような光学センサを含むことができる。特定のセンサは、センサハブ（図示せず）を介してインターコネクト１５１０に接続されることができ、キーボード又はサーマルセンサのようなその他の装置はシステム１５００の具体的な配置又は設計により、組込みコントローラ（図示せず）により制御されることができる。
【００６４】
データ、アプリケーション、一つ以上のオペレーティングシステムなどの情報の永続的記憶を提供するために、プロセッサ１５０１には、大容量記憶装置（図示せず）が接続されることができる。様々な実施形態において、より薄くてより軽量なシステム設計を可能にしながら、システムの応答性を向上するために、このような大容量記憶装置は、ソリッドステート装置（ＳＳＤ）によって実現されることができる。しかしながら、その他の実施形態において、大容量記憶装置は、主にハードディスクドライブ（ＨＤＤ）を使用して実現することができ、より小さい容量のＳＳＤ記憶装置をＳＳＤキャッシュとして機能することで、停電イベントの間にコンテキスト状態及び他のそのような情報の不揮発性記憶を可能にし、それによりシステム動作が再開するときに通電を速く実現することができる。また、フラッシュデバイスは、例えば、シリアルペリフェラルインターフェース（ＳＰＩ）を介してプロセッサ１５０１に接続されることができる。このようなフラッシュデバイスは、前記システムのＢＩＯＳ及びその他のファームウェアを含むシステムソフトウェアの不揮発性記憶のために機能することができる。
【００６５】
記憶装置１５０８は、コンピュータアクセス可能な記憶媒体１５０９（機械可読記憶媒体又はコンピュータ可読記憶媒体ともいう）を含むことができ、前記コンピュータアクセス可能な記憶媒体１５０９には、本明細書で記載されたいずれか一種以上の方法又は機能を具現化する一つ以上の命令セット又はソフトウェア（例えば、モジュール、ユニット、及び／又はロジック１５２８）が記憶されている。処理モジュール／ユニット／ロジック１５２８は、例えば、計画モジュール３０５、制御モジュール３０６、データコレクタ３０８、特徴抽出モジュール３０９及び機械学習エンジン３１０、位置アラインメント・マッピングモジュール３２１、データラベリングモジュール３２２、マーキングモジュール３１３のような、前記構成要素のいずれかを表すことができる。処理モジュール／ユニット／ロジック１５２８は、更に、データ処理システム１５００、メモリ１５０３、及びプロセッサ１５０１による実行中に、メモリ１５０３内及び／又はプロセッサ１５０１内に完全的に又は少なくとも部分的に存在してもよく、データ処理システム１５００、メモリ１５０３、及びプロセッサ１５０１も機械アクセス可能な記憶媒体を構成する。処理モジュール／ユニット／ロジック１５２８は、更に、ネットワークによってネットワークインターフェース装置１５０５を経由して送受信されてもよい。
【００６６】
コンピュータ可読記憶媒体１５０９は、以上に説明されたいくつかのソフトウェア機能を永続的に記憶するために用いることができる。コンピュータ可読記憶媒体１５０９は、例示的な実施形態において単一の媒体として示されるが、「コンピュータ可読記憶媒体」という用語は、前記一つ以上の命令セットが記憶される単一の媒体又は複数の媒体（例えば、集中型又は分散型データベース、及び／又は関連するキャッシュとサーバ）を含むと解釈されるものとする。「コンピュータ可読記憶媒体」という用語は、更に、命令セットを記憶又は符号化できる任意の媒体を含むと解釈されるものであり、前記命令セットは機械により実行され、本発明のいずれか一種以上の方法を前記機械に実行させるためのものである。それゆえに、「コンピュータ可読記憶媒体」という用語は、ソリッドステートメモリ、光学媒体及び磁気媒体、又はその他の任意の非一時的な機械可読媒体を含むが、それらに限定されないと解釈されるものとする。
【００６７】
本明細書に記載の処理モジュール／ユニット／ロジック１５２８、構成要素及びその他の特徴は、ディスクリートハードウェア構成要素として実現されてもよく、又はハードウェア構成要素（例えば、ＡＳＩＣＳ、ＦＰＧＡ、ＤＳＰ又は類似の装置）の機能に統合されてもよい。また、処理モジュール／ユニット／ロジック１５２８は、ハードウェア装置におけるファームウェア又は機能性回路として実現されてもよい。また、処理モジュール／ユニット／ロジック１５２８は、ハードウェア装置とソフトウェア構成要素の任意の組み合わせで実現されてもよい。
【００６８】
なお、システム１５００は、データ処理システムの様々な構成要素を有するものとして示されているが、構成要素を相互接続する任意の特定のアーキテクチャ又は方式を表すことを意図するものではなく、そのような詳細は、本発明の実施形態と密接な関係がない。また、より少ない構成要素又はより多くの構成要素を有するネットワークコンピュータ、ハンドヘルドコンピュータ、携帯電話、サーバ、及び／又はその他のデータ処理システムも、本発明の実施形態と共に使用することができることを理解されたい。
【００６９】
前記具体的な説明の一部は、既に、コンピュータメモリにおけるデータビットに対する演算のアルゴリズムと記号表現で示される。これらのアルゴリズムの説明及び表現は、データ処理分野における当業者によって使用される、それらの作業実質を所属分野の他の当業者に最も効果的に伝達する方法である。本明細書では、一般的に、アルゴリズムは、所望の結果につながるセルフコンシステントシーケンスと考えられる。これらの動作は、物理量の物理的処置が必要なものである。
【００７０】
しかしながら、念頭に置くべきことは、これらの用語及び類似の用語の全ては、適切な物理量に関連付けられるものであり、これらの量を標識しやすくするためのものに過ぎない。以上の説明で他に明示的に記載されていない限り、本明細書の全体にわたって理解すべきことは、用語（例えば、添付された特許請求の範囲に記載のもの）による説明とは、コンピュータシステム、又は類似の電子式計算装置の動作又はプロセスを指し、前記コンピュータシステム又は電子式計算装置は、コンピュータシステムのレジスタ及びメモリにおける物理（電子）量として示されたデータを制御するとともに、前記データをコンピュータシステムメモリ又はレジスタ又はこのようなその他の情報記憶装置、伝送又は表示装置において同様に物理量として示された別のデータに変換する。
【００７１】
本発明の実施形態は、本明細書の動作を実行するための装置にも関する。このようなコンピュータプログラムは、非一時的なコンピュータ可読媒体に記憶される。機械可読媒体は、機械（例えば、コンピュータ）により可読な形式で情報を記憶するための任意のメカニズムを含む。例えば、機械可読（例えば、コンピュータ可読）媒体は、機械（例えば、コンピュータ）可読記憶媒体（例えば、読み出し専用メモリ（「ＲＯＭ」）、ランダムアクセスメモリ（「ＲＡＭ」）、磁気ディスク記憶媒体、光学記憶媒体、フラッシュメモリ装置）を含む。
【００７２】
上述した図面において説明されたプロセス又は方法は、ハードウェア（例えば、回路、専用ロジックなど）、ソフトウェア（例えば、非一時的なコンピュータ可読媒体に具現化されるもの）、又は両方の組み合わせを含む処理ロジックにより実行されることができる。前記プロセス又は方法は、以上で特定の順序に応じて説明されたが、前記動作の一部が異なる順序で実行されてもよいことを理解されたい。また、一部の動作は、順番ではなく並行して実行されてもよい。
【００７３】
本発明の実施形態は、いずれの特定のプログラミング言語を参照することなく記載されている。理解すべきことは、本明細書に記載の本発明の実施形態の教示を実現するために、様々なプログラミング言語を使用することができる。
【００７４】
前記明細書において、本発明の実施形態は、既にその具体的な例示的な実施形態を参照しながら記載された。明らかなように、添付された特許請求の範囲に記載された本発明のより広い趣旨及び範囲を逸脱しない限り、本発明に対して様々な変更を行うことができる。それゆえに、本明細書及び図面は、限定的な意味でなく、例示的な意味で理解されるべきである。
【図１】
2019182412.tif 000003
【図２】
2019182412.tif 000004
【図３Ａ】
2019182412.tif 000005
【図３Ｂ】
2019182412.tif 000006
【図４】
2019182412.tif 000007
【図５】
2019182412.tif 000008
【図６】
2019182412.tif 000009
【図７】
2019182412.tif 000010
【図８】
2019182412.tif 000011
【手続補正書】
【提出日】平成31年4月26日(2019.4.26)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
ラベル付きデータを自動的に生成するコンピュータ実施方法であって、
自動運転車が複数の障害物を含む関心区域内に移動する際に、前記自動運転車に取り付けられる一つ又は複数のセンサーからセンサーデータを収集することと、
収集されたセンサーデータを操作して、前記障害物に関する障害物データ、位置データ、並びに前記障害物データ及び前記位置データに対応する複数のタイムスタンプを取得することと、
前記タイムスタンプのそれぞれに対し、前記位置データに基づき、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングすることによって、前記障害物のマッピング情報を生成することと、
前記マッピング情報に対して自動的にラベリングすることによって、ラベル付きデータを生成し、前記ラベル付きデータは、後に、自動運転車の自動運転期間において障害物を識別するために機械学習アルゴリズムをトレーニングすることに用いられるものであることと、を含むコンピュータ実施方法。
【請求項２】
前記自動運転車が前記関心区域内に移動する際に、前記自動運転車に取り付けられる一つ又は複数のセンサーから前記センサーデータを収集する前に、前記自動運転車の初期位置から前記関心区域及び前記複数の障害物をプレマーキングすることによって、プレマーキング付きデータを生成することを更に含み、
前記プレマーキング付きデータに基づき、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングする、請求項１に記載の方法。
【請求項３】
前記障害物の位置を、前記障害物データにおける、前記タイムスタンプに対応する幾つかにマッピングする前に、前記複数のタイムスタンプと前記障害物の位置の整列を行うこと、を更に含む請求項１に記載の方法。
【請求項４】
前記障害物データは、前記タイムスタンプに含まれる異なる時点で取得された光検出と測距のデータを含む請求項１に記載の方法。
【請求項５】
前記位置データは、前記異なる時点で取得された前記障害物の位置を含む請求項４に記載の方法。
【請求項６】
前記位置データを、慣性計測ユニット又はグローバルポジショニングシステムから取得する請求項５に記載の方法。
【請求項７】
前記プレマーキング付きデータは、前記関心区域の境界情報及び前記関心区域内の前記複数の障害物の初期位置及び境界情報を含む請求項２に記載の方法。
【請求項８】
命令が記憶されている非一時性機器可読メディアであって、
前記命令がプロセッサーにより実行される場合に、
自動運転車が複数の障害物を含む関心区域内に移動する際に、前記自動運転車に取り付けられる一つ又は複数のセンサーからセンサーデータを収集することと、
収集されたセンサーデータを操作して、前記障害物に関する障害物データ、位置データ、並びに前記障害物データ及び前記位置データに対応する複数のタイムスタンプを取得することと、
前記タイムスタンプのそれぞれに対し、前記位置データに基づき、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングすることによって、前記障害物のマッピング情報を生成することと、
前記マッピング情報に対して自動的にラベリングすることによって、ラベル付きデータを生成し、前記ラベル付きデータは、後に、自動運転車の自動運転期間において障害物を識別するために機械学習アルゴリズムをトレーニングすることに用いられるものであることと、
を含む操作を、前記プロセッサーに実行させる非一時性機器可読メディア。
【請求項９】
前記操作は、前記自動運転車が前記関心区域内に移動する際に、前記自動運転車に取り付けられる一つ又は複数のセンサーから前記センサーデータを収集する前に、前記自動運転車の初期位置から前記関心区域及び前記複数の障害物をプレマーキング付きすることによって、プレマーキング付きデータを生成することと、
前記プレマーキング付きデータに基づき、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングすることと、
を更に含む請求項８に記載の非一時性機器可読メディア。
【請求項１０】
前記操作は、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングする前に、前記複数のタイムスタンプと前記障害物の位置の整列を行うことを更に含む、請求項８に記載の非一時性機器可読メディア。
【請求項１１】
前記障害物データは、前記タイムスタンプに含まれる異なる時点で取得された光検出と測距のデータを含む請求項８に記載の非一時性機器可読メディア。
【請求項１２】
前記位置データは、前記異なる時点で取得された前記障害物の位置を含む請求項１１に記載の非一時性機器可読メディア。
【請求項１３】
前記位置データを、慣性感知装置又はグローバルポジショニングシステムから取得する請求項１２に記載の非一時性機器可読メディア。
【請求項１４】
前記プレマーキング付きデータは、前記関心区域の境界情報及び前記関心区域内の前記複数の障害物の初期位置及び境界情報を含む請求項９に記載の非一時性機器可読メディア。
【請求項１５】
データ処理システムであって、
プロセッサーと、
前記プロセッサーに接続して命令を記憶するメモリとを含み、
前記命令が前記プロセッサーにより実行される場合、
自動運転車が複数の障害物を含む関心区域内に移動する際に、前記自動運転車に取り付けられる一つ又は複数のセンサーからセンサーデータを収集することと、
収集されたセンサーデータを操作することによって、前記障害物に関する障害物データ、位置データ、並びに前記障害物データ及び前記位置データに対応する複数のタイムスタンプを取得することと、
前記タイムスタンプのそれぞれに対し、前記位置データに基づき、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングすることによって、前記障害物のマッピング情報を生成することと、
前記マッピング情報に対して自動的にラベリングすることによって、ラベル付きデータを生成し、前記ラベル付きデータは、後に、自動運転車の自動運転期間において障害物を識別するために機械学習アルゴリズムをトレーニングすることに用いられるものであることと、
を含む操作を前記プロセッサーに実行させるデータ処理システム。
【請求項１６】
前記操作は、前記自動運転車が前記関心区域内に移動する際に、前記自動運転車に取り付けられる一つ又は複数のセンサーから前記センサーデータを収集する前に、前記自動運転車の初期位置から前記関心区域及び前記複数の障害物をプレマーキング付きすることによって、プレマーキング付きデータを生成することと、
前記プレマーキング付きデータに基づき、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングすることとを更に含む請求項１５に記載のデータ処理システム。
【請求項１７】
前記操作は、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングする前に、前記複数のタイムスタンプと前記障害物の位置の整列を行うことを更に含む請求項１５に記載のデータ処理システム。
【請求項１８】
前記障害物データは、前記タイムスタンプに含まれる異なる時点で取得された光検出と測距のデータを含む請求項１５に記載のデータ処理システム。
【請求項１９】
前記位置データは、前記異なる時点で取得された前記障害物の位置を含む請求項１８に記載のデータ処理システム。
【請求項２０】
前記位置データを、慣性感知装置又はグローバルポジショニングシステムから取得する請求項１９に記載のデータ処理システム。
【請求項２１】
前記プレマーキング付きデータは、前記関心区域の境界情報及び前記関心区域内の前記複数の障害物の初期位置及び境界情報を含む請求項１６に記載のデータ処理システム。
【請求項２２】
コンピュータプログラムであって、
前記コンピュータプログラムがプロセッサにより実行されると、請求項１〜７のいずれか一項に記載の方法を実現させるコンピュータプログラム。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】０００５
【補正方法】変更
【補正の内容】
【０００５】
本発明の一態様は、ラベル付きデータを自動的に生成するコンピュータ実施方法であって、自動運転車が複数の障害物を含む関心区域内に移動する際に、前記自動運転車に取り付けられる一つ又は複数のセンサーからセンサーデータを収集することと、収集されたセンサーデータを操作して、前記障害物に関する障害物データ、位置データ、並びに前記障害物データ及び前記位置データに対応する複数のタイムスタンプを取得することと、前記タイムスタンプのそれぞれに対し、前記位置データに基づき、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングすることによって、前記障害物のマッピング情報を生成することと、前記マッピング情報に対して自動的にラべリングすることによって、ラベル付きデータを生成し、前記ラベル付きデータは、後に、自動運転車の自動運転期間において障害物を識別するために機械学習アルゴリズムをトレーニングすることに用いられるものであることと、を含むコンピュータ実施方法に関する。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】０００６
【補正方法】変更
【補正の内容】
【０００６】
本発明の他の一態様は、命令が記憶されている非一時性機器可読メディアであって、前記命令がプロセッサーにより実行される場合に、自動運転車が複数の障害物を含む関心区域内に移動する際に、前記自動運転車に取り付けられる一つ又は複数のセンサーからセンサーデータを収集することと、収集されたセンサーデータを操作して、前記障害物に関する障害物データ、位置データ、並びに前記障害物データ及び前記位置データに対応する複数のタイムスタンプを取得することと、前記タイムスタンプのそれぞれに対し、前記位置データに基づき、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングすることによって、前記障害物のマッピング情報を生成することと、前記マッピング情報に対して自動的にラべリングすることによって、ラベル付きデータを生成し、前記ラベル付きデータは、後に、自動運転車の自動運転期間において障害物を識別するために機械学習アルゴリズムをトレーニングすることに用いられるものであることと、を含む操作を、前記プロセッサーに実行させる非一時性機器可読メディアに関する。
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】０００７
【補正方法】変更
【補正の内容】
【０００７】
本発明の他の一態様は、データ処理システムであって、プロセッサーと、前記プロセッサーに接続して命令を記憶するメモリとを含み、前記命令が前記プロセッサーにより実行される場合、自動運転車が複数の障害物を含む関心区域内に移動する際に、前記自動運転車に取り付けられる一つ又は複数のセンサーからセンサーデータを収集することと、収集されたセンサーデータを操作することによって、前記障害物に関する障害物データ、位置データ、並びに前記障害物データ及び前記位置データに対応する複数のタイムスタンプを取得することと、前記タイムスタンプのそれぞれに対し、前記位置データに基づき、前記障害物の位置を、前記障害物データの中の、前記タイムスタンプに対応する幾つかにマッピングすることによって、前記障害物のマッピング情報を生成することと、前記マッピング情報に対して自動的にラべリングすることによって、ラベル付きデータを生成し、前記ラベル付きデータは、後に、自動運転車の自動運転期間において障害物を識別するために機械学習アルゴリズムをトレーニングすることに用いられるものであることと、を含む操作を前記プロセッサーに実行させるデータ処理システムに関する。
【外国語明細書】
2019182412000001.pdf