(57)【要約】本開示は、自律走行のためのシステムおよび方法に関する。システムは、車両と関連付けられる走行情報を取得することと、車両の状態を決定することと、トレーニングされた制御モデルを使用することによって、走行情報および車両の状態に基づいて、１つまたは複数の候補制御信号、および、１つまたは複数の候補制御信号に対応する１つまたは複数の評価値を決定することと、１つまたは複数の評価値に基づいて、１つまたは複数の候補制御信号からターゲット制御信号を選択することと、車両の制御構成要素にターゲット制御信号を送信することとを行うことができる。【選択図】図４
2021514882.tif 000002
【特許請求の範囲】
【請求項１】
自律走行のためのシステムであって、
命令のセットを含む少なくとも１つの記憶媒体と、
前記少なくとも１つの記憶媒体と通信する少なくとも１つのプロセッサと
を備え、
前記命令のセットを実行するとき、前記少なくとも１つのプロセッサは、前記システムに、
車両と関連付けられる走行情報を取得するステップと、
前記車両の状態を決定するステップと、
トレーニングされた制御モデルを使用することによって、前記走行情報および前記車両の前記状態に基づいて、１つまたは複数の候補制御信号、および、前記１つまたは複数の候補制御信号に対応する１つまたは複数の評価値を決定するステップと、
前記１つまたは複数の評価値に基づいて、前記１つまたは複数の候補制御信号からターゲット制御信号を選択するステップと、
前記車両の制御構成要素に前記ターゲット制御信号を送信するステップと
を行わせるように指令される、自律走行のためのシステム。
【請求項２】
前記車両と関連付けられる前記走行情報は、前記車両の第１の所定の範囲内の知覚情報および前記車両の前記第１の所定の範囲内のマップ情報を含む、請求項１に記載のシステム。
【請求項３】
前記知覚情報は、道路状態情報および障害物情報を含む、請求項２に記載のシステム。
【請求項４】
前記車両の前記状態は、前記車両の速度、前記車両の加速度、および、前記車両のステアリング・ホイール角度を含む、請求項１〜３のいずれか一項に記載のシステム。
【請求項５】
前記トレーニングされた制御モデルは、トレーニング・プロセスによって決定され、
前記トレーニング・プロセスは、
予備制御モデルを取得するステップと、
予備サンプル走行情報を取得するステップであって、前記予備サンプル走行情報は、サンプル車両の第２の所定の範囲内の予備サンプル知覚情報、および、前記サンプル車両の前記第２の所定の範囲内の予備サンプルマップ情報を含む、予備サンプル走行情報を取得するステップと、
前記サンプル車両の予備サンプル状態を取得するステップと、
前記予備サンプル走行情報、前記サンプル車両の前記予備サンプル状態、および前記予備制御モデルに基づいて、予備サンプル制御信号を決定するステップと、
前記予備サンプル制御信号に対応する予備報酬値に基づいて、前記予備制御モデルと関連付けられる予備サンプル評価値を決定するステップであって、前記予備報酬値は、前記予備サンプル制御信号と関連付けられる衝突条件、前記予備サンプル制御信号と関連付けられる車線条件、または、前記予備サンプル制御信号と関連付けられる停止条件のうちの少なくとも１つと関連付けられる、予備サンプル評価値を決定するステップと、
前記予備サンプル評価値が既定の条件を満たすか否かを決定するステップと、
前記予備サンプル評価値が前記既定の条件を満たすという前記決定に応答して、前記予備制御モデルを前記トレーニングされた制御モデルとして指定するステップと
を含む、請求項１〜４のいずれか一項に記載のシステム。
【請求項６】
前記トレーニング・プロセスは、
前記予備サンプル評価値が前記既定の条件を満たさないという決定に応答して、更新されたサンプル評価値が前記既定の条件を満たすまで、前記予備制御モデルを更新するために１回または複数回の反復を実施するステップをさらに含み、前記１回または複数回の反復の各々は、
前の反復における報酬値に基づいて、更新された制御モデルを決定するステップと、
更新されたサンプル走行情報を取得するステップと、
前記前の反復におけるサンプル制御信号、および、前記前の反復における前記サンプル車両のサンプル状態に基づいて、前記サンプル車両の更新されたサンプル状態を推定するステップと、
前記更新されたサンプル走行情報、前記サンプル車両の前記更新されたサンプル状態、および前記更新された制御モデルに基づいて、更新されたサンプル制御信号を決定するステップと、
前記更新されたサンプル制御信号および前記前の反復におけるサンプル評価値に対応する更新された報酬値に基づいて、前記更新された制御モデルと関連付けられる更新されたサンプル評価値を決定するステップと、
前記更新されたサンプル評価値が前記既定の条件を満たすか否かを決定するステップと
をさらに含む、請求項５に記載のシステム。
【請求項７】
前記トレーニングされた制御モデルは、深層決定的方策勾配（ＤＤＰＧ）ネットワーク・モデルを含む、請求項１〜６のいずれか一項に記載のシステム。
【請求項８】
前記１つまたは複数の評価値に基づいて、前記１つまたは複数の候補制御信号から前記ターゲット制御信号を選択するために、前記少なくとも１つのプロセッサは、前記システムに、
所定のルールに従って、前記１つまたは複数の評価値に基づいて、前記１つまたは複数の候補制御信号から前記ターゲット制御信号を選択させるように指令される、請求項１〜７のいずれか一項に記載のシステム。
【請求項９】
少なくとも１つのプロセッサと、少なくとも１つの記憶媒体と、ネットワークに接続されている通信プラットフォームとを有するコンピューティング・デバイス上で実施される方法であって、
車両と関連付けられる走行情報を取得するステップと、
前記車両の状態を決定するステップと、
トレーニングされた制御モデルを使用することによって、前記走行情報および前記車両の前記状態に基づいて、１つまたは複数の候補制御信号、および、前記１つまたは複数の候補制御信号に対応する１つまたは複数の評価値を決定するステップと、
前記１つまたは複数の評価値に基づいて、前記１つまたは複数の候補制御信号からターゲット制御信号を選択するステップと、
前記車両の制御構成要素に前記ターゲット制御信号を送信するステップと
を含む、方法。
【請求項１０】
前記車両と関連付けられる前記走行情報は、前記車両の第１の所定の範囲内の知覚情報および前記車両の前記第１の所定の範囲内のマップ情報を含む、請求項９に記載の方法。
【請求項１１】
前記知覚情報は、道路状態情報および障害物情報を含む、請求項１０に記載の方法。
【請求項１２】
前記車両の前記状態は、前記車両の速度、前記車両の加速度、および、前記車両のステアリング・ホイール角度を含む、請求項９〜１１のいずれか一項に記載の方法。
【請求項１３】
前記トレーニングされた制御モデルは、トレーニング・プロセスによって決定され、前記トレーニング・プロセスは、
予備制御モデルを取得するステップと、
予備サンプル走行情報を取得するステップであって、前記予備サンプル走行情報は、サンプル車両の第２の所定の範囲内の予備サンプル知覚情報、および、前記サンプル車両の前記第２の所定の範囲内の予備サンプルマップ情報を含む、予備サンプル走行情報を取得するステップと、
前記サンプル車両の予備サンプル状態を取得するステップと、
前記予備サンプル走行情報、前記サンプル車両の前記予備サンプル状態、および前記予備制御モデルに基づいて、予備サンプル制御信号を決定するステップと、
前記予備サンプル制御信号に対応する予備報酬値に基づいて、前記予備制御モデルと関連付けられる予備サンプル評価値を決定するステップであって、前記予備報酬値は、前記予備サンプル制御信号と関連付けられる衝突条件、前記予備サンプル制御信号と関連付けられる車線条件、または、前記予備サンプル制御信号と関連付けられる停止条件のうちの少なくとも１つと関連付けられる、予備サンプル評価値を決定するステップと、
前記予備サンプル評価値が既定の条件を満たすか否かを決定するステップと、
前記予備サンプル評価値が前記既定の条件を満たすという前記決定に応答して、前記予備制御モデルを前記トレーニングされた制御モデルとして指定するステップと
を含む、請求項９〜１２のいずれか一項に記載の方法。
【請求項１４】
前記トレーニング・プロセスは、
前記予備サンプル評価値が前記既定の条件を満たさないという決定に応答して、更新されたサンプル評価値が前記既定の条件を満たすまで、前記予備制御モデルを更新するために１回または複数回の反復を実施するステップをさらに含み、前記１回または複数回の反復の各々は、
前の反復における報酬値に基づいて、更新された制御モデルを決定するステップと、
更新されたサンプル走行情報を取得するステップと、
前記前の反復におけるサンプル制御信号、および、前記前の反復における前記サンプル車両のサンプル状態に基づいて、前記サンプル車両の更新されたサンプル状態を推定するステップと、
前記更新されたサンプル走行情報、前記サンプル車両の前記更新されたサンプル状態、および前記更新された制御モデルに基づいて、更新されたサンプル制御信号を決定するステップと、
前記更新されたサンプル制御信号および前記前の反復におけるサンプル評価値に対応する更新された報酬値に基づいて、前記更新された制御モデルと関連付けられる更新されたサンプル評価値を決定するステップと、
前記更新されたサンプル評価値が前記既定の条件を満たすか否かを決定するステップと
をさらに含む、請求項１３に記載の方法。
【請求項１５】
前記トレーニングされた制御モデルは、深層決定的方策勾配（ＤＤＰＧ）ネットワーク・モデルを含む、請求項９〜１４のいずれか一項に記載の方法。
【請求項１６】
前記１つまたは複数の評価値に基づいて、前記１つまたは複数の候補制御信号から前記ターゲット制御信号を選択するステップは、
所定のルールに従って、前記１つまたは複数の評価値に基づいて、前記１つまたは複数の候補制御信号から前記ターゲット制御信号を選択するステップをさらに含む、請求項９〜１５のいずれか一項に記載の方法。
【請求項１７】
自律走行のために構成されている車両であって、
検出構成要素と、計画構成要素と、制御構成要素とを備え、前記計画構成要素は、
前記車両と関連付けられる走行情報を取得するステップと、
前記車両の状態を決定するステップと、
トレーニングされた制御モデルを使用することによって、前記走行情報および前記車両の前記状態に基づいて、１つまたは複数の候補制御信号、および、前記１つまたは複数の候補制御信号に対応する１つまたは複数の評価値を決定するステップと、
前記１つまたは複数の評価値に基づいて、前記１つまたは複数の候補制御信号からターゲット制御信号を選択するステップと、
前記車両の制御構成要素に前記ターゲット制御信号を送信するステップと
を行うように構成されている、自律走行のために構成されている車両。
【請求項１８】
前記車両と関連付けられる前記走行情報は、前記車両の第１の所定の範囲内の知覚情報および前記車両の前記第１の所定の範囲内のマップ情報を含む、請求項１７に記載の車両。
【請求項１９】
前記知覚情報は、道路状態情報および障害物情報を含む、請求項１８に記載の車両。
【請求項２０】
前記車両の前記状態は、前記車両の速度、前記車両の加速度、および、前記車両のステアリング・ホイール角度を含む、請求項１７〜１９のいずれか一項に記載の車両。
【請求項２１】
前記トレーニングされた制御モデルは、トレーニング・プロセスによって決定され、前記トレーニング・プロセスは、
予備制御モデルを取得するステップと、
予備サンプル走行情報を取得するステップであって、前記予備サンプル走行情報は、サンプル車両の第２の所定の範囲内の予備サンプル知覚情報、および、前記サンプル車両の前記第２の所定の範囲内の予備サンプルマップ情報を含む、予備サンプル走行情報を取得するステップと、
前記サンプル車両の予備サンプル状態を取得するステップと、
前記予備サンプル走行情報、前記サンプル車両の前記予備サンプル状態、および前記予備制御モデルに基づいて、予備サンプル制御信号を決定するステップと、
前記予備サンプル制御信号に対応する予備報酬値に基づいて、前記予備制御モデルと関連付けられる予備サンプル評価値を決定するステップであって、前記予備報酬値は、前記予備サンプル制御信号と関連付けられる衝突条件、前記予備サンプル制御信号と関連付けられる車線条件、または、前記予備サンプル制御信号と関連付けられる停止条件のうちの少なくとも１つと関連付けられる、予備サンプル評価値を決定するステップと、
前記予備サンプル評価値が既定の条件を満たすか否かを決定するステップと、
前記予備サンプル評価値が前記既定の条件を満たすという前記決定に応答して、前記予備制御モデルを前記トレーニングされた制御モデルとして指定するステップと
を含む、請求項１７〜２０のいずれか一項に記載の車両。
【請求項２２】
前記トレーニング・プロセスは、
前記予備サンプル評価値が前記既定の条件を満たさないという決定に応答して、更新されたサンプル評価値が前記既定の条件を満たすまで、前記予備制御モデルを更新するために１回または複数回の反復を実施するステップをさらに含み、前記１回または複数回の反復の各々は、
前の反復における報酬値に基づいて、更新された制御モデルを決定するステップと、
更新されたサンプル走行情報を取得するステップと、
前記前の反復におけるサンプル制御信号、および、前記前の反復における前記サンプル車両のサンプル状態に基づいて、前記サンプル車両の更新されたサンプル状態を推定するステップと、
前記更新されたサンプル走行情報、前記サンプル車両の前記更新されたサンプル状態、および前記更新された制御モデルに基づいて、更新されたサンプル制御信号を決定するステップと、
前記更新されたサンプル制御信号および前記前の反復におけるサンプル評価値に対応する更新された報酬値に基づいて、前記更新された制御モデルと関連付けられる更新されたサンプル評価値を決定するステップと、
前記更新されたサンプル評価値が前記既定の条件を満たすか否かを決定するステップと
をさらに含む、請求項２１に記載の車両。
【請求項２３】
前記トレーニングされた制御モデルは、深層決定的方策勾配（ＤＤＰＧ）ネットワーク・モデルを含む、請求項１７〜２２のいずれか一項に記載の車両。
【請求項２４】
前記１つまたは複数の評価値に基づいて、前記１つまたは複数の候補制御信号から前記ターゲット制御信号を選択するために、前記計画構成要素は、
所定のルールに従って、前記１つまたは複数の評価値に基づいて、前記１つまたは複数の候補制御信号から前記ターゲット制御信号を選択するように構成されている、請求項１７〜２３のいずれか一項に記載の車両。
【発明の詳細な説明】
【技術分野】
【０００１】
関連出願の相互参照
本出願は、２０１８年１２月１８日に提出された中国特許出願第２０１８１１５４７２７９．Ｘ号に対する優先権を主張し、その内容全体が参照により本明細書に組み込まれる。
【０００２】
本開示は、概して自律走行のためのシステムおよび方法に関し、詳細には、自律走行において制御信号を決定するためのシステムおよび方法に関する。
【背景技術】
【０００３】
マイクロエレクトロニクスおよびロボット技術の発展によって、自律走行の探究は今日、急速に発展している。自律走行システムにとって、自律走行システムの車両と関連付けられる走行情報（例えば、出発地、規定の目的地、道路状態）に基づいて適切な制御信号（例えば、加速装置制御信号）を決定することが重要である。一般的に、自律走行システムは、例えば、走行情報を取得すること、走行情報に基づいて走行動作を決定すること、走行動作に基づいて走行経路を計画すること、走行経路に基づいて制御信号を決定することなどの、一連の動作を実施することによって、制御信号を決定する。しかしながら、制御信号をより直接的に決定することができるとすれば、自律走行システムの効率を大幅に向上させることができる。それゆえ、車両と関連付けられる走行情報に基づいて、制御信号を直接的に決定するためのシステムおよび方法を提供し、それによって、自律走行システムの性能を向上させることが望ましい。
【発明の概要】
【課題を解決するための手段】
【０００４】
本開示の一態様は、自律走行のためのシステムに関する。システムは、命令のセットを含む少なくとも１つの記憶媒体と、少なくとも１つの記憶媒体と通信する少なくとも１つのプロセッサとを含むことができる。命令のセットを実行するとき、少なくとも１つのプロセッサは、システムに、以下の動作のうちの１つまたは複数を実施させるように指令され得る。システムは、車両と関連付けられる走行情報を取得することができる。システムは、車両の状態を決定することができる。システムは、トレーニングされた制御モデルを使用することによって、走行情報および車両の状態に基づいて、１つまたは複数の候補制御信号、および、１つまたは複数の候補制御信号に対応する１つまたは複数の評価値を決定することができる。システムは、１つまたは複数の評価値に基づいて、１つまたは複数の候補制御信号からターゲット制御信号を選択することができる。システムは、車両の制御構成要素にターゲット制御信号を送信することができる。
【０００５】
いくつかの実施形態において、車両と関連付けられる走行情報は、車両の第１の所定の範囲内の知覚情報および／または車両の第１の所定の範囲内のマップ情報を含むことができる。
【０００６】
いくつかの実施形態において、知覚情報は、道路状態情報および／または障害物情報を含むことができる。
【０００７】
いくつかの実施形態において、車両の状態は、車両の速度、車両の加速度、および／または、車両のステアリング・ホイール角度を含むことができる。
【０００８】
いくつかの実施形態において、トレーニングされた制御モデルは、トレーニング・プロセスによって決定することができる。トレーニング・プロセスは、予備制御モデルを取得することと、予備サンプル走行情報を取得することであって、予備サンプル走行情報は、サンプル車両の第２の所定の範囲内の予備サンプル知覚情報、および、サンプル車両の第２の所定の範囲内の予備サンプルマップ情報を含む、予備サンプル走行情報を取得することと、サンプル車両の予備サンプル状態を取得することと、予備サンプル走行情報、サンプル車両の予備サンプル状態、および予備制御モデルに基づいて、予備サンプル制御信号を決定することと、予備サンプル制御信号に対応する予備報酬値に基づいて、予備制御モデルと関連付けられる予備サンプル評価値を決定することであって、予備報酬値は、予備サンプル制御信号と関連付けられる衝突条件、予備サンプル制御信号と関連付けられる車線条件、または、予備サンプル制御信号と関連付けられる停止条件のうちの少なくとも１つと関連付けられる、予備サンプル評価値を決定することと、予備サンプル評価値が既定の条件を満たすか否かを決定することと、予備サンプル評価値が既定の条件を満たすという決定に応答して、予備制御モデルをトレーニングされた制御モデルとして指定することとを含む。
【０００９】
いくつかの実施形態において、トレーニング・プロセスは、予備サンプル評価値が既定の条件を満たさないという決定に応答して、更新されたサンプル評価値が既定の条件を満たすまで、予備制御モデルを更新するために１回または複数回の反復を実施することをさらに含むことができる。１回または複数回の反復の各々は、前の反復における報酬値に基づいて、更新された制御モデルを決定することと、更新されたサンプル走行情報を取得することと、前の反復におけるサンプル制御信号、および、前の反復におけるサンプル車両のサンプル状態に基づいて、サンプル車両の更新されたサンプル状態を推定することと、更新されたサンプル走行情報、サンプル車両の更新されたサンプル状態、および更新された制御モデルに基づいて、更新されたサンプル制御信号を決定することと、更新されたサンプル制御信号および前の反復におけるサンプル評価値に対応する更新された報酬値に基づいて、更新された制御モデルと関連付けられる更新されたサンプル評価値を決定することと、更新されたサンプル評価値が既定の条件を満たすか否かを決定することとを含むことができる。
【００１０】
いくつかの実施形態において、トレーニングされた制御モデルは、深層決定的方策勾配（ＤＤＰＧ：Ｄｅｅｐ  Ｄｅｔｅｒｍｉｎｉｓｔｉｃ  Ｐｏｌｉｃｙ  Ｇｒａｄｉｅｎｔ）ネットワーク・モデルを含むことができる。
【００１１】
いくつかの実施形態において、システムは、所定のルールに従って、１つまたは複数の評価値に基づいて、１つまたは複数の候補制御信号からターゲット制御信号を選択することができる。
【００１２】
本開示の別の態様は、コンピューティング・デバイス上で実施される方法に関する。コンピューティング・デバイスは、少なくとも１つのプロセッサと、少なくとも１つの記憶媒体と、ネットワークに接続されている通信プラットフォームとを含むことができる。方法は、車両と関連付けられる走行情報を取得することと、車両の状態を決定することと、トレーニングされた制御モデルを使用することによって、走行情報および車両の状態に基づいて、１つまたは複数の候補制御信号、および、１つまたは複数の候補制御信号に対応する１つまたは複数の評価値を決定することと、１つまたは複数の評価値に基づいて、１つまたは複数の候補制御信号からターゲット制御信号を選択することと、車両の制御構成要素にターゲット制御信号を送信することとを含むことができる。
【００１３】
いくつかの実施形態において、車両と関連付けられる走行情報は、車両の第１の所定の範囲内の知覚情報および／または車両の第１の所定の範囲内のマップ情報を含むことができる。
【００１４】
いくつかの実施形態において、知覚情報は、道路状態情報および／または障害物情報を含むことができる。
【００１５】
いくつかの実施形態において、車両の状態は、車両の速度、車両の加速度、および／または、車両のステアリング・ホイール角度を含むことができる。
【００１６】
いくつかの実施形態において、トレーニングされた制御モデルは、トレーニング・プロセスによって決定することができる。トレーニング・プロセスは、予備制御モデルを取得することと、予備サンプル走行情報を取得することであって、予備サンプル走行情報は、サンプル車両の第２の所定の範囲内の予備サンプル知覚情報、および、サンプル車両の第２の所定の範囲内の予備サンプルマップ情報を含む、予備サンプル走行情報を取得することと、サンプル車両の予備サンプル状態を取得することと、予備サンプル走行情報、サンプル車両の予備サンプル状態、および予備制御モデルに基づいて、予備サンプル制御信号を決定することと、予備サンプル制御信号に対応する予備報酬値に基づいて、予備制御モデルと関連付けられる予備サンプル評価値を決定することであって、予備報酬値は、予備サンプル制御信号と関連付けられる衝突条件、予備サンプル制御信号と関連付けられる車線条件、または、予備サンプル制御信号と関連付けられる停止条件のうちの少なくとも１つと関連付けられる、予備サンプル評価値を決定することと、予備サンプル評価値が既定の条件を満たすか否かを決定することと、予備サンプル評価値が既定の条件を満たすという決定に応答して、予備制御モデルをトレーニングされた制御モデルとして指定することとを含む。
【００１７】
いくつかの実施形態において、トレーニング・プロセスは、予備サンプル評価値が既定の条件を満たさないという決定に応答して、更新されたサンプル評価値が既定の条件を満たすまで、予備制御モデルを更新するために１回または複数回の反復を実施することをさらに含むことができる。１回または複数回の反復の各々は、前の反復における報酬値に基づいて、更新された制御モデルを決定することと、更新されたサンプル走行情報を取得することと、前の反復におけるサンプル制御信号、および、前の反復におけるサンプル車両のサンプル状態に基づいて、サンプル車両の更新されたサンプル状態を推定することと、更新されたサンプル走行情報、サンプル車両の更新されたサンプル状態、および更新された制御モデルに基づいて、更新されたサンプル制御信号を決定することと、前の反復における更新されたサンプル制御信号およびサンプル評価値に対応する更新された報酬値に基づいて、更新された制御モデルと関連付けられる更新されたサンプル評価値を決定することと、更新されたサンプル評価値が既定の条件を満たすか否かを決定することとを含むことができる。
【００１８】
いくつかの実施形態において、トレーニングされた制御モデルは、深層決定的方策勾配（ＤＤＰＧ）ネットワーク・モデルを含むことができる。
【００１９】
いくつかの実施形態において、１つまたは複数の評価値に基づいて、１つまたは複数の候補制御信号からターゲット制御信号を選択することは、所定のルールに従って、１つまたは複数の評価値に基づいて、１つまたは複数の候補制御信号からターゲット制御信号を選択することをさらに含むことができる。
【００２０】
本開示のさらなる態様は、自律走行のために構成されている車両に関する。車両は、検出構成要素と、計画構成要素と、制御構成要素とを含むことができる。計画構成要素は、車両と関連付けられる走行情報を取得することと、車両の状態を決定することと、トレーニングされた制御モデルを使用することによって、走行情報および車両の状態に基づいて、１つまたは複数の候補制御信号、および、１つまたは複数の候補制御信号に対応する１つまたは複数の評価値を決定することと、１つまたは複数の評価値に基づいて、１つまたは複数の候補制御信号からターゲット制御信号を選択することと、車両の制御構成要素にターゲット制御信号を送信することとを行うように構成することができる。
【００２１】
いくつかの実施形態において、車両と関連付けられる走行情報は、車両の第１の所定の範囲内の知覚情報および／または車両の第１の所定の範囲内のマップ情報を含むことができる。
【００２２】
いくつかの実施形態において、知覚情報は、道路状態情報および／または障害物情報を含むことができる。
【００２３】
いくつかの実施形態において、車両の状態は、車両の速度、車両の加速度、および／または、車両のステアリング・ホイール角度を含むことができる。
【００２４】
いくつかの実施形態において、トレーニングされた制御モデルは、トレーニング・プロセスによって決定することができる。トレーニング・プロセスは、予備制御モデルを取得することと、予備サンプル走行情報を取得することであって、予備サンプル走行情報は、サンプル車両の第２の所定の範囲内の予備サンプル知覚情報、および、サンプル車両の第２の所定の範囲内の予備サンプルマップ情報を含む、予備サンプル走行情報を取得することと、サンプル車両の予備サンプル状態を取得することと、予備サンプル走行情報、サンプル車両の予備サンプル状態、および予備制御モデルに基づいて、予備サンプル制御信号を決定することと、予備サンプル制御信号に対応する予備報酬値に基づいて、予備制御モデルと関連付けられる予備サンプル評価値を決定することであって、予備報酬値は、予備サンプル制御信号と関連付けられる衝突条件、予備サンプル制御信号と関連付けられる車線条件、または、予備サンプル制御信号と関連付けられる停止条件のうちの少なくとも１つと関連付けられる、予備サンプル評価値を決定することと、予備サンプル評価値が既定の条件を満たすか否かを決定することと、予備サンプル評価値が既定の条件を満たすという決定に応答して、予備制御モデルをトレーニングされた制御モデルとして指定することとを含む。
【００２５】
いくつかの実施形態において、トレーニング・プロセスは、予備サンプル評価値が既定の条件を満たさないという決定に応答して、更新されたサンプル評価値が既定の条件を満たすまで、予備制御モデルを更新するために１回または複数回の反復を実施することをさらに含むことができる。１回または複数回の反復の各々は、前の反復における報酬値に基づいて、更新された制御モデルを決定することと、更新されたサンプル走行情報を取得することと、前の反復におけるサンプル制御信号、および、前の反復におけるサンプル車両のサンプル状態に基づいて、サンプル車両の更新されたサンプル状態を推定することと、更新されたサンプル走行情報、サンプル車両の更新されたサンプル状態、および更新された制御モデルに基づいて、更新されたサンプル制御信号を決定することと、前の反復における更新されたサンプル制御信号およびサンプル評価値に対応する更新された報酬値に基づいて、更新された制御モデルと関連付けられる更新されたサンプル評価値を決定することと、更新されたサンプル評価値が既定の条件を満たすか否かを決定することとを含むことができる。
【００２６】
いくつかの実施形態において、トレーニングされた制御モデルは、深層決定的方策勾配（ＤＤＰＧ）ネットワーク・モデルを含むことができる。
【００２７】
いくつかの実施形態において、計画構成要素は、所定のルールに従って、１つまたは複数の評価値に基づいて、１つまたは複数の候補制御信号からターゲット制御信号を選択するようにさらに構成することができる。
【００２８】
追加の特徴は、部分的には、後続する説明に記載され、部分的には、以下および添付の図面の検討を受けて当業者に明らかになるか、または、実施例の生成または動作によって学習することができる。本開示の特徴は、下記に論じられている詳細な例に記載されている方法、手段、および組合せの様々な態様を実践または使用することによって実現し、達成することができる。
【００２９】
本開示は、例示的な実施形態に関してさらに説明される。図面を参照しながら、これらの例示的な実施形態を詳細に説明する。これらの実施形態は非限定的な例示的な実施形態であり、同様の参照番号は、図面のいくつかのビュー全体を通じて同様の構造を表す。
【図面の簡単な説明】
【００３０】
【図１】本開示のいくつかの実施形態による例示的な自律走行システムを示す概略図である。
【図２】本開示のいくつかの実施形態による例示的な自律走行システムの例示的なハードウェアおよび／またはソフトウェア構成要素を示す概略図である。
【図３】本開示のいくつかの実施形態による例示的な処理エンジンを示すブロック図である。
【図４】本開示のいくつかの実施形態による、ターゲット制御信号を決定するための例示的なプロセスを示すフローチャートである。
【図５】本開示のいくつかの実施形態による、トレーニングされた制御モデルを決定するための例示的なプロセスを示すフローチャートである。
【図６】本開示のいくつかの実施形態による、トレーニングされた制御モデルを決定するための例示的なプロセスを示すフローチャートである。
【図７】本開示のいくつかの実施形態による、深層決定的方策勾配（ＤＤＰＧ）ネットワーク・モデルをトレーニングするための例示的なプロセスを示す概略図である。
【発明を実施するための形態】
【００３１】
以下の説明は、当業者が、本開示を作成および使用することを可能にするために提示され、特定の用途およびその要件のコンテキストにおいて提供される。開示される実施形態に対する様々な改変が、当業者には容易に認識され、本明細書において定義される一般的な原理は、本開示の主旨または範囲から逸脱することなく他の実施形態および用途に適用されることができる。したがって、本開示は本明細書に示されている実施形態に限定されず、特許請求項の範囲に一致する最も広い範囲に合致するものである。
【００３２】
本明細書において使用される用語は特定の例示的な実施形態を説明することのみを目的とするものであり、限定であるようには意図されない。本明細書において使用される場合、単数形「１つの」（“ａ”、“ａｎ”）および「その」（“ｔｈｅ”）は、別途文脈が明確に指示していない限り、複数形も含むように意図され得る。用語「備える」（“ｃｏｍｐｒｉｓｅ”、“ｃｏｍｐｒｉｓｅｓ”）および／または「備えている」（“ｃｏｍｐｒｉｓｉｎｇ”）、「含む」（“ｉｎｃｌｕｄｅ”、“ｉｎｃｌｕｄｅｓ”）および／または「含んでいる」（“ｉｎｃｌｕｄｉｎｇ”）は、本開示において使用されている場合、記載されている特徴、整数、ステップ、動作、要素、および／または構成要素が存在することを指定するが、１つまたは複数の他の特徴、整数、ステップ、動作、要素、および／または構成要素、および／またはそのグループが存在することまたは追加されることを除外するものではないことがさらに理解されよう。
【００３３】
これらのおよび他の特徴、および本開示の特性、ならびに、構造の関連する要素および部品の組合せの動作および機能の方法および製造の経済性は、添付の図面を参照しながら以下の説明を検討することを受けて、より明らかになり得る。これらのすべてが、本開示の部分を形成する。しかしながら、図面は例示および説明のみを目的としたものであり、本開示の範囲を限定するようには意図されていないことは、明確に理解されたい。図面は原寸に比例しないことを理解されたい。
【００３４】
本開示において使用されているフローチャートは、本開示のいくつかの実施形態に従ってシステムが実施する動作を示す。フローチャートの動作は順序を変えて実施することができることは、明確に理解されたい。逆に、動作は、逆順で、または同時に実施することができる。その上、１つまたは複数の他の動作をフローチャートに追加することができる。１つまたは複数の他の動作はフローチャートから削除することができる。
【００３５】
その上、本開示において開示されているシステムおよび方法は、主に地上の輸送システムに関して説明されているが、これは１つの例示的な実施形態に過ぎないことは理解されたい。本開示のシステムおよび方法は、任意の他の種類の輸送システムに適用することができる。例えば、本開示のシステムおよび方法は、海洋、航空宇宙など、または任意のそれらの組合せを含む異なる環境の輸送システムに適用することができる。輸送システムの車両は、自動車、バス、列車、地下鉄、船舶、航空機、宇宙船、熱気球など、またはそれらの任意の組合せを含むことができる。
【００３６】
本開示において使用される測位技術は、全地球測位システム（ＧＰＳ）、グローバル・ナビゲーション衛星システム（ＧＬＯＮＡＳＳ）、コンパス・ナビゲーション・システム（ＣＯＭＰＡＳＳ）、Ｇａｌｉｌｅｏ測位システム、準天頂衛星システム（ＱＺＳＳ）、ワイヤレス・フィデリティ（ＷｉＦｉ）測位技術など、またはそれらの任意の組合せに基づくことができる。上記の測位システムのうちの１つまたは複数は、本開示においては交換可能に使用することができる。
【００３７】
本開示の一態様は、自律走行において制御信号を決定するためのシステムおよび方法に関する。本開示のいくつかのシステムおよび方法によれば、プロセッサは、車両と関連付けられる走行情報（例えば、道路状態情報、障害物情報、マップ情報）を取得し、車両の状態（例えば、速度、加速度、ステアリング・ホイール角度）を決定し、トレーニングされた制御モデル（例えば、深層決定的方策勾配（ＤＤＰＧ）ネットワーク・モデル）を使用することによって、走行情報および車両の状態に基づいて、１つまたは複数の候補制御信号、および、１つまたは複数の候補制御信号に対応する１つまたは複数の評価値を決定し、１つまたは複数の評価値に基づいて１つまたは複数の候補制御信号からターゲット制御信号を選択することができる。さらに、プロセッサは、車両の制御構成要素にターゲット制御信号を送信することができる。本開示のシステムおよび方法によれば、制御信号は、トレーニングされたモデルに基づいて直接的に決定することができ、これによって、自律走行システムの効率を向上させることができる。
【００３８】
図１は、本開示のいくつかの実施形態による例示的な自律走行システムを示す概略図である。いくつかの実施形態において、自律走行システム１００は、サーバ１１０と、ネットワーク１２０と、車両１３０と、ストレージ１４０とを含むことができる。
【００３９】
いくつかの実施形態において、サーバ１１０は、単一のサーバであってもよく、または、サーバ・グループであってもよい。サーバ・グループは、集中型であってもよく、または、分散型であってもよい（例えば、サーバ１１０は分散型システムであってもよい）。いくつかの実施形態において、サーバ１１０は、ローカルであってもよく、または、リモートであってもよい。例えば、サーバ１１０は、ネットワーク１２０を介して、車両１３０および／またはストレージ１４０に記憶されている情報および／またはデータにアクセスすることができる。別の例として、サーバ１１０は、記憶されている情報および／またはデータにアクセスするために、車両１３０および／またはストレージ１４０に直接的に接続されてもよい。いくつかの実施形態において、サーバ１１０は、クラウド・プラットフォームまたは内蔵コンピュータ上で実装されてもよい。例としてのみ、クラウド・プラットフォームは、プライベート・クラウド、公衆クラウド、ハイブリッド・クラウド、コミュニティ・クラウド、分散型クラウド、インタークラウド、マルチクラウドなど、またはそれらの任意の組合せを含んでもよい。いくつかの実施形態において、サーバ１１０は、本開示の図２に示す１つまたは複数の構成要素を含むコンピューティング・デバイス２００上で実装することができる。
【００４０】
いくつかの実施形態において、サーバ１１０は、処理エンジン１１２を含んでもよい。処理エンジン１１２は、本開示に記載されている１つまたは複数の機能を実施するために、走行情報および／または車両１３０の状態と関連付けられる情報および／またはデータを処理することができる。例えば、処理エンジン１１２は、車両１３０と関連付けられる走行情報（例えば、道路状態情報、障害物情報）および／または車両１３０の状態（例えば、現在の位置、現在の速度）を取得することができる。処理エンジン１１２は、走行情報および／または車両１３０の状態に基づいて、制御信号を決定することができる。すなわち、処理エンジン１１２は、車両１３０の計画構成要素として構成することができる。いくつかの実施形態において、処理エンジン１１２は、１つまたは複数の処理エンジン（例えば、シングルコア処理エンジンまたはマルチコア・プロセッサ）を含んでもよい。例としてのみ、処理エンジン１１２は、中央処理ユニット（ＣＰＵ）、特定用途向け集積回路（ＡＳＩＣ）、特定用途向け命令セット・プロセッサ（ＡＳＩＰ）、グラフィックス処理ユニット（ＧＰＵ）、物理演算ユニット（ＰＰＵ：ｐｈｙｓｉｃｓ  ｐｒｏｃｅｓｓｉｎｇ  ｕｎｉｔ）、デジタル信号プロセッサ（ＤＳＰ）、フィールド・プログラマブル・ゲート・アレイ（ＦＰＧＡ）、プログラム可能論理デバイス（ＰＬＤ）、コントローラ、マイクロコントローラ・ユニット、縮小命令セット・コンピュータ（ＲＩＳＣ）、マイクロプロセッサなど、またはそれらの任意の組合せを含んでもよい。
【００４１】
いくつかの実施形態において、サーバ１１０は、自律走行システム１００の１つまたは複数の構成要素（例えば、車両１３０、ストレージ１４０）と通信するために、ネットワーク１２０に接続することができる。いくつかの実施形態において、サーバ１１０は、自律走行システム１００の１つまたは複数の構成要素（例えば、車両１３０、ストレージ１４０）と直接的に接続されてもよく、または、それらの構成要素と通信してもよい。いくつかの実施形態において、サーバ１１０は、車両１３０内に統合されてもよい。例えば、サーバ１１０は、車両１３０内に設置されたコンピューティング・デバイス（例えば、内蔵コンピュータ）であってもよい。
【００４２】
ネットワーク１２０は、情報および／またはデータの交換を促進することができる。いくつかの実施形態において、自律走行システム１００の１つまたは複数の構成要素（例えば、サーバ１１０、車両１３０、またはストレージ１４０）は、情報および／またはデータを、ネットワーク１２０を介して自律走行システム１００の他の構成要素に送信することができる。例えば、サーバ１１０は、ネットワーク１２０を介して、車両１３０と関連付けられる走行情報および／または車両１３０の状態を取得することができる。いくつかの実施形態において、ネットワーク１２０は、任意のタイプの有線またはワイヤレス・ネットワーク、またはそれらの組合せであってもよい。例としてのみ、ネットワーク１２０は、ケーブル・ネットワーク、ワイヤライン・ネットワーク、光ファイバー・ネットワーク、遠隔通信ネットワーク、イントラネット、インターネット、ローカル・エリア・ネットワーク（ＬＡＮ）、ワイド・エリア・ネットワーク（ＷＡＮ）、ワイヤレス・ローカル・エリア・ネットワーク（ＷＬＡＮ）、メトロポリタン・エリア・ネットワーク（ＭＡＮ）、公衆電話網（ＰＳＴＮ）、Ｂｌｕｅｔｏｏｔｈ（登録商標）ネットワーク、ＺｉｇＢｅｅネットワーク、またはそれらの任意の組合せを含んでもよい。いくつかの実施形態において、ネットワーク１２０は、１つまたは複数のネットワーク・アクセス・ポイントを含むことができる。例えば、ネットワーク１２０は、有線またはワイヤレス・ネットワーク・アクセス・ポイントを含むことができ、それを通じて、自律走行システム１００の１つまたは複数の構成要素を、データおよび／または情報を交換するためにネットワーク１２０に接続することができる。
【００４３】
車両１３０は、任意のタイプの自律車両であってもよい。自律車両は、環境情報を検知し、人間が操作することなくナビゲートすることが可能であり得る。車両１３０は、従来の車両の構造を含んでもよい。例えば、車両１３０は、車両１３０の動作を制御するように構成されている複数の制御構成要素を含んでもよい。複数の制御構成要素は、ステアリング・デバイス（例えば、ステアリング・ホイール）、ブレーキデバイス（例えば、ブレーキペダル）、および加速装置を含んでもよい。ステアリング・デバイスは、車両１３０の進行方向（ｈｅａｄｉｎｇ）および／または方向（ｄｉｒｅｃｔｉｏｎ）を調整するように構成することができる。ブレーキデバイスは、車両１３０を停止するためのブレーキ動作を実施するように構成することができる。加速装置は、車両１３０の速度および／または加速度を制御するように構成することができる。
【００４４】
また、車両１３０は、車両１３０と関連付けられる走行情報を検出するように構成されている複数の検出ユニットを含むこともできる。複数の検出ユニットは、カメラ、全地球測位システム（ＧＰＳ）モジュール、加速度センサー（例えば、圧電センサー）、速度センサー（例えば、ホール・センサー）、距離センサー（例えば、レーダー、ＬＩＤＡＲ、赤外線センサー）、ステアリング角度センサー（例えば、傾斜センサー）、牽引関連センサー（例えば、力センサー）などを含んでもよい。いくつかの実施形態において、車両１３０と関連付けられる走行情報は、車両１３０の一定範囲内の知覚情報（例えば、道路状態情報、障害物情報）、車両１３０の一定範囲内のマップ情報などを含んでもよい。
【００４５】
ストレージ１４０は、データおよび／または命令を記憶することができる。いくつかの実施形態において、ストレージ１４０は、複数の検出ユニットによって獲得される走行情報および／または車両１３０の状態のような、車両１３０から取得されるデータを記憶することができる。いくつかの実施形態において、ストレージ１４０は、本開示に記載されている例示的な方法を実施するためにサーバ１１０が実行または使用することができるデータおよび／または命令を記憶することができる。いくつかの実施形態において、ストレージ１４０は、大容量ストレージ、リムーバブル・ストレージ、揮発性読取りおよび書込みメモリ、読取り専用メモリ（ＲＯＭ）など、またはそれらの任意の組合せを含んでもよい。例示的な大容量ストレージは、磁気ディスク、光ディスク、ソリッドステート・ドライブなどを含んでもよい。例示的なリムーバブル・ストレージは、フラッシュ・ドライブ、フロッピー・ディスク、光ディスク、メモリ・カード、ジップ・ディスク、磁気テープなどを含んでもよい。例示的な揮発性読取りおよび書込みメモリは、ランダム・アクセス・メモリ（ＲＡＭ）を含んでもよい。例示的なＲＡＭは、ダイナミックＲＡＭ（ＤＲＡＭ）、ダブル・データ・レート同期ダイナミックＲＡＭ（ＤＤＲ  ＳＤＲＡＭ）、スタティックＲＡＭ（ＳＲＡＭ）、サイリスタＲＡＭ（Ｔ−ＲＡＭ）、およびゼロキャパシタＲＡＭ（Ｚ−ＲＡＭ）などを含んでもよい。例示的なＲＯＭは、マスクＲＯＭ（ＭＲＯＭ）、プログラマブルＲＯＭ（ＰＲＯＭ）、消去可能プログラマブルＲＯＭ（ＰＥＲＯＭ）、電気的消去可能プログラマブルＲＯＭ（ＥＥＰＲＯＭ）、コンパクト・ディスクＲＯＭ（ＣＤ−ＲＯＭ）、およびデジタル多用途ディスクＲＯＭなどを含んでもよい。いくつかの実施形態において、ストレージ１４０は、クラウド・プラットフォーム上で実装されてもよい。例としてのみ、クラウド・プラットフォームは、プライベート・クラウド、公衆クラウド、ハイブリッド・クラウド、コミュニティ・クラウド、分散型クラウド、インタークラウド、マルチクラウドなど、またはそれらの任意の組合せを含んでもよい。
【００４６】
いくつかの実施形態において、ストレージ１４０は、自律走行システム１００の１つまたは複数の構成要素（例えば、サーバ１１０、車両１３０）と通信するために、ネットワーク１２０に接続することができる。自律走行システム１００の１つまたは複数の構成要素は、ネットワーク１２０を介して、ストレージ１４０内に記憶されているデータまたは命令にアクセスすることができる。いくつかの実施形態において、ストレージ１４０は、自律走行システム１００の１つまたは複数の構成要素（例えば、サーバ１１０、車両１３０）と直接的に接続されてもよく、または、それらの構成要素と通信してもよい。いくつかの実施形態において、ストレージ１４０は、サーバ１１０の一部分であってもよい。いくつかの実施形態において、ストレージ１４０は、車両１３０内に統合されてもよい。
【００４７】
自律走行システム１００は、例示のみを目的として与えられており、本開示の範囲を限定するようには意図されていないことに留意されたい。当業者であれば、本開示の教示の下で複数の変形形態または修正形態を作成することができる。例えば、自律走行システム１００は、データベース、情報源などをさらに含んでもよい。別の例として、自律走行システム１００は、同様のまたは異なる機能を実現するために、他のデバイス上で実装されてもよい。しかしながら、それらの変形形態および修正形態は、本開示の範囲内から逸脱しない。
【００４８】
図２は、本開示のいくつかの実施形態による例示的な自律走行システムの例示的なハードウェアおよび／またはソフトウェア構成要素を示す概略図である。いくつかの実施形態において、サーバ１１０は、コンピューティング・デバイス２００上で実装されてもよい。例えば、処理エンジン１１２は、コンピューティング・デバイス２００上で実装され、本開示において開示されている処理エンジン１１２の機能を実施するように構成することができる。
【００４９】
コンピューティング・デバイス２００は、本開示の自律走行システム１００の任意の構成要素を実装するために使用することができる。例えば、自律走行システム１００の処理エンジン１１２は、コンピューティング・デバイス２００上で、そのハードウェア、ソフトウェアプログラム、ファームウェア、またはそれらの組合せを介して実装されてもよい。便宜上、１つのみのそのようなコンピュータが示されているが、本明細書に記載されているような自律走行システム１００に関連するコンピュータ機能は、処理負荷を分散させるために、複数の同様のプラットフォーム上で分散的に実施されてもよい。
【００５０】
コンピューティング・デバイス２００は、例えば、データ通信を容易にするために、それに接続されているネットワーク（例えば、ネットワーク１２０）に、および、当該ネットワークから接続されている通信（ＣＯＭＭ）ポート２５０を含むことができる。コンピューティング・デバイス２００はまた、プログラム命令を実行するための、１つまたは複数のプロセッサ（例えば、論理回路）の形態の、プロセッサ（例えば、プロセッサ２２０）をも含むことができる。例えば、プロセッサは、インターフェース回路および処理回路をその中に含むことができる。インターフェース回路は、バス２１０から電子信号を受信するように構成することができ、電子信号は、処理回路が処理するために、構造化されたデータおよび／または命令を符号化する。処理回路は、論理計算を実行し、その後、電子信号として符号化される結論、結果、および／または命令を決定することができる。その後、インターフェース回路は、バス２１０を介して、処理回路から電子信号を送出することができる。
【００５１】
コンピューティング・デバイス２００は、コンピューティング・デバイス２００によって処理および／または送信されるべき様々なデータ・ファイルを記憶するために、例えば、ディスク２７０、および読出し専用メモリ（ＲＯＭ）２３０、またはランダム・アクセス・メモリ（ＲＡＭ）２４０など、種々の形態のプログラム・ストレージおよびデータ・ストレージをさらに含むことができる。コンピューティング・デバイス２００はまた、ＲＯＭ２３０、ＲＡＭ２４０、および／または他のタイプの非一時的ストレージ媒体内に記憶されている、プロセッサ２２０によって実行されるべきプログラム命令をも含むことができる。本開示の方法および／またはプロセスは、プログラム命令として実施することができる。コンピューティング・デバイス２００はまた、コンピューティング・デバイス２００と、その中の他の構成要素との間の入出力をサポートする、Ｉ／Ｏ構成要素２６０をも含む。コンピューティング・デバイス２００はまた、ネットワーク通信を介してプログラミングおよびデータを受信することもできる。
【００５２】
例示のみのために、１つのみのプロセッサがコンピューティング・デバイス２００内に記載されている。しかしながら、また、本開示のコンピューティング・デバイス２００は、複数のプロセッサを含んでもよく、したがって、本開示に記載されているような１つのプロセッサによって実施される動作はまた、複数のプロセッサによって共同でまたは別個に実施されてもよいことに留意されたい。例えば、コンピューティング・デバイス２００のプロセッサは、動作Ａと動作Ｂの両方を実行する。別の例の場合、動作Ａおよび動作Ｂはまた、コンピューティング・デバイス２００内で、２つの異なるプロセッサによって共同でまたは別個に実施されてもよい（例えば、第１のプロセッサが動作Ａを実行し、かつ、第２のプロセッサが動作Ｂを実行し、または、第１のプロセッサおよび第２のプロセッサが共同で動作ＡおよびＢを実行する）。
【００５３】
図３は、本開示のいくつかの実施形態による例示的な処理エンジンを示すブロック図である。処理エンジン１１２は、取得モジュール３１０と、状態決定モジュール３２０と、候補制御信号決定モジュール３３０と、ターゲット制御信号決定モジュール３４０と、送信モジュール３５０とトレーニング・モジュール３６０とを含むことができる。
【００５４】
取得モジュール３１０は、車両（例えば、車両１３０）と関連付けられる走行情報を取得するように構成することができる。取得モジュール３１０は、車両の検出ユニット（例えば、カメラ、レーダー）、本開示の他の箇所において開示されているストレージ・デバイス（例えば、ストレージ１４０）、または、外部リソース（例えば、交通案内プラットフォーム、ニュース・プラットフォーム）から走行情報を取得することができる。取得モジュール３１０は、一定の時間間隔（例えば、０．０１秒、０．０２秒、０．０５秒）に従って、リアル・タイムに、または実質的にリアル・タイムに走行情報を取得することができる。走行情報のさらなる詳細は、本開示の他の箇所（例えば、図４およびその説明）に見出すことができる。
【００５５】
状態決定モジュール３２０は、車両の状態を決定するように構成することができる。状態決定モジュール３２０は、一定の時間間隔（例えば、０．０１秒、０．０２秒、０．０５秒など）に従って、リアル・タイムに、または実質的にリアル・タイムに車両の状態を決定することができる。車両の状態のさらなる詳細は、本開示の他の箇所（例えば、図４およびその説明）に見出すことができる。
【００５６】
候補制御信号決定モジュール３３０は、トレーニングされた制御モデルを使用することによって、走行情報および車両の状態に基づいて、１つまたは複数の候補制御信号、および、１つまたは複数の候補制御信号に対応する１つまたは複数の評価値を決定するように構成することができる。
【００５７】
ターゲット制御信号決定モジュール３４０は、１つまたは複数の候補制御信号に対応する１つまたは複数の評価値に基づいて、１つまたは複数の候補制御信号からターゲット制御信号を選択するようにさらに構成することができる。いくつかの実施形態において、ターゲット制御信号決定モジュール３４０は、１つまたは複数の候補制御信号に対応する１つまたは複数の評価値から最も高い評価値を識別し、最も高い評価値に対応する候補制御信号を、ターゲット制御信号として選択することができる。いくつかの実施形態において、ターゲット制御信号決定モジュール３４０は、所定のルールに従って、１つまたは複数の候補制御信号からターゲット制御信号を選択することができる。
【００５８】
送信モジュール３５０は、車両の１つまたは複数の制御構成要素にターゲット制御信号を送信するように構成することができる。例えば、送信モジュール３５０は、車両の走行方向を調整するようにステアリング・デバイスに指令するために、ステアリング・デバイスにターゲット制御信号を送信することができる。別の例として、送信モジュール３５０は、車両の走行速度を調整するようにブレーキデバイスおよび／または加速装置に指令するために、ブレーキデバイスおよび／または加速装置にターゲット制御信号を送信することができる。
【００５９】
トレーニング・モジュール３６０は、サンプル車両と関連付けられるサンプル走行情報およびサンプル車両のサンプル状態に基づいて、トレーニングされた制御モデル（例えば、トレーニングされたＤＤＰＧネットワーク・モデル）を決定するように構成することができる。トレーニングされた制御モデルの決定のさらなる詳細は、本開示の他の箇所（例えば、図５〜図７およびその説明）に見出すことができる。
【００６０】
処理エンジン１１２内のモジュールは、ワイヤード接続またはワイヤレス接続を介して、互いに接続され、または、互いと通信することができる。ワイヤード接続は、メタル・ケーブル、光ケーブル、ハイブリッド・ケーブルなど、またはそれらの任意の組合せを含んでもよい。ワイヤレス接続は、ローカル・エリア・ネットワーク（ＬＡＮ）、ワイド・エリア・ネットワーク（ＷＡＮ）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＺｉｇＢｅｅ、ニア・フィールド通信（ＮＦＣ）など、またはそれらの任意の組合せを含んでもよい。上記モジュールのうちの２つ以上は、単一のモジュールに組み合わされてもよく、それらのモジュールのうちのいずれか１つは、２つ以上のユニットに分割されてもよい。例えば、取得モジュール３１０および状態決定モジュール３２０は、車両と関連付けられる走行情報と車両の状態の両方を取得することができる単一のモジュールとして組み合わされてもよい。別の例として、候補制御信号決定モジュール３３０およびターゲット制御信号決定モジュール３４０は、１つまたは複数の候補制御信号とターゲット制御信号の両方を決定することができる単一のモジュールとして組み合わせることができる。さらなる例として、処理エンジン１１２は、車両と関連付けられる情報および／またはデータ（例えば、車両と関連付けられる走行情報、車両の状態）を記憶するために使用されるストレージ・モジュール（図示せず）を含んでもよい。またさらなる例として、トレーニング・モジュール３６０は、不要であってもよく、トレーニングされた制御モデルは、本開示の他の箇所において開示されているもののような、ストレージ・デバイス（例えば、ストレージ１４０）から取得されてもよい。
【００６１】
図４は、本開示のいくつかの実施形態による、ターゲット制御信号を決定するための例示的なプロセスを示すフローチャートである。プロセス４００は、自律車両システム１００によって実行することができる。例えば、プロセス４００は、ストレージＲＯＭ２３０またはＲＡＭ２４０内に記憶されている命令のセットとして実施されてもよい。プロセッサ２２０および／または図３のモジュールは、命令のセットを実行することができ、命令を実行するとき、プロセッサ２２０および／またはモジュールは、プロセス４００を実施するように構成することができる。下記に提示される、図示されているプロセスの動作は、例示的であるように意図されている。いくつかの実施形態において、プロセス４００は、記載されていない１つまたは複数の追加の動作を伴って、かつ／または、記載されている動作のうちの１つまたは複数を伴わずに、達成されてもよい。加えて、図４に示されており、下記に説明されるプロセス４００の動作の順序は、限定であるようには意図されていない。
【００６２】
４１０において、処理エンジン１１２（例えば、取得モジュール３１０）（例えば、プロセッサ２２０のインターフェース回路）は、車両（例えば、車両１３０）と関連付けられる走行情報を取得することができる。処理エンジン１１２は、車両の検出ユニット（例えば、カメラ、レーダー）、本開示の他の箇所において開示されているストレージ・デバイス（例えば、ストレージ１４０）、または、外部リソース（例えば、交通案内プラットフォーム、ニュース・プラットフォーム）から走行情報を取得することができる。処理エンジン１１２は、一定の時間間隔（例えば、０．０１秒、０．０２秒、０．０５秒）に従って、リアル・タイムに、または実質的にリアル・タイムに走行情報を取得することができる。
【００６３】
いくつかの実施形態において、車両と関連付けられる走行情報は、車両の第１の所定の範囲内の知覚情報、車両の第１の所定の範囲内のマップ情報など、またはそれらの任意の組合せを含むことができる。第１の所定の範囲は、自律走行システム１００のデフォルト設定であってもよく、または、種々の状況下で調整可能であってもよい。例えば、第１の所定の範囲は、車両の現在の位置を中心とする領域（例えば、円、長方形、正方形、三角形、多角形）であってもよい。
【００６４】
いくつかの実施形態において、処理エンジン１１２は、車両の検出ユニット（例えば、カメラ、レーダー）から知覚情報を取得することができる。知覚情報は、道路状態情報、障害物情報など、またはそれらの任意の組合せを含んでもよい。道路状態情報は、道路幅、道路超、道路タイプ（例えば、高速道路、環状道路、脇道、高架道路、一方通行路、両面交通道路）、車線情報、交通標識（例えば、道路インジケータ）、交通信号情報、歩行者横断情報など、またはそれらの任意の組合せを含んでもよい。障害物情報は、障害物のタイプ（例えば、車両、歩行者、動物、建造物、樹木、道路上の防塞）、障害物の位置、障害物のサイズ、障害物の速度、車両の現在の位置と障害物の位置との間の距離など、またはそれらの任意の組合せを含んでもよい。
【００６５】
いくつかの実施形態において、処理エンジン１１２は、本開示の他の箇所において開示されているもののような、ストレージ・デバイス（例えば、ストレージ１４０）からマップ情報を取得することができる。本明細書において使用されている場合、いくつかの実施形態において、マップ情報は、道路状態情報の高精度表現を示す、高精度マップ（例えば、ＨＤマップ）に含まれる情報であってもよい。
【００６６】
４２０において、処理エンジン１１２（例えば、状態決定モジュール３２０）（例えば、プロセッサ２２０の処理回路）は、車両の状態を決定することができる。処理エンジン１１２は、一定の時間間隔（例えば、０．０１秒、０．０２秒、０．０５秒など）に従って、リアル・タイムに、または実質的にリアル・タイムに車両の状態を決定することができる。
【００６７】
いくつかの実施形態において、車両の状態は、車両の現在の位置、車両の速度（例えば、瞬間速度、所定の期間内の平均速度）、車両の加速度（例えば、瞬間加速度、所定の期間内の平均加速度）、車両のステアリング・ホイールの角度など、またはそれらの任意の組合せを含んでもよい。本明細書において使用される場合、「速度」は、「大きさ」の情報および／または「方向」の情報を含む。例えば、車両の速度は、速度の大きさが７０ｋｍ／ｈであり、速度の方向が水平方向から３０°の角度を有する方向であることを示す、「７０ｋｍ／ｈ、３０°」として表現することができる。同様に、「加速度」も、「大きさ」の情報および／または「方向」の情報を含む。いくつかの実施形態において、車両の状態は、残りの電力、残りのガソリン量、オイル温度、ガス圧力、タイヤ空気圧などをさらに含んでもよい。
【００６８】
いくつかの実施形態において、処理エンジン１１２は、車両の検出ユニットから車両の状態を取得することができる。例えば、処理エンジン１１２は、加速度センサーから車両の加速度を取得することができる。別の例として、処理エンジン１１２は、ステアリング角度センサーから、車両の瞬間転向角を反映する、ステアリング・ホイールの角度を取得することができる。
【００６９】
４３０において、処理エンジン１１２（例えば、候補制御信号決定モジュール３３０）（例えば、プロセッサ２２０の処理回路）は、トレーニングされた制御モデルを使用することによって、走行情報および車両の状態に基づいて、１つまたは複数の候補制御信号、および、１つまたは複数の候補制御信号に対応する１つまたは複数の評価値を決定することができる。本明細書において使用される場合、特定の制御信号に対応する評価値は、車両の走行プロセスに対する特定の制御信号と関連付けられる包括報酬（「予測報酬」としても参照される）を示す値を指す。
【００７０】
いくつかの実施形態において、制御信号は、車両の動作を制御するように構成されている命令を参照し得る。いくつかの実施形態において、制御信号は、複数の制御パラメータ（例えば、加速装置またはブレーキデバイスと関連付けられる制御パラメータ、ステアリング制御パラメータ）を含むことができる。例えば、制御信号は、Ｓ（Ｘ，Ｙ）として表現することができ、Ｘは加速装置またはブレーキデバイスと関連付けられる制御パラメータ（例えば、開度）を指し、Ｙはステアリング制御パラメータ（例えば、ステアリング・ホイール角度）を指す。本明細書において使用される場合、「開度」について、正の値は、加速装置動作を示し、負の値はブレーキ動作を示し、「ステアリング・ホイール角度」について、正の値は「右転向」を表し、負の値は「左転向」を示す。
【００７１】
いくつかの実施形態において、処理エンジン１１２は、トレーニング・モジュール３６０、または、本開示の他の箇所において開示されているストレージ・デバイス（例えば、ストレージ１４０）からトレーニングされた制御モデルを取得することができる。いくつかの実施形態において、トレーニングされた制御モデルは、深層決定的方策勾配（ＤＤＰＧ）ネットワーク・モデルを含むことができる。ＤＤＰＧネットワーク・モデルは、連続信号問題と関連付けられる機械学習において使用される強化学習モデルであり得る。トレーニングされた制御モデルによって、通常の多要因分析プロセスにおける意志決定の特定の態様を回避することができ、車両の動作を制御するための信号を直接的に決定することが可能になる。トレーニングされた制御モデルのさらなる詳細は、本開示の他の箇所（例えば、図５〜図７およびその説明）に見出すことができる。
【００７２】
処理エンジン１１２（例えば、候補制御信号決定モジュール３３０）（例えば、プロセッサ２２０の処理回路）は、トレーニングされた制御モデルを使用することによって、すべてにトレーニングされた制御モデルが関与する、種々の手法を用いて、１つまたは複数の候補制御信号、および、１つまたは複数の評価値を決定することができる。いくつかの実施形態において、いずれの制御信号が候補制御信号になり得るかに関する制限はない。いくつかの実施形態において、処理エンジン１１２は、前置フィルタ手法（ｐｒｅ−ｆｉｌｔｅｒ  ａｐｐｒｏａｃｈ）を使用して候補制御信号を決定してもよく、すなわち、トレーニングされた制御モデルを経なくなる前に、かつ、候補制御信号になる機会がなくなる前に、特定の制御信号を回避することができる。例えば、本開示のシステムおよび方法は、懸案の車両の基本仕様に対応するフィルタを含むことができる。そのような仕様は、限定ではないが、最大スピード、最大加速度、最大ブレーキ力、（特定のスピードにおける）最大転向角などのようなパラメータを含んでもよい。フィルタは、特定のパラメータしきい値（例えば、最大スピードの７５％、最大加速度の７５％、最大ブレーキ力の７５％、または最大転向角の７５％）を超える制御信号が候補信号にならないように、実施することができる。そのようなパラメータはまた、車両の特定の年式およびモデル、車両のマイレージ、および／または、車両の状態の所定の包括的評価に基づいて調整することもできる。制御信号に対する前置フィルタの手法によって、危険なおよび／または制限に違反するタイプの制御信号を回避することができ、トレーニングされた制御モデルが取り扱う必要があるデータが少なくなり、車両の敏速でよりリアル・タイムの制御が可能になる。この手法に加えて、いくつかの実施形態において、条件が満たされる場合、特に、安全性の危機に瀕しており、かつ、すべての候補制御信号が満足な評価値を提供することができるとは限らないときに、前置フィルタを抑制または回避することができる。
【００７３】
４４０において、処理エンジン１１２（例えば、ターゲット制御信号決定モジュール３４０）（例えば、プロセッサ２２０の処理回路）は、１つまたは複数の評価値に基づいて１つまたは複数の候補制御信号からターゲット制御信号を選択することができる。
【００７４】
いくつかの実施形態において、処理エンジン１１２は、１つまたは複数の候補制御信号に対応する１つまたは複数の評価値から最も高い評価値を識別し、最も高い評価値に対応する候補制御信号を、ターゲット制御信号として選択することができる。
【００７５】
いくつかの実施形態において、処理エンジン１１２は、１つまたは複数の所定のルールに従って、１つまたは複数の候補制御信号からターゲット制御信号を選択することができる。所定のルールは、自律走行システム１００のデフォルト設定であってもよく、または、種々の状況下で調整可能であってもよい。例えば、処理エンジン１１２が２つの候補制御信号Ｓ１（Ｘ１，Ｙ１）およびＳ２（Ｘ２，Ｙ２）を決定すると仮定することができ、ここで、Ｘ１の絶対値はＸ２の絶対値よりも小さく、Ｙ１の絶対値はＹ２の絶対値よりも小さい。この状況において、処理エンジン１１２は、候補制御信号Ｓ１（Ｘ１，Ｙ１）をターゲット制御信号として選択することができる。
【００７６】
処理エンジン１１２（例えば、ターゲット制御信号決定モジュール３４０）（例えば、プロセッサ２２０の処理回路）は、マルチステップ・プロセスによってターゲット制御信号を選択することができる。例えば、いくつかの実施形態において、処理エンジン１１２は、第１のステップの評価値を使用して候補制御信号を低減し、その後、特定の所定のルールを使用して選択を完了することができる。別の例として、いくつかの実施形態において、処理エンジン１１２は、特定の所定のルールを使用していくつかの候補制御信号を除去し、その後、評価値に基づいて、候補制御信号をターゲット制御信号として選択することができる。いくつかの状況において、後者の手法は、「概ね」満足な結果を提示するが、また、ある視点からは長期的なおよび／または修復不可能な損失を伴う一定の損傷または結果をも引き起こす候補制御信号が選択されることを防止することができる。
【００７７】
４５０において、処理エンジン１１２（例えば、送信モジュール３５０）（例えば、プロセッサ２２０のインターフェース回路）は、車両の１つまたは複数の制御構成要素にターゲット制御信号を送信することができる。例えば、処理エンジン１１２は、車両の走行方向を調整するようにステアリング・デバイスに指令するために、ステアリング・デバイスにターゲット制御信号を送信することができる。別の例として、処理エンジン１１２は、車両の走行速度を調整するようにブレーキデバイスおよび／または加速装置に指令するために、ブレーキデバイスおよび／または加速装置にターゲット制御信号を送信することができる。
【００７８】
上記の説明は、例示のみを目的として与えられており、本開示の範囲を限定するようには意図されていないことに留意されたい。当業者であれば、本開示の教示の下で複数の変形形態および修正形態を作成することができる。しかしながら、それらの変形形態および修正形態は、本開示の範囲内から逸脱しない。例えば、１つまたは複数の他の任意選択的な動作（例えば、記憶動作）が、プロセス４００の他の箇所において追加されてもよい。記憶動作において、処理エンジン１１２は、車両と関連付けられる情報および／またはデータ（例えば、車両と関連付けられる走行情報、車両の状態、候補制御信号）を、本開示の他の箇所において開示されているストレージ（例えば、ストレージ１４０）内に記憶することができる。別の例として、動作４１０および動作４２０が同時に実施されてもよい。
【００７９】
図５は、本開示のいくつかの実施形態による、トレーニングされた制御モデルを決定するための例示的なプロセスを示すフローチャートである。プロセス５００は、自律車両システム１００によって実行することができる。例えば、プロセス５００は、ストレージＲＯＭ２３０またはＲＡＭ２４０内に記憶されている命令のセットとして実施されてもよい。プロセッサ２２０および／またはトレーニング・モジュール３６０は、命令のセットを実行することができ、命令を実行するとき、プロセッサ２２０および／またはトレーニング・モジュール３６０は、プロセス５００を実施するように構成することができる。下記に提示される、図示されているプロセスの動作は、例示的であるように意図されている。いくつかの実施形態において、プロセス５００は、記載されていない１つまたは複数の追加の動作を伴って、かつ／または、記載されている動作のうちの１つまたは複数を伴わずに、達成されてもよい。加えて、図５に示されており、下記に説明されるプロセス５００の動作の順序は、限定であるようには意図されていない。
【００８０】
５１０において、処理エンジン１１２（例えば、トレーニング・モジュール３６０）（例えば、プロセッサ２２０のインターフェース回路）は、予備制御モデル（例えば、予備深層決定的方策勾配（ＤＤＰＧ）ネットワーク・モデル）を取得することができる。処理エンジン１１２は、ネットワーク１２０を介して、本明細書の他の箇所において開示されているストレージ・デバイス（例えば、ストレージ１４０）および／または外部データ・ソース（図示せず）から予備制御モデルを取得することができる。予備制御モデルは、自律走行システム１００のデフォルト設定であってもよく、または、種々の状況下で調整可能であってもよい１つもしくは複数の予備パラメータを含んでもよい。
【００８１】
５２０において、処理エンジン１１２（例えば、トレーニング・モジュール３６０）（例えば、プロセッサ２２０の処理回路）は、サンプル車両と関連付けられる予備サンプル走行情報を取得することができる。いくつかの実施形態において、サンプル車両は、車両１３０と類似の特徴（例えば、車両タイプ、車両モデル、車両年式、車両重量、エンジン出力）を有する。
【００８２】
動作４１０に関連して説明したように、サンプル車両と関連付けられる予備サンプル走行情報は、サンプル車両の第２の所定の範囲内の予備サンプル知覚情報、サンプル車両の第２の所定の範囲内の予備サンプルマップ情報など、またはそれらの任意の組合せを含むことができる。いくつかの実施形態において、第２の所定の範囲は、動作４１０に関連して説明した第１の所定の範囲と同じであってもよく、または、異なってもよい。予備サンプル知覚情報は、予備サンプル道路状態情報、予備サンプル障害物情報など、またはそれらの任意の組合せを含んでもよい。いくつかの実施形態において、サンプル車両と関連付けられる予備サンプル走行情報は、自律走行システム１００のデフォルト設定であってもよく、または、種々の状況下で調整可能であってもよい。
【００８３】
５３０において、処理エンジン１１２（例えば、トレーニング・モジュール３６０）（例えば、プロセッサ２２０の処理回路）は、サンプル車両の予備サンプル状態を取得することができる。
【００８４】
動作４２０に関連して説明したように、サンプル車両の予備サンプル状態は、サンプル車両の予備サンプル速度（例えば、予備サンプル瞬間速度、所定の期間内の予備サンプル平均速度）、サンプル車両の予備サンプル加速度（例えば、予備サンプル瞬間加速度、所定の期間内の予備サンプル平均加速度）、サンプル車両の予備サンプルステアリング・ホイールの角度など、またはそれらの任意の組合せを含んでもよい。いくつかの実施形態において、サンプル車両の予備サンプル状態は、予備サンプル残り電力、予備サンプル残りガソリン量、予備サンプルオイル温度、予備サンプルガス圧力、予備サンプルタイヤ空気圧などをさらに含んでもよい。いくつかの実施形態において、サンプル車両の予備状態は、自律走行システム１００のデフォルト設定であってもよく、または、種々の状況下で調整可能であってもよい。
【００８５】
５４０において、処理エンジン１１２（例えば、トレーニング・モジュール３６０）（例えば、プロセッサ２２０の処理回路）は、予備サンプル走行情報、サンプル車両の予備サンプル状態、および予備制御モデルに基づいて、予備サンプル制御信号を決定することができる。いくつかの実施形態において、処理エンジン１１２は、予備制御モデルに含まれる予備ａｃｔｏｒニューラル・ネットワーク（ｐｒｅｌｉｍｉｎａｒｙ  ａｃｔｏｒ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）に基づいて、予備サンプル制御信号を決定することができる。動作４３０に関連して説明したように、予備サンプル制御信号は、複数の制御パラメータ（例えば、加速装置またはブレーキデバイスと関連付けられる制御パラメータ、ステアリング制御パラメータ）を含むことができる。例えば、予備サンプル走行情報が、サンプル車両の正面に障害物が存在することを示すと仮定し、処理エンジン１１２が、予備制御モデルに従ってサンプル車両を減速させるために予備サンプル制御信号を決定することができる。
【００８６】
５５０において、処理エンジン１１２（例えば、トレーニング・モジュール３６０）（例えば、プロセッサ２２０の処理回路）は、予備サンプル制御信号に対応する予備報酬値に基づいて、予備制御モデルと関連付けられる予備サンプル評価値を決定することができる。いくつかの実施形態において、処理エンジン１１２は、予備制御モデルに含まれる予備ｃｒｉｔｉｃニューラル・ネットワーク（ｐｒｅｌｉｍｉｎａｒｙ  ｃｒｉｔｉｃ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）に基づいて、予備サンプル制御信号に対応する予備サンプル評価値を決定することができる。本明細書において使用される場合、特定のサンプル制御信号を一例に挙げると、特定のサンプル制御信号に対応する報酬値は、サンプル車両の走行プロセスに対する特定のサンプル制御信号の寄与を評価するために使用されるパラメータとすることができる。また、特定の反復における特定の制御信号を一例に挙げると、特定のサンプル制御信号に対応する評価値は、特定の反復までのサンプル車両の走行プロセスに対する特定の制御信号と関連付けられる包括報酬（「予測報酬」としても参照される）を示す値とすることができる。
【００８７】
いくつかの実施形態において、予備報酬値は、予備サンプル制御信号と関連付けられる衝突条件、予備サンプル制御信号と関連付けられる車線条件、予備サンプル制御信号と関連付けられる停止条件など、またはそれらの任意の組合せと関連付けることができる。
【００８８】
例えば、処理エンジン１１２は、予備サンプル制御信号の下でサンプル車両と障害物（サンプル車両に最も近い障害物を参照する）との間の距離（「障害物距離」としても参照される）を決定し、その距離に基づいて予備サンプル制御信号に対応する予備報酬値を決定することができる。いくつかの実施形態において、処理エンジン１１２は、特定の範囲（例えば、０〜１）を規定し、サンプル車両と障害物との間の距離をその特定の範囲にマッピングし、対応するマッピング値を、予備サンプル制御信号に対応する予備報酬値として指定することができる。例えば、サンプル車両と障害物との間の距離が第１の距離しきい値（例えば、０．５ｍ）よりも長いと仮定し、処理エンジン１１２が、予備サンプル制御信号に対応する予備報酬値が１であると決定することができ、一方、サンプル車両と障害物との間の距離が第２の距離しきい値（例えば、０．０１ｍ）よりも小さい（または、サンプル車両が障害物と衝突する）と仮定し、処理エンジン１１２が、予備サンプル制御信号に対応する予備報酬値が０であると決定することができる。したがって、サンプル車両と障害物との間の距離が長いほど、予備サンプル制御信号に対応する予備報酬値は高くなり得る。第１の距離しきい値および／または第２の距離しきい値は、自律走行システム１００のデフォルト設定であってもよく、または、種々の状況下で調整可能であってもよい。
【００８９】
別の例として、処理エンジン１１２は、予備サンプル制御信号の下で、サンプル車両と、サンプル車両が位置する車線の中心線との間の距離（「車線距離」としても参照される）を決定し、その距離に基づいて予備サンプル制御信号に対応する予備報酬値を決定することができる。同様に、処理エンジン１１２はまた、特定の範囲（例えば、０〜１）を規定し、サンプル車両と車線の中心線との間の距離をその特定の範囲にマッピングし、対応するマッピング値を、予備サンプル制御信号に対応する予備報酬値として指定することができる。例えば、サンプル車両と車線の中心線との間の距離が第３の距離しきい値（例えば、０．５ｍ）よりも長いと仮定し、処理エンジン１１２が、予備サンプル制御信号に対応する予備報酬値が１であると決定することができ、一方、サンプル車両と車線の中心線との間の距離が第４の距離しきい値（例えば、０．０１ｍ）よりも小さいと仮定し、処理エンジン１１２が、予備サンプル制御信号に対応する予備報酬値が０であると決定することができる。したがって、サンプル車両と車線の中心線との間の距離が長いほど、予備サンプル制御信号に対応する予備報酬値は高くなり得る。第３の距離しきい値および／または第４の距離しきい値は、自律走行システム１００のデフォルト設定であってもよく、または、種々の状況下で調整可能であってもよい。
【００９０】
さらなる例として、処理エンジン１１２は、予備サンプル制御信号の下で、サンプル車両が停止条件（例えば、赤色交通信号灯、歩道）を満たすか否かを決定することができる。予備サンプル制御信号の下で、サンプル車両が停止条件を満たすという決定に応答して、処理エンジン１１２は、予備サンプル制御信号に対応する予備報酬値を、１として決定することができる。予備サンプル制御信号の下で、サンプル車両が停止条件を満たさないという決定に応答して、処理エンジン１１２は、予備サンプル制御信号に対応する予備報酬値を、０として決定することができる。
【００９１】
いくつかの実施形態において、処理エンジン１１２は、上述した予備報酬値（「候補予備報酬値」としても参照され得る）に基づいて包括報酬値を決定することができる。例えば、処理エンジン１１２は、候補予備報酬値の合計を包括報酬値として決定することができる。別の例として、処理エンジン１１２は、候補予備報酬値の平均（または加重平均）を包括報酬値として決定することができる。
【００９２】
いくつかの実施形態において、処理エンジン１１２は、下記の式（１）による行動−効用関数（ａｃｔｉｏｎ−ｕｔｉｌｉｔｙ  ｆｕｎｃｔｉｏｎ）（Ｑ関数としても参照される）に基づいて、予備制御モデルと関連付けられる予備サンプル評価値を決定することができる。
Ｑ’（ｓ，ａ）＝Ｑ（ｓ，ａ）＋α（ｒｉ，ｔ＋λＱ＊（ｓ，ａ））        （１）
式中、ａはｉ番目の反復におけるサンプル制御信号を指し、ｓはｉ番目の反復におけるサンプル車両のサンプル状態を指し、Ｑ’（ｓ，ａ）は、ｉ番目の反復における制御モデルと関連付けられるサンプル評価値を指し、Ｑ（ｓ，ａ）は、前の反復における制御モデルと関連付けられるサンプル評価値を指し（１番目の反復においてはデフォルト値とすることができる）、Ｑ＊（ｓ，ａ）は、ｉ番目の反復に対応する制御モデルと関連付けられる最適サンプル評価値を指し、αは、学習率を指し、ｒｉ，ｔは、ｉ番目の反復におけるサンプル制御信号に対応する報酬値を指し、λは、割引率（例えば、０〜１内の値）を指す。いくつかの実施形態において、学習率および／または割引率は、自律走行システム１００のデフォルト設定であってもよく、または、種々の状況下で調整可能であってもよい。いくつかの実施形態において、ｉ番目の反復に対応する最適サンプル評価値は、複数の前の反復において決定されている複数のサンプル評価値に基づいて決定することができる。例えば、最適評価値は、複数の前の反復において決定されている複数のサンプル評価値の平均であってもよい。別の例として、最適評価値は、複数の前の反復において決定されている複数のサンプル評価値の間で最も高いサンプル評価値であってもよい。
【００９３】
５６０において、処理エンジン１１２（例えば、トレーニング・モジュール３６０）（例えば、プロセッサ２２０の処理回路）は、予備サンプル評価値が既定の条件を満たすか否かを決定することができる。
【００９４】
いくつかの実施形態において、処理エンジン１１２は、予備サンプル評価値が第１のしきい値よりも高いか否かを決定することができる。予備サンプル評価値が第１のしきい値よりも高いという決定に応答して、処理エンジン１１２は、予備サンプル評価値が既定の条件を満たすと決定することができる。予備サンプル評価値が第１のしきい値以下である決定に応答して、処理エンジン１１２は、予備サンプル評価値が既定の条件を満たさないと決定することができる。
【００９５】
いくつかの実施形態において、処理エンジン１１２は、反復の計数（ｎｕｍｂｅｒ  ｃｏｕｎｔ）が第２のしきい値よりも高いか否かを決定することができる。反復の計数が第２のしきい値よりも高いという決定に応答して、処理エンジン１１２は、予備サンプル評価値が既定の条件を満たすと決定することができる。反復の計数が第２のしきい値以下である決定に応答して、処理エンジン１１２は、予備サンプル評価値が既定の条件を満たさないと決定することができる。第１のしきい値および／または第２のしきい値は、自律走行システム１００のデフォルト設定であってもよく、または、種々の状況下で調整可能であってもよい。
【００９６】
いくつかの実施形態において、処理エンジン１１２は、予備制御モデルの損失関数を決定し、予備サンプル評価値に基づいて損失関数の値を決定することができる。さらに、処理エンジン１１２は、損失関数の値が損失しきい値よりも低いか否かを決定することができる。損失関数の値が損失しきい値よりも低いという決定に応答して、処理エンジン１１２は、予備サンプル評価値が既定の条件を満たすと決定することができる。損失関数の値が損失しきい値以上であるという決定に応答して、処理エンジン１１２は、予備サンプル評価値が既定の条件を満たさないと決定することができる。
【００９７】
予備サンプル評価値が既定の条件を満たすという決定に応答して、５７０において、処理エンジン１１２（例えば、トレーニング・モジュール３６０）（例えば、プロセッサ２２０の処理回路）は、予備制御モデルをトレーニングされた制御モデルとして指定することができる。
【００９８】
予備サンプル評価値が既定の条件を満たさないという決定に応答して、処理エンジン１１２（例えば、トレーニング・モジュール３６０）（例えば、プロセッサ２２０の処理回路）は、プロセス５００を動作５８０まで実行して、更新されたサンプル評価値が既定の条件を満たすまで、予備制御モデルを更新するために１回または複数回の反復を実施することができる。例示的な反復を、下記図６において説明する。
【００９９】
６１０において、処理エンジン１１２（例えば、トレーニング・モジュール３６０）（例えば、プロセッサ２２０の処理回路）は、前の反復における報酬値に基づいて、更新された制御モデルを決定することができる。
【０１００】
いくつかの実施形態において、処理エンジン１１２は、前の反復における制御モデルの１つまたは複数のパラメータ（例えば、予備制御モデルの１つまたは複数の予備パラメータ）を更新することによって、更新された制御モデルを決定することができ、更新された１つまたは複数のパラメータの下で、報酬値および／またはサンプル評価値は増大され得る。
【０１０１】
６２０において、処理エンジン１１２（例えば、トレーニング・モジュール３６０）（例えば、プロセッサ２２０の処理回路）は、サンプル車両と関連付けられる更新されたサンプル走行情報を取得することができる。
【０１０２】
６３０において、処理エンジン１１２（例えば、トレーニング・モジュール３６０）（例えば、プロセッサ２２０の処理回路）は、前の反復におけるサンプル制御信号、および、前の反復におけるサンプル車両のサンプル状態に基づいて、サンプル車両の更新されたサンプル状態を推定することができる。
【０１０３】
いくつかの実施形態において、処理エンジン１１２は、シミュレーション・モデルに従って、前の反復におけるサンプル制御信号、および、前の反復におけるサンプル車両のサンプル状態に基づいて、サンプル車両の更新されたサンプル状態を推定することができる。いくつかの実施形態において、シミュレーション・モデルは、サンプル車両の１つまたは複数の特徴（例えば、車両タイプ、車両重量、車両モデル、車両年式、エンジン出力、ブレーキ効率）、道路状態情報、障害物情報、マップ情報など、またはそれらの任意の組合せによって構成することができる。処理エンジン１１２は、シミュレーション・モデルに基づいてサンプル車両の動作をシミュレートし、シミュレーション結果に基づいてサンプル車両の更新されたサンプル状態を決定することができる。
【０１０４】
６４０において、処理エンジン１１２（例えば、トレーニング・モジュール３６０）（例えば、プロセッサ２２０の処理回路）は、更新されたサンプル走行情報、サンプル車両の更新されたサンプル状態、および更新された制御モデルに基づいて、更新されたサンプル制御信号を決定することができる。例えば、処理エンジン１１２は、更新されたサンプル走行情報およびサンプル車両の更新されたサンプル状態を、更新された制御モデルに入力することができる。処理エンジン１１２は、更新された制御モデルの出力に基づいて、更新されたサンプル制御信号を決定することができる。
【０１０５】
６５０において、処理エンジン１１２（例えば、トレーニング・モジュール３６０）（例えば、プロセッサ２２０の処理回路）は、更新されたサンプル制御信号に対応する更新された報酬値、および、前の反復におけるサンプル評価値に基づいて、更新された制御モデルと関連付けられる更新されたサンプル評価値を決定することができる。例えば、処理エンジン１１２は、式（１）に従って、更新されたサンプル評価値を決定することができる。
【０１０６】
６６０において、動作５６０に関連して説明したように、処理エンジン１１２（例えば、トレーニング・モジュール３６０）（例えば、プロセッサ２２０の処理回路）は、更新されたサンプル評価値が既定の条件を満たすか否かを決定することができる。
【０１０７】
いくつかの実施形態において、処理エンジン１１２はまた、更新された制御モデルが収束するか否かを決定することもできる。例えば、処理エンジン１１２は、更新されたサンプル評価値と、前の反復におけるサンプル評価値との間の差分値が、差分しきい値未満であるか否かを決定することができる。差分値が差分しきい値未満であるという決定に応答して、処理エンジン１１２は、更新された制御モデルが収束すると決定することができ、したがって、処理エンジン１１２は、更新されたサンプル評価値が既定の条件を満たすと決定することができる。差分値が差分しきい値以上である決定に応答して、処理エンジン１１２は、更新されたサンプル評価値が既定の条件を満たさないと決定することができる。
【０１０８】
更新されたサンプル評価値が既定の条件を満たすという決定に応答して、６７０において、処理エンジン１１２は、更新された制御モデルをトレーニングされた制御モデルとして指定することができる。
【０１０９】
更新されたサンプル評価値が既定の条件を満たさないという決定に応答して、処理エンジン１１２は、プロセス６００を動作６１０まで戻るように実行して、更新されたサンプル評価値が既定の条件を満たすまで、更新された制御モデルを更新する（すなわち、次の反復を開始する）ことができる。
【０１１０】
いくつかの実施形態において、サンプル制御信号に対応する報酬値は、サンプル制御信号の下で、サンプル車両の他の特徴（例えば、速度、加速度）と関連付けられてもよい。いくつかの実施形態において、処理エンジン１１２は、様々な種類の報酬値を規定し、様々な種類の報酬値に基づいて、様々な種類の制御モデルを決定することができる。実際的適用例において、ユーザは、特定の要件に従って特定の制御モデルを選択することができる。
【０１１１】
上記の説明は、例示のみを目的として与えられており、本開示の範囲を限定するようには意図されていないことに留意されたい。当業者であれば、本開示の教示の下で複数の変形形態および修正形態を作成することができる。しかしながら、それらの変形形態および修正形態は、本開示の範囲内から逸脱しない。例えば、１つまたは複数の他の任意選択的な動作（例えば、記憶動作）が、プロセス５００および／またはプロセス６００の他の箇所において追加されてもよい。記憶動作において、処理エンジン１１２は、サンプル車両と関連付けられる情報および／またはデータ（例えば、サンプル走行情報、サンプル車両のサンプル状態）を、本開示の他の箇所において開示されているストレージ（例えば、ストレージ１４０）内に記憶することができる。別の例として、動作５２０および動作５３０が同時に実施されてもよい。さらなる例として、動作６２０および動作６３０が同時に実施されてもよい。
【０１１２】
図７は、本開示のいくつかの実施形態による、深層決定的方策勾配（ＤＤＰＧ）ネットワーク・モデルをトレーニングするための例示的なプロセスを示す概略図である。
【０１１３】
図７に示すように、ＤＤＰＧネットワーク・モデルは、ａｃｔｏｒニューラル・ネットワーク（ａｃｔｏｒ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）およびｃｒｉｔｉｃニューラル・ネットワーク（ｃｒｉｔｉｃ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）を含み、「環境」は、サンプル車両が配置されているシナリオを指し、本発明においては、「環境」は地上交通シナリオであると仮定することができる。本開示によれば、トレーニング・プロセスが、１回または複数回の反復を含むことが分かり、ここでは一例としてｉ番目の反復が説明される。具体的には、処理エンジン１１２は、時点ｔにおけるサンプル車両のサンプル状態ｓｔ（例えば、位置、速度）を決定することができる。処理エンジン１１２は、ｉ番目の反復において、ａｃｔｏｒニューラル・ネットワークに従ってサンプル車両の状態ｓｔに基づいて（サンプル走行情報は、ここでは便宜上省略する）、サンプル車両の時点ｔに対応するサンプル制御信号ａｔを決定することができる。さらに、処理エンジン１１２は、サンプル制御信号ａｔに対応する報酬値ｒｔを決定することができ、同時にまたは引き続いて、処理エンジン１１２は、ｃｒｉｔｉｃニューラル・ネットワークに従って、サンプル制御信号ａｔに対応する深層決定的方策勾配（ＤＤＰＧ）ネットワーク・モデルと関連付けられるサンプル評価値Ｑｔ’（ｓｔ，ａｔ）を決定することができる。処理エンジン１１２は、動作５６０に関連して説明したように、サンプル評価値Ｑｔ’（ｓｔ，ａｔ）が既定の条件を満たすか否かを決定することができる。サンプル評価値Ｑｔ’（ｓｔ，ａｔ）が既定の条件を満たすという決定に応答して、６７０において、処理エンジン１１２は、ｉ番目の反復におけるＤＤＰＧネットワーク・モデルを最終的なトレーニングされたＤＤＰＧモデルとして指定することができる。サンプル評価値Ｑｔ’（ｓｔ，ａｔ）が既定の条件を満たさないという決定に応答して、６７０において、処理エンジン１１２は、更新されたサンプル評価値が既定の条件を満たすまで、次の反復を開始することができる。
【０１１４】
このように、基本概念を説明したが、むしろ、当業者には、この詳細な開示を読んだ後、上記の詳細な開示が例としてのみ提示されるように意図されており、限定ではないことが明らかであり得る。本明細書において明示的には述べられていないが、様々な改変、改善、および修正が行われ得、当業者向けに意図される。これらの改変、改善、および修正は本開示によって示唆されるように意図されており、本開示の例示的な実施形態の主旨および範囲内にある。
【０１１５】
その上、特定の用語が、本開示の実施形態を説明するために使用されている。本明細書において、「１つの実施形態」、「一実施形態」、および／または「いくつかの実施形態」という用語は、その実施形態と関連して説明されている特定の特徴、構造、または特性が、本発明の少なくとも１つの実施形態に含まれることを意味する。それゆえ、本明細書の様々な部分において「一実施形態」または「１つの実施形態」または「代替的な実施形態」が２回以上参照されている場合、これらは必ずしもすべてが同じ実施形態を参照しているとは限らないことが強調されるものであり、そのように理解されるべきである。さらに、特定の特徴、構造、または特性は、本開示の１つまたは複数の実施形態において、適切であるように組み合わせることができる。
【０１１６】
さらに、当業者には理解されるように、本開示の諸態様は、本明細書において、任意の新規のかつ有用なプロセス、機械、製造物、もしくは組成物、またはその任意の新規のかつ有用な改善を含む、複数の特許可能なクラスまたはコンテキストのいずれかにおいて例示および記載され得る。したがって、本開示の諸態様は、本明細書においてはすべて包括的に「ユニット」、「モジュール」または「システム」として参照される場合がある、全体がハードウェアの実装形態、全体がソフトウェアの実装形態（ファームウェア、常駐ソフトウェア、マイクロコードなどを含む）、または、ソフトウェアとハードウェアとを組み合わせた実装形態の形態を取り得る。さらに、本開示の諸態様は、コンピュータ可読プログラム・コードを具現化される任意の１つまたは複数のコンピュータ可読媒体内で具現化されるコンピュータプログラム製品の形態を取り得る。
【０１１７】
コンピュータ可読信号媒体は、コンピュータ可読プログラム・コードを具現化されている、例えばベースバンド内かまたは搬送波の一部としての伝搬されるデータ信号を含むことができる。そのような伝搬される信号は、電磁、光学など、またはそれらの任意の適切な組合せを含む、様々な形態のいずれかをとることができる。コンピュータ可読信号媒体は、コンピュータ可読記憶媒体ではなく、命令実行システム、装置、またはデバイスによって、またはそれらと関連して使用するためのプログラムを通信、伝搬、または伝送することができる任意のコンピュータ可読媒体であってもよい。コンピュータ可読信号媒体上に具現化されるプログラム・コードは、無線、有線、光ファイバ・ケーブル、ＲＦなど、または上記の任意の適切な組合せを含む、任意の適切な媒体を使用して伝送することができる。
【０１１８】
本発明の諸態様のための動作を実行するためのコンピュータ・プログラム・コードは、Ｊａｖａ（登録商標）、Ｓｃａｌａ、Ｓｍａｌｌｔａｌｋ、Ｅｉｆｆｅｌ、ＪＡＤＥ、Ｅｍｅｒａｌｄ、Ｃ＋＋、Ｃ＃、ＶＢ．ＮＥＴ、Ｐｙｔｈｏｎなどのようなオブジェクト指向プログラミング言語、および、「Ｃ」プログラミング言語、Ｖｉｓｕａｌ  Ｂａｓｉｃ、Ｆｏｒｔｒａｎ  ２１０３、Ｐｅｒｌ、ＣＯＢＯＬ  ２１０２、ＰＨＰ、ＡＢＡＰなどのような従来的な手続き型プログラミング言語、Ｐｙｔｈｏｎ、ＲｕｂｙおよびＧｒｏｏｖｙのようなまたは同様のプログラミング言語のような動的プログラミング言語、または他のプログラミング言語を含む、１つまたは複数のプログラミング言語の任意の組合せで書くことができる。プログラム・コードは、その全体をユーザのコンピュータ上で、部分的にユーザのコンピュータ上で、独立型ソフトウェア・パッケージとして、部分的にユーザのコンピュータ上でかつ部分的にリモート・コンピュータ上で、またはその全体をリモート・コンピュータもしくはサーバ上で実行することができる。後者のシナリオにおいて、リモート・コンピュータが、ユーザのローカル・エリア・ネットワーク（ＬＡＮ）または広域ネットワーク（ＷＡＮ）を含む任意のタイプのネットワークを通じてユーザのコンピュータに接続されてもよく、あるいは、接続は、外部コンピュータに対して（例えば、インターネット・サービス・プロバイダを使用してインターネットを通じて）もしくはクラウド・コンピューティング環境において行われてもよく、または、サービスとしてのソフトウェア（ＳａａＳ）のようなサービスとして提供されてもよい。
【０１１９】
さらに、処理要素もしくはシーケンスの記載されている順序、または、数字、文字、もしくは他の表記の使用は、それゆえ、特許請求されているプロセスおよび方法を、特許請求項の範囲において指定され得る場合を除いて、任意の順序に限定するようには意図されていない。上記の開示は、様々な例を通じて、本開示の様々な有用な実施形態であると現在考えられているものを論じているが、そのような詳細は、その目的のためのみのものであること、および、添付の特許請求の範囲は開示される実施形態に限定されず、逆に、開示される実施形態の主旨および範囲内にある修正および均等な構成を包含するように意図されていることは理解されたい。例えば、上述の様々な構成要素の実装形態はハードウェア・デバイスにおいて具現化することができるが、ソフトウェアのみのソリューション、例えば、既存のサーバまたはモバイル・デバイス上へのインストールとして実装されてもよい。
【０１２０】
同様に、実施形態の上記の説明において、様々な特徴が、様々な本発明の実施形態のうちの１つまたは複数の理解を助ける本開示の簡素化の目的で、単一の実施形態、図面、またはその説明にグループ化されていることがあることは理解されたい。しかしながら、この開示方法は、特許請求されている主題が、各請求項に明示的に記載されているよりも多くの特徴を必要とするという意図を反映するものとして解釈されるべきではない。むしろ、本発明の実施形態は、単一の上記の開示される実施形態のすべての特徴未満に存する。
【０１２１】
いくつかの実施形態において、本出願の特定の実施形態を説明および特許請求するために使用されている量または特性を表す数は、場合によっては「約」、「おおよそ」または「実質的に」という用語によって修飾されているものとして理解されるべきである。例えば、「約」、「おおよそ」または「実質的に」は、別途記載しない限り、それが説明する値の±２０％の変動を示し得る。したがって、いくつかの実施形態において、本明細書書面および添付の特許請求の範囲において記載されている数値パラメータは、特定の実施形態によって取得されようとする所望の特性に応じて変化し得る近似である。いくつかの実施形態において、数値パラメータは、報告されている有効数値の数に照らして、かつ、通常の丸め技法を適用することによって解釈されるべきである。本出願のいくつかの実施形態の広い範囲を記載している数値範囲およびパラメータは近似であるにもかかわらず、特定の例において記載されている数値は可能な限り正確に報告されている。
【０１２２】
本明細書において参照されている特許、特許出願、特許出願公開、および、記事、書籍、仕様書、刊行物、文書、物品などのような他の資料は、それと関連付けられる任意の出願経過、本出願と一致しないもしくは矛盾するそのいずれか、または、現時点もしくは後に本明細書と関連付けられる特許請求項の最も広い範囲に関して限定効果を有し得るそのいずれかを除いて、本明細書においてこの参照によってその全体が本明細書に組み込まれる。例として、本明細書において組み込まれている資料のいずれかと関連付けられる用語の記載、定義、および／または使用と、本明細書と関連付けられる用語の記載、定義、および／または使用との間に何らかの不一致または矛盾がある場合、本明細書における用語の記載、定義、および／または使用が有効であるものとする。
【０１２３】
終わりに、本明細書において開示されている本出願の実施形態は、本出願の実施形態の原理の例示であることは理解されたい。利用され得る他の修正は、本出願の範囲内にあり得る。したがって、限定ではなく例として、本出願の実施形態の代替構成が、本明細書における教示に従って利用されてもよい。したがって、本出願の実施形態は、正確に図示および記載されているものに限定されない。
【図１】
2021514882.tif 000003
【図２】
2021514882.tif 000004
【図３】
2021514882.tif 000005
【図４】
2021514882.tif 000006
【図５】
2021514882.tif 000007
【図６】
2021514882.tif 000008
【図７】
2021514882.tif 000009
【手続補正書】
【提出日】平成31年4月12日(2019.4.12)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
自律走行のためのシステムであって、
車両と関連付けられる走行情報を取得するように構成されている取得モジュールと、
前記車両の状態を決定するように構成されている状態決定モジュールと、
トレーニングされた制御モデルを使用することによって、前記走行情報および前記車両の前記状態に基づいて、１つまたは複数の候補制御信号、および、前記１つまたは複数の候補制御信号に対応する１つまたは複数の評価値を決定するように構成されている候補制御信号決定モジュールと、
前記１つまたは複数の評価値に基づいて、前記１つまたは複数の候補制御信号からターゲット制御信号を選択するように構成されているターゲット制御信号決定モジュールと、
前記車両の制御構成要素に前記ターゲット制御信号を送信するように構成されている送信モジュールと
を備える、自律走行のためのシステム。
【請求項２】
前記車両と関連付けられる前記走行情報は、前記車両の第１の所定の範囲内の知覚情報および前記車両の前記第１の所定の範囲内のマップ情報を含む、請求項１に記載のシステム。
【請求項３】
前記知覚情報は、道路状態情報および障害物情報を含む、請求項２に記載のシステム。
【請求項４】
前記車両の前記状態は、前記車両の速度、前記車両の加速度、および、前記車両のステアリング・ホイール角度を含む、請求項１〜３のいずれか一項に記載のシステム。
【請求項５】
前記トレーニングされた制御モデルは、トレーニング・プロセスによって決定され、
前記トレーニング・プロセスは、
予備制御モデルを取得するステップと、
予備サンプル走行情報を取得するステップであって、前記予備サンプル走行情報は、サンプル車両の第２の所定の範囲内の予備サンプル知覚情報、および、前記サンプル車両の前記第２の所定の範囲内の予備サンプルマップ情報を含む、予備サンプル走行情報を取得するステップと、
前記サンプル車両の予備サンプル状態を取得するステップと、
前記予備サンプル走行情報、前記サンプル車両の前記予備サンプル状態、および前記予備制御モデルに基づいて、予備サンプル制御信号を決定するステップと、
前記予備サンプル制御信号に対応する予備報酬値に基づいて、前記予備制御モデルと関連付けられる予備サンプル評価値を決定するステップであって、前記予備報酬値は、前記予備サンプル制御信号と関連付けられる衝突条件、前記予備サンプル制御信号と関連付けられる車線条件、または、前記予備サンプル制御信号と関連付けられる停止条件のうちの少なくとも１つと関連付けられる、予備サンプル評価値を決定するステップと、
前記予備サンプル評価値が既定の条件を満たすか否かを決定するステップと、
前記予備サンプル評価値が前記既定の条件を満たすという前記決定に応答して、前記予備制御モデルを前記トレーニングされた制御モデルとして指定するステップと
を含む、請求項１〜４のいずれか一項に記載のシステム。
【請求項６】
前記トレーニング・プロセスは、
前記予備サンプル評価値が前記既定の条件を満たさないという決定に応答して、更新されたサンプル評価値が前記既定の条件を満たすまで、前記予備制御モデルを更新するために１回または複数回の反復を実施するステップをさらに含み、前記１回または複数回の反復の各々は、
前の反復における報酬値に基づいて、更新された制御モデルを決定するステップと、
更新されたサンプル走行情報を取得するステップと、
前記前の反復におけるサンプル制御信号、および、前記前の反復における前記サンプル車両のサンプル状態に基づいて、前記サンプル車両の更新されたサンプル状態を推定するステップと、
前記更新されたサンプル走行情報、前記サンプル車両の前記更新されたサンプル状態、および前記更新された制御モデルに基づいて、更新されたサンプル制御信号を決定するステップと、
前記更新されたサンプル制御信号および前記前の反復におけるサンプル評価値に対応する更新された報酬値に基づいて、前記更新された制御モデルと関連付けられる更新されたサンプル評価値を決定するステップと、
前記更新されたサンプル評価値が前記既定の条件を満たすか否かを決定するステップと
をさらに含む、請求項５に記載のシステム。
【請求項７】
前記トレーニングされた制御モデルは、深層決定的方策勾配（ＤＤＰＧ）ネットワーク・モデルを含む、請求項１〜６のいずれか一項に記載のシステム。
【請求項８】
前記１つまたは複数の評価値に基づいて、前記１つまたは複数の候補制御信号から前記ターゲット制御信号を選択するために、前記ターゲット制御信号決定モジュールはさらに、
所定のルールに従って、前記１つまたは複数の評価値に基づいて、前記１つまたは複数の候補制御信号から前記ターゲット制御信号を選択するように構成されている、請求項１〜７のいずれか一項に記載のシステム。
【請求項９】
少なくとも１つのプロセッサと、少なくとも１つの記憶媒体と、ネットワークに接続されている通信プラットフォームとを有するコンピューティング・デバイス上で実施される方法であって、
車両と関連付けられる走行情報を取得するステップと、
前記車両の状態を決定するステップと、
トレーニングされた制御モデルを使用することによって、前記走行情報および前記車両の前記状態に基づいて、１つまたは複数の候補制御信号、および、前記１つまたは複数の候補制御信号に対応する１つまたは複数の評価値を決定するステップと、
前記１つまたは複数の評価値に基づいて、前記１つまたは複数の候補制御信号からターゲット制御信号を選択するステップと、
前記車両の制御構成要素に前記ターゲット制御信号を送信するステップと
を含む、方法。
【請求項１０】
前記車両と関連付けられる前記走行情報は、前記車両の第１の所定の範囲内の知覚情報および前記車両の前記第１の所定の範囲内のマップ情報を含む、請求項９に記載の方法。
【請求項１１】
前記知覚情報は、道路状態情報および障害物情報を含む、請求項１０に記載の方法。
【請求項１２】
前記車両の前記状態は、前記車両の速度、前記車両の加速度、および、前記車両のステアリング・ホイール角度を含む、請求項９〜１１のいずれか一項に記載の方法。
【請求項１３】
前記トレーニングされた制御モデルは、トレーニング・プロセスによって決定され、前記トレーニング・プロセスは、
予備制御モデルを取得するステップと、
予備サンプル走行情報を取得するステップであって、前記予備サンプル走行情報は、サンプル車両の第２の所定の範囲内の予備サンプル知覚情報、および、前記サンプル車両の前記第２の所定の範囲内の予備サンプルマップ情報を含む、予備サンプル走行情報を取得するステップと、
前記サンプル車両の予備サンプル状態を取得するステップと、
前記予備サンプル走行情報、前記サンプル車両の前記予備サンプル状態、および前記予備制御モデルに基づいて、予備サンプル制御信号を決定するステップと、
前記予備サンプル制御信号に対応する予備報酬値に基づいて、前記予備制御モデルと関連付けられる予備サンプル評価値を決定するステップであって、前記予備報酬値は、前記予備サンプル制御信号と関連付けられる衝突条件、前記予備サンプル制御信号と関連付けられる車線条件、または、前記予備サンプル制御信号と関連付けられる停止条件のうちの少なくとも１つと関連付けられる、予備サンプル評価値を決定するステップと、
前記予備サンプル評価値が既定の条件を満たすか否かを決定するステップと、
前記予備サンプル評価値が前記既定の条件を満たすという前記決定に応答して、前記予備制御モデルを前記トレーニングされた制御モデルとして指定するステップと
を含む、請求項９〜１２のいずれか一項に記載の方法。
【請求項１４】
前記トレーニング・プロセスは、
前記予備サンプル評価値が前記既定の条件を満たさないという決定に応答して、更新されたサンプル評価値が前記既定の条件を満たすまで、前記予備制御モデルを更新するために１回または複数回の反復を実施するステップをさらに含み、前記１回または複数回の反復の各々は、
前の反復における報酬値に基づいて、更新された制御モデルを決定するステップと、
更新されたサンプル走行情報を取得するステップと、
前記前の反復におけるサンプル制御信号、および、前記前の反復における前記サンプル車両のサンプル状態に基づいて、前記サンプル車両の更新されたサンプル状態を推定するステップと、
前記更新されたサンプル走行情報、前記サンプル車両の前記更新されたサンプル状態、および前記更新された制御モデルに基づいて、更新されたサンプル制御信号を決定するステップと、
前記更新されたサンプル制御信号および前記前の反復におけるサンプル評価値に対応する更新された報酬値に基づいて、前記更新された制御モデルと関連付けられる更新されたサンプル評価値を決定するステップと、
前記更新されたサンプル評価値が前記既定の条件を満たすか否かを決定するステップと
をさらに含む、請求項１３に記載の方法。
【請求項１５】
自律走行のために構成されている車両であって、
検出構成要素と、計画構成要素と、制御構成要素とを備え、前記計画構成要素は、
前記車両と関連付けられる走行情報を取得するステップと、
前記車両の状態を決定するステップと、
トレーニングされた制御モデルを使用することによって、前記走行情報および前記車両の前記状態に基づいて、１つまたは複数の候補制御信号、および、前記１つまたは複数の候補制御信号に対応する１つまたは複数の評価値を決定するステップと、
前記１つまたは複数の評価値に基づいて、前記１つまたは複数の候補制御信号からターゲット制御信号を選択するステップと、
前記車両の前記制御構成要素に前記ターゲット制御信号を送信するステップと
を行うように構成されている、自律走行のために構成されている車両。
【国際調査報告】
2021514882.tif 000010
2021514882.tif 000011