(57)【要約】      （修正有）【課題】協同走行を遂行する自律走行車両のセンサフュージョンのためのセンサフュージョンネットワークを学習する方法および装置を提供する。【解決手段】学習装置１００は、自律走行車両と、ｍ個の協同走行車両と、第２バーチャル車両とを含む走行イメージ及びｍ個の協同走行車両のｎ個のセンサに対するセンサ状態情報を前記センサフュージョンネットワークに入力して、ｎ個のセンサのセンサ値を伝送する確率値であるセンサフュージョン確率値を生成させる段階と、道路走行映像を検出ネットワークに入力して、第２バーチャル車両と、歩行者と、車線とを検出して周辺物体情報を出力させ、センサ値と周辺物体情報とを走行ネットワークに入力して移動方向確率値を生成し、自律走行車両を運行させる段階と、交通状況情報を取得し、リワードを生成して前記センサフュージョンネットワークを学習する段階と、を含む。【選択図】図３
2020123335.tif 000002
【特許請求の範囲】
【請求項１】
協同走行を遂行する自律走行車両のセンサフュージョン（Ｓｅｎｓｏｒ  Ｆｕｓｉｏｎ）に使用されるセンサフュージョンネットワークを学習する方法において、
（ａ）（ｉ）（ｉ−１）対象自律走行車両と、（ｉ−２）前記対象自律走行車両と前記協同走行を遂行する第１バーチャル車両を含むｍ個の学習用協同走行車両と、（ｉ−３）非協同走行を遂行する第２バーチャル車両と、を含む学習用走行イメージ、及び（ｉｉ）前記ｍ個の学習用協同走行車両それぞれのｎ個の学習用センサに関する多数の学習用センサ状態情報が取得されると、学習装置が、前記学習用走行イメージ及び前記多数の学習用センサ状態情報を前記センサフュージョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（ａ−１）前記学習用走行イメージ及び前記多数の学習用センサ状態情報にニューラルネットワーク演算を適用させて、前記ｍ個の学習用協同走行車両それぞれが前記協同走行のためにＶ２Ｖ（ｖｅｈｉｃｌｅ−ｔｏ−ｖｅｈｉｃｌｅ）通信を介して前記ｎ個の学習用センサそれぞれの各センサ値を伝送する確率値である学習用センサフュージョン確率値を生成させ、（ａ−２）前記学習用センサフュージョン確率値のうち、予め設定された閾値以上の確率値を有するｓ個の学習用センサ（前記ｓは１以上ｍ×ｎ以下の整数（ｉｎｔｅｇｅｒ）である）に関する学習用フュージョンセンサ情報を生成させる段階；
（ｂ）前記学習装置が、前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される学習用道路走行映像を検出ネットワークに入力して、前記検出ネットワークをもって、前記対象自律走行車両の走行道路上の前記第２バーチャル車両と、一人以上の歩行者と、一つ以上の車線とのうち少なくとも一部を検出させて学習用周辺物体情報を出力させるプロセス、及び前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される学習用センサ値と前記学習用周辺物体情報とを走行ネットワークに入力して、前記走行ネットワークをもって、前記学習用センサ値及び前記学習用周辺物体情報を参照して前記ｍ個の学習用協同走行車両それぞれの学習用移動方向確率値を生成させて、前記学習用移動方向確率値を参照して前記対象自律走行車両を運行させる段階；及び
（ｃ）前記学習装置が、前記走行ネットワークにより運行される前記対象自律走行車両の学習用交通状況情報を取得し、前記学習用交通状況情報を参照してリワード（ｒｅｗａｒｄ）を生成し、前記リワードを利用して前記センサフュージョンネットワークを学習する段階；
を含む方法。
【請求項２】
前記（ａ）段階で、
前記学習装置は、前記学習用走行イメージと前記多数の学習用センサ状態情報とを前記センサフュージョンネットワークに入力して、前記センサフュージョンネットワークをもって、（ｉ）ＣＮＮ（ｃｏｎｖｏｌｕｔｉｏｎａｌ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）を介したコンボリューション演算を前記学習用走行イメージに適用して学習用特徴マップを生成し、前記学習用特徴マップにＦＣ（ｆｕｌｌｙ−ｃｏｎｎｅｃｔｅｄ）演算を適用して学習用イメージ特徴ベクトルを生成させ、（ｉｉ）少なくとも一つのＬＳＴＭ（Ｌｏｎｇ  ｓｈｏｒｔ−ｔｅｒｍ  ｍｅｍｏｒｙ）を介した循環（ｒｅｃｕｒｒｅｎｔ）ニューラルネットワーク演算を前記多数の学習用センサ状態情報に適用して学習用センサ状態特徴ベクトルを生成させ、（ｉｉｉ）前記学習用イメージ特徴ベクトル及び前記学習用センサ状態特徴ベクトルをコンカチネート（ｃｏｎｃａｔｅｎａｔｉｎｇ）して学習用コンカチネート済み特徴ベクトルを生成し、前記学習用コンカチネート済み特徴ベクトルに少なくとも一つのＦＣレイヤのＦＣ演算を適用して前記学習用センサフュージョン確率値を生成させる請求項１に記載の方法。
【請求項３】
前記学習装置は、前記リワードを利用して、前記センサフュージョンネットワークに含まれている、前記ＣＮＮと、前記少なくとも一つのＬＳＴＭと、前記少なくとも一つのＦＣレイヤとのうち少なくとも一つのパラメータをアップデートする請求項２に記載の方法。
【請求項４】
前記学習装置は、前記センサフュージョンネットワークをもって、プーリングレイヤを通じて前記学習用特徴マップにマックスプーリング（ｍａｘ−ｐｏｏｌｉｎｇ）演算を適用し、その結果値にＦＣ演算を適用することによって、前記学習用イメージ特徴ベクトルを生成させる請求項２に記載の方法。
【請求項５】
前記学習装置は、ソフトマックス（ｓｏｆｔｍａｘ）アルゴリズムを通じて前記学習用センサフュージョン確率値それぞれを正規化して出力する請求項２に記載の方法。
【請求項６】
前記リワードは、前記ｍ個の学習用協同走行車両それぞれの前記ｎ個の学習用センサの個数の合計から前記ｓ個の学習用センサの個数を減算して生成されたものであり、
前記学習装置は、前記学習用交通状況情報を参照して前記リワードを増加又は減少させる請求項１に記載の方法。
【請求項７】
前記学習用走行イメージは、前記ｍ個の学習用協同走行車両が前記協同走行中である全体道路に対する全体道路イメージであって、前記全体道路イメージがグリッド（ｇｒｉｄ）形態に分割されて生成された一定サイズのブロックそれぞれが前記ｍ個の学習用協同走行車両それぞれにより占有されているか、前記第２バーチャル車両全体により占有されているのかを表す（ｍ＋１）個のチャンネルのイメージであり、前記（ｍ＋１）個のチャンネルのうちｍ個のチャンネルそれぞれは、前記ｍ個の学習用協同走行車両それぞれに対応し、残りの一つのチャンネルは、前記第２バーチャル車両に対応するものである請求項１に記載の方法。
【請求項８】
協同走行を遂行する自律走行車両のセンサフュージョン（Ｓｅｎｓｏｒ  Ｆｕｓｉｏｎ）に使用されるセンサフュージョンネットワークをテストする方法において、
（ａ）（ｉ）（ｉ−１）学習用対象自律走行車両と、（ｉ−２）前記学習用対象自律走行車両と前記協同走行を遂行する第１バーチャル車両を含むｍ個の学習用協同走行車両と、（ｉ−３）非協同走行を遂行する第２バーチャル車両と、を含む学習用走行イメージ、及び（ｉｉ）前記ｍ個の学習用協同走行車両それぞれのｎ個の学習用センサに関する多数の学習用センサ状態情報が取得されると、学習装置が、（１）前記学習用走行イメージ及び前記多数の学習用センサ状態情報を前記センサフュージョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（１−１）前記学習用走行イメージ及び前記多数の学習用センサ状態情報にニューラルネットワーク演算を適用させて、前記ｍ個の学習用協同走行車両それぞれが前記協同走行のためにＶ２Ｖ（ｖｅｈｉｃｌｅ−ｔｏ−ｖｅｈｉｃｌｅ）通信を介して前記ｎ個の学習用センサそれぞれの各センサ値を伝送する確率値である学習用センサフュージョン確率値を生成させ、（１−２）前記学習用センサフュージョン確率値のうち、予め設定された閾値以上の確率値を有するｓ個の学習用センサ（前記ｓは１以上ｍ×ｎ以下の整数である）に関する学習用フュージョンセンサ情報を生成させるプロセス、（２）前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される学習用道路走行映像を検出ネットワークに入力して、前記検出ネットワークをもって、前記学習用対象自律走行車両の走行道路上の前記第２バーチャル車両と、一人以上の歩行者と、一つ以上の車線とのうち少なくとも一部を検出させて学習用周辺物体情報を出力させるプロセス、（３）前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される学習用センサ値と前記学習用周辺物体情報とを走行ネットワークに入力して、前記走行ネットワークをもって、前記学習用センサ値及び前記学習用周辺物体情報を参照して前記ｍ個の学習用協同走行車両それぞれの学習用移動方向確率値を生成させて、前記学習用移動方向確率値を参照して前記学習用対象自律走行車両を運行させるプロセス、及び（４）前記走行ネットワークにより運行される前記学習用対象自律走行車両の学習用交通状況情報を取得し、前記学習用交通状況情報を参照してリワード（ｒｅｗａｒｄ）を生成し、前記リワードを利用して前記センサフュージョンネットワークを学習するプロセスを遂行した状態で、（ｉ）（ｉ−１）テスト用対象自律走行車両と、（ｉ−２）前記テスト用対象自律走行車両と前記協同走行を遂行する第１車両を含むｋ個のテスト用協同走行車両と、（ｉ−３）前記非協同走行を遂行する第２車両と、を含むテスト用走行イメージ、及び（ｉｉ）前記ｋ個のテスト用協同走行車両それぞれのｉ個のテスト用センサに関する多数のテスト用センサ状態情報が取得されると、前記ｋ個のテスト用協同走行車両のうち少なくとも一つの協同走行車両のテスティング装置が、前記テスト用走行イメージ及び前記多数のテスト用センサ状態情報を前記センサフュージョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（ａ−１）前記テスト用走行イメージ及び前記多数のテスト用センサ状態情報に前記ニュー���ルネットワーク演算を適用させて、前記ｋ個のテスト用協同走行車両それぞれが前記協同走行のために前記Ｖ２Ｖ通信を介して前記ｉ個のテスト用センサそれぞれの各センサ値を伝送する確率値であるテスト用センサフュージョン確率値を生成させ、（ａ−２）前記テスト用センサフュージョン確率値のうち、予め設定された閾値以上の確率値を有するｓ個のテスト用センサに関するテスト用フュージョンセンサ情報を生成させ、（ａ−３）前記ｓ個のテスト用センサに関する前記テスト用フュージョンセンサ情報を、前記Ｖ２Ｖ通信を介して前記ｋ個のテスト用協同走行車両のうち少なくとも一部に伝送させる段階；及び
（ｂ）前記ｋ個のテスト用協同走行車両のうち前記少なくとも一つの協同走行車両の前記テスティング装置が、前記テスト用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得されるテスト用道路走行映像を前記検出ネットワークに入力して、前記検出ネットワークをもって、前記テスト用対象自律走行車両の走行道路上の前記第２車両と、前記歩行者と、前記車線とのうち少なくとも一部を検出してテスト用周辺物体情報を出力させるプロセス、及び前記テスト用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得されたテスト用センサ値と前記テスト用周辺物体情報とを前記走行ネットワークに入力して、前記走行ネットワークをもって、前記テスト用センサ値と前記テスト用周辺物体情報とを参照して前記ｋ個のテスト用協同走行車両それぞれのテスト用移動方向確率値を生成させることによって、前記テスト用移動方向確率値を参照して前記テスト用対象自律走行車両を運行させるプロセスを遂行する段階；
を含む方法。
【請求項９】
前記（ａ）段階で、
前記ｋ個のテスト用協同走行車両のうち前記少なくとも一つの協同走行車両の前記テスティング装置が、前記テスト用走行イメージと前記多数のテスト用センサ状態情報とを前記センサフュージョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（ｉ）ＣＮＮを通じたコンボリューション演算を前記テスト用走行イメージに適用してテスト用特徴マップを生成し、前記テスト用特徴マップにＦＣ演算を適用してテスト用イメージベクトルを生成させ、（ｉｉ）少なくとも一つのＬＳＴＭを通じた循環ニューラルネットワーク演算を前記多数のテスト用センサ状態情報に適用してテスト用センサ状態特徴ベクトルを生成させ、（ｉｉｉ）前記テスト用イメージ特徴ベクトル及び前記テスト用センサ状態特徴ベクトルをコンカチネートしてテスト用コンカチネート済み特徴ベクトルを生成し、前記テスト用コンカチネート済み特徴ベクトルに少なくとも一つのＦＣレイヤのＦＣ演算を適用して前記テスト用センサフュージョン確率値を生成させる請求項８に記載の方法。
【請求項１０】
前記ｋ個のテスト用協同走行車両のうち前記少なくとも一つの協同走行車両の前記テスティング装置は、前記センサフュージョンネットワークをもって、プーリングレイヤを通じて前記テスト用特徴マップにマックスプーリング演算を適用し、その結果値にＦＣ演算を適用することによって、前記テスト用イメージ特徴ベクトルを生成させる請求項９に記載の方法。
【請求項１１】
前記ｋ個のテスト用協同走行車両のうち前記少なくとも一つの協同走行車両の前記テスティング装置は、ソフトマックスアルゴリズムを通じて前記テスト用センサフュージョン確率値それぞれを正規化して出力する請求項９に記載の方法。
【請求項１２】
前記（ａ）段階で、
前記ｋ個のテスト用協同走行車両のうち前記少なくとも一つの協同走行車両の前記テスティング装置が、（ｉ）前記テスト用ｋ個の協同走行車両のうち特定の協同走行車両から取得された前記テスト用走行イメージに、特定のＣＮＮを通じた多重コンボリューション演算を適用してテスト用特徴マップを生成するプロセス、及び前記テスト用特徴マップにＦＣ演算を適用してテスト用イメージ特徴ベクトルが生成されると、前記特定の協同走行車両から前記Ｖ２Ｖ通信を介して前記テスト用イメージ特徴ベクトルを取得するプロセス、（ｉｉ）少なくとも一つのＬＳＴＭを通じた循環ニューラルネットワーク演算を前記多数のテスト用センサ状態情報に適用してテスト用センサ状態特徴ベクトルを生成するプロセス、及び（ｉｉｉ）前記Ｖ２Ｖ通信を介して取得された、前記テスト用イメージ特徴ベクトルと前記テスト用センサ状態特徴ベクトルとをコンカチネートしてテスト用コンカチネート済み特徴ベクトルを生成するプロセス、及び前記テスト用コンカチネート済み特徴ベクトルに少なくとも一つのＦＣレイヤを介したＦＣ演算を適用して前記テスト用センサフュージョン確率値を生成するプロセスを遂行する請求項８に記載の方法。
【請求項１３】
前記特定の車両は、特定のＣＮＮをもって、前記テスト用走行イメージにコンボリューション演算を適用させてテスト用特徴マップを生成させ、前記テスト用特徴マップにＦＣ演算を適用して前記テスト用イメージ特徴ベクトルを生成させ、前記特定の車両は、ラウンドロビンスケジューリング（Ｒｏｕｎｄ  Ｒｏｂｉｎ  Ｓｃｈｅｄｕｌｉｎｇ）によって順次に一定時間の間隔で指定される前記ｋ個のテスト用協同走行車両のうち一つの協同走行車両である請求項１２に記載の方法。
【請求項１４】
協同走行を遂行する自律走行車両のセンサフュージョン（Ｓｅｎｓｏｒ  Ｆｕｓｉｏｎ）に使用されるセンサフュージョンネットワークを学習するための学習装置において、
各インストラクションを格納する一つ以上のメモリと、
（Ｉ）（ｉ）（ｉ−１）対象自律走行車両と、（ｉ−２）前記対象自律走行車両と前記協同走行を遂行する第１バーチャル車両を含むｍ個の学習用協同走行車両と、（ｉ−３）非協同走行を遂行する第２バーチャル車両と、を含む学習用走行イメージ、及び（ｉｉ）前記ｍ個の学習用協同走行車両それぞれのｎ個の学習用センサに関する多数の学習用センサ状態情報が取得されると、前記学習用走行イメージ及び前記多数の学習用センサ状態情報を前記センサフュージョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（Ｉ−１）前記学習用走行イメージ及び前記多数の学習用センサ状態情報にニューラルネットワーク演算を適用させて、前記ｍ個の学習用協同走行車両それぞれが前記協同走行のためにＶ２Ｖ（ｖｅｈｉｃｌｅ−ｔｏ−ｖｅｈｉｃｌｅ）通信を介して前記ｎ個の学習用センサそれぞれの各センサ値を伝送する確率値である学習用センサフュージョン確率値を生成させ、（Ｉ−２）前記学習用センサフュージョン確率値のうち、予め設定された閾値以上の確率値を有するｓ個の学習用センサ（前記ｓは１以上ｍ×ｎ以下の整数である）に関する学習用フュージョンセンサ情報を生成させるプロセス、（ＩＩ）前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される学習用道路走行映像を検出ネットワークに入力して、前記検出ネットワークをもって、前記対象自律走行車両の走行道路上の前記第２バーチャル車両と、一人以上の歩行者と、一つ以上の車線とのうち少なくとも一部を検出させて学習用周辺物体情報を出力させるプロセス、及び前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される学習用センサ値と前記学習用周辺物体情報とを走行ネットワークに入力して、前記走行ネットワークをもって、前記学習用センサ値及び前記学習用周辺物体情報を参照して前記ｍ個の学習用協同走行車両それぞれの学習用移動方向確率値を生成させて、前記学習用移動方向確率値を参照して前記対象自律走行車両を運行させるプロセス、及び（ＩＩＩ）前記走行ネットワークにより運行される前記対象自律走行車両の学習用交通状況情報を取得し、前記学習用交通状況情報を参照してリワード（ｒｅｗａｒｄ）を生成し、前記リワードを利用して前記センサフュージョンネットワークを学習するプロセスを遂行するための前記各インストラクションを実行するように構成された少なくとも一つのプロセッサと、
を含む学習装置。
【請求項１５】
前記（Ｉ）プロセスで、
前記プロセッサが、前記学習用走行イメージと前記多数の学習用センサ状態情報とを前記センサフュージョンネットワークに入力して、前記センサフュージョンネットワークを通じて、（ｉ）ＣＮＮ（ｃｏｎｖｏｌｕｔｉｏｎａｌ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）を介したコンボリューション演算を前記学習用走行イメージに適用して学習用特徴マップを生成し、前記学習用特徴マップにＦＣ（ｆｕｌｌｙ−ｃｏｎｎｅｃｔｅｄ）演算を適用して学習用イメージ特徴ベクトルを生成させ、（ｉｉ）少なくとも一つのＬＳＴＭ（Ｌｏｎｇ  ｓｈｏｒｔ−ｔｅｒｍ  ｍｅｍｏｒｙ）を介した循環（ｒｅｃｕｒｒｅｎｔ）ニューラルネットワーク演算を前記多数の学習用センサ状態情報に適用して学習用センサ状態特徴ベクトルを生成させ、（ｉｉｉ）前記学習用イメージ特徴ベクトル及び前記学習用センサ状態特徴ベクトルをコンカチネート（ｃｏｎｃａｔｅｎａｔｉｎｇ）して学習用コンカチネート済み特徴ベクトルを生成し、前記学習用コンカチネート済み特徴ベクトルに少なくとも一つのＦＣレイヤのＦＣ演算を適用して前記学習用センサフュージョン確率値を生成させる請求項１４に記載の学習装置。
【請求項１６】
前記プロセッサは、前記リワードを利用して、前記センサフュージョンネットワークに含まれている、前記ＣＮＮと、前記少なくとも一つのＬＳＴＭと、前記少なくとも一つのＦＣレイヤとのうち少なくとも一つのパラメータをアップデートする請求項１５に記載の学習装置。
【請求項１７】
前記プロセッサは、前記センサフュージョンネットワークをもって、プーリングレイヤを通じて前記学習用特徴マップにマックスプーリング（ｍａｘ−ｐｏｏｌｉｎｇ）演算を適用し、その結果値にＦＣ演算を適用することによって、前記学習用イメージ特徴ベクトルを生成させる請求項１５に記載の学習装置。
【請求項１８】
前記プロセッサは、ソフトマックス（ｓｏｆｔｍａｘ）アルゴリズムを通じて前記学習用センサフュージョン確率値それぞれを正規化して出力する請求項１５に記載の学習装置。
【請求項１９】
前記リワードは、前記ｍ個の学習用協同走行車両それぞれの前記ｎ個の学習用センサの個数の合計から前記ｓ個の学習用センサの個数を減算して生成されたものであり、
前記プロセッサは、前記学習用交通状況情報を参照して前記リワードを増加又は減少させる請求項１４に記載の学習装置。
【請求項２０】
前記学習用走行イメージは、前記ｍ個の学習用協同走行車両が前記協同走行中である全体道路に対する全体道路イメージであって、前記全体道路イメージがグリッド（ｇｒｉｄ）形態に分割されて生成された一定サイズのブロックそれぞれが前記ｍ個の学習用協同走行車両それぞれにより占有されているか、前記第２バーチャル車両全体により占有されているのかを表す（ｍ＋１）個のチャンネルのイメージであり、前記（ｍ＋１）個のチャンネルのうちｍ個のチャンネルそれぞれは、前記ｍ個の学習用協同走行車両それぞれに対応し、残りの一つのチャンネルは、前記第２バーチャル車両に対応するものである請求項１４に記載の学習装置。
【請求項２１】
協同走行を遂行する自律走行車両のセンサフュージョン（Ｓｅｎｓｏｒ  Ｆｕｓｉｏｎ）に使用されるセンサフュージョンネットワークをテストするための、ｋ個のテスト用協同走行車両のうち少なくとも一つの協同走行車両のテスティング装置において、
各インストラクションを格納する一つ以上のメモリと、
（Ｉ）（ｉ）（ｉ−１）学習用対象自律走行車両と、（ｉ−２）前記学習用対象自律走行車両と前記協同走行を遂行する第１バーチャル車両を含むｍ個の学習用協同走行車両と、（ｉ−３）非協同走行を遂行する第２バーチャル車両と、を含む学習用走行イメージ、及び（ｉｉ）前記ｍ個の学習用協同走行車両それぞれのｎ個の学習用センサに関する多数の学習用センサ状態情報が取得されると、学習装置が、（１）前記学習用走行イメージ及び前記多数の学習用センサ状態情報を前記センサフュージョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（１−１）前記学習用走行イメージ及び前記多数の学習用センサ状態情報にニューラルネットワーク演算を適用させて、前記ｍ個の学習用協同走行車両それぞれが前記協同走行のためにＶ２Ｖ（ｖｅｈｉｃｌｅ−ｔｏ−ｖｅｈｉｃｌｅ）通信を介して前記ｎ個の学習用センサそれぞれの各センサ値を伝送する確率値である学習用センサフュージョン確率値を生成させ、（１−２）前記学習用センサフュージョン確率値のうち、予め設定された閾値以上の確率値を有するｓ個の学習用センサ（前記ｓは１以上ｍ×ｎ以下の整数である）に関する学習用フュージョンセンサ情報を生成させるプロセス、（２）前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される学習用道路走行映像を検出ネットワークに入力して、前記検出ネットワークをもって、前記学習用対象自律走行車両の走行道路上の前記第２バーチャル車両と、一人以上の歩行者と、一つ以上の車線とのうち少なくとも一部を検出させて学習用周辺物体情報を出力させるプロセス、（３）前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される学習用センサ値と前記学習用周辺物体情報とを走行ネットワークに入力して、前記走行ネットワークをもって、前記学習用センサ値及び前記学習用周辺物体情報を参照して前記ｍ個の学習用協同走行車両それぞれの学習用移動方向確率値を生成させて、前記学習用移動方向確率値を参照して前記学習用対象自律走行車両を運行させるプロセス、及び（４）前記走行ネットワークにより運行される前記学習用対象自律走行車両の学習用交通状況情報を取得し、前記学習用交通状況情報を参照してリワード（ｒｅｗａｒｄ）を生成し、前記リワードを利用して前記センサフュージョンネットワークを学習するプロセスを遂行した状態で、（ｉ）（ｉ−１）テスト用対象自律走行車両と、（ｉ−２）前記テスト用対象自律走行車両と前記協同走行を遂行する第１車両を含むｋ個のテスト用協同走行車両と、（ｉ−３）前記非協同走行を遂行する第２車両と、を含むテスト用走行イメージ、（ｉｉ）前記ｋ個のテスト用協同走行車両それぞれのｉ個のテスト用センサに関する多数のテスト用センサ状態情報が取得されると、前記テスト用走行イメージ及び前記多数のテスト用センサ状態情報を前記センサフュージョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（Ｉ−１）前記テスト用走行イメージ及び前記多数のテスト用センサ状態情報に前記ニューラルネットワーク演算を適用させて、前記ｋ個のテスト用協同走行車両それぞれが前記協同走行のた���に前記Ｖ２Ｖ通信を介して前記ｉ個のテスト用センサそれぞれの各センサ値を伝送する確率値であるテスト用センサフュージョン確率値を生成させ、（Ｉ−２）前記テスト用センサフュージョン確率値のうち、予め設定された閾値以上の確率値を有するｓ個のテスト用センサに関するテスト用フュージョンセンサ情報を生成させ、（Ｉ−３）前記ｓ個のテスト用センサに関する前記テスト用フュージョンセンサ情報を、前記Ｖ２Ｖ通信を介して前記ｋ個のテスト用協同走行車両のうち少なくとも一部に伝送させるプロセス、及び（ＩＩ）前記テスト用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得されるテスト用道路走行映像を前記検出ネットワークに入力して、前記検出ネットワークをもって、前記テスト用対象自律走行車両の走行道路上の前記第２車両と、前記歩行者と、前記車線とのうち少なくとも一部を検出してテスト用周辺物体情報を出力させるプロセス、及び前記テスト用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得されたテスト用センサ値と前記テスト用周辺物体情報とを前記走行ネットワークに入力して、前記走行ネットワークをもって、前記テスト用センサ値と前記テスト用周辺物体情報とを参照して、前記ｋ個のテスト用協同走行車両それぞれのテスト用移動方向確率値を生成させることによって、前記テスト用移動方向確率値を参照して前記テスト用対象自律走行車両を運行させるプロセスを遂行するプロセスを遂行するための前記各インストラクションを実行するように構成された少なくとも一つのプロセッサと、
を含むテスティング装置。
【請求項２２】
前記（Ｉ）プロセスで、
前記プロセッサが、前記テスト用走行イメージと前記多数のテスト用センサ状態情報とを前記センサフュージョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（ｉ）ＣＮＮを通じたコンボリューション演算を前記テスト用走行イメージに適用してテスト用特徴マップを生成し、前記テスト用特徴マップにＦＣ演算を適用してテスト用イメージ特徴ベクトルを生成させ、（ｉｉ）少なくとも一つのＬＳＴＭを通じた循環ニューラルネットワーク演算を前記多数のテスト用センサ状態情報に適用してテスト用センサ状態特徴ベクトルを生成させ、（ｉｉｉ）前記テスト用イメージ特徴ベクトル及び前記テスト用センサ状態特徴ベクトルをコンカチネートしてテスト用コンカチネート済み特徴ベクトルを生成し、前記テスト用コンカチネート済み特徴ベクトルに少なくとも一つのＦＣレイヤのＦＣ演算を適用して前記テスト用センサフュージョン確率値を生成させる請求項２１に記載のテスティング装置。
【請求項２３】
前記プロセッサは、前記センサフュージョンネットワークをもって、プーリングレイヤを通じて前記テスト用特徴マップにマックスプーリング演算を適用し、その結果値にＦＣ演算を適用することによって、前記テスト用イメージ特徴ベクトルを生成させる請求項２２に記載のテスティング装置。
【請求項２４】
前記プロセッサは、ソフトマックスアルゴリズムを通じて前記テスト用センサフュージョン確率値それぞれを正規化して出力する請求項２２に記載のテスティング装置。
【請求項２５】
前記（Ｉ）プロセスで、
前記プロセッサが、（ｉ）前記テスト用ｋ個の協同走行車両のうち特定の協同走行車両から取得された前記テスト用走行イメージに、特定のＣＮＮを通じた多重コンボリューション演算を適用してテスト用特徴マップを生成するプロセス、及び前記テスト用特徴マップにＦＣ演算を適用してテスト用イメージ特徴ベクトルが生成されると、前記特定の協同走行車両から前記Ｖ２Ｖ通信を介して前記テスト用イメージ特徴ベクトルを取得するプロセスと、（ｉｉ）少なくとも一つのＬＳＴＭを通じた循環ニューラルネットワーク演算を前記多数のテスト用センサ状態情報に適用してテスト用センサ状態特徴ベクトルを生成するプロセスと、（ｉｉｉ）前記Ｖ２Ｖ通信を介して取得された、前記テスト用イメージ特徴ベクトルと前記テスト用センサ状態特徴ベクトルとをコンカチネートしてテスト用コンカチネート済み特徴ベクトルを生成するプロセス、及び前記テスト用コンカチネート済み特徴ベクトルに少なくとも一つのＦＣレイヤを介したＦＣ演算を適用して前記テスト用センサフュージョン確率値を生成するプロセスとを遂行する請求項２１に記載のテスティング装置。
【請求項２６】
前記特定の車両は、特定のＣＮＮをもって、前記テスト用走行イメージにコンボリューション演算を適用させてテスト用特徴マップを生成させ、前記テスト用特徴マップにＦＣ演算を適用して前記テスト用イメージ特徴ベクトルを生成させ、前記特定の車両は、ラウンドロビンスケジューリング（Ｒｏｕｎｄ  Ｒｏｂｉｎ  Ｓｃｈｅｄｕｌｉｎｇ）によって順次に一定時間の間隔で指定される前記ｋ個のテスト用協同走行車両のうち一つの協同走行車両である請求項２５に記載のテスティング装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、自律走行車両と、バーチャル走行等に利用するための方法と、装置とに関し、より詳細には、自律走行において強化学習に基づいて多重エージェントセンサフュージョンを遂行する方法及び装置に関する。
【背景技術】
【０００２】
自動車産業は最近、ＩＴ技術がつなぎ合わされた環境親和的な先端自動車の時代へと変貌を遂げつつあり、自動車技術の発展と共に事故の予防、事故の回避、衝突への安全、利便性の向上、車両の情報化、そして自律走行技術などを適用した知能型自動車が商用化されている。
【０００３】
このような知能型自動車は、運転者の不注意や未熟な操作へのサポート技術、音声認識などを介した利便性機能をサポートする車両であって、運転者の過失による事故を減らすことができるだけでなく、時間の節減、燃料の浪費、排気ガスの低減などの利点が期待できる特徴がある。
【０００４】
自律走行車両は、知能型自動車技術の集合体であって、運転者が自動車に乗車して所望の目的地を指定すれば、以後、特別な操作をしなくても現在の位置や目的地までの最適な経路を生成して走行することができる。
【０００５】
また、道路の交通信号や標識を認知し、交通の流れに合わせて適切な速度を維持し、危険状況を認知して事故の予防に能動的に対処することができ、自ら車線を維持して、必要な場合には車線変更や追い越し、障害物などを回避するために適切な操縦を行い、所望の目的地まで走行することができる。
【０００６】
一方、自律走行車両は、走行環境を検出するための様々なセンサを利用しており、このような各センサは、走行環境に関わらず常に作動するように設定されている。
【０００７】
したがって、走行環境に応じて必要のないセンサが継続的に作動することによって、自律走行車両の電力が大量に消費される問題点がある。
【０００８】
このような問題点を解決するために、従来からセンサフュージョンを通じて、走行環境に対応する最適なセンサのみを利用して走行環境を検出することができるようにしている。
【０００９】
また、最近では、Ｖ２Ｖ（ｖｅｈｉｃｌｅ−ｔｏ−ｖｅｈｉｃｌｅ）通信を介して各自律走行車両が相互の情報を共有し得るようにしているが、大量のセンサデータを送受信することから通信リソース（ｒｅｓｏｕｒｃｅ）の消耗が大きく、送受信されたすべてのセンサデータを演算しなければならないため、多くのコンピューティングソースを使用しなければならない問題点がある。
【発明の概要】
【発明が解決しようとする課題】
【００１０】
本発明は、上述した問題点を全て解決することをその目的とする。
【００１１】
本発明は、Ｖ２Ｖ（ｖｅｈｉｃｌｅ  ｔｏ  ｖｅｈｉｃｌｅ）通信を介して必要なセンサ情報のみを送受信し得るようにすることを他の目的とする。
【００１２】
本発明は、Ｖ２Ｖ通信を介して必要とする正確なセンサ情報を取得し得るようにすることをまた他の目的とする。
【００１３】
本発明は、協同走行状況で最適なセンサ情報を取得し得るようにすることをまた他の目的とする。
【課題を解決するための手段】
【００１４】
前記のような本発明の目的を達成し、後述する本発明の特徴的な効果を実現するための本発明の特徴的な構成は、以下の通りである。
【００１５】
本発明の一態様によると、協同走行を遂行する自律走行車両のセンサフュージョン（Ｓｅｎｓｏｒ  Ｆｕｓｉｏｎ）に使用されるセンサフュージョンネットワークを学習する方法において、（ａ）（ｉ）（ｉ−１）対象自律走行車両と、（ｉ−２）前記対象自律走行車両と前記協同走行を遂行する第１バーチャル車両を含むｍ個の学習用協同走行車両と、（ｉ−３）非協同走行を遂行する第２バーチャル車両と、を含む学習用走行イメージ、及び（ｉｉ）前記ｍ個の学習用協同走行車両それぞれのｎ個の学習用センサに関する多数の学習用センサ状態情報が取得されると、学習装置が、前記学習用走行イメージ及び前記多数の学習用センサ状態情報を前記センサフュージョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（ａ−１）前記学習用走行イメージ及び前記多数の学習用センサ状態情報にニューラルネットワーク演算を適用させて、前記ｍ個の学習用協同走行車両それぞれが前記協同走行のためにＶ２Ｖ（ｖｅｈｉｃｌｅ−ｔｏ−ｖｅｈｉｃｌｅ）通信を介して前記ｎ個の学習用センサそれぞれの各センサ値を伝送する確率値である学習用センサフュージョン確率値を生成させ、（ａ−２）前記学習用センサフュージョン確率値のうち、予め設定された閾値以上の確率値を有するｓ個の学習用センサ（前記ｓは１以上ｍ×ｎ以下の整数（ｉｎｔｅｇｅｒ）である）に関する学習用フュージョンセンサ情報を生成させる段階；（ｂ）前記学習装置が、前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される学習用道路走行映像を検出ネットワークに入力して、前記検出ネットワークをもって、前記対象自律走行車両の走行道路上の前記第２バーチャル車両と、一人以上の歩行者と、一つ以上の車線とのうち少なくとも一部を検出させて学習用周辺物体情報を出力させるプロセス、及び前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される学習用センサ値と前記学習用周辺物体情報とを走行ネットワークに入力して、前記走行ネットワークをもって、前記学習用センサ値及び前記学習用周辺物体情報を参照して前記ｍ個の学習用協同走行車両それぞれの学習用移動方向確率値を生成させて、前記学習用移動方向確率値を参照して前記対象自律走行車両を運行させる段階；及び（ｃ）前記学習装置が、前記走行ネットワークにより運行される前記対象自律走行車両の学習用交通状況情報を取得し、前記学習用交通状況情報を参照してリワード（ｒｅｗａｒｄ）を生成し、前記リワードを利用して前記センサフュージョンネットワークを学習する段階；を含む方法が開示される。
【００１６】
一実施例において、前記（ａ）段階で、前記学習装置は、前記学習用走行イメージと前記多数の学習用センサ状態情報とを前記センサフュージョンネットワークに入力して、前記センサフュージョンネットワークをもって、（ｉ）ＣＮＮ（ｃｏｎｖｏｌｕｔｉｏｎａｌ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）を介したコンボリューション演算を前記学習用走行イメージに適用して学習用特徴マップを生成し、前記学習用特徴マップにＦＣ（ｆｕｌｌｙ−ｃｏｎｎｅｃｔｅｄ）演算を適用して学習用イメージ特徴ベクトルを生成させ、（ｉｉ）少なくとも一つのＬＳＴＭ（Ｌｏｎｇ  ｓｈｏｒｔ−ｔｅｒｍ  ｍｅｍｏｒｙ）を介した循環（ｒｅｃｕｒｒｅｎｔ）ニューラルネットワーク演算を前記多数の学習用センサ状態情報に適用して学習用センサ状態特徴ベクトルを生成させ、（ｉｉｉ）前記学習用イメージ特徴ベクトル及び前記学習用センサ状態特徴ベクトルをコンカチネート（ｃｏｎｃａｔｅｎａｔｉｎｇ）して学習用コンカチネート済み特徴ベクトルを生成し、前記学習用コンカチネート済み特徴ベクトルに少なくとも一つのＦＣレイヤのＦＣ演算を適用して前記学習用センサフュージョン確率値を生成させることを特徴とする。
【００１７】
一実施例において、前記学習装置は、前記リワードを利用して、前記センサフュージョンネットワークに含まれている、前記ＣＮＮと、前記少なくとも一つのＬＳＴＭと、前記少なくとも一つのＦＣレイヤとのうち少なくとも一つのパラメータをアップデートすることを特徴とする。
【００１８】
一実施例において、前記学習装置は、前記センサフュージョンネットワークをもって、プーリングレイヤを通じて前記学習用特徴マップにマックスプーリング（ｍａｘ−ｐｏｏｌｉｎｇ）演算を適用し、その結果値にＦＣ演算を適用することによって、前記学習用イメージ特徴ベクトルを生成させることを特徴とする。
【００１９】
一実施例において、前記学習装置は、ソフトマックス（ｓｏｆｔｍａｘ）アルゴリズムを通じて前記学習用センサフュージョン確率値それぞれを正規化して出力することを特徴とする。
【００２０】
一実施例において、前記リワードは、前記ｍ個の学習用協同走行車両それぞれの前記ｎ個の学習用センサの個数の合計から前記ｓ個の学習用センサの個数を減算して生成されたものであり、前記学習装置は、前記学習用交通状況情報を参照して前記リワードを増加又は減少させることを特徴とする。
【００２１】
一実施例において、前記学習用走行イメージは、前記ｍ個の学習用協同走行車両が前記協同走行中である全体道路に対する全体道路イメージであって、前記全体道路イメージがグリッド（ｇｒｉｄ）形態に分割されて生成された一定サイズのブロックそれぞれが前記ｍ個の学習用協同走行車両それぞれにより占有されているか、前記第２バーチャル車両全体により占有されているのかを表す（ｍ＋１）個のチャンネルのイメージであり、前記（ｍ＋１）個のチャンネルのうちｍ個のチャンネルそれぞれは、前記ｍ個の学習用協同走行車両それぞれに対応し、残りの一つのチャンネルは、前記第２バーチャル車両に対応するものであることを特徴とする。
【００２２】
本発明の他の態様によると、協同走行を遂行する自律走行車両のセンサフュージョン（Ｓｅｎｓｏｒ  Ｆｕｓｉｏｎ）に使用されるセンサフュージョンネットワークをテストする方法において、（ａ）（ｉ）（ｉ−１）学習用対象自律走行車両と、（ｉ−２）前記学習用対象自律走行車両と前記協同走行を遂行する第１バーチャル車両を含むｍ個の学習用協同走行車両と、（ｉ−３）非協同走行を遂行する第２バーチャル車両と、を含む学習用走行イメージ、及び（ｉｉ）前記ｍ個の学習用協同走行車両それぞれのｎ個の学習用センサに関する多数の学習用センサ状態情報が取得されると、学習装置が、（１）前記学習用走行イメージ及び前記多数の学習用センサ状態情報を前記センサフュージョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（１−１）前記学習用走行イメージ及び前記多数の学習用センサ状態情報にニューラルネットワーク演算を適用させて、前記ｍ個の学習用協同走行車両それぞれが前記協同走行のためにＶ２Ｖ（ｖｅｈｉｃｌｅ−ｔｏ−ｖｅｈｉｃｌｅ）通信を介して前記ｎ個の学習用センサそれぞれの各センサ値を伝送する確率値である学習用センサフュージョン確率値を生成させ、（１−２）前記学習用センサフュージョン確率値のうち、予め設定された閾値以上の確率値を有するｓ個の学習用センサ（前記ｓは１以上ｍ×ｎ以下の整数である）に関する学習用フュージョンセンサ情報を生成させるプロセス、（２）前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される学習用道路走行映像を検出ネットワークに入力して、前記検出ネットワークをもって、前記学習用対象自律走行車両の走行道路上の前記第２バーチャル車両と、一人以上の歩行者と、一つ以上の車線とのうち少なくとも一部を検出させて学習用周辺物体情報を出力させるプロセス、（３）前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される学習用センサ値と前記学習用周辺物体情報とを走行ネットワークに入力して、前記走行ネットワークをもって、前記学習用センサ値及び前記学習用周辺物体情報を参照して前記ｍ個の学習用協同走行車両それぞれの学習用移動方向確率値を生成させて、前記学習用移動方向確率値を参照して前記学習用対象自律走行車両を運行させるプロセス、及び（４）前記走行ネットワークにより運行される前記学習用対象自律走行車両の学習用交通状況情報を取得し、前記学習用交通状況情報を参照してリワード（ｒｅｗａｒｄ）を生成し、前記リワードを利用して前記センサフュージョンネットワークを学習するプロセスを遂行した状態で、（ｉ）（ｉ−１）テスト用対象自律走行車両と、（ｉ−２）前記テスト用対象自律走行車両と前記協同走行を遂行する第１車両を含むｋ個のテスト用協同走行車両と、（ｉ−３）前記非協同走行を遂行する第２車両と、を含むテスト用走行イメージ、（ｉｉ）前記ｋ個のテスト用協同走行車両それぞれのｉ個のテスト用センサに関する多数のテスト用センサ状態情報が取得されると、前記ｋ個のテスト用協同走行車両のうち少なくとも一つの協同走行車両のテスティング装置が、前記テスト用走行イメージ及び前記多数のテスト用センサ状態情報を前記センサフュ��ジョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（ａ−１）前記テスト用走行イメージ及び前記多数のテスト用センサ状態情報に前記ニューラルネットワーク演算を適用させて、前記ｋ個のテスト用協同走行車両それぞれが前記協同走行のために前記Ｖ２Ｖ通信を介して前記ｉ個のテスト用センサそれぞれの各センサ値を伝送する確率値であるテスト用センサフュージョン確率値を生成させ、（ａ−２）前記テスト用センサフュージョン確率値のうち、予め設定された閾値以上の確率値を有するｓ個のテスト用センサに関するテスト用フュージョンセンサ情報を生成させ、（ａ−３）前記ｓ個のテスト用センサに関する前記テスト用フュージョンセンサ情報を、前記Ｖ２Ｖ通信を介して前記ｋ個のテスト用協同走行車両のうち少なくとも一部に伝送させる段階；及び（ｂ）前記ｋ個のテスト用協同走行車両のうち前記少なくとも一つの協同走行車両の前記テスティング装置が、前記テスト用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得されるテスト用道路走行映像を前記検出ネットワークに入力して、前記検出ネットワークをもって、前記テスト用対象自律走行車両の走行道路上の前記第２車両と、前記歩行者と、前記車線とのうち少なくとも一部を検出してテスト用周辺物体情報を出力させるプロセス、及び前記テスト用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得されたテスト用センサ値と前記テスト用周辺物体情報とを前記走行ネットワークに入力して、前記走行ネットワークをもって、前記テスト用センサ値と前記テスト用周辺物体情報とを参照して前記ｋ個のテスト用協同走行車両それぞれのテスト用移動方向確率値を生成させることによって、前記テスト用移動方向確率値を参照して前記テスト用対象自律走行車両を運行させるプロセスを遂行する段階；を含む方法が開示される。
【００２３】
一実施例において、前記（ａ）段階で、前記ｋ個のテスト用協同走行車両のうち前記少なくとも一つの協同走行車両の前記テスティング装置が、前記テスト用走行イメージと前記多数のテスト用センサ状態情報とを前記センサフュージョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（ｉ）ＣＮＮを通じたコンボリューション演算を前記テスト用走行イメージに適用してテスト用特徴マップを生成し、前記テスト用特徴マップにＦＣ演算を適用してテスト用イメージベクトルを生成させ、（ｉｉ）少なくとも一つのＬＳＴＭを通じた循環ニューラルネットワーク演算を前記多数のテスト用センサ状態情報に適用してテスト用センサ状態特徴ベクトルを生成させ、（ｉｉｉ）前記テスト用イメージ特徴ベクトル及び前記テスト用センサ状態特徴ベクトルをコンカチネートしてテスト用コンカチネート済み特徴ベクトルを生成し、前記テスト用コンカチネート済み特徴ベクトルに少なくとも一つのＦＣレイヤのＦＣ演算を適用して前記テスト用センサフュージョン確率値を生成させることを特徴とする。
【００２４】
一実施例において、前記ｋ個のテスト用協同走行車両のうち前記少なくとも一つの協同走行車両の前記テスティング装置は、前記センサフュージョンネットワークをもって、プーリングレイヤを通じて前記テスト用特徴マップにマックスプーリング演算を適用し、その結果値にＦＣ演算を適用することによって、前記テスト用イメージ特徴ベクトルを生成させることを特徴とする。
【００２５】
一実施例において、前記ｋ個のテスト用協同走行車両のうち前記少なくとも一つの協同走行車両の前記テスティング装置は、ソフトマックスアルゴリズムを通じて前記テスト用センサフュージョン確率値それぞれを正規化して出力することを特徴とする。
【００２６】
一実施例において、前記（ａ）段階で、前記ｋ個のテスト用協同走行車両のうち前記少なくとも一つの協同走行車両の前記テスティング装置が、（ｉ）前記テスト用ｋ個の協同走行車両のうち特定の協同走行車両から取得された前記テスト用走行イメージに、特定のＣＮＮを通じた多重コンボリューション演算を適用してテスト用特徴マップを生成するプロセス、及び前記テスト用特徴マップにＦＣ演算を適用してテスト用イメージ特徴ベクトルが生成されると、前記特定の協同走行車両から前記Ｖ２Ｖ通信を介して前記テスト用イメージ特徴ベクトルを取得するプロセス、（ｉｉ）少なくとも一つのＬＳＴＭを通じた循環ニューラルネットワーク演算を前記多数のテスト用センサ状態情報に適用してテスト用センサ状態特徴ベクトルを生成するプロセス、及び（ｉｉｉ）前記Ｖ２Ｖ通信を介して取得された、前記テスト用イメージ特徴ベクトルと前記テスト用センサ状態特徴ベクトルとをコンカチネートしてテスト用コンカチネート済み特徴ベクトルを生成するプロセス、及び前記テスト用コンカチネート済み特徴ベクトルに少なくとも一つのＦＣレイヤを介したＦＣ演算を適用して前記テスト用センサフュージョン確率値を生成するプロセスを遂行することを特徴とする。
【００２７】
一実施例において、前記特定の車両は、特定のＣＮＮをもって、前記テスト用走行イメージにコンボリューション演算を適用させてテスト用特徴マップを生成させ、前記テスト用特徴マップにＦＣ演算を適用して前記テスト用イメージ特徴ベクトルを生成させ、前記特定の車両は、ラウンドロビンスケジューリング（Ｒｏｕｎｄ  Ｒｏｂｉｎ  Ｓｃｈｅｄｕｌｉｎｇ）によって順次に一定時間の間隔で指定される前記ｋ個のテスト用協同走行車両のうち一つの協同走行車両であることを特徴とする。
【００２８】
本発明の他の態様によると、協同走行を遂行する自律走行車両のセンサフュージョン（Ｓｅｎｓｏｒ  Ｆｕｓｉｏｎ）に使用されるセンサフュージョンネットワークを学習するための学習装置において、各インストラクションを格納する一つ以上のメモリと、（Ｉ）（ｉ）（ｉ−１）対象自律走行車両と、（ｉ−２）前記対象自律走行車両と前記協同走行を遂行する第１バーチャル車両を含むｍ個の学習用協同走行車両と、（ｉ−３）非協同走行を遂行する第２バーチャル車両と、を含む学習用走行イメージ、及び（ｉｉ）前記ｍ個の学習用協同走行車両それぞれのｎ個の学習用センサに関する多数の学習用センサ状態情報が取得されると、前記学習用走行イメージ及び前記多数の学習用センサ状態情報を前記センサフュージョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（Ｉ−１）前記学習用走行イメージ及び前記多数の学習用センサ状態情報にニューラルネットワーク演算を適用させて、前記ｍ個の学習用協同走行車両それぞれが前記協同走行のためにＶ２Ｖ（ｖｅｈｉｃｌｅ−ｔｏ−ｖｅｈｉｃｌｅ）通信を介して前記ｎ個の学習用センサそれぞれの各センサ値を伝送する確率値である学習用センサフュージョン確率値を生成させ、（Ｉ−２）前記学習用センサフュージョン確率値のうち、予め設定された閾値以上の確率値を有するｓ個の学習用センサ（前記ｓは１以上ｍ×ｎ以下の整数である）に関する学習用フュージョンセンサ情報を生成させるプロセス、（ＩＩ）前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される学習用道路走行映像を検出ネットワークに入力して、前記検出ネットワークをもって、前記対象自律走行車両の走行道路上の前記第２バーチャル車両と、一人以上の歩行者と、一つ以上の車線とのうち少なくとも一部を検出させて学習用周辺物体情報を出力させるプロセス、及び前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される学習用センサ値と前記学習用周辺物体情報とを走行ネットワークに入力して、前記走行ネットワークをもって、前記学習用センサ値及び前記学習用周辺物体情報を参照して前記ｍ個の学習用協同走行車両それぞれの学習用移動方向確率値を生成させて、前記学習用移動方向確率値を参照して前記対象自律走行車両を運行させるプロセス、及び（ＩＩＩ）前記走行ネットワークにより運行される前記対象自律走行車両の学習用交通状況情報を取得し、前記学習用交通状況情報を参照してリワード（ｒｅｗａｒｄ）を生成し、前記リワードを利用して前記センサフュージョンネットワークを学習するプロセスを遂行するための前記各インストラクションを実行するように構成された少なくとも一つのプロセッサと、を含む学習装置が開示される。
【００２９】
一実施例において、前記（Ｉ）プロセスで、前記プロセッサが、前記学習用走行イメージと前記多数の学習用センサ状態情報とを前記センサフュージョンネットワークに入力して、前記センサフュージョンネットワークを通じて、（ｉ）ＣＮＮ（ｃｏｎｖｏｌｕｔｉｏｎａｌ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）を介したコンボリューション演算を前記学習用走行イメージに適用して学習用特徴マップを生成し、前記学習用特徴マップにＦＣ（ｆｕｌｌｙ−ｃｏｎｎｅｃｔｅｄ）演算を適用して学習用イメージ特徴ベクトルを生成させ、（ｉｉ）少なくとも一つのＬＳＴＭ（Ｌｏｎｇ  ｓｈｏｒｔ−ｔｅｒｍ  ｍｅｍｏｒｙ）を介した循環（ｒｅｃｕｒｒｅｎｔ）ニューラルネットワーク演算を前記多数の学習用センサ状態情報に適用して学習用センサ状態特徴ベクトルを生成させ、（ｉｉｉ）前記学習用イメージ特徴ベクトル及び前記学習用センサ状態特徴ベクトルをコンカチネート（ｃｏｎｃａｔｅｎａｔｉｎｇ）して学習用コンカチネート済み特徴ベクトルを生成し、前記学習用コンカチネート済み特徴ベクトルに少なくとも一つのＦＣレイヤのＦＣ演算を適用して前記学習用センサフュージョン確率値を生成させることを特徴とする。
【００３０】
一実施例において、前記プロセッサは、前記リワードを利用して、前記センサフュージョンネットワークに含まれている、前記ＣＮＮと、前記少なくとも一つのＬＳＴＭと、前記少なくとも一つのＦＣレイヤとのうち少なくとも一つのパラメータをアップデートすることを特徴とする。
【００３１】
一実施例において、前記プロセッサは、前記センサフュージョンネットワークをもって、プーリングレイヤを通じて前記学習用特徴マップにマックスプーリング（ｍａｘ−ｐｏｏｌｉｎｇ）演算を適用し、その結果値にＦＣ演算を適用することによって、前記学習用イメージ特徴ベクトルを生成させることを特徴とする。
【００３２】
一実施例において、前記プロセッサは、ソフトマックス（ｓｏｆｔｍａｘ）アルゴリズムを通じて前記学習用センサフュージョン確率値それぞれを正規化して出力することを特徴とする。
【００３３】
一実施例において、前記リワードは、前記ｍ個の学習用協同走行車両それぞれの前記ｎ個の学習用センサの個数の合計から前記ｓ個の学習用センサの個数を減算して生成されたものであり、前記プロセッサは、前記学習用交通状況情報を参照して前記リワードを増加又は減少させることを特徴とする。
【００３４】
一実施例において、前記学習用走行イメージは、前記ｍ個の学習用協同走行車両が前記協同走行中である全体道路に対する全体道路イメージであって、前記全体道路イメージがグリッド（ｇｒｉｄ）形態に分割されて生成された一定サイズのブロックそれぞれが前記ｍ個の学習用協同走行車両それぞれにより占有されているか、前記第２バーチャル車両全体により占有されているのかを表す（ｍ＋１）個のチャンネルのイメージであり、前記（ｍ＋１）個のチャンネルのうちｍ個のチャンネルそれぞれは、前記ｍ個の学習用協同走行車両それぞれに対応し、残りの一つのチャンネルは、前記第２バーチャル車両に対応するものであることを特徴とする。
【００３５】
本発明の他の態様によると、協同走行を遂行する自律走行車両のセンサフュージョン（Ｓｅｎｓｏｒ  Ｆｕｓｉｏｎ）に使用されるセンサフュージョンネットワークをテストするための、ｋ個のテスト用協同走行車両のうち少なくとも一つの協同走行車両のテスティング装置において、各インストラクションを格納する一つ以上のメモリと、（Ｉ）（ｉ）（ｉ−１）学習用対象自律走行車両と、（ｉ−２）前記学習用対象自律走行車両と前記協同走行を遂行する第１バーチャル車両を含むｍ個の学習用協同走行車両と、（ｉ−３）非協同走行を遂行する第２バーチャル車両と、を含む学習用走行イメージ、及び（ｉｉ）前記ｍ個の学習用協同走行車両それぞれのｎ個の学習用センサに関する多数の学習用センサ状態情報が取得されると、学習装置が、（１）前記学習用走行イメージ及び前記多数の学習用センサ状態情報を前記センサフュージョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（１−１）前記学習用走行イメージ及び前記多数の学習用センサ状態情報にニューラルネットワーク演算を適用させて、前記ｍ個の学習用協同走行車両それぞれが前記協同走行のためにＶ２Ｖ（ｖｅｈｉｃｌｅ−ｔｏ−ｖｅｈｉｃｌｅ）通信を介して前記ｎ個の学習用センサそれぞれの各センサ値を伝送する確率値である学習用センサフュージョン確率値を生成させ、（１−２）前記学習用センサフュージョン確率値のうち、予め設定された閾値以上の確率値を有するｓ個の学習用センサ（前記ｓは１以上ｍ×ｎ以下の整数である）に関する学習用フュージョンセンサ情報を生成させるプロセス、（２）前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される学習用道路走行映像を検出ネットワークに入力して、前記検出ネットワークをもって、前記学習用対象自律走行車両の走行道路上の前記第２バーチャル車両と、一人以上の歩行者と、一つ以上の車線とのうち少なくとも一部を検出させて学習用周辺物体情報を出力させるプロセス、（３）前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される学習用センサ値と前記学習用周辺物体情報とを走行ネットワークに入力して、前記走行ネットワークをもって、前記学習用センサ値及び前記学習用周辺物体情報を参照して前記ｍ個の学習用協同走行車両それぞれの学習用移動方向確率値を生成させて、前記学習用移動方向確率値を参照して前記学習用対象自律走行車両を運行させるプロセス、及び（４）前記走行ネットワークにより運行される前記学習用対象自律走行車両の学習用交通状況情報を取得し、前記学習用交通状況情報を参照してリワード（ｒｅｗａｒｄ）を生成し、前記リワードを利用して前記センサフュージョンネットワークを学習するプロセスを遂行した状態で、（ｉ）（ｉ−１）テスト用対象自律走行車両と、（ｉ−２）前記テスト用対象自律走行車両と前記協同走行を遂行する第１車両を含むｋ個のテスト用協同走行車両と、（ｉ−３）前記非協同走行を遂行する第２車両と、を含むテスト用走行イメージ、（ｉｉ）前記ｋ個のテスト用協同走行車両それぞれのｉ個のテスト用センサに関する多数のテスト用センサ状態情報が取得されると、前記テスト用走行イメージ及び前��多数のテスト用センサ状態情報を前記センサフュージョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（Ｉ−１）前記テスト用走行イメージ及び前記多数のテスト用センサ状態情報に前記ニューラルネットワーク演算を適用させて、前記ｋ個のテスト用協同走行車両それぞれが前記協同走行のために前記Ｖ２Ｖ通信を介して前記ｉ個のテスト用センサそれぞれの各センサ値を伝送する確率値であるテスト用センサフュージョン確率値を生成させ、（Ｉ−２）前記テスト用センサフュージョン確率値のうち、予め設定された閾値以上の確率値を有するｓ個のテスト用センサに関するテスト用フュージョンセンサ情報を生成させ、（Ｉ−３）前記ｓ個のテスト用センサに関する前記テスト用フュージョンセンサ情報を、前記Ｖ２Ｖ通信を介して前記ｋ個のテスト用協同走行車両のうち少なくとも一部に伝送させるプロセス、及び（ＩＩ）前記テスト用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得されるテスト用道路走行映像を前記検出ネットワークに入力して、前記検出ネットワークをもって、前記テスト用対象自律走行車両の走行道路上の前記第２車両と、前記歩行者と、前記車線とのうち少なくとも一部を検出してテスト用周辺物体情報を出力させるプロセス、及び前記テスト用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得されたテスト用センサ値と前記テスト用周辺物体情報とを前記走行ネットワークに入力して、前記走行ネットワークをもって、前記テスト用センサ値と前記テスト用周辺物体情報とを参照して、前記ｋ個のテスト用協同走行車両それぞれのテスト用移動方向確率値を生成させることによって、前記テスト用移動方向確率値を参照して前記テスト用対象自律走行車両を運行させるプロセスを遂行するプロセスを遂行するための前記各インストラクションを実行するように構成された少なくとも一つのプロセッサと、を含むテスティング装置が開示される。
【００３６】
一実施例において、前記（Ｉ）プロセスで、前記プロセッサが、前記テスト用走行イメージと前記多数のテスト用センサ状態情報とを前記センサフュージョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（ｉ）ＣＮＮを通じたコンボリューション演算を前記テスト用走行イメージに適用してテスト用特徴マップを生成し、前記テスト用特徴マップにＦＣ演算を適用してテスト用イメージ特徴ベクトルを生成させ、（ｉｉ）少なくとも一つのＬＳＴＭを通じた循環ニューラルネットワーク演算を前記多数のテスト用センサ状態情報に適用してテスト用センサ状態特徴ベクトルを生成させ、（ｉｉｉ）前記テスト用イメージ特徴ベクトル及び前記テスト用センサ状態特徴ベクトルをコンカチネートしてテスト用コンカチネート済み特徴ベクトルを生成し、前記テスト用コンカチネート済み特徴ベクトルに少なくとも一つのＦＣレイヤのＦＣ演算を適用して前記テスト用センサフュージョン確率値を生成させることを特徴とする。
【００３７】
一実施例において、前記プロセッサは、前記センサフュージョンネットワークをもって、プーリングレイヤを通じて前記テスト用特徴マップにマックスプーリング演算を適用し、その結果値にＦＣ演算を適用することによって、前記テスト用イメージ特徴ベクトルを生成させることを特徴とする。
【００３８】
一実施例において、前記プロセッサは、ソフトマックスアルゴリズムを通じて前記テスト用センサフュージョン確率値それぞれを正規化して出力することを特徴とする。
【００３９】
一実施例において、前記（Ｉ）プロセスで、前記プロセッサが、（ｉ）前記テスト用ｋ個の協同走行車両のうち特定の協同走行車両から取得された前記テスト用走行イメージに、特定のＣＮＮを通じた多重コンボリューション演算を適用してテスト用特徴マップを生成するプロセス、及び前記テスト用特徴マップにＦＣ演算を適用してテスト用イメージ特徴ベクトルが生成されると、前記特定の協同走行車両から前記Ｖ２Ｖ通信を介して前記テスト用イメージ特徴ベクトルを取得するプロセスと、（ｉｉ）少なくとも一つのＬＳＴＭを通じた循環ニューラルネットワーク演算を前記多数のテスト用センサ状態情報に適用してテスト用センサ状態特徴ベクトルを生成するプロセスと、（ｉｉｉ）前記Ｖ２Ｖ通信を介して取得された、前記テスト用イメージ特徴ベクトルと前記テスト用センサ状態特徴ベクトルとをコンカチネートしてテスト用コンカチネート済み特徴ベクトルを生成するプロセス、及び前記テスト用コンカチネート済み特徴ベクトルに少なくとも一つのＦＣレイヤを介したＦＣ演算を適用して前記テスト用センサフュージョン確率値を生成するプロセスとを遂行することを特徴とする。
【００４０】
一実施例において、前記特定の車両は、特定のＣＮＮをもって、前記テスト用走行イメージにコンボリューション演算を適用させてテスト用特徴マップを生成させ、前記テスト用特徴マップにＦＣ演算を適用して前記テスト用イメージ特徴ベクトルを生成させ、前記特定の車両は、ラウンドロビンスケジューリング（Ｒｏｕｎｄ  Ｒｏｂｉｎ  Ｓｃｈｅｄｕｌｉｎｇ）によって順次に一定時間の間隔で指定される前記ｋ個のテスト用協同走行車両のうち一つの協同走行車両であることを特徴とする。
【００４１】
その他にも、本発明の方法を実行するためのコンピュータプログラムを格納するためのコンピュータ読取り可能な記録媒体がさらに提供される。
【発明の効果】
【００４２】
本発明は、自律走行車両の一部のセンサが故障した場合でも、協同走行中である他の自律走行車両のセンサ情報を通じて代替が可能であるため、自律走行車両の信頼度を向上させる効果がある。
【００４３】
本発明は、Ｖ２Ｖ通信を介して必要なセンサ情報のみを送受信するため、データ送受信のためのデータ量を最少化する他の効果がある。
【００４４】
本発明は、協同走行のための自律走行車両の適正走行位置に応じて必要かつ正確なセンサ情報を取得する、また他の効果がある。
【００４５】
本発明は、協同走行を通じて共通のセンサ情報を、それぞれの自律走行車両が分散演算して共有するため、自律走行車両の演算量を減らす、また他の効果がある。
【図面の簡単な説明】
【００４６】
本発明の実施例の説明に利用されるために添付された以下の各図面は、本発明の実施例のうち単に一部であるに過ぎず、本発明の属する技術分野において通常の知識を有する者（以下「通常の技術者」）にとっては、発明的作業が行われずにこれらの図面に基づいて他の各図面が得られ得る。
【図１】図１は、本発明の一実施例にしたがって、強化学習に基づいて協同走行で対象自律走行車両のセンサフュージョンのためのセンサフュージョンネットワークを学習する学習装置を簡略に示した図面である。
【図２】図２は、本発明の一実施例にしたがって、対象自律走行車両の協同走行の状態を簡略に示した図面である。
【図３】図３は、本発明の一実施例にしたがって、強化学習に基づいて協同走行で対象自律走行車両のセンサフュージョンのためのセンサフュージョンネットワークを学習する学習方法を簡略に示した図面である。
【図４】図４は、本発明の一実施例にしたがって、強化学習に基づいて協同走行で対象自律走行車両のセンサフュージョンのためのセンサフュージョンネットワークを簡略に示した図面である。
【図５】図５は、本発明の一実施例にしたがって、強化学習に基づいて協同走行で対象自律走行車両のセンサフュージョンのためのセンサフュージョンネットワークをテストするテスティング装置を簡略に示した図面である。
【発明を実施するための形態】
【００４７】
後述する本発明に関する詳細な説明は、本発明の各目的、各技術的解法、及び各長所を明らかにするために本発明が実施され得る特定の実施例を例示として示す添付図面を参照する。これらの実施例は、当業者が本発明を実施することができるように十分詳細に説明される。
【００４８】
また、本発明の詳細な説明及び各請求項にわたって、「含む」という単語及びそれらの変形は、他の技術的各特徴、各付加物、構成要素又は段階を除外することを意図したものではない。通常の技術者にとって本発明の他の各目的、長所及び各特性が、一部は本説明書から、また一部は本発明の実施から明らかになるであろう。以下の例示及び図面は実例として提供され、本発明を限定することを意図したものではない。
【００４９】
さらに、本発明は、本明細書に示された実施例のすべての可能な組合せを網羅する。本発明の多様な実施例は互いに異なるが、相互に排他的である必要はないことが理解されるべきである。例えば、ここに記載されている特定の形状、構造及び特性は、一実施例に関連して本発明の精神及び範囲を逸脱せず、かつ他の実施例で具現され得る。また、それぞれの開示された実施例内の個別の構成要素の位置又は配置は、本発明の精神及び範囲を逸脱せず、かつ変更され得ることが理解されるべきである。したがって、後述の詳細な説明は、限定的な意味として受け取ろうとするものではなく、本発明の範囲は適切に説明されるのであれば、その請求項が主張することと均等な全ての範囲とともに添付された請求項によってのみ限定される。図面において類似の参照符号は、様々な側面にわたって同一であるか、又は類似の機能を指す。
【００５０】
本発明で言及している各種イメージは、舗装または非舗装道路関連のイメージを含み得、この場合、道路環境で登場し得る物体（例えば、自動車、人、動物、植物、物、建物、飛行機やドローンのような飛行体、その他の障害物）を想定し得るが、必ずしもこれに限定されるものではなく、本発明で言及している各種イメージは、道路と関係のないイメージ（例えば、非舗装道路、路地、空き地、海、湖、川、山、森、砂漠、空、室内と関連したイメージ）でもあり得、この場合、非舗装道路、路地、空き地、海、湖、川、山、森、砂漠、空、室内環境で登場し得る物体（例えば、自動車、人、動物、植物、物、建物、飛行機やドローンのような飛行体、その他の障害物）を想定し得るが、必ずしもこれに限定されるものではない。
【００５１】
以下、本発明の属する技術分野において通常の知識を有する者が本発明を容易に実施し得るようにするために、本発明の好ましい実施例について、添付された図面を参照して詳細に説明することにする。
【００５２】
図１は、本発明の一実施例にしたがって、強化学習に基づいて協同走行で多重エージェントセンサフュージョン（ｍｕｌｔｉｐｌｅ  ａｇｅｎｔ  ｓｅｎｓｏｒ  ｆｕｓｉｏｎ）のためのセンサフュージョンネットワークを学習する学習装置を簡略に示した図面である。図１を参照すると、前記学習装置１００は、前記強化学習に基づいて対象自律走行車両の協同走行で多重エージェントセンサフュージョンのための前記センサフュージョンネットワークを学習する各インストラクションを格納するメモリ１２０と、前記メモリ１２０に格納された前記各インストラクションに対応するプロセスを遂行するプロセッサ１３０とを含むことができる。
【００５３】
具体的に、前記学習装置１００は、 典型的に少なくとも一つのコンピューティング装置（例えば、コンピュータプロセッサ、メモリ、ストレージ、入力装置及び出力装置、その他既存のコンピューティング装置の各構成要素を含むことができる装置；ルータ、スイッチなどのような電子通信装置；ネットワーク接続ストレージ（ＮＡＳ）及びストレージ領域ネットワーク（ＳＡＮ）のような電子情報ストレージシステム）と少なくとも一つのコンピュータソフトウェア（すなわち、コンピューティング装置をもって特定の方式で機能させるインストラクション）との組み合わせを利用して所望のシステム性能を達成するものであり得る。
【００５４】
また、前記コンピューティング装置のプロセッサは、ＭＰＵ（Ｍｉｃｒｏ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）またはＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）、キャッシュメモリ（Ｃａｃｈｅ  Ｍｅｍｏｒｙ）、データバス（Ｄａｔａ  Ｂｕｓ）などのハードウェア構成を含むことができる。また、コンピューティング装置は、オペレーティングシステム、特定の目的を遂行するアプリケーションのソフトウェア構成をさらに含むこともできる。
【００５５】
しかし、このような前記コンピューティング装置についての説明が、本発明を実施するためのプロセッサ、メモリ、媒体又はその他のコンピューティング構成要素が統合された形態である統合プロセッサである場合を排除するわけではない。
【００５６】
一方、前記対象自律走行車両は、一つ以上の周辺車両とのＶ２Ｖ（ｖｅｈｉｃｌｅ  ｔｏ  ｖｅｈｉｃｌｅ）通信のための通信部１１０と、前記協同走行における前記多重エージェントセンサフュージョンのための前記センサフュージョンネットワーク１４０と、前記対象自律走行車両の走行道路上の前記周辺車両、一人以上の歩行者、及び一つ以上の車線のうち少なくとも一部を検出して周辺物体情報を出力する検出ネットワーク１５０と、フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得したセンサ値及び前記周辺物体情報を参照して前記対象自律走行車両が運行されるようにする走行ネットワーク１６０とを含むことができる。
【００５７】
このように構成された本発明の一実施例による前記学習装置１００を利用して、前記強化学習に基づいて前記協同走行で前記多重エージェントセンサフュージョンのための前記センサフュージョンネットワークを学習する方法を、図１ないし図４を参照して説明すると以下のとおりである。
【００５８】
まず、図２を参照すると、前記学習装置１００は、（ｉ）（ｉ−１）前記対象自律走行車両と、（ｉ−２）前記対象自律走行車両と前記協同走行を遂行する第１バーチャル車両を含むｍ個の学習用協同走行車両と、（ｉ−３）非協同走行を遂行する第２バーチャル車両と、を含む学習用走行イメージ、及び（ｉｉ）前記ｍ個の学習用協同走行車両それぞれのｎ個の学習用センサに関する多数の学習用センサ状態情報を取得することができる。
【００５９】
この場合、前記協同走行を遂行する前記対象自律走行車両の場合、物体検出のためのＣＮＮ（ｃｏｎｖｏｌｕｔｉｏｎａｌ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）のバーチャル学習過程のように、単に準備されたトレーニングイメージを挿入することによって仮想的に行われるのではなく、実際に道路を走行しながら行われなければならない。すなわち、学習が完全に行われていない場合には、実際の道路上の前記対象自律走行車両が衝突する確率が非常に高いことがある。したがって、本発明においては、これを解決するための方案としてバーチャル空間（Ｖｉｒｔｕａｌ  ｗｏｒｌｄ）で前記学習を遂行し、前記対象自律走行車両及び前記対象自律走行車両から特定距離内の少なくとも一つの周辺バーチャル車両が前記バーチャル空間に存在するようにプログラムされ得る。この場合、前記対象自律走行車両と協同走行を遂行する前記第１バーチャル車両を含む学習用ｍ個の学習用協同走行車両及び前記対象自律走行車両であるすべてのエージェント（ａｇｅｎｔ）は、同一のネットワークで動作（ａｃｔｉｏｎ）を決定することができる。
【００６０】
そして、図２では、３台の車両が前記協同走行モードで走行するものとして例示したが、３台以上の車両が前記協同走行モードで運行している場合、これらの連結関係を、三角形メッシュ（ｔｒｉａｎｇｕｌａｒ  ｍｅｓｈ）の形態で表現することができるが、前記三角形メッシュを構成する最も簡単な形態は、３台の車両からなる三角形である。したがって、図２では３台の車両についてのみ示したが、複数台の車両による前記協同走行モードにおいて簡単に拡張することが可能であろう。
【００６１】
一方、前記学習用走行イメージは、前記ｍ個の学習用協同走行車両が前記協同走行中である全体道路に対する全体道路イメージであって、前記全体道路イメージがグリッド（ｇｒｉｄ）形態に分割されて生成された一定サイズのブロックそれぞれが前記ｍ個の学習用協同走行車両それぞれにより占有されているか、前記第２バーチャル車両全体により占有されているのかを表す（ｍ＋１）個のチャンネルのイメージであり、前記（ｍ＋１）個のチャンネルのうちｍ個のチャンネルそれぞれは、前記ｍ個の学習用協同走行車両それぞれに対応し、残りの一つのチャンネルは前記第２バーチャル車両に対応し得る。この場合、前記学習用走行イメージは、前記ｍ個の学習用協同走行車両の位置情報と前記第２バーチャル車両の位置情報とを利用して生成することができ、前記ｍ個の学習用バーチャル車両の位置情報は、それ自体のＧＰＳ情報を前記Ｖ２Ｖ通信を介して互いに共有して確認することができ、前記第２バーチャル車両の位置情報は、以前の動作、すなわち、以前のフレームから前記ｍ個の学習用協同走行車両それぞれにおいて検出された前記第２バーチャル車両の位置情報を利用して確認することができる。
【００６２】
そして、前記多数の学習用センサ状態情報は、前記ｍ個の学習用協同走行車両それぞれに設置されている前記ｎ個のセンサに関する状態情報、すなわち、前記センサが作動可能であるのかを示す情報であり得る。一例として、前記多数の学習用センサ状態情報のうち少なくとも一部は、センサが使用可能であれば、ベクトル要素が１として、欠陥の発生などによって使用不可能であれば０として表現されたｍ×ｎ個のセンサの状態を表すベクトルであり得る。また、前記多数の学習用センサ状態情報は、前記ｍ個の学習用協同走行車両それぞれの速度それぞれをさらに含むことができる。この場合、前記多数の学習用センサ状態情報は、前記センサがバーチャル走行環境で正常状態と非正常状態とを行き来させて取得することができる。本明細書において、「速度」はスカラー（ｓｃａｌａｒ）であり得るが、場合によってはベクトルでもあり得る。
【００６３】
次に、図３を参照すると、前記学習装置１００は、前記学習用走行イメージと前記多数の学習用センサ状態情報とを前記対象自律走行車両のセンサフュージョンネットワーク１４０に入力して、前記センサフュージョンネットワーク１４０をもって、前記協同走行を遂行する前記ｍ個の学習用協同走行車両の前記センサ状態に関する情報及び前記協同走行を遂行する前記対象自律走行車両の前記走行道路状況に関する情報を分析して、前記Ｖ２Ｖ通信を介して、どのセンサから得られたどのような情報を前記協同走行を遂行する協同走行車両に伝送するのかに関する情報を出力させることができる。
【００６４】
つまり、前記学習装置１００は、前記学習用走行イメージ及び前記多数の学習用センサ状態情報を前記センサフュージョンネットワーク１４０に入力することによって、前記センサフュージョンネットワーク１４０をもって、（ｉ）前記学習用走行イメージ及び前記多数の学習用センサ状態情報にニューラルネットワーク演算を適用させて、前記ｍ個の学習用協同走行車両それぞれが前記協同走行を行うために前記Ｖ２Ｖ（ｖｅｈｉｃｌｅ−ｔｏ−ｖｅｈｉｃｌｅ）通信を介して前記ｎ個の学習用センサそれぞれの前記センサ値を伝送する確率値である学習用センサフュージョン確率値を生成させ、（ｉｉ）前記学習用センサフュージョン確率値のうち、予め設定された閾値以上の確率値を有するｓ個の学習用センサに関する学習用フュージョンセンサ情報を生成させることができる。この場合、ｓは１以上でありｍ×ｎ以下である整数（ｉｎｔｅｇｅｒ）であり得る。
【００６５】
一例として、図４を参照すると、前記学習装置１００は入力１としての学習用走行イメージに前記ＣＮＮ（ｃｏｎｖｏｌｕｔｉｏｎａｌ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）を利用した演算を適用することができる。つまり、前記学習装置１００は、前記学習用走行イメージを少なくとも一つのコンボリューションレイヤに入力した後、前記コンボリューションレイヤをもって、少なくとも一つのコンボリューション演算を前記学習用走行イメージに適用して、少なくとも一つの学習用特徴マップを生成させる。この場合、前記コンボリューションレイヤは多数のレイヤで構成され得、前記学習用走行イメージに多重コンボリューション演算を適用することができる。
【００６６】
そして、前記学習装置１００は、前記学習用特徴マップを少なくとも一つのＦＣレイヤに入力して、前記ＦＣレイヤをもって、ＦＣ演算を前記学習用特徴マップに適用することによって、学習用イメージ特徴ベクトルを生成させることができる。
【００６７】
この際、前記ＦＣレイヤは、多数のレイヤで構成され得る。また、前記学習装置１００は、少なくとも一つのプーリングレイヤを通じて、前記学習用特徴マップにマックスプーリング（ｍａｘ−ｐｏｏｌｉｎｇ）演算を適用し、場合によって前記学習用マックスプーリング特徴マップを前記ＦＣレイヤに入力することができる。
【００６８】
また、前記学習装置１００は、入力２としての前記多数の学習用センサ状態情報を少なくとも一つのＬＳＴＭ（ｌｏｎｇ  ｓｈｏｒｔ−ｔｅｒｍ  ｍｅｍｏｒｙ）に入力して、前記ＬＳＴＭ（Ｌｏｎｇ  ｓｈｏｒｔ−ｔｅｒｍ  ｍｅｍｏｒｙ）をもって循環（ｒｅｃｕｒｒｅｎｔ）ニューラルネットワーク演算を前記多数の学習用センサ状態情報に適用して、前記学習用センサ状態特徴ベクトルを生成させることができる。この際、前記ＬＳＴＭは複数個で形成され得、前記ＬＳＴＭは一回以上繰り返すことができる。
【００６９】
以後、前記学習装置１００は、前記学習用イメージ特徴ベクトル及び前記学習用センサ状態特徴ベクトルをコンカチネート（ｃｏｎｃａｔｅｎａｔｉｎｇ）して学習用コンカチネート済み特徴ベクトルを生成し、前記学習用コンカチネート済み特徴ベクトルを前記ＦＣレイヤに入力して、前記ＦＣレイヤをもって、前記学習用コンカチネート済み特徴ベクトルにＦＣ演算を適用して学習用前記学習用センサフュージョン確率値を生成させる。この場合、前記学習装置１００は、前記センサフュージョンネットワーク１４０を介してソフトマックス（ｓｏｆｔｍａｘ）アルゴリズムを通じて前記学習用センサフュージョン確率値それぞれを正規化して出力することができる。
【００７０】
すなわち、前記学習装置１００は、前記センサフュージョンネットワーク１４０を介して前記ＣＮＮと前記ＬＳＴＭとの結果をコンカチネートし、前記コンカチネートされた結果を前記ＦＣレイヤに入力した後、前記ソフトマックス演算を前記ＦＣ演算からの結果に適用して、最終結果、すなわち、前記多重エージェントセンサフュージョンに対する結果を出力することができる。
【００７１】
一例として、前記協同走行モード上の前記３台の車両それぞれにｎ個のセンサがついている場合、それぞれの前記センサから得られたそれぞれの前記センサ情報を前記Ｖ２Ｖ通信で伝送する確率値を表す３×ｎ個の値を出力することができる。この場合、それぞれの３台の車両に対するｎ個の確率値は、各車両ごとに事前に正規化され得、前記協同走行を遂行する前記車両の前記ｎ個のセンサそれぞれから取得された前記センサ情報を前記Ｖ２Ｖ通信を通じて伝送する場合には確率値が大きい順序の通りｓ個を選択することができる。
【００７２】
再び図３を参照すると、前記学習装置１００は、前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得された学習用走行道路映像を前記検出ネットワーク１５０に入力して、前記検出ネットワーク１５０をもって、前記対象自律走行車両の前記走行道路上の前記第２バーチャル車両と、前記歩行者と、前記車線とのうち少なくとも一部を検出して前記学習用周辺物体情報を出力させることができる。この場合、前記検出ネットワーク１５０は、入力イメージ上で物体を検出するように学習された状態であり得る。
【００７３】
次に、前記学習装置１００は、前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得した前記学習用センサ値と前記学習用周辺物体情報とを前記走行ネットワーク１６０に入力して、前記走行ネットワーク１６０をもって、前記学習用センサ値と前記学習用周辺物体情報とを参照して前記ｍ個の学習用協同走行車両それぞれの学習用移動方向確率値を生成させて、前記学習用移動方向確率値を参照して前記対象自律走行車両を運行させることができる。この場合、前記走行ネットワーク１６０は、前記センサ値と前記周辺物体情報とを参照して前記協同走行を遂行する前記対象自律走行車両の前記移動方向確率値を生成するように学習された状態であり得る。
【００７４】
すなわち、前記学習装置１００は、前記走行ネットワーク１６０をもって、前記学習用センサ値と前記学習用周辺物体情報とを利用して協同走行形態をどのように変更するのかを判断させることができる。一例として、それぞれの前記協同走行車両がそれぞれ左側、右側に移動しなければならないか、移動してはならない場合の確率値を示す３×ｍ個の値を出力することができる。この際、それぞれの協同走行車両ごとに３つの確率値の和は事前に正規化されており、それぞれの前記協同走行車両は、確率値が最も大きい動作を遂行することができる。
【００７５】
次に、前記学習装置１００は、前記走行ネットワーク１６０により運行される前記対象自律走行車両に関する学習用交通状況情報を取得し、前記学習用交通状況情報を参照してリワード（ｒｅｗａｒｄ）を生成し、前記リワードを利用して前記センサフュージョンネットワークを学習するプロセスを遂行することができる。
【００７６】
すなわち、前記学習装置１００は、前記リワードを利用して、前記センサフュージョンネットワーク１４０に含まれている、前記ＣＮＮ、前記ＬＳＴＭ、及び前記ＦＣレイヤのうち少なくとも一つのパラメータをアップデートすることができる。
【００７７】
この場合、前記リワードは、前記ｍ個の学習用協同走行車両それぞれの前記ｎ個の学習用センサの個数の合計から前記ｓ個の学習用センサの個数を減算して生成されたものであり、前記学習装置１００は、前記学習用交通状況情報を参照して前記リワードを増加または減少させることができる。
【００７８】
これに関して、もう少し詳細に説明すると次のとおりである。
【００７９】
前記対象自律走行車両は、運行しつつ、その周辺状況の少なくとも一つの変化を示す前記交通状況情報、すなわち状況データを取得することができる。前記状況データは、（ｉ）前記対象自律走行車両から特定距離内にある少なくとも一つの周辺車両における少なくとも一つの車両警笛の作動可否に関する情報、（ｉｉ）前記少なくとも一つの周辺車両の速度変化情報、及び（ｉｉｉ）前記対象自律走行車両と前記少なくとも一つの周辺車両との間の少なくとも一つの事故情報のうち少なくとも一部を含むことができる。前記学習装置１００または前記走行ネットワーク１６０は、前記交通状況情報を参照して前記リワードを生成し、これは前記ニューラルネットワーク演算に使用される一つ以上のパラメータを調整するのに関与するので、上記のような情報を参照して前記プロセスを調整するということを意味する。
【００８０】
前記警笛作動の可否に関する情報と、前記速度変化情報と、前記事故情報とは、前記対象自律走行車両が安全に運行しているのかを判断するための基準である。前記対象自律走行車両が安全に走行しているのであれば、前記周辺車両が警笛を作動せず、速度を落とさないであろうし、周辺車両と事故が起こらないはずだからである。警笛の作動、速度の低下、事故など、少なくとも一つの事件が発生すると、前記学習装置１００または前記走行ネットワーク１６０は、前記リワードを下げることによって前記対象自律走行車両をより安全に走行させるはずである。また、前記多重エージェントセンターフュージョンにおいて、センサが少ない数で選択され得るように予め設定した閾値以上の確率値を有するセンサの個数をｓとする場合、前記学習装置１００または前記走行ネットワーク１６０は、ｓを利用して前記リワードを生成することができる。一例として、前記ｍ個の学習用協同走行車両それぞれの前記ｎ個の学習用センサ個数の合計から前記ｓ個の学習用センサの個数を減算した値をリワードとして生成することができる。
【００８１】
この場合、前記学習装置１００は、前記リワードが低ければ、前記センサフュージョンネットワーク１４０を学習して前記学習用フュージョンセンサ情報にさらに多くのセンサが含まれるようにし、前記リワードが高ければ、前記学習用フュージョンセンサ情報にさらに少ないセンサが含まれるようにすることによって、前記対象自律走行車両がより安全な走行をするようにできる。
【００８２】
そして、前記交通状況情報が取得されるためには、前記周辺バーチャル車両が警笛を鳴らし、速度を落とすロジック（ｌｏｇｉｃ）が事前にプログラムされていなければならない。具体的に、（ｉ）前記バーチャル空間で前記対象自律走行車両から特定の距離内にある少なくとも一つの周辺車両は、第１臨界時間内の前記対象自律走行車両と衝突する確率が検出されると警笛を鳴らすようにプログラムされ、（ｉｉ）前記周辺車両は、第２臨界時間内の前記対象自律走行車両と衝突する確率が検出されると速度を落とすようにプログラムされ得る。この場合、前記第１臨界時間は、前記第２臨界時間より長いか同じである。運転者が自ら運転する車両の速度を落としたくないために警笛を鳴らす場合が多いからである。もちろん、これは一つの実施例であるだけであり、前記第１臨界時間と前記第２臨界時間とは任意に設定され得る。
【００８３】
このように、前記周辺バーチャル車両の前記ロジックが具現されている場合、前記交通状況情報も実際とほぼ同様に取得され得るはずである。前記対象自律走行車両は、このように前記バーチャル空間に具現されて、前記バーチャル空間の前記対象自律走行車両が運行される過程を通じて、前記ニューラルネットワーク演算に使用されるパラメータが調整されることによって学習され得る。このように前記学習過程を具現すると、実際とほぼ同様の空間を前記バーチャル空間に具現することができるので、バーチャル空間上での様々な状況、すなわち、車両が多い渋滞状況、カーブの多い道を走行する状況、坂が屈曲した道を走行する状況等について事故なしに安全に学習することができる長所がある。
【００８４】
図５は、本発明の一実施例にしたがって、強化学習に基づいて協同走行で対象自律走行車両のセンサフュージョンのためのセンサフュージョンネットワークをテストするテスティング装置を簡略に示した図面である。前記テスティング装置２００は、前記強化学習に基づいて、前記自律走行車両の協同走行で多重エージェントセンサ（ｍｕｌｔｉｐｌｅ  ａｇｅｎｔ  ｓｅｎｓｏｒ）のための前記センサフュージョンネットワークをテストする各インストラクションを格納するメモリ２２０と、前記メモリ２２０に格納された前記各インストラクションに対応するプロセスを遂行するプロセッサ２３０とを含むことができる。
【００８５】
具体的に、前記テスティング装置２００は、 典型的に少なくとも一つのコンピューティング装置（例えば、コンピュータプロセッサ、メモリ、ストレージ、入力装置及び出力装置、その他既存のコンピューティング装置の各構成要素を含むことができる装置；ルータ、スイッチなどのような電子通信装置；ネットワーク接続ストレージ（ＮＡＳ）及びストレージ領域ネットワーク（ＳＡＮ）のような電子情報ストレージシステム）と少なくとも一つのコンピュータソフトウェア（すなわち、コンピューティング装置をもって特定の方式で機能させるインストラクション）との組み合わせを利用して所望のシステム性能を達成するものであり得る。
【００８６】
また、前記コンピューティング装置のプロセッサは、 ＭＰＵ（Ｍｉｃｒｏ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）またはＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）、キャッシュメモリ（Ｃａｃｈｅ  Ｍｅｍｏｒｙ）、データバス（Ｄａｔａ  Ｂｕｓ）などのハードウェア構成を含むことができる。また、コンピューティング装置は、オペレーティングシステム、特定の目的を遂行するアプリケーションのソフトウェア構成をさらに含むこともできる。
【００８７】
しかし、このような前記コンピューティング装置に関する説明が、本発明を実施するためのプロセッサ、メモリ、媒体又はその他のコンピューティング構成要素が統合された形態である統合プロセッサである場合を排除するわけではない。
【００８８】
このように構成された本発明の一実施例による前記テスティング装置２００を利用して、前記強化学習に基づいて前記協同走行で前記多重エージェントセンサフュージョンのための前記センサフュージョンネットワークをテストする方法を説明すると、以下のとおりである。以下の説明では、図２ないし図４から容易に理解が可能な部分については詳細な説明を省略することにする。
【００８９】
まず、前記対象自律走行車両の前記センサフュージョンのための前記センサフュージョンネットワークは、前記説明のような前記強化学習に基づいて学習された状態であり得る。
【００９０】
すなわち、前記学習装置により、（ａ）（ｉ）（ｉ−１）前記対象自律走行車両と、（ｉ−２）前記対象自律走行車両と前記協同走行を遂行する第１バーチャル車両を含む前記ｍ個の学習用協同走行車両と、（ｉ−３）前記バーチャル走行環境で前記非協同走行を遂行する前記第２バーチャル車両とを含む学習用走行イメージ、及び（ｉｉ）前記ｍ個の学習用協同走行車両それぞれのｎ個の学習用センサに対する前記多数の学習用センサ状態情報が取得されると、（１）前記学習用走行イメージ及び前記多数の学習用センサ状態情報を前記センサフュージョンネットワーク１４０に入力することによって、前記センサフュージョンネットワーク１４０をもって、（１−１）前記学習用走行イメージ及び前記多数の学習用センサ状態情報にニューラルネットワーク演算を適用させて、前記ｍ個の学習用協同走行車両それぞれが前記協同走行のために前記Ｖ２Ｖ（ｖｅｈｉｃｌｅ−ｔｏ−ｖｅｈｉｃｌｅ）通信を介して前記ｎ個の学習用センサそれぞれの各センサ値を伝送する確率値である学習用センサフュージョン確率値を生成させ、（１−２）前記学習用センサフュージョン確率値のうち、前記予め設定された閾値以上の確率値を有する前記ｓ個の学習用センサに関する前記学習用フュージョンセンサ情報を生成させるプロセス、（２）前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される前記学習用道路走行映像を前記検出ネットワークに入力して、前記検出ネットワークをもって、前記対象自律走行車両の走行道路上の前記第２バーチャル車両と、前記歩行者と、前記車線とのうち少なくとも一部を検出させて前記学習用周辺物体情報を出力させるプロセス、（３）前記学習用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得される前記学習用センサ値と前記学習用周辺物体情報とを前記走行ネットワークに入力して、前記走行ネットワークをもって、前記学習用センサ値及び前記学習用周辺物体情報を参照して前記ｍ個の学習用協同走行車両それぞれの学習用移動方向確率値を生成させて、前記学習用移動方向確率値を参照して前記対象自律走行車両を運行させるプロセス、及び（４）前記走行ネットワークにより運行される前記対象自律走行車両の前記学習用交通状況情報を取得し、前記学習用交通状況情報を参照して前記リワードを生成し、前記リワードを利用して前記センサフュージョンネットワークを学習させた状態であり得る。
【００９１】
この場合、（ｉ）（ｉ−１）テスト用対象自律走行車両と、（ｉ−２）前記対象自律走行車両と前記協同走行を遂行する第１車両を含むｋ個のテスト用協同走行車両と、（ｉ−３）前記非協同走行を遂行する第２車両と、を含むテスト用走行イメージ及び（ｉｉ）前記ｋ個のテスト用協同走行車両それぞれのｉ個のテスト用センサに関する多数のテスト用センサ状態情報が取得されると、前記ｋ個のテスト用協同走行車両のうち少なくとも一つの協同走行車両のテスティング装置２００が、前記テスト用走行イメージ及び前記多数のテスト用センサ状態情報を前記センサフュージョンネットワークに入力することによって、前記センサフュージョンネットワークをもって、（ａ−１）前記テスト用走行イメージ及び前記多数のテスト用センサ状態情報に前記ニューラルネットワーク演算を適用させて、前記ｋ個のテスト用協同走行車両それぞれが前記協同走行のために前記Ｖ２Ｖ通信を介して前記ｉ個のテスト用センサそれぞれの各センサ値を伝送する確率値であるテスト用センサフュージョン確率値を生成させ、（ａ−２）前記テスト用センサフュージョン確率値のうち、前記予め設定された閾値以上の確率値を有するｓ個のテスト用センサに関するテスト用フュージョンセンサ情報を生成させ、（ａ−３）前記ｓ個のテスト用センサに関する前記テスト用フュージョンセンサ情報を、前記Ｖ２Ｖ通信を介して前記ｋ個のテスト用協同走行車両のうち少なくとも一部に伝送させることができる。
【００９２】
すなわち、前記ｋ個のテスト用協同走行車両のうち前記少なくとも一つの協同走行車両の前記テスティング装置２００が、前記テスト用走行イメージと前記多数のテスト用センサ状態情報とを前記センサフュージョンネットワーク１４０に入力することによって、前記センサフュージョンネットワーク１４０をもって、（ｉ）前記ＣＮＮを通じたコンボリューション演算を前記テスト用走行イメージに適用してテスト用特徴マップを生成し、前記テスト用特徴マップにＦＣ演算を適用してテスト用イメージ特徴ベクトルを生成させ、（ｉｉ）少なくとも一つのＬＳＴＭを通じた循環ニューラルネットワーク演算を前記多数のテスト用センサ状態情報に適用してテスト用センサ状態特徴ベクトルを生成させ、（ｉｉｉ）前記テスト用イメージ特徴ベクトル及び前記テスト用センサ状態特徴ベクトルをコンカチネートしてテスト用コンカチネート済み特徴ベクトルを生成し、前記テスト用コンカチネート済み特徴ベクトルに少なくとも一つのＦＣレイヤのＦＣ演算を適用して前記テスト用センサフュージョン確率値を生成させることができる。
【００９３】
一例として、前記テスティング装置２００は、入力１として、前記テスト用走行イメージに前記ＣＮＮ（ｃｏｎｖｏｌｕｔｉｏｎａｌ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）を適用することができる。すなわち、前記テスティング装置１００は前記テスト用走行イメージを前記コンボリューションレイヤに入力した後、前記コンボリューションレイヤをもって、前記テスト用走行イメージにこのコンボリューション演算を適用して前記テスト用特徴マップを生成させることができる。
【００９４】
そして、前記テスティング装置２００は、前記テスト用特徴マップを前記ＦＣレイヤに入力して、前記ＦＣレイヤをもって、前記テスト用特徴マップにＦＣ演算を適用してテスト用イメージ特徴ベクトルを生成させることができる。
【００９５】
また、前記テスティング装置２００は、入力２として、前記多数のテスト用センサ状態情報を前記ＬＳＴＭ（ｌｏｎｇ  ｓｈｏｒｔ−ｔｅｒｍ  ｍｅｍｏｒｙ）に入力して、前記ＬＳＴＭをもって、循環（ｒｅｃｕｒｒｅｎｔ）ニューラルネットワーク演算を前記多数のテスト用センサ状態情報に適用して前記テスト用センサ状態特徴ベクトルを生成させることができる。
【００９６】
以後、前記テスティング装置２００は、前記テスト用イメージ特徴ベクトルと前記テスト用センサ状態特徴ベクトルとをコンカチネートしてテスト用コンカチネート済み特徴ベクトルを生成し、前記テスト用コンカチネート済み特徴ベクトルを前記ＦＣレイヤに入力して、前記ＦＣレイヤをもって、前記テスト用コンカチネート済み特徴ベクトルにＦＣ演算を適用して前記テスト用センサフュージョン確率値を生成させることができる。
【００９７】
次に、前記ｋ個のテスト用協同走行車両のうち前記少なくとも一つの協同走行車両の前記テスティング装置２００は、前記テスト用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得されるテスト用道路走行映像を前記検出ネットワーク１５０に入力して、前記検出ネットワーク１５０をもって、前記テスト用対象自律走行車両の実際の走行道路上における前記第２車両と、前記歩行者と、前記車線とのうち少なくとも一部を検出してテスト用周辺物体情報を出力させることができる。
【００９８】
以後、前記テスティング装置２００は、前記テスト用フュージョンセンサ情報に応答して前記Ｖ２Ｖ通信を介して取得されたテスト用センサ値及び前記テスト用周辺物体情報を前記走行ネットワーク１６０に入力して、前記走行ネットワーク１６０をもって、前記テスト用センサ値と前記テスト用周辺物体情報とを参照して、前記ｋ個のテスト用協同走行車両それぞれのテスト用移動方向確率値を生成させることによって、前記テスト用移動方向確率値を参照して前記対象自律走行車両を運行させることができる。
【００９９】
一方、前記テスティング装置２００が、ネットワーク演算を集中した形態で遂行する場合、すべてのエージェント、すなわち、前記ｋ個のテスト用協同走行車両から前記テスト用走行イメージと前記テスト用センサ状態情報とを一つのエージェントが前記Ｖ２Ｖ通信を介して集まる形態（ａｌｌ−ｔｏ−ｏｎｅ）で受信し、前記一つのエージェントはネットワーク演算を遂行して、その結果をＶ２Ｖ放送（ｏｎｅ−ｔｏ−ａｌｌ）として伝送することができる。
【０１００】
また、前記ネットワーク演算の少なくとも一部を別途に遂行する場合、すべてのエージェントは演算量が少ないＬＳＴＭ部分のネットワーク演算を遂行し、前記すべてのエージェントのうち特定のエージェントは、演算量の多いＣＮＮ部分の前記ネットワーク演算を遂行し、前記Ｖ２Ｖ通信を介して中間結果を放送することができ、前記すべてのエージェントは、前記ＬＳＴＭと前記ＣＮＮの中間結果を足し合わせて、最終結果を演算する部分を遂行させることができる。従って、演算量の多いＣＮＮ部分を前記特定のエージェントが担って遂行し、ラウンドロビン方式で前記すべてのエージェントが担うため、平均演算量を減らすことが可能になる。
【０１０１】
すなわち、前記ｋ個のテスト用協同走行車両のうち特定の車両が、特定のＣＮＮをもって、前記テスト用走行イメージに多重コンボリューション演算を適用して前記テスト用特徴マップを生成し、これを前記テスト用特徴マップにＦＣ演算を適用することによって、前記テスト用イメージ特徴ベクトルを生成すれば、前記ｋ個のテスト用協同走行車両のうち前記少なくとも一つの協同走行車両のテスティング装置２００は、前記Ｖ２Ｖ通信を介して前記ｋ個のテスト用協同走行車両のうち前記少なくとも一つの協同走行車両から前記テスト用イメージ特徴ベクトルを取得することができる。また、前記テスティング装置２００は、少なくとも一つのＬＳＴＭをもって、前記多数のテスト用センサ状態情報に循環ニューラルネットワーク演算を適用して前記テスト用センサ状態特徴ベクトルを生成させることができる。以後、テスト装置２００は、前記Ｖ２Ｖ通信を介して取得された、前記テスト用イメージ特徴ベクトルと前記テスト用センサ状態特徴ベクトルとをコンカチネートして前記テスト用コンカチネート済み特徴ベクトルを生成し、前記テスト用コンカチネート済み特徴ベクトルにＦＣ演算を適用して、少なくとも一つのＦＣレイヤを通じて、前記センサフュージョン確率値を生成することができる。
【０１０２】
この場合、前記特定のＣＮＮをもって、前記テスト用走行イメージにコンボリューション演算を適用させてテスト用特徴マップを生成させ、前記テスト用特徴マップにＦＣ演算を適用して前記テスト用イメージ特徴ベクトルを生成させる前記特定の車両は、ラウンドロビンスケジューリング（Ｒｏｕｎｄ  Ｒｏｂｉｎ  Ｓｃｈｅｄｕｌｉｎｇ）によって順次に一定時間の間隔で指定される前記ｋ個のテスト用協同走行車両のうち一つの協同走行車両であり得る。
【０１０３】
本発明によると、前記走行道路状況及び前記自律走行車両のうち一つ以上のセンサ状態に応じて、前記協同走行モードで走行する、前記多重エージェント強化学習基盤の自律走行車両は、前記Ｖ２Ｖ通信を介して前記センサ情報のうちどの情報を相互に伝送するのかを選択し、前記協同走行モードで、前記すべての自律車両のうち少なくとも一部の自律車両の協同走行形態をどのように変更するのかを決定することができ、Ｖ２Ｖ情報フュージョンと前記多重エージェントセンサフュージョンとのうち一つを通じてセンサ情報を利用して自律走行を遂行することができ、前記協同走行のために最適の位置にそれ自体の位置を再配置することができ、それ自体のセンサの一部が故障した場合、前記協同走行モード上の他の自律走行車両からの前記センサ情報を活用して機能的安全性を図ることができる。また、前記自律走行車両の信頼度は、バーチャル走行訓練を通じてアップデートされ得る。
【０１０４】
以上にて説明された本発明による各実施例は、多様なコンピュータの構成要素を通じて遂行することができるプログラム命令語の形態で具現されて、コンピュータ読取り可能な記録媒体に格納され得る。前記コンピュータ読取り可能な記録媒体は、プログラム命令語、データファイル、データ構造などを単独で又は組み合わせて含むことができる。前記コンピュータ読取り可能な記録媒体に格納されるプログラム命令語は、本発明のために特別に設計され、構成されたものであるか、コンピュータソフトウェア分野の当業者に公知にされて使用可能なものであり得る。コンピュータ読取り可能な記録媒体の例には、ハードディスク、フロッピーディスク及び磁気テープのような磁気媒体、ＣＤ−ＲＯＭ、ＤＶＤのような光記録媒体、フロプティカルディスク（Ｆｌｏｐｔｉｃａｌ  Ｄｉｓｋ）のような磁気−光メディア（Ｍａｇｎｅｔｏ−Ｏｐｔｉｃａｌ  Ｍｅｄｉａ）、及びＲＯＭ、ＲＡＭ、フラッシュメモリなどのようなプログラム命令語を格納して遂行するように特別に構成されたハードウェア装置が含まれる。プログラム命令語の例には、コンパイラによって作られるもののような機械語コードだけでなく、インタープリターなどを使用してコンピュータによって実行され得る高級言語コードも含まれる。前記ハードウェア装置は、本発明による処理を実行するために一つ以上のソフトウェアモジュールとして作動するように構成され得、その反対も同様である。
【０１０５】
以上にて本発明が具体的な構成要素などのような特定事項と限定された実施例及び図面によって説明されたが、これは本発明のより全般的な理解の一助とするために提供されたものであるに過ぎず、本発明が前記実施例に限られるものではなく、本発明が属する技術分野において通常の知識を有する者であれば、かかる記載から多様な修正及び変形が行われ得る。
【０１０６】
したがって、本発明の思想は、前記説明された実施例に局限されて定められてはならず、後述する特許請求の範囲だけでなく、本特許請求の範囲と均等または等価的に変形されたものすべては、本発明の思想の範囲に属するといえる。
【図１】
2020123335.tif 000003
【図２】
2020123335.tif 000004
【図３】
2020123335.tif 000005
【図４】
2020123335.tif 000006
【図５】
2020123335.tif 000007