(57)【要約】      （修正有）【課題】自律走行車両がハッカーの脅威から安全に走行し得るようにする、少なくとも１つのテストパターンを利用してＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）の少なくとも１つのパラメータの無欠性（Ｉｎｔｅｇｒｉｔｙ）を検証するための方法を提供する。【解決手段】原本入力に追加されたテストパターンを利用してＣＮＮのパラメータの無欠性を検証する方法であり、コンピューティング装置において、無欠性検証モジュール２００の追加ユニットは、テストパターンを原本入力に追加することによって拡張入力を生成させ、ＣＮＮは、拡張入力に対してコンボリューション演算を適用することによって検証用出力を生成させ、無欠性検証モジュールの比較ユニットは、参照用出力を参照して検証用出力の有効性を判断することによってＣＮＮのパラメータの無欠性を検証させる。【選択図】図２
2020119556.tif 000002
【特許請求の範囲】
【請求項１】
少なくとも１つの原本入力（Ｉｎｐｕｔ）に追加される少なくとも１つのテストパターンを利用してＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）の少なくとも１つのパラメータの無欠性（Ｉｎｔｅｇｒｉｔｙ）を検証するための方法において、
（ａ）前記テストパターンが取得されると、コンピューティング装置が、少なくとも一つの追加ユニット（Ａｄｄｉｎｇ  Ｕｎｉｔ）をもって、前記テストパターンを前記原本入力に追加することによって少なくとも一つの拡張入力（Ｅｘｔｅｎｄｅｄ  Ｉｎｐｕｔ）を生成させる段階；
（ｂ）前記コンピューティング装置が、前記ＣＮＮをもって、前記拡張入力に対してコンボリューション演算を少なくとも一回適用することによって少なくとも一つの検証用出力（Ｏｕｔｐｕｔ）を生成させる段階；及び、
（ｃ）前記コンピューティング装置が、少なくとも１つの比較ユニット（Ｃｏｍｐａｒｉｎｇ  Ｕｎｉｔ）をもって、少なくとも１つの参照用出力を参照して、前記検証用出力の有効性（Ｖａｌｉｄｉｔｙ）を判断することによって前記ＣＮＮの前記パラメータの前記無欠性を検証させる段階；
を含むことを特徴とする方法。
【請求項２】
前記（ａ）段階で、
前記コンピューティング装置が、前記追加ユニットをもって、前記原本入力に少なくとも一つのゼロパターン（Ｚｅｒｏ  Ｐａｔｔｅｒｎ）を追加させた後、前記テストパターンを追加させ、前記テストパターンと前記原本入力との間に前記ゼロパターンを位置させることを特徴とする請求項１に記載の方法。
【請求項３】
前記（ｃ）段階で、
前記コンピューティング装置が、前記比較ユニットをもって、前記参照用出力に含まれている少なくとも一つのそれぞれの第１値と、前記検証用出力の全体領域のうち前記テストパターンに対応する少なくとも一つの特定領域に含まれているそれぞれの対応する第２値とを比較させ、前記参照用出力に含まれている少なくとも一つの第１値と前記特定領域に含まれているこれに対応する第２値とが同一でない場合、前記コンピューティング装置が、前記比較ユニットをもって、前記検証用出力が誤っているものと判断し、前記パラメータのうち少なくとも一部に少なくとも一つの誤りがあると判断させることを特徴とする請求項１に記載の方法。
【請求項４】
前記（ｃ）段階で、
前記コンピューティング装置が、前記比較ユニットをもって、（ｉ）前記検証用出力の全体領域のうち前記テストパターンに対応する少なくとも一つの特定領域におけるそれぞれのチャンネルに含まれている少なくとも一つのそれぞれの値に対応する少なくとも一つのそれぞれの検証用代表値（Ｒｅｐｒｅｓｅｎｔａｔｉｖｅ  Ｖａｌｕｅ）を生成させ、（ｉｉ）前記参照用出力のチャンネルごとの少なくとも一つの参照用代表値それぞれを、前記特定領域のそれぞれの前記チャンネルごとの前記検証用代表値それぞれと比較させた後、（ｉｉｉ）少なくとも一つの前記参照用代表値と、これに対応する前記検証用代表値とのうち一つが同一でない場合、前記検証用出力が誤っているものと判断し、前記パラメータのうち少なくとも一部に誤りがあると判断させることを特徴とする請求項１に記載の方法。
【請求項５】
前記（ａ）段階以前に、
前記ＣＮＮのセキュリティレベルが臨界レベル以上である場合、前記コンピューティング装置が、前記ＣＮＮをもって、前記テストパターンに対してコンボリューション演算を適用することによって前記参照用出力を生成させることを特徴とする請求項１に記載の方法。
【請求項６】
少なくとも１つの原本入力（Ｉｎｐｕｔ）に追加される少なくとも１つのサブテストパターン（Ｓｕｂ−Ｔｅｓｔ  Ｐａｔｔｅｒｎ）を利用してＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）の少なくとも１つのパラメータの無欠性（Ｉｎｔｅｇｒｉｔｙ）を検証するための方法において、
（ａ）コンピューティング装置が、前記コンピューティング装置に含まれている前記ＣＮＮのコンボリューションカーネル（Ｃｏｎｖｏｌｕｔｉｏｎ  Ｋｅｒｎｅｌ）と同じ大きさを有する前記サブテストパターンが取得されると、追加ユニット（Ａｄｄｉｎｇ  Ｕｎｉｔ）をもって、前記原本入力に前記サブテストパターンの追加作業を繰り返して少なくとも一つの拡張入力（Ｅｘｔｅｎｄｅｄ  Ｉｎｐｕｔ）を生成させる段階；
（ｂ）前記コンピューティング装置が、前記ＣＮＮをもって、前記拡張入力に対してコンボリューション演算を少なくとも一回適用することによって少なくとも一つの検証用出力（Ｏｕｔｐｕｔ）を生成させる段階；及び、
（ｃ）前記コンピューティング装置が、少なくとも一つの比較ユニット（Ｃｏｍｐａｒｉｎｇ  Ｕｎｉｔ）をもって、前記検証用出力に含まれている、それぞれの前記サブテストパターンに対応する少なくとも一つのそれぞれの検証用サブ出力（Ｓｕｂ−Ｏｕｔｐｕｔ）を参照して、前記検証用出力の有効性（Ｖａｌｉｄｉｔｙ）を判断することによって前記ＣＮＮの前記パラメータの無欠性を検証させる段階；
を含むことを特徴とする方法。
【請求項７】
それぞれの検証用サブ出力は、少なくとも一つの検証領域（Ｖｅｒｉｆｙｉｎｇ  Ｒｅｇｉｏｎ）と非検証領域（Ｎｏｎ−Ｖｅｒｉｆｙｉｎｇ  Ｒｅｇｉｏｎ）とを含み、
前記（ｃ）段階で、
前記コンピューティング装置が、前記比較ユニットをもって、前記参照用サブ出力に含まれている検証領域上の同一の相対的位置にある各検証値（Ｖｅｒｉｆｙｉｎｇ  Ｖａｌｕｅｓ）を互いに比較させ、前記各検証値のうち少なくとも一つが他の値と同一でない場合、前記コンピューティング装置が、前記比較ユニットをもって、前記検証用出力が誤っているものと判断し、前記パラメータのうち少なくとも一部に少なくとも一つの誤りがあると判断させることを特徴とする請求項６に記載の方法。
【請求項８】
それぞれの前記検証用サブ出力上の前記検証領域の位置と非検証領域の位置とは、前記拡張入力上の前記サブテストパターンの位置によって決定されることを特徴とする請求項７に記載の方法。
【請求項９】
少なくとも１つの原本入力（Ｉｎｐｕｔ）に追加される少なくとも１つのテストパターンを利用してＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）の少なくとも１つのパラメータの無欠性（Ｉｎｔｅｇｒｉｔｙ）を検証するためのコンピューティング装置において、
インストラクションを格納する少なくとも一つのメモリと、
（Ｉ）少なくとも一つの追加ユニット（Ａｄｄｉｎｇ  Ｕｎｉｔ）をもって、前記テストパターンを前記原本入力に追加することによって少なくとも一つの拡張入力（Ｅｘｔｅｎｄｅｄ  Ｉｎｐｕｔ）を生成させるプロセス、（ＩＩ）前記ＣＮＮをもって、前記拡張入力に対してコンボリューション演算を少なくとも一回適用することによって少なくとも一つの検証用出力（Ｏｕｔｐｕｔ）を生成させるプロセス、及び（ＩＩＩ）少なくとも一つの比較ユニット（Ｃｏｍｐａｒｉｎｇ  Ｕｎｉｔ）をもって、少なくとも一つの参照用出力を参照して前記検証用出力の有効性（Ｖａｌｉｄｉｔｙ）を判断することによって前記ＣＮＮの前記パラメータの前記無欠性を検証させるプロセスを遂行するための前記インストラクションを実行するように構成された少なくとも一つのプロセッサと、
を含むことを特徴とする装置。
【請求項１０】
前記（Ｉ）プロセスで、
前記プロセッサが、前記追加ユニットをもって、前記原本入力に少なくとも一つのゼロパターン（Ｚｅｒｏ  Ｐａｔｔｅｒｎ）を追加させた後、前記テストパターンを追加させ、前記テストパターンと前記原本入力との間に前記ゼロパターンを位置させることを特徴とする請求項９に記載の装置。
【請求項１１】
前記（ＩＩＩ）プロセスで、
前記プロセッサが、前記比較ユニットをもって、前記参照用出力に含まれている少なくとも一つのそれぞれの第１値と、前記検証用出力の全体領域のうち前記テストパターンに対応する少なくとも一つの特定領域に含まれているそれぞれの対応する第２値とを比較させ、前記参照用出力に含まれている少なくとも一つの第１値と前記特定領域に含まれているこれに対応する第２値とが同一でない場合、前記コンピューティング装置が、前記比較ユニットをもって、前記検証用出力が誤っているものと判断し、前記パラメータのうち少なくとも一部に少なくとも１つの誤りがあると判断させることを特徴とする請求項９に記載の装置。
【請求項１２】
前記（ＩＩＩ）プロセスで、
前記プロセッサが、前記比較ユニットをもって、（ｉ）前記検証用出力の全体領域のうち前記テストパターンに対応する少なくとも一つの特定領域のそれぞれのチャンネルに含まれている少なくとも一つのそれぞれの値に対応する少なくとも一つのそれぞれの検証用代表値（Ｒｅｐｒｅｓｅｎｔａｔｉｖｅ  Ｖａｌｕｅ）を生成させ、（ｉｉ）前記参照用出力のチャネルごとの少なくとも一つの参照用代表値それぞれを、前記特定領域のそれぞれの前記チャンネルごとの前記検証用代表値それぞれと比較させた後、（ｉｉｉ）少なくとも一つの前記参照用代表値とこれに対応する前記検証用代表値とのうち一つが同一でない場合、前記検証用出力が誤っているものと判断し、前記パラメータのうち少なくとも一部に誤りがあると判断させることを特徴とする請求項９に記載の装置。
【請求項１３】
前記（Ｉ）プロセス以前に、
前記ＣＮＮのセキュリティレベルが臨界レベル以上である場合、前記プロセッサが、前記ＣＮＮをもって、前記テストパターンに対してコンボリューション演算を適用することによって前記参照用出力を生成させることを特徴とする請求項９に記載の装置。
【請求項１４】
少なくとも１つの原本入力（Ｉｎｐｕｔ）に追加される少なくとも１つのサブテストパターン（Ｓｕｂ−Ｔｅｓｔ  Ｐａｔｔｅｒｎ）を利用してＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）の少なくとも１つのパラメータの無欠性（Ｉｎｔｅｇｒｉｔｙ）を検証するためのコンピューティング装置において、
インストラクションを格納する少なくとも一つのメモリと、
（Ｉ）前記コンピューティング装置に含まれている前記ＣＮＮのコンボリューションカーネル（Ｃｏｎｖｏｌｕｔｉｏｎ  Ｋｅｒｎｅｌ）と同じ大きさを有する前記サブテストパターンが取得されると、追加ユニット（Ａｄｄｉｎｇ  Ｕｎｉｔ）をもって、前記原本入力に前記サブテストパターンの追加作業を繰り返して少なくとも一つの拡張入力（Ｅｘｔｅｎｄｅｄ  Ｉｎｐｕｔ）を生成させるプロセス、（ＩＩ）前記ＣＮＮをもって、前記拡張入力に対してコンボリューション演算を少なくとも一回適用することによって少なくとも一つの検証用出力（Ｏｕｔｐｕｔ）を生成させるプロセス、及び（ＩＩＩ）少なくとも一つの比較ユニット（Ｃｏｍｐａｒｉｎｇ  Ｕｎｉｔ）をもって、前記検証用出力に含まれている、それぞれの前記サブテストパターンに対応する少なくとも１つのそれぞれの検証用サブ出力（Ｓｕｂ−Ｏｕｔｐｕｔ）を参照して、前記検証用出力の有効性（Ｖａｌｉｄｉｔｙ）を判断することによって前記ＣＮＮの前記パラメータの無欠性を検証させるプロセスを遂行するための前記インストラクションを実行するように構成された少なくとも１つのプロセッサと、
を含むことを特徴とする装置。
【請求項１５】
それぞれの検証用サブ出力は、少なくとも一つの検証領域（Ｖｅｒｉｆｙｉｎｇ  Ｒｅｇｉｏｎ）と非検証領域（Ｎｏｎ−Ｖｅｒｉｆｙｉｎｇ  Ｒｅｇｉｏｎ）とを含み、
前記（ＩＩＩ）プロセスで、
前記プロセッサが、前記比較ユニットをもって、前記参照用サブ出力に含まれている検証領域上の同一の相対的位置にある各検証値（Ｖｅｒｉｆｙｉｎｇ  Ｖａｌｕｅｓ）を互いに比較させ、前記各検証値のうち少なくとも一つが他の値と同一でない場合、前記プロセッサが、前記比較ユニットをもって、前記検証用出力が誤っているものと判断し、前記パラメータのうち少なくとも一部に少なくとも一つの誤りがあると判断させることを特徴とする請求項１４に記載の装置。
【請求項１６】
それぞれの前記検証用サブ出力上の前記検証領域の位置と非検証領域の位置とは、前記拡張入力上の前記サブテストパターンの位置によって決定されることを特徴とする請求項１５に記載の装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、自律走行自動車とともに使用するための方法とコンピューティング装置に関し、より詳細には、テストパターンを利用してＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）のパラメータの無欠性（Ｉｎｔｅｇｒｉｔｙ）を検証するための方法及びコンピューティング装置に関する。
【背景技術】
【０００２】
ディープコンボリューションニューラルネットワーク（Ｄｅｅｐ  Ｃｏｎｖｏｌｕｔｉｏｎ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋｓ；Ｄｅｅｐ  ＣＮＮｓ）は、ディープラーニング分野で起きた驚くべき発展の核心である。ＣＮＮｓは、文字の認識問題を解決するために９０年代にすでに使用されていたが、現在のように広く使われるようになったのは最近の研究結果の賜物である。このようなＣＮＮは、２０１２年ＩｍａｇｅＮｅｔイメージ分類コンテストで他の競争相手に勝って優勝を収めた。そして、コンボリューションニューラルネットワークは機械学習（Ｍａｃｈｉｎｅ  Ｌｅａｒｎｉｎｇ）分野で非常に有用なツールとなった。
【０００３】
ＣＮＮは、自動車の自律走行分野でも広く使用されているが、これは主に自動車に取り付けられたカメラを通じて取得された映像を分析することで障害物を検出し、フリースペース（Ｆｒｅｅ  Ｓｐａｃｅ）を検出するなどの機能を遂行して安全に車両が走行し得るようにする。
【０００４】
自律走行用ＣＮＮを実際に自律走行に投入する場合に非常に重要に考えるべきことは、自律走行用ＣＮＮのセキュリティである。自律走行車両は速い速度で動き、大きな質量を有するだけに、誤って走行したときの危険性が高いからである。具体的に、もし悪意を持ったハッカーが自律走行用ＣＮＮをハッキングして自律走行用ＣＮＮのパラメータを変調するとしたら、自律走行用車両はテロに利用され得るからである。
【０００５】
したがって、テストプロセス中のＣＮＮのパラメータが、学習プロセスを完了したときのパラメータと同じ状態を保持しているかを検証する方法が必要である。これまでの研究は、自律走行用ＣＮＮが車両をいかにうまく動かすことができるかについて主に焦点が当てられていたのであり、このようなセキュリティを維持する方法については、研究があまり行われていないのが現状である。
【発明の概要】
【発明が解決しようとする課題】
【０００６】
本発明は、上述した問題点を解決することを目的とする。
【０００７】
本発明は、少なくとも１つのテストパターンを利用してＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）の少なくとも１つのパラメータの無欠性（Ｉｎｔｅｇｒｉｔｙ）を検証するための方法を提供することによって、自律走行車両がハッカーの脅威から安全に走行し得るようにすることを他の目的とする。
【課題を解決するための手段】
【０００８】
前記のような本発明の目的を達成し、後述する本発明の特徴的な効果を実現するための、本発明の特徴的な構成は以下の通りである。
【０００９】
本発明の一態様によると、少なくとも１つの原本入力（Ｉｎｐｕｔ）に追加される少なくとも１つのテストパターンを利用してＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）の少なくとも１つのパラメータの無欠性（Ｉｎｔｅｇｒｉｔｙ）を検証するための方法において、（ａ）前記テストパターンが取得されると、コンピューティング装置が、少なくとも一つの追加ユニット（Ａｄｄｉｎｇ  Ｕｎｉｔ）をもって、前記テストパターンを前記原本入力に追加することによって少なくとも一つの拡張入力（Ｅｘｔｅｎｄｅｄ  Ｉｎｐｕｔ）を生成させる段階；（ｂ）前記コンピューティング装置が、前記ＣＮＮをもって、前記拡張入力に対してコンボリューション演算を少なくとも一回適用することによって少なくとも一つの検証用出力（Ｏｕｔｐｕｔ）を生成させる段階；及び、（ｃ）前記コンピューティング装置が、少なくとも１つの比較ユニット（Ｃｏｍｐａｒｉｎｇ  Ｕｎｉｔ）をもって、少なくとも１つの参照用出力を参照して、前記検証用出力の有効性（Ｖａｌｉｄｉｔｙ）を判断することによって前記ＣＮＮの前記パラメータの前記無欠性を検証させる段階；を含むことを特徴とする。
【００１０】
一実施例において、前記（ａ）段階で、前記コンピューティング装置が、前記追加ユニットをもって、前記原本入力に少なくとも一つのゼロパターン（Ｚｅｒｏ  Ｐａｔｔｅｒｎ）を追加させた後、前記テストパターンを追加させ、前記テストパターンと前記原本入力との間に前記ゼロパターンを位置させることを特徴とする。
【００１１】
一実施例において、前記（ｃ）段階で、前記コンピューティング装置が、前記比較ユニットをもって、前記参照用出力に含まれている少なくとも一つのそれぞれの第１値と、前記検証用出力の全体領域のうち前記テストパターンに対応する少なくとも一つの特定領域に含まれているそれぞれの対応する第２値とを比較させ、前記参照用出力に含まれている少なくとも一つの第１値と前記特定領域に含まれているこれに対応する第２値とが同一でない場合、前記コンピューティング装置が、前記比較ユニットをもって、前記検証用出力が誤っているものと判断し、前記パラメータのうち少なくとも一部に少なくとも一つの誤りがあると判断させることを特徴とする。
【００１２】
一実施例において、前記（ｃ）段階で、前記コンピューティング装置が、前記比較ユニットをもって、（ｉ）前記検証用出力の全体領域のうち前記テストパターンに対応する少なくとも一つの特定領域におけるそれぞれのチャンネルに含まれている少なくとも一つのそれぞれの値に対応する少なくとも一つのそれぞれの検証用代表値（Ｒｅｐｒｅｓｅｎｔａｔｉｖｅ  Ｖａｌｕｅ）を生成させ、（ｉｉ）前記参照用出力のチャンネルごとの少なくとも一つの参照用代表値それぞれを、前記特定領域のそれぞれの前記チャンネルごとの前記検証用代表値それぞれと比較させた後、（ｉｉｉ）少なくとも一つの前記参照用代表値と、これに対応する前記検証用代表値とのうち一つが同一でない場合、前記検証用出力が誤っているものと判断し、前記パラメータのうち少なくとも一部に誤りがあると判断させることを特徴とする。
【００１３】
一実施例において、前記（ａ）段階以前に、前記ＣＮＮのセキュリティレベルが臨界レベル以上である場合、前記コンピューティング装置が、前記ＣＮＮをもって、前記テストパターンに対してコンボリューション演算を適用することによって前記参照用出力を生成させることを特徴とする。
【００１４】
本発明の他の態様によると、少なくとも１つの原本入力（Ｉｎｐｕｔ）に追加される少なくとも１つのサブテストパターン（Ｓｕｂ−Ｔｅｓｔ  Ｐａｔｔｅｒｎ）を利用してＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）の少なくとも１つのパラメータの無欠性（Ｉｎｔｅｇｒｉｔｙ）を検証するための方法において、（ａ）コンピューティング装置が、前記コンピューティング装置に含まれている前記ＣＮＮのコンボリューションカーネル（Ｃｏｎｖｏｌｕｔｉｏｎ  Ｋｅｒｎｅｌ）と同じ大きさを有する前記サブテストパターンが取得されると、追加ユニット（Ａｄｄｉｎｇ  Ｕｎｉｔ）をもって、前記原本入力に前記サブテストパターンの追加作業を繰り返して少なくとも一つの拡張入力（Ｅｘｔｅｎｄｅｄ  Ｉｎｐｕｔ）を生成させる段階；（ｂ）前記コンピューティング装置が、前記ＣＮＮをもって、前記拡張入力に対してコンボリューション演算を少なくとも一回適用することによって少なくとも一つの検証用出力（Ｏｕｔｐｕｔ）を生成させる段階；及び、（ｃ）前記コンピューティング装置が、少なくとも一つの比較ユニット（Ｃｏｍｐａｒｉｎｇ  Ｕｎｉｔ）をもって、前記検証用出力に含まれている、それぞれの前記サブテストパターンに対応する少なくとも一つのそれぞれの検証用サブ出力（Ｓｕｂ−Ｏｕｔｐｕｔ）を参照して、前記検証用出力の有効性（Ｖａｌｉｄｉｔｙ）を判断することによって前記ＣＮＮの前記パラメータの無欠性を検証させる段階；を含むことを特徴とする。
【００１５】
一実施例において、それぞれの検証用サブ出力は、少なくとも一つの検証領域（Ｖｅｒｉｆｙｉｎｇ  Ｒｅｇｉｏｎ）と非検証領域（Ｎｏｎ−Ｖｅｒｉｆｙｉｎｇ  Ｒｅｇｉｏｎ）とを含み、前記（ｃ）段階で、前記コンピューティング装置が、前記比較ユニットをもって、前記参照用サブ出力に含まれている検証領域上の同一の相対的位置にある各検証値（Ｖｅｒｉｆｙｉｎｇ  Ｖａｌｕｅｓ）を互いに比較させ、前記各検証値のうち少なくとも一つが他の値と同一でない場合、前記コンピューティング装置が、前記比較ユニットをもって、前記検証用出力が誤っているものと判断し、前記パラメータのうち少なくとも一部に少なくとも一つの誤りがあると判断させることを特徴とする。
【００１６】
一実施例において、それぞれの前記検証用サブ出力上の前記検証領域の位置と非検証領域の位置とは、前記拡張入力上の前記サブテストパターンの位置によって決定されることを特徴とする。
【００１７】
本発明のまた他の態様によると、少なくとも１つの原本入力（Ｉｎｐｕｔ）に追加される少なくとも１つのテストパターンを利用してＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）の少なくとも１つのパラメータの無欠性（Ｉｎｔｅｇｒｉｔｙ）を検証するためのコンピューティング装置において、インストラクションを格納する少なくとも一つのメモリと、（Ｉ）少なくとも一つの追加ユニット（Ａｄｄｉｎｇ  Ｕｎｉｔ）をもって、前記テストパターンを前記原本入力に追加することによって少なくとも一つの拡張入力（Ｅｘｔｅｎｄｅｄ  Ｉｎｐｕｔ）を生成させるプロセス、（ＩＩ）前記ＣＮＮをもって、前記拡張入力に対してコンボリューション演算を少なくとも一回適用することによって少なくとも一つの検証用出力（Ｏｕｔｐｕｔ）を生成させるプロセス、及び（ＩＩＩ）少なくとも一つの比較ユニット（Ｃｏｍｐａｒｉｎｇ  Ｕｎｉｔ）をもって、少なくとも一つの参照用出力を参照して前記検証用出力の有効性（Ｖａｌｉｄｉｔｙ）を判断することによって前記ＣＮＮの前記パラメータの前記無欠性を検証させるプロセスを遂行するための前記インストラクションを実行するように構成された少なくとも一つのプロセッサと、を含むことを特徴とする。
【００１８】
一実施例において、前記（Ｉ）プロセスで、前記プロセッサが、前記追加ユニットをもって、前記原本入力に少なくとも一つのゼロパターン（Ｚｅｒｏ  Ｐａｔｔｅｒｎ）を追加させた後、前記テストパターンを追加させ、前記テストパターンと前記原本入力との間に前記ゼロパターンを位置させることを特徴とする。
【００１９】
一実施例において、前記（ＩＩＩ）プロセスで、前記プロセッサが、前記比較ユニットをもって、前記参照用出力に含まれている少なくとも一つのそれぞれの第１値と、前記検証用出力の全体領域のうち前記テストパターンに対応する少なくとも一つの特定領域に含まれているそれぞれの対応する第２値とを比較させ、前記参照用出力に含まれている少なくとも一つの第１値と前記特定領域に含まれているこれに対応する第２値とが同一でない場合、前記コンピューティング装置が、前記比較ユニットをもって、前記検証用出力が誤っているものと判断し、前記パラメータのうち少なくとも一部に少なくとも１つの誤りがあると判断させることを特徴とする。
【００２０】
一実施例において、前記（ＩＩＩ）プロセスで、前記プロセッサが、前記比較ユニットをもって、（ｉ）前記検証用出力の全体領域のうち前記テストパターンに対応する少なくとも一つの特定領域のそれぞれのチャンネルに含まれている少なくとも一つのそれぞれの値に対応する少なくとも一つのそれぞれの検証用代表値（Ｒｅｐｒｅｓｅｎｔａｔｉｖｅ  Ｖａｌｕｅ）を生成させ、（ｉｉ）前記参照用出力のチャネルごとの少なくとも一つの参照用代表値それぞれを、前記特定領域のそれぞれの前記チャンネルごとの前記検証用代表値それぞれと比較させた後、（ｉｉｉ）少なくとも一つの前記参照用代表値とこれに対応する前記検証用代表値とのうち一つが同一でない場合、前記検証用出力が誤っているものと判断し、前記パラメータのうち少なくとも一部に誤りがあると判断させることを特徴とする。
【００２１】
一実施例において、前記（Ｉ）プロセス以前に、前記ＣＮＮのセキュリティレベルが臨界レベル以上である場合、前記プロセッサが、前記ＣＮＮをもって、前記テストパターンに対してコンボリューション演算を適用することによって前記参照用出力を生成させることを特徴とする。
【００２２】
本発明の他の態様によると、少なくとも１つの原本入力（Ｉｎｐｕｔ）に追加される少なくとも１つのサブテストパターン（Ｓｕｂ−Ｔｅｓｔ  Ｐａｔｔｅｒｎ）を利用してＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）の少なくとも１つのパラメータの無欠性（Ｉｎｔｅｇｒｉｔｙ）を検証するためのコンピューティング装置において、インストラクションを格納する少なくとも一つのメモリと、（Ｉ）前記コンピューティング装置に含まれている前記ＣＮＮのコンボリューションカーネル（Ｃｏｎｖｏｌｕｔｉｏｎ  Ｋｅｒｎｅｌ）と同じ大きさを有する前記サブテストパターンが取得されると、追加ユニット（Ａｄｄｉｎｇ  Ｕｎｉｔ）をもって、前記原本入力に前記サブテストパターンの追加作業を繰り返して少なくとも一つの拡張入力（Ｅｘｔｅｎｄｅｄ  Ｉｎｐｕｔ）を生成させるプロセス、（ＩＩ）前記ＣＮＮをもって、前記拡張入力に対してコンボリューション演算を少なくとも一回適用することによって少なくとも一つの検証用出力（Ｏｕｔｐｕｔ）を生成させるプロセス、及び（ＩＩＩ）少なくとも一つの比較ユニット（Ｃｏｍｐａｒｉｎｇ  Ｕｎｉｔ）をもって、前記検証用出力に含まれている、それぞれの前記サブテストパターンに対応する少なくとも１つのそれぞれの検証用サブ出力（Ｓｕｂ−Ｏｕｔｐｕｔ）を参照して、前記検証用出力の有効性（Ｖａｌｉｄｉｔｙ）を判断することによって前記ＣＮＮの前記パラメータの無欠性を検証させるプロセスを遂行するための前記インストラクションを実行するように構成された少なくとも１つのプロセッサと、を含むことを特徴とする。
【００２３】
一実施例において、それぞれの検証用サブ出力は、少なくとも一つの検証領域（Ｖｅｒｉｆｙｉｎｇ  Ｒｅｇｉｏｎ）と非検証領域（Ｎｏｎ−Ｖｅｒｉｆｙｉｎｇ  Ｒｅｇｉｏｎ）とを含み、前記（ＩＩＩ）プロセスで、前記プロセッサが、前記比較ユニットをもって、前記参照用サブ出力に含まれている検証領域上の同一の相対的位置にある各検証値（Ｖｅｒｉｆｙｉｎｇ  Ｖａｌｕｅｓ）を互いに比較させ、前記各検証値のうち少なくとも一つが他の値と同一でない場合、前記プロセッサが、前記比較ユニットをもって、前記検証用出力が誤っているものと判断し、前記パラメータのうち少なくとも一部に少なくとも一つの誤りがあると判断させることを特徴とする。
【００２４】
一実施例において、それぞれの前記検証用サブ出力上の前記検証領域の位置と非検証領域の位置とは、前記拡張入力上の前記サブテストパターンの位置によって決定されることを特徴とする。
【００２５】
その他にも、本発明の方法を実行するためのコンピュータプログラムを記録するためのコンピュータ読取り可能な記録媒体がさらに提供される。
【発明の効果】
【００２６】
本発明は、テストパターンを利用してＣＮＮのパラメータの無欠性を検証するための方法を提供することによって、自律走行車両をハッカーから安全に守ることができるようにする効果がある。
【図面の簡単な説明】
【００２７】
本発明の実施例の説明に利用されるために添付された以下の各図面は、本発明の実施例のうち単に一部であるに過ぎず、本発明の属する技術分野において通常の知識を有する者（以下「通常の技術者」）にとっては、発明的作業が行われずにこれらの図面に基づいて他の各図面が得られ得る。
【図１】図１は、本発明の一実施例による、少なくとも一つのテストパターンを利用してＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）の少なくとも一つのパラメータの無欠性（Ｉｎｔｅｇｒｉｔｙ）を検証するための方法を遂行するコンピューティング装置の構成を簡略に示した図面である。
【図２】図２は、本発明の一実施例による、テストパターンを利用してＣＮＮのパラメータの無欠性を検証するための方法を簡略に示したチャート図である。
【図３】図３は、本発明の一実施例による、テストパターンを利用してＣＮＮのパラメータの無欠性を検証するための方法を使用するために生成された、少なくとも一つの拡張入力（Ｅｘｔｅｎｄｅｄ  Ｉｎｐｕｔ）及び少なくとも一つの検証用出力（Ｏｕｔｐｕｔ）を簡略に示した図面である。
【図４】図４は、本発明の他の実施例による、少なくとも一つのサブテストパターン（Ｓｕｂ−Ｔｅｓｔ  Ｐａｔｔｅｒｎ）を利用してＣＮＮのパラメータの無欠性を検証するための方法を使用するために生成された、少なくとも一つの拡張入力及び少なくとも一つの検証用サブ出力（Ｓｕｂ−Ｏｕｔｐｕｔ）を含む少なくとも一つの検証用出力を含む検証用出力を簡略に示した図面である。
【発明を実施するための形態】
【００２８】
後述する本発明に関する詳細な説明は、本発明が実施され得る特定の実施例を例示として示す添付図面を参照する。これらの実施例は、当業者が本発明を実施することができるように十分詳細に説明される。本発明の多様な実施例は互いに異なるが、相互に排他的である必要はないことが理解されるべきである。例えば、ここに記載されている特定の形状、構造及び特性は、一実施例に関連して本発明の精神及び範囲を逸脱せず、かつ他の実施例で具現され得る。また、それぞれの開示された実施例内の個別の構成要素の位置又は配置は、本発明の精神及び範囲を逸脱せず、かつ変更され得ることが理解されるべきである。したがって、後述の詳細な説明は、限定的な意味として受け取ろうとするものではなく、本発明の範囲は適切に説明されるのであれば、その請求項が主張することと均等な全ての範囲とともに添付された請求項によってのみ限定される。図面において類似の参照符号は、様々な側面にわたって同一であるか、又は類似の機能を指す。
【００２９】
また、本発明の詳細な説明及び各請求項にわたって、「含む」という単語及びそれらの変形は、他の技術的各特徴、各付加物、構成要素又は段階を除外することを意図したものではない。通常の技術者にとって本発明の他の各目的、長所及び各特性が、一部は本説明書から、また一部は本発明の実施から明らかになるであろう。以下の例示及び図面は実例として提供され、本発明を限定することを意図したものではない。
【００３０】
本発明で言及している各種イメージは、舗装または非舗装道路関連のイメージを含み得、この場合、道路環境で登場し得る物体（例えば、自動車、人、動物、植物、物、建物、飛行機やドローンのような飛行体、その他の障害物）を想定し得るが、必ずしもこれに限定されるものではなく、本発明で言及している各種イメージは、道路と関係のないイメージ（例えば、非舗装道路、路地、空き地、海、湖、川、山、森、砂漠、空、室内と関連したイメージ）でもあり得、この場合、非舗装道路、路地、空き地、海、湖、川、山、森、砂漠、空、室内環境で登場し得る物体（例えば、自動車、人、動物、植物、物、建物、飛行機やドローンのような飛行体、その他の障害物）を想定し得るが、必ずしもこれに限定されるものではない。
【００３１】
以下、本発明の属する技術分野において通常の知識を有する者が本発明を容易に実施し得るようにするために、本発明の好ましい実施例について、添付された図面を参照して詳細に説明することにする。
【００３２】
図１は、本発明の一実施例による、少なくとも一つのテストパターンを利用してＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）の少なくとも一つのパラメータの無欠性（Ｉｎｔｅｇｒｉｔｙ）を検証するための方法を遂行するコンピューティング装置の構成を簡略に示した図面である。
【００３３】
図１を参照すると、コンピューティング装置１００は、追って詳細に説明する構成要素である無欠性検証モジュール２００に含まれている追加ユニット２１０及び比較ユニット２２０、そしてＣＮＮ３００を含むことができる。追加ユニット２１０、比較ユニット２２０及びＣＮＮ３００の入出力及び演算の過程は、それぞれ通信部１１０及びプロセッサ１２０により行われ得る。ただし、図１では通信部１１０及びプロセッサ１２０の具体的な連結関係を省略した。この場合、少なくとも一つのメモリ１１５は、後述する様々なインストラクションを格納した状態であり得、プロセッサ１２０は、メモリ１１５に格納されたインストラクションを遂行するように設定され、プロセッサ１２０は、追って説明するプロセスを遂行することによって本発明を遂行することができる。このようにコンピューティング装置１００が描写されたからといって、コンピューティング装置１００が本発明を実施するためのプロセッサ、メモリ、媒体又は他のコンピューティング装置の全ての組み合わせを含む統合プロセッサ（Ｉｎｔｅｇｒａｔｅｄ  Ｐｒｏｃｅｓｓｏｒ）を含む場合を排除するわけではない。
【００３４】
以上、コンピューティング装置１００の全体的な構成について説明した。以後、本発明の一実施例による、テストパターンを利用してＣＮＮのパラメータの無欠性を検証するための方法について説明することにする。
【００３５】
図２は、本発明の一実施例による、テストパターンを利用してＣＮＮのパラメータの無欠性を検証するための方法を簡略に示したチャート図である。
【００３６】
図２を参照すると、追加ユニット２１０が少なくとも一つの原本入力とテストパターンとを利用して少なくとも一つの拡張入力を生成し、ＣＮＮ３００が拡張入力（Ｅｘｔｅｎｄｅｄ  Ｉｎｐｕｔ）を利用して少なくとも一つの検証用出力（Ｏｕｔｐｕｔ）を生成した後、比較ユニット２２０が検証用出力と少なくとも一つの参照用出力とを利用してＣＮＮのパラメータの無欠性を判断することができる。
【００３７】
具体的に、テストパターン及び原本入力が取得されると、コンピューティング装置１００は、追加ユニット２１０をもって、テストパターンを原本入力に追加することによって拡張入力を生成させることができる。
【００３８】
この際、追加ユニット２１０と比較ユニット２２０とは、ＣＮＮ３００の無欠性を検証するための無欠性検証モジュール２００に含まれているものであり得る。追加ユニット２１０は、前述したようにテストパターンを原本入力に追加する役割をすることができる。詳細に説明すると、上記にて言及したように追加ユニット２１０は、まず原本入力に少なくとも一つのゼロパターンを追加させて、テストパターンと原本入力との間にゼロパターンを位置させることができる。
【００３９】
ゼロパターンなしに原本入力に直接テストパターンが追加されて拡張入力が生成され、ＣＮＮがゼロパターンなしに拡張入力イメージに対してコンボリューション演算を少なくとも一回適用すると、ＮｘＮサイズのコンボリューションカーネル（Ｃｏｎｖｏｌｕｔｉｏｎ  Ｋｅｒｎｅｌ）を利用して、複数のピクセルに対する値を共に演算するコンボリューション演算の特性上、テストパターンが原本入力に対するコンボリューション結果に影響を及ぼし得るためである。これがゼロパターンを追加した理由である。ゼロパターンは、テストパターンが原本入力に対するコンボリューション結果に影響を及ぼし得ない程度の厚さに設定され得る。一実施例として、コンボリューションカーネルサイズを２で割り、小数点以下は切り捨てた値分だけの厚さに設定され得るであろう。
【００４０】
前記のような過程を経て拡張入力が生成されると、コンピューティング装置１００が、ＣＮＮ３００をもって、拡張入力に対してコンボリューション演算を少なくとも一回適用することによって検証用出力を生成させることができる。ＣＮＮ３００のパラメータは、すでに学習された状態であり得る。この際、検証用出力の全体領域のうち、拡張入力の一部であるテストパターンに対応する少なくとも一つの特定領域は、全体領域のうち残りの領域が原本入力に対応し、前記残りの領域がＣＮＮ３００の主要目的（例えば、取得されたイメージ分析）に応じて使用される間に、パラメータが変調されたか否かを判断するのに使用され得る。追って説明する比較ユニット２２０は、テストパターンに対応する特定領域を算出することができる。このような検証用出力について検討するために、図３を参照することにする。
【００４１】
図３は、本発明の一実施例による、テストパターンを利用してＣＮＮのパラメータの無欠性を検証するための方法を遂行するために生成された、拡張入力及び検証用出力を簡略に示した図面である。
【００４２】
図３を参照すると、原本入力にテストパターンとゼロパターンとが加えられて拡張入力が生成されたことを確認することができる。また、拡張入力にＣＮＮ３００のコンボリューション演算を適用することによって、検証用出力が生成されたことを確認することができる。
【００４３】
以後、コンピューティング装置１００は、比較ユニット２２０をもって、参照用出力を参照して検証用出力の有効性（Ｖａｌｉｄｉｔｙ）を判断することによって、ＣＮＮ３００のパラメータの無欠性を検証させることができる。
【００４４】
この場合、無欠性検証モジュール２００を使用してパラメータの無欠性を検証するプロセスが遂行される以前の時点のうち、ＣＮＮ３００のセキュリティレベルが臨界レベル以上である場合、テストパターンに対してコンボリューション演算を適用することによって参照用出力があらかじめ生成されているのである。
【００４５】
本発明の一実施例による方法は、ハッカーの攻撃を含む任意の要因によってパラメータが変調されたか否かを判断するためのものであるため、参照用出力は、パラメータの無欠性が確保された時点において生成されたものでなければならない。したがって、参照用出力は、前記セキュリティレベルが臨界レベル以上である場合、ＣＮＮ３００により生成され得る。
【００４６】
このように参照用出力は、検証用出力の全体領域のうちテストパターンに対応する特定領域と比較されることによってＣＮＮのパラメータの無欠性を判断することができる。すなわち、コンピューティング装置１００が、比較ユニット２２０をもって、参照用出力に含まれている少なくとも一つのそれぞれの第１値と、検証用出力の全体領域のうちテストパターンに対応する特定領域に含まれているそれぞれの対応する第２値とを比較させることができる。そして、参照用出力に含まれている少なくとも一つの第１値と特定領域に含まれているこれに対応する第２値とが同一でない場合、検証用出力が誤っているものと判断し、パラメータのうち少なくとも一部に少なくとも一つの誤りがあると判断することができる。
【００４７】
参照用出力は、パラメータの無欠性が確保された状態で前記テストパターンにＣＮＮ３００がコンボリューション演算を適用した結果である。したがって、少なくとも一つの第１値がこれに対応する第２値と一致しないのであれば、少なくとも一つのパラメータが変調されたものと判断することができる。
【００４８】
以上、本発明の一実施例による、テストパターンを利用してパラメータの無欠性を検証するための方法を説明した。以下、コンピューティングリソースの消耗を最適化し得る方法について説明することにする。
【００４９】
まず、テストパターン及び参照用出力を格納するための空間を最適化する方法について説明する。テストパターンは、原本入力のチャンネル個数と同じ個数のチャンネルを有さなければならない。テストパターンの全てのチャンネルに対して互いに異なる値を設定する場合、多くのデータ格納空間が要求されるようになる。ところが、ＣＮＮのパラメータの無欠性を検証するための目的であれば、テストパターンのすべてのチャンネルに対する値が互いに異なる必要はなく、すべてのチャンネルに対する値が同じでも構わない。したがって、テストパターンの一つのチャンネルに対するパターン値を生成して格納しておいた後、パターン値をテストパターンのそれぞれのチャンネルに使用することができる。この場合、参照用出力に含まれているチャンネルは、このうちに含まれるいずれか１つのチャンネルの値を利用して決定される値と同一の値を有するようにしてもよい。このような方法を通じて、テストパターン及び参照用出力を格納するための空間を最適化することができる。
【００５０】
また、参照用出力を格納するための空間を最適化する方法について説明する。参照用出力は基本的に、テストパターンに対してコンボリューション演算を適用した結果と同じ大きさを有さなければならない。参照用出力を格納するための空間は、参照用出力に含まれている少なくとも一部の第１値を利用して取得された少なくとも一つの参照用代表値（Ｒｅｐｒｅｓｅｎｔａｔｉｖｅ  Ｖａｌｕｅ）のみを格納しておくことによって最適化することができる。すなわち、参照用出力のチャンネルごとにそれぞれの参照用代表値を格納しておくということである。また、無欠性検証過程では、コンピューティング装置が、比較ユニット２２０をもって、検証用出力の全体領域のうちテストパターンに対応する特定領域におけるチャンネルごとの第２値それぞれの少なくとも一つの検証用代表値を生成させた後、特定領域の前記チャンネルごとの検証用代表値それぞれを参照用出力のチャンネルごとのこれに対応するそれぞれの参照用代表値と比較することによって、無欠性を検証させることができるということである。参照用代表値及び検証用代表値は、例示として、ＣＲＣまたはハッシュ（Ｈａｓｈ）を使用することで生成され得るが、これに限定されるわけではない。
【００５１】
これとは異なり、参照用出力を使用しないことによって格納空間を最適化した状態で無欠性を検証する実施例も存在する。
【００５２】
本実施例において、ＣＮＮ３００のコンボリューションカーネルと同一のサイズを有する少なくとも一つのサブテストパターン（Ｓｕｂ−Ｔｅｓｔ  Ｐａｔｔｅｒｎ）が取得され得る。サブテストパターンがコンボリューションカーネルと同一の大きさを有することがどのような役割をするようになるのかについては、追って詳細に説明される。
【００５３】
コンピューティング装置１００は、追加ユニット２１０をもって、サブテストパターンを原本入力に追加するプロセスを繰り返すことによって、少なくとも一つの拡張入力を生成させることができる。以後、ＣＮＮ３００をもって、拡張入力にコンボリューション演算を少なくとも一回適用することによって、少なくとも一つの検証用出力を生成させることができる。そして、比較ユニット２２０をもって、検証用出力に含まれている、サブテストパターンに対応する少なくとも一つのそれぞれの検証用サブ出力（Ｓｕｂ−Ｏｕｔｐｕｔ）を参照して、検証用出力の有効性を判断することによってＣＮＮ３００のパラメータの無欠性を検証させることができる。
【００５４】
この際、それぞれの検証用サブ出力は、検証領域及び非検証領域の少なくとも一部を含むことができる。このような領域が生成されるのは、コンボリューション演算で様々な値が同時に算出される特性に起因する。すなわち、拡張入力のバウンダリ部分（Ｂｏｕｎｄａｒｙ  Ａｒｅａ）に含まれているピクセルの値を利用してコンボリューション演算が適用される場合には、有効値の代わりにダミー値（Ｄｕｍｍｙ  Ｖａｌｕｅ）を使用するので、非検証領域が生成されるのである。これについて検討するために、図４を参照することにする。
【００５５】
図４は、本発明の他の実施例による、サブテストパターンを利用してＣＮＮのパラメータの無欠性を検証するための方法を遂行するために生成された、拡張入力及び検証用サブ出力を含む検証用出力を簡略に示した図面である。
【００５６】
図４を参照すると、原本入力と繰り返されるサブテストパターンとの間の位置にゼロパターンが加えられて拡張入力が生成され得、拡張入力に対してＣＮＮ３００のコンボリューション演算が適用されて検証用出力が生成され得る。この後、サブテストパターンに含まれている特定値を利用して、サブテストパターンに対してコンボリューション演算を適用するプロセスを参照することによって前記非検証領域に関する問題について検討するようにする。
【００５７】
コンボリューションカーネルのサイズが３Ｘ３であれば、図４で確認し得るように、特定値を含む特定のピクセル周辺にあるピクセルの様々な値を利用してコンボリューション演算が適用され得る。特定値の上段には拡張入力に含まれている値が存在しないので、特定値を含む特定のピクセル上段に０値が位置すると仮定し、コンボリューション演算を遂行するようになる。したがって、拡張入力のバウンダリ領域に含まれているピクセルの値は、コンボリューション演算時に０として取り扱われるダミー値を使用するようになるので、図４の検証用出力で確認することができる非検証領域が生成され得る。
【００５８】
それぞれの検証用サブ出力上の検証領域及び非検証領域の位置は、拡張入力上のサブテストパターンの位置によって決定されるであろう。
【００５９】
このような検証用出力が生成されると、コンピューティング装置１００が、比較ユニット２２０をもって、参照用サブ出力に含まれている検証領域上の同一の相対的位置にある各検証値（Ｖｅｒｉｆｙｉｎｇ  Ｖａｌｕｅｓ）を互いに比較させ、各検証値のうち少なくとも一つが他の値と同一でない場合、コンピューティング装置が、比較ユニット２２０をもって、検証用出力が誤っているものと判断し、パラメータのうち少なくとも一部に少なくとも一つの誤りがあると判断させることができる。
【００６０】
図４を再び参照すると、検証用サブ出力において点で表示された検証値は、それぞれの検証値がそれぞれの検証用サブ出力の中央に位置するところ、互いに対応すると見なすことができる。これはそれぞれの検証値が同じテストパターンに対するコンボリューション演算の結果値であるので、各検証値は互いに同じでなければならない。検証値のうち少なくとも１つが他の値と異なるのであれば、ＣＮＮのパラメータが変調されたものと判断することができる。よって、このようなプロセスを通じてパラメータの無欠性を検証することができるのである。
【００６１】
このような新たな実施例の構成は、図２の構成において、参照用出力を取得した部分を除いては以前の実施例の構成と同一であるはずである。
【００６２】
このような本発明によるテストパターン、またはサブテストパターンを利用してＣＮＮのパラメータの無欠性を検証するための方法を遂行することによって、ＣＮＮが自律走行に使用される際にセキュリティを保障することができるのである。
【００６３】
また、本発明の一実施例による方法は、ＣＮＮ上の機能的安全性のために、極限状況においてフォールトトレランス（Ｆａｕｌｔ  Ｔｏｌｅｒａｎｃｅ）及びフラクチュエーションロバスト性（Ｆｌｕｃｔｕａｔｉｏｎ  Ｒｏｂｕｓｔｎｅｓｓ）を向上させるのに使用され得、注釈（Ａｎｎｏｔｉｏｎ）費用を削減するのにも使用され得る。
【００６４】
本発明の技術分野における通常の技術者に理解され得るところとして、上記で説明されたイメージ、例えば、オリジナルイメージ、オリジナルラベル及び追加ラベルのようなイメージデータの送受信が学習装置及びテスト装置の各通信部により行われ得、特徴マップと演算を遂行するためのデータが学習装置及びテスト装置のプロセッサ（及び／又はメモリ）によって保有／維持され得、コンボリューション演算、デコンボリューション演算、ロス値演算の過程が主に学習装置及びテスト装置のプロセッサによって遂行され得るが、本発明がこれに限定されはしないであろう。
【００６５】
以上にて説明された本発明による各実施例は、多様なコンピュータの構成要素を通じて遂行することができるプログラム命令語の形態で具現されて、コンピュータ読取り可能な記録媒体に格納され得る。前記コンピュータ読取り可能な記録媒体は、プログラム命令語、データファイル、データ構造などを単独で又は組み合わせて含むことができる。前記コンピュータ読取り可能な記録媒体に格納されるプログラム命令語は、本発明のために特別に設計され、構成されたものであるか、コンピュータソフトウェア分野の当業者に公知にされて使用可能なものであり得る。コンピュータ読取り可能な記録媒体の例には、ハードディスク、フロッピーディスク及び磁気テープのような磁気媒体、ＣＤ−ＲＯＭ、ＤＶＤのような光記録媒体、フロプティカルディスク（Ｆｌｏｐｔｉｃａｌ  Ｄｉｓｋ）のような磁気−光メディア（Ｍａｇｎｅｔｏ−Ｏｐｔｉｃａｌ  Ｍｅｄｉａ）、及びＲＯＭ、ＲＡＭ、フラッシュメモリなどのようなプログラム命令語を格納して遂行するように特別に構成されたハードウェア装置が含まれる。プログラム命令語の例には、コンパイラによって作られるもののような機械語コードだけでなく、インタープリターなどを使用してコンピュータによって実行され得る高級言語コードも含まれる。前記ハードウェア装置は、本発明による処理を実行するために一つ以上のソフトウェアモジュールとして作動するように構成され得、その反対も同様である。
【００６６】
以上にて本発明が具体的な構成要素などのような特定事項と限定された実施例及び図面によって説明されたが、これは本発明のより全般的な理解の一助とするために提供されたものであるに過ぎず、本発明が前記実施例に限られるものではなく、本発明が属する技術分野において通常の知識を有する者であれば、かかる記載から多様な修正及び変形が行われ得る。
【００６７】
従って、本発明の思想は、前記説明された実施例に局限されて定められてはならず、後述する特許請求の範囲だけでなく、本特許請求の範囲と均等または等価的に変形されたものすべては、本発明の思想の範囲に属するといえる。
【図１】
2020119556.tif 000003
【図２】
2020119556.tif 000004
【図３】
2020119556.tif 000005
【図４】
2020119556.tif 000006