(57)【要約】      （修正有）【課題】ＫＰＩ（重要業績評価指標）を満たすハードウェアの最適化に使用される、イメージ認識のためのＣＮＮのパラメータの学習方法を提供する。【解決手段】方法は、第１トランスポーズレイヤ又はプーリングレイヤをもって、プーリング済み特徴マップ上のピクセルをＲＯＩごとにコンカチネートさせて統合特徴マップを生成し、１ｘＨ１コンボリューションレイヤをもって、統合特徴マップのＨ１個のチャンネル内の特徴をコンカチネートして生成された第１リシェイプ済み特徴マップを利用して第１調整特徴マップを生成し、１ｘＨ２コンボリューションレイヤをもって、第１調整特徴マップのＨ２個のチャンネル内の特徴をコンカチネートして生成された第２リシェイプ済み特徴マップを利用して第２調整特徴マップを生成し、第２トランスポーズレイヤ又は分類レイヤをもって、第２調整特徴マップをピクセル別に分離させてピクセル別特徴マップを生成する。【選択図】図２
2020119534.tif 000002
【特許請求の範囲】
【請求項１】
イメージ認識のためのＣＮＮのパラメータを学習する方法において、
（ａ）少なくとも一つのトレーニングイメージが入力されると、学習装置が、（ｉ）少なくとも一つのコンボリューションレイヤをもって、前記トレーニングイメージ上でＲＯＩの領域をクロップ（Ｃｒｏｐ）し、リサイズ（Ｒｅｓｉｚｅ）して生成されたＲＯＩイメージそれぞれに対してコンボリューション演算を少なくとも一回適用させて少なくとも一つの物体に対応する少なくとも一つの前記ＲＯＩごとにＲＯＩ特徴マップを生成させ、（ｉｉ）（ｉｉ−１）プーリングレイヤをもって、前記ＲＯＩ特徴マップに対してプーリング演算を少なくとも一回適用させて前記ＲＯＩごとにプーリング済み特徴マップを生成させ、第１トランスポーズレイヤ（Ｔｒａｎｓｐｏｓｉｎｇ  Ｌａｙｅｒ）をもって、前記ＲＯＩごとの前記プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれを前記ＲＯＩごとにコンカチネート（Ｃｏｎｃａｔｅｎａｔｉｎｇ）させて統合特徴マップ（Ｉｎｔｅｇｒａｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させるか、（ｉｉ−２）前記プーリングレイヤをもって、前記ＲＯＩ特徴マップに対してプーリング演算を適用させて前記ＲＯＩごとの前記プーリング済み特徴マップを生成させ、前記プーリングレイヤをもって、前記ＲＯＩごとの前記プーリング済み特徴マップ上の対応する同一の各位置の前記ピクセルそれぞれを前記ＲＯＩごとにコンカチネートさせて前記統合特徴マップを生成させる段階；
（ｂ）前記学習装置が、（ｂ１）（ｉ）第１リシェイプレイヤ（Ｒｅｓｈａｐｉｎｇ  Ｌａｙｅｒ）をもって、前記統合特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ１個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて第１リシェイプ済み特徴マップ（Ｒｅｓｈａｐｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉ）１ｘＨ１コンボリューションレイヤをもって、前記第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリューム（Ｖｏｌｕｍｅ）が調整された第１調整特徴マップ（Ａｄｊｕｓｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｂ２）（ｉ）第２リシェイプレイヤをもって、前記第１調整特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ２個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて第２リシェイプ済み特徴マップを生成させ、（ｉｉ）１ｘＨ２コンボリューションレイヤをもって、前記第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整された第２調整特徴マップを生成させる段階；及び
（ｃ）前記学習装置が、（ｃ１）（ｉ）第２トランスポーズレイヤをもって、前記第２調整特徴マップを前記ピクセルごとに分離して前記ＲＯＩごとにピクセル別特徴マップ（Ｐｉｘｅｌ−Ｗｉｓｅ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、分類レイヤをもって、前記ＲＯＩごとの前記ピクセル別特徴マップを利用して前記ＲＯＩそれぞれに関する物体情報を生成させるか、（ｉｉ）前記分類レイヤをもって、前記第２調整特徴マップを前記ピクセル別に分離して前記ＲＯＩごとに前記ピクセル別特徴マップを生成させ、前記分類レイヤをもって、前記ＲＯＩごとの前記ピクセル別特徴マップを利用して前記ＲＯＩそれぞれに対する前記物体情報を生成させた後、（ｃ２）ロスレイヤをもって、前記物体情報とこれに対応する原本正解とを参照して少なくとも一つの物体ロスを算出させることにより前記物体ロスをバックプロパゲーションして前記１ｘＨ２コンボリューションレイヤ、前記１ｘＨ１コンボリューションレイヤ、及び前記コンボリューションレイヤのうち少なくとも一部のパラメータを学習する段階；
を含むことを特徴とする学習方法。
【請求項２】
前記（ｂ）段階で、
前記統合特徴マップのチャンネル個数が前記Ｈ１の倍数でない場合、前記学習装置は、前記第１リシェイプレイヤをもって、前記統合特徴マップに少なくとも一つの第１ダミーチャンネル（Ｄｕｍｍｙ  Ｃｈａｎｎｅｌ）を追加させて少なくとも一つの前記第１ダミーチャンネルを含む前記統合特徴マップのチャンネル個数が前記Ｈ１の倍数になるようにした後、前記統合特徴マップの前記すべてのチャンネルのうちでそれぞれの対応するＨ１個のチャンネルから構成されたそれぞれの前記グループ内の前記特徴それぞれをコンカチネートさせ、
前記（ｂ）段階で、
前記第１調整特徴マップのチャンネル個数が前記Ｈ２の倍数でない場合、前記学習装置は、前記第２リシェイプレイヤをもって、前記第１調整特徴マップに少なくとも一つの第２ダミーチャンネルを追加させて少なくとも一つの前記第２ダミーチャンネルを含む前記第１調整特徴マップのチャンネル個数が前記Ｈ２の倍数になるようにした後、前記第１調整特徴マップの前記すべてのチャンネルのうちでそれぞれの対応する前記Ｈ２個のチャンネルから構成されたそれぞれの前記グループ内の前記特徴それぞれをコンカチネートさせることを特徴とする請求項１に記載の学習方法。
【請求項３】
前記ＲＯＩの個数をＮとし、前記ＲＯＩごとの前記プーリング済み特徴マップの幅をＭ１、高さをＭ２とし、前記ＲＯＩごとの前記プーリング済み特徴マップのチャンネル個数をＪとする場合、
前記（ａ）段階で、
前記学習装置は、（ｉ）前記第１トランスポーズレイヤをもって、前記ＲＯＩごとの前記プーリング済み特徴マップを、幅Ｎ、高さ１、チャンネルＭ１ｘＭ２ｘＪである前記統合特徴マップに変換させるようにするか、（ｉｉ）前記プーリングレイヤをもって、前記ＲＯＩごとの前記プーリング済み特徴マップを、幅Ｎ、高さ１、チャンネルＭ１ｘＭ２ｘＪである前記統合特徴マップに変換させるようにすることを特徴とする請求項１に記載の学習方法。
【請求項４】
前記１ｘＨ１コンボリューションレイヤのフィルタの個数をＫとし、前記１ｘＨ２コンボリューションレイヤのフィルタの個数をＬとする場合、
前記（ｂ）段階で、
前記学習装置は、前記第１リシェイプレイヤをもって、Ｎ×Ｈ１のサイズと
2020119534.tif 000017
のチャンネル個数を有する前記第１リシェイプ済み特徴マップを生成させ、前記１ｘＨ１コンボリューションレイヤをもって、幅Ｎ、高さ１、チャンネルＫであるＮｘ１ｘＫのボリュームを有する前記第１調整特徴マップを生成させ、
前記第２リシェイプレイヤをもって、幅Ｎ、高さＨ２、チャンネル
2020119534.tif 000018
である前記第２リシェイプ済み特徴マップを生成させ、前記１ｘＨ２コンボリューションレイヤをもって、幅Ｎ、高さ１、チャンネルＬであるＮｘ１ｘＬのボリュームを有する前記第２調整特徴マップを生成させることを特徴とする請求項３に記載の学習方法。
【請求項５】
前記（ｃ）段階で、
前記学習装置は、（ｉ）前記第２トランスポーズレイヤをもって、前記第２調整特徴マップを、Ｎ個のＲＯＩそれぞれに対応する幅１、高さ１、チャンネルＬである１ｘ１ｘＬのボリュームを有する前記ＲＯＩごとの前記ピクセル別特徴マップに変換させるか、（ｉｉ）前記分類レイヤをもって、前記第２調整特徴マップを、前記Ｎ個のＲＯＩそれぞれに対応する幅１、高さ１、チャンネルＬである１ｘ１ｘＬのボリュームを有する前記ＲＯＩごとの前記ピクセル別特徴マップに変換させることを特徴とする請求項４に記載の学習方法。
【請求項６】
前記分類レイヤは、少なくとも一つのソフトマックス（Ｓｏｆｔｍａｘ）アルゴリズムを使用することを特徴とする請求項１に記載の学習方法。
【請求項７】
イメージ認識のためのＣＮＮをテストする方法において、
（ａ）学習装置は、（１）（ｉ）少なくとも一つのコンボリューションレイヤをもって、少なくとも一つのトレーニングイメージ上で学習用ＲＯＩの領域をクロップ（Ｃｒｏｐ）し、リサイズ（Ｒｅｓｉｚｅ）して生成された学習用ＲＯＩイメージそれぞれに対してコンボリューション演算を少なくとも一回適用させて少なくとも一つの学習用物体に対応する少なくとも一つの前記学習用ＲＯＩごとに学習用ＲＯＩ特徴マップを生成させ、（ｉｉ）（ｉｉ−１）プーリングレイヤをもって、前記学習用ＲＯＩ特徴マップに対してプーリング演算を少なくとも一回適用させて前記学習用ＲＯＩごとに学習用プーリング済み特徴マップを生成させ、第１トランスポーズレイヤ（Ｔｒａｎｓｐｏｓｉｎｇ  Ｌａｙｅｒ）をもって、前記学習用ＲＯＩごとの前記学習用プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれを前記学習用ＲＯＩごとにコンカチネート（Ｃｏｎｃａｔｅｎａｔｉｎｇ）させて学習用統合特徴マップ（Ｉｎｔｅｇｒａｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させるか、（ｉｉ−２）前記プーリングレイヤをもって、前記学習用ＲＯＩ特徴マップに対してプーリング演算を適用させて前記学習用ＲＯＩごとの前記学習用プーリング済み特徴マップを生成させ、前記プーリングレイヤをもって、前記学習用ＲＯＩごとの前記学習用プーリング済み特徴マップ上の対応する同一の各位置の前記ピクセルそれぞれを前記学習用ＲＯＩごとにコンカチネートさせて前記学習用統合特徴マップを生成させ、（２）（２−１）（ｉ）第１リシェイプレイヤ（Ｒｅｓｈａｐｉｎｇ  Ｌａｙｅｒ）をもって、前記学習用統合特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ１個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて学習用第１リシェイプ済み特徴マップ（Ｒｅｓｈａｐｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉ）１ｘＨ１コンボリューションレイヤをもって、前記学習用第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリューム（Ｖｏｌｕｍｅ）が調整された学習用第１調整特徴マップ（Ａｄｊｕｓｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（２−２）（ｉ）第２リシェイプレイヤをもって、前記学習用第１調整特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ２個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて学習用第２リシェイプ済み特徴マップを生成させ、（ｉｉ）１ｘＨ２コンボリューションレイヤをもって、前記学習用第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整された学習用第２調整特徴マップを生成させ、（３）（３−１）（ｉ）第２トランスポーズレイヤをもって、前記学習用第２調整特徴マップを前記ピクセル別に分離して前記学習用ＲＯＩごとに学習用ピクセル別特徴マップ（Ｐｉｘｅｌ−Ｗｉｓｅ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、分類レイヤをもって、前記学習用ＲＯＩごとの前記学習用ピクセル別特徴マップを利用して前記学習用ＲＯＩそれぞれに関する学習用物体情報を生成させるか、（ｉｉ）前記分類レイヤをもって、前記学習用第２���整特徴マップを前記ピクセル別に分離して前記学習用ＲＯＩごとに前記学習用ピクセル別特徴マップを生成させ、前記分類レイヤをもって、前記学習用ＲＯＩごとの前記学習用ピクセル別特徴マップを利用して前記学習用ＲＯＩそれぞれに対する前記学習用物体情報を生成させた後、（３−２）ロスレイヤをもって、前記学習用物体情報とこれに対応する原本正解とを参照して少なくとも一つの物体ロスを算出させることにより、前記物体ロスをバックプロパゲーションして前記１ｘＨ２コンボリューションレイヤ、前記１ｘＨ１コンボリューションレイヤ、及び前記コンボリューションレイヤのうち少なくとも一部のパラメータを学習した状態で、少なくとも一つのテストイメージが取得されると、テスト装置が、（ｉ）前記コンボリューションレイヤをもって、前記テストイメージ上でテスト用ＲＯＩの領域をクロップ（Ｃｒｏｐ）し、リサイズ（Ｒｅｓｉｚｅ）して生成されたテスト用ＲＯＩイメージそれぞれに対してコンボリューション演算を少なくとも一回適用させて少なくとも一つのテスト用物体に対応する少なくとも一つの前記テスト用ＲＯＩごとにテスト用ＲＯＩ特徴マップを生成させ、（ｉｉ）（ｉｉ−１）前記プーリングレイヤをもって、前記テスト用ＲＯＩ特徴マップに対してプーリング演算を少なくとも一回適用させて前記テスト用ＲＯＩごとにテスト用プーリング済み特徴マップを生成させ、前記第１トランスポーズレイヤ（Ｔｒａｎｓｐｏｓｉｎｇ  Ｌａｙｅｒ）をもって、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれを前記テスト用ＲＯＩごとにコンカチネート（Ｃｏｎｃａｔｅｎａｔｉｎｇ）させてテスト用統合特徴マップ（Ｉｎｔｅｇｒａｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させるか、（ｉｉ−２）前記プーリングレイヤをもって、前記テスト用ＲＯＩ特徴マップに対してプーリング演算を適用させて前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップを生成させ、前記プーリングレイヤをもって、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップ上の対応する同一の各位置の前記ピクセルそれぞれを前記テスト用ＲＯＩごとにコンカチネートさせて前記テスト用統合特徴マップを生成させる段階；
（ｂ）前記テスト装置が、（ｂ１）（ｉ）前記第１リシェイプレイヤ（Ｒｅｓｈａｐｉｎｇ  Ｌａｙｅｒ）をもって、前記テスト用統合特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ１個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせてテスト用第１リシェイプ済み特徴マップ（Ｒｅｓｈａｐｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉ）前記１ｘＨ１コンボリューションレイヤをもって、前記テスト用第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリューム（Ｖｏｌｕｍｅ）が調整されたテスト用第１調整特徴マップ（Ａｄｊｕｓｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｂ２）（ｉ）前記第２リシェイプレイヤをもって、前記テスト用第１調整特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ２個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせてテスト用第２リシェイプ済み特徴マップを生成させ、（ｉｉ）前記１ｘＨ２コンボリューションレイヤをもって、前記テスト用第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整されたテスト用第２調整特徴マップを生成させる段階；及び
（ｃ）前記テスト装置が、（ｉ）前記第２トランスポーズレイヤをもって、前記テスト用第２調整特徴マップを前記ピクセル別に分離して前記テスト用ＲＯＩごとにテスト用ピクセル別特徴マップ（Ｐｉｘｅｌ−Ｗｉｓｅ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、前記分類レイヤをもって、前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップを利用して前記テスト用ＲＯＩそれぞれに関するテスト用物体情報を生成させるか、（ｉｉ）前記分類レイヤをもって、前記テスト用第２調整特徴マップを前記ピクセル別に分離して前記テスト用ＲＯＩごとに前記テスト用ピクセル別特徴マップを生成させ、前記分類レイヤをもって、前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップを利用して前記テスト用ＲＯＩそれぞれに対する前記テスト用物体情報を生成させる段階；
を含むことを特徴とするテスト方法。
【請求項８】
前記（ｂ）段階で、
前記テスト用統合特徴マップのチャンネル個数が前記Ｈ１の倍数でない場合、前記テスト装置は、前記第１リシェイプレイヤをもって、前記テスト用統合特徴マップに少なくとも一つの第１ダミーチャンネル（Ｄｕｍｍｙ  Ｃｈａｎｎｅｌ）を追加させて少なくとも一つの前記第１ダミーチャンネルを含む前記テスト用統合特徴マップのチャンネル個数が前記Ｈ１の倍数になるようにした後、前記テスト用統合特徴マップの前記すべてのチャンネルのうちでそれぞれの対応するＨ１個のチャンネルから構成されたそれぞれの前記グループ内の前記特徴それぞれをコンカチネートさせ、
前記（ｂ）段階で、
前記テスト用第１調整特徴マップのチャンネル個数が前記Ｈ２の倍数でない場合、前記テスト装置は、前記第２リシェイプレイヤをもって、前記テスト用第１調整特徴マップに少なくとも一つの第２ダミーチャンネルを追加させて少なくとも一つの前記第２ダミーチャンネルを含む前記テスト用第１調整特徴マップのチャンネル個数が前記Ｈ２の倍数になるようにした後、前記テスト用第１調整特徴マップの前記すべてのチャンネルのうちでそれぞれの対応する前記Ｈ２個のチャンネルから構成されたそれぞれの前記グループ内の前記特徴それぞれをコンカチネートさせることを特徴とする請求項７に記載のテスト方法。
【請求項９】
前記テスト用ＲＯＩの個数をＮとし、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップの幅をＭ１、高さをＭ２とし、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップのチャンネル個数をＪとする場合、
前記（ａ）段階で、
前記テスト装置は、（ｉ）前記第１トランスポーズレイヤをもって、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップを幅Ｎ、高さ１、チャンネルＭ１ｘＭ２ｘＪである前記テスト用統合特徴マップに変換させるようにするか、（ｉｉ）前記プーリングレイヤをもって、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップを幅Ｎ、高さ１、チャンネルＭ１ｘＭ２ｘＪである前記テスト用統合特徴マップに変換させるようにすることを特徴とする請求項７に記載のテスト方法。
【請求項１０】
前記１ｘＨ１コンボリューションレイヤのフィルタの個数をＫとし、前記１ｘＨ２コンボリューションレイヤのフィルタの個数をＬとする場合、
前記（ｂ）段階で、
前記テスト装置は、
前記第１リシェイプレイヤをもって、Ｎ×Ｈ１のサイズと
2020119534.tif 000019
のチャンネル個数を有する前記テスト用第１リシェイプ済み特徴マップを生成させ、前記１ｘＨ１コンボリューションレイヤをもって、幅Ｎ、高さ１、チャンネルＫであるＮｘ１ｘＫのボリュームを有する前記テスト用第１調整特徴マップを生成させ、
前記第２リシェイプレイヤをもって、幅Ｎ、高さＨ２のサイズと
2020119534.tif 000020
のチャンネル個数を有する前記テスト用第２リシェイプ済み特徴マップを生成させ、前記１ｘＨ２コンボリューションレイヤをもって、幅Ｎ、高さ１、チャンネル個数ＬであるＮｘ１ｘＬのボリュームを有する前記テスト用第２調整特徴マップを生成させることを特徴とする請求項９に記載のテスト方法。
【請求項１１】
前記（ｃ）段階で、
前記テスト装置は、（ｉ）前記第２トランスポーズレイヤをもって、前記テスト用第２調整特徴マップを、Ｎ個の前記テスト用ＲＯＩそれぞれに対応する幅１、高さ１、チャンネルＬである１ｘ１ｘＬのボリュームを有する前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップに変換させるか、（ｉｉ）前記分類レイヤをもって、前記テスト用第２調整特徴マップを、前記Ｎ個のテスト用ＲＯＩそれぞれに対応する幅１、高さ１、チャンネルＬである１ｘ１ｘＬのボリュームを有する前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップに変換させることを特徴とする請求項１０に記載のテスト方法。
【請求項１２】
前記分類レイヤは、少なくとも一つのソフトマックス（Ｓｏｆｔｍａｘ）アルゴリズムを使用することを特徴とする請求項７に記載のテスト方法。
【請求項１３】
イメージ認識のためのＣＮＮを学習する学習装置において、
インストラクションを格納する少なくとも一つのメモリと、
（Ｉ）（ｉ）少なくとも一つのコンボリューションレイヤをもって、少なくとも一つのトレーニングイメージ上でＲＯＩの領域をクロップ（Ｃｒｏｐ）し、リサイズ（Ｒｅｓｉｚｅ）して生成されたＲＯＩイメージそれぞれに対してコンボリューション演算を少なくとも一回適用させて少なくとも一つの物体に対応する少なくとも一つの前記ＲＯＩごとにＲＯＩ特徴マップを生成させ、（ｉｉ）（ｉｉ−１）プーリングレイヤをもって、前記ＲＯＩ特徴マップに対してプーリング演算を少なくとも一回適用させて前記ＲＯＩごとにプーリング済み特徴マップを生成させ、第１トランスポーズレイヤ（Ｔｒａｎｓｐｏｓｉｎｇ  Ｌａｙｅｒ）をもって、前記ＲＯＩごとの前記プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれを前記ＲＯＩごとにコンカチネート（Ｃｏｎｃａｔｅｎａｔｉｎｇ）させて統合特徴マップ（Ｉｎｔｅｇｒａｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させるか、（ｉｉ−２）前記プーリングレイヤをもって、前記ＲＯＩ特徴マップに対してプーリング演算を適用させて前記ＲＯＩごとの前記プーリング済み特徴マップを生成させ、前記プーリングレイヤをもって、前記ＲＯＩごとの前記プーリング済み特徴マップ上の対応する同一の各位置の前記ピクセルそれぞれを前記ＲＯＩごとにコンカチネートさせて前記統合特徴マップを生成させるプロセス、（ＩＩ）（ＩＩ−１）（ｉ）第１リシェイプレイヤ（Ｒｅｓｈａｐｉｎｇ  Ｌａｙｅｒ）をもって、前記統合特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ１個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて第１リシェイプ済み特徴マップ（Ｒｅｓｈａｐｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉ）１ｘＨ１コンボリューションレイヤをもって、前記第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリューム（Ｖｏｌｕｍｅ）が調整された第１調整特徴マップ（Ａｄｊｕｓｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ＩＩ−２）（ｉ）第２リシェイプレイヤをもって、前記第１調整特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ２個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて第２リシェイプ済み特徴マップを生成させ、（ｉｉ）１ｘＨ２コンボリューションレイヤをもって、前記第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整された第２調整特徴マップを生成させるプロセス、及び（ＩＩＩ）（ＩＩＩ−１）（ｉ）第２トランスポーズレイヤをもって、前記第２調整特徴マップを前記ピクセル別に分離して前記ＲＯＩごとにピクセル別特徴マップ（Ｐｉｘｅｌ−Ｗｉｓｅ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、分類レイヤをもって、前記ＲＯＩごとの前記ピクセル別特徴マップを利用して前記ＲＯＩそれぞれに対する物体情報を生成させるか、（ｉｉ）前記分類レイヤをもって、前記第２調整特徴マップを前記ピクセル別に分離して前記ＲＯＩごとに前記ピクセル別特徴マップを生成させ、前記分類レイヤをもって、前記ＲＯＩごとの前記ピクセル別特徴マップを利用して前記ＲＯＩそれぞれに対す���前記物体情報を生成させた後、（ＩＩＩ−２）ロスレイヤをもって、前記物体情報とこれに対応する原本正解とを参照して少なくとも一つの物体ロスを算出させることにより、前記物体ロスをバックプロパゲーションして前記１ｘＨ２コンボリューションレイヤ、前記１ｘＨ１コンボリューションレイヤ、及び前記コンボリューションレイヤのうち少なくとも一部のパラメータを学習するプロセスを遂行するための前記インストラクションを実行するように構成された少なくとも一つのプロセッサと、
を含むことを特徴とする学習装置。
【請求項１４】
前記（ＩＩ）プロセスで、
前記統合特徴マップのチャンネル個数が前記Ｈ１の倍数でない場合、前記プロセッサは、前記第１リシェイプレイヤをもって、前記統合特徴マップに少なくとも一つの第１ダミーチャンネル（Ｄｕｍｍｙ  Ｃｈａｎｎｅｌ）を追加させて少なくとも一つの前記第１ダミーチャンネルを含む前記統合特徴マップのチャンネル個数が前記Ｈ１の倍数になるようにした後、前記統合特徴マップの前記すべてのチャンネルのうちでそれぞれの対応するＨ１個のチャンネルから構成されたそれぞれの前記グループ内の前記特徴それぞれをコンカチネートさせ、
前記（ＩＩ）プロセスで、
前記第１調整特徴マップのチャンネル個数が前記Ｈ２の倍数でない場合、前記プロセッサは、前記第２リシェイプレイヤをもって、前記第１調整特徴マップに少なくとも一つの第２ダミーチャンネルを追加させて少なくとも一つの前記第２ダミーチャンネルを含む前記第１調整特徴マップのチャンネル個数が前記Ｈ２の倍数になるようにした後、前記第１調整特徴マップの前記すべてのチャンネルのうちでそれぞれの対応する前記Ｈ２個の前記チャンネルから構成されたそれぞれの前記グループ内の前記特徴それぞれをコンカチネートさせることを特徴とする請求項１３に記載の学習装置。
【請求項１５】
前記ＲＯＩの個数をＮとし、前記ＲＯＩごとの前記プーリング済み特徴マップの幅をＭ１、高さをＭ２とし、前記ＲＯＩごとの前記プーリング済み特徴マップのチャンネル個数をＪとする場合、
前記（Ｉ）プロセスで、
前記プロセッサは（ｉ）前記第１トランスポーズレイヤをもって、前記ＲＯＩごとの前記プーリング済み特徴マップを幅Ｎ、高さ１、チャンネルＭ１ｘＭ２ｘＪである前記統合特徴マップに変換させるようにするか、（ｉｉ）前記プーリングレイヤをもって、前記ＲＯＩごとの前記プーリング済み特徴マップを幅Ｎ、高さ１、チャンネルＭ１ｘＭ２ｘＪである前記統合特徴マップに変換させるようにすることを特徴とする請求項１３に記載の学習装置。
【請求項１６】
前記１ｘＨ１コンボリューションレイヤのフィルタの個数をＫとし、前記１ｘＨ２コンボリューションレイヤのフィルタの個数をＬとする場合、
前記（ＩＩ）プロセスで、
前記プロセッサは、前記第１リシェイプレイヤをもって、Ｎ×Ｈ１のサイズと
2020119534.tif 000021
のチャンネル個数を有する前記第１リシェイプ済み特徴マップを生成させ、前記１ｘＨ１コンボリューションレイヤをもって、幅Ｎ、高さ１、チャンネルＫであるＮｘ１ｘＫのボリュームを有する前記第１調整特徴マップを生成させ、
前記プロセッサは、前記第２リシェイプレイヤをもって、幅Ｎ、高さＨ２、チャンネル
2020119534.tif 000022
である前記第２リシェイプ済み特徴マップを出力させ、前記１ｘＨ２コンボリューションレイヤをもって、幅Ｎ、高さ１、チャンネルＬであるＮｘ１ｘＬのボリュームを有する前記第２調整特徴マップを生成させることを特徴とする請求項１５に記載の学習装置。
【請求項１７】
前記（ＩＩＩ）プロセスで、
前記プロセッサは、（ｉ）前記第２トランスポーズレイヤをもって、前記第２調整特徴マップを、Ｎ個のＲＯＩそれぞれに対応する幅１、高さ１、チャンネルＬである１ｘ１ｘＬのボリュームを有する前記ＲＯＩごとの前記ピクセル別特徴マップに変換させるか、（ｉｉ）前記分類レイヤをもって、前記第２調整特徴マップを、Ｎ個のＲＯＩそれぞれに対応する幅１、高さ１、チャンネルＬである１ｘ１ｘＬのボリュームを有する前記ＲＯＩごとの前記ピクセル別特徴マップに変換させることを特徴とする請求項１６に記載の学習装置。
【請求項１８】
前記分類レイヤは、少なくとも一つのソフトマックス（Ｓｏｆｔｍａｘ）アルゴリズムを使用することを特徴とする請求項１３に記載の学習装置。
【請求項１９】
イメージ認識のためのＣＮＮをテストするテスト装置において、
インストラクションを格納する少なくとも一つのメモリと、
学習装置は、（１）（ｉ）少なくとも一つのコンボリューションレイヤをもって、少なくとも一つのトレーニングイメージ上で学習用ＲＯＩの領域をクロップ（Ｃｒｏｐ）し、リサイズ（Ｒｅｓｉｚｅ）して生成された学習用ＲＯＩイメージそれぞれに対してコンボリューション演算を少なくとも一回適用させて少なくとも一つの学習用物体に対応する少なくとも一つの前記学習用ＲＯＩごとに学習用ＲＯＩ特徴マップを生成させ、（ｉｉ）（ｉｉ−１）プーリングレイヤをもって、前記学習用ＲＯＩ特徴マップに対してプーリング演算を少なくとも一回適用させて前記学習用ＲＯＩごとに学習用プーリング済み特徴マップを生成させ、第１トランスポーズレイヤ（Ｔｒａｎｓｐｏｓｉｎｇ  Ｌａｙｅｒ）をもって、前記学習用ＲＯＩごとの前記学習用プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれを前記学習用ＲＯＩごとにコンカチネート（Ｃｏｎｃａｔｅｎａｔｉｎｇ）させて学習用統合特徴マップ（Ｉｎｔｅｇｒａｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させるか、（ｉｉ−２）前記プーリングレイヤをもって、前記学習用ＲＯＩ特徴マップに対してプーリング演算を適用させて前記学習用ＲＯＩごとの前記学習用プーリング済み特徴マップを生成させ、前記プーリングレイヤをもって、前記学習用ＲＯＩごとの前記学習用プーリング済み特徴マップ上の対応する同一の各位置の前記ピクセルそれぞれを前記学習用ＲＯＩごとにコンカチネートさせて前記学習用統合特徴マップを生成させ、（２）（２−１）（ｉ）第１リシェイプレイヤ（Ｒｅｓｈａｐｉｎｇ  Ｌａｙｅｒ）をもって、前記学習用統合特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ１個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて学習用第１リシェイプ済み特徴マップ（Ｒｅｓｈａｐｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉ）１ｘＨ１コンボリューションレイヤをもって、前記学習用第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリューム（Ｖｏｌｕｍｅ）が調整された学習用第１調整特徴マップ（Ａｄｊｕｓｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（２−２）（ｉ）第２リシェイプレイヤをもって、前記学習用第１調整特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ２個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて学習用第２リシェイプ済み特徴マップを生成させ、（ｉｉ）１ｘＨ２コンボリューションレイヤをもって、前記学習用第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整された学習用第２調整特徴マップを生成させ、（３）（３−１）（ｉ）第２トランスポーズレイヤをもって、前記学習用第２調整特徴マップを前記ピクセルごとに分離して前記学習用ＲＯＩごとの学習用ピクセル別特徴マップ（Ｐｉｘｅｌ−Ｗｉｓｅ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、分類レイヤをもって、前記学習用ＲＯＩごとの前記学習用ピクセル別特徴マップを利用して前記学習用ＲＯＩそれぞれに関する学習用物体クラス情報を生成させるか、（ｉｉ）前記分類レイヤをもって、前記学習用第���調整特徴マップを前記ピクセルごとに分離して前記学習用ＲＯＩごとに前記学習用ピクセル別特徴マップを生成させ、前記分類レイヤをもって、前記学習用ＲＯＩごとの前記学習用ピクセル別特徴マップを利用して前記学習用ＲＯＩそれぞれに関する前記学習用物体クラス情報を生成させた後、（３−２）ロスレイヤをもって、前記学習用物体情報とこれに対応する原本正解とを参照して少なくとも一つの物体ロスを算出させることにより、前記物体ロスをバックプロパゲーションして前記１ｘＨ２コンボリューションレイヤ、前記１ｘＨ１コンボリューションレイヤ、及び前記コンボリューションレイヤのうち少なくとも一部のパラメータを学習した状態で、（Ｉ）（ｉ）前記コンボリューションレイヤをもって、少なくとも一つのテストイメージ上でテスト用ＲＯＩの領域をクロップ（Ｃｒｏｐ）し、リサイズ（Ｒｅｓｉｚｅ）して生成されたテスト用ＲＯＩイメージそれぞれに対してコンボリューション演算を少なくとも一回適用させて少なくとも一つのテスト用物体に対応する少なくとも一つの前記テスト用ＲＯＩごとにテスト用ＲＯＩ特徴マップを生成させ、（ｉｉ）（ｉｉ−１）前記プーリングレイヤをもって、前記テスト用ＲＯＩ特徴マップに対してプーリング演算を少なくとも一回適用させて前記テスト用ＲＯＩごとにテスト用プーリング済み特徴マップを生成させ、前記第１トランスポーズレイヤ（Ｔｒａｎｓｐｏｓｉｎｇ  Ｌａｙｅｒ）をもって、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれを前記テスト用ＲＯＩごとにコンカチネート（Ｃｏｎｃａｔｅｎａｔｉｎｇ）させてテスト用統合特徴マップ（Ｉｎｔｅｇｒａｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させるか、（ｉｉ−２）前記プーリングレイヤをもって、前記テスト用ＲＯＩ特徴マップに対してプーリング演算を適用させて前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップを生成させ、前記プーリングレイヤをもって、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップ上の対応する同一の各位置の前記ピクセルそれぞれを前記テスト用ＲＯＩごとにコンカチネートさせて前記テスト用統合特徴マップを生成させるプロセス、（ＩＩ）（ＩＩ−１）（ｉ）前記第１リシェイプレイヤ（Ｒｅｓｈａｐｉｎｇ  Ｌａｙｅｒ）をもって、前記テスト用統合特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ１個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせてテスト用第１リシェイプ済み特徴マップ（Ｒｅｓｈａｐｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉ）前記１ｘＨ１コンボリューションレイヤをもって、前記テスト用第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリューム（Ｖｏｌｕｍｅ）が調整されたテスト用第１調整特徴マップ（Ａｄｊｕｓｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ＩＩ−２）（ｉ）前記第２リシェイプレイヤをもって、前記テスト用第１調整特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ２個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせてテスト用第２リシェイプ済み特徴マップを生成させ、（ｉｉ）前記１ｘＨ２コンボリューションレイヤをもって、前記テスト用第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整されたテスト用第２調整特徴マップを生成させるプロセス、及び（ＩＩＩ）（ｉ）前記第２トランスポーズレイヤをもって、前記テスト用第２調整特徴マップを前記ピクセル別に分離して前記テスト用ＲＯＩごとにテスト用ピクセル別特徴マップ（Ｐｉｘｅｌ−Ｗｉｓｅ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、前記分類レイヤをもって、前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップを利用して前記テスト用ＲＯＩそれぞれに関するテスト用物体情報を生成させるか、（ｉｉ）前記分類レイヤをもって、前記テスト用第２調整特徴マップを前記ピクセル別に分離して前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップを生成させ、前記分類レイヤをもって、前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップを利用して前記テスト用ＲＯＩそれぞれに対する前記テスト用物体情報を生成させるプロセスを遂行するための前記インストラクションを実行するように構成された少なくともひとつのプロセッサと、
を含むことを特徴とするテスト装置。
【請求項２０】
前記（ＩＩ）プロセスで、
前記テスト用統合特徴マップのチャンネル個数が前記Ｈ１の倍数でない場合、前記プロセッサは、前記第１リシェイプレイヤをもって、前記テスト用統合特徴マップに少なくとも一つの第１ダミーチャンネル（Ｄｕｍｍｙ  Ｃｈａｎｎｅｌ）を追加させて少なくとも一つの前記第１ダミーチャンネルを含む前記テスト用統合特徴マップのチャンネル個数が前記Ｈ１の倍数になるようにした後、前記テスト用統合特徴マップの前記すべてのチャンネルのうちでそれぞれの対応するＨ１個のチャンネルから構成されたそれぞれの前記グループ内の前記特徴それぞれをコンカチネートさせ、
前記（ＩＩ）プロセスで、
前記テスト用第１調整特徴マップのチャンネル個数が前記Ｈ２の倍数でない場合、前記プロセッサは、前記第２リシェイプレイヤをもって、前記テスト用第１調整特徴マップに少なくとも一つの第２ダミーチャンネルを追加させて少なくとも一つの前記第２ダミーチャンネルを含む前記テスト用第１調整特徴マップのチャンネル個数が前記Ｈ２の倍数になるようにした後、前記テスト用第１調整特徴マップの前記すべてのチャンネルのうちでそれぞれの対応する前記Ｈ２個の前記チャンネルから構成されたそれぞれの前記グループ内の前記特徴それぞれをコンカチネートさせることを特徴とする請求項１９に記載のテスト装置。
【請求項２１】
前記テスト用ＲＯＩの個数をＮとし、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップの幅をＭ１、高さをＭ２とし、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップのチャンネル個数をＪとする場合、
前記（Ｉ）プロセスで、
前記プロセッサは、（ｉ）前記第１トランスポーズレイヤをもって、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップを幅Ｎ、高さ１、チャンネルＭ１ｘＭ２ｘＪである前記テスト用統合特徴マップに変換させるようにするか、（ｉｉ）前記プーリングレイヤをもって、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップを幅Ｎ、高さ１、チャンネルＭ１ｘＭ２ｘＪである前記テスト用統合特徴マップに変換させるようにすることを特徴とする請求項１９に記載のテスト装置。
【請求項２２】
前記１ｘＨ１コンボリューションレイヤのフィルタの個数をＫとし、前記１ｘＨ２コンボリューションレイヤのフィルタの個数をＬとする場合、
前記（ＩＩ）プロセスで、
前記プロセッサは、前記第１リシェイプレイヤをもって、Ｎ×Ｈ１のサイズと
2020119534.tif 000023
のチャンネル個数を有する前記テスト用第１リシェイプ済み特徴マップを生成させ、前記１ｘＨ１コンボリューションレイヤをもって、幅Ｎ、高さ１、チャンネルＫであるＮｘ１ｘＫのボリュームを有する前記テスト用第１調整特徴マップを生成させ、
前記プロセッサは、前記第２リシェイプレイヤをもって、幅Ｎ、高さＨ２、チャンネル
2020119534.tif 000024
である前記テスト用第２リシェイプ済み特徴マップを生成させ、前記１ｘＨ２コンボリューションレイヤをもって、幅Ｎ、高さ１、チャンネルＬであるＮｘ１ｘＬのボリュームを有する前記テスト用第２調整特徴マップを生成させることを特徴とする請求項２１に記載のテスト装置。
【請求項２３】
前記（ＩＩＩ）プロセスで、
前記プロセッサは、（ｉ）前記第２トランスポーズレイヤをもって、前記テスト用第２調整特徴マップを、Ｎ個のテスト用ＲＯＩそれぞれに対応する幅１、高さ１、チャンネルＬである１ｘ１ｘＬのボリュームを有する前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップに変換させるか、（ｉｉ）前記分類レイヤをもって、前記テスト用第２調整特徴マップを、前記Ｎ個のテスト用ＲＯＩそれぞれに対応する幅１、高さ１、チャンネルＬである１ｘ１ｘＬのボリュームを有する前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップに変換させることを特徴とする請求項２２に記載のテスト装置。
【請求項２４】
前記分類レイヤは、少なくとも一つのソフトマックス（Ｓｏｆｔｍａｘ）アルゴリズムを使用することを特徴とする請求項１９に記載のテスト装置。
【発明の詳細な説明】
【技術分野】
【０００１】
ハードウェア最適化に使用されるイメージ認識のための１ｘＨコンボリューションを利用したＣＮＮ学習方法及び学習装置、これを利用したテスト方法及びテスト装置｛ＬＥＡＲＮＩＮＧ  ＭＥＴＨＯＤ  ＡＮＤ  ＬＥＡＲＮＩＮＧ  ＤＥＶＩＣＥ  ＦＯＲ  ＣＯＮＶＯＬＵＴＩＯＮＡＬ  ＮＥＵＲＡＬ  ＮＥＴＷＯＲＫ  ＵＳＩＮＧ  １ｘＨ  ＣＯＮＶＯＬＵＴＩＯＮ ＦＯＲ  ＩＭＡＧＥ  ＲＥＣＯＧＮＩＴＩＯＮ  ＴＯ  ＢＥ  ＵＳＥＤ  ＦＯＲ  ＨＡＲＤＷＡＲＥ  ＯＰＴＩＭＩＺＡＴＩＯＮ，  ＡＮＤ  ＴＥＳＴＩＮＧ  ＭＥＴＨＯＤ  ＡＮＤ  ＴＥＳＴＩＮＧ  ＤＥＶＩＣＥ  ＵＳＩＮＧ  ＴＨＥ  ＳＡＭＥ｝を提供する。
【０００２】
本発明はハードウェア最適化に使用されるイメージ認識のためのＣＮＮを学習する方法に関し、より詳細には、イメージ認識のための前記ＣＮＮのパラメータを学習する方法において、（ａ）少なくとも一つのトレーニングイメージが入力されると、学習装置が、（ｉ）少なくとも一つのコンボリューションレイヤをもって、前記トレーニングイメージ上でＲＯＩの領域をクロップ（Ｃｒｏｐ）し、リサイズ（Ｒｅｓｉｚｅ）して生成されたＲＯＩイメージそれぞれに対してコンボリューション演算を少なくとも一回適用させて少なくとも一つの物体に対応する少なくとも一つの前記ＲＯＩごとにＲＯＩ特徴マップを生成させ、（ｉｉ）（ｉｉ−１）プーリングレイヤをもって、前記ＲＯＩ特徴マップに対してプーリング演算を少なくとも一回適用させて前記ＲＯＩごとにプーリング済み特徴マップを生成させ、第１トランスポーズレイヤ（Ｔｒａｎｓｐｏｓｉｎｇ  Ｌａｙｅｒ）をもって、前記ＲＯＩごとの前記プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれを前記ＲＯＩごとにコンカチネート（Ｃｏｎｃａｔｅｎａｔｉｎｇ）させて統合特徴マップ（Ｉｎｔｅｇｒａｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させるか、（ｉｉ−２）前記プーリングレイヤをもって、前記ＲＯＩ特徴マップに対してプーリング演算を適用させて前記ＲＯＩごとの前記プーリング済み特徴マップを生成させ、前記プーリングレイヤをもって、前記ＲＯＩごとの前記プーリング済み特徴マップ上の対応する同一の各位置の前記ピクセルそれぞれを前記ＲＯＩごとにコンカチネートさせて前記統合特徴マップを生成させる段階：（ｂ）前記学習装置が、（ｂ１）（ｉ）第１リシェイプレイヤ（Ｒｅｓｈａｐｉｎｇ  Ｌａｙｅｒ）をもって、前記統合特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ１個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて第１リシェイプ済み特徴マップ（Ｒｅｓｈａｐｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉ）１ｘＨ１コンボリューションレイヤをもって、前記第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリューム（Ｖｏｌｕｍｅ）が調整された第１調整特徴マップ（Ａｄｊｕｓｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｂ２）（ｉ）第２リシェイプレイヤをもって、前記第１調整特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ２個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて第２リシェイプ済み特徴マップを生成させ、（ｉｉ）１ｘＨ２コンボリューションレイヤをもって、前記第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整された第２調整特徴マップを生成させる段階；及び（ｃ）前記学習装置が、（ｃ１）（ｉ）第２トランスポーズレイヤをもって、前記第２調整特徴マップを前記ピクセル別に分離して前記ＲＯＩごとにピクセル別特徴マップ（Ｐｉｘｅｌ−Ｗｉｓｅ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、分類レイヤをもって、前記ＲＯＩごとの前記ピクセル別特徴マップを利用して前記ＲＯＩそれぞれに対する物体情報を生成させるか、（ｉｉ）���記分類レイヤをもって、前記第２調整特徴マップを前記ピクセル別に分離して前記ＲＯＩごとに前記ピクセル別特徴マップを生成させ、前記分類レイヤをもって、前記ＲＯＩごとの前記ピクセル別特徴マップを利用して前記ＲＯＩそれぞれに対する前記物体情報を生成させた後、（ｃ２）ロスレイヤをもって、前記物体情報とこれに対応する原本正解とを参照して少なくとも一つの物体ロスを算出させることにより、前記物体ロスをバックプロパゲーションして前記１ｘＨ２コンボリューションレイヤ、前記１ｘＨ１コンボリューションレイヤ、及び前記コンボリューションレイヤのうち少なくとも一部のパラメータを学習する段階；を含むことを特徴とする学習方法、学習装置及びこれを利用したテスト方法、テスト装置に関する。
【背景技術】
【０００３】
ディープコンボリューションニューラルネットワーク（Ｄｅｅｐ  ＣｏｎｖｏｌｕｔｉｏＮＮｅｕｒａｌ  Ｎｅｔｗｏｒｋｓ；Ｄｅｅｐ  ＣＮＮ）は、ディープラーニング分野で起きた驚くべき発展の核心である。ＣＮＮは、文字の認識問題を解決するために９０年代にすでに使用されていたが、現在のように広く使用されるようになったのは最近の研究結果の賜物である。このようなディープＣＮＮは、２０１２年ＩｍａｇｅＮｅｔイメージ分類コンテストで他の競争相手に勝って優勝を収めた。そして、コンボリューションニューラルネットワークは機械学習（Ｍａｃｈｉｎｅ  Ｌｅａｒｎｉｎｇ）分野で非常に有用なツールとなった。
【０００４】
そして、ＣＮＮはイメージから特徴を抽出する特徴抽出器（Ｆｅａｔｕｒｅ  Ｅｘｔｒａｃｔｏｒ）及びイメージ内の物体を検出するか、特徴抽出器が抽出した特徴を参照してイメージを認識する特徴分類機（Ｆｅａｔｕｒｅ  Ｃｌａｓｓｉｆｉｅｒ）を含む。
【０００５】
そして、ＣＮＮの特徴抽出器はコンボリューションレイヤから構成され、特徴分類器は特徴抽出器が抽出した特徴に対してＦＣ演算（Ｆｕｌｌｙ  Ｃｏｎｎｅｃｔｅｄ  Ｏｐｅｒａｔｉｏｎ）を適用することができるＦＣレイヤから構成される。
【０００６】
しかしながら、このようなＦＣレイヤは入力された全ての特徴に対して重み付け値を生成しなければならない不便さがあり、入力されたすべての特徴に対してＦＣ演算を遂行しなければならないため、コンピューティング演算量が多くなる短所がある。
【０００７】
また、ＦＣレイヤではＦＣレイヤに入力されるイメージのサイズがＦＣレイヤモデルの所定サイズと一致しなければならない。そのため、このようなＦＣレイヤを含むＣＮＮに予め設定されたサイズと異なるトレーニングイメージまたはテストイメージが入力される場合、コンボリューションレイヤがトレーニングイメージやテストイメージに対して当該演算を適用することができるが、ＦＣレイヤでは前記所定サイズと異なるサイズの入力イメージが入力されるため、トレーニングイメージやテストイメージに該当演算を適用することができない。
【０００８】
したがって、本発明者は、前記のようなＦＣレイヤの問題点を克服することができるようにするイメージ認識のためのＣＮＮを提案することにする。
【発明の概要】
【発明が解決しようとする課題】
【０００９】
本発明は、前述した問題点を全て解決することをその目的とする。
【００１０】
本発明は、入力イメージのサイズに関係なしに、少なくとも一つの入力イメージ内に位置する少なくとも一つの物体を認識することができるようにするイメージ認識のためのＣＮＮを提供することを他の目的とする。
【００１１】
本発明は、特徴分類に使用される重み付け値の個数を最小化し得るようにするイメージ認識のためのＣＮＮを提供することをまた他の目的とする。
【００１２】
本発明は、特徴分類のためのコンピューティング演算量を減少させ得るようにするイメージ認識のためのＣＮＮを提供することをまた他の目的とする。
【課題を解決するための手段】
【００１３】
前記のような本発明の目的を達成し、後述する本発明の特徴的な効果を実現するための本発明の特徴的な構成は以下の通りである。
【００１４】
本発明の一態様によると、イメージ認識のためのＣＮＮのパラメータを学習する方法において、（ａ）少なくとも一つのトレーニングイメージが入力されると、学習装置が、（ｉ）少なくとも一つのコンボリューションレイヤをもって、前記トレーニングイメージ上でＲＯＩの領域をクロップ（Ｃｒｏｐ）し、リサイズ（Ｒｅｓｉｚｅ）して生成されたＲＯＩイメージそれぞれに対してコンボリューション演算を少なくとも一回適用させて少なくとも一つの物体に対応する少なくとも一つの前記ＲＯＩごとにＲＯＩ特徴マップを生成させ、（ｉｉ）（ｉｉ−１）プーリングレイヤをもって、前記ＲＯＩ特徴マップに対してプーリング演算を少なくとも一回適用させて前記ＲＯＩごとにプーリング済み特徴マップを生成させ、第１トランスポーズレイヤ（Ｔｒａｎｓｐｏｓｉｎｇ  Ｌａｙｅｒ）をもって、前記ＲＯＩごとの前記プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれを前記ＲＯＩごとにコンカチネート（Ｃｏｎｃａｔｅｎａｔｉｎｇ）させて統合特徴マップ（Ｉｎｔｅｇｒａｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させるか、（ｉｉ−２）前記プーリングレイヤをもって、前記ＲＯＩ特徴マップに対してプーリング演算を適用させて前記ＲＯＩごとの前記プーリング済み特徴マップを生成させ、前記プーリングレイヤをもって、前記ＲＯＩごとの前記プーリング済み特徴マップ上の対応する同一の各位置の前記ピクセルそれぞれを前記ＲＯＩごとにコンカチネートさせて前記統合特徴マップを生成させる段階；（ｂ）前記学習装置が、（ｂ１）（ｉ）第１リシェイプレイヤ（Ｒｅｓｈａｐｉｎｇ  Ｌａｙｅｒ）をもって、前記統合特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ１個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて第１リシェイプ済み特徴マップ（Ｒｅｓｈａｐｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉ）１ｘＨ１コンボリューションレイヤをもって、前記第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリューム（Ｖｏｌｕｍｅ）が調整された第１調整特徴マップ（Ａｄｊｕｓｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｂ２）（ｉ）第２リシェイプレイヤをもって、前記第１調整特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ２個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて第２リシェイプ済み特徴マップを生成させ、（ｉｉ）１ｘＨ２コンボリューションレイヤをもって、前記第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整された第２調整特徴マップを生成させる段階；及び（ｃ）前記学習装置が、（ｃ１）（ｉ）第２トランスポーズレイヤをもって、前記第２調整特徴マップを前記ピクセルごとに分離して前記ＲＯＩごとにピクセル別特徴マップ（Ｐｉｘｅｌ−Ｗｉｓｅ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、分類レイヤをもって、前記ＲＯＩごとの前記ピクセル別特徴マップを利用して前記ＲＯＩそれぞれに関する物体情報を生成させるか、（ｉｉ）前記分類レイヤをもって、前記第２調整特徴マップを前記ピクセル別に分離して前記Ｒ���Ｉごとに前記ピクセル別特徴マップを生成させ、前記分類レイヤをもって、前記ＲＯＩごとの前記ピクセル別特徴マップを利用して前記ＲＯＩそれぞれに対する前記物体情報を生成させた後、（ｃ２）ロスレイヤをもって、前記物体情報とこれに対応する原本正解とを参照して少なくとも一つの物体ロスを算出させることにより前記物体ロスをバックプロパゲーションして前記１ｘＨ２コンボリューションレイヤ、前記１ｘＨ１コンボリューションレイヤ、及び前記コンボリューションレイヤのうち少なくとも一部のパラメータを学習する段階；を含むことを特徴とする。
【００１５】
一実施例において、前記（ｂ）段階で、前記統合特徴マップのチャンネル個数が前記Ｈ１の倍数でない場合、前記学習装置は、前記第１リシェイプレイヤをもって、前記統合特徴マップに少なくとも一つの第１ダミーチャンネル（Ｄｕｍｍｙ  Ｃｈａｎｎｅｌ）を追加させて少なくとも一つの前記第１ダミーチャンネルを含む前記統合特徴マップのチャンネル個数が前記Ｈ１の倍数になるようにした後、前記統合特徴マップの前記すべてのチャンネルのうちでそれぞれの対応するＨ１個のチャンネルから構成されたそれぞれの前記グループ内の前記特徴それぞれをコンカチネートさせ、前記（ｂ）段階で、前記第１調整特徴マップのチャンネル個数が前記Ｈ２の倍数でない場合、前記学習装置は、前記第２リシェイプレイヤをもって、前記第１調整特徴マップに少なくとも一つの第２ダミーチャンネルを追加させて少なくとも一つの前記第２ダミーチャンネルを含む前記第１調整特徴マップのチャンネル個数が前記Ｈ２の倍数になるようにした後、前記第１調整特徴マップの前記すべてのチャンネルのうちでそれぞれの対応する前記Ｈ２個のチャンネルから構成されたそれぞれの前記グループ内の前記特徴それぞれをコンカチネートさせることを特徴とする。
【００１６】
一実施例において、前記ＲＯＩの個数をＮとし、前記ＲＯＩごとの前記プーリング済み特徴マップの幅をＭ１、高さをＭ２とし、前記ＲＯＩごとの前記プーリング済み特徴マップのチャンネル個数をＪとする場合、前記（ａ）段階で、前記学習装置は、（ｉ）前記第１トランスポーズレイヤをもって、前記ＲＯＩごとの前記プーリング済み特徴マップを、幅Ｎ、高さ１、チャンネルＭ１ｘＭ２ｘＪである前記統合特徴マップに変換させるようにするか、（ｉｉ）前記プーリングレイヤをもって、前記ＲＯＩごとの前記プーリング済み特徴マップを、幅Ｎ、高さ１、チャンネルＭ１ｘＭ２ｘＪである前記統合特徴マップに変換させるようにすることを特徴とする。
【００１７】
一実施例において、前記１ｘＨ１コンボリューションレイヤのフィルタの個数をＫとし、前記１ｘＨ２コンボリューションレイヤのフィルタの個数をＬとする場合、前記（ｂ）段階で、前記学習装置は、前記第１リシェイプレイヤをもって、Ｎ×Ｈ１のサイズと
2020119534.tif 000003
のチャンネル個数を有する前記第１リシェイプ済み特徴マップを生成させ、前記１ｘＨ１コンボリューションレイヤをもって、幅Ｎ、高さ１、チャンネルＫであるＮｘ１ｘＫのボリュームを有する前記第１調整特徴マップを生成させ、前記第２リシェイプレイヤをもって、幅Ｎ、高さＨ２、チャンネル
2020119534.tif 000004
である前記第２リシェイプ済み特徴マップを生成させ、前記１ｘＨ２コンボリューションレイヤをもって、幅Ｎ、高さ１、チャンネルＬであるＮｘ１ｘＬのボリュームを有する前記第２調整特徴マップを生成させることを特徴とする。
【００１８】
一実施例において、前記（ｃ）段階で、前記学習装置は（ｉ）前記第２トランスポーズレイヤをもって、前記第２調整特徴マップを、Ｎ個のＲＯＩそれぞれに対応する幅１、高さ１、チャンネルＬである１ｘ１ｘＬのボリュームを有する前記ＲＯＩごとの前記ピクセル別特徴マップに変換させるか、（ｉｉ）前記分類レイヤをもって、前記第２調整特徴マップを、前記Ｎ個のＲＯＩそれぞれに対応する幅１、高さ１、チャンネルＬである１ｘ１ｘＬのボリュームを有する前記ＲＯＩごとの前記ピクセル別特徴マップに変換させることを特徴とする。
【００１９】
一実施例において、前記分類レイヤは、少なくとも一つのソフトマックス（Ｓｏｆｔｍａｘ）アルゴリズムを使用することを特徴とする。
【００２０】
本発明の他の態様によると、イメージ認識のためのＣＮＮをテストする方法において、（ａ）学習装置は、（１）（ｉ）少なくとも一つのコンボリューションレイヤをもって、少なくとも一つのトレーニングイメージ上で学習用ＲＯＩの領域をクロップ（Ｃｒｏｐ）し、リサイズ（Ｒｅｓｉｚｅ）して生成された学習用ＲＯＩイメージそれぞれに対してコンボリューション演算を少なくとも一回適用させて少なくとも一つの学習用物体に対応する少なくとも一つの前記学習用ＲＯＩごとに学習用ＲＯＩ特徴マップを生成させ、（ｉｉ）（ｉｉ−１）プーリングレイヤをもって、前記学習用ＲＯＩ特徴マップに対してプーリング演算を少なくとも一回適用させて前記学習用ＲＯＩごとに学習用プーリング済み特徴マップを生成させ、第１トランスポーズレイヤ（Ｔｒａｎｓｐｏｓｉｎｇ  Ｌａｙｅｒ）をもって、前記学習用ＲＯＩごとの前記学習用プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれを前記学習用ＲＯＩごとにコンカチネート（Ｃｏｎｃａｔｅｎａｔｉｎｇ）させて学習用統合特徴マップ（Ｉｎｔｅｇｒａｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させるか、（ｉｉ−２）前記プーリングレイヤをもって、前記学習用ＲＯＩ特徴マップに対してプーリング演算を適用させて前記学習用ＲＯＩごとの前記学習用プーリング済み特徴マップを生成させ、前記プーリングレイヤをもって、前記学習用ＲＯＩごとの前記学習用プーリング済み特徴マップ上の対応する同一の各位置の前記ピクセルそれぞれを前記学習用ＲＯＩごとにコンカチネートさせて前記学習用統合特徴マップを生成させ、（２）（２−１）（ｉ）第１リシェイプレイヤ（Ｒｅｓｈａｐｉｎｇ  Ｌａｙｅｒ）をもって、前記学習用統合特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ１個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて学習用第１リシェイプ済み特徴マップ（Ｒｅｓｈａｐｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉ）１ｘＨ１コンボリューションレイヤをもって、前記学習用第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリューム（Ｖｏｌｕｍｅ）が調整された学習用第１調整特徴マップ（Ａｄｊｕｓｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（２−２）（ｉ）第２リシェイプレイヤをもって、前記学習用第１調整特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ２個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて学習用第２リシェイプ済み特徴マップを生成させ、（ｉｉ）１ｘＨ２コンボリューションレイヤをもって、前記学習用第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整された学習用第２調整特徴マップを生成させ、（３）（３−１）（ｉ）第２トランスポーズレイヤをもって、前記学習用第２調整特徴マップを前記ピクセル別に分離して前記学習用ＲＯＩごとに学習用ピクセル別特徴マップ（Ｐｉｘｅｌ−Ｗｉｓｅ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、分類レイヤをもって、前記学習用ＲＯＩごとの前記学習用ピクセル別特徴マップを利用して前記学習用ＲＯＩそれぞれに関す���学習用物体情報を生成させるか、（ｉｉ）前記分類レイヤをもって、前記学習用第２調整特徴マップを前記ピクセル別に分離して前記学習用ＲＯＩごとに前記学習用ピクセル別特徴マップを生成させ、前記分類レイヤをもって、前記学習用ＲＯＩごとの前記学習用ピクセル別特徴マップを利用して前記学習用ＲＯＩそれぞれに対する前記学習用物体情報を生成させた後、（３−２）ロスレイヤをもって、前記学習用物体情報とこれに対応する原本正解とを参照して少なくとも一つの物体ロスを算出させることにより、前記物体ロスをバックプロパゲーションして前記１ｘＨ２コンボリューションレイヤ、前記１ｘＨ１コンボリューションレイヤ、及び前記コンボリューションレイヤのうち少なくとも一部のパラメータを学習した状態で、少なくとも一つのテストイメージが取得されると、テスト装置が、（ｉ）前記コンボリューションレイヤをもって、前記テストイメージ上でテスト用ＲＯＩの領域をクロップ（Ｃｒｏｐ）し、リサイズ（Ｒｅｓｉｚｅ）して生成されたテスト用ＲＯＩイメージそれぞれに対してコンボリューション演算を少なくとも一回適用させて少なくとも一つのテスト用物体に対応する少なくとも一つの前記テスト用ＲＯＩごとにテスト用ＲＯＩ特徴マップを生成させ、（ｉｉ）（ｉｉ−１）前記プーリングレイヤをもって、前記テスト用ＲＯＩ特徴マップに対してプーリング演算を少なくとも一回適用させて前記テスト用ＲＯＩごとにテスト用プーリング済み特徴マップを生成させ、前記第１トランスポーズレイヤ（Ｔｒａｎｓｐｏｓｉｎｇ  Ｌａｙｅｒ）をもって、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれを前記テスト用ＲＯＩごとにコンカチネート（Ｃｏｎｃａｔｅｎａｔｉｎｇ）させてテスト用統合特徴マップ（Ｉｎｔｅｇｒａｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させるか、（ｉｉ−２）前記プーリングレイヤをもって、前記テスト用ＲＯＩ特徴マップに対してプーリング演算を適用させて前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップを生成させ、前記プーリングレイヤをもって、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップ上の対応する同一の各位置の前記ピクセルそれぞれを前記テスト用ＲＯＩごとにコンカチネートさせて前記テスト用統合特徴マップを生成させる段階；（ｂ）前記テスト装置が、（ｂ１）（ｉ）前記第１リシェイプレイヤ（Ｒｅｓｈａｐｉｎｇ  Ｌａｙｅｒ）をもって、前記テスト用統合特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ１個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせてテスト用第１リシェイプ済み特徴マップ（Ｒｅｓｈａｐｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉ）前記１ｘＨ１コンボリューションレイヤをもって、前記テスト用第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリューム（Ｖｏｌｕｍｅ）が調整されたテスト用第１調整特徴マップ（Ａｄｊｕｓｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｂ２）（ｉ）前記第２リシェイプレイヤをもって、前記テスト用第１調整特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ２個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせてテスト用第２リシェイプ済み特徴マップを生成させ、（ｉｉ）前記１ｘＨ２コンボリューションレイヤをもって、前記テスト用第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整されたテスト用第２調整特徴マップを生成させる段階；及び（ｃ）前記テスト装置が、（ｉ）前記第２トランスポーズレイヤをもって、前記テスト用第２調整特徴マップを前記ピクセル別に分離して前記テスト用ＲＯＩごとにテスト用ピクセル別特徴マップ（Ｐｉｘｅｌ−Ｗｉｓｅ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、前記分類レイヤをもって、前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップを利用して前記テスト用ＲＯＩそれぞれに関するテスト用物体情報を生成させるか、（ｉｉ）前記分類レイヤをもって、前記テスト用第２調整特徴マップを前記ピクセル別に分離して前記テスト用ＲＯＩごとに前記テスト用ピクセル別特徴マップを生成させ、前記分類レイヤをもって、前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップを利用して前記テスト用ＲＯＩそれぞれに対する前記テスト用物体情報を生成させる段階；を含むことを特徴とする。
【００２１】
一実施例において、前記（ｂ）段階で、前記テスト用統合特徴マップのチャンネル個数が前記Ｈ１の倍数でない場合、前記テスト装置は、前記第１リシェイプレイヤをもって、前記テスト用統合特徴マップに少なくとも一つの第１ダミーチャンネル（Ｄｕｍｍｙ  Ｃｈａｎｎｅｌ）を追加させて少なくとも一つの前記第１ダミーチャンネルを含む前記テスト用統合特徴マップのチャンネル個数が前記Ｈ１の倍数になるようにした後、前記テスト用統合特徴マップの前記すべてのチャンネルのうちでそれぞれの対応するＨ１個のチャンネルから構成されたそれぞれの前記グループ内の前記特徴それぞれをコンカチネートさせ、前記（ｂ）段階で、前記テスト用第１調整特徴マップのチャンネル個数が前記Ｈ２の倍数でない場合、前記テスト装置は、前記第２リシェイプレイヤをもって、前記テスト用第１調整特徴マップに少なくとも一つの第２ダミーチャンネルを追加させて少なくとも一つの前記第２ダミーチャンネルを含む前記テスト用第１調整特徴マップのチャンネル個数が前記Ｈ２の倍数になるようにした後、前記テスト用第１調整特徴マップの前記すべてのチャンネルのうちでそれぞれの対応する前記Ｈ２個のチャンネルから構成されたそれぞれの前記グループ内の前記特徴それぞれをコンカチネートさせることを特徴とする。
【００２２】
一実施例において、前記テスト用ＲＯＩの個数をＮとし、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップの幅をＭ１、高さをＭ２とし、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップのチャンネル個数をＪとする場合、前記（ａ）段階で、前記テスト装置は、（ｉ）前記第１トランスポーズレイヤをもって、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップを幅Ｎ、高さ１、チャンネルＭ１ｘＭ２ｘＪである前記テスト用統合特徴マップに変換させるようにするか、（ｉｉ）前記プーリングレイヤをもって、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップを幅Ｎ、高さ１、チャンネルＭ１ｘＭ２ｘＪである前記テスト用統合特徴マップに変換させるようにすることを特徴とする。
【００２３】
一実施例において、前記１ｘＨ１コンボリューションレイヤのフィルタの個数をＫとし、前記１ｘＨ２コンボリューションレイヤのフィルタの個数をＬとする場合、前記（ｂ）段階で、前記テスト装置は、前記第１リシェイプレイヤをもって、Ｎ×Ｈ１のサイズと
2020119534.tif 000005
のチャンネル個数を有する前記テスト用第１リシェイプ済み特徴マップを生成させ、前記１ｘＨ１コンボリューションレイヤをもって、幅Ｎ、高さ１、チャンネルＫであるＮｘ１ｘＫのボリュームを有する前記テスト用第１調整特徴マップを生成させ、前記第２リシェイプレイヤをもって、幅Ｎ、高さＨ２のサイズと
2020119534.tif 000006
のチャンネル個数を有する前記テスト用第２リシェイプ済み特徴マップを生成させ、前記１ｘＨ２コンボリューションレイヤをもって、幅Ｎ、高さ１、チャンネル個数ＬであるＮｘ１ｘＬのボリュームを有する前記テスト用第２調整特徴マップを生成させることを特徴とする。
【００２４】
一実施例において、前記（ｃ）段階で、前記テスト装置は、（ｉ）前記第２トランスポーズレイヤをもって、前記テスト用第２調整特徴マップを、Ｎ個のテスト用ＲＯＩそれぞれに対応する幅１、高さ１、チャンネルＬである１ｘ１ｘＬのボリュームを有する前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップに変換させるか、（ｉｉ）前記分類レイヤをもって、前記テスト用第２調整特徴マップを、前記Ｎ個のテスト用ＲＯＩそれぞれに対応する幅１、高さ１、チャンネルＬである１ｘ１ｘＬのボリュームを有する前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップに変換させることを特徴とする。
【００２５】
一実施例において、前記分類レイヤは、少なくとも一つのソフトマックス（Ｓｏｆｔｍａｘ）アルゴリズムを使用することを特徴とする。
【００２６】
本発明のまた他の態様によると、イメージ認識のためのＣＮＮを学習する学習装置において、インストラクションを格納する少なくとも一つのメモリと、（Ｉ）（ｉ）少なくとも一つのコンボリューションレイヤをもって、少なくとも一つのトレーニングイメージ上でＲＯＩの領域をクロップ（Ｃｒｏｐ）し、リサイズ（Ｒｅｓｉｚｅ）して生成されたＲＯＩイメージそれぞれに対してコンボリューション演算を少なくとも一回適用させて少なくとも一つの物体に対応する少なくとも一つの前記ＲＯＩごとにＲＯＩ特徴マップを生成させ、（ｉｉ）（ｉｉ−１）プーリングレイヤをもって、前記ＲＯＩ特徴マップに対してプーリング演算を少なくとも一回適用させて前記ＲＯＩごとにプーリング済み特徴マップを生成させ、第１トランスポーズレイヤ（Ｔｒａｎｓｐｏｓｉｎｇ  Ｌａｙｅｒ）をもって、前記ＲＯＩごとの前記プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれを前記ＲＯＩごとにコンカチネート（Ｃｏｎｃａｔｅｎａｔｉｎｇ）させて統合特徴マップ（Ｉｎｔｅｇｒａｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させるか、（ｉｉ−２）前記プーリングレイヤをもって、前記ＲＯＩ特徴マップに対してプーリング演算を適用させて前記ＲＯＩごとの前記プーリング済み特徴マップを生成させ、前記プーリングレイヤをもって、前記ＲＯＩごとの前記プーリング済み特徴マップ上の対応する同一の各位置の前記ピクセルそれぞれを前記ＲＯＩごとにコンカチネートさせて前記統合特徴マップを生成させるプロセス、（ＩＩ）（ＩＩ−１）（ｉ）第１リシェイプレイヤ（Ｒｅｓｈａｐｉｎｇ  Ｌａｙｅｒ）をもって、前記統合特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ１個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて第１リシェイプ済み特徴マップ（Ｒｅｓｈａｐｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉ）１ｘＨ１コンボリューションレイヤをもって、前記第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリューム（Ｖｏｌｕｍｅ）が調整された第１調整特徴マップ（Ａｄｊｕｓｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ＩＩ−２）（ｉ）第２リシェイプレイヤをもって、前記第１調整特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ２個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて第２リシェイプ済み特徴マップを生成させ、（ｉｉ）１ｘＨ２コンボリューションレイヤをもって、前記第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整された第２調整特徴マップを生成させるプロセス、及び（ＩＩＩ）（ＩＩＩ−１）（ｉ）第２トランスポーズレイヤをもって、前記第２調整特徴マップを前記ピクセル別に分離して前記ＲＯＩごとにピクセル別特徴マップ（Ｐｉｘｅｌ−Ｗｉｓｅ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、分類レイヤをもって、前記ＲＯＩごとの前記ピクセル別特徴マップを利用して前記ＲＯＩそれぞれに対する物体情報を生成させるか、（ｉｉ）前記分類レイヤをもって、前記第２調整特徴マップを前記ピクセル別に分離して前記ＲＯＩご���に前記ピクセル別特徴マップを生成させ、前記分類レイヤをもって、前記ＲＯＩごとの前記ピクセル別特徴マップを利用して前記ＲＯＩそれぞれに対する前記物体情報を生成させた後、（ＩＩＩ−２）ロスレイヤをもって、前記物体情報とこれに対応する原本正解とを参照して少なくとも一つの物体ロスを算出させることにより、前記物体ロスをバックプロパゲーションして前記１ｘＨ２コンボリューションレイヤ、前記１ｘＨ１コンボリューションレイヤ、及び前記コンボリューションレイヤのうち少なくとも一部のパラメータを学習するプロセスを遂行するための前記インストラクションを実行するように構成された少なくとも一つのプロセッサと、を含むことを特徴とする。
【００２７】
一実施例において、前記（ＩＩ）プロセスで、前記統合特徴マップのチャンネル個数が前記Ｈ１の倍数でない場合、前記プロセッサは、前記第１リシェイプレイヤをもって、前記統合特徴マップに少なくとも一つの第１ダミーチャンネル（Ｄｕｍｍｙ  Ｃｈａｎｎｅｌ）を追加させて少なくとも一つの前記第１ダミーチャンネルを含む前記統合特徴マップのチャンネル個数が前記Ｈ１の倍数になるようにした後、前記統合特徴マップの前記すべてのチャンネルのうちでそれぞれの対応するＨ１個のチャンネルから構成されたそれぞれの前記グループ内の前記特徴それぞれをコンカチネートさせ、前記（ＩＩ）プロセスで、前記第１調整特徴マップのチャンネル個数が前記Ｈ２の倍数でない場合、前記プロセッサは、前記第２リシェイプレイヤをもって、前記第１調整特徴マップに少なくとも一つの第２ダミーチャンネルを追加させて少なくとも一つの前記第２ダミーチャンネルを含む前記第１調整特徴マップのチャンネル個数が前記Ｈ２の倍数になるようにした後、前記第１調整特徴マップの前記すべてのチャンネルのうちでそれぞれの対応する前記Ｈ２個の前記チャンネルから構成されたそれぞれの前記グループ内の前記特徴それぞれをコンカチネートさせることを特徴とする。
【００２８】
一実施例において、前記ＲＯＩの個数をＮとし、前記ＲＯＩごとの前記プーリング済み特徴マップの幅をＭ１、高さをＭ２とし、前記ＲＯＩごとの前記プーリング済み特徴マップのチャンネル個数をＪとする場合、前記（Ｉ）プロセスで、前記プロセッサは（ｉ）前記第１トランスポーズレイヤをもって、前記ＲＯＩごとの前記プーリング済み特徴マップを幅Ｎ、高さ１、チャンネルＭ１ｘＭ２ｘＪである前記統合特徴マップに変換させるようにするか、（ｉｉ）前記プーリングレイヤをもって、前記ＲＯＩごとの前記プーリング済み特徴マップを幅Ｎ、高さ１、チャンネルＭ１ｘＭ２ｘＪである前記統合特徴マップに変換させるようにすることを特徴とする。
【００２９】
一実施例において、前記１ｘＨ１コンボリューションレイヤのフィルタの個数をＫとし、前記１ｘＨ２コンボリューションレイヤのフィルタの個数をＬとする場合、前記（ＩＩ）プロセスで、前記プロセッサは、前記第１リシェイプレイヤをもって、Ｎ×Ｈ１のサイズと
2020119534.tif 000007
のチャンネル個数を有する前記第１リシェイプ済み特徴マップを生成させ、前記１ｘＨ１コンボリューションレイヤをもって、幅Ｎ、高さ１、チャンネルＫであるＮｘ１ｘＫのボリュームを有する前記第１調整特徴マップを生成させ、前記プロセッサは、前記第２リシェイプレイヤをもって、幅Ｎ、高さＨ２、チャンネル
2020119534.tif 000008
である前記第２リシェイプ済み特徴マップを出力させ、前記１ｘＨ２コンボリューションレイヤをもって、幅Ｎ、高さ１、チャンネルＬであるＮｘ１ｘＬのボリュームを有する前記第２調整特徴マップを生成させることを特徴とする。
【００３０】
一実施例において、前記（ＩＩＩ）プロセスで、前記プロセッサは、（ｉ）前記第２トランスポーズレイヤをもって、前記第２調整特徴マップを、Ｎ個のＲＯＩそれぞれに対応する幅１、高さ１、チャンネルＬである１ｘ１ｘＬのボリュームを有する前記ＲＯＩごとの前記ピクセル別特徴マップに変換させるか、（ｉｉ）前記分類レイヤをもって、前記第２調整特徴マップを、前記Ｎ個のＲＯＩそれぞれに対応する幅１、高さ１、チャンネルＬである１ｘ１ｘＬのボリュームを有する前記ＲＯＩごとの前記ピクセル別特徴マップに変換させることを特徴とする。
【００３１】
一実施例において、前記分類レイヤは、少なくとも一つのソフトマックス（Ｓｏｆｔｍａｘ）アルゴリズムを使用することを特徴とする。
【００３２】
本発明のまた他の態様によると、イメージ認識のためのＣＮＮをテストするテスト装置において、インストラクションを格納する少なくとも一つのメモリと、学習装置は、（１）（ｉ）少なくとも一つのコンボリューションレイヤをもって、少なくとも一つのトレーニングイメージ上で学習用ＲＯＩの領域をクロップ（Ｃｒｏｐ）し、リサイズ（Ｒｅｓｉｚｅ）して生成された学習用ＲＯＩイメージそれぞれに対してコンボリューション演算を少なくとも一回適用させて少なくとも一つの学習用物体に対応する少なくとも一つの前記学習用ＲＯＩごとに学習用ＲＯＩ特徴マップを生成させ、（ｉｉ）（ｉｉ−１）プーリングレイヤをもって、前記学習用ＲＯＩ特徴マップに対してプーリング演算を少なくとも一回適用させて前記学習用ＲＯＩごとに学習用プーリング済み特徴マップを生成させ、第１トランスポーズレイヤ（Ｔｒａｎｓｐｏｓｉｎｇ  Ｌａｙｅｒ）をもって、前記学習用ＲＯＩごとの前記学習用プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれを前記学習用ＲＯＩごとにコンカチネート（Ｃｏｎｃａｔｅｎａｔｉｎｇ）させて学習用統合特徴マップ（Ｉｎｔｅｇｒａｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させるか、（ｉｉ−２）前記プーリングレイヤをもって、前記学習用ＲＯＩ特徴マップに対してプーリング演算を適用させて前記学習用ＲＯＩごとの前記学習用プーリング済み特徴マップを生成させ、前記プーリングレイヤをもって、前記学習用ＲＯＩごとの前記学習用プーリング済み特徴マップ上の対応する同一の各位置の前記ピクセルそれぞれを前記学習用ＲＯＩごとにコンカチネートさせて前記学習用統合特徴マップを生成させ、（２）（２−１）（ｉ）第１リシェイプレイヤ（Ｒｅｓｈａｐｉｎｇ  Ｌａｙｅｒ）をもって、前記学習用統合特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ１個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて学習用第１リシェイプ済み特徴マップ（Ｒｅｓｈａｐｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉ）１ｘＨ１コンボリューションレイヤをもって、前記学習用第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリューム（Ｖｏｌｕｍｅ）が調整された学習用第１調整特徴マップ（Ａｄｊｕｓｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（２−２）（ｉ）第２リシェイプレイヤをもって、前記学習用第１調整特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ２個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて学習用第２リシェイプ済み特徴マップを生成させ、（ｉｉ）１ｘＨ２コンボリューションレイヤをもって、前記学習用第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整された学習用第２調整特徴マップを生成させ、（３）（３−１）（ｉ）第２トランスポーズレイヤをもって、前記学習用第２調整特徴マップを前記ピクセルごとに分離して前記学習用ＲＯＩごとの学習用ピクセル別特徴マップ（Ｐｉｘｅｌ−Ｗｉｓｅ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、分類レイヤをもって、前記学習用ＲＯＩごとの前記学習用���クセル別特徴マップを利用して前記学習用ＲＯＩそれぞれに関する学習用物体クラス情報を生成させるか、（ｉｉ）前記分類レイヤをもって、前記学習用第２調整特徴マップを前記ピクセルごとに分離して前記学習用ＲＯＩごとに前記学習用ピクセル別特徴マップを生成させ、前記分類レイヤをもって、前記学習用ＲＯＩごとの前記学習用ピクセル別特徴マップを利用して前記学習用ＲＯＩそれぞれに関する前記学習用物体クラス情報を生成させた後、（３−２）ロスレイヤをもって、前記学習用物体情報とこれに対応する原本正解とを参照して少なくとも一つの物体ロスを算出させることにより、前記物体ロスをバックプロパゲーションして前記１ｘＨ２コンボリューションレイヤ、前記１ｘＨ１コンボリューションレイヤ、及び前記コンボリューションレイヤのうち少なくとも一部のパラメータを学習した状態で、（Ｉ）（ｉ）前記コンボリューションレイヤをもって、少なくとも一つのテストイメージ上でテスト用ＲＯＩの領域をクロップ（Ｃｒｏｐ）し、リサイズ（Ｒｅｓｉｚｅ）して生成されたテスト用ＲＯＩイメージそれぞれに対してコンボリューション演算を少なくとも一回適用させて少なくとも一つのテスト用物体に対応する少なくとも一つの前記テスト用ＲＯＩごとにテスト用ＲＯＩ特徴マップを生成させ、（ｉｉ）（ｉｉ−１）前記プーリングレイヤをもって、前記テスト用ＲＯＩ特徴マップに対してプーリング演算を少なくとも一回適用させて前記テスト用ＲＯＩごとにテスト用プーリング済み特徴マップを生成させ、前記第１トランスポーズレイヤ（Ｔｒａｎｓｐｏｓｉｎｇ  Ｌａｙｅｒ）をもって、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれを前記テスト用ＲＯＩごとにコンカチネート（Ｃｏｎｃａｔｅｎａｔｉｎｇ）させてテスト用統合特徴マップ（Ｉｎｔｅｇｒａｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させるか、（ｉｉ−２）前記プーリングレイヤをもって、前記テスト用ＲＯＩ特徴マップに対してプーリング演算を適用させて前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップを生成させ、前記プーリングレイヤをもって、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップ上の対応する同一の各位置の前記ピクセルそれぞれを前記テスト用ＲＯＩごとにコンカチネートさせて前記テスト用統合特徴マップを生成させるプロセス、（ＩＩ）（ＩＩ−１）（ｉ）前記第１リシェイプレイヤ（Ｒｅｓｈａｐｉｎｇ  Ｌａｙｅｒ）をもって、前記テスト用統合特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ１個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせてテスト用第１リシェイプ済み特徴マップ（Ｒｅｓｈａｐｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉ）前記１ｘＨ１コンボリューションレイヤをもって、前記テスト用第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリューム（Ｖｏｌｕｍｅ）が調整されたテスト用第１調整特徴マップ（Ａｄｊｕｓｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ＩＩ−２）（ｉ）前記第２リシェイプレイヤをもって、前記テスト用第１調整特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ２個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせてテスト用第２リシェイプ済み特徴マップを生成させ、（ｉｉ）前記１ｘＨ２コンボリューションレイヤをもって、前記テスト用第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整されたテスト用第２調整特徴マップを生成させるプロセス、及び（ＩＩＩ）（ｉ）前記第２トランスポーズレイヤをもって、前記テスト用第２調整特徴マップを前記ピクセル別に分離して前記テスト用ＲＯＩごとにテスト用ピクセル別特徴マップ（Ｐｉｘｅｌ−Ｗｉｓｅ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、前記分類レイヤをもって、前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップを利用して前記テスト用ＲＯＩそれぞれに関するテスト用物体情報を生成させるか、（ｉｉ）前記分類レイヤをもって、前記テスト用第２調整特徴マップを前記ピクセル別に分離して前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップを生成させ、前記分類レイヤをもって、前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップを利用して前記テスト用ＲＯＩそれぞれに対する前記テスト用物体情報を生成させるプロセスを遂行するための前記インストラクションを実行するように構成された少なくともひとつのプロセッサと、を含むことを特徴とする。
【００３３】
一実施例において、前記（ＩＩ）プロセスで、前記テスト用統合特徴マップのチャンネル個数が前記Ｈ１の倍数でない場合、前記プロセッサは、前記第１リシェイプレイヤをもって、前記テスト用統合特徴マップに少なくとも一つの第１ダミーチャンネル（Ｄｕｍｍｙ  Ｃｈａｎｎｅｌ）を追加させて少なくとも一つの前記第１ダミーチャンネルを含む前記テスト用統合特徴マップのチャンネル個数が前記Ｈ１の倍数になるようにした後、前記テスト用統合特徴マップの前記すべてのチャンネルのうちでそれぞれの対応するＨ１個のチャンネルから構成されたそれぞれの前記グループ内の前記特徴それぞれをコンカチネートさせ、前記（ＩＩ）プロセスで、前記テスト用第１調整特徴マップのチャンネル個数が前記Ｈ２の倍数でない場合、前記プロセッサは、前記第２リシェイプレイヤをもって、前記テスト用第１調整特徴マップに少なくとも一つの第２ダミーチャンネルを追加させて少なくとも一つの前記第２ダミーチャンネルを含む前記テスト用第１調整特徴マップのチャンネル個数が前記Ｈ２の倍数になるようにした後、前記テスト用第１調整特徴マップの前記すべてのチャンネルのうちでそれぞれの対応する前記Ｈ２個の前記チャンネルから構成されたそれぞれの前記グループ内の前記特徴それぞれをコンカチネートさせることを特徴とする。
【００３４】
一実施例において、前記テスト用ＲＯＩの個数をＮとし、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップの幅をＭ１、高さをＭ２とし、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップのチャンネル個数をＪとする場合、前記（Ｉ）プロセスで、前記プロセッサは、（ｉ）前記第１トランスポーズレイヤをもって、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップを幅Ｎ、高さ１、チャンネルＭ１ｘＭ２ｘＪである前記テスト用統合特徴マップに変換させるようにするか、（ｉｉ）前記プーリングレイヤをもって、前記テスト用ＲＯＩごとの前記テスト用プーリング済み特徴マップを幅Ｎ、高さ１、チャンネルＭ１ｘＭ２ｘＪである前記テスト用統合特徴マップに変換させるようにすることを特徴とする。
【００３５】
一実施例において、前記１ｘＨ１コンボリューションレイヤのフィルタの個数をＫとし、前記１ｘＨ２コンボリューションレイヤのフィルタの個数をＬとする場合、前記（ＩＩ）プロセスで、前記プロセッサは、前記第１リシェイプレイヤをもって、Ｎ×Ｈ１のサイズと
2020119534.tif 000009
のチャンネル個数を有する前記テスト用第１リシェイプ済み特徴マップを生成させ、前記１ｘＨ１コンボリューションレイヤをもって、幅Ｎ、高さ１、チャンネルＫであるＮｘ１ｘＫのボリュームを有する前記テスト用第１調整特徴マップを生成させ、前記プロセッサは、前記第２リシェイプレイヤをもって、幅Ｎ、高さＨ２、チャンネル
2020119534.tif 000010
である前記テスト用第２リシェイプ済み特徴マップを生成させ、前記１ｘＨ２コンボリューションレイヤをもって、幅Ｎ、高さ１、チャンネルＬであるＮｘ１ｘＬのボリュームを有する前記テスト用第２調整特徴マップを生成させることを特徴とする。
【００３６】
一実施例において、前記（ＩＩＩ）プロセスで、前記プロセッサは、（ｉ）前記第２トランスポーズレイヤをもって、前記テスト用第２調整特徴マップを、Ｎ個のテスト用ＲＯＩそれぞれに対応する幅１、高さ１、チャンネルＬである１ｘ１ｘＬのボリュームを有する前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップに変換させるか、（ｉｉ）前記分類レイヤをもって、前記テスト用第２調整特徴マップを、前記Ｎ個のテスト用ＲＯＩそれぞれに対応する幅１、高さ１、チャンネルＬである１ｘ１ｘＬのボリュームを有する前記テスト用ＲＯＩごとの前記テスト用ピクセル別特徴マップに変換させることを特徴とする。
【００３７】
一実施例において、前記分類レイヤは、少なくとも一つのソフトマックス（Ｓｏｆｔｍａｘ）アルゴリズムを使用することを特徴とする。
【００３８】
その他にも、本発明の方法を実行するためのコンピュータプログラムを格納するためのコンピュータ読取り可能な記録媒体がさらに提供される。
【発明の効果】
【００３９】
本発明は、コンボリューションレイヤのみでイメージ認識のためのＣＮＮを具現することにより、入力イメージのサイズに関係なしに入力イメージ内に位置する物体を認識することができる効果がある。
【００４０】
また、本発明は、コンボリューションレイヤのみでイメージ認識のためのＣＮＮを具現することにより、従来のＦＣレイヤを利用する場合に比べて特徴分類のために使用される重み付け値の個数を最小化することができる他の効果がある。
【００４１】
また、本発明は、コンボリューションレイヤのみでイメージ認識のためのＣＮＮを具現することにより、従来のＦＣレイヤを利用する場合に比べて特徴分類のためのコンピューティング演算量を減少させることができるまた他の効果がある。
【００４２】
本発明の実施例の説明に利用されるために添付された以下の図面は、本発明の実施例のうち単に一部であるに過ぎず、本発明の属する技術分野において通常の知識を有する者（以下「通常の技術者」）にとっては、発明的作業が行われずにこれらの図面に基づいて他の各図面が得られ得る。
【図面の簡単な説明】
【００４３】
【図１】本発明の一実施例によるイメージ認識のためのＣＮＮを学習する学習装置を簡略に示したものである。
【図２】本発明の一実施例によるイメージ認識のためのＣＮＮを学習する方法を簡略に示したものである。
【図３】本発明の一実施例によるイメージ認識のためのＣＮＮを学習するのに使用され、プーリングレイヤによって生成されたＲＯＩごとのプーリング済み特徴マップを簡略に示したものである。
【図４】本発明の一実施例によるイメージ認識のためのＣＮＮを学習するのに使用され、ＲＯＩごとのプーリング済み特徴マップを利用して生成された統合特徴マップを簡略に示したものである。
【図５ａ】本発明の一実施例による（ｉ）統合特徴マップをリシェイプして生成された第１リシェイプ済み特徴マップと、（ｉｉ）第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用して生成された第１調整特徴マップを簡略に示したものである。
【図５ｂ】本発明の一実施例による（ｉ）統合特徴マップをリシェイプして生成された第１リシェイプ済み特徴マップと、（ｉｉ）第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用して生成された第１調整特徴マップを簡略に示したものである。
【図６ａ】本発明の一実施例による（ｉ）第１調整特徴マップをリシェイプして生成された第２リシェイプ済み特徴マップと、（ｉｉ）第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用して生成された第２調整特徴マップを簡略に示したものである。
【図６ｂ】本発明の一実施例による（ｉ）第１調整特徴マップをリシェイプして生成された第２リシェイプ済み特徴マップと、（ｉｉ）第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用して生成された第２調整特徴マップを簡略に示したものである。
【図７】本発明の一実施例によるイメージ認識のためのＣＮＮを学習するのに使用され、第２調整特徴マップを利用して生成されたＲＯＩごとのピクセル別特徴マップを簡略に示したものである。
【図８】本発明の一実施例によるイメージ認識のためのＣＮＮをテストするテスト装置を簡略に示したものである。
【図９】本発明の一実施例によるイメージ認識のためのＣＮＮをテストする方法を簡略に示したものである。
【発明を実施するための形態】
【００４４】
後述する本発明に関する詳細な説明は、本発明の各目的、各技術的解法、及び各長所を明らかにするために本発明が実施され得る特定の実施例を例示として示す添付図面を参照する。これらの実施例は、当業者が本発明を実施することができるように十分詳細に説明される。
【００４５】
また、本発明の詳細な説明及び各請求項にわたって、「含む」という単語及びそれらの変形は、他の技術的各特徴各付加物、構成要素又は段階を除外することを意図したものではない。通常の技術者にとって本発明の他の各目的、長所及び各特性が、一部は本説明書から、また一部は本発明の実施から明らかになるであろう。以下の例示及び図面は実例として提供され、本発明を限定することを意図したものではない。
【００４６】
さらに、本発明は、本明細書に示された実施例のすべての可能な組合せを網羅する。本発明の多様な実施例は互いに異なるが、相互に排他的である必要はないことが理解されるべきである。例えば、ここに記載されている特定の形状、構造及び特性は、一実施例に関連して本発明の精神及び範囲を逸脱せず、かつ他の実施例で具現され得る。また、それぞれの開示された実施例内の個別の構成要素の位置又は配置は、本発明の精神及び範囲を逸脱せず、かつ変更され得ることが理解されるべきである。したがって、後述の詳細な説明は、限定的な意味として受け取ろうとするものではなく、本発明の範囲は適切に説明されるのであれば、その請求項が主張することと均等な全ての範囲とともに添付された請求項によってのみ限定される。図面において類似の参照符号は、様々な側面にわたって同一であるか、又は類似の機能を指す。
【００４７】
本発明で言及している各種イメージは、舗装または非舗装道路関連のイメージを含み得、この場合、道路環境で登場し得る物体（例えば、自動車、人、動物、植物、物、建物、飛行機やドローンのような飛行体、その他の障害物）を想定し得るが、必ずしもこれに限定されるものではなく、本発明で言及している各種イメージは、道路と関係のないイメージ（例えば、非舗装道路、路地、空き地、海、湖、川、山、森、砂漠、空、室内と関連したイメージ）でもあり得、この場合、非舗装道路、路地、空き地、海、湖、川、山、森、砂漠、空、室内環境で登場し得る物体（例えば、自動車、人、動物、植物、物、建物、飛行機やドローンのような飛行体、その他の障害物）を想定し得るが、必ずしもこれに限定されるものではない。
【００４８】
以下、本発明の属する技術分野において通常の知識を有する者が本発明を容易に実施し得るようにするために、本発明の好ましい実施例について、添付された図面を参照して詳細に説明することにする。
【００４９】
図１は、本発明の一実施例によるイメージ認識のためのＣＮＮの学習装置１００を簡略に示したものであり、図１を参照すると、学習装置１００は通信部１１０とプロセッサ１２０とを含むことができる。
【００５０】
先ず、通信部１１０は、少なくとも一つのトレーニングイメージを受信することができる。
【００５１】
この際、トレーニングイメージはデータベース３００に格納されていてもよく、データベース３００にはトレーニングイメージに対応して少なくとも一つの物体に対するクラス情報の少なくとも一つの原本正解（Ｇｒｏｕｎｄ  Ｔｒｕｔｈ）及びそれぞれの物体に対する位置情報の少なくとも一つの原本正解が格納されていてもよい。
【００５２】
また、学習装置は、次のプロセスを遂行するためのコンピュータ読取り可能なインストラクション（Ｉｎｓｔｒｕｃｔｉｏｎ）を格納することができるメモリ１１５をさらに含むことができる。一実施例によると、プロセッサ、メモリ、媒体等は統合プロセッサ（Ｉｎｔｅｇｒａｔｅｄ  Ｐｒｏｃｅｓｓｏｒ）として統合され得る。
【００５３】
次に、プロセッサ１２０は、（ｉ）少なくとも一つのコンボリューションレイヤをもって、トレーニングイメージ上でＲＯＩの領域をクロップ（Ｃｒｏｐ）し、リサイズ（Ｒｅｓｉｚｅ）して生成されたＲＯＩイメージそれぞれに対してコンボリューション演算を少なくとも一回適用させて物体に対応する少なくとも一つのＲＯＩごとにＲＯＩ特徴マップを生成させ、（ｉｉ）（ｉｉ−１）プーリングレイヤをもって、ＲＯＩ特徴マップに対してプーリング演算を少なくとも一回適用させてＲＯＩごとにプーリング済み特徴マップを生成させ、第１トランスポーズレイヤ（Ｔｒａｎｓｐｏｓｉｎｇ  Ｌａｙｅｒ）をもって、ＲＯＩごとのプーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれをＲＯＩごとにコンカチネート（Ｃｏｎｃａｔｅｎａｔｉｎｇ）させて統合特徴マップ（Ｉｎｔｅｇｒａｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させるか、（ｉｉ−２）プーリングレイヤをもって、ＲＯＩ特徴マップに対してプーリング演算を適用させてＲＯＩごとのプーリング済み特徴マップを生成させ、プーリングレイヤをもって、ＲＯＩごとのプーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれをＲＯＩごとにコンカチネートさせて統合特徴マップを生成させるプロセスを遂行することができる。そして、プロセッサ１２０は、（ｉ）第１リシェイプレイヤ（Ｒｅｓｈａｐｉｎｇ  Ｌａｙｅｒ）をもって、統合特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ１個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて第１リシェイプ済み特徴マップ（Ｒｅｓｈａｐｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉ）１ｘＨ１コンボリューションレイヤをもって、第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリューム（Ｖｏｌｕｍｅ）が調整された第１調整特徴マップ（Ａｄｊｕｓｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉｉ）第２リシェイプレイヤをもって、第１調整特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ２個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて第２リシェイプ済み特徴マップを生成させ、（ｉｖ）１ｘＨ２コンボリューションレイヤをもって、第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整された第２調整特徴マップを生成させるプロセスを遂行することができる。以後、プロセッサ１２０は、（ｉ）第２トランスポーズレイヤをもって、第２調整特徴マップを前記ピクセル別に分離してＲＯＩごとにピクセル別特徴マップ（Ｐｉｘｅｌ−Ｗｉｓｅ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、分類レイヤをもって、ＲＯＩごとのピクセル別特徴マップを利用してＲＯＩそれぞれに対する物体情報を生成させるか、（ｉｉ）分類レイヤをもって、第２調整特徴マップをピクセル別に分離してＲＯＩごとにピクセル別特徴マップを生成させ、分類レイヤをもって、ＲＯＩごとのピクセル別特徴マップを利用してＲＯＩそれぞれに対する物体情報を生成させるプロセスを遂行することができる。そして、プロセッサ１２０は、ロスレイヤをもって、物体���報とこれに対応する原本正解とを参照して少なくとも一つの物体ロスを算出させることにより、物体ロスをバックプロパゲーションして１ｘＨ２コンボリューションレイヤ、１ｘＨ１コンボリューションレイヤ、及びコンボリューションレイヤのうち少なくとも一部のパラメータを学習するプロセスを遂行することができる。
【００５４】
この際、本発明の一実施例による学習装置１００は、コンピューティング装置であって、プロセッサを搭載して演算能力を備えた装置であればいくらでも本発明による学習装置１００として採択され得る。また、図１では一つの学習装置１００のみを示したが、これに限定されず、学習装置は複数個に分けて役割を遂行することもできる。
【００５５】
このように構成された本発明の一実施例による学習装置１００を利用してイメージ認識のためのＣＮＮを学習する方法を、図２を参照して説明すると以下のとおりである。
【００５６】
まず、トレーニングイメージが入力されると、学習装置１００が、コンボリューションレイヤ１２１をもって、トレーニングイメージ上で物体に対応するＲＯＩの領域をクロップし、リサイズして生成されたＲＯＩイメージそれぞれに対してコンボリューション演算を適用して、少なくとも一つの物体に対応する少なくとも一つのＲＯＩごとにＲＯＩ特徴マップを生成させることができる。この際、コンボリューションレイヤ１２１は、ＲＯＩイメージ上に順次にコンボリューション演算を適用するために単一のコンボリューションレイヤ又は複数個のコンボリューションレイヤであり得る。
【００５７】
次に、学習装置１００はプーリングレイヤ１２２をもって、ＲＯＩごとにＲＯＩ特徴マップに対してプーリング演算を適用させてＲＯＩごとのプーリング済み特徴マップＰ１、Ｐ２、…、ＰＮを生成させることができる。
【００５８】
一例として、図３を参照すると、ＲＯＩの個数をＮとし、ＲＯＩごとのプーリング済み特徴マップＰ１、Ｐ２、…、ＰＮの幅をＭ１、ＲＯＩごとのプーリング済み特徴マップＰ１、Ｐ２、…、ＰＮの高さをＭ２とし、ＲＯＩごとのプーリング済み特徴マップＰ１、Ｐ２、…、ＰＮのチャンネル個数をＪとする場合、ＲＯＩごとのプーリング済み特徴マップＰ１、Ｐ２、…、ＰＮはそれぞれＭ１ｘＭ２ｘＪのボリュームを有することができる。
【００５９】
次に、学習装置１００は、第１トランスポーズレイヤ１２３をもって、プーリングレイヤ１２２から出力されたＲＯＩごとのプーリング済み特徴マップＰ１、Ｐ２、…、ＰＮ上の対応する同一の各位置のそれぞれのピクセルをＲＯＩごとにコンカチネートさせて統合特徴マップ４００を生成させることができる。
【００６０】
一例として、図３と図４を参照すると、図３におけるＲＯＩごとのそれぞれのプーリング済み特徴マップＰ１、Ｐ２、…、ＰＮ上における最も左側上端のピクセルをそれぞれＲ１Ｆ１、Ｒ２Ｆ１、…、ＲＮＦ１とする場合、ＲＯＩごとのプーリング済み特徴マップＰ１、Ｐ２、…、ＰＮそれぞれにおける最も左側上端のピクセルであるＲ１Ｆ１、Ｒ２Ｆ１、…、ＲＮＦ１をコンカチネートして、図４においてすべてのチャンネルのうち最初のチャンネルに対応する最も前面にあるラインのように幅Ｎ、高さ１である統合特徴マップ４００の第１部分が生成されるようにし、この過程をＲＯＩごとのプーリング済み特徴マップＰ１、Ｐ２、…、ＰＮそれぞれのピクセルの残りの部分にも繰り返し実行する。そして、ＲＯＩごとのプーリング済み特徴マップＰ１、Ｐ２、…、ＰＮそれぞれにおけるピクセル個数と同一にチャンネル個数がＭ１ｘＭ２ｘＪである統合特徴マップ４００を生成することができる。
【００６１】
一方、前記では、学習装置１００が第１トランスポーズレイヤ１２３をもって、プーリングレイヤ１２２から出力されたＲＯＩごとのプーリング済み特徴マップＰ１、Ｐ２、…、ＰＮを利用して統合特徴マップ４００を生成させた。その他の例として、第１トランスポーズレイヤ１２３を使用せずにプーリングレイヤ１２２をもって統合特徴マップ４００を生成させることができる。すなわち、その他の例として、学習装置１００はプーリングレイヤ１２２をもって、ＲＯＩごとのＲＯＩ特徴マップ上でＲＯＩそれぞれに対応する領域それぞれに対してプーリング演算を適用させてＲＯＩごとのプーリング済み特徴マップＰ１、Ｐ２、…、ＰＮを生成させ、ＲＯＩごとのプーリング済み特徴マップＰ１、Ｐ２、…、ＰＮ上の対応する同一の各位置のそれぞれのピクセルをＲＯＩごとにコンカチネートさせて統合特徴マップ４００を生成させることができる。
【００６２】
次に、学習装置１００は第１リシェイプレイヤ１２４をもって、統合特徴マップ４００のすべてのチャンネルのうち、それぞれの対応するＨ１個のチャンネルから構成されたそれぞれのグループ内のそれぞれの特徴をコンカチネートさせて第１リシェイプ済み特徴マップ５００Ａを生成させることができる。
【００６３】
一例として、図４と図５ａを参照すると、学習装置１００は、第１リシェイプレイヤ１２４をもって、統合特徴マップ４００の第１チャンネルそれぞれの特徴Ｒ１ＣＨ１、Ｒ２ＣＨ１、…、ＲＮＣＨ１ないし第Ｈ１チャンネルのそれぞれの特徴Ｒ１ＣＨ（Ｈ１）、Ｒ２ＣＨ（Ｈ１）、…、ＲＮＣＨ（Ｈ１）をコンカチネートさせ、統合特徴マップ４００の第Ｈ１＋１チャンネルのそれぞれの特徴Ｒ１ＣＨ（Ｈ１＋１）、Ｒ２ＣＨ（Ｈ１＋１）、…、ＲＮＣＨ（Ｈ１＋１）ないし第２ｘＨ１チャンネルのそれぞれの特徴Ｒ１ＣＨ（２ｘＨ１）、Ｒ２ＣＨ（２ｘＨ１）、…、ＲＮＣＨ（２ｘＨ１）をコンカチネートさせることができる。つまり、学習装置１００は、この過程を繰り返すことにより、幅Ｎ、高さＨ１、チャンネル
2020119534.tif 000011
である第１リシェイプ済み特徴マップ５００Ａを生成させることができる。
【００６４】
この際、統合特徴マップ４００のチャンネル個数がＨ１の倍数でない場合、学習装置１００は第１リシェイプレイヤ１２４をもって、統合特徴マップ４００に少なくとも一つの第１ダミーチャンネルを追加させ、少なくとも一つの第１ダミーチャンネルを含む統合特徴マップ４００のチャンネル個数がＨ１の倍数になるようにした後、統合特徴マップ４００のすべてのチャンネルのうちそれぞれの対応するＨ１個のチャンネルから構成されたそれぞれのグループ内のそれぞれの特徴をコンカチネートさせることができる。つまり、統合特徴マップ４００のチャンネル個数がＨ１の倍数にならないことにより、
2020119534.tif 000012
番目のチャンネルをコンカチネートして生成された統合特徴マップ４００のサイズが幅Ｎ、高さＨ１にならない場合、統合特徴マップ４００の幅はＮ、高さはＨ１になるように少なくとも一つのゼロパディング領域を追加することができる。
【００６５】
次に、学習装置１００は１ｘＨ１コンボリューションレイヤ１２５をもって、第１リシェイプ済み特徴マップ５００Ａに対して１ｘＨ１コンボリューション演算を適用させてボリュームが調整された第１調整特徴マップ５００Ｂを生成させることができる。
【００６６】
一例として、図５ａと図５ｂを参照すると、１ｘＨ１コンボリューションレイヤ１２５のフィルタの個数をＫとする場合、学習装置１００は１ｘＨ１コンボリューションレイヤ１２５をもって、図５ａの第１リシェイプ済み特徴マップ５００Ａに対して１ｘＨ１コンボリューション演算を適用させて幅Ｎ、高さ１、チャンネルＫのＮｘ１ｘＫのボリュームを有する第１調整特徴マップ５００Ｂを生成させることができる。これを通じてコンピューティング演算量を１／Ｈ１に減少させることができるようになり、それに伴ってコンピューティング演算速度及び演算能力を増大させることができるようになる。
【００６７】
この際、第１調整特徴マップ５００Ｂ上の特徴Ｒ１’ＣＨ１、Ｒ２’ＣＨ１、…、ＲＮ’ＣＨ１は、それぞれ第１リシェイプ済み特徴マップ５００Ａ上の特徴Ｒ１ＣＨ１、Ｒ１ＣＨ２、…、Ｒ１ＣＨ（Ｈ１）を局地的に統合（Ｌｏｃａｌｌｙ  Ｃｏｎｎｅｃｔｉｎｇ）し、第１リシェイプ済み特徴マップ５００Ａ上の特徴Ｒ２ＣＨ１、Ｒ２ＣＨ２、…、Ｒ２ＣＨ（Ｈ１）を局地的に統合し、第１リシェイプ済み特徴マップ５００Ａ上の特徴ＲＮＣＨ１、ＲＮＣＨ２、…、ＲＮＣＨ（Ｈ１）を局地的に統合した結果であり得る。参考までに、前記局地的統合（Ｌｏｃａｌｌｙ  Ｃｏｎｎｅｃｔｉｎｇ）は、１×Ｈ１コンボリューション演算を適用することを意味する。
【００６８】
次に、学習装置１００は、第２リシェイプレイヤ１２６をもって、第１調整特徴マップ５００Ｂのすべてのチャンネルのうちそれぞれの対応するＨ２個のチャンネルから構成されたそれぞれのグループ内のそれぞれの特徴をコンカチネートして第２リシェイプ済み特徴マップ６００Ａを生成させることができる。
【００６９】
一例として、図５ｂと図６ａを参照すると、学習装置１００は、第２リシェイプレイヤ１２６をもって、第１調整特徴マップ５００Ｂで第１チャンネルのそれぞれの特徴Ｒ１’ＣＨ１、Ｒ２’ＣＨ１、…、ＲＮ’ＣＨ１ないし第Ｈ１チャンネル内のそれぞれの特徴Ｒ１’ＣＨ（Ｈ１）、Ｒ２’ＣＨ（Ｈ１），…、ＲＮ’ＣＨ（Ｈ１）をコンカチネートさせ、第１調整特徴マップ５００Ｂの第Ｈ１＋１チャンネルのそれぞれの特徴Ｒ１’ＣＨ（Ｈ１＋１）、Ｒ２’ＣＨ（Ｈ１＋１）、…、ＲＮ’ＣＨ（Ｈ１＋１）ないし第２ｘＨ１チャンネルのそれぞれの特徴Ｒ１’ＣＨ（２ｘＨ１）、Ｒ２’ＣＨ（２ｘＨ１），…、ＲＮ’ＣＨ（２ｘＨ１）をコンカチネートさせることができる。つまり、学習装置１００は、このコンカチネートの過程を繰り返すことにより、幅Ｎ、高さＨ２、チャンネル
2020119534.tif 000013
である第２リシェイプ済み特徴マップ６００Ａを生成させることができる。
【００７０】
この際、第１調整特徴マップ５００Ｂのチャンネル個数がＨ２の倍数でない場合、学習装置１００は第２リシェイプレイヤ１２６をもって、第１調整特徴マップ５００Ｂに少なくとも一つの第２ダミーチャンネルを追加させ、少なくとも一つの第２ダミーチャンネルを含む第１調整特徴マップ５００Ｂのチャンネル個数がＨ２の倍数になるようにした後、第１調整特徴マップ５００Ｂのすべてのチャンネルのうちそれぞれの対応するＨ２個のチャンネルから構成されたそれぞれのグループ内のそれぞれの特徴をコンカチネートさせることができる。すなわち、第１調整特徴マップ５００Ｂのチャンネル個数がＨ２の倍数にならないことにより、
2020119534.tif 000014
番目のチャンネルをコンカチネートして生成された第１調整特徴マップ５００Ｂのサイズが幅はＮ、高さはＨ２にならない場合、第１調整特徴マップ５００Ｂの幅はＮ、高さはＨ２になるように少なくとも一つのゼロパディング領域を追加することができる。
【００７１】
次に、学習装置１００は、１ｘＨ２コンボリューションレイヤ１２７をもって、第２リシェイプ済み特徴マップ６００Ａに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整された第２調整特徴マップ６００Ｂを生成させることができる。
【００７２】
一例として、図６ａと図６ｂを参照すると、１ｘＨ２コンボリューションレイヤ１２７のフィルタの個数をＬとする場合、学習装置１００は１ｘＨ２コンボリューションレイヤ１２７をもって、図６ａの第２リシェイプ済み特徴マップ６００Ａに対して１ｘＨ２コンボリューション演算を適用させて幅Ｎ、高さ１、チャンネルＬであるＮｘ１ｘＬのボリュームを有する第２調整特徴マップ６００Ｂを生成させることができる。これを通じて、コンピューティング演算量を１／Ｈ２に減少させることができるようになり、それに伴ってコンピューティング演算速度及び演算能力を増大させることができるようになる。この場合、第２調整特徴マップ６００Ｂ上の特徴Ｒ１”ＣＨ１、Ｒ２”ＣＨ１、…、ＲＮ”ＣＨ１はそれぞれ第２リシェイプ済み特徴マップ６００Ａ上の特徴Ｒ１’ＣＨ１、Ｒ１’ＣＨ２、…、Ｒ１’ＣＨ（Ｈ２）を局地的に統合（Ｌｏｃａｌｌｙ  Ｃｏｎｎｅｃｔｉｎｇ）し、第２リシェイプ済み特徴マップ６００Ａ上の特徴Ｒ２’ＣＨ１、Ｒ２’ＣＨ２、…、Ｒ２’ＣＨ（Ｈ２）を局地的に統合し、第２リシェイプ済み特徴マップ６００Ａ上の特徴ＲＮ’ＣＨ１、ＲＮ’ＣＨ２、…、ＲＮ’ＣＨ（Ｈ２）を局地的に統合した結果であり得る。参考までに、前記局地的統合（Ｌｏｃａｌｌｙ  Ｃｏｎｎｅｃｔｉｎｇ）は、１×Ｈ２コンボリューション演算を適用することを意味する。
【００７３】
次に、学習装置１００は、第２トランスポーズレイヤ１２８をもって、第２調整特徴マップ６００Ｂをピクセル別に分離してＲＯＩごとのピクセル別特徴マップＰＷ１、ＰＷ２、…、ＰＷＮを生成させることができる。
【００７４】
一例として、図７を参照すると、学習装置１００は第２トランスポーズレイヤ１２８をもって、図６ｂの幅Ｎ、高さ１、チャンネルＬであるＮｘ１ｘＬのボリュームを有する第２調整特徴マップ６００Ｂをピクセル別に分離して幅１、高さ１、チャンネルＬであるＲＯＩごとのピクセル別特徴マップＰＷ１、ＰＷ２、…、ＰＷＮを生成させる。
【００７５】
次に、学習装置１００は、分類レイヤ１２９をもって、ＲＯＩごとのピクセル別特徴マップＰＷ１、ＰＷ２、…ＰＷＮを利用してＲＯＩそれぞれに対する物体情報を生成させることができる。この際、分類レイヤ１２９はソフトマックス（Ｓｏｆｔｍａｘ）アルゴリズムを使用することができ、それぞれのＲＯＩ内の物体それぞれがどのような種類の物体であるのか認知された結果を生成し、認知された結果が正答である可能性に関する確率情報を生成させることができる。これに加えて、物体情報はトレーニングイメージ内のそれぞれの物体位置情報を含むこともできる。
【００７６】
一方、前記では、第２トランスポーズレイヤ１２８が第２調整特徴マップ６００Ｂを利用してＲＯＩごとのピクセル別特徴マップＰＷ１、ＰＷ２、…、ＰＷＮを生成することができる。その他の例として、分類レイヤ１２９は、第２トランスポーズレイヤ１２８を使用せずに第２調整特徴マップ６００Ｂを利用してＲＯＩごとのピクセル別特徴マップＰＷ１、ＰＷ２、…、ＰＷＮを生成させることができる。つまり、学習装置１００は分類レイヤ１２９をもって、第２調整特徴マップ６００Ｂをピクセル別に分離してＲＯＩごとのピクセル別特徴マップＰＷ１、ＰＷ２、…、ＰＷＮを生成させ、分類レイヤ１２９をもって、ＲＯＩごとのピクセル別特徴マップを利用してＲＯＩそれぞれに対する物体情報を生成させることができる。
【００７７】
次に、学習装置１００は、ロスレイヤ１３０をもって、物体情報とこれに対応する原本正解とを参照して少なくとも一つの物体ロスを算出させることにより、物体ロスを利用したバックプロパゲーションを通じて１ｘＨ２コンボリューションレイヤ１２７、１ｘＨ１コンボリューションレイヤ１２５、及びコンボリューションレイヤ１２１のうち少なくとも一部のパラメータを学習することができる。
【００７８】
前記のように、本発明の一実施例によるイメージ認識のためのＣＮＮは、コンボリューションレイヤのみで構成されることにより、入力イメージのサイズに関係なしに正常に入力イメージ内の物体を認識することができる。また、本発明の一実施例によるイメージ認識のためのＣＮＮは、１ｘＨコンボリューションの局地的統合の演算を適用することにより、従来のＦＣレイヤのＦＣ（Ｆｕｌｌｙ  Ｃｏｎｎｅｃｔｅｄ）演算に比べてコンピューティング演算量を減少させることができるようになる。
【００７９】
図８は、本発明の一実施例によるイメージ認識のためのＣＮＮのテスト装置２００を簡略に示したものであり、図８を参照すると、テスト装置２００は通信部２１０とプロセッサ２２０とを含むことができる。
【００８０】
また、テスト装置２００は、次のプロセスを遂行するためのコンピュータ読取り可能なインストラクション（Ｉｎｓｔｒｕｃｔｉｏｎ）を格納することができるメモリ２１５をさらに含むことができる。一実施例によると、プロセッサ、メモリ、媒体等は統合プロセッサ（Ｉｎｔｅｇｒａｔｅｄ  Ｐｒｏｃｅｓｓｏｒ）として統合され得る。
【００８１】
先ず、通信部２１０は、少なくとも一つのテストイメージを取得するか、他の装置をもって取得するように支援することができる。
【００８２】
この際、本発明の一実施例によるイメージ認識のためのＣＮＮは、図１ないし図７を参照して説明した学習方法によって学習された状態であり得る。
【００８３】
参考までに、以下の説明で混同を避けるために「学習用」という文句は、先に説明した学習プロセスに関する用語について追加され、「テスト用」という文句はテストプロセスに関する用語について追加される。
【００８４】
つまり、少なくとも一つのトレーニングイメージが取得されると、学習装置は、（ａ）（ｉ）コンボリューションレイヤをもって、トレーニングイメージ上で学習用ＲＯＩの領域をクロップ（Ｃｒｏｐ）し、リサイズ（Ｒｅｓｉｚｅ）して生成された学習用ＲＯＩイメージそれぞれに対してコンボリューション演算を適用させて少なくとも一つの学習用物体に対応する少なくとも一つの学習用ＲＯＩごとの学習用ＲＯＩ特徴マップを生成させ、（ｉｉ）（ｉｉ−１）プーリングレイヤをもって、学習用ＲＯＩ特徴マップに対してプーリング演算を適用させて学習用ＲＯＩごとの学習用プーリング済み特徴マップを生成させ、第１トランスポーズレイヤ（Ｔｒａｎｓｐｏｓｉｎｇ  Ｌａｙｅｒ）をもって、学習用ＲＯＩごとの学習用プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれを学習用ＲＯＩごとにコンカチネート（Ｃｏｎｃａｔｅｎａｔｉｎｇ）させて学習用統合特徴マップ（Ｉｎｔｅｇｒａｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させるか、（ｉｉ−２）プーリングレイヤをもって、学習用ＲＯＩ特徴マップに対してプーリング演算を適用させて学習用ＲＯＩごとの学習用プーリング済み特徴マップを生成させ、プーリングレイヤをもって、学習用ＲＯＩごとの学習用プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれを学習用ＲＯＩごとにコンカチネートさせて学習用統合特徴マップを生成させ、（ｂ）（ｂ１）（ｉ）第１リシェイプレイヤ（Ｒｅｓｈａｐｉｎｇ  Ｌａｙｅｒ）をもって、学習用統合特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ１個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて学習用第１リシェイプ済み特徴マップ（Ｒｅｓｈａｐｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉ）１ｘＨ１コンボリューションレイヤをもって、学習用第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリューム（Ｖｏｌｕｍｅ）が調整された学習用第１調整特徴マップ（Ａｄｊｕｓｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｂ２）（ｉ）第２リシェイプレイヤをもって、学習用第１調整特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ２個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせて学習用第２リシェイプ済み特徴マップを生成させ、（ｉｉ）１ｘＨ２コンボリューションレイヤをもって、学習用第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整された学習用第２調整特徴マップを生成させ、（ｃ）（ｃ１）（ｉ）第２トランスポーズレイヤをもって、学習用第２調整特徴マップをピクセル別に分離して学習用ＲＯＩごとの学習用ピクセル別特徴マップ（Ｐｉｘｅｌ−Ｗｉｓｅ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、分類レイヤをもって、学習用ＲＯＩごとの学習用ピクセル別特徴マップを利用して学習用ＲＯＩそれぞれに対する学習用物体情報を生成させるか、（ｉｉ）分類レイヤをもって、学習用第２調整特徴マップをピクセル別に分離して学習用ＲＯＩごとに学習用ピクセル別特徴マップを生成させ、分類レイヤをもって、学習用ＲＯＩ���との学習用ピクセル別特徴マップを利用して学習用ＲＯＩそれぞれに対する学習用物体情報を生成させた後、（ｃ２）ロスレイヤをもって、学習用物体情報とこれに対応する原本正解とを参照して少なくとも一つの物体ロスを算出させることにより、物体ロスをバックプロパゲーションして１ｘＨ２コンボリューションレイヤ、１ｘＨ１コンボリューションレイヤ、及びコンボリューションレイヤのうち少なくとも一部のパラメータを学習するプロセスを遂行した状態であり得る。次に、プロセッサ２２０は、（ｉ）コンボリューションレイヤをもって、テストイメージ上でテスト用ＲＯＩの領域をクロップ（Ｃｒｏｐ）し、リサイズ（Ｒｅｓｉｚｅ）して生成されたテスト用ＲＯＩイメージそれぞれに対してコンボリューション演算を少なくとも一回適用させて少なくとも一つのテスト用物体に対応する少なくとも一つのテスト用ＲＯＩごとにテスト用ＲＯＩ特徴マップを生成させ、（ｉｉ）（ｉｉ−１）プーリングレイヤをもって、テスト用ＲＯＩ特徴マップに対してプーリング演算を少なくとも一回適用させてテスト用ＲＯＩごとにテスト用プーリング済み特徴マップを生成させ、第１トランスポーズレイヤ（Ｔｒａｎｓｐｏｓｉｎｇ  Ｌａｙｅｒ）をもって、テスト用ＲＯＩごとのテスト用プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれをテスト用ＲＯＩごとにコンカチネート（Ｃｏｎｃａｔｅｎａｔｉｎｇ）させてテスト用統合特徴マップ（Ｉｎｔｅｇｒａｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させるか、（ｉｉ−２）プーリングレイヤをもって、テスト用ＲＯＩ特徴マップに対してプーリング演算を適用させてテスト用ＲＯＩごとのテスト用プーリング済み特徴マップを生成させ、プーリングレイヤをもって、テスト用ＲＯＩごとのテスト用プーリング済み特徴マップ上の対応する同一の各位置のピクセルそれぞれをテスト用ＲＯＩごとにコンカチネートさせてテスト用統合特徴マップを生成させるプロセスを遂行することができる。そして、プロセッサ（２２０）は、（ｉ）第１リシェイプレイヤ（Ｒｅｓｈａｐｉｎｇ  Ｌａｙｅｒ）をもって、テスト用統合特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ１個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせてテスト用第１リシェイプ済み特徴マップ（Ｒｅｓｈａｐｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉ）１ｘＨ１コンボリューションレイヤをもって、テスト用第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリューム（Ｖｏｌｕｍｅ）が調整されたテスト用第１調整特徴マップ（Ａｄｊｕｓｔｅｄ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、（ｉｉｉ）第２リシェイプレイヤをもって、テスト用第１調整特徴マップのすべてのチャンネルのうちでそれぞれに対応するＨ２個のチャンネルから構成されたそれぞれのグループ内の特徴それぞれをコンカチネートさせてテスト用第２リシェイプ済み特徴マップを生成させ、（ｖｉ）１ｘＨ２コンボリューションレイヤをもって、テスト用第２リシェイプ済み特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整されたテスト用第２調整特徴マップを生成させるプロセスを遂行することができる。以後、プロセッサ２２０は、（ｉ）第２トランスポーズレイヤをもって、テスト用第２調整特徴マップを前記ピクセル別に分離してテスト用ＲＯＩごとにテスト用ピクセル別特徴マップ（Ｐｉｘｅｌ−Ｗｉｓｅ  Ｆｅａｔｕｒｅ  Ｍａｐ）を生成させ、分類レイヤをもって、テスト用ＲＯＩごとのテスト用ピクセル別特徴マップを利用してテスト用ＲＯＩそれぞれに関するテスト用物体情報を生成させるか、（ｉｉ）分類レイヤをもって、テスト用第２調整特徴マップをピクセル別に分離してテスト用ＲＯＩごとにテスト用ピクセル別特徴マップを生成させ、分類レイヤをもって、テスト用ＲＯＩごとのテスト用ピクセル別特徴マップを利用してテスト用ＲＯＩそれぞれに関するテスト用物体情報を生成するようにプロセスを遂行することができる。
【００８５】
この際、本発明の一実施例によるテスト装置２００は、コンピューティング装置であって、プロセッサを搭載して演算能力を備えた装置であればいくらでも本発明によるテスト装置２００として採択され得る。また、図８では一つのテスト装置２００のみを示したが、これに限定されず、テスト装置は複数個に分けて役割を遂行することもできる。
【００８６】
このように構成された本発明の一実施例によるテスト装置２００を利用してイメージ認識のためのＣＮＮをテストする方法を、図９を参照して説明すると次のとおりである。以下の説明で、図１ないし図７を参照して説明した学習方法から容易に理解可能な部分については詳細な説明を省略することとする。
【００８７】
まず、図１ないし図７を参照して説明した学習方法によってコンボリューションレイヤ２２１、１ｘＨ１コンボリューションレイヤ２２５、及び１ｘＨ２コンボリューションレイヤ２２７が学習された状態でテストイメージが入力されると、テスト装置２００がコンボリューションレイヤ２２１をもって、テストイメージ上でテスト用物体に対応するテスト用ＲＯＩの領域をクロップしてリサイズしたテスト用ＲＯＩイメージそれぞれに対してコンボリューション演算を適用してテスト用ＲＯＩごとのテスト用ピクセル別特徴マップを生成させる。この際、コンボリューションレイヤ２２１は、テスト用ＲＯＩイメージに対して順次にコンボリューション演算のための単一コンボリューションレイヤ又は複数個のコンボリューションレイヤであり得る。
【００８８】
次に、テスト装置２００は、プーリングレイヤ２２２をもって、テスト用ＲＯＩごとのテスト用ピクセル別特徴マップに対してプーリング演算を適用してテスト用ＲＯＩごとのテスト用プーリング済み特徴マップを生成させることができる。
【００８９】
次に、テスト装置２００は、第１トランスポーズレイヤ２２３をもって、プーリングレイヤ２２２から出力されたテスト用ＲＯＩごとのテスト用プーリング済み特徴マップ上の対応する同一の各位置のそれぞれのピクセルをテスト用ＲＯＩごとにコンカチネートさせてテスト用統合特徴マップを生成させることができる。
【００９０】
一方、前記では、テスト装置２００が第１トランスポーズレイヤ２２３をもって、プーリングレイヤ２２２から出力されたテスト用ＲＯＩごとのテスト用プーリング済み特徴マップを利用してテスト用統合特徴マップを生成させることができる。その他の例として、テスト装置２００は、第１トランスポーズレイヤ２２３を使用せずに、プーリングレイヤ２２２をもってテスト用統合特徴マップを生成させることができる。つまり、テスト装置２００は、プーリングレイヤ２２２をもって、テスト用ＲＯＩごとのテスト用ＲＯＩ特徴マップに対してプーリング演算を適用させてテスト用ＲＯＩごとのテスト用プーリング済み特徴マップを生成させ、テスト用ＲＯＩごとのテスト用プーリング済み特徴マップ上の対応する同一の各位置のそれぞれのピクセルをテスト用ＲＯＩごとにコンカチネートしてテスト用統合特徴マップを生成させることができる。
【００９１】
次に、テスト装置２００は、第１リシェイプレイヤ２２４をもって、テスト用統合特徴マップのすべてのチャンネルのうちでそれぞれの対応するＨ１個のチャンネルから構成されたそれぞれのグループ内のそれぞれの特徴をコンカチネートさせてテスト用第１リシェイプ済み特徴マップを生成させることができる。
【００９２】
この際、テスト用統合特徴マップのチャンネル個数がＨ１の倍数でない場合、テスト装置２００は第１リシェイプレイヤ２２４をもって、テスト用統合特徴マップに少なくとも一つの第１ダミーチャンネルを追加して少なくとも一つの第１ダミーチャンネルを含むテスト用統合特徴マップのチャンネル個数がＨ１の倍数になるようにした後、テスト用統合特徴マップのすべてのチャンネルのうちでそれぞれの対応するＨ１個のチャンネルから構成されたそれぞれのグループ内のそれぞれの特徴をコンカチネートさせることができる。つまり、テスト用統合特徴マップのチャンネル個数がＨ１の倍数にならないことにより、
2020119534.tif 000015
番目のチャンネルをコンカチネートして生成されたテスト用統合特徴マップのサイズが幅Ｎ、高さＨ１にならない場合、テスト用統合特徴マップの幅がＮ、高さがＨ１になるように少なくとも一つのゼロパディング領域を追加することができる。
【００９３】
次に、テスト装置２００は、１ｘＨ１コンボリューションレイヤ２２５をもって、テスト用第１リシェイプ済み特徴マップに対して１ｘＨ１コンボリューション演算を適用させてボリュームが調整されたテスト用第１調整特徴マップを生成させることができる。
【００９４】
次に、テスト装置２００は第２リシェイプレイヤ２２６をもって、テスト用第１調整特徴マップのすべてのチャンネルのうちでそれぞれの対応するＨ２個のチャンネルから構成されたそれぞれのグループ内のそれぞれの特徴をコンカチネートさせてテスト用第２リシェイプ済み特徴マップを生成させることができる。
【００９５】
この際、テスト用第１調整特徴マップのチャンネル個数がＨ２の倍数でない場合、テスト装置２００は第２リシェイプレイヤ２２６をもって、テスト用第１調整特徴マップに少なくとも一つの第２ダミーチャンネルを追加させて少なくとも一つの第２ダミーチャンネルを含むテスト用第１調整特徴マップのチャンネル個数がＨ２の倍数になるようにした後、テスト用第１調整特徴マップのすべてのチャンネルのうちでそれぞれの対応するＨ２個のチャンネルから構成されたそれぞれのグループ内のそれぞれの特徴をコンカチネートさせることができる。つまり、テスト用第１調整特徴マップのチャンネル個数がＨ２の倍数にならないことにより、
2020119534.tif 000016
番目のチャンネルをコンカチネートして生成されたテスト用第１調整特徴マップのサイズが幅Ｎ、高さＨ２にならない場合、テスト用第１調整特徴マップの幅がＮ、高さがＨ２になるように少なくとも一つのゼロパディング領域を追加することができる。
【００９６】
次に、テスト装置２００は、１ｘＨ２コンボリューションレイヤ２２７をもって、テスト用第２リシェイプ特徴マップに対して１ｘＨ２コンボリューション演算を適用させてボリュームが調整されたテスト用第２調整特徴マップを生成させることができる。
【００９７】
次に、テスト装置２００は第２トランスポーズレイヤ２２８をもって、テスト用第２調整特徴マップをピクセル別に分離させてテスト用ＲＯＩごとのテスト用ピクセル別特徴マップを生成させることができる。
【００９８】
次に、テスト装置２００は分類レイヤ２２９をもって、テスト用ＲＯＩごとのテスト用ピクセル別特徴マップを利用してテスト用ＲＯＩに関するテスト用物体情報を生成させることができる。この際、分類レイヤ２２９は、ソフトマックスアルゴリズムを使用することができ、それぞれのテスト用ＲＯＩ内のテスト用物体がどのような種類の物体であるのか認知した結果を生成することができ、認知した結果が正答である可能性に関する確率情報を生成させることができる。これに加えて、テスト用物体情報は、テストイメージ内にテスト用物体それぞれの位置情報を含むこともできる。
【００９９】
一方、前記では、第２トランスポーズレイヤ２２８は、テスト用第２調整特徴マップを利用してテスト用ＲＯＩごとのテスト用ピクセル別特徴マップを生成させることができる。その他の例として、分類レイヤ２２９は、第２トランスポーズレイヤ２２８を使用せずに、テスト用第２調整特徴マップを利用してテスト用ＲＯＩごとのテスト用ピクセル別特徴マップを生成させることができる。つまり、テスト装置２００は分類レイヤ２２９をもって、テスト用第２調整特徴マップをピクセル別に分離させてテスト用ＲＯＩごとのテスト用ピクセル別特徴マップを生成し、分類レイヤ２２９をもって、テスト用ＲＯＩごとのテスト用ピクセル別特徴マップを利用してテスト用ＲＯＩそれぞれに関するテスト用物体情報を生成させることができる。
【０１００】
前記学習方法とテスト方法は、ＫＰＩ（Ｋｅｙ  Ｐｅｒｆｏｒｍａｎｃｅ  Ｉｎｄｅｘ、重要業績評価指標）を満たすハードウェアの最適化に使用されるために提供され得る。
【０１０１】
また、以上にて説明された本発明による実施例は、多様なコンピュータの構成要素を通じて遂行することができるプログラム命令語の形態で具現されて、コンピュータ読取り可能な記録媒体に格納され得る。前記コンピュータ読取り可能な記録媒体はプログラム命令語、データファイル、データ構造などを単独で又は組み合わせて含むことができる。前記コンピュータ読取り可能な記録媒体に格納されるプログラム命令語は、本発明のために特別に設計され、構成されたものであるか、コンピュータソフトウェア分野の当業者に公知にされて使用可能なものであり得る。コンピュータ読取り可能な記録媒体の例には、ハードディスク、フロッピーディスク及び磁気テープのような磁気媒体、ＣＤ−ＲＯＭ、ＤＶＤのような光記録媒体、フロプティカル・ディスク（Ｆｌｏｐｔｉｃａｌ  Ｄｉｓｋ）のような磁気−光メディア（Ｍａｇｎｅｔｏ−Ｏｐｔｉｃａｌ  Ｍｅｄｉａ）、及びＲＯＭ、ＲＡＭ、フラッシュメモリなどのようなプログラム命令語を格納して遂行するように特別に構成されたハードウェア装置が含まれる。プログラム命令語の例には、コンパイラによって作られるもののような機械語コードだけでなく、インタープリターなどを使用してコンピュータによって実行される高級言語コードも含まれる。前記ハードウェア装置は、本発明による処理を実行するために一つ以上のソフトウェアモジュールとして作動するように構成され得、その反対も同様である。
【０１０２】
以上にて本発明が具体的な構成要素などのような特定事項と限定された実施例及び図面によって説明されたが、これは本発明のより全般的な理解の一助とするために提供されたものであるに過ぎず、本発明が前記実施例に限られるものではなく、本発明が属する技術分野において通常の知識を有する者であれば、かかる記載から多様な修正及び変形が行われ得る。
【０１０３】
従って、本発明の思想は、前記説明された実施例に局限されて定められてはならず、後述する特許請求の範囲だけでなく、本特許請求の範囲と均等または等価的に変形されたものすべては、本発明の思想の範囲に属するといえる。
【符号の説明】
【０１０４】
１００：学習装置
２００：テスト装置
１１０、２１０：通信部
１２０、２２０：プロセッサ
３００：データベース
【図１】
2020119534.tif 000025
【図２】
2020119534.tif 000026
【図３】
2020119534.tif 000027
【図４】
2020119534.tif 000028
【図５ａ】
2020119534.tif 000029
【図５ｂ】
2020119534.tif 000030
【図６ａ】
2020119534.tif 000031
【図６ｂ】
2020119534.tif 000032
【図７】
2020119534.tif 000033
【図８】
2020119534.tif 000034
【図９】
2020119534.tif 000035