(57)【要約】      （修正有）【課題】ＣＮＮを用いて、マルチスケールされた複数の特徴マップから学習イメージ上の客体に対応するバウンディングボックスの獲得を支援するための学習方法を提供する。【解決手段】学習方法は、Ｎ−ｗａｙＲＰＮをもって少なくとも２個の特定特徴マップに所定の演算を遂行して所定個数のプロポーザルボックスを獲得する段階、Ｎ−ｗａｙプーリングレイヤをもって、少なくとも２個の特定特徴マップ上で所定個数のプロポーザルボックス領域に対応される領域各々をプーリングして複数個のプーリング済み特徴マップを生成する段階及びＦＣレイヤをもって、バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセス及びロスレイヤをもって、第１比較データを獲得し、バックプロパゲーションを遂行する間第１比較データを利用して前記ＣＮＮの少なくとも一つのパラメータに対して調節する段階を含む。【選択図】図３
2020113286.tif 000002
【特許請求の範囲】
【請求項１】
ＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）を用いて、マルチスケールされた複数の特徴マップから学習イメージ上の客体に対応するバウンディングボックスの獲得を支援するための学習方法において、
（ａ）前記学習イメージが複数のコンボリューションレイヤを経ながら所定の演算が遂行された結果マルチスケールされた前記複数の特徴マップが獲得されると、学習装置が、Ｎ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）をもって、マルチスケールされた前記複数の特徴マップのうち少なくとも２個の特定特徴マップを獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個の特定特徴マップに所定の演算を遂行して所定個数のプロポーザルボックスを獲得するか獲得するように支援する段階；
（ｂ）前記学習装置が、Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個の特定特徴マップ上で前記所定個数のプロポーザルボックスに対応する領域各々をプーリングして複数個のプーリング済み特徴マップを生成するか生成するように支援する段階；及び
（ｃ）前記学習装置が、（ｉ）ＦＣレイヤをもって、前記複数個のプーリング済み特徴マップにリグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセス及び（ｉｉ）ロスレイヤをもって、前記学習イメージの前記バウンディングボックスのピクセルデータの情報と原本正解イメージの原本正解バウンディングボックスのピクセルデータに対する情報を比較して第１比較データを獲得し、バックプロパゲーションを遂行する間前記第１比較データを利用して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを遂行するか遂行するように支援する段階；
を含む学習方法。
【請求項２】
前記（ｃ）段階で、
前記学習装置が、（ｉ）前記Ｎ−ｗａｙプーリングレイヤをもって、前記複数個のプーリング済み特徴マップをコンカチネートして所定の特徴ベクタを獲得するようにするプロセス、（ｉｉ）前記ＦＣレイヤをもって、前記特徴ベクタに前記リグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセス、及び（ｉｉｉ）前記ロスレイヤをもって、前記バウンディングボックスのピクセルデータに対する情報を前記原本正解バウンディングボックスのピクセルデータに対する情報と比較して前記第１比較データを獲得し、前記第１比較データを利用してバックプロパゲーションを遂行して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセス；
を遂行するか遂行するように支援することを特徴とする請求項１に記載の学習方法。
【請求項３】
前記（ａ）段階で、
マルチスケールされた前記複数の特徴マップのうち前記少なくとも２個の特定特徴マップから生成された全体アンカーボックスのうち前記所定個数のプロポーザルボックスを獲得することにおいて、
前記学習装置が、前記原本正解バウンディングボックスを参照して前記全体アンカーボックス各々が少なくとも一つの客体を含むか否かを示す確率値であるスコアを求め、前記Ｎ−ｗａｙ  ＲＰＮをもって、前記スコアを参照して前記所定個数のプロポーザルボックスを生成するようにすることを特徴とする請求項１に記載の学習方法。
【請求項４】
前記各々のスコアは、（ｉ）前記全体アンカーボックス各々の領域と前記原本正解バウンディングボックスの領域の和集合（ｕｎｉｏｎ）に該当する領域対比、（ｉｉ）前記全体アンカーボックス各々の領域と前記原本正解バウンディングボックスの領域の交差集合（ｉｎｔｅｒｓｅｃｔｉｏｎ）に該当する領域の面積の比率を参照して決定された値であることを特徴とする請求項３に記載の学習方法。
【請求項５】
前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、マルチスケールされた前記複数の特徴マップのうち前記少なくとも２個の特定特徴マップが前記少なくとも２個の特定特徴マップ各々に対応する各々のＲＰＮ用コンボリューションフィルタに入力して前記ＲＰＮ用コンボリューションフィルタの所定演算を通じて前記全体アンカーボックスの前記スコアまたは前記全体アンカーボックスの座標情報を獲得することを特徴とする請求項３に記載の学習方法。
【請求項６】
前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−ＭａｘｉｍｕｍＳｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、前記ＮＭＳユニットをもって、前記全体アンカーボックスのスコアのうちそのスコアの大きさが上位Ｋ個のスコアに該当するスコアを有する前記所定個数のプロポーザルボックスを選定するようにすることを特徴とする請求項３に記載の学習方法。
【請求項７】
前記複数のコンボリューションレイヤが少なくとも第ｋレイヤ、第ｋ＋１レイヤ（１≦ｋ≦ｎ。但し、ｎは２以上の自然数）を含み、前記第ｋ＋１レイヤは前記第ｋレイヤの演算以後に後行するレイヤとする時、
第ｋ＋１プーリング済み特徴マップに演算を遂行して前記ＦＣレイヤから獲得した第ｋ＋１バウンディングボックスの領域に含まれたピクセルデータの個数は、第ｋプーリング済み特徴マップに同一の演算を遂行して前記ＦＣレイヤから獲得した第ｋバウンディングボックスの領域に含まれたピクセルデータの個数よりも多いか同じであることを特徴とする請求項１に記載の学習方法。
【請求項８】
（ｉ）前記学習イメージ上の客体と対応する前記原本正解の客体に該当する領域のピクセルデータの個数が所定の第１臨界値よりも小さい場合、第１既設定コンボリューションフィルタの演算よりも先行する少なくとも一部のコンボリューションフィルタの演算が遂行された結果から獲得された前記少なくとも２個の特定特徴マップが前記Ｎ−ｗａｙ  ＲＰＮに入力され、（ｉｉ）前記学習イメージ上の客体と対応する前記原本正解の客体に該当する領域のピクセルデータの個数が前記所定の第１臨界値よりも大きいか同じ場合、前記第１既設定コンボリューションフィルタの演算よりも後行する少なくとも一部のコンボリューションフィルタの演算または前記第１既設定コンボリューションフィルタの演算が遂行された結果から獲得された前記少なくとも２個の特定特徴マップが前記Ｎ−ｗａｙ  ＲＰＮに入力されることを特徴とする請求項７に記載の学習方法。
【請求項９】
前記学習イメージ上の客体と対応する前記原本正解の客体に該当する領域のピクセルデータの個数が所定の第２臨界値よりも小さい場合、前記コンボリューション演算は前記複数のコンボリューションフィルタのうち第２既設定コンボリューションフィルタの演算よりも先行するコンボリューションフィルタの演算まで遂行され、前記演算が遂行された結果マルチスケールされた前記複数の特徴マップが獲得されることを特徴とする請求項７に記載の学習方法。
【請求項１０】
前記（ｃ）段階で、
前記学習装置は、（ｉ）前記ＦＣレイヤをもって、クラシフィケーション演算を通じて前記学習イメージの前記客体の種類に対する情報を獲得するようにするプロセス、及び（ｉｉ）前記ロスレイヤをもって、前記学習イメージの前記客体の種類に対する情報と前記原本正解（Ｇｒｏｕｎｄ  Ｔｒｕｔｈ）の客体の種類に対する情報と比較して第２比較データを獲得するようにするプロセスを遂行し、前記第２比較データを利用してバックプロパゲーションを遂行して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを遂行するか遂行するように支援することを特徴とする請求項１に記載の学習方法。
【請求項１１】
ＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）を含むテスティング装置を用いて、マルチスケールされた複数のテスト用特徴マップからテストイメージ上のテスト用客体に対応するテスト用バウンディングボックスの獲得を支援するための方法において、
（ａ）（１）学習イメージが複数のコンボリューションレイヤを経ながら所定の演算が遂行された結果マルチスケールされた複数の特徴マップが獲得されると、学習装置が、Ｎ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）をもって、マルチスケールされた前記複数の特徴マップのうち少なくとも２個の特定特徴マップを獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個の特定特徴マップに所定の演算を遂行して所定個数のプロポーザルボックスを獲得するプロセス、（２）前記学習装置が、Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個の特定特徴マップ上で前記所定個数のプロポーザルボックスに対応する領域各々をプーリングして複数個のプーリング済み特徴マップを生成するプロセス、（３）前記学習装置が、ＦＣレイヤをもって、前記複数個のプーリング済み特徴マップにリグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにし、ロスレイヤをもって、前記学習イメージの前記バウンディングボックスのピクセルデータの情報と原本正解イメージの原本正解バウンディングボックスのピクセルデータに対する情報を比較して第１比較データを獲得して、バックプロパゲーションを遂行する間前記第１比較データを利用して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを完了した状態で、前記テストイメージに対するコンボリューション演算の結果としてマルチスケールされた前記複数のテスト用特徴マップが生成されると、前記テスト装置が、前記Ｎ−ｗａｙ  ＲＰＮをもって、マルチスケールされた前記複数のテスト用特徴マップのうち少なくとも２個のテスト用特定特徴マップを入力として獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個のテスト用特定特徴マップに所定の演算を遂行して所定個数のテスト用プロポーザルボックスを獲得するようにするか獲得するように支援する段階；
（ｂ）前記テスティング装置が、前記Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個のテスト用特定特徴マップ上で前記所定個数のテスト用プロポーザルボックスに対応する領域各々をプーリングして複数個のテスト用プーリング済み特徴マップを生成するようにするか生成するように支援する段階；及び
（ｃ）前記テスティング装置が、前記ＦＣレイヤをもって、前記複数個のテスト用プーリング済み特徴マップにリグレッション演算を通じて前記テスト用バウンディングボックスのピクセルデータに対する情報を獲得するようにするか獲得するように支援するようにする段階；
を含む方法。
【請求項１２】
前記（ｃ）段階で、
前記テスティング装置が、（ｉ）前記Ｎ−ｗａｙプーリングレイヤをもって、前記複数個のテスト用プーリング済み特徴マップをコンカチネートして所定のテスト用特徴ベクタを獲得するようにするプロセス、及び（ｉｉ）前記ＦＣレイヤをもって、前記テスト用特徴ベクタに前記リグレッション演算を通じて前記テスト用バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセスを遂行するか遂行するように支援することを特徴とする請求項１１に記載のテスト方法。
【請求項１３】
前記（ａ）段階で、
前記テスティング装置が、マルチスケールされた前記複数のテスト用特徴マップのうち前記少なくとも２個のテスト用特定特徴マップから生成された全体テスト用アンカーボックスのうち前記所定個数のテスト用プロポーザルボックスを獲得することにおいて、
前記原本正解バウンディングボックスを参照して前記全体テスト用アンカーボックス各々が少なくとも一つの客体を含むか否かを示す確率値であるスコアを求め、前記Ｎ−ｗａｙ  ＲＰＮをもって、前記スコアを参照して前記所定個数のテスト用プロポーザルボックスを生成するようにすることを特徴とする請求項１１に記載の方法。
【請求項１４】
前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、マルチスケールされた前記複数のテスト用特徴マップのうち前記少なくとも２個のテスト用特定特徴マップが前記少なくとも２個のテスト用特定特徴マップ各々に対応される各々のＲＰＮ用コンボリューションフィルタに入力して前記ＲＰＮ用コンボリューションフィルタの所定演算を通じて前記全体テスト用アンカーボックスの前記スコアまたは前記全体テスト用アンカーボックスの座標情報を獲得することを特徴とする請求項１３に記載の方法。
【請求項１５】
前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、前記ＮＭＳユニットをもって、前記全体テスト用アンカーボックスのスコアのうちそのスコアの大きさが上位Ｋ個のスコアに該当するスコアを有する前記所定個数のテスト用プロポーザルボックスを選定するようにすることを特徴とする請求項１３に記載の方法。
【請求項１６】
ＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）を用いて、マルチスケールされた複数の特徴マップから学習イメージ上の客体に対応するバウンディングボックスの獲得を支援するための学習装置において、
前記学習イメージを獲得するための通信部；及び
（１）前記学習イメージが複数のコンボリューションレイヤを経ながら所定の演算が遂行された結果マルチスケールされた前記複数の特徴マップが獲得されると、Ｎ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）をもって、マルチスケールされた前記複数の特徴マップのうち少なくとも２個の特定特徴マップを獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個の特定特徴マップに所定の演算を遂行して所定個数のプロポーザルボックスを獲得するか獲得するように支援するプロセス；（２）Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個の特定特徴マップ上で前記所定個数のプロポーザルボックスに対応する領域各々をプーリングして複数個のプーリング済み特徴マップを生成するか生成するように支援するプロセス；及び（３）（ｉ）ＦＣレイヤをもって、前記複数個のプーリング済み特徴マップにリグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセス及び（ｉｉ）ロスレイヤをもって、前記学習イメージの前記バウンディングボックスのピクセルデータの情報と原本正解イメージの原本正解バウンディングボックスのピクセルデータに対する情報を比較して第１比較データを獲得し、バックプロパゲーションを遂行する間前記第１比較データを利用して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを遂行するか遂行するように支援するプロセッサ；を含む学習装置。
【請求項１７】
前記（３）プロセスで、
前記プロセッサが、（ｉ）前記Ｎ−ｗａｙプーリングレイヤをもって、前記複数個のプーリング済み特徴マップをコンカチネートして所定の特徴ベクタを獲得するようにするプロセス、（ｉｉ）前記ＦＣレイヤをもって、前記特徴ベクタに前記リグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセス、及び（ｉｉｉ）前記ロスレイヤをもって、前記バウンディングボックスのピクセルデータに対する情報を前記原本正解バウンディングボックスのピクセルデータに対する情報と比較して前記第１比較データを獲得し、前記第１比較データを利用してバックプロパゲーションを遂行して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセス；
を遂行するか遂行するように支援することを特徴とする請求項１６に記載の学習装置。
【請求項１８】
前記（１）プロセスで、
マルチスケールされた前記複数の特徴マップのうち前記少なくとも２個の特定特徴マップから生成された全体アンカーボックスのうち前記所定個数のプロポーザルボックスを獲得することにおいて、
前記プロセッサが、前記原本正解バウンディングボックスを参照して前記全体アンカーボックス各々が少なくとも一つの客体を含むか否かを示す確率値であるスコアを求め、前記Ｎ−ｗａｙ  ＲＰＮをもって、前記スコアを参照して前記所定個数のプロポーザルボックスを生成するようにすることを特徴とする請求項１６に記載の学習装置。
【請求項１９】
前記各々のスコアは、（ｉ）前記全体アンカーボックス各々の領域と前記原本正解バウンディングボックスの領域の和集合（ｕｎｉｏｎ）に該当する領域対比、（ｉｉ）前記全体アンカーボックス各々の領域と前記原本正解バウンディングボックスの領域の交差集合（ｉｎｔｅｒｓｅｃｔｉｏｎ）に該当する領域の面積の比率を参照して決定された値であることを特徴とする請求項１８に記載の学習装置。
【請求項２０】
前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、マルチスケールされた前記複数の特徴マップのうち前記少なくとも２個の特定特徴マップが前記少なくとも２個の特定特徴マップ各々に対応する各々のＲＰＮ用コンボリューションフィルタに入力して前記ＲＰＮ用コンボリューションフィルタの所定演算を通じて前記全体アンカーボックスの前記スコアまたは前記全体アンカーボックスの座標情報を獲得することを特徴とする請求項１８に記載の学習装置。
【請求項２１】
前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、前記ＮＭＳユニットをもって、前記全体アンカーボックスのスコアのうちそのスコアの大きさが上位Ｋ個のスコアに該当するスコアを有する前記所定個数のプロポーザルボックスを選定するようにすることを特徴とする請求項１８に記載の学習装置。
【請求項２２】
前記複数のコンボリューションレイヤが少なくとも第ｋレイヤ、第ｋ＋１レイヤ（１≦ｋ≦ｎ。但し、ｎは２以上の自然数）を含み、前記第ｋ＋１レイヤは前記第ｋレイヤの演算以後に後行するレイヤとする時、
第ｋ＋１プーリング済み特徴マップに演算を遂行して前記ＦＣレイヤから獲得した第ｋ＋１バウンディングボックスの領域に含まれたピクセルデータの個数は、第ｋプーリング済み特徴マップに同一の演算を遂行して前記ＦＣレイヤから獲得した第ｋバウンディングボックスの領域に含まれたピクセルデータの個数よりも多いか同じであることを特徴とする請求項１６に記載の学習装置。
【請求項２３】
（ｉ）前記学習イメージ上の客体と対応する前記原本正解の客体に該当する領域のピクセルデータの個数が所定の第１臨界値よりも小さい場合、第１既設定コンボリューションフィルタの演算よりも先行する少なくとも一部のコンボリューションフィルタの演算が遂行された結果から獲得された前記少なくとも２個の特定特徴マップが前記Ｎ−ｗａｙ  ＲＰＮに入力され、（ｉｉ）前記学習イメージ上の客体と対応する前記原本正解の客体に該当する領域のピクセルデータの個数が前記所定の第１臨界値よりも大きいか同じ場合、前記第１既設定コンボリューションフィルタの演算よりも後行する少なくとも一部のコンボリューションフィルタの演算または前記第１既設定コンボリューションフィルタの演算が遂行された結果から獲得された前記少なくとも２個の特定特徴マップが前記Ｎ−ｗａｙ  ＲＰＮに入力されることを特徴とする請求項２２に記載の学習装置。
【請求項２４】
前記学習イメージ上の客体と対応される前記原本正解の客体に該当する領域のピクセルデータの個数が所定の第２臨界値よりも小さい場合、前記コンボリューション演算は前記複数のコンボリューションフィルタのうち第２既設定コンボリューションフィルタの演算よりも先行するコンボリューションフィルタの演算まで遂行され、前記演算が遂行された結果マルチスケールされた前記複数の特徴マップが獲得されることを特徴とする請求項２２に記載の学習装置。
【請求項２５】
前記（３）プロセスで、
前記プロセッサは、（ｉ）前記ＦＣレイヤをもって、クラシフィケーション演算を通じて前記学習イメージの前記客体の種類に対する情報を獲得するようにするプロセス、及び（ｉｉ）前記ロスレイヤをもって、前記学習イメージの前記客体の種類に対する情報と前記原本正解（Ｇｒｏｕｎｄ  Ｔｒｕｔｈ）の客体の種類に対する情報と比較して第２比較データを獲得するようにするプロセスを遂行し、前記第２比較データを利用してバックプロパゲーションを遂行して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを遂行するか遂行するように支援することを特徴とする請求項１６に記載の学習装置。
【請求項２６】
ＣＮＮ（ＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋ）を含むテスティング装置を用いて、マルチスケールされた複数のテスト用特徴マップからテストイメージ上のテスト用客体に対応するテスト用バウンディングボックスの獲得を支援するためのテスティング装置において、
（ｉ）学習イメージが複数のコンボリューションレイヤを経ながら所定の演算が遂行された結果マルチスケールされた複数の特徴マップが獲得されると、学習装置が、Ｎ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）をもって、マルチスケールされた前記複数の特徴マップのうち少なくとも２個の特定特徴マップを獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個の特定特徴マップに所定の演算を遂行して所定個数のプロポーザルボックスを獲得するプロセス、（ｉｉ）前記学習装置が、Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個の特定特徴マップ上で前記所定個数のプロポーザルボックスに対応する領域各々をプーリングして複数個のプーリング済み特徴マップを生成するプロセス、（ｉｉｉ）前記学習装置が、ＦＣレイヤをもって、前記複数個のプーリング済み特徴マップにリグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにし、ロスレイヤをもって、前記学習イメージの前記バウンディングボックスのピクセルデータの情報と原本正解イメージの原本正解バウンディングボックスのピクセルデータに対する情報を比較して第１比較データを獲得して、バックプロパゲーションを遂行する間前記第１比較データを利用して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを完了した状態で、前記テストイメージを獲得するための通信部；及び
（１）前記Ｎ−ｗａｙ  ＲＰＮをもって、マルチスケールされた前記複数のテスト用特徴マップのうち少なくとも２個のテスト用特定特徴マップを入力として獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個のテスト用特定特徴マップに所定の演算を遂行して所定個数のテスト用プロポーザルボックスを獲得するようにするか獲得するように支援するプロセス；（２）前記Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個のテスト用特定特徴マップ上で前記所定個数のテスト用プロポーザルボックスに対応する領域各々をプーリングして複数個のテスト用プーリング済み特徴マップを生成するようにするか生成するように支援するプロセス；及び（３）前記ＦＣレイヤをもって、前記複数個のテスト用プーリング済み特徴マップにリグレッション演算を通じて前記テスト用バウンディングボックスのピクセルデータに対する情報を獲得するようにするか獲得するように支援するようにするプロセス；を遂行するプロセッサ；
を含むテスティング装置。
【請求項２７】
前記（３）プロセスで、
前記プロセッサが、（ｉ）前記Ｎ−ｗａｙプーリングレイヤをもって、前記複数個のテスト用プーリング済み特徴マップをコンカチネートして所定のテスト用特徴ベクタを獲得するようにするプロセス、及び（ｉｉ）前記ＦＣレイヤをもって、前記テスト用特徴ベクタに前記リグレッション演算を通じて前記テスト用バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセスを遂行するか遂行するように支援することを特徴とする請求項２６に記載のテスティング装置。
【請求項２８】
前記（１）プロセスで、
前記テスティング装置が、マルチスケールされた前記複数のテスト用特徴マップのうち前記少なくとも２個のテスト用特定特徴マップから生成された全体テスト用アンカーボックスのうち前記所定個数のテスト用プロポーザルボックスを獲得することにおいて、
前記原本正解バウンディングボックスを参照して前記全体テスト用アンカーボックス各々が少なくとも一つの客体を含むか否かを示す確率値であるスコアを求め、前記Ｎ−ｗａｙ  ＲＰＮをもって、前記スコアを参照して前記所定個数のテスト用プロポーザルボックスを生成するようにすることを特徴とする請求項２６に記載のテスティング装置。
【請求項２９】
前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、マルチスケールされた前記複数のテスト用特徴マップのうち前記少なくとも２個のテスト用特定特徴マップが前記少なくとも２個のテスト用特定特徴マップ各々に対応する各々のＲＰＮ用コンボリューションフィルタに入力して前記ＲＰＮ用コンボリューションフィルタの所定演算を通じて前記全体テスト用アンカーボックスの前記スコアまたは前記全体テスト用アンカーボックスの座標情報を獲得することを特徴とする請求項２８に記載のテスティング装置。
【請求項３０】
前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、前記ＮＭＳユニットをもって、前記全体テスト用アンカーボックスのスコアのうちそのスコアの大きさが上位Ｋ個のスコアに該当するスコアを有する前記所定個数のテスト用プロポーザルボックスを選定するようにすることを特徴とする請求項２８に記載のテスティング装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明はマルチスケール特徴マップを利用してＣＮＮのパラメータを調節するための学習方法、学習装置及びこれを利用したテスティング方法、テスティング装置に関し、より詳細には、（ａ）前記学習イメージが複数のコンボリューションレイヤを経ながら所定の演算が遂行された結果マルチスケールされた前記複数の特徴マップが獲得されると、学習装置が、Ｎ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）をもって、前記マルチスケールされた複数の特徴マップのうち少なくとも２個の特定特徴マップを獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個の特定特徴マップに所定の演算を遂行して所定個数のプロポーザルボックスを獲得するか獲得するように支援する段階；（ｂ）前記学習装置が、Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個の特定特徴マップ上で前記所定個数のプロポーザルボックス領域に対応される領域各々をプーリングして複数個のプーリング済み特徴マップを生成するか生成するように支援する段階；及び（ｃ）前記学習装置が、（ｉ）ＦＣレイヤをもって、前記複数個のプーリング済み特徴マップにリグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセス及び（ｉｉ）ロスレイヤをもって、前記学習イメージの前記バウンディングボックスのピクセルデータの情報と原本正解イメージの原本正解バウンディングボックスのピクセルデータに対する情報を比較して第１比較データを獲得し、バックプロパゲーションを遂行する間前記第１比較データを利用して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを遂行するか遂行するように支援する段階；を含むＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）を用いて、マルチスケールされた複数の特徴マップから学習イメージ上の客体に対応するバウンディングボックスの獲得を支援するための学習方法、学習装置及びこれを利用したテスティング方法、テスティング装置に関する。
【背景技術】
【０００２】
マシンラーニングで、コンボリューションニューラルネットワーク（ＣＮＮ、ＣｏｎｖＮｅｔ）は視覚的イメージ分析に成功的に適用されたｄｅｅｐ、ｆｅｅｄ−ｆｏｒｗａｒｄ人工ニューラルネットワークの一つのクラスである。
【０００３】
図１は既存のＣＮＮを用いた学習過程を示したものであって、学習装置によって予測されたバウンディングボックスを原本正解のバウンディングボックスと比較する過程を示した図面である。
【０００４】
図１を参照すれば、既存の学習装置がバウンディングボックスを獲得してこれを原本正解のバウンディングボックスと比較してロス値を獲得する過程が示されている。ここで、ロスはバウンディングボックスと原本正解のバウンディングボックスの差値を意味して、図１ではｄｘc，ｄｙｃ，ｄｗ，ｄｈと示されている。
【０００５】
まず、図１に示されたような学習装置は入力としてＲＧＢイメージを獲得してコンボリューションブロックに含まれる多数のコンボリューションレイヤ、多数のコンボリューションフィルタに入力させる。ＲＧＢイメージは多数個のコンボリューションレイヤを通過するにつれ大きさ、即ち、幅、高さが減少するが、チャネル数は増加する。
【０００６】
図１の学習装置はＲＰＮ（ＲＥＧＩＯＮ  ＰＲＯＰＯＳＡＬ  ＮＥＴＷＯＲＫ）をもって、前記コンボリューションブロックによって出力された最終的な特徴マップからプロポーザルボックスを獲得するようにし、プーリングレイヤ、即ちＲＯＩプーリングレイヤをもって、前記プロポーザルボックスに対応される前記特徴マップ上の領域に含まれたピクセルデータに対してマックスプーリングまたは平均プーリングのうちいずれか一つを適用して、プロポーザルボックスに対応される特徴マップ上の領域を、所定の大きさ（例えば、２×２サイズ）にリサイズさせる。その結果プーリングされた特徴マップが獲得される。ここで、マックスプーリング演算は、図１に示されたように、プーリング対象領域の各細部区域毎に該当細部区域で最大の値を代表値に各々選定する方法である。一方、平均プーリングは各細部区域毎に該当細部区域の平均値を代表値に各々選定する方法である。
【０００７】
次に、マックスプーリングまたは平均プーリングによってプーリングされた特徴マップ（以下では”プーリング済み特徴マップ”とする）はＦＣ（ｆｕｌｌｙ  ｃｏｎｎｅｃｔｅｄ  ｌａｙｅｒ）レイヤに入力される。また、学習装置は、ＦＣレイヤをもってクラシフィケーションなどの演算を通じて入力されたＲＧＢイメージ上の客体の種類が何であるかを確認し得る。参考までに、前記プーリング済み特徴マップは特徴ベクタと称することもある。
【０００８】
また、前記入力されたＲＧＢイメージ上でのバウンディングボックスをＦＣレイヤによって獲得し得て、前記獲得されたバウンディングボックスを原本正解（ｇｒｏｕｎｄ  ｔｒｕｔｈ）のバウンディングボックスと比較して差値であるロス値が求められ得る。ここで、原本正解のバウンディングボックスはＲＧＢイメージ上の客体を正確に含むバウンディングボックスであって、一般的には人によって直接生成され得る。
【０００９】
最後に、図１の学習装置はバックプロパゲーションを遂行しながら前記ロス値を減少させるためにＦＣレイヤのパラメータ、ＲＰＮのパラメータ、多数個のコンボリューションレイヤのパラメータのうち少なくともいずれか一つを調節し得る。前記パラメータを調節した後、テスト装置を通じてテストイメージ上の客体に対応されるバウンディングボックスを獲得するようにし得る。
【００１０】
但し、前記調節されたパラメータを有するＣＮＮを含むテスティング装置はいまだ客体を正確に含むバウンディングボックスを獲得できないという短所があった。これはコンボリューション演算がテストイメージに複数回遂行された結果獲得されたサイズが小さい特徴マップが利用されるため、特徴マップ上の一つのピクセルに対応される実際イメージ上のピクセルデータの個数が多いため、小さいピクセルデータの個数を含む客体を表現するには足りなかったためである。
【００１１】
従って、本発明者はマルチスケールされた複数の特徴マップから正確度が高いバウンディングボックスを獲得する学習方法、学習装置及びこれを利用したテスティング方法、テスティング装置を提案しようとする。
【発明の概要】
【発明が解決しようとする課題】
【００１２】
本発明は上述した問題点をすべて解決することを目的とする。
【００１３】
また、本発明はプーリングレイヤを通じて、マルチスケールされた複数の特徴マップのうち少なくとも２個の特定特徴マップ上で、Ｎ−ｗａｙ  ＲＰＮから獲得された所定個数のプロポーザルボックス領域に対応される領域各々をプーリングして複数個のプーリング済み特徴マップを生成するようにすることを目的とする。
【００１４】
また、本発明は前記複数個のプーリング済み特徴マップをコンカチネートし、これをＦＣレイヤに入力させてリグレッション演算を通じてバウンディングボックスを獲得して、前記獲得したバウンディングボックスを原本正解のバウンディングボックスと比較して獲得したロスを利用してバックプロパゲーションを遂行しながらパラメータを調節し得るようにすることを目的とする。
【００１５】
また、本発明は前記調節されたパラメータで後にテストイメージ上でより正確な客体を含むバウンディングボックスが獲得され得るように支援することを他の目的とする。
【課題を解決するための手段】
【００１６】
前記のような本発明の目的を達成し、後述する本発明の特徴的な効果を実現するための、本発明の特徴的な構成は下記のとおりである。
【００１７】
本発明の一態様によれば、ＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）を用いて、マルチスケールされた複数の特徴マップから学習イメージ上の客体に対応するバウンディングボックスの獲得を支援するための学習方法は、（ａ）前記学習イメージが複数のコンボリューションレイヤを経ながら所定の演算が遂行された結果マルチスケールされた前記複数の特徴マップが獲得されると、学習装置が、Ｎ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）をもって、前記マルチスケールされた複数の特徴マップのうち少なくとも２個の特定特徴マップを獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個の特定特徴マップに所定の演算を遂行して所定個数のプロポーザルボックスを獲得するか獲得するように支援する段階；（ｂ）前記学習装置が、Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個の特定特徴マップ上で前記所定個数のプロポーザルボックス領域に対応される領域各々をプーリングして複数個のプーリング済み特徴マップを生成するか生成するように支援する段階；及び（ｃ）前記学習装置が、（ｉ）ＦＣレイヤをもって、前記複数個のプーリング済み特徴マップにリグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセス及び（ｉｉ）ロスレイヤをもって、前記学習イメージの前記バウンディングボックスのピクセルデータの情報と原本正解イメージの原本正解バウンディングボックスのピクセルデータに対する情報を比較して第１比較データを獲得し、バックプロパゲーションを遂行する間前記第１比較データを利用して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを遂行するか遂行するように支援する段階；を含む学習方法が提供される。
【００１８】
一例として、前記（ｃ）段階で、前記学習装置が、（ｉ）前記Ｎ−ｗａｙプーリングレイヤをもって、前記複数個のプーリング済み特徴マップをコンカチネートして所定の特徴ベクタを獲得するようにするプロセス、（ｉｉ）前記ＦＣレイヤをもって、前記特徴ベクタに前記リグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセス、及び（ｉｉｉ）前記ロスレイヤをもって、前記バウンディングボックスのピクセルデータに対する情報を前記原本正解バウンディングボックスのピクセルデータに対する情報と比較して前記第１比較データを獲得し、前記第１比較データを利用してバックプロパゲーションを遂行して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセス；を遂行するか遂行するように支援することを特徴とする学習方法が提供される。
【００１９】
一例として、前記（ａ）段階で、前記マルチスケールされた特徴マップのうち前記少なくとも２個の特定特徴マップから生成された全体アンカーボックスのうち前記所定個数のプロポーザルボックスを獲得することにおいて、前記学習装置が、前記原本正解バウンディングボックスを参照して前記全体アンカーボックス各々が少なくとも一つの客体を含むか否かを示す確率値であるスコアを求め、前記Ｎ−ｗａｙ  ＲＰＮをもって、前記スコアを参照して前記所定個数のプロポーザルボックスを生成するようにすることを特徴とする学習方法が提供される。
【００２０】
一例として、前記各々のスコアは、（ｉ）前記全体アンカーボックス各々の領域と前記原本正解バウンディングボックスの領域の和集合（ｕｎｉｏｎ）に該当する領域対比、（ｉｉ）前記全体アンカーボックス各々の領域と前記原本正解バウンディングボックスの領域の交差集合（ｉｎｔｅｒｓｅｃｔｉｏｎ）に該当される領域の面積の比率を参照して決定された値であることを特徴とする学習方法が提供される。
【００２１】
一例として、前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、前記マルチスケールされた特徴マップのうち前記少なくとも２個の特定特徴マップが前記少なくとも２個の特定特徴マップ各々に対応される各々のＲＰＮ用コンボリューションフィルタに入力して前記ＲＰＮ用コンボリューションフィルタの所定演算を通じて前記全体アンカーボックスの前記スコアまたは前記全体アンカーボックスの座標情報を獲得することを特徴とする学習方法が提供される。
【００２２】
一例として、前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−ＭａｘｉｍｕｍＳｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、前記ＮＭＳユニットをもって、前記全体アンカーボックスのスコアのうちそのスコアの大きさが上位Ｋ個のスコアに該当するスコアを有する前記所定個数のプロポーザルボックスを選定するようにすることを特徴とする学習方法が提供される。
【００２３】
一例として、前記複数のコンボリューションレイヤが少なくとも第ｋレイヤ、第ｋ＋１レイヤ（１＜＝ｋ＜＝ｎ但し、ｎは２以上の自然数）を含み、前記第ｋ＋１レイヤは前記第ｋレイヤの演算以後に後行するレイヤとする時、前記第ｋ＋１プーリング済み特徴マップに演算を遂行して前記ＦＣレイヤから獲得した前記第ｋ＋１バウンディングボックスの領域に含まれたピクセルデータの個数は、前記第ｋプーリング済み特徴マップに同一の演算を遂行して前記ＦＣレイヤから獲得した前記第ｋバウンディングボックスの領域に含まれたピクセルデータの個数よりも多いか同じであることを特徴とする学習方法が提供される。
【００２４】
一例として、（ｉ）前記学習イメージ上の客体と対応される前記原本正解の客体に該当する領域のピクセルデータの個数が所定の第１臨界値よりも小さい場合、第１既設定コンボリューションフィルタの演算よりも先行する少なくとも一部のコンボリューションフィルタの演算が遂行された結果から獲得された前記少なくとも２個の特定特徴マップが前記Ｎ−ｗａｙ  ＲＰＮに入力され、（ｉｉ）前記学習イメージ上の客体と対応される前記原本正解の客体に該当する領域のピクセルデータの個数が前記所定の第１臨界値よりも大きいか同じ場合、前記第１既設定コンボリューションフィルタの演算よりも後行する少なくとも一部のコンボリューションフィルタの演算または前記第１既設定コンボリューションフィルタの演算が遂行された結果から獲得された前記少なくとも２個の特定特徴マップが前記Ｎ−ｗａｙ  ＲＰＮに入力されることを特徴とする学習方法が提供される。
【００２５】
一例として、前記学習イメージ上の客体と対応される前記原本正解の客体に該当する領域のピクセルデータの個数が所定の第２臨界値よりも小さい場合、前記コンボリューション演算は前記複数のコンボリューションフィルタのうち第２既設定コンボリューションフィルタの演算よりも先行するコンボリューションフィルタの演算まで遂行され、前記演算が遂行された結果前記マルチスケールされた前記複数の特徴マップが獲得されることを特徴とする学習方法が提供される。
【００２６】
一例として、前記（ｃ）段階で、前記学習装置は、（ｉ）前記ＦＣレイヤをもって、クラシフィケーション演算を通じて前記学習イメージの前記客体の種類に対する情報を獲得するようにするプロセス、及び（ｉｉ）前記ロスレイヤをもって、前記学習イメージの前記客体の種類に対する情報と前記原本正解（Ｇｒｏｕｎｄ  Ｔｒｕｔｈ）の客体の種類に対する情報と比較して第２比較データを獲得するようにするプロセスを遂行し、前記第２比較データを利用してバックプロパゲーションを遂行して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを遂行するか遂行するように支援することを特徴とする学習方法が提供される。
【００２７】
本発明の他の態様によれば、ＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）を含むテスティング装置を用いて、マルチスケールされた複数のテスト用特徴マップからテストイメージ上のテスト用客体に対応するテスト用バウンディングボックスの獲得を支援するための方法は、（ａ）（１）前記学習イメージが複数のコンボリューションレイヤを経ながら所定の演算が遂行された結果マルチスケールされた前記複数の特徴マップが獲得されると、学習装置が、Ｎ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）をもって、前記マルチスケールされた複数の特徴マップのうち少なくとも２個の特定特徴マップを獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個の特定特徴マップに所定の演算を遂行して所定個数のプロポーザルボックスを獲得するプロセス、（２）前記学習装置が、Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個の特定特徴マップ上で前記所定個数のプロポーザルボックス領域に対応される領域各々をプーリングして複数個のプーリング済み特徴マップを生成するプロセス、（３）前記学習装置が、ＦＣレイヤをもって、前記複数個のプーリング済み特徴マップにリグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにし、ロスレイヤをもって、前記学習イメージの前記バウンディングボックスのピクセルデータの情報と原本正解イメージの原本正解バウンディングボックスのピクセルデータに対する情報を比較して第１比較データを獲得して、バックプロパゲーションを遂行する間前記第１比較データを利用して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを完了した状態で、前記テストイメージに対するコンボリューション演算の結果として複数のマルチスケールされた複数のテスト用特徴マップが生成されると、前記テスト装置が、Ｎ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）をもって、前記マルチスケールされた複数のテスト用特徴マップのうち少なくとも２個のテスト用特定特徴マップを入力として獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個のテスト用特定特徴マップに所定の演算を遂行して所定個数のテスト用プロポーザルボックスを獲得するようにするか獲得するように支援する段階；（ｂ）前記テスティング装置が、Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個のテスト用特定特徴マップ上で前記所定個数のテスト用プロポーザルボックス領域に対応される領域各々をプーリングして複数個のテスト用プーリング済み特徴マップを生成するようにするか生成するように支援する段階；及び（ｃ）前記テスティング装置が、ＦＣレイヤをもって、前記複数個のテスト用プーリング済み特徴マップにリグレッション演算を通じて前記テスト用バウンディングボックスのピクセルデータに対する情報を獲得するようにするか獲得するように支援するようにする段階；を含む方法が提供される。
【００２８】
一例として、前記（ｃ）段階で、前記テスティング装置が、（ｉ）前記Ｎ−ｗａｙプーリングレイヤをもって、前記複数個のテスト用プーリング済み特徴マップをコンカチネートして所定のテスト用特徴ベクタを獲得するようにするプロセス、及び（ｉｉ）前記ＦＣレイヤをもって、前記テスト用特徴ベクタに前記リグレッション演算を通じて前記テスト用バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセスを遂行するか遂行するように支援することを特徴とするテスト方法が提供される。
【００２９】
一例として、前記（ａ）段階で、前記テスティング装置が、前記マルチスケールされたテスト用特徴マップのうち前記少なくとも２個のテスト用特定特徴マップから生成された全体テスト用アンカーボックスのうち前記所定個数のテスト用プロポーザルボックスを獲得することにおいて、前記原本正解バウンディングボックスを参照して前記全体テスト用アンカーボックス各々が少なくとも一つの客体を含むか否かを示す確率値であるスコアを求め、前記Ｎ−ｗａｙ  ＲＰＮをもって、前記スコアを参照して前記所定個数のテスト用プロポーザルボックスを生成するようにすることを特徴とする方法が提供される。
【００３０】
一例として、前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、前記マルチスケールされたテスト用特徴マップのうち前記少なくとも２個のテスト用特定特徴マップが前記少なくとも２個のテスト用特定特徴マップ各々に対応される各々のＲＰＮ用コンボリューションフィルタに入力して前記ＲＰＮ用コンボリューションフィルタの所定演算を通じて前記全体テスト用アンカーボックスの前記スコアまたは前記全体テスト用アンカーボックスの座標情報を獲得することを特徴とする方法が提供される。
【００３１】
一例として、前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、前記ＮＭＳユニットをもって、前記全体テスト用アンカーボックスのスコアのうちそのスコアの大きさが上位Ｋ個のスコアに該当するスコアを有する前記所定個数のテスト用プロポーザルボックスを選定するようにすることを特徴とする方法が提供される。
【００３２】
本発明のまた他の態様によれば、ＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）を用いて、マルチスケールされた複数の特徴マップから学習イメージ上の客体に対応するバウンディングボックスの獲得を支援するための学習装置は、前記学習イメージを獲得するための通信部；及び（１）前記学習イメージが複数のコンボリューションレイヤを経ながら所定の演算が遂行された結果マルチスケールされた前記複数の特徴マップが獲得されると、Ｎ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）をもって、前記マルチスケールされた複数の特徴マップのうち少なくとも２個の特定特徴マップを獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個の特定特徴マップに所定の演算を遂行して所定個数のプロポーザルボックスを獲得するか獲得するように支援するプロセス；（２）Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個の特定特徴マップ上で前記所定個数のプロポーザルボックス領域に対応される領域各々をプーリングして複数個のプーリング済み特徴マップを生成するか生成するように支援するプロセス；及び（３）（ｉ）ＦＣレイヤをもって、前記複数個のプーリング済み特徴マップにリグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセス及び（ｉｉ）ロスレイヤをもって、前記学習イメージの前記バウンディングボックスのピクセルデータの情報と原本正解イメージの原本正解バウンディングボックスのピクセルデータに対する情報を比較して第１比較データを獲得し、バックプロパゲーションを遂行する間前記第１比較データを利用して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを遂行するか遂行するように支援するプロセッサ；を含む学習装置が提供される。
【００３３】
一例として、前記（３）プロセスで、前記プロセッサが、（ｉ）前記Ｎ−ｗａｙプーリングレイヤをもって、前記複数個のプーリング済み特徴マップをコンカチネートして所定の特徴ベクタを獲得するようにするプロセス、（ｉｉ）前記ＦＣレイヤをもって、前記特徴ベクタに前記リグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセス、及び（ｉｉｉ）前記ロスレイヤをもって、前記バウンディングボックスのピクセルデータに対する情報を前記原本正解バウンディングボックスのピクセルデータに対する情報と比較して前記第１比較データを獲得し、前記第１比較データを利用してバックプロパゲーションを遂行して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセス；を遂行するか遂行するように支援することを特徴とする学習装置が提供される。
【００３４】
一例として、前記（１）プロセスで、前記マルチスケールされた特徴マップのうち前記少なくとも２個の特定特徴マップから生成された全体アンカーボックスのうち前記所定個数のプロポーザルボックスを獲得することにおいて、前記プロセッサが、前記原本正解バウンディングボックスを参照して前記全体アンカーボックス各々が少なくとも一つの客体を含むか否かを示す確率値であるスコアを求め、前記Ｎ−ｗａｙ  ＲＰＮをもって、前記スコアを参照して前記所定個数のプロポーザルボックスを生成するようにすることを特徴とする学習装置が提供される。
【００３５】
一例として、前記各々のスコアは、（ｉ）前記全体アンカーボックス各々の領域と前記原本正解バウンディングボックスの領域の和集合（ｕｎｉｏｎ）に該当する領域対比、（ｉｉ）前記全体アンカーボックス各々の領域と前記原本正解バウンディングボックスの領域の交差集合（ｉｎｔｅｒｓｅｃｔｉｏｎ）に該当される領域の面積の比率を参照して決定された値であることを特徴とする学習装置が提供される。
【００３６】
一例として、前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、前記マルチスケールされた特徴マップのうち前記少なくとも２個の特定特徴マップが前記少なくとも２個の特定特徴マップ各々に対応される各々のＲＰＮ用コンボリューションフィルタに入力して前記ＲＰＮ用コンボリューションフィルタの所定演算を通じて前記全体アンカーボックスの前記スコアまたは前記全体アンカーボックスの座標情報を獲得することを特徴とする学習装置が提供される。
【００３７】
一例として、前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、前記ＮＭＳユニットをもって、前記全体アンカーボックスのスコアのうちそのスコアの大きさが上位Ｋ個のスコアに該当するスコアを有する前記所定個数のプロポーザルボックスを選定するようにすることを特徴とする学習装置が提供される。
【００３８】
一例として、前記複数のコンボリューションレイヤが少なくとも第ｋレイヤ、第ｋ＋１レイヤ（１＜＝ｋ＜＝ｎ但し、ｎは２以上の自然数）を含み、前記第ｋ＋１レイヤは前記第ｋレイヤの演算以後に後行するレイヤとする時、前記第ｋ＋１プーリング済み特徴マップに演算を遂行して前記ＦＣレイヤから獲得した前記第ｋ＋１バウンディングボックスの領域に含まれたピクセルデータの個数は、前記第ｋプーリング済み特徴マップに同一の演算を遂行して前記ＦＣレイヤから獲得した前記第ｋバウンディングボックスの領域に含まれたピクセルデータの個数よりも多いか同じであることを特徴とする学習装置が提供される。
【００３９】
一例として、（ｉ）前記学習イメージ上の客体と対応される前記原本正解の客体に該当する領域のピクセルデータの個数が所定の第１臨界値よりも小さい場合、第１既設定コンボリューションフィルタの演算よりも先行する少なくとも一部のコンボリューションフィルタの演算が遂行された結果から獲得された前記少なくとも２個の特定特徴マップが前記Ｎ−ｗａｙ  ＲＰＮに入力され、（ｉｉ）前記学習イメージ上の客体と対応される前記原本正解の客体に該当する領域のピクセルデータの個数が前記所定の第１臨界値よりも大きいか同じ場合、前記第１既設定コンボリューションフィルタの演算よりも後行する少なくとも一部のコンボリューションフィルタの演算または前記第１既設定コンボリューションフィルタの演算が遂行された結果から獲得された前記少なくとも２個の特定特徴マップが前記Ｎ−ｗａｙ  ＲＰＮに入力されることを特徴とする学習装置が提供される。
【００４０】
一例として、前記学習イメージ上の客体と対応される前記原本正解の客体に該当する領域のピクセルデータの個数が所定の第２臨界値よりも小さい場合、前記コンボリューション演算は前記複数のコンボリューションフィルタのうち第２既設定コンボリューションフィルタの演算よりも先行するコンボリューションフィルタの演算まで遂行され、前記演算が遂行された結果前記マルチスケールされた前記複数の特徴マップが獲得されることを特徴とする学習装置が提供される。
【００４１】
一例として、前記（３）プロセスで、前記プロセッサは、（ｉ）前記ＦＣレイヤをもって、クラシフィケーション演算を通じて前記学習イメージの前記客体の種類に対する情報を獲得するようにするプロセス、及び（ｉｉ）前記ロスレイヤをもって、前記学習イメージの前記客体の種類に対する情報と前記原本正解（Ｇｒｏｕｎｄ  Ｔｒｕｔｈ）の客体の種類に対する情報と比較して第２比較データを獲得するようにするプロセスを遂行し、前記第２比較データを利用してバックプロパゲーションを遂行して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを遂行するか遂行するように支援することを特徴とする学習装置が提供される。
【００４２】
本発明のまた他の態様によれば、ＣＮＮ（ＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋ）を含むテスティング装置を用いて、マルチスケールされた複数のテスト用特徴マップからテストイメージ上のテスト用客体に対応するテスト用バウンディングボックスの獲得を支援するためのテスティング装置は、（ｉ）前記学習イメージが複数のコンボリューションレイヤを経ながら所定の演算が遂行された結果マルチスケールされた前記複数の特徴マップが獲得されると、学習装置が、Ｎ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）をもって、前記マルチスケールされた複数の特徴マップのうち少なくとも２個の特定特徴マップを獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個の特定特徴マップに所定の演算を遂行して所定個数のプロポーザルボックスを獲得するプロセス、（ｉｉ）前記学習装置が、Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個の特定特徴マップ上で前記所定個数のプロポーザルボックス領域に対応される領域各々をプーリングして複数個のプーリング済み特徴マップを生成するプロセス、（ｉｉｉ）前記学習装置が、ＦＣレイヤをもって、前記複数個のプーリング済み特徴マップにリグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにし、ロスレイヤをもって、前記学習イメージの前記バウンディングボックスのピクセルデータの情報と原本正解イメージの原本正解バウンディングボックスのピクセルデータに対する情報を比較して第１比較データを獲得して、バックプロパゲーションを遂行する間前記第１比較データを利用して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを完了した状態で、前記テストイメージを獲得するための通信部；及び（１）Ｎ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）をもって、前記マルチスケールされた複数のテスト用特徴マップのうち少なくとも２個のテスト用特定特徴マップを入力として獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個のテスト用特定特徴マップに所定の演算を遂行して所定個数のテスト用プロポーザルボックスを獲得するようにするか獲得するように支援するプロセス；（２）Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個のテスト用特定特徴マップ上で前記所定個数のテスト用プロポーザルボックス領域に対応される領域各々をプーリングして複数個のテスト用プーリング済み特徴マップを生成するようにするか生成するように支援するプロセス；及び（３）ＦＣレイヤをもって、前記複数個のテスト用プーリング済み特徴マップにリグレッション演算を通じて前記テスト用バウンディングボックスのピクセルデータに対する情報を獲得するようにするか獲得するように支援するようにするプロセス；を遂行するプロセッサ；を含むテスティング装置が提供される。
【００４３】
一例として、前記（３）プロセスで、前記プロセッサが、（ｉ）前記Ｎ−ｗａｙプーリングレイヤをもって、前記複数個のテスト用プーリング済み特徴マップをコンカチネートして所定のテスト用特徴ベクタを獲得するようにするプロセス、及び（ｉｉ）前記ＦＣレイヤをもって、前記テスト用特徴ベクタに前記リグレッション演算を通じて前記テスト用バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセスを遂行するか遂行するように支援することを特徴とするテスティング装置が提供される。
【００４４】
一例として、前記（１）プロセスで、前記テスティング装置が、前記マルチスケールされたテスト用特徴マップのうち前記少なくとも２個のテスト用特定特徴マップから生成された全体テスト用アンカーボックスのうち前記所定個数のテスト用プロポーザルボックスを獲得することにおいて、前記原本正解バウンディングボックスを参照して前記全体テスト用アンカーボックス各々が少なくとも一つの客体を含むか否かを示す確率値であるスコアを求め、前記Ｎ−ｗａｙ  ＲＰＮをもって、前記スコアを参照して前記所定個数のテスト用プロポーザルボックスを生成するようにすることを特徴とするテスティング装置が提供される。
【００４５】
一例として、前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、前記マルチスケールされたテスト用特徴マップのうち前記少なくとも２個のテスト用特定特徴マップが前記少なくとも２個のテスト用特定特徴マップ各々に対応される各々のＲＰＮ用コンボリューションフィルタに入力して前記ＲＰＮ用コンボリューションフィルタの所定演算を通じて前記全体テスト用アンカーボックスの前記スコアまたは前記全体テスト用アンカーボックスの座標情報を獲得することを特徴とするテスティング装置が提供される。
【００４６】
一例として、前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、前記ＮＭＳユニットをもって、前記全体テスト用アンカーボックスのスコアのうちそのスコアの大きさが上位Ｋ個のスコアに該当するスコアを有する前記所定個数のテスト用プロポーザルボックスを選定するようにすることを特徴とするテスティング装置が提供される。
【発明の効果】
【００４７】
本発明によれば、マルチスケールされた複数の特徴マップのうち少なくとも２個の特定特徴マップ上で、ＲＰＮから獲得された所定個数のプロポーザルボックス領域に対応される領域各々をプーリングして複数個のプーリング済み特徴マップを生成し、前記複数個のプーリング済み特徴マップをコンカチネートしてこれをＦＣレイヤに入力させてリグレッション演算を通じてバウンディングボックスを獲得して、前記獲得したバウンディングボックスを原本正解のバウンディングボックスと比較して獲得したロスを利用してバックプロパゲーションを遂行しながらパラメータを調節し、前記調節されたパラメータで後にテストイメージ上でより正確な客体を含むバウンディングボックスが獲得され得るように支援する効果がある。
【図面の簡単な説明】
【００４８】
【図１】図１は、既存のＣＮＮの学習過程を示す。
【図２】図２は、本発明の一実施例にかかる学習装置のブロック図である。
【図３】図３は、本発明の一実施例にかかるマルチスケールされた複数の特徴マップのうち少なくとも２個の特定特徴マップに対して一連の演算を適用して所定の特徴ベクタを獲得する過程を示す図面である。
【図４】図４は、本発明の一実施例にかかる少なくとも２個の特徴マップに対してＮ−ｗａｙ  ＲＰＮによる演算を適用して所定個数のプロポーザルボックスを獲得する過程を示す図面である。
【図５】図５は、本発明の一実施例によって少なくとも２個の特徴マップに対してＮ−ｗａｙプーリングレイヤによるプーリング演算を適用して所定の特徴ベクタを獲得する過程を示す図面である。
【図６】図６は、本発明の一実施例にかかるテスティング装置のブロック図である。
【発明を実施するための形態】
【００４９】
後述する本発明に対する詳細な説明は、本発明が実施され得る特定の実施例を例示として示す添付図面を参照する。これらの実施例は当業者が本発明を実施することができるように充分詳細に説明される。本発明の多様な実施例は相互異なるが、相互排他的である必要はないことを理解されたい。例えば、ここに記載されている特定の形状、構造及び特性は一実施例にかかる本発明の精神及び範囲を逸脱せずに他の実施例で具現され得る。また、各々の開示された実施例内の個別構成要素の位置または配置は本発明の精神及び範囲を逸脱せずに変更され得ることを理解されたい。従って、後述する詳細な説明は限定的な意味で捉えようとするものではなく、本発明の範囲は、適切に説明されると、その請求項が主張することと均等なすべての範囲と、併せて添付された請求項によってのみ限定される。図面で類似する参照符号はいくつかの側面にかけて同一か類似する機能を指称する。
【００５０】
以下、本発明が属する技術分野で通常の知識を有する者が本発明を容易に実施することができるようにするために、本発明の好ましい実施例について添付の図面を参照して詳細に説明することとする。
【００５１】
図２は本発明の一実施例にかかる学習装置のブロック図である。
【００５２】
図２に示されたように、本発明の学習装置２００は通信部２１０とプロセッサ２２０を含み、場合によって図２とは異なり後述するデータベース２３０も含まれ得る。
【００５３】
ここで、本発明の学習装置２００はデジタル機器であって、プロセッサを搭載して演算能力を備えたデジタル機器であればいくらでも本発明にかかる学習装置２００として採択され得る。
【００５４】
通信部２１０は学習イメージまたは学習イメージから得られた特徴マップを獲得する構成である。
【００５５】
プロセッサ２２０は多数の互いに異なる大きさを有する特徴マップのうち少なくとも２個の特定特徴マップ上で、Ｎ−ｗａｙ  ＲＰＮから獲得された所定個数のプロポーザルボックス領域に対応される領域各々をプーリングして複数個のプーリング済み特徴マップを生成する。
【００５６】
また、プロセッサ２２０はコンカチネーション演算を通じて所定の特徴ベクタを獲得し、獲得された特徴ベクタをＦＣレイヤに通過させた結果得られた学習イメージのバウンディングボックスを原本正解のバウンディングボックスと比較して比較データを獲得して、獲得した比較データを利用してバックプロパゲーションを遂行しながらパラメータを調節するプロセスを遂行し得る。これについては後で詳細な説明を通じて詳細に説明することとする。
【００５７】
一方、データベース２３０は学習装置２００の通信部２１０によってアクセスが可能になり得て、獲得したバウンディングボックスと原本正解のバウンディングボックスの比較値である比較データ情報、クラシフィケーション結果（即ち、クラス情報）、プロポーザルボックス領域に対する情報、パラメータのデータなどが記録され得る。参考までに、クラシフィケーション結果はＦＣレイヤを通じて獲得された物体がどのような形態に属するのか、即ち自動車か、歩行者か、信号かなどを示す情報を含む。
【００５８】
図３は本発明の一実施例にかかるマルチスケールされた複数の特徴マップのうち少なくとも２個の特定特徴マップに対して一連の演算を適用して所定の特徴ベクタを獲得する過程を示す図面である。
【００５９】
特徴ベクタ３０８を獲得する過程及び一連の演算が遂行される過程を下に具体的に説明する。
【００６０】
参考までに、前記図面では一つの学習装置２００だけを示したが、学習装置は複数個に分けて役割を遂行する場合もある。但し、説明の便宜上、本発明の明細書では学習装置が一つから具現されると想定して説明することとする。
【００６１】
また、本発明にかかる学習装置２００は多数個のコンボリューションレイヤ３１１〜３１５を備えたコンボリューションブロック３１０、Ｎ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）３２０、Ｎ−ｗａｙプーリングレイヤ３３０及びＦＣレイヤ（未図示）などを含む。
【００６２】
図３に示されたように、入力イメージとして学習イメージ３０１がコンボリューションブロック３１０に入力されると、学習装置２００は多数のコンボリューションレイヤ３１１〜３１５を通じたコンボリューション演算を多数回遂行してマルチスケールされた複数個の特徴マップ３０２〜３０６、即ちマルチスケールされた特徴マップを獲得し得る。例えば、前記コンボリューションブロック３１０には５個のレイヤ１１、１２、１３、１４、１５が存在する。前記入力された学習イメージに対して前記各レイヤの演算が遂行されるたびに獲得される特徴マップ３０２〜３０６の幅、高さは減少し、チャネルは増加し得る。
【００６３】
例えば、幅が１２８０、高さが７２０、チャネルが３である入力イメージ３０１が第１コンボリューションレイヤ３１１に入力された結果、幅が６４０、高さが３６０、チャネルが１６である特徴マップ３０２が獲得され得る。同様に、学習装置２００は第２コンボリューションレイヤ３１２をもって入力イメージとして特徴マップ３０２を受信して３２０×１８０ピクセルサイズでチャネル数が３２である特徴マップ３０３を生成するようにし得る。残りのコンボリューションレイヤもこれと同一の過程に従い、これに伴い、学習装置２００はすべての特徴マップ３０２〜３０６のうち最小、例えば４０×２３ピクセルサイズと、最大チャネル数、例えば２５６チャネル数を有する最終特徴マップ３０６を生成し得る。
【００６４】
ここで、特徴マップの幅、高さが増える程度及びチャネルが減る程度は各コンボリューションレイヤのパラメータによって異なり得る。
【００６５】
前記複数の特徴マップが獲得された後、前記複数の特徴マップのうち少なくとも２個の特定特徴マップがＮ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）３２０に入力されると、学習装置２００は前記Ｎ−ｗａｙ  ＲＰＮ３２０をもって所定個数のプロポーザルボックス３０７を獲得するようにし得る。
【００６６】
図３を参照すれば、本発明の好ましい一実施例によって、学習装置２００はコンボリューションブロック３１０に含まれた５個のコンボリューションレイヤ３１１、３１２、３１３、３１４、３１５からマルチスケールされた特徴マップ３０２〜３０６が各々生成されるようにする。各々の５個のコンボリューションレイヤ３１１〜３１５を通じて一つずつ生成された前記複数個の特徴マップのうち、少なくとも２個の特定特徴マップがＮ−ｗａｙ  ＲＰＮ３２０に入力されて、所定個数のプロポーザルボックス３０７を獲得するための所定の演算が遂行され得る。
【００６７】
特に、学習装置２００は３個の特定特徴マップ３０４、３０５及び３０６がＮ−ｗａｙ  ＲＰＮ３２０に伝送されるようにし、前記３個の特定特徴マップ３０４〜３０６上にＲＰＮ演算を遂行するようにする。
【００６８】
場合によって、学習装置２００は、多数の互いに異なる大きさを有する特徴マップのうち任意の２個以上の特定特徴マップが任意で選択されるようにし、選択される特定特徴マップの所定個数を何に決定するか基準なしで選択された特定特徴マップをＮ−ｗａｙ  ＲＰＮ３２０に伝達し得る。しかし、本発明の内容はこれに限定されない。図３に示されたところでは、学習装置２００は所定個数、例えば３個の特定特徴マップが選択されるようにし、これをＮ−ｗａｙ  ＲＰＮ３２０に伝達する。
【００６９】
これに伴い、学習装置２００はＮ−ｗａｙ  ＲＰＮ３２０をもって入力イメージとして２個以上の特定特徴マップと共に所定個数のプロポーザルボックス３０７が受信されて、入力にプーリング演算及びコンカチネーション演算を遂行して、出力として特徴ベクタ（ｆｅａｔｕｒｅ  ｖｅｃｔｏｒ）３０８を生成する。例えば、Ｎ−ｗａｙプーリングレイヤ３３０はプロポーザルボックス３０７と３個の特定特徴マップ３０４〜３０６を伝達される。
【００７０】
具体的に、学習装置２００はＮ−ｗａｙプーリングレイヤ３３０をもって、前記２個以上の特定特徴マップ上で、各プロポーザルボックスに対応する、領域各々をプーリング演算を遂行して多数個のプーリング済み特徴マップを生成し得る。好ましい実施例で、各プーリング演算は前記３個の特定特徴マップ上の、プロポーザルボックスに対応する、各領域に適用される。
【００７１】
図３を再び参照すれば、第３レイヤ３１３、第４レイヤ３１４、第５レイヤ３１５から生成された各特定特徴マップ３０４、３０５及び３０６がＮ−ｗａｙプーリングレイヤ３３０に入力され、併せて、Ｎ−ｗａｙ  ＲＰＮ３２０から獲得された所定個数のプロポーザルボックス３０７に対する情報もＮ−ｗａｙプーリングレイヤ３３０に提供されて特徴ベクタ（ｆｅａｔｕｒｅ  ｖｅｃｔｏｒ）３０８が生成される。
【００７２】
即ち、所定個数のプロポーザルボックスに対応される３個の特定特徴マップ上の領域情報がＮ−ｗａｙプーリングレイヤ３３０に提供される。但し、場合によって、Ｎ−ｗａｙプーリングレイヤ３３０で前記Ｎ−ｗａｙプーリングレイヤ３３０の入力である３個の特徴マップ上の情報と所定個数のプロポーザルボックスに対する情報を利用して上述した所定個数のプロポーザルボックスに対応される特徴マップ上の領域に対する情報を獲得する。
【００７３】
Ｎ−ｗａｙ  ＲＰＮ３２０及びＮ−ｗａｙプーリングレイヤ３３０に対する具体的な内容は下に説明する。図３には示されていなかったが、特徴ベクタ３０８がＦＣレイヤに伝送されると、リグレッション（ｒｅｇｒｅｓｓｉｏｎ）及びクラシフィケーション（ｃｌａｓｓｉｆｉｃａｔｉｏｎ）演算が前記特徴ベクタ３０８に遂行されて推定されたバウンディングボックスと物体のカテゴリが何かを知らせるクラシフィケーション結果が図１に示されたように生成される。
【００７４】
参考までに、学習装置２００はここに説明された機能またはプロセス各々を遂行するためのいくつかの他のデジタルコンピューティング装置が含まれ得る。それにもかかわらず、説明及び図示の便宜上、本発明では学習装置２００が一つの単一デジタルコンピューティング装置で具現されると仮定して説明した。
【００７５】
図４は本発明の一実施例にかかる少なくとも２個の互いに異なる大きさの特徴マップに対してＮ−ｗａｙ  ＲＰＮ２０による演算を適用して所定個数のプロポーザルボックスを獲得する過程を示す図面である。
【００７６】
一般的に、学習装置２００はＮ−ｗａｙ  ＲＰＮ３２０から２個以上の特定特徴マップから生成され得る全体アンカーボックスの中から選択された所定個数のプロポーザルボックス３０７を獲得し得る。ピクセル一つから任意の個数（例えば９個）のアンカーボックスが生成され得るので、前記全体アンカーボックスは少なくとも２個の特定特徴マップに含まれた各々のピクセルから生成可能である。全体アンカーボックスのうち一部がＮ−ｗａｙ  ＲＰＮ３２０で明確な基準によってプロポーザルボックス３０７に選択され得る。
【００７７】
ここで、前記明確な基準はＲＧＢイメージまたはテストイメージ内の客体を含む可能性を示す確率値であるスコアであり得る。Ｎ−ｗａｙ  ＲＰＮ３２０では原本正解（Ｇｒｏｕｎｄ  Ｔｒｕｔｈ）のバウンディングボックスを参照して全体アンカーボックス各々が客体を含むか否かを示す確率値であるスコアを求めるようになる。
【００７８】
ここで、前記スコアは前記全体アンカーボックス各々毎に前記各々のアンカーボックスの領域と原本正解のバウンディングボックスの領域の交差集合に該当される第１領域の面積が前記各々のアンカーボックスの領域と原本正解のバウンディングボックスの領域の和集合に該当する第２領域の面積に占める比率が演算された値であり得る。即ち、前記スコアは上述した第２領域の面積に対する前記第１領域の面積として計算された比率であり得る。例えば、比率、即ち第２領域に対して第１領域の比率が１／３で他の比率が１／３の場合、３／４のスコア値は１／３のスコア値よりもさらに大きいため、３／４のスコア値を有するアンカーボックスがプロポーザルボックスに選択され得る。これに伴い、学習装置２００はＮ−ｗａｙ  ＲＰＮ３２０から上位Ｋ個のスコアを有するアンカーボックスを選択することで所定個数、例えば３００個のプロポーザルボックス３０７を獲得し得る。
【００７９】
参考までに、前記スコア値は各生成されたアンカーボックスの中心座標と原本正解のバウンディングボックスの中心座標間の距離値で定義され得る。または、スコア値は生成されたアンカーボックスの高さまたは幅に対する原本正解のバウンディングボックスの高さまたは幅の比率で定義され得る。また、前記スコアは、生成されたアンカーボックスと原本正解のバウンディングボックスの所定の地点の座標間の距離を利用して定義されることもある。
【００８０】
図４を参照すれば、学習装置２００はＮ−ｗａｙ  ＲＰＮ３２０内のＲＰＮ用コンボリューションレイヤ４２１、４２２、４２３各々に各々の特定特徴マップ３０４〜３０６を一つずつ受信するようにして、前記３個の特定特徴マップ３０４〜３０６内に各々含まれた各ピクセルから全体アンカーボックスを生成するようにし得る。
【００８１】
ここで、例えば、各ピクセルは９個のアンカーボックスを生成し得て、各アンカーボックスは０から３２ピクセル範囲の幅と高さを有し得る。その後、上述したように、全体アンカーボックスの各スコアは特定演算を通じて計算され得る。また、前記スコアは原本正解バウンディングボックスを参照して対応するアンカーボックスが客体を含むか否かを示す確率値で示され得て、スコアはアンカーボックスの幅、高さ、座標情報を参照して計算され得る。全体アンカーボックス各々の幅、高さ、座標情報は学習イメージまたはテストイメージ上での対応するアンカーボックスの幅、高さ、座標情報を示しえる。
【００８２】
参考までに、全体アンカーボックスは少なくとも２個（図４では３個）の特定特徴マップから生成可能な互いに異なるサイズのアンカーボックスを意味する。例えば、図４に示されたように、前記各ＲＰＮ用コンボリューションレイヤ４２１、４２２、４２３各々はマルチスケールされた３個の特定特徴マップを受信し、これに対応するマルチスケールされたアンカーボックスを各々生成し得る。
【００８３】
即ち、第１ＲＰＮ用コンボリューションレイヤ４２１は８×８、１６×１６、３２×３２、６×１１、１１×２３、２３×４５、１１×６、２３×１１、及び４５×２３サイズのうち一つのサイズを有するアンカーボックスを生成するように設計され得る。同様に、第２ＲＰＮ用コンボリューションレイヤ４２２は３２×３２、６４×６４、１２８×１２８、２３×４５、４５×９１、９１×１８１、４５×２３、９１×４５、及び１８１×９１サイズのうち一つのサイズを有するアンカーボックスを生成し得る。最終的に、第３ＲＰＮ用コンボリューションレイヤ４２３は１２８×１２８、２５６×２５６、５１２×５１２、９１×１８１、１８１×３６２、３６２×７２５、１８１×９１、３６２×１８１、及び７２５×３６２サイズのうち一つのサイズを有するアンカーボックスを生成し得る。各特徴マップで各ピクセルが生成し得るアンカーボックスの数と各ピクセルによって生成されたアンカーボックスの各サイズはこれに限定されないことは当業者に自明である。
【００８４】
特に、各ＲＰＮ用コンボリューションレイヤ４２１〜４２３は多数の多様なサイズのアンカーボックスを生成するように設計されるため、互いに異なる大きさの特徴マップに演算を遂行するための特有のパラメータ、即ちウェイト（ｗｅｉｇｈｔ）を有し得る。場合によって、他のユニット、例えば、ボックス生成器が各々のＲＰＮ用コンボリューションレイヤの代わりに多数の互いに異なるサイズのアンカーボックスを生成するのに利用され得る。
【００８５】
ここで、ＲＰＮ用コンボリューションレイヤ各々によって遂行されるコンボリューション演算はコンボリューションブロック３１０内の５個のコンボリューションレイヤ各々によって遂行されるコンボリューション演算とは異なる。コンボリューションブロック３１０内の５個のコンボリューションレイヤ各々によって遂行されるコンボリューション演算が互いに異なる大きさを有する複数個の特徴マップ各々の情報を対応するアンカーボックスを生成するための情報にエンコーディングするものである反面、ＲＰＮ用コンボリューションレイヤ各々によって遂行されるコンボリューション演算は学習イメージまたはテストイメージ上の情報をｈｉｇｈ−ｌｅｖｅｌ特徴にエンコーディングするためのものである。
【００８６】
例えば、全体アンカーボックス各々にある情報はＲＰＮ用コンボリューションレイヤを通じて獲得された各々の特徴マップのチャネル数を示し得る。上述した例示で、各ピクセルは９個のアンカーボックスを生成し、これら各々はスコア１、スコア２、ｘ座標、ｙ座標、幅、高さに対する情報を含む。ここで、スコア１及びスコア２は各々アンカーボックスが前景（ｆｏｒｅｇｒｏｕｎｄ）客体または背景（ｂａｃｋｇｒｏｕｎｄ）情報を含む確率を示す。アンカーボックスの［ｘ、ｙ、幅、高さ］の情報は入力イメージ、即ち学習イメージまたはテストイメージ上のアンカーボックスの位置情報を示し得る。従って、各ＲＰＮ用コンボリューションレイヤによって遂行されるコンボリューション演算は多数の特定特徴マップ各々のチャネル数を固定された数、例えば、６＊９または５４個に変化させて、全体アンカーボックスの情報を示し得る。
【００８７】
また、上述したＮ−ｗａｙ  ＲＰＮによって遂行される特定演算は、各ＲＰＮ用コンボリューションレイヤによって全体アンカーボックスをその対応する情報、例えばスコアを有するように生成する演算に加えて、ＮＭＳユニット４２４によって全体アンカーボックスに適用されるＮＭＳ演算がさらに含まれ得る。
【００８８】
ＮＭＳユニット４２４は２個以上の特定特徴マップから生成された全体アンカーボックスをその対応するスコアによって整列し、全体アンカーボックスのうち最大のスコアから整列された所定個数、例えば、６０００個のアンカーボックスを選択し得る。例えば、図４に示されたＮＭＳユニット４２４は３個の特定特徴マップ３０４〜３０６により生成された全体アンカーボックスに整列（ｓｏｒｔｉｎｇ）演算を適用し得る。その後、ＮＭＳユニット４２４はプロポーザルボックス３０７に利用されるための、所定個数、例えば、３００個のアンカーボックスをキャスティング（ｃａｓｔ）するＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）演算を適用する。
【００８９】
図５は本発明の一実施例によって少なくとも２個の互いに異なる大きさを有する特徴マップに対してＮ−ｗａｙプーリングレイヤ３０によるプーリング演算を適用して所定の特徴ベクタを獲得する過程を示す図面である。
【００９０】
一般的にＮ−ｗａｙプーリングレイヤは２個以上の特定特徴マップと共に所定個数のプロポーザルボックスに対する情報を入力として伝達される。そして、Ｎ−ｗａｙプーリングレイヤでは、少なくとも２個の特定特徴マップ上で前記各々のプロポーザルボックスに対応される領域各々をプーリングして複数個のプーリング済み特徴マップを生成し得る。ここで、プーリング方法には一般的なマックスプーリングまたは平均プーリングがあり、プーリング済み特徴マップは特徴ベクタと称することもある。
【００９１】
図５を参照すれば、３−ｗａｙプーリングレイヤ３３０が本発明の例示的な実施例として示される。学習装置２００のプロセッサ２２０は、複数個のプーリング済み特徴マップ、即ち３個の特徴ベクタをコンカチネートして図５に示されたように、所定の単一特徴ベクタ３０８を獲得する。図５から分かるように、３個のプーリング済み特徴マップ各々のチャネルが６４個、１２８個、２５６個の場合、チャネル軸でコンカチネートしてＮ（幅）×Ｎ（高さ）×４４８（チャネル）の単一特徴ベクタを獲得し得る。
【００９２】
参考までに、少なくとも２個の特徴マップが互いに異なるプーリングレイヤに各々入力され得る。図５に示されたように、３個の特定特徴マップ３０４〜３０６は各々３個のプーリングレイヤ５３０に入力され得る。しかし、実際には２個以上の特定特徴マップは同一のプーリングレイヤ５３０に一つずつ入力される場合もある。
【００９３】
以下では、複数の互いに異なる大きさを有する特徴マップのうち少なくとも２個の特定特徴マップを獲得する所定の基準を説明するためにコンボリューションブロック３１０で生成された複数の特徴マップについてさらに具体的に説明する。本発明の技術的特徴を説明するための添付された図面を通じては３個の特定特徴マップが用いられるものとして示されたが、各ユニットの入力に選択される特徴マップの数は多様化し得ることは当業者には当然の内容であり、かかる選択のための基準があることも明確な事実である。
【００９４】
例えば、コンボリューションブロック３１０が少なくとも第ｋコンボリューションレイヤ、第ｋ＋１コンボリューションレイヤ（１≦ｋ≦ｎ但し、ｎは２以上の自然数）を含み、前記第ｋ＋１コンボリューションレイヤは前記第ｋコンボリューションレイヤの演算以後に後行するコンボリューションレイヤと仮定する。この時、ＦＣレイヤから獲得された第ｋ＋１バウンディングボックスの領域に含まれたピクセルデータの個数は、同一のＦＣレイヤから獲得した第ｋバウンディングボックスの領域に含まれたピクセルデータの個数よりも多いか同じであり得る。ここでＦＣレイヤは前記第ｋ＋１コンボリューションレイヤの演算結果獲得された第ｋ＋１特徴マップからプーリング済み第ｋ＋１プーリング済み特徴マップを入力され、前記第ｋコンボリューションレイヤの演算結果獲得された第ｋ特徴マップからプーリング済み第ｋプーリング済み特徴マップを入力される。
【００９５】
例えば、第ｋ＋１バウンディングボックスの領域に含まれたピクセルデータの個数は１２８〜５１２で、第ｋバウンディングボックスの領域に含まれたピクセルデータの個数は３２〜１２８であって、第ｋ＋１バウンディングボックスの領域に含まれたピクセルデータの個数が第ｋバウンディングボックスの領域に含まれたピクセルデータの個数よりも多いか同じであり得る。
【００９６】
これは、第ｋ＋１特徴マップが第ｋ特徴マップよりもコンボリューション演算がさらに遂行されてさらに小さい高さ、幅を有しているので、第ｋ＋１特徴マップ上での一つのピクセルが示す学習イメージ上の実際ピクセルデータの個数が、第ｋ特徴マップ上での一つのピクセルが示す学習イメージ上の実際ピクセルデータの個数よりも大きいためである。
【００９７】
第ｋ＋１バウンディングボックスの領域に含まれたピクセルデータの個数が第ｋバウンディングボックスの領域に含まれたピクセルデータの個数よりも大きいか同じであることを利用して、コンボリューションブロック３０１から獲得された複数の互いに異なる大きさを有する特徴マップのうち少なくとも２個の特定特徴マップを獲得する所定の基準に対するいくつかの例示が導き出され得る。
【００９８】
一つの例示として、（ｉ）学習イメージ上の客体と対応される原本正解イメージの客体に該当する領域のピクセルデータの個数が所定の第１臨界値よりも小さい場合、複数のコンボリューションレイヤのうち第１既設定コンボリューションレイヤの演算よりも先行するコンボリューションレイヤの演算が遂行された結果から少なくとも２個の特定特徴マップが獲得され、（ｉｉ）学習イメージ上の客体と対応される原本正解イメージの客体に該当する領域のピクセルデータの個数が所定の第１臨界値よりも大きいか同じ場合、複数のコンボリューションレイヤのうち第１既設定コンボリューションレイヤの演算よりも後行するコンボリューションレイヤの演算または前記第１既設定コンボリューションレイヤの演算が遂行された結果から少なくとも２個の特定特徴マップが獲得され得る。
【００９９】
例えば、図３に示された例のように、コンボリューションブロック３１０に５個のコンボリューションレイヤ３１１、３１２、３１３、３１４及び３１５がある状態で、原本正解イメージの客体に該当する領域のピクセルデータの個数が１２８よりも小さい場合、第１、第２コンボリューションレイヤの演算結果から２個の特定特徴マップを獲得し、反対に原本正解イメージの客体に該当する領域のピクセルデータの個数が１２８よりも大きいか同じ場合、第４、第５コンボリューションレイヤの演算結果から２個の特定特徴マップを獲得し得る。
【０１００】
他の例示として、学習イメージ上の客体と対応される原本正解イメージの客体に該当する領域のピクセルデータの個数が所定の第２臨界値よりも小さい場合、前記複数のコンボリューションレイヤのうち第２既設定コンボリューションレイヤの演算よりも先行するコンボリューションレイヤの演算まで遂行される。その結果、前記第２既設定コンボリューションレイヤより先行するコンボリューションレイヤからマルチスケールされた前記複数の特徴マップが獲得され得る。
【０１０１】
例えば、コンボリューションブロック３１０に５個のコンボリューションレイヤがある状態で、原本正解の客体に該当する領域のピクセルデータの個数が１２８よりも小さい場合、第３、第４、第５コンボリューションレイヤまでの演算をする必要はなく第１、第２コンボリューションレイヤの演算が遂行された結果生成された少なくとも２個の特徴マップを獲得し得る。
【０１０２】
上で二つの例示を挙げたが、５個のレイヤのうち単純に第３、第４、第５レイヤの演算が遂行された結果から複数の特徴マップを獲得し得て、第１、第３、第５レイヤの演算が遂行された結果から複数の特徴マップを獲得し得る。
【０１０３】
即ち、複数の互いに異なる大きさを有する特徴マップ、または２個以上の特定特徴マップは、上述した実施例を通じて獲得され得るが、本発明はこれに限定されない。添付された図面に示されたように、Ｎ−ｗａｙ  ＲＰＮ及びＮ−ｗａｙプーリングレイヤに入力される２個以上の特定特徴マップまたは複数の互いに異なる大きさを有する特徴マップが第３、第４及び第５コンボリューションレイヤから獲得され得て、または場合によって、これらが第１及び第３及び第５コンボリューションレイヤから獲得され得ることは当業者に自明な事実である。
【０１０４】
図６は本発明の一実施例にかかるテスティング装置のブロック図である。
【０１０５】
図６に示されたように、本発明のテスティング装置６００は通信部６１０とプロセッサ６２０を含み、場合によって図６とは異なりデータベース６３０が含まれ得る。場合によって、テスティング装置６００はデータベース６３０が含まれないこともある。ここで、通信部６１０はテストイメージ（またはテストイメージから変換された複数の互いに異なる大きさを有する特徴マップ）を入力イメージとして受信し、プロセス６２０はコンボリューションブロック３１０、Ｎ−ｗａｙ  ＲＰＮ３２０、Ｎ−ｗａｙプーリングレイヤ３３０及びＦＣレイヤ（未図示）の機能を実行するように構成される。
【０１０６】
図面ではテスティング装置６００と学習装置２００を区別して表現したが、テスティング装置６００と図２の学習装置２００は同一の装置である場合もある。
【０１０７】
コンボリューションブロック３１０、Ｎ−ｗａｙ  ＲＰＮ３２０、ＦＣレイヤ（未図示）のうち少なくともいずれか一つのパラメータの調節が完了した状態で、テストイメージがコンボリューションブロック３１０を経ながら所定の演算が遂行された結果マルチスケールされた前記複数のテスト用特徴マップが獲得され、前記複数のテスト用特徴マップのうち少なくとも２個の特定テスト用特徴マップがＮ−ｗａｙ  ＲＰＮ３２０に入力され得る。
【０１０８】
次に、前記調節が完了したパラメータを有する前記ＣＮＮを含むテスティング装置６００はＮ−ｗａｙ  ＲＰＮ３２０から所定個数のテスト用プロポーザルボックスを獲得し得る。
【０１０９】
学習方法で言及したように、学習過程ではＮ−ｗａｙ  ＲＰＮ３２０では原本正解の学習用バウンディングボックスを参照してスコアを演算し、前記スコアが上位Ｋ個スコアである所定個数の学習用プロポーザルボックスを獲得したが、テスト過程ではＮ−ｗａｙ  ＲＰＮ３２０では調節されたパラメータを利用してスコアを演算し、ＮＭＳ演算を共に適用することで前記スコアが上位Ｋ個スコアである所定個数のテスト用プロポーザルボックスを獲得し得る。
【０１１０】
これはテストではこれ以上原本正解を通じたロスレイヤの演算は利用せず、既に学習過程を経て調節されたパラメータを利用することを前提とするからである。
【０１１１】
また、前記テスティング装置６００は、少なくとも２個の特定テスト用特徴マップ上で所定個数のテスト用プロポーザルボックス領域に対応される領域各々をプーリングして複数個のテスト用プーリング済み特徴マップを生成し得る。
【０１１２】
また、テスティング装置６００は前記複数個のテスト用プーリング済み特徴マップをコンカチネートして所定の特徴ベクタを獲得して、これをＦＣレイヤに入力させてリグレッション演算を通じてテスト用バウンディングボックスを獲得し得る。
【０１１３】
調節が完了する前のパラメータを利用して獲得したバウンディングボックスと比較すると、前記テスト用バウンディングボックスは客体がより正確に含まれ得る。
【０１１４】
また、テスティング装置６００は本発明で説明されたいくつかの他のデジタルコンピューティング装置がさらに含まれ得るが、場合によって、前記テスティング装置６００は単一コンピュータ装置で具現され得る。また、テスティング装置６００はコンボリューションブロック、Ｎ−ｗａｙ  ＲＰＮ、Ｎ−ｗａｙプーリングレイヤ、ＦＣレイヤのうち少なくとも一部が含まれ得る。
【０１１５】
本発明によれば、Ｎ−ｗａｙ  ＲＰＮを通じて、マルチスケールされた複数の特徴マップのうち少なくとも２個の特定特徴マップを利用して所定個数のプロポーザルボックスを生成し得る。
【０１１６】
また、本発明は、Ｎ−ｗａｙプーリングレイヤを通じて、マルチスケールされた複数の特徴マップのうち少なくとも２個の特定特徴マップ上で各領域をプーリングして複数個のプーリング済み特徴マップを生成し得る。そして、前記複数個のプーリング済み特徴マップをコンカチネートしてこれをＦＣレイヤに入力させる特徴ベクタを獲得し得る。
【０１１７】
また、本発明はテスト方法で調節されたパラメータを利用して、特徴ベクタにリグレッション演算を遂行するＦＣレイヤを通じてテストイメージ上でより正確な客体を含むバウンディングボックスが獲得されるように支援する効果がある。
【０１１８】
以上で説明された本発明にかかる実施例は多様なコンピュータ構成要素を通じて遂行され得るプログラム命令語の形態で具現されてコンピュータで判読可能な記録媒体に記録され得る。前記コンピュータで判読可能な記録媒体はプログラム命令語、データファイル、データ構造などを単独または組み合わせて含まれ得る。前記コンピュータで判読可能な記録媒体に記録されるプログラム命令語は本発明のために特別に設計されて構成されたものか、コンピュータソフトウェア分野の当業者に公知となって使用可能なものでもよい。コンピュータで判読可能な記録媒体の例には、ハードディスク、フロッピィディスク及び磁気テープのような磁気媒体、ＣＤ−ＲＯＭ、ＤＶＤのような光記録媒体、フロプティカルディスク（ｆｌｏｐｔｉｃａｌｄｉｓｋ）のような磁気−光媒体（ｍａｇｎｅｔｏ−ｏｐｔｉｃａｌｍｅｄｉａ）、及びＲＯＭ、ＲＡＭ、フラッシュメモリなどのようなプログラム命令語を保存して遂行するように特別に構成されたハードウェア装置が含まれる。プログラム命令語の例には、コンパイラによって作られるものような機械語コードだけではなく、インタプリタなどを用いてコンピュータによって実行され得る高級言語コードも含まれる。前記ハードウェア装置は本発明にかかる処理を遂行するために一つ以上のソフトウェアモジュールとして作動するように構成されることがあり、その逆も同様である。
【０１１９】
以上、本発明が具体的な構成要素などのような特定の事項と限定された実施例及び図面によって説明されたが、これは本発明のより全般的な理解を助けるために提供されたものであるに過ぎず、本発明が前記実施例に限定されるものではなく、本発明が属する技術分野において通常の知識を有する者であればかかる記載から多様な修正及び変形が行なわれ得る。
【０１２０】
従って、本発明の思想は前記説明された実施例に極限されて定められてはならず、後述する特許請求の範囲だけではなく、本特許請求の範囲と均等または等価的に変形されたすべてのものは本発明の思想の範疇に属するといえる。
【符号の説明】
【０１２１】
２００…学習装置、２１０…通信部、２２０…プロセッサ、２３０…データベース、３１０…コンボリューションブロック、３２０…ＲＰＮ、３３０…プーリングレイヤ、６００…テスティング装置、６１０…通信部、６２０…プロセッサ、６３０…データベース。
【図１】
2020113286.tif 000003
【図２】
2020113286.tif 000004
【図３】
2020113286.tif 000005
【図４】
2020113286.tif 000006
【図５】
2020113286.tif 000007
【図６】
2020113286.tif 000008
【手続補正書】
【提出日】令和2年3月12日(2020.3.12)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
ＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）を用いて、マルチスケールされた複数の特徴マップから学習イメージ上の客体に対応するバウンディングボックスの獲得を支援するための学習方法において、
（ａ）前記学習イメージが複数のコンボリューションレイヤを経ながら所定の演算が遂行された結果マルチスケールされた前記複数の特徴マップが獲得されると、学習装置が、Ｎ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）をもって、マルチスケールされた前記複数の特徴マップのうち少なくとも２個の特定特徴マップを獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個の特定特徴マップに所定の演算を遂行して所定個数のプロポーザルボックスを獲得するか獲得するように支援する段階；
（ｂ）前記学習装置が、Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個の特定特徴マップ上で前記所定個数のプロポーザルボックスに対応する領域各々をプーリングして複数個のプーリング済み特徴マップを生成するか生成するように支援する段階；及び
（ｃ）前記学習装置が、（ｉ）ＦＣレイヤをもって、前記複数個のプーリング済み特徴マップにリグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセス及び（ｉｉ）ロスレイヤをもって、前記学習イメージの前記バウンディングボックスのピクセルデータの情報と原本正解イメージの原本正解バウンディングボックスのピクセルデータに対する情報を比較して第１比較データを獲得し、バックプロパゲーションを遂行する間前記第１比較データを利用して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを遂行するか遂行するように支援する段階；
を含む学習方法。
【請求項２】
前記（ｃ）段階で、
前記学習装置が、（ｉ）前記Ｎ−ｗａｙプーリングレイヤをもって、前記複数個のプーリング済み特徴マップをコンカチネートして所定の特徴ベクタを獲得するようにするプロセス、（ｉｉ）前記ＦＣレイヤをもって、前記特徴ベクタに前記リグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセス、及び（ｉｉｉ）前記ロスレイヤをもって、前記バウンディングボックスのピクセルデータに対する情報を前記原本正解バウンディングボックスのピクセルデータに対する情報と比較して前記第１比較データを獲得し、前記第１比較データを利用してバックプロパゲーションを遂行して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセス；
を遂行するか遂行するように支援することを特徴とする請求項１に記載の学習方法。
【請求項３】
前記（ａ）段階で、
マルチスケールされた前記複数の特徴マップのうち前記少なくとも２個の特定特徴マップから生成された全体アンカーボックスのうち前記所定個数のプロポーザルボックスを獲得することにおいて、
前記学習装置が、前記原本正解バウンディングボックスを参照して前記全体アンカーボックス各々が少なくとも一つの客体を含むか否かを示す確率値であるスコアを求め、前記Ｎ−ｗａｙ  ＲＰＮをもって、前記スコアを参照して前記所定個数のプロポーザルボックスを生成するようにすることを特徴とする請求項１に記載の学習方法。
【請求項４】
前記各々のスコアは、（ｉ）前記全体アンカーボックス各々の領域と前記原本正解バウンディングボックスの領域の和集合（ｕｎｉｏｎ）に該当する領域対比、（ｉｉ）前記全体アンカーボックス各々の領域と前記原本正解バウンディングボックスの領域の交差集合（ｉｎｔｅｒｓｅｃｔｉｏｎ）に該当する領域の面積の比率を参照して決定された値であることを特徴とする請求項３に記載の学習方法。
【請求項５】
前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、マルチスケールされた前記複数の特徴マップのうち前記少なくとも２個の特定特徴マップが前記少なくとも２個の特定特徴マップ各々に対応する各々のＲＰＮ用コンボリューションフィルタに入力して前記ＲＰＮ用コンボリューションフィルタの所定演算を通じて前記全体アンカーボックスの前記スコアまたは前記全体アンカーボックスの座標情報を獲得することを特徴とする請求項３に記載の学習方法。
【請求項６】
前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−ＭａｘｉｍｕｍＳｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、前記ＮＭＳユニットをもって、前記全体アンカーボックスのスコアのうちそのスコアの大きさが上位Ｋ個のスコアに該当するスコアを有する前記所定個数のプロポーザルボックスを選定するようにすることを特徴とする請求項３に記載の学習方法。
【請求項７】
前記複数のコンボリューションレイヤが少なくとも第ｋレイヤ、第ｋ＋１レイヤ（１≦ｋ≦ｎ。但し、ｎは２以上の自然数）を含み、前記第ｋ＋１レイヤは前記第ｋレイヤの演算以後に後行するレイヤとする時、
第ｋ＋１プーリング済み特徴マップに演算を遂行して前記ＦＣレイヤから獲得した第ｋ＋１バウンディングボックスの領域に含まれたピクセルデータの個数は、第ｋプーリング済み特徴マップに同一の演算を遂行して前記ＦＣレイヤから獲得した第ｋバウンディングボックスの領域に含まれたピクセルデータの個数よりも多いか同じであることを特徴とする請求項１に記載の学習方法。
【請求項８】
前記学習イメージ上の客体と対応する前記原本正解の客体に該当する領域のピクセルデータの個数が所定の第２臨界値よりも小さい場合、前記コンボリューション演算は前記複数のコンボリューションフィルタのうち第２既設定コンボリューションフィルタの演算よりも先行するコンボリューションフィルタの演算まで遂行され、前記演算が遂行された結果マルチスケールされた前記複数の特徴マップが獲得されることを特徴とする請求項７に記載の学習方法。
【請求項９】
前記（ｃ）段階で、
前記学習装置は、（ｉ）前記ＦＣレイヤをもって、クラシフィケーション演算を通じて前記学習イメージの前記客体の種類に対する情報を獲得するようにするプロセス、及び（ｉｉ）前記ロスレイヤをもって、前記学習イメージの前記客体の種類に対する情報と前記原本正解（Ｇｒｏｕｎｄ  Ｔｒｕｔｈ）の客体の種類に対する情報と比較して第２比較データを獲得するようにするプロセスを遂行し、前記第２比較データを利用してバックプロパゲーションを遂行して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを遂行するか遂行するように支援することを特徴とする請求項１に記載の学習方法。
【請求項１０】
ＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）を含むテスティング装置を用いて、マルチスケールされた複数のテスト用特徴マップからテストイメージ上のテスト用客体に対応するテスト用バウンディングボックスの獲得を支援するための方法において、
（ａ）（１）学習イメージが複数のコンボリューションレイヤを経ながら所定の演算が遂行された結果マルチスケールされた複数の特徴マップが獲得されると、学習装置が、Ｎ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）をもって、マルチスケールされた前記複数の特徴マップのうち少なくとも２個の特定特徴マップを獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個の特定特徴マップに所定の演算を遂行して所定個数のプロポーザルボックスを獲得するプロセス、（２）前記学習装置が、Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個の特定特徴マップ上で前記所定個数のプロポーザルボックスに対応する領域各々をプーリングして複数個のプーリング済み特徴マップを生成するプロセス、（３）前記学習装置が、ＦＣレイヤをもって、前記複数個のプーリング済み特徴マップにリグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにし、ロスレイヤをもって、前記学習イメージの前記バウンディングボックスのピクセルデータの情報と原本正解イメージの原本正解バウンディングボックスのピクセルデータに対する情報を比較して第１比較データを獲得して、バックプロパゲーションを遂行する間前記第１比較データを利用して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを完了した状態で、前記テストイメージに対するコンボリューション演算の結果としてマルチスケールされた前記複数のテスト用特徴マップが生成されると、前記テスト装置が、前記Ｎ−ｗａｙ  ＲＰＮをもって、マルチスケールされた前記複数のテスト用特徴マップのうち少なくとも２個のテスト用特定特徴マップを入力として獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個のテスト用特定特徴マップに所定の演算を遂行して所定個数のテスト用プロポーザルボックスを獲得するようにするか獲得するように支援する段階；
（ｂ）前記テスティング装置が、前記Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個のテスト用特定特徴マップ上で前記所定個数のテスト用プロポーザルボックスに対応する領域各々をプーリングして複数個のテスト用プーリング済み特徴マップを生成するようにするか生成するように支援する段階；及び
（ｃ）前記テスティング装置が、前記ＦＣレイヤをもって、前記複数個のテスト用プーリング済み特徴マップにリグレッション演算を通じて前記テスト用バウンディングボックスのピクセルデータに対する情報を獲得するようにするか獲得するように支援するようにする段階；
を含む方法。
【請求項１１】
前記（ｃ）段階で、
前記テスティング装置が、（ｉ）前記Ｎ−ｗａｙプーリングレイヤをもって、前記複数個のテスト用プーリング済み特徴マップをコンカチネートして所定のテスト用特徴ベクタを獲得するようにするプロセス、及び（ｉｉ）前記ＦＣレイヤをもって、前記テスト用特徴ベクタに前記リグレッション演算を通じて前記テスト用バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセスを遂行するか遂行するように支援することを特徴とする請求項１０に記載のテスト方法。
【請求項１２】
前記（ａ）段階で、
前記テスティング装置が、マルチスケールされた前記複数のテスト用特徴マップのうち前記少なくとも２個のテスト用特定特徴マップから生成された全体テスト用アンカーボックスのうち前記所定個数のテスト用プロポーザルボックスを獲得することにおいて、
前記原本正解バウンディングボックスを参照して前記全体テスト用アンカーボックス各々が少なくとも一つの客体を含むか否かを示す確率値であるスコアを求め、前記Ｎ−ｗａｙ  ＲＰＮをもって、前記スコアを参照して前記所定個数のテスト用プロポーザルボックスを生成するようにすることを特徴とする請求項１０に記載の方法。
【請求項１３】
前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、マルチスケールされた前記複数のテスト用特徴マップのうち前記少なくとも２個のテスト用特定特徴マップが前記少なくとも２個のテスト用特定特徴マップ各々に対応される各々のＲＰＮ用コンボリューションフィルタに入力して前記ＲＰＮ用コンボリューションフィルタの所定演算を通じて前記全体テスト用アンカーボックスの前記スコアまたは前記全体テスト用アンカーボックスの座標情報を獲得することを特徴とする請求項１２に記載の方法。
【請求項１４】
前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、前記ＮＭＳユニットをもって、前記全体テスト用アンカーボックスのスコアのうちそのスコアの大きさが上位Ｋ個のスコアに該当するスコアを有する前記所定個数のテスト用プロポーザルボックスを選定するようにすることを特徴とする請求項１２に記載の方法。
【請求項１５】
ＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）を用いて、マルチスケールされた複数の特徴マップから学習イメージ上の客体に対応するバウンディングボックスの獲得を支援するための学習装置において、
前記学習イメージを獲得するための通信部；及び
（１）前記学習イメージが複数のコンボリューションレイヤを経ながら所定の演算が遂行された結果マルチスケールされた前記複数の特徴マップが獲得されると、Ｎ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）をもって、マルチスケールされた前記複数の特徴マップのうち少なくとも２個の特定特徴マップを獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個の特定特徴マップに所定の演算を遂行して所定個数のプロポーザルボックスを獲得するか獲得するように支援するプロセス；（２）Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個の特定特徴マップ上で前記所定個数のプロポーザルボックスに対応する領域各々をプーリングして複数個のプーリング済み特徴マップを生成するか生成するように支援するプロセス；及び（３）（ｉ）ＦＣレイヤをもって、前記複数個のプーリング済み特徴マップにリグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセス及び（ｉｉ）ロスレイヤをもって、前記学習イメージの前記バウンディングボックスのピクセルデータの情報と原本正解イメージの原本正解バウンディングボックスのピクセルデータに対する情報を比較して第１比較データを獲得し、バックプロパゲーションを遂行する間前記第１比較データを利用して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを遂行するか遂行するように支援するプロセッサ；を含む学習装置。
【請求項１６】
前記（３）プロセスで、
前記プロセッサが、（ｉ）前記Ｎ−ｗａｙプーリングレイヤをもって、前記複数個のプーリング済み特徴マップをコンカチネートして所定の特徴ベクタを獲得するようにするプロセス、（ｉｉ）前記ＦＣレイヤをもって、前記特徴ベクタに前記リグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセス、及び（ｉｉｉ）前記ロスレイヤをもって、前記バウンディングボックスのピクセルデータに対する情報を前記原本正解バウンディングボックスのピクセルデータに対する情報と比較して前記第１比較データを獲得し、前記第１比較データを利用してバックプロパゲーションを遂行して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセス；
を遂行するか遂行するように支援することを特徴とする請求項１５に記載の学習装置。
【請求項１７】
前記（１）プロセスで、
マルチスケールされた前記複数の特徴マップのうち前記少なくとも２個の特定特徴マップから生成された全体アンカーボックスのうち前記所定個数のプロポーザルボックスを獲得することにおいて、
前記プロセッサが、前記原本正解バウンディングボックスを参照して前記全体アンカーボックス各々が少なくとも一つの客体を含むか否かを示す確率値であるスコアを求め、前記Ｎ−ｗａｙ  ＲＰＮをもって、前記スコアを参照して前記所定個数のプロポーザルボックスを生成するようにすることを特徴とする請求項１５に記載の学習装置。
【請求項１８】
前記各々のスコアは、（ｉ）前記全体アンカーボックス各々の領域と前記原本正解バウンディングボックスの領域の和集合（ｕｎｉｏｎ）に該当する領域対比、（ｉｉ）前記全体アンカーボックス各々の領域と前記原本正解バウンディングボックスの領域の交差集合（ｉｎｔｅｒｓｅｃｔｉｏｎ）に該当する領域の面積の比率を参照して決定された値であることを特徴とする請求項１７に記載の学習装置。
【請求項１９】
前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、マルチスケールされた前記複数の特徴マップのうち前記少なくとも２個の特定特徴マップが前記少なくとも２個の特定特徴マップ各々に対応する各々のＲＰＮ用コンボリューションフィルタに入力して前記ＲＰＮ用コンボリューションフィルタの所定演算を通じて前記全体アンカーボックスの前記スコアまたは前記全体アンカーボックスの座標情報を獲得することを特徴とする請求項１７に記載の学習装置。
【請求項２０】
前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、前記ＮＭＳユニットをもって、前記全体アンカーボックスのスコアのうちそのスコアの大きさが上位Ｋ個のスコアに該当するスコアを有する前記所定個数のプロポーザルボックスを選定するようにすることを特徴とする請求項１７に記載の学習装置。
【請求項２１】
前記複数のコンボリューションレイヤが少なくとも第ｋレイヤ、第ｋ＋１レイヤ（１≦ｋ≦ｎ。但し、ｎは２以上の自然数）を含み、前記第ｋ＋１レイヤは前記第ｋレイヤの演算以後に後行するレイヤとする時、
第ｋ＋１プーリング済み特徴マップに演算を遂行して前記ＦＣレイヤから獲得した第ｋ＋１バウンディングボックスの領域に含まれたピクセルデータの個数は、第ｋプーリング済み特徴マップに同一の演算を遂行して前記ＦＣレイヤから獲得した第ｋバウンディングボックスの領域に含まれたピクセルデータの個数よりも多いか同じであることを特徴とする請求項１５に記載の学習装置。
【請求項２２】
前記学習イメージ上の客体と対応される前記原本正解の客体に該当する領域のピクセルデータの個数が所定の第２臨界値よりも小さい場合、前記コンボリューション演算は前記複数のコンボリューションフィルタのうち第２既設定コンボリューションフィルタの演算よりも先行するコンボリューションフィルタの演算まで遂行され、前記演算が遂行された結果マルチスケールされた前記複数の特徴マップが獲得されることを特徴とする請求項２１に記載の学習装置。
【請求項２３】
前記（３）プロセスで、
前記プロセッサは、（ｉ）前記ＦＣレイヤをもって、クラシフィケーション演算を通じて前記学習イメージの前記客体の種類に対する情報を獲得するようにするプロセス、及び（ｉｉ）前記ロスレイヤをもって、前記学習イメージの前記客体の種類に対する情報と前記原本正解（Ｇｒｏｕｎｄ  Ｔｒｕｔｈ）の客体の種類に対する情報と比較して第２比較データを獲得するようにするプロセスを遂行し、前記第２比較データを利用してバックプロパゲーションを遂行して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを遂行するか遂行するように支援することを特徴とする請求項１５に記載の学習装置。
【請求項２４】
ＣＮＮ（ＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋ）を含むテスティング装置を用いて、マルチスケールされた複数のテスト用特徴マップからテストイメージ上のテスト用客体に対応するテスト用バウンディングボックスの獲得を支援するためのテスティング装置において、
（ｉ）学習イメージが複数のコンボリューションレイヤを経ながら所定の演算が遂行された結果マルチスケールされた複数の特徴マップが獲得されると、学習装置が、Ｎ−ｗａｙ  ＲＰＮ（Ｒｅｇｉｏｎ  Ｐｒｏｐｏｓａｌ  Ｎｅｔｗｏｒｋ）をもって、マルチスケールされた前記複数の特徴マップのうち少なくとも２個の特定特徴マップを獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個の特定特徴マップに所定の演算を遂行して所定個数のプロポーザルボックスを獲得するプロセス、（ｉｉ）前記学習装置が、Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個の特定特徴マップ上で前記所定個数のプロポーザルボックスに対応する領域各々をプーリングして複数個のプーリング済み特徴マップを生成するプロセス、（ｉｉｉ）前記学習装置が、ＦＣレイヤをもって、前記複数個のプーリング済み特徴マップにリグレッション演算を通じて前記バウンディングボックスのピクセルデータに対する情報を獲得するようにし、ロスレイヤをもって、前記学習イメージの前記バウンディングボックスのピクセルデータの情報と原本正解イメージの原本正解バウンディングボックスのピクセルデータに対する情報を比較して第１比較データを獲得して、バックプロパゲーションを遂行する間前記第１比較データを利用して前記ＣＮＮの少なくとも一つのパラメータに対して調節するプロセスを完了した状態で、前記テストイメージを獲得するための通信部；及び
（１）前記Ｎ−ｗａｙ  ＲＰＮをもって、マルチスケールされた前記複数のテスト用特徴マップのうち少なくとも２個のテスト用特定特徴マップを入力として獲得するようにし、前記Ｎ−ｗａｙ  ＲＰＮをもって前記少なくとも２個のテスト用特定特徴マップに所定の演算を遂行して所定個数のテスト用プロポーザルボックスを獲得するようにするか獲得するように支援するプロセス；（２）前記Ｎ−ｗａｙプーリングレイヤをもって、前記少なくとも２個のテスト用特定特徴マップ上で前記所定個数のテスト用プロポーザルボックスに対応する領域各々をプーリングして複数個のテスト用プーリング済み特徴マップを生成するようにするか生成するように支援するプロセス；及び（３）前記ＦＣレイヤをもって、前記複数個のテスト用プーリング済み特徴マップにリグレッション演算を通じて前記テスト用バウンディングボックスのピクセルデータに対する情報を獲得するようにするか獲得するように支援するようにするプロセス；を遂行するプロセッサ；
を含むテスティング装置。
【請求項２５】
前記（３）プロセスで、
前記プロセッサが、（ｉ）前記Ｎ−ｗａｙプーリングレイヤをもって、前記複数個のテスト用プーリング済み特徴マップをコンカチネートして所定のテスト用特徴ベクタを獲得するようにするプロセス、及び（ｉｉ）前記ＦＣレイヤをもって、前記テスト用特徴ベクタに前記リグレッション演算を通じて前記テスト用バウンディングボックスのピクセルデータに対する情報を獲得するようにするプロセスを遂行するか遂行するように支援することを特徴とする請求項２４に記載のテスティング装置。
【請求項２６】
前記（１）プロセスで、
前記テスティング装置が、マルチスケールされた前記複数のテスト用特徴マップのうち前記少なくとも２個のテスト用特定特徴マップから生成された全体テスト用アンカーボックスのうち前記所定個数のテスト用プロポーザルボックスを獲得することにおいて、
前記原本正解バウンディングボックスを参照して前記全体テスト用アンカーボックス各々が少なくとも一つの客体を含むか否かを示す確率値であるスコアを求め、前記Ｎ−ｗａｙ  ＲＰＮをもって、前記スコアを参照して前記所定個数のテスト用プロポーザルボックスを生成するようにすることを特徴とする請求項２４に記載のテスティング装置。
【請求項２７】
前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、マルチスケールされた前記複数のテスト用特徴マップのうち前記少なくとも２個のテスト用特定特徴マップが前記少なくとも２個のテスト用特定特徴マップ各々に対応する各々のＲＰＮ用コンボリューションフィルタに入力して前記ＲＰＮ用コンボリューションフィルタの所定演算を通じて前記全体テスト用アンカーボックスの前記スコアまたは前記全体テスト用アンカーボックスの座標情報を獲得することを特徴とする請求項２６に記載のテスティング装置。
【請求項２８】
前記Ｎ−ｗａｙ  ＲＰＮはＲＰＮ用コンボリューションフィルタとＮＭＳ（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ）ユニットを含み、前記Ｎ−ｗａｙ  ＲＰＮは、前記ＮＭＳユニットをもって、前記全体テスト用アンカーボックスのスコアのうちそのスコアの大きさが上位Ｋ個のスコアに該当するスコアを有する前記所定個数のテスト用プロポーザルボックスを選定するようにすることを特徴とする請求項２６に記載のテスティング装置。
【外国語明細書】
2020113286000001.pdf