(57)【要約】本願は、人工知能技術の分野に関し、具体的には、ビデオ物体の高速検出方法、装置、サーバ及び記憶媒体を提供し、この方法は、ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分け、ただし、各組のフレーム画像は、キーフレーム画像及び非キーフレーム画像を含み、キーフレーム画像中の目標の検出ボックスを利用して非キーフレーム画像に予備選択ボックスを生成し、予備選択ボックスにおける目標の位置を検出するによりビデオ中の目標物体の検出を実現する。本願は、ビデオ物体の高速検出装置、サーバ及び記憶媒体をさらに提供する。本願により、ビデオの連続フレームの空間的相関性を十分に利用し、精度を損なうことなく、アンカーポイント分類がかかる時間を大幅に低減させ、検出性能を基本的に低下させることなく、検出速度を大幅に最適化する。  【選択図】なし
2021533497.tif 000002
【特許請求の範囲】
【請求項１】
ビデオ物体の高速検出方法であって、
ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分けるステップであって、各組のフレーム画像は、キーフレーム画像及び非キーフレーム画像を含むステップと、
前記キーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングするステップと、
前記所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするステップと、
前記予備選択ボックスに基づいて前記非キーフレーム画像をトリミングして複数の予備選択ボックス画像を得るステップと、
前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力して、前記予備選択ボックスにおける前記検出目標の位置を得るステップと、
前記予備選択ボックスにおける前記検出目標の位置に基づいて、前記検出目標を前記非キーフレームに対応する原画像にマッピングするステップとを含むビデオ物体の高速検出方法。
【請求項２】
前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力する前に、前記ビデオ物体の高速検出方法は、
前記複数の予備選択ボックス画像をスケーリング処理するステップをさらに含む請求項１に記載のビデオ物体の高速検出方法。
【請求項３】
前記所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするステップは、
前記所定組のフレーム画像における現在の非キーフレーム画像中の検出目標を認識するステップと、
前記現在の非キーフレーム画像に対応する前のキーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記現在の非キーフレーム画像中の検出目標をマーキングするステップと、
前記現在の非キーフレーム画像に対応する後の非キーフレーム画像中の検出目標を認識するステップと、
前記現在の非キーフレーム画像中の予備選択ボックスを所定比率で拡大して第１の予備選択ボックスを生成し、前記第１の予備選択ボックスにより前記現在の非キーフレーム画像に対応する後の非キーフレーム画像中の検出目標をマーキングし、以下、同様に、前記所定組のフレーム画像における全ての非キーフレーム画像中の検出目標のマーキングを完了するまで行うステップとを含む請求項１に記載のビデオ物体の高速検出方法。
【請求項４】
前記非キーフレームネットワークは、画像における検出目標の位置を取得するための深層学習型ニューラルネットワークである請求項３に記載のビデオ物体の高速検出方法。
【請求項５】
前記キーフレーム画像中の検出目標を認識することは、
ウィンドウサイズの異なるスライディングウィンドウにより所定順序で前記キーフレーム画像をスライディングさせるステップと、
スライディングするたびに、現在のウィンドウに対応する画像を予め訓練された分類器に入力するステップと、
前記分類器が前記現在のウィンドウに対応する画像を処理した後に出力する分類確率が所定値よりも大きい場合、前記キーフレーム画像中の検出目標が認識されることを確認し、前記検出目標のマークを出力するステップとを含む請求項１に記載のビデオ物体の高速検出方法。
【請求項６】
前記方法は、前記キーフレーム画像中の検出目標を取得するために、前記検出目標のマークをスクリーニングするステップをさらに含む請求項５に記載のビデオ物体の高速検出方法。
【請求項７】
前記キーフレーム画像中の検出目標を取得するために、前記検出目標のマークをスクリーニングする前記ステップは、
全てのスライディングウィンドウが前記分類器に入力された後に得られた確率を降順でソートし、最大の分類確率に対応するスライディングウィンドウを選択するステップと、
他のスライディングウィンドウと前記最大の分類確率に対応するスライディングウィンドウとの間の重なり面積をそれぞれ計算し、前記重なり面積が所定面積よりも大きいか否かを判断するステップと、
前記重なり面積が前記所定面積以下である場合、対応するスライディングウィンドウを保留し、前記スライディングウィンドウに対応する検出目標を出力するステップと、
前記重なり面積が前記所定面積よりも大きい場合、対応するスライディングウィンドウを削除するステップと、
全ての他のスライディングウィンドウの比較を完了するまで、上記のステップを繰り返すステップとを含む請求項６に記載のビデオ物体の高速検出方法。
【請求項８】
ビデオ物体の高速検出装置であって、
ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分けるための初期化モジュールであって、各組のフレーム画像は、キーフレーム画像及び非キーフレーム画像を含む初期化モジュールと、
認識モジュールであって、前記キーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングし、
さらに、前記所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするための認識モジュールと、
前記予備選択ボックスに基づいて前記非キーフレーム画像をトリミングして複数の予備選択ボックス画像を得るためのトリミングモジュールと、
処理モジュールであって、前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力して、前記予備選択ボックスにおける前記検出目標の位置を得て、
さらに、前記予備選択ボックスにおける前記検出目標の位置に基づいて、前記検出目標を前記非キーフレームに対応する原画像にマッピングするための処理モジュールとを含むビデオ物体の高速検出装置。
【請求項９】
サーバであって、プロセッサ及びメモリを含み、前記プロセッサは、前記メモリに記憶されたコンピュータ可読命令を実行する場合、
ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分けるステップであって、各組のフレーム画像は、キーフレーム画像及び非キーフレーム画像を含むステップと、
前記キーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングするステップと、
前記所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするステップと、
前記予備選択ボックスに基づいて前記非キーフレーム画像をトリミングして複数の予備選択ボックス画像を得るステップと、
前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力して、前記予備選択ボックスにおける前記検出目標の位置を得るステップと、
前記予備選択ボックスにおける前記検出目標の位置に基づいて、前記検出目標を前記非キーフレームに対応する原画像にマッピングするステップとを実現するサーバ。
【請求項１０】
前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力する前に、前記サーバは、
前記複数の予備選択ボックス画像をスケーリング処理するステップをさらに含む請求項９に記載のサーバ。
【請求項１１】
前記所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするステップは、
前記所定組のフレーム画像における現在の非キーフレーム画像中の検出目標を認識するステップと、
前記現在の非キーフレーム画像に対応する前のキーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするステップと、
前記現在の非キーフレーム画像に対応する後の非キーフレーム画像中の検出目標を認識するステップと、
前記現在の非キーフレーム画像中の予備選択ボックスを所定比率で拡大して第１の予備選択ボックスを生成し、前記第１の予備選択ボックスにより前記現在の非キーフレーム画像に対応する後の非キーフレーム画像中の検出目標をマーキングし、以下、同様に、前記所定組のフレーム画像における全ての非キーフレーム画像中の検出目標のマーキングを完了するまで行うステップとを含む請求項９に記載のサーバ。
【請求項１２】
前記キーフレーム画像中の検出目標を認識することは、
ウィンドウサイズの異なるスライディングウィンドウにより所定順序で前記キーフレーム画像をスライディングさせるステップと、
スライディングするたびに、現在のウィンドウに対応する画像を予め訓練された分類器に入力するステップと、
前記分類器が前記現在のウィンドウに対応する画像を処理した後に出力する分類確率が所定値よりも大きい場合、前記キーフレーム画像中の検出目標が認識されることを確認し、前記検出目標のマークを出力するステップとを含む請求項９に記載のサーバ。
【請求項１３】
前記方法は、前記キーフレーム画像中の検出目標を取得するために、前記検出目標のマークをスクリーニングするステップをさらに含む請求項１２に記載のサーバ。
【請求項１４】
前記キーフレーム画像中の検出目標を取得するために、前記検出目標のマークをスクリーニングする前記ステップは、
全てのスライディングウィンドウが前記分類器に入力された後に得られた確率を降順でソートし、最大の分類確率に対応するスライディングウィンドウを選択するステップと、
他のスライディングウィンドウと前記最大の分類確率に対応するスライディングウィンドウとの間の重なり面積をそれぞれ計算し、前記重なり面積が所定面積よりも大きいか否かを判断するステップと、
前記重なり面積が前記所定面積以下である場合、対応するスライディングウィンドウを保留し、前記スライディングウィンドウに対応する検出目標を出力するステップと、
前記重なり面積が前記所定面積よりも大きい場合、対応するスライディングウィンドウを削除するステップと、
全ての他のスライディングウィンドウの比較を完了するまで、上記のステップを繰り返すステップとを含む請求項１３に記載のサーバ。
【請求項１５】
コンピュータ可読命令が記憶されている１つ又は複数の可読記憶媒体であって、前記コンピュータ可読記憶媒体は、コンピュータ可読命令を記憶し、前記コンピュータ可読命令は、１つ又は複数のプロセッサによって実行されると、前記１つ又は複数のプロセッサに、
ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分けるステップであって、各組のフレーム画像は、キーフレーム画像及び非キーフレーム画像を含むステップと、
前記キーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングするステップと、
前記所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするステップと、
前記予備選択ボックスに基づいて前記非キーフレーム画像をトリミングして複数の予備選択ボックス画像を得るステップと、
前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力して、前記予備選択ボックスにおける前記検出目標の位置を得るステップと、
前記予備選択ボックスにおける前記検出目標の位置に基づいて、前記検出目標を前記非キーフレームに対応する原画像にマッピングするステップとを実行させるコンピュータ可読命令が記憶されている１つ又は複数の可読記憶媒体。
【請求項１６】
前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力する前に、前記可読記憶媒体は、
前記複数の予備選択ボックス画像をスケーリング処理するステップをさらに含む請求項１５に記載の可読記憶媒体。
【請求項１７】
前記所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするステップは、
前記所定組のフレーム画像における現在の非キーフレーム画像中の検出目標を認識するステップと、
前記現在の非キーフレーム画像に対応する前のキーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記現在の非キーフレーム画像中の検出目標をマーキングするステップと、
前記現在の非キーフレーム画像に対応する後の非キーフレーム画像中の検出目標を認識するステップと、
前記現在の非キーフレーム画像中の予備選択ボックスを所定比率で拡大して第１の予備選択ボックスを生成し、前記第１の予備選択ボックスにより前記現在の非キーフレーム画像に対応する後の非キーフレーム画像中の検出目標をマーキングし、以下、同様に、前記所定組のフレーム画像における全ての非キーフレーム画像中の検出目標のマーキングを完了するまで行うステップとを含む請求項１５に記載の可読記憶媒体。
【請求項１８】
前記キーフレーム画像中の検出目標を認識することは、
ウィンドウサイズの異なるスライディングウィンドウにより所定順序で前記キーフレーム画像をスライディングさせるステップと、
スライディングするたびに、現在のウィンドウに対応する画像を予め訓練された分類器に入力するステップと、
前記分類器が前記現在のウィンドウに対応する画像を処理した後に出力する分類確率が所定値よりも大きい場合、前記キーフレーム画像中の検出目標が認識されることを確認し、前記検出目標のマークを出力するステップとを含む請求項１５に記載の可読記憶媒体。
【請求項１９】
前記方法は、前記キーフレーム画像中の検出目標を取得するために、前記検出目標のマークをスクリーニングするステップをさらに含む請求項１８に記載の可読記憶媒体。
【請求項２０】
前記キーフレーム画像中の検出目標を取得するために、前記検出目標のマークをスクリーニングする前記ステップは、
全てのスライディングウィンドウが前記分類器に入力された後に得られた確率を降順でソートし、最大の分類確率に対応するスライディングウィンドウを選択するステップと、
他のスライディングウィンドウと前記最大の分類確率に対応するスライディングウィンドウとの間の重なり面積をそれぞれ計算し、前記重なり面積が所定面積よりも大きいか否かを判断するステップと、
前記重なり面積が前記所定面積以下である場合、対応するスライディングウィンドウを保留し、前記スライディングウィンドウに対応する検出目標を出力するステップと、
前記重なり面積が前記所定面積よりも大きい場合、対応するスライディングウィンドウを削除するステップと、
全ての他のスライディングウィンドウの比較を完了するまで、上記のステップを繰り返すステップとを含む請求項１９に記載の可読記憶媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
関連出願の相互参照
本願は、２０１９年０６月１７日に提出された、出願番号２０１９１０５２３０９９．６、名称「ビデオ物体の高速検出方法、装置、サーバ及び記憶媒体」の中国特許出願を基にし、その優先権を主張する。
【０００２】
本願は、人工知能に基づく画像認識技術の分野に関し、具体的には、ビデオ物体の高速検出方法、装置、サーバ及び記憶媒体に関するものである。
【背景技術】
【０００３】
科学技術の発展により、撮像機器が普及し、それに応じて大量の画像データ、ビデオデータが出現し、そのうち、ビデオデータも注目を集め、監視ビデオ、ドローン追跡など、多くの分野で目標の検出及び追跡が求められている。
【０００４】
従来の目標検出方法は、ビデオにおけるフレームごとに、以下の１）〜３）の処理を行う必要がある。１）画像の各フレームのバックボーン・ネットワークに基づいて特徴マップを生成し、２）前記特徴マップのピラミッドでアンカーポイントを分割し、前景背景分類とバウンディングボックス回帰を行い、３）前のステップで得られた高得点の前景特徴マップを分類ネットワークに供給し、二次分類と座標回帰を行って結果を出力する。
【０００５】
発明者は、上記の方法で７２０ｐ以上のピクチャを処理する場合、検出アンカーポイントが多すぎるため、検出速度が遅いという問題があり、リアルタイム検出の効果が得られにくくなるため、フレームスキップでしか解決できず、検出精度が低下することに気づいた。
【発明の概要】
【発明が解決しようとする課題】
【０００６】
上記の内容に鑑み、ビデオ画像内の目標の検出速度を向上させることができるビデオ物体の高速検出方法、装置、サーバ及び記憶媒体を提供する必要がある。
【課題を解決するための手段】
【０００７】
ビデオ物体の高速検出方法であって、
ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分けるステップであって、各組のフレーム画像は、キーフレーム画像及び非キーフレーム画像を含むステップと、
前記キーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングするステップと、
前記所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするステップと、
前記予備選択ボックスに基づいて前記非キーフレーム画像をトリミングして複数の予備選択ボックス画像を得るステップと、
前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力して、前記予備選択ボックスにおける前記検出目標の位置を得るステップと、
前記予備選択ボックスにおける前記検出目標の位置に基づいて、前記検出目標を前記非キーフレームに対応する原画像にマッピングするステップとを含む。
【０００８】
ビデオ物体の高速検出装置であって、
ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分けるための初期化モジュールであって、各組のフレーム画像は、キーフレーム画像及び非キーフレーム画像を含む初期化モジュールと、
認識モジュールであって、前記キーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングし、
さらに、所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするための認識モジュールと、
前記予備選択ボックスに基づいて前記非キーフレーム画像をトリミングして複数の予備選択ボックス画像を得るためのトリミングモジュールと、
処理モジュールであって、前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力して、前記予備選択ボックスにおける前記検出目標の位置を得て、
さらに、前記予備選択ボックスにおける前記検出目標の位置に基づいて、前記検出目標を前記非キーフレームに対応する原画像にマッピングするための処理モジュールとを含む。
【０００９】
サーバであって、プロセッサ及びメモリを含み、前記プロセッサは、前記メモリに記憶されたコンピュータ可読命令を実行する場合、
ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分けるステップであって、各組のフレーム画像は、キーフレーム画像及び非キーフレーム画像を含むステップと、
前記キーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングするステップと、
前記所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするステップと、
前記予備選択ボックスに基づいて前記非キーフレーム画像をトリミングして複数の予備選択ボックス画像を得るステップと、
前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力して、前記予備選択ボックスにおける前記検出目標の位置を得るステップと、
前記予備選択ボックスにおける前記検出目標の位置に基づいて、前記検出目標を前記非キーフレームに対応する原画像にマッピングするステップとを実現する。
【００１０】
コンピュータ可読命令が記憶されている１つ又は複数の可読記憶媒体であって、前記コンピュータ可読記憶媒体は、コンピュータ可読命令を記憶し、前記コンピュータ可読命令は、１つ又は複数のプロセッサによって実行されると、前記１つ又は複数のプロセッサに、
ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分けるステップであって、各組のフレーム画像は、キーフレーム画像及び非キーフレーム画像を含むステップと、
前記キーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングするステップと、
前記所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするステップと、
前記予備選択ボックスに基づいて前記非キーフレーム画像をトリミングして複数の予備選択ボックス画像を得るステップと、
前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力して、前記予備選択ボックスにおける前記検出目標の位置を得るステップと、
前記予備選択ボックスにおける前記検出目標の位置に基づいて、前記検出目標を前記非キーフレームに対応する原画像にマッピングするステップとを実行させる。
【発明の効果】
【００１１】
上記のビデオ物体の高速検出方法、装置、サーバ及び記憶媒体について、本発明は、ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分けることであって、各組のフレーム画像は、キーフレーム画像及び非キーフレーム画像を含むことで、キーフレーム画像中の目標検出ボックスを使用して、非キーフレーム画像に予備選択ボックスを生成し、また、予備選択ボックス中の目標の位置を検出することで、ビデオ中の目標物体の検出を実現する。ビデオの連続フレームの空間的相関性を十分に利用し、精度を損なうことなく、アンカーポイント分類がかかる時間を大幅に低減させ、検出性能を基本的に低下させることなく、検出速度を大幅に最適化する。さらに、キーフレームと非キーフレームとの比率を調整することで、アルゴリズムを変更することなく、異なるハードウェアシーンの要件を実現することができる。
【図面の簡単な説明】
【００１２】
以下、本願の実施例又は従来技術における技術的解決手段をより明確に説明するために、実施例又は従来技術の説明に必要な図面を簡単に説明し、当然ながら、下記の説明における図面は、本願の実施例に過ぎず、当業者であれば、創造的な労力を与えることなく、提供された図面に基づいて他の図面をさらに取得することができる。
【図１】本願の実施例１にて提供されるビデオ物体の高速検出方法のフローチャートである。
【図２】本願の実施例２にて提供されるビデオ物体の高速検出装置の好ましい実施例における機能ブロック図である。
【図３】本願の実施例３にて提供されるサーバの概略図である。  以下の具体的な実施形態は、上記の図面と組み合わせて本願をさらに説明する。
【発明を実施するための形態】
【００１３】
以下、本願の上記の目的、特徴及び利点をより詳細に説明するために、図面及び具体的な実施例と組み合わせて本願について詳細に説明する。なお、矛盾することなく、本願の実施例及び実施例における特徴は、互いに組み合わせることができる。
【００１４】
以下の説明において、本願の十分な理解を容易にするために、多くの具体的な詳細が記載されており、記載された実施例は、本願の一部の実施例に過ぎず、全ての実施例ではない。本願における実施例に基づいて、当業者であれば、創造的な労力を与えることなく得る全ての他の実施例は、いずれも本願の保護範囲に属する。
【００１５】
特に定義されない限り、本明細書に使用される全ての技術的及び科学的用語は、本願の技術分野における当業者によって一般的に理解されるものと同じ意味を有する。本願の明細書において使用される用語は、具体的な実施例を説明する目的のためのものに過ぎず、本願を限定することを意図しない。
【００１６】
本願の明細書、特許請求の範囲、及び上記の図面における「第１」、「第２」、及び「第３」などの用語は、特定の順序を説明するためのものではなく、異なる対象物を区別するために使用される。さらに、「含む」の用語及びそれらの任意変形は、排他的な包含を網羅することを意図する。例えば、一連のステップ又はユニットを含むプロセス、方法、システム、製品又は機器は、記載されたステップ又はユニットに限定されず、記載されていないステップ又はユニットを任意選択的に含み、あるいはそのようなプロセス、方法、製品又は機器に固有の他のステップ又はユニットを任意選択的に含む。
【００１７】
本願の実施例のビデオ物体の高速検出方法は、少なくとも１つのサーバと、前記サーバとネットワークを介して接続される移動端末から構成されるハードウェア環境に適用される。ネットワークは、広域ネットワーク、メトロポリタンエリアネットワーク、又はローカルエリアネットワークを含むが、これらに限定されない。本願の実施例に係るビデオ物体の高速検出方法は、サーバによって実行されてもよく、移動端末によって実行されてもよく、サーバと移動端末が連携して実行されてもよい。
【００１８】
上記のビデオ物体の高速検出方法を行う必要があるサーバについては、本願の方法が提供するビデオ物体の高速検出機能を直接サーバに集積するか、又は本願の方法を実現するためのクライアントを実装することができる。また、本願にて提供される方法は、ソフトウェア開発キット（Ｓｏｆｔｗａｒｅ  Ｄｅｖｅｌｏｐｍｅｎｔ  Ｋｉｔ、ＳＤＫ）の形式でサーバなどの機器上に実行し、ＳＤＫの形式でビデオ物体の高速検出機能のインタフェースを提供することができ、サーバ又は他の機器は、提供されたインタフェースを介してビデオ物体の高速検出機能を実現することができる。
【実施例１】
【００１９】
図１は、本願の実施例１にて提供されるビデオ物体の高速検出方法のフローチャートである。異なる要求に応じて、このフローチャートにおける実行の順序は、変更してもよく、いくつかのステップは省略してもよい。
【００２０】
ステップＳ１において、ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分け、ただし、各組のフレーム画像は、キーフレーム画像及び非キーフレーム画像を含む。
【００２１】
具体的には、前記ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分け、ただし、各組のフレーム画像は、連続する所定フレームの画像を含み、前記連続する所定フレームの画像における第１のフレーム画像はキーフレーム画像であり、その他のフレーム画像は非キーフレーム画像である。
【００２２】
例えば、５０フレーム画像を有するビデオ画像を１０組のフレーム画像に分け、連続する５フレームの画像を１組に分け、前記５フレームの画像のうち、第１のフレーム画像をキーフレーム画像とし、第２乃至第５のフレーム画像を非キーフレーム画像とする。前記キーフレーム画像の各々は、前記ビデオ画像における原画像の１つに対応し、前記非キーフレーム画像の各々も、前記ビデオ画像における原画像の１つに対応し、前記原画像は、７２０ｐ以上のピクチャである。
【００２３】
前記各組のフレーム画像における画像のフレーム数が限定されず、前記各組のフレーム画像におけるキーフレーム画像及び非キーフレーム画像の数も限定されないことが理解されるであろう。
【００２４】
ビデオ画像中の目標を正確に検出する必要がある場合、前記所定組のフレーム画像の数を適宜に増加させ、それに応じて各組のフレーム画像中の画像のフレーム数を適宜に減少させてもよい。例えば、６０フレーム画像を有するビデオ画像を２０組のフレーム画像に分け、前記ビデオ画像中の全てのフレーム画像のうち、連続する３フレームの画像を１組に分ける。
【００２５】
ビデオ画像中の目標の検出精度が高く要求されない場合、前記所定組のフレーム画像の数を適宜に減少させ、それに応じて各組のフレーム画像中の画像のフレーム数を適宜に増加させてもよい。例えば、６０フレーム画像を有するビデオ画像を１０組のフレーム画像に分け、前記ビデオ画像中の全てのフレーム画像のうち、連続する６フレームの画像を１組に分ける。
【００２６】
本実施形態では、ビデオ画像中の全てのフレーム画像を所定組のフレーム画像に分ける前に、前記ビデオ物体の高速検出方法は、
カメラによって収集されたビデオ画像を受信し、前記ビデオ画像をデコードするステップをさらに含む。
【００２７】
本実施形態では、カメラによってビデオ画像を収集する。前記カメラと前記サーバとの間は、有線又は無線ネットワークを介して通信可能に接続される。前記カメラは、収集したビデオ画像を有線又は無線ネットワークを介して前記サーバに送信する。
【００２８】
ステップＳ２において、前記キーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングする。
【００２９】
本実施形態では、前記検出目標は、人、動物、又は乗り物などであってもよい。前記キーフレーム画像中の前記検出目標は、複数であってもよく、各前記検出目標が１つの検出ボックスに対応する。前記検出目標に応じて、対応する検出ボックスのサイズも異なることが理解されるであろう。
【００３０】
本実施形態では、前記キーフレーム画像中の検出目標を認識することは、
ウィンドウサイズの異なるスライディングウィンドウにより所定順序で前記キーフレーム画像をスライディングさせるステップと、
スライディングするたびに、現在のウィンドウに対応する画像を予め訓練された分類器に入力するステップと、
前記分類器が前記現在のウィンドウに対応する画像を処理した後に出力する分類確率が所定値よりも大きい場合、前記キーフレーム画像中の検出目標が認識されることを確認し、検出目標のマークを出力するステップとを含む。
【００３１】
例えば、まず、現在のフレーム画像に対してウィンドウサイズの異なるスライディングウィンドウを行って、左から右へ、上から下へスライディングさせる。スライディングするたびに、現在のウィンドウに対して分類器（分類器は事前に訓練された）を実行する。現在のウィンドウの分類確率が高い場合、目標が検出されたと考えられる。ウィンドウサイズの異なるスライディングウィンドウを全て検出した後、異なるウィンドウで検出された目標マークを得て、これらのウィンドウサイズには、重複率が高い部分を有し、最終的に、前記キーフレーム画像中の検出目標を取得するために非最大値抑制（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ、ＮＭＳ）の方法を使用してスクリーニングする。最終的に、ＮＭＳスクリーニングを経た後に検出目標を取得する。
【００３２】
前記キーフレーム画像中の検出目標を取得するために、前記検出目標のマークをスクリーニングするステップは、
全てのスライディングウィンドウが分類器に入力された後に得られた確率を降順でソートし、最大の分類確率に対応するスライディングウィンドウを選択するステップと、
他のスライディングウィンドウと前記最大の分類確率に対応するスライディングウィンドウとの間の重なり面積をそれぞれ計算し、前記重なり面積が所定面積よりも大きいか否かを判断するステップと、
前記重なり面積が前記所定面積以下である場合、対応するスライディングウィンドウを保留し、前記スライディングウィンドウに対応する検出目標を出力するステップと、
前記重なり面積が前記所定面積よりも大きい場合、対応するスライディングウィンドウを削除するステップと、
全ての他のスライディングウィンドウの比較を完了するまで、上記のステップを繰り返すステップとを含む。
【００３３】
ステップＳ３において、所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングする。
【００３４】
現在の非キーフレーム画像中の検出目標を認識する前記方法は、前記キーフレーム画像中の検出目標を認識する前記方法と一致してもよく、ここでは説明を省略することが理解されるであろう。
【００３５】
本実施形態では、各組のフレーム画像における各非キーフレーム画像中の検出目標を認識する。前記前フレーム画像は、キーフレーム画像であってもよいし、非キーフレーム画像であってもよい。
【００３６】
所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングする前記ステップは、
前記所定組のフレーム画像における現在の非キーフレーム画像中の検出目標を認識するステップと、
前記現在の非キーフレーム画像の前のキーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするステップと、
前記現在の非キーフレーム画像の後の非キーフレーム画像中の検出目標を認識するステップと、
前記現在の非キーフレーム画像中の予備選択ボックスを所定比率で拡大して第１の予備選択ボックスを生成し、前記第１の予備選択ボックスにより前記現在の非キーフレーム画像の後の非キーフレーム画像中の検出目標をマーキングし、以下、同様に、前記所定組のフレーム画像における全ての非キーフレーム画像中の検出目標のマーキングを完了するまで行うステップとを含む。
【００３７】
例えば、連続する５フレームの画像を１組とする場合、前記５フレームの画像のうち、第１のフレーム画像をキーフレーム画像とし、第２乃至第５のフレーム画像を非キーフレーム画像とする。第１のフレームであるキーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングし、第２のフレームである非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して第１の予備選択ボックスを生成し、前記第１の予備選択ボックスにより前記第２のフレーム画像中の検出目標をマーキングし、次に、第３のフレームである非キーフレーム画像中の検出目標を認識し、前記第２のフレーム画像（非キーフレーム画像）中の検出ボックス（すなわち、第１の予備選択ボックス）を所定比率で拡大して第２の予備選択ボックスを生成し、前記第２の予備選択ボックスにより前記第３のフレーム画像中の検出目標をマーキングし、以下、同様に、予備選択ボックスにより各組のフレーム画像における非キーフレーム画像中の検出目標をマーキングする。
【００３８】
例えば、連続する５フレームの画像を１組とする場合、前記５フレームの画像のうち、第２のフレーム画像をキーフレーム画像とし、第１のフレームと第３乃至第５のフレーム画像を非キーフレーム画像とする。第２のフレームであるキーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングし、第３のフレームである非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して第１の予備選択ボックスを生成し、前記第１の予備選択ボックスにより前記第３のフレーム画像中の検出目標をマーキングし、次に、第４のフレームである非キーフレーム画像中の検出目標を認識し、前記第３のフレーム画像（非キーフレーム画像）中の検出ボックス（すなわち、第１の予備選択ボックス）を所定比率で拡大して第２の予備選択ボックスを生成し、前記第２の予備選択ボックスにより前記第４のフレーム画像中の検出目標をマーキングし、以下、同様に、予備選択ボックスにより各組のフレーム画像における非キーフレーム画像中の検出目標をマーキングする。
【００３９】
すなわち、各組のフレーム画像における第１のフレームをキーフレーム画像として限定することなく、他のフレーム画像をキーフレーム画像としてもよい。
【００４０】
ステップＳ４において、前記予備選択ボックスに基づいて前記非キーフレーム画像をトリミングして複数の予備選択ボックス画像を得る。
【００４１】
例えば、前記非キーフレーム画像中の検出目標は５つあり、５つの予備選択ボックスにより前記５つの検出目標をそれぞれマーキングし、前記５つの予備選択ボックスに基づいて前記非キーフレーム画像をトリミングすると、５つの予備選択ボックス画像を得ることができることができる。
【００４２】
７２０ｐ以上のピクチャを処理する時、ピクチャが大きすぎるため、処理に計算量が多く、時間がかかる。そこで、本実施形態では、前記非キーフレーム画像を前記予備選択ボックスに基づいてトリミングして予備選択ボックス画像を得て、前記予備選択ボックス画像を非キーフレームネットワークに入力して処理することができる。大きいピクチャを小さいピクチャに変換して処理するだけでなく、大きいピクチャ中の非検出目標領域を除去することができ、それにより処理速度を向上させることができる。
【００４３】
ステップＳ５において、前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力して、前記予備選択ボックスにおける前記検出目標の位置を得る。
【００４４】
本実施形態では、前記非キーフレーム検出ネットワークは、予め訓練された目標検出モデルであってもよい。ただし、前記目標検出モデルは、予備選択ボックス画像と、前記予備選択ボックス画像に含まれる検出目標の位置情報との対応関係を特徴付けるために用いられる。
【００４５】
前記予備選択ボックス画像が前記目標検出モデルに入力されると、前記予備選択ボックス中の検出目標の位置情報を決定することができる。すなわち、前記非キーフレームネットワークは、画像における検出目標の位置を取得するための深層学習型ニューラルネットワークである。深層ニューラルネットワークは、従来のニューラルネットワークよりも多くのニューロンを有し、大規模で、位置、形態の異なる領域目標画像サンプルを学習することができると同時に、データの準備段階において、強調変換方法により、同一の画像に対して、反転変換、色相変換、スケール変換、ノイズ妨害、色変換などの操作を行うことで、環境特性の異なる複数の訓練画像を生成することができ、これにより、ニューラルネットワーク検出器は、シーン、環境、形状の異なる領域目標に対しても性能が安定的な検出を行うことができ、十分なサンプルデータ量を確保し、オーバーフィッティングが生じることを回避する。さらに、ニューラルネットワークのＤｒｏｐｏｕｔメカニズムは、訓練過程のフィードフォワード演算時にニューロンの一部をランダムに除去することができ、これにより、ニューラルネットワーク間の相互依存関係を減少させ、ニューラルネットワークにより強い一般化能力を持たせ、オーバーフィッティングを回避する。前記深層学習型ニューラルネットワークは、畳み込みニューラルネットワーク、深層信念ネットワーク、及びスタックオートエンコーダであってもよい。
【００４６】
例として、前記目標検出モデルは、大量の予備選択ボックス画像と、予備選択ボックス画像に含まれる検出目標に基づいて技術者が行った対応関係表であってよく、この対応関係表は、予備選択ボックス画像と、予備選択ボックス画像に含まれる検出目標との対応関係を反映することができる。前記目標検出モデルは、既存の人工ニューラルネットワークに基づいて技術者が教師あり訓練を行って得られた画像認識モデルであってもよい。
【００４７】
好ましくは、前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力する前に、前記ビデオ物体の高速検出方法は、前記複数の予備選択ボックス画像をスケーリング処理するステップをさらに含む。
【００４８】
検出目標サイズが異なるため、その対応する予備選択ボックスのサイズも異なることが理解されるであろう。画像を迅速に処理するために、前記複数の予備選択ボックス画像を、サイズが類似する画像にスケーリング処理し、次に、同じサイズにした後の画像を非キーフレーム検出ネットワークに入力する。
【００４９】
本実施形態では、前記非キーフレーム画像からトリミングされた予備選択ボックス画像を、非キーフレーム検出ネットワークに一度に入力する前に、前記予備選択ボックス画像を、サイズが類似する画像にスケーリング処理することができる。そのように、サイズが揃った画像を非キーフレーム検出ネットワークに入力することを実現し、前記非キーフレーム検出ネットワークによる前記予備選択ボックスにおける前記検出目標の位置への迅速な検出を容易にする。
【００５０】
例えば、前記現在の非キーフレーム画像中の検出目標は５つあり、５つの予備選択ボックスにより前記５つの検出目標をそれぞれマーキングし、前記５つの予備選択ボックスに基づいて前記非キーフレーム画像をトリミングすると、５つの予備選択ボックス画像を得ることができる。前記５つの予備選択ボックス画像は、サイズが異なるので、サイズが類似する５つの予備選択ボックス画像にスケーリング処理する必要がある。
【００５１】
ステップＳ６において、前記予備選択ボックスの位置に基づいて、前記検出目標を前記非キーフレームに対応する原画像にマッピングする。
【００５２】
前記予備選択ボックスにおける前記検出目標の位置は、ビデオ中の原画像がスケーリング処理された後に検出された位置であり、したがって、ビデオ画像中の目標検出を完了するように、それを前記非キーフレームに対応する原画像にマッピングする必要があることが理解されるであろう。
【００５３】
以上、本願にて提供されるビデオ物体の高速検出方法は、ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分けるステップであって、各組のフレーム画像は、キーフレーム画像及び非キーフレーム画像を含むステップと、前記キーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングするステップと、現在の非キーフレーム画像中の検出目標を認識し、前記現在の非キーフレームの前のフレーム画像中の検出目標に対応する検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記現在の非キーフレーム画像中の検出目標をマーキングするステップと、前記予備選択ボックスに基づいて前記現在の非キーフレーム画像をトリミングして複数の予備選択ボックス画像を得るステップと、前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力して、前記予備選択ボックスにおける前記検出目標の位置を得るステップと、前記予備選択ボックス中の位置に基づいて、前記検出目標を前記非キーフレームに対応する原画像にマッピングするステップとを含む。
【００５４】
主に、検出ネットワークは、７２０ｐ以上のシーンで、検出アンカーポイントが多すぎるため、検出速度が遅くなるという問題に対して、ビデオ画像をキーフレーム画像と非キーフレーム画像に分け、前記非キーフレーム画像に対して簡易演算を行うことで、ビデオ中の各フレーム画像に対して正確な目標検出処理を行う必要がないことを実現し、ビデオの連続フレームの空間的相関性を十分に利用し、精度を損なうことなく、アンカーポイント分類がかかる時間を大幅に低減させ、検出性能を基本的に低下させることなく、検出速度を大幅に最適化する。さらに、キーフレームと非キーフレームとの比率を調整することで、アルゴリズムを変更することなく、異なるハードウェアシーンの要件に対応することができる。
【実施例２】
【００５５】
図２は、本願のビデオ物体の高速検出装置の好ましい実施例における機能ブロック図である。
【００５６】
いくつかの実施例では、ビデオ物体の高速検出装置２０（以下、「検出装置２０」と略称する）は、サーバ内に動作する。検出装置２０は、プログラムコードセグメントからなる複数の機能モジュールを含み得る。検出装置２０における各プログラムセグメントのプログラムコードは、メモリに記憶され、少なくとも１つのプロセッサによって実行されることで、ビデオ物体の高速検出機能（詳細は図１及び関連説明を参照する）を実行することができる。
【００５７】
本実施例では、検出装置２０は、それが実行する機能に応じて、複数の機能モジュールに分けられる。前記機能モジュールは、初期化モジュール２０１と、認識モジュール２０２と、トリミングモジュール２０３と、処理モジュール２０４とを含み得る。本願で言及されるモジュールとは、少なくとも１つのプロセッサによって実行され、固定機能を実行することができる一連のコンピュータ可読命令であって、メモリに記憶されるものである。いくつかの実施例では、各モジュールの機能については、後続の実施例で詳しく説明する。
【００５８】
初期化モジュール２０１は、ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分けるために用いられ、ただし、各組のフレーム画像は、キーフレーム画像及び非キーフレーム画像を含む。
【００５９】
具体的には、前記ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分け、各組のフレーム画像は、連続する所定フレームの画像を含み、前記連続する所定フレームの画像における第１のフレーム画像はキーフレーム画像であり、その他のフレーム画像は非キーフレーム画像である。
【００６０】
例えば、５０フレーム画像を有するビデオ画像を１０組のフレーム画像に分け、連続する５フレームの画像を１組に分け、前記５フレームの画像のうち、第１のフレーム画像をキーフレーム画像とし、第２乃至第５のフレーム画像を非キーフレーム画像とする。前記キーフレーム画像の各々は、前記ビデオ画像における原画像の１つに対応し、前記非キーフレーム画像の各々も、前記ビデオ画像における原画像の１つに対応し、前記原画像は、７２０ｐ以上のピクチャである。
【００６１】
前記各組のフレーム画像における画像のフレーム数が限定されず、前記各組のフレーム画像におけるキーフレーム画像及び非キーフレーム画像の数も限定されないことが理解されるであろう。
【００６２】
ビデオ画像中の目標を正確に検出する必要がある場合、前記所定組のフレーム画像の数を適宜に増加させ、それに応じて各組のフレーム画像中の画像のフレーム数を適宜に減少させてもよい。例えば、６０フレーム画像を有するビデオ画像を２０組のフレーム画像に分け、前記ビデオ画像中の全てのフレーム画像のうち、連続する３フレームの画像を１組に分ける。
【００６３】
ビデオ画像中の目標の検出精度が高く要求されない場合、前記所定組のフレーム画像の数を適宜に減少させ、それに応じて各組のフレーム画像中の画像のフレーム数を適宜に増加させてもよい。例えば、６０フレーム画像を有するビデオ画像を１０組のフレーム画像に分け、前記ビデオ画像中の全てのフレーム画像のうち、連続する６フレームの画像を１組に分ける。
【００６４】
本実施形態では、ビデオ画像中の全てのフレーム画像を所定組のフレーム画像に分ける前に、ビデオ物体の高速検出装置２０は、さらに、カメラによって収集されたビデオ画像を受信し、前記ビデオ画像をデコードすることができる。
【００６５】
本実施形態では、カメラによってビデオ画像を収集する。前記カメラと前記サーバとの間は、有線又は無線ネットワークを介して通信可能に接続される。前記カメラは、収集したビデオ画像を有線又は無線ネットワークを介して前記サーバに送信する。
【００６６】
認識モジュール２０２は、前記キーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングするために用いられる。
【００６７】
本実施形態では、前記検出目標は、人、動物、又は乗り物などであってもよい。前記キーフレーム画像中の前記検出目標は、複数であってもよく、各前記検出目標が１つの検出ボックスに対応する。前記検出目標に応じて、対応する検出ボックスのサイズも異なることが理解されるであろう。
【００６８】
本実施形態では、前記キーフレーム画像中の検出目標を認識することは、
ウィンドウサイズの異なるスライディングウィンドウにより所定順序で前記キーフレーム画像をスライディングさせるステップと、
スライディングするたびに、現在のウィンドウに対応する画像を予め訓練された分類器に入力するステップと、
前記分類器が前記現在のウィンドウに対応する画像を処理した後に出力する分類確率が所定値よりも大きい場合、前記キーフレーム画像中の検出目標が認識されることを確認し、検出目標のマークを出力するステップとを含む。
【００６９】
例えば、まず、現在のフレーム画像に対してウィンドウサイズの異なるスライディングウィンドウを行って、左から右へ、上から下へスライディングさせる。スライディングするたびに、現在のウィンドウに対して分類器（分類器は事前に訓練された）を実行する。現在のウィンドウの分類確率が高い場合、目標が検出されたと考えられる。ウィンドウサイズの異なるスライディングウィンドウを全て検出した後、異なるウィンドウで検出された目標マークを得て、これらのウィンドウサイズには、重複率が高い部分を有し、最終的に、前記キーフレーム画像中の検出目標を取得するために非最大値抑制（Ｎｏｎ−Ｍａｘｉｍｕｍ  Ｓｕｐｐｒｅｓｓｉｏｎ、ＮＭＳ）の方法を使用してスクリーニングする。最終的に、ＮＭＳスクリーニングを経た後に検出目標を取得する。
【００７０】
前記キーフレーム画像中の検出目標を取得するために、前記検出目標のマークをスクリーニングするステップは、
全てのスライディングウィンドウが分類器に入力された後に得られた確率を降順でソートし、最大の分類確率に対応するスライディングウィンドウを選択するステップと、
他のスライディングウィンドウと前記最大の分類確率に対応するスライディングウィンドウとの間の重なり面積をそれぞれ計算し、前記重なり面積が所定面積よりも大きいか否かを判断するステップと、
前記重なり面積が前記所定面積以下である場合、対応するスライディングウィンドウを保留し、前記スライディングウィンドウに対応する検出目標を出力するステップと、
前記重なり面積が前記所定面積よりも大きい場合、対応するスライディングウィンドウを削除するステップと、
全ての他のスライディングウィンドウの比較を完了するまで、上記のステップを繰り返すステップとを含む。
【００７１】
認識モジュール２０２は、さらに、前記所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするために用いられる。
【００７２】
現在の非キーフレーム画像中の検出目標を認識する前記方法は、前記キーフレーム画像中の検出目標を認識する前記方法と一致してもよく、ここでは説明を省略することが理解されるであろう。
【００７３】
本実施形態では、各組のフレーム画像における各非キーフレーム画像中の検出目標を認識する。前記前フレーム画像は、キーフレーム画像であってもよいし、非キーフレーム画像であってもよい。
【００７４】
所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングする前記ステップは、
前記所定組のフレーム画像における現在の非キーフレーム画像中の検出目標を認識するステップと、
前記現在の非キーフレーム画像の前のキーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするステップと、
前記現在の非キーフレーム画像の後の非キーフレーム画像中の検出目標を認識するステップと、
前記現在の非キーフレーム画像中の予備選択ボックスを所定比率で拡大して第１の予備選択ボックスを生成し、前記第１の予備選択ボックスにより前記現在の非キーフレーム画像の後の非キーフレーム画像中の検出目標をマーキングし、以下、同様に、前記所定組のフレーム画像における全ての非キーフレーム画像中の検出目標のマーキングを完了するまで行うステップとを含む。
【００７５】
例えば、連続する５フレームの画像を１組とする場合、前記５フレームの画像のうち、第１のフレーム画像をキーフレーム画像とし、第２乃至第５のフレーム画像を非キーフレーム画像とする。第１のフレームであるキーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングし、第２のフレームである非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して第１の予備選択ボックスを生成し、前記第１の予備選択ボックスにより前記第２のフレーム画像中の検出目標をマーキングし、次に、第３のフレームである非キーフレーム画像中の検出目標を認識し、前記第２のフレーム画像（非キーフレーム画像）中の検出ボックス（すなわち、第１の予備選択ボックス）を所定比率で拡大して第２の予備選択ボックスを生成し、前記第２の予備選択ボックスにより前記第３のフレーム画像中の検出目標をマーキングし、以下、同様に、予備選択ボックスにより各組のフレーム画像における非キーフレーム画像中の検出目標をマーキングする。
【００７６】
例えば、連続する５フレームの画像を１組とする場合、前記５フレームの画像のうち、第２のフレーム画像をキーフレーム画像とし、第１のフレームと第３乃至第５のフレーム画像を非キーフレーム画像とする。第２のフレームであるキーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングし、第３のフレームである非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して第１の予備選択ボックスを生成し、前記第１の予備選択ボックスにより前記第３のフレーム画像中の検出目標をマーキングし、次に、第４のフレームである非キーフレーム画像中の検出目標を認識し、前記第３のフレーム画像（非キーフレーム画像）中の検出ボックス（すなわち、第１の予備選択ボックス）を所定比率で拡大して第２の予備選択ボックスを生成し、前記第２の予備選択ボックスにより前記第４のフレーム画像中の検出目標をマーキングし、以下、同様に、予備選択ボックスにより各組のフレーム画像における非キーフレーム画像中の検出目標をマーキングする。
【００７７】
すなわち、各組のフレーム画像における第１のフレームをキーフレーム画像として限定することなく、他のフレーム画像をキーフレーム画像としてもよい。
【００７８】
トリミングモジュール２０３は、前記予備選択ボックスに基づいて前記非キーフレーム画像をトリミングして複数の予備選択ボックス画像を得るために用いられる。
【００７９】
例えば、前記非キーフレーム画像中の検出目標は５つあり、５つの予備選択ボックスにより前記５つの検出目標をそれぞれマーキングし、前記５つの予備選択ボックスに基づいて前記非キーフレーム画像をトリミングすると、５つの予備選択ボックス画像を得ることができることができる。
【００８０】
７２０ｐ以上のピクチャを処理する時、ピクチャが大きすぎるため、処理に計算量が多く、時間がかかる。そこで、本実施形態では、前記非キーフレーム画像を前記予備選択ボックスに基づいてトリミングして予備選択ボックス画像を得て、前記予備選択ボックス画像を非キーフレームネットワークに入力して処理することができる。大きいピクチャを小さいピクチャに変換して処理するだけでなく、大きいピクチャ中の非検出目標領域を除去することができ、それにより処理速度を向上させることができる。
【００８１】
処理モジュール２０４は、前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力して、前記予備選択ボックスにおける前記検出目標の位置を得るために用いられる。
【００８２】
本実施形態では、前記非キーフレーム検出ネットワークは、予め訓練された目標検出モデルであってもよい。ただし、前記目標検出モデルは、予備選択ボックス画像と、前記予備選択ボックス画像に含まれる検出目標の位置情報との対応関係を特徴付けるために用いられる。
【００８３】
前記予備選択ボックス画像が前記目標検出モデルに入力されると、前記予備選択ボックス中の検出目標の位置情報を決定することができる。すなわち、前記非キーフレームネットワークは、画像における検出目標の位置を取得するための深層学習型ニューラルネットワークである。
【００８４】
深層ニューラルネットワークは、従来のニューラルネットワークよりも多くのニューロンを有し、大規模で、位置、形態の異なる領域目標画像サンプルを学習することができると同時に、データの準備段階において、変換方法を強化させて、同一の画像に対して、反転変換、色相変換、スケール変換、ノイズ妨害、色変換などの操作を行うことで、環境特性の異なる複数の訓練画像を生成することができ、これにより、ニューラルネットワーク検出器は、シーン、環境、形状の異なる領域目標に対しても性能が安定的な検出を行うことができ、十分なサンプルデータ量を確保し、オーバーフィッティングが生じることを回避する。さらに、ニューラルネットワークのＤｒｏｐｏｕｔメカニズムは、訓練過程のフィードフォワード演算時にニューロンの一部をランダムに除去することができ、これにより、ニューラルネットワーク間の相互依存関係を減少させ、ニューラルネットワークにより強い一般化能力を持たせ、オーバーフィッティングを回避する。前記深層学習型ニューラルネットワークは、畳み込みニューラルネットワーク、深層信念ネットワーク、及びスタックオートエンコーダであってもよい。
【００８５】
例として、前記目標検出モデルは、大量の予備選択ボックス画像と、予備選択ボックス画像に含まれる検出目標に基づいて技術者が行った対応関係表であってよく、この対応関係表は、予備選択ボックス画像と、予備選択ボックス画像に含まれる検出目標との対応関係を反映することができる。前記目標検出モデルは、既存の人工ニューラルネットワークに基づいて技術者が教師あり訓練を行って得られた画像認識モデルであってもよい。
【００８６】
好ましくは、前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力する前に、ビデオ物体の高速検出装置２０は、前記複数の予備選択ボックス画像をスケーリング処理することができる。
【００８７】
検出目標サイズが異なるため、その対応する予備選択ボックスのサイズも異なることが理解されるであろう。画像を迅速に処理するために、前記複数の予備選択ボックス画像を、サイズが類似する画像にスケーリング処理し、次に、同じサイズにした後の画像を非キーフレーム検出ネットワークに入力する。
【００８８】
本実施形態では、前記非キーフレーム画像からトリミングされた予備選択ボックス画像を、非キーフレーム検出ネットワークに一度に入力する前に、前記予備選択ボックス画像を、サイズが類似する画像にスケーリング処理することができる。そのように、サイズが揃った画像を非キーフレーム検出ネットワークに入力することを実現し、前記非キーフレーム検出ネットワークによる前記予備選択ボックスにおける前記検出目標の位置への迅速な検出を容易にする。
【００８９】
例えば、前記現在の非キーフレーム画像中の検出目標は５つあり、５つの予備選択ボックスにより前記５つの検出目標をそれぞれマーキングし、前記５つの予備選択ボックスに基づいて前記現在の非キーフレーム画像をトリミングすると、５つの予備選択ボックス画像を得ることができる。前記５つの予備選択ボックス画像は、サイズが異なるので、サイズが類似する５つの予備選択ボックス画像にスケーリング処理する必要がある。
【００９０】
処理モジュール２０４は、さらに、前記予備選択ボックスにおける位置に基づいて、前記検出目標を前記非キーフレームに対応する原画像にマッピングするために用いられる。
【００９１】
前記予備選択ボックスにおける前記検出目標の位置は、ビデオ中の原画像がスケーリング処理された後に検出された位置であり、したがって、ビデオ画像中の目標検出を完了するように、それを前記非キーフレームに対応する原画像にマッピングする必要があることが理解されるであろう。
【００９２】
以上、本願にて提供されるビデオ物体の高速検出装置２０は、初期化モジュール２０１と、認識モジュール２０２と、トリミングモジュール２０３と、処理モジュール２０４とを含む。初期化モジュール２０１は、ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分けるために用いられ、ただし、各組のフレーム画像は、キーフレーム画像及び非キーフレーム画像を含み、認識モジュール２０２は、前記キーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングするために用いられ、認識モジュール２０２は、さらに、前記所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするために用いられ、トリミングモジュール２０３は、前記予備選択ボックスに基づいて前記非キーフレーム画像をトリミングして複数の予備選択ボックス画像を得るために用いられ、処理モジュール２０４は、前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力して、前記予備選択ボックスにおける前記検出目標の位置を得るために用いられ、処理モジュール２０４は、さらに、前記予備選択ボックス中の位置に基づいて、前記検出目標を前記非キーフレームに対応する原画像にマッピングするために用いられる。
【００９３】
主に、検出ネットワークは、７２０ｐ以上のシーンで、検出アンカーポイントが多すぎるため、検出速度が遅くなるという問題に対して、ビデオ画像をキーフレーム画像と非キーフレーム画像に分け、前記非キーフレーム画像に対して簡易演算を行うことで、ビデオ中の各フレーム画像に対して正確な目標検出処理を行う必要がないことを実現し、ビデオの連続フレームの空間的相関性を十分に利用し、精度を損なうことなく、アンカーポイント分類がかかる時間を大幅に低減させ、検出性能を基本的に低下させることなく、検出速度を大幅に最適化する。さらに、キーフレームと非キーフレームとの比率を調整することで、アルゴリズムを変更することなく、異なるハードウェアシーンの要件に対応することができる。
【００９４】
上記のソフトウェア機能モジュールの形態で実現される集積化ユニットは、コンピュータ可読記憶媒体に記憶することができる。上記のソフトウェア機能モジュールは、１つの記憶媒体に記憶され、コンピュータ機器（パーソナルコンピュータ、２画面機器、ネットワーク機器などであってもよい）又はプロセッサ（ｐｒｏｃｅｓｓｏｒ）に、本願の各実施例に記載された方法の一部を実行させるための複数の命令を含む。
【実施例３】
【００９５】
図３は、本願の実施例３にて提供されるサーバの概略図である。
【００９６】
サーバ３は、データベース３１と、メモリ３２と、少なくとも１つのプロセッサ３３と、メモリ３２に記憶され、少なくとも１つのプロセッサ３３で実行可能なコンピュータ可読命令３４と、少なくとも１本の通信バス３５とを含む。
【００９７】
少なくとも１つのプロセッサ３３は、コンピュータ可読命令３４を実行すると、上記のビデオ物体の高速検出方法の実施例におけるステップを実現する。
【００９８】
一例として、コンピュータ可読命令３４は、メモリ３２に記憶され、少なくとも１つのプロセッサ３３によって実行されることで本願を完了するための１つ又は複数のモジュール／ユニットに分けることができる。前記１つ又は複数のモジュール／ユニットは、特定の機能を実現可能な一連のコンピュータ可読命令セグメントであってもよく、この命令セグメントは、サーバ３におけるコンピュータ可読命令３４の実行プロセスを記述するために使用される。
【００９９】
サーバ３は、予め設定され又は記憶された命令に従って、数値計算及び／又は情報処理を自動的に行うことができる機器であり、そのハードウェアとしては、マイクロプロセッサ、特定用途向け集積回路（Ａｐｐｌｉｃａｔｉｏｎ  Ｓｐｅｃｉｆｉｃ  Ｉｎｔｅｇｒａｔｅｄ  Ｃｉｒｃｕｉｔ、ＡＳＩＣ）、プログラマブルゲートアレイ（Ｆｉｅｌｄ−Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ、ＦＰＧＡ）、デジタルプロセッサ（Ｄｉｇｉｔａｌ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｏｒ、ＤＳＰ）、組み込み機器などを含むが、これらに限定されない。当業者であれば、前記模式図３はサーバ３の単なる例であり、サーバ３を限定するものではなく、図示よりも多くの、若しくは少ない構成要素、又はいくつかの構成要素の組み合わせ、又は異なる構成要素を含んでもよく、例えば、サーバ３は、入出力機器、ネットワークアクセス機器、バスなどをさらに含んでもよいことを理解することができる。
【０１００】
データベース（Ｄａｔａｂａｓｅ）３１は、データ構造に応じてデータを組織し、記憶し、管理する、サーバ３に構築されたリポジトリである。データベースは、一般的に、階層型データベース、ネットワーク型データベース、リレーショナルデータベースの３種類に分類される。本実施形態では、データベース３１は、前記ビデオ画像を記憶するためのものである。
【０１０１】
少なくとも１つのプロセッサ３３は、中央処理装置（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ、ＣＰＵ）であってもよく、他の汎用プロセッサ、デジタル信号プロセッサ（Ｄｉｇｉｔａｌ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｏｒ、ＤＳＰ）、特定用途向け集積回路（Ａｐｐｌｉｃａｔｉｏｎ  Ｓｐｅｃｉｆｉｃ  Ｉｎｔｅｇｒａｔｅｄ  Ｃｉｒｃｕｉｔ、ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（Ｆｉｅｌｄ−Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ、ＦＰＧＡ）、又は、他のプログラマブルロジックデバイス、ディスクリートゲート若しくはトランジスタロジックデバイス、ディスクリートハードウェアコンポーネントなどであってもよい。このプロセッサ３３は、マイクロプロセッサであってもよく、又はこのプロセッサ３３は、任意の従来のプロセッサなどであってもよく、プロセッサ３３は、サーバ３の制御センタであり、各種のインタフェース及び回線を利用してサーバ３全体の各部を接続する。
【０１０２】
メモリ３２は、コンピュータ可読命令３４及び／又はモジュール／ユニットを記憶するために用いることができ、プロセッサ３３は、メモリ３２内に記憶されたコンピュータ可読命令及び／又はモジュール／ユニットを動作させ、又は実行し、メモリ３２内に記憶されたデータを呼び出すことで、サーバ３の様々な機能を実現する。メモリ３２は、主にプログラム記憶領域とデータ記憶領域とを含み、ただし、プログラム記憶領域は、オペレーティングシステム、少なくとも１つの機能に必要なアプリケーション・プログラム（例えば、サウンド再生機能、画像再生機能など）などを記憶することができ、データ記憶領域は、サーバ３の利用に応じて作成されたデータ（例えば、オーディオデータ、電話帳など）などを記憶することができる。さらに、メモリ３２は、高速ランダムアクセスメモリを含んでもよいし、ハードディスク、メモリ、プラグインハードディスク、スマートメモリカード（Ｓｍａｒｔ  Ｍｅｄｉａ（登録商標）  Ｃａｒｄ、ＳＭＣ）、セキュアデジタル（Ｓｅｃｕｒｅ  Ｄｉｇｉｔａｌ、ＳＤ）カード、フラッシュメモリカード（Ｆｌａｓｈ  Ｃａｒｄ）、少なくとも１つの磁気ディスク記憶デバイス、フラッシュメモリデバイス、又は他の揮発性固体記憶デバイスなどの不揮発性メモリを含んでもよい。
【０１０３】
メモリ３２は、プログラムコードを記憶し、少なくとも１つのプロセッサ３３は、メモリ３２に記憶されたプログラムコードを呼び出して、関連機能を実行することができる。例えば、図２に記載された各モジュール（初期化モジュール２０１、認識モジュール２０２、トリミングモジュール２０３、及び処理モジュール２０４）は、メモリ３２に記憶されるプログラムコードであって、少なくとも１つのプロセッサ３３によって実行されることにより、前記各モジュールの機能を実現することで、ビデオ物体の高速検出の目的を達成する。
【０１０４】
初期化モジュール２０１は、ビデオ画像中の全てのフレーム画像を、所定組のフレーム画像に分けるために用いられ、ただし、各組のフレーム画像は、キーフレーム画像及び非キーフレーム画像を含み、
認識モジュール２０２は、前記キーフレーム画像中の検出目標を認識し、前記検出目標に検出ボックスをマーキングするために用いられ、
認識モジュール２０２は、さらに、前記所定組のフレーム画像における非キーフレーム画像中の検出目標を認識し、前記キーフレーム画像中の検出ボックスを所定比率で拡大して予備選択ボックスを生成し、前記予備選択ボックスにより前記非キーフレーム画像中の検出目標をマーキングするために用いられ、
トリミングモジュール２０３は、前記予備選択ボックスに基づいて前記非キーフレーム画像をトリミングして複数の予備選択ボックス画像を得るために用いられ、処理モジュール２０４は、前記複数の予備選択ボックス画像を非キーフレーム検出ネットワークに入力して、前記予備選択ボックスにおける前記検出目標の位置を得るために用いられ、
処理モジュール２０４は、さらに、前記予備選択ボックスの位置に基づいて、前記検出目標を前記非キーフレームに対応する原画像にマッピングするために用いられる。
【０１０５】
サーバ３に集積されたモジュール／ユニットは、ソフトウェア機能ユニットの形態で実現され、スタンドアロン製品として販売又は使用される場合、コンピュータ可読記憶媒体に記憶することができる。このような理解に基づいて、本願は、上記の実施例の方法における全部又は一部のフローを実現し、また、コンピュータ可読命令を用いて関連ハードウェアを命令して完了させることができ、前記コンピュータ可読命令はコンピュータ可読記憶媒体に記憶することができ、このコンピュータ可読命令はプロセッサにより実行されると、上記の各方法の実施例におけるステップを実現することができる。ただし、前記コンピュータ可読命令は、ソースコード形態、オブジェクトコード形態、実行可能なファイル、又は何らかの中間形態などであってもよい。前記コンピュータ可読媒体は、前記コンピュータ可読命令コードを搬送可能な任意のエンティティ又は装置、記録媒体、Ｕディスク、ポータブルハードディスク、磁気ディスク、光ディスク、コンピュータメモリ、リードオンリメモリ（ＲＯＭ、Ｒｅａｄ−Ｏｎｌｙ  Ｍｅｍｏｒｙ）、ランダムアクセスメモリ（ＲＡＭ、Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）、電気搬送波信号、電気通信信号、及びソフトウェア配布媒体などを含み得る。なお、前記コンピュータ可読媒体に含まれる内容は、司法管轄区域の法令及び特許実践の要件に応じて、適切に増減してもよく、例えば、ある法令管轄区域において、法令及び特許実践に応じて、コンピュータ可読媒体は、電気搬送波信号及び電気通信信号を含まない。
【０１０６】
図示しないが、サーバ３は、各構成要素に電力を供給する電源（例えば、バッテリ）をさらに含み得て、好ましくは、電源は、電源管理システムを介して少なくとも１つのプロセッサ３３に論理的に接続され、これにより、電源管理システムを介して充電と放電の管理、及び電力消費管理などの機能を実現する。電源は、１つ又はそれ以上の直流又は交流電源、再充電システム、電源故障検出回路、電力変換器又はインバータ、電源状態インジケータなどの任意のコンポーネントをさらに含み得る。サーバ３は、ブルートゥース（登録商標）モジュール、Ｗｉ−Ｆｉモジュールなどをさらに含み得、ここではその説明を省略する。
【０１０７】
一実施例では、コンピュータ可読命令が記憶されている１つ又は複数の可読記憶媒体が提供され、前記コンピュータ可読記憶媒体は、コンピュータ可読命令を記憶し、前記コンピュータ可読命令は、１つ又は複数のプロセッサにより実行されると、前記１つ又は複数のプロセッサに実行時、上記の実施例におけるビデオ物体の高速検出方法を実現させ、重複を避けるため、ここではその説明を省略する。本実施例における可読記憶媒体は、不揮発性の可読記憶媒体と揮発性の可読記憶媒体とを含む。当業者であれば、上記の実施例の方法における全部又は一部のフローの実現は、コンピュータ可読命令により関連ハードウェアを命令して完了させ、このコンピュータ可読命令は不揮発性の可読記憶媒体に記憶されてもよく、揮発性の可読記憶媒体に記憶されてもよく、このコンピュータ可読命令が実行されると、上記の各方法の実施例の流れを含み得ることを理解することができる。
【０１０８】
前記実施例は単なる説明のためのものであり、特許請求の範囲では、この構成に限定されないことが理解されるであろう。
【０１０９】
本願にて提供されるいくつかの実施例では、開示される電子機器及び方法は、他の方式で実施されてもよいことが理解されるべきである。例えば、上記の電子機器の実施例は、単に例示的なものであり、例えば、前記ユニットの分割は、論理機能の分割に過ぎず、実際に実現する際に、別の分割方法を用いてもよい。
【０１１０】
また、本願の各実施例における各機能ユニットは、同一の処理ユニットに集積されてもよいし、各ユニットが物理的に別々に存在してもよいし、２つ又はそれ以上のユニットが同一の処理ユニットに集積されてもよい。上記の集積されたユニットは、ハードウェアの形態で実現されてもよいし、ハードウェアとソフトウェア機能モジュールの形態で実現されてもよい。
【０１１１】
本願が、上記の例示的な実施例の詳細に限定されず、本願の精神又は基本的な特徴から逸脱することなく、他の具体的な形態で実施され得ることは、当業者にとって明らかである。したがって、実施例は、いかなる点からも例示的なものであり、非限定的なものであり、本願の範囲は、上記の説明よりむしろ添付の特許請求の範囲によって限定され、したがって、特許請求の範囲の均等物の意味及び範囲内に入る全ての変更は、本願に含まれることが意図される。特許請求の範囲における任意の参照符号は、関連請求項を限定するものと解釈されるべきではない。さらに、単語「含む」は他のユニットを排除せず、又は単数であっても複数を排除しないことは明らかである。システムの請求項に記載された複数のユニット又は装置は、１つのユニット又は装置がソフトウェア又はハードウェアにより実現されてもよい。第１、第２などの用語は、名称を表すために使用され、いかなる特定の順序を表しない。
【０１１２】
最後に、上記の実施例は、本願の技術的解決手段を説明するためのものに過ぎず、限定するためのものではなく、好ましい実施例を参照して本願を詳細に説明したが、当業者であれば、本願の技術的解決手段の精神範囲から逸脱することなく、本願の技術的解決手段に対して変更又は同等置換を行うことができることを理解すべきである。 
【図１】
2021533497.tif 000003
【図２】
2021533497.tif 000004
【図３】
2021533497.tif 000005
【国際調査報告】
2021533497.tif 000006
2021533497.tif 000007
2021533497.tif 000008
2021533497.tif 000009