(57)【要約】本出願の実施例は、対象三次元検出方法及びスマート運転制御方法、装置、媒体並びに機器を開示する。ここで、対象三次元検出方法は、被処理画像におけるターゲット対象のキーポイントの二次元座標を取得することと、前記キーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築することと、前記キーポイントの深度情報を取得することと、前記キーポイントの深度情報及び前記擬似三次元検出体に基づいて、前記ターゲット対象の三次元検出体を決定することとを含む。【選択図】図１
2021524115.tif 000002
【特許請求の範囲】
【請求項１】
対象三次元検出方法であって、
被処理画像におけるターゲット対象のキーポイントの二次元座標を取得することと、
前記キーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築することと、
前記キーポイントの深度情報を取得することと、
前記キーポイントの深度情報及び前記擬似三次元検出体に基づいて、前記ターゲット対象の三次元検出体を決定することとを含むことを特徴とする、対象三次元検出方法。
【請求項２】
前記被処理画像は、移動体に設けられた撮影装置により撮影されたビデオにおけるビデオフレーム、又は、固定位置に設けられた撮影装置により撮影されたビデオにおけるビデオフレームを含むことを特徴とする
請求項１に記載の方法。
【請求項３】
前記ターゲット対象は、自動車、軽車両、歩行者、動物、建築物、植物、障害物、危険物、交通標識又は物品のうちのいずれか１つ又は複数を含むことを特徴とする
請求項１から２のいずれか一項に記載の方法。
【請求項４】
前記キーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築することは、
キーポイントとターゲット対象に含まれる面との所定の第１所属関係及び前記キーポイントの二次元座標に基づいて、少なくとも１つのターゲット対象のあり得る面を構築することと、
前記あり得る面に基づいて、前記ターゲット対象の擬似三次元検出体を構築することとを含むことを特徴とする
請求項１から３のいずれか一項に記載の方法。
【請求項５】
前記あり得る面に基づいて、前記ターゲット対象の擬似三次元検出体を構築することは、
所定の面品質判定ルールに基づいて、構築された少なくとも１つのあり得る面から、最適面を決定することと、
前記最適面に基づいて前記ターゲット対象の擬似三次元検出体を構築することとを含むことを特徴とする
請求項４に記載の方法。
【請求項６】
所定の面品質判定ルールに基づいて、構築された少なくとも１つのあり得る面から、最適面を決定することは、
所定の面品質判定ルールに基づいて、構築された少なくとも１つのあり得る面から、最適面及び準最適面を決定することを含み、
前記最適面に基づいて前記ターゲット対象の擬似三次元検出体を構築することは、
前記最適面及び前記準最適面に基づいて、前記ターゲット対象の擬似三次元検出体を構築することを含むことを特徴とする
請求項５に記載の方法。
【請求項７】
前記ターゲット対象のキーポイントが複数含まれ、
前記キーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築する前に、前記方法は、
複数の前記キーポイントから、予測正確度要件に合致するキーポイントを選出することを更に含み、
前記キーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築することは、
前記選出されたキーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築することを含むことを特徴とする
請求項１から６のいずれか一項に記載の方法。
【請求項８】
被処理画像におけるターゲット対象のキーポイントの二次元座標を取得する前に、前記方法は、
前記被処理画像に対してターゲット対象検出を行い、ターゲット対象を含む二次元ターゲット検出枠を得ることを更に含み、
被処理画像におけるターゲット対象のキーポイントの二次元座標を取得することは、
前記被処理画像における前記二次元ターゲット検出枠に対応する画像部分に基づいて、前記ターゲット対象のキーポイントの二次元座標を取得することを含むことを特徴とする
請求項１から７のいずれか一項に記載の方法。
【請求項９】
前記方法は、
前記ターゲット対象検出過程において、ターゲット対象を含む二次元ターゲット検出枠の取得に成功しなかった場合、対象の三次元検出処理を実行しないことを更に含むことを特徴とする
請求項８に記載の方法。
【請求項１０】
前記最適面及び前記準最適面に基づいて、前記ターゲット対象の擬似三次元検出体を構築することは、
前記最適面の法線ベクトルを決定することと、
前記最適面における頂点の、前記法線ベクトル方向に沿った拡張によって、前記擬似三次元検出体を形成することとを含むことを特徴とする
請求項６に記載の方法。
【請求項１１】
前記最適面の法線ベクトルを決定することは、
前記準最適面におけるキーポイントから最適面に向けて下ろされる垂線を最適面の法線ベクトルとすること、又は、
前記最適面に対応するキーポイント以外の他のキーポイントのうち予測正確度が最も高いキーポイントから前記最適面に向けて下ろされる垂線を、最適面の法線ベクトルとすること、又は、
前記最適面の隣接面における、前記最適面に垂直である辺における２つのキーポイントの座標差を最適面の法線ベクトルとすることを含むことを特徴とする
請求項１０に記載の方法。
【請求項１２】
前記キーポイントの深度情報及び前記擬似三次元検出体に基づいて、前記ターゲット対象の三次元検出体を決定することは、
前記キーポイントの深度情報に基づいて、前記キーポイントの二次元座標を三次元空間における三次元座標に変換することと、
前記キーポイントの三次元座標に基づいて、前記ターゲット対象の初期三次元検出体を構築することと、
前記擬似三次元検出体に基づいて前記初期三次元検出体を補正し、前記ターゲット対象の三次元検出体を形成することとを含むことを特徴とする
請求項１から１１のいずれか一項に記載の方法。
【請求項１３】
前記キーポイントの二次元座標を三次元空間における三次元座標に変換することは、
予測正確度要件に合致するキーポイントの二次元座標を三次元空間における三次元座標に変換することを含むことを特徴とする
請求項１２に記載の方法。
【請求項１４】
前記キーポイントの三次元座標に基づいて、前記ターゲット対象の初期三次元検出体を構築することは、
前記キーポイントの三次元座標のそれぞれに対応する面に基づいて、前記ターゲット対象の最適面を決定し、三次元空間において前記ターゲット対象の最適面を構築することと、
前記最適面の法線ベクトルを決定することと、
前記最適面における頂点の、前記法線ベクトル方向に沿った拡張によって、前記初期三次元検出体を形成することとを含むことを特徴とする
請求項１３に記載の方法。
【請求項１５】
前記最適面の法線ベクトルを決定することは、
前記準最適面におけるキーポイントから前記最適面に向けて下ろされる垂線を前記最適面の法線ベクトルとすること、又は、
前記最適面に対応するキーポイント以外の他のキーポイントのうち予測正確度が最も高いキーポイントから前記最適面に向けて下ろされる垂線を前記最適面の法線ベクトルとすること、又は、
前記最適面の隣接面における、前記最適面に垂直である辺における２つのキーポイントの座標差を前記最適面の法線ベクトルとすることを含むことを特徴とする
請求項１４に記載の方法。
【請求項１６】
前記擬似三次元検出体に基づいて前記初期三次元検出体を補正し、前記ターゲット対象の三次元検出体を形成することは、
前記二次元平面における擬似三次元検出体に基づいて、前記三次元空間における初期三次元検出体を調整することで、調整後の三次元検出体の二次元平面にマッピングする領域と擬似三次元検出体との面積の重なり度合いを向上させることを含むことを特徴とする
請求項１２から１５のいずれか一項に記載の方法。
【請求項１７】
前記擬似三次元検出体に基づいて前記初期三次元検出体を補正し、前記ターゲット対象の三次元検出体を形成することは、
前記ターゲット対象の所定の長さ・幅・高さの比に基づいて、前記初期三次元検出体を補正すること、
前記ターゲット対象の、被処理画像における検出枠に基づいて、前記初期三次元検出体を補正することで、調整後の三次元検出体の二次元平面にマッピングする領域を前記検出枠に属させることのうちのいずれか１つ又は複数を含むことを特徴とする
請求項１６に記載の方法。
【請求項１８】
前記方法は、
時間順序関係を有する複数の被処理画像における同一のターゲット対象の三次元検出体に対して平滑化処理を行うことを更に含むことを特徴とする
請求項１から１７のいずれか一項に記載の方法。
【請求項１９】
前記平滑化処理は、三次元検出体の長さ・幅・高さに対する平滑化処理、三次元検出体の運動方向に対する平滑化処理、三次元検出体の鳥瞰図中心点に対する平滑化処理及び三次元検出体の頂点に対する平滑化処理のうちのいずれか１つ又は複数を含むことを特徴とする
請求項１８に記載の方法。
【請求項２０】
前記方法は、
前記ターゲット対象のキーポイントの三次元座標に基づいて、前記三次元検出体の運動方向を取得すること、
前記ターゲット対象のキーポイントの三次元座標に基づいて、前記ターゲット対象と前記被処理画像を撮影する撮影装置との位置関係を取得することのうちのいずれか１つ又は複数を更に含むことを特徴とする
請求項１から１９のいずれか一項に記載の方法。
【請求項２１】
スマート運転制御方法であって、
車両に設けられた撮影装置により採取されたビデオに含まれるビデオフレームを被処理画像として、請求項１−２０のいずれか一項に記載の方法でターゲット対象の三次元検出体を決定することと、
前記三次元検出体の情報に基づいて車両制御命令を生成することと、
前記車両に前記車両制御命令を送信することとを含むことを特徴とする、スマート運転制御方法。
【請求項２２】
前記三次元検出体の情報は、三次元検出体の運動方向、三次元検出体と前記撮影装置との位置関係、三次元検出体の寸法のうちの１つ又は複数を含むことを特徴とする
請求項２１に記載の方法。
【請求項２３】
対象三次元検出装置であって、
被処理画像におけるターゲット対象のキーポイントの二次元座標を取得するように構成される二次元座標取得モジュールと、
前記キーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築するように構成される三次元検出体構築モジュールと、
前記キーポイントの深度情報を取得するように構成される深度情報取得モジュールと、
前記キーポイントの深度情報及び前記擬似三次元検出体に基づいて、前記ターゲット対象の三次元検出体を決定するように構成される三次元検出体決定モジュールとを備えることを特徴とする、対象三次元検出装置。
【請求項２４】
前記被処理画像は、移動体に設けられた撮影装置により撮影されたビデオにおけるビデオフレーム、又は、固定位置に設けられた撮影装置により撮影されたビデオにおけるビデオフレームを含むことを特徴とする
請求項２３に記載の装置。
【請求項２５】
前記ターゲット対象は、自動車、軽車両、歩行者、動物、建築物、植物、障害物、危険物、交通標識又は物品のうちのいずれか１つ又は複数を含むことを特徴とする
請求項２３から２４のいずれか一項に記載の装置。
【請求項２６】
前記三次元検出体構築モジュールは、
キーポイントとターゲット対象に含まれる面との所定の第１所属関係及び前記キーポイントの二次元座標に基づいて、少なくとも１つのターゲット対象のあり得る面を構築するように構成される第１サブモジュールと、
前記あり得る面に基づいて、前記ターゲット対象の擬似三次元検出体を構築するように構成される第２サブモジュールとを備えることを特徴とする
請求項２３から２５のいずれか一項に記載の装置。
【請求項２７】
前記第２サブモジュールは、
所定の面品質判定ルールに基づいて、構築された少なくとも１つのあり得る面から、最適面を決定するように構成される第１ユニットと、
前記最適面に基づいて前記ターゲット対象の擬似三次元検出体を構築するように構成される第２ユニットとを備えることを特徴とする
請求項２６に記載の装置。
【請求項２８】
前記第１ユニットは、
所定の面品質判定ルールに基づいて、構築された少なくとも１つのあり得る面から、最適面及び準最適面を決定するように構成され、
前記第２ユニットは、
前記最適面及び前記準最適面に基づいて、前記ターゲット対象の擬似三次元検出体を構築するように構成されることを特徴とする
請求項１７に記載の装置。
【請求項２９】
前記ターゲット対象のキーポイントが複数含まれ、
前記装置は、複数の前記キーポイントから、予測正確度要件に合致するキーポイントを選出するように構成されるキーポイント選択モジュールを更に備え、
前記三次元検出体構築モジュールは、前記選出されたキーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築するように構成されることを特徴とする
請求項２３から２８のいずれか一項に記載の装置。
【請求項３０】
前記装置は、
前記被処理画像に対してターゲット対象検出を行い、ターゲット対象を含む二次元ターゲット検出枠を得るように構成されるターゲット検出枠取得モジュールを更に備え、
前記二次元座標取得モジュールは、前記被処理画像における前記二次元ターゲット検出枠に対応する画像部分に基づいて、前記ターゲット対象のキーポイントの二次元座標を取得するように構成されることを特徴とする
請求項２３から２９のいずれか一項に記載の装置。
【請求項３１】
前記ターゲット対象検出過程において、前記ターゲット検出枠取得モジュールが、ターゲット対象を含む二次元ターゲット検出枠の取得に成功しなかった場合、対象三次元検出装置は、対象の三次元検出処理を実行しないことを特徴とする
請求項３０に記載の装置。
【請求項３２】
前記第２ユニットは、
前記最適面の法線ベクトルを決定し、
前記最適面における頂点の、前記法線ベクトル方向に沿った拡張によって、前記擬似三次元検出体を形成するように構成されることを特徴とする
請求項２８に記載の装置。
【請求項３３】
前記第２ユニットは、前記最適面の法線ベクトルを決定する時、
前記準最適面におけるキーポイントから最適面に向けて下ろされる垂線を最適面の法線ベクトルとするか、又は、
前記最適面に対応するキーポイント以外の他のキーポイントのうち予測正確度が最も高いキーポイントから前記最適面に向けて下ろされる垂線を、最適面の法線ベクトルとするか、又は、
前記最適面の隣接面における、前記最適面に垂直である辺における２つのキーポイントの座標差を最適面の法線ベクトルとするように構成されることを特徴とする
請求項３２に記載の装置。
【請求項３４】
前記三次元検出体決定モジュールは、
前記キーポイントの深度情報に基づいて、前記キーポイントの二次元座標を三次元空間における三次元座標に変換するように構成される第３サブモジュールと、
前記キーポイントの三次元座標に基づいて、前記ターゲット対象の初期三次元検出体を構築するように構成される第４サブモジュールと、
前記擬似三次元検出体に基づいて前記初期三次元検出体を補正し、前記ターゲット対象の三次元検出体を形成するように構成される第５サブモジュールとを備えることを特徴とする
請求項２３から３３のいずれか一項に記載の装置。
【請求項３５】
前記第３サブモジュールは、
予測正確度要件に合致するキーポイントの二次元座標を三次元空間における三次元座標に変換するように構成されることを特徴とする
請求項３４に記載の装置。
【請求項３６】
前記第４サブモジュールは、
前記キーポイントの三次元座標のそれぞれに対応する面に基づいて、前記ターゲット対象の最適面を決定し、三次元空間において前記ターゲット対象の最適面を構築するように構成される第３ユニットと、
前記最適面の法線ベクトルを決定するように構成される第４ユニットと、
前記最適面における頂点の、前記法線ベクトル方向に沿った拡張によって、前記初期三次元検出体を形成するように構成される第５ユニットとを備えることを特徴とする
請求項３５に記載の装置。
【請求項３７】
前記第４ユニットは、
前記準最適面におけるキーポイントから前記最適面に向けて下ろされる垂線を前記最適面の法線ベクトルとするか、又は、
前記最適面に対応するキーポイント以外の他のキーポイントのうち予測正確度が最も高いキーポイントから前記最適面に向けて下ろされる垂線を前記最適面の法線ベクトルとするか、又は、
前記最適面の隣接面における、前記最適面に垂直である辺における２つのキーポイントの座標差を前記最適面の法線ベクトルとするように構成されることを特徴とする
請求項３６に記載の装置。
【請求項３８】
前記第５サブモジュールは、
前記二次元平面における擬似三次元検出体に基づいて、前記三次元空間における初期三次元検出体を調整することで、調整後の三次元検出体の二次元平面にマッピングする領域と擬似三次元検出体との面積の重なり度合いを向上させるように構成されることを特徴とする
請求項３４から３７のいずれか一項に記載の装置。
【請求項３９】
前記第５サブモジュールは更に、
前記ターゲット対象の所定の長さ・幅・高さの比に基づいて、前記初期三次元検出体を補正し、及び／又は、前記ターゲット対象の、被処理画像における検出枠に基づいて、前記初期三次元検出体を補正することで、調整後の三次元検出体の二次元平面にマッピングする領域を前記検出枠に属させるように構成されることを特徴とする
請求項３８に記載の装置。
【請求項４０】
前記装置は、
時間順序関係を有する複数の被処理画像における同一のターゲット対象の三次元検出体に対して平滑化処理を行うように構成される平滑化処理モジュールを更に備えることを特徴とする
請求項２３から３９のいずれか一項に記載の装置。
【請求項４１】
前記平滑化処理は、三次元検出体の長さ・幅・高さに対する平滑化処理、三次元検出体の運動方向に対する平滑化処理、三次元検出体の鳥瞰図中心点に対する平滑化処理及び三次元検出体の頂点に対する平滑化処理のうちのいずれか１つ又は複数を含むことを特徴とする
請求項４０に記載の装置。
【請求項４２】
前記装置は、
前記ターゲット対象のキーポイントの三次元座標に基づいて、前記三次元検出体の運動方向を取得するように構成される運動方向取得モジュール、及び／又は、
前記ターゲット対象のキーポイントの三次元座標に基づいて、前記ターゲット対象と前記被処理画像を撮影する撮影装置との位置関係を取得するように構成される位置関係取得モジュールを更に備えることを特徴とする
請求項２３から４１のいずれか一項に記載の装置。
【請求項４３】
スマート運転制御装置であって、
車両に設けられた撮影装置により採取されたビデオに含まれるビデオフレームを被処理画像として、ターゲット対象の三次元検出体を決定するように構成される請求項２２−４０のいずれか一項に記載の対象三次元検出装置と、
前記三次元検出体の情報に基づいて車両制御命令を生成するように構成される命令生成モジュールと、
前記車両に前記車両制御命令を送信するように構成される命令送信モジュールとを備えることを特徴とする、スマート運転制御装置。
【請求項４４】
前記三次元検出体の情報は、三次元検出体の運動方向、三次元検出体と前記撮影装置との位置関係、三次元検出体の寸法のうちの１つ又は複数を含むことを特徴とする
請求項４３に記載の装置。
【請求項４５】
電子機器であって、
コンピュータプログラムを記憶するように構成されるメモリと、
前記メモリに記憶されているコンピュータプログラムを実行し、且つ前記コンピュータプログラムが実行される時、請求項１−２２のいずれか一項に記載の方法を実現させるように構成されるプロセッサとを備える、電子機器。
【請求項４６】
コンピュータ可読記憶媒体であって、前記コンピュータ可読記憶媒体には、コンピュータプログラムが記憶されており、該コンピュータプログラムがプロセッサにより実行される時、請求項１−２２のいずれか一項に記載の方法を実現させる、コンピュータ可読記憶媒体。
【請求項４７】
コンピュータプログラムであって、前記コンピュータプログラムはコンピュータ命令を含み、前記コンピュータ命令が機器のプロセッサで実行される時、請求項１−２２のいずれか一項に記載の方法を実現させる、コンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
（関連出願の相互参照）
本出願は、２０１８年０８月０７日に中国特許局に提出された出願番号がＣＮ２０１８１０８９１５３５．０であり、発明名称が「対象三次元検出及びスマート運転制御方法、装置、媒体並びに機器」である中国特許出願の優先権を要求し、その全ての内容は引用によって本出願に援用される。
【０００２】
本出願は、コンピュータビジョン技術に関し、特に、対象三次元検出方法、対象三次元検出装置、スマート運転制御方法、スマート運転制御方法、電子機器、コンピュータ可読記憶媒体並びにコンピュータプログラムに関する。
【背景技術】
【０００３】
対象三次元（３Ｄ）検出は、一般的には、物体の空間位置、運動方向及び３Ｄ寸法などの三次元空間パラメータの予測に用いられる。例えば、自動運転技術において、道路上の他の車両に対して三次元検出を行い、他の車両の三次元直方体、車両走行方向及び撮影装置の位置関係などを取得する必要がある。物体の三次元検出結果を正確に得ることは、自動運転の安全性の向上に寄与する。
【発明の概要】
【発明が解決しようとする課題】
【０００４】
本出願の実施例は、対象三次元検出及びスマート運転制御の技術的解決手段を提供する。
【課題を解決するための手段】
【０００５】
本出願の実施例の一態様によれば、対象三次元検出方法を提供する。前記方法は、被処理画像におけるターゲット対象のキーポイントの二次元座標を取得することと、前記キーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築することと、前記キーポイントの深度情報を取得することと、前記キーポイントの深度情報及び前記擬似三次元検出体に基づいて、前記ターゲット対象の三次元検出体を決定することとを含む。
【０００６】
本出願の実施例のもう１つの態様によれば、スマート運転制御方法を提供する。前記方法は、車両に設けられた撮影装置により採取されたビデオに含まれるビデオフレームを被処理画像として、本出願の実施例の上記いずれか１つの方法でターゲット対象の三次元検出体を決定することと、前記三次元検出体の情報に基づいて車両制御命令を生成することと、前記車両に前記車両制御命令を送信することとを含む。
【０００７】
本出願のまた１つの態様によれば、対象三次元検出装置を提供する。前記装置は、被処理画像におけるターゲット対象のキーポイントの二次元座標を取得するように構成される二次元座標取得モジュールと、前記キーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築するように構成される三次元検出体構築モジュールと、前記キーポイントの深度情報を取得するように構成される深度情報取得モジュールと、前記キーポイントの深度情報及び前記擬似三次元検出体に基づいて、前記ターゲット対象の三次元検出体を決定するように構成される三次元検出体決定モジュールとを備える。
【０００８】
本出願の実施例のまた１つの態様によれば、スマート運転制御装置を提供する。前記装置は、車両に設けられた撮影装置により採取されたビデオに含まれるビデオフレームを被処理画像として、ターゲット対象の三次元検出体を決定するように構成される上記いずれか１つの実施例に記載の対象三次元検出装置と、前記三次元検出体の情報に基づいて車両制御命令を生成するように構成される命令生成モジュールと、前記車両に前記車両制御命令を送信するように構成される命令送信するモジュールとを備える。
【０００９】
本出願の実施例のまた１つの態様によれば、電子機器を提供する。前記電子機器は、コンピュータプログラムを記憶するように構成されるメモリと、前記メモリに記憶されているコンピュータプログラムを実行し、且つ前記コンピュータプログラムが実行される時、本出願の上記いずれか１つの実施例に記載の方法を実現させるように構成されるプロセッサとを備える。
【００１０】
本出願の実施例のまた１つの態様によれば、コンピュータ可読記憶媒体を提供する。前記コンピュータ可読記憶媒体には、コンピュータプログラムが記憶されており、該コンピュータプログラムがプロセッサにより実行される時、本出願の上記いずれか１つの実施例に記載の方法を実現させる。
【００１１】
本出願の実施例のまた１つの態様によれば、コンピュータプログラムを提供する。前記コンピュータプログラムはコンピュータ命令を含み、前記コンピュータ命令が機器のプロセッサで実行される時、本出願の上記いずれか１つの実施例に記載の方法を実現させる。
【発明の効果】
【００１２】
本出願で提供される対象三次元検出方法、対象三次元検出装置、スマート運転制御方法、スマート運転制御装置、電子機器、コンピュータ可読記憶媒体及びコンピュータプログラムによれば、ターゲット対象のキーポイントの二次元座標を利用して、二次元平面において、該ターゲット対象の擬似三次元検出体を構築する。ターゲット対象のキーポイント検出結果の正確度が確保されるため、本出願の実施例は、キーポイントの深度情報及び擬似三次元検出体により、ターゲット対象の三次元検出体のサイズをターゲット対象の実際のサイズに可能な限り類似させることができ、コンピューティングリソースを小さく消費する前提で、対象三次元検出の正確性を向上させるのに寄与し、また、低いコストを確保する上で、自動運転の安全性を向上させるのに寄与する。
【００１３】
以下、図面及び実施例を参照しながら、本出願の技術的解決手段を詳しく説明する。
【図面の簡単な説明】
【００１４】
【図１】本出願による対象三次元検出方法の一実施例を示すフローチャートである。
【図２】本出願による被処理画像におけるターゲット対象のキーポイントの一実施例を示す概略図である。
【図３】本出願による擬似三次元検出体の一実施例を示す概略図である。
【図４】本出願によるスマート運転制御方法の一実施例を示すフローチャートである。
【図５】本出願による対象三次元検出装置の一実施例の構造を示す概略図である。
【図６】本出願によるスマート運転制御装置の一実施例の構造を示す概略図である。
【図７】本出願の実施例による一例示的な機器を示すブロック図である。
【発明を実施するための形態】
【００１５】
明細書の一部を構成する図面は、本出願の実施例を記述し、その記述とともに、本出願の原理の解釈に役立つ。
【００１６】
図面を参照しながら、下記詳細な記述に基づいて、本出願をより明確に理解することができる。
【００１７】
以下、図面を参照しながら、本出願の様々な例示的な実施例を詳しく説明する。別途明記されない限り、これらの実施例において説明される構成要素の相対的配置及びステップの相対的配列、数式及び数値は、本出願の範囲を限定するものではないことに留意されたい。
【００１８】
また、本出願において、「複数」とは、２つ又は２つ以上を意味してもよく、「少なくとも１つ」とは、１つ、２つ又は２つ以上を意味してもよいことも理解されるべきである。
【００１９】
本出願の実施例における「第１」、「第２」等の用語は、異なるステップ、機器又はモジュールを区別するためのものに過ぎず、いかなる特定の技術的意味を表すものではないし、それら同士間の必然的な論理順序を表すものではないことは、当業者であれば理解すべきである。
【００２０】
本出願で言及されたいずれか１つの部材、データ又は構造について、明確に限定されないか又は文脈では反対となるものが示唆された場合、一般的には、１つ又は複数と解釈されることも理解されるべきである。
【００２１】
また、本出願において、各実施例を説明する場合、各実施例の相違点に重点が置かれており、その同じ又は類似した部分は互いに参照することができる。簡潔化を図るために、詳細な説明を省略する。
【００２２】
また、説明の便宜上、図示の各部分の寸法は実際の比例関係に従って描かれたものではないことが理解されるべきである。
【００２３】
以下の少なくとも１つの例示的な実施例の説明は本質的に単なる例であり、本発明及びその適用又は用途を限定することをまったく意図しない。
【００２４】
当業者が既知の技術、方法および設備について詳しく述べることはないが、適宜な状況において、前記技術、方法および設備は明細書の一部とみなすべきである。
【００２５】
類似した符号及びアルファベットは下記図面において類似した要素を表すため、いずれか１つの要素が１つの図面において定義された場合、後続図面においてそれをこれ以上検討する必要がないことに留意されたい。
【００２６】
なお、本出願において、用語「及び／又は」は、関連対象の関連関係を説明するためのものであり、多種の関係が存在することを表す。例えば、Ａ及び／又はＢは、Ａのみが存在すること、ＡとＢが同時に存在すること、Ｂのみが存在するという３つの場合を表す。なお、符号「／」は、一般的には、前後の関連する対象が「又は」の関係であることを示す。
【００２７】
本出願の実施例は、端末装置、コンピュータシステム及びサーバなどの電子機器に適用される。それは、多数の他の汎用又は専用コンピュータシステム環境又は構成とともに動作する。端末装置、コンピュータシステム及びサーバなどの電子機器と共に適用されるのに適する周知の端末装置、コンピューティングシステム、環境及び／又は構成の例は、パーソナルコンピュータシステム、サーバコンピュータシステム、シンクライアント、シッククライアント、ハンドヘルド又はラップトップデバイス、マイクロプロセッサベースのシステム、セットトップボックス、プログラマブル消費者向け電子機器製品、ネットワークパソコン、小型コンピュータシステム、大型コンピュータシステム及び上記任意のシステムを含む分散型クラウドコンピューティング技術環境などを含むが、これらに限定されない。
【００２８】
端末装置、コンピュータシステム及びサーバ等の電子機器は、コンピュータシステムにより実行されるコンピュータシステムによる実行可能な命令（例えば、プログラムモジュール）の一般的な内容で説明できる。一般的には、プログラムモジュールは、ルーチン、プログラム、対象プログラム、ユニット、ロジック、データ構造などを含んでもよいが、これらは、特定のタスクを実行するか又は特定の抽象データ型を実現させる。コンピュータシステム／サーバを、分散型クラウドコンピューティング環境において実行することができる。分散型クラウドコンピューティング環境において、タスクは、通信ネットワークを介してリンクされるリモート処理デバイスにより実行される。分散型クラウドコンピューティング環境において、プログラムモジュールは、記憶装置を備えるローカル又はリモートコンピューティングシステム記憶媒体に位置してもよい。
【００２９】
図１は、本出願による対象三次元検出方法の一実施例を示すフローチャートである。図１に示すように、該実施例の方法は、以下を含む。
【００３０】
Ｓ１００、被処理画像におけるターゲット対象キーポイントの二次元座標を取得する。
【００３１】
任意選択的な例において、本出願の実施例における被処理画像は、静的状態であるピクチャ又は写真などの画像であってもよいし、動的状態であるビデオにおけるビデオフレームであってもよい。例えば、移動体に設けられた撮影装置により撮影られたビデオにおけるビデオフレームである。また例えば、固定位置に設けられた撮影装置により撮影られたビデオにおけるビデオフレームである。上記移動体は、車両、ロボット又はメカニカルアームなどであってもよい。上記固定位置は、机又は壁などであってもよい。本出願の実施例は、移動体又は固定位置の表現形態を限定するものではない。
【００３２】
任意選択的な例において、本出願の実施例における被処理画像は、普通の高解像度撮影装置により得られた画像であってもよい。レーザー測距装置及びデプスカメラを利用しなければならないことによるコストが高いなどの状況を避けることができる。
【００３３】
任意選択的な例において、本出願の実施例におけるターゲット対象は、少なくとも前後左右の四つの面を含む。例えば、本出願の実施例におけるターゲット対象は、自動車（特に、ガソリン自動車、電気自動車又は自律走行自動車などのような自動車を指す）、軽車両（例えば、自転車、人力三輪車など）、歩行者、動物、建築物、植物、障害物、危険物、交通標識又は物品などであってもよい。本出願の実施例は、ターゲット対象の表現形態を限定するものではない。ターゲット対象が種々の形態であってもよいため、本出願の実施例の対象三次元検出方法は、汎用性が高いという特徴を持つ。
【００３４】
任意選択的な例において、本出願の実施例におけるキーポイントは、意味を有するキーポイントであり、且つ該キーポイントは、一般的には、ターゲット対象の外輪郭キーポイントである。ターゲット対象が車両である場合、本出願の実施例における意味を有するキーポイントは、車両の左前隅キーポイント（例えば、図２における１であり、以下、左前下と略称される）、車両ルーフの左前隅キーポイント（例えば、図２における２であり、以下、左前上と略称される）、車両ルーフの左後隅キーポイント（例えば、図２における３であり、以下、左後上と略称される）、車両の左後隅キーポイント（例えば、図２における４であり、以下、左後下と略称される）、左後輪底部キーポイント（例えば、図２における５であり、以下、左後輪と略称される）、左前輪底部キーポイント（例えば、図２における６であり、以下、左前輪と略称される）、車両の右前隅キーポイント（例えば、図２における７であり、以下、右前下と略称される）、車両ルーフの右前隅キーポイント（例えば、図２における８であり、以下、右前上と略称される）、車両ルーフの右後隅キーポイント（図２における３と左右対称であり、以下、右後上と略称される）、車両の右後隅キーポイント（図２における４と左右対称であり、以下、右後下と略称される）、右後輪底部キーポイント（図２における５と左右対称であり、以下、右後輪と略称される）及び右前輪底部キーポイント（図２における６と左右対称であり、以下、右前輪と略称される）を含んでもよい。つまり、キーポイントの意味は、キーポイントの車両における位置を示すことができる。なお、本出願の実施例における車両は、より多くの数のキーポイントを備えてもよい。本出願の実施例は、ターゲット対象のキーポイントの数及びキーポイントにより表される意味を限定するものではない。
【００３５】
任意選択的な例において、本出願の実施例におけるいずれか１つのキーポイントは、一般的には、擬似三次元検出体（例えば、三次元直方体）の１つの面、２つの面又は３つの面に対応する。同様に、本出願の実施例におけるキーポイントは、一般的には、三次元検出体の１つの面、２つの面又はより多くの面に対応する。つまり、キーポイントが、擬似三次元検出体の面及び三次元検出体の面と、対応関係を有する。例えば、図２において、左前下、左前上、右前下及び右前上は、擬似三次元検出体及び三次元検出体の前面に対応する。つまり、車両の前方位置から、左前下、左前上、右前下及び右前上という４つのキーポイントを観測することができる。左前下、左前上、左後下、左後下、左前輪及び左後輪は、擬似三次元検出体及び三次元検出体の左面に対応する。つまり、車両の右方位置から、左前下、左前上、左後下、左後下、左前輪及び左後輪という６つのキーポイントを観測することができる。左後下、左後上、右後下及び右後上は、擬似三次元検出体及び三次元検出体の後面に対応する。つまり、車両の後方位置から、左後下、左後上、右後下及び右後上という４つのキーポイントを観測することができる。右前下、右前上、右後下、右後下、右前輪及び右後輪は、擬似三次元検出体及び三次元検出体の右面に対応する。つまり、車両の右方位置から、左後下、左後上、右後下及び右後上という４つのキーポイントを観測することができる。右前下、右前上、右後下、右後下、右前輪及び右後輪という６つのキーポイント。左前下、左前上、右前下、右前上、左後下、左後上、右後下及び右後上は、擬似三次元検出体及び三次元検出体の上面に対応する。つまり、車両の上方位置から、左前下、左前上、右前下、右前上、左後下、左後上、右後下及び右後上という８つのキーポイントを観察することができる。左前下、右前下、左後下、右後下、左前輪、右前輪、左後輪及び右後輪は、擬似三次元検出体及び三次元検出体の下面に対応する。つまり、車両の下方位置から、左前下、右前下、左後下、右後下、左前輪、右前輪、左後輪及び右後輪という８つのキーポイントを観測することができる。なお、本出願の実施例において、キーポイントと擬似三次元検出体及び三次元検出体の上面及び下面との対応関係を設定しなくてもよいことに特に留意されたい。
【００３６】
任意選択的な例において、上記操作Ｓ１００の前に、被処理画像に対してターゲット対象検出を行い、ターゲット対象を含む二次元ターゲット検出枠を得ることもできる。なお、Ｓ１００において、被処理画像における二次元ターゲット検出枠に対応する画像部分に基づいて、ターゲット対象のキーポイントの二次元座標を得ることができる。
【００３７】
任意選択的な例において、本出願の実施例は、従来のニューラルネットワークを利用して、被処理画像におけるターゲット対象のキーポイントの二次元座標を得ることができる。例えば、ターゲット対象（例えば車両）を含む被処理画像をニューラルネットワークに入力し、該ニューラルネットワークにより、被処理画像に対してキーポイント検出（例えば車両キーポイント検出）処理を行う。これにより、ニューラルネットワークから出力された情報に基づいて、ターゲット対象の各キーポイントの被処理画像における二次元座標を得ることができる。また例えば、まず、被処理画像に対して、ターゲット対象の検出処理を行い、ターゲット対象を含む二次元ターゲット検出枠の位置を得る。続いて、二次元ターゲット検出枠の位置に基づいて、被処理画像を分割処理し、ターゲット対象画像ブロック（即ち、ターゲット対象を含む画像ブロックであり、例えば、車両を含む画像ブロックである車両画像ブロックである）を得る。ターゲット対象画像ブロックをニューラルネットワークに入力し、該ニューラルネットワークにより、ターゲット対象画像ブロックに対して、キーポイント検出（例えば、車両キーポイント検出）処理を行うことで、ニューラルネットワークから出力された情報に基づいて、ターゲット対象（例えば車両）の各キーポイントのターゲット対象画像ブロック（例えば車両画像ブロック）における二次元座標を得ることができる。更に、ターゲット対象の各キーポイントのターゲット対象画像ブロックにおける二次元座標をターゲット対象の各キーポイントの被処理画像における二次元座標に変換することができる。本出願の実施例は、ニューラルネットワークを利用してターゲット対象のキーポイントの二次元座標を得るための実現形態を限定するものではない。なお、二次元ターゲット検出枠（即ち、ターゲット対象を含む検出枠）の取得に成功した場合、本出願の実施例は、対象三次元検出方法における他のステップを引き続き実行する。そうでなければ、本出願の実施例は、対象三次元検出方法における他のステップを引き続き実行せず、コンピューティングリソースの節約に役立つ。
【００３８】
任意選択的な例において、本出願の実施例におけるニューラルネットワークは、畳み込み層、非線形Ｒｅｌｕ層、プーリング層及び全結合層などを含んでもよいが、これらに限定されない。該ニューラルネットワークに含まれる層数が多いほど、ネットワークが深くなる。本出願の実施例のニューラルネットワークは、Ｓｔａｃｋ  ｈｏｕｒｇｌａｓｓニューラルネットワークフレームワーク構造を用いてもよいし、ＡＳＭ（Ａｃｔｉｖｅ  Ｓｈａｐｅ  Ｍｏｄｅｌ：アクティブシェイプモデル）、ＡＡＭ（Ａｃｔｉｖｅ  Ａｐｐｅａｒｎｃｅ  Ｍｏｄｅｌ：アクティブ外観モデル）又はカスケードポーズ回帰アルゴリズムに基づいたニューラルネットワークフレームワーク構造を用いてもよい。本出願の実施例は、ニューラルネットワークの構造を限定するものではない。
【００３９】
任意選択的な例において、該操作Ｓ１００は、プロセッサによりメモリに記憶されている対応する命令を呼び出すことで実行されてもよいし、プロセッサで実行される二次元座標取得モジュール５００により実行されてもよい。
【００４０】
Ｓ１１０、キーポイントの二次元座標に基づいて、二次元平面において、ターゲット対象の擬似三次元検出体を構築する。
【００４１】
任意選択的な例において、本出願の実施例におけるターゲット対象の擬似三次元検出体は一般的には、二次元平面においてターゲット対象を囲むことができる直方体を指す。つまり、二次元平面において作図することで、直方体を形成することができる。該直方体が、三次元空間における真の直方体ではなく、平面から見た直方体であるため、本出願の実施例は、それを擬似三次元検出体と呼ぶ。しかしながら、擬似三次元検出体は、三次元空間における真の直方体ではないが、その長さ・幅・高さが、依然としてターゲット対象の長さ・幅・高さを反映することができる。一般的には、擬似三次元検出体の長さ・幅・高さを擬似三次元検出体内のターゲット対象の長さ・幅・高さと認めることができる。つまり、擬似三次元検出体を、二次元平面におけるターゲット対象の外接直方体と認めることができる。なお、本出願の実施例における擬似三次元検出体は、擬似三次元立方体を含む。
【００４２】
任意選択的な例において、本出願の実施例は、まず、現在取得されたターゲット対象の全てのキーポイントを選出し、予測正確度要件に合致するキーポイントを選出する（例えば、信頼度が所定の信頼度閾値より高いキーポイントを選出する）。続いて、選出された予測正確度要件に合致するキーポイントの二次元座標を利用して、二次元平面において、ターゲット対象の擬似三次元検出体を構築する。ターゲット対象の擬似三次元検出体を構築する過程において、予測正確度の低いキーポイントが利用されるのを避けるため、本出願の実施例は、構築される擬似三次元直方体の正確性の向上に寄与する。
【００４３】
任意選択的な例において、本出願の実施例は、まず、キーポイントとターゲット対象に含まれる面との所定の第１所属関係及びキーポイントの二次元座標に基づいて、ターゲット対象の少なくとも１つのあり得る面を構築する。続いて、構築されたあり得る面に基づいて、ターゲット対象の擬似三次元検出体を構築する。本出願の実施例におけるあり得る面は最適面であってもよい。本出願の実施例におけるあり得る面は、最適面及び準最適面であってもよい。
【００４４】
本出願の実施例におけるあり得る面が最適面である場合、任意選択的な例において、所定の面品質判定ルールに基づいて、構築された少なくとも１つのあり得る面から、最適面を決定してから、最適面に基づいてターゲット対象の擬似三次元検出体を構築する。
【００４５】
本出願の実施例におけるあり得る面が最適面及び準最適面である場合、任意選択的な例において、構築された少なくとも１つのあり得る面から、最適面及び準最適面を決定してから、最適面及び準最適面に基づいて、ターゲット対象の擬似三次元検出体を構築する。
【００４６】
任意選択的な例において、本出願の実施例は、まず、被処理画像におけるターゲット対象の最適面を決定し、二次元平面において該最適面を構築してから、該最適面の法線ベクトルを決定し、該最適面におけるキーポイントの、該法線ベクトル方向に沿った拡張によって、擬似三次元検出体を形成する。擬似三次元検出体を迅速かつ正確に構築するのに寄与する。
【００４７】
任意選択的な例において、ターゲット対象のキーポイントは、複数含まれてもよい。なお、本出願の実施例において、被処理画像におけるターゲット対象の最適面を決定する形態は以下の通りであってもよい。まず、予測正確度要件に合致するキーポイントのそれぞれに対応する面に対して、各面の品質を決定する。つまり、予測正確度要件に合致するキーポイントに基づいて、各面に対して品質評価を行う。続いて、品質評価が最も高い面をターゲット対象の最適面とする。なお、該実施例において、選出されたキーポイントの二次元座標に基づいて、ターゲット対象の擬似三次元検出体を構築することができる。
【００４８】
任意選択的な例において、面の品質評価形態は、以下の通りであってもよい。各面に対応する、予測正確度要件に合致するキーポイントの数を統計し、統計された数を品質評価スコアとする。従って、１つの面に対応する、予測正確度要件に合致するキーポイントの数が多いほど、該面の品質評価スコアが高くなる。例えば、図２において、キーポイント１、キーポイント２、キーポイント３、キーポイント４、キーポイント５、キーポイント６、キーポイント７及びキーポイント８がいずれも、予測正確度要件に合致するキーポイントであるとすれば、キーポイント１、キーポイント２、キーポイント３、キーポイント４、キーポイント５及びキーポイント６が車両の左面に対応し、キーポイント１、キーポイント２、キーポイント７及びキーポイント８が車両の前面に対応するため、車両の左面の品質評価スコアが最も高く、車両の左面が最適面である。
【００４９】
任意選択的な例において、面の品質評価形態は以下の通りであってもよい。各面に対応する、予測正確度要件に合致するのキーポイントの予測正確度の和を統計する。従って、少なくとも１つの面が１つの予測正確度スコアに対応する。本出願の実施例は、面に対応する予測正確度スコアを面の品質評価スコアとすることができる。従って、面に対応する予測正確度スコアが高いほど、該面の品質評価スコアが高くなる。
【００５０】
任意選択的な例において、面の品質評価形態は以下の通りであってもよい。各面に対応する、予測正確度要件に合致するのキーポイントの数及び予測正確度の和を統計する。従って、各面は、１つのキーポイント数及び予測正確度スコアに対応する。本出願の実施例は、各面に対応する予測正確度スコアとキーポイントの数との商を算出する。つまり、各面の予測正確度平均スコアを算出する。面に対応する予測正確度平均スコアを面の品質評価スコアとする。従って、面に対応する予測正確度平均スコアが高いほど、該面の品質評価スコアが高くなる。
【００５１】
以上、３つの面の品質評価形態のみを列挙した。本出願の実施例は、他の形態で、面の品質を決定することもできる。本出願の実施例は、面の品質評価形態の実現形態を限定するものではない。
【００５２】
任意選択的な例において、本出願の実施例は、種々の形態により、二次元平面において、最適面を構築することができる。例えば、最適面における１つのキーポイントを利用して二次元平面において、垂線（即ち、キーポイントの垂直方向を通った線）を下ろし、最適面における１つの辺は、該垂線に位置し、該垂線と他の面における辺との交点は、最適面の１つの頂点である。また例えば、最適面における２つのキーポイントを利用して、二次元平面において、連結線を作成する。該連結線は、最適面における１つの辺であってもよい。又は該連結線及びその延長線は、最適面における１つの辺であってもよい。つまり、該２つのキーポイントは最適面における２つの頂点であってもよい。又は、該２つのキーポイントの連結線の延長線と他の面の辺との交点は、該最適面の頂点であってもよい。また例えば、最適面における１つのキーポイントを利用して平行線を作成する。該平行線は、最適面におけるもう１つの辺に平行である線である。つまり、最適面における１つのキーポイントを利用して、最適面におけるもう１つの辺の平行線を作成する。最適面における１つの辺は、該平行線に位置する。該平行線と上記垂線との交点又は他の面の辺との交点は、該最適面の頂点である。本出願の実施例は、二次元平面において最適面を構築するための実現形態を限定するものではない。
【００５３】
任意選択的な例において、本出願の実施例において、種々の形態により、最適面の法線ベクトルを決定することができる。第１の例において、まず、擬似三次元検出体の準最適面を決定してから、準最適面におけるキーポイントを利用して最適面に向けて垂線を下ろすことで、該垂線を最適面の法線ベクトルとすることができる。第２の例において、予測正確度要件に合致する全てのキーポイントから、最適面に対応するキーポイントを除去し、残りのキーポイントから、予測正確度が最も高いキーポイントを選出し、該キーポイントを経由して最適面に向けて垂線を下ろし、該垂線を最適面の法線ベクトルとする。第３の例において、２つのキーポイントが最適面に属する隣接面が存在し、且つ該２つのキーポイントの連結線が隣接面の、最適面に垂直な辺に位置すると、該２つのキーポイントの二次元平面における座標差を最適面の法線ベクトルとすることができる。例えば、図２において、車両の左面が最適面であって、車両の前面が準最適面であって、キーポイント７の二次元平面における座標が
2021524115.tif 000003
であって、キーポイント１の二次元平面における座標が
2021524115.tif 000004
であるとすれば、本出願の実施例は、
2021524115.tif 000005
を最適面の法線ベクトルとすることができる。以上、３つの例のみを列挙した。本出願の実施例は、他の形態で、最適面の法線ベクトルを得ることもできる。本出願の実施例は、最適面の法線ベクトルを得るための実現形態を限定するものではない。
【００５４】
任意選択的な例において、本出願の実施例において準最適面を決定する過程は以下の通りであってもよい。まず、最適面に隣接する面を決定し、最適面に属するキーポイント以外の他のキーポイントに対して、最適面に隣接する各面のそれぞれに含まれるキーポイントの数を統計する。本出願の実施例は、含まれるキーポイントの数が最も多い面を準最適面とすることで、準最適面選択が不適切であるという現象を避けることができる。例えば、図２において、キーポイント検出過程においてエラーが発生したため、本出願の実施例は、キーポイント１、キーポイント２、キーポイント３、キーポイント４、キーポイント５、キーポイント６、キーポイント７及びキーポイント８を取得しただけでなく、キーポイント１０も取得した。キーポイント１、キーポイント２、キーポイント３、キーポイント４、キーポイント５、キーポイント６、キーポイント７、キーポイント８及びキーポイント１０がいずれも予測正確度要件に合致し、且つキーポイント１０の予測正確度が高いため、上記場合、キーポイント１０にはキーポイント検出エラーが発生したことが明らかである。本出願の実施例は、上記形態で準最適面を決定することで、キーポイント１０から最適面に向けて垂線を下ろし、最適面の法線ベクトルを得るという現象を避けることができる。
【００５５】
任意選択的な例において、本出願の実施例は、最適面及びその法線ベクトルを決定してから、最適面における頂点を該最適面の法線ベクトル方向に沿って拡張させ、他の面の辺と交差させ、最終的に、擬似三次元検出体を形成する。例えば、図２において、まず、キーポイント１を通った第１垂線及びキーポイント４を通った第２垂線を形成してから、キーポイント６及びキーポイント５を同時に通って且つ第１垂線及び第２垂線とそれぞれ交差する第１線を形成する。続いて、キーポイント２又はキーポイント３を通って上記第１線に平行であり、且つ２本の垂線とそれぞれ交差する第２線を形成することで、最適面の４本の線及び４つの頂点を形成する。該最適面の法線ベクトルは、
2021524115.tif 000006
である。該法線ベクトルは、準最適面の底辺である。本出願の実施例は、キーポイント７を通った第３垂線を形成し、キーポイント７により、第１線又は第２線に平行である第３線を作成する。最適面における左上隅の頂点の、該法線ベクトル方向に沿った拡張が第３垂線と交差し、準最適面の頂辺を形成する。また、該交点とキーポイント８との連結線は、最適面における右上隅の頂点が該法線ベクトル方向に沿って拡張した線と交差する。該交点により第４垂線を下ろす。第４垂線は、最適面の右下隅の頂点が法線ベクトル方向に沿って拡張した線と交差する。これにより二次元空間において、擬似三次元検出体を形成する。本出願の実施例において、被処理画像におけるターゲット対象のために形成された擬似三次元検出体の一例は、図３に示す通りである。本出願の実施例は、最適面及びその法線ベクトルを決定してから、種々の形態で擬似三次元検出体を形成することができる。本出願の実施例は、擬似三次元検出体の形成のための実現過程を限定するものではない。
【００５６】
任意選択的な例において、該操作Ｓ１１０は、プロセッサによりメモリに記憶されている対応する命令を呼び出すことで実行されてもよいし、プロセッサで実行される三次元検出体構築モジュール５１０により実行されてもよい。
【００５７】
Ｓ１２０、キーポイントの深度情報を取得する。
【００５８】
任意選択的な例において、本出願の実施例は、単眼形態又は両眼形態などにより、被処理画像の深度マップを得てから、キーポイントの二次元座標を利用して該深度マップから、キーポイントの深度値を読み取ることができる。本出願の実施例は、Ｈ行列の形態でキーポイントの深度値を直接的に得ることができる。つまり、キーポイントの二次元座標とＨ行列を乗算し、乗算結果から、キーポイントの深度値（単位がメートルであってもよい）を得る。また、撮影装置が深度ベースの撮影装置である場合、キーポイントの深度値を直接的に得ることができる。本出願の実施例は、キーポイントの深度値を得るための実現形態を限定するものではない。
【００５９】
任意選択的な例において、該操作Ｓ１２０は、プロセッサによりメモリに記憶されている対応する命令を呼び出すことで実行されてもよいし、プロセッサで実行される深度情報取得モジュール５２０により実行されてもよい。
【００６０】
Ｓ１３０、キーポイントの深度情報及び擬似三次元検出体に基づいて、ターゲット対象の三次元検出体を決定する。
【００６１】
任意選択的な例において、該操作Ｓ１３０は、プロセッサによりメモリに記憶されている対応する命令を呼び出すことで実行されてもよいし、プロセッサで実行される三次元検出体決定モジュール５３０により実行されてもよい。
【００６２】
任意選択的な例において、本出願の実施例は、まず、キーポイントの二次元座標及び深度情報に基づいて、三次元空間において、ターゲット対象の初期三次元検出体（例えば、初期三次元直方体）を構築してから、少なくとも擬似三次元検出体を三次元検出体に対する制約要件として、初期三次元検出体に対して補正処理を行うことで、ターゲット対象の三次元検出体（例えば、三次元直方体）を得る。
【００６３】
任意選択的な例において、本出願の実施例は、まず、キーポイントの深度情報に基づいて、キーポイントの二次元座標を三次元空間における三次元座標に変換してから、変換により得られたキーポイントの三次元座標に基づいて、ターゲット対象の初期三次元検出体を構築する。本出願の実施例は、キーポイントの二次元座標を三次元空間における三次元座標に変換する過程において、選択的に変換を行うことができる。例えば、予測正確度要件に合致するキーポイントのみの二次元座標を三次元空間における三次元座標に変換する。勿論、本出願の実施例は、全てのキーポイントの二次元座標を三次元空間における三次元座標に変換するが、ターゲット対象の初期三次元検出体を構築する過程において、予測正確度要件に合致するキーポイントのみの三次元座標に基づいて，ターゲット対象の初期三次元検出体を構築することもできる。本出願の実施例における三次元空間は一般的には、例えば撮影装置の三次元座標系に基づいた三次元空間のような実世界の三次元空間である。
【００６４】
任意選択的な例において、本出願の実施例は、種々の形態でキーポイントの二次元座標を三次元空間における三次元座標に変換することができる。
【００６５】
例えば、上記得られたキーポイントの深度値を三次元空間における距離に変換する。該距離は、キーポイントと撮影装置との距離と認められてもよい。続いて、下記式（１）により、各キーポイントの三次元座標を算出する。
【００６６】
2021524115.tif 000007
式（１）
【００６７】
上記式（１）において、
2021524115.tif 000008
は、撮影装置のパラメータを表す。
2021524115.tif 000009
、
2021524115.tif 000010
、
2021524115.tif 000011
は、キーポイントの三次元座標を表し、つまり、キーポイントの実世界の三次元空間における三次元座標を表す。ただし、
2021524115.tif 000012
として上記得られたキーポイントの深度値を代入することができる。
2021524115.tif 000013
及び
2021524115.tif 000014
は、キーポイントの二次元座標を表し、つまり、キーポイントの被処理画像の座標系における二次元座標を表す。
2021524115.tif 000015
は、スケーリングファクタを表す。
【００６８】
2021524115.tif 000016
が下記３×３の行列で表わされる場合、
2021524115.tif 000017
上記式（１）は、下記式（２）の形態で表わされてもよい。
2021524115.tif 000018
式（２）
【００６９】
複数のキーポイントの二次元座標を上記式（２）に代入することで、変数
2021524115.tif 000019
、
2021524115.tif 000020
及び
2021524115.tif 000021
を解き、キーポイントの三次元座標である
2021524115.tif 000022
を得ることができる。
【００７０】
任意選択的な例において、本出願の実施例は、まず、ターゲット対象の三次元空間における最適面を決定し、三次元平面において該最適面を構築してから、該最適面の法線ベクトルを決定し、該最適面におけるキーポイントの、該法線ベクトル方向に沿った拡張によって、初期三次元検出体（例えば三次元直方体）を形成する。
【００７１】
任意選択的な例において、本出願の実施例においてターゲット対象の三次元空間における最適面を決定するための形態は以下の通りであってもよい。まず、予測正確度要件に合致するキーポイントのそれぞれに対応する面に対して、各面の品質を決定する。つまり、予測正確度要件に合致するキーポイントに基づいて、各面に対して品質評価を行う。続いて、品質評価が最も高い面をターゲット対象の最適面とする。面の品質評価形態は、上記ステップＳ１１０で列挙した幾つかの形態であってもよい。ここで、詳細な説明を省略する。
【００７２】
任意選択的な例において、本出願の実施例は、種々の形態により、三次元平面において、最適面を構築することができる。例えば、最適面における１つのキーポイントを利用して三次元空間において、垂線（即ち、キーポイントの垂直方向（ｙ方向）を通った線）を下ろし、最適面における１つの辺は、該垂線に位置し、該垂線と他の面における辺との交点は、最適面の１つの頂点である。また例えば、最適面における２つのキーポイントを利用して、三次元空間において、連結線を作成する。該連結線は、最適面における１つの辺であってもよい。又は該連結線及びその延長線は、最適面における１つの辺であってもよい。つまり、該２つのキーポイントは最適面における２つの頂点であってもよい。又は、該２つのキーポイントの連結線の延長線と他の面の辺との交点は、該最適面の頂点であってもよい。また例えば、最適面における１つのキーポイントを利用して平行線を作成する。該平行線は、最適面におけるもう１つの辺に平行である線である。つまり、最適面における１つのキーポイントを利用して、最適面におけるもう１つの辺の平行線を作成する。最適面における１つの辺は、該平行線に位置する。該平行線と上記垂線との交点又は他の面の辺との交点は、該最適面の頂点である。本出願の実施例は、三次元空間において最適面を構築するための実現形態を限定するものではない。
【００７３】
任意選択的な例において、本出願の実施例において、種々の形態により、最適面の法線ベクトルを決定することができる。第１の例において、まず、三次元検出体の準最適面を決定してから、準最適面におけるキーポイントを利用して最適面に向けて垂線を下ろすことで、該垂線を最適面の法線ベクトルとすることができる。第２の例において、予測正確度要件に合致する全てのキーポイントから、最適面に対応するキーポイントを除去し、残りのキーポイントから、予測正確度が最も高いキーポイントを選出し、該キーポイントを経由して最適面に向けて垂線を下ろし、該垂線を最適面の法線ベクトルとする。第３の例において、２つのキーポイントが最適面に属する隣接面が存在し、且つ該２つのキーポイントの連結線が隣接面の、最適面に垂直な辺に位置すると、該２つのキーポイントの三次元空間における座標差を最適面の法線ベクトルとすることができる。例えば、図２において、車両の左面が最適面であって、車両の前面が準最適面であって、キーポイント７の三次元空間における座標が
2021524115.tif 000023
であって、キーポイント１の三次元空間における座標が
2021524115.tif 000024
であるとすれば、本出願の実施例は、
2021524115.tif 000025
を最適面の法線ベクトルとすることができる。以上、３つの例のみを列挙した。本出願の実施例は、他の形態で、最適面の法線ベクトルを得ることもできる。本出願の実施例は、最適面の法線ベクトルを得るための実現形態を限定するものではない。
【００７４】
任意選択的な例において、本出願の実施例は、最適面及びその法線ベクトルを決定してから、最適面における頂点を、該最適面の法線ベクトル方向に沿って拡張させ、他の面の辺と交差させ、最終的に、初期三次元検出体を形成する。例えば、図２において、まず、キーポイント１を通った第１垂線及びキーポイント４を通った第２垂線を形成してから、キーポイント６及びキーポイント５を同時に通って且つ第１垂線及び第２垂線とそれぞれ交差する第１線を形成する。続いて、キーポイント２又はキーポイント３を通って上記第１線に平行であり、且つ２本の垂線とそれぞれ交差する第２線を形成することで、最適面の４本の線及び４つの頂点を形成する。該最適面の法線ベクトルは、
2021524115.tif 000026
である。該法線ベクトルは、準最適面の底辺である。本出願の実施例は、キーポイント７を通った第３垂線を形成し、キーポイント７により、第１線又は第２線に平行である第３線を作成する。最適面における左上隅の頂点の、該法線ベクトル方向に沿った拡張が第３垂線と交差し、準最適面の頂辺を形成する。また、該交点とキーポイント８との連結線は、最適面における右上隅の頂点が該法線ベクトル方向に沿って拡張した線と交差する。該交点により第４垂線を下ろす。第４垂線は、最適面の右下隅の頂点が法線ベクトル方向に沿って拡張した線と交差する。これにより二次元空間において、三次元検出体を形成する。本出願の実施例において、最適面及びその法線ベクトルを決定してから、種々の形態で初期三次元検出体を形成することができる。本出願の実施例は、初期三次元検出体の形成のための実現過程を限定するものではない。
【００７５】
上記形態によれば、道路分割及び意味領域分割などのコンピュータビジョンバックグラウンドタスクを必要としないため、ターゲット対象のために、初期三次元検出体を迅速に構築することができる。また、該初期三次元検出体を構築するためのコンピューティングリソースの消費が小さく、コストが低い。なお、本出願の実施例は、ターゲット対象のキーポイントを基礎として、初期三次元検出体を構築するため、初期三次元検出体の構築過程は、ターゲット対象が地上に位置するかどうかなどの要因と無関係である。従って、本出願の実施例は、ターゲット対象が地上に位置しないなどのシーンでにおいて、対象三次元検出を実現できないなどの現象を効果的に避けることができ、対象三次元検出の適用範囲の拡大に寄与する。
【００７６】
任意選択的な例において、擬似三次元検出体に基づいて初期三次元検出体を補正し、ターゲット対象の三次元検出体を形成することは、二次元平面における擬似三次元検出体に基づいて三次元空間における初期三次元検出体を調整することであってもよい。それにより、三次元検出体の二次元平面にマッピングする領域と擬似三次元検出体との面積の重なり度合いを向上させる。
【００７７】
任意選択的な例において、本出願の実施例は、初期三次元検出体における各頂点を二次元平面にマッピングすることで、初期三次元検出体の二次元平面における図形を得る。本出願の実施例は、三次元空間における初期三次元検出体に対して調整することで、二次元平面にマッピングする図形領域と二次元平面における擬似三次元検出体の面積の重なり度合いを変化させることができる。例えば、両者の重なり面積を可能な限り最大化する。また例えば、両者のオーバーラップ率を可能な限り最大化する。
【００７８】
任意選択的な例において、本出願の実施例において両者の重なり度合いを変化させる形態は、以下を含んでもよい。初期三次元検出体の三次元空間における位置を調整し、初期三次元検出体の二次元平面にマッピングする図形領域と擬似三次元検出体との重なり面積を最大化する。例えば、初期三次元検出体の二次元平面にマッピングする図形領域で擬似三次元検出体を完全に覆うようにする。また例えば、擬似三次元検出体で、初期三次元検出体の二次元平面にマッピングする図形領域を完全に覆うようにする。
【００７９】
任意選択的な例において、本出願の実施例において両者の面積の重なり度合いを変化させる形態は、以下を含んでもよい。初期三次元検出体の三次元空間における寸法を調整し、初期三次元検出体の二次元平面にマッピングする図形領域と擬似三次元検出体の図形領域を可能な限り一致させる。例えば、初期三次元検出体が二次元空間中にマッピングする時に、その長さ／幅／高さの値と擬似三次元検出体の長さ／幅／高さの値との比が所定の比（例えば０．９−１．１）を満たしていないと、本出願の実施例は、初期三次元検出体の三次元空間における長さ／幅／高さの値に対して調整し、調整後の三次元検出体が二次元空間にマッピングする長さ／幅／高さの値と擬似三次元検出体の長さ／幅／高さの値との比を、所定の比を満たさせるか又は一致させる。
【００８０】
被処理画像におけるターゲット対象のキーポイントの検出正確度が相対的高くて、且つ検出速度が相対的速いため、ターゲット対象のキーポイントを利用することで、二次元平面において、正確度の高い擬似三次元検出体を迅速に構築することができる。本出願の実施例は、擬似三次元検出体を利用することで、三次元空間における初期三次元検出体に対して補正を行うため、ターゲット対象に対して三次元空間において構築される三次元検出体の正確度の向上に寄与する。
【００８１】
任意選択的な例において、本出願の実施例は、ターゲット対象の所定の長さ・幅・高さの比を初期三次元検出体の制約要件とすることで、三次元空間において、該制約要件に基づいて、初期三次元検出体を補正することができる。例えば、ターゲット対象が車両である場合、本出願の実施例は、車両の長さ・幅・高さの比を予め２：１：１とすることで、初期三次元検出体の長さ・幅・高さの比が２：１：１を一定の範囲超えると、初期三次元検出体の長さ・幅・高さを調整し、調整後の三次元検出体の長さ・幅・高さの比が２：１：１を一定の範囲超えないようにする。
【００８２】
任意選択的な例において、本出願の実施例は、ターゲット対象の被処理画像における検出枠を初期三次元検出体の制約要件とすることで、三次元空間において該制約要件に基づいて初期三次元検出体を補正することができる。例えば、ターゲット対象が車両である場合、本出願の実施例は、車両検出枠（車両外接枠と呼ばれてもよい）を初期三次元検出体の制約要件とし、初期三次元検出体の全体的位置及び／又は長さ・幅・高さを調整する。これにより、調整後の三次元検出体が二次元空間にマッピングする時に、検出枠に完全に収まる。ターゲット対象の検出枠が一般的には正確であるため、検出枠を制約要件として初期三次元検出体を補正すると、対象三次元検出結果の正確性の向上に寄与する。
【００８３】
任意選択的な例において、被処理画像が時間順序関係を有する複数の被処理画像のうちの１つの被処理画像（例えばビデオにおける１つのビデオフレーム）である場合、本出願の実施例は、調整後の三次元検出体に対して平滑化処理を行うことができる。該平滑化処理は、三次元検出体の長さ・幅・高さに対する平滑化処理、三次元検出体の運動方向に対する平滑化処理及び三次元検出体の鳥瞰図の中心点に対する平滑化処理のうちの少なくとも１つを含む。なお、本出願の実施例は、三次元検出体の８つの頂点に対して平滑化処理を行うこともできる。本出願の実施例は、三次元検出体に対して平滑化処理を行うことで、対象三次元検出の正確性の向上に寄与し、ターゲット対象が前後隣接する２つのビデオフレームにおいて大幅に振れるのを効果的に避け、自動運転の安全性の向上に寄与する。
【００８４】
平滑化処理の実現過程において、本出願の実施例は、現在の被処理画像の前の複数の履歴被処理画像（例えば、５つ、６つ又は７つの履歴ビデオフレーム）を利用して、対応するフィッティング関数により、現在の被処理画像のターゲット対象の三次元検出体の長さ・幅・高さ、運動方向又は鳥瞰図の中心点などのパラメータを予測することができる。勿論、本出願の実施例は、ターゲット対象の三次元検出体の８つの頂点に対して平滑化処理を行うこともできる。本出願の実施例におけるフィッティング関数として二次関数、次指数関数又は対数関数などを利用してもよい。本出願の実施例は、バランス処理過程において用いられるフィッティング関数の表現形態を限定するものではない。
【００８５】
フィッティング関数とする二次関数の一例は、式（３）に示す通りである。
【００８６】
2021524115.tif 000027
式（３）
【００８７】
上記式（３）において、
2021524115.tif 000028
は、フィッティング最適化を行う履歴ビデオフレームの値を表す。例えば、５つの履歴ビデオフレームを利用してフィッティングを行う場合、
2021524115.tif 000029
である。
2021524115.tif 000030
は、履歴ビデオフレームに対応する時刻を表す。例えば、５つの履歴ビデオフレームを利用してフィッティングを行う場合、
2021524115.tif 000031
である。
2021524115.tif 000032
、
2021524115.tif 000033
及び
2021524115.tif 000034
は、二次関数の係数を表す。
【００８８】
本出願の実施例は、履歴ビデオフレームを利用して、まず式（３）における
2021524115.tif 000035
、
2021524115.tif 000036
及び
2021524115.tif 000037
を得てから、式（３）を利用して現在のビデオフレームの予測結果
2021524115.tif 000038
を得ることができる。
【００８９】
本出願の実施例は、重み付けの形態で、現在のビデオフレームにおけるターゲット対象の三次元検出体の長さ・幅・高さ、運動方向又は鳥瞰図の中心点等のパラメータを調整することで、対応する平滑化処理を実現させることができる。例えば、本出願の実施例は、下記式（４）を利用して現在のビデオフレームにおけるターゲット対象の三次元検出体の長さ・幅・高さ、運動方向又は鳥瞰図の中心点等のパラメータを調整することができる。
【００９０】
2021524115.tif 000039
式（４）
【００９１】
上記式（４）において、
2021524115.tif 000040
は予測結果に対応する重みを表す。
2021524115.tif 000041
は、予測結果を表す。
2021524115.tif 000042
は、現在のビデオフレームの対象三次元検出結果に対応する重みを表す。
2021524115.tif 000043
は、現在のビデオフレームの対象三次元検出結果を表す。
2021524115.tif 000044
は、平滑化処理された現在のビデオフレームの対象三次元検出結果を表す。
【００９２】
重み値の設定は、実際の需要に応じて決定してもよい。例えば、予測結果と現在のビデオフレームの対象三次元検出結果との差が大きくない（例えば、差が所定の値以下である）場合、
2021524115.tif 000045
及び
2021524115.tif 000046
とすることができる。また例えば、予測結果と現在のビデオフレームの対象三次元検出結果との差が大きい（例えば差が所定の値に達した）場合、
2021524115.tif 000047
及び
2021524115.tif 000048
とすることができ、
2021524115.tif 000049
及び
2021524115.tif 000050
等とすることもできる。本出願の実施例は、重みの値を限定するものではない。
【００９３】
任意選択的な例において、本出願の実施例は、ターゲット対象のキーポイントの三次元座標に基づいて、最終的に得られた三次元検出体の三次元空間パラメータを取得することもできる。例えば、三次元検出体の運動方向、三次元検出体と被処理画像を撮影する撮影装置との位置関係、及び三次元検出体の寸法のうちのいずれか１つ又は複数を取得する。取得された三次元空間パラメータは、ターゲット対象の制御に用いられる。例えば、取得された三次元空間パラメータに基づいて対応する制御命令などを生成する。
【００９４】
本出願の実施例はスマート運転制御方法を更に提供する。該実施例のスマート運転制御方法は、車両に設けられた撮影装置により採取されたビデオに含まれるビデオフレームを被処理画像として、本出願の上記いずれか１つの実施例における対象三次元検出方法でターゲット対象の三次元検出体を決定することと、該三次元検出体の情報に基づいて車両制御命令を生成することと、車両に前記車両制御命令を送信することとを含む。
【００９５】
図４は、本出願の実施例によるスマート運転制御方法の一実施例を示すフローチャートである。本出願の実施例のスマート運転制御方法は、自動運転（例えば、人による支援が全くない自動運転）環境に適用可能であり、支援運転環境にも適用である。本出願の実施例は、スマート運転制御方法の適用環境を制御するものではない。
【００９６】
図４に示すように、該実施例のスマート運転制御は以下を含む。
【００９７】
Ｓ４００、車両に設けられた撮像装置により採取された被処理画像におけるターゲット対象のキーポイントの二次元座標を取得する。本操作の実現形態は、上記方法実施例における図１の操作Ｓ１００に関する説明を参照することができる。ここで、詳細な説明を省略する。
【００９８】
任意選択的な例において、該操作Ｓ４００は、プロセッサによりメモリに記憶されている対応する命令を呼び出すことで実行されてもよいし、プロセッサで実行される二次元座標取得モジュール５００により実行されてもよい。
【００９９】
Ｓ４１０、キーポイントの二次元座標に基づいて、ターゲット対象の擬似三次元検出体を構築する。本操作の実現形態は、上記方法実施例における図１の操作Ｓ１１０に関する説明を参照することができる。ここで、詳細な説明を省略する。
【０１００】
任意選択的な例において、該操作Ｓ４１０は、プロセッサによりメモリに記憶されている対応する命令を呼び出すことで実行されてもよいし、プロセッサで実行される三次元検出体構築モジュール５１０により実行されてもよい。
【０１０１】
Ｓ４２０、キーポイントの深度情報を取得する。本操作の実現形態は、上記方法実施例における図１の操作Ｓ１２０に関する説明を参照することができる。ここで、詳細な説明を省略する。
【０１０２】
任意選択的な例において、該操作Ｓ４２０は、プロセッサによりメモリに記憶されている対応する命令を呼び出すことで実行されてもよいし、プロセッサで実行される深度情報取得モジュール５２０により実行されてもよい。
【０１０３】
Ｓ４３０、キーポイントの深度情報及び擬似三次元検出体に基づいて、ターゲット対象の三次元検出体を決定する。本操作の実現形態は、上記方法実施例における図１の操作Ｓ１３０に関する説明を参照することができる。ここで、詳細な説明を省略する。
【０１０４】
任意選択的な例において、該操作Ｓ４３０は、プロセッサによりメモリに記憶されている対応する命令を呼び出すことで実行されてもよいし、プロセッサで実行される三次元検出体決定モジュール５３０により実行されてもよい。
【０１０５】
Ｓ４４０、三次元検出体の情報に基づいて車両制御命令を生成する。
【０１０６】
任意選択的な例において、本出願の実施例における三次元検出体の情報は、三次元検出体の運動方向、三次元検出体と前記撮影装置との位置関係、三次元検出体の寸法のうちの１つ又は複数を含む。本出願の実施例は、三次元検出体の情報に含まれるものを限定するものではない。
【０１０７】
任意選択的な例において、本出願の実施例において三次元検出体の情報に基づいて生成される車両制御命令は、ブレーキ命令、抑速走行命令、左ステアリング命令、右ステアリング命令、現在の走行速度保持命令、鳴笛命令、加速走行命令のうちの１つ又は複数を含んでもよい。本出願の実施例は、車両制御命令の表現形態を限定するものではない。
【０１０８】
任意選択的な例において、該操作Ｓ４４０は、プロセッサによりメモリに記憶されている対応する命令を呼び出すことで実行されてもよいし、プロセッサで実行される命令生成モジュール６１０により実行されてもよい。
【０１０９】
Ｓ４５０、車両に車両制御命令を送信する。
【０１１０】
任意選択的な例において、該操作Ｓ４５０は、プロセッサによりメモリに記憶されている対応する命令を呼び出すことで実行されてもよいし、プロセッサで実行される命令送信モジュール６２０により実行されてもよい。
【０１１１】
本出願の実施例の対象三次元検出技術は、スマート運転制御分野に加えて、他の分野にも適用可能であり、例えば、工業製造における対象検出、スーパーマーケットなどの室内分野における対象検出、セキュリティ分野における対象検出などを実現させることができ、本出願の実施例は、対象三次元検出技術の適用シーンを限定するものではないことに特に留意されたい。
【０１１２】
本出願の実施例で提供されるいずれか１つの対象三次元検出及びスマート運転制御方法は、データ処理能力を持つ如何なる適切な装置により実行されてもよい。該装置は、端末装置及びサーバなどを含むが、これらに限定されない。又は、本出願の実施例で提供されるいずれか１つの対象三次元検出及びスマート運転制御方法は、プロセッサにより実行されてもよい。例えば、プロセッサは、メモリに記憶されている対応する命令を呼び出すことで、本出願の実施例で言及したいずれか１つの対象三次元検出及びスマート運転制御方法を実行する。以下、詳細な説明を省略する。
【０１１３】
当業者であればわかるように、上記各方法実施例の全て又は一部の操作の実現は、プログラム命令に関するハードウェアにより完成することができる。上述したプログラムは、コンピュータ可読記憶媒体に記憶されてもよい。該プログラムが実行される場合、上記方法実施例における操作を実行する。上述した記憶媒体は、ＲＯＭ、ＲＡＭ、磁気ディスク又は光ディスクのような、プログラムコードを記憶できる様々な媒体を含む。
【０１１４】
図５は、本出願の実施例による対象三次元検出装置の一実施例の構造を示す概略図である。図５に示すように、該実施例による装置は、二次元座標取得モジュール５００、三次元検出体構築モジュール５１０、深度情報取得モジュール５２０及び三次元検出体決定モジュール５３０を備える。任意選択的に、該装置は、キーポイント選択モジュール５４０、ターゲット検出枠取得モジュール５５０、平滑化処理モジュール５６０、運動方向取得モジュール５７０及び位置関係取得モジュール５８０を備える。
【０１１５】
二次元座標取得モジュール５００は、被処理画像におけるターゲット対象のキーポイントの二次元座標を取得するように構成される。本出願の実施例における被処理画像は、移動物に設けられた撮影装置により撮影られたビデオにおけるビデオフレームであってもよい。本出願の実施例における被処理画像は、固定位置に設けられた撮影装置により撮影られたビデオにおけるビデオフレームであってもよい。本出願の実施例におけるターゲット対象は、自動車、軽車両、歩行者、動物、建築物、植物、障害物、危険物、交通標識又は物品のうちのいずれか１つ又は複数を含んでもよい。
【０１１６】
任意選択的な例において、二次元座標取得モジュール５００が操作を実行する前に、ターゲット検出枠取得モジュール５５０は、被処理画像に対してターゲット対象検出を行い、ターゲット対象を含む二次元ターゲット検出枠を得ることができる。従って、二次元座標取得モジュール５００は、被処理画像における二次元ターゲット検出枠に対応する画像部分に基づいて、ターゲット対象のキーポイントの二次元座標を取得することができる。なお、ターゲット対象検出過程において、ターゲット検出枠取得モジュール５５０がターゲット対象を含む二次元ターゲット検出枠の取得に成功しなかった場合、本出願の実施例の対象三次元検出装置は、対象の三次元検出処理を引き続き実行しなくてもよい。例えば、二次元座標取得モジュール５００は、二次元ターゲット検出枠の取得装置を引き続き実行しない。
【０１１７】
三次元検出体構築モジュール５１０は、キーポイントの二次元座標に基づいて、ターゲット対象の擬似三次元検出体を構築するように構成される。
【０１１８】
任意選択的な例において、三次元検出体構築モジュール５１０は、第１サブモジュールと第２サブモジュールとを備えてもよい。ここで、第１サブモジュールは、キーポイントとターゲット対象に含まれる面との所定の第１所属関係及びキーポイントの二次元座標に基づいて、少なくとも１つのターゲット対象のあり得る面を構築するように構成される。ここで、第２サブモジュールは、あり得る面に基づいて、ターゲット対象の擬似三次元検出体を構築するように構成される。
【０１１９】
任意選択的な例において、上記第２サブモジュールは、第１ユニットと第２ユニットとを備えてもよい。ここで、第１ユニットは、所定の面品質判定ルールに基づいて、構築された少なくとも１つのあり得る面から最適面を決定するように構成される。ここで、第２ユニットは、最適面に基づいてターゲット対象の擬似三次元検出体を構築するように構成される。なお、第１ユニットは、所定の面品質判定ルールに基づいて、構築された少なくとも１つのあり得る面から、最適面及び準最適面を決定することができる。第２ユニットは、最適面及び準最適面に基づいてターゲット対象の擬似三次元検出体を構築することができる。
【０１２０】
任意選択的な例において、第２ユニットは、まず、最適面の法線ベクトルを決定してから、最適面における頂点の、法線ベクトル方向に沿った拡張によって、擬似三次元検出体を形成することができる。ここで、第２ユニットによる最適面の法線ベクトルの決定の形態は、準最適面におけるキーポイントから最適面に向けて下ろされる垂線を最適面の法線ベクトルとすることであってもよい。本出願の実施例の第２ユニットによる最適面の法線ベクトルの決定の形態は、最適面に対応するキーポイント以外の他のキーポイントのうち予測正確度が最も高いキーポイントから最適面に向けて下ろされる垂線を最適面の法線ベクトルとすることであってもよい。本出願の実施例の第２ユニットによる最適面の法線ベクトルの決定の形態は、最適面の隣接面における、最適面に垂直である辺における２つのキーポイントの座標差を最適面の法線ベクトルとすることであってもよい。
【０１２１】
任意選択的な例において、ターゲット対象のキーポイントが複数含まれる場合、三次元検出体構築モジュール５１０により擬似三次元検出体の構築操作を実行する前に、キーポイント選択モジュール５４０は、複数のキーポイントから、予測正確度要件に合致するキーポイントを選出するように構成されていてもよい。これにより、三次元検出体構築モジュール５１０は、キーポイント選択モジュール５４０により選出されたキーポイントの二次元座標に基づいて、ターゲット対象の擬似三次元検出体を構築することができる。
【０１２２】
深度情報取得モジュール５２０は、キーポイントの深度情報を取得するように構成さっる。
【０１２３】
三次元検出体決定モジュール５３０は、キーポイントの深度情報及び擬似三次元検出体に基づいて、ターゲット対象の三次元検出体を決定するように構成される。
【０１２４】
任意選択的な例において、三次元検出体決定モジュール５３０は、第３サブモジュール、第４サブモジュール及び第５サブモジュールを備えてもよい。ここで、第３サブモジュールは、キーポイントの深度情報に基づいて、キーポイントの二次元座標を三次元空間における三次元座標に変換するように構成される。例えば、第３サブモジュールは、予測正確度要件に合致するキーポイントの二次元座標を三次元空間における三次元座標に変換することができる。第４サブモジュールは、キーポイントの三次元座標に基づいて、ターゲット対象の初期三次元検出体を構築するように構成される。第５サブモジュールは、擬似三次元検出体に基づいて初期三次元検出体を補正し、ターゲット対象の三次元検出体を形成するように構成される。例えば、第５サブモジュールは、二次元平面における擬似三次元検出体に基づいて、三次元空間における初期三次元検出体を調整することで、調整後の三次元検出体の二次元平面にマッピングする領域と擬似三次元検出体との面積の重なり度合いを向上させる。なお、第５サブモジュールは、ターゲット対象の所定の長さ・幅・高さの比に基づいて、初期三次元検出体を補正することもできる。第５サブモジュールは、ターゲット対象の、被処理画像における検出枠に基づいて、初期三次元検出体を補正することで、調整後の三次元検出体の二次元平面にマッピングする領域を前記検出枠に属させることもできる。
【０１２５】
任意選択的な例において、第４サブモジュールは、第３ユニット、第４ユニット及び第５ユニットを備えてもよい。ここで、第３ユニットは、キーポイントの三次元座標のそれぞれに対応する面に基づいて、ターゲット対象の最適面を決定し、三次元空間においてターゲット対象の最適面を構築するように構成される。第４ユニットは、最適面の法線ベクトルを決定するように構成される。例えば、第４ユニットは、準最適面におけるキーポイントから最適面に向けて下ろされる垂線を最適面の法線ベクトルとする。また例えば、第４ユニットは、最適面に対応するキーポイント以外の他のキーポイントのうち予測正確度が最も高いキーポイントから最適面に向けて下ろされる垂線を最適面の法線ベクトルとする。また例えば、第４ユニットは、最適面の隣接面における、最適面に垂直である辺における２つのキーポイントの座標差を最適面の法線ベクトルとする。第５ユニットは、最適面における頂点の、法線ベクトル方向に沿った拡張によって、初期三次元検出体を形成するように構成される。
【０１２６】
平滑化処理モジュール５６０は、時間順序関係を有する複数の被処理画像における同一のターゲット対象の三次元検出体に対して平滑化処理を行うように構成される。本出願の実施例における平滑化処理は、三次元検出体の長さ・幅・高さに対する平滑化処理、三次元検出体の運動方向に対する平滑化処理、三次元検出体の鳥瞰図の中心点に対する平滑化処理及び三次元検出体の頂点に対する平滑化処理のうちのいずれか１つ又は複数を含んでもよい。
【０１２７】
運動方向取得モジュール５７０は、ターゲット対象のキーポイントの三次元座標に基づいて、三次元検出体の運動方向を取得するように構成される。
【０１２８】
位置関係取得モジュール５８０は、ターゲット対象のキーポイントの三次元座標に基づいて、ターゲット対象と前記被処理画像を撮影する撮影装置との位置関係を取得するように構成される。
【０１２９】
本出願の実施例における二次元座標取得モジュール５００、三次元検出体構築モジュール５１０、深度情報取得モジュール５２０、三次元検出体決定モジュール５３０、キーポイント選択モジュール５４０、ターゲット検出枠取得モジュール５５０、平滑化処理モジュール５６０、運動方向取得モジュール５７０及び位置関係取得モジュール５８０などのモジュールにより実行される操作は、上記方法実施例における関連説明を参照することができる。ここで、詳細な説明を省略する。
【０１３０】
図６は、本出願の実施例によるスマート運転制御装置の一実施例の構造を示す概略図である。図６における装置は、主に、対象三次元検出装置６００、命令生成モジュール６１０及び命令送信モジュール６２０を備える。
【０１３１】
命令生成モジュール６１０は、対象三次元検出装置６００により得られた三次元検出体の情報に基づいて、車両制御命令を生成するように構成される。
【０１３２】
命令送信モジュール６２０は、車両に車両制御命令を送信するように構成される。
【０１３３】
対象三次元検出装置６００の構造は、本出願の上記いずれか１つの対象三次元検出装置の実施例における説明を参照することができる。命令生成モジュール６１０及び命令送信モジュール６２０により実行される操作は、上記方法実施例における関連説明を参照することができる。ここで、詳細な説明を省略する。
【０１３４】
図７は、本出願の実施例を実現させるための例示的な機器７００を示す。機器７００は、車両に配置された制御システム／電子システム、携帯端末（例えばスマートフォン等）、パーソナルコンピュータ（例えば、デスクトップコンピュータ又はノートパソコンなどのようなＰＣ）、タブレット及びサーバ等の電子機器であってもよい。図７において、機器７００は、１つ又は複数のプロセッサ、通信部等を含む。前記１つ又は複数のプロセッサは、１つ又は複数の中央演算処理ユニット（ＣＰＵ）７０１、及び／又は、ニューラルネットワークを利用して視覚的追跡を行うための画像処理装置（ＧＰＵ）７１３等であってもよい。プロセッサは、読み出し専用メモリ（ＲＯＭ）７０２に記憶されている実行可能な命令又は記憶部７０８からランダムアクセスメモリ（ＲＡＭ）７０３にロードされた実行可能な命令に基づいて、様々な適切な動作及び処理を実行することができる。通信部７１２は、ネットワークカードを含んでもよいが、これに限定されない。前記ネットワークカードは、ＩＢ（Ｉｎｆｉｎｉｂａｎｄ）ネットワークカードを含んでもよいが、これに限定されない。プロセッサは、読み出し専用メモリ７０２及び／又はランダムアクセスメモリ７０３と通信して、実行可能な命令を実行し、バス７０４を介して通信部７１２に接続され、通信部７１２を経由して他の対象装置と通信することで、本出願の実施例で提供されるいずれか１つの対象三次元検出方法に対応する操作を完了する。例えば、被処理画像におけるターゲット対象のキーポイントの二次元座標を取得し、前記キーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築し、前記キーポイントの深度情報を取得し、前記キーポイントの深度情報及び前記擬似三次元検出体に基づいて、前記ターゲット対象の三次元検出体を決定する。なお、プロセッサは、読み出し専用メモリ７０２及び／又はランダムアクセスメモリ７０３と通信して、実行可能な命令を実行し、バス７０４を介して通信部７１２に接続され、通信部７１２を経由して他の対象装置と通信することで、本出願の実施例で提供されるいずれか１つのスマート運転制御方法に対応する操作を完了する。例えば、車両に設けられた撮影装置により採取されたビデオに含まれるビデオフレームを被処理画像として、本出願のいずれか１つの実施例に記載の対象三次元検出方法でターゲット対象の三次元検出体を決定し、前記三次元検出体の情報に基づいて車両制御命令を生成し、前記車両に前記車両制御命令を送信する。
【０１３５】
上記各命令により実行される操作は、本出願の上記対象三次元検出方法又はスマート運転制御方法実施例における関連説明を参照することができる。ここで、詳細な説明を省略する。
【０１３６】
なお、ＲＡＭ  ７０３に、装置の操作に必要な様々なプログラム及びデータが記憶されてもよい。ＣＰＵ７０１、ＲＯＭ７０２及びＲＡＭ７０３は、バス７０４を介して相互接続される。ＲＡＭ１５０３が存在する場合、ＲＯＭ１５０２は、任意選択的なモジュールである。ＲＡＭ７０３が存在する場合、ＲＯＭ７０２は、選択可能なモジュールである。ＲＡＭ７０３に実行可能な命令が記憶されている。又は、実行中に、ＲＯＭ７０２に実行可能な命令を書き込む。実行可能な命令は、中央演算処理ユニット７０１に上記対象三次元検出方法又はスマート運転制御方法に対応する操作を実行させる。１入力／出力（Ｉ／Ｏ）インタフェース７０５もバス７０４に接続される。通信部７１２は、一体的に設けられてもよいし、それぞれバスに接続される複数のサブモジュール（例えば、複数のＩＢネットワークカード）を有するものとして設けられてもよい。
【０１３７】
キーボード、マウスなどを含む入力部７０６、陰極線管（ＣＲＴ）、液晶ディスプレイ（ＬＣＤ）及びスピーカー等を含む出力部７０７、ハードディスク等を含む記憶部７０８、及びＬＡＮカード、モデム等のようなネットワークインタフェースカードを含む通信部７０９は、Ｉ／Ｏインタフェース７０５に接続される。通信部７０９は、インターネットのようなネットワークを経由して通信処理を実行する。ドライブ７１０も必要に応じてＩ／Ｏインタフェース７０５に接続される。磁気ディスク、光ディスク、磁気光ディスク、半導体メモリ等のようなリムーバブル媒体７１１は、必要に応じてドライブ７１０に取り付けられ、それから読み出されたコンピュータプログラムを必要に応じて記憶部７０８にインストールするようになる。
【０１３８】
図７に示したアーキテクチャは、任意選択的な実現形態に過ぎず、実践過程において、実際の需要に応じて、上記図７に示した部材の数及びタイプを選択、削除、増加、置き換えることができることに特に留意されたい。異なる機能部材を設ける場合、分散型配置又は集積型配置などのような実現形態を用いてもよい。例えば、ＧＰＵ７１３とＣＰＵ７０１を離して設けてもよい。また、例えば、ＧＰＵ７１３をＣＰＵ７０１に集積してもよい。通信部は、離間するように設けられてもよいし、ＣＰＵ７０１又はＧＰＵ７１３に集積して設けられてもよい。これらの置き換え可能な実施形態は、いずれも本出願の保護範囲内に含まれる。
【０１３９】
特に、本出願の実施例によれば、フローチャートを参照しながら記載された下記プロセスは、コンピュータのソフトウェアプログラムとして実現されてもよい。例えば、本出願の実施例は、機械可読媒体上に有体に具現されたコンピュータプログラムを含むコンピュータプログラム製品を含む。コンピュータプログラムは、フローチャートに示した工程を実行するためのプログラムコードを含む。プログラムコードは、本出願の実施例が提供する対象三次元検出方法又はスマート運転制御方法におけるステップに対応する命令を含んでもよい。例えば、被処理画像におけるターゲット対象のキーポイントの二次元座標を取得するための命令、前記キーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築するための命令、前記キーポイントの深度情報を取得するための命令、前記キーポイントの深度情報及び前記擬似三次元検出体に基づいて、前記ターゲット対象の三次元検出体を決定するための命令を含む。又は、車両に設けられた撮影装置により採取されたビデオに含まれるビデオフレームを被処理画像として、本出願のいずれか１つの実施例に記載の対象三次元検出方法でターゲット対象の三次元検出体を決定するための命令、前記三次元検出体の情報に基づいて車両制御命令を生成するための命令、前記車両に前記車両制御命令を送信するための命令を含む。
【０１４０】
このような実施例において、該コンピュータプログラムは、通信部７０９により、ネットワークからダウンロードされてインストールされか、及び／又はリムーバブル媒体７１１からインストールされる。該コンピュータプログラムが中央演算処理ユニット（ＣＰＵ）７０１により実行される場合、本出願に記載の、上記対応する工程を実現させるするための命令を実行する。
【０１４１】
１つ又は複数の任意選択的な実施例において、本出願の実施例は、コンピュータ可読命令を記憶するためのコンピュータプログラム製品を更に提供する。前記命令が実行される場合、コンピュータに上記任意の実施例に記載の対象三次元検出方法又はスマート運転制御方法を実行させる。
【０１４２】
該コンピュータプログラム製品は、具体的には、ハードウェア、ソフトウェアまたはその組み合わせにより実現されてもよい。任意選択的な一例において、前記コンピュータプログラム製品は具体的には、コンピュータ記憶媒体として体現される。別の任意選択的な例において、前記コンピュータプログラム製品は、具体的には、ソフトウェア開発キット（Ｓｏｆｔｗａｒｅ  Ｄｅｖｅｌｏｐｍｅｎｔ  Ｋｉｔ：ＳＤＫ）等のようなソフトウェア製品として体現される。
【０１４３】
１つ又は複数の任意選択的な実施例において、本出願の実施例は、もう１つの対象三次元検出方法又はスマート運転制御方法並びにそれに対応する装置及び電子機器、コンピュータ記憶媒体、コンピュータプログラム並びにコンピュータプログラム製品を更に提供する。ここで、前記方法は、第１装置が、対象三次元検出指示又はスマート運転制御指示を第２装置に送信し、該指示によれば、第２装置が、上記いずれか１つの実施例における対象三次元検出方法又はスマート運転制御方法を実行することと、第１装置が第２装置からの、対象三次元検出結果又はスマート運転制御結果を受信することとを含む。
【０１４４】
幾つかの実施例において、該対象三次元検出指示又はスマート運転制御指示は、呼び出された命令であってもよい。第１装置は、呼出しにより、対象三次元検出操作又はスマート運転制御操作を実行するように第２装置に指示を出すことができる。なお、呼び出された命令を受信したことに応答して、第２装置は、上記対象三次元検出方法又はスマート運転制御方法におけるいずれか１つの実施例における工程及び／又はフローを実行することができる。
【０１４５】
本明細書における各実施例は漸進的方式で説明され、各実施例が重点的に説明したのは、その他の実施例との相違点であり、各実施例の同じ又は類似した部分は互いに参照することができる。システムの実施例は、基本的に方法の実施例と類似するので、説明が比較的に簡単であり、関連する部分は方法の実施例の一部の説明を参考すればよい。
【０１４６】
本出願の方法及び装置、電子機器並びにコンピュータ可読記憶媒体を多くの態様で実行できる。例えば、本出願の方法及び装置、電子機器並びにコンピュータ可読記憶媒体をソフトウェア、ハードウェア、ファームウェア又はソフトウェア、ハードウェア、ファームウェアの任意の組み合わせにより実行することができる。前記方法の工程に用いられる上記順番は説明のためのものに過ぎず、本出願の方法の工程は、他の方式で特に説明すること以外、上記具体的に記述した順番に限定されない。なお、幾つかの実施例において、本出願を記録媒体に記録されているプログラムとして実行することもできる。これらのプログラムは、本出願の方法を実現させるための機械可読命令を含む。従って、本出願は、本出願の方法を実行するためのプログラムを記憶するための記録媒体を更に含む。
【０１４７】
本出願の記述は、例示および説明のためのものであり、網羅的もしくは本出願を開示された形態に限定するように意図されていない。多くの修正及び変化は当業者には明らかであろう。実施例の選択及び説明は、本出願の原理及び実際の適用をより好適に説明するためのものであり、また当業者が本出願を理解して特定の用途向けの様々な修正を含む様々な実施例を設計するようになる。
【図１】
2021524115.tif 000051
【図２】
2021524115.tif 000052
【図３】
2021524115.tif 000053
【図４】
2021524115.tif 000054
【図５】
2021524115.tif 000055
【図６】
2021524115.tif 000056
【図７】
2021524115.tif 000057
【手続補正書】
【提出日】令和3年1月14日(2021.1.14)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
対象三次元検出方法であって、
被処理画像におけるターゲット対象のキーポイントの二次元座標を取得することと、
前記キーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築することと、
前記キーポイントの深度情報を取得することと、
前記キーポイントの深度情報及び前記擬似三次元検出体に基づいて、前記ターゲット対象の三次元検出体を決定することとを含むことを特徴とする、対象三次元検出方法。
【請求項２】
前記被処理画像は、移動体に設けられた撮影装置により撮影されたビデオにおけるビデオフレーム、又は、固定位置に設けられた撮影装置により撮影されたビデオにおけるビデオフレームを含み、
前記ターゲット対象は、自動車、軽車両、歩行者、動物、建築物、植物、障害物、危険物、交通標識又は物品のうちのいずれか１つ又は複数を含むことを特徴とする
請求項１に記載の方法。
【請求項３】
前記キーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築することは、
キーポイントとターゲット対象に含まれる面との所定の第１所属関係及び前記キーポイントの二次元座標に基づいて、少なくとも１つのターゲット対象のあり得る面を構築することと、
前記あり得る面に基づいて、前記ターゲット対象の擬似三次元検出体を構築することとを含むことを特徴とする
請求項１又は２に記載の方法。
【請求項４】
前記あり得る面に基づいて、前記ターゲット対象の擬似三次元検出体を構築することは、
所定の面品質判定ルールに基づいて、構築された少なくとも１つのあり得る面から、最適面を決定することと、
前記最適面に基づいて前記ターゲット対象の擬似三次元検出体を構築することとを含むことを特徴とする
請求項３に記載の方法。
【請求項５】
所定の面品質判定ルールに基づいて、構築された少なくとも１つのあり得る面から、最適面を決定することは、
所定の面品質判定ルールに基づいて、構築された少なくとも１つのあり得る面から、最適面及び準最適面を決定することを含み、
前記最適面に基づいて前記ターゲット対象の擬似三次元検出体を構築することは、
前記最適面及び前記準最適面に基づいて、前記ターゲット対象の擬似三次元検出体を構築することを含むことを特徴とする
請求項４に記載の方法。
【請求項６】
前記ターゲット対象のキーポイントが複数含まれ、
前記キーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築する前に、前記方法は、
複数の前記キーポイントから、予測正確度要件に合致するキーポイントを選出することを更に含み、
前記キーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築することは、
前記選出されたキーポイントの二次元座標に基づいて、前記ターゲット対象の擬似三次元検出体を構築することを含むことを特徴とする
請求項１から５のいずれか一項に記載の方法。
【請求項７】
被処理画像におけるターゲット対象のキーポイントの二次元座標を取得する前に、前記方法は、
前記被処理画像に対してターゲット対象検出を行い、ターゲット対象を含む二次元ターゲット検出枠を得ることを更に含み、
被処理画像におけるターゲット対象のキーポイントの二次元座標を取得することは、
前記被処理画像における前記二次元ターゲット検出枠に対応する画像部分に基づいて、前記ターゲット対象のキーポイントの二次元座標を取得することを含むことを特徴とする
請求項１から６のいずれか一項に記載の方法。
【請求項８】
前記方法は、
前記ターゲット対象検出過程において、ターゲット対象を含む二次元ターゲット検出枠の取得に成功しなかった場合、対象の三次元検出処理を実行しないことを更に含むことを特徴とする
請求項７に記載の方法。
【請求項９】
前記最適面及び前記準最適面に基づいて、前記ターゲット対象の擬似三次元検出体を構築することは、
前記最適面の法線ベクトルを決定することと、
前記最適面における頂点の、前記法線ベクトル方向に沿った拡張によって、前記擬似三次元検出体を形成することとを含み、
前記最適面の法線ベクトルを決定することは、
前記準最適面におけるキーポイントから最適面に向けて下ろされる垂線を最適面の法線ベクトルとすること、又は、
前記最適面に対応するキーポイント以外の他のキーポイントのうち予測正確度が最も高いキーポイントから前記最適面に向けて下ろされる垂線を、最適面の法線ベクトルとすること、又は、
前記最適面の隣接面における、前記最適面に垂直である辺における２つのキーポイントの座標差を最適面の法線ベクトルとすることを含むことを特徴とする
請求項５に記載の方法。
【請求項１０】
前記キーポイントの深度情報及び前記擬似三次元検出体に基づいて、前記ターゲット対象の三次元検出体を決定することは、
前記キーポイントの深度情報に基づいて、前記キーポイントの二次元座標を三次元空間における三次元座標に変換することと、
前記キーポイントの三次元座標に基づいて、前記ターゲット対象の初期三次元検出体を構築することと、
前記擬似三次元検出体に基づいて前記初期三次元検出体を補正し、前記ターゲット対象の三次元検出体を形成することとを含むことを特徴とする
請求項１から９のいずれか一項に記載の方法。
【請求項１１】
前記キーポイントの二次元座標を三次元空間における三次元座標に変換することは、
予測正確度要件に合致するキーポイントの二次元座標を三次元空間における三次元座標に変換することを含むことを特徴とする
請求項１０に記載の方法。
【請求項１２】
前記キーポイントの三次元座標に基づいて、前記ターゲット対象の初期三次元検出体を構築することは、
前記キーポイントの三次元座標のそれぞれに対応する面に基づいて、前記ターゲット対象の最適面を決定し、三次元空間において前記ターゲット対象の最適面を構築することと、
前記最適面の法線ベクトルを決定することと、
前記最適面における頂点の、前記法線ベクトル方向に沿った拡張によって、前記初期三次元検出体を形成することとを含むことを特徴とする
請求項１１に記載の方法。
【請求項１３】
前記最適面の法線ベクトルを決定することは、
前記準最適面におけるキーポイントから前記最適面に向けて下ろされる垂線を前記最適面の法線ベクトルとすること、又は、
前記最適面に対応するキーポイント以外の他のキーポイントのうち予測正確度が最も高いキーポイントから前記最適面に向けて下ろされる垂線を前記最適面の法線ベクトルとすること、又は、
前記最適面の隣接面における、前記最適面に垂直である辺における２つのキーポイントの座標差を前記最適面の法線ベクトルとすることを含むことを特徴とする
請求項１２に記載の方法。
【請求項１４】
前記擬似三次元検出体に基づいて前記初期三次元検出体を補正し、前記ターゲット対象の三次元検出体を形成することは、
前記二次元平面における擬似三次元検出体に基づいて、前記三次元空間における初期三次元検出体を調整することで、調整後の三次元検出体の二次元平面にマッピングする領域と擬似三次元検出体との面積の重なり度合いを向上させることを含むことを特徴とする
請求項１０から１３のいずれか一項に記載の方法。
【請求項１５】
前記擬似三次元検出体に基づいて前記初期三次元検出体を補正し、前記ターゲット対象の三次元検出体を形成することは、
前記ターゲット対象の所定の長さ・幅・高さの比に基づいて、前記初期三次元検出体を補正すること、
前記ターゲット対象の、被処理画像における検出枠に基づいて、前記初期三次元検出体を補正することで、調整後の三次元検出体の二次元平面にマッピングする領域を前記検出枠に属させることのうちのいずれか１つ又は複数を含むことを特徴とする
請求項１４に記載の方法。
【請求項１６】
前記方法は、
時間順序関係を有する複数の被処理画像における同一のターゲット対象の三次元検出体に対して平滑化処理を行うことを更に含むことを特徴とする
請求項１から１５のいずれか一項に記載の方法。
【請求項１７】
前記平滑化処理は、三次元検出体の長さ・幅・高さに対する平滑化処理、三次元検出体の運動方向に対する平滑化処理、三次元検出体の鳥瞰図中心点に対する平滑化処理及び三次元検出体の頂点に対する平滑化処理のうちのいずれか１つ又は複数を含むことを特徴とする
請求項１６に記載の方法。
【請求項１８】
前記方法は、
前記ターゲット対象のキーポイントの三次元座標に基づいて、前記三次元検出体の運動方向を取得すること、
前記ターゲット対象のキーポイントの三次元座標に基づいて、前記ターゲット対象と前記被処理画像を撮影する撮影装置との位置関係を取得することのうちのいずれか１つ又は複数を更に含むことを特徴とする
請求項１から１７のいずれか一項に記載の方法。
【請求項１９】
電子機器であって、
コンピュータプログラムを記憶するように構成されるメモリと、
前記メモリに記憶されているコンピュータプログラムを実行し、且つ前記コンピュータプログラムが実行される時、請求項１−１８のいずれか一項に記載の方法を実現させるように構成されるプロセッサとを備える、電子機器。
【請求項２０】
コンピュータ可読記憶媒体であって、前記コンピュータ可読記憶媒体には、コンピュータプログラムが記憶されており、該コンピュータプログラムがプロセッサにより実行される時、前記プロセッサに、請求項１−１８のいずれか一項に記載の方法を実現させる、コンピュータ可読記憶媒体。
【国際調査報告】
2021524115.tif 000058
2021524115.tif 000059
2021524115.tif 000060
2021524115.tif 000061
2021524115.tif 000062
2021524115.tif 000063