(57)【要約】【課題】撮影範囲の異なる複数の奥行映像間で移動するオブジェクトをオクルージョンに関わらず正確に追跡できるオブジェクト追跡方法および装置を提供する。【解決手段】奥行映像ごとにオブジェクトを識別して、その位置を含む特徴量を抽出する第１制御レイヤ２Aと、前記第１制御レイヤ２Aで識別された各オブジェクトの位置を共通の2D平面上へ透視投影し、撮影範囲の重複領域に異なる奥行映像から投影された同一オブジェクトの位置を統合し、隣接するフレーム間で前記各位置の追跡を実行する第２制御レイヤ２Bと、第２制御レイヤでの前記統合された位置の追跡結果を対応する奥行映像上にそれぞれ再投影し、奥行映像ごとにフレーム間で各オブジェクトをその位置を含む特徴量に基づいて追跡する第３制御レイヤ２Cとを具備した。【選択図】図２
2018205870.tif 000002
【特許請求の範囲】
【請求項１】
オブジェクトを追跡するオブジェクト追跡装置において、
映像ごとにオブジェクトを識別して位置情報を含む特徴量を抽出する第１制御レイヤと、
前記第１制御レイヤで識別された各オブジェクトの位置情報を共通の平面上へ投影し、重複領域に異なる映像から投影された同一オブジェクトの位置を統合し、フレーム間で前記各位置の追跡を実行する第２制御レイヤと、
第２制御レイヤでの前記統合された位置の追跡結果を対応する映像上にそれぞれ再投影し、映像ごとにフレーム間で各オブジェクトをその位置を含む特徴量に基づいて追跡する第３制御レイヤとを具備したことを特徴とするオブジェクト追跡装置。
【請求項２】
前記第１制御レイヤが、
複数の映像を取得する手段と、
映像ごとに背景映像との差分に基づいてオブジェクトマスクを抽出する手段と、
前記オブジェクトマスクに基づいてオブジェクト領域を設定する手段と、
映像ごとに各オブジェクト領域の位置を含む特徴量を計算する手段と、
映像ごとにフレーム間で各オブジェクトをその特徴量に基づいて追跡する手段と含むことを特徴とする請求項１に記載のオブジェクト追跡装置。
【請求項３】
前記第１制御レイヤでは、各オブジェクト領域の特徴量として、その位置、サイズおよびデプス値が計算されることを特徴とする請求項２に記載のオブジェクト追跡装置。
【請求項４】
前記第１制御レイヤでは、各オブジェクト領域のデプス特徴量に基づいてオクルージョンにあるオブジェクトが識別されることを特徴とする請求項３に記載のオブジェクト追跡装置。
【請求項５】
前記第２制御レイヤは、前記重複領域に異なる映像から投影された複数のオブジェクトの特徴量を比較し、特徴量が類似する位置同士を統合することを特徴とする請求項１に記載のオブジェクト追跡装置。
【請求項６】
前記位置同士を統合する手段は、前記重複領域に異なる映像から投影された複数のオブジェクトの位置を比較し、相対距離が所定の閾値を下回る位置同士を統合することを特徴とする請求項５に記載のオブジェクト追跡装置。
【請求項７】
前記第３制御レイヤが、
前記平面上の各オブジェクトを対応する各映像上へ再投影する手段と、
映像ごとに前記再投影された各オブジェクトをその特徴量に基づいて追跡する手段とを含むことを特徴とする請求項１に記載のオブジェクト追跡装置。
【請求項８】
前記第３制御レイヤの追跡する手段は、
フレーム間で各オブジェクトの位置特徴量の類似度を評価する手段と、
フレーム間で各オブジェクトのデプス特徴量の類似度を評価する手段と、
映像間で各オブジェクトの位置特徴量の類似度を評価する手段と、
前記フレーム間での位置特徴量の類似度およびデプス特徴量の類似度ならびに映像間での位置特徴量の類似度に基づいて各オブジェクトの追跡を実行する手段とを含むことを特徴とする請求項７に記載のオブジェクト追跡装置。
【請求項９】
前記第３制御レイヤが、前記再投影されたオブジェクトの位置に応じてオブジェクトの形状をリファインする手段を更に具備したことを特徴とする請求項７に記載のオブジェクト追跡装置。
【請求項１０】
前記映像が奥行映像であることを特徴とする請求項１ないし９のいずれかに記載のオブジェクト追跡装置。
【請求項１１】
撮影範囲の一部が重複する複数の映像上でコンピュータがオブジェクトを追跡するオブジェクト追跡方法において、
映像ごとにオブジェクトを識別して、その位置を含む特徴量を抽出し、
各オブジェクトの位置を共通の平面上へ投影し、
撮影範囲の重複領域に異なる映像から投影された同一オブジェクトの位置を統合して隣接するフレーム間で前記各位置の追跡を実行し、
前記統合された位置の追跡結果を対応する映像上にそれぞれ再投影し、
映像ごとにフレーム間で各オブジェクトを、前記再投影の位置を含む特徴量に基づいて追跡することを特徴とするオブジェクト追跡方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、オブジェクト追跡方法および装置に係り、特に、撮影範囲の異なる複数の奥行映像間で移動するオブジェクトをオクルージョンに関わらず正確に追跡できるオブジェクト追跡方法および装置に関する。
【背景技術】
【０００２】
特許文献１には、2D投影深度データ（デプス値）の位置およびサイズに関する類似度測定を行うことによって深度ベースでオブジェクトを追跡する技術が開示されている。特許文献２には、深度データおよび対応する2D投影像を分析することによって移動体を検出および追跡する方法が開示されている。
【０００３】
特許文献３には、検出された物体の深度情報を分析することによって、複数のカメラからの距離センサ情報を用いて移動体を検出および追跡する技術が開示されている。特許文献４には、３つの視点から得た深度データを分析することによってオブジェクトを検出および追跡する方法が開示されている。
【０００４】
非特許文献１，２は、深度センサ（すなわち、RGBデータ／画像なし）からの深度情報のみを利用してオブジェクトを検出および追跡する方法が開示されている。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開2016-71534号公報
【特許文献２】特開2016-162075号公報
【特許文献３】特願2016-062076号
【特許文献４】特願2016-210608号
【非特許文献】
【０００６】
【非特許文献１】H. Sabirin, H. Sankoh, and S. Naito, "Utilizing attributed graph representation in object detection and tracking for indoor range sensor surveillance cameras," IEICE Transactions on information and Systems, vol. 98, no. 12, pp. 2299-2307, 2015.
【非特許文献２】T. Bagautdinov, F. Fleuret, and P. Fua, "Probability occupancy maps for occluded depth images," IEEE Conf. on Comp. Vision and Patt. Rec., pp. 2829-2837, 2015.
【発明の概要】
【発明が解決しようとする課題】
【０００７】
特許文献１では、２つ以上のオブジェクトが同様の位置およびサイズを有する場合に追跡精度の信頼性が低下する可能性がある。特許文献２では、オブジェクト同士のオクルージョン判定が、オクルージョン前後における各オブジェクトの形状、位置およびサイズの類似性を見出すことによって行われる。したがって、オクルージョン前後でのオブジェクトの識別が不正確であると追跡精度が低下する。
【０００８】
特許文献３は、オクルージョン中も信頼性の高い追跡を保証するために、オクルージョン状態の各オブジェクトは深度モデルに基づいて分離されて個別に追跡を継続される。したがって、デプス情報が不明であると追跡精度が低下する。非特許文献１，２ではオブジェクト同士のオクルージョンが考慮されていない。
【０００９】
本発明の目的は、上記の技術課題を解決し、撮影範囲の異なる複数の奥行映像間で移動するオブジェクトをオクルージョンに関わらず正確に追跡できるオブジェクト追跡方法および装置を提供することにある。
【課題を解決するための手段】
【００１０】
上記の目的を達成するために、本発明は、撮影範囲の一部が重複するような複数の映像（例えば、奥行映像）上でオブジェクトを追跡するオブジェクト追跡装置において、以下の構成を具備した点に特徴がある。
【００１１】
(1) 映像ごとにオブジェクトを識別して、その位置を含む特徴量を抽出する第１制御レイヤと、第１制御レイヤで識別された各オブジェクトの位置を共通の平面上へ投影し、重複領域に異なる映像から投影された同一オブジェクトの位置を統合し、フレーム間で前記各位置の追跡を実行する第２制御レイヤと、第２制御レイヤでの前記統合された位置の追跡結果を対応する映像上にそれぞれ再投影し、映像ごとにフレーム間で各オブジェクトをその位置を含む特徴量に基づいて追跡する第３制御レイヤとを具備した.
【００１２】
(2) 前記第２制御レイヤは、重複領域に異なる映像から投影された複数のオブジェクトの特徴量として、例えば位置情報を比較し、特徴量が類似する位置同士を統合するようにした。
【００１３】
(3) 前記第３制御レイヤが、平面上の各オブジェクトを対応する各映像上へ再投影する手段と、映像ごとに前記再投影された各オブジェクトをその特徴量に基づいて追跡する手段とを具備した。
【００１４】
(4) 前記第３制御レイヤが、フレーム間で各オブジェクトの位置特徴量の類似度を評価する手段と、フレーム間で各オブジェクトのデプス特徴量の類似度を評価する手段と、映像間で各オブジェクトの位置特徴量の類似度を評価する手段と、前記フレーム間での位置特徴量の類似度およびデプス特徴量の類似度ならびに映像間での位置特徴量の類似度に基づいて買うオブジェクトの追跡を実行する手段とを具備した。
【発明の効果】
【００１５】
本発明によれば、以下のような効果が達成される。
【００１６】
(1) オブジェクトの存在範囲が広いために撮影範囲の異なる複数台のカメラ画像上でオブジェクトを追跡する際に、オブジェクトが各撮影範囲の重複領域に位置しており、同一オブジェクトが複数のカメラ画像上で認識されている場合でも、オブジェクトの正確な追跡が可能になる。
【００１７】
(2) 各カメラから抽出したオブジェクトを共通（同一）の平面上へ投影し、撮影範囲の重複領域内でのオブジェクト追跡は、当該平面上で、異なるカメラから投影された同一オブジェクトに関する複数の投影像を一つに統合したうえで実行されるので、カメラ間でのオブジェクト追跡のハンドオーバーを少ない計算負荷で実現できるようになる。
【００１８】
(3) オブジェクト追跡の機能が複数の制御レイヤに分割されているので、所望の仕様に応じて対象の制御レイヤを置換すれば様々な仕様への対応が可能となり、汎用性の高い追跡システムを実現できるようになる。
【００１９】
(4) 第３制御レイヤでは、オブジェクト追跡がフレーム間での類似度評価および映像間での類似度評価の双方に基づいて行われるので、オブジェクトが同一の映像内での移動にとどまらず複数の映像を跨って移動する場合でも正確な追跡が可能になる。
【図面の簡単な説明】
【００２０】
【図１】本発明の一実施形態に係るオブジェクト追跡装置が設置される環境の一例を模式的に示した図である。
【図２】オブジェクト追跡システムの主要部の構成を示した機能ブロック図である。
【図３】第１制御レイヤ２Aの構成を示した機能ブロック図である。
【図４】オクルージョンの発生を判定する方法を模式的に示した図である。
【図５】第２制御レイヤ２Bの構成を示したブロック図である。
【図６】オブジェクトを2D平面上へ射影変換する方法を示した図である。
【図７】第３制御レイヤ２Cの構成を示した機能ブロック図である。
【図８】フレーム間及びセンサ間でのオブジェクト追跡を示した図である。
【図９】オブジェクトの再投影を示した図である。
【図１０】オブジェクト領域のリファイン方法を模式的に示した図である。
【発明を実施するための形態】
【００２１】
以下、図面を参照して本発明の実施の形態について詳細に説明する。図１は、本発明の一実施形態に係るオブジェクト追跡装置が設置される環境の一例を模式的に示した図であり、本発明では撮影範囲の一部が重複するように複数の奥行カメラcamが設置されるが、ここでは２台の奥行カメラcam1，cam2を設置する場合を例にして説明する。
【００２２】
奥行カメラcam1は、撮影範囲Q1内のオブジェクトObjを撮影し、その奥行映像を取得する。奥行カメラcam2は、撮影範囲Q2内のオブジェクトObjを撮影し、その奥行映像を取得する。各撮影範囲Q1，Q2は矩形であり、各撮影範囲Q1，Q2の４隅には、後述する透視投影用のマーカm11〜m14，m21〜m24が予め設定されている。
【００２３】
撮影範囲Q1，Q2は、その一辺およびその近傍を共有するように隣接配置される。当該一辺の一端および他端の各マーカm13，m23およびm14，m24は共通であり、前記一辺はオーバラップマーカmoverとして利用される。当該オーバラップマーカmoverは、オブジェクトObjが撮影範囲Q1，Q2の一方から他方に移動した場合でもオブジェクトObjを見失うことなく追跡を継続できるように、各撮影範囲Q1，Q2を統合するために参照される。
【００２４】
図２は、各奥行カメラcamが撮影した奥行映像に基づいてオブジェクトを追跡するオブジェクト追跡システム１の主要部の構成を示した機能ブロック図である。本発明のオブジェクト追跡システム１は、観察範囲の異なる奥行カメラごとに３つの制御レイヤ２A，２B，２Cで構成され、観察範囲ごとにオブジェクトObjを追跡する。
【００２５】
このようなオブジェクト追跡システム１は、汎用のコンピュータやサーバに各制御レイヤを実現するアプリケーション（プログラム）を実装して構成しても良いし、あるいは各制御レイヤがハードウェア化またはROM化された専用機や単能機として構成しても良い。
【００２６】
第１制御レイヤ２Aは、観察範囲の異なる奥行映像ごとに、各フレームから各ピクセルのデプス値に基づいてオブジェクトを抽出し、各オブジェクトを包含するオブジェクト領域の特徴量として、その位置、サイズおよび各デプス値を計算する。また、フレーム間で各オブジェクトの特徴量を比較し、特徴量が類似するオブジェクトを同一オブジェクトとみなして同一IDを割り当てる追跡を実行する。さらに、オクルージョン中のオブジェクトをそのデプス値に基づいて分離、識別する。各オブジェクトの特徴量は、各観察範囲に固有のIDおよび各オブジェクトに固有のIDと共に第２制御レイヤ２Bへ提供される。
【００２７】
第２制御レイヤ２Bは、第１制御レイヤ２Aから観察範囲ごとに取得した各オブジェクトの特徴量のうち、特にその位置情報（足元位置）に注目し、各オブジェクト領域の位置を共通の2D平面上に投影する。さらに、観察範囲の重複領域内に各奥行映像から投影された各オブジェクトの相対距離をその足元位置に基づいて求め、相対距離が所定の閾値を下回るほど近接した位置同士を同一オブジェクトの位置とみなして統合し、同一IDを付して管理する。さらに、各位置をフレーム間で追跡し、相対距離の最も近い位置同士に同一IDを付することで追跡を実行する。
【００２８】
第３制御レイヤ２Cは、前記2D平面上で統合された各オブジェクトの位置を、対応する奥行映像上へ再投影し、フレーム間およびカメラ間で各オブジェクトの特徴量を比較することで追跡を実行する。
【００２９】
図３は、第１制御レイヤ２Aの構成を示した機能ブロック図であり、図２と同一の符号は同一部分を表している。本実施形態では、複数台の奥行カメラcamがその奥行映像上のオブジェクトをそれぞれ独立して追跡するが、第１制御レイヤ２Aにおける各追跡メカニズムはいずれのカメラでも同一なので、ここでは一つの奥行カメラに注目して説明する。
【００３０】
奥行映像取得部１１は、対応する奥行カメラから奥行映像をフレーム単位で取得する。背景減算部１２は、オブジェクトが存在しない環境下で撮影した背景映像を蓄積しておき、奥行映像から背景映像を減じて差分画像を取得する。オブジェクトマスク生成部１３は、差分画像のピクセルごとに、そのデプス値を所定の閾値と比較することで、オブジェクトとそれ以外の背景とを識別するオブジェクトマスクを生成する。
【００３１】
オブジェクト特徴量取得部１４は、各オブジェクトマスクに外接する矩形のオブジェクト領域（ROI：Region of interest）を定義し、オブジェクト領域ごとに、その位置、サイズおよびデプス値を取得する。本実施形態では、f番目のフレーム映像におけるm番目のオブジェクトのROIをOfmと定義し、その位置Pfm、サイズSfm、デプス値Dfmおよびその識別ラベルlfmを次式(1)-(4)のように定義する。
【００３２】
【数１】
2018205870.tif 000003
【００３３】
ここで、サイズSfmはオブジェクト領域の横幅wおよび高さhで定義され、位置PfmはサイズSfmの中心座標i，jとして定義される。デプス値Dfmはオブジェクト領域の各座標のデプス値を左上座標から右下座標へラスタスキャン順に配列して定義される。
【００３４】
第１制御レイヤ２Aにおけるオブジェクト追跡は、２つの連続するフレーム内での各オブジェクトの位置の類似性マッチングにより実行される。すなわち、f番目のフレームで検知されたm番目のオブジェクトOfmの位置Pfmが、f-1番目のフレームで検知された各オブジェクトの位置と比較され、次式(5)に示すように、f-1番目のフレームのn番目のオブジェクトOf-1nの位置Pf-1nとの相対距離が最短であれば、オブジェクトOfmにオブジェクトOf-1nと同じIDが割り当てられる。
【００３５】
【数２】
2018205870.tif 000004
【００３６】
しかしながら、オブジェクト間にオクルージョンが発生すると、オクルージョンが解消して各オブジェクトが分離するまでは位置特徴量に基づく類似性マッチングを行うことができない。そこで、本実施形態ではオクルージョン判定部１５が重畳面積計算部１５ａを含み、後に詳述するように、ROI同士が重なる重畳範囲の面積の割合に基づいてオクルージョンの有無を判定する。
【００３７】
図４は、各ROIの重畳面積の割合に基づいてオクルージョンの発生を判定する方法を模式的に示した図である。本実施形態では、前回フレーム(f-1)で検知されたROIと今回フレーム(f)で検知されたROIとの重なりが判断される。その結果、同図(a)に示したように、前回フレームで検知されたオブジェクトObjaf-1，Objbf-1の各領域ROIa，ROIbと、今回フレームで検知されたオブジェクトObjcfの領域ROIcとの重畳面積の割合がいずれも５０パーセント以上であれば、オブジェクトObjcfは２つのオブジェクトObjaf-1，Objbf-1のオクルージョンにより生じた統合オブジェクトであると判断される。
【００３８】
これに対して、同図(b)に示したように、前回フレームで検知されたオブジェクトObjaf-1，Objbf-1の各領域ROIa，ROIbと今回フレームで検知されたオブジェクトObjcfの領域ROIcとの重畳が検知されても、重畳面積の割合が５０パーセント以上の組み合わせが一つのみ（ここでは、オブジェクトObjaf-1，Objdfの組み合わせのみ）であればオクルージョン状態とは判定されない。
【００３９】
また、同図(c)に示したように、前回フレームで検知されたオブジェクトObjaf-1の領域ROIaと今回フレームで検知されたオブジェクトObjffの領域ROIfとの重畳面積の割合が５０パーセント以上であっても、それが一つのみであればオクルージョン状態とは判定されない。
【００４０】
ID割当実行部１６は、原則として、f番目のフレームで検知されたm番目のオブジェクトOfmの位置Pfmとf-1番目のフレームで検知された各オブジェクトOf-1nの位置Pf-1nとを比較し、上式(5)を満足するオブジェクトOfmにオブジェクトOf-1nと同じIDを割り当てる。前記ID割当実行部１６はさらに、統合オブジェクト分割部１６ａおよびオブジェクト対応付け部１６ｂを含み、オクルージョン状態にあるオブジェクトも追跡する。
【００４１】
前記統合オブジェクト分割部１６ａは、オクルージョンにより複数のオブジェクトが統合したオブジェクト（統合オブジェクト）から、オクルージョン前の各オブジェクトとデプス値の分布が類似する各重畳範囲を追跡対象のオブジェクトとして分割する。
【００４２】
前記オブジェクト対応付け部１６ｂは、オクルージョンの新たな発生が検知されると、統合オブジェクトから分割した各オブジェクトを統合前の各オブジェクトと対応付ける第１機能、オクルージョン期間中に前回フレームの統合オブジェクトから分割した各オブジェクトを今回フレームの統合オブジェクトから分割した各オブジェクトと対応付ける第２機能、および前回フレームで統合オブジェクトから分割した各オブジェクトをオクルージョン解消後に各オブジェクトと対応付ける第３機能を備え、対応するオブジェクトに同一IDを割り当てる。
【００４３】
図５は、前記第２制御レイヤ２Bの構成を示したブロック図である。第２制御レイヤ２Bは、各奥行映像から抽出した各オブジェクトの足元位置Pを同一の2D平面上へ投影し、異なる奥行映像から重複領域に投影された各オブジェクトの位置を比較する。そして、相対位置が接近している位置を同一オブジェクトの位置とみなして統合する。すなわち、第２制御レイヤ２Bではオブジェクトのデプス情報、形状およびサイズは参照されない。
【００４４】
透視投影部２１は、図６に示したように、前記マーカm11〜m22のカメラ座標系での位置ならびに各奥行カメラcamの内部パラメータおよび外部パラメータに基づいて、各奥行映像上で検知されたオブジェクトの足元位置Pを2D平面上へ射影変換するための変換行列Mを計算する。オブジェクトデータ統合部２２は、前記射影変換行列Mを用いて各オブジェクトの足元位置Pを共通の2D平面上へ射影変換する。そして、2D平面上の重複領域内で足元位置が近接し、異なる奥行映像から投影されたオブジェクト同士を同一オブジェクトとみなして一のオブジェクトに統合する。
【００４５】
追跡部２３において、初期識別部２３ａは、前記投影した各オブジェクトの足元位置を、例えば第１制御レイヤ２Aのc番目の奥行映像から投影された、第２制御レイヤ（すなわち、処理平面内）２Bの第fフレームの第mオブジェクトcOfmと定義する。オブジェクトcOfmは、その位置特徴量として足元位置cPfmを備え、ラベルclfmが割り当てられる。
【００４６】
位置マッチング部２３ｂは、重複領域に投影された各オブジェクトの同一性を各オブジェクトの位置特徴量cPfmに基づいて判定する。重複領域処理部２３ｃは、同一判定された重複領域上のオブジェクトを統合する。本実施形態では、２つのオブジェクトcOfm，bOfnの位置cPfm，bPfnの差分が類似性閾値δTreshを下回り、次式(6)を満たす場合に各オブジェクトにインデックスnduplが付与される。
【００４７】
【数３】
2018205870.tif 000005
【００４８】
ここで、類似性閾値δTreshは、異なる奥行映像から検出された２つのオブジェクト間の空間尤度として次式(7)で定義される。
【００４９】
【数４】
2018205870.tif 000006
【００５０】
また、重複領域の形態に依存して、Rはデプス画像の高さまたは幅を表すことができ、c(Pθ)fmは、処理平面内のオブジェクトの位置の水平または垂直成分とすることができる。重複領域の形状は、2D平面の左右の端部が重複領域と判定されれば「水平重なり」(horizontal overlap)と定義され、上下の端部が重複領域と判定されれば「垂直重なり」(vertical overlap)と定義される。したがって、以下(8)，(9)の条件が定義される。
【００５１】
【数５】
2018205870.tif 000007
【００５２】
オブジェクト識別部２３ｄは、インデックスnduplを有するオブジェクトを重複と認識し、そのIDをclfmからblfnに変更する。ここでは、同一IDを有する重複するオブジェクトの中の１つのオブジェクト情報のみが第２のレイヤ上での追跡に用いられる。
【００５３】
図７は、第３制御レイヤ２Cの構成を示した機能ブロック図である。第３制御レイヤ２Cは、図８に示したように、連続する２つのフレームf-1，f間でのオブジェクト追跡および異なる奥行カメラcam1，cam2…間でのオブジェクト追跡を実行する。また、オプション機能としてオブジェクト形状のリファイン機能を備える。
【００５４】
再投影部３１は、図９に示したように、第２レイヤでIDを付されたオブジェクトの足元位置をその投影元の奥行映像上へ再投影する。オブジェクト領域リファイン部３２は、前記再投影の結果に基づいて各オブジェクト領域ROIをリファインする。
【００５５】
図１０は、前記オブジェクト領域リファイン部３２の機能を模式的に示した図であり、検出されたオブジェクト領域の視点を近似するために、ROIの幅102(Sw)および回転角103(θ)を、次式のROI改修パラメータ(10)，(11)，(12)，(13)に基づいてROI'のようにリファインする。
【００５６】
【数６】
2018205870.tif 000008
【００５７】
【数７】
2018205870.tif 000009
【００５８】
ROIサイズ係数A，Bは、それぞれ垂直位置および水平位置の位置重みを決定し、次式(14)，(15)，(16)で計算される。
【００５９】
【数８】
2018205870.tif 000010
【００６０】
図７へ戻り、デプスマッチング部３３は、連続する２つの各フレームf-1，f内で検知された各オブジェクト間でデプス情報に基づいてROIのマッチングを行う。フレーム間位置マッチング部３４は、連続する２つの各フレームf-1，f内で検知された各オブジェクト間でその位置情報に基づいてROIのマッチングを行う。センサ間位置マッチング部３５は、観察範囲の重複領域内で検知された各オブジェクト間で位置情報に基づいてROIのマッチングを行う。
【００６１】
前記デプスマッチングでは、連続する２つのフレーム内で検知された各オブジェクト間でデプス値の類似度Δdepthが次式(17)に基づいて計算される。
【００６２】
【数９】
2018205870.tif 000011
【００６３】
前記フレーム間位置マッチングでは、連続する２つのフレーム内で検知された各オブジェクト間で位置の類似性Δposが次式(18)に基づいて計算される。
【００６４】
【数１０】
2018205870.tif 000012
【００６５】
前記センサ間位置マッチングでは、オブジェクトが前記重複領域内に位置している場合に各オブジェクトの位置の類似性Δsensorが次式(19)に基づいて計算される。
【００６６】
【数１１】
2018205870.tif 000013
【００６７】
ただし、
【００６８】
【数１２】
2018205870.tif 000014
【００６９】
ID見直し部３６は、次式(21)に基づいてオブジェクトの類似性を計算することで類似度の高いオブジェクトペアを判別し、この判別結果に基づいて各オブジェクトのIDを見直す。ここで、α，βおよびγは経験的に定められる重み要素である。
【００７０】
【数１３】
2018205870.tif 000015
【００７１】
本実施形態によれば、オブジェクトの存在範囲が広いために撮影範囲の異なる複数台のカメラ画像上でオブジェクトを追跡する際に、オブジェクトが各撮影範囲の重複領域に位置しており、同一オブジェクトが複数のカメラ画像上で認識されている場合でも、オブジェクトの正確な追跡が可能になる。
【００７２】
また、本実施形態によれば、各カメラから抽出したオブジェクトを同一の2D平面上へ投影し、撮影範囲の重複領域内でのオブジェクト追跡は、当該2D平面上で、異なるカメラから投影された同一オブジェクトに関する複数の投影像を一つに統合したうえで実行されるので、カメラ間でのオブジェクト追跡のハンドオーバーを少ない計算負荷で実現できるようになる。
【００７３】
さらに、本発明によれば、オブジェクト追跡の機能が複数の制御レイヤに分割されているので、所望の仕様に応じて対象の制御レイヤを置換すれば様々な仕様への対応が可能となり、汎用性の高い追跡システムを実現できるようになる。
【００７４】
さらに、第３制御レイヤでは、オブジェクト追跡がフレーム間での類似度評価および奥行映像間での類似度評価の双方に基づいて行われるので、オブジェクトが同一の奥行映像内での移動にとどまらず複数の奥行映像を跨って移動する場合でも正確な追跡が可能になる。
【符号の説明】
【００７５】
１１…奥行映像取得部，１２…背景減算部，１３…オブジェクトマスク生成部，１４…オブジェクト特徴量取得部，１５…オクルージョン判定部，１６…ID割当実行部，１６ａ…統合オブジェクト分割部，１６ｂ…オブジェクト対応付け部，２１…透視投影部，２２…オブジェクトデータ統合部，２３ａ…初期識別部，２３ｂ…位置マッチング部，２３ｃ…重複領域処理部，２３ｄ…オブジェクト識別部，３１…再投影部，３２…オブジェクト領域リファイン部，３３…デプスマッチング部，３４…フレーム間位置マッチング部，３５…センサ間位置マッチング部
【図１】
2018205870.tif 000016
【図２】
2018205870.tif 000017
【図３】
2018205870.tif 000018
【図４】
2018205870.tif 000019
【図５】
2018205870.tif 000020
【図６】
2018205870.tif 000021
【図７】
2018205870.tif 000022
【図８】
2018205870.tif 000023
【図９】
2018205870.tif 000024
【図１０】
2018205870.tif 000025