(57)【要約】【課題】計測データにおいて、一部の部位が隠蔽されて対象物が計測されると、対象物の認識が困難となる。【解決手段】補完器記憶手段４２は、対象物の複数のサンプルについてサンプルごとに付与された要検出部位の位置を含む付与データを用い、当該付与データから一部の位置を欠落させた劣化データを入力とし、元の付与データを出力の目標値とする学習によって予め生成された補完器を記憶している。キーポイント検出手段５３は、計測データから対象物における要検出部位の位置のうちの１つ以上を検出して、対象物の検出データを取得する。キーポイント補完手段５４は、検出データを補完器に入力し、当該検出データに不足している要検出部位の位置を補完して補完済み検出データを生成する。【選択図】図４
2020135551.tif 000002
【特許請求の範囲】
【請求項１】
所定の対象物が計測された計測データから、前記対象物を構成する複数の要検出部位を検出する対象物認識装置であって、
前記対象物の複数のサンプルについて前記サンプルごとに付与された前記要検出部位の位置を含む付与データを用い、当該付与データから一部の前記位置を欠落させた劣化データを入力とし、元の前記付与データを出力の目標値とする学習によって予め生成された補完器を記憶している補完器記憶手段と、
前記計測データから前記対象物における前記要検出部位の位置のうちの１つ以上を検出して、前記対象物の検出データを取得する部位検出手段と、
前記検出データを前記補完器に入力し、当該検出データに不足している前記要検出部位の位置を補完して補完済み検出データを生成する部位補完手段と、
を備えたことを特徴とする対象物認識装置。
【請求項２】
計測データから、所定の対象物が計測された対象物領域を、前記対象物を構成する複数の部位であり前記対象物領域の検出に要すると定められた要検出部位に基づいて検出する対象物認識装置であって、
前記対象物の複数のサンプルについて前記サンプルごとに付与された前記要検出部位の位置を含む付与データを用い、当該付与データから一部の前記位置を欠落させた劣化データを入力とし、元の前記付与データを出力の目標値とする学習によって予め生成された補完器を記憶している補完器記憶手段と、
前記計測データから前記対象物における前記要検出部位の位置のうちの１つ以上を検出して、前記対象物の検出データを取得する部位検出手段と、
前記検出データを前記補完器に入力し、当該検出データに不足している前記要検出部位の位置を補完して補完済み検出データを生成する部位補完手段と、
前記補完済み検出データが示す前記要検出部位の位置を基準とした所定範囲を前記計測データにおける前記対象物領域として検出する対象物領域検出手段と、
を備えたことを特徴とする対象物認識装置。
【請求項３】
計測データに計測された人物が子供であるか否かの推定を、対象物である人を構成する複数の部位であり前記推定に要すると定められた要検出部位に基づいて行う対象物認識装置であって、
前記対象物の複数のサンプルについて前記サンプルごとに付与された前記要検出部位の位置を含む付与データを用い、当該付与データから一部の前記位置を欠落させた劣化データを入力とし、元の前記付与データを出力の目標値とする学習によって予め生成された補完器を記憶している補完器記憶手段と、
前記計測データから前記対象物における前記要検出部位の位置のうちの１つ以上を検出して、前記対象物の検出データを取得する部位検出手段と、
前記検出データを前記補完器に入力し、当該検出データに不足している前記要検出部位の位置を補完して補完済み検出データを生成する部位補完手段と、
前記補完済み検出データにおける前記要検出部位間の距離の比を所定の基準と比較して前記計測データに計測された人物が子供であるか否かを推定する子供推定手段と、
を備えたことを特徴とする対象物認識装置。
【請求項４】
前記部位補完手段は、前記部位検出手段が１つの前記計測データから２つ以上の前記対象物についての前記検出データを取得した場合に、前記補完器が出力した前記要検出部位の位置から当該対象物ごとの存在領域を推定し、複数の前記検出データについての当該存在領域同士の重複度が予め定めた基準値以上となる場合に、同一の前記対象物によるものとして当該複数の検出データについて統合された前記補完済み検出データを生成すること、を特徴とする請求項１から請求項３のいずれか１つに記載の対象物認識装置。
【請求項５】
前記部位補完手段は、前記複数の検出データに関し前記存在領域同士の重複度が予め定めた基準値以上となる場合に、当該複数の検出データそれぞれに対して前記補完器により得られた同一部位の位置を１つに統合して前記補完済み検出データを生成すること、を特徴とする請求項４に記載の対象物認識装置。
【請求項６】
前記部位補完手段は、前記複数の検出データに関し前記存在領域同士の重複度が予め定めた基準値以上となる場合に、当該複数の検出データを統合して前記補完器に入力することにより前記補完済み検出データを生成すること、を特徴とする請求項４に記載の対象物認識装置。
【請求項７】
所定の対象物が計測された計測データから、前記対象物を構成する複数の要検出部位を検出する対象物認識方法であって、
前記対象物の複数のサンプルについて前記サンプルごとに付与された前記要検出部位の位置を含む付与データを用い、当該付与データから一部の前記位置を欠落させた劣化データを入力とし、元の前記付与データを出力の目標値とする学習によって予め生成された補完器を用意するステップと、
前記計測データから前記対象物における前記要検出部位の位置のうちの１つ以上を検出して、前記対象物の検出データを取得する部位検出ステップと、
前記検出データを前記補完器に入力し、当該検出データに不足している前記要検出部位の位置を補完して補完済み検出データを生成する部位補完ステップと、
を備えたことを特徴とする対象物認識方法。
【請求項８】
所定の対象物が計測された計測データから、前記対象物を構成する複数の要検出部位を検出する処理をコンピュータに行わせるプログラムであって、
当該コンピュータを、
前記対象物の複数のサンプルについて前記サンプルごとに付与された前記要検出部位の位置を含む付与データを用い、当該付与データから一部の前記位置を欠落させた劣化データを入力とし、元の前記付与データを出力の目標値とする学習によって予め生成された補完器を記憶している補完器記憶手段、
前記計測データから前記対象物における前記要検出部位の位置のうちの１つ以上を検出して、前記対象物の検出データを取得する部位検出手段、及び、
前記検出データを前記補完器に入力し、当該検出データに不足している前記要検出部位の位置を補完して補完済み検出データを生成する部位補完手段、
として機能させることを特徴とする対象物認識プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像等の計測データから所定の対象物の部位を検出して対象物を認識する技術に関する。
【背景技術】
【０００２】
撮影画像中に現れている人の複数の部位を機械学習に基づいて検出する研究が盛んに行われている。
【０００３】
例えば、下記の非特許文献１に記載の技術においては、人が写った多数の学習用画像を入力値とし当該学習用画像における人の部位の種別および位置を記したアノテーションを出力値の目標値とするモデルを深層学習させる。そして、学習済みモデルに撮影画像を入力することによって撮影画像に写った人の部位の種別および位置を出力させる。このアノテーションは学習用画像に現れている部位について作成される。ちなみに、アノテーションに記された各部位の情報や学習済みモデルが出力する各部位の情報はキーポイントなどと呼ばれている。
【０００４】
人についての各種認識に必要な部位が検出できれば、当該人について、姿勢の認識の他にも、存在領域の認識、プロポーションに基づく大人か子供か（属性）の認識等が可能となる。
【先行技術文献】
【非特許文献】
【０００５】
【非特許文献１】“Realtime Multi-Person 2D Pose Estimation using Part Affinity Fields.”, Z. Cao, T. Simon, S. Wei and Y. Sheikh (2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), pp. 1302-1310)
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、従来技術では、撮影画像に現れていない部位を推定する精度が低いため、隠蔽があると対象物の姿勢、存在領域、属性等の認識が困難となる問題があった。
【０００７】
例えば、人物の腰の辺りがテーブルなどの物体で隠れテーブルの天板より上に上半身、天板より下に脚が撮影された画像を、従来技術により生成した学習済みモデルに入力した場合、上半身および脚のキーポイントの両方とも検出されないか、一方のみ検出されるか、上半身および脚のキーポイントが別々に検出されるか（つまり上半身と脚とが同一人物の部位として検出されない）のいずれかとなってしまう。
【０００８】
そのため当該検出結果を基に人の存在領域の認識を行った場合、存在領域無し、１人分の存在領域、２人分の存在領域との認識になり、高精度の認識が難しい。また、１つの存在領域から人の一部の部位の位置しか特定できないため姿勢や属性の認識も困難である。
【０００９】
このように、従来技術では、学習用画像と当該画像に現れている部位との関係を学習させていたため、撮影画像に現れていない部位の検出は困難であった。そのため、従来技術では、隠蔽があると姿勢、存在領域、属性などの認識が困難となる場合があった。
【００１０】
また、上記問題は、二次元計測データ（画像）のみならず三次元計測データにおいても生じ、同様に二次元計測データの時系列、三次元計測データの時系列においても生じる。
【００１１】
本発明は上記問題を鑑みてなされたものであり、一部の部位が隠蔽されて対象物が計測されても、隠蔽されている部位を補完して対象物を認識できる対象物認識装置、対象物認識方法および対象物認識プログラムを提供することを目的とする。
【課題を解決するための手段】
【００１２】
（１）本発明に係る対象物認識装置は、所定の対象物が計測された計測データから、前記対象物を構成する複数の要検出部位を検出する装置であって、前記対象物の複数のサンプルについて前記サンプルごとに付与された前記要検出部位の位置を含む付与データを用い、当該付与データから一部の前記位置を欠落させた劣化データを入力とし、元の前記付与データを出力の目標値とする学習によって予め生成された補完器を記憶している補完器記憶手段と、前記計測データから前記対象物における前記要検出部位の位置のうちの１つ以上を検出して、前記対象物の検出データを取得する部位検出手段と、前記検出データを前記補完器に入力し、当該検出データに不足している前記要検出部位の位置を補完して補完済み検出データを生成する部位補完手段と、を備える。
【００１３】
（２）本発明に係る他の対象物認識装置は、計測データから、所定の対象物が計測された対象物領域を、前記対象物を構成する複数の部位であり前記対象物領域の検出に要すると定められた要検出部位に基づいて検出する装置であって、学習用データにおける前記対象物の複数のサンプルについて前記サンプルごとに付与された前記要検出部位の位置を含む学習用付与データを用い、当該学習用付与データから一部の前記位置を欠落させた劣化データを入力とし、元の前記学習用付与データを出力の目標値とする学習によって予め生成された補完器を記憶している補完器記憶手段と、前記計測データから前記対象物における前記要検出部位の位置のうちの１つ以上を検出して、前記対象物の検出データを取得する部位検出手段と、前記検出データを前記補完器に入力し、当該検出データに不足している前記要検出部位の位置を補完して補完済み検出データを生成する部位補完手段と、前記補完済み検出データが示す前記要検出部位の位置を基準とした所定範囲を前記計測データにおける前記対象物領域として検出する対象物領域検出手段と、を備える。
【００１４】
（３）本発明に係るさらに他の対象物認識装置は、計測データに計測された人物が子供であるか否かの推定を、対象物である人を構成する複数の部位であり前記推定に要すると定められた要検出部位に基づいて行う装置であって、前記対象物の複数のサンプルについて前記サンプルごとに付与された前記要検出部位の位置を含む付与データを用い、当該付与データから一部の前記位置を欠落させた劣化データを入力とし、元の前記付与データを出力の目標値とする学習によって予め生成された補完器を記憶している補完器記憶手段と、前記計測データから前記対象物における前記要検出部位の位置のうちの１つ以上を検出して、前記対象物の検出データを取得する部位検出手段と、前記検出データを前記補完器に入力し、当該検出データに不足している前記要検出部位の位置を補完して補完済み検出データを生成する部位補完手段と、前記補完済み検出データにおける前記要検出部位間の距離の比を所定の基準と比較して前記計測データに計測された人物が子供であるか否かを推定する子供推定手段と、を備える。
【００１５】
（４）上記（１）〜（３）に記載の対象物認識装置において、前記部位補完手段は、前記部位検出手段が１つの前記計測データから２つ以上の前記対象物についての前記検出データを取得した場合に、前記補完器が出力した前記要検出部位の位置から当該対象物ごとの存在領域を推定し、複数の前記検出データについての当該存在領域同士の重複度が予め定めた基準値以上となる場合に、同一の前記対象物によるものとして当該複数の検出データについて統合された前記補完済み検出データを生成する構成とすることができる。
【００１６】
（５）上記（４）に記載の対象物認識装置において、前記部位補完手段は、前記複数の検出データに関し前記存在領域同士の重複度が予め定めた基準値以上となる場合に、当該複数の検出データそれぞれに対して前記補完器により得られた同一部位の位置を１つに統合して前記補完済み検出データを生成する構成とすることができる。
【００１７】
（６）上記（４）に記載の対象物認識装置において、前記部位補完手段は、前記複数の検出データに関し前記存在領域同士の重複度が予め定めた基準値以上となる場合に、当該複数の検出データを統合して前記補完器に入力することにより前記補完済み検出データを生成する構成とすることができる。
【００１８】
（７）本発明に係る対象物認識方法は、所定の対象物が計測された計測データから、前記対象物を構成する複数の要検出部位を検出する方法であって、前記対象物の複数のサンプルについて前記サンプルごとに付与された前記要検出部位の位置を含む付与データを用い、当該付与データから一部の前記位置を欠落させた劣化データを入力とし、元の前記付与データを出力の目標値とする学習によって予め生成された補完器を用意するステップと、前記計測データから前記対象物における前記要検出部位の位置のうちの１つ以上を検出して、前記対象物の検出データを取得する部位検出ステップと、前記検出データを前記補完器に入力し、当該検出データに不足している前記要検出部位の位置を補完して補完済み検出データを生成する部位補完ステップと、を備える。
【００１９】
（８）本発明に係る対象物認識プログラムは、所定の対象物が計測された計測データから、前記対象物を構成する複数の要検出部位を検出する処理をコンピュータに行わせるプログラムであって、当該コンピュータを、前記対象物の複数のサンプルについて前記サンプルごとに付与された前記要検出部位の位置を含む付与データを用い、当該付与データから一部の前記位置を欠落させた劣化データを入力とし、元の前記付与データを出力の目標値とする学習によって予め生成された補完器を記憶している補完器記憶手段、前記計測データから前記対象物における前記要検出部位の位置のうちの１つ以上を検出して、前記対象物の検出データを取得する部位検出手段、及び、前記検出データを前記補完器に入力し、当該検出データに不足している前記要検出部位の位置を補完して補完済み検出データを生成する部位補完手段、として機能させる。
【発明の効果】
【００２０】
本発明の対象物認識装置、対象物認識方法および対象物認識プログラムによれば、一部の部位が隠蔽されて対象物が計測されても、隠蔽されている部位を補完して対象物を認識することが可能となる。
【図面の簡単な説明】
【００２１】
【図１】本発明の実施形態に係る対象物認識装置の概略の構成を示す図である。
【図２】本発明の実施形態に係る対象物認識装置の学習段階に関する概略の機能ブロック図である。
【図３】付与データの例を説明する模式図である。
【図４】本発明の実施形態に係る対象物認識装置の認識段階に関する概略の機能ブロック図である。
【図５】撮影画像と検出データの例を示す模式図である。
【図６】図５の右側の人物についての検出データの統合処理の概略を説明する模式図である。
【図７】本発明の実施形態に係る対象物認識装置の学習段階に関するフロー図である。
【図８】本発明の実施形態に係る対象物認識装置の認識段階に関するフロー図である。
【図９】キーポイント補完手段による重複検出判定処理の概略のフロー図である。
【図１０】本発明の実施形態に係る対象物認識装置の認識段階に関し、統合処理が異なる例のフロー図である。
【発明を実施するための形態】
【００２２】
以下、本発明の実施の形態（以下実施形態という）である対象物認識装置１について、図面に基づいて説明する。本発明に係る対象物認識装置は、計測データから所定の対象物について当該対象物を構成する複数の部位の位置を検出し、その結果に基づいて計測データにおける対象物の領域（対象物領域）や属性（対象物属性）を求めるものであり、本実施形態にて一例として示す対象物認識装置１は、監視空間を撮影した撮影画像から監視空間に現れた人の部位および領域を検出し、さらに当該人が子供であるか否かを推定する。すなわち、本実施形態において、計測データは二次元画像であり、対象物は人である。対象物認識装置１は二次元画像において人を構成する複数の部位の位置を検出して、部位を囲む領域を検出し、部位間の距離の比に基づき子供であるか否かを推定する。
【００２３】
上記対象物認識に用いる複数の部位を要検出部位、要検出部位の代表点をキーポイントと称する。キーポイントの情報は、少なくとも対応する部位の種別と位置の組み合わせで表され、この組み合わせを含むデータを部位データと称する。そして、各キーポイントを検出することによって、対応する要検出部位の位置が検出される。なお、要検出部位とする部位の種別は、対象物や認識の目的に応じて予め定められる。
【００２４】
特に、対象物認識装置１は、学習用画像に現れる部位のアノテーション（付与データ）を用いて学習した、隠れた部位を補完する補完器を記憶している。ここで、付与データは、学習用の計測データに現れている対象物や、対象物の三次元モデルなどに対して付与される部位データである。対象物認識装置１は、例えば従来の検出器により撮影画像から要検出部位の検出を行って検出データを生成し、検出し損ねた要検出部位の部位データを補完器によって補完する。そして、対象物認識装置１は、補完後の検出データ（補完済み検出データ）を用いて対象物領域を検出し、対象物属性を判定する。
【００２５】
［対象物認識装置１の構成］
図１は対象物認識装置１の概略の構成を示すブロック図である。対象物認識装置１は撮影部２、通信部３、記憶部４、画像処理部５および出力部６からなる。
【００２６】
撮影部２は、計測データを取得する計測部であり、本実施形態においては監視カメラである。撮影部２は通信部３を介して画像処理部５と接続され、監視空間を所定の時間間隔で撮影して撮影画像を生成し、撮影画像を順次、画像処理部５に入力する。例えば、撮影部２は、監視空間であるイベント会場の一角に設置されたポールに当該監視空間を俯瞰する所定の固定視野を有して設置され、監視空間をフレーム周期１秒で撮影してカラー画像を生成する。なお、撮影部２はカラー画像の代わりにモノクロ画像を生成してもよい。
【００２７】
通信部３は通信回路であり、その一端が画像処理部５に接続され、他端が撮影部２および出力部６と接続される。通信部３は撮影部２から撮影画像を取得して画像処理部５に入力し、画像処理部５から対象物の認識結果を入力され出力部６へ出力する。
【００２８】
なお、撮影部２、通信部３、記憶部４、画像処理部５および出力部６の間は各部の設置場所に応じた形態で適宜接続される。例えば、撮影部２と通信部３および画像処理部５とが遠隔に設置される場合、撮影部２と通信部３との間をインターネット回線にて接続することができる。また、通信部３と画像処理部５との間はバスで接続する構成とすることができる。その他、接続手段として、ＬＡＮ（Local Area Network）、各種ケーブルなどを用いることができる。
【００２９】
記憶部４は、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）等のメモリ装置であり、各種プログラムや各種データを記憶する。例えば、記憶部４は学習用画像、学習用画像に対する付与データ、学習済みモデルである検出器や補完器の情報を記憶する。記憶部４は画像処理部５と接続されて、画像処理部５との間でこれらの情報を入出力する。すなわち、対象物の認識に必要な情報や、認識処理の過程で生じた情報が記憶部４と画像処理部５との間で入出力される。
【００３０】
画像処理部５は、計測データを処理する計測データ処理部であり、ＣＰＵ（Central Processing Unit）、ＤＳＰ（Digital Signal Processor）、ＭＣＵ（Micro Control Unit）、ＧＰＵ(Graphics Processing Unit)等の演算装置で構成される。画像処理部５は記憶部４からプログラムを読み出して実行することにより各種の処理手段・制御手段として動作し、必要に応じて、各種データを記憶部４から読み出し、生成したデータを記憶部４に記憶させる。例えば、画像処理部５は学習により検出器と補完器を生成し、生成した検出器と補完器を通信部３経由で記憶部４に記憶させる。また、画像処理部５は検出器と補完器を用いて、撮影画像における対象物を認識する処理を行う。
【００３１】
出力部６は、液晶ディスプレイまたは有機ＥＬ（Electro-Luminescence）ディスプレイ等であり、通信部３から入力された認識結果を表示する。監視員は表示された認識結果に応じて対処の要否等を判断し、必要に応じて対処員を急行させる等の対処を行う。
【００３２】
以下、対象物認識装置１の構成について、先ず、検出器と補完器を学習する学習段階に関する構成について説明し、次いで、検出器と補完器を用いて対象物を認識する認識段階に関する構成について説明する。
【００３３】
［学習段階に関する対象物認識装置１の構成］
図２は学習段階に関する対象物認識装置１の概略の機能ブロック図であり、記憶部４が学習用データ記憶手段４０、検出器記憶手段４１および補完器記憶手段４２として機能し、画像処理部５が検出器学習手段５０、劣化データ生成手段５１および補完器学習手段５２として機能する。
【００３４】
学習用データ記憶手段４０は多数の学習用の画像を予め記憶する学習用画像記憶手段であると共に、当該学習用画像に撮影されている人について付与された部位データを付与データとして予め記憶している付与データ記憶手段である。学習用データ記憶手段４０は、学習用画像と当該画像に撮影されている各人（以下、サンプルと称する。別人物は別サンプルであり、同一人物であっても画像が異なれば別サンプルである）の付与データとを紐づけて保持する。具体的には、各サンプルには互いを識別するためのサンプルＩＤが付与され、学習用画像には画像ＩＤが付与され、学習用データ記憶手段４０にはこれらＩＤの対応関係が記憶される。学習用画像は、カメラで実際に撮影された実画像でなくてもよく、例えば、コンピュータグラフィックス（ＣＧ）などで作られた画像であってもよい。付与データは、各サンプルのキーポイントそれぞれについての種別および位置の情報を含む。また、位置が不明なキーポイントについてはその旨を示す情報とすることができる。つまり、付与データにより、各サンプルの複数のキーポイントについてその種別ごとに当該キーポイントの位置が付与されたか否かと付与された位置がわかる。付与データは、人手によって作成されてもよいし、機械が抽出したものを人が確認し必要に応じて修正することによって作成されてもよいし、それらが混在していてもよい。
【００３５】
図３は付与データの例を説明する模式図である。図３（ａ）は、要導出部位を１７個とし、対象物のキーポイントのトポロジーを図化した例である。キーポイントの位置を表す１７個の白丸と、キーポイント間の連結関係を表す１６本の線分にて図化されている。図３（ｂ）は付与データをテーブル形式のデータベースとして定義した例を示している。テーブルの各行がサンプルごとの付与データのレコードを表す。各レコードにおいては、先頭（左側）にサンプルＩＤを表すインデックスｎ（ｎ＝１，２，…，Ｎ）が格納され、続いてキーポイントの情報を表す３つの値の組がキーポイントの種別に対応に対応するインデックスｉ（ｉ＝１，２，…，１７）の昇順に１７組格納される。
【００３６】
上記３つの値の組は、各キーポイントのｘ座標ｘｎ，ｉ、ｙ座標ｙｎ，ｉ、および当該キーポイントが欠落していないかを表すフラグ（付与フラグ）ｖｎ，ｉである。付与フラグｖｎ，ｉに設定する値は、座標が付与されていれば“１”、座標が付与されていなければ“０”としている。各組において３つの値はｘｎ，ｉ、ｙｎ，ｉ、ｖｎ，ｉの順に格納されている。
【００３７】
なお、キーポイントの位置は画像上にて相対位置で表されているため、劣化データ生成手段５１は付与データにおけるキーポイントの位置を正規化してから劣化データを生成する。例えば、正規化は、各サンプルの付与フラグが１であるキーポイントに対して、当該サンプルの両肩に対応するキーポイントの中心を原点とした座標系に平行移動するといった方法で行うことができる。ちなみに、この場合、右肩および左肩のいずれかの付与フラグが０であるサンプルについては正規化されないことになるが、このように正規化されないサンプルについては補完器の学習に用いないこととすればよい。
【００３８】
検出器学習手段５０は、学習用画像を入力とし、当該学習用画像に対応する付与データを出力の目標値とする学習により検出器として学習済みモデルを生成する。
【００３９】
なお、検出器は、画像を入力として１つ以上の要検出部位を出力するものであれば、どのような手段を用いてもよい。本実施形態では、検出器として非特許文献１で提案された手法を用い、学習データによって予め学習しておく。具体的には、本実施形態では検出器をＣＮＮ（Convolutional Neural Networks）でモデル化する。
【００４０】
検出器記憶手段４１は、ＣＮＮを構成するフィルタのフィルタ係数やネットワーク構造などを含めた情報を検出器として記憶する。
【００４１】
対象物認識装置１における検出器には他にも、例えば、対象物のシルエットマッチングを用いた姿勢推定に基づいてキーポイントの位置を特定する検出器など、公知の種々の検出器を適用することができる。なお、例えば、シルエットマッチングに基づく検出器を適用する場合、検出器記憶手段４１は、検出に必要となる背景画像や姿勢パターンなどを含めて記憶する。
【００４２】
劣化データ生成手段５１は、学習用データ記憶手段４０から付与データを読み出し、当該付与データにおける各サンプルのキーポイントの一部を欠落させて劣化データを作成する。そして、付与データと劣化データとをセットにして補完器学習手段５２へ出力する。例えば、劣化データ生成手段５１は、欠落させるキーポイントをランダムに或いは規則的に選択して、選択したキーポイントの位置を不明値に置換することによって劣化データを作成することができ、具体的には、劣化データ生成手段５１は、選択したキーポイントのｘ座標、ｙ座標、および付与フラグをそれぞれ０に置換して劣化データを作成する。ただし、劣化データ生成手段５１は、付与フラグが１であるキーポイントを予め定めた必須個数以上残す。
【００４３】
すなわち、劣化データ生成手段５１は学習用データ記憶手段４０から、必須個数を超えるキーポイントの位置を付与された付与データを読み出し、当該付与データから１個以上の位置を欠落させて、必須個数以上の位置を含む劣化データを生成する。一方、付与データのうち、付与フラグが１のキーポイントが必須個数以下であるものは補完器の学習に用いない。本実施形態では必須個数は１個とする。
【００４４】
また、本実施形態では、魚眼レンズ画像や全天球画像などに写っている人の姿勢についても適切に補完できるように、ｘｙ座標が（０，０）の点を中心としてランダムな角度でサンプルを回転させ、補完器の学習に用いる。すなわち、劣化データ生成手段５１は、正規化後の付与データに対し回転処理を行ってキーポイントのｘｙ座標を変換してから劣化データを生成する。
【００４５】
補完器学習手段５２は、劣化データ生成手段５１から入力された、付与データと劣化データとのペアを用いて補完器を学習する。すなわち、補完器学習手段５２は、劣化データを入力とし付与データを出力の目標値とする学習によって補完器を生成する。ここでの学習とは、補完器のパラメータを求めることである。
【００４６】
本実施形態においては、補完器を変分自己符号化器（variational autoencoder：ＶＡＥ）でモデル化する。ＶＡＥは線形変換処理、活性化関数等から構成され、ここでは、活性化関数としてＲｅＬＵ関数を用いる。本実施形態では、補完器学習手段５２はＶＡＥを構成する各要素のパラメータについて誤差関数を最小化する学習を行う。誤差関数として、劣化データを補完器に入力して得られたキーポイントの座標と、付与データのキーポイントの座標との二乗誤差などを用いる。このとき、付与データの付与フラグが０であるキーポイントについては誤差関数に含めない。最小化には確率的最急降下法などを用いる。
【００４７】
補完器記憶手段４２は、補完器学習手段５２によって得られた補完器のパラメータを記憶する。また、補完器記憶手段４２には補完器として用いるＶＡＥの構造が格納される。
【００４８】
［認識段階に関する対象物認識装置１の構成］
図４は認識段階に関する対象物認識装置１の概略の機能ブロック図であり、記憶部４が検出器記憶手段４１および補完器記憶手段４２として機能し、画像処理部５がキーポイント検出手段５３、キーポイント補完手段５４、対象物領域検出手段５５および対象物属性推定手段５６として機能し、通信部３が画像処理部５と協働し、撮影画像取得手段３０および認識結果出力手段３１として機能する。
【００４９】
撮影画像取得手段３０は撮影部２から撮影画像を順次取得して画像処理部５に出力する。
【００５０】
検出器記憶手段４１は上述したように、学習段階で生成された検出器を記憶している。
【００５１】
キーポイント検出手段５３（部位検出手段）は検出器記憶手段４１に格納されている検出器を用いて、撮影手段である撮影部２から順次取得した撮影画像を入力として、当該画像に写っている人物のキーポイントを人物ごとに検出する。なお、シルエットマッチングに基づく検出器を適用する場合は、過去の撮影画像に基づく背景画像の生成や背景差分処理によるシルエットの抽出などの処理を伴う。なお、学習段階では各サンプルの付与データをサンプルＩＤで識別したが、認識段階では、検出された各人物の検出データに対象物ＩＤを付与して識別する。
【００５２】
補完器記憶手段４２は上述したように、学習段階で生成された補完器を記憶している。
【００５３】
キーポイント補完手段５４は、補完器記憶手段４２に格納されている学習済みの補完器を用いて、キーポイント検出手段５３から入力された各人の検出データに対して補完を行う。補完された検出データを補完済み検出データと称する。つまり、キーポイント補完手段５４は、キーポイント検出手段５３が撮影画像から検出した対象物ごとの検出データそれぞれを補完器に入力して各対象物の検出データを補完することによって、各対象物の補完済み検出データを生成する部位補完手段である。キーポイント補完手段５４により、各人について全てのキーポイントの座標が算出される。
【００５４】
具体的には、キーポイント補完手段５４は、キーポイント検出手段５３から検出されたキーポイントについて部位と位置を検出データとして入力されると、部位ごとに位置の情報として、座標（ｘｎ，ｉおよびｙｎ，ｉ）と、位置に関する状態値とからなる３つの値の組を定義する。つまり、認識段階では、学習段階での付与フラグに代えて、検出データの部位ごとに状態値を付与する。検出データのデータ形式は、上述した付与データのレコードと対比すると、付与データにおけるサンプルＩＤに代えて対象物ＩＤを表すインデックスが格納され、また、各部位に対応してｘｎ，ｉ、ｙｎ，ｉ、ｖｎ，ｉの順に格納される３つの値のうちｖｎ，ｉに状態値が格納された形式とすることができる。
【００５５】
ここで、状態値は、キーポイント検出手段５３により位置が検出された部位については“１”、検出されなかった部位については“０”を付与し、また、補完処理でｘ座標ｘｎ，ｉ、ｙ座標ｙｎ，ｉが設定された部位については“２”を付与する。つまり、キーポイント補完手段５４への入力時に欠落していたキーポイントの位置が補完され、当該キーポイントについて、算出された座標と状態値“２”とからなる位置情報を格納した補完済み検出データが生成される。なお、入力時に既に検出されていたキーポイントについては、本実施形態では補完済み検出データにおける位置情報として、入力時の値を用いるが、これに代えて補完器の出力の座標を用いてもよい。また、検出されなかった部位に関しては、ｘｎ，ｉおよびｙｎ，ｉに不明値を表す情報として劣化データと同様、０を設定する。
【００５６】
キーポイント補完手段５４は生成した補完済み検出データを、補完前の検出データの対象物ＩＤと共に対象物領域検出手段５５および対象物属性推定手段５６へ供する。
【００５７】
ここで、補完前の検出データに含まれるキーポイントの位置は、画像上にて相対位置で表されているため、キーポイント補完手段５４は検出データに劣化データ生成手段５１と同様の正規化処理を行ってから補完処理を行う。そして、キーポイント補完手段５４での補完処理で得られた位置に対して、補完前に正規化により平行移動した分を元に戻す処理を行って、補完済み検出データのキーポイントの位置とする。なお、上述のように正規化できない対象物が存在し得るが、当該対象物については補完前の検出データを補完済み検出データとしてそのまま出力することにする。
【００５８】
さらに、キーポイント補完手段５４は補完済み検出データに関する統合処理を行ってもよい。統合処理の意図するところについて図５を用いて説明する。図５は撮影画像と検出データの例を示す模式図である。図５（ａ）は撮影画像と、模式化した検出データとを重ねて表示した図である。当該画像には２人の人物６０，６１が写っており、検出されたキーポイントが白丸で表されている。図５（ｂ）は人物６０，６１についての検出データを、図３（ｂ）に示したようなテーブル形式で表している。図５（ｂ）の検出データは、キーポイント補完手段５４により上述した状態値を付与され、また、検出されなかった部位については、座標および状態値の３つの値を０に設定されている。
【００５９】
図５の例では、人物６０については１７個のキーポイント“１”〜“１７”が全て検出されており、図５（ａ）の矩形６２はそれらキーポイント群の外接矩形を示している。人物６０については全身が一体に検出されており、これに対応して、１つの検出データ（対象物ＩＤ＝００１）が得られている。一方、人物６１は腰の辺りが机で隠蔽され、腰に位置する２つのキーポイント“１２”，“１３”が検出できない。その結果、検出器は人物６１の上半身のキーポイント“１”〜“１１”と、脚のキーポイント“１４”〜“１７”とを別々の対象物として検出してしまっている。図５（ａ）の矩形６３は上半身から検出されたキーポイント群の外接矩形、また、矩形６４は脚から検出されたキーポイント群の外接矩形を示している。これに対応して、人物６１については矩形６３からの検出データ（対象物ＩＤ＝００２）と矩形６４からの検出データ（対象物ＩＤ＝００３）とが得られている。
【００６０】
統合処理は、この例における人物６１のように１人の人物から検出された複数の検出データを１つの検出データにまとめる処理である。例えば、キーポイント補完手段５４は統合処理にて、キーポイント検出手段５３が１つの撮影画像から２つ以上の対象物についての検出データを取得した場合に、補完器が出力したキーポイントの位置から当該対象物ごとの存在領域を推定し、複数の検出データについての当該存在領域同士の重複度が予め定めた基準値以上となる場合に、同一の対象物によるものとして当該複数の検出データについて統合された補完済み検出データを生成する。重複度の判定により部位の存在領域同士が同一対象物とみなせるほどに重複している場合に後述する統合処理が行われ、例えば、図５の例では、対象物ＩＤが００１の検出データは対象物ＩＤが００２や００３の検出データとの重複度が基準値未満となることにより統合されないが、対象物ＩＤが００２，００３の２つの検出データは重複度が基準値以上となり統合される。
【００６１】
図６は図５の人物６１についての２つの検出データの統合処理の概略を説明する模式図である。図６（ａ）〜（ｃ）はそれぞれ補完済み検出データのキーポイントおよびその外接矩形７０〜７２を撮影画像に重ねて表示した図であり、図６（ａ）は図５の矩形６３からの検出データ（対象物ＩＤ＝００２）に対する補完結果、また図６（ｂ）は図５の矩形６４からの検出データ（対象物ＩＤ＝００３）に対する補完結果を示し、図６（ｃ）はそれら２つの補完結果を統合処理した結果を示している。ここで、白丸は図５と同様、検出されたキーポイントを表し、黒丸は補完されたキーポイントを表している。図６（ａ）では補完によりキーポイントが追加され、矩形６３から拡大した外接矩形７０が得られている。一方、図６（ｂ）では、肩のキーポイントに基づく正規化が行えなかったために補完されず、元の検出データがそのまま補完済み検出データとなっており、矩形６４と同じ外接矩形７１が得られている。図６（ｃ）では、矩形６３，６４の両領域にて検出されたキーポイントが統合され、人物６１に好適に対応した外接矩形７２が得られている。図６（ｄ）は人物６０，６１についての検出データをテーブル形式で表している。対象物ＩＤが００１のデータは図５（ｂ）と同じく人物６０の検出データである。一方、人物６１の検出データは、図５（ｂ）にて対象物ＩＤが００２と００３の２つに分かれていたものが、図６（ｄ）では対象物ＩＤに００２を付与された１つの検出データに統合され、またキーポイント“１２”，“１３”については補完処理で得られた座標と状態値“２”が格納されている。
【００６２】
キーポイント補完手段５４は統合処理にて、補完済み検出データの重複度を算出し、重複度が事前に定めた基準値以上である補完済み検出データ同士を統合する。重複度を適切に設計することで、異なる人物の検出データ間（例えば、図５（ｂ）の対象物ＩＤが００１と００２の検出データ）では統合処理を行わず、同一人物が分かれて検出された検出データ間（例えば、図５（ｂ）の対象物ＩＤが００２と００３の検出データ）に対して統合処理を行うことができる。
【００６３】
対象物領域検出手段５５はキーポイント補完手段５４から補完済み検出データを入力され、補完済み検出データが示す要検出部位の位置を基準とした所定範囲を計測データにおける対象物領域として検出し、検出した対象物領域の情報を認識結果出力手段３１に出力する。例えば、対象物領域検出手段５５は各人物の補完済み検出データに含まれるキーポイント群に外接する外接矩形を当該人物に関する対象物領域である人物領域として検出する。図５の例では、人物６０の矩形６２が人物領域である。
【００６４】
また、外接矩形を予め定めた比率で拡大して人物領域としてもよい。つまり人物領域の設定に際し、キーポイントが真の領域のやや内側に付与または検出されることや検出誤差を考慮して上下左右にマージンを設ける。また、各キーポイントの定義や各キーポイントの検出誤差の見積もりに応じて上下左右の各方向に対する比率を異なるものとしてもよい。
【００６５】
または、人の部位データから人物領域への変換を学習した変換器に各人物の補完済み検出データを入力することにより、補完済み検出データを当該人物の人物領域に変換してもよい。変換器は、学習用画像に撮影された対象物のサンプルの付与データを入力とし当該学習用画像における当該サンプルの対象物領域を出力の目標値とする学習によって生成された学習済みモデルであり、記憶部４が不図示の変換器記憶手段として機能し、変換器を予め記憶する。そして、対象物領域検出手段５５は変換器記憶手段から変換器を読み出して利用する。
【００６６】
以上のように、対象物領域検出手段５５は、計測データにおいて、キーポイント補完手段５４が補完した検出データに外接する外接矩形を対象物領域として検出し、または、さらに当該外接矩形を所定数倍に拡大した対象物領域を検出する。
【００６７】
また、対象物領域検出手段５５は、キーポイント補完手段５４が補完した検出データを、学習用画像に撮影された対象物のサンプルの付与データを入力とし当該学習用画像における当該サンプルの対象物領域を出力の目標値とする学習によって生成された変換器に入力して、計測データにおける対象物領域を検出する。
【００６８】
補完済み検出データには、計測データ上で隠れているキーポイントが補完されているため、隠れによって極端に小さな対象物領域が検出されてしまう不具合や、隠れによって１つの対象物に係る対象物領域が複数に分かれて検出されてしまう不具合を格段に低減できる。
【００６９】
対象物属性推定手段５６はキーポイント補完手段５４から入力された補完済み検出データを基に対象物属性を推定し、推定した対象物属性の情報を認識結果出力手段３１に出力する。本実施形態では、対象物属性推定手段５６は、補完済み検出データにおけるキーポイント間の距離の比を所定の基準と比較して計測データに計測された人物が子供であるか否かを推定する子供推定手段である。例えば、頭頂のキーポイントから首のキーポイントまでの頭部距離を算出するとともに、頭部距離に肩のキーポイントから腰部のキーポイント、膝のキーポイントを経由して踵のキーポイントに至るまでの距離を加えた全身距離を算出して、頭部距離に対する全身距離の比を算出する。ただし、肩と腰部と膝と踵の組み合わせは、右肩と右腰部と右膝と右踵の組み合わせ、または左肩と左腰部と右膝と左踵の組み合わせとし、或いは、右の組み合わせと左の組み合わせの両方を算出して平均する。算出した比を予め定めた閾値と比較し、比が閾値以下の場合は子供、比が閾値を超えた場合は大人と推定する。なお、補完済み検出データにおいて頭頂と肩と腰部と膝と踵のキーポイントのいずれかが欠落している場合は推定結果が不明である旨を出力する。上記比はいわゆる頭身であり、子供は大人に比べて頭身が低い傾向にあることを利用している。
【００７０】
補完済み検出データには、計測データ上で隠れているキーポイントが補完されているため、対象物属性推定手段５６は補完済み検出データを用いることで、隠れによって比を算出し損ねる不具合を格段に低減できる。特に、上述の子供推定では、子供の首のキーポイントが隠れることが多いため、補完済み検出データを用いた推定は効果的である。
【００７１】
認識結果出力手段３１は、対象物領域検出手段５５が検出した対象物領域および対象物属性推定手段５６が推定した対象物属性を出力部６に出力する。例えば、認識結果出力手段３１は、撮影画像に対象物領域を表す矩形を描画し、属性が「子供」であればさらに矩形近傍に「子供」の文字を描画した画像を生成して出力部６に出力する。なお、対象物領域が検出されなかった場合、認識結果は対象物無しであるとして撮影画像をそのまま出力してもよい。
【００７２】
［対象物認識装置１の動作］
次に、対象物認識装置１の動作を、学習段階と認識段階とに分けて説明する。
【００７３】
［学習段階での対象物認識装置１の動作］
図７は学習段階での対象物認識装置１の動作に関する概略のフロー図である。
【００７４】
対象物認識装置１は撮影画像に現れる対象物を認識する動作に先立って、検出器および補完器を学習する動作を行う。
【００７５】
当該学習の動作が開始されると、画像処理部５は検出器学習手段５０として機能し、検出器の学習に用いるデータとして学習用データ記憶手段４０からサンプルごとの学習用画像および付与データを読み込む（ステップＳ１００）。そして、検出器学習手段５０は、学習用画像を入力とし、当該学習用画像に対応する付与データを出力の目標値とする検出器学習を行い（ステップＳ１０５）、当該学習により生成された学習済みモデルを検出器として検出器記憶手段４１に格納する（ステップＳ１１０）。
【００７６】
また、画像処理部５は補完器の学習を行うために、劣化データ生成手段５１として機能し、学習用データ記憶手段４０から付与データを読み出す（ステップＳ１１５）。劣化データ生成手段５１は、当該付与データに対し正規化処理および回転処理を行った後（ステップＳ１２０）、キーポイントの一部を欠落させて劣化データを作成する（ステップＳ１２５）。
【００７７】
画像処理部５は補完器学習手段５２として機能し、劣化データ生成手段５１から正規化および回転を行った付与データとそれから生成された劣化データとを入力され、それらデータを用いて補完器を学習し（ステップＳ１３０）、生成した補完器を補完器記憶手段４２に格納する（ステップＳ１３５）。
【００７８】
［認識段階での対象物認識装置１の動作］
図８は認識段階での対象物認識装置１の動作に関する概略のフロー図である。
【００７９】
対象物認識装置１が認識の動作を開始すると、撮影部２は所定時間おきに監視空間を撮影した画像を順次、出力する。画像処理部５は通信部３と協働して、撮影部２から撮影画像を受信するたびに図８のフロー図に示す動作を繰り返す。
【００８０】
通信部３は撮影画像取得手段３０として機能し、撮影画像を受信すると当該撮影画像を画像処理部５に出力する（ステップＳ２００）。
【００８１】
画像処理部５はキーポイント検出手段５３として機能し、検出器記憶手段４１に記憶されている検出器を用いて、入力された撮影画像から人ごとにキーポイントを検出し検出データを生成する（ステップＳ２０５）。
【００８２】
キーポイント検出手段５３によりキーポイントが検出された場合（ステップＳ２１０にて「ＹＥＳ」の場合）、画像処理部５はキーポイント補完手段５４として機能する。キーポイント補完手段５４は、キーポイント検出手段５３が生成した検出データに対して、正規化処理（ステップＳ２１５）と、キーポイントごとに状態値を付与する処理（ステップＳ２２０）を行った後、補完器記憶手段４２に記憶された補完器を用いて、キーポイントを補完する処理を行い補完済み検出データを生成する（ステップＳ２２５）。
【００８３】
また、キーポイント補完手段５４は複数の検出データを統合する処理（ステップＳ２３０〜Ｓ２４０）を行う。上述したように統合処理は１人の人物から検出された複数の検出データをまとめる処理であり、重複検出判定処理Ｓ２３０は、複数の検出データ間での重複度に基づいて、重複検出（同一人物について複数の検出データが得られていること）を判定する。重複検出がある場合には（ステップＳ２３５にて「ＹＥＳ」の場合）、キーポイント補完手段５４は、重複検出であると判定された補完済み検出データにおける重複キーポイントを統合する（ステップＳ２４０）。他方、重複検出がない場合には（ステップＳ２３５にて「ＮＯ」の場合）、ステップＳ２４０は省略される。こうして、キーポイント補完手段５４は補完済み検出データの生成処理を完了し、当該データを対象物領域検出手段５５および対象物属性推定手段５６に供する。
【００８４】
画像処理部５は対象物領域検出手段５５として機能し、キーポイント補完手段５４から入力される補完済み検出データに基づいて、対象物領域として人物領域を検出する（ステップＳ２４５）。また、画像処理部５は対象物属性推定手段５６として機能し、キーポイント補完手段５４から入力される補完済み検出データに基づいて、検出された人物が子供であるか否かといった対象物属性を推定する処理を行う（ステップＳ２５０）。
【００８５】
画像処理部５および通信部３は協働して認識結果出力手段３１として機能し、対象物領域検出手段５５により検出された人物領域、および対象物属性推定手段５６による属性の推定結果を含む認識結果を出力部６に出力する（ステップＳ２５５）。また、ステップＳ２０５にて撮影画像からキーポイントが検出されなかった場合（ステップＳ２１０にて「ＮＯ」の場合）、認識結果出力手段３１はその旨を含む認識結果を出力部６に出力する。
【００８６】
対象物認識装置１は、ステップＳ２００にて取得された撮影画像について認識結果を出力すると、ステップＳ２００に戻り、次に取得される撮影画像について上述の処理を繰り返す。
【００８７】
図９はキーポイント補完手段５４による重複検出判定処理Ｓ２３０の概略のフロー図である。キーポイント補完手段５４は、図８のステップＳ２２５にて生成した補完済み検出データに対して、例えば、状態値が１のキーポイントの数について降順でソート処理を行い、さらにキーポイントが同数のデータに対して対象物ＩＤの昇順とするソート処理を行った後（ステップＳ３００）、全ての補完済み検出データについて対象物ＩＤの付与を一旦、解除する（ステップＳ３０５）。そして、新たに付与する対象物ＩＤの初期値を１に設定し（ステップＳ３１０）、重複検出の判定結果に基づいて各補完済み検出データに対象物ＩＤを付与し直す処理を開始する。
【００８８】
補完済み検出データのうちに対象物ＩＤが未付与のものがあれば（ステップＳ３１５にて「ＹＥＳ」の場合）、当該未付与のデータのうち最先順序のものを選択する（ステップＳ３２０）。以下、選択したデータを補完済み検出データＡと表す。キーポイント補完手段５４は、補完済み検出データの複数のキーポイントのうち状態値が０ではないものについての外接矩形を算出し、その面積を人物の存在領域の面積として用いることができる。
【００８９】
補完済み検出データＡには対象物ＩＤの現在の設定値を付与する（ステップＳ３２５）。しかる後、対象物ＩＤが未付与の補完済み検出データを順次、補完済み検出データＢとして選択する（ステップＳ３３０）。そして、補完済み検出データＢが選択された場合（ステップＳ３３５にて「ＹＥＳ」の場合）、補完済み検出データＡ，Ｂの間の重複度を算出する（ステップＳ３４０）。
【００９０】
本実施形態では、重複度αを、補完済み検出データＡについての人物領域ＲＡ、および補完済み検出データＢについての人物領域ＲＢを用いて、
（数１）
α＝ＲＡとＲＢの重複領域の面積／ ＲＡとＲＢの和領域の面積
で計算する。ここで、領域ＲＡ，ＲＢは上述の外接矩形とする。なお、補完済み検出データＡ，Ｂが共に正規化を行えず補完できなかったもの（本実施形態では、両肩のいずれかのキーポイントの状態値が０である補完済み検出データ）であれば、重複判定処理は常に統合を行わない判定結果を返すこととする。
【００９１】
また、補完済み検出データＡ，Ｂの片方（ここではＢとする）の補完済み検出データに状態値が０のキーポイントが含まれていれば、他の重複度αの計算方法として、
（数２）
α＝ＲＡとＲＢの重複領域の面積／ ＲＢの面積
としてもよい。なお、面積に代えて、同一部位のキーポイントの位置の間の距離の平均値が小さいほど高い重複度とすることもできる。この場合、一方のみにしかない部位のキーポイントは距離算出対象外とする。また、好適には、部位ごとのずれ易さを事前に指標値化しておき、ずれ易さが高い部位の距離ほど低く重みづけて平均値を求める。また、２つまたは３つ以上の部位データ同士の類似度を重複度として出力する重複度算出器を事前に学習させ用いてもよい。
【００９２】
ステップＳ３４０にて算出した重複度が、予め定めた基準値以上である場合（ステップＳ３４５にて「ＹＥＳ」の場合）、補完済み検出データＢに対象物ＩＤの現在の設定値を付与する（ステップＳ３５０）。これにより、補完済み検出データＡ，Ｂに共通の対象物ＩＤが付与される。キーポイント補完手段５４は、ステップＳ３５０を終えると、ステップＳ３３０に戻り、次の補完済み検出データＢを選択する。また、重複度が基準値未満である場合（ステップＳ３４５にて「ＮＯ」の場合）、現在の補完済み検出データＢは対象物ＩＤを未付与のままとして、ステップＳ３３０に戻り、次の補完済み検出データＢの処理に移る。
【００９３】
現在の補完済み検出データＡの選択時に対象物ＩＤが未付与であった補完済み検出データのうち補完済み検出データＢとして選択されていないものがなくなった場合（ステップＳ３３５にて「ＮＯ」の場合）、対象物ＩＤの設定値をインクリメントし（ステップＳ３５５）、ステップＳ３１５に戻る。そして、対象物ＩＤが未付与で残っている補完済み検出データがあれば（ステップＳ３１５にて「ＹＥＳ」の場合）、その中から新たな補完済み検出データＡを選択し（ステップＳ３２０）、ステップＳ３２５〜Ｓ３５５の処理を行い、一方、対象物ＩＤが未付与である補完済み検出データが残っていなければ（ステップＳ３１５にて「ＮＯ」の場合）、重複検出判定処理を終了し、図８のステップＳ２３５の処理に進む。
【００９４】
キーポイント補完手段５４は重複検出判定処理Ｓ２３０後の補完済み検出データに、同じ対象物ＩＤを有するものが複数あれば、ステップＳ２３５にて重複検出ありと判断し、その場合、統合処理Ｓ２４０を行う。
【００９５】
統合処理Ｓ２４０について以下説明する。当該処理では、統合後の補完済み検出データ（統合済み検出データ）の各キーポイントの位置および状態値を、事前に定めた規則に従い、統合の対象となる複数の補完済み検出データから決定する。具体的には、対象物ＩＤが一致する補完済み検出データのペアに対して、以下に示すような位置および状態値の更新を、ペアが無くなるまで繰り返し行う。統合対象となる２つの補完済み検出データにおける同一部位の状態値の組み合わせについて以下の４通りが考えられる。
（１）補完で得られたキーポイントと検出されたキーポイント（状態値“２”と“１”）
（２）検出されたキーポイント同士（どちらも状態値“１”）
（３）補完で得られたキーポイント同士（どちらも状態値“２”）
（４）一方のキーポイントのみ位置が判明（一方が状態値“１”または“２”で他方が“０”）
【００９６】
本実施形態では、（１）に対しては、検出されたキーポイントの位置と状態値を優先して選択する。（２）および（３）に対しては、検出されたキーポイント数が多い補完済み検出データのものを優先し、検出されたキーポイント数が同数である場合は位置に関しては両者の平均とし、状態値は（２）の場合は“１”、（３）の場合は“２”とする。（４）に関しては、位置の判明しているキーポイントの位置と状態値を用いる。この規則に従って、対象物ＩＤが同じ複数の補完済み検出データを統合して、１つの統合済み検出データを生成する。ちなみに、図５（ｂ）の対象物ＩＤが００２と００３の補完済み検出データについて重複検出判定にて共通の対象物ＩＤとして００２が付与され、それらデータを上述の規則で統合することで、統合済み検出データとして図６（ｄ）の対象物ＩＤが００２の補完済み検出データが生成される。
【００９７】
ステップＳ２４０の統合処理ではステップＳ２２５で補完されたキーポイントをそのまま用いて統合後の部位データを定めたが、重複検出判定処理Ｓ２３０にて同一の対象物ＩＤを付与された検出データに対し改めて補完を行って統合後の部位データを定めてもよい。図１０は再度の補完を行って統合する構成の対象物認識装置１における認識段階での動作に関する概略のフロー図である。図１０において、図８と共通する処理には同一の符号を付しており、図１０の処理は、図８の統合処理Ｓ２４０に代えて、重複検出された検出データのまとまりに対するキーポイント再補完を伴う統合処理Ｓ４００である点で相違している。ここで、重複検出された検出データのまとまりとは、補完済み検出データのうち重複検出判定処理Ｓ２３０にて互いに同一の対象物ＩＤを付与されたものに対応する元の検出データを合成したものであり、合成検出データと呼ぶことにする。統合処理Ｓ４００では再補完として当該合成検出データに対して補完器を適用し、その出力を統合済み検出データとする。例えば、補完済み検出データに対して上述の規則を適用し得られた部位データから、検出されたキーポイント（状態値“１”）のみを残して残りは状態値“０”とすることで合成検出データを作成する。再度補完することで、検出されたキーポイントがより多い検出データで補完を行うことができるため、より確度の高いキーポイントの位置が得られる。また、図８および図９を用いて説明した処理、並びに図１０の処理では、同一人物が多重に検知されることなどを抑制できる。また、補完済み検出データを用いることにより、重複検出が判定でき、１つの対象物の部位データを複数の対象物のものと認識する誤りを減じることが可能になる
【００９８】
［変形例］
（１）上記実施形態では、人の全身を対象物とする例を示したが、対象物は、人の上半身などの人体の一部としてもよいし、車両や椅子などの人以外の物体としてもよい。
【００９９】
（２）上記実施形態では、対象物が計測される計測データが二次元画像であり、計測データを取得する計測部は撮影部２とし二次元画像を撮影するカメラである例を示したが、計測データ、計測部はこの例に限られない。例えば、計測データは三次元空間を計測したものであってもよい。三次元計測データの例として、距離画像センサを計測部に用いて得られる距離画像や、多視点カメラで撮影した画像から構築した三次元データを挙げることができる。また、計測データは、二次元画像の時系列（二次元計測データの時系列）、三次元計測データの時系列とすることもできる。
【０１００】
（３）上記実施形態では、両肩のキーポイントの中点を正規化後の原点に定めるという１通りのキーポイントの組を用いて正規化を行う例を示した。別の実施形態においては、他のキーポイントの組を用いた正規化を含めて複数通りの正規化を定義しておき、正規化の対象とする付与データごとに当該付与データにおいて利用可能なキーポイントの組に応じた正規化を選択する手法とすることもできる。このようにすることで、サンプルを無駄なく用いた学習を行うことが可能になり、補完器をより高精度化できる。また、このようにすることで、属性推定をし損ねる可能性を減じることができる。
【０１０１】
また、上記実施形態では原点を２つのキーポイントを用いて決める例としたが、原点は１つのキーポイント、または３つ以上のキーポイントを用いて定めてもよい。
【０１０２】
（４）上記実施形態では、部位データはキーポイントの位置を座標で表現する形態としたが、画像の形態で表現したものとすることもできる。例えば、キーポイントの座標位置のみ画素値が１となるようなバイナリ画像を各キーポイントに対して作成したものや、そのバイナリ画像に対してガウシアンフィルタを適用したものを用いてもよい。その場合、各キーポイントの座標は当該画像での最大値をとる点に対応する。また、劣化データ生成手段５１や補完器学習手段５２やキーポイント補完手段５４の入力と出力とでキーポイントの位置の表現形態を異ならせてもよく、入力では位置を座標で表し出力では画像で表す構成や、逆に入力を画像とし出力を座標で表す構成とすることができる。
【０１０３】
（５）補完器は、キーポイントの座標の推定値に加えて、座標推定値の信頼度を出力してもよい。この場合、キーポイント補完手段５４は、一定以上の信頼度を有するキーポイントのみ、補完済み検出データにおける状態値を“１”に設定することができる。例えば、キーポイント検出手段５３にて検出されたキーポイントが少なく座標の推定が難しいような場合には、誤った座標の推定がなされやすい。この点、得られた座標推定値の信頼度が低いキーポイントについては状態値を“１”に設定しないことで、補完済み検出データに基づく対象物認識の精度を向上させたり対象物認識の結果の精度指標を伝達することが可能となる。例えば、この補完済み検出データを用いることで、対象物属性推定手段５６は右側のキーポイントの組み合わせと左側のキーポイントの組み合わせのうちの状態値が“１”であるキーポイントが多い方の組み合わせを用いて属性を推定することができる。また、対象物領域検出手段５５は対象物領域の検出に用いたキーポイントのうちの状態値が“１”であるキーポイントの数に応じた精度指標を求めて出力し、対象物属性推定手段５６は対象物属性の推定に用いたキーポイントのうちの状態値が“１”であるキーポイントの数に応じた精度指標を求めて出力し、認識結果出力手段３１はこれらの精度指標を認識結果に含めて出力する。
【０１０４】
また、信頼度をバイナリで表現される状態値に変換せずに補完済み検出データと合わせてそのまま保持してもよく、その場合、キーポイントの組み合わせの選択指標や精度指標は信頼度の合計値などとなる。
【０１０５】
（６）上記実施形態では、補完器としてＶＡＥを用いたが、ニューラルネットワークやガウシアンプロセスなど連続値を出力可能な他のモデルを用いてもよい。また、事前にキーポイントの座標を離散化して、部位の位置の推定を各キーポイントはそれらのいずれかに属するクラス分類問題として定式化することにより、補完器として、アダブースト（AdaBoost）などの識別モデルを用いることもできる。
【０１０６】
（７）上記実施形態では、キーポイント補完手段５４での活性化関数としてＲｅＬＵ関数を用いたが、活性化関数としてｔａｎｈ関数、シグモイド（Sigmoid）関数などを用いてもよい。また、ＲｅｓＮｅｔ（residual network：残差ネットワーク）で用いられるようなショートカット構造を有する構成としてもよい。
【０１０７】
（８）上記実施形態では、キーポイント補完手段５４における統合処理にて重複度αの算出に、統合前の補完済み検出データについての外接矩形を用いたが、これに代えて、当該外接矩形を所定倍に拡大した領域を利用してもよく、統合前の補完済み検出データを人の部位データから人物領域への変換を学習した上述の変換器に入力して得られる領域を利用してもよい。
【０１０８】
（９）キーポイント補完手段５４において、対象物の部位データの統合を行う際に、検知器から得られる各部位データまたは各キーポイントのスコアや信頼度を用いてもよい。スコアや信頼度の高い部位データから優先的に統合したり、重複検出判定処理の際にスコアや信頼度の低い部位データは統合しないことで、誤統合の抑制が期待できる。ただし、その場合の検出器およびキーポイント検出手段５３は各キーポイントの位置に加えて当該キーポイントのスコアや信頼度を出力する。
【０１０９】
また、キーポイント補完手段５４による重複検出判定におけるソート順序は面積の降順としてもよい。
【０１１０】
（１０）図８のステップＳ２４０を図９のステップＳ３５０の直後に実行する、または図１０のステップＳ４００を図９のステップＳ３５０の直後に実行することで、重複度を逐次更新するようにしてもよい。
【０１１１】
（１１）上記実施形態では、補完器と検出器の学習に、共通の付与データを用いる例を示したが、互いに異なる付与データを用いてもよい。また、補完器のみに用いる付与データは学習用画像と無関係に作成したものでもよい（例えば、対象物の部位データ付き三次元モデルを二次元投影して作成）。また、補完器の学習段階と検出器の学習段階に時期差があってもよい。
【０１１２】
すなわち、検出器を用いた既存の対象物認識装置に新たな認識処理を加える変更が、検出器の再学習を行わずに、新たな認識処理とそれに必要な補完処理の付加だけで実現可能になる。
【０１１３】
（１２）上記実施形態では、記憶部４および画像処理部５を画像センター側に設ける例を示したが、これらをイベント会場側に設けてもよい。
【符号の説明】
【０１１４】
１  対象物認識装置、２  撮影部、３  通信部、４  記憶部、５  画像処理部、６  出力部、３０  撮影画像取得手段、３１  認識結果出力手段、４０  学習用データ記憶手段、４１  検出器記憶手段、４２  補完器記憶手段、５０  検出器学習手段、５１  劣化データ生成手段、５２  補完器学習手段、５３  キーポイント検出手段、５４  キーポイント補完手段、５５  対象物領域検出手段、５６  対象物属性推定手段。
【図１】
2020135551.tif 000003
【図２】
2020135551.tif 000004
【図３】
2020135551.tif 000005
【図４】
2020135551.tif 000006
【図５】
2020135551.tif 000007
【図６】
2020135551.tif 000008
【図７】
2020135551.tif 000009
【図８】
2020135551.tif 000010
【図９】
2020135551.tif 000011
【図１０】
2020135551.tif 000012