(57)【要約】【課題】  複数の時系列画像に映った対象の数を高精度に特定することが可能な対象数特定装置を提供する。【解決手段】  対象数特定装置１において、特定側検出部１３は、特定側識別器１１に記憶された複数の関節Ａを識別するための基準に基づき、各時系列画像Ｙに映った複数の関節Ａを検出する。特定側計側部１４は、各時系列画像Ｙに映った複数の関節Ａの座標及び深度を計測する。識別部１５は、計測された各関節Ａの座標及び深度の複数の時系列画像Ｙにおける変位に基づき、複数の関節Ａの中から、一の対象に属する関節群Ｂを識別する。識別部１５は、更に、特定側識別器１１に記憶された対象Ｚの基本姿勢に関する基準に基づき、各時系列画像Ｙに映った対象Ｚの数の推定を行い、推定された対象Ｚの数と、検出された複数の関節Ａの種類ごとの個数と、に基づき、各時系列画像Ｙに映った対象Ｚの数の特定を行う。【選択図】図６
2019185421.tif 000002
【特許請求の範囲】
【請求項１】
一又は複数の対象が映った複数の時系列画像を取得する推定側取得部と、
対象の複数の関節を識別するための基準を記憶した識別器と、
前記複数の関節を識別するための基準に基づき、各時系列画像に映った複数の関節を検出する推定側検出部と、
各時系列画像に映った前記複数の関節の座標及び深度を計測する推定側計測部と、
前記計測された各関節の座標及び深度の前記複数の時系列画像における変位に基づき、前記複数の関節の中から、一の対象に属する関節群を識別する識別部と、
を備えた対象数特定装置であって、
前記識別器は、対象の基本姿勢に関する基準を更に記憶しており、
前記識別部は、前記基本姿勢に関する基準に基づき、各時系列画像に映った対象の数の推定を行い、前記推定された対象の数と、前記検出された複数の関節の種類ごとの個数と、に基づき、各時系列画像に映った対象の数の特定を行うことを特徴とする対象数特定装置。
【請求項２】
前記識別器は、対象の複数の関節の可動域及び各関節間の距離に関する基準を更に記憶しており、
前記識別部は、前記対象の数の特定に当たり、前記数が推定された対象を、メイン対象と、それ以外のサブ対象と、に分類し、前記複数の関節の可動域及び各関節間の距離に関する基準を考慮して、前記サブ対象を前記いずれかのメイン対象に連結し、
前記識別部は、前記検出された関節の数が多い順に前記特定された数だけ、前記メイン対象に分類することを特徴とする請求項１に記載の対象数特定装置。
【請求項３】
前記識別器は、対象の複数の関節の可動域に関する基準を更に記憶しており、
前記識別部は、前記対象の数の特定に当たり、前記推定された数の対象を、メイン対象と、それ以外のサブ対象と、に分類し、前記複数の関節の可動域に関する基準を考慮して、前記サブ対象を前記いずれかのメイン対象に連結し、
前記識別部は、前記基本姿勢に関する基準に該当するものを前記メイン対象に分類することを特徴とする請求項１に記載の対象数特定装置。
【請求項４】
対象の複数の関節を識別するための基準が記憶されたコンピュータにインストールされるプログラムであって、
一又は複数の対象が映った複数の時系列画像を取得するステップと、
前記複数の関節を識別するための基準に基づき、各時系列画像に映った複数の関節を検出するステップと、
各時系列画像に映った前記複数の関節の座標及び深度を計測するステップと、
前記計測された各関節の座標及び深度の前記複数の時系列画像における変位に基づき、前記複数の関節の中から、一の対象に属する関節群を識別するステップと、
前記関節群の全体としての座標及び深度の前記複数の時系列画像における変位に基づき、前記一の対象の行動を推定するステップと、
を備えた対象数特定プログラムであって、
前記コンピュータは、対象の基本姿勢に関する基準を更に記憶しており、
前記識別するステップでは、前記基本姿勢に関する基準に基づき、各時系列画像に映った対象の数の推定を行い、前記推定された対象の数と、前記検出された複数の関節の種類ごとの個数と、に基づき、各時系列画像に映った対象の数の特定を行うことを特徴とする対象数特定プログラム。
【請求項５】
前記コンピュータは、対象の複数の関節の可動域及び各関節間の距離に関する基準を更に記憶しており、
前記識別するステップでは、前記対象の数の特定に当たり、前記数が推定された対象を、メイン対象と、それ以外のサブ対象と、に分類し、前記複数の関節の可動域及び各関節間の距離に関する基準を考慮して、前記サブ対象を前記いずれかのメイン対象に連結し、
前記識別するステップでは、前記検出された関節の数が多い順に前記特定された数だけ、前記メイン対象に分類することを特徴とする請求項４に記載の対象数特定プログラム。
【請求項６】
前記コンピュータは、対象の複数の関節の可動域に関する基準を更に記憶しており、
前記識別するステップでは、前記対象の数の特定に当たり、前記推定された数の対象を、メイン対象と、それ以外のサブ対象と、に分類し、前記複数の関節の可動域に関する基準を考慮して、前記サブ対象を前記いずれかのメイン対象に連結し、
前記識別するステップでは、前記基本姿勢に関する基準に該当するものを前記メイン対象に分類することを特徴とする請求項４に記載の対象数特定プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、複数の時系列画像に映った対象の数を特定するための対象数特定装置に関する。
【背景技術】
【０００２】
従来より、時系列データに映った人間の関節等から姿勢を検知し、当該姿勢の変化に応じて行動を認識する装置が知られている。（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１７−２２８１００号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、上記特許文献１では、時系列データに一の対象が映っている場合を想定しており、複数の対象が映っている場合に、どのようにして対象の数を特定するかが開示されていない。
【０００５】
そこで、本発明は、複数の時系列画像に映った対象の数を高精度に特定することが可能な対象数特定装置を提供することを目的としている。
【課題を解決するための手段】
【０００６】
本発明は、一又は複数の対象が映った複数の時系列画像を取得する特定側取得部と、対象の複数の関節を識別するための基準を記憶した識別器と、前記複数の関節を識別するための基準に基づき、各時系列画像に映った複数の関節を検出する特定側検出部と、各時系列画像に映った前記複数の関節の座標及び深度を計測する特定側計測部と、前記計測された各関節の座標及び深度の前記複数の時系列画像における変位に基づき、前記複数の関節の中から、一の対象に属する関節群を識別する識別部と、を備えた対象数特定装置であって、前記識別器は、対象の基本姿勢に関する基準を更に記憶しており、前記識別部は、前記基本姿勢に関する基準に基づき、各時系列画像に映った対象の数の推定を行い、前記推定された対象の数と、前記検出された複数の関節の種類ごとの個数と、に基づき、各時系列画像に映った対象の数の特定を行うことを特徴とする対象数特定装置を提供している。
【０００７】
このような構成によれば、時系列画像Ｙに映った対象Ｚの数を正確に特定することが可能となる。
【０００８】
また、前記識別器は、対象の複数の関節の可動域及び各関節間の距離に関する基準を更に記憶しており、前記識別部は、前記対象の数の特定に当たり、前記数が推定された対象を、メイン対象と、それ以外のサブ対象と、に分類し、前記複数の関節の可動域及び各関節間の距離に関する基準を考慮して、前記サブ対象を前記いずれかのメイン対象に連結し、前記識別部は、前記検出された関節の数が多い順に前記特定された数だけ、前記メイン対象に分類することが好ましい。
【０００９】
このような構成によれば、時系列画像Ｙに映った対象Ｚの数をより正確に特定することが可能となる。
【００１０】
また、前記識別器は、対象の複数の関節の可動域に関する基準を更に記憶しており、前記識別部は、前記対象の数の特定に当たり、前記推定された数の対象を、メイン対象と、それ以外のサブ対象と、に分類し、前記複数の関節の可動域に関する基準を考慮して、前記サブ対象を前記いずれかのメイン対象に連結し、前記識別部は、前記基本姿勢に関する基準に該当するものを前記メイン対象に分類することが好ましい。
【００１１】
このような構成によれば、時系列画像Ｙに映った対象Ｚの数をより正確に特定することが可能となる。
【００１２】
また、本発明の別の観点によれば、対象の複数の関節を識別するための基準が記憶されたコンピュータにインストールされるプログラムであって、一又は複数の対象が映った複数の時系列画像を取得するステップと、前記複数の関節を識別するための基準に基づき、各時系列画像に映った複数の関節を検出するステップと、各時系列画像に映った前記複数の関節の座標及び深度を計測するステップと、前記計測された各関節の座標及び深度の前記複数の時系列画像における変位に基づき、前記複数の関節の中から、一の対象に属する関節群を識別するステップと、前記関節群の全体としての座標及び深度の前記複数の時系列画像における変位に基づき、前記一の対象の行動を推定するステップと、を備えた対象数特定プログラムであって、前記コンピュータは、対象の基本姿勢に関する基準を更に記憶しており、前記識別するステップでは、前記基本姿勢に関する基準に基づき、各時系列画像に映った対象の数の推定を行い、前記推定された対象の数と、前記検出された複数の関節の種類ごとの個数と、に基づき、各時系列画像に映った対象の数の特定を行うことを特徴とする対象数特定プログラムを提供している。
【００１３】
また、前記コンピュータは、対象の複数の関節の可動域及び各関節間の距離に関する基準を更に記憶しており、前記識別するステップでは、前記対象の数の特定に当たり、前記数が推定された対象を、メイン対象と、それ以外のサブ対象と、に分類し、前記複数の関節の可動域及び各関節間の距離に関する基準を考慮して、前記サブ対象を前記いずれかのメイン対象に連結し、前記識別するステップでは、前記検出された関節の数が多い順に前記特定された数だけ、前記メイン対象に分類することが好ましい。
【００１４】
また、前記コンピュータは、対象の複数の関節の可動域に関する基準を更に記憶しており、前記識別するステップでは、前記対象の数の特定に当たり、前記推定された数の対象を、メイン対象と、それ以外のサブ対象と、に分類し、前記複数の関節の可動域に関する基準を考慮して、前記サブ対象を前記いずれかのメイン対象に連結し、前記識別するステップでは、前記基本姿勢に関する基準に該当するものを前記メイン対象に分類することが好ましい。
【発明の効果】
【００１５】
本発明の対象数特定装置によれば、複数の時系列画像に映った対象の数を高精度に特定することが可能となる。
【図面の簡単な説明】
【００１６】
【図１】本発明の実施の形態による対象数特定装置の使用状態の説明図
【図２】本発明の実施の形態による学習装置及び対象数特定装置のブロック図
【図３】本発明の実施の形態による関節群の説明図
【図４】本発明の実施の形態による対象数特定の説明図
【図５】本発明の実施の形態による対象数特定装置による行動推定のフローチャート
【図６】本発明の実施の形態による対象数特定のフローチャート
【図７】本発明の実施の形態による行動学習のフローチャート
【発明を実施するための形態】
【００１７】
以下、本発明の実施の形態による対象数特定装置１について、図１−図７を参照して説明する。
【００１８】
対象数特定装置１は、図１に示すように、撮影手段Ｘによって撮影された複数の時系列画像Ｙ（動画を構成する各フレーム等）に映った一又は複数の対象Ｚの数を特定するためのものである（本実施の形態では、理解容易のため、対象Ｚを骨格だけで簡易的に表示している）。本実施の形態では、対象Ｚの数を特定した後に、更に、行動の推定を行うが、行動の推定に当たっては、学習装置２（図２参照）によって学習された情報を参照する。
【００１９】
まず、学習装置２の構成について説明する。
【００２０】
学習装置２は、図２に示すように、学習側識別器２１と、学習側取得部２２と、学習側検出部２３と、正解行動取得部２４と、学習側計側部２５と、第１の学習部２６と、第２の学習部２７と、を備えている。
【００２１】
学習側識別器２１は、対象Ｚの複数の関節Ａ（本実施の形態では、首、右肘、左肘、腰、右膝、左膝）を識別するためのものであり、関節Ａごとに、それぞれを識別するための形状、方向、サイズ等の基準が記憶されている。また、学習側識別器２１には、対象Ｚの様々なバリエーション（“歩行”、“直立”等）の “基本姿勢 “、”各関節Ａの可動域“、一の対象Ｚにおける”各関節Ａ間の距離“に関する基準も記憶されている。
【００２２】
学習側取得部２２は、正解行動が既知の映像、すなわち、複数の時系列画像Ｙを取得する。この複数の時系列画像Ｙは、対象数特定装置１のユーザにより入力される。
【００２３】
学習側検出部２３は、各時系列画像Ｙに映った複数の関節Ａを検出する。具体的には、ＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）を用いてモデリングされた推論モデルにより、学習側識別器２１が示す基準に該当する部位を検出する。検出された各関節Ａ（図１では、Ａ１−Ａ１７）は、表示部（図示せず）上に、選択可能に表示される。
【００２４】
正解行動取得部２４は、複数の時系列画像Ｙに映った対象Ｚの対応する正解行動を、学習側検出部２３により検出された各関節Ａについて取得する。この正解行動は、対象数特定装置１のユーザにより入力される。具体的には、ユーザは、学習側取得部２２において対象Ｚが転倒した際の複数の時系列画像Ｙを入力した場合には、正解行動取得部２４には、表示部上で各関節Ａを選択し、正解行動“転倒”を入力することとなる。
【００２５】
また、本実施の形態では、時系列画像Ｙに複数の対象Ｚが映っている場合には、各対象Ｚに対して正解行動を入力する。この場合、同一の対象Ｚに含まれる関節Ａを特定した上で、各関節Ａに対して正解行動を入力する。例えば、図１の対象Ｚ１に関しては、関節Ａ１−Ａ６を特定した上で、それぞれに対し、正解行動“歩行”を入力する。また、図１の対象Ｚ２に関しては、関節Ａ７−Ａ１１を特定した上で、正解行動“転倒”を入力する。また、図１の対象Ｚ３に関しては、関節Ａ１２−Ａ１７を特定した上で、正解行動“しゃがむ”を入力する。更に、対象Ｚ３に関しては、しゃがんでいるだけでなく、バランスも崩しているので、”各関節Ａ１２−Ａ１７に対し、正解行動“バランスを崩す”を更に入力する。
【００２６】
学習側計側部２５は、学習側検出部２３により検出された複数の関節Ａの座標及び深度を計測する。この計測は、各時系列画像Ｙに対して行われる。
【００２７】
例えば、時刻ｔ１の時系列画像Ｙにおける関節Ａ１の座標及び深度は、（ＸＡ１（ｔ１）、ＹＡ１（ｔ１）、ＺＡ１（ｔ１））のように表すことができる。なお、深度に関しては、必ずしも座標で表す必要はなく、複数の時系列画像Ｙにおける相対的な深度で表してもよい。なお、深度は、既知の方法により測定してもよいが、正解行動取得部２４において各関節Ａの深度を入力しておき、その入力された深度をそのまま用いてもよい。本発明の“学習側計側部による深度の計測”には、このように、入力された深度を用いる場合も含まれる。この場合には、後述する第１の学習部２６は、例えば、「この関節のサイズ、角度等であれば、○○ｍの距離である」と学習していくことになる。
【００２８】
第１の学習部２６は、各対象Ｚに属する複数の関節Ａの全体としての座標及び深度の複数の時系列画像Ｙにおける変位を学習する。具体的には、正解行動取得部２４において特定された各対象Ｚに属する複数の関節Ａを関節群Ｂ（図３参照）と識別した上で、当該関節群Ｂ全体としての座標及び深度の複数の時系列画像Ｙにおける変位を学習する。
【００２９】
関節群Ｂの全体としての座標及び深度の変位としては、検出された全ての関節Ａの座標の中心点の座標及び深度の変位や、体の動きと密接に関連した重心の座標及び深度の変位を用いることが考えられる。また、これらの両方を用いたり、これらに加えて各関節Ａの座標及び深度の変位も考慮して、より精度を高めてもよい。なお、重心の座標及び深度は、各関節Ａの座標及び深度と、各関節Ａ（筋肉、脂肪等を含む）の重量と、を考慮して算出することが考えられる。この場合、各関節Ａの重量は、学習側識別器２１等に記憶させておけばよい。
【００３０】
第２の学習部２７は、第１の学習部２６で学習された関節群Ｂの全体としての座標及び深度の複数の時系列画像Ｙにおける変位を、正解行動取得部２４で入力された正解行動と対応付けて学習する。例えば、正解行動“前方への転倒”の場合、関節群Ｂの全体としての座標の変位は、“第１の距離だけ下方へ進む”、関節群Ｂの全体としての深度の変位は、“第２の距離だけ前方へ進む”というように学習することになる。
【００３１】
続いて、対象数特定装置１の構成について説明する。
【００３２】
対象数特定装置１は、図２に示すように、特定側識別器１１と、特定側取得部１２と、特定側検出部１３と、特定側計側部１４と、識別部１５と、推定部１６と、を備えている。
【００３３】
特定側識別器１１は、対象Ｚの複数の関節Ａ（肘、肩、腰、膝等）を識別するためのものであり、関節Ａごとに、それぞれを識別するための形状、方向、サイズ等の基準が記憶されている。また、学習側識別器２１には、対象Ｚの様々なバリエーション（“歩行”、“直立”等）の“基本姿勢 “、”各関節Ａの可動域“、一の対象Ｚにおける”各関節Ａ間の距離“に関する基準も設けられている。本実施の形態では、学習側識別器２１と同一のものを用いるものとする。
【００３４】
特定側取得部１２は、撮影手段Ｘに接続されており、撮影手段Ｘにより撮影された映像、すなわち、複数の時系列画像Ｙを取得する。本実施の形態では、複数の時系列画像Ｙをリアルタイムで取得するものとするが、対象数特定装置１の使用目的によっては、後から取得するようにしてもよい。
【００３５】
特定側検出部１３は、各時系列画像Ｙに映った複数の関節Ａを検出する。具体的には、ＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）を用いてモデリングされた推論モデルにより、特定側識別器１１に記憶された関節Ａを識別するための基準に該当する部位を検出する。特定側検出部１３が関節Ａを検出した場合には、時系列画像Ｙに一又は複数の対象Ｚが映っていると考えることができる。
【００３６】
特定側計側部１４は、特定側検出部１３により検出された複数の関節Ａの座標及び深度を計測する。この計測は、各時系列画像Ｙに対して行われる。
【００３７】
例えば、時刻ｔ１の時系列画像Ｙにおける関節Ａ１の座標及び深度は、（ＸＡ１（ｔ１）、ＹＡ１（ｔ１）、ＺＡ１（ｔ１））のように表すことができる。なお、深度に関しては、必ずしも座標で表す必要はなく、複数の時系列画像Ｙにおける相対的な深度で表してもよい。なお、深度は、既知の方法により測定してもよいが、第１の学習部２６によって深度の学習が行われている場合には、第１の学習部２６を参照して深度を特定してもよい。本発明の“特定側計側部による深度の計測”には、このように、第１の学習部２６で学習された深度を用いる場合も含まれる。
【００３８】
識別部１５は、第１の学習部２６を参照して、特定側計側部１４により計測された各関節Ａの座標及び深度の複数の時系列画像Ｙにおける変位に基づき、複数の関節Ａの中から、各対象Ｚに属する関節群Ｂを識別する。図１及び図３では、関節Ａ１−Ａ６が対象Ｚ１に属する関節群Ｂ１であり、関節Ａ７−Ａ１１が対象Ｚ２に属する関節群Ｂ２であり、関節Ａ１２−Ａ１７が対象Ｚ３に属する関節群Ｂ３であると識別することになる。
【００３９】
ここで、本実施の形態では、各対象Ｚに属する複数の関節群Ａ（関節群Ｂ）の識別に当たり、まず、対象Ｚの数の特定を行う。対象Ｚの数の特定に当たっては、特定側識別器１１に記憶された“基本姿勢”に関する基準に基づき、（１）対象Ｚの数の推定を行い、続いて、複数の関節Ａの種類ごとの個数に基づき、（２）対象Ｚの数の特定を行う。
【００４０】
（１）対象Ｚの数の推定
【００４１】
対象Ｚの数の推定では、特定側識別器１１に記憶された“基本姿勢”に関する基準に該当する複数の関節Ａを推定する。図１の例では、特定側検出部１３により、関節Ａ１−Ａ１７が検出されることになるが、このうち、関節Ａ１−Ａ６、及び、関節Ａ７−１１に関しては、“基本姿勢”に含まれる関節Ａであると判断され、２つの対象Ｚが存在すると推定される。また、関節Ａ１２−１４に関しては、“基本姿勢”の一部であると判断され、１つの対象Ｚが存在すると推定される。
【００４２】
一方、イレギュラーな位置にある関節Ａ１５−１７に関しては、“基本姿勢”の一部であるとは判断されず、それぞれが個別の対象Ｚと推定されることになる。
【００４３】
従って、この場合、図４に示すように、“関節Ａ１−Ａ６”、“関節Ａ７−１１”、“Ａ１２−Ａ１４”、“関節Ａ１５”、“関節Ａ１６”、“関節Ａ１７”の合計６つの対象Ｚ１’−Ｚ６’が存在するものと推定されることになる。
【００４４】
（２）対象Ｚの数の特定
【００４５】
続いて、推定された対象Ｚの数と、複数の関節Ａの種類ごとの個数と、に基づき、対象Ｚの数の特定を行う。
【００４６】
例えば、図４では、対象Ｚ１’には、６つの関節Ａ（“頭”、“右肘”、“左肘”、“腰”、“右膝”、“左膝”）が、対象Ｚ２’には、５つの関節Ａ（“頭”、“右肘”、“左肘”、“腰”、“左膝”）が、対象Ｚ３’には、３つの関節Ａ（“頭”、“右肘”、“左肘”）が、対象Ｚ４’には、１つの関節Ａ（“腰”）が、対象Ｚ５’には、１つの関節Ａ（“右膝”）が、対象Ｚ６’には、１つの関節Ａ（“左膝”）が含まれている。
【００４７】
この場合、それぞれ３つずつ存在する“頭”、“右肘”、“左肘”、“腰”、“左膝”の関節Ａが最も多く存在する種類の関節Ａとなるので、最終的には、全部で３つの対象Ｚが存在すると特定されることになる。
【００４８】
（３）各対象Ｚに属する複数の関節群Ａ（関節群Ｂ）の識別
【００４９】
各対象Ｚに属する複数の関節群Ａ（関節群Ｂ）の識別では、（Ａ）対象Ｚ’の“メイン対象”と“サブ対象”への分類、（Ｂ）“サブ対象”の“メイン対象”への連結、を行う。
【００５０】
（Ａ）対象Ｚ’の“メイン対象”と“サブ対象”への分類
【００５１】
ここでは、まず、対象Ｚ１’−Ｚ６’を、“メイン対象”と“サブ対象”に分類する。
【００５２】
図４に示す例では、「（２）対象Ｚの数の特定」において、全部で３つの対象Ｚが存在すると特定されているので、検出された関節Ａの数が多い順に３つの対象Ｚ１’、Ｚ２’、Ｚ３’を“メイン対象”、その他の対象Ｚ４’、Ｚ５’、Ｚ６’を“サブ対象”に分類する。
【００５３】
（Ｂ）“サブ対象”の“メイン対象”への連結
【００５４】
続いて、特定側識別器１１に記憶された“各関節Ａの可動域”及び”各関節Ａ間の距離“に関する基準を考慮して、“サブ対象”Ｚ４’、Ｚ５’、Ｚ６’を、いずれかの“メイン対象”Ｚ１’、Ｚ２’、Ｚ３’に連結可能がどうかを判断する。
【００５５】
図４では、“サブ対象”Ｚ４’（“腰”）、Ｚ５（“右膝”）’、Ｚ６’（“左膝”）は、“メイン対象”Ｚ３’と連結した場合に、“各関節Ａの可動域”及び“各関節Ａ間の距離”に不自然なところがないため、“メイン対象”Ｚ３’に連結可能と判断され、これらを連結し、各対象Ｚ１−Ｚ３に属する複数の関節Ａ（関節群Ｂ）を決定することになる。
【００５６】
なお、図１に示すように、対象Ｚ２に関しては、対象Ｚ３に隠れて、“右膝”のデータが欠損していることになるが、識別部１５は、特定側識別器１１に記憶された“基本姿勢”、“各関節Ａの可動域”、“各関節Ａ間の距離”に関する基準を考慮して、その他の関節Ａ７−Ａ１１の位置から推定される位置に“右膝”が存在するものとして座標を与え、前後の時系列画像Ｙで“左膝”を検出した場合に連続動作として扱うことになる。
【００５７】
図２に戻り、推定部１６は、第２の学習部２７を参照して、識別部１５で識別された関節群Ｂの全体としての座標及び深度の複数の時系列画像Ｙにおける変位に基づき、対象Ｚの行動を推定する。具体的には、第２の学習部２７を参照して、様々な行動の選択肢（「転倒」、「歩行」、「走行」、「投球」等）の中から、確率の高い一又は複数の行動が選択されることになる。すなわち、対象数特定装置１では、各対象Ｚの関節群Ｂ全体としての座標及び深度を、ＬＳＴＭ（Ｌｏｎｇ  Ｓｈｏｒｔ  Ｔｅｒｍ  Ｍｅｍｏｒｙ）を用いた時系列の推論モデルにインプットし、「ｗａｌｋｉｎｇ」「ｓｔａｎｄｉｎｇ」といった行動識別ラベルをアウトプットすることになる。
【００５８】
ここで、対象Ｚの行動というものは、各関節Ａの時系列な変位によってある程度は推定できるが、各関節Ａの時系列な変位を個別に追うだけでは、高精度に行動を推定することは難しい。そこで、本実施の形態では、一の対象Ｚに属する関節群Ｂの全体としての座標及び深度の複数の時系列画像Ｙにおける変位に基づき、対象Ｚの行動を推定することで、高精度な行動推定を実現している。
【００５９】
続いて、図５及び図６のフローチャートを用いて、対象数特定装置１による“各対象Ｚに属する関節群Ｂの識別”及び“各対象Ｚの行動の推定”について説明する。
【００６０】
まず、特定側取得部１２が複数の時系列画像Ｙを取得すると（Ｓ１）、特定側検出部１３により、各時系列画像Ｙに映った複数の関節Ａが検出される（Ｓ２）。
【００６１】
続いて、特定側計側部１４により、Ｓ２で検出された複数の関節Ａの座標及び深度が計測される（Ｓ３）。この計測は、各時系列画像Ｙに対して行われる。
【００６２】
続いて、識別部１５により、Ｓ３で計測された各関節Ａの座標及び深度の複数の時系列画像Ｙにおける変位に基づき、複数の関節Ａの中から、各対象Ｚに属する関節群Ｂが識別される（Ｓ４）。
【００６３】
この“各対象Ｚに属する関節群Ｂの識別”に関しては、図６のフローチャートに示すように、まず、学習側識別器２１に記憶された“基本姿勢”に関する基準に基づき、対象Ｚの数の推定を行う（Ｓ４１）。
【００６４】
図４に示す例では、“関節Ａ１−Ａ６”、“関節Ａ７−１１”、“Ａ１２−Ａ１４”、“関節Ａ１５”、“関節Ａ１６”、“関節Ａ１７”の合計６つの対象Ｚ１’−Ｚ６’が存在すると推定されることになる。
【００６５】
続いて、複数の関節Ａの種類ごとの個数に基づき、対象Ｚの数の特定を行う（Ｓ４２）。
【００６６】
図４に示す例では、それぞれ３つずつ存在する“頭”、“右肘”、“左肘”、“腰”、“左膝”の関節Ａが最も多く存在する種類の関節Ａとなるので、全部で３つの対象Ｚが存在すると特定されることになる。
【００６７】
続いて、対象Ｚ１’−Ｚ６’を、“メイン対象”と“サブ対象”に分類する（Ｓ４３）。
【００６８】
図４に示す例では、含まれる関節Ａの数が多い上位３つの対象Ｚ１’、Ｚ２’、Ｚ３’を“メイン対象”、その他の対象Ｚ４’、Ｚ５’、Ｚ６’を“サブ対象”に分類する。
【００６９】
続いて、特定側識別器１１に記憶された“各関節Ａの可動域”に関する基準を考慮して、“サブ対象”Ｚ４’、Ｚ５’、Ｚ６’を、いずれかの“メイン対象”Ｚ１’、Ｚ２’、Ｚ３’に連結可能がどうかを判断する（Ｓ４４）。
【００７０】
連結可能と判断された場合には（Ｓ４４：ＹＥＳ）、これらを連結し（Ｓ４５）、各対象Ｚに属する複数の関節Ａ（関節群Ｂ）を決定することになる（Ｓ４６）。
【００７１】
図４に示す例では、サブ対象Ｚ４’（“腰”）、Ｚ５（“右膝”）’、Ｚ６’（“左膝”）は、全て、メイン対象Ｚ３’に連結可能と判断され、連結されることになる。
【００７２】
そして、図５に戻り、最後に、推定部１６により、Ｓ４で識別された関節群Ｂの全体としての座標及び深度の複数の時系列画像Ｙにおける変位に基づき、対象Ｚの行動を推定する（Ｓ５）。
【００７３】
このような構成を有する対象数特定装置１は、例えば、介護施設において、被介護者がいる室内を常時撮影し、撮影された映像に基づき被介護者（対象Ｚ）が転倒したこと等を推定した場合に、その旨を介護者へ報知する等の用途で用いることができる。
【００７４】
なお、上記した対象数特定装置１による“各対象Ｚの行動の推定”には、学習装置２による“各対象Ｚの行動の学習”が前提となるので、図７のフローチャートを用いて、学習装置２による“各対象Ｚの行動の学習”について説明する。
【００７５】
まず、学習側取得部２２が複数の時系列画像Ｙを取得すると（Ｓ２１）、学習側検出部２３により、各時系列画像Ｙに映った複数の関節Ａが検出される（Ｓ２２）。
【００７６】
続いて、正解行動取得部２４により、学習側検出部２３により検出された各関節Ａに対して正解行動が取得されると（Ｓ２３）、学習側計側部２５により、Ｓ２２で検出された複数の関節Ａの座標及び深度が計測される（Ｓ２４）。この計測は、各時系列画像Ｙに対して行われる。
【００７７】
続いて、第１の学習部２６により、各対象Ｚに属する複数の関節Ａの全体としての座標及び深度の複数の時系列画像Ｙにおける変位が学習される（Ｓ２５）。
【００７８】
そして、最後に、第２の学習部２７により、第１の学習部２６で学習された関節群Ｂの全体としての座標及び深度の複数の時系列画像Ｙにおける変位を、正解行動取得部２４で入力された正解行動と対応付けて学習する（Ｓ２６）。
【００７９】
以上説明したように、本実施の形態による対象数特定装置１では、“基本姿勢”に関する基準に基づき、各時系列画像Ｙに映った対象Ｚの数の推定を行い、推定された対象Ｚの数と、検出された複数の関節Ａの種類ごとの個数と、に基づき、時系列画像Ｙに映った対象Ｚの数の特定を行う。
【００８０】
このような構成によれば、時系列画像Ｙに映った対象Ｚの数を正確に特定することが可能となる。
【００８１】
また、本実施の形態による対象数特定装置１では、対象Ｚの数の特定に当たり、数が推定された対象Ｚ’を、“メイン対象”と、それ以外の“サブ対象”と、に分類し、“複数の関節Ａの可動域” 及び”各関節Ａ間の距離“に関する基準を考慮して、サブ対象を前記いずれかのメイン対象に連結し、その際、検出された関節Ａの数が多い順に、特定された数だけ、“メイン対象”に分類する。
【００８２】
このような構成によれば、時系列画像Ｙに映った対象Ｚの数をより正確に特定することが可能となる。
【００８３】
尚、本発明の対象数特定装置は、上述した実施の形態に限定されず、特許請求の範囲に記載した範囲で種々の変形や改良が可能である。
【００８４】
例えば、上記実施の形態では、対象数の特定の後に行動推定を行ったが、行動推定以外の目的のために対象数を特定してもよく、また、対象数を特定すること自体が目的であってもよい。
【００８５】
また、上記実施の形態では、対象Ｚの数の特定において、検出された関節Ａの数が多い順に、特定された数（３つ）だけ、“メイン対象”に分類したが、“基本姿勢”又は“基本姿勢”の一部であると判断された関節Ａを含む対象Ｚ’を“メイン対象”に分類する方法も考えられる。
【００８６】
また、上記実施の形態では、対象Ｚとして人間を例に説明したが、動物やロボットの行動を推定するために使用することも可能である。また、上記実施の形態では、複数の関節Ａとして、首、右肘、左肘、腰、右膝、左膝を例に説明を行ったが、その他の関節や、より多くの関節Ａを用いてもよいことは言うまでもない。
【００８７】
また、本発明は、対象数特定装置１が行う処理に相当するプログラムや、当該プログラムを記憶した記録媒体にも応用可能である。記録媒体の場合、コンピュータ等に当該プログラムがインストールされることとなる。ここで、当該プログラムを記憶した記録媒体は、非一過性の記録媒体であっても良い。非一過性の記録媒体としては、ＣＤ−ＲＯＭ等が考えられるが、それに限定されるものではない。
【符号の説明】
【００８８】
１      対象数特定装置
２      学習装置
１１    特定側識別器
１２    特定側取得部
１３    特定側検出部
１４    特定側計側部
１５    識別部
１６    推定部
２１    学習側識別器
２２    学習側取得部
２３    学習側検出部
２４    正解行動取得部
２５    学習側計側部
２６    第１の学習部
２７    第２の学習部
Ａ      関節
Ｂ      関節群
Ｘ      撮影手段
Ｙ      時系列画像
Ｚ      対象
【図１】
2019185421.tif 000003
【図２】
2019185421.tif 000004
【図３】
2019185421.tif 000005
【図４】
2019185421.tif 000006
【図５】
2019185421.tif 000007
【図６】
2019185421.tif 000008
【図７】
2019185421.tif 000009
【手続補正書】
【提出日】平成31年4月4日(2019.4.4)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
一又は複数の対象が映った複数の時系列画像を取得する推定側取得部と、
対象の複数の関節を識別するための基準を記憶した識別器と、
前記複数の関節を識別するための基準に基づき、各時系列画像に映った複数の関節を検出する推定側検出部と、
各時系列画像に映った前記複数の関節の座標及び深度を計測する推定側計測部と、
前記計測された各関節の座標及び深度の前記複数の時系列画像における変位に基づき、前記複数の関節の中から、一の対象に属する関節群を識別する識別部と、
を備えた対象数特定装置であって、
前記識別器は、対象の基本姿勢に関する基準を更に記憶しており、
前記識別部は、前記基本姿勢に関する基準に基づき、各時系列画像に映った対象の数の推定を行い、前記推定された対象の数と、前記検出された複数の関節の種類ごとの個数と、に基づき、各時系列画像に映った対象の数の特定を行うことを特徴とする対象数特定装置。
【請求項２】
前記識別器は、対象の複数の関節の可動域及び各関節間の距離に関する基準を更に記憶しており、
前記識別部は、前記対象の数の特定に当たり、前記数が推定された対象を、メイン対象と、それ以外のサブ対象と、に分類し、前記複数の関節の可動域及び各関節間の距離に関する基準を考慮して、前記サブ対象を前記分類されたメイン対象のうちのいずれかに連結し、前記分類に当たっては、前記数が推定された対象のうち前記特定された数だけ、前記検出された関節の数が多い順に、前記メイン対象に分類することを特徴とする請求項１に記載の対象数特定装置。
【請求項３】
前記識別器は、対象の複数の関節の可動域に関する基準を更に記憶しており、
前記識別部は、前記対象の数の特定に当たり、前記推定された数の対象を、メイン対象と、それ以外のサブ対象と、に分類し、前記複数の関節の可動域に関する基準を考慮して、前記サブ対象を前記分類されたメイン対象のうちのいずれかに連結し、前記分類に当たっては、前記基本姿勢に関する基準に該当するものを前記メイン対象に分類することを特徴とする請求項１に記載の対象数特定装置。
【請求項４】
対象の複数の関節を識別するための基準が記憶されたコンピュータにインストールされるプログラムであって、
一又は複数の対象が映った複数の時系列画像を取得するステップと、
前記複数の関節を識別するための基準に基づき、各時系列画像に映った複数の関節を検出するステップと、
各時系列画像に映った前記複数の関節の座標及び深度を計測するステップと、
前記計測された各関節の座標及び深度の前記複数の時系列画像における変位に基づき、前記複数の関節の中から、一の対象に属する関節群を識別するステップと、
前記関節群の全体としての座標及び深度の前記複数の時系列画像における変位に基づき、前記一の対象の行動を推定するステップと、
を備えた対象数特定プログラムであって、
前記コンピュータは、対象の基本姿勢に関する基準を更に記憶しており、
前記識別するステップでは、前記基本姿勢に関する基準に基づき、各時系列画像に映った対象の数の推定を行い、前記推定された対象の数と、前記検出された複数の関節の種類ごとの個数と、に基づき、各時系列画像に映った対象の数の特定を行うことを特徴とする対象数特定プログラム。
【請求項５】
前記コンピュータは、対象の複数の関節の可動域及び各関節間の距離に関する基準を更に記憶しており、
前記識別するステップでは、前記対象の数の特定に当たり、前記数が推定された対象を、メイン対象と、それ以外のサブ対象と、に分類し、前記複数の関節の可動域及び各関節間の距離に関する基準を考慮して、前記サブ対象を前記分類されたメイン対象のうちのいずれかに連結し、前記分類に当たっては、前記数が推定された対象のうち前記特定された数だけ、前記検出された関節の数が多い順に、前記メイン対象に分類することを特徴とする請求項４に記載の対象数特定プログラム。
【請求項６】
前記コンピュータは、対象の複数の関節の可動域に関する基準を更に記憶しており、
前記識別するステップでは、前記対象の数の特定に当たり、前記推定された数の対象を、メイン対象と、それ以外のサブ対象と、に分類し、前記複数の関節の可動域に関する基準を考慮して、前記サブ対象を前記分類されたメイン対象のうちのいずれかに連結し、前記分類に当たっては、前記基本姿勢に関する基準に該当するものを前記メイン対象に分類することを特徴とする請求項４に記載の対象数特定プログラム。