(57)【特許請求の範囲】
【請求項１】
対象の行動の特徴量の時系列データに基づき行動を学習し、学習結果に基づき行動を認識する行動認識装置において、
対象の行動が時系列に記録された入力データから行動の特徴量の時系列データを抽出する行動特徴量算出手段と、
前記行動特徴量算出手段により得られた行動の特徴量の時系列データと、予め学習した行動の特徴量の時系列データとに基づいて、前記入力データに係る行動を認識し、行動認識結果と尤度を出力する行動認識手段と、
前記行動認識結果が示す行動と同一行動に関し、予め学習した行動又は既に認識した過去の行動と、前記入力データに係る行動との尤度差を算出する行動尤度差算出手段と、
を備える行動認識装置。
【請求項２】
前記行動尤度差算出手段が算出する尤度差が所定の閾値以上の場合に、前記行動認識結果が示す行動において生じる体部位の動作に関し、前記入力データから抽出した体部位の特徴量の時系列データと、予め学習した体部位の特徴量の時系列データとに基づいて、尤度を出力する体部位動作尤度算出手段を備える請求項１に記載の行動認識装置。
【請求項３】
前記行動尤度差算出手段が、前記行動認識結果が示す行動と同一行動に関し、少なくとも前回認識した前回の行動と、前記入力データに係る今回の行動との尤度差を算出し、
前記体部位動作尤度算出手段は、前記行動尤度差算出手段が算出する前回の行動と今回の行動との尤度差が所定の閾値以上の場合に起動して前記尤度を出力することを特徴とする請求項２に記載の行動認識装置。
【請求項４】
前記行動の特徴量の時系列データは、全身の関節点で規定され、前記体部位の特徴量の時系列データは、当該体部位に係る関節点で規定されていることを特徴とする請求項２又は請求項３に記載の行動認識装置。
【請求項５】
対象の行動の特徴量の時系列データに基づき行動を学習し、学習結果に基づき行動を認識する行動認識装置としてコンピューターを機能させるための行動認識プログラムであって、
対象の行動が時系列に記録された入力データから行動の特徴量の時系列データを抽出する行動特徴量算出手段と、
前記行動特徴量算出手段により得られた行動の特徴量の時系列データと、予め学習した行動の特徴量の時系列データとに基づいて、前記入力データに係る行動を認識し、行動認識結果と尤度を出力する行動認識手段と、
前記行動認識結果が示す行動と同一行動に関し、予め学習した行動又は既に認識した過去の行動と、前記入力データに係る行動との尤度差を算出する行動尤度差算出手段として前記コンピューターを機能させるための行動認識プログラム。
【請求項６】
前記行動尤度差算出手段が算出する尤度差が所定の閾値以上の場合に、前記行動認識結果が示す行動において生じる体部位の動作に関し、前記入力データから抽出した体部位の特徴量の時系列データと、予め学習した体部位の特徴量の時系列データとに基づいて、尤度を出力する体部位動作尤度算出手段として前記コンピューターを機能させるための請求項５に記載の行動認識プログラム。
【請求項７】
前記行動尤度差算出手段が、前記行動認識結果が示す行動と同一行動に関し、少なくとも前回認識した前回の行動と、前記入力データに係る今回の行動との尤度差を算出し、
前記体部位動作尤度算出手段は、前記行動尤度差算出手段が算出する前回の行動と今回の行動との尤度差が所定の閾値以上の場合に起動して前記尤度を出力することを特徴とする請求項６に記載の行動認識プログラム。
【請求項８】
前記行動の特徴量の時系列データは、全身の関節点で規定され、前記体部位の特徴量の時系列データは、当該体部位に係る関節点で規定されていることを特徴とする請求項６又は請求項７に記載の行動認識プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、機械学習に係り、対象の行動を学習し認識する分野に関する。
【背景技術】
【０００２】
従来、コンピューターに明示的にプログラミングすることなく行動させるようにする機械学習が研究されている。予測する目標の値が訓練データに含まれている教師あり学習には、クラスを予測する識別（分類）問題などがある。信頼性の向上、処理の高速化等が課題となっている。また、人等の監視動画を入力データとし、人等の行動を認識する分野がある。この場合、連続する画像フレームを解析することとなる。あるフレーム列から行動が認識されると、その後のフレーム列における行動（現認識時点の行動）を認識するにあたり、現認識時点の行動の前の行動を考慮することができる。
非特許文献１に記載の発明は、Trancated BPTT：LSTM等でもちいられる学習テクニックであり、学習時に、所定のフレームよりも前の特徴は参照しないようにする。基本的に一定の時間（フレーム数）で行動認識に用いるデータ量を決める。
特許文献１に記載の発明は、ジェスチャ認識においてジェスチャの始点を明示的に与える代わりに、現フレームを終点として固定長分の観測信号を生成し、HMMモデルデータベースに入力し各ジェスチャの尤度を求める。同発明も、基本的に一定の時間（フレーム数）で行動認識に用いるデータ量を決める。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００７−８７０８９号公報
【非特許文献】
【０００４】
【非特許文献１】David Zipser（Department of Cognitive Science,University of California, San Diego,La Jolla, CA 92093）  Subgrouping reduces complexity and speeds up learning in recurrent networks
【非特許文献２】Graves, Alan, Abdel-rahman Mohamed, and Geoffrey Hinton. "Speech recognition with deep recurrent neural networks." Acoustics, Speech and Signal Processing (ICASSP), 2013 IEEE International Conference on. IEEE, 2013.
【非特許文献３】Hochreiter, Sepp, and Jurgen Schmidhuber. "Long short-term memory." Neural computation 9.8 (1997): 1735-1780.
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ところで、行動観察される人の運動機能の低下、回復により、同じ行動でもその行動、動作に劣化、回復が生じるが、従来技術は、対象の行動の劣化、回復など行動の質の変化の指標を算出し、行動の質の変化を観察できるようにすることができない。
【０００６】
本発明は、対象の行動の劣化、回復など行動の質の変化の指標を算出し、行動の質の変化を観察できるようにすることを課題とする。
【課題を解決するための手段】
【０００７】
以上の課題を解決するための請求項１記載の発明は、対象の行動の特徴量の時系列データに基づき行動を学習し、学習結果に基づき行動を認識する行動認識装置において、
対象の行動が時系列に記録された入力データから行動の特徴量の時系列データを抽出する行動特徴量算出手段と、
前記行動特徴量算出手段により得られた行動の特徴量の時系列データと、予め学習した行動の特徴量の時系列データとに基づいて、前記入力データに係る行動を認識し、行動認識結果と尤度を出力する行動認識手段と、
前記行動認識結果が示す行動と同一行動に関し、予め学習した行動又は既に認識した過去の行動と、前記入力データに係る行動との尤度差を算出する行動尤度差算出手段と、
を備える行動認識装置である。
【０００８】
請求項２記載の発明は、前記行動尤度差算出手段が算出する尤度差が所定の閾値以上の場合に、前記行動認識結果が示す行動において生じる体部位の動作に関し、前記入力データから抽出した体部位の特徴量の時系列データと、予め学習した体部位の特徴量の時系列データとに基づいて、尤度を出力する体部位動作尤度算出手段を備える請求項１に記載の行動認識装置である。
【０００９】
請求項３記載の発明は、前記行動尤度差算出手段が、前記行動認識結果が示す行動と同一行動に関し、少なくとも前回認識した前回の行動と、前記入力データに係る今回の行動との尤度差を算出し、
前記体部位動作尤度算出手段は、前記行動尤度差算出手段が算出する前回の行動と今回の行動との尤度差が所定の閾値以上の場合に起動して前記尤度を出力することを特徴とする請求項２に記載の行動認識装置である。
【００１０】
請求項４記載の発明は、前記行動の特徴量の時系列データは、全身の関節点で規定され、前記体部位の特徴量の時系列データは、当該体部位に係る関節点で規定されていることを特徴とする請求項２又は請求項３に記載の行動認識装置である。
【００１１】
請求項５載の発明は、対象の行動の特徴量の時系列データに基づき行動を学習し、学習結果に基づき行動を認識する行動認識装置としてコンピューターを機能させるための行動認識プログラムであって、
対象の行動が時系列に記録された入力データから行動の特徴量の時系列データを抽出する行動特徴量算出手段と、
前記行動特徴量算出手段により得られた行動の特徴量の時系列データと、予め学習した行動の特徴量の時系列データとに基づいて、前記入力データに係る行動を認識し、行動認識結果と尤度を出力する行動認識手段と、
前記行動認識結果が示す行動と同一行動に関し、予め学習した行動又は既に認識した過去の行動と、前記入力データに係る行動との尤度差を算出する行動尤度差算出手段として前記コンピューターを機能させるための行動認識プログラムである。
【００１２】
請求項６記載の発明は、前記行動尤度差算出手段が算出する尤度差が所定の閾値以上の場合に、前記行動認識結果が示す行動において生じる体部位の動作に関し、前記入力データから抽出した体部位の特徴量の時系列データと、予め学習した体部位の特徴量の時系列データとに基づいて、尤度を出力する体部位動作尤度算出手段として前記コンピューターを機能させるための請求項５に記載の行動認識プログラムである。
【００１３】
請求項７記載の発明は、前記行動尤度差算出手段が、前記行動認識結果が示す行動と同一行動に関し、少なくとも前回認識した前回の行動と、前記入力データに係る今回の行動との尤度差を算出し、
前記体部位動作尤度算出手段は、前記行動尤度差算出手段が算出する前回の行動と今回の行動との尤度差が所定の閾値以上の場合に起動して前記尤度を出力することを特徴とする請求項６に記載の行動認識プログラムである。
【００１４】
請求項８記載の発明は、前記行動の特徴量の時系列データは、全身の関節点で規定され、前記体部位の特徴量の時系列データは、当該体部位に係る関節点で規定されていることを特徴とする請求項６又は請求項７に記載の行動認識プログラムである。
【発明の効果】
【００１５】
本発明によれば、行動認識結果が示す行動と同一行動に関し、予め学習した行動又は既に認識した過去の行動と、入力データに係る今回の行動との尤度差を算出するので、これを対象の行動の劣化、回復など行動の質の変化の指標として、行動の質の変化が観察できるようになる。
【図面の簡単な説明】
【００１６】
【図１】本発明の一実施形態に係る行動認識装置を構成する手段と、辞書と、処理の流れが記載されたシステム概念図である。
【図２】本発明の一実施形態に係る行動認識のアルゴリズムの概要を示す概念図である。
【図３】本発明の一実施形態における行動認識によりフレームごとに算出される尤度の推移グラフの一例である。
【図４】本発明の一実施形態における体部位動作尤度算出によりフレームごとに算出される体部位動作の尤度の推移グラフの一例である。
【図５】行動認識手段が行動認識のために用いる長さの特徴量列を示した概念図であり、(a)は全フレームとする場合の比較例を示し、(b)は本発明例を示す。
【図６】行動認識手段が行動認識のために用いる長さの特徴量列を枠で示した概念図であり、(a)は枠の長さを一定のフレーム数で固定とした比較例を示し、(b)は本発明例を示す。
【図７】Recurrent Neural Networkの概要図である。
【図８】Long-Short Term Memoryの概要図である。
【図９】本発明の一実施形態に係る行動境界判定の一例を説明するための尤度遷移図である。
【図１０】本発明の一実施形態に係る行動境界判定の他の一例を説明するための尤度遷移図である。
【図１１】行動認識手段が行動認識のために用いる長さの特徴量列を枠で示した概念図であり、(a)はある一つの行動境界判定前の枠を、(b)はその一つの行動境界判定後の枠を示す。
【発明を実施するための形態】
【００１７】
以下に本発明の一実施形態につき図面を参照して説明する。以下は本発明の一実施形態であって本発明を限定するものではない。
【００１８】
〔システム概要〕
図１に、本実施形態の行動認識装置を構成する手段と、辞書と、処理の流れが記載されたシステム概念図を示す。コンピューターを以下の各手段として機能させるための行動認識プログラムをコンピューターにインストールすることで本行動認識装置が構成される。本実施形態において、対象は人間であり、「対象の行動が時系列に記録されたデータ」は動画像データである。
図１に示すように本実施形態の行動認識装置は、動画像取得手段１と、行動特徴量算出手段２と、行動認識手段３と、行動尤度差算出手段４と、動画像取得手段５と、体部位特徴量算出手段６と、体部位動作尤度算出手段７とを備え、辞書Ａ及び辞書Ｂを保持する。
動画像取得手段１及び動画像取得手段５は、動画撮影用のカメラであるか、又はカメラをシステム外と捉える場合は、カメラから動画像データの入力を受ける入力インターフェースである。動画像取得手段１が取得する動画像に、観察者の全身が含まれるようにカメラを配備する。
行動特徴量算出手段２は、動画像取得手段１を介して入力された入力データから行動の特徴量の時系列データを抽出する。行動の特徴量の時系列データは、全身の関節点で規定されるものとする。なお、簡単のため「特徴量の時系列データ」を「特徴量列」と呼ぶ。
行動認識手段３は、行動特徴量算出手段２により得られた行動の特徴量列と、辞書Ａに収められた予め学習した行動の特徴量列とに基づいて、入力データに係る行動を認識し、行動認識結果８と尤度９を出力する。
行動尤度差算出手段４は、行動認識結果８が示す行動と同一行動に関し、予め学習した行動又は既に認識した過去の行動と、入力データに係る行動との尤度差を算出する。すなわち、行動尤度差算出手段４は、今回の入力データに係る行動に関して行動認識手段３が出力した尤度９と、辞書Ａを入力とした場合の尤度との差、又は、過去に認識した同一の行動（行動認識結果８が同一となる行動）において行動認識手段３が出力した尤度との差を算出する。
これにより辞書Ａに特徴が記録される行動に対する今回の行動の質の変化や、過去の行動に対する今回の行動の質の変化を観察することができる。
例えば、辞書Ａに、運動機能が正常なときの行動の特徴が記録されていれば、正常に対する質の劣化の度合いがわかる。運動機能に異常が発生した時、運動機能の回復があった時は、いずれも、行動尤度差算出手段４が算出する尤度差に表れるから、この尤度差を指標にして行動の質の変化を観察することができる。
【００１９】
体部位特徴量算出手段６は、各体部位の動作に限定した特徴量列を抽出する。そのために動画像取得手段５が取得する動画像に、当該特徴量を抽出する体部位が含まれるようにカメラを配備する。簡素な構成としては、全身を撮影するカメラを一台設けて、動画像取得手段１及び動画像取得手段５を共通として実施してもよい。体部位の特徴量列は、当該体部位に係る関節点で規定されるものとする。
【００２０】
体部位動作尤度算出手段７は、どの体部位で変化が顕著か認識するため、行動尤度差算出手段４が算出する尤度差が所定の閾値以上の場合に、行動認識結果８が示す行動において生じる体部位の動作に関し、体部位特徴量算出手段６が入力データから抽出した体部位の特徴量列と、辞書Ｂに収められた予め学習した体部位の特徴量列とに基づいて、体部位動作の尤度１０を出力する。したがって、体部位動作の尤度１０は体部位ごとに算出される。
行動尤度差算出手段４が、行動認識結果８が示す行動と同一行動に関し、少なくとも前回認識した前回の行動と、入力データに係る今回の行動との尤度差を算出し、体部位動作尤度算出手段７は、行動尤度差算出手段４が算出する前回の行動と今回の行動との尤度差が所定の閾値以上の場合に起動して体部位動作の尤度１０を出力することとしてもよい。これにより、行動の質に変化があった時のみ体部位動作尤度算出手段７を稼働させて、計算負荷を低減することができる。
次フレームの動画像を取得して以上の処理を繰り返す。
【００２１】
〔例示説明〕
さらに具体的適用例を挙げつつ説明を加える。
人の日常の生活行動を認識、評価することによって老化、日常生活行動の低下を検出することに利用する。
図２は、本実施形態の行動認識のアルゴリズムの概要を示している。図２に示すように人の行動認識は、人検知５１、姿勢検知５２、行動認識５３の過程でなされる。そこで、正解ラベルとして、人ラベル・姿勢ラベル・行動認識ラベルをつけ、このラベルを学習させる。
【００２２】
人検知５１では、動画像データ５４から人領域５５を検出する。
人検知の学習方法は、一般的な機械学習法(support vector machine：SVM、Random Forest、Fast R-CNN（http://arxiv.org/abs/1504.08083  ICCV 2015（2015.12）））、Faster R-CNN（http://arxiv.org/abs/1506.01497  NIPS 2015（2015.12））など）を使用する。また学習せずに、一般的な手法（背景差分法・時間差分法）でも良い。
その機械学習法としては、人候補領域を学習、学習の際に人領域(ポジティブ領域)と非人領域(ネガティブ領域)を学習する。
SVM、Random Forestのような手法は、候補領域の特徴量を学習、候補領域の特徴量としてはHOG特徴量などが一般的である。局所特徴量と統計学習手法による物体検出（http://www.vision.cs.chubu.ac.jp/JointHOG/）の手法が利用できる。
Fast R-CNN、Faster R-CNNは、Deep Learningの手法の1つで、一般物体認識を行うものである。画像そのものを入力、入力画像の候補領域を算出する際に、selective searchを使用して候補領域を出すものがFast R-CNN、候補領域そのものも学習で算出させるのがFaster R-CNN、その候補領域が何なのかをDeep Learningで学習させる。  
画像そのものを入力し、候補領域、候補領域の種類(人・猫・犬など)を出力させ、その中から人領域だけ抽出できるように学習させる。
selective searchは、画像中に似た領域をひとつの物体として認識して、物体の候補を提案するアルゴリズムである。
【００２３】
非機械学習法としては、ある基準画像と比較画像に差がある領域を人候補領域として算出する方法が適用できる。人が全く映っていない画像を基準とする背景差分法や、数フレーム前の画像との差を取る時間差分法が適用できる。動いているものを人候補領域として検出する。
OpenCVで背景差分（http://whoopsidaisies.hatenablog.com/entry/2013/12/18/092142）の手法が利用できる。
【００２４】
姿勢検知５２では、人領域５５の画像に基づき関節人モデル５６を構成する。
姿勢検知にあっては、詳細に状態を見る為に、関節位置を正確に算出することが好ましい。その算出方法としてDeepPose（http://www.slideshare.net/mitmul/deeppose-human-pose-estimation-via-deep-neural-networks）のような手法を用いることで、関節点を学習する。
【００２５】
行動認識の学習は、Long short-term memory(LSTM   http://qiita.com/t_Signull/items/21b82be280b46f467d1b)のような手法を用いることが好ましい。関節点の時系列情報を学習する。
便利上、姿勢検知と行動認識を分離して説明しているが、１つにまとめるようにしても良い。
【００２６】
行動認識５３としては、例えば、図２に示す「座る」という行動を認識する場合を考える。その他に歩く・寝る・ドアを開けるなどの日常生活における行動がある。座る行動セット５７、寝る行動セット５８など、辞書は行動認識ラベルごとに設けられる。
行動特徴量算出手段２により全身の関節点を認識する姿勢検知を行った上で、行動認識手段３がLSTMによる行動認識を行い、行動認識結果８と尤度９を出力する。図３に示すようにフレームごとに尤度が出力され推移する。図３に示す例では、１−６フレームでは、行動Ａの尤度が行動Ｂ，Ｃの尤度に勝っているとともに閾値１０２を単独で超えており、行動Ａが行動認識結果となる。７−１０フレームでは、行動Ａの尤度が低下し行動Ｃが他に勝っているとともに単独で閾値１０２を超えており、行動Ｃが行動認識結果となる。例えば、行動Ａが「座る」で、行動Ｂが「歩く」、行動Ｃが「寝る」のごとくである。行動Ａ１を前回の行動Ａ、行動Ａ２を今回の行動Ａとする。差１０１は、行動Ａ１の尤度と行動Ａ２の尤度との差であり、これを行動尤度差算出手段４が算出する。差１０１は、最大差、総和・平均値のいずれでもよい。閾値１０２は行動として判定する閾値である。
【００２７】
さらに「座る」ときの体部位動作の尤度算出が行われる。
体部位特徴量算出手段６により２関節点を認識する姿勢検知を行った上で、体部位動作尤度算出手段７が尤度１０を出力する。体部位動作尤度算出手段７は、各体部位についてそれぞれ尤度を算出する。体部位毎の尤度算出５９の過程として、図４に示すように関節点間Ａ、関節点間Ｂ、関節点間Ｃ、関節点間Ｄ・・・のそれぞれの尤度をフレームごとに算出する。図４に示す例では、関節点間Ｃの尤度のみが低下しているので、行動の劣化が関節点間Ｃに現れていることがわかる。例えば、図３の行動Ａが「座る」で、差１０１が所定の閾値以上であったため、体部位動作尤度算出手段７が図４に示すように各関節点間の体部位の尤度を算出し、関節点間Ｃの尤度のみが健常時より低下したとする。この場合、座るときに関節点間Ｃの体部位に健常時にはない異常動作があったこととなる。このように体部位動作尤度算出手段７によりどの体部位に健常時と異なる動作があったかを検出できる。
学習に使用するデータは、本人の動画像のみを使用してもよいし、一般的な健康な人の動画像を用いてもよい。
【００２８】
学習は、Reccurent Neural Network(以下RNN)にLong-Short Term Memoryを組み合わせた手法を使用して行う。
認識時は、学習で作成された辞書により行動の動画を認識する。座るという行動動画を入力した結果、行動認識手段３が行動認識結果８と尤度９を算出する。この時、行動認識結果８が「座る」であり、尤度９が所定の閾値以上の場合、定常の行動と変わらないと判断する。しかし、尤度９が所定の閾値以下となった場合、いつもの日常生活との差が見られる。そこで、何が問題でその様な結果となったのか体部位動作尤度算出手段７により詳細解析を行う。
なお、閾値は、（１）予め決めておいた尤度そのものの値に対する閾値でもよいが、（２）前回算出した尤度と今回算出した尤度との差（両者は同じ行動のもの、図３に示す差１０１）を見るようにしても良い。体部位に分解して詳細に個人の姿勢変化を捉える場合、（２）で実施するほうが望ましい。学習データも本人のものが好ましい。
体部位に分解した詳細解析は、上記で算出された行動認識結果８（行動認識結果８が「座る」なら「座る」）だけで学習された行動と今回入力された画像との差を見る。なお、辞書Ｂを作成するための、行動認識結果８（行動認識結果８が「座る」なら「座る」）だけでの学習は、部分ごとに行う。つまり複数の関節点から、人体の骨格をなす２つ関節点毎に学習する。例えば、左足先から左膝の関節点間の体部位だけで「座る」の行動における動作の学習、左膝から左股関節の関節点間の体部位だけで「座る」の行動における動作の学習のように辞書Ｂを用意しておく。それぞれの結果を算出＆比較することで変化量を見る。
【００２９】
〔特徴量列の長さについて〕
本実施形態で採用する特徴量列の長さの決定方法につき説明する。
従来の手法としては、通常、特徴量は現認識時点のフレームを起点として過去１０フレーム分の特徴量をまとめて与えるなど、固定長の値を与えるか、過去の情報から切れ目なく全フレーム与える様な形が多かった。かかる手法を本発明に適用して実施してもよい。
しかし、本実施形態では同じ行動が連続したフレームは常に同じ行動をしている＝１行動として、学習・認識対象のフレームの行動を起点とした所定の行動数Ｎ分のフレームの特徴量を与える方法を採用する。行動数Ｎには、現認識時点の行動も含まれるので、遡る過去の行動数としては（Ｎ−１）である。
例えば、高齢者介護見守りの現場において、高齢者の生活状況や事故を認識する仕組みを考える。
この場合、認識する対象は高齢者やその介助者の行動である。具体的に認識する高齢者の行動としては、”就寝”、”起床”、”離床”、”座る”、”しゃがむ”, ”歩行”、”食事”、”トイレ”、”外出”,”モノを取る”の様な日常生活における基本的な行動や転倒、転落などの事故時に起きる行動が対象となる。介助者の行動としては”歩行”などの基本的な行動の他、”支える”、”抱える”,”食べさせる”などの介助動作も対象となる。また、複数人による行動である”会話”等も考えられる。
これらの行動の内、多くの行動はその前に強く関係がある。例えば“就寝”という行動はベッドに歩いて近づき、横たわった後に発生することが考えられるが、歩行中突然就寝状態になる事は考えにくい。このことは、前の行動は現在の行動を決定する上で非常に重要な情報であることを示している。そのため、行動認識において過去の情報を使うことは精度の向上のために非常に重要である。
従来は、過去１０フレーム分の特徴量を認識に用いる、という様に、固定時間分の情報を認識に用いる場合が多かったが、人によって行動の速度は異なり、また同一人物でも繰り返しバラつきがあり、固定時間を設定するのは難しかった。本方法は、そうした問題に対応するための提案である。
【００３０】
行動数のカウント方法を、上述した”座る” ”歩行” ”食事”を例にして説明する。”歩行”を区別しない同一行動とする場合は、”歩行”が数フレームに亘って連続しても、１行動としてカウントする。また、”食事”を区別しない同一行動とする場合は、”食事” が数フレームに亘って連続しても、１行動としてカウントする。しかし、”食事”を例えば”手に持った食器から食物を取り上げて口に運ぶ行動（行動Ａ）”と ”テーブル上の食器から食物を取り上げて口に運ぶ行動（行動Ｂ）”とに細分化して行動ラベルを定義する場合には、行動Ａの連続は１行動としてカウントし、行動Ｂの連続は１行動としてカウントする一方で、これら２つの行動が、例えば行動Ａ、行動Ｂと連続すれば、２行動とカウントする。”歩行”及び ”座る”のそれぞれを区別しない同一行動とする場合は、”歩行” ”座る” ”歩行”と連続すれば３行動とカウントする。
【００３１】
図５は、行動認識手段３が行動認識のために用いる長さの特徴量列を示した概念図であり、図５(a)は全フレームとする場合の比較例を示し、図５(b)はＮ＝３とする場合の本発明例を示す。図中の数字は各行動ラベルを示し、数値を囲む矩形はその行動が連続する長さを示す。
図６は、行動認識手段３が行動認識のために用いる長さの特徴量列を枠で示した概念図であり、図６(a)は枠３０１の長さを一定のフレーム数で固定とした比較例を示し、図６(b)はＮ＝３とする場合の本発明例におけるフレーム数可変の枠３０２，３０３を示す。
図１に示すように本行動認識装置に行動境界判定手段１８、位置検出手段２１が設けられる。
行動認識手段３は、行動境界判定手段１８が出力した境界点１９を基準に、所定の行動数前に遡った時点（図５(b)，図６(b)の例で２つ遡る）から現認識時点までの時系列に並ぶ複数の行動に相当する特徴量列に基づき、現認識時点の行動を認識する。
【００３２】
図６（a）の比較例の場合のように行動認識手段が行動認識に用いる特徴量列が時間（フレーム数）で固定長の場合、人によって行動の速度は異なるため、人によって固定長の範囲内に行動を特定するのに有効な前行動情報が含まれない場合が考えられるが、図６(b)の本発明例のように行動数を基準にし、行動認識手段３が行動認識に用いる特徴量列のフレーム数を可変にすることで、現認識時点の行動につながる過去の行動の情報を十分に得ることが可能となる。
【００３３】
現認識時点の行動は過去の行動と強く関連付けられているといっても時間的に離れた情報は相対的に関係性が薄いと考えられ、図５(a)の比較例のように全フレームを使った場合多くのノイズが含まれてしまい、ノイズ比の大きい過大なデータ量による負荷、認識精度の低下が懸念される。見るべき行動数をある程度限定することで、現認識時点の行動を推定するのに重要な情報のみを選択的に扱うことが可能になり、行動認識の高精度化及び効率化を図ることができる。
【００３４】
図５，図６のように、Ｎ＝３として、３行動分の特徴量列が得られるのは、時系列に並ぶ所定の行動数（図５(b)，図６(b)の例で２つ）の認識が終わった後である。
動画の最初のフレームが入力されている時など行動数Ｎに入力フレーム数が満たない時のために、行動認識手段３は、時系列に並ぶ所定の行動数（図５(b)，図６(b)の例で２つ）の認識が終わる前は、現認識時点までの全ての特徴量列に基づき、現認識時点の行動を認識する。
【００３５】
本発明においてどの様に特徴量を用いて行動を認識するかは、機械学習手法の一種である、図７に概要図を示すRecurrent Neural Network(RNN)に図８に概要図を示すLong-Short Term Memory （LSTM）を組み合わせた思想に基づく。RNNはDeep Learningで用いられるニューラルネットワークベースの１手法であり、過去の入力による行動認識の結果を内部状態として保持することが可能であり、そのため前後の入力で関連がある言語音声分野や動画像解析で多く使われている手法である。ただしRNNではニューラルネットワークにおける勾配消失問題から直近の情報しか保持できないため、LSTMを組み合わせる形を採用する。LSTMは過去の情報をより長期間保持することが可能な技術であり、両者を組み合わせることで長期間の過去のデータを現在の入力の学習・認識に生かすことが可能となる。（RNNの詳細は非特許文献２を、LSTMの詳細は非特許文献３を参照。）
また、RNN+LSTMは内部状態をフラグによりリセットすることが可能である。リセットしない場合、それまでの全フレームの情報が内部的に保持される形となるが、リセットすると内部状態は初期化されるため、過去の入力はないものと扱われる。そのため、本実施形態では、行動境界判定手段１８の判定に基づき、この内部状態をリセットし再度特徴量を入力する処理が学習認識に用いる行動をリセットする処理として用いられる。
機械学習手法を用いているため、行動認識手段３は認識の前に学習を行う必要がある。学習は正解行動が既知の動画像データを入力として、各行動を区別するために有効な特徴量が何かを学習していく。認識時は学習によって作られた処理に基づいて認識を行う。
【００３６】
行動数に応じた入力について、学習時は行動の境界が既知であるため行動数に応じてリセットを行えばよいが、認識時は事前に行動が未知であり同様のことができないため、行動境界判定手段１８が必要となる。
なお、認識に用いる手法はLSTMに限定されない。
【００３７】
行動認識手段３は、対象の各行動の尤度を出力する。たとえば１０種の行動を認識する場合、１０個の行動それぞれについて、尤度が算出され、最も尤度が高い行動を行動認識結果８として出力する。体部位動作尤度算出手段７は、行動認識結果８が示す行動中の各体部位の動作の尤度１０を出力する。
一方、行動境界判定手段１８は、認識中の行動の切れ目となる境界点を判定し、行動認識手段３へ入力する。一般的には行動認識結果８が異なる行動に変わった場合（１位の入れ替わりがあった場合）、そこを境界点とすれば良いと考えられるが、その場合、行動認識結果８が異なる行動に変わった後に初めて境界点の判定が行われるため判定が遅れてしまう。特に行動間の境界がわかりにくい場合、判定の遅れはより大きくなることが予想される。これらの事象を押さえる手として、行動認識の各行動の尤度情報を用いる方法が考えられる。
【００３８】
ひとつには、行動の認識結果の最大尤度とそれ以外の尤度との差が所定の値よりも小さい場合に行動終了と判定する方法が考えられる。最大尤度と他の尤度の差が縮んだり最大尤度が低下したりしているということは行動の移り変わりが発生している可能性が高いため、こうした判定は有効である。
例えば、行動境界判定手段１８は、図９に示すように尤度が高い順位が１位と２位の差６０１が所定の閾値以下となった時点を境界点と判定する。すなわち、図９において、１−６フレームで行動０が１位であるが、１位が行動０から行動２に切り替わる７フレーム目やそれ以降で判定せず、６フレーム目の１位と２位の差６０１が所定の閾値以下となった時点で判定を下すことで早期に判定する。これにより、７フレーム目では、行動認識手段３は認識に用いる特徴量列を新たな境界点から遡った行動数の範囲に更新し、行動認識の精度を向上する。
【００３９】
また、行動の認識結果には、ある程度の誤判定やノイズが混じることが予想され、認識結果の１つの瞬間値に基づき境界判定を行った場合、図１０に示すように連続行動中に１フレームだけ別の行動が誤認識されただけで観測された行動数が１から３に大きく変化してしまう。すなわち、図１０において、１−１０フレームの行動０と、１２−３０フレームの行動０との間に１１フレーム目で行動１が１位になっただけで、３行動がカウントされてしまう。この場合、１１フレーム目の行動１はノイズとしてカットし、行動０が続いていると判定すべきである。
こうした場合に対応するため、行動境界判定手段１８は、現認識時点のフレームを起点に所定の範囲の各行動尤度値の平均や中央値などの統計量に基づき、この平均や中央値などの統計量が入れ替わった段階で行動が切り替わったと判定する方法が考えられる。また、最大尤度を示す行動が変化した後所定の時間（フレーム数）内で最大尤度を示す行動が変化しなかった場合行動終了と判定する方法も考えられる。この場合は統計量として「最頻値」を用いれば実施できる。
【００４０】
また、尤度を使わない場合も考えられる。例えば寝るという行為は一般にベッド上で行われる。そのため、ベッドから離れた瞬間のように、位置情報に基づき異なる行動に切り替わる行動の境界点を判定する。例えば、浴室になどの特定の範囲に入った/出たという位置情報に基づき異なる行動に切り替わる行動の境界点を判定する。
この位置情報は、動画像取得手段１等で取得する動画像を解析して得られる対象の位置情報としてもよいし、別途、位置検出手段２１から入力されるものとしてもよい。位置検出手段２１は、動画像に基づくものではなく、対象の位置を検出するセンシングシステムと連携するものである。これにより、入浴などの行動を行う場所が限定されている場合に認識精度を向上することができる。
【００４１】
尤度を使わない別の例としては、所定のフレーム数以上同じ行動が続いた場合に境界点があったと判定する方法も考えられる。これは、あまりに長い期間同じ行動が続いている場合、その前の行動と次の行動の関連性は弱まっていると考えられるためである。
図１１に、行動認識手段３が用いる長さの特徴量列を枠８０１、８０３で示し、現認識時点を指針８０２，８０４で示す。
図１１(a)に示す現認識時点８０２で行動境界判定手段１８が行動の境界を判定した場合、次の行動の認識（図１１(b)に示す現認識時点８０４における認識）では、行動認識手段３は図１１(b)に示す枠８０３のように認識に用いる過去の行動を１行動分ずらして認識を行う。
【符号の説明】
【００４２】
１     動画像取得手段
２     行動特徴量算出手段
３     行動認識手段
４     行動尤度差算出手段
５     動画像取得手段
６     体部位特徴量算出手段
７     体部位動作尤度算出手段
８     行動認識結果
９     尤度
１０   体部位動作の尤度
１８   行動境界判定手段
１９   境界点
２１   位置検出手段
【図１】
0006658331.tif 000002
【図２】
0006658331.tif 000003
【図３】
0006658331.tif 000004
【図４】
0006658331.tif 000005
【図５】
0006658331.tif 000006
【図６】
0006658331.tif 000007
【図７】
0006658331.tif 000008
【図８】
0006658331.tif 000009
【図９】
0006658331.tif 000010
【図１０】
0006658331.tif 000011
【図１１】
0006658331.tif 000012