(57)【特許請求の範囲】
【請求項１】
位置情報送信装置と、位置情報受信装置と、カメラ装置と、サーバ装置と、を含む動線分析システムであって、
前記位置情報送信装置は、従業員により所持され、前記従業員の位置情報を送信し、
前記位置情報受信装置は、前記位置情報送信装置から送信された前記従業員の位置情報を受信し、
前記カメラ装置は、
撮像領域を撮像し、
前記撮像領域の撮像画像の背景画像を繰り返し生成し、
前記撮像画像に含まれる、前記従業員を含む移動体の前記撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、
前記位置情報受信装置の出力に基づき、前記撮像画像に含まれる、前記従業員の前記撮像領域における滞留位置又は通過位置に関する動線情報を取得し、
所定の送信周期毎に、前記生成された前記背景画像と、前記抽出された前記移動体の動線情報と、前記取得された前記従業員の動線情報とを前記サーバ装置に送信し、
前記サーバ装置は、
前記移動体の動線情報から前記従業員の動線情報を差し引いて得られた動線情報を、前記撮像画像の背景画像に重畳した動線分析画像を生成し、
前記生成された前記動線分析画像を表示部に表示させる、
動線分析システム。
【請求項２】
請求項１に記載の動線分析システムであって、
前記位置情報送信装置は、近距離無線通信規格に準拠した送信端末である、
動線分析システム。
【請求項３】
請求項２に記載の動線分析システムであって、
前記位置情報受信装置は、前記近距離無線通信規格に準拠した受信端末である、
動線分析システム。
【請求項４】
従業員により所持され、前記従業員の位置情報を送信する位置情報送信装置と、前記位置情報送信装置から送信された前記従業員の位置情報を受信する位置情報受信装置と、サーバ装置と、を含む動線分析システムで用いられるカメラ装置であって、
撮像領域を撮像する撮像部と、
前記撮像領域の撮像画像の背景画像を繰り返し生成し、
前記撮像画像に含まれる、前記従業員を含む移動体の前記撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、
前記位置情報受信装置の出力に基づき、前記撮像画像に含まれる、前記従業員の前記撮像領域における滞留位置又は通過位置に関する動線情報を取得し、
所定の送信周期毎に、前記生成された前記背景画像と、前記抽出された前記移動体の動線情報と、前記取得された前記従業員の動線情報とを用いて、前記移動体の動線情報から前記従業員の動線情報を差し引いて得られた動線情報を、前記撮像画像の背景画像に重畳した動線分析画像を生成するプロセッサと、
所定の送信周期毎に、前記生成された前記動線分析画像を、前記動線分析画像を表示する前記サーバ装置に送信する送信部と、を備える、
カメラ装置。
【請求項５】
位置情報送信装置と、位置情報受信装置と、カメラ装置と、サーバ装置と、を含む動線分析システムにおける動線分析方法であって、
前記位置情報送信装置は、従業員により所持され、前記従業員の位置情報を送信し、
前記位置情報受信装置は、前記位置情報送信装置から送信された前記従業員の位置情報を受信し、
前記カメラ装置において、
撮像領域を撮像し、
前記撮像領域の撮像画像の背景画像を繰り返し生成し、
前記撮像画像に含まれる、前記従業員を含む移動体の前記撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、
前記位置情報受信装置の出力に基づき、前記撮像画像に含まれる、前記従業員の前記撮像領域における滞留位置又は通過位置に関する動線情報を取得し、
所定の送信周期毎に、前記生成された前記背景画像と、前記抽出された前記移動体の動線情報と、前記取得された前記従業員の動線情報とを前記サーバ装置に送信し、
前記サーバ装置において、
前記移動体の動線情報から前記従業員の動線情報を差し引いて得られた動線情報を、前記撮像画像の背景画像に重畳した動線分析画像を生成し、
前記生成された前記動線分析画像を表示部に表示させる、
動線分析方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、カメラ装置の撮像により得られた画像に、人物の滞留情報又は通過情報を重畳した動線分析画像を生成する動線分析システム、カメラ装置及び動線分析方法に関する。
【背景技術】
【０００２】
カメラ装置が設置された撮影現場における時間毎の人物の活動量レベルをヒートマップ画像として表示する先行技術として、例えば特許文献１が知られている。
【０００３】
特許文献１では、ネットワークを介して接続されたセキュリティカメラが設置された撮影現場における人物の動線を分析して活動量レベルを算出し、撮影現場の床配置図にセンサの検出結果を重畳したヒートマップ画像を生成し、セキュリティカメラに対応したブラウザの画面上にヒートマップ画像を表示することが開示されている。これにより、ブラウザの画面上に表示されたヒートマップ画像を閲覧することにより、撮影現場における人物の活動量レベルが把握可能となる。
【０００４】
また、特許文献１に示す床配置図とは異なり、カメラ装置が撮像した画像上に、人物の動線密度や人数検出結果を重畳したヒートマップ画像を生成して表示する技術も提案されている（例えば非特許文献１参照）。
【０００５】
ここで、特許文献１における床配置図にセンサの検出結果を重畳させる場合、床配置図とセキュリティカメラの撮影現場における画像とが正確にマッチング（一致）していることが必要となるが、特許文献１では床配置図は変更されず不変であるため、ヒートマップ画像の元となる床配置図を作成した時点から、撮影現場の配置が変更ない場合に限り、画像と床配置図とはマッチングする。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】特開２００９−１３４６８８号公報
【非特許文献】
【０００７】
【非特許文献１】“今までなかった３６０°をたった一台で監視できる！革新的監視カメラＭＯＢＯＴＩＸ Ｑ２４”，[ｏｎｌｉｎｅ]，株式会社オーピーエヌ，２０１４，[ｒｅｔｒｉｅｖｅｄ  ｏｎ  ２０１４−０６−１６]，Ｒｅｔｒｉｅｖｅｄ  ｆｒｏｍ  ｔｈｅ  Ｉｎｔｅｒｎｅｔ：<ＵＲＬ：ｈｔｔｐ：／／ｗｗｗ．ｏｐｎ−ｗｅｂ．ｃｏｍ／ｍｏｂｏｔｉｘ／ｉｎｄｅｘ．ｈｔｍ＞．
【発明の概要】
【発明が解決しようとする課題】
【０００８】
ところで、上述した動線分析システムを店舗で用いて、店舗での来客者の滞留位置や通過位置を把握しようとした場合、来客者だけでなく従業員も扱ってしまうことから、来客者の滞留位置や通過位置のみを把握することができないという課題が生ずる。
【０００９】
本発明は、上述した従来の課題を解決するために、来客者と従業員が混在する店舗において、来客者の滞留位置や通過位置のみを把握することができる動線分析システム、カメラ装置及び動線分析方法を提供することを目的とする。
【課題を解決するための手段】
【００１０】
本発明は、位置情報送信装置と、位置情報受信装置と、カメラ装置と、サーバ装置と、を含む動線分析システムであって、前記位置情報送信装置は、従業員により所持され、前記従業員の位置情報を送信し、前記位置情報受信装置は、前記位置情報送信装置から送信された前記従業員の位置情報を受信し、前記カメラ装置は、撮像領域を撮像し、前記撮像領域の撮像画像の背景画像を繰り返し生成し、前記撮像画像に含まれる、前記従業員を含む移動体の前記撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、前記位置情報受信装置の出力に基づき、前記撮像画像に含まれる、前記従業員の前記撮像領域における滞留位置又は通過位置に関する動線情報を取得し、所定の送信周期毎に、前記生成された前記背景画像と、前記抽出された前記移動体の動線情報と、前記取得された前記従業員の動線情報とを前記サーバ装置に送信し、前記サーバ装置は、前記移動体の動線情報から前記従業員の動線情報を差し引いて得られた動線情報を、前記撮像画像の背景画像に重畳した動線分析画像を生成し、前記生成された前記動線分析画像を表示部に表示させる、動線分析システムである。
【００１１】
また、本発明は、従業員により所持され、前記従業員の位置情報を送信する位置情報送信装置と、前記位置情報送信装置から送信された前記従業員の位置情報を受信する位置情報受信装置と、サーバ装置と、を含む動線分析システムで用いられるカメラ装置であって、撮像領域を撮像する撮像部と、前記撮像領域の撮像画像の背景画像を繰り返し生成し、前記撮像画像に含まれる、前記従業員を含む移動体の前記撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、前記位置情報受信装置の出力に基づき、前記撮像画像に含まれる、前記従業員の前記撮像領域における滞留位置又は通過位置に関する動線情報を取得し、所定の送信周期毎に、前記生成された前記背景画像と、前記抽出された前記移動体の動線情報と、前記取得された前記従業員の動線情報とを用いて、前記移動体の動線情報から前記従業員の動線情報を差し引いて得られた動線情報を、前記撮像画像の背景画像に重畳した動線分析画像を生成するプロセッサと、所定の送信周期毎に、前記生成された前記動線分析画像を、前記動線分析画像を表示する前記サーバ装置に送信する送信部と、を備える、カメラ装置である。
【００１２】
また、本発明は、位置情報送信装置と、位置情報受信装置と、カメラ装置と、サーバ装置と、を含む動線分析システムにおける動線分析方法であって、前記位置情報送信装置は、従業員により所持され、前記従業員の位置情報を送信し、前記位置情報受信装置は、前記位置情報送信装置から送信された前記従業員の位置情報を受信し、前記カメラ装置において、撮像領域を撮像し、前記撮像領域の撮像画像の背景画像を繰り返し生成し、前記撮像画像に含まれる、前記従業員を含む移動体の前記撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、前記位置情報受信装置の出力に基づき、前記撮像画像に含まれる、前記従業員の前記撮像領域における滞留位置又は通過位置に関する動線情報を取得し、所定の送信周期毎に、前記生成された前記背景画像と、前記抽出された前記移動体の動線情報と、前記取得された前記従業員の動線情報とを前記サーバ装置に送信し、前記サーバ装置において、前記移動体の動線情報から前記従業員の動線情報を差し引いて得られた動線情報を、前記撮像画像の背景画像に重畳した動線分析画像を生成し、前記生成された前記動線分析画像を表示部に表示させる、動線分析方法である。
【発明の効果】
【００１３】
本発明によれば、撮像画像に含まれる移動体の動線情報から、位置情報受信装置で得られた従業員の動線情報を差し引いて従業員以外の移動体の動線情報を得た後、該動線情報を背景画像に重畳した動線分析画像を生成して表示するので、従業員以外の移動体の撮像領域における滞留位置又は通過位置のみを把握することができる。例えば、従業員と来客者が混在する店舗で使用した場合に、来客者の滞留位置又は通過位置のみを把握することができる。
【図面の簡単な説明】
【００１４】
【図１】本実施形態に係る販売管理システムの概略構成を示すブロック図
【図２】本実施形態に係る販売管理システムの複数のカメラ装置、ＢＬＥ受信端末及びＢＬＥ送信端末の概要を示す図
【図３】本実施形態に係る販売管理システムのカメラ装置及びサーバ装置のそれぞれの機能的な内部構成を詳細に示すブロック図
【図４】本実施形態に係る販売管理システムのカメラ装置の画像入力、背景画像生成、動線情報分析の各処理の動作タイミングを説明するタイムチャート
【図５】本実施形態に係る販売管理システムのカメラ装置の画像入力部に入力された撮像画像の一例と背景画像生成部により生成された背景画像の一例を示す図
【図６】本実施形態に係る販売管理システムのサーバ装置における動線分析画像生成過程を説明するためのフローチャート
【図７】本実施形態に係る販売管理システムのサーバ装置における動線分析画像の生成過程を示す模式図
【図８】本実施形態の変形例のカメラ装置の機能的な内部構成を詳細に示すブロック図
【発明を実施するための形態】
【００１５】
以下、本発明に係る動線分析システム、カメラ装置及び動線分析方法の実施形態（以下、「本実施形態」という）について、図面を参照して説明する。
【００１６】
図１は、本実施形態に係る販売管理システム１０００の概略構成を示すブロック図である。同図において、本実施形態に係る販売管理システム１０００は、複数の店舗Ａ，Ｂ，Ｃ，…に設置された動線分析システム５００Ａ，５００Ｂ，５００Ｃ，…と、運営本部のサーバ装置６００と、スマートフォン７００と、クラウドコンピュータ８００と、設定端末装置９００とを有する。複数の店舗Ａ，Ｂ，Ｃ，…に設置された動線分析システム５００Ａ，５００Ｂ，５００Ｃ，…は、ネットワークＮＷを介してサーバ装置６００、スマートフォン７００、クラウドコンピュータ８００及び設定端末装置９００と相互に接続されている。
【００１７】
ネットワークＮＷは、無線ネットワーク又は有線ネットワークである。無線ネットワークは、例えば無線ＬＡＮ（Local Area Network）、無線ＷＡＮ（Wide Area Network）、３Ｇ、ＬＴＥ（Long Term Evolution）又はＷｉＧｉｇ（Wireless Gigabit）である。有線ネットワークは、例えばイントラネット又はインターネットである。
【００１８】
店舗Ａに設置された動線分析システム５００Ａは、フロア１に設置された複数のカメラ装置１００，１００Ａ，…，１００Ｎと、レコーダ２００と、サーバ装置３００と、入力デバイス４００と、モニタ４５０とを有する。フロア１に設置されたカメラ装置１００，１００Ａ，…，１００Ｎ、レコーダ２００及びサーバ装置３００は、ネットワークＮＷに接続される。なお、フロア２にもフロア１と同様に複数のカメラ装置１００，１００Ａ，…，１００Ｎが設置され、フロア２内のカメラ装置の図示を省略している。また、それぞれのカメラ装置１００，１００Ａ，…１００Ｎの内部構成は同様であり、その詳細については図３を参照して後述する。
【００１９】
店舗Ａに設置された動線分析システム５００Ａは、さらに、店舗Ａの全従業員（店長を含む店舗関係者の全て）に所持させる複数（１−ｎ、ｎは整数）のＢＬＥ送信端末１５０と、店舗Ａ内に設置される複数（１−ｍ、ｍは整数）のＢＬＥ受信端末１６０とを有する。ＢＬＥ受信端末１６０はフロア毎に複数設置される。ＢＬＥ送信端末１５０及びＢＬＥ受信端末１６０は、近距離無線通信技術Bluetooth（登録商標）の拡張使用の一つであるＢＬＥ（Bluetooth（登録商標） Low Energy）を用いた通信機能を有する。ＢＬＥ送信端末１５０は、これを所持する従業員の位置情報を送信し、ＢＬＥ受信端末１６０は、ＢＬＥ送信端末１５０から送信された位置情報を受信する。なお、フロア毎に設置されるＢＬＥ受信端末１６０の個数は予め決められるが、ＢＬＥ送信端末１５０の個数は従業員数に応じて変動する。
【００２０】
店舗Ａ内に設置される全てのＢＬＥ受信端末１６０は、ネットワークＮＷに接続される。他の店舗Ｂ，Ｃ，…においても全従業員がＢＬＥ送信端末１５０を所持し、フロア毎に複数のＢＬＥ受信端末１６０が設置される。図２は、例えばフロア１に設置されたカメラ装置１００，１００Ａ，…及びＢＬＥ受信端末１６０と、フロア１にいる従業員１５１が所持しているＢＬＥ送信端末１５０の概要を示す図である。同図に示すように、複数のカメラ装置１００，１００Ａ，…及び複数のＢＬＥ受信端末１６０のそれぞれがネットワークＮＷに接続される。各カメラ装置１００，１００Ａ，…は、フロア１にいる従業員１５１と来客者１５２を撮影する。各ＢＬＥ送信端末１５０は、フロア１にいる従業員１５１に所持され、従業員１５１の位置情報を送信する。
【００２１】
図１に戻り、レコーダ２００は、例えば半導体メモリ又はハードディスク装置を用いて構成され、店舗Ａ内に設置された各カメラ装置１００，１００Ａ，…，１００Ｎの撮像により得られた画像（以下、カメラ装置の撮像により得られた画像を「撮像画像」という）のデータを記憶する。レコーダ２００に記憶された撮像画像のデータは、例えば防犯等の監視業務に供される。なお、カメラ装置の撮像により得られた撮像画像をレコーダ２００に記憶する際には、日時と各カメラ装置１００，１００Ａ，…，１００Ｎに付与された識別番号も一緒に記憶される。
【００２２】
サーバ装置３００は、例えばＰＣ（Personal Computer）を用いて構成され、入力デバイス４００を操作するユーザ（例えば動線分析システムのユーザであって、店舗Ａの店長を含む従業員を指す、以下同様）の入力操作に応じて、所定のイベント（例えば店舗Ａのフロア１の売場のレイアウトの変更）が発生したことをカメラ装置１００に通知する。また、詳細は後述するが、サーバ装置３００は、店舗Ａ内に設置された各カメラ装置１００，１００Ａ，…，１００Ｎから送信されたデータを用いて、店舗Ａ内での来客者１５２の滞留位置又は通過位置に関する動線情報を撮像画像の背景画像に重畳した動線分析画像（ヒートマップ画像）を生成してモニタ４５０に表示させる。なお、サーバ装置３００の内部構成の詳細については図３を参照して後述する。
【００２３】
入力デバイス４００は、例えばマウス、キーボード、タッチパネル又はタッチパッドを用いて構成され、ユーザの入力操作に応じた信号をカメラ装置１００又はサーバ装置３００に出力する。なお、図１では、図面を簡単にするために、入力デバイス４００とカメラ装置１００との間にだけ矢印が図示されているが、入力デバイス４００と他のカメラ装置（例えばカメラ装置１００Ａ、１００Ｎ）との間に矢印が図示されても良い。モニタ４５０は、例えばＬＣＤ（Liquid Crystal Display）又は有機ＥＬ（Electrolumines-cence）を用いて構成され、サーバ装置３００により生成された動線分析画像のデータを表示する。なお、モニタ４５０は、サーバ装置３００とは異なる外部装置として設けられるが、サーバ装置３００の内部に含まれた構成としても良い。
【００２４】
運営本部のサーバ装置６００は、このサーバ装置６００を操作する運営本部の従業員（例えば役員）の入力操作に応じて、各店舗Ａ，Ｂ，Ｃ，…内に設置された動線分析システム５００Ａ，５００Ｂ，５００Ｃ，…において生成された動線分析画像を取得して表示するための閲覧用装置である。スマートフォン７００は、このスマートフォン７００を操作する運営本部の従業員（例えば営業担当者）の入力操作に応じて、各店舗Ａ，Ｂ，Ｃ，…内に設置された動線分析システム５００Ａ，５００Ｂ，５００Ｃ，…において生成された動線分析画像を取得して表示するための閲覧用装置である。クラウドコンピュータ８００は、各店舗Ａ，Ｂ，Ｃ，…内に設置された動線分析システム５００Ａ，５００Ｂ，５００Ｃ，…において生成された動線分析画像のデータを記憶するオンラインストレージである。
【００２５】
設定端末装置９００は、例えばＰＣを用いて構成され、各店舗Ａ，Ｂ，Ｃ，…内に設置された動線分析システム５００Ａ，５００Ｂ，５００Ｃ，…のカメラ装置の設定画面を表示する専用のブラウザソフトウェアを実行可能である。設定端末装置９００は、これを操作する運営本部の従業員（例えば販売管理システム１０００のシステム管理者）の入力操作に応じて、カメラ装置の設定画面（例えばＣＧＩ（Common Gateway Interface））をブラウザソフトウェアにおいて表示し、カメラ装置の設定情報を編集（修正、追加、削除）して設定する。
【００２６】
（カメラ装置）
図３は、本実施形態のカメラ装置１００及びサーバ装置３００のそれぞれの機能的な内部構成を詳細に示すブロック図である。なお、図１に示す販売管理システム１０００において、店舗Ａ，Ｂ，Ｃ，…に設置されるそれぞれのカメラ装置は同様な構成であるため、図３ではカメラ装置１００を例示して説明する。
【００２７】
図３において、カメラ装置１００は、撮像部１０と、画像入力部２０と、背景画像生成部３０と、動線情報分析部４０と、スケジュール管理部５０と、送信部６０と、イベント情報受領部７０と、背景画像蓄積部８０と、通過／滞留分析情報蓄積部９０と、従業員情報取得部１７０と、従業員の通過／滞留分析情報蓄積部１７１とを有する。
【００２８】
撮像部１０は、不図示のレンズとイメージセンサとを少なくとも有する。レンズは、カメラ装置１００の外部から入射する光（光線）を集光し、イメージセンサの所定の撮像面に結像させる。レンズには、魚眼レンズ、又は例えば１４０度以上の画角が得られる広角レンズが用いられる。イメージセンサは、例えばＣＣＤ（Charged-Coupled Device）又はＣＭＯＳ（Complementary Metal Oxide Semiconductor）の固体撮像素子であり、撮像面に結像した光学像を電気信号に変換する。
【００２９】
画像入力部２０は、例えばＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro Processing Unit）又はＤＳＰ（Digital Signal Processor）を用いて構成され、撮像部１０からの電気信号を用いて所定の信号処理を行うことで、人間が認識可能なＲＧＢ（Red Green Blue）又はＹＵＶ（輝度・色差）等により規定される撮像画像のデータ（フレーム）を生成して背景画像生成部３０及び動線情報分析部４０に出力する。
【００３０】
背景画像生成部３０は、入力画像学習部３１と、移動体分離部３２と、背景画像抽出部３３とを有し、撮像領域の撮像画像の背景画像を繰り返し生成する。背景画像生成部３０は、例えばＣＰＵ、ＭＰＵ又はＤＳＰを用いて構成され、所定のフレームレート（例えば３０ｆｐｓ（frame per second））で、画像入力部２０から出力された撮像画像のデータ（フレーム）毎に、撮像画像に含まれる移動体を排除した背景画像を生成して背景画像蓄積部８０に保存する。背景画像生成部３０における背景画像の生成処理は、例えば下記の参考特許文献に開示されている方法を用いることができるが、この参考特許文献に開示されている方法に限定されない。
【００３１】
（参考特許文献）特開２０１２−２０３６８０号公報
【００３２】
ここで、背景画像生成部３０の動作概要について、図４及び図５を参照して簡単に説明する。図４は、本実施形態のカメラ装置１００の背景画像生成部３０の動作概要の説明図である。図５の（ａ）は、画像入力部２０に入力された撮像画像の一例を示す図である。図５の（ｂ）は、背景画像生成部３０により生成された背景画像の一例を示す図である。
【００３３】
図４では、紙面の上側から下側に向かう時間軸に直交する紙面の左側から右側に向かって、入力画像学習部３１、移動体分離部３２、背景画像抽出部３３の生成結果が模式的に示され、店舗の来店客が飲料の入った４つの段ボールのうち１つの段ボールを持ち運ぶ様子が示されている。
【００３４】
入力画像学習部３１は、画像入力部２０から出力された複数の撮像画像のフレーム（例えば図４に示す各フレームＦＭ１〜ＦＭ５）において、画素毎に、画素の輝度及び色差の値の分布状況を分析する。移動体分離部３２は、入力画像学習部３１の学習結果（即ち、複数のフレーム間（例えば図４に示す時間軸方向）の同一画素毎の輝度及び色差の分布状況の分析結果）を用いて、撮像画像の各フレームＦＭ１〜ＦＭ５において、移動体の情報（例えばフレームＦＭ１ａ〜ＦＭ５ａ参照）と移動体以外（例えば、背景）の情報（例えばフレームＦＭ１ｂ〜ＦＭ５ｂ参照）とに分離する。なお、移動体である人物が段ボールを持ち運ぶ様子を示す撮像画像のフレームＦＭ３，ＦＭ４では、人物が持ち運ぶ段ボールの画素に対応する輝度及び色差の値は時間軸方向（例えば図４参照）に沿って変化するので、移動体分離部３２は、人物が持ち運ぶ段ボールを移動体とみなす。
【００３５】
背景画像抽出部３３は、移動体分離部３２が分離した情報のうち、移動体以外の情報が映るフレームＦＭ１ｂ〜ＦＭ５ｂを、画像入力部２０から出力された撮像画像のフレームＦＭ１〜ＦＭ５の背景画像のフレームＦＭ１ｃ〜ＦＭ５ｃとして抽出して背景画像蓄積部８０に保存する。
【００３６】
図５の（ａ）に示す撮像画像のフレームＦＭ１０ａでは、例えば食堂の中で料理を提供している人、料理をトレーで受け取る人がそれぞれ移動体として示されている。図５の（ａ）に示す撮像画像のフレームＦＭ１０ａに対して、背景画像生成部３０が生成した背景画像のフレームＦＭ１０ｃ（図５の（ｂ）参照）では、移動体としての同じ食堂の中で料理を提供している人も料理を受け取る人も映らないように排除されている。以上が背景画像生成部３０の動作概要である。
【００３７】
図３に戻り、動線情報分析部４０は、対象検出部４１と、動線情報取得部４２と、通過／滞留状況分析部４３とを有する。動線情報分析部４０は、例えばＣＰＵ、ＭＰＵ又はＤＳＰを用いて構成され、所定のフレームレート（例えば１０ｆｐｓ）で、画像入力部２０から出力された撮像画像のデータ（フレーム）毎に、撮像画像に含まれる移動体の滞留位置又は通過位置に関する動線情報を抽出して通過／滞留分析情報蓄積部９０に保存する。
【００３８】
対象検出部４１は、画像入力部２０から出力された撮像画像のフレームに対して所定の画像処理（例えば人物検出処理、顔検出処理）を行うことで、撮像画像のフレームに含まれる移動体の有無を検出する。対象検出部４１は、撮像画像のフレームに含まれる移動体を検出した場合には、撮像画像のフレームに対する移動体の検出領域に関する情報（例えばフレームの座標情報）を動線情報取得部４２に出力する。なお、対象検出部４１は、撮像画像のフレームに含まれる移動体を検出しなかった場合には、移動体の検出領域に関する情報（例えば所定のヌル情報）を動線情報取得部４２に出力する。
【００３９】
動線情報取得部４２は、対象検出部４１から出力された移動体の検出領域に関する情報を基に、画像入力部２０から出力された撮像画像の情報と、過去の移動体の検出領域に関する情報（例えば、撮像画像情報や座標情報）を用いて、現在と過去の検出領域に関する情報の紐付けを行い、動線情報（例えば移動体の検出領域の座標情報の変化量）として通過／滞留状況分析部４３に出力する。
【００４０】
通過／滞留状況分析部４３は、複数の撮像画像に対して動線情報取得部４２から出力された動線情報を基に、撮像画像のフレームにおける移動体の滞留位置又は通過位置に関する動線情報（例えば、「対象位置情報」と「動線情報」と「通過状況又は滞留状況に関する情報」）を抽出して生成する。また、通過／滞留状況分析部４３は、移動体の滞留位置又は通過位置に関する動線情報の抽出結果を用いて、サーバ装置３００の表示画像生成部３５０において生成される動線分析画像（ヒートマップ画像）のカラー部分の可視化画像を生成しても良い。通過／滞留状況分析部４３は、複数の撮像画像のフレームに対する動線情報を用いることで、画像入力部２０から出力された撮像画像のフレームの中で、移動体が滞留した位置又は通過した位置に関する正確な動線情報を抽出して生成することができる。
【００４１】
従業員情報取得部１７０は、例えばＣＰＵ、ＭＰＵ又はＤＳＰを用いて構成され、ＢＬＥ受信端末１６０の出力に基づき、撮像領域の撮像画像に含まれる従業員の撮像領域における滞留位置又は通過位置に関する動線情報を検出して従業員の通過／滞留分析情報蓄積部１７１に保存する。スケジュール管理部５０は、例えばＣＰＵ、ＭＰＵ又はＤＳＰを用いて構成され、背景画像蓄積部８０に保存された背景画像のデータと、通過／滞留分析情報蓄積部９０に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータと、従業員の通過／滞留分析情報蓄積部１７１に保存された従業員情報のデータとをサーバ装置３００に定期的に送信するための所定の送信周期を送信部６０に指示する。所定の送信周期は、例えば１５分、１時間、１２時間、２４時間等であるが、これらの時間間隔に限定されない。
【００４２】
送信部６０は、スケジュール管理部５０又はイベント情報受領部７０からの指示に応じて、背景画像蓄積部８０に保存された背景画像のデータと、通過／滞留分析情報蓄積部９０に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータと、従業員の通過／滞留分析情報蓄積部１７１に保存された従業員情報のデータとを取得してサーバ装置３００に送信する。
【００４３】
イベント情報受領部７０は、サーバ装置３００又は入力デバイス４００から所定のイベント（例えば店舗Ａのフロア１の売場のレイアウトの変更）の検出の通知を受領（取得）し、所定のイベントの検出の通知を受領したことで、背景画像蓄積部８０に保存された背景画像のデータと、通過／滞留分析情報蓄積部９０に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータと、従業員の通過／滞留分析情報蓄積部１７１に保存された従業員情報のデータとのサーバ装置３００への送信指示を送信部６０に出力する。
【００４４】
背景画像蓄積部８０は、例えばＳＤメモリカード等の半導体メモリ又はハードディスク装置を用いて構成され、背景画像生成部３０により生成された背景画像のデータ（フレーム）を記憶する。通過／滞留分析情報蓄積部９０は、例えば半導体メモリ又はハードディスク装置を用いて構成され、動線情報分析部４０により生成された移動体の滞留位置又は通過位置に関する動線情報の抽出結果（例えば、「対象位置情報」と「動線情報」と「通過状況又は滞留状況に関する情報」）のデータを記憶する。従業員の通過／滞留分析情報蓄積部１７１は、例えば半導体メモリ又はハードディスク装置を用いて構成され、従業員情報取得部１７０で取得された従業員の撮像領域における滞留位置又は通過位置に関する動線情報のデータを記憶する。
【００４５】
なお、図３に示すカメラ装置１００は、イベント情報受領部７０の代わりに、シーン識別部ＳＤを設けても良い。画像変化検出部の一例としてのシーン識別部ＳＤは、画像入力部２０から出力された撮像画像の変化（例えば店舗Ａのフロア１の売場のレイアウトが変更したというイベント）の有無を検出する。シーン識別部ＳＤは、撮像画像の変化を検出した場合には、背景画像蓄積部８０に保存された背景画像のデータと、通過／滞留分析情報蓄積部９０に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータと、従業員の通過／滞留分析情報蓄積部１７１に保存された従業員の撮像領域における滞留位置又は通過位置に関する動線情報のデータとのサーバ装置３００への送信指示を送信部６０に出力する。
【００４６】
また、図３に示すカメラ装置１００は、人数カウント部ＣＴを更に設けても良い。移動体検出部の一例としての人数カウント部ＣＴは、画像入力部２０から出力された撮像画像に対して所定の画像処理（例えば人物検出処理）を行うことで、撮像画像に含まれる移動体の検出数をカウントする。人数カウント部ＣＴは、撮像画像に含まれる移動体の検出数に関する情報を送信部６０に出力する。
【００４７】
（サーバ装置）
図３に示すサーバ装置３００は、イベント情報受領部３１０と、通知部３２０と、受信部３３０と、受信情報蓄積部３４０と、表示画像生成部３５０と、レポート生成出力部３６０とを含む構成である。イベント情報受領部３１０は、該当するカメラ装置（例えばカメラ装置１００）毎に、所定のイベント（例えば店舗Ａのフロア１の売場のレイアウトの変更）が発生したことを示す情報が入力デバイス４００から入力された場合には、所定のイベントの検出の通知を受領する。イベント情報受領部３１０は、所定のイベントの検出の通知を受領したことを通知部３２０に出力する。なお、所定のイベントが発生したことを示す情報には、所定のイベントが発生した場所を撮像領域として撮像するカメラ装置の識別番号が含まれる。
【００４８】
通知部３２０は、イベント情報受領部３１０から出力された所定のイベントの検出の通知を該当するカメラ装置（例えばカメラ装置１００）に送信する。受信部３３０は、カメラ装置１００の送信部６０から送信されたデータ（即ち、背景画像蓄積部８０に保存された背景画像のデータ、通過／滞留分析情報蓄積部９０に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータ、及び従業員の通過／滞留分析情報蓄積部１７１に保存された従業員の撮像領域における滞留位置又は通過位置に関する動線情報のデータ）を受信して受信情報蓄積部３４０及び表示画像生成部３５０に出力する。
【００４９】
受信情報蓄積部３４０は、例えば半導体メモリ又はハードディスク装置を用いて構成され、受信部３３０が受信したデータ（即ち、背景画像蓄積部８０に保存された背景画像のデータ、通過／滞留分析情報蓄積部９０に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータ、及び従業員の通過／滞留分析情報蓄積部１７１に保存された従業員の撮像領域における滞留位置又は通過位置に関する動線情報のデータ）を記憶する。受信情報蓄積部３４０には、当該データの記憶において、日時や各カメラ装置１００，１００Ａ，…，１００Ｎの設置位置に対する撮像場所等の撮像画像を特定できる情報も併せて記憶される。
【００５０】
表示画像生成部３５０は、例えばＣＰＵ、ＭＰＵ又はＤＳＰを用いて構成され、受信部３３０又は受信情報蓄積部３４０から取得したデータ（即ち、背景画像蓄積部８０に保存された背景画像のデータ、通過／滞留分析情報蓄積部９０に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータ、及び従業員の通過／滞留分析情報蓄積部１７１に保存された従業員の撮像領域における滞留位置又は通過位置に関する動線情報のデータ）を用いて、動線分析画像を生成する。すなわち、表示画像生成部３５０は、移動体の滞留情報又は通過情報に関する動線情報から従業員の撮像領域における滞留位置又は通過位置に関する動線情報を差し引いて得られた動線情報を、撮像画像の背景画像に重畳した動線分析画像を生成する。なお、表示画像生成部３５０は、画像生成部と表示制御部に対応する。
【００５１】
動線分析画像は、カメラ装置１００が撮像した撮像画像の中で移動体である従業員や来客者が映らないように排除された背景画像に、撮像画像に対応する撮像領域において来客者がどこによく滞留したか、又はどこを通過したかを視覚的に示す動線情報がヒートマップのように定量的に可視化された画像である。また、表示画像生成部３５０は、生成した動線分析画像をモニタ４５０に表示させる。
【００５２】
レポート生成出力部３６０は、例えばＣＰＵ、ＭＰＵ又はＤＳＰを用いて構成され、動線分析レポートの生成指示が入力デバイス４００から入力された場合には、動線分析レポートを生成する。レポート生成出力部３６０は、生成した動線分析レポートをモニタ４５０に表示させる。
【００５３】
図６は、サーバ装置３００における動線分析画像（ヒートマップ画像）生成過程を説明するためのフローチャートである。また、図７は、動線分析画像の生成過程を示す模式図である。図６において、まずユーザが来客者の滞留・通過位置を取得する場所及び期間を指定する（ステップＳ１）。例えば場所として店舗Ａのフロア１を指定し、期間として１月１日から１月３１日を指定する。来客者の滞留・通過位置を取得する場所及び期間が指定されると、表示画像生成部３５０は、指定された場所及び期間においてカメラ装置（例えばカメラ装置１００）で収集された来客者、従業員等を含めた全検出人数の滞留／通過位置情報［Ａ］を受信情報蓄積部３４０から取得する（ステップＳ２）。図７の（ａ）は、来客者、従業員等を含めた全検出人数の滞留／通過位置情報［Ａ］を示す図である。
【００５４】
表示画像生成部３５０は、来客者、従業員等を含めた全検出人数の滞留／通過位置情報［Ａ］を取得した後、指定された場所及び期間においてＢＬＥ受信端末１６０で収集された従業員のみの検出人数の滞留／通過位置情報［Ｂ］を受信情報蓄積部３４０から取得する（ステップＳ３）。図７の（ｂ）は、従業員のみの検出人数の滞留／通過位置情報［Ｂ］を示す図である。
【００５５】
表示画像生成部３５０は、従業員のみの検出人数の滞留／通過位置情報［Ｂ］を取得した後、カメラ装置１００で収集された滞留／通過位置情報［Ａ］からＢＬＥ受信端末１６０で収集された滞留／通過位置情報［Ｂ］を減算する（ステップＳ４）。すなわち、全検出人数から従業員分の検出人数を差し引いて、来客者のみの滞留／通過位置情報を得る。図７の（ｃ）は、来客者のみの検出人数の滞留／通過位置情報［Ｃ］を示す図である。以上により、来客者のみの動線情報が得られる。
【００５６】
表示画像生成部３５０は、来客者のみの動線情報を取得した後、この動線情報を、撮像画像の背景画像（受信情報蓄積部３４０に保存されている）に重畳することで動線分析画像を生成する。そして、生成した動線分析画像をモニタ４５０に表示する。
【００５７】
以上により、本実施形態の動線分析システム５００Ａでは、ＢＬＥ送信端末１５０を従業員に所持させ、ＢＬＥ受信端末１６０を店舗内の各所に設置して、ＢＬＥ送信端末１５０から送信された従業員の位置情報をＢＬＥ受信端末１６０で受信させる。カメラ装置１００は、所定の撮像領域を撮像して、該撮像領域の撮像画像の背景画像を繰り返し生成し、また所定の撮像領域の撮像画像に含まれる従業員を含む移動体の撮像領域における滞留位置又は通過位置に関する動線情報を抽出するとともに、ＢＬＥ受信端末１６０で受信された従業員の位置情報に基づき、撮像画像に含まれる従業員の撮像領域における滞留位置又は通過位置に関する動線情報を取得する。そして、所定の送信周期毎に、生成した背景画像と、抽出した従業員を含む移動体の動線情報と、取得した従業員の動線情報と、をサーバ装置３００に送信する。サーバ装置３００は、カメラ装置１００から送信された背景画像と、従業員を含む移動体の動線情報と、従業員の動線情報とを受信し、受信した従業員を含む移動体の動線情報から従業員の動線情報を差し引き、これにより得られた動線情報（すなわち、来客者の動線情報）を、撮像画像の背景画像に重畳して動線分析画像を生成し、生成した動線分析画像をモニタ４５０に表示させる。
【００５８】
これにより、従業員と来客者が混在する店舗において、来客者の滞留位置又は通過位置のみを把握することができる。また、従業員と来客者を区別できることから、従業員の動きと来客者の動きの相関を直感的に把握することができる。また、従業員と来客者のプライバシーに配慮して来店傾向の把握ができる。
【００５９】
（本実施形態の変形例）
なお、上述した本実施形態では、動線分析画像の生成処理はサーバ装置３００において実行されているが、動線分析画像の生成処理までをカメラ装置１００が実行しても良い。図８は、本実施形態の変形例のカメラ装置１００Ｓの機能的な内部構成を詳細に示すブロック図である。図８に示すカメラ装置１００Ｓは、撮像部１０と、画像入力部２０と、背景画像生成部３０と、動線情報分析部４０と、スケジュール管理部５０と、送信部６０Ｓと、イベント情報受領部７０と、背景画像蓄積部８０と、通過／滞留分析情報蓄積部９０と、表示画像生成部３５０Ｓとを有する。図８に示すカメラ装置１００Ｓの各部の説明において、図３に示すカメラ装置１００と同一の構成及び動作のものには同一の符号を付して説明を省略し、異なる内容について説明する。
【００６０】
表示画像生成部３５０Ｓは、スケジュール管理部５０又はイベント情報受領部７０からの指示に応じて、背景画像蓄積部８０に保存された背景画像のデータと、通過／滞留分析情報蓄積部９０に保存された移動体の滞留情報又は通過情報に関する動線情報の抽出結果のデータと、従業員の通過／滞留分析情報蓄積部１７１に保存された従業員の撮像領域における滞留位置又は通過位置に関する動線情報のデータとを用いて、従業員を含む移動体の動線情報から従業員の動線情報を差し引いて得られた動線情報を、撮像画像の背景画像に重畳した動線分析画像を生成して送信部６０Ｓに出力する。送信部６０Ｓは、表示画像生成部３５０Ｓにより生成された動線分析画像のデータをサーバ装置３００に送信する。
【００６１】
以上により、本実施形態の変形例では、カメラ装置１００Ｓは、所定の撮像領域の撮像画像の背景画像を生成し、撮像領域の撮像画像に含まれる従業員を含む移動体の撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、またＢＬＥ受信端末１６０の出力に基づき、撮像画像に含まれる従業員の撮像領域における滞留位置又は通過位置に関する動線情報を取得し、抽出した移動体の動線情報から、取得した従業員の動線情報を差し引いて得られた動線情報を、背景画像に重畳した動線分析画像を生成する。
【００６２】
これにより、カメラ装置１００Ｓにおいて、来客者の滞留位置又は通過位置のみを把握することができる。また、従業員と来客者を区別できることから、従業員の動きと来客者の動きの相関を直感的に把握することができる。また、従業員と来客者のプライバシーに配慮して来店傾向の把握ができる。
【００６３】
また、カメラ装置１００Ｓは、動線分析画像の生成処理まで実行して生成結果である動線分析画像のデータをサーバ装置３００に送信するので、例えばサーバ装置３００の処理負荷が相当に高い状態では、動線分析画像の生成処理をサーバ装置３００に実行させなくて済むため、サーバ装置３００の処理負荷の増大を抑制することができる。
【００６４】
以上、図面を参照しながら各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
【産業上の利用可能性】
【００６５】
本発明は、来客者と従業員が混在する店舗において、来客者のみの滞留や通過を把握することができるといった効果を有し、所定のタイミングで更新された背景画像に人物の滞留情報又は通過情報を重畳した正確な動線分析画像を生成する動線分析システム、カメラ装置及び動線分析方法として有用である。
【符号の説明】
【００６６】
１０  撮像部
２０  画像入力部
３０  背景画像生成部
３１  入力画像学習部
３２  移動体分離部
３３  背景画像抽出部
４０  動線情報分析部
４１  対象検出部
４２  動線情報取得部
４３  通過／滞留状況分析部
５０  スケジュール管理部
６０  送信部
７０  イベント情報受領部
８０  背景画像蓄積部
９０  通過／滞留分析情報蓄積部
１００、１００Ａ、１００Ｎ、１００Ｓ  カメラ装置
１５０  ＢＬＥ送信端末
１５１  従業員
１５２  来客者
１６０  ＢＬＥ受信端末
１７０  従業員情報取得部
１７１  従業員の通過／滞留分析情報蓄積部
２００  レコーダ
３００、６００  サーバ装置
３１０  イベント情報受領部
３２０  通知部
３３０  受信部
３４０  受信情報蓄積部
３５０  表示画像生成部
３６０  レポート生成出力部
４００  入力デバイス
４５０  モニタ
５００Ａ、５００Ｂ、５００Ｃ  動線分析システム
７００  スマートフォン
８００  クラウドコンピュータ
９００  設定端末装置
１０００  販売管理システム
ＣＴ  人数カウント部
ＳＤ  シーン識別部
【要約】
【課題】来客者と従業員が混在する店舗において、来客者の滞留位置や通過位置のみを把握することができる動線分析システム、カメラ装置及び動線分析方法を提供する。
【解決手段】カメラ装置１００は、所定の撮像領域の撮像画像の背景画像を生成し、また所定の撮像領域の撮像画像に含まれる従業員を含む移動体の撮像領域における滞留位置又は通過位置に関する動線情報を抽出し、またＢＬＥ受信端末１６０で受信された従業員の位置情報に基づき、撮像画像に含まれる従業員の撮像領域における滞留位置又は通過位置に関する動線情報を取得し、これらの情報をサーバ装置３００に送り、サーバ装置３００は、カメラ装置１００からの背景画像、従業員を含む移動体の動線情報及び従業員の動線情報を受信し、従業員を含む移動体の動線情報から従業員の動線情報を差し引いて得られた動線情報を背景画像に重畳して動線分析画像を生成する。
【選択図】図３【図１】
0005909708.tif 000002
【図２】
0005909708.tif 000003
【図３】
0005909708.tif 000004
【図４】
0005909708.tif 000005
【図５】
0005909708.tif 000006
【図６】
0005909708.tif 000007
【図８】
0005909708.tif 000008
【図７】
0005909708.tif 000009