(57)【特許請求の範囲】
【請求項１】
商品を顧客に提示する提示領域を撮像した入力画像情報を取得する画像情報取得手段と、
前記入力画像情報に基づいて、前記顧客が前記商品を把持した状態で、前記顧客が当該商品の識別表示を見ているか否かを検出する動作検出手段と、
前記動作検出手段により検出した結果と前記顧客の前記商品の購入結果との関係を含む顧客行動分析情報を生成する顧客行動分析情報生成手段と、
を備える顧客行動分析システム。
【請求項２】
前記入力画像情報は、対象を撮像した画像情報と前記対象までの距離を計測した距離情報を含む距離画像情報である、
請求項１に記載の顧客行動分析システム。
【請求項３】
前記動作検出手段は、前記顧客の手の動作をトラッキングし、前記顧客の手が前記商品に接触している場合、前記顧客が前記商品を把持していると判断する、
請求項１または２に記載の顧客行動分析システム。
【請求項４】
前記動作検出手段は、前記顧客の視線の動作をトラッキングし、前記顧客の視線が前記商品の識別表示へ向いている場合、前記顧客が前記商品を見ていると判断する、
請求項１乃至３のいずれか一項に記載の顧客行動分析システム。
【請求項５】
前記商品の識別表示は、前記商品の特性情報を含むラベルである、
請求項１乃至４のいずれか一項に記載の顧客行動分析システム。
【請求項６】
前記顧客を認識する顧客認識手段を備え、
前記顧客行動分析情報生成手段は、前記顧客行動分析情報として、前記認識した顧客に関する情報を生成する、
請求項１乃至５のいずれか一項に記載の顧客行動分析システム。
【請求項７】
前記顧客の動線を解析する動線解析手段を備え、
前記顧客行動分析情報生成手段は、前記顧客行動分析情報として、前記解析した顧客の動線に関する情報を生成する、
請求項１乃至６のいずれか一項に記載の顧客行動分析システム。
【請求項８】
前記商品の購入結果は、前記顧客が前記商品をショッピングカートまたはショッピングバスケットへ入れたか否かを含む、
請求項１乃至７のいずれか一項に記載の顧客行動分析システム。
【請求項９】
前記商品の購入結果は、前記顧客が前記商品を、当該商品の配置位置へ戻したか否かを含む、
請求項１乃至８のいずれか一項に記載の顧客行動分析システム。
【請求項１０】
前記生成された顧客行動分析情報に基づいて、前記顧客の行動を分析する顧客行動分析手段を備える、
請求項１乃至９のいずれか一項に記載の顧客行動分析システム。
【請求項１１】
前記顧客行動分析手段は、前記顧客が前記商品の識別表示を見た確率、前記顧客が前記商品を購入した確率を求める、
請求項１０に記載の顧客行動分析システム。
【請求項１２】
前記顧客の嗜好情報を記憶する顧客嗜好情報記憶手段を備え、
前記顧客行動分析手段は、前記顧客行動分析情報と前記顧客の嗜好情報との相関性を判定する、
請求項１０または１１に記載の顧客行動分析システム。
【請求項１３】
前記顧客の属性情報を記憶する顧客属性情報記憶手段を備え、
前記顧客行動分析手段は、前記顧客行動分析情報と前記顧客の属性情報との相関性を判定する、
請求項１０乃至１２のいずれか一項に記載の顧客行動分析システム。
【請求項１４】
前記顧客の購入履歴情報を記憶する購入履歴情報記憶手段を備え、
前記顧客行動分析手段は、前記顧客行動分析情報と前記顧客の購入履歴情報との相関性を判定する、
請求項１０乃至１３のいずれか一項に記載の顧客行動分析システム。
【請求項１５】
コンピュータが、
商品を顧客に提示する提示領域を撮像した入力画像情報を取得し、
前記入力画像情報に基づいて、前記顧客が前記商品を把持した状態で、前記顧客が当該商品の識別表示を見ているか否かを検出し、
前記検出した結果と前記顧客の前記商品の購入結果との関係を含む顧客行動分析情報を生成する、
顧客行動分析方法。
【請求項１６】
商品を顧客に提示する提示領域を撮像した入力画像情報を取得し、
前記入力画像情報に基づいて、前記顧客が前記商品を把持した状態で、前記顧客が当該商品の識別表示を見ているか否かを検出し、
前記検出した結果と前記顧客の前記商品の購入結果との関係を含む顧客行動分析情報を生成する、
顧客行動分析処理をコンピュータに実行させるための顧客行動分析プログラム。
【請求項１７】
商品を顧客に提示するために配置する棚と、
前記商品及び前記顧客を撮像した入力画像情報を取得する画像情報取得手段と、
前記入力画像情報に基づいて、前記顧客が前記商品を把持した状態で、前記顧客が当該商品の識別表示を見ているか否かを検出する動作検出手段と、
前記動作検出手段により検出した結果と前記顧客の前記商品の購入結果との関係を含む顧客行動分析情報を生成する顧客行動分析情報生成手段と、
を備える棚システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、顧客行動分析システム、顧客行動分析方法、顧客行動分析プログラムが格納された非一時的なコンピュータ可読媒体及び棚システムに関し、特に、商品及び顧客の画像を用いた顧客行動分析システム、顧客行動分析方法、顧客行動分析プログラムが格納された非一時的なコンピュータ可読媒体及び棚システムに関する。
【背景技術】
【０００２】
多くの商品が陳列された店舗などにおいて、効果的な販売促進活動を可能とするため、顧客の行動分析が行われている。例えば、顧客の店舗内の移動履歴や、商品の購入履歴などから、顧客の行動が分析されている。【０００３】
関連する技術として、例えば、特許文献１〜３が知られている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１１−２５３３４４号公報
【特許文献２】特開２０１２−２５２６１３号公報
【特許文献３】特開２０１１−１２９０９３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
例えば、ＰＯＳシステムを用いて行動分析を行う場合には、商品の決済時点に情報を記録するのみであるため、売れた商品に関する情報しか取得できない。また、特許文献１では、顧客が商品に接触したことを示す情報を取得しているものの、さらに詳細な顧客の行動を分析することはできない。【０００６】
このため、関連する技術では、例えば、顧客が興味を持って手には取ってみたが購入しなかった商品などのように、顧客が購入しなかった商品についての詳細な情報を取得し分析することができず、効果的な販売施策を打つことができない。【０００７】
したがって、関連する技術では、商品を購入しなかった場合などにおいて、より詳細な顧客の行動を分析することが困難であるという問題があった。【０００８】
本発明は、このような問題に鑑み、より詳細な顧客の行動を分析することが可能な顧客行動分析システム、顧客行動分析方法、顧客行動分析プログラムが格納された非一時的なコンピュータ可読媒体及び棚システムを提供することを目的とする。
【課題を解決するための手段】
【０００９】
本発明に係る顧客行動分析システムは、商品を顧客に提示する提示領域を撮像した入力画像情報を取得する画像情報取得部と、前記入力画像情報に基づいて、前記顧客が前記商品を把持した状態で、前記顧客が当該商品の識別表示を見ているか否かを検出する動作検出部と、前記検出した結果と前記顧客の前記商品の購入履歴との関係を含む顧客行動分析情報を生成する顧客行動分析情報生成部と、を備えるものである。【００１０】
本発明に係る顧客行動分析方法は、商品を顧客に提示する提示領域を撮像した入力画像情報を取得し、前記入力画像情報に基づいて、前記顧客が前記商品を把持した状態で、前記顧客が当該商品の識別表示を見ているか否かを検出し、前記検出した結果と前記顧客の前記商品の購入履歴との関係を含む顧客行動分析情報を生成するものである。【００１１】
本発明に係る顧客行動分析プログラムが格納された非一時的なコンピュータ可読媒体は、商品を顧客に提示する提示領域を撮像した入力画像情報を取得し、前記入力画像情報に基づいて、前記顧客が前記商品を把持した状態で、前記顧客が当該商品の識別表示を見ているか否かを検出し、前記検出した結果と前記顧客の前記商品の購入履歴との関係を含む顧客行動分析情報を生成する、顧客行動分析処理をコンピュータに実行させるためのものである。【００１２】
本発明に係る棚システムは、商品を顧客に提示するために配置する棚と、前記商品及び前記顧客を撮像した入力画像情報を取得する画像情報取得部と、前記入力画像情報に基づいて、前記顧客が前記商品を把持した状態で、前記顧客が当該商品の識別表示を見ているか否かを検出する動作検出部と、前記検出した結果と前記顧客の前記商品の購入履歴との関係を含む顧客行動分析情報を生成する顧客行動分析情報生成部と、を備えるものである。
【発明の効果】
【００１３】
本発明によれば、より詳細な顧客の行動を分析することが可能な顧客行動分析システム、顧客行動分析方法、顧客行動分析プログラムが格納された非一時的なコンピュータ可読媒体及び棚システムを提供することができる。
【図面の簡単な説明】
【００１４】
【図１】実施の形態に係る顧客行動分析システムの主要な構成を示す構成図である。
【図２】実施の形態１に係る顧客行動分析システムの構成を示す構成図である。
【図３】実施の形態１に係る３Ｄカメラの構成例を示す図である。
【図４】実施の形態１に係る距離画像解析部の構成を示す構成図である。
【図５】実施の形態１に係る顧客行動分析システムの動作を示すフローチャートである。
【図６】実施の形態１に係る距離画像解析処理の動作を示すフローチャートである。
【図７】実施の形態１に係る動作プロファイルの一例を示す図である。
【図８】実施の形態１に係る動作プロファイルの解析例を示す図である。
【図９】実施の形態１に係る動作プロファイルの解析例を示す図である。
【図１０】実施の形態２に係る棚システムの構成を示す構成図である。
【発明を実施するための形態】
【００１５】
（実施の形態の概要）
実施の形態の説明に先立って、実施の形態の特徴についてその概要を説明する。図１は、実施の形態に係る顧客行動分析システムの主要な構成を示している。
【００１６】
図１に示すように、実施の形態に係る顧客行動分析システム１０は、画像情報取得部１１、動作検出部１２、顧客行動分析情報生成部１３を備えている。画像情報取得部１１は、商品を顧客に提示する提示領域を撮像した入力画像情報を取得する。動作検出部１２は、入力画像情報に基づいて、顧客が前記商品を把持した状態で、顧客が当該商品の識別表示を見ているか否かを検出する。顧客行動分析情報生成部１３は、検出した結果と顧客の商品の購入履歴との関係を含む顧客行動分析情報を生成する。
【００１７】
このように、実施の形態では、顧客が前記商品を把持した状態で、顧客が商品の識別表示を見ているか否かを検出し、この検出結果に基づいて顧客行動分析情報を生成する。これにより、顧客が商品のラベルなどの識別表示を見たことと商品の購入との関係を分析できるため、例えば、顧客が商品を購入しなかった理由などを把握することができ、より詳細な顧客の行動を分析することができる。
【００１８】
（実施の形態１）
以下、図面を参照して実施の形態１について説明する。図２は、本実施の形態に係る顧客行動分析システムの構成を示している。この顧客行動分析システムは、店舗等において、顧客の商品に対する動作（行動）を検出し、検出した動作を可視化するための動作プロファイル（顧客行動分析情報）を生成し、分析等を行うシステムである。なお、顧客とは、実際に商品を購入する前（購入決断前）の人物（ショッパー）を含み、例えば、店舗に来店（入店）した任意の人物を含む。
【００１９】
図２に示すように、本実施の形態に係る顧客行動分析システム１は、顧客行動分析装置１００、３Ｄカメラ２１０、顔認識カメラ２２０、店内カメラ２３０を備えている。例えば、顧客行動分析システム１の各構成は同一の店舗に設けられているが、顧客行動分析装置１００を店舗の外部に設けてもよい。なお、ここでは、顧客行動分析システム１の各構成を別々の装置として説明するが、各構成を１または任意の数の装置としてもよい。
【００２０】
３Ｄカメラ（３次元カメラ）２１０は、対象を撮像及び計測し、距離画像（距離画像情報）を生成する撮像装置（距離画像センサ）である。距離画像は、対象を撮像した画像情報と、対象までの距離を計測した距離情報を含んでいる。例えば、３Ｄカメラ２１０は、Ｍｉｃｒｏｓｏｆｔ  Ｋｉｎｅｃｔ（登録商標）や、ステレオカメラなどで構成される。３Ｄカメラを用いることで、距離情報を含めて対象（顧客の動作など）を認識（トラッキング）できるため、高精度な認識処理を行うことができる。
【００２１】
図３のように、本実施の形態では、３Ｄカメラ２１０は、顧客の商品に対する行動を検出するために、商品３０１が配置（陳列）された商品棚（商品陳列棚）３００を撮像し、さらに、商品棚３００の前で商品３０１を購入しようとしている顧客４００を撮像する。３Ｄカメラ２１０は、商品棚３００の商品配置領域と商品棚３００の前で顧客が商品を手に取る／見る領域、すなわち、商品棚３００が商品を顧客に提示する提示領域を撮像する。３Ｄカメラ２１０は、商品棚３００と、商品棚３００の前の顧客４００が撮像可能な位置、例えば、商品棚３００の上方（天井など）や前方（壁など）、もしくは商品棚３００に設置されている。例えば、商品３００は実物の商品であるが、実物に限らず、サンプル品や、ラベルなどを印刷した印刷物などでもよい。
【００２２】
なお、商品棚３００及び顧客４００を撮像する装置として、３Ｄカメラ２１０の例について説明するが、３Ｄカメラに限らず、撮像した画像のみを出力する一般的なカメラ（２Ｄカメラ）で構成してもよい。この場合、画像情報のみを用いてトラッキングが行われる。
【００２３】
顔認識カメラ２２０及び店内カメラ２３０は、対象を撮像した画像を生成する撮像装置（２Ｄカメラ）である。顔認識カメラ２２０は、顧客の顔を認識するために、店舗の入口などに設置され、来店した顧客の顔を撮像し顔画像を生成する。店内カメラ２３０は、店舗における顧客の動線を検出するために、店内の複数の位置に配置され、店内の各売り場と顧客し店内画像を生成する。なお、顔認識カメラ２２０及び店内カメラ２３０は、３Ｄカメラで構成してもよい。３Ｄカメラとすることで、顧客の顔や顧客の移動経路を精度よく認識できる。
【００２４】
顧客行動分析装置１００は、距離画像解析部１１０、顧客認識部１２０、動線解析部１３０、動作プロファイル生成部１４０、動作情報解析部１５０、解析結果提示部１６０、商品情報ＤＢ（データベース）１７０、顧客情報ＤＢ１８０、動作プロファイル記憶部１９０を備えている。なお、ここでは、これらの各ブロックを顧客行動分析装置１００の機能として説明するが、後述する本実施の形態に係る動作が実現できれば、その他の構成であってもよい。
【００２５】
顧客行動分析装置１００における各構成は、ハードウェア又はソフトウェア、もしくはその両方によって構成され、１つのハードウェア又はソフトウェアから構成してもよいし、複数のハードウェア又はソフトウェアから構成してもよい。例えば、商品情報ＤＢ１７０、顧客情報ＤＢ１８０、動作プロファイル記憶部１９０を外部のネットワーク（クラウド）に接続された記憶装置としてもよい。また、動作情報解析部１５０、解析結果提示部１６０を、顧客行動分析装置１００とは別の解析装置としてもよい。
【００２６】
顧客行動分析装置１００の各機能（各処理）を、ＣＰＵやメモリ等を有するコンピュータにより実現してもよい。例えば、記憶装置に実施の形態における顧客行動分析方法（顧客行動分析処理）を行うための顧客行動分析プログラムを格納し、各機能を、記憶装置に格納された顧客行動分析プログラムをＣＰＵで実行することにより実現してもよい。
【００２７】
この顧客行動分析プログラムは、様々なタイプの非一時的なコンピュータ可読媒体（non-transitory computer readable medium）を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体（tangible storage medium）を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体（例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ）、光磁気記録媒体（例えば光磁気ディスク）、ＣＤ−ＲＯＭ（Read Only Memory）、ＣＤ−Ｒ、ＣＤ−Ｒ／Ｗ、半導体メモリ（例えば、マスクＲＯＭ、ＰＲＯＭ（Programmable ROM）、ＥＰＲＯＭ（Erasable PROM）、フラッシュＲＯＭ、ＲＡＭ（random access memory））を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体（transitory computer readable medium）によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
【００２８】
距離画像解析部１１０は、３Ｄカメラ２１０が生成した距離画像を取得し、取得した距離画像に基づいて検出対象をトラッキング（追跡）し、その動作を認識する。本実施の形態では、距離画像解析部１１０は、主に、顧客の手元、顧客の視線、顧客が手に取った商品をトラッキングし認識する。距離画像解析部１１０は、距離画像に含まれる商品を認識するため商品情報ＤＢ１７０を参照する。また、３Ｄカメラにマイクを備えておき、音声認識部により、マイクに入力された顧客の音声を認識してもよい。例えば、認識した音声に基づいて、顧客の会話の特徴（声の強弱、高低、テンポなど）を抽出して発話者の感情や会話の盛り上がりを検出し、会話の特徴を動作プロファイルとして記録するようにしてもよい。
【００２９】
顧客認識部１２０は、顔認識カメラ２２０が生成した顧客の顔画像を取得し、顧客情報ＤＢ１８０を参照することで、取得した顔画像に含まれる顧客を認識する。また、顔画像から顧客の表情（喜び、驚きなど）を認識し、を動作プロファイルとして記録するようにしてもよい。動線解析部１３０は、店内カメラ２３０が生成した店内画像を取得し、取得した店内画像に基づいて店内における顧客の移動履歴を解析し、顧客の動線（移動経路）を検出する。
【００３０】
動作プロファイル生成部１４０は、距離画像解析部１１０、顧客認識部１２０、動線解析部１３０の検出結果に基づいて、顧客の行動を分析するための動作プロファイル（顧客行動分析情報）生成し、生成した動作プロファイルを動作プロファイル記憶部１９０に格納する。動作プロファイル生成部１４０は、商品情報ＤＢ１７０、顧客情報ＤＢ１８０を参照し、距離画像解析部１１０により顧客が商品を手に取ったことに関連する情報や、顧客認識部１２０が認識した顧客の情報、動線解析部１３０が解析した顧客の動線の情報を生成し記録する。
【００３１】
動作情報解析部１５０は、動作プロファイル記憶部１９０の動作プロファイルを参照し、動作プロファイルに基づいて顧客の動作を分析する。例えば、動作情報解析部１５０は、顧客／店舗／棚／商品のそれぞれに着目して動作プロファイルを解析し、確率や統計データなどを算出する。
【００３２】
解析結果提示部１６０は、動作情報解析部１５０が解析した結果を提示（出力）する。解析結果提示部１６０は、例えば、表示装置などで構成され、店員やマーケティング（販売促進活動）担当者へ、顧客行動分析結果を表示する。店員やマーケティング担当者は、表示された顧客行動分析結果に基づいて、販売が促進されるように店舗の棚割りや広告などを改善する。
【００３３】
商品情報ＤＢ（商品情報記憶部）１７０は、店舗に配置された商品に関連する商品関連情報を記憶する。商品情報ＤＢ１７０は、商品関連情報として、商品識別情報１７１などを記憶する。商品識別情報１７１は、商品を識別するための情報（商品マスタ）であり、例えば、商品コード、商品名、商品の種類、商品ラベルのイメージ情報（画像）などを含む。
【００３４】
顧客情報ＤＢ（顧客情報記憶部）１８０は、来店した顧客に関連する顧客関連情報を記憶する。顧客情報ＤＢ１８０は、顧客関連情報として、顧客識別情報１８１、属性情報１８２、嗜好情報１８３、履歴情報１８４などを記憶する。
【００３５】
顧客識別情報１８１は、顧客を識別するための情報であり、例えば、顧客の会員ＩＤ、氏名、住所、生年月日、顔のイメージ情報（画像）などを含む。属性情報１８２は、顧客の属性を示す情報であり、例えば、年齢、性別、職業などを含む。
【００３６】
嗜好情報１８３は、顧客の嗜好を示す情報であり、例えば、趣味、好きな食べ物、色、音楽、映画などを含む。履歴情報１８４は、顧客の履歴に関する情報であり、例えば、商品を購入した購入履歴、来店した来店履歴、店舗内の移動履歴、商品を手に取った／商品を見たなどの接触履歴（アクセス履歴）などを含む。
【００３７】
動作プロファイル記憶部１９０は、動作プロファイル生成部１４０が生成した動作プロファイルを記憶する。動作プロファイルは、顧客の行動を可視化し分析するための情報である。行動の可視化とは、行動をデータ化（数値化）することであり、顧客が店舗に入ってから店舗を出るまでの動作をデータとして、動作プロファイルに記録する。すなわち、動作プロファイルには、来店した顧客を記録する来店記録情報１９１、顧客が棚の商品に接触したことを記録する商品記録情報１９２、顧客が店内の売り場を移動する動線を記録する動線記録情報１９３が含まれる。
【００３８】
図４は、顧客行動分析装置１００の距離画像解析部１１０の構成を示している。図４に示すように、距離画像解析部１１０は、距離画像取得部１１１、領域検出部１１２、手元トラッキング部１１３、手元動作認識部１１４、視線トラッキング部１１５、視線動作認識部１１６、商品トラッキング部１１７、商品認識部１１８を備えている。
【００３９】
距離画像取得部１１１は、３Ｄカメラ２１０が撮像し生成した顧客及び商品を含む距離画像を取得する。領域検出部１１２は、距離画像取得部１１１が取得した距離画像に含まれる顧客の各部の領域や商品の領域を検出する。
【００４０】
手元トラッキング部１１３は、領域検出部１１２が検出した顧客の手元（手）の動作をトラッキングする。手元動作認識部１１４は、手元トラッキング部１１３がトラッキングした手元（手）の動作に基づいて、商品に対する顧客の動作を認識する。手元動作認識部１１４は、例えば、商品を把持した状態で手のひらを顔の方向に向けた場合、顧客が当該商品を手に取って見たと判断する。商品を把持した状態において、商品によって手が隠れていてカメラに撮像されない場合には、把持されている商品の位置・方向やその変化を検知することで、客が当該商品を手に取って見たと判断してもよい。
【００４１】
視線トラッキング部１１５は、領域検出部１１２が検出した顧客の視線（目）の動作をトラッキングする。視線動作認識部１１６は、視線トラッキング部１１５が検出した視線（目）の動作に基づいて、顧客の商品に対する動作を認識する。視線動作認識部１１６は、視線の方向に商品が配置されている場合、顧客が当該商品を見たと判断し、また、視線の方向が商品のラベルに向かっている場合、顧客が当該商品のラベルを見たと判断する。
【００４２】
商品トラッキング部１１７は、領域検出部１１２が検出した商品の動作（状態）をトラッキングする。商品トラッキング部１１７は、手元動作認識部１１４で顧客が手に取ったと判断した商品や、視線動作認識部１１６で顧客が見たと判断した商品をトラッキングする。商品認識部１１８は、商品トラッキング部１１７がトラッキングした商品について、商品情報ＤＢ１７０を参照し、どの商品に該当するか識別する。商品認識部１１８は、検出した商品のラベルと、商品情報ＤＢ１７０に記憶された商品識別情報１７１のラベルのイメージ情報とを比較し、マッチング（一致）を行うことで、商品を認識する。また、商品認識部１１８は、棚の配置位置と商品との関係を商品情報ＤＢ１７０に記憶しておき、顧客が手に取った商品、または、顧客が見た商品の棚の位置に基づいて商品を識別する。
【００４３】
次に、図５を用いて、本実施の形態に係る顧客行動分析システム（顧客行動分析装置）で実行される顧客行動分析方法（顧客行動分析処理）について説明する。
【００４４】
図５に示すように、まず、顧客が店舗に入り、店舗内の棚に近づく（Ｓ１０１）。そうすると、店舗内の顔認識カメラ２２０が、顧客の顔撮像を生成し、顧客行動分析装置１００が、顔画像に基づいて年齢・性別等の顧客属性や顧客ＩＤを認識する（Ｓ１０２）。すなわち、顧客行動分析装置１００の顧客認識部１２０は、顧客情報ＤＢ１８０に記憶された顧客識別情報１８１の顔のイメージ情報と、顔認識カメラ２２０が撮像した顔画像とを比較し、マッチング（一致）する顧客を検索することで、顧客を認識し、顧客識別情報１８１から認識した顧客の顧客属し、顧客ＩＤを取得する。
【００４５】
続いて、顧客が棚に配置された商品を手に取る（Ｓ１０３）。そうすると、棚近傍の３Ｄカメラ２１０が顧客の手元を撮像し、顧客行動分析装置１００が、３Ｄカメラ２１０の距離画像により顧客の手元の動きと商品種別を認識する（Ｓ１０４）。すなわち、顧客行動分析装置１００の距離画像解析部１１０は、顧客の手元（視線）及び商品を撮像した距離画像をトラッキングし、顧客が商品を手に取って見た（顧客が商品を見た）動作を検出するとともに、商品情報ＤＢ１７０を参照してマッチング（一致）する商品し、顧客が手に取って見た商品（顧客が見た商品）を認識する。また、距離画像解析部１１０は、顧客が商品のどこを見ているか、特に商品のラベルを見ているか否か認識する。
【００４６】
続いて、顧客が手に取った商品をカゴに入れる、または、商品を棚に戻す（Ｓ１０５）。そうすると、顧客行動分析装置１００は、顧客が商品を手に取った場合と同様に、３Ｄカメラ２１０の距離画像により顧客の手元の動きと商品種別を認識する（Ｓ１０４）。すなわち、顧客行動分析装置１００の距離画像解析部１１０は、顧客の手元及び商品を撮像した距離画像をトラッキングし、顧客が商品をカゴに入れた動作、または、商品を棚に戻した動作を検出する。顧客が商品を手に取った場合と同様に商品を認識してもよいし、既に商品を認識しているため、商品の認識動作を省略してもよい。
【００４７】
続いて、顧客が他の売り場へ移動する（Ｓ１０６）。そうすると、店内カメラ２３０が顧客の売り場間の移動を撮像し、顧客行動分析装置１００が、他の売り場での購買行動を把握する（Ｓ１０７）。すなわち、顧客行動分析装置１００の動線解析部１３０は、複数の売り場の画像に基づいて、顧客の移動履歴を解析し、顧客の導線を検出することで、顧客の購買行動を把握する。その後、Ｓ１０３以降が繰り返され、顧客が移動先の売り場で商品を手に取ると、顧客行動分析装置１００が顧客の動作を検出する。
【００４８】
Ｓ１０２、Ｓ１０４、Ｓ１０７に続いて、顧客行動分析装置１００は、認識した顧客情報、商品情報、動線情報などに基づいて動作プロファイルを生成し（Ｓ１０８）、生成された動作プロファイルを分析して、購買行動を解析し通知等を行う（Ｓ１０９）。すなわち、顧客行動分析装置１００の動作プロファイル生成部１４０は、認識した顧客情報と時刻等とを関連づけ、顧客が手に取って見た商品と時刻等とを関連づけ、顧客が移動した場所と時刻等とを関連づけて動作プロファイルを生成する。さらに、動作情報解析部１５０は、動作プロファイルにおける顧客の行動の確率、統計などを算出し、解析結果を提示する。
【００４９】
図６は、図５のＳ１０４における距離画像解析部１１０で実行される認識処理（トラッキング処理）の詳細を示している。なお、図６の処理は一例であり、その他の画像解析処理により、手元の動作、視線の動作、商品を認識してもよい。
【００５０】
図６に示すように、まず、距離画像取得部１１１は、３Ｄカメラ２１０から顧客及び商品を含む距離画像を取得する（Ｓ２０１）。続いて、領域検出部１１２は、Ｓ２０１で取得した距離画像に含まれる人物及び棚を検出し（Ｓ２０２）、さらに人物及び棚の各領域を検出する（Ｓ２０３）。例えば、領域検出部１１２は、ＳＶＭ（Support Vector Machine）などの識別器を用いて、距離画像に含まれる画像及び距離に基づき、人物（顧客）を検出し、検出した人物の関節を推定することで、人物の骨格を検出する。領域検出部１１２は、検出した骨格に基づいて、人物の手（手元）などの各部の領域を検出する。また、領域検出部１１２は、識別器を用いて、距離画像に含まれる画像及び距離に基づき、棚及び棚の各段を検出し、さらに各棚上の商品の配置領域を検出する。
【００５１】
続いて、手元トラッキング部１１３は、Ｓ２０３で検出した顧客の手元の動作をトラッキングする（Ｓ２０４）。手元トラッキング部１１３は、距離画像に含まれる画像及び距離に基づき、顧客の手の周辺の骨格をトラッキングし、手の指や手のひらの動作を検出する。
【００５２】
続いて、手元動作認識部１１４は、Ｓ２０４でトラッキングした手元の動作に基づいて、手元の動作の特徴を抽出し（Ｓ２０５）、抽出した特徴に基づいて商品に対する顧客の手元の動作、すなわち、商品を把持している動作、商品を見ている動作を認識する（Ｓ２０６）。手元動作認識部１１４は、指、手のひら（手首）の向き、角度、移動量の変化を特徴量として抽出する。例えば、手元動作認識部１１４は、指の角度から顧客が商品を握っていることを検出し、手のひらの法線方向が顔に向かっている場合、顧客が商品を見ていることを検出する。また、商品を握っている状態や商品を手に取って見ている状態を予め学習しておき、学習した特徴量と比較することで、手元の状態を識別してもよい。
【００５３】
Ｓ２０３に続いて、視線トラッキング部１１５は、Ｓ２０３で検出した顧客の視線の動作をトラッキングする（Ｓ２０７）。視線トラッキング部１１５は、距離画像に含まれる画像及び距離に基づいて、顧客の顔周辺の骨格をトラッキングし、顔、目、瞳孔の動作を検出する。
【００５４】
続いて、視線動作認識部１１６は、Ｓ２０７でトラッキングした視線の動作に基づいて、視線の動作の特徴を抽出し（Ｓ２０８）、抽出した特徴に基づいて商品に対する顧客の視線の動作、すなわち、顧客が商品（ラベル）を見ている動作を認識する（Ｓ２０９）。視線動作認識部１１６は、顔、目、瞳孔の向き、角度、移動量の変化を特徴量として抽出する。例えば、視線動作認識部１１６は、顔、目、瞳孔の向きから視線の方向を検出し、視線の方向が商品（ラベル）に向いているか否かを検出する。また、商品を見ている状態を予め学習しておき、学習した特徴量と比較することで、視線の状態を識別してもよい。
【００５５】
Ｓ２０３に続いて、商品トラッキング部１１７は、Ｓ２０３で検出した商品の動作（状態）をトラッキングする（Ｓ２１０）。また、商品トラッキング部１１７は、Ｓ２０６で顧客が手に取ったと判断した商品や、Ｓ２０９で顧客が見たと判断した商品をトラッキングする。商品トラッキング部１１７は、距離画像に含まれる画像及び距離に基づいて、商品のラベルの向き、位置などを検出する。
【００５６】
続いて、商品認識部１１８は、Ｓ２１０でトラッキングした商品について、商品の特徴を抽出し（Ｓ２１１）、抽出した特徴に基づき、商品情報ＤＢ１７０から該当する商品を判断する（Ｓ２１２）。商品認識部１１８は、商品のラベルの文字や画像を特徴量として抽出する。例えば、商品認識部１１８は、抽出したラベルの特徴量と、商品情報ＤＢ１７０のラベルの特徴量とを比較し、特徴量が一致するあるいは２つの特徴量が近似（類似）する商品を識別する。また、棚の配置位置と商品との関係を商品情報ＤＢ１７０に記憶している場合には、距離画像に含まれる画像及び距離に基づいて、顧客が手に取った、または、顧客が見た商品の棚の位置を取得し、棚の位置を商品情報ＤＢ１７０から検索することで、該当する商品を検出する。
【００５７】
図７は、図５のＳ１０８における動作プロファイル生成部１４０で生成される動作プロファイルの一例を示している。
【００５８】
顧客が来店し顔認識カメラ２２０の顔画像に基づいて、顧客認識部１２０が顧客を認識すると（図５のＳ１０２）、動作プロファイル生成部１４０は、動作プロファイルとして、図７のような来店記録情報１９１を生成し記録する。例えば、来店記録情報１９１として、認識した顧客を識別する顧客ＩＤを記録し、顧客ＩＤと来店時刻を関連づけて記録する。
【００５９】
また、顧客が棚に近づき３Ｄカメラ２１０の距離画像に基づいて、距離画像解析部１１０が、顧客が商品を手に取った動作や、顧客が商品をカゴに入れた動作、商品を棚に戻した動作を認識すると（図５のＳ１０４）、動作プロファイル生成部１４０は、動作プロファイルとして、図７のような商品記録情報（商品接触情報）１９２を生成し記録する。
【００６０】
例えば、商品記録情報１９２として、認識した棚を識別する棚ＩＤを記録し、顧客が棚に近づいた動作と棚に近づいた時刻を関連付けて記録し、同様に、顧客が棚から離れた動作と棚から離れた時刻を関連付けて記録する。
【００６１】
また、顧客が手に取ったと認識した商品を識別する商品ＩＤを記録し、商品ＩＤと認識した動作とを関連付けて記録する。顧客が商品を手に取ったことを認識すると、商品ＩＤと手に取った動作、手に取った時刻を関連付けて記録する。顧客が商品のラベルを見た（商品を手にとってラベルを見た）ことを認識すると、商品ＩＤとラベルを見た動作、ラベルを見た時刻を関連付けて記録する。顧客が商品をカゴ（ショッピングカートやショッピングうバスケット）に入れたことを認識すると、商品ＩＤとカゴに入れた動作、カゴに入れた時刻を関連付けて記録する。顧客が商品を棚に戻したことを認識すると、商品ＩＤと棚に戻した動作、棚に戻した時刻を関連付けて記録する。例えば、顧客が商品をカゴに入れたことを検出することで、顧客が商品を購入したこと（購入結果）を把握できる。また、顧客が商品を棚に戻したことを検出することで、顧客が商品を購入しなかったこと（購入結果）を把握できる。
【００６２】
さらに、顧客が移動し店内カメラ２３０の店内画像に基づいて、動線解析部１３０が顧客の導線を解析すると（図５のＳ１０７）、動作プロファイル生成部１４０は、動作プロファイルとして、図７のような動線記録情報１９３を生成し記録する。例えば、動線記録情報１９３として、認識した顧客が通過した売り場（または棚）を識別する売り場（または棚）ＩＤを記録し、売り場（または棚）ＩＤと通過時刻とを関連付けて記録する。
【００６３】
図８は、図５のＳ１０９における動作情報解析部１５０における動作プロファイルの解析結果の一例を示している。図８に示すように、動作情報解析部１５０は、図７の動作プロファイルを解析し、例えば、棚ごとに統計情報を分析した棚分析情報を生成する。
【００６４】
動作情報解析部１５０は、動作プロファイルの全ての顧客に関する商品記録情報１９２を集計し、棚を識別する棚ＩＤごとに、顧客が棚に立ち止った確率及び棚に立ち止った平均時間を生成する。
【００６５】
また、棚に配置された商品を識別する商品ＩＤごとに、顧客が商品を手に取った確率及び商品を手に取った平均時間（持っている時間）、顧客が商品のラベルを見た確率及び商品のラベルを見た平均時間（見ている時間）、顧客が商品をカゴに入れた確率及び商品をカゴに入れた平均時間（見てからカゴに入れるまでの時間）、顧客が商品を棚に戻した確率及び商品を棚に戻した平均時間（見てから棚に戻すまでの時間）を生成する。
【００６６】
図９は、図５のＳ１０９における動作情報解析部１５０における動作プロファイルの解析結果の他の例を示している。図９に示すように、動作情報解析部１５０は、図７の動作プロファイルを解析し、例えば、顧客ごとに統計情報を分析した顧客分析情報を生成する。
【００６７】
動作情報解析部１５０は、動作プロファイルの来店記録情報１９１、商品記録情報１９２を顧客ごとに集計する。例えば、各顧客について、図８と同様に、棚ＩＤごとに立ち止った確率及び平均時間、商品ＩＤごとに、手に取った確率及び平均時間、ラベルを見た確率及び平均時間、カゴに入れた確率及び平均時間、棚に戻した確率及び平均時間を生成する。
【００６８】
さらに、動作情報解析部１５０は、動作プロファイルと顧客の嗜好情報とを比較し、相関性（関連性）を分析する。すなわち、動作プロファイルの各商品に対する動作が、顧客の嗜好に一致しているかどうか判定する。例えば、顧客が好みの商品を手に取った、または購入した（カゴに入れた）場合、一致している（相関している）と判断し、顧客が好みの商品を購入しなかった（棚に戻した）場合、一致していない（相関していない）と判断する。顧客の行動と顧客の嗜好等が一致しないことにより、顧客が商品を購入しなかった理由を分析することができる。例えば、顧客がラベルを見た後に、顧客が好みの商品を購入しない場合、ラベルの表示方法等に問題があると推定される。また、顧客が好みの商品を手に取らず興味を示さない場合、商品の配置方法等に問題があると推定される。
【００６９】
図９の例では、手に取った動作、ラベルを見た動作、カゴに入れた動作、棚に戻した動作のそれぞれについて、顧客情報ＤＢ１８０の属性情報１８２との相関、顧客情報ＤＢ１８０の嗜好情報１８３との相関、顧客情報ＤＢ１８０の履歴情報１８４との相関を判定する。
【００７０】
以上のように、本実施の形態では、商品棚とその前の顧客（ショッパー）が見える位置に配置した３Ｄカメラにより顧客の手元の動きを観察し、どの商品を手に取ったかを認識する。そして、商品を手にとった時点の位置（商品棚の位置と棚内の棚位置）や時刻、商品ＩＤ等の商品を特定する情報を記録・分析し、結果を表示または通知する。
【００７１】
これにより、顧客の商品に対する動作を詳細に検出し分析（可視化）することができるため、顧客の購買前行動を商品配置や広告等の販売方法の改善に活かすことができ、売上アップが実現することができる。具体的な効果は次の通りである。
【００７２】
例えば、どの棚の何段目が顧客によく触られているかが把握できるため、この情報を活用して、商品配置（棚割り）を改善することができる。顧客が棚のどの深さから商品を取っているか把握できるため、棚の後ろから商品を取っている場合に陳列品の補充が必要であると判断できる。
【００７３】
また、チラシや広告の効果を、チラシや広告の実行前と実行後における商品を手にとった頻度を比べることで、その効果測定し、通知することができる。また、顧客が商品の前に来てから、購買の意思決定をするまでの購買前プロセス情報（商品のどこを見て、購買に至ったのか／至らなかったのか、カゴに入れるまでどれぐらい見たか／迷ったか、野菜など、客はどこを見て比べているか等）を商品のメーカに知らせたり、販売することができる。
【００７４】
また、顧客が手にとった商品を元とは異なる場所に戻したことを記録し、従業員に通知して元の状態に戻すことができる。その他、店員の業務（検品、商品の補充等）を可視化し、業務の確実な遂行や冗長な業務の見直しにつなげることができる。例えば、商品棚での商品の配置誤りや非効率的配置を改善したり、店員の冗長な業務や、検品の重複など複数店員の連携の改善することができる。
【００７５】
さらに、売り場間や店舗間での行動追跡を活用することで、買うときの動作と売り場間の動線の改善に活用することができる。例えば、店舗Ａで買わず店舗Ｂで買われたという理由を分析することができる。
【００７６】
また、弁当屋、ラーメン店、アイスクリーム店等のトッピング作業が注文通りに行われているかを認識し、間違っている場合は従業員に知らせることができる。
【００７７】
（実施の形態２）
以下、図面を参照して実施の形態２について説明する。本実施の形態では、実施の形態１を１つの棚システムに適用した例について説明する。図１０は、本実施の形態に係る棚システムの構成を示している。
【００７８】
図８に示すように、本実施の形態に係る棚システム２は、商品棚３００を備えている。商品棚３００は、図３などのように、商品３０１を配置する棚である。本実施の形態では、この商品棚３００に、実施の形態１で説明した、３Ｄカメラ２１０、距離画像解析部１１０、動作プロファイル生成部１４０、動作情報解析部１５０、解析結果提示部１６０、商品情報ＤＢ１７０、動作プロファイル記憶部１９０を備えている。なお、必要に応じて顔認識カメラ２２０、顧客認識部１２０、顧客情報ＤＢ１８０を備えてもよい。
【００７９】
動作プロファイル生成部１４０、距離画像解析部１１０の検出結果に基づいて、顧客の行動を分析するための動作プロファイルを生成する。動作プロファイルには、顧客が棚の商品に接触したことを記録する商品記録情報１９２が含まれる。
【００８０】
すなわち、本実施の形態では、顧客が棚システム２に近づき顧客が商品を手に取ると、棚システム２の距離画像解析部１１０が、顧客の手元の動作を認識し、動作プロファイル生成部１４０が、動作プロファイルとして、商品記録情報１９２（図７と同様）を生成し記録する。さらに、動作情報解析部１５０は、動作プロファイルを解析することで、棚システムについての統計情報を分析した棚分析情報を生成する（図８と同様）。
【００８１】
このように、本実施の形態では、１つの商品棚において、実施の形態１における主要な構成を備えることとした。これにより、実施の形態１と同様に、顧客の商品に対する詳細な動作を検出し、顧客の動作を分析することができる。
【００８２】
さらに、本実施の形態は、１つの商品棚のみで実現可能であるため、棚以外の装置やシステムが不要である。したがって、ＰＯＳシステムやネットワークなど高度なシステムが無い店舗においても、簡易にシステムを導入することが可能である。
【００８３】
なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。
【００８４】
以上、実施の形態を参照して本願発明を説明したが、本願発明は上記によって限定されるものではない。本願発明の構成や詳細には、発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
【００８５】
この出願は、２０１３年９月６日に出願された日本出願特願２０１３−１８５１３１を基礎とする優先権を主張し、その開示の全てをここに取り込む。
【符号の説明】
【００８６】
１      顧客行動分析システム
２      棚システム
１０    顧客行動分析システム
１１    画像情報取得部
１２    動作検出部
１３    顧客行動分析情報生成部
１００  顧客行動分析装置
１１０  距離画像解析部
１１１  距離画像取得部
１１２  領域検出部
１１３  手元トラッキング部
１１４  手元動作認識部
１１５  視線トラッキング部
１１６  視線動作認識部
１１７  商品トラッキング部
１１８  商品認識部
１２０  顧客認識部
１３０  動線解析部
１４０  動作プロファイル生成部
１５０  動作情報解析部
１６０  解析結果提示部
１７０  商品情報ＤＢ
１７１  商品識別情報
１８０  顧客情報ＤＢ
１８１  顧客識別情報
１８２  属性情報
１８３  嗜好情報
１８４  履歴情報
１９０  動作プロファイル記憶部
１９１  来店記録情報
１９２  商品記録情報
１９３  動線記録情報
２１０  ３Ｄカメラ
２２０  顔認識カメラ
２３０  店内カメラ
３００  商品棚
３０１  商品
４００  顧客
【図１】
0006529078.tif 000002
【図２】
0006529078.tif 000003
【図３】
0006529078.tif 000004
【図４】
0006529078.tif 000005
【図５】
0006529078.tif 000006
【図６】
0006529078.tif 000007
【図７】
0006529078.tif 000008
【図８】
0006529078.tif 000009
【図９】
0006529078.tif 000010
【図１０】
0006529078.tif 000011