(57)【特許請求の範囲】
【請求項１】
物体を画像として撮影する撮影手段と、
音声を入力する音声入力手段と、
前記物体が前記撮影手段により画像として撮影されたことを検出したタイミング後の所定期間に前記音声入力手段により入力された音声を、前記画像に基づいて前記物体を商品認識するための補助情報として用いて商品認識する制御手段と、
を備え、
前記制御手段は、前記物体が前記撮影手段により画像として撮影されたことを検出した際に、前記画像に基づいて前記物体を商品の上位分類は認識できたにも関わらず、商品の下位分類までは認識することができなかった場合には、前記下位分類を認識するために何れの種類の補助情報が必要であるのかを通知する通知情報を表示手段に表示させる、
ことを特徴とする商品登録装置。
【請求項２】
前記制御手段は、商品の前記上位分類は認識できたにも関わらず、前記下位分類として商品の産地までは認識することができなかった場合には、商品の産地を示す種類の補助情報が必要である旨を通知する通知情報を表示させるとともに、当該通知情報と並べて前記上位分類を表示させる、
ことを特徴とする請求項１に記載の商品登録装置。
【請求項３】
前記制御手段は、前記物体が前記撮影手段により画像として撮影されたことを検出した際に当該画像を前記表示手段に表示させ、
前記通知情報を前記表示手段に表示させる際には前記画像中の物体と重ならないように表示させる、
ことを特徴とする請求項１または２に記載の商品登録装置。
【請求項４】
前記制御手段は、前記音声入力手段により入力された音声を補助情報として用いて商品の下位分類まで認識をした際に、前記通知情報に替えて前記下位分類を前記表示手段に表示させる、
ことを特徴とする請求項１から３の何れか一項に記載の商品登録装置。
【請求項５】
前記制御手段は、前記下位分類を前記表示手段に表示させる際に、前記商品の単価を並べて表示させる、
ことを特徴とする請求項４に記載の商品登録装置。
【請求項６】
前記制御手段は、前記音声入力手段により入力された音声を前記補助情報として用いて商品の下位分類まで認識をした後に、更に前記音声入力手段により音声が入力された際には当該音声を数情報として用いて商品の個数を特定する、
ことを特徴とする請求項１から５の何れか一項に記載の商品登録装置。
【請求項７】
物体を画像として撮影する撮影ステップと、
音声を入力する音声入力ステップと、
前記物体が前記撮影ステップにより画像として撮影されたことを検出したタイミング後の所定期間に前記音声入力ステップにより入力された音声を、前記画像に基づいて前記物体を商品認識するための補助情報として用いて商品認識する制御ステップと、
を含み、
前記制御ステップにおいて、前記物体が前記撮影ステップにより画像として撮影されたことを検出した際に、前記画像に基づいて前記物体を商品の上位分類は認識できたにも関わらず、商品の下位分類までは認識することができなかった場合には、前記下位分類を認識するために何れの種類の補助情報が必要であるのかを通知する通知情報を表示手段に表示させる、
ことを特徴とする商品認識方法。
【請求項８】
コンピュータを、
物体が撮影手段により画像として撮影されたことを検出したタイミング後の所定期間に音声入力手段により入力された音声を、前記画像に基づいて前記物体を商品認識するための補助情報として用いて商品認識する制御手段、
として機能させ、
前記制御手段は、前記物体が前記撮影手段により画像として撮影されたことを検出した際に、前記画像に基づいて前記物体を商品の上位分類は認識できたにも関わらず、商品の下位分類までは認識することができなかった場合には、前記下位分類を認識するために何れの種類の補助情報が必要であるのかを通知する通知情報を表示手段に表示させる、
ことを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、商品を売上登録する商品登録装置および商品認識方法に関する。
【背景技術】
【０００２】
従来、電子式キャッシュレジスタ（商品登録装置）は、バーコード読み取り部によって、商品に付与されたバーコードなどのデータコードを読み取り、この商品を識別していた。商品に付与されたバーコードは、メーカコードの情報と、アイテムコードの情報と、チェックディジットの情報とを含んで構成される。商品登録装置は、チェックディジットの情報によって正しくバーコードが読み取れたことを判断したのち、アイテムコードの情報によって、この商品を識別する。バーコードを予め商品の包装などに印刷しておくことで、キャッシュレジスタのオペレータの負担を軽減することができる。
しかし、包装されていない商品、例えば青果品などは、バーコードを個々に貼り付けることは極めて煩雑であり、時間とコストとが掛かる。従来は青果品などに対して、オペレータが商品コードや金額をキーボードで入力するという運用がなされていた。
【０００３】
近年では、青果品などをオブジェクト認識して識別し、識別された商品を売上登録する商品登録装置が普及しはじめている。この商品登録装置は、青果品などを撮影した画像情報から外観の特徴量を抽出し、予め用意された特徴量データベースと比較することで、この物品がいずれの商品であるかを識別する。これにより、予め包装されていない商品であっても、バーコードを個々に貼り付けることなく商品登録装置が認識できるので、店舗側の負担を軽減することができる。
例えば、特許文献１には、撮像手段で撮像された対象物の画像情報と各商品の基準画像情報とを比較し、類似度が所定範囲内にある基準画像情報に対応した商品を対象物に該当する商品候補として表示手段に表示させる情報処理装置について記載されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１３−８９２５８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、特許文献１に記載の装置は、撮像された対象物の画像が非常に類似している場合（例えば、産地の異なるりんごやみかん）、オペレータはキーボードや画面タッチによる選択操作を必要としていた。例えば、和歌山（うんしゅう）、愛媛などの複数の産地の商品「みかん」を商品登録する場合、画像認識により「みかん」の産地等を判定することは困難である。このため、オペレータはいったん画像読み取り操作を中断しキーボードや画面タッチによる選択操作を行う必要があった。
また、清算前に、認識を済ませた商品と同じ商品を追加して複数登録したい場合にも同様の認識操作を繰り返さなければならない。また、キャンセルについても同様の操作が必要であった。
このように、バーコードを付してない青果品のように商品が類似しており、しかも産地が複数に亘る商品や、該当商品の追加登録・キャンセルをしたい場合、オペレータはキーボード操作等に戻らざるを得ず、作業効率が低下するという問題があった。
【０００６】
本発明の課題は、商品の売上登録操作の作業性を向上させることである。
【課題を解決するための手段】
【０００７】
上記課題を達成するため、本発明の商品登録装置は、物体を画像として撮影する撮影手段と、音声を入力する音声入力手段と、前記物体が前記撮影手段により画像として撮影されたことを検出したタイミング後の所定期間に前記音声入力手段により入力された音声を、前記画像に基づいて前記物体を商品認識するための補助情報として用いて商品認識する制御手段と、を備え、前記制御手段は、前記物体が前記撮影手段により画像として撮影されたことを検出した際に、前記画像に基づいて前記物体を商品の上位分類は認識できたにも関わらず、商品の下位分類までは認識することができなかった場合には、前記下位分類を認識するために何れの種類の補助情報が必要であるのかを通知する通知情報を表示手段に表示させる、ことを特徴とする。
本発明の商品認識方法は、物体を画像として撮影する撮影ステップと、音声を入力する音声入力ステップと、前記物体が前記撮影ステップにより画像として撮影されたことを検出したタイミング後の所定期間に前記音声入力ステップにより入力された音声を、前記画像に基づいて前記物体を商品認識するための補助情報として用いて商品認識する制御ステップと、を含み、前記制御ステップにおいて、前記物体が前記撮影ステップにより画像として撮影されたことを検出した際に、前記画像に基づいて前記物体を商品の上位分類は認識できたにも関わらず、商品の下位分類までは認識することができなかった場合には、前記下位分類を認識するために何れの種類の補助情報が必要であるのかを通知する通知情報を表示手段に表示させる、ことを特徴とする。
本発明のプログラムは、コンピュータを、物体が撮影手段により画像として撮影されたことを検出したタイミング後の所定期間に音声入力手段により入力された音声を、前記画像に基づいて前記物体を商品認識するための補助情報として用いて商品認識する制御手段、として機能させ、前記制御手段は、前記物体が前記撮影手段により画像として撮影されたことを検出した際に、前記画像に基づいて前記物体を商品の上位分類は認識できたにも関わらず、商品の下位分類までは認識することができなかった場合には、前記下位分類を認識するために何れの種類の補助情報が必要であるのかを通知する通知情報を表示手段に表示させる、ことを特徴とするプログラム。
【発明の効果】
【０００８】
本発明によれば、商品の売上登録操作の作業性を向上させることができる。
【図面の簡単な説明】
【０００９】
【図１】本実施形態における商品登録装置の外観を示す斜視図である。
【図２】本実施形態における商品登録装置の概略を示す構成図である。
【図３】本実施形態における商品登録装置の概略を示す機能ブロック図である。
【図４】本実施形態における商品識別装置の正面図である。
【図５】本実施形態における特徴量ファイルの一例を示す図である。
【図６】本実施形態における商品登録処理を示すフローチャートである。
【図７】本実施形態における商品登録装置の音声認識バッファの一例を示す図である。
【図８】本実施形態における商品登録装置のディスプレイに表示される商品の確認画面の例である。
【図９】本実施形態における商品登録装置の商品認識方法を説明するタイミングチャートである。
【発明を実施するための形態】
【００１０】
以降、本発明を実施するための形態を、各図を参照して詳細に説明する。なお、同一の要素が異なる図に示されていても同一の符号を付与して、その重複する説明を省略することがある。
【００１１】
（実施形態）
図１は、本発明の実施形態における商品登録装置１の外観を示す斜視図である。
図１に示すように、商品登録装置１は、各商品を登録する商品識別装置２と、各取引に係る商品の売上登録と精算とを行うＰＯＳ端末３とを備える。この商品識別装置２は、商品に関する情報を読み取って登録するＰＯＳ接続用スキャナである。
商品識別装置２は、横長テーブル状のカウンタ台５の長手方向の中央に設置されている。商品識別装置２は、薄型の直方体状のハウジング５１を備える。このハウジング５１の正面には、読取窓５２を介してカメラ２７（図２参照）が配置されている。読取窓５２の上部には、マイク２８が配置されている。
【００１２】
ハウジング５１の上部には、表示・操作部２２が取り付けられている。表示・操作部２２には、ディスプレイ２２１が設けられている。このディスプレイ２２１の表面には、タッチパネル２２２（図２参照）が積層されている。ディスプレイ２２１の右隣には、キーボード２３が配置されている。キーボード２３の右隣には、不図示のカードリーダのカード読取溝が設けられている。表示・操作部２２の左奥側には、顧客に情報を提供するための顧客用ディスプレイ２４が裏向きに設置されている。
【００１３】
ＰＯＳ端末３は、チェックアウト台６上のドロワ３７の上面に載置されている。このドロワ３７は、ＰＯＳ端末３によって開放動作の制御を受ける。
ＰＯＳ端末３の上面には、オペレータ（店員）が操作するためのキーボード３３が配置されている。このオペレータから見てキーボード３３の上部奥側には、情報を表示するディスプレイ３２１が設けられている。このディスプレイ３２１の表面には、タッチパネル３２２（図２参照）が積層されている。ディスプレイ３２１よりもさらに奥側には、情報を表示する顧客用ディスプレイ３４が左右方向に回転可能に設置されている。なお、図１に示す顧客用ディスプレイ３４は、図１の手前側に向いている。この顧客用ディスプレイ３４は、図１の奥側に向くように回転させることによって、顧客に向けて情報を表示する。
【００１４】
ＰＯＳ端末３が載置されているチェックアウト台６とＬ字を形成するようにして、横長テーブル状のカウンタ台５が配置されている。カウンタ台５の上面には、荷受け面が形成されている。顧客は、図１の左側から右側に移動しつつ、商品の登録処理を受ける。つまり、カウンタ台５の荷受け面には、商品を収納する第１の買物カゴ４Ｌと、第２の買物カゴ４Ｒとが載置される。以下、第１の買物カゴ４Ｌと、第２の買物カゴ４Ｒとを特に区別しないときには、単に買物カゴ４と記載する場合がある。これら買物カゴ４は、いわゆるカゴ形状のものに限るものではなく、トレーなどであってもよい。また、買物カゴ４は、いわゆるカゴ形状のものに限らず、箱状や袋状などであってもよい。
第１の買物カゴ４Ｌは、顧客によって持ち込まれたものであり、一つの取引に係る商品が収納される。第２の買物カゴ４Ｒは、第１の買物カゴ４Ｌから商品識別装置２を挟んだ位置に載置される。第１の買物カゴ４Ｌ内の商品は、商品識別装置２を操作するオペレータにより取り出され、第２の買物カゴ４Ｒに移動される。この移動過程で、商品が商品識別装置２の読取窓５２にかざされる。このとぎ、読取窓５２内に配置されたカメラ２７（図２参照）は商品を撮像する。
【００１５】
商品識別装置２では、カメラ２７により撮像された画像に含まれる商品が、後記する特徴量ファイル３６１（図２参照）に記録されたどの商品に対応するかを指定させるための画面をディスプレイ２２１に表示する。商品識別装置２は更に、指定された商品の商品ＩＤをＰＯＳ端末３に通知する。ＰＯＳ端末３は、商品識別装置２から通知される商品ＩＤに基づき、当該商品ＩＤに対応する商品の商品分類、商品名、単価などの売上登録に係る情報を、売上マスタファイル（不図示）などに記録して、売上登録を行う。
【００１６】
図２は、本実施形態における商品登録装置１の概略を示す構成図である。
商品登録装置１は、商品識別装置２とＰＯＳ端末３とを含んで構成される。
商品識別装置２は、マイクロコンピュータ２１と、表示・操作部２２と、インタフェース２５と、カメラ２７と、スピーカ２９と、電源３０とを含んで構成される。
マイクロコンピュータ２１は、ＣＰＵ（Central Processing Unit）２１１にＲＯＭ（Read Only Memory）２１２とＲＡＭ（Random Access Memory）２１３とがバス接続されて構成されている。ＲＯＭ２１２には、ＣＰＵ２１１によって実行されるプログラムが記憶される。
ＣＰＵ２１１には、表示・操作部２２と、インタフェース２５と、カメラ２７、マイク２８、スピーカ２９とが、内部バスや各入出力回路（不図示）を介して接続される。
【００１７】
表示・操作部２２は、ディスプレイ２２１と、タッチパネル２２２と、顧客用ディスプレイ２４と、キーボード２３とを含んで構成され、ＣＰＵ２１１によって動作が制御される。
ディスプレイ２２１は、ＣＰＵ２１１の指示により、オペレータに対する情報を表示する。タッチパネル２２２は、ディスプレイ２２１により表示した情報に対する操作の入力を受ける。顧客用ディスプレイ２４は、ＣＰＵ２１１の指示により、顧客に対する情報を表示する。
キーボード２３は、複数の操作キーで構成され、オペレータの操作入力を受け付ける。
インタフェース２５は、ＰＯＳ端末３のインタフェース３５に接続して、ＰＯＳ端末３との間でデータ送受信を可能にする。
【００１８】
カメラ２７は、カラーＣＣＤイメージセンサやカラーＣＭＯＳイメージセンサなどであり、ＣＰＵ２１１の制御の下で、読取窓５２（図１参照）からの撮像を行う撮像手段である。カメラ２７は、例えば３０［ｆｐｓ］の動画像の撮像を行う。カメラ２７が所定のフレームレートで順次撮像したフレーム画像（撮像画像）は、ＲＡＭ２１３に保存される。
【００１９】
マイク２８は、オペレータから発せられた音を入力する。マイク２８は、商品識別装置２の読取窓５２の上部に配置されることで、オペレータの音声を入力することを想定している。
【００２０】
スピーカ２９は、予め設定された警告音などを発生する。スピーカ２９は、ＣＰＵ２１１の制御の下で警告音や音声による報知を行う。
電源３０は、この商品識別装置２の各部に電力を供給する。
【００２１】
インタフェース２５は、ＰＯＳ端末３のインタフェース３５に接続して、ＰＯＳ端末３との間でデータ送受信を可能にする。
【００２２】
ＰＯＳ端末３は、マイクロコンピュータ３１と、ディスプレイ３２１と、タッチパネル３２２と、キーボード３３と、顧客用ディスプレイ３４と、インタフェース３５と、ＨＤＤ３６と、ドロワ３７と、プリンタ３８と、電源３９とを含んで構成される。
【００２３】
マイクロコンピュータ３１は、情報処理を実行する。このマイクロコンピュータ３１は、各種演算処理を実行し各部を制御するＣＰＵ３１１に、ＲＯＭ３１２とＲＡＭ３１３とがバス接続されて構成される。ＣＰＵ３１１には、ドロワ３７と、キーボード３３と、ディスプレイ３２１と、タッチパネル３２２と、顧客用ディスプレイ３４と、ＨＤＤ３６（Hard Disk Drive）とが、内部バスや各入出力回路を介して接続されている。これらは、ＣＰＵ３１１による制御を受ける。
【００２４】
ディスプレイ３２１は、ＣＰＵ３１１の指示により、オペレータに対する情報を表示する。タッチパネル３２２は、ディスプレイ３２１により表示した情報に対する操作の入力を受ける。顧客用ディスプレイ３４は、ＣＰＵ３１１の指示により、顧客に対する情報を表示する。
キーボード３３は、仮締めキー３３１と、締めキー３３２と、テンキー３３３とを含んで構成され、オペレータの操作入力を受け付ける。テンキー３３３は、０から９までの数字キーと各種演算子キーとで構成される。
【００２５】
ＨＤＤ３６には、プログラムや各種ファイルが記憶されている。ＨＤＤ３６に記憶されているプログラムや各種ファイルは、ＰＯＳ端末３の起動時に、その全部または一部がＲＡＭ３１３にコピーされてＣＰＵ３１１により実行される。ＨＤＤ３６には、例えば特徴量ファイル３６１が記録されるが、商品販売データ処理用のプログラムが記録されてもよい。特徴量ファイル３６１は、店舗に陳列して販売する取扱商品の各々について、商品の売上登録にかかる情報と、その商品の画像との関連付けが設定された商品ファイルであり、取扱商品の辞書として機能する（図５参照）。
【００２６】
インタフェース３５は、商品識別装置２に接続され、商品識別装置２との間でデータ送受信を可能とする。
プリンタ３８は、レシートなどに印字を行う。ＰＯＳ端末３は、ＣＰＵ３１１の制御のもとで、各取引の取引内容をレシートに印字する。
電源３９は、このＰＯＳ端末３の各部に電力を供給する。
【００２７】
図３は、本実施形態における商品登録装置１の概略を示す機能ブロック図である。以下の説明では、適宜図１と図２とを参照する。
商品識別装置２のＣＰＵ２１１は、ＲＯＭ２１２に格納されるプログラムを実行することにより、画像取得部９０と、物体検出部９１、類似度演算部９２、類似度判断部９３、音声認識部９４、音声認識バッファ９４１、商品特定部９５、確定通知部９６、情報出力部９７の各部を具現化する。また、同様に、ＰＯＳ端末３のＣＰＵ３１１は、ＨＤＤ３６に格納されるプログラムを実行することにより、売上登録部９９の各部を具現化する。ＰＯＳ端末３のＨＤＤ３６には更に、特徴量ファイル３６１および音声認識ＤＢ３６２が格納される。
【００２８】
画像取得部９０は、カメラ２７に撮像オン信号を出力して、このカメラ２７に撮像動作を開始させる。更に画像取得部９０は、カメラ２７が撮像してＲＡＭ２１３に保存されたフレーム画像を順次取り込む。画像取得部９０によるフレーム画像の取り込みは、ＲＡＭ２１３に保存された順に行われる。
【００２９】
物体検出部９１は、画像取得部９０によって取り込まれたフレーム画像に含まれる物体の全部または一部を、パターンマッチング技術などを用いて検出する。
具体的には、オペレータが売上登録のために商品を読取窓５２に向けると、画像取得部９０は、カメラ２７によって、この商品の画像を撮影する。物体検出部９１は、取り込まれたフレーム画像を二値化して輪郭線を抽出する。次いで物体検出部９１は、前回のフレーム画像から抽出された輪郭線と、今回のフレーム画像から抽出された輪郭線とを比較して、この商品である物体を検出する。
【００３０】
別の具体的方法を以下に示す。オペレータが売上登録のために、商品を手で把持して読取窓５２に向けると、画像取得部９０は、カメラ２７によって、この商品および手の画像を撮影する。物体検出部９１は、取り込まれたフレーム画像から肌色領域の有無を検出する。肌色領域が検出された場合、すなわち、店員の手が検出された場合に、物体検出部９１は、この肌色領域の近傍において輪郭線を検出する。これにより、オペレータの手が把持していると思われる商品の輪郭を抽出する。物体検出部９１は、手の形状を示す輪郭が検出され、手の輪郭の近傍にそれ以外の物体の輪郭が更に検出された場合、この物体の輪郭から商品を検出する。
【００３１】
類似度演算部９２は、カメラ２７が撮像した商品の画像から、この商品の色合いや表面の凹凸状況などの表面の状態を特徴量として読み取る。類似度演算部９２は、この商品の輪郭や大きさは考慮しない。これにより類似度演算部９２は、処理時間を短縮することができる。
類似度演算部９２は更に、特徴量ファイル３６１に記録された各商品（以下、取扱商品という）の商品画像から、当該取扱商品の色合いや表面の凹凸状況などの表面の状態を特徴量として読み取り、撮影した商品の特徴量とそれぞれ比較することで、撮影した商品と特徴量ファイル３６１に記録された取扱商品との類似度を算出する。ここで類似度とは、特徴量ファイル３６１に記録されている各商品が想定する商品画像を１００％の類似度とした場合に、商品の全部または一部の画像がどの程度まで類似しているかを示すものである。なお、類似度演算部９２は、例えば、色合いと表面の凹凸状況との重み付けを変えて類似度を算出してもよい。
【００３２】
このように、画像中に含まれる物体を認識することは一般物体認識（generic object recognition）と呼ばれている。柳井啓司著の「一般物体認識の現状と今後」では、一般物体認識の研究のサーベイを手法に加えて、データセット、評価ベンチマークを行い、更にその今後について展望している。
柳井啓司，「一般物体認識の現状と今後」，[online]、情報処理学会論文誌，２００７年１１月１５日，Vol.48，No.SIG16、1-24頁，[平成２６年９月８日検索]，インターネット<URL:http://mm.cs.uec.ac.jp/IPSJ-TCVIM-Yanai.pdf>
【００３３】
また、画像をオブジェクトごとに領域分割することによって一般物体認識を行う技術は、下記の文献において解説されている。
Jamie Shottonら，“Semantic Texton Forests for Image Categorization and Segmentation”， Computer Vision and Pattern Recognition, 2008. CVPR 2008. IEEE Conference on，[平成２６年９月８日検索]，インターネット<URL:http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.145.3036&rep=rep1&type=pdf>
【００３４】
なお、撮像された商品の画像と、特徴量ファイル３６１に記録された取扱商品の商品画像との類似度の算出方法は特に問わないものとする。例えば、撮像された商品の画像と、特徴量ファイル３６１に記録された各取扱商品との類似度を絶対評価として算出してもよいし、相対評価として算出してもよい。
【００３５】
類似度を絶対評価として算出する場合、撮像された商品の画像と、特徴量ファイル３６１に記録された各取扱商品とを１対１で比較し、この比較の結果導出される類似度をそのまま採用すればよい。また、類似度を相対評価として算出する場合には、各取扱商品との類似度の総和が１．０（１００％）となるよう算出する。例えば、特徴量ファイル３６１に４つの商品＃１〜＃４が記録されていたとする。このとき撮像された商品は、例えば、商品＃１に対して類似度が０．６５、商品＃２に対しては類似度が０．２、商品＃３に対しては類似度が０．１、商品＃４に対しては類似度が０．０５などのように算出する。
【００３６】
類似度判断部９３は、画像取得部９０が取り込んだフレーム画像ごとに、商品の画像と、特徴量ファイル３６１に記録されている商品画像との類似度を比較する。本実施形態では、取扱商品の商品画像と、商品の撮影画像との類似度は、複数の条件が設けられている。類似度判断部９３は、これら満たされる条件に応じて取扱商品の確定あるいは商品の候補を選定する。類似度に関する条件は特に限定されるものではないが、以下では条件Ｘ，Ｙ，Ｚを用いる場合について説明する。
【００３７】
ここで、条件Ｘおよび条件Ｙは、フレーム画像上の物体を、特徴量ファイル３６１に記録された取扱商品のうちの一つとして確定するための条件である。また、条件Ｚは、フレーム画像上の物体から、特徴量ファイル３６１に記録された取扱商品の候補を抽出するための条件である。
【００３８】
類似度判断部９３は、例えば、条件Ｘまたは／および条件Ｙを満たす取扱商品を、フレーム画像上の物体に一対一で対応する商品であると判定する。また、類似度判断部９３は、条件Ｚを満たす取扱商品については、確定商品ではなく、カメラ２７が撮像した商品の候補であると判定する。そして、類似度判断部９３は、特徴量ファイル３６１に記録された複数の取扱商品から条件Ｚを満たす取扱商品を抽出することにより、撮影した商品に対する取扱商品の候補を抽出する。
【００３９】
条件Ｘ〜Ｚは類似度に応じて段階的に設定されればその詳細は特に限定されるものではないが、一例として、予め設定された複数の閾値によって条件Ｘ〜Ｚを設けることができる。ここでは、閾値Ｔｘ〜Ｔｚによって条件Ｘ〜Ｚを設定する場合について説明する。なお、閾値Ｔｘ〜Ｔｚの順に小さくなるものとする。
【００４０】
類似度判断部９３は、取扱商品との類似度が予め定められた閾値Ｔｘ以上となった回数をカウントし、この回数が所定回数以上となった場合に条件Ｘが満たされたと判定する。
【００４１】
また、類似度判断部９３は、取扱商品との類似度が閾値Ｔｘ未満、かつ、閾値Ｔｙ以上となった場合に、条件Ｙが満たされたと判定する。そして、条件Ｙを満たした取扱商品は、確定商品ではあるがオペレータによる確認操作を要すると判定する。
更に、類似度判断部９３は、取扱商品との類似度が閾値Ｔｙ未満、かつ、閾値Ｔｚ以上である場合に、条件Ｚが満たされたと判定する。
なお、各条件Ｘ〜Ｚは、類似度の大きさなどに応じて適宜設定可能であり、前記した例に限定されるものではない。
このように、類似度判断部９３は、条件Ｚを満たした取扱商品の写真画像および商品名を特徴量ファイル３６１から読み出し、類似度演算部９２が算出した類似度の高い順に、商品候補として出力する。
【００４２】
音声認識部９４は、音声認識ＤＢ３６２を参照して発せられた音声を認識する。具体的には、オペレータが発声した言葉は音声信号としてマイク２８から音声認識部９４へ取り込まれ、音声認識部９４は、この音声信号を波形分析して特徴パターンを抽出し、音声認識し、音声認識結果を音声認識バッファ９４１（図７参照）に一時的に格納する。図７に示すように、音声認識バッファ９４１は、オペレータの発声タイミング（音声入力の開始時間と終了時間）と、その発声タイミングにおける音声入力の音声認識結果を格納する。この例では、開始時間０:００:１０から終了時間０:００:１５までに音声入力された音声信号の音声認識結果「あおもり」が格納されている。次の発声タイミングでは、開始時間０:００:１７から終了時間０:００:２０までに音声入力された音声信号の音声認識結果「ふたつ」が格納されている。
【００４３】
商品特定部９５は、類似度判断部９３が、オブジェクト認識した商品の商品候補から音声認識部９４による音声認識により商品または商品の個数を特定する。
具体的には、商品特定部９５は、カメラ２７により撮影された商品を認識したタイミングを含む前後所定期間において入力された音声を、商品認識の補助情報として用いて商品またはその個数を特定する。また、商品特定部９５は、カメラ２７により撮影された商品を認識したタイミングを含む前後所定期間において入力された音声に基づいて商品の登録または商品登録のキャンセルを実行する。
【００４４】
確定通知部９６は、商品特定部により商品およびその個数を特定されたことを、画像出力や音声出力などによってオペレータや客に報知する。より詳細には、確定通知部９６は、特定された商品およびその個数をディスプレイ２２１に表示させ、特定された商品に関する情報をスピーカ２９に出力する。スピーカ２９は、特定された商品の情報をオペレータや客に報知する。
【００４５】
情報出力部９７は、上述のようにして特定された商品について、その商品を示す情報（例えば、商品ＩＤや商品名や値引き情報など）を、インタフェース２５を介してＰＯＳ端末３に出力する。
【００４６】
なお、情報出力部９７は、タッチパネル２２２またはキーボード２３を介して別途入力された販売個数を、商品ＩＤなどと共にＰＯＳ端末３に出力してもよい。また、情報出力部９７がＰＯＳ端末３に出力する情報としては、情報出力部９７が特徴量ファイル３６１から読み出した商品ＩＤを直接通知してもよいし、商品ＩＤを特定することが可能な商品名、または、商品画像、写真画像のファイル名をＰＯＳ端末３に通知してもよい。
【００４７】
ＰＯＳ端末３の売上登録部９９は、情報出力部９７から出力された商品ＩＤと販売個数とに基づいて、対応する商品の売上登録を行う。具体的にいうと、売上登録部９９は、特徴量ファイル３６１を参照して、通知された商品ＩＤおよび、これに対応する商品分類、商品名、単価、販売個数を売上マスタファイルなどに記録して売上登録（仮登録）を行う。
【００４８】
図４は、本実施形態における商品識別装置２の正面図である。
商品識別装置２は、カウンタ台５に設置されている。商品識別装置２は、薄型の直方体状のハウジング５１と、このハウジング５１の上部に取り付けられた表示・操作部２２と、表示・操作部２２の左奥側に裏向きに設置された顧客用ディスプレイ２４とを含んで構成される。
このハウジング５１の正面には、読取窓５２とマイク２８が設けられ、マイク２８はオペレータの発声が明瞭に収音し易い位置に設置される。具体的には、読取窓５２の中央上側やディスプレイ２２１の中央下側に設置する。マイク２８を読取窓５２の中央上側やディスプレイ２２１の中央下側に設置すると、マイク２８の高さ位置がオペレータの顔に接近するので、オペレータの発声を良好に収音することができる。また、このマイク２８の取付位置は、ハウジング５１の中央位置であり、オペレータ以外の音（例えば顧客の発音）が回り込んでくることを防ぐことができる。
読取窓５２には、照明２７１とカメラ２７（撮像手段）とが配置される。認識領域８Ｍは、カメラ２７が物体を撮影し、この物体を検知して商品を特定する領域である。
【００４９】
図５は、本実施形態における特徴量ファイル３６１の一例を示す図である。
図５に示すように、特徴量ファイル３６１は、商品の特徴量ごとに、画像リンク先、音声データ、商品ＩＤ、単価、および商品名を格納する。なお、画像リンク先は、画像データであってもよい。音声データは、音声認識ＤＢ３６２のサンプルデータに対応している。特徴量ファイル３６１は、例えば、商品の特徴量として、「青森りんごの特徴量」、「長野りんごの特徴量」、…、「温州みかんの特徴量」、「愛媛みかんの特徴量」、…ごとに、画像リンク先「Ｎ０００１Ｆ．ｊｐｇ」…、音声データ「あおもり」…、商品ＩＤ「Ｎ０００１」…、単価「１００」、商品名「りんご・青森産」…を格納する。後記するように、商品特定部９５は、オブジェクト認識による「商品の特徴量」から商品候補を抽出し、音声認識による「音声認識結果」から該当商品を確定する。
【００５０】
図６は、本実施形態における商品登録処理を示すフローチャートである。図６（ａ）は商品認識の補助情報として用いる音声の認識処理および音声認識結果の格納を実行するフロー、図６（ｂ）はオブジェクト認識処理から商品の仮登録を実行するフローである。図６（ａ）のフローと図６（ｂ）のフローとは並列動作する。各フロー間は通信によってリンクされ、オブジェクト認識処理と音声認識結果の連携が図られる。
【００５１】
本実施形態の商品登録処理は、例えば、オペレータ（店員）が、第１の買物カゴ４Ｌ（図１参照）の商品を取り出して、読取窓５２のカメラ２７にかざしたのち、第２の買物カゴ４Ｒに入れるまでの一連の処理である。
なお、本発明を顧客がオペレータであるセルフレジに適用してもよい。
【００５２】
<音声補助情報による商品特定>
オペレータが発声すると、音声認識部９４は、ステップＳ１１の処理を開始する。
ステップＳ１１において、音声認識部９４は、マイク２８からオペレータの音声入力を受け付ける。音声認識部９４は、オペレータから発せられた音声レベルが所定値以上である場合に音声入力があるとする。具体的には、オペレータは、まず「あおもり」と発声する場合を例に採る。
ステップＳ１２において、音声認識部９４は、オペレータが発声した音声信号を波形分析して特徴パターンを抽出し音声認識する。ここでは、音声認識部９４は、オペレータの発声の「あおもり」を認識するものとする。
【００５３】
音声認識の具体例について、図９を参照して説明する。
図９（ｂ）は、音声信号の音声レベルの入力（高／低）を示すタイミングチャートである。図９（ｂ）の音声信号は、説明の便宜上簡略化したエンベロープで描かれている。また、音声レベルが所定値以下（例えば０レベル）では、音声信号の入力はないものとし、所定値レベル以上で音声信号の入力があるものとする。実際には、ノイズ成分を考慮して適当な所定値を設定する。
【００５４】
図９（ｂ）に示すように、時刻：Ｔ０から１つ目の音声信号Ｓ１の音声レベルが高く、時刻：Ｔ２で１つ目の音声信号Ｓ１の入力が終了する。その後、図９（ｃ）に示すように、音声認識部９４は、１つ目の音声信号Ｓ１の音声レベルが低い（０レベル）になった時刻：Ｔ２で、時刻：Ｔ０から発生が開始された音声信号Ｓ１を取り込んで波形分析する。そして、特徴パターンを抽出して音声認識する（図６（ａ）のステップＳ１２）。この音声認識処理には所定時間を要し、図９（ｄ）に示す時刻：Ｔ１２で終了する。
【００５５】
図６（ａ）のフローに戻って、ステップＳ１３において、音声認識部９４は、音声認識が成功したか否かを判別し、音声認識が不成功の場合は本フローを終了する。
【００５６】
音声認識が成功したならば（Ｙｅｓ）、ステップＳ１４において、音声認識部９４は、音声認識結果を音声認識バッファ９４１（図７参照）に格納する。図７の例の場合、音声認識バッファ９４１には、オペレータが発声した音声認識結果「あおもり」が格納されている。また、図６の符号Ｓ３１に示すように、音声認識バッファ９４１に保存した音声認識結果「あおもり」は、ステップＳ２４の処理で参照される。
【００５７】
ステップＳ１５において、商品特定部９５は、図６の符号Ｓ３２に示すように、オブジェクト認識乃至仮登録のフロー（図６（ｂ）参照）による商品の仮登録の結果を取得して所定期間前に仮登録したか否かを判別する。
所定期間前に仮登録していないならば（Ｎｏ）、本音声認識乃至仮登録情報の更新のフローを終了する。
ここでは、オブジェクト認識による商品が仮登録されていないので、音声認識結果「あおもり」が音声認識バッファ９４１に格納されて本フローが終了する。
なお、所定期間前に仮登録されている場合（Ｙｅｓ）、ステップＳ１６以降に進む。ステップＳ１６〜１８については後記する。
【００５８】
次に、図６（ａ）のフローとは並列動作している図６（ｂ）のオブジェクト認識乃至仮登録のフローについて説明する。
オペレータは、あおもり」と発声するとともに、商品「リンゴ」をカメラ２７にかざす。
オペレータが商品をカメラ２７にかざすと、画像取得部９０は、ステップＳ２１の処理を開始する。
ステップＳ２１において、画像取得部９０は、カメラ２７に撮像オン信号を出力してカメラ２７による商品画像のキャプチャ（撮像）を開始する。画像取得部９０は、カメラ２７が撮像してＲＡＭ２１３に保存したフレーム画像（撮像画像）を取り込む。
【００５９】
図９（ａ）は、オブジェクト認識の開始および終了タイミングを示すタイミングチャートである。オブジェクト認識処理の開始（時刻：Ｔ１）から終了（時刻：Ｔ４）までの期間において、各フレーム画像をキャプチャすることでオブジェクトが認識される。本実施形態では、物体検出部９１がオブジェクト認識処理を開始してから類似度判断部９３が類似度を判断するまでの期間を含む一定期間を、オブジェクト認識処理の開始（時刻：Ｔ１）から終了（時刻：Ｔ４）までの期間としている。
【００６０】
図８（ａ）は、ディスプレイ２２１に表示される確認画面の例である。図８（ａ）の矢印は、商品登録操作にあたり、オペレータが、第１の買物カゴ４Ｌの商品を取り出して、読取窓５２のカメラ２７にかざす操作を表している。例えば、カメラ２７は、商品「りんご」を撮像してフレーム画像（撮像画像）としてＲＡＭ２１３に保存する。
【００６１】
図６（ｂ）のフローに戻って、ステップＳ２２において、物体検出部９１は、画像取得部９０が取り込んだフレーム画像に対してオブジェクト認識処理を行い、商品である物体の全部または一部の認識（検出）を試みる。
【００６２】
ステップＳ２３において、物体検出部９１は、商品である物体の全部または一部の認識に成功したか否かを判断する。物体検出部９１は、商品である物体の認識に成功したならば（Ｙｅｓ）、ステップＳ２４の処理に進み、商品である物体の認識に成功しなかったならば（Ｎｏ）、本フローを終了する。ステップＳ２１〜Ｓ２３を具体的にいうと、オペレータが商品を読取窓５２のカメラ２７にかざし、商品識別装置２が、この商品である物体の検出に成功する一連の処理である。
【００６３】
上記ステップＳ２３でオブジェクト認識が成功したならば（Ｙｅｓ）、ステップＳ２４において、商品特定部９５は、音声認識バッファ９４１の音声認識結果に基づいて、所定期間前に音声入力有りか否かを判別する。
この場合、音声認識バッファ９４１に音声認識結果「あおもり」が格納されており、これを参照して、ステップＳ２４では所定期間前に音声入力が有り（Ｙｅｓ）と判断する。
所定期間前に音声入力が有るならば、ステップＳ２５において、商品特定部９５は、音声認識結果を識別補助情報とする。具体的には、商品特定部９５は、音声認識結果「あおもり」を補助情報とする。
【００６４】
図６（ｂ）のフローに戻って、ステップＳ２６おいて、商品特定部９５は、この識別補助情報を基に、商品マスタ（売上マスタ）から商品名・単価・個数を検索して呼び出す。具体的には、商品特定部９５は、商品マスタ（売上マスタ）からこの商品の商品名「青森りんご」と商品単価「１００円」とを検索して呼び出す。これにより、図８（ｂ）に示すように、ディスプレイ２２１には、特定した商品「青森りんご」と商品単価「１００円」が表示される。
【００６５】
ステップＳ２７おいて、情報出力部９７は、確定した取扱商品の商品ＩＤなどをＰＯＳ端末３に出力して仮登録させる。これにより、ＰＯＳ端末３の売上登録部９９１は、この商品ＩＤに基づき、商品を仮登録する。このとき確定通知部９６は、確定商品の写真画像を含む確定画面をディスプレイ２２１に表示させるとともに、確定商品の商品名を音声で通知する。ステップＳ２７の処理が終了すると、図６の処理が終了する。
また、ステップＳ２７おいて、商品特定部９５は、図６の符号Ｓ３２に示すように、商品の仮登録の結果を記録し、ステップＳ１５の処理で参照させる。
【００６６】
<音声補助情報による商品の個数決定>
商品「青森りんご」を認識したタイミングを含む所定期間後において、再び音声入力「ふたつ」と発声する場合には下記の処理となる。
オペレータが再び発声すると、音声認識部９４は、ステップＳ１１の処理を開始する。
ステップＳ１１において、音声認識部９４は、マイク２８からオペレータの音声入力を受け付ける。音声認識部９４は、オペレータから発せられた音声レベルが所定値以上である場合に音声入力があるとする。
【００６７】
ここでは、図９（ｂ）に示すように、２つ目の音声信号Ｓ２の入力が時刻：Ｔ３から開始し、時刻：Ｔ５で終了する。２つ目の音声信号Ｓ２は、「ふたつ」である。
ステップＳ１２において、音声認識部９４は、オペレータが発声した音声信号を波形分析して特徴パターンを抽出し音声認識する。音声認識部９４は、図９（ｄ）に示すように、時刻：Ｔ５から時刻：Ｔ１３において、オペレータの発声の「ふたつ」を音声認識する。なお、「青森りんご」の仮登録から「ふたつ」は、所定期間（例えば３秒）で発声されている。
【００６８】
ステップＳ１３において、音声認識部９４は、音声認識が成功したか否かを判別する。
音声認識が成功し（Ｙｅｓ）、ステップＳ１４において、音声認識部９４は、音声認識結果を音声認識バッファ９４１（図７参照）に格納する。この場合、音声認識バッファ９４１には、オペレータが発声した音声認識結果「ふたつ」が格納されている。
【００６９】
ステップＳ１５において、商品特定部９５は、図６の符号Ｓ３２に示すように、オブジェクト認識乃至仮登録のフロー（図６（ｂ）参照）による商品の仮登録の結果を取得して所定期間前に仮登録したか否かを判別する。この場合、ステップＳ２７の処理により商品「青森りんご」が仮登録されている。このため、商品特定部９５は、所定期間前に仮登録有り（Ｙｅｓ）と判断し、ステップＳ１６に進む。
商品特定部９５は、音声認識バッファ９４１に格納されている音声認識結果「ふたつ」を取得するので、ステップＳ２４では所定期間前に音声入力が有り（Ｙｅｓ）と判断する。
ステップＳ１６において、商品特定部９５は、音声認識結果を識別補助情報とする。ここでは、音声認識結果「ふたつ」を補助情報とする。
ステップＳ１７おいて、商品特定部９５は、この識別補助情報を基に、商品マスタ（図示省略）から商品名・単価・個数を検索して呼び出す。具体的には、特定された商品「青森りんご」に対して補助情報として音声認識結果「ふたつ」用いて商品個数を決定する。
ステップＳ１８おいて、商品特定部９５は、商品の仮登録情報を更新して本フローを終了する。
【００７０】
図８および図９を再び参照して、再度の音声入力による音声認識結果を識別補助情報として用いて商品を特定する例について説明する。
再度の音声入力およびその音声認識処理により、特定商品「青森りんご」について、個数を決定している。例えば、オペレータは音声「ふたつ」を発音し、音声認識部９４が「２点」であることを音声認識することで、特定した商品「青森りんご」が２点（２個）であると決定する。図９（ｄ）に示すように、商品名検索結果は、時刻：Ｔ１３までは個数の指定がなかったものが、時刻：Ｔ１３からは個数「２点」となり、商品名「青森りんご」が「２点」であることが決定される。これにより、商品識別装置２は、この商品「青森りんご」の商品名と個数を確定することができる。
【００７１】
なお、図９の例は、商品を特定するオブジェクト認識が不成功である場合において、個数を決定するケースである。ここで、オブジェクト認識が不成功の場合には、音声認識を行うまでもなく、一意に商品が特定されている場合も含む。例えば、商品「りんご」が一種類しかない場合には、オペレータは商品名を特定する「あおもり」の発声は省略することができる。このように、オペレータは音声による個数の入力のみを行うことができる。図示は省略するが、図９（ｂ）において１つ目の音声信号Ｓ１を取り去り、２つ目の音声信号Ｓ２（時刻：Ｔ１３）で「あおもり」の発声を「ふたつ」の発声に変えたものとなる。ここで、２つ目の音声信号Ｓ２（時刻：Ｔ１３）までの「あおもり」の発声を「キャンセル」の発声に変えることで、上記と同様の処理で、商品登録のキャンセルを行うことができる。
【００７２】
また、図５の特徴量ファイル３６１の「音声」に複数の音声を設定し、いずれかの音声を認識した場合であっても商品を特定できるようにしてもよい。例えば、商品「りんご」の場合、産地名「あおもり」に加えて、「つがる」を設定しておくようにすれば、「つがる」を発声すれば、「あおもり」を発声した場合と同様に商品「青森リンゴ」が特定される。また、図５の特徴量ファイル３６１の「音声」は、産地のほか愛称・通称であってもよい。例えば、商品「みかん」の場合、産地名「わかやま」に加えて、通称名「うんしゅう」を設定しておくようにすれば、「うんしゅう」を発声すれば、「わかやま」を発声した場合と同様に商品「温州みかん」が特定される。
【００７３】
この商品登録処理により、オペレータは、キーボード操作をすることなしに商品の売上登録や追加登録・キャンセルの操作ができる。特に、画像によるオブジェクト認識だけでは実現が困難であった商品の産地による特定や個数の指定、商品のキャンセルなどを簡単に行うことができ、作業効率を大幅に向上させることができる。
【００７４】
（変形例）
本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲で、変更実施が可能であり、例えば、次の（ａ），（ｂ）のようなものがある。
（ａ）  認識する音声はどのようなものでもよい。例えば、産地や愛称（通称）、個数のほか、キャンセルでもよく、これらの組合せでもよい。また、この音声認識の数や順序も任意である。
（ｂ）  カメラ２７により撮影された商品を認識した期間が、マイク２８によって入力されて認識した音声の期間と重なっていればよく、どのような重なり具合でもよい。例えば、図９（ａ）に示すように、オブジェクト認識の開始（時刻：Ｔ１）または終了（時刻：Ｔ４）のうち、いずれか一部が重なればよい。また、認識した音声の期間が、オブジェクト認識の開始（時刻：Ｔ１）から終了（時刻：Ｔ４）までの期間にすべて重なるものでもよい。
【００７５】
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
〔付記〕
＜請求項１＞
画像を撮影する撮影手段と、
音声を入力する音声入力手段と、
前記撮影手段により撮影された物体を認識したタイミングを含む前後所定期間において入力された前記音声を、前記物体認識の補助情報として用いて商品を認識する制御手段と、
を備えることを特徴とする商品登録装置。
＜請求項２＞
前記制御手段は、前記撮影手段により撮影された物体を認識したタイミングを含む前後所定期間において入力された前記音声に基づいて商品の個数を認識する、
ことを特徴とする請求項１に記載の商品登録装置。
＜請求項３＞
画像を撮影する撮影手段と、
音声を入力する音声入力手段と、
前記撮影手段により撮影された商品を認識したタイミングを含む前後所定期間において入力された前記音声に基づいて前記商品の登録または商品登録のキャンセルを実行する制御手段と、
を備えることを特徴とする商品登録装置。
＜請求項４＞
画像を撮影する撮影ステップと、
音声を入力する音声入力ステップと、
前記撮影ステップにより撮影された物体を認識したタイミングを含む前後所定期間において入力された前記音声を、前記物体認識の補助情報として用いて商品を認識する制御ステップと、
を含むことを特徴とする商品認識方法。
＜請求項５＞
画像を撮影する撮影ステップと、
音声を入力する音声入力ステップと、
前記撮影手段により撮影された商品を認識したタイミングを含む前後所定期間において入力された前記音声に基づいて前記商品の登録または商品登録のキャンセルを実行する制御ステップと、
を含むことを特徴とする商品認識方法。
【符号の説明】
【００７６】
１  商品登録装置
２  商品識別装置
２１  マイクロコンピュータ
２１１  ＣＰＵ  （制御手段）
２１２  ＲＯＭ
２１３  ＲＡＭ
２２  表示・操作部
２２１  ディスプレイ
２２２  タッチパネル
２４  顧客用ディスプレイ
２５  インタフェース
２７  カメラ  （撮像手段）
２８  マイク
２９  スピーカ
３０  電源
３  ＰＯＳ端末
３６  ＨＤＤ
３６１  特徴量ファイル  （辞書）
３６２  音声認識ＤＢ  （辞書）
９０  画像取得部
９１  物体検出部
９２  類似度演算部
９３  類似度判断部
９４  音声認識部
９４１  音声認識バッファ
９５  商品特定部
９６  確定通知部
９７  情報出力部
９９  売上登録部
【図１】
0006428240.tif 000002
【図２】
0006428240.tif 000003
【図３】
0006428240.tif 000004
【図４】
0006428240.tif 000005
【図５】
0006428240.tif 000006
【図６】
0006428240.tif 000007
【図７】
0006428240.tif 000008
【図８】
0006428240.tif 000009
【図９】
0006428240.tif 000010