(57)【要約】【課題】商品候補の表示に係る利便性を向上させることが可能な情報処理装置及びプログラムを提供する。【解決手段】撮像手段が撮像した画像から特徴量を抽出する抽出手段と、辞書登録された商品各々の特徴量と、前記抽出手段が抽出した商品の特徴量とを比較し、その類似度を算出する算出手段と、辞書登録された商品の中から、前記類似度が閾値以上となった商品を商品候補として認識する認識手段と、前記認識手段が認識した前記商品候補の個数に応じて、前記商品候補を表す情報を切り替えて表示する表示制御手段と、を備える。【選択図】図５
2018055716.tif 000002
【特許請求の範囲】
【請求項１】
撮像手段が撮像した画像から特徴量を抽出する抽出手段と、
辞書登録された商品各々の特徴量と、前記抽出手段が抽出した商品の特徴量とを比較し、その類似度を算出する算出手段と、
辞書登録された商品の中から、前記類似度が閾値以上となった商品を商品候補として認識する認識手段と、
前記認識手段が認識した前記商品候補の個数に応じて、前記商品候補を表す情報を切り替えて表示する表示制御手段と、
を備える情報処理装置。
【請求項２】
互いに異なる個数の配置領域を有する複数のテンプレートの中から、前記認識手段に認識された前記商品候補の個数に応じたテンプレートを選択する選択手段を更に備え、
前記表示制御手段は、前記選択手段が選択した前記テンプレートに、前記商品候補を表す情報を表示する請求項１に記載の情報処理装置。
【請求項３】
前記表示制御手段は、前記テンプレートを切り変えて表示する際に、テンプレートの更新中であることを所定時間表示する請求項１又は２に記載の情報処理装置。
【請求項４】
前記表示制御手段は、前記類似度の値に応じて、前記配置領域の大きさを変更する請求項１〜３の何れか一項に記載の情報処理装置。
【請求項５】
前記認識手段は、前記商品の候補となる商品候補を辞書登録された商品の中から認識するとともに、当該商品候補と同一のグループに属する辞書登録された商品を商品候補として認識する請求項１〜４の何れか一項に記載の情報処理装置。
【請求項６】
コンピュータを、
撮像手段が撮像した画像から特徴量を抽出する抽出手段と、
辞書登録された商品各々の特徴量と、前記抽出手段が抽出した商品の特徴量とを比較し、その類似度を算出する算出手段と、
辞書登録された商品の中から、前記類似度が閾値以上となった商品を商品候補として認識する認識手段と、
前記認識手段が認識した前記商品候補の個数に応じて、前記商品候補を表す情報を切り替えて表示する表示制御手段と、
して機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明の実施形態は、情報処理装置及びプログラムに関する。
【背景技術】
【０００２】
従来、物品を撮像した画像データから当該物品の特徴量を抽出し、予め用意された照合用物品の特徴量を示すデータと比較することで、当該物品の種別等を認識する技術が存在する。また、この技術を青果品等の商品の認識（識別）に用いることで、認識された商品を売上登録する店舗システムが提案されている。係る店舗システムでは、商品の候補となる照合用商品（商品候補）が複数存在する場合、これらの商品候補を選択可能に表示し、使用者からの選択を受け付ける。
【０００３】
ところで、上述した従来の店舗システムでは、商品候補の表示方法については何ら考慮されておらず、固定的に設けられた所定個数分の枠内に商品候補を表示する構成となっている。しかしながら、この構成では、枠の個数を超える複数の商品候補が認識された場合に対応することができないため、利便性に欠けるものとなっている。
【発明の概要】
【発明が解決しようとする課題】
【０００４】
本発明が解決しようとする課題は、商品候補の表示に係る利便性を向上させることが可能な情報処理装置及びプログラムを提供することである。
【課題を解決するための手段】
【０００５】
実施の形態の情報処理装置は、抽出手段と、算出手段と、認識手段と、表示制御手段とを備える。抽出手段は、撮像手段が撮像した画像から特徴量を抽出する。算出手段は、辞書登録された商品各々の特徴量と、前記抽出手段が抽出した商品の特徴量とを比較し、その類似度を算出する。認識手段は、辞書登録された商品の中から、前記類似度が閾値以上となった商品を商品候補として認識する。表示制御手段は、前記認識手段が認識した前記商品候補の個数に応じて、前記商品候補を表す情報を切り替えて表示する。
【図面の簡単な説明】
【０００６】
【図１】図１は、実施形態に係るチェックアウトシステムの外観構成を示す斜視図である。
【図２】図２は、図１に示したＰＯＳ端末及び商品読取装置のハードウェア構成を示すブロック図である。
【図３】図３は、図２に示したＰＬＵファイルのデータ構成の一例を模式的に示す図である。
【図４】図４は、図２に示したグループ設定ファイルのデータ構成の一例を模式的に示す図である。
【図５】図５は、図１に示したＰＯＳ端末及び商品読取装置の機能構成を示すブロック図である。
【図６】図６は、商品候補画面の表示例を示す図である。
【図７】図７は、商品候補画面の表示例を示す図である。
【図８】図８は、商品候補画面の表示例を示す図である。
【図９】図９は、更新情報の表示例を示す図である。
【図１０】図１０は、商品読取装置が実行する商品認識処理の手順を示すフローチャートである。
【図１１】図１１は、ＰＯＳ端末が実行する売上登録処理の手順を示すフローチャートである。
【図１２】図１２は、実施形態に係るセルフＰＯＳの外観構成を示す斜視図である。
【図１３】図１３は、図１２に示したセルフＰＯＳのハードウェア構成を示すブロック図である。
【発明を実施するための形態】
【０００７】
以下では、チェックアウトシステムを例に本実施形態に係る情報処理装置及びプログラムについて、図面を参照して説明する。店舗システムは、一取引に係る商品の登録、精算を行うＰＯＳ端末を備えるチェックアウトシステム（ＰＯＳシステム）等である。本実施形態は、スーパーマーケット等の店舗に導入されたチェックアウトシステムへの適用例である。
【０００８】
図１は、チェックアウトシステム１の外観構成を示す斜視図である。図１に示すように、チェックアウトシステム１は、ＰＯＳ端末１１と、情報処理装置としての商品読取装置１０１とを備える。
【０００９】
ＰＯＳ端末１１は、チェックアウト台５１上のドロワ２１上面に載置する。ドロワ２１は、ＰＯＳ端末１１によって開放動作の制御を受ける。オペレータ（店員等）によって押下操作されるキーボード２２は、ＰＯＳ端末１１の上面に配置する。キーボード２２を操作するオペレータから見てキーボード２２よりも奥側には、オペレータに向けて情報を表示する表示デバイス２３を備える。表示デバイス２３は、その表示面２３ａに情報を表示する。タッチパネル２６は、表示面２３ａに積層される。顧客用表示デバイス２４は、表示デバイス２３よりもさらに奥側に回転自在に立設される。顧客用表示デバイス２４は、その表示面２４ａに情報を表示する。
【００１０】
なお、図１に示す顧客用表示デバイス２４は、表示面２４ａを図１中手前側に向いた状態であるが、表示面２４ａが図１中奥側に向くように顧客用表示デバイス２４を回転させることによって、顧客用表示デバイス２４は顧客に向けて情報を表示する。
【００１１】
ＰＯＳ端末１１が載置されるチェックアウト台５１とＬ字を形成するようにして、横長テーブル状のカウンタ台１５１が配置される。カウンタ台１５１の上面には、荷受け面１５２が形成される。荷受け面１５２には、商品Ｇを収納する買物カゴ１５３が載置される。買物カゴ１５３は、顧客によって持ち込まれる第１の買物カゴ１５３ａと、第１の買物カゴ１５３ａから商品読取装置１０１を挟んだ位置に載置される第２の買物カゴ１５３ｂとに分けて考えることができる。
【００１２】
カウンタ台１５１の荷受け面１５２には、ＰＯＳ端末１１とデータ送受信可能に接続された商品読取装置１０１が設置される。商品読取装置１０１は、薄型矩形形状のハウジング１０２を備える。
【００１３】
ハウジング１０２の正面には、読取窓１０３が配置される。ハウジング１０２の上部には、表示・操作部１０４が取り付けられる。表示・操作部１０４には、タッチパネル１０５が表面に積層された液晶表示器等の表示デバイス１０６が設けられる。表示デバイス１０６の右隣にはキーボード１０７が配設される。キーボード１０７の右隣には、図示しないカードリーダのカード読取溝１０８が設けられる。オペレータから見て表示・操作部１０４の裏面左奥側には、顧客に情報を提供するための顧客用表示デバイス１０９が設置される。
【００１４】
顧客によって持ち込まれた第１の買物カゴ１５３ａには、一取引に係る商品Ｇが収納される。第１の買物カゴ１５３ａ内の商品Ｇは、商品読取装置１０１を操作するオペレータにより第２の買物カゴ１５３ｂへと移動される。この移動過程で、商品Ｇが商品読取装置１０１の読取窓１０３に向けられる。この際、読取窓１０３内に配置された撮像部１６４（図２参照）は商品Ｇを撮像する。
【００１５】
図２は、ＰＯＳ端末１１及び商品読取装置１０１のハードウェア構成を示すブロック図である。
【００１６】
ＰＯＳ端末１１は、情報処理を実行する情報処理部としてのマイクロコンピュータ６０を備える。マイクロコンピュータ６０は、各種演算処理を実行し各部を制御するＣＰＵ（Central  Processing  Unit）６１と、ＲＯＭ（Read  Only  Memory）６２と、ＲＡＭ（Random  Access  Memory）６３とを備える。ＲＯＭ６２は、ＣＰＵ６１が実行するプログラムを記憶する。
【００１７】
ＰＯＳ端末１１のＣＰＵ６１には、ドロワ２１、キーボード２２、表示デバイス２３、顧客用表示デバイス２４、通信インターフェース２５、タッチパネル２６、ＨＤＤ（Hard  Disk  Drive）６４、接続インターフェース６５及びプリンタ６６が何れも各種の入出力回路（何れも図示せず）を介して接続される。
【００１８】
キーボード２２は、「１」、「２」、「３」…等の数字や「×」という乗算の演算子が上面に表示されているテンキー２２ｄ、仮締めキー２２ｅ、及び締めキー２２ｆを含む。
【００１９】
ＨＤＤ６４は、各種プログラムや各種ファイルを記憶する。ＣＰＵ６１は、ＰＯＳ端末１１の起動時等に、ＨＤＤ６４に記憶されたプログラムの全部又は一部をＲＡＭ６３にコピーし、実行する。
【００２０】
また、ＨＤＤ６４は、ＰＬＵファイルＦ１、グループ設定ファイルＦ２等のデータファイルを記憶する。ＰＬＵファイルＦ１及びグループ設定ファイルＦ２は、接続インターフェース６５を介し、商品読取装置１０１から読み出し可能である。
【００２１】
ＰＬＵファイルＦ１は、店舗内で販売される商品Ｇと、その商品Ｇの売上登録等に関する情報との関連付けが設定されたデータファイルである。図３は、ＰＬＵファイルＦ１のデータ構成の一例を模式的に示す図である。同図に示すように、ＰＬＵファイルＦ１には、商品Ｇ毎に、ユニークに割り当てられた商品ＩＤと、商品名、単価等の商品に関する情報と、その商品Ｇを撮像した商品画像とが関連付けて登録される。また、ＰＬＵファイルＦ１には、商品Ｇ毎に、その商品Ｇの外観の特徴量（辞書登録された商品の特徴量データ）が関連付けて登録される。本実施形態では、ＰＬＵファイルＦ１の特徴量データは辞書（辞書データ）として機能する。この実施形態に限らず、辞書データはＰＬＵファイルＦ１とは別体に設けられていてもよい。この場合、同一の商品について、辞書データとＰＬＵファイル中の他のデータとの関連付けが行われているものとする。
【００２２】
商品画像は、後述する類似度判定の際に、比較の対象とされる辞書登録された商品の各々を撮像した画像である。商品画像は、後述する商品候補の提示の際に、その商品候補を表す画像として提示される。また、各商品Ｇの撮像画像（例えば、商品画像）から予め抽出された、その商品Ｇの特徴量が、対応する商品ＩＤに関連付けて登録される。ここで、特徴量とは、商品Ｇ表面の色合いや模様、凹凸状況、形状等、商品Ｇの特徴を表した情報である。
【００２３】
なお、本実施形態では、各商品Ｇの特徴量をＰＬＵファイルＦ１に予め登録しておく形態としているが、これに限らず、特徴量を登録しない形態としてもよい。この場合、後述する特徴量抽出部１６１３により、各商品画像から特徴量を抽出することで、その都度特徴量を取得する形態としてもよい。また、商品画像の代わりに提示用の画像を登録する形態としてもよい。以下では、ＰＬＵファイルＦ１に登録された商品を「登録商品」という。
【００２４】
グループ設定ファイルＦ２は、同一のグループに所属する登録商品を管理するためのデータファイルである。図４は、グループ設定ファイルＦ２のデータ構成の一例を模式的に示す図である。同図に示すように、グループ設定ファイルＦ２には、グループ毎にユニークに割り当てられたグループＩＤと、当該グループに所属する各登録商品の商品ＩＤとが関連付けて登録される。
【００２５】
なお、同一のグループとする登録商品の組み合わせは特に問わないものとする。例えば、同一の商品について、複数の販売形態が存在する場合には、各販売形態に割り当てられた商品ＩＤを同一グループとしてもよい。この場合、例えば、１株単位や、１／２又は１／４にカットされた状態で販売される同一の商品を、同一のグループに所属させることができる。また、同一のカテゴリや種別に属する登録商品の商品ＩＤを同一グループとしてもよい。この場合、例えば、種別名“りんご”にカテゴライズされる各品種を、同一のグループに所属させることができる。また、互いに異なる登録商品であっても、その外観の特徴が類似する登録商品を同一グループとしてもよい。この場合、例えば、後述する商品候補の認識時において誤認識が生じる可能性のある登録商品を、同一のグループに所属させることができる。
【００２６】
図２に戻り、ＰＯＳ端末１１のＣＰＵ６１には、ストアコンピュータＳＣとデータ通信を実行するための通信インターフェース２５が入出力回路（図示せず）を介して接続される。ストアコンピュータＳＣは、店舗のバックヤード等に設置される。ストアコンピュータＳＣのＨＤＤ（図示せず）は、ＰＯＳ端末１１に配信されるＰＬＵファイルＦ１やグループ設定ファイルＦ２、ＰＬＵファイルＦ１に登録された各登録商品の在庫状態を管理するための在庫管理ファイル等を記憶する。
【００２７】
接続インターフェース６５は、商品読取装置１０１との間でデータ送受信を可能にする。接続インターフェース６５には、商品読取装置１０１が接続される。また、プリンタ６６は、レシート等に印字を行う。ＰＯＳ端末１１は、ＣＰＵ６１の制御の下、プリンタ６６にて、一取引の取引内容をレシートに印字する。
【００２８】
商品読取装置１０１は、商品読取部１１０と、表示・操作部１０４とを備える。商品読取部１１０は、マイクロコンピュータ１６０を備える。マイクロコンピュータ１６０は、ＣＰＵ１６１と、ＲＯＭ１６２と、ＲＡＭ１６３とを備える。ＲＯＭ１６２は、ＣＰＵ１６１が実行するプログラムを記憶する。
【００２９】
ＣＰＵ１６１には、撮像部１６４、音声出力部１６５及び接続インターフェース１７５が各種の入出力回路（何れも図示せず）を介して接続される。撮像部１６４、音声出力部１６５及び接続インターフェース１７５は、ＣＰＵ１６１によって動作が制御される。
【００３０】
撮像部１６４は、カラーＣＣＤセンサやカラーＣＭＯＳセンサ等であり、読取窓１０３からの撮像を行う撮像手段である。例えば撮像部１６４では３０ｆｐｓの動画像の撮像を行う。撮像部１６４が所定のフレームレートで順次撮像したフレーム画像（撮像画像）はＲＡＭ１６３に保存される。音声出力部１６５は、予め設定された警告音等を発生するための音声回路とスピーカ等である。音声出力部１６５は、ＣＰＵ１６１の制御の下で警告音等の音声による報知を行う。
【００３１】
表示・操作部１０４は、タッチパネル１０５、表示デバイス１０６、キーボード１０７、顧客用表示デバイス１０９及び接続インターフェース１７６を備える。商品読取部１１０の接続インターフェース１７５は、ＰＯＳ端末１１の接続インターフェース６５に接続して、ＰＯＳ端末１１との間でデータ送受信を可能にする。接続インターフェース１７５は、接続インターフェース１７６を介して、表示・操作部１０４と接続し、ＣＰＵ１６１は、接続インターフェース１７５を介して、商品読取部１１０と表示・操作部１０４との間でデータ送受信を行う。
【００３２】
次に、ＣＰＵ１６１、ＣＰＵ６１がプログラムを実行することで実現されるＣＰＵ１６１、ＣＰＵ６１の機能構成について、図５を参照して説明する。
【００３３】
図５は、ＰＯＳ端末１１及び商品読取装置１０１の機能構成を示すブロック図である。図５に示すように、商品読取装置１０１のＣＰＵ１６１は、プログラムを順次実行することにより、画像取込部１６１１、商品検出部１６１２、特徴量抽出部１６１３、類似度判定部１６１４、商品候補提示部１６１５、入力受付部１６１６及び情報出力部１６１７としての機能を備える。
【００３４】
画像取込部１６１１は、取込手段に対応する機能部である。画像取込部１６１１は、撮像部１６４に撮像オン信号を出力して撮像部１６４に撮像動作を開始させる。画像取込部１６１１は、撮像動作開始後に撮像部１６４が撮像してＲＡＭ１６３に保存された撮像画像を順次取り込む。画像取込部１６１１による撮像画像の取り込みは、ＲＡＭ１６３に保存された順に行う。
【００３５】
商品検出部１６１２は、検出手段に対応する機能部である。商品検出部１６１２は、画像取込部１６１１が取り込んだ撮像画像に含まれる商品Ｇの全部又は一部の輪郭線を、公知のパターンマッチング技術等を用いて検出する。次いで、前回の撮像画像（フレーム画像）から抽出された輪郭線と、今回のフレーム画像から抽出された輪郭線とを比較し、変化のあった部分、すなわち、読取窓１０３に向けられた商品Ｇの写り込み領域を検出する。
【００３６】
商品Ｇを検出する別の方法としては、撮像画像から肌色領域が検出されたか否かを判定し、肌色領域が検出された場合、つまり店員の手の写り込みが検出された場合は、この肌色領域の近傍において上述した輪郭線の検出を行うことで、店員の手が把持していると想定される商品Ｇの輪郭抽出を試みる。この時、手の形状を示す輪郭と、手の輪郭の近傍にそれ以外の物体の輪郭とが検出された場合には、この物体の輪郭から商品Ｇを検出する。
【００３７】
特徴量抽出部１６１３は、抽出手段に対応する機能部である。特徴量抽出部１６１３は、画像取込部１６１１が取り込んだ撮像画像から、商品検出部１６１２で検出された商品Ｇの表面の状態（表面の色合い、模様、凸凹状況、形状等）を特徴量として抽出する。
【００３８】
類似度判定部１６１４は、算出手段及び認識手段に対応する機能部である。類似度判定部１６１４は、ＰＬＵファイルＦ１に登録された各登録商品の特徴量と、特徴量抽出部１６１３が抽出した特徴量とを比較し、その類似度をそれぞれ算出する。また、類似度判定部１６１４は、算出した類似度のうち、その値が所定の閾値以上となる登録商品（商品ＩＤ）を、撮像部１６４で撮像された商品Ｇの候補（商品候補）として認識する。さらに、類似度判定部１６１４は、認識した商品候補と同一のグループに所属する登録商品をグループ設定ファイルＦ２から特定し、商品候補として認識する。
【００３９】
ここで、類似度は、商品Ｇの特徴量と、ＰＬＵファイルＦ１に登録された商品の特徴量とを比較し、両特徴量がどの程度類似しているかを示す値（類似度）であればよい。なお、類似度の概念は、この例に限らず、ＰＬＵファイルＦ１に登録された各登録商品の特徴量との一致度を示す値や、商品Ｇの特徴量とＰＬＵファイルＦ１に登録された各登録商品の特徴量とがどの程度相関するかを示す値であってもよい。
【００４０】
上記のように画像中に含まれる物体を認識することは、一般物体認識（generic  object  recognition）と呼ばれている。このような一般物体認識については、下記の文献において各種認識技術が解説されている。
柳井  啓司，“一般物体認識の現状と今後”，情報処理学会論文誌，Ｖｏｌ．４８，Ｎｏ．ＳＩＧ１６  [平成２５年１月２４日検索]，インターネット<URL:  http://mm.cs.uec.ac.jp/IPSJ-TCVIM-Yanai.pdf  >
【００４１】
また、画像を物品（オブジェクト）毎に領域分割することによって一般物体認識を行う技術が、下記の文献において解説されている。
Jamie  Shottonら，“Semantic  Texton  Forests  for  Image  Categorization  and  Segmentation”，[平成２５年１月２４日検索]，インターネット<URL:  http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.145.3036&rep=rep1&type=pdf  >
【００４２】
なお、類似度の算出方法は特に問わないものとする。例えば、類似度を絶対評価として算出してもよいし、相対評価として算出してもよい。類似度を絶対評価として算出する場合、撮像された商品Ｇの画像と、登録商品とを１対１で比較し、この比較の結果導出される類似度をそのまま採用すればよい。また、類似度を相対評価として算出する場合、撮像された商品Ｇと、各登録商品との類似度の総和が１．０（１００％）となるよう算出すればよい。
【００４３】
商品候補提示部１６１５は、選択手段及び表示制御手段に対応する機能部である。商品候補提示部１６１５は、類似度判定部１６１４で商品候補と認識された登録商品に関する情報を、表示デバイス１０６に表示する。より詳細には、商品候補提示部１６１５は、商品候補として認識された登録商品のレコードをＰＬＵファイルＦ１から読み出し、表示デバイス１０６の商品候補画面内に表示する。
【００４４】
図６〜図８は、商品候補画面の表示例を示す図である。表示デバイス１０６に表示される商品候補画面Ａ１は、撮像画像領域Ａ１１と、商品候補提示領域Ａ１２とを含む。
【００４５】
撮像画像領域Ａ１１は、画像取込部１６１１が取り込んだ撮像画像を表示するための領域である。撮像画像領域Ａ１１の下部には、部門コードや商品リスト等から手動で商品Ｇを認識（登録）するための手動登録ボタンＢ１が設けられる。ＣＰＵ１６１は、手動登録ボタンＢ１の操作に応じて、商品Ｇの認識（登録）を手動で行うための手動登録画面（図示せず）を表示デバイス１０６に表示する。なお、手動登録画面を介して指定された商品は、後述する確定商品として処理される。
【００４６】
商品候補提示領域Ａ１２は、商品候補として認識された登録商品に関する情報を表示するための領域である。商品候補提示領域Ａ１２には、図６〜図８に示すように、互いに異なる個数の配置領域Ａ２を有するテンプレートＴ１〜Ｔ３の何れか一つが設定される。ここで、テンプレートＴ１（図６参照）は、配置領域Ａ２を４個有する。テンプレートＴ２（図７参照）は、配置領域Ａ２を６個有する。テンプレートＴ３（図８参照）は、配置領域Ａ２を９個有する。なお、テンプレートの個数は複数であれば特に問わず４個以上としてもよい。
【００４７】
商品候補提示部１６１５は、テンプレートＴ１〜Ｔ３の中から、商品候補の個数に応じたテンプレートを選択し、撮像画像領域Ａ１１に設定する。また、商品候補の個数が変動（増加）した場合には、その個数に応じてテンプレートを切り替えて設定する。そして、商品候補提示部１６１５は、テンプレートの配置領域Ａ２に、商品候補の商品画像や商品名等の情報（Ｇ１〜Ｇ７）を配置して表示する。商品候補提示領域Ａ１２に表示された商品候補は、タッチパネル１０５に対するタッチ操作に応じて選択可能に構成される。
【００４８】
例えば、商品候補の個数が４個までの間は、テンプレートＴ１（図６参照）を選択して商品画像を表示する。また、類似度判定部１６１４で認識された商品候補の個数が５個以上になると、テンプレートＴ２（図７参照）に切り替えて商品画像を表示する。また、類似度判定部１６１４で認識された商品候補の個数が７個以上になると、テンプレートＴ３（図８参照）に切り替えて商品画像を表示する。図８は、配置領域Ａ２を９個有し、最大で９個の商品候補を表示することができるが、７つの商品候補を表示している例を示す。
【００４９】
このように、商品候補提示部１６１５は、認識した商品候補の個数に応じて、商品候補を表す情報を切り替えて表示する。商品候補提示部１６１５は、商品候補の増加に伴い、より多くの配置領域を有したテンプレートに段階的に切り替えて表示する。これにより、複数の商品候補が認識された場合であっても、その個数に応じたレイアウトで商品候補を表示することができるため、商品候補の表示に係る利便性を向上させることができる。
【００５０】
なお、商品候補の配置順は、特に問わないものとするが、例えば類似度の高い登録商品の順に配置してもよい。また、本実施形態において、商品候補の個数が１０個以上となった場合には、それらの商品候補の中から９個を抽出してテンプレートＴ３に配置する。このとき、例えば、先に認識された９個の商品候補を選択してもよいし、類似度がより高い上位９個の商品候補を抽出してもよい。なお、商品候補提示領域Ａ１２には、類似度判定部１６１４で認識された商品候補の商品画像を表示せず、商品名を表示するようにしてもよい。
【００５１】
ところで、商品読取装置１０１のオペレータは、商品候補提示領域Ａ１２に表示された商品候補の中から、商品Ｇに該当する商品候補を選択する。しかしながら、オペレータが商品候補を選択するタイミングでテンプレートの切り替えが行われると、レイアウトの変更により、オペレータが意図した商品候補を選択できない可能性がある。そこで、商品候補提示部１６１５は、テンプレートを切り替える際に、テンプレート（商品候補）の更新中を通知する更新情報を、商品候補提示領域Ａ１２に表示する。
【００５２】
ここで、図９は、更新情報の表示例を示す図である。同図に示すように、商品候補提示部１６１５は、テンプレートの切り替えを行うにあたり、商品候補提示領域Ａ１２に更新情報Ｔ４を表示する。更新情報Ｔ４の表示を継続する時間は、特に問わないものとするが、テンプレートの更新中であることをオペレータが認識できる程度の時間（例えば２秒等）とすることが好ましい。更新情報Ｔ４の表示は、例えば黒色の背景に、更新中である旨を通知する表示を行う。なお、更新情報Ｔ４の表示を継続する間は、商品候補の選択ができないように制御することが好ましい。
【００５３】
これにより、テンプレートの切り替えに伴う誤操作の発生を低減することができるため、商品候補の表示に係る利便性を向上させるとともに、当該商品候補の選択に係る操作性を向上させることができる。なお、商品候補提示領域Ａ１２（テンプレート）の初回表示時においても、更新情報を表示する形態としてもよい。
【００５４】
図５に戻り、入力受付部１６１６は、タッチパネル１０５又はキーボード１０７を介して表示デバイス１０６の表示に対応する各種入力操作を受け付ける。例えば、入力受付部１６１６は、表示デバイス１０６に表示された商品候補の中から何れか一つの商品候補に対する選択操作を受け付ける。入力受付部１６１６は、選択された商品候補を、撮像部１６４によって撮像された商品Ｇに対応する商品（確定商品）として受け付ける。なお、商品検出部１６１２が複数の商品Ｇを検出可能である場合には、入力受付部１６１６は商品候補の中から、複数の商品候補の選択操作を受け付けてもよい。
【００５５】
情報出力部１６１７は、上述のように確定された確定商品について、その商品を示す情報（例えば、商品ＩＤや商品名等）を、接続インターフェース１７５を介してＰＯＳ端末１１に出力する。
【００５６】
なお、情報出力部１６１７は、タッチパネル１０５又はキーボード１０７を介して別途入力された販売個数を、商品ＩＤ等とともにＰＯＳ端末１１に出力してもよい。また、情報出力部１６１７がＰＯＳ端末１１に出力する情報としては、情報出力部１６１７がＰＬＵファイルＦ１から読み出した商品ＩＤを直接通知してもよいし、商品ＩＤを特定することが可能な商品名、商品画像のファイル名を通知してもよいし、その商品ＩＤの格納場所（ＰＬＵファイルＦ１での格納アドレス）を通知してもよい。
【００５７】
一方、ＰＯＳ端末１１のＣＰＵ６１は、プログラムを実行することにより、売上登録部６１１としての機能を備える。売上登録部６１１は、商品読取装置１０１の情報出力部１６１７から出力された商品ＩＤと販売個数とに基づいて、対応する商品の売上登録を行う。具体的に、売上登録部６１１は、ＰＬＵファイルＦ１を参照し、通知された商品ＩＤ及び当該商品ＩＤに対応する商品分類、商品名、単価等を、販売個数とともに売上マスタファイル等に記録することで売上登録を行う。
【００５８】
以下、チェックアウトシステム１の動作について説明する。まず、図１０を参照して、商品読取装置１０１の動作について説明する。ここで、図１０は、商品読取装置１０１が実行する商品認識処理の手順を示すフローチャートである。
【００５９】
ＰＯＳ端末１１による商品登録の開始等に応じて本処理が開始されると、画像取込部１６１１は、撮像部１６４に撮像オン信号を出力して撮像部１６４による撮像を開始する（ステップＳ１１）。
【００６０】
画像取込部１６１１は、撮像部１６４が撮像してＲＡＭ１６３に保存されたフレーム画像（撮像画像）を取り込む（ステップＳ１２）。次いで、商品検出部１６１２は、ステップＳ１２で取り込まれた撮像画像から商品Ｇの全部又は一部の検出を行う（ステップＳ１３）。ここで、商品Ｇが検出されない場合には（ステップＳ１３；Ｎｏ）、ステップＳ１２に戻る。
【００６１】
ステップＳ１３において商品Ｇが検出された場合（ステップＳ１３；Ｙｅｓ）、特徴量抽出部１６１３は、ステップＳ１２で取り込まれた撮像画像から、ステップＳ１３で検出された商品Ｇの特徴量を抽出する（ステップＳ１４）。次いで、類似度判定部１６１４は、ステップＳ１４で抽出された特徴量と、ＰＬＵファイルＦ１に登録された各登録商品の特徴量とを比較し、その類似度をそれぞれ算出する（ステップＳ１５）。
【００６２】
類似度判定部１６１４は、算出した類似度のうち、その値が所定の閾値以上となった登録商品の商品ＩＤを商品候補として認識する。また、類似度判定部１６１４は、認識した商品候補と同一のグループに所属する登録商品をグループ設定ファイルＦ２から特定し、当該登録商品を商品候補として認識する（ステップＳ１６）。
【００６３】
商品候補提示部１６１５は、ステップＳ１６で認識された商品候補の個数をカウントし、当該個数に応じたテンプレートを選択する（ステップＳ１７）。次いで、商品候補提示部１６１５は、現在設定中のテンプレートと、ステップＳ１７で選択したテンプレートとの同一性に基づき、テンプレートの切り替えが必要か否かを判定する（ステップＳ１８）。
【００６４】
ステップＳ１８でテンプレートを切り替えると判定した場合（ステップＳ１８；Ｙｅｓ）、商品候補提示部１６１５は、商品候補提示領域Ａ１２に更新情報を所定時間表示した後（ステップＳ１９）、選択したテンプレートを設定し、ステップＳ２０に移行する。また、ステップＳ１８でテンプレートを切り替えないと判定した場合には（ステップＳ１８；Ｎｏ）、ステップＳ２０に移行する。
【００６５】
ステップＳ２０において、商品候補提示部１６１５は、認識された商品候補のレコードをＰＬＵファイルＦ１から読み出し、テンプレートの配置領域に配置して表示する（ステップＳ２０）。続いて、入力受付部１６１６は、タッチパネル１０５又はキーボード１０７を介して、商品候補の選択を受け付けたか否かを判定する（ステップＳ２１）。選択操作が行われると（ステップＳ２１；Ｙｅｓ）、入力受付部１６１６は、選択された商品候補を、商品Ｇに対応する確定商品に設定し、ステップＳ２２に移行する。また、ステップＳ２１において、商品候補の選択を受け付けない場合には（ステップＳ２１；Ｎｏ）、ステップＳ１２に再び戻る。
【００６６】
ステップＳ２２において、情報出力部１６１７は、確定商品を示す商品ＩＤ等の情報を、ＰＯＳ端末１１に出力し（ステップＳ２２）、ステップＳ２３に移行する。ここで、タッチパネル１０５又はキーボード１０７を介して販売個数が別途入力された場合には、ステップＳ２２において、確定商品を示す情報とともに、その販売個数をＰＯＳ端末１１に出力するものとする。なお、販売個数の入力が行われない場合には、デフォルト値として販売個数“１”を出力する形態としてもよい。
【００６７】
続くステップＳ２３において、ＣＰＵ１６１は、ＰＯＳ端末１１から商品登録の終了通知等による業務終了の有無を判定する（ステップＳ２３）。業務を継続する場合（ステップＳ２３；Ｎｏ）、ＣＰＵ１６１は、ステップＳ１２に処理を戻して処理を継続させる。また、業務を終了する場合（ステップＳ２３；Ｙｅｓ）、画像取込部１６１１は、撮像部１６４に撮像オフ信号を出力することで、撮像部１６４による撮像を終了し（ステップＳ２４）、商品認識処理を終了する。
【００６８】
次に、ＰＯＳ端末１１の処理動作について説明する。図１１は、ＰＯＳ端末１１が実行する売上登録処理の手順を示すフローチャートである。
【００６９】
まず、キーボード２２の操作指示による商品登録の開始等に応じて処理が開始されると、ＣＰＵ６１は、商品読取装置１０１が図１０のステップＳ２２で出力した、確定商品の商品ＩＤと、その販売個数とを受信する（ステップＳ３１）。次いで、売上登録部６１１は、ステップＳ３１で受信した商品ＩＤ及び販売個数に基づいて、ＰＬＵファイルＦ１から商品種別や単価等を読み出し、商品読取装置１０１で読み取られた商品Ｇの売上を売上マスタファイルに登録する（ステップＳ３２）。
【００７０】
続いて、ＣＰＵ６１は、キーボード２２の操作指示による売上登録の終了等による業務終了の有無を判定する（ステップＳ３３）。業務を継続する場合（ステップＳ３３；Ｎｏ）、ＣＰＵ６１は、ステップＳ３１へ戻り処理を継続させる。業務を終了する場合（ステップＳ３３；Ｙｅｓ）、ＣＰＵ６１は売上登録処理を終了する。
【００７１】
以上のように、本実施形態によれば、商品候補提示部１６１５で認識された商品候補の個数に応じ、テンプレートを切り替えて商品候補を表示する。これにより、認識された商品候補の個数に応じて、レイアウトを柔軟に切り替えながら表示することができるため、商品候補の表示に係る利便性を向上させることができる。また、テンプレートを切り変えて表示する際に、更新情報を所定時間の間表示するため、切り替えに伴う誤操作の発生を低減させることができる。
【００７２】
以上、本発明の実施形態を説明したが、上記実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。上記実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更、追加等を行うことができる。また、上記実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【００７３】
例えば、各テンプレート内における配置領域のレイアウトや大きは特に問わず、商品候補提示部１６１５が動的に変更する形態としてもよい。この形態を採用する場合、商品候補提示部１６１５は、例えば類似度の大きさに応じて配置領域の大きさを動的に変更してもよい。
【００７４】
また、上記実施形態では、類似度の比較で認識された商品候補と同一のグループに所属する登録商品を、追加の商品候補として認識したが、この追加の商品候補を認識しない形態としてもよい。この場合、商品候補提示部１６１５は、類似度の比較で認識された商品候補の個数に応じたテンプレートを選択し、当該商品候補の表示を行う。
【００７５】
また、上記実施形態では、ＰＯＳ端末１１が、ＰＬＵファイルＦ１及びグループ設定ファイルＦ２を備える形態としたが、これに限らず、商品読取装置１０１が、ＰＬＵファイルＦ１及びグループ設定ファイルＦ２の一部又は全てを備える形態としてもよい。
【００７６】
また、上記実施形態では、商品読取装置１０１において、商品候補の識別を行う形態としたが、商品読取装置１０１が備える機能部の一部又は全てをＰＯＳ端末１１が備える形態としてもよい。
【００７７】
例えば、ＰＯＳ端末１１が、特徴量抽出部１６１３及び類似度判定部１６１４を備え、商品読取装置１０１が、画像取込部１６１１、商品検出部１６１２、商品候補提示部１６１５、入力受付部１６１６及び情報出力部１６１７を備える形態としてもよい。この場合、商品読取装置１０１側では、画像取込部１６１１により取り込まれ、商品検出部１６１２で商品を検出した撮像画像をＰＯＳ端末１１に送信する。また、商品読取装置１０１は、ＰＯＳ端末１１側で認識された商品（登録商品）の結果を受信し、この受信した結果を商品候補提示部１６１５が商品候補として提示する構成とする。また、商品読取装置１０１の機能部の全てをＰＯＳ端末１１が備える場合、商品読取装置１０１は撮像装置として機能し、ＰＯＳ端末１１では、商品読取装置１０１から送信された撮像画像に基づき商品候補の表示を行う。
【００７８】
また、上記実施形態では、据置型のスキャナ装置（商品読取装置１０１）を用いた例を説明したが、これに限らず、いわゆるハンディタイプのスキャナ装置がＰＯＳ端末１１に接続された形態であってもよい。
【００７９】
また、上記実施形態では、ＰＯＳ端末１１と商品読取装置１０１とで構成されるチェックアウトシステム１のうち、商品読取装置１０１に本発明の実施形態を適用したが、これに限るものではなく、ＰＯＳ端末１１及び商品読取装置１０１の機能を備えた１台構成の装置又は、例えば、図１に示す商品読取装置１０１及びＰＯＳ端末１１が有線又は無線にて接続されて構成されるチェックアウトシステムに適用するようにしてもよい。ＰＯＳ端末１１及び商品読取装置１０１の機能を備えた１台構成の装置としては、スーパーマーケット等の店舗に設置されて用いられるセルフチェックアウト装置（以降、単にセルフＰＯＳと称する）が挙げられる。
【００８０】
ここで、図１２は、セルフＰＯＳ２００の外観構成を示す斜視図、図１３は、セルフＰＯＳ２００のハードウェア構成を示すブロック図である。なお、以下では、図１及び図２に示される同様の構成については同一の符号を付して示し、その重複する説明を省略する。
【００８１】
図１２及び図１３に示すように、セルフＰＯＳ２００の本体２０２は、タッチパネル１０５が表面に配設された表示デバイス１０６や、商品の種別等を認識（検出）するために商品画像を読み取る商品読取部１１０を備える。
【００８２】
表示デバイス１０６としては例えば液晶表示器が用いられる。表示デバイス１０６は、客にセルフＰＯＳ２００の操作方法を知らせるための案内画面や、各種の入力画面や、商品読取部１１０で読み込んだ商品情報を表示する登録画面、商品の合計金額や預かり金額、釣銭額等を表示し、支払い方法の選択をする精算画面等を表示する。
【００８３】
商品読取部１１０は、客が商品に付されたコードシンボルを商品読取部１１０の読取窓１０３にかざすことで商品画像を撮像部１６４により読み取るものである。
【００８４】
また、本体２０２の右側には、かごに入った未精算の商品を置くための商品載置台２０３を設け、本体２０２の左側には、精算済みの商品を置くための商品載置台２０４を設ける。また、精算済みの商品を入れるための袋を掛けるための袋掛けフック２０５や、精算済みの商品を袋に入れる前に一時的に置いておくための一時置き台２０６を設ける。商品載置台２０３及び２０４は、計量器２０７，２０８をそれぞれ備えており、精算の前後で商品の重量が同じであることを確認する機能を有する。
【００８５】
また、セルフＰＯＳ２００の本体２０２には、精算用の紙幣の入金や釣り紙幣の受け取りを行うための釣り銭器２０１を設ける。
【００８６】
このような構成のセルフＰＯＳ２００に本発明の実施形態を適用した場合、セルフＰＯＳ２００が情報処理装置として機能する。なお、ＰＯＳ端末１１と商品読取装置１０１との機能を備えた１台構成の装置は、上述した構成のセルフＰＯＳ２００に限らず、計量器２０７及び２０８を除いて構成された装置であってもよい。
【００８７】
また、上記実施形態の各装置で実行されるプログラムは、各装置が備える記憶媒体（ＲＯＭ又は記憶部）に予め組み込んで提供するものとするが、これに限らないものとする。例えば、インストール可能な形式又は実行可能な形式のファイルでＣＤ−ＲＯＭ、フレキシブルディスク（ＦＤ）、ＣＤ−Ｒ、ＤＶＤ（Digital  Versatile  Disk）等のコンピュータで読み取り可能な記録媒体に記録して提供してもよい。さらに、記憶媒体は、コンピュータ或いは組み込みシステムと独立した媒体に限らず、ＬＡＮやインターネット等により伝達されたプログラムをダウンロードして記憶又は一時記憶した記憶媒体も含まれる。
【００８８】
また、上記実施形態の各装置で実行されるプログラムをインターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることで提供する構成してもよい。また、上記実施形態の各装置で実行されるプログラムを、インターネット等のネットワーク経由で配布する構成してもよい。
【００８９】
また、上記実施形態のプログラムを、通信機能を有する携帯電話、スマートフォン、ＰＤＡ（Personal  Digital  Assistant）等の携帯情報端末に組み込んで、その機能を実現させる形態としてもよい。
【符号の説明】
【００９０】
１  チェックアウトシステム
１１  ＰＯＳ端末
６１１  売上登録部
１０１  商品読取装置
１６１１  画像取込部
１６１２  商品検出部
１６１３  特徴量抽出部
１６１４  類似度判定部
１６１５  商品候補提示部
１６１６  入力受付部
１６１７  情報出力部
Ｆ１  ＰＬＵファイル
Ｆ２  グループ設定ファイル
ＳＣ  ストアコンピュータ
【先行技術文献】
【特許文献】
【００９１】
【特許文献１】特開２０１３−８９０８５号公報
【図１】
2018055716.tif 000003
【図２】
2018055716.tif 000004
【図３】
2018055716.tif 000005
【図４】
2018055716.tif 000006
【図５】
2018055716.tif 000007
【図６】
2018055716.tif 000008
【図７】
2018055716.tif 000009
【図８】
2018055716.tif 000010
【図９】
2018055716.tif 000011
【図１０】
2018055716.tif 000012
【図１１】
2018055716.tif 000013
【図１２】
2018055716.tif 000014
【図１３】
2018055716.tif 000015
【手続補正書】
【提出日】平成29年12月7日(2017.12.7)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
撮像手段が撮像した画像から特徴量を抽出する抽出手段と、
辞書登録された商品各々の特徴量と、前記抽出手段が抽出した商品の特徴量とを比較し、その類似度を算出する算出手段と、
辞書登録された商品の中から、前記類似度が閾値以上となった商品を商品候補として認識する認識手段と、
前記認識手段が認識した前記商品候補の個数に応じて、一画面内に表示する配置領域の形態を切り替え、当該配置領域に前記商品候補を表す情報を表示する表示制御手段と、
を備える情報処理装置。
【請求項２】
撮像手段が撮像した画像から特徴量を抽出する抽出手段と、
辞書登録された商品各々の特徴量と、前記抽出手段が抽出した商品の特徴量とを比較し、その類似度を算出する算出手段と、
辞書登録された商品の中から、前記類似度が閾値以上となった商品を商品候補として認識する認識手段と、
前記認識手段が認識した前記商品候補の個数に応じて、一画面内に表示する配置領域の個数を切り替え、当該配置領域に前記商品候補を表す情報を表示する表示制御手段と、
を備える情報処理装置。
【請求項３】
前記表示制御手段は、前記認識手段が認識した前記商品候補の個数に応じて、一画面内に表示する前記配置領域の大きさを切り替える請求項１に記載の情報処理装置。
【請求項４】
前記表示制御手段は、前記認識手段が認識した前記商品候補の個数に応じて、一画面内に表示する前記配置領域のレイアウトを切り替える請求項１に記載の情報処理装置。
【請求項５】
前記認識手段は、前記商品の候補となる商品候補を辞書登録された商品の中から認識するとともに、当該商品候補と同一のグループに属する辞書登録された商品を商品候補として認識する請求項１〜４の何れか一項に記載の情報処理装置。
【請求項６】
コンピュータを、
撮像手段が撮像した画像から特徴量を抽出する抽出手段と、
辞書登録された商品各々の特徴量と、前記抽出手段が抽出した商品の特徴量とを比較し、その類似度を算出する算出手段と、
辞書登録された商品の中から、前記類似度が閾値以上となった商品を商品候補として認識する認識手段と、
前記認識手段が認識した前記商品候補の個数に応じて、一画面内に表示する配置領域の形態を切り替え、当該配置領域に前記商品候補を表す情報を表示する表示制御手段と、
して機能させるためのプログラム。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】０００５
【補正方法】変更
【補正の内容】
【０００５】
実施の形態の情報処理装置は、抽出手段と、算出手段と、認識手段と、表示制御手段とを備える。抽出手段は、撮像手段が撮像した画像から特徴量を抽出する。算出手段は、辞書登録された商品各々の特徴量と、前記抽出手段が抽出した商品の特徴量とを比較し、その類似度を算出する。認識手段は、辞書登録された商品の中から、前記類似度が閾値以上となった商品を商品候補として認識する。表示制御手段は、前記認識手段が認識した前記商品候補の個数に応じて、一画面内に表示する配置領域の形態を切り替え、当該配置領域に前記商品候補を表す情報を表示する。