(57)【特許請求の範囲】
【請求項１】
撮像手段が撮像した画像を順次取り込む取込手段と、
前記取り込まれた画像に含まれる物品を検出する物品検出手段と、
前記物品が検出された画像の特徴量を読み取ることによって、種別の異なる複数の物品の中から前記検出された物品を未特定の物品として認識する認識手段と、
前記順次取り込まれた画像をもとに、当該画像に含まれる前記認識された物品の移動を検出する移動検出手段と、
前記認識された物品の移動に対応した操作指示を受け付けて前記認識された物品を特定する操作受付手段と、
を備える情報処理装置。
【請求項２】
前記操作受付手段は、前記種別の異なる複数の物品の中から、前記認識された物品とは異なる物品への変更を前記操作指示をもとに受け付ける、
請求項１に記載の情報処理装置。
【請求項３】
前記認識された物品を報知する報知手段を更に備え、
前記操作受付手段は、前記認識された物品の報知後の、前記認識された物品の移動に対応した所定の操作指示をもとに、前記認識された物品とは異なる物品への変更の受け付けを開始する、
請求項２に記載の情報処理装置。
【請求項４】
前記順次取り込まれた画像と、前記認識された物品の移動に対応した操作指示を案内する案内画像とを表示する表示手段を更に備える、
請求項１乃至３のいずれか一項に記載の情報処理装置。
【請求項５】
前記表示手段は、前記順次取り込まれた画像に、所定の操作指示に対応する操作項目を重畳して表示し、
前記操作受付手段は、前記順次取り込まれた画像に含まれる前記認識された物品の前記操作項目への移動に応じて、当該操作項目に対応する操作指示を受け付ける、
請求項４に記載の情報処理装置。
【請求項６】
情報処理装置を制御するコンピュータを、
撮像手段が撮像した画像を順次取り込む取込手段と、
前記取り込まれた画像に含まれる物品を検出する物品検出手段と、
前記物品が検出された画像の特徴量を読み取ることによって、種別の異なる複数の物品の中から前記検出された物品を未特定の物品として認識する認識手段と、
前記順次取り込まれた画像をもとに、当該画像に含まれる前記認識された物品の移動を検出する移動検出手段と、
前記認識された物品の移動に対応した操作指示を受け付けて前記認識された物品を特定する操作受付手段と、
して機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明の実施形態は、情報処理装置及びプログラムに関する。
【背景技術】
【０００２】
従来、物品を撮像した画像データから当該物品の特徴量を抽出し、予め用意された照合用のデータ（特徴量）と比較して当該物品の種別等を認識（検出）する一般物体認識に係る技術を用いて青果品等の商品を識別するオブジェクト認識を行うことで、売上登録する商品を認識する技術がある。
【発明の概要】
【発明が解決しようとする課題】
【０００３】
ところで、オブジェクト認識では、特徴量が似通った商品が照合用のデータに複数含まれている場合、実際の商品とは別の類似した商品が認識される場合がある。しかしながら、上述した従来技術においては、オブジェクト認識によって類似した別の商品が認識された場合、オブジェクト認識を行うための操作とは別のキー操作により複数の商品リストの中から実際の商品を選択する必要があった。このため、例えばオブジェクト認識によって類似した別の商品が認識された場合は、オブジェクト認識を行うために手に持った商品を手放して、実際の商品を選択するキー操作を行う必要があるため、操作性が悪かった。
【課題を解決するための手段】
【０００４】
上述した課題を解決するために、実施形態の情報処理装置は、撮像手段が撮像した画像を順次取り込む取込手段と、前記取り込まれた画像に含まれる物品を検出する物品検出手段と、前記物品が検出された画像の特徴量を読み取ることによって、種別の異なる複数の物品の中から前記検出された物品を認識する認識手段と、前記順次取り込まれた画像をもとに、当該画像に含まれる前記認識された物品の移動を検出する移動検出手段と、前記認識された物品の移動に対応した操作指示を受け付ける操作受付手段と、を備える。
【０００５】
また、実施形態のプログラムは、情報処理装置を制御するコンピュータを、撮像手段が撮像した画像を順次取り込む取込手段と、前記取り込まれた画像に含まれる物品を検出する物品検出手段と、前記物品が検出された画像の特徴量を読み取ることによって、種別の異なる複数の物品の中から前記検出された物品を認識する認識手段と、前記順次取り込まれた画像をもとに、当該画像に含まれる前記認識された物品の移動を検出する移動検出手段と、前記認識された物品の移動に対応した操作指示を受け付ける操作受付手段として機能させる。
【図面の簡単な説明】
【０００６】
【図１】図１は、実施形態に係るチェックアウトシステム（店舗システム）の一例を示す斜視図である。
【図２】図２は、ＰＯＳ端末及び商品読取装置のハードウェア構成を示すブロック図である。
【図３】図３は、ＰＬＵファイルのデータ構成を例示する概念図である。
【図４】図４は、ＰＯＳ端末及び商品読取装置の機能構成を示すブロック図である。
【図５】図５は、商品の検出の一例を示す概念図である。
【図６】図６は、商品読取装置の動作の一例を示すフローチャートである。
【図７】図７は、表示デバイスの表示例を示す概念図である。
【図８】図８は、商品の移動による操作指示の一例を示す概念図である。
【図９】図９は、ＰＯＳ端末の動作の一例を示すフローチャートである。
【発明を実施するための形態】
【０００７】
以下、添付図面を参照して、情報処理装置及びプログラムの実施形態を詳細に説明する。なお、以下に説明する実施形態は、情報処理装置及びプログラムの一実施形態であって、その構成や仕様等を限定するものではない。本実施形態は、スーパーマーケット等の店舗に導入された、一取引にかかる商品の登録・精算を行うＰＯＳ端末を備えるチェックアウトシステム（店舗システム）への適用例である。
【０００８】
図１は、チェックアウトシステム１の一例を示す斜視図である。図１に示すように、チェックアウトシステム１は、商品に関する情報を読み取る商品読取装置１０１と、一取引に係る商品の登録・精算を行うＰＯＳ端末１１とを備える。以下では、商品読取装置１０１を本実施形態にかかる情報処理装置として適用する例について説明する。尚、以下では、複数の図面に示される同様の構成については同一の符号を付して示し、その重複する説明を省略する場合がある。
【０００９】
ＰＯＳ端末１１は、チェックアウト台４１上のドロワ２１上面に載置されている。ドロワ２１は、ＰＯＳ端末１１によって開放動作の制御を受ける。ＰＯＳ端末１１の上面には、オペレータ（店員）によって押下操作されるキーボード２２が配置されている。キーボード２２を操作するオペレータから見てキーボード２２よりも奥側には、オペレータに向けて情報を表示する表示デバイス２３が設けられている。表示デバイス２３は、その表示面２３ａに情報を表示する。表示面２３ａには、タッチパネル２６が積層されている。表示デバイス２３よりもさらに奥側には、顧客用表示デバイス２４が回転可能に立設されている。顧客用表示デバイス２４は、その表示面２４ａに情報を表示する。なお、図１に示す顧客用表示デバイス２４は、表示面２４ａを図１中手前側に向けているが、表示面２４ａが図１中奥側に向くように顧客用表示デバイス２４を回転させることによって、顧客用表示デバイス２４は顧客に向けて情報を表示する。
【００１０】
ＰＯＳ端末１１が載置されているチェックアウト台４１とＬ字を形成するようにして、横長テーブル状のカウンタ台１５１が配置されている。カウンタ台１５１の上面には、荷受面１５２が形成されている。荷受面１５２には、商品Ｇを収納する買物カゴ１５３が載置される。買物カゴ１５３は、顧客によって持ち込まれる第１の買物カゴ１５３ａと、第１の買物カゴ１５３ａから商品読取装置１０１を挟んだ位置に載置される第２の買物カゴ１５３ｂとに分けて考えることができる。なお、買物カゴ１５３は、いわゆるカゴ形状のものに限るものではなく、トレー等であってもよい。また、買物カゴ１５３（第２の買物カゴ１５３ｂ）は、いわゆるカゴ形状のものに限らず、箱状や袋状等であってもよい。
【００１１】
カウンタ台１５１の荷受面１５２には、ＰＯＳ端末１１とデータ送受信可能に接続された商品読取装置１０１が設置されている。商品読取装置１０１は、薄型矩形形状のハウジング１０２を備える。ハウジング１０２の正面には読取窓１０３が配置されている。ハウジング１０２の上部には、表示・操作部１０４が取り付けられている。表示・操作部１０４には、タッチパネル１０５が表面に積層された表示デバイス１０６が設けられている。表示デバイス１０６の右隣にはキーボード１０７が配設されている。キーボード１０７の右隣には、図示しないカードリーダのカード読取溝１０８が設けられている。オペレータから見て表示・操作部１０４の裏面左奥側には、顧客に情報を提供するための顧客用表示デバイス１０９が設置されている。
【００１２】
このような商品読取装置１０１は、商品読取部１１０（図２参照）を備えている。商品読取部１１０は、読取窓１０３の奥側に撮像部１６４（図２参照）を配置している。
【００１３】
顧客によって持ち込まれた第１の買物カゴ１５３ａには、一取引に係る商品Ｇが収納されている。第１の買物カゴ１５３ａ内の商品Ｇは、商品読取装置１０１を操作するオペレータにより第２の買物カゴ１５３ｂに移動される。この移動過程で、商品Ｇが商品読取装置１０１の読取窓１０３に向けられる。この際、読取窓１０３内に配置された撮像部１６４（図２参照）は商品Ｇを撮像する。
【００１４】
商品読取装置１０１では、ＰＬＵファイルＦ１（図３参照）を参照し、撮像部１６４により撮像された画像に含まれる商品Ｇを、商品Ｇに添付されたバーコードやＱＲコード（登録商標）等のコード情報の読み取り、又は一般物体認識により特定する（詳細は後述する）。次いで、商品読取装置１０１では、特定した商品Ｇの確認や、個数などの入力を受け付ける画面を表示・操作部１０４に表示し、確認の入力が受け付けられた商品Ｇの商品ＩＤ、入力された個数などの情報をＰＯＳ端末１１に通知する。ＰＯＳ端末１１では、商品読取装置１０１から通知される商品ＩＤ、個数等の情報に基づき、商品ＩＤに対応する商品の商品分類、商品名、単価等の売上登録に係る情報を、売上マスタファイル（図示しない）等に記録して売上登録を行う。
【００１５】
図２は、ＰＯＳ端末１１及び商品読取装置１０１のハードウェア構成を示すブロック図である。ＰＯＳ端末１１は、情報処理を実行する情報処理部としてのマイクロコンピュータ６０を備える。マイクロコンピュータ６０は、各種演算処理を実行し各部を制御するＣＰＵ（Central  Processing  Unit）６１に、ＲＯＭ（Read  Only  Memory）６２とＲＡＭ（Random  Access  Memory）６３とがバス接続されて構成されている。
【００１６】
ＰＯＳ端末１１のＣＰＵ６１には、前述したドロワ２１、キーボード２２、表示デバイス２３、タッチパネル２６、顧客用表示デバイス２４がいずれも各種の入出力回路（いずれも図示せず）を介して接続されている。これらは、ＣＰＵ６１による制御を受ける。
【００１７】
キーボード２２は、「１」、「２」、「３」…等の数字や「×」という乗算の演算子が上面に表示されているテンキー２２ｄ、仮締めキー２２ｅ、及び締めキー２２ｆを含む。
【００１８】
ＰＯＳ端末１１のＣＰＵ６１には、ＨＤＤ６４（Hard  Disk  Drive）が接続されている。ＨＤＤ６４には、プログラムや各種ファイルが記憶されている。ＨＤＤ６４に記憶されているプログラムや各種ファイルは、ＰＯＳ端末１１の起動時に、その全部又は一部がＲＡＭ６３にコピーされてＣＰＵ６１により実行される。ＨＤＤ６４に記憶されているプログラムの一例は、商品販売データ処理用のプログラムＰＲである。ＨＤＤ６４に記憶されているファイルの一例は、ストアコンピュータＳＣから配信されて格納されているＰＬＵファイルＦ１である。
【００１９】
ＰＬＵファイルＦ１は、店舗に陳列して販売する商品Ｇの各々について、商品Ｇの売上登録にかかる情報と、その商品Ｇの画像との関連付けが設定された商品ファイルである。
【００２０】
図３は、ＰＬＵファイルＦ１のデータ構成を例示する概念図である。図３に示すように、ＰＬＵファイルＦ１は、商品Ｇごとに、ユニークに割り当てられた商品ＩＤ、商品Ｇが属する商品分類、商品名、単価等の商品に関する情報と、その商品を撮像した商品画像（基準画像）とを、その商品Ｇの商品情報として格納するファイルである。尚、商品画像は、類似度の判定に用いられる商品の撮像画像（写真）である。なお、ＰＬＵファイルＦ１は、後述する接続インターフェース６５を介し、商品読取装置１０１が読み出し可能に構成されている。
【００２１】
なお、ＰＬＵファイルＦ１のデータ構成は図３の例に限らず、例えば、商品画像から読み取られる色合いや表面の凹凸状況等の特徴量を、各商品について格納する形態としてもよい。
【００２２】
図２に戻り、ＰＯＳ端末１１のＣＰＵ６１には、ストアコンピュータＳＣとデータ通信を実行するための通信インターフェース２５が入出力回路（図示せず）を介して接続されている。ストアコンピュータＳＣは、店舗のバックヤード等に設置されている。ストアコンピュータＳＣのＨＤＤ（図示せず）には、ＰＯＳ端末１１に配信されるＰＬＵファイルＦ１が格納されている。
【００２３】
さらに、ＰＯＳ端末１１のＣＰＵ６１には、商品読取装置１０１との間でデータ送受信を可能にする接続インターフェース６５が接続されている。接続インターフェース６５には、商品読取装置１０１が接続されている。また、ＰＯＳ端末１１のＣＰＵ６１には、レシート等に印字を行うプリンタ６６が接続されている。ＰＯＳ端末１１は、ＣＰＵ６１の制御の下、一取引の取引内容をレシートに印字する。
【００２４】
商品読取装置１０１も、マイクロコンピュータ１６０を備える。マイクロコンピュータ１６０は、ＣＰＵ１６１にＲＯＭ１６２とＲＡＭ１６３とがバス接続されて構成されている。ＲＯＭ１６２には、ＣＰＵ１６１によって実行されるプログラムが記憶されている。ＣＰＵ１６１には、撮像部１６４、音声出力部１６５が各種の入出力回路（いずれも図示せず）を介して接続されている。撮像部１６４、音声出力部１６５は、ＣＰＵ１６１によって動作が制御される。表示・操作部１０４は接続インターフェース１７６を介して、商品読取部１１０及びＰＯＳ端末１１に接続されている。表示・操作部１０４は、商品読取部１１０のＣＰＵ１６１、ＰＯＳ端末１１のＣＰＵ６１によって動作が制御される。
【００２５】
撮像部１６４は、ＣＣＤ（Charged  Coupled  Device）撮像素子やＣＭＯＳ（Complementary  Metal  Oxide  Semiconductor）撮像素子などのカラーイメージセンサであり、ＣＰＵ１６１の制御の下で読取窓１０３からの撮像をカラーで行う撮像手段である。例えば撮像部１６４では３０ｆｐｓの動画像の撮像を行う。撮像部１６４が所定のフレームレートで順次撮像したフレーム画像（撮像画像）はＲＡＭ１６３に保存される。
【００２６】
音声出力部１６５は、予め設定された警告音等を発生するための音声回路とスピーカ等である。音声出力部１６５は、ＣＰＵ１６１の制御の下で警告音や音声による報知を行う。
【００２７】
さらに、ＣＰＵ１６１には、ＰＯＳ端末１１の接続インターフェース６５に接続して、ＰＯＳ端末１１との間でデータ送受信を可能にする接続インターフェース１７５が接続されている。また、ＣＰＵ１６１は、接続インターフェース１７５を介して、表示・操作部１０４との間でデータ送受信を行う。
【００２８】
次に、ＣＰＵ１６１、ＣＰＵ６１がプログラムを実行することで実現されるＣＰＵ１６１、ＣＰＵ６１の機能構成について、図４を参照して説明する。
【００２９】
図４は、ＰＯＳ端末１１及び商品読取装置１０１の機能構成を示すブロック図である。図４に示すように、商品読取装置１０１のＣＰＵ１６１は、ＲＯＭ１６２が格納するプログラムを実行することにより、画像取込部５１、商品検出部５２、コード読取部５３、オブジェクト認識部５４、オブジェクト移動検出部５５、入力受付部５６、情報出力部５７としての機能を備える。また、同様に、ＰＯＳ端末１１のＣＰＵ６１は、プログラムＰＲを実行することにより、売上登録部６１１としての機能を備える。
【００３０】
画像取込部５１は、撮像部１６４に撮像オン信号を出力して撮像部１６４に撮像動作を開始させる。画像取込部５１は、撮像動作開始後に撮像部１６４が撮像してＲＡＭ１６３に保存されたカラーのフレーム画像を順次取り込む。画像取込部５１によるフレーム画像の取り込みは、ＲＡＭ１６３に保存された順に行われる。
【００３１】
商品検出部５２は、画像取込部５１により取り込まれたフレーム画像に含まれる商品Ｇの全部または一部を、パターンマッチング技術などを用いて検出する。具体的には、取り込まれたフレーム画像を２値化した画像から輪郭線などを抽出する。次いで、直近のフレーム画像から抽出された輪郭線と、今回のフレーム画像から抽出された輪郭線とを比較し、変更があった部分、すなわち、売上登録のために読取窓１０３に向けられた商品Ｇの写り込みを検出する。なお、商品Ｇを検出する別の方法としては、取り込まれたフレーム画像から肌色領域の有無を検出する。次いで、肌色領域が検出された場合、すなわち、店員の手の写り込みが検出された場合は、上述した輪郭線の検出を行うことで、店員の手が把持していると想定される商品Ｇの輪郭抽出を試みる。この時、手の形状を示す輪郭と、それ以外の輪郭とが検出された場合は、店員の手が商品Ｇを把持していることから、商品Ｇの写り込みを検出する。
【００３２】
図５は、商品Ｇの検出の一例を示す概念図である。図５に示すように、画像取込部５１は、直近のフレーム画像Ｇ１０、Ｇ２０同士を比較し、輝度階調の差分から何も撮像していないフレーム画像Ｇ１０と、商品Ｇや店員の手Ｈ等の何らかの物体の写り込みがあるフレーム画像Ｇ２０とを識別する。次いで、画像取込部５１は、何らかの物体の写り込みが識別されたフレーム画像Ｇ２０について、上述した輪郭線の抽出や肌色領域の検出などの画像処理を行うことで、商品Ｇの検出を行う。
【００３３】
コード読取部５３は、画像取込部５１により取り込まれたフレーム画像をもとに、撮像部１６４において撮像された商品Ｇに添付されているバーコードや二次元コード（例えばＱＲコード（登録商標））等のコード情報をデコードして読み取る。この読み取られたコード情報をもとに、ＰＬＵファイルＦ１を参照することで撮像された商品Ｇが特定される。具体的には、コード読取部５３は、ＲＡＭ１６３に保存されたフレーム画像を読み出して、パターンマッチング技術によるバーコードの検出や、所定のファインダパターンから二次元コードの検出を行う。次いで、コード読取部５３は、検出されたバーコードや二次元コードから、商品コード（商品ＩＤ）等の商品Ｇの商品情報を読み取る。次いで、コード読取部５３は、ＰＬＵファイルＦ１を参照して読み取った商品情報（例えば商品コード）に該当する商品Ｇを特定する。
【００３４】
オブジェクト認識部５４は、画像取込部５１により取り込まれたフレーム画像をもとに、撮像部１６４において撮像された商品Ｇの色合いや表面の凹凸状況等の表面の状態を特徴量として読み取る。この読み取られた特徴量をもとに、ＰＬＵファイルＦ１を参照することで、ＰＬＵファイルＦ１に設定された種別の異なる複数の商品Ｇの中から撮像された商品Ｇが認識される。具体的には、オブジェクト認識部５４は、ＲＡＭ１６３に保存されたフレーム画像を読み出して、商品Ｇの全部または一部を、パターンマッチング技術等を用いて検出する。例えば、取り込まれたフレーム画像を２値化した画像から輪郭線等を抽出する。次いで、前回のフレーム画像から抽出された輪郭線と、今回のフレーム画像から抽出された輪郭線とを比較して、売上登録のために読取窓１０３に向けられた商品Ｇを認識する。
【００３５】
なお、商品を検出する別の方法としては、取り込まれたフレーム画像から肌色領域の有無を検出する。次いで、肌色領域が検出された場合、すなわち、店員の手が検出された場合は、この肌色領域の近傍において上述した輪郭線の検出を行うことで、店員の手が把持していると想定される商品の輪郭抽出を試みる。この時、手の形状を示す輪郭と、手の輪郭の近傍にそれ以外の物体の輪郭とが検出された場合、この物体の輪郭から商品を認識する。
【００３６】
次いで、オブジェクト認識部５４は、撮像部１６４により撮像された商品Ｇの全部または一部の画像から、商品Ｇの色合いや表面の凹凸状況等の表面の状態を特徴量として読み取る。なお、オブジェクト認識部５４は、処理時間の短縮を図るため、商品Ｇの輪郭や大きさは考慮しないものとする。
【００３７】
また、オブジェクト認識部５４は、ＰＬＵファイルＦ１に登録された各商品（以下、登録商品という）の画像から、その登録商品の色合いや表面の凹凸状況等の表面の状態を特徴量として読み取り、商品Ｇの特徴量とそれぞれ比較することで、商品ＧとＰＬＵファイルＦ１に登録された登録商品との類似度を算出する。ここで、類似度は、ＰＬＵファイルＦ１に記憶されている各商品の画像を１００％＝「類似度：１．０」とした場合に、商品Ｇの全部または一部の画像がどの程度類似しているかを示すものである。なお、例えば、色合いと表面の凹凸状況とでは、重み付けを変えて類似度を算出してもよい。次いで、オブジェクト認識部５４は、ＰＬＵファイルＦ１の商品の中で、算出した類似度がもっとも高い商品を、撮像された商品Ｇとして特定する。
【００３８】
このように画像中に含まれる物体を認識するオブジェクト認識は一般物体認識（generic  object  recognition）と呼ばれている。このような一般物体認識については、下記の文献において各種認識技術が解説されている。
柳井  啓司，“一般物体認識の現状と今後”，情報処理学会論文誌，Ｖｏｌ．４８，Ｎｏ．ＳＩＧ１６  [平成２２年８月１０日検索]，インターネット<URL:  http://mm.cs.uec.ac.jp/IPSJ-TCVIM-Yanai.pdf  >
【００３９】
また、画像をオブジェクトごとに領域分割することによって一般物体認識を行う技術が、下記の文献において解説されている。
Jamie  Shottonら，“Semantic  Texton  Forests  for  Image  Categorization  and  Segmentation”，[平成２２年８月１０日検索]，インターネット<URL:  http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.145.3036&rep=rep1&type=pdf  >
【００４０】
なお、撮像された商品Ｇの画像と、ＰＬＵファイルＦ１に登録された登録商品の画像との類似度の算出方法は特に問わないものとする。例えば、撮像された商品Ｇの画像と、ＰＬＵファイルＦ１に登録された各登録商品との類似度を絶対評価として算出してもよいし、相対評価として算出してもよい。
【００４１】
類似度を絶対評価として算出する場合、撮像された商品Ｇの画像と、ＰＬＵファイルＦ１に登録された各登録商品とを１対１で比較し、この比較の結果導出される類似度をそのまま採用すればよい。また、類似度を相対評価として算出する場合、ＰＬＵファイルＦ１に５つの登録商品（商品ＧＡ、ＧＢ、ＧＣ、ＧＤ、ＧＥ）が登録されていたとすると、撮像された商品Ｇは、商品ＧＡに対して類似度が０．６、商品ＧＢに対しては類似度が０．１、商品ＧＣに対しては類似度が０．１、商品ＧＤに対しては類似度が０．１、商品ＧＥに対しては類似度が０．１等、各登録商品との類似度の総和が１．０（１００％）となるよう算出すればよい。
【００４２】
ここで、オブジェクト認識部５４のオブジェクト認識により商品Ｇが特定できる場合とは、上述した類似度が所定の閾値を超える商品がＰＬＵファイルＦ１より見つかった場合を指すものとする。例えば、類似度を相対評価として算出する場合に、ＰＬＵファイルＦ１に５つの登録商品（商品ＧＡ、ＧＢ、ＧＣ、ＧＤ、ＧＥ）が登録されていたとする。また、オブジェクト認識ができたと判定する閾値は０．５とする。撮像された商品Ｇに対する商品ＧＡの類似度が０．６、商品ＧＢの類似度が０．１、商品ＧＣの類似度が０．１、商品ＧＤの類似度が０．１、商品ＧＥの類似度が０．１等である場合は、商品ＧＡの類似度が閾値を超えていることから、オブジェクト認識部５４によるオブジェクト認識で商品Ｇが特定できたものとする。また、撮像された商品Ｇに対する商品ＧＡの類似度が０．４、商品ＧＢの類似度が０．２、商品ＧＣの類似度が０．２、商品ＧＤの類似度が０．１、商品ＧＥの類似度が０．１等である場合は、商品ＧＡの類似度が閾値を超えていないことから、オブジェクト認識部５４によるオブジェクト認識で商品Ｇが特定できなかったものとする。ただし、オブジェクト認識部５４によるオブジェクト認識の処理過程では、類似度が所定の閾値を超えていないまでも、ＰＬＵファイルＦ１の中から商品Ｇに類似した商品のリスト（候補リスト）が抽出されることから、商品Ｇが特定できなかった場合は、商品Ｇの認識はできたが、商品Ｇの特定には至らなかったものとする。
【００４３】
また、オブジェクト認識部５４は、オブジェクト認識による認識結果、すなわち認識された商品Ｇを、表示デバイス１０６の表示画面（操作画面）に表示して、操作者に報知する（図７参照）。なお、認識結果の報知は、音声出力部１６５による音声出力によって、認識結果を音声で読みあげて報知する音声報知であってもよい。また、オブジェクト認識部５４は、商品Ｇの認識はできたが、商品Ｇの特定には至らなかった場合には、類似度が最も高い商品を認識結果として報知してよい。
【００４４】
オブジェクト移動検出部５５は、画像取込部５１により逐次取り込まれたフレーム画像をもとに、オブジェクト認識部５４によって認識された商品Ｇ（上述した商品Ｇの特定には至らなかった場合を含む）の移動を検出する。具体的には、オブジェクト移動検出部５５は、逐次取り込まれたフレーム画像の中から、時間的に前後するフレーム画像を比較し、差分を検出することで、オブジェクト認識部５４によって認識された商品Ｇの移動を検出する。例えば、時間的に前後するフレーム画像の差分から、オブジェクト認識部５４によって認識された商品Ｇの上、下、右、左への移動を検出することで、読取窓１０３の平行面における鉛直上方又は下方、左右方向の商品Ｇの移動を検出できる。また、時間的に前後するフレーム画像の差分から、オブジェクト認識部５４によって認識された商品Ｇの大きさの変化を検出することで、読取窓１０３へ近づく方向又は遠ざかる方向の商品Ｇの移動を検出できる。
【００４５】
入力受付部５６は、タッチパネル１０５またはキーボード１０７を介して表示デバイス１０６の表示に対応する各種入力操作を受付ける。例えば情報出力部５７は、コード読取部５３やオブジェクト認識部５４により特定された商品Ｇの確認画面を表示デバイス１０６に表示させ、その確認画面に対する選択操作に基づいて、特定された商品Ｇの売上登録を行うことの入力操作（確認操作）をキーボード１０７で受け付ける。この情報出力部５７が受け付けた確認操作は、情報出力部５７によりＰＯＳ端末１１に通知される。また、入力受付部５６は、商品Ｇの売上登録を行うことの確認操作の後、売上登録を行う商品Ｇの個数の入力を受け付ける操作画面を表示デバイス１０６に表示させ、個数の入力操作をキーボード１０７で受け付ける。この入力受付部５６が受け付けた個数は、情報出力部５７によりＰＯＳ端末１１に通知される。ＰＯＳ端末１１では、確認操作、個数の通知を受信して、売上登録部６１１における売上登録を行う。
【００４６】
また、入力受付部５６は、キーボード１０７やタッチパネル１０５の入力操作以外に、オブジェクト移動検出部５５により検出された商品Ｇの移動に対応した操作指示を受け付ける。具体的には、読取窓１０３の平行面における鉛直上方又は下方、左右方向の商品Ｇの移動を検出し、例えば鉛直上方への移動に対応した上方向の操作指示、鉛直下方への移動に対応した下方向の操作指示、左右の移動に対応した左右方向の操作指示を受け付ける。これにより、商品読取装置１０１では、読取窓１０３の前で認識された商品Ｇを上、下、右、左への移動させることで、キーボード１０７において上下左右方向を指示するカーソルキー相当の操作指示を行うことができる。また、入力受付部５６は、読取窓１０３へ近づく方向又は遠ざかる方向の商品Ｇの移動に対応した選択指示や、キャンセル指示等を受け付けてもよい。この場合は、読取窓１０３の前で認識された商品Ｇを読取窓１０３へ近づく方向又は遠ざかる方向へ移動させることで、キーボード１０７における選択キーやキャンセルキー相当の操作指示を行うことができる。
【００４７】
また、入力受付部５６は、画像取込部５１により逐次取り込まれたフレーム画像と、商品Ｇの移動に対応した操作指示を案内する案内画像とを表示した操作画面を表示デバイス１０６に表示させ、その操作画面における商品Ｇの移動に対応した操作指示を受け付けてもよい。具体的には、カーソルポインタ等を操作画面上の所定のエリアに移動させた場合に受け付けられる操作内容（商品Ｇ自身をカーソルポインタとして認識する場合は商品Ｇの移動位置）を示した案内画像を操作画面（図７参照）に表示させ、操作者に対して商品Ｇの移動に対応した操作指示を促す。操作者は、この操作画面を確認して商品Ｇを移動させることで、所望の操作指示を、キーボード１０７等を操作することなく入力することができる。
【００４８】
また、入力受付部５６は、上述した案内画像である、所定の操作指示に対応する操作項目（例えば操作メニューや選択項目等）と、画像取込部５１により逐次取り込まれたフレーム画像とを重畳した操作画面（図８参照）を表示デバイス１０６に表示させる。そして、入力受付部５６は、オブジェクト移動検出部５５により操作項目と重畳する位置まで商品Ｇの移動が検出された場合に、その操作項目に対応する操作指示を受け付ける。すなわち、入力受付部５６は、商品Ｇ自身をカーソルポインタとして操作指示を受け付ける。この場合、操作者は、この操作画面を確認して操作項目まで商品Ｇを移動させることで、その操作項目に対応した操作指示を、キーボード１０７等を操作することなく入力することができる。
【００４９】
情報出力部５７は、上述のようにして確認操作が行われた商品Ｇについて、その商品を示す情報（例えば、商品ＩＤや商品名等）や個数を、接続インターフェース１７５を介してＰＯＳ端末１１に出力する。情報出力部５７がＰＯＳ端末１１に出力する情報としては、コード読取部５３やオブジェクト認識部５４により特定された商品Ｇをもとに、情報出力部５７がＰＬＵファイルＦ１から読み出した商品ＩＤを直接通知してもよいし、商品ＩＤを特定することが可能な商品名、または、商品画像のファイル名を通知してもよいし、その商品ＩＤの格納場所（ＰＬＵファイルＦ１での格納アドレス）をＰＯＳ端末１１に通知してもよい。
【００５０】
ＰＯＳ端末１１の売上登録部６１１は、情報出力部５７から出力された商品ＩＤ、売上登録を行う個数に基づいて、対応する商品の売上登録を行う。具体的に、売上登録部６１１は、ＰＬＵファイルＦ１を参照して、通知された商品ＩＤ及び当該商品ＩＤに対応する商品分類、商品名、単価等を、個数とともに売上マスタファイル等に記録して売上登録を行う。
【００５１】
次に、チェックアウトシステム１の動作について詳細に説明する。先ず、商品読取装置１０１の動作について説明する。図６は、商品読取装置１０１の動作の一例を示すフローチャートである。
【００５２】
図６に示すように、ＰＯＳ端末１１による商品登録の開始等に応じて処理が開始されると、画像取込部５１は、撮像部１６４に撮像オン信号を出力して撮像部１６４による撮像を開始する（Ｓ１１）。次いで、画像取込部５１は、撮像部１６４が撮像してＲＡＭ１６３に保存されたフレーム画像の取り込みを開始する（Ｓ１２）。
【００５３】
次いで、ＣＰＵ１６１は、画像取込部５１により取り込まれたフレーム画像から商品検出部５２が商品Ｇを検知したか否かを判定する（Ｓ１３）。ここで、商品Ｇを検知していない場合（Ｓ１３：ＮＯ）、ＣＰＵ１６１は処理を待機する。画像取込部５１により取り込まれたフレーム画像から商品Ｇが検知された場合（Ｓ１３：ＹＥＳ）、ＣＰＵ１６１は、コード読取部５３によりコード情報がデコードされて、コードの読み取りがあったか否かを判定する（Ｓ１４）。コードの読み取りがあった場合（Ｓ１４：ＹＥＳ）は、読み取ったコードから商品Ｇが特定できることから、Ｓ１９へ処理を進める。
【００５４】
コードの読み取りがなかった場合（Ｓ１４：ＮＯ）、オブジェクト認識部５４は、商品検出部５２により検出された商品Ｇのオブジェクト認識を行う（Ｓ１５）。したがって、商品読取装置１０１では、コードの読み取りがなかった場合にはオブジェクト認識によって商品Ｇが特定されることとなる。
【００５５】
ここで、オブジェクト認識部５４は、オブジェクト認識の認識結果を表示デバイス１０６の操作画面に表示することで操作者に報知して、商品Ｇの移動に対応した操作指示を受け付けることで、オブジェクト認識によって得られた類似度の高い商品の候補リストを表示するか否かを判定する（Ｓ１６）。
【００５６】
図７は、表示デバイス１０６の表示例を示す概念図である。図７に示すように、表示デバイス１０６の操作画面Ｇ３０には、候補リストの表示を案内する案内画像Ｇ３１と、オブジェクト認識部５４による認識結果を示す報知画像Ｇ３２とが表示される。したがって、操作者は報知画像Ｇ３２を確認することで、オブジェクト認識部５４による商品Ｇの認識結果を把握できる。ここで、商品Ｇが誤って認識されている場合、操作者は、手Ｈに把持した商品Ｇを案内画像Ｇ３１に従って移動することで、オブジェクト認識部５４により類似度が高いと認識した商品の候補リストを表示させることができる。
【００５７】
Ｓ１６において、候補リストを表示しない場合は（Ｓ１６：ＮＯ）は、報知画像Ｇ３２によって報知された認識結果で正しいと操作者が確認したことから、Ｓ１９へ処理を進める。
【００５８】
Ｓ１６において、候補リストを表示する場合、すなわち、商品Ｇが案内画像Ｇ３１に従って移動された場合（Ｓ１６：ＹＥＳ）、入力受付部５６は、オブジェクト認識部５４により類似度が高いと認識した商品の候補リストを表示デバイス１０６の操作画面Ｇ３０に表示させる（Ｓ１７）。次いで、入力受付部５６は、商品Ｇの移動に対応した操作指示を受け付けることで、候補リストから商品の選択を受け付ける（Ｓ１８）。
【００５９】
図８は、商品Ｇの移動による操作指示の一例を示す概念図である。図８に示すように、いわゆる「ニンジン」である商品Ｇに対して、報知画像Ｇ３２の認識結果は「リンゴ」であることから、操作者は、案内画像Ｇ３１に従って商品Ｇを案内画像Ｇ３１に重畳するように移動させる。この案内画像Ｇ３１への商品Ｇの移動に応じて、入力受付部５６は、商品の選択を受け付ける候補リストを操作画面Ｇ３０に表示させる。具体的には、「リンゴ」、「ニンジン」などの、オブジェクト認識部５４により類似度が高いと認識した商品を選択する項目画像Ｇ３３、Ｇ３４と、商品の選択を中止する項目画像Ｇ３５とを操作画面Ｇ３０に表示させる。操作者は、所望の項目画像Ｇ３３、Ｇ３４へ重畳するように商品Ｇを移動させることで、オブジェクト認識部５４により類似度が高いと認識された商品の候補リストから所望の商品を入力することができる。例えば、下の図に示すように、「ニンジン」に対応した項目画像Ｇ３４に重畳するように商品Ｇを移動させることで、オブジェクト認識部５４の認識結果を「リンゴ」から「ニンジン」へ変更させることができる。なお、操作画面Ｇ３０における候補リストの表示は、例えば商品名である「リンゴ」の表示とともに、ＰＬＵファイルＦ１の商品画像をもとに、「リンゴ」に対応した商品の画像を表示してもよい。
【００６０】
Ｓ１９において、入力受付部５６は、売上登録を行う商品Ｇの確認やその個数の入力をキーボード１０７より受け付ける（Ｓ１９）。なお、商品Ｇの確認やその個数の入力についても、上述した商品Ｇの移動に対応した操作指示で受け付けてもよいことは、言うまでもないことである。次いで、情報出力部５７は、Ｓ１９において確認された商品Ｇについての商品ＩＤや、Ｓ１９で受け付けた個数をＰＯＳ端末１１に出力する（Ｓ２０）。
【００６１】
次いで、ＣＰＵ１６１は、ＰＯＳ端末１１から商品登録の終了通知等による業務終了の有無を判定する（Ｓ２１）。業務を継続する場合（Ｓ２１：ＮＯ）、ＣＰＵ１６１は、Ｓ１３へ処理を戻して処理を継続させる。業務を終了する場合（Ｓ２１：ＹＥＳ）、画像取込部５１は、撮像部１６４に撮像オフ信号を出力して撮像部１６４による撮像を終了し（Ｓ２２）、処理を終了する。
【００６２】
次に、ＰＯＳ端末１１の動作について説明する。図９は、ＰＯＳ端末１１が実行する売上登録処理の手順を示すフローチャートである。
【００６３】
まず、キーボード２２の操作指示による商品登録の開始等に応じて処理が開始されると、ＣＰＵ６１は、商品読取装置１０１が図６のＳ２０で出力した、商品Ｇの商品ＩＤとその個数とを受信する（Ｓ３１）。次いで、売上登録部６１１は、Ｓ３１で受信した商品ＩＤ、個数に基づいて、ＰＬＵファイルＦ１から商品分類や単価等を読み出し、商品読取装置１０１で読み取られた商品Ｇの売上を売上マスタファイルに登録する（Ｓ３２）。続いて、ＣＰＵ６１は、キーボード２２の操作指示による売上登録の終了等による業務終了の有無を判定する（Ｓ３３）。業務を継続する場合（Ｓ３３：ＮＯ）、ＣＰＵ６１は、Ｓ３１へ再び戻り処理を継続させる。業務を終了する場合（Ｓ３３：ＹＥＳ）、ＣＰＵ６１は処理を終了する。
【００６４】
なお、本実施形態の商品読取装置１０１で実行されるプログラムは、ＲＯＭ等に予め組み込まれて提供される。本実施形態の商品読取装置１０１で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでＣＤ−ＲＯＭ、フレキシブルディスク（ＦＤ）、ＣＤ−Ｒ、ＤＶＤ（Ｄｉｇｉｔａｌ  Ｖｅｒｓａｔｉｌｅ  Ｄｉｓｋ）等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。
【００６５】
さらに、本実施形態の商品読取装置１０１で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、本実施形態の商品読取装置１０１で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。
【００６６】
本実施形態の商品読取装置１０１で実行されるプログラムは、上述した各部（画像取込部５１、商品検出部５２、コード読取部５３、オブジェクト認識部５４、オブジェクト移動検出部５５、入力受付部５６、情報出力部５７）を含むモジュール構成となっており、実際のハードウェアとしてはＣＰＵ（プロセッサ）が上記ＲＯＭからプログラムを読み出して実行することにより上記各部が主記憶装置上にロードされ、主記憶装置上に生成されるようになっている。
【符号の説明】
【００６７】
１…チェックアウトシステム、１１…ＰＯＳ端末、２１…ドロワ、２２…キーボード、２２ｄ…テンキー、２２ｅ…仮締めキー、２２ｆ…締めキー、２３…表示デバイス、２３ａ…表示面、２４…顧客用表示デバイス、２４ａ…表示面、２５…通信インターフェース、２６…タッチパネル、４１…チェックアウト台、５１…画像取込部、５２…商品検出部、５３…コード読取部、５４…オブジェクト認識部、５５…オブジェクト移動検出部、５６…入力受付部、５７…情報出力部、６０…マイクロコンピュータ、６１…ＣＰＵ、６２…ＲＯＭ、６３…ＲＡＭ、６４…ＨＤＤ、６５…接続インターフェース、６６…プリンタ、１０１…商品読取装置、１０２…ハウジング、１０３…読取窓、１０４…表示・操作部、１０５…タッチパネル、１０６…表示デバイス、１０７…キーボード、１０８…カード読取溝、１０９…顧客用表示デバイス、１１０…商品読取部、１５１…カウンタ台、１５２…荷受面、１５３…買物カゴ、１５３ａ…第１の買物カゴ、１５３ｂ…第２の買物カゴ、１６０…マイクロコンピュータ、１６１…ＣＰＵ、１６２…ＲＯＭ、１６３…ＲＡＭ、１６４…撮像部、１６５…音声出力部、１７５、１７６…接続インターフェース、６１１…売上登録部、Ｇ…商品、Ｇ１０、Ｇ２０…フレーム画像、Ｇ３０…操作画面、Ｇ３１…案内画像、Ｇ３２…報知画像、Ｇ３３〜Ｇ３５…項目画像、Ｈ…手、Ｆ１…ＰＬＵファイル、ＰＲ…プログラム、ＳＣ…ストアコンピュータ
【先行技術文献】
【特許文献】
【００６８】
【特許文献１】特開２００８−９７１７２号公報
【図１】
0005567606.tif 000002
【図２】
0005567606.tif 000003
【図３】
0005567606.tif 000004
【図４】
0005567606.tif 000005
【図５】
0005567606.tif 000006
【図６】
0005567606.tif 000007
【図７】
0005567606.tif 000008
【図８】
0005567606.tif 000009
【図９】
0005567606.tif 000010