(57)【要約】【課題】  検索対象となる情報（検索対象情報）を絞り込むための検索対象情報絞込システムを提供することを目的とする。【解決手段】  検索対象情報を絞り込むための検索対象情報絞込システムであって，検索対象情報絞込システムは，データ集における検索対象情報の商品等の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部と，検索結果を用いて，検索対象情報を絞り込む絞込処理部と，を有する検索対象情報絞込システムである。【選択図】  図６
2019211869.tif 000002
【特許請求の範囲】
【請求項１】
検索対象情報を絞り込むための検索対象情報絞込システムであって，
前記検索対象情報絞込システムは，
データ集における検索対象情報の商品等の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部と，
前記検索結果を用いて，前記検索対象情報を絞り込む絞込処理部と，
を有することを特徴とする検索対象情報絞込システム。
【請求項２】
前記絞込処理部は，
前記検索対象情報について検索対象とすることを判定した場合，その検索対象情報を絞込情報として絞込情報記憶部に記憶する，または検索対象とすることを示す情報を付する，
ことを特徴とする請求項１に記載の検索対象情報絞込システム。
【請求項３】
前記絞込処理部は，
前記検索対象情報について検索対象から除外することを判定した場合，その検索対象情報を絞込情報としない，または検索対象から除外することを示す情報を付する，
ことを特徴とする請求項１または請求項２に記載の検索対象情報絞込システム。
【請求項４】
前記絞込処理部は，
前記検索対象情報について優先度を付するまたは優先度を変更する，
ことを特徴とする請求項１から請求項３のいずれかに記載の検索対象情報絞込システム。
【請求項５】
前記絞込処理部は，
前記検索結果のヒット数，出現頻度，またはウェブページの日付情報のうちいずれか一以上を用いることで，前記検索対象情報を絞り込む，
ことを特徴とする請求項１から請求項４のいずれかに記載の検索対象情報絞込システム。
【請求項６】
前記検索処理部は，
前記検索対象情報における商品等の名称と商品等識別情報とに基づいて，ウェブ検索をし，その検索結果を受け付ける，
ことを特徴とする請求項１から請求項５のいずれかに記載の検索対象情報絞込システム。
【請求項７】
前記検索対象情報絞込システムは，
前記絞込処理部によって絞り込まれた検索対象情報について検索を行った検索結果に対し，前記検索処理部での検索結果を用いて補正処理を行う，
ことを特徴とする請求項１から請求項６のいずれかに記載の検索対象情報絞込システム。
【請求項８】
データ集における商品の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部と，
前記検索結果を用いて，検索対象となる商品を絞り込む絞込処理部と，
店舗の陳列棚を撮影した撮影画像情報の入力を受け付ける撮影画像情報入力受付処理部と，
前記撮影画像情報を用いて特定した商品タグの一部または全部の領域におけるＯＣＲ認識処理によるテキスト情報を，前記検索対象とした商品の商品名または商品識別情報と比較することで，前記陳列棚における商品タグに記載されている商品の名称または商品識別情報を特定する商品タグ認識処理部と，
を有することを特徴とする情報処理システム。
【請求項９】
前記商品タグ認識処理部は，さらに，
前記認識したテキスト情報と，前記検索対象とした商品名または商品識別情報との比較の際に，前記検索結果を用いた補正処理を行う，
ことを特徴とする請求項８に記載の情報処理システム。  
【請求項１０】
前記情報処理システムは，さらに，
前記撮影画像情報を用いて特定した領域の画像情報と，前記検索対象とした商品の標本情報とを比較することで，前記陳列棚に陳列されている商品の名称または商品識別情報を特定する陳列商品認識処理部，
を有することを特徴とする請求項８または請求項９に記載の情報処理システム。
【請求項１１】
データ集における商品の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部と，
前記検索結果を用いて，検索対象となる商品を絞り込む絞込処理部と，
店舗の陳列棚を撮影した撮影画像情報の入力を受け付ける撮影画像情報入力受付処理部と，
前記撮影画像情報を用いて特定した領域の画像情報と，前記検索対象とした商品の標本情報とを比較することで，前記陳列棚に陳列されている商品の名称または商品識別情報を特定する陳列商品認識処理部と，
を有することを特徴とする情報処理システム。
【請求項１２】
前記陳列商品認識処理部は，さらに，
前記特定した領域の画像情報と，前記検索対象とした商品の標本情報との比較の際に，前記検索結果を用いた補正処理を行う，
ことを特徴とする請求項１０または請求項１１に記載の情報処理システム。
【請求項１３】
コンピュータを，
所定の記憶領域に記憶した検索対象情報のデータ集における商品等の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部，
前記検索結果を用いて，前記検索対象情報を絞り込む絞込処理部，
として機能させることを特徴とする検索対象情報絞込プログラム。
【請求項１４】
コンピュータを，
所定の記憶領域に記憶した商品のデータ集における商品の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部，
前記検索結果を用いて，検索対象となる商品を絞り込む絞込処理部，
店舗の陳列棚を撮影した撮影画像情報の入力を受け付ける撮影画像情報入力受付処理部，
前記撮影画像情報を用いて特定した商品タグの一部または全部の領域におけるＯＣＲ認識処理によるテキスト情報を，前記検索対象とした商品の商品名または商品識別情報と比較することで，前記陳列棚における商品タグに記載されている商品の名称または商品識別情報を特定する商品タグ認識処理部，
として機能させることを特徴とする情報処理プログラム。
【請求項１５】
コンピュータを，
所定の記憶領域に記憶した商品のデータ集における商品の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部，
前記検索結果を用いて，検索対象となる商品を絞り込む絞込処理部，
店舗の陳列棚を撮影した撮影画像情報の入力を受け付ける撮影画像情報入力受付処理部，
前記撮影画像情報を用いて特定した領域の画像情報と，前記検索対象とした商品の標本情報とを比較することで，前記陳列棚に陳列されている商品の名称または商品識別情報を特定する陳列商品認識処理部，
として機能させることを特徴とする情報処理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は，検索対象となる情報（検索対象情報）を絞り込むための検索対象情報絞込システムに関する。
【背景技術】
【０００２】
店舗などで見つけた商品やサービス（以下，総称して「商品等」という）について，商品等の名称やＩＤなどの識別情報を取得するため，あらかじめ商品等に関する情報を網羅的に記憶しているデータ集を検索して，商品等の名称やＩＤ（識別情報）などの情報を取得することがある。このようなデータ集としては，たとえば商品名，ＪＡＮコード（商品ＩＤ），商品の付随情報などを対応づけて記憶するＪＩＣＦＳ（ＪＡＮコード統合商品情報データベース），書籍のＩＳＢＮコードのデータベース，楽曲の管理コードのデータベースなどがある。
【０００３】
ある商品のＪＡＮコードや付随情報を取得したい場合，商品名に基づいてＪＩＣＦＳを検索することで，対応するＪＡＮコード（当該商品の識別情報），当該商品の付随情報などを特定し，取得することができる。
【０００４】
また，店舗の陳列棚を撮影した画像情報において，陳列棚にある商品タグの領域をテキスト認識処理して認識したテキスト情報に基づいて，ＪＩＣＦＳを検索することで，陳列棚にある商品タグの領域に記載されている商品名やその商品のＪＡＮコード，商品の付随情報を特定し，取得することができる。
【０００５】
さらに，上記画像情報において，陳列棚に陳列されている商品領域の画像情報に基づいて，現在または過去に販売された商品をさまざまな角度から撮影した標本となる画像情報（標本画像情報）のデータ集を検索することで，当該商品領域に写っている商品の商品名や商品ＩＤを特定することができる。
【０００６】
このように，データ集に基づいて検索をすることで商品等の情報を取得する従来のシステムの一例として，下記特許文献１，特許文献２などがある。
【先行技術文献】
【特許文献】
【０００７】
【特許文献１】特開２０１８−６７２１６号公報
【特許文献２】特開２０１８−２８９４３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００８】
従来のシステムで用いるデータ集は，すでに市場に流通していない，あるいはほとんど流通していない商品等も数多く含まれているものの，網羅的に商品等が含まれていることから，漏れがなく検索をすることができるので，ヒットする確率が極めて高いという利点がある。
【０００９】
商品等のデータ集を検索する場合，一般的には，データ集のすべての商品等を検索対象として検索する必要がある。しかし，データ集では，実際に市場に流通していない，あるいは市場ではほとんど流通していないという商品等の流通実態に関する情報は反映されていない。商品の製造／販売終了を示す情報を反映する仕組みが用意されている場合もあるが，必ずしも入力されているとは限らないし，販売は終了していないがあまり流通していないことまでが特定できるわけではない。そのため，実際に市場に流通していない，あるいはほとんど流通していない商品等も検索対象となることが多い。このことから，データ集を用いた検索の際には無駄な処理時間，処理負荷が発生している。また，流通していない，あるいはほとんど流通していない商品等も検索対象となることによって，検索精度が落ちることとなる。とくに画像検索の場合には，すでに市場に流通していない，あるいはほとんど流通していない商品等との画像マッチングなどをしなければならないので，処理時間や処理負荷が大きく，検索精度の低下も大きい。
【００１０】
このように，データ集を用いた検索には有益な点があるものの，商品等の流通実態が反映されていないことから，流通実態のない，またはほとんど流通実態のない商品等（検索対象とする必要がない商品等）とも比較をしなければならなくなり，処理時間，処理負荷，検索精度の観点からの課題がある。
【課題を解決するための手段】
【００１１】
本発明者は上記課題に鑑み，データ集における商品等のうち，商品等の流通実態を反映して，検索対象の絞り込みをする検索対象情報絞込システムを発明した。
【００１２】
請求項１に記載の発明は，検索対象情報を絞り込むための検索対象情報絞込システムであって，前記検索対象情報絞込システムは，データ集における検索対象情報の商品等の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部と，前記検索結果を用いて，前記検索対象情報を絞り込む絞込処理部と，を有する検索対象情報絞込システムである。
【００１３】
すでに流通実態のないまたはほとんどない商品等については，ウェブ検索では検索結果のヒット数が少なくなる傾向がある。そのためウェブ検索によれば流通実態を反映することができる。しかし，ウェブ検索では，個々の商品の属性データ（付随データ）を網羅しているわけではないので，ウェブ検索のみでは，個々の商品の属性データを得ることができない。そこで，本発明のように構成することで，商品の流通実態を反映した上で検索対象を絞り込むことができるので，個々の商品の属性データを得ながら，処理時間の無駄や処理負荷の軽減を図り，また検索精度の低下も抑止することができる。
【００１４】
上述の発明において，前記絞込処理部は，前記検索対象情報について検索対象とすることを判定した場合，その検索対象情報を絞込情報として絞込情報記憶部に記憶する，または検索対象とすることを示す情報を付する，検索対象情報絞込システムのように構成することができる。
【００１５】
上述の発明において，前記絞込処理部は，前記検索対象情報について検索対象から除外することを判定した場合，その検索対象情報を絞込情報としない，または検索対象から除外することを示す情報を付する，検索対象情報絞込システムのように構成することができる。
【００１６】
上述の発明において，前記絞込処理部は，前記検索対象情報について優先度を付するまたは優先度を変更する，検索対象情報絞込システムのように構成することができる。
【００１７】
検索対象情報から絞り込みを行う場合には，これらの発明のように絞り込んだ情報を特定しておくことが好ましい。
【００１８】
上述の発明において，前記絞込処理部は，前記検索結果のヒット数，出現頻度，またはウェブページの日付情報のうちいずれか一以上を用いることで，前記検索対象情報を絞り込む，検索対象情報絞込システムのように構成することができる。
【００１９】
ヒット数，ウェブページの日付情報は，流通実態を反映する一つの指標である。ヒット数が多ければ，商品等が流通している実態がうかがえ，またウェブページの日付情報が新しければ最近の商品等であることがうかがえる。そこで，これらを絞り込みの条件として用いることが好ましい。
【００２０】
上述の発明において，前記検索処理部は，前記検索対象情報における商品等の名称と商品等識別情報とに基づいて，ウェブ検索をし，その検索結果を受け付ける，検索対象情報絞込システムのように構成することができる。
【００２１】
本発明のように，商品等の名称と商品等識別情報に基づいてウェブ検索を行うことで，商品等がモデルチェンジして異なる商品等識別情報で同一の商品等の名称の場合，あるいは異なる商品であるが同一の商品等識別情報を使い回す場合にも対応することができる。
【００２２】
上述の発明において，前記検索対象情報絞込システムは，前記絞込処理部によって絞り込まれた検索対象情報について検索を行った検索結果に対し，前記検索処理部での検索結果を用いて補正処理を行う，検索対象情報絞込システムのように構成することができる。
【００２３】
絞り込みをした検索対象情報に対する検索結果においても，複数の検索結果が出てくる場合がある。その場合，検索処理部での検索結果を用いて補正処理を行うことで，検索結果に対しても流通実態を反映することができる。
【００２４】
請求項８に記載の発明は，データ集における商品の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部と，前記検索結果を用いて，検索対象となる商品を絞り込む絞込処理部と，店舗の陳列棚を撮影した撮影画像情報の入力を受け付ける撮影画像情報入力受付処理部と，前記撮影画像情報を用いて特定した商品タグの一部または全部の領域におけるＯＣＲ認識処理によるテキスト情報を，前記検索対象とした商品の商品名または商品識別情報と比較することで，前記陳列棚における商品タグに記載されている商品の名称または商品識別情報を特定する商品タグ認識処理部と，を有する情報処理システムである。
【００２５】
店舗の陳列棚を撮影した撮影画像情報における商品タグに記載されている商品名や商品識別情報を特定する場合，ＯＣＲ認識処理を実行する。この場合，ＯＣＲ認識処理が正しく認識できているか，確認をする必要がある。しかしすべての商品の商品名，商品識別情報と比較をすると，上述のように，処理時間，処理負荷，検索精度の課題がある。そこで本発明のように流通実態を反映した商品と比較をすることで，処理時間の無駄や処理負荷の軽減を図り，また検索精度の低下も抑止することができる。
【００２６】
上述の発明において，前記商品タグ認識処理部は，さらに，前記認識したテキスト情報と，前記検索対象とした商品名または商品識別情報との比較の際に，前記検索結果を用いた補正処理を行う，情報処理システムのように構成することができる。
【００２７】
本発明を用いることによって，流通実態を反映して，認識したテキスト情報と，検索対象とした商品名，商品識別情報と比較の比較処理を実行できるので，その精度をさらに向上させることができる。
【００２８】
上述の発明において，前記情報処理システムは，さらに，前記撮影画像情報を用いて特定した領域の画像情報と，前記検索対象とした商品の標本情報とを比較することで，前記陳列棚に陳列されている商品の名称または商品識別情報を特定する陳列商品認識処理部，を有する情報処理システムのように構成することができる。
【００２９】
請求項１１に記載の発明は，データ集における商品の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部と，前記検索結果を用いて，検索対象となる商品を絞り込む絞込処理部と，店舗の陳列棚を撮影した撮影画像情報の入力を受け付ける撮影画像情報入力受付処理部と，前記撮影画像情報を用いて特定した領域の画像情報と，前記検索対象とした商品の標本情報とを比較することで，前記陳列棚に陳列されている商品の名称または商品識別情報を特定する陳列商品認識処理部と，を有する情報処理システムである。
【００３０】
店舗の陳列棚を撮影した撮影画像情報について，商品タグからのＯＣＲ認識のほか，陳列棚に陳列されている商品について，当該商品の領域を標本情報とマッチング処理をすることで，その商品の名称や商品識別情報を特定する場合もある。その場合，データ集に登録されているすべての商品の標本情報とマッチングをすると，上述のように，処理時間，処理負荷，検索精度の課題がある。そこでこれらの発明のように流通実態を反映した商品の標本情報と比較をすることで，処理時間の無駄や処理負荷の軽減を図り，また検索精度の低下も抑止することができる。
【００３１】
上述の発明において，前記陳列商品認識処理部は，さらに，前記特定した領域の画像情報と，前記検索対象とした商品の標本情報との比較の際に，前記検索結果を用いた補正処理を行う，情報処理システムのように構成することができる。
【００３２】
本発明を用いることによって，商品の標本情報とのマッチング処理の精度をさらに向上させることができる。
【００３３】
請求項１に記載の発明は，本発明のプログラムをコンピュータに読み込ませて実行することで実現することができる。すなわち，コンピュータを，所定の記憶領域に記憶した検索対象情報のデータ集における商品等の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部，前記検索結果を用いて，前記検索対象情報を絞り込む絞込処理部，として機能させる検索対象情報絞込プログラムのように構成することができる。
【００３４】
請求項８に記載の発明は，本発明のプログラムをコンピュータに読み込ませて実行することで実現することができる。すなわち，コンピュータを，所定の記憶領域に記憶した商品のデータ集における商品の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部，前記検索結果を用いて，検索対象となる商品を絞り込む絞込処理部，店舗の陳列棚を撮影した撮影画像情報の入力を受け付ける撮影画像情報入力受付処理部，前記撮影画像情報を用いて特定した商品タグの一部または全部の領域におけるＯＣＲ認識処理によるテキスト情報を，前記検索対象とした商品の商品名または商品識別情報と比較することで，前記陳列棚における商品タグに記載されている商品の名称または商品識別情報を特定する商品タグ認識処理部，として機能させる情報処理プログラムのように構成することができる。
【００３５】
請求項１１に記載の発明は，本発明のプログラムをコンピュータに読み込ませて実行することで実現することができる。すなわち，コンピュータを，所定の記憶領域に記憶した商品のデータ集における商品の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部，前記検索結果を用いて，検索対象となる商品を絞り込む絞込処理部，店舗の陳列棚を撮影した撮影画像情報の入力を受け付ける撮影画像情報入力受付処理部，前記撮影画像情報を用いて特定した領域の画像情報と，前記検索対象とした商品の標本情報とを比較することで，前記陳列棚に陳列されている商品の名称または商品識別情報を特定する陳列商品認識処理部，として機能させる情報処理プログラムのように構成することができる。
【発明の効果】
【００３６】
本発明の検索対象情報絞込システムを用いて，データ集におけるすべての商品等を検索対象とするのではなく，商品等の流通実態を反映して検索対象となる商品等の絞込をしておくことによって，検索対象とする必要がない商品等との比較を行わずにすむことが可能となる。これによって，処理時間のロス，処理負荷の低減，検索精度の低下の抑止を図るとができる。
【図面の簡単な説明】
【００３７】
【図１】本発明の検索対象情報絞込システムのシステム構成の一例を模式的に示すブロック図である。
【図２】本発明の検索対象情報絞込システムで用いるコンピュータのハードウェア構成の一例を模式的に示すブロック図である。
【図３】本発明の検索対象情報絞込システムにおける全体の処理プロセスの一例を示すフローチャートである。
【図４】検索対象情報記憶部の一例を模式的に示す図である。
【図５】絞込情報記憶部の一例を模式的に示す図である。
【図６】本発明の検索対象情報絞込システムにおける処理の概念図を示す図である。
【図７】ウェブ検索の検索結果の一例を示す図である。
【図８】検索対象情報記憶部に検索対象を示す情報を記憶することで検索対象情報の絞込を行う場合の一例を模式的に示す図である。
【図９】実施例２の情報処理システムのシステム構成のブロック図の一例を模式的に示す図である。
【図１０】陳列商品認識処理部のシステム構成のブロック図の一例を模式的に示す図である。
【図１１】商品タグ認識処理部のシステム構成のブロック図の一例を模式的に示す図である。
【図１２】撮影画像情報の一例を示す図である。
【図１３】図１２の撮影画像情報を正置化した撮影画像情報（正置画像情報）の一例を示す図である。
【図１４】図１２の正置画像情報に対して，棚段領域と商品タグ配置領域の指定の入力を受け付けた状態を模式的に示す図である。
【図１５】標本情報記憶部に記憶する標本情報の一例を示す図である。
【図１６】図１４の商品タグ配置領域の画像情報に対して，正置化した商品タグ配置領域の画像情報の一例を示す図である。
【図１７】輪郭線を特定した状態の一例を示す図である。
【図１８】商品タグ特定処理部における商品タグ領域の上辺位置，下辺位置を特定する処理を模式的に示す図である。
【図１９】商品タグ特定処理部における商品タグ領域の横方向の位置を特定する処理を模式的に示す図である。
【図２０】図１６の正置化した商品タグ配置領域の画像情報から，商品タグ領域を特定した状態を模式的に示す図である。
【図２１】商品タグ内情報特定処理部における処理において，商品タグ領域を二値化した画像情報を模式的に示す図である。
【図２２】商品タグ内情報特定処理部における処理において，ボックスを生成した状態を模式的に示す図である。
【図２３】商品タグ内情報特定処理部における処理において，ブロックを生成した状態を模式的に示す図である。
【図２４】商品タグに表記された商品名，ＯＣＲ認識の結果，商品辞書に記憶する商品名のうち編集距離が最小の商品名，編集距離の一例を示す図である。
【図２５】最終候補の文字数ごとの確定してよい編集距離の対応関係の一例を示す図である。
【図２６】実施例２における画像認識システムの処理プロセスの一例を示すフローチャートである。
【図２７】検索処理部におけるウェブ検索の検索結果を用いて，類似度の補正処理を行うことを模式的に示す図である。
【発明を実施するための形態】
【００３８】
図１に，本発明の検索対象情報絞込システム１のシステム構成の一例のブロック図を模式的に示す。検索対象情報絞込システム１は，管理端末２と検索サーバ３とを用いる。
【００３９】
管理端末２は，検索対象情報絞込システム１の各機能を実現するコンピュータである。また，検索サーバ３は，インターネットにおける検索エンジンなどの機能を実現するサーバである。
【００４０】
検索対象情報絞込システム１における管理端末２は，コンピュータを用いて実現される。図２にコンピュータのハードウェア構成の一例を模式的に示す。コンピュータは，プログラムの演算処理を実行するＣＰＵなどの演算装置７０と，情報を記憶するＲＡＭやハードディスクなどの記憶装置７１と，情報を表示するディスプレイなどの表示装置７２と，情報の入力が可能なキーボードやマウスなどの入力装置７３と，演算装置７０の処理結果や記憶装置７１に記憶する情報をインターネットやＬＡＮなどのネットワークを介して送受信する通信装置７４とを有している。
【００４１】
コンピュータがタッチパネルディスプレイを備えている場合には，表示装置７２と入力装置７３とが一体的に構成されていてもよい。タッチパネルディスプレイは，たとえばタブレット型コンピュータやスマートフォンなどの可搬型通信端末などで利用されることが多いが，それに限定するものではない。
【００４２】
タッチパネルディスプレイは，そのディスプレイ上で，直接，所定の入力デバイス（タッチパネル用のペンなど）や指などによって入力を行える点で，表示装置７２と入力装置７３の機能が一体化した装置である。
【００４３】
本発明における各手段は，その機能が論理的に区別されているのみであって，物理上あるいは事実上は同一の領域を為していても良い。本発明の各手段における処理は，その処理順序を適宜変更することもできる。また，処理の一部を省略してもよい。
【００４４】
検索対象情報絞込システム１における管理端末２は，インターネットにおける検索サーバ３に対するウェブ検索が可能である。
【００４５】
検索対象情報絞込システム１は，検索対象情報記憶部２０と検索処理部２１と絞込処理部２２と絞込情報記憶部２３とを有する。
【００４６】
検索対象情報記憶部２０は，検索対象となる商品等の情報（検索対象情報）を網羅的に記憶するデータ集であって，たとえば商品等の名称，商品等の識別情報，商品等の付随情報などを対応づけて記憶する。データ集としては，複数の検索対象情報に関する情報を記憶していればよい。付随情報には，メーカの識別情報，商品分類，内容量，単品サイズ，価格情報，容器形態，棚割サイズ，商品発売開始日，製造／販売終了フラグなどがある。また，画像検索が行われる場合には，商品等の付随情報として，当該商品等の標本情報が記憶されているとよい。標本情報は，商品等を複数の角度から撮影した画像情報そのものでもよいし，画像情報に基づく画像特徴量の情報であってもよい。検索対象情報記憶部２０は，たとえば，ＪＩＣＦＳ，書籍のＩＳＢＮコードのデータベース，楽曲の管理コードのデータベースなどがあるが，それらに限定されず，検索対象となる商品等を網羅的に記憶するデータ集であれば足りる。なお，「網羅的」とは，そのジャンルにおけるすべての商品等を記憶している必要はなく，たとえば業界団体や一定の組織などが商品等の販売や管理の観点から商品等を記憶するデータ集，任意の処理システムにおける検索処理の際の検索対象となるデータ集であれば足りる。また，ＪＩＣＦＳなどの公知のデータベースに記憶されていない商品等がある場合には，不足している商品等の情報を追加したあとのデータベースをデータ集として用いてもよい。たとえばＪＩＣＦＳに登録されていないプライベートブランド商品の情報を追加したデータベースをデータ集である検索対象情報記憶部２０として構成してもよい。図４に検索対象情報記憶部２０の一例を模式的に示す。
【００４７】
検索処理部２１は，検索対象情報記憶部２０に記憶する検索対象情報について，インターネットにおける検索サーバ３に対してウェブ検索を実行し，その検索結果を取得する。この際には，検索対象情報記憶部２０に記憶する検索対象情報における商品等の名称に基づいてウェブ検索を実行してもよいし，商品等の名称および商品等識別情報（商品ＩＤ）に基づいてウェブ検索を実行してもよい。商品等の名称に加えて商品等識別情報に基づいてウェブ検索を行うことで，商品等がモデルチェンジして異なる商品等識別情報で同一の商品等の名称の場合，あるいは異なる商品であるが同一の商品等識別情報を使い回す場合にも対応することができる。
【００４８】
検索処理部２１は，検索対象情報記憶部２０に記憶するすべての検索対象情報について，ウェブ検索を実行することが好ましいが，すでにウェブ検索を実行をしており，かつその検索結果のヒット数が「０」などの所定の条件を充足している場合には，ウェブ検索を行う検索対象情報から除外をしてもよい。
【００４９】
なお，検索処理部２１のウェブ検索の処理には，検索サーバ３によるウェブ検索のほか，インターネットをクローリングすることによるウェブ検索も含まれる。
【００５０】
絞込処理部２２は，検索処理部２１におけるウェブ検索の検索結果に基づいて，所定条件を充足した検索対象情報を検索対象から除外し，それ以外の検索対象情報を絞込情報として，後述する絞込情報記憶部２３に記憶させる。所定条件は任意に定めることができるが，たとえばヒット数や出現頻度が所定の閾値に達していない，ヒットしたウェブページのうち，最新のウェブページの作成日付（更新日付）が所定期間（たとえば１年）より前であるなど，検索対象情報とする商品等のジャンルに応じて，適宜，定めることができる。所定条件は，ヒット数，出現頻度，作成日付（更新日付）など，複数を定めてもよい。
【００５１】
絞込処理部２２は，所定条件を充足した検索対象情報以外の検索対象情報を絞り込み情報として絞込情報記憶部２３に記憶させるほか，検索対象情報記憶部２０に，所定条件を充足した検索対象情報を検索対象から除外することを示すフラグを付す，あるいは所定条件を充足しない検索対象情報を検索対象とすることを示すフラグを付すなどの処理によって，検索対象の設定をしてもよい。
【００５２】
絞込処理部２２は，所定条件を充足した検索対象情報を検索対象とする絞込情報として絞込情報記憶部２３に記憶させ，所定条件を充足していない検索対象情報を検索対象から除外をするようにしてもよい。
【００５３】
また，絞込処理部２２は，検索処理部２１におけるウェブ検索の検索結果に基づいて，検索対象情報における優先度を付する，または優先度を変更し，後述する絞込情報記憶部２３に記憶させてもよい。たとえば所定条件を充足した検索対象情報のうち，ヒット数や出現頻度が多い順に検索対象情報の優先度を高くする，ヒットしたウェブページのうち，最新のウェブページの作成日付（更新日付）が新しい検索対象情報の優先度を高くする，などと定めることもできる。なお，本明細書においては，検索対象情報を絞り込むとは，上述のように，検索対象とする，検索対象から除外するほか，検索対象情報に優先度を付する，変更することも含むものとする。
【００５４】
絞込情報記憶部２３は，絞込処理部２２が作成した絞込情報を記憶するテーブルである。絞込情報記憶部２３の一例を模式的に図５に示す。従来，検索対象情報を網羅的に含む検索対象情報記憶部２０を検索していたが，絞込情報記憶部２３には，流通実態を考慮した検索対象情報が含まれているので，絞込情報記憶部２３を検索すればよい。
【００５５】
なお，検索処理部２１におけるウェブ検索の検索結果，たとえばヒット数や出現頻度，ウェブページの作成日付（更新日付）などについては，絞込処理部２２での検索対象情報を検索対象から除外する，あるいは所定条件を充足しない検索対象情報を検索対象とするほかに，絞込情報など，何らかの情報に基づいて検索を行った検索結果に対して，検索結果の表示順位（推薦順位）を変更するようにしてもよい。
【実施例１】
【００５６】
つぎに，本発明の検索対象情報絞込システム１を用いて，絞込情報記憶部２３を作成する処理の処理プロセスの一例を，図３のフローチャートを用いて説明をする。また本発明の検索対象情報絞込システム１における処理の概念図を図６に示す。
【００５７】
検索処理部２１は，所定のタイミングで，検索対象情報記憶部２０に記憶する検索対象情報における商品等の名称と商品等識別情報を抽出し，それらに基づいてウェブ検索を行う（Ｓ１００）。そして検索処理部２１は，ウェブ検索の検索結果を取得し，一時的に記憶する（Ｓ１１０）。このようなウェブ検索を，検索対象情報記憶部２０に記憶する各検索対象情報について行う。ウェブ検索の検索結果の一例が，図７であったとする。
【００５８】
絞込処理部２２は，図７のウェブ検索の検索結果に基づいて，所定条件を充足する検索対象情報を特定し，その検索対象情報を検索対象から除外し，所定条件を充足しない検索対象情報を検索対象とする絞込処理を実行する（Ｓ１２０）。
【００５９】
たとえば所定条件としてヒット数が５，０００未満であるとすると，絞込処理部２２は，商品名等の名称が「ＢＢＢ」，「ＣＣＣ」，「ＤＤＤ」，「ＦＦＦ」，「ＧＧＧ」を検索対象から除外することを判定し，商品名等の名称「ＡＡＡ」，「ＥＥＥ」，「ＨＨＨ」，「ＩＩＩ」の検索対象情報を検索対象とすることを判定し，絞込情報として絞込情報記憶部２３に記憶させる（Ｓ１３０）。この状態の絞込情報記憶部２３の一例を模式的に示すのが図５である。
【００６０】
また，所定条件としてヒット数が５，０００未満であるときに，絞込情報記憶部２３が絞込情報記憶部２３ではなく，検索対象情報記憶部２０に検索対象を示す情報を記憶することで検索対象情報の絞込を行う場合には，たとえば図８に示すようになる。
【００６１】
さらに，たとえば所定条件としてヒット数が５，０００未満または最新の作成日付が２０１７年１２月３１日以前であったとすると，絞込処理部２２は，商品名等の名称が「ＢＢＢ」，「ＣＣＣ」，「ＤＤＤ」，「ＦＦＦ」，「ＧＧＧ」，「ＩＩＩ」を検索対象から除外することを判定し，商品名等の名称「ＡＡＡ」，「ＥＥＥ」，「ＨＨＨ」の検索対象情報を検索対象とすることを判定し，絞込情報として絞込情報記憶部２３に記憶させる（Ｓ１３０）。
【００６２】
何らかの情報を検索したい場合には，以上のように作成した絞込情報記憶部２３の検索対象情報に対して検索を行えばよい。これによって，流通実態のない商品等を検索対象から除外することができるので，処理時間や処理負荷を減らし，また検索精度の低下などを抑止することができる。
【実施例２】
【００６３】
つぎに，店舗の陳列棚を撮影した画像情報（撮影画像情報）から，陳列している商品名などの商品識別情報，商品タグに記載されている商品識別情報などを特定する画像認識システム４に，本発明の検索対象情報絞込システム１で作成した絞込情報を用いる場合を説明する。本実施例における情報処理システムでは，上述の検索対象情報絞込システム１と画像認識システム４とを連携している。本実施例の情報処理システムのシステム構成のブロック図の一例を模式的に図９に示す。図１０は後述する陳列商品認識処理部４４のシステム構成の一例を示すブロック図であり，図１１は後述する商品タグ認識処理部４５のシステム構成の一例を示すブロック図である。
【００６４】
図９の画像認識システム４では，店舗の陳列棚を撮影した撮影画像情報から，陳列棚に陳列されている商品を画像マッチング処理により特定し，また，陳列棚における商品タグに記載されている商品名などの商品識別情報を特定する。
【００６５】
本実施例における情報処理システムは，実施例１における検索対象情報絞込システム１の処理を実現する検索対象情報絞込システム１と，撮影画像情報に基づいて，陳列棚に陳列されている商品の商品名などの商品識別情報，商品タグに記載されている商品名などの商品識別情報を特定する処理を実行する画像認識システム４とを有する。
【００６６】
撮影画像情報入力端末５は，店舗の陳列棚を撮影した画像情報の入力を行う端末である。撮影画像情報入力端末５は，図２における各装置のほか，カメラなどの撮影装置を備えていてもよい。撮影画像情報入力端末５として，携帯電話，スマートフォン，タブレット型コンピュータなどの可搬型通信端末を用いることもできる。
【００６７】
検索対象情報絞込システム１は，実施例１と同様に，検索対象情報記憶部２０，検索処理部２１，絞込処理部２２，絞込情報記憶部２３を有する。各機能は，実施例１と同様である。検索対象情報記憶部２０は，たとえばＪＩＣＦＳのように，商品を網羅的に記憶するデータ集であって，商品名，ＪＡＮコード，それに付随する情報（たとえば製造会社名など）を記憶している。また絞込情報記憶部２３は絞込情報を記憶しており，後述する画像認識システム４の商品タグ内情報特定処理部４５４によるＯＣＲ認識処理（テキスト認識処理）で認識するテキスト情報，とくに商品名等の商品識別情報に基づく検索対象となるテーブルである。絞込情報記憶部２３は，たとえば後述する商品辞書として参照することができる。
【００６８】
検索処理部２１は，検索対象情報記憶部２０に記憶する商品名およびＪＡＮコードに基づいて，インターネットにおける検索サーバ３に対してウェブ検索を実行し，その検索結果を取得する。絞込処理部２２は，検索処理部２１におけるウェブ検索の検索結果に基づいて，所定条件を充足した商品名等の情報を検索対象から除外し，それ以外の商品名等の情報を絞込情報として，絞込情報記憶部２３に記憶させる。
【００６９】
撮影画像情報に基づいて陳列棚に陳列されている商品の商品名などの商品識別情報，陳列棚の商品タグに記載されている商品名などの商品識別情報を特定する場合，画像認識システム４は，撮影画像情報入力受付処理部４０と撮影画像情報記憶部４１と撮影画像情報正置化処理部４２と位置特定処理部４３と陳列商品認識処理部４４と商品タグ認識処理部４５と標本情報記憶部４６とを有する。
【００７０】
撮影画像情報入力受付処理部４０は，撮影画像情報入力端末５で撮影した店舗の陳列棚の撮影画像情報の入力を受け付け，後述する撮影画像情報記憶部４１に記憶させる。撮影画像情報入力端末５からは，撮影画像情報のほか，撮影日時，店舗名などの店舗識別情報，画像情報を識別する画像情報識別情報などをあわせて入力を受け付けるとよい。図１２に撮影画像情報の一例を示す。図１２では，陳列棚に２段の棚段があり，そこに商品が陳列されており，また商品タグが貼付されている状態の撮影画像情報である。
【００７１】
撮影画像情報記憶部４１は，撮影画像情報入力端末５から受け付けた撮影画像情報，撮影日時，店舗識別情報，画像情報識別情報などを対応づけて記憶する。撮影画像情報とは，本発明の処理対象となる画像情報であればよい。一般的には，単に撮影した場合，撮影対象物を正対した状態で撮影することが困難であることから，それを正対した状態に補正する補正処理，たとえば台形補正処理などを実行することがよい。一つの陳列棚を複数枚で撮影した場合に，それが一つの画像情報として合成された画像情報も含まれる。また，歪み補正処理が実行された後の画像情報も撮影画像情報に含まれる。
【００７２】
撮影画像情報正置化処理部４２は，撮影画像情報記憶部４１に記憶した撮影画像情報に対して，撮影対象物が正対した状態になるように補正する処理（正置化処理），たとえば台形補正処理を実行した正置画像情報を生成する。台形補正処理は，撮影画像情報に写っている陳列棚の棚段が水平に，そこに陳列されている商品に対する商品タグが垂直になるように行う補正処理である。正置化とは，撮影装置のレンズの光軸を撮影対象である平面の垂線方向に沿って，十分に遠方から撮影した場合と同じになるように画像情報を変形させることであり，たとえば台形補正処理がある。
【００７３】
撮影画像情報正置化処理部４２が実行する台形補正処理は，撮影画像情報において４頂点の指定の入力を受け付け，その各頂点を用いて台形補正処理を実行する。指定を受け付ける４頂点としては，陳列棚の棚段の４頂点であってもよいし，陳列棚の棚位置の４頂点であってもよい。また，２段，３段の棚段のまとまりの４頂点であってもよい。４頂点としては任意の４点を指定できる。図１３に図１２の撮影画像情報を正置化した撮影画像情報（正置画像情報）の一例を示す。
【００７４】
位置特定処理部４３は，撮影画像情報正置化処理部４２において撮影画像情報に対して台形補正処理を実行した正置画像情報のうち，商品が配置される可能性のある棚段の領域（棚段領域），商品タグが取り付けられる可能性のある領域（商品タグ配置領域）を特定する。すなわち，撮影画像情報および正置画像情報には陳列棚が写っているが，陳列棚には，商品が陳列される棚段領域と，そこに陳列される商品に対する商品タグが取り付けられる可能性のある商品タグ配置領域とがある。そのため，正置画像情報から棚段領域と商品タグ配置領域を特定する。棚段領域，商品タグ配置領域の特定としては，管理端末２の操作者が手動で棚段領域，商品タグ配置領域を指定し，それを位置特定処理部４３が受け付けてもよいし，初回に手動で入力を受け付けた棚段領域，商品タグ配置領域の情報に基づいて，二回目以降は自動で棚段領域，商品タグ配置領域を特定してもよい。
【００７５】
図１４に，飲料缶などの商品が陳列されている陳列棚を撮影した画像情報を正置化した正置画像情報に対して，棚段領域と商品タグ配置領域の指定の入力を受け付けた状態を模式的に示す。
【００７６】
陳列商品認識処理部４４は，正置画像情報に写っている陳列棚における棚段に陳列されている商品を認識する処理を実行する。陳列商品認識処理部４４の処理の詳細は，後述する。
【００７７】
商品タグ認識処理部４５は，正置画像情報に写っている陳列棚の商品タグ領域にある商品タグに記載されている商品識別情報を認識する処理を実行する。商品タグ認識処理部４５の処理の詳細は後述する。
【００７８】
標本情報記憶部４６は，正置画像情報に写っている陳列棚の棚段に陳列されている商品がどの商品であるかを識別するための標本情報を記憶する。標本情報は，陳列棚に陳列される可能性のある商品を，上下，左右，斜めなど複数の角度から撮影をした画像情報である。図１５に標本情報記憶部４６に記憶される標本情報の一例を示す。図１５では，標本情報として，缶ビールをさまざまな角度から撮影をした場合を示しているが，缶ビールに限られない。標本情報記憶部４６は，標本情報と，商品識別情報とを対応付けて記憶する。
【００７９】
なお，標本情報記憶部４６には，標本情報とともに，または標本情報に代えて，標本情報から抽出された，類似性の算出に必要となる情報，たとえば画像特徴量とその位置のペアの情報を記憶していてもよい。標本情報には，類似性の算出に必要となる情報も含むとする。この場合，陳列商品認識処理部４４は，後述するプレイスの領域の画像情報と，標本情報とのマッチング処理を行う際に，標本情報について毎回，画像特徴量を算出せずともよくなり，計算時間を短縮することができる。
【００８０】
商品識別情報記憶部４７は，陳列棚の棚段の各プレイスに表示されている商品の商品識別情報または「空」であることを示す情報を記憶する。たとえば，商品識別情報に対応付けて，撮影日時情報，店舗情報，撮影画像情報の画像情報識別情報，正置画像情報の画像識別情報，プレイスを識別するためのプレイス識別情報に対応づけて商品識別情報記憶部４７に記憶する。
【００８１】
撮影画像情報に基づいて陳列棚に陳列している商品の商品識別情報を認識する場合，陳列商品認識処理部４４は，棚段領域処理部４４１とプレイス特定処理部４４２と商品識別情報特定処理部４４３とを有する。
【００８２】
棚段領域処理部４４１は，位置特定処理部４３で特定した棚段領域の画像情報を棚段領域画像情報として特定する。棚段領域処理部４４１は，実際に，画像情報として切り出してもよいし，実際には画像情報としては切り出さずに，領域の画像情報を特定するなどによって，仮想的に切り出すのでもよい。なお，陳列棚に棚段が複数ある場合には，それぞれが棚段領域画像情報として切り出される。また棚段の領域を示す座標としては，その領域を特定するための頂点の座標であり，正置画像情報におけるたとえば４点，右上と左下，左上と右下の２点の座標などでよい。また，正置画像情報における陳列棚など，画像情報における所定箇所（たとえば陳列棚の左上の頂点）を基準とした相対座標である。
【００８３】
プレイス特定処理部４４２は，正置画像情報における棚段領域における棚段ごとに，プレイスの領域を特定する。プレイスとは商品が置かれる領域であって，その商品が置かれているか否かは問わない。プレイスの領域の大きさは，そこに置かれるべき商品と同一または略同一の大きさである。そして，実際に商品が陳列されているプレイスを「フェイス」とする。またプレイスに商品が陳列されていない場合を「空」とする。
【００８４】
プレイス特定処理部４４２におけるプレイスの特定処理は，位置特定処理部４３で特定した棚段の座標で構成される領域（好ましくは矩形領域）の範囲内において，プレイスを特定する。具体的には，棚段領域における商品と商品との間に生じる細く狭い陰影を特定する，画像の繰り返しパターンを特定する，パッケージの上辺の段差を特定する，商品幅が同一であるなどの制約に基づいて区切り位置を特定する，などによって，プレイスの領域を特定する。プレイスの特定処理としては，商品のカテゴリや商品の形態によって，任意の方法を採用可能であり，上記に限定するものではない。また，自動的に特定したプレイスに対して，担当者による修正入力を受け付けてもよい。さらに，担当者からプレイスの位置の入力を受け付けるのでもよい。特定したプレイスを構成する領域の座標は，正置画像情報におけるプレイスの領域の座標に，撮影日時情報，店舗情報，撮影画像情報の画像情報識別情報，正置画像情報の画像識別情報，プレイスを識別するためのプレイス識別情報とを対応づけて管理する。またプレイスの領域を示す座標としては，矩形領域を特定するための頂点の座標であり，正置画像情報におけるたとえば４点，右上と左下，左上と右下の２点の座標などでよい。また，正置画像情報における陳列棚など，画像情報における所定箇所（たとえば陳列棚の左上の頂点）を基準とした相対座標である。
【００８５】
一般的には，一つの棚段には，同じような種類の商品が置かれることが多い。その場合，商品の大きさもほぼ同じ大きさである。そこで，一つの商品のプレイスの領域を特定した場合，その領域を棚段において反復して設定することで，当該棚段におけるプレイスを特定してもよい。
【００８６】
商品識別情報特定処理部４４３は，陳列棚の棚段ごとに，プレイスに表示されている商品の商品識別情報を，標本情報記憶部４６に記憶する標本情報を用いて特定する。商品識別情報としては，商品名のほか，その商品に対して割り当てられているＪＡＮコードなどがあるが，それに限定されない。商品を識別することができる情報であればいかなるものでもよい。ただし標本情報記憶部４６に記憶する標本情報は，検索対象情報記憶部２０に記憶するすべての商品について記憶していることが好ましいが，すでに流通実態のない商品について標本情報を記憶していても不要な場合がある。そのため，絞込情報記憶部２３で絞り込まれた商品についての標本情報を記憶しているのでもよい。
【００８７】
商品識別情報特定処理部４４３は，以下のような処理を実行する。すなわち，プレイスごとに，プレイスの画像情報と，標本情報記憶部４６に記憶する商品の標本情報とマッチングすることで，そのプレイスに表示されている商品の商品識別情報を特定する。具体的には，まず，処理対象となるプレイスの座標で構成される領域の画像情報と，標本情報記憶部４６に記憶する標本情報との類似性を判定し，その類似性がもっとも高い標本情報に対応する商品識別情報を特定し，特定した類似性があらかじめ定めた閾値以上であれば，上記座標で構成されるプレイスに表示されている商品の商品識別情報として特定をする。
【００８８】
ここでプレイスの画像情報と標本情報との類似性を判定するには，以下のような処理を行う。まず，商品識別情報特定処理部４４３における商品識別情報の特定処理の前までの処理において，正置画像情報の棚段におけるプレイスの領域の画像情報と，標本情報との方向が同じ（横転や倒立していない）となっており，また，それぞれの画像情報の大きさが概略同じとなっている（所定範囲以上で画像情報の大きさが異なる場合には，類似性の判定の前にそれぞれの画像情報の大きさが所定範囲内となるようにサイズ合わせをしておく）。
【００８９】
商品識別情報特定処理部４４３は，プレイスの画像情報と，標本情報との類似性を判定するため，プレイスの画像情報の画像特徴量（たとえば局所特徴量）に基づく特徴点と，標本情報との画像特徴量（たとえば局所特徴量）に基づく特徴点を，それぞれ抽出する。そして，プレイスの画像情報の特徴点と，標本情報の特徴点とでもっとも類似性が高いペアを検出し，それぞれで対応する点の座標の差を求める。そして，差の平均値を求める。差の平均値は，プレイスの画像情報と，標本情報との全体の平均移動量を示している。そして，すべての特徴点のペアの座標差を平均の座標差と比較し，外れ度合いの大きなペアを除外する。そして，残った対応点の数で類似性を順位付ける。
【００９０】
以上のような方法でプレイスの画像情報と，標本情報との類似性を算出できる。また，その精度を向上させるため，さらに，色ヒストグラム同士のＥＭＤ（Ｅａｒｔｈ  Ｍｏｖｅｒｓ  Ｄｉｓｔａｎｃｅ）を求め，類似性の尺度としてもよい。これによって，撮影された画像情報の明度情報等の環境変化に比較的強い類似性の比較を行うことができ，高精度で特定をすることができる。
【００９１】
類似性の判定としては，ほかにも，各プレイスの領域の画像情報のシグネチャ（画像特徴量と重みの集合）同士のＥＭＤを求め，類似性の尺度としてもよい。シグネチャの画像特徴量としては，たとえばプレイス領域の画像情報のＨＳＶ色空間内の頻度分布を求め，色相と彩度に関してグルーピングを行って，特徴の個数とＨＳＶ色空間内の領域による画像特徴量とすることができる。色相と彩度についてグルーピングを行うのは，撮影条件に大きく左右されないように，明度への依存度を下げるためである。
【００９２】
また，処理の高速化のため，シグネチャとＥＭＤの代わりに，適宜の色空間内での画像情報の色コリログラムや色ヒストグラムなどの画像特徴量間のＬ２距離等の類似性を用いることもできる。
【００９３】
類似性の判定は，上述に限定をするものではない。特定した商品識別情報は，撮影日時情報，店舗情報，撮影画像情報の画像情報識別情報，正置画像情報の画像識別情報，プレイスを識別するためのプレイス識別情報に対応づけて商品識別情報記憶部４７に記憶する。
【００９４】
なお，商品識別情報が特定できたプレイスはフェイスとなるので，商品識別情報記憶部４７にそのプレイスが「フェイス」であることを示す情報が記憶され，商品識別情報が特定できなかったプレイスは「空」となるので，商品識別情報記憶部４７にそのプレイスが「空」であることを示す情報が記憶される。
【００９５】
以上のようにして特定した商品識別情報は，撮影日時情報，店舗情報，撮影画像情報の画像情報識別情報，正置画像情報の画像識別情報，プレイスを識別するためのプレイス識別情報，フェイスであるか空であるかを示す情報に対応づけて商品識別情報記憶部４７に記憶する。
【００９６】
撮影画像情報に基づいて商品タグの商品識別情報を認識する場合，商品タグ認識処理部４５は，商品タグ配置領域処理部４５１と商品タグ配置領域正置化処理部４５２と商品タグ特定処理部４５３と商品タグ内情報特定処理部４５４とを有する。
【００９７】
商品タグ配置領域処理部４５１は，位置特定処理部４３で特定した商品タグ配置領域の画像情報を商品タグ配置領域画像情報として切り出す。商品タグ配置領域処理部４５１は，実際に，画像情報として切り出してもよいし，実際には画像情報としては切り出さずに，仮想的に切り出すのでもよい。画像情報を仮想的に切り出すとは，特定した領域，たとえば商品タグ配置領域の範囲を処理対象として処理を実行させることをいう。なお，陳列棚に商品タグ配置領域が複数ある場合には，それぞれが商品タグ配置領域画像情報として切り出される。また商品タグ配置領域を示す座標としては，その領域を特定するための頂点の座標であり，正置画像情報におけるたとえば４点，右上と左下，左上と右下の２点の座標などでよい。また，正置画像情報における陳列棚など，画像情報における所定箇所（たとえば陳列棚の左上の頂点）を基準とした相対座標である。
【００９８】
商品タグ配置領域正置化処理部４５２は，商品タグ配置領域処理部４５１において切り出した商品タグ配置領域画像情報を正置化する台形補正処理を実行する。陳列棚の面が垂直であるのに対し，商品タグの面は，顧客から見やすいように，垂直面よりも上向きをしていることが多い。そこで商品タグ配置領域の画像情報を正置化することで，認識精度を向上させる。図１６に，図１４の商品タグ配置領域の画像情報に対して，正置化した商品タグ配置領域の画像情報の一例を示す。図１６（ａ）が図１４における上の棚段の商品タグ配置領域の画像情報を正置化した商品タグ配置領域の画像情報であり，図１６（ｂ）が図１４における下の棚段の商品タグ配置領域の画像情報を正置化した商品タグ配置領域の画像情報である。
【００９９】
商品タグ配置領域正置化処理部４５２は，以下のような処理を実行することで，商品タグ配置領域の画像情報を正置化する。すなわち，商品タグ配置領域の画像情報において，エッジ検出を行い，左右の両端に近い箇所で，一定の長さ以上の垂直に近い輪郭線（たとえば７０度から１１０度のように，垂直（９０度）から所定範囲の角度内の輪郭線）を特定する。なお，左右の両端に近い箇所の輪郭線を抽出することが好ましいが，それに限定しない。図１４の商品タグ配置領域の画像情報の場合，図１７に示すように，Ｌ１乃至Ｌ４をそれぞれ特定する。図１７（ａ）が図１４における上の棚段の商品タグ配置領域であり，図１７（ｂ）が図１４における下の棚段の商品タグ配置領域である。なお，特定する輪郭線Ｌ１乃至Ｌ４は，実際に商品タグ配置領域の画像情報に描画するわけではない。そして図１７（ａ）のＬ１，Ｌ２，図１７（ｂ）のＬ３，Ｌ４が，それぞれ垂直線となるように，商品タグ配置領域の画像情報に対する台形補正処理をそれぞれ実行する。このような処理を実行することで，商品タグ配置領域の画像情報を正置化し，図１６に示す正置化した商品タグ配置領域の画像情報を得られる。なお，商品タグ配置領域正置化処理部４５２の処理を実行することで，商品タグ特定処理部４５３，商品タグ内情報特定処理部４５４の精度を向上させることができることから，その処理を実行することが好ましいが，省略することもできる。その場合，商品タグ特定処理部４５３，商品タグ内情報特定処理部４５４は，商品タグ配置領域処理部４５１で切り出した商品タグ配置領域に対して実行することとなる。
【０１００】
商品タグ特定処理部４５３は，正置化した商品タグ配置領域画像情報から，各商品タグの領域（商品タグ領域）を特定する。商品タグ領域の特定処理には，主に２種類の方法を用いることができる。第１の方法は，輪郭線に基づいて商品タグ領域を特定する方法であり，第２の方法は，全体の明暗の分布などの全体的な特徴を，商品タグのテンプレートの画像情報とマッチングすることで商品タグ領域を特定する方法である。第１の方法，第２の方法以外の方法を用いることもできる。
【０１０１】
第１の方法は，商品タグの地の色（背景色）が白色が多い（背景より明るい）ことを利用する方法である。すなわち，まず正置化した商品タグ配置領域の画像情報のうち，画像情報の明度情報を横方向に積算したヒストグラムを生成する。そしてヒストグラムの立ち上がり，立ち下がり位置を特定し，商品タグの上辺位置Ａ，下辺位置Ｂを特定する。この処理を模式的に示すのが図１８である。立ち上がりとは，ヒストグラムにおいて，黒から白の方向に急峻（あらかじめ定められた比率以上）に増加する箇所であり，立ち下がりとは，ヒストグラムにおいて，白から黒の方向に急峻に減少する箇所である。
【０１０２】
そして，正置化した商品タグ配置領域の画像情報のうち，上辺位置Ａ，下辺位置Ｂの間を切り出し，正置化した商品タグ配置領域画像情報の明度情報を縦方向に積算したヒストグラムを生成する。そして，ヒストグラムの立ち上がり，立ち下がり位置を特定し，立ち上がりとその右の所定の距離範囲にある立ち下がりとをペアとし，それぞれを左辺位置，右辺位置として，商品タグ領域を特定する。そして，ペアを形成できなかった立ち上がりについてはその右側に，ペアを形成できなかった立ち下がりについてはその左側に，あらかじめ定めた距離内に商品タグ領域がなければ，商品タグ領域として特定をする。この処理を模式的に示すのが図１９である。
【０１０３】
また第１の方法により，図１６の正置化した商品タグ配置領域の画像情報から，商品タグ領域を特定した状態を図２０に示す。上辺位置Ａ，下辺位置Ｂ，左辺位置（立ち上がり）Ｕ，右辺位置（立ち下がり）Ｄのそれぞれで構成される矩形領域が，特定された商品タグの領域である。
【０１０４】
なお，商品タグの地の色（背景色）が白色以外，たとえば赤色であって，文字が白色などの商品タグもある。そこで，上述の処理によって商品タグにおける価格情報や商品識別情報が認識できなかった場合には，商品タグ配置領域の画像情報において，白色と黒色との関係を反転させて（明暗を反転させる），上述と同様の処理を実行するようにしてもよい。これによって，地の色が暗く，文字が明るい商品タグに対応させることもできる。
【０１０５】
なお，商品タグ配置領域の画像情報の明暗を反転させる処理は，商品タグにおける情報が認識できない場合のほか，商品識別情報を特定する過程の処理のいずれかにおいて正常に認識できない場合に実行してもよいし，認識できるか否かにかかわらず実行をしてもよい。
【０１０６】
第２の方法は，いわゆるテンプレートマッチングである。すなわち，テンプレートとして，商品タグの画像情報をあらかじめ登録しておき，テンプレートと，正置化した商品タグ配置領域の画像情報とのマッチングをすることで，商品タグ領域を特定する。
【０１０７】
商品タグには，税抜価格，税込価格，商品識別情報（商品名など），メーカー名，定格などが含まれる。そのため，テンプレートとなる商品タグの画像情報に，商品名など商品識別情報や価格の具体的な数字，文字を含めるとその部分も含めて画像マッチング処理の判定対象となるため，その部分をモザイク化，削除等することで，判定対象から中立化や除外してあることが好ましい。中立化とは，どのような入力についても高い点，低い点を配点しないことであり，除外とは，画像マッチング処理の際に，その部分をマッチングの対象から除外することである。
【０１０８】
商品タグ内情報特定処理部４５４は，商品タグ特定処理部４５３で特定した商品タグ領域に記載されている情報をＯＣＲ認識などにより特定する処理を実行する。ＯＣＲ認識をする場合には，商品タグ領域として特定した領域のすべてまたは一部について行うことができる。商品タグ領域として特定したすべての領域に行うとノイズなどにより誤認識が発生する可能性が高いので，ＯＣＲ認識をする対象領域を限定することが好ましい。この場合，商品タグ特定処理部４５３で用いた第１の方法，第２の方法にそれぞれ対応した処理を実行すればよい。
【０１０９】
商品タグ特定処理部４５３で第１の方法を用いた場合，特定した商品タグ領域において，まず二値化処理を行う。二値化処理としては，ＨＳＶ色空間の明度を用いる方法，大津の手法，赤色を抽出する手法（商品タグの数字や文字列には黒色のほか赤色も使用頻度が高い）などのうち一または複数を組み合わせて抽出したものを候補として選定する方法がある。
【０１１０】
そして，二値化した画像情報においてラベリング処理を実行する。ラベリング処理とは，二値画像情報において，白または黒が連続した画素に同一の番号（識別情報）を割り振る処理を実行することで，連続する画素同士を一つの島（グループ）化する処理である。そしてラベリング処理によって検出した島を含む矩形領域（ボックス）を生成し，ボックスの高さ，幅，ベースラインを求める。ボックスを生成する際には，同一番号にラベリングされた領域を囲む最小の，垂直，水平の線分で囲まれた長方形を生成することが好ましいが，それに限定しない。なおボックスを生成する際に，あらかじめ定めた閾値となる高さ，幅を充足しない島はノイズとしてボックスを生成せず，そのまま処理対象から除去する。たとえば高さが小さすぎる島は横罫線や画像上のゴミの可能性があり，幅が広すぎる島はロゴなどの可能性があり，これらはノイズとして除去をする。
【０１１１】
商品タグで使用される文字は，一般的には，太字のゴシック体など文字全体の輪郭が明確な字体が用いられることが多い。そのため，画像情報に多少のピンぼけがある場合でも，一つの文字列を形成する文字群は，ベースラインと高さがそろった島として検出することができる。
【０１１２】
そして商品タグ内情報特定処理部４５４は，所定の類似性を有する隣接したボックス同士を併合し，ブロックを構成する。すなわち，ベースラインと高さが所定範囲内で一致し，高さおよび幅が一定の閾値の範囲内にある連続するボックスを併合し，ブロックを構成する。この際に，併合するブロックの間にある小さいボックスなどもまとめて一つのブロックとして構成する。これによって，濁点，半濁点，ハイフンなども一つのブロックに取り込まれることとなる。ブロックは，ＯＣＲ認識の対象となる領域である。そして，ブロックのうち，高さがもっとも高いブロックを価格領域（税抜価格領域）と推定し，ＯＣＲ認識を行う。また，ほかのブロックについても同様に，ＯＣＲ認識を行う。以上のような処理を実行することで，商品タグ領域において複数行にわたって自由にレイアウトされた原稿部分に対しＯＣＲ認識を行うよりも精度よく，文字認識処理を実行することができる。この処理を模式的に示すのが図２１乃至図２３である。図２１は二値化した画像情報であり，図２２はボックス（破線で示す領域）を生成した状態を示す図である。また図２３はブロック（破線で示す領域）を生成した状態を示す図である。
【０１１３】
以上のようにして商品タグ内情報特定処理部４５４は，商品タグに記載した情報を文字認識することができる。
【０１１４】
商品タグ特定処理部４５３で第２の方法を用いた場合，テンプレートとした商品タグの画像情報に，あらかじめ税抜価格，税込価格，メーカー名，商品名などの商品識別情報，定格が表記されるそれぞれの文字枠の位置，大きさ（高さ，幅）が設定されている。そのため，商品タグ特定処理部４５３で特定した商品タグ領域から，該当箇所の画像情報を切り出し，ＯＣＲ認識処理を実行する。この際に，価格，メーカー名，商品名などの商品識別情報，定格によって使用される文字種別（たとえば数字，ローマ字，記号，かな漢字のどれを含むかなど）を制約条件として定めておくことで，ＯＣＲ認識処理の精度を向上させることができる。
【０１１５】
さらに商品タグ内情報特定処理部４５４は，読み取った情報の整合性を確認する処理を実行してもよい。整合性確認処理としては，辞書照合による整合性の確認処理，ロジカルチェックの２種類を行うことが好ましい。
【０１１６】
辞書照合による整合性の確認処理は，たとえば以下のように実行する。本実施例の情報処理システムにおける検索対象情報絞込システム１は，陳列棚に陳列される可能性のある商品の商品名などの商品識別情報と，それに対応するコード情報（たとえばＪＡＮコード）とを対応づけて記憶する絞込情報記憶部２３を備えている。そして，商品タグ内情報特定処理部４５４で認識した価格を示す領域から読み取った文字列以外の文字列と，絞込情報記憶部２３に登録されたすべての商品名などの商品識別情報との文字列類似度評価を行う。たとえば編集距離（レーベンシュタイン距離）やジャロ・ウィンクラー距離などを用いることができる。
【０１１７】
上記で求めた文字列類似度の最大値が一つであるならば，その商品名などの商品識別情報を最終候補とする。そして最終候補となった商品名などの商品識別情報の文字列の長さに対して，許容できる類似度をあらかじめ定めておき，許容できる類似度以上であれば商品名などの商品識別情報を同定する。許容できる類似度に達していなければ，読み取った文字列は未確定とする。また，最大値の類似度の商品が複数ある場合には，読み取った文字列は未確定とする。
【０１１８】
文字列類似度評価の一つである編集距離とは，二つの文字列がどの程度異なっているかを示す距離の一種であって，具体的には，一文字の挿入，削除，置換によって，一方の文字列をもう一方の文字列に変形するのに必要な手順の最小回数である。図２４に商品タグに表記された商品名，ＯＣＲ認識の結果，絞込情報記憶部２３に記憶する商品名のうち編集距離が最小の商品名，編集距離の一例を示す。また，図２５に，最終候補の文字数ごとの確定してよい編集距離の対応関係の表を示す。なお，本明細書では編集距離を用いて処理をする場合を説明するが，置換が挿入，削除よりも類似度が大きくなるよう定義された字列類似度評価であってもよい。
【０１１９】
そして，上記の最小の編集距離の商品名などの商品識別情報を求めた後，ＯＣＲ認識結果から商品名などの商品識別情報の該当部分を除いた文字列に対し，別に備える定格辞書（図示せず）に記憶する各定格との編集距離，メーカー名辞書（図示せず）に記憶する各メーカー名との編集距離をそれぞれ求める。たとえば図２４における「のどごし  生  ３５０ｍｌ」の例では，「３５０ｍｌ」の部分に対し，定格の辞書における「３５０ｍｌ」と編集距離０で一致し，定格部分の文字列であることを同定する。同様に，メーカー名についても編集距離を求め，最小の編集距離にある文字列をメーカー名であることを同定する。そしてＯＣＲ認識結果から定格部分，メーカー名部分の各文字列を取り除いて，取り除いた残りの文字列に対し，絞込情報記憶部２３における最短の編集距離にある文字列を求め，許容できる編集距離であるか否かを判定する。許容できる編集距離内であれば，商品名などの商品識別情報，メーカー名，定格を確定する。このような処理をすることで，商品名などの商品識別情報に定格，メーカー名が含まれる場合にも適切に確定をすることができる。なお，定格辞書とは，陳列棚に陳列される可能性のある商品の定格（容量など）を記憶する辞書である。メーカー名辞書とは，陳列棚に陳列される可能性のある商品のメーカー名を記憶する辞書である。
【０１２０】
商品タグ内情報特定処理部４５４による認識結果を最終的に利用者が判断，承認するため，認識結果の選択等の入力を受け付ける表示を行う際には，確定した文字列，未確定の文字列が特定可能な方法で表示が行われているとよい。たとえば確定した文字列と未確定の文字列との色を分ける，確定の文字列および／または未確定の文字列には確定または未確定を示す情報を付するなどがある。未確定の文字列については，最小の編集距離となった商品名などの商品識別情報が複数ある場合には，各商品識別情報を表示してもよい。
【０１２１】
商品タグ内情報特定処理部４５４におけるロジカルチェック（認識した情報の論理的整合性の判定処理）は以下のように行うことができる。たとえば価格領域として２つの価格を読み取った場合，一つは税抜価格，一つは税込価格となるが，税抜価格が税込価格よりも高くなっている場合には，それらを逆転して認識させる。また，税抜価格に消費税率を乗算して得た値が税込価格とは一致しない場合には，いずれかまたは双方に誤認識があるとする。さらに，商品名などの商品識別情報を認識した場合には，その商品または商品カテゴリの通常の価格帯に収まっているか，を判定する。また，商品名などの商品識別情報，メーカー名，定格の対応関係が一致しているかを判定してもよい。
【０１２２】
以上のように商品タグ内の情報の整合性を確認することで，撮影画像情報に写っている商品タグに含まれる情報を確定することができる。このように確定した情報は，たとえば表形式で出力をすることができる。
【０１２３】
つぎに本実施例における，検索対象情報絞込システム１によるＪＩＣＦＳのデータ集における商品名を絞り込んだ絞込情報記憶部２３（商品辞書）を作成する処理と，撮影画像情報から，絞込情報記憶部２３を参照して，撮影画像情報の陳列棚に写っている商品の商品名などの商品識別情報と，商品タグに記載されている商品名などの商品識別情報とを特定する処理の一例を，図３および図２６のフローチャートを用いて説明する。なお，以下の説明では，検索対象情報記憶部２０のデータ集として，ＪＩＣＦＳであり，絞込情報記憶部２３が商品辞書である。
【０１２４】
まず検索対象情報絞込システム１における処理を，図３のフローチャートを用いて説明する。
【０１２５】
検索処理部２１は，所定のタイミングで，検索対象情報記憶部２０であるＪＩＣＦＳのデータ集から，商品名（商品等の名称）とＪＡＮコード（商品等識別情報）とを抽出し，それらに基づいて，検索サーバ３またはウェブクローリングによりウェブ検索を行う（Ｓ１００）。そして検索処理部２１は，ウェブ検索の検索結果を取得し，一時的に記憶する（Ｓ１１０）。このウェブ検索を，ＪＩＣＦＳのすべての商品について行う。
【０１２６】
絞込情報処理部は，Ｓ１１０のウェブ検索の検索結果に基づいて，商品辞書から除外する商品を特定し，また商品辞書に登録する商品を特定する絞込処理を実行する（Ｓ１２０）。そして絞込処理をした商品の商品名，ＪＡＮコードなどを検索対象情報記憶部２０であるＪＩＣＦＳのデータ集から取得し，絞込情報記憶部２３である商品辞書に記憶させる（Ｓ１３０）。
【０１２７】
以上のように商品辞書に商品を登録することによって，画像認識システム４で陳列されている商品，商品タグに表記されている商品を特定する際に，不要な商品との比較をすることが不要にできる。
【０１２８】
つぎに画像認識システム４における処理を，図２６のフローチャートを用いて説明する。
【０１２９】
店舗の陳列棚が撮影された撮影画像情報は，撮影画像情報入力端末５から入力され，撮影画像情報入力受付処理部４０でその入力を受け付ける（Ｓ２００）。図１２に，撮影画像情報の一例を示す。また，撮影日時，店舗識別情報，撮影画像情報の画像情報識別情報の入力を受け付ける。そして，撮影画像情報入力受付処理部４０は，入力を受け付けた撮影画像情報，撮影日時，店舗識別情報，撮影画像情報の画像情報識別情報を対応づけて撮影画像情報記憶部４１に記憶させる。
【０１３０】
画像認識システム４において所定の操作入力を受け付けると，撮影画像情報正置化処理部４２は，撮影画像情報記憶部４１に記憶する撮影画像情報を抽出し，台形補正処理などの正置化処理を行うための頂点である棚位置（陳列棚の位置）の４点の入力を受け付け，正置化処理を実行する（Ｓ２１０）。このようにして正置化処理が実行された撮影画像情報（正置画像情報）の一例が，図１３である。
【０１３１】
そして，正置画像情報に対して，画像認識システム４において所定の操作入力を受け付けることで，位置特定処理部４３は，棚段位置領域および商品タグ配置領域を特定する（Ｓ２２０）。すなわち，正置画像情報における棚段領域，商品タグ配置領域の入力を受け付ける。図１４が，棚段領域および商品タグ配置領域が特定された状態を示す図である。
【０１３２】
以上のようにして，棚段領域，商品タグ配置領域を特定すると，棚段領域における陳列商品の認識処理を陳列商品認識処理部４４が，商品タグ配置領域における商品タグ認識処理を商品タグ認識処理部４５がそれぞれ実行する（Ｓ２３０，Ｓ２４０）。なお陳列商品認識処理部４４における陳列商品の認識処理，商品タグ認識処理部４５による商品タグ認識処理は，並行して行ってもよいし，異なるタイミングで行ってもよい。
【０１３３】
まず陳列商品認識処理部４４における商品の商品識別情報の認識処理を説明する。
【０１３４】
陳列商品認識処理部４４における棚段領域処理部４４１は，Ｓ２２０で入力を受け付けた棚段の領域に基づいて，正置画像情報から棚段領域の画像情報を切り出す。そして，棚段領域画像情報における棚段ごとに，プレイスを特定する処理を実行する。具体的には，棚段領域における棚段について，４点の座標で構成される矩形領域の範囲内において，商品と商品との間に生ずる細く狭い陰影を特定する，画像の繰り返しパターンを特定する，パッケージの上辺の段差を特定する，商品幅が同一であるなどの制約に基づいて区切り位置を特定する，などによって，プレイスを特定する。特定したプレイスには，プレイスを識別するためのプレイス識別情報を付す。そして，特定した各プレイスの座標は，撮影日時，店舗識別情報，撮影画像情報の画像情報識別情報，正置画像情報の画像情報識別情報，プレイスを識別するためのプレイス識別情報と対応付けて記憶させる。なお，プレイスの座標は４点を記憶せずとも，矩形領域を特定可能な２点であってもよい。
【０１３５】
以上のように正置画像情報の棚段位置領域画像情報における各棚段の各プレイスを特定すると，商品識別情報特定処理部４４３は，プレイスごとに，標本情報記憶部４６に記憶する標本情報とマッチング処理を実行し，そのプレイスに表示されている商品の商品識別情報を特定する。
【０１３６】
この際に，標本情報記憶部４６には，商品辞書に登録されている商品の標本情報のみが記憶されていてもよいが，商品辞書に登録されている商品以外の商品の標本情報もある場合には，以下のような処理を実行する。すなわち，商品識別情報特定処理部４４３は，商品辞書を参照し，そこに登録されている商品の商品名やＪＡＮコードなど，商品を識別可能な情報を抽出する。そして，抽出した情報に基づいて，対応する商品の標本情報を，標本情報記憶部４６から特定し，特定した標本情報を画像マッチング処理の対象とする商品の標本情報とする。これによって，流通実態を考慮した商品の標本情報とマッチング処理を実行でき，流通実態がない，またはほとんどない商品の標本情報とのマッチング処理を省略することができる。これによって，処理時間，処理負荷を減らし，また検索精度の低下を抑止することができる。
【０１３７】
そして商品識別情報特定処理部４４３は，プレイスごとに，マッチング処理の対象とした各商品の標本情報とマッチング処理を実行する。
【０１３８】
マッチング処理は，以下のように実行する。すなわち，ある棚段のプレイスの矩形領域（このプレイスの領域のプレイス識別情報をＸとする）における画像情報と，マッチング処理の対象とする商品の標本情報とから，それぞれの画像特徴量を算出し，特徴点のペアを求めることで，類似性を判定する。そして，もっとも類似性の高い標本情報を特定し，そのときの類似性があらかじめ定められた閾値以上であれば，その標本情報に対応する商品識別情報を標本情報記憶部４６に基づいて特定する。そして，特定した商品識別情報を，そのプレイス識別情報Ｘのプレイスに表示されている商品の商品識別情報とする。
【０１３９】
また，もっとも類似度が高い標本情報が複数あった場合，あらかじめ定められた閾値以上の類似度である標本情報が複数あった場合，検索処理部２１で取得したウェブ検索の検索結果，たとえばヒット数や，一定の日付以降のウェブサイトのヒット数に基づいて，検索結果に基づいて類似度を補正し，特定する標本情報の順位を変更してもよい。たとえばマッチング処理において，ある商品の類似度をｒ１としたとき，その商品の検索処理部２１で取得したウェブ検索の検索結果によるヒット数ｘに対する所定の関数ｆ（ｘ），たとえば単調増加する関数を用いて，補正した類似度ｒ２（＝ｒ１×ｆ（ｘ））を算出する。そして，補正した類似性ｒ２が大きい順にソートをし，１位のものを当該商品として表示をする。
【０１４０】
これを模式的に図２７に示す。図２７（ａ）は商品Ａ，商品Ｂ，商品Ｃ，商品Ｄがあった場合に，検索処理部２１で取得したウェブ検索の検索結果によるそれぞれの商品の出現頻度と，標本情報との類似度を示す表の一例である。たとえば図２７（ａ）では，検索処理部２１で取得したウェブ検索の検索結果による商品Ａ乃至商品Ｄのそれぞれの出現頻度が５０％，３０％，１０％，１０％，商品Ａを表示しているプレイスの矩形領域の画像情報と，商品Ａ乃至商品Ｄの各標本情報との類似度がそれぞれ５０％，３０％，１０％，１０％であることを示している。また，図２７（ｂ）では，類似度に出現頻度を乗算して正規化したものである。このように，出現頻度など，検索処理部２１での検索結果を用いて類似度の補正処理を行うことで，類似性の判定の精度を向上させることができる。また，出現頻度が一定の閾値以下の場合には，補正処理を行わないようにしてもよい。なお，検索処理部２１で取得したウェブ検索の検索結果を用いた類似度の補正処理にはさまざまな方法が適用でき，上述のほか，たとえば，ベイジアンネットワークにおける出現頻度（出現率）に基づいて類似度の補正処理を行うことなどもできる。また，画像のマッチング処理（類似性の判定）のほか，商品タグ認識処理部４５におけるＯＣＲ認識での認識結果に対して，検索処理部２１で取得したウェブ検索の検索結果を用いて補正処理を行うこともできる。
【０１４１】
いずれの標本情報とも類似ではないと判定したプレイスについては，そのプレイス識別情報について「空」であることを示す情報を付する。商品識別情報特定処理部４４３は，特定した商品識別情報または「空」であることを示す情報を，撮影日時，店舗識別情報，撮影画像情報の画像情報識別情報，正置画像情報の画像情報識別情報，プレイス識別情報に対応づけて商品識別情報記憶部４７に記憶する。
【０１４２】
なお，すべてのプレイスの商品識別情報を特定できるとは限らない。そこで，特定できていないプレイスについては，上述のように最初から「空」の情報を付するのではなく，商品識別情報の入力を受け付け，入力を受け付けた商品識別情報を，撮影日時，店舗識別情報，撮影画像情報の画像情報識別情報，正置画像情報の画像情報識別情報，プレイス識別情報に対応づけて商品識別情報記憶部４７に記憶する。また，特定した商品識別情報の修正処理についても同様に，入力を受け付けてもよい。また，修正処理の結果，「空」であることの入力を受け付けた場合には，「空」の情報を付してもよい。
【０１４３】
以上のような処理を行うことで，撮影画像情報に写っている陳列棚の棚段に陳列されている商品の商品識別情報を特定することができる。また，ＪＩＣＦＳに登録されているすべての商品の標本情報と比較するのではなく，流通実態を考慮して絞込をした商品が登録された商品辞書を用いて比較をしているので，比較対象を大幅に減らすことができる。そのため，処理時間，処理負荷を減らし，検索精度の低下も抑止することができる。
【０１４４】
つぎに商品タグ認識処理部４５における商品タグの情報を認識する処理を説明する。
【０１４５】
商品タグ認識処理部４５における商品タグ配置領域処理部４５１はＳ２２０で特定した商品タグ配置領域の画像情報を切り出し，商品タグ配置領域正置化処理部４５２が台形補正処理を実行することで，商品タグ配置領域の画像情報に対する正置化処理を実行する。
【０１４６】
商品タグ配置領域の画像情報に対する正置化処理としては，まず，商品タグ配置領域の画像情報においてエッジ検出を行う。そして，検出したエッジのうち，一定の長さ以上であって，垂直から所定範囲の角度内にある輪郭線を特定する。そして，特定した輪郭線のうち，もっとも左および右にある輪郭線を特定する。このように特定した輪郭線の一例を図１７に示す。そして，特定した輪郭線（図１７（ａ）のＬ１，Ｌ２，図１７（ｂ）のＬ３，Ｌ４）が，それぞれ垂直線となるように，商品タグ配置領域の画像情報に対する台形補正処理を実行する。このような処理を実行することで，商品タグ配置領域の画像情報を正置化し，図１６に示す正置化した商品タグ配置領域の画像情報を得られる。
【０１４７】
商品タグ配置領域の画像情報の正置化処理が終了すると，商品タグ特定処理部４５３が，第１の方法または第２の方法により，商品タグ配置領域の画像情報から，個々の商品タグ領域を特定する。
【０１４８】
第１の方法の場合には，正置化した商品タグ配置領域の画像情報のうち，画像情報の明度情報を横方向に積算したヒストグラムを生成し，ヒストグラムの立ち上がり，立ち下がり位置を特定する。そして，特定したヒストグラムの立ち上がりを商品タグの上辺位置Ａ，ヒストグラムの立ち下がり位置を商品タグの下辺位置Ｂとして特定する。
【０１４９】
つぎに，正置化した商品タグ配置領域の画像情報のうち，上辺位置Ａ，下辺位置Ｂの間を切り出し，正置化した商品タグ配置領域の画像情報の明度情報を縦方向に積算したヒストグラムを生成する。
【０１５０】
生成したヒストグラムにおいて立ち上がり位置Ｕ，立ち下がり位置Ｄを特定し，立ち上がり位置Ｕ（左辺位置）とその右の所定の距離範囲にある立ち下がり位置Ｄ（右辺位置）とをペアとして特定し，商品タグ領域として特定する。
【０１５１】
ペアを形成できなかった立ち上がり位置Ｕについてはその右側に，ペアを形成できなかった立ち下がり位置Ｄについてはその左側に，あらかじめ定めた距離内に商品タグ領域がなければ，商品タグ領域として特定をする。
【０１５２】
以上のような処理によって，それぞれの商品タグ領域を特定した状態が図２０である。
【０１５３】
また第２の方法を用いる場合には，商品タグ特定処理部４５３は，あらかじめ登録しているテンプレートの商品タグの画像情報と，正置化した商品タグ配置領域の画像情報との画像マッチング処理を実行することで，商品タグ領域を特定する。
【０１５４】
以上のようにして商品タグ特定処理部４５３が商品タグ領域を特定すると，商品タグ内情報特定処理部４５４が，商品タグ内における情報を特定する。
【０１５５】
商品タグ内情報特定処理部４５４における第１の方法は，特定した商品タグ領域について二値化処理することで，二値化した画像情報とする。そして，二値化した画像情報におけるラベリング処理により，ボックスを特定する。なお，あらかじめ定めた閾値となる高さ，幅を充足しない島はノイズとしてボックスを生成せず，そのまま処理対象から除去する。
【０１５６】
そして生成したボックスの高さ，幅，ベースラインを求め，ベースラインと高さが所定範囲内で一致し，高さおよび幅が一定の閾値の範囲内にある隣接するボックスを特定することで，特定したボックスを併合し，ブロックを構成する。そしてブロックのうち，高さがもっとも高いブロックを価格領域（税抜価格領域）と推定し，ＯＣＲ認識を行う。ＯＣＲ認識の結果，価格情報を得られなければ（数値の文字列を認識できなければ），高さが次に高いブロックを価格領域（税抜価格領域）と推定し，同様にＯＣＲ認識を行う。
【０１５７】
なお上述のＯＣＲ認識においては，価格に用いる「数字」，「コンマ」等の価格表示を構成する文字認識を制約条件として付加することで価格の読み取り精度を向上することができる。
【０１５８】
このように価格領域（税抜価格領域）と推定したブロックから価格情報をＯＣＲ認識により取得すると，価格領域（税抜価格領域）と推定して取得した価格情報以外のブロックを特定し，特定した各ブロックに対してＯＣＲ認識を行う。このＯＣＲ認識については，２種類のＯＣＲ認識処理を行うことが好ましい。すなわち，通常の標準的なＯＣＲ認識処理と，価格表示を構成する文字認識を制約条件として付加したＯＣＲ認識処理である。
【０１５９】
上述で特定したブロックには，価格領域（税込価格領域）のブロックと，メーカー名，商品名などの商品識別情報，定格などの情報の領域のブロックが含まれる。そして各ブロックについて２種類のＯＣＲ認識処理を実行する。メーカー名，商品名などの商品識別情報，定格などの情報の領域のブロックについては，標準的なＯＣＲ認識処理では文字列を認識し，制約条件を付したＯＣＲ認識処理では多くはエラーを含む文字列となる。この場合，２つの認識処理の認識結果が所定値以上相違するかを判定し，相違する場合には，標準的なＯＣＲ認識処理で実行した文字列を認識結果とし，価格領域（税込価格領域）のブロック以外のブロックであると判定する。一方，価格領域（税込価格領域）のブロックについては，標準的なＯＣＲ認識処理では価格情報の文字列を認識し，制約条件を付したＯＣＲ認識処理でも価格情報の文字列を認識する。この場合，２つの認識処理の認識結果が所定値以上相違するかを判定し，相違しない場合には，価格領域（税込価格領域）のブロックであると判定し，制約条件を付加した認識処理による文字列を認識結果の価格情報とする。
【０１６０】
以上のようにして商品タグ内情報特定処理部４５４は，商品タグに記載した情報を文字認識することができる。商品の陳列状況を判定するためには，商品の商品識別情報があれば足りるが，税抜価格，税込価格などほかの情報を認識することで，価格情報などについても，陳列状況に対応づけて管理することが可能となる。
【０１６１】
なお，商品タグ特定処理部４５３で第２の方法を用いた場合には，テンプレートとした商品タグには，あらかじめ税抜価格，税込価格，メーカー名，商品名などの商品識別情報，定格がそれぞれ表記される文字枠の位置，サイズが設定されている。そのため，商品タグ特定処理部４５３で特定した商品タグ領域から，該当箇所の画像情報を切り出し，ＯＣＲ認識処理を実行すればよい。
【０１６２】
そして商品タグ内情報特定処理部４５４は，特定した商品名との辞書照合処理を実行する。すなわち，読み取った文字列と，商品辞書における各商品名などの商品識別情報との編集距離を求め，最小の編集距離の商品名などの商品識別情報を特定し，それがあらかじめ定めた所定距離内であれば商品名などの商品識別情報として同定する。そして，読み取った文字列から最短の編集距離の商品名部分を取り除き，残りの部分文字列に対し，定格辞書における各定格との編集距離を求め，最小の編集距離が所定距離内であるかを判定して，所定距離内にあればその部分を定格の文字列として同定する。
【０１６３】
この際に，商品辞書には，流通実態を考慮した商品の情報が登録されているので，すでに流通実態のない商品については照合処理の対象とはならない。そのため，流通実態のないまたは流通実態がほとんどない商品の方が，実際に流通している商品よりも，編集距離などが近いことによる誤認識などを防止することができ，認識精度の低下を防止することができる。
【０１６４】
同様に，読み取った文字列から最小の編集距離の商品名部分と定格部分を取り除き，残りの部分文字列に対し，メーカー名辞書における各メーカー名との編集距離を求め，最小の編集距離が所定距離内であるかを判定して，所定距離内にあればその部分をメーカー名の文字列として同定する。なお，編集距離ではなく，ジャロ・ウィンクラー距離を用いる場合には，それに応じた処理を適宜実行すればよい。
【０１６５】
さらに，商品タグ内情報特定処理部４５４は，文字認識した文字列に対するロジカルチェックの処理を実行する。すなわち文字認識した文字列が論理的に矛盾しないか，などを判定する。
【０１６６】
ロジカルチェックの結果，矛盾がないようであれば，それぞれ認識した文字列について，税抜価格，税込価格，商品名などの商品識別情報，メーカー，定格を特定し，それらを，撮影日時，店舗識別情報，撮影画像情報の画像情報識別情報と対応づけて所定の記憶領域に記憶，出力をする。たとえば表形式で出力をする。
【０１６７】
以上のようにして，陳列商品認識処理部４４が棚段に陳列している商品の商品識別情報を，商品タグ認識処理部４５が商品タグの商品識別情報を認識することができる。
【０１６８】
このように，本実施例の処理を用いることによって，商品を網羅的に登録しているＪＩＣＦＳのデータ集から，流通実態を考慮した商品をあらかじめ絞り込んで登録をした商品辞書を用いて，画像認識システム４による処理を実行することができるので，テキスト認識処理，画像認識処理における処理時間，処理負荷を減らすことができる。また検索精度の低下も抑止することができる。
【０１６９】
なお，陳列商品認識処理部４４が認識した商品識別情報，商品タグ認識処理部４５が認識した商品識別情報に基づいて，商品辞書における商品をさらに絞込処理をしてもよい。すなわち，店舗の陳列棚に陳列されている商品は，ある程度，固定的であり，極端な変動は，通常はない。そのため，陳列商品認識処理部４４，商品タグ認識処理部４５が，前回の認識処理で認識した商品識別情報については，次回の認識においても，必要とされる可能性が高い。そこで，商品辞書に登録される商品について，陳列商品認識処理部４４，商品タグ認識処理部４５で認識した商品識別情報に基づいて，絞込処理を行ってもよい。
【０１７０】
この際に，陳列されている商品として，当該店舗のほかに，近隣の同種店舗での認識結果を用いてもよい。
【産業上の利用可能性】
【０１７１】
本発明の検索対象情報絞込システム１を用いて，データ集におけるすべての商品等を検索対象とするのではなく，商品等の流通実態を反映して検索対象となる商品等の絞込をしておくことによって，検索対象とする必要がない商品等との比較を行わずにすむことが可能となる。これによって，処理時間のロス，処理負荷の低減，検索精度の低下の抑止を図るとができる。
【符号の説明】
【０１７２】
１：検索対象情報絞込システム
２：管理端末
３：検索サーバ
４：画像認識システム
５：撮影画像情報入力端末
２０：検索対象情報記憶部
２１：検索処理部
２２：絞込処理部
２３：絞込情報記憶部
４０：撮影画像情報入力受付処理部
４１：撮影画像情報記憶部
４２：撮影画像情報正置化処理部
４３：位置特定処理部
４４：陳列商品認識処理部
４５：商品タグ認識処理部
４６：標本情報記憶部
４７：商品識別情報記憶部
７０：演算装置
７１：記憶装置
７２：表示装置
７３：入力装置
７４：通信装置
４４１：棚段領域処理部
４４２：プレイス特定処理部
４４３：商品識別情報特定処理部
４５１：商品タグ配置領域処理部
４５２：商品タグ配置領域正置化処理部
４５３：商品タグ特定処理部
４５４：商品タグ内情報特定処理部
【図１】
2019211869.tif 000003
【図２】
2019211869.tif 000004
【図３】
2019211869.tif 000005
【図４】
2019211869.tif 000006
【図５】
2019211869.tif 000007
【図６】
2019211869.tif 000008
【図７】
2019211869.tif 000009
【図８】
2019211869.tif 000010
【図９】
2019211869.tif 000011
【図１０】
2019211869.tif 000012
【図１１】
2019211869.tif 000013
【図１２】
2019211869.tif 000014
【図１３】
2019211869.tif 000015
【図１４】
2019211869.tif 000016
【図１５】
2019211869.tif 000017
【図１６】
2019211869.tif 000018
【図１７】
2019211869.tif 000019
【図１８】
2019211869.tif 000020
【図１９】
2019211869.tif 000021
【図２０】
2019211869.tif 000022
【図２１】
2019211869.tif 000023
【図２２】
2019211869.tif 000024
【図２３】
2019211869.tif 000025
【図２４】
2019211869.tif 000026
【図２５】
2019211869.tif 000027
【図２６】
2019211869.tif 000028
【図２７】
2019211869.tif 000029
【手続補正書】
【提出日】令和1年7月17日(2019.7.17)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
検索対象情報を絞り込むための検索対象情報絞込システムであって，
前記検索対象情報絞込システムは，
データ集における検索対象情報における，商品またはサービスである商品等の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部と，
前記検索結果を用いて，前記検索対象情報を絞り込む絞込処理部と，
を有することを特徴とする検索対象情報絞込システム。
【請求項２】
前記絞込処理部は，
前記検索対象情報について検索対象とすることを判定した場合，その検索対象情報を絞込情報として絞込情報記憶部に記憶する，または検索対象とすることを示す情報を付する，
ことを特徴とする請求項１に記載の検索対象情報絞込システム。
【請求項３】
前記絞込処理部は，
前記検索対象情報について検索対象から除外することを判定した場合，その検索対象情報を絞込情報としない，または検索対象から除外することを示す情報を付する，
ことを特徴とする請求項１または請求項２に記載の検索対象情報絞込システム。
【請求項４】
前記絞込処理部は，
前記検索対象情報について優先度を付するまたは優先度を変更する，
ことを特徴とする請求項１から請求項３のいずれかに記載の検索対象情報絞込システム。
【請求項５】
前記絞込処理部は，
前記検索結果のヒット数，出現頻度，またはウェブページの日付情報のうちいずれか一以上を用いることで，前記検索対象情報を絞り込む，
ことを特徴とする請求項１から請求項４のいずれかに記載の検索対象情報絞込システム。
【請求項６】
前記検索処理部は，
前記検索対象情報における前記商品等の名称と前記商品等の識別情報である商品等識別情報とに基づいて，ウェブ検索をし，その検索結果を受け付ける，
ことを特徴とする請求項１から請求項５のいずれかに記載の検索対象情報絞込システム。
【請求項７】
前記検索対象情報絞込システムは，
前記絞込処理部によって絞り込まれた検索対象情報について検索を行った検索結果に対し，前記検索処理部での検索結果を用いて補正処理を行う，
ことを特徴とする請求項１から請求項６のいずれかに記載の検索対象情報絞込システム。
【請求項８】
データ集における商品の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部と，
前記検索結果を用いて，検索対象となる商品を絞り込む絞込処理部と，
店舗の陳列棚を撮影した撮影画像情報の入力を受け付ける撮影画像情報入力受付処理部と，
前記撮影画像情報を用いて特定した商品タグの一部または全部の領域におけるＯＣＲ認識処理によるテキスト情報を，前記検索対象とした商品の商品名または商品識別情報と比較することで，前記陳列棚における商品タグに記載されている商品の名称または商品識別情報を特定する商品タグ認識処理部と，
を有することを特徴とする情報処理システム。
【請求項９】
前記商品タグ認識処理部は，さらに，
前記認識したテキスト情報と，前記検索対象とした商品名または商品識別情報との比較の際に，前記検索結果を用いた補正処理を行う，
ことを特徴とする請求項８に記載の情報処理システム。  
【請求項１０】
前記情報処理システムは，さらに，
前記撮影画像情報を用いて特定した領域の画像情報と，前記検索対象とした商品の標本情報とを比較することで，前記陳列棚に陳列されている商品の名称または商品識別情報を特定する陳列商品認識処理部，
を有することを特徴とする請求項８または請求項９に記載の情報処理システム。
【請求項１１】
データ集における商品の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部と，
前記検索結果を用いて，検索対象となる商品を絞り込む絞込処理部と，
店舗の陳列棚を撮影した撮影画像情報の入力を受け付ける撮影画像情報入力受付処理部と，
前記撮影画像情報を用いて特定した領域の画像情報と，前記検索対象とした商品の標本情報とを比較することで，前記陳列棚に陳列されている商品の名称または商品識別情報を特定する陳列商品認識処理部と，
を有することを特徴とする情報処理システム。
【請求項１２】
前記陳列商品認識処理部は，さらに，
前記特定した領域の画像情報と，前記検索対象とした商品の標本情報との比較の際に，前記検索結果を用いた補正処理を行う，
ことを特徴とする請求項１０または請求項１１に記載の情報処理システム。
【請求項１３】
コンピュータを，
所定の記憶領域に記憶した検索対象情報のデータ集における，商品またはサービスである商品等の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部，
前記検索結果を用いて，前記検索対象情報を絞り込む絞込処理部，
として機能させることを特徴とする検索対象情報絞込プログラム。
【請求項１４】
コンピュータを，
所定の記憶領域に記憶した商品のデータ集における商品の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部，
前記検索結果を用いて，検索対象となる商品を絞り込む絞込処理部，
店舗の陳列棚を撮影した撮影画像情報の入力を受け付ける撮影画像情報入力受付処理部，
前記撮影画像情報を用いて特定した商品タグの一部または全部の領域におけるＯＣＲ認識処理によるテキスト情報を，前記検索対象とした商品の商品名または商品識別情報と比較することで，前記陳列棚における商品タグに記載されている商品の名称または商品識別情報を特定する商品タグ認識処理部，
として機能させることを特徴とする情報処理プログラム。
【請求項１５】
コンピュータを，
所定の記憶領域に記憶した商品のデータ集における商品の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部，
前記検索結果を用いて，検索対象となる商品を絞り込む絞込処理部，
店舗の陳列棚を撮影した撮影画像情報の入力を受け付ける撮影画像情報入力受付処理部，
前記撮影画像情報を用いて特定した領域の画像情報と，前記検索対象とした商品の標本情報とを比較することで，前記陳列棚に陳列されている商品の名称または商品識別情報を特定する陳列商品認識処理部，
として機能させることを特徴とする情報処理プログラム。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】００１２
【補正方法】変更
【補正の内容】
【００１２】
請求項１に記載の発明は，検索対象情報を絞り込むための検索対象情報絞込システムであって，前記検索対象情報絞込システムは，データ集における検索対象情報における，商品またはサービスである商品等の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部と，前記検索結果を用いて，前記検索対象情報を絞り込む絞込処理部と，を有する検索対象情報絞込システムである。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】００２０
【補正方法】変更
【補正の内容】
【００２０】
上述の発明において，前記検索処理部は，前記検索対象情報における前記商品等の名称と前記商品等の識別情報である商品等識別情報とに基づいて，ウェブ検索をし，その検索結果を受け付ける，検索対象情報絞込システムのように構成することができる。
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】００３３
【補正方法】変更
【補正の内容】
【００３３】
請求項１に記載の発明は，本発明のプログラムをコンピュータに読み込ませて実行することで実現することができる。すなわち，コンピュータを，所定の記憶領域に記憶した検索対象情報のデータ集における，商品またはサービスである商品等の情報に基づいてウェブ検索をし，その検索結果を受け付ける検索処理部，前記検索結果を用いて，前記検索対象情報を絞り込む絞込処理部，として機能させる検索対象情報絞込プログラムのように構成することができる。