(57)【要約】【課題】取引対象の画像検索を容易にすること。【解決手段】本願に係る検索装置は、取引対象の特徴と当該取引対象が属するカテゴリとの間の関係性を学習した学習器を用いて、画像に撮影された取引対象が属するカテゴリを推定する推定部と、前記推定部により推定されたカテゴリの特徴量と、前記取引対象の特徴とを用いて、前記画像に撮影された取引対象に対応する取引対象を検索する検索部とを有することを特徴とする。【選択図】図１
2018190293.tif 000002
【特許請求の範囲】
【請求項１】
取引対象と当該取引対象が属するカテゴリとの間の関係性を学習した学習器を用いて、画像に撮影された取引対象が属するカテゴリを推定する推定部と、
前記推定部により推定されたカテゴリの特徴量と、前記取引対象の特徴とを用いて、前記画像に撮影された取引対象に対応する取引対象を検索する検索部と
を有することを特徴とする検索装置。
【請求項２】
前記推定部は、階層構造を有する複数のカテゴリのうち、所定のカテゴリから前記画像に撮影された取引対象が属するカテゴリまでの階層構造を示すカテゴリパスを推定し、
前記検索部は、推定されたカテゴリパスの特徴量と、前記取引対象の特徴量とを用いて、前記画像に撮影された取引対象に対応する取引対象を検索する
ことを特徴とする請求項１に記載の検索装置。
【請求項３】
前記画像から前記取引対象が撮影された範囲を抽出する抽出部と、
前記取引対象の特徴を示す特徴量として、前記抽出部により抽出された範囲の画像特徴量を取得する取得部と
を有し、
前記検索部は、前記推定部により推定されたカテゴリの特徴量と、前記取引対象の特徴量とを用いて、前記画像に撮影された取引対象に対応する取引対象を検索する
ことを特徴とする請求項１または２に記載の検索装置。
【請求項４】
前記検索部は、前記カテゴリの特徴量と前記取引対象の特徴量とを結合した結合特徴量を生成し、生成した結合特徴量を用いて、前記画像に撮影された取引対象に対応する取引対象を検索する
ことを特徴とする請求項１〜３のうちいずれか１つに記載の検索装置。
【請求項５】
前記検索部は、前記画像に撮影された取引対象に対応する取引対象として、当該画像に撮影された取引対象と類似する取引対象、または、当該画像に撮影された取引対象と所定の関連性を有する取引対象を検索する
ことを特徴とする請求項１〜４のうちいずれか１つに記載の検索装置。
【請求項６】
前記画像に含まれる特徴点を用いて前記画像に撮影された取引対象と対応する取引対象を検索できるか否かを判定する判定部
を有し、
前記検索部は、前記特徴点を用いて前記画像に撮影された取引対象と対応する取引対象を検索できると判定された場合は、前記画像に含まれる特徴点を用いて前記画像に撮影された取引対象と対応する取引対象を検索し、前記特徴点を用いて前記画像に撮影された取引対象と対応する取引対象を検索できないと判定された場合は、前記推定部により推定されたカテゴリの特徴量と、前記取引対象の特徴とを用いて、前記画像に撮影された取引対象に対応する取引対象を検索する
ことを特徴とする請求項１〜５のうちいずれか１つに記載の検索装置。
【請求項７】
撮影した画像に含まれる取引対象の画像を、当該取引対象を検索するための検索クエリを示す画像として、前記撮影した画像とともに表示する端末装置から、当該撮影された画像を受付ける受付部と、
前記推定部と、前記検索部とが前記受付部により受付けられた画像から検索した取引対象の画像を前記端末装置に提供する提供部と
を有することを特徴とする請求項１〜６のうちいずれか１つに記載の検索装置。
【請求項８】
検索装置が実行する検索方法であって、
取引対象の特徴と当該取引対象が属するカテゴリとの間の関係性を学習した学習器を用いて、画像に撮影された取引対象が属するカテゴリを推定する推定工程と、
前記推定工程により推定されたカテゴリの特徴量と、前記取引対象の特徴とを用いて、前記画像に撮影された取引対象に対応する取引対象を検索する検索工程と
を含むことを特徴とする検索方法。
【請求項９】
取引対象の特徴と当該取引対象が属するカテゴリとの間の関係性を学習した学習器を用いて、画像に撮影された取引対象が属するカテゴリを推定する推定手順と、
前記推定手順により推定されたカテゴリの特徴量と、前記取引対象の特徴とを用いて、前記画像に撮影された取引対象に対応する取引対象を検索する検索手順と
をコンピュータに実行させるための検索プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、検索装置、検索方法および検索プログラムに関する。
【背景技術】
【０００２】
従来、電子商取引の対象となる商品や役務等の取引対象を、階層構造を有する分類ツリーを用いて予め分類しておくことで、取引対象の検索を容易にする技術が知られている。このような技術の一例として、取引対象の画像と、取引対象が属する分類とを検索クエリとして、対応する取引対象を検索する技術が知られている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１３−２５０９２０号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、上述した従来技術では、検索対象となる取引対象が属する分類を指定する手間がかかるという問題がある。
【０００５】
一方で、ＣＮＮ（Convolutional  Neural  Network）等に取引対象が有する特徴と、取引対象の分類とを学習させ、類似画像検索により取引対象の画像から対応する取引対象を検索する手法が提案されている。しかしながら、このような技術では、検索精度の向上が困難な場合がある。
【０００６】
本願は、上記に鑑みてなされたものであって、取引対象の画像検索を容易にすることを目的とする。
【課題を解決するための手段】
【０００７】
本願に係る検索装置は、取引対象の特徴と当該取引対象が属するカテゴリとの間の関係性を学習した学習器を用いて、画像に撮影された取引対象が属するカテゴリを推定する推定部と、前記推定部により推定されたカテゴリの特徴量と、前記取引対象の特徴とを用いて、前記画像に撮影された取引対象に対応する取引対象を検索する検索部とを有することを特徴とする。
【発明の効果】
【０００８】
実施形態の一態様によれば、取引対象の画像検索を容易にすることができる。
【図面の簡単な説明】
【０００９】
【図１】図１は、実施形態に係る提供システムが実行する処理の一例を示す図である。
【図２】図２は、実施形態に係る端末装置が表示する画面の一例を説明する図である。
【図３】図３は、実施形態に係る情報提供装置が実行する検索処理の一例を示す図である。
【図４】図４は、実施形態に係る端末装置の構成例を示す図である。
【図５】図５は、実施形態に係る情報提供装置の構成例を示す図である。
【図６】図６は、実施形態に係る出品対象データベースに登録される情報の一例を示す図である。
【図７】図７は、実施形態に係るカテゴリデータベースに登録される情報の一例を示す図である。
【図８】図８は、実施形態に係るモデルデータベースに登録される情報の一例を示す図である。
【図９】図９は、実施形態に係る端末装置がクエリ情報を表示する態様の一例を示す図である。
【図１０】図１０は、実施形態に係る端末装置が実行する表示処理の流れの一例を示すフローチャートである。
【図１１】図１１は、実施形態に係る情報提供装置が実行する検索処理の流れの一例を示すフローチャートである。
【図１２】図１２は、ハードウェア構成の一例を示す図である。
【発明を実施するための形態】
【００１０】
以下に、本願に係る検索装置、検索方法および検索プログラムを実施するための形態（以下、「実施形態」と記載する。）について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る検索装置、検索方法および検索プログラムが限定されるものではない。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略する。
【００１１】
〔１．提供システムの概要〕
以下、図１を用いて、検索装置の一例となる情報提供装置１０と、表示装置の一例となる端末装置１００を有する提供システム１の一例について説明する。図１は、実施形態に係る提供システムが実行する処理の一例を示す図である。図１に示す例では、提供システム１は、情報提供装置１０および端末装置１００を有する。なお、以下の説明では、情報提供装置１０が実行する処理として、端末装置１００が撮影した静止画像または動画像（以下、「画像」と総称する。）に撮影された商品等の取引対象を所定の電子商店街で検索する検索処理の一例について説明する。また、以下の説明では、端末装置１００が実行する処理として、取引対象の画像を撮影すると、取引対象を電子商店街で検索するための検索クエリとして、取引対象の画像を複数表示する表示処理の一例について説明する。
【００１２】
情報提供装置１０は、インターネット等の所定のネットワークＮ（例えば、図４を参照。）を介して、端末装置１００と通信可能な情報処理装置であり、例えば、サーバ装置やクラウドシステム等により実現される。なお、情報提供装置１０は、ネットワークＮを介して、任意の数の端末装置１００と通信可能であってもよく、任意の数のＥＣサーバ２００と通信可能であってもよい。また、情報提供装置１０は、複数の情報処理装置が協調して以下に説明する検索処理を実行することで実現されてもよい。
【００１３】
端末装置１００は、任意の利用者が使用する情報処理装置であり、ＰＣ（Personal  Computer）、サーバ装置、スマートデバイスといった情報処理装置により実現される。例えば、端末装置１００は、デジタルカメラを有し、利用者の操作に従って画像を撮影する撮影機能と、撮影された画像や情報提供装置１０から提供される情報、ＥＣサーバ２００から提供される情報等、任意のコンテンツを表示する表示機能とを有する。なお、以下の説明では、以下に説明する表示処理を実行させるアプリケーションをインストールしたスマートフォンを端末装置１００の一例として説明する。
【００１４】
ＥＣサーバ２００は、端末装置１００に対し、電子商店街に関する各種のサービスを提供する情報処理装置であり、例えば、サーバ装置やクラウドシステム等により実現される。
【００１５】
〔１−１．表示処理の概要について〕
まず、端末装置１００が実行する表示処理の概要について説明する。従来、電子商店街に出品されている取引対象を、端末装置１００が撮影した画像を用いて検索する技術が知られている。しかしながら、従来技術では、画像から取引対象を認識した場合、取引対象を購入するためのウェブページを表示する。このため、利用者が撮影した画像に複数の取引対象が撮影されている場合、いずれかの取引対象を認識すると、認識した取引対象を購入するためのウェブページを表示してしまうので、利用者が所望する取引対象を認識するよりも先に他の取引対象を認識した場合には、利用者が所望しない取引対象を購入するためのウェブページを表示してしまう。
【００１６】
そこで、端末装置１００は、以下の表示処理を実行する。まず、端末装置１００は、所定の画像に含まれる取引対象の画像を取得する。そして、端末装置１００は、取引対象を電子商店街で検索するための検索クエリを示すクエリ情報として、取得された画像を、所定の画像と共に表示する。
【００１７】
例えば、端末装置１００は、利用者の操作に従って画像を撮影する。そして、端末装置１００は、撮影された画像に含まれる取引対象の画像を、取引対象を電子商店街で検索するための検索クエリを示すクエリ情報として、撮影した画像と共に表示する。例えば、端末装置１００は、画像に撮影された取引対象の画像であって、電子商店街に登録された取引対象の画像を検索する検索装置（すなわち、情報提供装置１０）に対して、撮影した画像を送信する。なお、端末装置１００は、撮影した画像から特徴量やカテゴリを特定し、特定した特徴量やカテゴリを情報提供装置１０へと送信してもよい。
【００１８】
一方、情報提供装置１０は、端末装置１００が撮影した画像を受付けると、受付けた画像に含まれる取引対象の画像を端末装置１００に提供し、その取引対象を電子商店街で検索するための検索クエリを示すクエリ候補として表示させる。例えば、情報提供装置１０は、端末装置１００が撮影した画像に含まれる取引対象を認識し、電子商店街に出品された取引対象のうち、認識した取引対象に対応する取引対象を検索する。例えば、情報提供装置１０は、認識した取引対象そのものや、サイズ違いの取引対象、同時に使用される取引対象等、認識した取引対象と関連する取引対象等を検索する。
【００１９】
そして、情報提供装置１０は、検索した取引対象の画像であって、電子商店街に登録された取引対象の画像と、電子商店街においてその取引対象を識別するための識別情報（例えば、ＪＡＮ（Japan  Article  Number）コード）を取得する。すなわち、情報提供装置１０は、電子商店街において異なる出品者が共通する取引対象を出品した場合に、それらの取引対象に対して共通で付与される識別情報を取得する。そして、情報提供装置１０は、取得した画像と識別情報とを端末装置１００へと送信する。
【００２０】
この結果、端末装置１００は、情報提供装置１０により検索された画像、すなわち、端末装置１００によって撮影された画像に含まれる取引対象の画像であって、電子商店街に登録された取引対象の画像と、取引対象の識別情報とを取得する。そして、端末装置１００は、取得した取引対象の画像を、撮影された画像とともに表示する。より具体的には、端末装置１００は、取得した取引対象の画像を、対応する識別情報を示すクエリ情報として表示する。なお、端末装置１００および情報提供装置１０は、上述した処理を画像に撮影された取引対象を識別する度に実行することで、クエリ情報を随時画面上に追加表示する。
【００２１】
そして、端末装置１００は、クエリ情報が選択された場合は、選択されたクエリ情報が示す検索クエリを用いて電子商店街の検索を行った検索結果を表示する。例えば、端末装置１００は、選択されたクエリ情報と対応する識別情報をＥＣサーバ２００へと送信することで、クエリ情報として表示された取引対象を電子商店街で検索した際の検索結果を表示する。
【００２２】
このように、端末装置１００は、撮影された画像から複数の取引対象が認識された場合は、認識された各取引対象の画像であって、電子商店街に登録されている各取引対象の画像を、撮影された画像とともに表示する。このため、端末装置１００は、画像に撮影された商品のうち、利用者が所望する取引対象の選択を受付けることができるので、画像を用いた取引対象の検索における操作性を向上させることができる。また、端末装置１００は、利用者がいずれかの画像を選択した場合は、選択された画像と対応する取引対象の検索結果を表示する。このため、端末装置１００は、画像に撮影された取引対象のうち、利用者が購入を所望する取引対象の検索結果を表示することができる。
【００２３】
〔１−２．検索処理の概要について〕
次に、情報提供装置１０が実行する検索処理の概要について説明する。上述したように、情報提供装置１０は、端末装置１００から受付けた画像に撮影された取引対象を認識し、認識した取引対象の画像であって、電子商店街に登録された取引対象の画像、すなわち、出品者により登録された取引対象の画像を検索し、検索した画像をクエリ情報として端末装置１００に送信する。
【００２４】
このような処理を実現するため、例えば、各種の画像認識技術を用いて、画像から取引対象が撮影された範囲を特定し、特定した範囲を検索クエリとする類似画像検索により取引対象を検索する手法が考えられる。しかしながら、このような類似画像検索では、検索精度があまり良くない場合がある。また、このような電子商店街における類似画像検索の精度を向上させるため、利用者から取引対象が属するカテゴリの指定を受付け、指定されたカテゴリに属する取引対象の中から、類似画像検索により、画像に撮影された取引対象の検索を行うといった手法が考えられる。しかしながら、このような手法では、利用者からカテゴリの指定を受付ける必要がある。
【００２５】
そこで、情報提供装置１０は、以下の検索処理を実行する。例えば、情報提供装置１０は、取引対象と取引対象が属するカテゴリとの間の関係性を学習した学習器を用いて、画像に撮影された取引対象が属するカテゴリを推定する。例えば、情報提供装置１０は、電子商店街に出品されている取引対象のカテゴリと、取引対象の画像として電子商店街に登録された画像との間の共起性を学習するように学習が行われたＣＮＮを学習器（以下、「カテゴリ推定モデル」と記載する。）として保持する。なお、情報提供装置１０は、取引対象の画像だけではなく、味、香り、印象等といった取引対象が有する各種の属性等といった取引対象が有する各種の特徴と、取引対象のカテゴリとの間の関係性を学習したＣＮＮをカテゴリ推定モデルとしてもよい。そして、情報提供装置１０は、取引対象の画像をカテゴリ推定モデルに入力し、取引対象が属するカテゴリを推定する。なお、カテゴリ推定モデルは、ＣＮＮ以外にも、例えば、取引対象の画像を入力した際に、その取引対象が属するカテゴリを出力するように、バックプロパゲーション等の各種学習手法により学習が行われたニューラルネットワーク等、各種の分類処理を実行する任意のモデルにより実現可能である。
【００２６】
ここで、電子商店街においては、木構造等の階層構造を有するカテゴリ分類が採用される場合がある。そこで、情報提供装置１０は、上述した学習器を用いて、階層構造を有するカテゴリの中から取引対象が属するカテゴリの推定を行う。このような推定は、例えば、所定の階層のカテゴリに属する取引対象の画像と、そのカテゴリとの間の共起性を学習した学習器により実現可能である。そして、情報提供装置１０は、最上位のカテゴリ、すなわち、ルートカテゴリから、推定されたカテゴリまでのカテゴリパスを特定する。
【００２７】
なお、情報提供装置１０は、カテゴリの階層構造において子ノードを有さない最下位の末端にあるカテゴリ、すなわち、リーフカテゴリ以外にも、任意の階層のカテゴリと、そのカテゴリに属する取引対象の画像との関係性を学習した学習器を用いて、取引対象が属するカテゴリの推定を行ってもよい。すなわち、情報提供装置１０は、ルートカテゴリ以外のカテゴリであれば、任意の階層に属するカテゴリの中から、取引対象が属するカテゴリの推定を行ってよい。
【００２８】
続いて、情報提供装置１０は、端末装置１００から受付けた画像に撮影された取引対象の特徴量を取得する。例えば、情報提供装置１０は、各種の画像認識技術を用いて、受付けた画像から取引対象が撮影された範囲を抽出し、抽出した範囲の画像特徴量を取得する。なお、このような画像特徴量の取得は、GIST（http://ilab.usc.edu/siagian/Research/Gist/Gist.html）、カラーヒストグラム、色分布などの広域特徴量やＳＩＦＴ（Scale-Invariant  Feature  Transform）、ＳＵＲＦ（Speed-Up  Robust  Features）、局所画像特徴量等、画像が有する特徴量を取得する任意の技術が採用可能である。なお、ニューラルネットで生成される特徴量も利用可能である。
【００２９】
また、情報提供装置１０は、推定されたカテゴリの特徴量（以下、「カテゴリ特徴量」と記載する。）を取得する。より具体的には、情報提供装置１０は、ルートカテゴリから推定したカテゴリまでのカテゴリパスが有する特徴を示す特徴量をカテゴリ特徴量として算出する。なお、このようなカテゴリ特徴量は、例えば、類似するカテゴリパス同士のカテゴリ特徴量が類似し、類似しないカテゴリパス同士のカテゴリ特徴量が類似しないように、各カテゴリパスの分散表現を学習し、学習した分散表現をカテゴリ特徴量とすることで実現可能である。なお、情報提供装置１０は、カテゴリパスの特徴を示すことができるのあれば、任意の特徴量算出技術により算出された特徴量をカテゴリ特徴量として採用してもよい。
【００３０】
そして、情報提供装置１０は、取得したカテゴリ特徴量と、画像特徴量とを用いて、画像に撮影された取引対象に対応する取引対象を、電子商店街に出品された取引対象の中から検索する。より具体的には、情報提供装置１０は、カテゴリ特徴量と画像特徴量とを結合した結合特徴量を生成し、生成した結合特徴量を用いて、画像に撮影された取引対象に対応する取引対象を検索する。
【００３１】
例えば、情報提供装置１０は、電子商店街に出品された取引対象ごとに、カテゴリ特徴量と画像特徴量とを結合した結合特徴量を算出し、保持する。そして、情報提供装置１０は、端末装置１００から受付けた画像から生成した結合特徴量と、保持した結合特徴量とを比較することで、撮影された取引対象と結合特徴量が類似する取引対象を、電子商店街に出品された取引対象から特定する。その後、情報提供装置１０は、特定した取引対象の画像と、識別情報とを端末装置１００に送信する。
【００３２】
このように、情報提供装置１０は、撮影された画像から、撮影された取引対象が属するカテゴリを推定するとともに、取引対象の画像特徴量を取得し、カテゴリ特徴量と画像特徴量とを用いて、画像に撮影された取引対象に対応する取引対象を電子商店街から検索する。そして、情報提供装置１０は、画像に含まれる取引対象の画像をクエリ情報として撮影した画像とともに表示する端末装置１００に対し、検索した取引対象の画像を提供する。このため、情報提供装置１０は、利用者に取引対象のカテゴリを指定させずとも、カテゴリを用いた取引対象の検索を行うことができるので、精度良く取引対象の画像検索を実現することができる。
【００３３】
〔１−３．提供システムにおける処理の一例について〕
続いて、図１を用いて、提供システム１における処理の流れの一例を説明する。なお、以下の説明では、電子商店街に出品された取引対象を「出品対象」と記載し、出品対象の画像、すなわち、電子商店街に登録された取引対象の画像を「出品画像」と記載し、端末装置１００が撮影した画像を「撮影画像」と記載する。
【００３４】
例えば、図１に示す例では、端末装置１００は、利用者の操作に従って、取引対象の画像を撮影する（ステップＳ１）。図１に示す例では、端末装置１００は、ワイン、カメラ、マグカップに入った珈琲、ティッシュペーパー、および缶ジュースを含む画像を撮影する。このような場合、端末装置１００は、撮影した取引対象の画像を情報提供装置１０に送信する（ステップＳ２）。
【００３５】
このような場合、情報提供装置１０は、撮影画像の中から取引対象が撮影された範囲を抽出する（ステップＳ３）。そして、情報提供装置１０は、各カテゴリに属する取引対象の特徴を学習した学習器を用いて、撮影画像から抽出した範囲に撮影された取引対象が属するカテゴリを推定し、推定したカテゴリのカテゴリパスを特定する（ステップＳ４）。また、情報提供装置１０は、取引対象が撮影された画像の特徴量、すなわち、画像特徴量を算出する（ステップＳ５）。
【００３６】
そして、情報提供装置１０は、推定したカテゴリパスのカテゴリ特徴量と、画像特徴量とを結合した結合特徴量を生成し（ステップＳ６）、結合特徴量に基づいて、撮影された取引対象を電子商店街から検索する（ステップＳ７）。そして、情報提供装置１０は、電子商店街から検索した取引対象の識別情報と出品画像とを端末装置１００に提供する（ステップＳ８）。
【００３７】
このような場合、端末装置１００は、出品画像を選択可能な状態で、撮影した画像とともに複数表示する（ステップＳ９）。例えば、図１に示す例では、端末装置１００は、画面上を、撮影画像ウインドウＣＷ、画像表示ウインドウＰＷ、および操作ウインドウＭＷに分割する。そして、端末装置１００は、撮影画像ウインドウＣＷに撮影画像を配置して表示するとともに、画像表示ウインドウＰＷに、情報提供装置１０から取得した出品画像をクエリ情報として並べて表示する。例えば、図１に示す例では、端末装置１００は、ステップＳ１にて撮影された取引対象である缶ジュースの出品画像、珈琲豆の出品画像、ワインの出品画像、およびティッシュの出品画像を並べて表示する。なお、端末装置１００は、各出品画像を、取引対象が認識される度に追加していってもよい。また、端末装置１００は、操作ウインドウＭＷに、画像の撮影に関する各種操作を受付けるためのアイコンを表示する。
【００３８】
また、端末装置１００は、画像表示ウインドウＰＷに並べて表示された出品画像を利用者が選択した場合は、出品画像が選択された取引対象の識別情報をＥＣサーバ２００に送信する（ステップＳ１０）。このような場合、ＥＣサーバ２００は、受信した識別情報が示す出品対象、すなわち、出品画像が選択された出品対象の検索結果を価格順にリスティングした検索結果を生成し、生成した検索結果を端末装置１００に提供する（ステップＳ１１）。
【００３９】
〔２．端末装置が実行する処理について〕
続いて、図２を用いて、端末装置１００における画面遷移の一例を説明する。図２は、実施形態に係る端末装置が表示する画面の一例を説明する図である。なお、図２に示す例では、端末装置１００が表示する画面の一例を第１状態から第７状態に分けて記載した。
【００４０】
例えば、端末装置１００は、表示処理を実行させるためのアプリケーションが起動された場合には、第１状態に示す画面を表示する。例えば、端末装置１００は、撮影画像ウインドウＣＷにカメラが撮影しているプレビュー画像を明度を低下させた状態で表示するとともに、画像表示ウインドウＰＷに「スキャンを開始してください」等といったメッセージを表示する。また、端末装置１００は、操作ウインドウＭＷ上に、履歴ボタンＨＢ、撮影ボタンＳＢ、およびカメラロールボタンＲＢを表示する。
【００４１】
一方、端末装置１００は、例えば、利用者が撮影ボタンＳＢを選択した場合には、第２状態に示すように、撮影中である旨を示す形状に変化させた撮影ボタンＳＢを表示するとともに、カメラが撮影する画像の撮影を開始する。そして、端末装置１００は、第２状態に示すように、撮影画像を撮影画像ウインドウＣＷに表示するとともに、撮影した画像を情報提供装置１０に順次送信する。
【００４２】
ここで、利用者が端末装置１００を移動させながら画像（動画像）を撮影したものとする。このような場合、端末装置１００は、撮影した画像を順次情報提供装置１０へと送信し、情報提供装置１０が認識した取引対象の出品画像を受付ける。すなわち、端末装置１００は、動画像から取引対象が認識される度に、認識された取引対象を電子商店街で検索するための検索クエリを示すクエリ情報として、認識された取引対象の画像を追加表示する。
【００４３】
例えば、情報提供装置１０が撮影画像から缶ジュースを認識し、缶ジュースの出品画像と識別情報とを端末装置１００に提供したものとする。このような場合、端末装置１００は、第２状態に示すように、情報提供装置１０から、缶ジュースの出品画像と識別情報とを受付けた場合は、受付けた缶ジュースの出品画像をクエリ情報Ｃ１として画像表示ウインドウＰＷに表示する。
【００４４】
また、情報提供装置１０は、撮影画像からマグカップに入った珈琲を認識する。このような場合、情報提供装置１０は、ＣＮＮを用いた画像検索により、マグカップに入った珈琲の画像から、出品対象となる珈琲豆の識別情報と出品画像とを提供する。例えば、情報提供装置１０は、マグカップに入った珈琲の画像から出品対象である珈琲豆との関係性を学習したＣＮＮを用いた画像検索により、出品対象となる珈琲豆の識別情報と出品画像とを提供する。このような場合、端末装置１００は、第３状態に示すように、マグカップに入った珈琲ではなく、珈琲豆の出品画像をクエリ情報Ｃ２として表示する。なお、情報提供装置１０は、マグカップそのものを認識し、出品対象となるマグカップの識別情報と出品画像とを提供してもよい。
【００４５】
また、情報提供装置１０は、ワインの出品画像と識別情報とを提供する。この結果、端末装置１００は、ワインの出品画像をクエリ情報Ｃ３として表示する。また、情報提供装置１０は、ティッシュペーパーの出品画像と識別情報とを提供する。この結果、端末装置１００は、ティッシュペーパーの出品画像をクエリ情報Ｃ４として表示する。このように、端末装置１００は、情報提供装置１０が撮影画像から認識した順に、取引対象の出品画像をクエリ情報として順に追加表示する。そして、端末装置１００は、画像表示ウインドウＰＷ上で、横方向のスクロール操作を受付けた場合は、順に追加表示したクエリ情報Ｃ１〜Ｃ４をスクロールさせる。なお、端末装置１００は、クエリ情報Ｃ１〜Ｃ４をカルーセル表示してもよい。
【００４６】
ここで、利用者が、珈琲豆のクエリ情報Ｃ２およびワインのクエリ情報Ｃ３を選択し、取引対象の検索を指示する操作を行ったものとする。このような場合、端末装置１００は、選択された複数のクエリ情報が示す複数の検索クエリを用いて電子商店街の検索を行なった検索結果を表示する。例えば、端末装置１００は、クエリ情報Ｃ２に対応する識別情報、すなわち、珈琲豆の識別情報と、クエリ情報Ｃ３に対応する識別情報、すなわち、ワインの識別情報とをＥＣサーバ２００に送信する。このような場合、ＥＣサーバ２００は、受付けた識別情報が付された出品対象を検索し、検索結果を端末装置１００へと送信する。
【００４７】
この結果、端末装置１００は、第４状態に示すように、電子商店街における取引対象の検索結果であって、撮影した取引対象のうち、利用者が所望する取引対象である珈琲豆とワインの検索結果を表示することができる。例えば、端末装置１００は、電子商店街に出品された珈琲豆とワインとを安価な順に並べた検索結果を表示する。
【００４８】
そして、端末装置１００は、検索結果の中から利用者がいずれかの出品対象を選択した場合は、出品対象を販売するコンテンツをＥＣサーバ２００から取得し、第５状態に示すように、取得したコンテンツを表示する。この結果、端末装置１００は、画像を用いた取引対象の購入を適切に補助することができる。
【００４９】
ここで、第１状態に示す場合に、利用者がカメラロールボタンＲＢを選択した場合は、端末装置１００は、第６状態に示す様に、端末装置１００が過去に撮影した画像を並べた、所謂カメラロールＣＲと、検索ボタンＤＢとを表示する。すなわち、端末装置１００は、端末装置１００が所定の記憶領域に保持する画像を並べて表示する。そして、例えば、端末装置１００は、利用者がカメラロールＣＲ上からいずれかの画像を選択し、検索ボタンＤＢを選択した場合は、選択した画像を情報提供装置１０へと送信することで、選択した画像に撮影された取引対象の出品画像と識別情報とを取得する。
【００５０】
そして、端末装置１００は、第３状態に示すように、選択された画像を撮影画像ウインドウＣＷに表示するとともに、取得した出品画像をクエリ情報として表示する。すなわち、端末装置１００は、カメラロールボタンＲＢが選択された場合は、過去に撮影された画像を並べて表示し、表示された画像を利用者が選択した場合は、選択された画像に含まれる取引対象の画像を、クエリ情報として複数表示する。
【００５１】
また、端末装置１００は、第１状態に示す場合に、利用者が履歴ボタンＨＢを選択した場合には、第７状態に示すように、利用者が過去に購入した取引対象の出品画像や価格等を履歴として表示する。そして、端末装置１００は、履歴として表示された出品画像のうち、いずれかの出品画像を選択した場合は、第５状態に示すように、選択された出品画像と対応する出品対象を販売するコンテンツをＥＣサーバ２００から取得して表示する。
【００５２】
〔３．情報提供装置が実行する処理の一例について〕
続いて、図３を用いて、情報提供装置１０が実行する検索処理の一例を説明する。図３は、実施形態に係る情報提供装置が実行する検索処理の一例を示す図である。例えば、情報提供装置１０は、出品対象に関する各種の情報が格納された出品対象データベース３１を保持する。出品対象データベース３１には、出品対象である取引対象を識別する出品対象ＩＤ（Identifier）、カテゴリパス、出品画像、識別情報、結合特徴量、および出品情報等といった情報が登録されている。
【００５３】
情報提供装置１０は、このような出品対象データベース３１に登録された情報を用いて、同一のカテゴリに属する取引対象を選択し、選択した取引対象の結合特徴量が有する特徴量を学習器であるＣＮＮに学習させる（ステップＳ１）。すなわち、情報提供装置１０は、カテゴリとそのカテゴリに属する出品対象との共起性をＣＮＮに学習させる。
【００５４】
なお、上述したＣＮＮの学習については、以下に説明する検索処理の前段階として実行されればよい。また、情報提供装置１０は、ＣＮＮの学習を自装置で実行する必要はなく、例えば、所定の学習装置によって学習が行われたＣＮＮを用いて、以下に説明する検索処理を実行してもよい。
【００５５】
続いて、情報提供装置１０は、撮影画像を端末装置１００から受付ける（ステップＳ２）。このような場合、情報提供装置１０は、撮影画像にバーコードが含まれているか否かを判定し（ステップＳ３）、バーコードが含まれている場合は、かかるバーコードと対応する取引対象の識別情報と出品画像とを端末装置１００に提供する（ステップＳ４）。
【００５６】
また、情報提供装置１０は、撮影画像からバーコードが撮影されていなかった取引対象を認識し（ステップＳ５）、認識した取引対象が撮影された範囲を対象画像として抽出する（ステップＳ６）。そして、情報提供装置１０は、対象画像をＣＮＮに入力し、リーフカテゴリを推定する（ステップＳ７）。また、情報提供装置１０は、推定したリーフカテゴリまでのカテゴリパスを取得する（ステップＳ８）。そして、情報提供装置１０は、取得したカテゴリパスの特徴量、すなわち、カテゴリ特徴量を取得する（ステップＳ９）。
【００５７】
また、情報提供装置１０は、対象画像の画像特徴量を取得し（ステップＳ１０）、カテゴリ特徴量と画像特徴量とを結合した結合特徴量を生成する（ステップＳ１１）。そして、情報提供装置１０は、結合特徴量を用いて、撮影された取引対象と対応する出品対象の検索を行い（ステップＳ１２）、検索した出品対象の識別情報と出品画像とを取得する（ステップＳ１３）。その後、情報提供装置１０は、識別情報と出品画像とを端末装置１００に提供する（ステップＳ１４）。
【００５８】
なお、情報提供装置１０は、端末装置１００からストリーミング送信された画像から、取引対象を認識する度に、ステップＳ６〜ステップＳ１３に示す処理を実行することで、撮影された取引対象の出品画像と識別情報とを端末装置１００に随時提供することとなる。
【００５９】
〔４．処理のバリエーションについて〕
続いて、情報提供装置１０および端末装置１００が実行する処理のバリエーションの一例について説明する。
【００６０】
〔４−１．検索について〕
上述した例では、端末装置１００は、電子商店街に出品された出品対象のうち、撮影された取引対象と同じ出品対象の出品画像を、その出品対象を検索するためのクエリ情報として表示した。しかしながら、実施形態は、これに限定されるものではない。例えば、端末装置１００は、撮影された画像に含まれる取引対象の画像を、その取引対象およびその取引対象と関連する他の取引対象を電子商店街で検索するための検索クエリを示すクエリ情報として表示してもよい。例えば、端末装置１００は、撮影された取引対象と類似する出品対象を検索するためのクエリ情報を表示してもよい。また、端末装置１００は、撮影された画像に含まれる取引対象と関連する他の取引対象の画像を、他の取引対象を電子商店街で検索するための検索クエリを示すクエリ情報として表示してもよい。
【００６１】
より具体的な例を挙げると、端末装置１００は、缶ジュースが撮影された場合は、容量が同じ缶ジュースだけではなく、内容物が同じであって、容量が異なる缶ジュースやペットボトルに入れられたジュースを検索するためのクエリ情報を表示してもよい。このようなクエリ情報は、検索対象となる出品対象ごとに異なる画像であってもよく、例えば、ある１つのクエリ情報に、類似する複数の出品対象を検索するための複数の識別情報を対応付けることで実現してもよい。
【００６２】
このような表示を行う場合、情報提供装置１０は、画像に撮影された取引対象に対応する出品対象として、画像に撮影された取引対象と類似する出品対象、または、画像に撮影された取引対象と所定の関連性を有する出品対象を検索することとなる。例えば、情報提供装置１０は、上述した検索処理を実行することで、缶ジュースが撮影された画像から、撮影された缶ジュースと同一の出品対象を特定し、特定した出品対象の識別情報を取得する。また、情報提供装置１０は、取得した識別情報を用いて、撮影された缶ジュースと類似する他の出品対象（例えば、内容物が同じで容量が異なる出品対象や容器が異なる出品対象等）の識別情報を取得する。
【００６３】
そして、情報提供装置１０は、撮影された缶ジュースと同一の出品対象の出品画像と、取得した複数の識別情報とを対応付けて端末装置１００へと送信する。このような場合、端末装置１００は、受付けた出品画像をクエリ情報として表示するとともに、そのクエリ情報が選択された場合は、出品画像が示す出品対象のみならず、その出品対象と類似する他の出品対象を含む検索結果を表示することとなる。
【００６４】
また、端末装置１００は、クエリ情報が示す取引対象そのもの以外にも、クエリ情報が示す取引対象と関連する取引対象の検索結果を表示してもよい。例えば、一般的なプリンタは、インクやトナーがプリンタ内部に設置されているため、画像検索によりインクやトナーを購入する場合は、プリンタのカバー等を取り外して、写真を撮影する必要がある。そこで、端末装置１００は、プリンタが撮影された場合は、プリンタ本体を検索するためのクエリ情報のみならず、そのプリンタで使用されるインクやトナー等を検索するクエリ情報を表示する。
【００６５】
例えば、端末装置１００は、プリンタが撮影された画像を情報提供装置１０へと送信する。このような場合、情報提供装置１０は、撮影されたプリンタの識別情報を取得し、取得した識別情報から、撮影されたプリンタで使用されるインクやトナー等、撮影されたプリンタと関連する他の出品対象を特定し、特定した出品対象の識別情報を取得する。そして、情報提供装置１０は、撮影されたプリンタの出品画像と、取得した複数の識別情報とを対応付けて端末装置１００に提供してもよい。
【００６６】
また、情報提供装置１０は、プリンタ、インク、トナー等、特定した出品対象ごとに出品画像と識別情報との組を端末装置１００に提供してもよい。このような場合、情報提供装置１０は、プリンタを撮影した場合に、プリンタそのものを検索するためのクエリ情報のみならず、撮影されたプリンタで使用するインクやトナーを検索するためのクエリ情報をも表示することができる。なお、情報提供装置１０は、撮影されたプリンタのマニュアル等を特定し、特定したマニュアルの識別情報を提供してもよい。
【００６７】
なお、検索結果の表示順序については、任意の順序が採用可能である。例えば、端末装置１００は、選択されたクエリ情報と対応する識別情報が付与された出品対象を、価格順に並べた検索結果を表示してもよく、利用者の属性に応じた順序で並べた検索結果を表示してもよい。また、端末装置１００は、例えば、販売数順、閲覧数順、人気順、各出品者が電子商店街に対して提供する報酬（例えば、広告額）の順等、任意の順序で並び替えが行われた検索結果を表示して良い。また、端末装置１００は、飲食料に属する出品対象を、カロリーの順に並べて表示してもよい。また、端末装置１００は、検索結果として、若しくは、検索結果中に、各出品対象に対するレビューの文面を合わせて表示してもよい。
【００６８】
また、端末装置１００は、複数のクエリ情報が選択された場合は、選択されたクエリ情報と対応する識別情報ごとに、出品対象の検索を行ってもよく、例えば、選択されたクエリ情報と対応する取引対象がセット商品となっている出品対象の検索を行ってもよい。より具体的な例を挙げると、端末装置１００は、珈琲豆を示すクエリ情報と、ワインを示すクエリ情報とが選択された場合は、珈琲豆とワインとのセット商品を検索してもよい。
【００６９】
また、端末装置１００は、選択された複数のクエリ情報と対応する出品対象をそれぞれ購入した場合に、最安値となるように、出品対象の検索結果を表示してもよい。例えば、端末装置１００は、珈琲豆を示すクエリ情報と、ワインを示すクエリ情報とが選択された場合は、珈琲豆とワインとをそれぞれ購入した際に、送料を含めて最安値となる出品対象の組み合わせを検索する。
【００７０】
例えば、Ａ店で珈琲豆が「５００円」で販売されており、Ｂ店で珈琲豆が「７００円」、ワインが「１０００円」で販売されているものとする。また、購入物品や数に係わらず、Ａ店での送料は「４００円」であり、Ｂ店での送料は「６００円」であるものとする。このような場合、珈琲豆をＡ店で購入し、ワインをＢ店で購入した場合、送料がそれぞれにかかるため、合計金額は、「２５００円」となる。一方、珈琲豆とワインとをＢ店で購入した場合、送料が「６００円」で済むため、合計金額は「２３００円」となる。このような場合、端末装置１００は、検索結果として、Ｂ店の珈琲豆およびワインを表示してもよい。
【００７１】
〔４−２．クエリ情報の表示形式について〕
上述した例では、端末装置１００は、図２に示す表示態様で、クエリ情報の表示を行った。しかしながら、実施形態は、これに限定されるものではない。例えば、端末装置１００は、撮影された取引対象の出品画像をクエリ情報として表示するのであれば、任意の画面レイアウトにおける任意の位置にクエリ情報を表示して良い。
【００７２】
また、例えば、端末装置１００は、撮影された取引対象のうちどの取引対象と対応するクエリ情報であるかを示す情報を表示してもよい。例えば、端末装置１００は、受信した出品画像と対応する取引対象が撮影された範囲を囲むアイコンを撮影画像ウインドウＣＷに表示してもよい。また、例えば、端末装置１００は、利用者がクエリ情報を選択した際に、選択したクエリ情報と対応する取引対象が撮影された範囲を囲むアイコンを表示してもよい。このような処理は、例えば、情報提供装置１０が、出品画像と識別情報との組とともに、端末装置１００が撮影した画像のうち、その識別情報が示す取引対象が撮影された範囲を示す範囲情報を端末装置１００へと通知することで、実現可能である。
【００７３】
また、端末装置１００は、出品画像を受信した場合は、撮影された画像のうち、受信した出品画像と対応する取引対象が撮影された範囲に受信した出品画像を重ねて表示し、その後、出品画像が画像表示ウインドウＰＷに落ちていくといった対応で、クエリ情報の表示を行ってもよい。このように、端末装置１００は、撮影された取引対象のうちどの取引対象と対応するクエリ情報であるかを示す情報を表示することで、操作性をさらに向上させることができる。
【００７４】
なお、端末装置１００は、取引対象の画像を撮影する際に、クエリ情報と共に、クエリ情報若しくはクエリ情報が示す検索クエリに関する情報であって、電子商店街に登録された情報を合わせて表示してもよい。例えば、情報提供装置１０は、取引対象の画像（すなわち、クエリ情報）と、対応する識別情報と共に、識別情報が示す取引対象の販売価格であって、最も安い販売価格を端末装置１００へと送信する。このような場合、端末装置１００は、クエリ情報として、取引対象の画像を表示するとともに、かかる画像に情報提供装置１０から受付けた販売価格を示す数値を重ねて表示してもよい。このような表示を行うことで、端末装置１００は、クエリ情報に電子商店街における最安値を重ねて表示することができる。
【００７５】
なお、端末装置１００は、撮影画像から抽出された画像に、電子商店街における最安値を重ねて表示してもよい。また、端末装置１００は、販売対象となる取引対象のうち、販売数が最も多い店舗における取引対象の販売価格、閲覧数が最も多い店舗における取引対象の販売価格、人気が最も多い取引対象の販売価格、利用者の属性に応じて選択された取引対象の販売価格等、任意の基準で選択された取引対象の販売価格をクエリ情報と重ねて表示してもよい。また、端末装置１０は、クエリ情報と、販売価格とを並べて表示してもよく、送料、取引対象を販売する店舗の名称、店舗や出品対象に対する評価やレビュー等、電子商店街に登録された各種の情報のうち、販売価格以外の情報を表示してもよい。
【００７６】
〔４−３．履歴の表示形式について〕
ここで、端末装置１００は、クエリ情報として取得した画像の履歴（以下、「履歴画像」と記載する）を表示する際に、任意の形式で表示を行ってよい。例えば、端末装置１００は、画像を撮影した結果、出品画像をクエリ情報として受信した際、または、カメラロールＣＲから過去に画像が選択され、出品画像をクエリ情報として受信した場合は、撮影した画像や選択された画像と、受信したクエリ情報とを対応付けて記憶しておく。そして、端末装置１００は、カメラロールＣＲから画像が選択された場合は、選択された画像と対応付けて記憶されたクエリ情報を表示してもよい。すなわち、端末装置１００は、過去に撮影された画像が選択された場合は、履歴画像として、選択された画像に含まれる複数の取引対象の画像の組をクエリ情報として表示してもよい。
【００７７】
また、端末装置１００は、履歴画像として、過去にクエリ情報として受信した出品画像を、時系列順に並べて表示してもよい。また、端末装置１００は、履歴画像として、過去に服襟情報として受信した出品画像のうち、利用者が過去にクエリ情報として選択した回数、利用者が対応する出品対象を購入した回数、利用者が対応する出品対象を閲覧した回数等、利用者が過去に撮影した取引対象を容易に検索することができるのであれば、任意の順序でクエリ情報の履歴を表示してもよい。
【００７８】
ここで、過去に撮影した動画像から、利用者が所望する取引対象が撮影された範囲を検索するのは、手間がかかると考えられる。そこで、端末装置１００は、過去に撮影した動画像から生成されたパノラマ写真と、動画像に含まれる複数の取引対象を検索するためのクエリ情報との組を表示してもよい。例えば、情報提供装置１０は、動画像を受信すると、受信した動画像から取引対象の認識等を行うとともに、動画像から横長のパノラマ写真を生成する。このようなパノラマ写真の生成は、動画像から横長の写真を生成する任意の技術が採用可能である。なお、情報提供装置１０は、動画像のうち、取引対象が認識された範囲のみを繋げたパノラマ写真を生成してもよい。そして、情報提供装置１０は、生成したパノラマ写真と、クエリ情報となる出品画像を端末装置１００に送信する。
【００７９】
このような場合、端末装置１００は、パノラマ写真とクエリ情報とを対応付けて記憶する。また、端末装置１００は、カメラロールＣＲからパノラマ写真が選択された場合は、パノラマ写真の一部を撮影画像ウインドウＣＷに配置して表示するとともに、パノラマ写真のうち、撮影画像ウインドウＣＷ上に表示されている範囲に撮影されている取引対象のクエリ情報を表示する。そして、端末装置１００は、パノラマ写真に対するスクロール操作が行われた場合は、パノラマ写真をスクロールさせるとともに、画像表示ウインドウＰＷに表示されるクエリ情報を、撮影画像ウインドウＣＷ上に表示されている範囲に撮影されている取引対象のクエリ情報に順次切り替える。このような処理を実行することで、端末装置１００は、動画像から利用者が所望する取引対象を探す際の操作性を向上させることができる。
【００８０】
なお、例えば、端末装置１００は、撮影画像ウインドウＣＷに表示された画像の拡大や縮小に応じて、表示されるクエリ情報を変更してもよい。すなわち、端末装置１００は、画像全体に撮影されている取引対象のクエリ情報のうち、画面上に表示されている取引対象のクエリ情報のみを表示してもよい。
【００８１】
〔４−４．クエリ情報として表示される画像について〕
上述した例では、端末装置１００は、撮影された取引対象の画像であって、電子商店街に登録された画像である出品画像をクエリ情報として表示した。しかしながら、実施形態は、これに限定されるものではない。例えば、情報提供装置１０は、撮影された取引対象を検索するための識別情報と、撮影された画像から抽出した取引対象の画像とを端末装置１００に提供してもよい。このような場合、情報提供装置１０は、撮影された画像から抽出された取引対象の画像そのものをクエリ情報として表示することとなる。
【００８２】
なお、端末装置１００は、各種の画像認識技術を用いて、撮影された画像から取引対象の画像を抽出し、抽出した画像を情報提供装置１０へと送信する。このような場合、情報提供装置１０は、受信した画像から取引対象の識別情報を特定し、特定した識別情報を端末装置１００へと送信する。このような場合、端末装置１００は、抽出した画像をクエリ情報として表示し、表示されたクエリ情報が選択された場合は、情報提供装置１０から受信した識別情報を用いて、電子商店街における検索結果を表示してもよい。
【００８３】
〔４−５．情報提供装置が実行する処理について〕
ここで、情報提供装置１０は、撮影された全ての取引対象について、上述した検索処理を実行する必要はない。例えば、情報提供装置１０は、図３に示すように、取引対象に付与されたバーコードを識別することができる場合は、識別したバーコードを用いて、撮影された取引対象と同一の出品対象を特定し、特定した出品対象の出品画像や識別情報を提供してもよい。
【００８４】
また、情報提供装置１０は、上述した検索処理を、出品対象が属するカテゴリごとに段階的に実行してもよい。例えば、情報提供装置１０は、全カテゴリを、最上位カテゴリが共通する複数のカテゴリ群に分割する。具体的な例を挙げると、情報提供装置１０は、ファッションに属するカテゴリ群、飲食料に属するカテゴリ群、パソコン機器に属するカテゴリ群等に分割する。また、情報提供装置１０は、カテゴリ群ごとに、そのカテゴリ群のリーフカテゴリと、そのリーフカテゴリに属する出品情報の結合特徴量との関係を学習させたＣＮＮを保持する。
【００８５】
そして、情報提供装置１０は、撮影された取引対象の画像から、取引対象がどのカテゴリ群に属する取引対象であるかを推定し、推定したカテゴリ群に対応するＣＮＮを用いて、取引対象が属するリーフカテゴリを特定してもよい。なお、取引対象がどのカテゴリ群に属するかを推定する際は、任意の分類技術が採用可能である。
【００８６】
また、例えば、情報提供装置１０は、ファッションに属するカテゴリ群と対応するＣＮＮを用いて、取引対象がファッションに属するか否かを判定し、取引対象がファッションに属さないと判定された場合は、飲食料に属するカテゴリ群と対応するＣＮＮを用いて、取引対象が飲食料に属するか否かを判定してもよい。すなわち、情報提供装置１０は、取引対象が属するカテゴリを段階的に推定してもよい。例えば、情報提供装置１０は、あるカテゴリ群と対応するＣＮＮに取引対象の画像を入力した際に、各リーフカテゴリに属する確度が所定の閾値を下回る場合は、そのカテゴリ群に取引対象が属していないと判定してもよい。また、情報提供装置１０は、取引対象の画像特徴量を取得する際、カテゴリ群ごとに学習を行ったＣＮＮ等の学習器を用いて、取引対象の画像特徴量を取得してもよい。
【００８７】
また、画像に含まれる特徴点の共通性に基づいて、撮影された取引対象と同一又は関連する取引対象を検索する技術が知られている。例えば、隣接する画素間の色彩の差等に基づいて、画像に含まれる境界を特徴点として特定し、特定した特徴点同士の位置関係等の共通性に基づいて、撮影された取引対象と同一又は関連する取引対象を検索する技術が知られている。そこで、情報提供装置１０は、上述した検索処理に先駆けて、特徴点を用いた出品対象の検索を行えるか否かを判定し、特徴点を用いた出品対象の適切な検索を行える場合は、特徴点を用いて出品対象の検索を行い、特徴点を用いて出品対象の適切な検索を行えないと判定した場合は、ＣＮＮを用いたリーフカテゴリの推定等、上述した検索処理を実行してもよい。
【００８８】
例えば、情報提供装置１０は、撮影画像に含まれる特徴点を用いて、撮影された取引対象と対応する出品対象を検索できるか否かを判定する。例えば、情報提供装置１０は、特徴点を用いた出品対象の検索を適切に行えた画像の特徴や、特徴点を用いた出品対象の検索が適切に行えなかった画像の特徴を学習したＣＮＮを用いて、撮影画像が特徴点を用いた出品画像の検索に適しているか否かを判定する。
【００８９】
そして、情報提供装置１０は、特徴点を用いた出品対象の検索が適切に行えると判定した場合は、特徴点を用いて、撮影された取引対象と対応する出品対象の検索を行う。一方、情報提供装置１０は、特徴点を用いた出品対象の検索が適切に行えないと判定した場合は、取引対象の結合特徴量を生成し、生成した結合特徴量を用いて、出品対象の検索を行ってもよい。また、例えば、情報提供装置１０は、特徴点を用いた出品対象の検索を実行し、所定の確度算出技術を用いて検索結果の確度を算出し、算出した確度が所定の閾値を下回る場合は、上述した検索処理を実行してもよい。
【００９０】
〔４−６．結合特徴量について〕
上述した情報提供装置１０は、カテゴリ特徴量と画像特徴量とを結合した結合特徴量を用いて、出品対象の検索を実行した。ここで、情報提供装置１０は、カテゴリ特徴量と画像特徴量とを総合的に用いるのであれば、任意の手法で出品対象の検索を実行してもよい。
【００９１】
例えば、特徴量同士の比較処理は、ユークリッド距離やマンハッタン距離等といった所定の距離関数の値（すなわち、特徴量空間における距離）や、コサイン類似度等といった特徴量空間における向きの比較によって実現可能である。ここで、情報提供装置１０は、カテゴリ特徴量同士の比較結果と、画像特徴量同士の比較結果とを総合的に用いて、出品対象の検索を実行してもよい。
【００９２】
また、例えば、情報提供装置１０は、カテゴリ特徴量と画像特徴量とを単純に結合した結合特徴量を生成してもよい。例えば、情報提供装置１０は、カテゴリ特徴量の値を上位の値とし、画像特徴量の値を下位の値とする結合特徴量を生成し、生成した結合特徴量同士の比較結果に基づいて、出品対象の検索を実行してもよい。このような処理を実行した場合、結合特徴量同士のユークリッド距離を算出した場合は、カテゴリ同士の比較結果がより重要視された検索結果を得ることができる。
【００９３】
また、例えば、情報提供装置１０は、カテゴリ特徴量の値を下位の値とし、画像特徴量の値を上位の値として、カテゴリ特徴量と画像特徴量とを結合した結合特徴量を生成し、生成した結合特徴量同士の比較結果に基づいて、出品対象の検索を実行してもよい。このような処理を実行した場合、結合特徴量同士のユークリッド距離を算出した場合は、画像の比較結果（すなわち、外観の比較結果）がより重要視された検索結果を得ることができる。
【００９４】
また、情報提供装置１０は、任意の重みづけや次元圧縮等を行って、結合特徴量を生成してもよい。例えば、情報提供装置１０は、カテゴリ特徴量と画像特徴量とのそれぞれを独立したベクトルとし、出品対象のカテゴリ特徴量と画像特徴量とのそれぞれとのユークリッド距離を求め、各ユークリッド距離の重みを考慮した加重平均を求めることにより、出品対象の検索を行ってもよい。前述した結合特徴量の上位および下位の値の設定は、この荷重を適切に設定することでも実現可能である。すなわち、情報提供装置１０は、カテゴリ特徴量同士の比較結果と、画像特徴量同士の比較結果とを総合的に用いることができるのあれば、任意の設計が採用された特徴量空間を用いて、出品対象の検索を行ってよい。
【００９５】
また、情報提供装置１０は、カテゴリ特徴量と画像特徴量とで異なる特徴量空間を生成し、生成した特徴量空間での出品対象の検索を行ってもよい。ここで、情報提供装置１０は、カテゴリ特徴量の比較に用いる距離関数と、画像特徴量の比較に用いる距離関数とで、異なる距離関数を採用してもよい。
【００９６】
なお、情報提供装置１０は、取引対象が各カテゴリに属する確度に基づいて、カテゴリ特徴量の算出を行ってもよい。例えば、情報提供装置１０は、ＣＮＮに取引対象の画像を入力した際に、第１カテゴリに属する確度「４０」、第２カテゴリに属する確度「４０」、および第３カテゴリに属する確度「２０」をＣＮＮが出力した場合、ルートカテゴリから第１カテゴリまでの第１カテゴリパスと、ルートカテゴリから第２カテゴリまでの第２カテゴリパスと、ルートカテゴリから第３カテゴリまでの第３カテゴリパスを特定する。
【００９７】
そして、情報提供装置１０は、第１カテゴリパスの特徴量と第２カテゴリパスの特徴量と第３カテゴリパスの特徴量とを、第１カテゴリから第３カテゴリに属する確度に応じた重みづけて合計した特徴量をカテゴリ特徴量として生成する。例えば、情報提供装置１０は、第１カテゴリパスの特徴量に０．４を積算した値と、第２カテゴリパスの特徴量に０．４を積算した値と、第３カテゴリパスの特徴量に０．２を積算した値との合計をカテゴリ特徴量とする。
【００９８】
なお、情報提供装置１０は、確度が所定の値を超えたカテゴリのみを用いて、カテゴリ特徴量を算出してもよい。例えば、情報提供装置１０は、第１カテゴリパスの特徴量と第２カテゴリパスの特徴量とを合計し、２で除算した値を特徴量としてもよい。
【００９９】
〔４−７．学習について〕
ここで、上述した情報提供装置１０は、取引対象とその取引対象が属するカテゴリのカテゴリパスとの関係をＣＮＮに学習させるのではなく、取引対象とその取引対象が属するリーフカテゴリとの関係をＣＮＮに学習させ、取引対象が属すると推定されたリーフカテゴリから、カテゴリパスを取得した。この結果、情報提供装置１０は、例えば、電子商店街のようにカテゴリの階層構造が動的に変化するような場合にも、再学習を行うことなく、カテゴリパスを考慮したカテゴリ特徴量を算出することができる。
【０１００】
しかしながら、実施形態は、これに限定されるものではない。例えば、情報提供装置１０は、取引対象とその取引対象が属するカテゴリのカテゴリパスとの関係をＣＮＮに学習させ、撮影画像に含まれる取引対象が属するカテゴリまでのカテゴリパスを推定してもよい。また、情報提供装置１０は、最下層のリーフカテゴリ以外にも、任意の階層のカテゴリとそのカテゴリに属する取引対象との関係性をＣＮＮに学習させ、取引対象が属するカテゴリの推定を行ってもよい。
【０１０１】
また、情報提供装置１０は、電子商店街に登録された出品画像以外にも、例えば、マイクロブログ等に投稿された取引対象の画像や、ウェブ検索等で取得可能な取引対象の画像を学習データとして採用してもよい。このように、情報提供装置１０は、出品画像のみならず、一般的な画像を学習データとして採用することで、利用者が撮影した撮影画像から取引対象の識別情報を精度よく特定することができる。
【０１０２】
〔４−８．認識対象について〕
ここで、端末装置１００は、取引対象の認識精度を向上させるための操作を利用者から受付けてもよい。例えば、端末装置１００は、撮影された画像を表示するとともに、利用者が画像上をタップした場合は、タップした位置を情報提供装置１０に送信する。このような場合、情報提供装置１０は、タップされた位置に撮影されている取引対象を識別し、識別した取引対象の識別情報を取得してもよい。また、情報提供装置１０は、タップされた位置に撮影されている取引対象の識別情報のみを取得してもよい。
【０１０３】
〔５．端末装置の構成〕
次に、図４を用いて、実施形態に係る端末装置１００の構成について説明する。図４は、実施形態に係る端末装置の構成例を示す図である。図４に示すように、端末装置１００は、通信部１１０と、入力部１２０と、出力部１３０と、カメラ１４０と、制御部１５０とを有する。
【０１０４】
通信部１１０は、例えば、ＮＩＣ（Network  Interface  Card）等によって実現される。そして、通信部１１０は、ネットワークＮと有線または無線で接続され、情報提供装置１０およびＥＣサーバ２００との間で情報の送受信を行う。
【０１０５】
入力部１２０は、利用者から各種操作を受け付ける入力装置である。例えば、入力部１２０は、キーボードやマウスや操作キー等によって実現される。出力部１３０は、各種情報を表示するための表示装置である。例えば、出力部１３０は、液晶ディスプレイ等によって実現される。なお、端末装置１００にタッチパネルが採用される場合には、入力部１２０と出力部１３０とは一体化される。カメラ１４０は、動画像や静止画像等の画像を撮影可能なカメラであり、各種のデジタルカメラにより実現される。
【０１０６】
制御部１５０は、コントローラ（controller）であり、例えば、ＣＰＵ（Central  Processing  Unit）、ＭＰＵ（Micro  Processing  Unit）等のプロセッサによって、端末装置１００内部の記憶装置に記憶されている各種プログラムがＲＡＭ等を作業領域として実行されることにより実現される。また、制御部１５０は、コントローラ（controller）であり、例えば、ＡＳＩＣ（Application  Specific  Integrated  Circuit）やＦＰＧＡ（Field  Programmable  Gate  Array）等の集積回路により実現されてもよい。
【０１０７】
図４に示すように、制御部１５０は、要求部１５１と、操作制御部１５２と、表示制御部１５３とを有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、制御部１５０の内部構成は、図４に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。また、制御部１５０が有する各処理部の接続関係は、図４に示した接続関係に限られず、他の接続関係であってもよい。
【０１０８】
要求部１５１は、ＥＣサーバ２００に対し、識別情報を送信することで、識別情報が示す取引対象であって、電子商店街に出品された取引対象である出品対象の検索結果を要求する。例えば、要求部１５１は、画面上に表示されたクエリ情報が選択され、電子商限外の検索を行うための所定の操作が行われた場合は、クエリ情報と対応する識別情報をＥＣサーバ２００に送信し、検索結果を取得する。そして、要求部１５１は、検索結果を取得した場合は、表示制御部１５３に検索結果を出力する。
【０１０９】
操作制御部１５２は、入力部１２０を介して受け付けた利用者の操作にしたがって、各種制御を実行する。例えば、操作制御部１５２は、利用者の選択処理や各種操作の内容を、要求部１５１や表示制御部１５３に出力し、各種制御を実行させる。なお、操作制御部１５２が出力する操作内容としては、例えば、画面上におけるスクロール操作やタップ等の選択操作等である。
【０１１０】
表示制御部１５３は、撮影画像やクエリ情報、検索結果等の各種コンテンツの表示を行う。例えば、表示制御部１５３は、制御部１５０が、表示処理を実行させる表示プログラムやアプリケーションをＲＡＭを作業領域として実行することで、図４に示すように撮影部１５４、取得部１５５、および表示部１５６として動作する。
【０１１１】
撮影部１５４は、画像を撮影する。例えば、撮影部１５４は、撮影ボタンＳＢがタップされた場合は、カメラ１４０を用いて、静止画像または動画像の撮影を行う。また、撮影部１５４は、撮影した画像を端末装置１００が有する不揮発性の記憶領域（図示は、省略）に登録する。なお、撮影部１５４は、所謂クラウド上に存在する端末装置１００用の記憶領域に、撮影した画像を登録してもよい。
【０１１２】
取得部１５５は、撮影された画像に含まれる取引対象の画像を取得する。例えば、取得部１５５は、撮影した画像に含まれる取引対象の画像であって、電子商店街に登録された取引対象の画像を取得する。例えば、取得部１５５は、撮影部１５４によって撮影された画像を情報提供装置１０に対してストリーミング形式で送信する。そして、取得部１５５は、撮影された取引対象であって、電子商店街に登録された取引対象の画像（すなわち、出品画像）と、取引対象を電子商店街で識別する識別情報を情報提供装置１０から取得する。すなわち、取得部１５５は、画像に撮影された取引対象の画像であって、電子商店街に登録された取引対象の画像を検索する情報提供装置１０に対して、カメラ１４０を用いて撮影された画像を出力する。
【０１１３】
表示部１５６は、撮影された画像に含まれる取引対象の画像を、取引対象を電子商店街で検索するための検索クエリを示すクエリ情報として、撮影した画像と共に複数表示する。例えば、表示部１５６は、撮影画像ウインドウＣＷに撮影部１５４が撮影した画像を表示する。また、表示部１５６は、取得部１５５によって出品画像と対応する識別情報とが取得される度に、取得された出品画像をクエリ情報として画像表示ウインドウＰＷに順次追加表示する。そして、表示部１５６は、例えば、利用者が画像表示ウインドウＰＷ上でスクロール操作を行った場合は、画像表示ウインドウＰＷ上に表示したクエリ情報をスクロールさせる。すなわち、表示部１５６は、出品画像を、出品画像が示す取引対象を電子商店街で検索するための検索クエリである識別情報を示す情報として表示する。
【０１１４】
また、表示部１５６は、表示したクエリ情報が選択された場合は、選択されたクエリ情報と対応する識別情報を要求部１５１に出力する。この結果、要求部１５１は、選択されたクエリ情報と対応する識別情報を用いた電子商店街の検索結果をＥＣサーバ２００から取得する。そして、表示部１５６は、取得された検索結果を表示する。なお、表示部１５６は、複数のクエリ情報が選択された場合は、選択された複数のクエリ情報と対応する複数の識別情報を用いた検索結果を表示することとなる。
【０１１５】
なお表示部１５６は、情報提供装置１０が撮影された取引対象と類似もしくは関連する取引対象を検索する場合、撮影された取引対象と関連する他の取引対象の出品画像をクエリ情報として表示することとなる。また、表示部１５６は、情報提供装置１０が撮影された取引対象の出品画像と、その取引対象およびその取引対象と類似若しくは関連する取引対象の識別情報とを対応付けて提供する場合は、撮影画像に含まれる取引対象の画像を、その取引対象およびその取引対象と類似もしくは関連する他の取引対象を電子商店街で検索するための検索クエリを示すクエリ情報として表示することとなる。
【０１１６】
なお、表示部１５６は、情報提供装置１０が出品画像ではなく、撮影画像のうち取引対象が含まれる領域の画像を提供する場合は、その画像をクエリ情報として表示してもよい。また、例えば、取得部１５５は、撮影された画像のうち、取引対象が含まれる領域を画像解析技術等によって特定し、特定した範囲のみを情報提供装置１０に送信することで、取引対象の識別情報を取得する。このような場合、表示部１５６は、撮影画像のうち取得部１５５によって特定された範囲を、クエリ情報として表示してもよい。
【０１１７】
また、表示部１５６は、カメラロールボタンＲＢが選択された場合は、過去に撮影された画像を不揮発性の記憶領域やクラウド上の記憶領域から読出し、読み出した画像を並べて表示する。そして、取得部１５５は、表示された画像のいずれかを利用者が選択した場合は、選択された画像を情報提供装置１０に送信し、出品画像や識別情報を取得する。そして、表示部１５６は、取得された出品画像をクエリ情報として表示してもよい。
【０１１８】
また、表示部１５６は、履歴として、同一の画像に含まれる複数の取引対象の画像の組を表示してもよい。例えば、取得部１５５は、撮影または選択された画像と、画像から取得された出品画像と識別情報との組とを対応付けて所定の記憶領域に格納する。そして、表示部１５６は、過去に撮影された画像が選択された場合は、選択された画像と対応付けられた全ての出品画像をクエリ情報として表示してもよい。すなわち、表示部１５６は、クエリ情報の履歴を表示する場合は、取得元となる画像単位で、クエリ情報の履歴を表示してもよい。
【０１１９】
また、表示部１５６は、撮影された動画像から生成されたパノラマ写真と、その動画像に含まれる取引対象の画像の組とを表示してもよい。例えば、取得部１５５は、情報提供装置１０によって生成されたパノラマ写真と、出品画像および識別情報とを対応付けて所定の記憶領域に登録する。また、表示部１５６は、カメラロールボタンＲＢが選択された場合は、パノラマ写真若しくは生成元となる動画像のサムネイルを表示し、サムネイルが選択された場合は、パノラマ写真とともに、対応付けられた出品画像をクエリ情報として表示してもよい。また、表示部１５６は、パノラマ写真のうち表示されている範囲に撮影されている取引対象の出品画像のみをクエリ情報として表示してもよく、パノラマ写真のスクロールに応じて、表示するクエリ情報を変更してもよい。
【０１２０】
なお、表示部１５６は、撮影画像のうち、クエリ情報と対応する取引対象が識別された範囲に所定のアイコンを表示してもよく、クエリ情報と対応する取引対象が識別された場所にクエリ情報を表示してから、徐々に画像表示ウインドウＰＷへと移動させてもよい。また、表示部１５６は、選択されたクエリ情報を強調表示してもよく、撮影画像のうち、選択されたクエリ情報と対応する取引対象が識別された範囲に所定のアイコンを表示してもよい。
〔６．情報提供装置の構成〕
続いて、上記した情報提供装置１０が有する機能構成の一例について説明する。図５は、実施形態に係る情報提供装置の構成例を示す図である。図５に示すように、情報提供装置１０は、通信部２０、記憶部３０、および制御部４０を有する。
【０１２１】
通信部２０は、例えば、ＮＩＣ等によって実現される。そして、通信部２０は、ネットワークＮと有線または無線で接続され、端末装置１００やＥＣサーバ２００との間で情報の送受信を行う。
【０１２２】
記憶部３０は、例えば、ＲＡＭ（Random  Access  Memory)、フラッシュメモリ（Flash  Memory）等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。また、記憶部３０は、出品対象データベース３１、カテゴリデータベース３２、およびモデルデータベース３３を記憶する。
【０１２３】
以下、図６〜図８を用いて、各データベース３１〜３３に登録される情報の一例について説明する。例えば、出品対象データベース３１には、出品対象に関する各種の情報が登録される。例えば、図６は、実施形態に係る出品対象データベースに登録される情報の一例を示す図である。図６に示す例では、出品対象データベース３１には、「出品対象ＩＤ」、「カテゴリパス」、「出品画像」、「識別情報」、「結合特徴量」、「出品情報」といった項目を有する情報が登録される。
【０１２４】
ここで、「出品対象ＩＤ」とは、出品対象を一意に示す識別子である。また、「カテゴリパス」とは、対応付けられた「出品対象ＩＤ」が示す出品対象が属するカテゴリのカテゴリパスである。また、「出品画像」とは、対応付けられた「出品対象ＩＤ」が示す出品対象の画像であって、出品者によって電子商店街に登録された画像である。また、「識別情報」とは、対応付けられた「出品対象ＩＤ」が示す出品対象として登録された取引対象を識別する識別情報であり、異なる「出品対象ＩＤ」が示す出品対象であっても、同一の取引対象に対しては、同一の値が識別情報として登録される。また、「結合特徴量」とは、対応付けられた「出品対象ＩＤ」が示す出品対象のカテゴリ特徴量および画像特徴量から生成される結合特徴量である。また、「出品情報」とは、対応付けられた「出品対象ＩＤ」が示す出品対象の価格や説明文等といった、各種出品対象に関する情報である。
【０１２５】
例えば、図６に示す例では、出品対象データベース３１には、出品対象ＩＤ「出品対象＃Ａ」、カテゴリパス「カテゴリ＃１＞カテゴリ＃１−１・・・」、出品画像「画像＃Ａ」、識別情報「識別情報＃Ａ」、結合特徴量「結合特徴量＃Ａ」、出品情報「出品情報＃Ａ」が対応付けて登録されている。このような情報は、出品対象ＩＤ「出品対象＃Ａ」が示す出品対象が、カテゴリパス「カテゴリ＃１＞カテゴリ＃１−１・・・」が示すカテゴリに属しており、出品画像が「画像＃Ａ」である旨を示す。また、このような情報は、出品対象ＩＤ「出品対象＃Ａ」が示す出品対象が、識別情報「識別情報＃Ａ」が示す取引対象であり、結合特徴量が「結合特徴量＃Ａ」であり、出品情報が「出品情報＃Ａ」である旨を示す。
【０１２６】
なお、図６に示す例では、「出品対象＃Ａ」、「カテゴリ＃１」、「画像＃Ａ」、「識別情報＃Ａ」、「結合特徴量＃Ａ」、「出品情報＃Ａ」等といった概念的な値を記載したが、実際には、各出品対象を識別するための数値や文字列、カテゴリを示す数値や文字列、画像データ、取引対象を識別するための数値や文字列、特徴量の値、出品対象に関する各種の情報等が登録されることとなる。
【０１２７】
カテゴリデータベース３２には、電子商店街におけるカテゴリの構造が登録される。例えば、図７は、実施形態に係るカテゴリデータベースに登録される情報の一例を示す図である。図７に示すように、カテゴリデータベース３２には、「第１階層カテゴリ」、「第２階層カテゴリ」、「第３階層カテゴリ」、および「カテゴリ特徴量」が対応付けて登録されている。なお、図７に示す例では、電子商店街におけるカテゴリが３段階の階層構造を有する例について記載したが、実際には、カテゴリデータベース３２には、任意の階数の階層構造を有するカテゴリの情報が登録されていてもよい。
【０１２８】
ここで、「第１階層カテゴリ」、「第２階層カテゴリ」、および「第３階層カテゴリ」は、各階層のカテゴリを示す情報である。また、「カテゴリ特徴量」とは、対応付けられた「第１階層カテゴリ」、「第２階層カテゴリ」、および「第３階層カテゴリ」からなるカテゴリパスが有するカテゴリ特徴量である。
【０１２９】
例えば、図７に示す例では、カテゴリデータベース３２には、第１階層カテゴリ「カテゴリ＃１」、第２階層カテゴリ「カテゴリ＃１−１」、第３階層カテゴリ「カテゴリ＃１−１−１」、およびカテゴリ特徴量「特徴量＃１−１−１」が対応付けて登録されている。このような情報は、「カテゴリ＃１」の下位カテゴリとして「カテゴリ＃１−１」が存在し、「カテゴリ＃１−１」の下位カテゴリとして「カテゴリ＃１−１−１」が存在しており、「カテゴリ＃１」から「カテゴリ＃１−１」を辿り「カテゴリ＃１−１−１」へと至るカテゴリパスのカテゴリ特徴量が「特徴量＃１−１−１」である旨を示す。
【０１３０】
なお、図７に示す例では、「カテゴリ＃１」、「特徴量＃１−１−１」等といった概念的な値を記載したが、実際には、カテゴリを示す数値や文字列および特徴量の値が登録されることとなる。
【０１３１】
モデルデータベース３３には、情報提供装置１０が使用する各種の分類器や学習器等といったモデルが登録される。例えば、図８は、実施形態に係るモデルデータベースに登録される情報の一例を示す図である。図８に示すように、モデルデータベース３３には、「モデル種別」および「モデルデータ」といった情報が登録される。なお、図８に示す例では、「モデルデータ＃１」等といった概念的な値を記載したが、実際には、モデルの各種パラメータ等といったデータが登録される。
【０１３２】
ここで、「モデル種別」とは、どのような処理に用いられるモデルであるかを示す情報である。また、「モデルデータ」とは、対応付けられた「モデル種別」が示す処理に用いられるモデルの各種パラメータ等といったデータである。
【０１３３】
例えば、図８に示す例では、モデルデータベース３３には、撮影画像に含まれる取引対象が属するカテゴリを推定する「カテゴリ推定モデル」として、モデルデータ「モデルデータ＃１」が登録されており、撮影画像から特徴量を用いた取引対象を検索できるか否かを判定する「判定モデル」として、モデルデータ「モデルデータ＃２」が登録されている。また、モデルデータベース３３には、画像特徴量を取得する「画像特徴量取得モデル」として、モデルデータ「モデルデータ＃３」が登録されており、カテゴリ特徴量を取得する「カテゴリ特徴量取得モデル」として、モデルデータ「モデルデータ＃４」が登録されている。
【０１３４】
図５に戻り、説明を続ける。制御部４０は、コントローラ（controller）であり、例えば、ＣＰＵ（Central  Processing  Unit）、ＭＰＵ（Micro  Processing  Unit）等のプロセッサによって、情報提供装置１０内部の記憶装置に記憶されている各種プログラムがＲＡＭ等を作業領域として実行されることにより実現される。また、制御部４０は、コントローラ（controller）であり、例えば、ＡＳＩＣ（Application  Specific  Integrated  Circuit）やＦＰＧＡ（Field  Programmable  Gate  Array）等の集積回路により実現されてもよい。図５に示すように、制御部４０は、受付部４１、判定部４２、抽出部４３、推定部４４、取得部４５、結合部４６、検索部４７、提供部４８、および学習部４９を有する。
【０１３５】
受付部４１は、端末装置１００が撮影画像を受付ける。より具体的には、受付部４１は、画像に含まれる取引対象の画像をクエリ情報と撮影した画像とともに表示する端末装置１００から、撮影画像を受付ける。
【０１３６】
判定部４２は、撮影画像に含まれる特徴点を用いて撮影画像に撮影された取引対象と対応する出品対象を検索できるか否かを判定する。例えば、判定部４２は、モデルデータベース３３に登録された判定モデルを用いて、撮影画像に含まれる特徴点から出品対象を適切に検索することができるか否かを判定する。そして、判定部４２は、撮影画像に含まれる特徴点から出品対象を適切に検索することができると判定した場合は、検索部４７に対して撮影画像を出力するとともに、特徴点を用いた検索を指示する。一方、判定部４２は、撮影画像に含まれる特徴点から出品対象を適切に検索することができないと判定した場合は、撮影画像を抽出部４３に出力する。
【０１３７】
抽出部４３は、撮影画像から取引対象が撮影された範囲を抽出する。例えば、抽出部４３は、各種の画像認識技術を用いて、撮影画像から取引対象が撮影された範囲を抽出する。そして、抽出部４３は、抽出した範囲を推定部４４および取得部４５に出力する。
【０１３８】
推定部４４は、取引対象の特徴とその取引対象が属するカテゴリとの間の関係性を学習した学習器を用いて、画像に撮影された取引対象が属するカテゴリを推定する。より具体的には、推定部４４は、階層構造を有する複数のカテゴリのうち、画像に撮影された取引対象が属するカテゴリを推定する。例えば、推定部４４は、抽出部４３が撮影画像から抽出した範囲を受付けると、モデルデータベース３３に登録されたカテゴリ推定モデルを読出し、読み出したカテゴリ推定モデルを用いて、抽出部４３によって抽出された範囲に撮影された取引対象が属するカテゴリを推定する。
【０１３９】
また、推定部４４は、カテゴリデータベース３２を参照し、推定されたカテゴリのカテゴリパスを取得する。また、推定部４４は、カテゴリデータベース３２に、取得したカテゴリパスのカテゴリ特徴量が登録されていない場合は、カテゴリ特徴量取得モデルをモデルデータベース３３から読出し、読み出したカテゴリ特徴量取得モデルを用いて、取得したカテゴリパスのカテゴリ特徴量を取引対象のカテゴリ特徴量として取得する。そして、推定部４４は、取得したカテゴリ特徴量をカテゴリデータベース３３に登録する。一方、推定部４４は、カテゴリデータベース３２に、取得したカテゴリパスのカテゴリ特徴量が登録されている場合は、かかるカテゴリ特徴量を取引対象のカテゴリ特徴量とする。
【０１４０】
取得部４５は、画像に撮影された取引対象の特徴量を取得する。例えば、取得部４５は、画像特徴量取得モデルをモデルデータベース３３から読出し、撮影画像のうち、抽出部４３によって抽出された範囲を画像特徴量取得モデルに入力することで、撮影された取引対象の画像特徴量を取得する。
【０１４１】
結合部４６は、カテゴリ特徴量と画像特徴量とを結合した結合特徴量を生成する。例えば、結合部４６は、撮影画像に基づいて推定部４４が取得した取引対象のカテゴリ特徴量と、取得部４５が取得した取引対象の画像特徴量とを結合した結合特徴量を生成する。そして、結合部４６は、結合特徴量を検索部４７に出力する。
【０１４２】
なお、推定部４４、取得部４５、結合部４６は、上述した処理を、出品対象データベース３１に登録された出品対象ごとに予め実行することで、各出品対象の結合特徴量を算出し、算出した結合特徴量をあらかじめ出品対象データベース３１に登録しておく。例えば、推定部４４は、出品対象データベース３１に登録されたカテゴリパスから、出品対象のカテゴリ特徴量を取得する。また、取得部４５は、出品対象データベース３１に登録された出品画像から、出品対象の画像特徴量を取得する。そして、結合部４６は、出品対象のカテゴリ特徴量と画像特徴量とを結合した結合特徴量を生成し、生成した結合特徴量を出品対象データベース３１に登録する。
【０１４３】
検索部４７は、カテゴリ特徴量と画像特徴量とを用いて、撮影された取引対象に対応する出品対象を検索する。より具体的には、検索部４７は、取引対象が属するカテゴリパスのカテゴリ特徴量と、取引対象の画像特徴量とを用いて、撮影された取引対象に対応する出品対象を検索する。
【０１４４】
例えば、検索部４７は、撮影画像と特徴点を用いた検索を指示とを判定部４２から受付けた場合は、撮影画像が有する特徴点を算出する。また、検索部４７は、出品対象データベース３１に登録された出品画像のうち、撮影画像が有する特徴点と類似する特徴点を有する出品画像を検索する。そして、検索部４７は、撮影画像が有する特徴点と類似する特徴点を有する出品画像を特定した場合は、特定した出品画像と、その出品画像に対応付けられていた識別情報との組を抽出する。
【０１４５】
一方、検索部４７は、結合部４６から結合特徴量を受付けた場合は、結合部４６によって生成された結合特徴量、すなわち、撮影された取引対象の結合特徴量と、出品対象データベース３１に登録された結合特徴量とを比較することで、撮影された取引対象と対応する出品対象を検索する。例えば、検索部４７は、撮影された取引対象そのものとなる出品対象や、撮影された取引対象と類似もしくは所定の関連性を有する出品対象を検索する。そして、検索部４７は、検索した出品対象の画像と、その画像に対応付けられていた識別情報との組を抽出する。
【０１４６】
すなわち、検索部４７は、特徴点を用いて撮影画像に撮影された取引対象と対応する出品対象を検索できると判定された場合は、撮影画像に含まれる特徴点を用いて撮影された取引対象と対応する出品対象を検索する。一方、検索部４７は、特徴点を用いて撮影画像に撮影された取引対象と対応する出品対象を検索できないと判定された場合は、推定されたカテゴリ特徴量と、取得された画像特徴量とを用いて、撮影画像に撮影された取引対象に対応する出品対象を検索する。
【０１４７】
提供部４８は、推定部４４と、取得部４５と、検索部４７とが受付部４１により受付けられた撮影画像から検索した取引対象の画像を端末装置１００に提供する。より具体的には、提供部４８は、撮影画像に含まれる取引対象の画像を端末装置１００に提供し、取引対象を電子商店街で検索するための検索クエリを示すクエリ候補として表示させる。例えば、提供部４８は、検索部４７が出品対象データベース３１から抽出した出品画像と識別情報との組を、端末装置１００へと送信する。この結果、提供部４８は、撮影画像に含まれる取引対象の画像であって、電子商店街に登録された取引対象の画像を提供することとなる。
【０１４８】
学習部４９は、各種モデルの学習を行い、モデルデータベース３３に学習したモデルを登録する。例えば、学習部４９は、出品対象データベース３１に登録された出品画像と、その出品画像と対応付けられたカテゴリパスのリーフカテゴリとの組を抽出する。そして、学習部４９は、抽出した出品画像とリーフカテゴリとの組の関係性を学習させた学習器をカテゴリ推定モデルとして生成する。なお、学習部４９は、出品画像と対応づけられた識別情報を用いて、ウェブ上の取引対象の画像を収集し、収集した画像と、その画像に撮影された取引対象が属するリーフカテゴリとの間の関係性をカテゴリ推定モデルに学習させてもよい。
【０１４９】
また、学習部４９は、特徴点を用いて適切な出品対象の検索を行えた画像や、特徴点を用いて適切な出品対象の検索を行えなかった画像等を学習データとして取得する。そして、学習部４９は、取得した学習データを用いて、判定モデルの学習を行う。例えば、学習部４９は、特徴点を用いて適切な出品対象の検索を行えた画像が有する特徴を学習するように、判定モデルの学習を行う。
【０１５０】
また、学習部４９は、類似するカテゴリパスのカテゴリ特徴量が類似し、類似しないカテゴリパスのカテゴリ特徴量が類似しなくなるように、カテゴリ特徴量を算出するカテゴリ特徴量取得モデルの学習を行う。また、学習部４９は、類似する画像の画像特徴量が類似し、類似しない画像の画像特徴量が類似しなくなるように、画像特徴量を算出する画像特徴量取得モデルの学習を行う。なお、このようなカテゴリ特徴量取得モデルや、画像特徴量取得モデルの学習は、分類器を学習するための任意の技術が採用可能である。
【０１５１】
このように、情報提供装置１０は、端末装置１００が撮影した撮影画像を受付けると、クエリ情報として表示させる画像を検索し、検索した画像をクエリ情報として端末装置１００へと送信することで、検索した画像をクエリ情報として表示させる。例えば、情報提供装置１０は、撮影画像に含まれる取引対象の画像であって、電子商店街に出品された出品対象の画像を端末装置１００にクエリ情報として表示させる。すなわち、情報提供装置１０は、撮影画像に含まれる取引対象の画像をクエリ情報として表示するように、端末装置１００を制御する。
【０１５２】
ここで、情報提供装置１０は、クエリ情報として表示させる画像と、その画像がクエリ情報である旨を示す属性情報（例えば、画像の名称や画像の属性を示す情報）とともに送信する。このような場合、端末装置１００は、情報提供装置１０から受信した属性情報が、その属性情報とともに受信しが画像がクエリ情報である旨を示す場合は、受信した画像をクエリ情報として表示すればよい。また、情報提供装置１０は、画像をクエリ情報として端末装置１００に表示させるための命令文（例えば、各種のプログラムやスクリプト等）とともにクエリ情報として表示させる画像を端末装置１００へ送信してもよい。このような処理の結果、情報提供装置１０は、検索した画像をクエリ情報として端末装置１００に表示させることができる。
【０１５３】
〔７．クエリ情報を表示する態様について〕
ここで、端末装置１００がクエリ情報を追加表示する処理の一例について説明する。例えば、図９は、実施形態に係る端末装置がクエリ情報を表示する態様の一例を示す図である。なお、図９に示す例では、端末装置１００が画面奥方向に対して左方向から右方向に回転しながら画像を撮影した場合と、端末装置１００が画面奥方向に対して右方向から左方向に回転しながら画像を撮影した場合とで、クエリ情報を表示する態様の一例について記載した。また、図９に示す例では、端末装置１００が有するカメラ１４０の撮影範囲を実線の長方形の枠で記載した。
【０１５４】
例えば、図９中（Ａ）に示すように、端末装置１００が画面左方向から画面右方向へと回転しながら動画像を撮影している場合は、ワイン、カメラ、缶ジュース、珈琲、およびティッシュペーパーの順で取引対象が撮影範囲に含まれることとなる。この結果、端末装置１００は、図９中（Ｂ）に示すように、画面左側から、ワイン、カメラ、缶ジュース、珈琲、ティッシュペーパーの順でクエリ情報を並べて表示する。
【０１５５】
一方、図９中（Ｃ）に示すように、端末装置１００が画面右方向から画面左方向へと回転しながら動画像を撮影している場合は、ティッシュ、珈琲、缶ジュース、カメラ、ワインの順で取引対象が撮影範囲に含まれることとなる。この結果、端末装置１００は、図９中（Ｄ）に示すように、画面左側からティッシュペーパー、珈琲、缶ジュース、カメラ、ワインの順でクエリ情報となる出品画像を取得し、画面上に表示することとなる。
【０１５６】
なお、端末装置１００は、端末装置１００の回転する向きに応じて、クエリ情報を並べる方向を切り替えてもよい。例えば、端末装置１００は、利用者が端末装置１００を所定の方向に動かしながら動画像を撮影した場合は、取引対象が認識される度に、認識された取引対象の画像を所定の方向に向けて並べるように表示してもよい。
【０１５７】
例えば、端末装置１００は、図９中（Ａ）に示すように、端末装置１００が画面左方向から画面右方向へと回転しながら動画像を撮影している場合は、ジャイロセンサを用いて、端末装置１００が画面左方向から画面右方向へと回転している旨を特定する。このような場合、端末装置１００は、図９中（Ｂ）に示すように、画面左側から、ワイン、カメラ、缶ジュース、珈琲、ティッシュペーパーの順でクエリ情報を並べて表示する。
【０１５８】
一方、端末装置１００は、図９中（Ｃ）に示すように、端末装置１００が画面右方向から画面左方向へと回転しながら動画像を撮影している場合は、ジャイロセンサを用いて、端末装置１００が画面右方向から画面左方向へと回転している旨を特定する。このような場合、端末装置１００は、画面右側から、ティッシュペーパー、珈琲、缶ジュース、カメラ、ワインの順でクエリ情報を並べて表示してもよい。
【０１５９】
〔８．情報提供装置が実行する処理の流れの一例〕
続いて、図１０、図１１を用いて、端末装置１００および情報提供装置１０が実行する処理の流れの一例を説明する。図１０は、実施形態に係る端末装置が実行する表示処理の流れの一例を示すフローチャートである。また、図１１は、実施形態に係る情報提供装置が実行する検索処理の流れの一例を示すフローチャートである。
【０１６０】
まず、図１０を用いて、端末装置１００が実行する表示処理の流れの一例を説明する。なお、端末装置１００は、利用者の操作に応じて画像の撮影が開始された場合は、画像の撮影を停止させるための操作が行われるまで、図１０に示す処理を繰り返し実行する。まず、端末装置１００は、画像を撮影し（ステップＳ１０１）、撮影した画像を画面上に表示させる（ステップＳ１０２）。また、端末装置１００は、撮影した画像を情報提供装置１０に送信する（ステップＳ１０３）。そして、端末装置１００は、ＥＣサイトにおける出品画像を受信したか否かを判定し（ステップＳ１０４）、受信した場合は（ステップＳ１０４：Ｙｅｓ）、受信した出品画像をクエリ情報として並べて表示し（ステップＳ１０５）、ステップＳ１０１へ戻る。一方、端末装置１００は、出品画像を受信していない場合は（ステップＳ１０４：Ｎｏ）、ステップＳ１０１へ戻る。
【０１６１】
次に、図１１を用いて、情報提供装置１０が実行する検索処理の流れについて説明する。まず、情報提供装置１０は、端末装置１００が撮影した画像を受付けると（ステップＳ２０１）、特徴点を用いた出品対象の検索が可能か否かを判定し（ステップＳ２０２）、可能であると判定した場合は（ステップＳ２０２：Ｙｅｓ）、特徴点から撮影された取引対象と対応する出品対象を特定する（ステップＳ２０３）。
【０１６２】
一方、情報提供装置１０は、特徴点を用いた出品対象の検索が可能ではないと判定した場合は（ステップＳ２０２：Ｎｏ）、撮影画像から取引対象が撮影された範囲を抽出し（ステップＳ２０４）、リーフカテゴリの特徴を学習したモデルを用いて、抽出した範囲に撮影された取引対象が属するリーフカテゴリを推定する（ステップＳ２０５）。そして、情報提供装置１０は、所定のカテゴリから推定したリーフカテゴリまでのカテゴリパスが有するカテゴリ特徴量を取得する（ステップＳ２０６）。
【０１６３】
また、情報提供装置１０は、抽出された画像が有する画像特徴量を取得する（ステップＳ２０７）。なお、ステップＳ２０５〜ステップＳ２０７の処理は、任意の順番で実行されてもよく、並行して実行されてもよい。そして、情報提供装置１０は、カテゴリ特徴量と画像特徴量とを結合した結合特徴量を取得し（ステップＳ２０８）、取得した結合特徴量を用いて、出品対象を検索する（ステップＳ２０９）。また、情報提供装置１０は、ステップＳ２０３またはステップＳ２０９の検索を行った結果、撮影された取引対象と対応する出品対象を特定した場合は、特定した出品対象の識別情報と出品画像とを端末装置１００に提供し（ステップＳ２１０）、処理を終了する。
【０１６４】
〔９．変形例〕
上記では、情報提供装置１０および端末装置１００による検索処理や表示処理の一例について説明した。しかしながら、実施形態は、これに限定されるものではない。以下、検索処理や表示処理のバリエーションについて説明する。
【０１６５】
〔９−１．画像クエリについて〕
上述した例では、端末装置１００は、情報提供装置１０から受付けた出品画像をクエリ情報として表示し、クエリ情報が選択された場合は、クエリ情報と対応する識別情報を用いて、電子商店街の検索を行った。しかしながら、実施形態は、これに限定されるものではない。例えば、端末装置１００および情報提供装置１０は、画像クエリを用いた検索を行ってもよい。
【０１６６】
例えば、端末装置１００は、撮影画像のうち、取引対象が含まれる領域をクエリ情報として表示し、クエリ情報が選択された場合は、選択されたクエリ情報を画像クエリとして用いて電子商店街の検索を行った検索結果を表示してもよい。より具体的な例を挙げると、端末装置１００は、情報提供装置１０が撮影画像から抽出した取引対象の画像を受付け、受付けた画像をクエリ情報として表示する。なお、端末装置１００は、撮影画像から取引対象が撮影された範囲を自装置で認識し、認識した範囲をクエリ情報として表示してもよい。
【０１６７】
そして、端末装置１００は、表示したクエリ情報が選択された場合は、選択されたクエリ情報を情報提供装置１０へと送信する。このような場合、情報提供装置１０は、端末装置１００から受信した画像から対応する出品対象を検索し、検索した出品対象の出品対象ＩＤや識別情報を端末装置１００に通知する。この結果、端末装置１００は、情報提供装置１０から受付けた識別情報や出品対象ＩＤを用いた電子商店街の検索を行い、検索結果を表示する。なお、端末装置１００は、クエリ情報として表示した画像そのものをクエリ画像としてＥＣサーバ２００に送信し、撮影された取引対象と対応する出品対象の検索を行ってもよい。
【０１６８】
〔９−２．クエリ情報の選択について〕
また、端末装置１００は、クエリ情報が選択された場合は、選択されたクエリ情報が示す検索クエリと対応する取引対象の購入に関するコンテンツを表示してもよい。例えば、端末装置１００は、選択されたクエリ情報と対応する識別情報と対応付けられた出品対象のうち、販売価格が最も安い出品対象を識別情報ごとに特定する。そして、端末装置１００は、ＥＣサーバ２００が提供する電子商店街において、特定した出品対象を買物カートに投入し、買い物カートに投入された出品対象の購入確認画面を表示してもよい。すなわち、端末装置１００は、選択されたクエリ情報と対応する出品対象の検索結果ではなく、選択されたクエリ情報と対応する出品対象の購入に関するコンテンツを表示してもよい。
【０１６９】
〔９−３．送信される情報について〕
上述した例では、端末装置１００は、撮影した画像を情報提供装置１０に送信した。しかしながら、実施形態は、これに限定されるものではない。例えば、端末装置１００は、撮影画像が有する特徴点や特徴量、カテゴリ等を情報提供装置１０に送信してもよい。このような場合、情報提供装置１０は、撮影画像に代えて、受信した特徴点や特徴量からカテゴリ特徴量が画像特徴量を取得し、取得したカテゴリ特徴量や画像特徴量から撮影された取引対象と対応する出品対象を検索してもよい。また、このような処理を実行する場合、端末装置１００は、図５に示す判定部４２、抽出部４３、推定部４４、取得部４５、および結合部４６を有することとなる。
【０１７０】
〔９−４．店舗情報の履歴について〕
ここで、端末装置１００は、画像を撮影した際に、ＧＰＳ（Global  Positioning  System）等の位置測位システムを用いて、端末装置１００の現在位置を特定する。そして、端末装置１００は、特定した位置に基づいて、画像を撮影した際に端末装置１００が所在した地域名、施設名、店舗名等の位置情報を取得し、取得した位置情報を画像と共に保持する。そして、端末装置１００は、カメラロールＣＲにおいて、画像が選択された場合は、対応付けて保持した位置情報を利用者に提供することで、その画像に撮影された取引対象がどの店舗やどの施設にある取引対象であったかを利用者に提示してもよい。
【０１７１】
〔９−５．処理の実行主体について〕
なお、上述した検索処理および表示処理は、端末装置１００が単体で実行してもよい。また、上述した検索処理および表示処理は、任意の粒度で分割され、情報提供装置１０および端末装置１００が分割された任意の処理を実行することで実現されてもよい。例えば、撮影画像から取引対象を認識する処理は、端末装置１００が実行してもよく、情報提供装置１０が実行してもよい。
【０１７２】
また、情報提供装置１０が有する各データベース３１〜３３は、外部のストレージサーバに保持されていてもよい。また、情報提供装置１０は、判定部４２を有する判定サーバ、抽出部４３を有する抽出サーバ、推定部４４を有する推定サーバ、取得部４５を有する取得サーバ、結合部４６、検索部４７、および提供部４８を有する検索サーバ、および学習部４９を有する学習サーバが協調して動作することで、実現されてもよい。
【０１７３】
また、提供システム１は、全カテゴリを、最上位カテゴリが共通する複数のカテゴリ群に分割し、分割されたカテゴリ群ごとに、上述した検索処理を実行する情報提供装置１０を有し、カテゴリ群ごとに段階的な出品対象の検索を行ってもよい。例えば、提供システム１は、ファッションに属するカテゴリ群に対応する第１の情報提供装置により、撮影された取引対象と対応する出品情報が適切に検索されなかった場合には、飲食料に属するカテゴリ群に対応する第２の情報提供装置により、撮影された取引対象と対応する出品情報の検索を行えばよい。そして、提供システム１は、撮影された取引対象と対応する出品情報が適切に検索されるまで、随時検索対象となるカテゴリ群の切り替えを行えばよい。
【０１７４】
〔９−６．その他〕
また、上記実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、逆に、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
【０１７５】
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
【０１７６】
また、上記してきた各実施形態は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
【０１７７】
〔９−７．プログラム〕
また、上述した実施形態に係る情報提供装置１０および端末装置１００は、例えば図１２に示すような構成のコンピュータ１０００によって実現される。図１２は、ハードウェア構成の一例を示す図である。コンピュータ１０００は、出力装置１０１０、入力装置１０２０と接続され、演算装置１０３０、一次記憶装置１０４０、二次記憶装置１０５０、出力ＩＦ（Interface）１０６０、入力ＩＦ１０７０、ネットワークＩＦ１０８０がバス１０９０により接続された形態を有する。
【０１７８】
演算装置１０３０は、一次記憶装置１０４０や二次記憶装置１０５０に格納されたプログラムや入力装置１０２０から読み出したプログラム等に基づいて動作し、各種の処理を実行する。一次記憶装置１０４０は、ＲＡＭ等、演算装置１０３０が各種の演算に用いるデータを一次的に記憶するメモリ装置である。また、二次記憶装置１０５０は、演算装置１０３０が各種の演算に用いるデータや、各種のデータベースが登録される記憶装置であり、ＲＯＭ(Read  Only  Memory)、ＨＤＤ（Hard  Disk  Drive）、フラッシュメモリ等により実現される。
【０１７９】
出力ＩＦ１０６０は、モニタやプリンタといった各種の情報を出力する出力装置１０１０に対し、出力対象となる情報を送信するためのインタフェースであり、例えば、ＵＳＢ（Universal  Serial  Bus）やＤＶＩ（Digital  Visual  Interface）、ＨＤＭＩ（登録商標）（High  Definition  Multimedia  Interface）といった規格のコネクタにより実現される。また、入力ＩＦ１０７０は、マウス、キーボード、およびスキャナ等といった各種の入力装置１０２０から情報を受信するためのインタフェースであり、例えば、ＵＳＢ等により実現される。
【０１８０】
なお、入力装置１０２０は、例えば、ＣＤ（Compact  Disc）、ＤＶＤ（Digital  Versatile  Disc）、ＰＤ（Phase  change  rewritable  Disk）等の光学記録媒体、ＭＯ（Magneto-Optical  disk）等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等から情報を読み出す装置であってもよい。また、入力装置１０２０は、ＵＳＢメモリ等の外付け記憶媒体であってもよい。
【０１８１】
ネットワークＩＦ１０８０は、ネットワークＮを介して他の機器からデータを受信して演算装置１０３０へ送り、また、ネットワークＮを介して演算装置１０３０が生成したデータを他の機器へ送信する。
【０１８２】
演算装置１０３０は、出力ＩＦ１０６０や入力ＩＦ１０７０を介して、出力装置１０１０や入力装置１０２０の制御を行う。例えば、演算装置１０３０は、入力装置１０２０や二次記憶装置１０５０からプログラムを一次記憶装置１０４０上にロードし、ロードしたプログラムを実行する。
【０１８３】
例えば、コンピュータ１０００が情報提供装置１０として機能する場合、コンピュータ１０００の演算装置１０３０は、一次記憶装置１０４０上にロードされたプログラムを実行することにより、制御部４０の機能を実現する。また、例えば、コンピュータ１０００が端末装置１００として機能する場合、コンピュータ１０００の演算装置１０３０は、一次記憶装置１０４０上にロードされたプログラムを実行することにより、制御部１５０の機能を実現する。
【０１８４】
〔１０．効果〕
上述したように、情報提供装置１０は、取引対象とその取引対象が属するカテゴリとの間の関係性を学習した学習器を用いて、画像に撮影された取引対象が属するカテゴリを推定する。そして、情報提供装置１０は、推定されたカテゴリの特徴量と、取得された取引対象の特徴とを用いて、画像に撮影された取引対象に対応する取引対象を検索する。このため、情報提供装置１０は、カテゴリの指定を不要とすることができるので、取引対象の画像検索を容易にすることができる。
【０１８５】
また、情報提供装置１０は、階層構造を有する複数のカテゴリのうち、所定のカテゴリから画像に撮影された取引対象が属するカテゴリまでの階層構造を示すカテゴリパスを推定する。そして、情報提供装置１０は、推定されたカテゴリパスの特徴量と、取引対象の特徴量とを用いて、画像に撮影された取引対象に対応する取引対象を検索する。このため、情報提供装置１０は、カテゴリパスの共通性や類似性に基づいた画像検索を実現できるので、取引対象が属するカテゴリに階層構造が存在する場合にも、撮影された取引対象と対応する取引対象を検索する際の精度を向上させることができる。
【０１８６】
また、情報提供装置１０は、画像から取引対象が撮影された範囲を抽出し、取引対象の特徴を示す特徴量として、抽出部により抽出された範囲の画像特徴量を取得する。そして、情報提供装置１０は、推定されたカテゴリ特徴量と、取得した画像特徴量とを用いて、取引対象の検索を行う。このため、情報提供装置１０は、撮影された取引対象と対応する取引対象を精度良く検索することができる。
【０１８７】
また、情報提供装置１０は、カテゴリの特徴量と取引対象の特徴量とを結合した結合特徴量を生成し、生成した結合特徴量を用いて、画像に撮影された取引対象に対応する取引対象を検索する。このため、情報提供装置１０は、カテゴリの類似性と外観の類似性とに基づいて、撮影された取引対象と対応する取引対象を検索することができる。
【０１８８】
また、情報提供装置１０は、画像に撮影された取引対象に対応する取引対象として、その画像に撮影された取引対象と類似する取引対象、または、その画像に撮影された取引対象と所定の関連性を有する取引対象を検索する。このため、情報提供装置１０は、撮影された取引対象そのもの以外にも、サイズ違いの取引対象や、関連する他の取引対象等の検索を行うことができる。
【０１８９】
また、情報提供装置１０は、画像に含まれる特徴点を用いて画像に撮影された取引対象と対応する取引対象を検索できるか否かを判定する。そして、情報提供装置１０は、特徴点を用いて画像に撮影された取引対象と対応する取引対象を検索できると判定された場合は、画像に含まれる特徴点を用いて画像に撮影された取引対象と対応する取引対象を検索する。一方、情報提供装置１０は、特徴点を用いて画像に撮影された取引対象と対応する取引対象を検索できないと判定された場合は、カテゴリの特徴量と、取引対象の特徴とを用いて、画像に撮影された取引対象に対応する取引対象を検索する。このため、情報提供装置１０は、取引対象の検索における処理コストの増大を防ぎつつ、撮影された取引対象と対応する取引対象を検索することができる。
【０１９０】
また、情報提供装置１０は、撮影した画像に含まれる取引対象の画像を、取引対象を検索するための検索クエリを示す画像として、撮影した画像とともに表示する端末装置１００から、撮影された画像を受付ける。そして、情報提供装置１０は、受付けられた画像から検索した取引対象の画像を端末装置１００に提供する。このため、情報提供装置１０は、撮影画像を用いた取引対象の検索において、操作性を改善しつつ、取引対象の画像検索を容易にすることができる。
【０１９１】
以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
【０１９２】
また、上記してきた「部（section、module、unit）」は、「手段」や「回路」などに読み替えることができる。例えば、推定部は、推定手段や推定回路に読み替えることができる。
【符号の説明】
【０１９３】
１  提供システム
１０  情報提供装置
２０、１１０  通信部
３０  記憶部
３１  出品対象データベース
３２  カテゴリデータベース
３３  モデルデータベース
４０、１５０  制御部
４１  受付部
４２  判定部
４３  抽出部
４４  推定部
４５  取得部
４６  結合部
４７  検索部
４８  提供部
４９  学習部
１００  端末装置
１２０  入力部
１３０  出力部
１４０  カメラ
１５１  要求部
１５２  操作制御部
１５３  表示制御部
１５４  撮影部
１５５  取得部
１５６  表示部
２００  ＥＣサーバ
【図１】
2018190293.tif 000003
【図２】
2018190293.tif 000004
【図３】
2018190293.tif 000005
【図４】
2018190293.tif 000006
【図５】
2018190293.tif 000007
【図６】
2018190293.tif 000008
【図７】
2018190293.tif 000009
【図８】
2018190293.tif 000010
【図９】
2018190293.tif 000011
【図１０】
2018190293.tif 000012
【図１１】
2018190293.tif 000013
【図１２】
2018190293.tif 000014
【手続補正書】
【提出日】平成30年2月2日(2018.2.2)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
取引対象と当該取引対象が属するカテゴリとの間の関係性を学習した学習器を用いて、撮影画像に撮影された取引対象が属するカテゴリを推定する推定部と、
検索対象となる取引対象が属するカテゴリの特徴量と前記推定部により推定されたカテゴリの特徴量との類似度、および検索対象となる取引対象の画像が有する特徴量と前記撮影画像が有する特徴量との類似度に基づいて、検索対象となる取引対象の中から前記撮影画像に撮影された取引対象に対応する取引対象を検索する検索部と
を有することを特徴とする検索装置。
【請求項２】
取引対象と当該取引対象が属するカテゴリとの間の関係性を学習した学習器を用いて、画像に撮影された取引対象が属するカテゴリを推定する推定部と、
前記推定部により推定されたカテゴリの特徴量と、前記取引対象の特徴とを用いて、前記画像に撮影された取引対象に対応する取引対象を検索する検索部と
前記画像に含まれる特徴点を用いて前記画像に撮影された取引対象と対応する取引対象を検索できるか否かを判定する判定部と、
を有し、
前記検索部は、前記特徴点を用いて前記画像に撮影された取引対象と対応する取引対象を検索できると判定された場合は、前記画像に含まれる特徴点を用いて前記画像に撮影された取引対象と対応する取引対象を検索し、前記特徴点を用いて前記画像に撮影された取引対象と対応する取引対象を検索できないと判定された場合は、前記推定部により推定されたカテゴリの特徴量と、前記取引対象の特徴とを用いて、前記画像に撮影された取引対象に対応する取引対象を検索する
ことを特徴とする検索装置。
【請求項３】
前記推定部は、階層構造を有する複数のカテゴリのうち、所定のカテゴリから前記撮影された取引対象が属するカテゴリまでの階層構造を示すカテゴリパスを推定し、
前記検索部は、推定されたカテゴリパスの特徴量と、前記取引対象の特徴量とを用いて、前記撮影された取引対象に対応する取引対象を検索する
ことを特徴とする請求項１または２に記載の検索装置。
【請求項４】
前記画像から前記取引対象が撮影された範囲を抽出する抽出部と、
前記取引対象の特徴を示す特徴量として、前記抽出部により抽出された範囲の画像特徴量を取得する取得部と
を有し、
前記検索部は、前記推定部により推定されたカテゴリの特徴量と、前記取引対象の特徴量とを用いて、前記撮影された取引対象に対応する取引対象を検索する
ことを特徴とする請求項１〜３のうちいずれか１つに記載の検索装置。 
【請求項５】
前記検索部は、前記カテゴリの特徴量と前記取引対象の特徴量とを結合した結合特徴量を生成し、生成した結合特徴量を用いて、前記撮影された取引対象に対応する取引対象を検索する
ことを特徴とする請求項１〜４のうちいずれか１つに記載の検索装置。 
【請求項６】
前記検索部は、前記撮影された取引対象に対応する取引対象として、当該撮影された取引対象と類似する取引対象、または、当該撮影された取引対象と所定の関連性を有する取引対象を検索する
ことを特徴とする請求項１〜５のうちいずれか１つに記載の検索装置。 
【請求項７】
撮影された取引対象の画像を、当該取引対象を検索するための検索クエリを示す画像として、前記撮影された画像とともに表示する端末装置から、当該撮影された画像を受付ける受付部と、
前記推定部と、前記検索部とが前記受付部により受付けられた画像から検索した取引対象の画像を前記端末装置に提供する提供部と
を有することを特徴とする請求項１〜６のうちいずれか１つに記載の検索装置。 
【請求項８】
検索装置が実行する検索方法であって、
取引対象と当該取引対象が属するカテゴリとの間の関係性を学習した学習器を用いて、撮影画像に撮影された取引対象が属するカテゴリを推定する推定工程と、
検索対象となる取引対象が属するカテゴリの特徴量と前記推定工程により推定されたカテゴリの特徴量との類似度、および検索対象となる取引対象の画像が有する特徴量と前記撮影画像が有する特徴量との類似度に基づいて、検索対象となる取引対象の中から前記撮影画像に撮影された取引対象に対応する取引対象を検索する検索工程と
を含むことを特徴とする検索方法。 
【請求項９】
取引対象と当該取引対象が属するカテゴリとの間の関係性を学習した学習器を用いて、撮影画像に撮影された取引対象が属するカテゴリを推定する推定手順と、
検索対象となる取引対象が属するカテゴリの特徴量と前記推定手順により推定されたカテゴリの特徴量との類似度、および検索対象となる取引対象の画像が有する特徴量と前記撮影画像が有する特徴量との類似度に基づいて、検索対象となる取引対象の中から前記撮影画像に撮影された取引対象に対応する取引対象を検索する検索手順と
をコンピュータに実行させるための検索プログラム。
【請求項１０】
検索装置が実行する検索方法であって、
取引対象と当該取引対象が属するカテゴリとの間の関係性を学習した学習器を用いて、画像に撮影された取引対象が属するカテゴリを推定する推定工程と、
前記推定工程により推定されたカテゴリの特徴量と、前記取引対象の特徴とを用いて、前記画像に撮影された取引対象に対応する取引対象を検索する検索工程と
前記画像に含まれる特徴点を用いて前記画像に撮影された取引対象と対応する取引対象を検索できるか否かを判定する判定工程と、
を含み、
前記検索工程は、前記特徴点を用いて前記画像に撮影された取引対象と対応する取引対象を検索できると判定された場合は、前記画像に含まれる特徴点を用いて前記画像に撮影された取引対象と対応する取引対象を検索し、前記特徴点を用いて前記画像に撮影された取引対象と対応する取引対象を検索できないと判定された場合は、前記推定工程により推定されたカテゴリの特徴量と、前記取引対象の特徴とを用いて、前記画像に撮影された取引対象に対応する取引対象を検索する
ことを特徴とする検索方法。
【請求項１１】
取引対象と当該取引対象が属するカテゴリとの間の関係性を学習した学習器を用いて、画像に撮影された取引対象が属するカテゴリを推定する推定手順と、
前記推定手順により推定されたカテゴリの特徴量と、前記取引対象の特徴とを用いて、前記画像に撮影された取引対象に対応する取引対象を検索する検索手順と
前記画像に含まれる特徴点を用いて前記画像に撮影された取引対象と対応する取引対象を検索できるか否かを判定する判定手順と、
をコンピュータに実行させ
前記検索手順は、前記特徴点を用いて前記画像に撮影された取引対象と対応する取引対象を検索できると判定された場合は、前記画像に含まれる特徴点を用いて前記画像に撮影された取引対象と対応する取引対象を検索し、前記特徴点を用いて前記画像に撮影された取引対象と対応する取引対象を検索できないと判定された場合は、前記推定手順により推定されたカテゴリの特徴量と、前記取引対象の特徴とを用いて、前記画像に撮影された取引対象に対応する取引対象を検索させる
ための検索プログラム。