(57)【特許請求の範囲】
【請求項１】
コンテンツに含まれる複数の情報から当該コンテンツの内容を示す内容情報として複数次元の情報を生成し、当該内容情報が入力された場合に当該内容情報の次元数を圧縮することで当該コンテンツの内容が有する特徴を示す特徴情報を抽出するとともに、当該特徴情報の次元数を拡張することで入力された前記内容情報を復元する機能を有する学習器であって、入力された内容情報と復元された内容情報とが同じとなり、かつ、同一カテゴリに属する複数のコンテンツから抽出された特徴情報同士の類似度が、異なるカテゴリに属する複数のコンテンツから抽出された特徴情報同士の類似度よりも大きくなるように学習が行われた学習器を用いて、当該内容情報が示す内容を抽象化することで、前記コンテンツの内容が有する特徴を示す特徴情報を抽出する抽出部と、
複数のコンテンツから抽出された特徴情報が類似するか否かを判定する判定部と、
前記特徴情報が類似するか否かに基づいて、前記複数のコンテンツのうち配信対象とするコンテンツを決定する決定部と
を有することを特徴とする判定装置。
【請求項２】
前記抽出部は、前記コンテンツに含まれる情報の分散表現又は局所表現から前記内容情報を生成し、生成した内容情報を抽象化することで、当該コンテンツの内容が有する特徴を示す特徴情報を抽出する
ことを特徴とする請求項１に記載の判定装置。  
【請求項３】
前記抽出部は、前記内容情報として、複数次元の情報を生成し、当該内容情報の次元数を圧縮することで当該コンテンツの内容が有する特徴を示す特徴情報を抽出する学習器を用いて、前記複数のコンテンツの特徴情報をそれぞれ抽出する
ことを特徴とする請求項２に記載の判定装置。  
【請求項４】
前記抽出部は、前記学習器として、前記コンテンツの内容情報の次元数を圧縮して特徴情報を抽出し、抽出した特徴情報から元の内容情報を復元するとともに、類似する複数のコンテンツから抽出された各特徴情報が類似し、類似しない複数のコンテンツから抽出された各特徴情報が類似しないように学習が行われた学習器を用いる
ことを特徴とする請求項３に記載の判定装置。  
【請求項５】
前記抽出部は、前記学習器として、類似する複数のコンテンツから抽出された各特徴情報の内積が、類似しない複数のコンテンツから抽出された各特徴情報の内積よりも大きくなるように学習が行われた学習器を用いる
ことを特徴とする請求項４に記載の判定装置。  
【請求項６】
前記決定部は、２つのコンテンツから抽出された特徴情報が類似すると判定された場合は、いずれか一方のコンテンツを配信対象とし、当該２つのコンテンツから抽出された特徴情報が類似しないと判定した場合は、両方のコンテンツを配信対象とする
ことを特徴とする請求項１〜５のうちいずれか１つに記載の判定装置。  
【請求項７】
入力データに対する演算結果を出力する複数のノードを多層に接続した学習器であって、入力されたコンテンツの内容を示す内容情報が入力された場合に当該内容情報の次元数を圧縮することで当該コンテンツの内容が有する特徴を示す特徴情報を抽出するとともに、当該特徴情報の次元数を拡張することで入力された前記内容情報を復元する機能を有する学習器の教師データとして、類似する複数のコンテンツと、類似しない複数のコンテンツとを受付ける受付部と、
入力された内容情報と復元された内容情報とが同じとなり、かつ、同一カテゴリに属する複数のコンテンツから抽出された特徴情報同士の類似度が、異なるカテゴリに属する複数のコンテンツから抽出された特徴情報同士の類似度よりも大きくなるように、前記学習器が有する各ノード間の接続係数を修正する修正部と
を有することを特徴とする学習装置。  
【請求項８】
前記修正部は、類似する複数のコンテンツから抽出された各特徴情報の集合類似度、コサイン類似度、又は内積の値が、類似しない複数のコンテンツから抽出された各特徴情報の集合類似度、コサイン類似度、又は内積の値よりも大きくなるように、前記学習器が有する各ノード間の接続係数を修正する
ことを特徴とする請求項７に記載の学習装置。  
【請求項９】
前記修正部は、前記学習器が有する層のうち、出力する情報の次元数が最少となる中間層から出力された情報を前記特徴情報とする
ことを特徴とする請求項７または８に記載の学習装置。  
【請求項１０】
判定装置が実行する判定方法であって、
コンテンツに含まれる複数の情報から当該コンテンツの内容を示す内容情報として複数次元の情報を生成し、当該内容情報が入力された場合に当該内容情報の次元数を圧縮することで当該コンテンツの内容が有する特徴を示す特徴情報を抽出するとともに、当該特徴情報の次元数を拡張することで入力された前記内容情報を復元する機能を有する学習器であって、入力された内容情報と復元された内容情報とが同じとなり、かつ、同一カテゴリに属する複数のコンテンツから抽出された特徴情報同士の類似度が、異なるカテゴリに属する複数のコンテンツから抽出された特徴情報同士の類似度よりも大きくなるように学習が行われた学習器を用いて、当該内容情報が示す内容を抽象化することで、前記コンテンツの内容が有する特徴を示す特徴情報を抽出する抽出工程と、
複数のコンテンツから抽出された特徴情報が類似するか否かを判定する判定工程と、
前記特徴情報が類似するか否かに基づいて、前記複数のコンテンツのうち配信対象とするコンテンツを決定する決定工程と
を含むことを特徴とする判定方法。  
【請求項１１】
コンピュータに、
コンテンツに含まれる複数の情報から当該コンテンツの内容を示す内容情報として複数次元の情報を生成し、当該内容情報が入力された場合に当該内容情報の次元数を圧縮することで当該コンテンツの内容が有する特徴を示す特徴情報を抽出するとともに、当該特徴情報の次元数を拡張することで入力された前記内容情報を復元する機能を有する学習器であって、入力された内容情報と復元された内容情報とが同じとなり、かつ、同一カテゴリに属する複数のコンテンツから抽出された特徴情報同士の類似度が、異なるカテゴリに属する複数のコンテンツから抽出された特徴情報同士の類似度よりも大きくなるように学習が行われた学習器を用いて、当該内容情報が示す内容を抽象化することで、前記コンテンツの内容が有する特徴を示す特徴情報を抽出する抽出手順と、
複数のコンテンツから抽出された特徴情報が類似するか否かを判定する判定手順と、
前記特徴情報が類似するか否かに基づいて、前記複数のコンテンツのうち配信対象とするコンテンツを決定する決定手順と
を実行させることを特徴とする判定プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、判定装置、学習装置、判定方法及び判定プログラムに関する。
【背景技術】
【０００２】
近年、インターネットを介して、ニュースや広告等のコンテンツを配信する技術が知られている。このようなコンテンツを配信する場合は、コンテンツ同士が類似するか否かを判定し、類似するコンテンツの配信を防ぐデデュープが行われる場合がある。例えば、コンテンツに含まれる単語のｔｆ（Term  Frequency）ベクトルやKey-Value形式の値を算出し、算出したベクトルや値の比較結果に基づいてコンテンツ同士の類似度を判定し、他のコンテンツと類似するコンテンツをデデュープの対象とする技術が知られている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開平０９−１０１９９０号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、上記の従来技術では、コンテンツ同士の類似度を適切に判定することができるとは限らないという問題がある。例えば、上記の従来技術では、コンテンツに含まれる単語のｔｆベクトルやKey-Value形式の値を比較する。このため、上記の従来技術では、類似する内容を異なる単語で表したコンテンツ同士をデデュープの対象から除外したり、異なる内容を同様の単語で表したコンテンツをデデュープの対象にする場合がある。
【０００５】
本願は、上記に鑑みてなされたものであって、コンテンツ同士の類似度の判定精度を向上させることを目的とする。
【課題を解決するための手段】
【０００６】
本願に係る判定装置は、コンテンツに含まれる複数の情報から当該コンテンツの内容を示す内容情報として複数次元の情報を生成し、当該内容情報が入力された場合に当該内容情報の次元数を圧縮することで当該コンテンツの内容が有する特徴を示す特徴情報を抽出するとともに、当該特徴情報の次元数を拡張することで入力された前記内容情報を復元する機能を有する学習器であって、入力された内容情報と復元された内容情報とが同じとなり、かつ、同一カテゴリに属する複数のコンテンツから抽出された特徴情報同士の類似度が、異なるカテゴリに属する複数のコンテンツから抽出された特徴情報同士の類似度よりも大きくなるように学習が行われた学習器を用いて、当該内容情報が示す内容を抽象化することで、前記コンテンツの内容が有する特徴を示す特徴情報を抽出する抽出部と、複数のコンテンツから抽出された特徴情報が類似するか否かを判定する判定部と、前記特徴情報が類似するか否かに基づいて、前記複数のコンテンツのうち配信対象とするコンテンツを決定する決定部とを有することを特徴とする。
【発明の効果】
【０００７】
実施形態の一態様によれば、コンテンツ同士の類似度の判定精度を向上させることができるという効果を奏する。
【図面の簡単な説明】
【０００８】
【図１】図１は、実施形態に係る情報配信処理が実行する処理の一例を示す図である。
【図２】図２は、実施形態に係る情報配信装置がコンテンツの内容が有する特徴を比較する処理を説明する図である。
【図３】図３は、情報配信装置が使用する学習器の一例を説明する図である。
【図４】図４は、実施形態に係る情報配信装置が有する機能構成の一例を示す図である。
【図５】図５は、実施形態に係る接続係数データベースに登録される情報の一例を示す図である。
【図６】図６は、実施形態にかかるコンテンツデータベースに登録される情報の一例を示す図である。
【図７】図７は、実施形態にかかる内容情報データベースに登録される情報の一例を示す図である。
【図８】図８は、実施形態にかかる特徴情報データベースに登録される情報の一例を示す図である。
【図９】図９は、実施形態にかかる情報配信装置が実行する学習処理の一例を説明する図である。
【図１０】図１０は、実施形態にかかる情報配信装置による判定結果の一例を示す図である。
【図１１】図１１は、実施形態に係る情報配信装置による学習処理の一例を示すフローチャートである。
【図１２】図１２は、実施形態に係る情報配信装置による情報配信処理の一例を示すフローチャートである。
【図１３】図１３は、実施形態にかかる情報配信装置がコンテンツのサブカテゴリを特定する処理の一例を説明するための図である。
【図１４】図１４は、実施形態に係る情報配信装置１０が実行するストリームデデュープ処理の一例を示す図である。
【図１５】図１５は、情報配信装置の機能を実現するコンピュータのハードウェア構成の一例を示す図である。
【発明を実施するための形態】
【０００９】
以下に、本願に係る判定装置、学習装置、判定方法及び判定プログラムを実施するための形態（以下、「実施形態」と呼ぶ。）について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る判定装置、学習装置、判定方法及び判定プログラムが限定されるものではない。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。
【００１０】
〔１．情報配信装置の一例〕
まず、図１を用いて、判定装置、学習装置、および情報配信装置の一例である情報配信装置１０の一例について説明する。図１は、実施形態に係る情報配信処理が実行する処理の一例を示す図である。図１では、情報配信装置１０が実行する処理の一例として、学習器Ｌｅの学習を行う学習処理の一例と、学習器Ｌｅを用いてコンテンツを利用者Ｕ０１が使用する端末装置１００へと配信する情報配信処理の一例とについて説明する。
【００１１】
ここで、情報配信装置１０が配信するコンテンツとは、所定のクライアントが情報配信装置１０に登録するコンテンツであり、例えば、ニュースやコラム等のテキストを含むコンテンツである。なお、以下の説明では、情報配信装置１０がテキストを含むコンテンツの配信を行う例について説明するが、実施形態はこれに限定されるものではない。すなわち、以下に説明する情報配信処理は、例えば、画像や動画像等のテキストを含まないコンテンツや営利若しくは非営利の広告に関するコンテンツ、ゲーム、メール、ツイート、ブログの記事等、端末装置１００に対して配信可能な任意のコンテンツに対して適用可能である。
【００１２】
図１に示すように、情報配信装置１０は、図示しないネットワーク（例えば、インターネット）を介して、利用者Ｕ０１が使用する端末装置１００と、クライアントが使用するクライアント端末２００と通信可能に接続される。なお、情報配信装置１０がコンテンツを配信する端末装置１００や、クライアント端末２００の数は、図１に示した例に限るものではない。すなわち、情報配信装置１０は、任意の数の端末装置１００およびクライアント端末２００と通信可能である。
【００１３】
端末装置１００は、利用者によって利用される情報処理装置であり、ユーザがニュースやコラム等のコンテンツを閲覧するために利用される。具体例を挙げると、端末装置１００は、スマートフォンやタブレット端末やＰＤＡ（Personal  Digital  Assistant）等の移動端末や、デスクトップ型ＰＣ（Personal  Computer）や、ノート型ＰＣ等である。
【００１４】
クライアント端末２００は、配信対象となるコンテンツを情報配信装置１０に登録する端末装置である。例えば、クライアント端末２００は、コンテンツの生成、編集、配信等を行うクライアントが使用する情報処理装置であり、ＰＤＡ等の移動端末や、ＰＣ、サーバ等である。
【００１５】
情報配信装置１０は、クライアント端末２００から登録されたコンテンツを記憶し、端末装置１００からコンテンツの配信要求を受付けると、記憶したコンテンツを端末装置１００に対して配信する情報処理装置である。例えば、情報配信装置１０は、ＰＣ、サーバ、クラウドシステム等の物理的若しくは仮想的な情報処理装置により実現される。
【００１６】
また、同一または類似する内容のコンテンツを配信した場合、各コンテンツが選択若しくは閲覧される可能性が低下する。このため、情報配信装置１０は、端末装置１００に配信済みのコンテンツ同一又は類似する内容のコンテンツや、同時に配信される複数のコンテンツのうち、他のコンテンツと同一又は類似する内容のコンテンツを配信対象から除外するデデュープを行う。
【００１７】
〔１−１．情報配信処理〕
ここで、従来技術では、配信対象となるコンテンツに含まれる単語のｔｆベクトルや、コンテンツのプロパティに基づくKey-Value形式の値を算出し、算出した値が類似するか否かに基づいて、コンテンツが他のコンテンツと類似するか否かを判定していた。しかしながら、このような技術では、コンテンツ同士の類似度を適切に判定できない場合がある。
【００１８】
例えば、同一人物を本名で示す場合と通名や芸名等で示す場合とでは、テキスト上の表記が相違する。このため、同一人物について説明する複数のコンテンツであっても、人物の表記が異なる場合には、単語のｔｆベクトルや、コンテンツのプロパティに基づくKey-Value形式の値が異なる結果、非類似のコンテンツであると判断される場合がある。この結果、従来技術では、同一若しくは類似する複数のコンテンツを配信対象にしてしまうお場合がある。
【００１９】
また、内容が類似しない複数のコンテンツであっても、使用する単語が同一若しくは類似する場合には、テキスト上の表記が類似する。このため、内容が異なる複数のコンテンツであっても、表記が類似する場合には、単語のｔｆベクトルや、コンテンツのプロパティに基づくKey-Value形式の値が類似する結果、類似のコンテンツであると判断される場合がある。この結果、従来技術では、内容が類似しない複数のコンテンツをデデュープの対象にしてしまう場合がある。
【００２０】
そこで、情報配信装置１０は、以下の情報配信処理を実行する。まず、情報配信装置１０は、コンテンツに含まれる複数の情報からコンテンツの内容を示す内容情報を生成し、内容情報が示す内容を抽象化することで、コンテンツの内容が有する特徴を示す特徴情報を抽出する。そして、情報配信装置１０は、複数のコンテンツから抽出された特徴情報が類似するか否かを判定し、特徴情報が類似するか否かに基づいて、複数のコンテンツのうち配信対象とするコンテンツを決定する。
【００２１】
例えば、情報配信装置１０は、コンテンツがテキストからなるコンテンツである場合、形態素解析等の技術を用いて、コンテンツに含まれる単語を抽出し、ｔｆ−ｉｄｆ（Term  Frequency  -  Inverse  Document  Frequency）等を用いて、抽出した各単語を数値に置き換えることで、すなわち、単語の局所表現を用いて、コンテンツの内容を示す複数次元の数値に置き換えた情報を内容情報として生成する。なお、情報配信装置１０は、各単語を示すベクトルを用いて、すなわち、各単語の分散表現を用いて、コンテンツの内容を複数次元の数値に置き換えた情報を、コンテンツの内容情報として生成してもよい。
【００２２】
続いて、情報配信装置１０は、内容情報が有する次元数を圧縮することで、内容情報が示す内容を抽象化し、コンテンツの内容を示す特徴情報を抽出する。そして、情報配信装置１０は、抽出した特徴情報を比較し、２つのコンテンツから抽出された特徴情報が類似すると判定された場合は、いずれか一方のコンテンツを配信対象とし、２つのコンテンツから抽出された特徴情報が類似しないと判定した場合は、両方のコンテンツを配信対象とする。
【００２３】
例えば、図２は、実施形態に係る情報配信装置がコンテンツの内容が有する特徴を比較する処理を説明する図である。なお、図２に示す例では、コンテンツＡの内容とコンテンツＢの内容とか類似するか否か比較する処理の一例について記載した。例えば、従来の技術では、内容情報同士を比較することで、コンテンツＡの内容とコンテンツＢの内容とか類似するか否かを比較する。すなわち、従来の技術では、図２中（Ａ）に示すように、表層空間上でコンテンツＡおよびコンテンツＢが類似するか否かを判定する。
【００２４】
しかしながら、図２中（Ｂ）に示すように、コンテンツＡから抽出された内容情報Ａには、「野球」、「開幕」、「サッカー」等といったコンテンツＡに含まれる単語を示す複数次元の数値が含まれる。一方、図２中（Ｃ）に示すように、コンテンツＢから抽出された内容情報Ｂには、「野球」、「開幕」、「投手」等といったコンテンツＢに含まれる単語を示す複数次元の数値が含まれる。このため、表層空間上では、コンテンツＡの表記と、コンテンツＢの表記とが類似する場合は、内容情報Ａと内容情報Ｂとが類似することとなる。
【００２５】
この結果、従来の技術では、図２中（Ｄ）に示すように、コンテンツＡの内容とコンテンツＢの内容とが相違しても、コンテンツＡの表記とコンテンツＢの表記とが類似する場合には、コンテンツＡの内容とコンテンツＢの内容とが類似すると判定してしまう。また、従来の技術では、コンテンツＡの内容とコンテンツＢの内容とが類似しても、コンテンツＡの表記とコンテンツＢの表記とが相違する場合には、コンテンツＡの内容とコンテンツＢの内容とが相違すると判定してしまう。このように、表層空間上でコンテンツＡおよびコンテンツＢが類似するか否かを判定した場合には、図２中（Ｅ）に示すように、判定精度の低下を招いてしまう。
【００２６】
一方、情報配信装置１０は、図２中（Ｆ）に示すように、特徴空間上でコンテンツＡの内容とコンテンツＢの内容とが類似するか否かを判定する。すなわち、情報配信装置１０は、コンテンツＡの内容が有する意味と、コンテンツＢの内容が有する意味とが定義される意味空間上で、コンテンツＡの内容とコンテンツＢの内容とが類似するか否かを判定する。
【００２７】
具体的には、情報配信装置１０は、図２中（Ｇ）に示すように、内容情報Ａをさらに抽象化することで、コンテンツＡの内容が有する特徴を示す特徴情報Ａを抽出する。また、情報配信装置１０は、図２中（Ｈ）に示すように、内容情報Ｂをさらに抽象化することで、コンテンツＢの内容が有する特徴を示す特徴情報Ｂを抽出する。すなわち、情報配信装置１０は、コンテンツＡやコンテンツＢの記事素性を抽出する。
【００２８】
ここで、抽象化が適切に行われた場合には、特徴情報Ａおよび特徴情報Ｂは、元のコンテンツＡおよびコンテンツＢの特徴、すなわち内容を示していると考えられる。このため、図２中（Ｉ）に示すように、特徴情報Ａと特徴情報Ｂとが類似する場合には、コンテンツＡおよびコンテンツＢの特徴、すなわち内容が類似すると考えられる。また、図２中（Ｉ）に示すように、特徴情報Ａと特徴情報Ｂとが相違する場合には、コンテンツＡおよびコンテンツＢの特徴、すなわち内容が相違すると考えられる。
【００２９】
そこで、情報配信装置１０は、特徴情報Ａおよび特徴情報Ｂの比較結果に基づいて、コンテンツＡの内容とコンテンツＢの内容とが類似するか否かを判定する。このように、情報配信装置１０は、コンテンツの内容情報が定義される表層空間ではなく、コンテンツの内容が有する特徴が定義される特徴空間（すなわち、コンテンツの内容が有する意味が定義される意味空間）上で、コンテンツが類似するか否かを判定する。
【００３０】
〔１−２．学習器について〕
ここで、情報配信装置１０は、ニューラルネットワークやディープラーニング等、入力データに対する演算結果を出力する複数のノードを多層に接続し、入力された情報の次元数を圧縮することで、入力された情報が有する特徴を抽出する学習器Ｌｅを用いて、内容情報が示す内容の抽象化を行う。このような学習器Ｌｅは、入力された内容情報の次元数を圧縮して特徴情報を抽出し、抽出した特徴情報から元の内容情報を復元するように学習が行われたニューラルネットワークである。さらに、学習器Ｌｅは、類似する複数のコンテンツから抽出された各特徴情報が類似し、類似しない複数のコンテンツから抽出された各特徴情報が類似しないように学習が行われたニューラルネットワークである。
【００３１】
例えば、図３は、情報配信装置が使用する学習器の一例を説明する図である。例えば、情報配信装置１０は、オートエンコーダといわれる学習器Ｌｅを生成する。このような学習器Ｌｅは、図３中（Ａ）に示す入力層と、図３中（Ｂ）に示す中間層と、図３中（Ｃ）に示す出力層とを有する。ここで、入力層には、複数次元の情報の入力を受付ける複数のノードが配置され、入力される情報のうち、自ノードに対応する次元の値が入力される。また、中間層には、入力層よりも少ない数のノードが配置される。また、出力層には、入力層と同数のノードが配置される。
【００３２】
このような学習器Ｌｅのノードは、隣接する層に含まれる全て（若しくは一部）のノードと接続されており、自ノードが含まれる層よりも入力層に近い層のノードからデータを受付けると、受付けたデータに基づいた出力データを生成し、自ノードが含まれる層よりも出力層に近い層のノードへと生成したデータを出力する。そして、各ノードが出力したデータは、データを伝達する経路に対して設定された接続係数を考慮した値に変換され、変換後の値のデータが接続先のノードへと伝達される。
【００３３】
例えば、図３中（Ｄ）に示すように、入力層のノードが出力したデータを「ｘ」とし、図３中（Ｅ）に示すように、接続係数の値を「Ｗ」とすると、中間層のノードに入力されるデータは、「Ｗｘ」となる。この結果、ノードに対する入力ｘと出力ｙとの関係が「ｙ＝σ（ｘ＋ｂ）」で表されるとすると、中間層のノードが出力するデータは、図３中（Ｆ）に示すように、「σ（Ｗｘ＋ｂ）」となり、図３中（Ｇ）で示すように、「Ｗ＾Ｔ」で示される接続係数が設定された経路を介して、出力層のノードに伝達される。その後、出力層のノードは、中間層のノードから伝達されたデータに基づく値のデータを出力する。
【００３４】
ここで、中間層には、入力層よりも少ない数のノードが配置される。このため、中間層が出力するデータは、学習器Ｌｅに入力されるデータの次元数を圧縮したデータとなり、出力層が出力するデータは、次元数を圧縮したデータから再現されたデータであって、入力されたデータと同じ次元数を有するデータとなる。なお、中間層が出力する特徴情報は、例えば、コンテンツの内容の分散表現になりうる。
【００３５】
このため、図３中（Ｈ）に示すように、内容情報Ａを入力した際に学習器Ｌｅが出力するする内容情報ａが、内容情報Ａと同一となるように接続係数Ｗを修正した場合、学習器Ｌｅは、内容情報Ａを再現するために暗に必要な情報、すなわち内容情報Ａが示す内容の特徴を中間層で抽出することとなる。このため、情報配信装置１０は、図３中（Ｉ）に示すように、学習器Ｌｅに内容情報Ａを入力した際の中間層の出力を、内容情報Ａが示す内容、すなわち、コンテンツＡの内容の特徴を示す特徴情報Ａとして抽出する。
【００３６】
また、学習器Ｌｅがコンテンツの内容情報から特徴を上手く抽出できたとしても、類似しないコンテンツ同士の特徴情報が類似するような抽出を行った場合には、デデュープに利用することができない。そこで、情報配信装置１０は、以下の学習処理を行う。
【００３７】
具体的には、情報配信装置１０は、学習器Ｌｅに入力されたコンテンツの内容情報と再現された内容情報とが一致するように、学習器Ｌｅが有する各ノード間の接続係数を修正する。このような処理と同時に、情報配信装置１０は、類似する複数のコンテンツの内容情報から学習部Ｌｅが抽出する各特徴情報が類似し、類似しない複数のコンテンツの内容情報から学習器Ｌｅが抽出する各特徴情報が類似しなくなるように、学習器Ｌｅが有する各ノード間の接続係数Ｗを修正する。この結果、学習器Ｌｅは、コンテンツの内容情報が有する特徴を適切に示す情報であって、コンテンツの類似性に応じた値の情報を特徴情報として抽出することができる。
【００３８】
以下、図１を用いて、上述した処理を実行する情報配信装置１０が実行する学習処理の一例と情報配信処理の一例とについて説明する。
【００３９】
〔１−３．学習処理の一例〕
まず、情報配信装置１０が実行する学習処理について説明する。例えば、情報配信装置１０は、クライアント端末２００からコンテンツと、コンテンツが属するカテゴリおよびサブカテゴリとの登録を受付ける（ステップＳ１）。かかる場合、情報配信装置１０は、登録されたコンテンツと、カテゴリ及びサブカテゴリとを対応付けて記憶する。
【００４０】
ここで、コンテンツが属するカテゴリとは、例えば、「スポーツ」、「芸能」、「ニュース」等といったコンテンツの内容が属する分野を示す情報である。また、サブカテゴリとは、例えば、「サッカー」、「野球」、「テニス」等といったあるカテゴリ（例えば、「スポーツ」）に属する分野をさらに細かく分類する情報である。なお、以下の説明では、同一若しくは類似するカテゴリを「類似カテゴリ」と記載し、類似しないカテゴリを「非類似カテゴリ」と記載する場合がある。
【００４１】
続いて、情報配信装置１０は、記憶したコンテンツに含まれる複数の単語からコンテンツの内容情報を抽出し、抽出した内容情報が示す内容を抽象化することで、特徴情報を抽出する（ステップＳ２）。具体的には、情報配信装置１０は、類似カテゴリに属するコンテンツＡおよびコンテンツＢを抽出するとともに、コンテンツＢが属するカテゴリとは類似しないカテゴリに属するコンテンツＣを抽出する。すなわち、情報配信装置１０は、相互に類似する複数のコンテンツＡおよびコンテンツＢと、相互に類似しない複数のコンテンツＢおよびコンテンツＣを抽出する。
【００４２】
続いて、情報配信装置１０は、図１中（Ａ）に示すように、コンテンツＡから内容情報Ａを生成し、生成した内容情報Ａを学習器Ｌｅに入力する。かかる場合、学習器Ｌｅは、内容情報Ａの次元数を圧縮することで、コンテンツＡの内容が有する特徴を示す特徴情報Ａを抽出するとともに、特徴情報Ａから復元した内容情報ａを出力する。
【００４３】
同様に、情報配信装置１０は、図１中（Ｂ）に示すように、コンテンツＢから内容情報Ｂを生成し、生成した内容情報Ｂを入力情報として学習器Ｌｅに入力することで、コンテンツＢの内容が有する特徴を示す特徴情報Ｂを抽出し、特徴情報Ｂから復元された内容情報ｂを生成する。また、情報配信装置１０は、図１中（Ｃ）に示すように、コンテンツＣから内容情報Ｃを生成し、生成した内容情報Ｃを入力情報として学習器Ｌｅに入力することで、コンテンツＣの内容が有する特徴を示す特徴情報Ｃを抽出し、特徴情報Ｃから復元された内容情報ｃを生成する。
【００４４】
ここで、入力された情報の特徴を失わないように、学習器Ｌｅが入力情報の次元数を圧縮できるのであれば、学習器Ｌｅに入力された情報と、学習器Ｌｅが復元した情報とは、同一若しくは類似する情報になると考えられる。このため、学習器Ｌｅは、内容情報Ａと内容情報ａ、内容情報Ｂと内容情報ｂ、および、内容情報Ｃと内容情報ｃとが類似するように学習されるのが望ましい。
【００４５】
また、入力された情報の特徴が適切に抽出されるのであれば、類似する情報から抽出された特徴情報は類似し、類似しない情報から抽出された特徴情報は類似しないと考えられる。一方、類似カテゴリに属するコンテンツの内容は類似し、非類似カテゴリに属するコンテンツの内容は類似しないと考えられる。このため、学習器Ｌｅは、特徴情報Ａと特徴情報Ｂとが類似し、特徴情報Ｂと特徴情報Ｃとが類似しないように学習されるのが望ましい。
【００４６】
ここで、特徴情報Ａ〜Ｃは、複数次元の数値、すなわちベクトルとして表現される。このため、類似する特徴情報同士の内積の値は、類似しない特徴情報同士の内積の値よりも大きくなる。そこで、情報配信装置１０は、図１中（Ｄ）に示す制約条件を満たすように、学習器Ｌｅの接続係数Ｗを修正する（ステップＳ３）。すなわち、情報配信装置１０は、内容情報Ａと内容情報ａ、内容情報Ｂと内容情報ｂ、および内容情報Ｃと内容情報ｃが同一となり、かつ、特徴情報Ａと特徴情報Ｂの内積が、特徴情報Ｂと特徴情報Ｃとの内積よりも大きくなるように、接続係数Ｗを修正する。
【００４７】
例えば、情報配信装置１０は、内容情報Ａと内容情報ａとの二乗誤差、内容情報Ｂと内容情報ｂとの二乗誤差、および内容情報Ｃと内容情報ｃとの二乗誤差がそれぞれ最小となり、かつ、特徴情報Ａと特徴情報Ｂの内積が、特徴情報Ｂと特徴情報Ｃとの内積よりも大きくなるように、接続係数Ｗをバックプロパゲーション法により修正する。かかる処理の結果、学習器Ｌｅは、特徴の損失を最小限に抑えつつ内容情報Ａ〜Ｃの次元数を圧縮するとともに、各コンテンツＡ〜Ｃの内容が類似するか否かを判定することができる特徴情報Ａ〜Ｃを抽出することができる。なお、情報配信装置１０は、ソフトマックス手法や線形計画法を用いて、上述した制約条件を示す評価関数の値が最大となるように、接続係数Ｗを修正してもよい。
【００４８】
このように、情報配信装置１０は、学習器Ｌｅに入力されたコンテンツの内容情報と再現された内容情報とが一致するように、学習器Ｌｅが有する各ノード間の接続係数を修正する。また、情報配信装置１０は、類似する複数のコンテンツの内容情報から学習部Ｌｅが抽出する各特徴情報が類似し、類似しない複数のコンテンツの内容情報から学習器Ｌｅが抽出する各特徴情報が類似しなくなるように、学習器Ｌｅが有する各ノード間の接続係数Ｗを修正する。
【００４９】
この結果、情報配信装置１０は、コンテンツが有する特徴を示す特徴情報を適切に抽出することができると同時に、抽出した特徴情報同士の比較結果に基づいて、コンテンツの内容同士が類似するか否かを判定することができる。この結果、情報配信装置１０は、コンテンツ同士が類似するか否かを判定精度を向上させ、デデュープの性能を向上させることができる。
【００５０】
〔１−４．情報配信処理の一例〕
次に、情報配信装置１０が実行する情報配信処理について説明する。例えば、情報配信装置１０は、端末装置１００からコンテンツの配信要求を受付ける（ステップＳ４）。このような場合、情報配信装置１０は、配信対象コンテンツの特徴情報を抽出する（ステップＳ５）。例えば、情報配信装置１０は、利用者Ｕ０１のユーザ属性、各コンテンツが登録された日時、各コンテンツのカテゴリやサブカテゴリ等の各種条件に基づいて、登録されたコンテンツの中から配信対象となるコンテンツを配信対象コンテンツとして選択する。続いて、情報配信装置１０は、配信対象コンテンツの内容情報を学習器Ｌｅに入力することで、各コンテンツの特徴情報を抽出する。
【００５１】
そして、情報配信装置１０は、抽出した特徴情報に基づいて、デデュープを行う（ステップＳ６）。例えば、情報配信装置１０は、コンテンツＡ〜Ｄから特徴情報Ａ〜Ｄを抽出した場合、各特徴情報Ａ〜Ｄが類似するか否かを判定する。そして、情報配信装置１０は、特徴情報が他のコンテンツの特徴情報と類似しないコンテンツを配信する（ステップＳ７）。
【００５２】
例えば、情報配信装置１０は、例えば、図１中（Ｅ）に示すように、特徴情報Ｂと特徴情報Ｃとが類似する場合は、コンテンツＢの内容とコンテンツＣの内容とが類似すると判定する。そして、情報配信装置１０は、コンテンツＢとコンテンツＣとのいずれか１方を配信対象とする。例えば、情報配信装置１０は、図１中（Ｆ）に示すように、コンテンツＡ、Ｂ、Ｄを配信対象とし、コンテンツＣを配信対象から除外する。
【００５３】
このように、情報配信装置１０は、コンテンツに含まれる複数の情報（例えば、単語等）からコンテンツの内容を示す内容情報（例えば、コンテンツに含まれる単語の局所表現や分散表現を用いて表されたコンテンツの内容を示す情報）を生成する。また、情報配信装置１０は、内容情報が示す内容を抽象化することで、コンテンツの内容が有する特徴を示す特徴情報を抽出する。そして、情報配信装置１０は、複数のコンテンツから抽出された特徴情報が類似するか否かを判定し、特徴情報が類似するか否かに基づいて、複数のコンテンツのうち配信対象とするコンテンツを決定する。この結果、情報配信装置１０は、コンテンツ同士が類似するか否かを判定精度を向上させ、デデュープの性能を向上させることができる。
【００５４】
ここで、同様の内容のコンテンツを複数表示するよりは、ある程度内容が異なるコンテンツを複数表示した方が、ＣＴＲ（Click  Through  Rate）等のコンテンツの選択率やインプレッション数等の閲覧率が向上することが経験的に知られている。このため、情報配信装置１０は、上述した配信処理を実行することにより、配信したコンテンツの選択率や閲覧率を向上させることができる。
【００５５】
〔２．情報配信装置の構成〕
次に、図４を用いて、実施形態にかかる情報配信装置１０の構成について説明する。図４は、実施形態に係る情報配信装置が有する機能構成の一例を示す図である。図４に示すように、情報配信装置１０は、通信部１１と、記憶部１２と、制御部１３とを有する。通信部１１は、例えば、ＮＩＣ（Network  Interface  Card）等によって実現される。そして、通信部１１は、ネットワークＮと有線または無線で接続され、端末装置１００やクライアント端末２００との間で情報の送受信を行う。
【００５６】
〔２−１．記憶部が記憶するデータベース〕
記憶部１２は、例えば、ＲＡＭ（Random  Access  Memory)、フラッシュメモリ（Flash  Memory）等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。また、記憶部１２は、接続係数データベース１４、コンテンツデータベース１５、内容情報データベース１６、特徴情報データベース１７とを記憶する。
【００５７】
接続係数データベース１４には、学習器が有する各ノード間の接続係数が登録される。例えば、図５は、実施形態に係る接続係数データベースに登録される情報の一例を示す図である。図５に示すように、接続係数データベース１４には、「ニューロンＩＤ」、「結合先ニューロンＩＤ」、「接続係数」といった項目を有する。「ニューロンＩＤ」は、学習器Ｌｅに含まれるノードであるニューロンを識別するための識別情報を示す。「結合先ニューロンＩＤ」は、「ニューロンＩＤ」に対応するニューロンと結合する他のニューロンを識別するための識別情報を示す。「接続係数」は、「ニューロンＩＤ」が示すニューロンと、「結合先ニューロンＩＤ」が示すニューロンとを接続する経路に設定された結合係数を示す。
【００５８】
例えば、図５に示す例では、接続係数データベース１４には、ニューロンＩＤ「Ｎ１１」、ニューロンＩＤ「Ｎ２１」、および結合係数「ＷＡ」が対応付けて登録されている。この情報は、ニューロンＩＤ「Ｎ１１」に対応するニューロンが、ニューロンＩＤ「Ｎ２１」に対応するニューロンと結合係数「ＷＡ」が設定された経路で接続されている旨を示す。このため、ニューロンＩＤ「Ｎ２１」に対応するニューロンには、ニューロンＩＤ「Ｎ１１」の出力に接続係数「ＷＡ」を積算した値が入力として伝達される。
【００５９】
コンテンツデータベース１５は、クライアント端末２００から登録を受付けたコンテンツが登録される。例えば、図６は、実施形態にかかるコンテンツデータベースに登録される情報の一例を示す図である。図６に示すように、コンテンツデータベース１５は、「カテゴリ」、「サブカテゴリ」、「コンテンツＩＤ」、「コンテンツ」といった項目を有する。
【００６０】
「カテゴリ」は、コンテンツが属するカテゴリを示す情報である。また、「サブカテゴリ」は、コンテンツが属するサブカテゴリを示す情報である。また、「コンテンツＩＤ」は、登録されたコンテンツを識別する情報である。また、「コンテンツ」とは、登録されたコンテンツのデータである。
【００６１】
例えば、図６に示す例では、カテゴリ「カテゴリ１」、サブカテゴリ「カテゴリ１−１」、コンテンツＩＤ「ＩＤ１」、コンテンツ「コンテンツＡ」が対応付けて登録されている。この情報は、コンテンツＩＤ「ＩＤ１」で示されるコンテンツ「コンテンツＡ」が、カテゴリ「カテゴリ１」に含まれるサブカテゴリ「カテゴリ１−１」に属する旨を示す。このように、各コンテンツは、階層構造を有するカテゴリと対応付けて登録される。
【００６２】
内容情報データベース１６は、コンテンツから生成された内容情報が登録される。例えば、図７は、実施形態にかかる内容情報データベースに登録される情報の一例を示す図である。図７に示すように、内容情報データベース１６には、「コンテンツＩＤ」と「内容情報」といった項目を有する。
【００６３】
ここで、図７に示す「コンテンツＩＤ」は、内容情報の抽出元となったコンテンツを示す「コンテンツＩＤ」である。また、「内容情報」は、コンテンツから抽出された内容情報のデータである。例えば、図６に示す例では、コンテンツＩＤ「ＩＤ１」および内容情報「内容情報Ａ」が対応付けて登録される。この情報は、コンテンツＩＤ「ＩＤ１」が示すコンテンツ、すなわちコンテンツＡから抽出された内容情報が「内容情報Ａ」である旨を示す。
【００６４】
特徴情報データベース１７は、コンテンツから抽出された特徴情報が登録される。例えば、図８は、実施形態にかかる特徴情報データベースに登録される情報の一例を示す図である。図８に示すように、特徴情報データベース１７には、「コンテンツＩＤ」と「特徴情報」といった項目を有する。
【００６５】
ここで、図８に示す「コンテンツＩＤ」は、特徴情報の抽出元となったコンテンツを示す「コンテンツＩＤ」である。また、「特徴情報」は、コンテンツから抽出された特徴情報、すなわち、コンテンツから抽出された内容情報を抽象化することで抽出された特徴情報のデータであり、例えば、コンテンツの内容を示す分散表現である。例えば、図８に示す例では、コンテンツＩＤ「ＩＤ１」および特徴情報「特徴情報Ａ」が対応付けて登録される。この情報は、コンテンツＩＤ「ＩＤ１」が示すコンテンツ、すなわちコンテンツＡから抽出された特徴情報が「特徴情報Ａ」である旨を示す。
【００６６】
〔２−２．制御部が有する構成の一例〕
図４に戻って、説明を続ける。制御部１３は、例えば、ＣＰＵ（Central  Processing  Unit）、ＭＰＵ（Micro  Processing  Unit）、ＡＳＩＣ（Application  Specific  Integrated  Circuit）やＦＰＧＡ（Field  Programmable  Gate  Array）等によって、情報配信装置１０内部の記憶装置に記憶されている各種プログラムがＲＡＭを作業領域として実行されることにより実現される。
【００６７】
図４に示すように、制御部１３は、受付部２０、学習部３０、配信部４０を有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、制御部１３の内部構成は、図４に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。また、制御部１３が有する各処理部の接続関係は、図４に示した接続関係に限られず、他の接続関係であってもよい。
【００６８】
受付部２０は、クライアントからコンテンツの登録を受付ける。例えば、受付部２０は、コンテンツのデータと、コンテンツが属するカテゴリおよびサブカテゴリの通知とをクライアント端末２００から受付ける。かかる場合、受付部２０は、受付けたコンテンツに対してコンテンツＩＤを付与し、受付けたコンテンツのデータと、受付けたカテゴリと、受付けたサブカテゴリと、付与したコンテンツＩＤとを対応付けてコンテンツデータベース１５に登録する。
【００６９】
〔２−３．学習部が有する構成の一例〕
学習部３０は、上述した学習処理を実行する。具体的には、学習部３０は、内容情報抽出部３１、特徴情報抽出部３２、および接続係数修正部３３を有する。内容情報抽出部３１は、コンテンツの内容を示す内容情報として、コンテンツの内容を示す複数次元の情報である内容情報を抽出する。
【００７０】
例えば、内容情報抽出部３１は、コンテンツＡがテキスト等である場合は、形態素解析を用いて、コンテンツＡに含まれる単語を抽出する。続いて、内容情報抽出部３１は、ｔｉ−ｉｄｆやＷ２Ｖ（Word  2  Vector）等の技術を用いて、抽出した各単語をベクトル化し、各単語のベクトルの総和を算出することで、コンテンツＡの内容を示すベクトルを生成する。
【００７１】
そして、内容情報抽出部３１は、生成したベクトルをコンテンツＡの内容情報である内容情報Ａとして、コンテンツＡのコンテンツＩＤと対応付けて内容情報データベース１６に登録する。なお、内容情報抽出部３１は、コンテンツＡの内容を示すことができるのであれば、任意の手法で内容情報を生成してよい。
【００７２】
特徴情報抽出部３２は、内容情報が示す内容を抽象化することで、内容情報の抽出元となったコンテンツの内容が有する特徴を示す特徴情報を抽出する。具体的には、特徴情報抽出部３１は、コンテンツから生成された内容情報の次元数を圧縮することで、コンテンツの内容が有する特徴を示す特徴情報を抽出する学習器Ｌｅを用いて、コンテンツの特徴情報を抽出する。
【００７３】
例えば、特徴情報抽出部３２は、接続係数データベース１４からニューロンの接続関係と、接続係数Ｗとを読み出して、学習器Ｌｅを生成する。また、特徴情報抽出部３２は、内容情報データベース１６から内容情報を読出し、読み出した内容情報を学習器Ｌｅの入力層に入力する。そして、特徴情報抽出部３２は、学習器Ｌｅの中間層が出力した情報を特徴情報として特徴情報データベース１７に登録する。
【００７４】
接続係数修正部３３は、類似する複数のコンテンツと、類似しない複数のコンテンツとを教師データとして、学習器Ｌｅの学習を行う。例えば、接続係数修正部３３は、コンテンツデータベース１５から、同一のカテゴリに属する２つのコンテンツを類似する複数のコンテンツとして特定し、異なるカテゴリに属する２つのコンテンツを類似しない複数のコンテンツとして特定する。なお、類似する複数のコンテンツの一部と類似しない複数のコンテンツの一部とは、同一のコンテンツであってもよい。
【００７５】
続いて、接続係数修正部３３は、接続係数データベース１４からニューロンの接続関係と、接続係数Ｗとを読み出して、学習器Ｌｅを生成する。そして、接続係数修正部３３は、特定した各コンテンツの内容情報を学習器Ｌｅに入力し、学習器Ｌｅの出力層が出力した情報を再現された内容情報として取得する。すなわち、接続係数修正部３３は、学習器Ｌｅが、内容情報の次元数を圧縮することで抽出した特徴情報から復元された内容情報を取得する。また、接続係数修正部３３は、特徴情報データベース１７から、特定したコンテンツの特徴情報を取得する。
【００７６】
そして、接続係数修正部３３は、バックプロパゲーション法等を用いて、以下の学習処理を実行する。すなわち、接続係数修正部３３は、入力されたコンテンツの内容情報と、学習器Ｌｅによって再現された内容情報とが一致するように、接続係数Ｗを修正する。同時に、接続係数修正部３３は、類似する複数のコンテンツの内容情報から抽出された特徴情報同士が類似し、類似しない複数のコンテンツの内容情報から抽出された特徴情報同士が類似しなくなるように、接続係数Ｗの値を修正する。
【００７７】
例えば、図９は、実施形態にかかる情報配信装置が実行する学習処理の一例を説明する図である。例えば、接続係数修正部３３は、コンテンツＡを学習器Ｌｅに入力した際に学習器Ｌｅの中間層が出力した情報、すなわち、特徴情報Ａを取得する。また、接続係数修正部３３は、コンテンツＡと同一カテゴリに属するコンテンツＢを学習器Ｌｅに入力した際に学習器Ｌｅの中間層が出力した情報、すなわち、特徴情報Ｂを取得する。また、接続係数修正部３３は、コンテンツＢと異なるカテゴリに属するコンテンツＣを学習器Ｌｅに入力した際に学習器Ｌｅの中間層が出力した情報、すなわち、特徴情報Ｃを取得する。
【００７８】
そして、接続係数修正部３３は、図９中（Ａ）に示すように、特徴情報Ａと特徴情報Ｂとの内積である内積ＡＢを算出する。また、接続係数修正部３３は、図９中（Ｂ）に示すように、特徴情報Ｂと特徴情報Ｃとの内積である内積ＢＣを算出する。ここで、特徴情報Ａと特徴情報Ｂとが類似し、特徴情報Ｂと特徴情報Ｃとが類似しないように学習器Ｌｅの学習を行うのであれば、接続係数修正部３３は、図９中（Ｃ）に示すように、内積ＡＢの値が内積ＢＣの値よりも大きくなるように学習器Ｌｅの接続係数Ｗを修正すればよい。
【００７９】
そこで、接続係数修正部３３は、図９中（Ｄ）に示すように、「−ｌｏｇ（σ（内積ＡＢ−内積ＡＣ））」の値が小さくなるように、接続係数Ｗを再調整する。なお、接続係数修正部３３は、特徴情報同士の集合類似度（Jaccard係数）やコサイン類似度に基づいて、特徴情報同士が類似するか否かを判定し、判定結果に応じて、接続係数Ｗの値を再調整してもよい。例えば、接続係数修正部３３は、特徴情報Ａと特徴情報Ｂとの集合類似度が、特徴情報Ｂと特徴情報Ｃとの集合類似度よりも大きくなるように、接続係数Ｗの値を再調整してもよい。
【００８０】
また、接続係数修正部３３は、内容情報Ａを学習器Ｌｅに入力した際に学習器Ｌｅが出力した内容情報ａ、内容情報Ｂを学習器Ｌｅに入力した際に学習器Ｌｅが出力した内容情報ｂ、内容情報Ｃを学習器Ｌｅに入力した際に学習器Ｌｅが出力した内容情報ｃを取得する。そして、接続係数修正部３３は、上述した再調整と同時に、内容情報Ａと内容情報ａ、内容情報Ｂと内容情報ｂ、および内容情報Ｃと内容情報ｃとが同一となる様に、接続係数Ｗを再調整する。
【００８１】
このように、接続係数修正部３３は、内容情報の次元数を圧縮することで特徴情報を抽出し、抽出した特徴情報から元の内容情報を復元することができるように、学習器Ｌｅの接続係数Ｗを再調整する。同時に、接続係数修正部３３は、同一カテゴリに属する複数のコンテンツから抽出された各特徴情報が類似し、異なるカテゴリに属する複数のコンテンツから抽出された各特徴情報がが類似しないように、学習器Ｌｅの接続係数Ｗを再調整する。
【００８２】
なお、接続係数修正部３３は、内積以外の指標を用いて、内容が類似するコンテンツの特徴情報が類似し、内容が類似しないコンテンツの特徴情報が類似しなくなるように、学習器Ｌｅの学習を行ってもよい。例えば、接続係数修正部３３は、同一のカテゴリに属するコンテンツから抽出された各特徴情報の集合類似度やコサイン類似度の値が、異なるカテゴリに属するコンテンツから抽出された各特徴情報の集合類似度やコサイン類似度の値よりも大きくなるように、接続係数Ｗを修正してもよい。
【００８３】
また、接続係数修正部３３は、同一のサブカテゴリに属する複数のコンテンツから抽出された各特徴情報が類似し、異なるサブカテゴリに属する複数のコンテンツから抽出された各特徴情報が類似しないように、学習器Ｌｅの学習を行ってもよい。このような学習を行った場合、学習器Ｌｅは、異なるサブカテゴリに属するコンテンツから類似しない特徴情報を抽出することができる。
【００８４】
また、接続係数修正部３３は、コンテンツデータベース１５に登録されたコンテンツを用いて、上述した学習処理を繰り返すことで、学習器Ｌｅの精度を向上させることができる。また、接続係数修正部３３は、学習処理の度に、教師データとして用いるコンテンツを変更することで、学習器Ｌｅの精度を向上させることができる。
【００８５】
なお、内容情報抽出部３１、および特徴情報抽出部３２は、接続係数修正部３３が学習器Ｌｅの接続係数Ｗを修正する度に、コンテンツの内容情報や特徴情報を新たに抽出し、抽出した内容情報や特徴情報を内容情報データベース１６や特徴情報データベース１７に登録することとなる。
【００８６】
〔２−４．配信部４０が有する構成の一例〕
図４に戻り、説明を続ける。配信部４０は、上述した配信処理を実行する。例えば、配信部４０は、判定部４１と決定部４２とを有する。なお、配信部４０は、内容情報抽出部３１および特徴情報抽出部３２を有し、コンテンツデータベース１５に登録されたコンテンツの特徴情報を抽出する機能を有していてもよい。
【００８７】
判定部４１は、複数のコンテンツから抽出された特徴情報が類似するか否かを判定する。例えば、判定部４１は、端末装置１００からコンテンツの配信要求を受付けると、端末装置１００を使用する利用者Ｕ０１のユーザ属性、各コンテンツが登録された日時、各コンテンツのカテゴリやサブカテゴリ等の各種条件に基づいて、配信対象の候補となる複数のコンテンツを選択する。なお、判定部４１は、各コンテンツのＣＴＲ（Click  Through  Rate）や配信数、インプレッション数、配信に応じてクライアントから支払われる料金の額、インプレッション保証数等に基づいて、配信対象の候補となるコンテンツを選択してもよい。
【００８８】
続いて、判定部４１は、選択したコンテンツの特徴情報を、特徴情報データベース１７から特定し、特定した特徴情報同士を比較する。すなわち、判定部４１は、コンテンツの内容情報の次元数を圧縮して特徴情報を抽出し、抽出した特徴情報から元の内容情報を復元するとともに、類似する複数のコンテンツから抽出された各特徴情報が類似し、類似しない複数のコンテンツから抽出された各特徴情報が類似しないように学習が行われた学習器Ｌｅを用いて、コンテンツの内容情報から抽出された特徴情報を比較する。
【００８９】
より具体的には、判定部４１は、２つの特徴情報の内積を算出し、算出した内積の値が所定の閾値よりも小さい場合には、特徴情報同士が類似しないと判定し、算出した内積の値が所定の閾値よりも大きい場合には、特徴情報同士が類似すると判定する。例えば、判定部４１は、特徴情報Ａと特徴情報Ｂとの内積の値が所定の閾値よりも大きい場合は、特徴情報Ａと特徴情報Ｂとが類似すると判定する。一方、判定部４１は、特徴情報Ｂと特徴情報Ｃとの内積の値が所定の閾値よりも小さい場合は、特徴情報Ｂと特徴情報Ｃとが類似しないと判定する。なお、判定部４１は、特徴情報同士の集合類似度（Jaccard係数）やコサイン類似度に基づいて、特徴情報同士が類似するか否かを判定してもよい。
【００９０】
決定部４２は、判定部４１による判定結果に基づいて、判定部４１が選択した複数のコンテンツのうち配信対象とするコンテンツを決定する。例えば、決定部４２は、判定部４１により特徴情報Ａと特徴情報Ｂとが類似すると判定された場合は、特徴情報Ａの抽出元であるコンテンツＡと、特徴情報Ｂの抽出元であるコンテンツＢとのうち、いずれか一方のコンテンツを配信対象とする。
【００９１】
一方、決定部４２は、判定部４１により特徴情報Ｂと特徴情報Ｃとが類似すると判定された場合は、特徴情報Ｂの抽出元であるコンテンツＢと、特徴情報Ｃの抽出元であるコンテンツＣとを配信対象とする。すなわち、決定部４２は、特徴情報Ａと特徴情報Ｂとが類似し、特徴情報Ｂと特徴情報Ｃとが類似しない場合は、コンテンツＡを配信対象から除外し、コンテンツＢとコンテンツＣとを端末装置１００に対して配信することとなる。
【００９２】
〔２−５．情報配信装置による判定の一例〕
次に、図１０を用いて、情報配信装置１０により、コンテンツが類似するか否かの判定精度について説明する。図１０は、実施形態にかかる情報配信装置による判定結果の一例を示す図である。例えば、図１０に示す例では、２つのコンテンツを含む組を複数用意し、内容情報同士の類似度を横軸とし、特徴情報同士（すなわち、分散表現同士）の類似度を縦軸にとり、各組ごとに、コンテンツの内容情報同士の類似度と特徴情報同士の類似度とをプロットした。
【００９３】
また、図１０に示す例では、各組に含まれる２つのコンテンツを４人の利用者に閲覧してもらい、４人の利用者によって２つのコンテンツが類似すると判定された組をバツ印で示した。また、図１０に示す例では、２人もしくは３人の利用者によって２つのコンテンツが類似すると判定された組を三角印で、１人の利用者によって２つのコンテンツが類似すると判定された組を四角印で、全ての利用者によって２つのコンテンツが類似しないと判定された組を丸印でプロットした。
【００９４】
図１０に示すように、内容情報同士の類似度を基準とした場合は、コンテンツの組の類似度に広がりが存在するため、類似するコンテンツの組と類似しないコンテンツの組とを上手く切り分ける閾値を設定するのが困難である。このため、情報配信装置１０は、内容情報同士の類似度を用いた場合は、各コンテンツが類似するか否かを精度良く判定することができない。
【００９５】
一方、特徴情報同士の類似度を基準とした場合は、バツ印で示されるコンテンツの組、三角印で示されるコンテンツの組、四角印で示されるコンテンツの組、および丸印で示されるコンテンツの組のそれぞれの類似度が同程度の範囲内に収まる。このため、情報配信装置１０は、特徴情報同士の類似度を用いることで、各コンテンツが類似するか否かを精度良く判定することができる。
【００９６】
〔３．学習処理の手順〕
次に、図１１を用いて、実施形態に係る情報配信装置１０が実行する学習処理の流れの一例について説明する。図１１は、実施形態に係る情報配信装置による学習処理の一例を示すフローチャートである。例えば、情報配信装置１０は、同一カテゴリに属するコンテンツの組と、異なるカテゴリに属するコンテンツの組とを抽出する（ステップＳ１０１）。続いて、情報配信装置１０は、既存の学習器Ｌｅを用いて、抽出したコンテンツの内容情報から特徴情報を抽出する（ステップＳ１０２）。
【００９７】
そして、情報配信装置１０は、学習器Ｌｅに入力した内容情報と学習器Ｌｅが復元した内容情報とが一致し、かつ、同一カテゴリに属するコンテンツの特徴情報同士が類似し、異なるカテゴリに属するコンテンツの特徴情報同士が類似しないように、学習器Ｌｅの接続係数Ｗを修正する（ステップＳ１０３）。そして、情報配信装置１０は、学習処理を終了する。
【００９８】
〔４．情報配信処理の手順〕
次に、図１２を用いて、実施形態に係る情報配信装置１０が実行する情報配信処理の流れの一例について説明する。図１２は、実施形態に係る情報配信装置による情報配信処理の一例を示すフローチャートである。例えば、情報配信装置１０は、端末装置１００から配信要求を受信したか否かを判定する（ステップＳ２０１）。そして、情報配信装置１０は、配信要求を受信していない場合は（ステップＳ２０１：Ｎｏ）、受信するまで待機する。
【００９９】
一方、情報配信装置１０は、配信要求を受信した場合は（ステップＳ２０１：Ｙｅｓ）、配信対象の候補となるコンテンツを選択する（ステップＳ２０２）。また、情報配信装置１０は、選択したコンテンツの内容情報を抽出し（ステップＳ２０３）、内容情報が示す内容を抽象化することで、コンテンツの内容の特徴を示す特徴情報を抽出する（ステップＳ２０４）。なお、ステップＳ２０３およびステップＳ２０４の処理は、配信要求を受信する前に、図１１に示した学習処理によって学習が行われた学習器Ｌｅにより、予め行われていてもよい。
【０１００】
続いて、情報配信装置１０は、抽出された特徴情報が類似するか否かを判定する（ステップＳ２０５）。そして、情報配信装置１０は、判定結果に基づいて、配信対象となるコンテンツを選択する（ステップＳ２０６）。例えば、情報配信装置１０は、特徴情報Ａと特徴情報Ｂとが類似する場合は、コンテンツＡとコンテンツＢとのどちらか一方を、配信対象とする。そして、情報配信装置１０は、配信対象として選択したコンテンツを配信し（ステップＳ２０７）、処理を終了する。
【０１０１】
〔５．変形例〕
上述した実施形態に係る情報配信装置１０は、上記実施形態以外にも種々の異なる形態にて実施されてよい。そこで、以下では、上記の情報配信装置１０の他の実施形態について説明する。
【０１０２】
〔５−１．学習器について〕
上述した説明では、情報配信装置１０は、入力層、中間層および出力層の３層を有するオートエンコーダである学習器Ｌｅを用いて、特徴情報の抽出を行った。しかしながら、実施形態は、これに限定されるものではない。例えば、情報配信装置１０は、複数の中間層を有する学習器Ｌｅ、すなわち、任意の数の層を有する学習器Ｌｅを用いて、特徴情報の抽出を行ってよい。
【０１０３】
ここで、学習器Ｌｅが複数の中間層を有する場合、ノードの数が最も少ない中間層、すなわち、出力する情報の次元数が最も少ない中間層が、コンテンツの内容の特徴を端的に示していると考えられる。そこで、情報配信装置１０は、複数の中間層を有する学習器Ｌｅを用いる場合、出力する情報の次元数が最も少ない中間層が出力する情報を特徴情報とすればよい。また、情報配信装置１０は、出力する情報の次元数が最も少ない中間層が出力する情報を特徴情報とし、上述した学習処理や配信処理を実行してもよい。
【０１０４】
また、情報配信装置１０は、オートエンコーダ以外にも、任意の学習器Ｌｅを用いて上述した情報配信処理を実行してもよい。また、情報配信装置１０は、コンテンツの内容を示す内容情報を抽象化することで、コンテンツの内容が有する特徴を示す特徴情報を適切に抽出することができるのあれば、ニューラルネットワークやディープラーニング以外にも、任意のモデルを学習してよく、かかるモデルを用いて、上述した情報配信処理を実行してよい。例えば、情報配信装置１０は、入力の一部をランダムにマスクし、出力をマウスクする前の入力に近くなるように学習を行ったＤＡＥ（Denoising  Auto  Encoder）を用いてもよい。このようなＤＡＥでは、マスクされた情報をマスクされなかった情報から復元するように特徴を学習するので、一般的に、オートエンコーダよりも特徴情報の精度が高くなる。このため、情報配信装置１０は、学習器ＬｅとしてＤＡＥを用いることで、より精度の高いデデュープを行うことができる。
【０１０５】
〔５−２．構成について〕
また、上述した説明では、情報配信装置１０は、学習処理と情報配信処理と実行した。しかしながら、実施形態は、これに限定されるものではない。例えば、情報配信装置１０は、学習処理を実行する学習装置と、情報配信処理を実行する配信装置とにより実現されてもよい。このような学習装置は、例えば、図４に示す受付部２０および学習部３０を有し、登録されたコンテンツを教師データとして、学習器Ｌｅの学習を行う。
【０１０６】
一方、配信装置は、図４に示す配信部４０に加え、特徴情報抽出部３２と接続係数修正部３３とを有する。また、配信装置は、配信対象となるコンテンツと、学習装置により学習された学習器Ｌｅを取得する。そして、配信装置は、取得した学習器Ｌｅを用いて、配信するコンテンツの選択、すなわち、デデュープを行い、デデュープの結果選択されたコンテンツを端末装置１００に配信する。
【０１０７】
このように、学習処理と情報配信処理とは、それぞれ個別の情報処理装置により実現されてもよい。また、学習処理と情報配信処理とは、それぞれ個別の情報処理装置により実現される場合、記憶部１２が記憶する各データベース１４〜１７は、各情報処理装置に保持されていてもよく、各情報処理装置がアクセス可能な共有ストレージ等に保持されていてもよい。
【０１０８】
また、学習処理と情報配信処理とは、それぞれ個別の情報処理装置により実現される場合、情報配信そりを実行する情報処理装置においては、学習器Ｌｅが有するノードのうち、中間層以降のノードが不要となる。そこで、情報配信処理を実行する情報処理装置は、学習処理を実行する情報処理装置によって学習された学習器Ｌｅのうち、入力層から中間層までの範囲を有する学習器Ｌｅを保持し、保持した学習器Ｌｅを用いて、情報配信処理を実行してもよい。
【０１０９】
〔５−３．学習器の利用について〕
上述した説明では、情報配信装置１０は、学習処理によって学習された学習器Ｌｅを用いて、内容が類似するコンテンツの配信を防ぐデデュープを行った。しかしながら、実施形態は、これに限定されるものではない。すなわち、情報配信装置１０は、学習器Ｌｅを任意の用途で利用してよい。
【０１１０】
例えば、情報配信装置１０は、学習器Ｌｅを用いて、コンテンツが属するカテゴリを特定してもよい。例えば、情報配信装置１０は、新たなコンテンツＤの登録を受付けた場合、コンテンツＤから抽出した特徴情報と、登録済みのコンテンツＡから抽出した特徴情報とを比較する。そして、情報配信装置１０は、コンテンツＡの特徴情報とコンテンツＤの特徴情報とが類似する場合は、コンテンツＡのカテゴリと同一のカテゴリにコンテンツＤが属すると判定してもよい。
【０１１１】
また、情報配信装置１０は、学習器Ｌｅの学習時に、同一カテゴリに含まれる各サブカテゴリに属する複数のコンテンツから抽出された特徴情報と、新たに登録されるコンテンツから抽出された特徴情報との内積がそれぞれ所定の範囲に収まる場合は、新たに登録されるコンテンツを、そのカテゴリに含まれる新たなサブカテゴリに属するコンテンツであると判定してもよい。
【０１１２】
例えば、図１３は、実施形態にかかる情報配信装置がコンテンツのサブカテゴリを特定する処理の一例を説明するための図である。例えば、図１３中（Ａ）に示す例では、「カテゴリ１」に「サブカテゴリ１−１」および「サブカテゴリ１−２」が含まれている。また、図１３中（Ｂ）に示すように、「カテゴリ２」には、「サブカテゴリ２−１」および「サブカテゴリ２−２」が含まれている。
【０１１３】
ここで、情報配信装置１０は、「カテゴリ１」に属するコンテンツの特徴情報と、「カテゴリ２」に属するコンテンツの特徴情報とが類似しないように学習器Ｌｅの学習を行う。このような学習を行った場合、図１中（Ｃ）に示すように、「カテゴリ１」に属するコンテンツの特徴情報と、「カテゴリ２」に属するコンテンツの特徴情報と間の類似度（例えば、内積の値）は、「α」以下の値となる。
【０１１４】
ここで、情報配信装置１０は、異なるカテゴリのコンテンツから抽出された特徴情報が類似せず、かつ、入力された内容情報と出力する内容情報とが同一となるように、学習器Ｌｅの学習を行う。このような学習を行った場合、学習器Ｌｅは、コンテンツに含まれる単語等の内容を復元するために暗に必要な情報を残しつつ次元数を削減するとともに、カテゴリが異なるコンテンツの特徴情報同士が類似しないように、内容情報の次元数を圧縮するようになる。
【０１１５】
すなわち、学習器Ｌｅは、単語が有する意味単位でのコンテンツの情報欠損を防ぎつつ、コンテンツ同士の類似度を判定可能な特徴情報を抽出することができる。この結果、学習器Ｌｅは、例えば、「日本の野球」についてのコンテンツと、「米国の野球」についてのコンテンツとが「野球」という同一のカテゴリに属していたとしても、ある程度異なる特徴情報を各コンテンツから抽出するようになる。すなわち、学習器Ｌｅは、図１３中（Ｄ）に示すように、同一のカテゴリに属するが、異なるサブカテゴリに属する２つのコンテンツから、「α」よりも値が大きい類似度「β」よりも類似度が小さくなる特徴情報を抽出するようになる。
【０１１６】
そこで、情報配信装置１０は、新たに登録されたコンテンツの特徴情報と、登録済みのコンテンツの特徴情報との間の類似度が、「α」より大きく「β」よりも小さい場合は、新たに登録されたコンテンツが、登録済みのコンテンツと同一カテゴリ内の異なるサブカテゴリに属するコンテンツであると判定する。
【０１１７】
例えば、情報配信装置１０は、１３中（Ｅ）に示すように、新たなコンテンツＦを受付ける。かかる場合、情報配信装置１０は、図１３中（Ｆ）に示すように、「サブカテゴリ１−１」に属するコンテンツＡの特徴情報とコンテンツＦの特徴情報との類似度「γ」を算出する。また、情報配信装置１０は、図１３中（Ｇ）に示すように、「サブカテゴリ１−２」に属するコンテンツＢの特徴情報とコンテンツＦの特徴情報との類似度「δ」を算出する。
【０１１８】
そして、情報配信装置１０は、図１３中（Ｈ）に示すように、算出された類似度「γ」および「δ」が、「α」よりも大きく「β」よりも小さい場合は、コンテンツＦが「カテゴリ１」に属し、「サブカテゴリ１−１」および「サブカテゴリ１−２」以外のサブカテゴリに属すると判定する。この結果、情報配信装置１０は、図１３中（Ｉ）に示すように、「カテゴリ１」に属する新たな「サブカテゴリ１−３」を生成し、コンテンツＦを「サブカテゴリ１−３」に属するコンテンツとする。
【０１１９】
このように、情報配信装置１０は、異なるカテゴリに属するコンテンツの特徴情報同士や、異なるサブカテゴリに属するコンテンツの特徴情報同士が類似しないように学習処理を実行した場合は、コンテンツが属するカテゴリやサブカテゴリの類似性を特徴情報に反映させることができる。この結果、情報配信装置１０は、新たなコンテンツが、設定されていない新規なサブカテゴリに属するコンテンツ（すなわち、中途半端なコンテンツ）であっても、適切に、コンテンツのカテゴリ分けを行うことができる。
【０１２０】
なお、情報配信装置１０は、同一のサブカテゴリに属するコンテンツの特徴情報同士がより類似するように、学習器Ｌｅの学習を行ってもよい。このような処理を実行した場合、情報配信装置１０は、新たなコンテンツが既存のサブカテゴリに属するか否か、属しない場合いは、どのカテゴリに属する新たなサブカテゴリに属するかといった判定を実現することができる。
【０１２１】
〔５−４．ストリームデデュープ〕
ここで、上述した例では、情報配信装置１０は、配信対象となる複数のコンテンツをデデュープの対象とした。しかしながら、実施形態は、これに限定されるものではない。例えば、端末装置１００は、画面上に複数のコンテンツを並べて表示し、利用者が画面をスクロールさせると、新たに表示するコンテンツの配信を要求し、新たに配信されたコンテンツを表示済みのコンテンツに続けて配置することで、あたかもコンテンツが無限に続くような表示（以下、ストリーム表示と記載する。）を行う場合がある。このため、情報配信装置１０は、端末装置１００がストリーム表示を行う場合、配信要求を受付ける度に配信対象となるコンテンツのデデュープを行った場合は、既に配信されたコンテンツと類似するコンテンツを配信してしまう恐れがある。
【０１２２】
そこで、情報配信装置１０は、以下のストリームデデュープ処理を実行してもよい。例えば、情報配信装置１０は、端末装置１００に配信済みのコンテンツから抽出した特徴情報を保持する。また、情報配信装置１０は、配信要求を受信すると、配信対象として新たに選択したコンテンツから特徴情報を抽出する。そして、情報配信装置１０は、端末装置１００に配信済みのコンテンツから抽出された特徴情報と、新たに選択したコンテンツから抽出された特徴情報とが類似するか否かを判定する。
【０１２３】
ここで、情報配信装置１０は、配信済みのコンテンツから抽出された特徴情報と、新たなコンテンツから抽出された特徴情報とが類似する場合は、新たなコンテンツを配信対象から除外する。一方、情報配信装置１０は、配信済みのコンテンツから抽出された特徴情報と、新たなコンテンツから抽出された特徴情報とが類似しない場合は、新たなコンテンツを配信対象とする。
【０１２４】
例えば、図１４は、実施形態に係る情報配信装置１０が実行するストリームデデュープ処理の一例を示す図である。なお、図１４に示す例では、情報配信装置１０からコンテンツＡ〜Ｄが端末装置１００に配信済みであるものとする。例えば、図１４に示す例では、端末装置１００は、情報配信装置１０から配信されたコンテンツＡ〜Ｄを並べて表示する（ステップＳ１０）。そして、端末装置１００は、利用者がスクロール操作を行なうことで、コンテンツＡ〜Ｄに続けて表示するコンテンツを取得する必要がある場合は、情報配信装置１０に対して配信要求を送信する（ステップＳ１１）。
【０１２５】
このような場合、情報配信装置１０は、端末装置１００に配信済みのコンテンツとは特徴情報が類似しない新たなコンテンツを選択する（ステップＳ１２）。例えば、情報配信装置１０は、図１４中（Ａ）に示すように、配信済みコンテンツＡ〜Ｄの特徴情報Ａ〜Ｄを特徴情報群として保持する。また、情報配信装置１０は、図１４中（Ｂ）に示すように、新たな配信対象コンテンツとしてコンテンツＥを選択し、コンテンツＥの内容情報Ｅから特徴情報Ｅを抽出する。同様に、情報配信装置１０は、新たな配信対象コンテンツとしてコンテンツＦを選択し、コンテンツＦの内容情報Ｆから特徴情報Ｆを抽出する。
【０１２６】
そして、情報配信装置１０は、特徴情報Ｅおよび特徴情報Ｆと、特徴情報群に含まれる特徴情報Ａ〜Ｄとが類似するか否かを判定する。そして、例えば、情報配信装置１０は、図１４中（Ｃ）に示すように、特徴情報Ｅと特徴情報Ａ〜Ｄのいずれかが類似する場合は、コンテンツＥを配信対象から除外する。一方、情報配信装置１０は、図１４中（Ｄ）に示すように、特徴情報Ｆと特徴情報Ａ〜Ｄとがいずれも類似しない場合は、コンテンツＦを配信対象とする。
【０１２７】
この結果、情報配信装置１０は、コンテンツＦを端末装置１００へと配信する（ステップＳ１３）。すると、情報配信装置１００は、コンテンツＦを配信済みのコンテンツＡ〜Ｄに続けて表示する。
【０１２８】
〔５−５．デデュープの対象について〕
上述した説明では、情報配信装置１０は、内容が類似しないコンテンツを配信した。しかしながら、実施形態は、これに限定されるものではない。例えば、情報配信装置１０は、２つのコンテンツから抽出された特徴情報の内積の値が所定の閾値よりも大きい場合には、いずれか一方のコンテンツをデデュープの対象とした。ここで、情報配信装置１０は、特徴情報が類似するか否かを判定するための閾値を、任意の値に設定することができる。
【０１２９】
例えば、情報配信装置１０は、２つのコンテンツを閲覧した利用者のうち、半数が類似すると判断し、残りの半数が類似しないと判定するようなコンテンツについては、配信されるように、特徴情報が類似するか否かを判定するための閾値を設定してもよい。また、情報配信装置１０は、２つのコンテンツを閲覧した利用者のうち、全員が類似すると判定するようなコンテンツのみを、デデュープの対象とするように、閾値を設定してもよい。
【０１３０】
このように、類似するか否かの判断が利用者によって異なるような複数のコンテンツ、すなわち、人によってとらえ方が異なるコンテンツは、並べて表示した際に選択率や閲覧率が上昇することが経験的に知られている。このため、情報配信装置１０は、類似するか否かの判断が利用者によって異なるような複数のコンテンツをデデュープの対象から除外することで、コンテンツの選択率や閲覧率を上昇させることができる。
【０１３１】
〔５−６．ターゲティングについて〕
ここで、情報配信装置１０は、配信対象となるコンテンツの選択に、学習器Ｌｅを利用してもよい。例えば、情報配信装置１０は、収入、職業、学歴等のデモグラフィック属性や、ライフスタイルや利用者の好み等のサイコグラフィック属性等、利用者Ｕ０１の属性情報を示す内容情報を求め、学習器Ｌｅを用いて、利用者Ｕ０１の属性情報の特徴を示す特徴情報を抽出する。そして、情報配信装置１０は、特徴情報が、利用者Ｕ０１の属性情報から抽出した特徴情報と類似するコンテンツ、すなわち、利用者Ｕ０１の属性情報の内容に合致する内容のコンテンツを配信対象としてもよい。
【０１３２】
このような処理を実行することで、情報配信装置１０は、ターゲティングの精度を向上させることができる。なお、このような処理を実行する場合、情報配信装置１０は、コンテンツだけではなく、利用者Ｕ０１の属性情報を示す内容情報が、特徴情報から上手く復元されるように、学習器Ｌｅの学習を行えばよい。
【０１３３】
〔５−７．コンテンツについて〕
上述した説明では、情報配信装置１０は、ニュースやコラムなどのテキストを含むコンテンツの内容情報から特徴情報を抽出した。しかしながら、実施形態は、これに限定されるものではない。すなわち、情報配信装置１０は、画像や動画像等のコンテンツから特徴情報を抽出を行い、抽出した特徴情報から元の画像や動画像を復元するとともに、類似する画像や動画像から類似する特徴情報を抽出し、類似しない画像や動画像から類似しない特徴情報を抽出する学習器Ｌｅの学習を行ってもよい。また、情報配信装置１０は、このような学習器Ｌｅを用いて、画像や動画像等が類似するか否かを判定してもよい。
【０１３４】
すなわち、情報配信装置１０は、テキスト情報のみならず、画像や動画像等、情報の次元数を圧縮することで特徴情報を抽出することができるコンテンツであれば、任意のコンテンツについて、上述した学習処理や情報配信処理を採用することができる。例えば、情報配信装置１０は、音楽等のコンテンツについて、上述した学習処理や情報配信処理を採用することができる。より具体的には、情報配信装置１０は、コンテンツが画像や動画像である場合は、各画素のグレースケールや色彩を示す値を、コンテンツに含まれる情報の局所表現や分散表現として用いることで、コンテンツの内容を示す内容情報を生成すればよい。また、情報配信装置１０は、コンテンツが音声である場合は、各時間帯における音声の周波数や振幅等を数値化した値をコンテンツに含まれる情報の局所表現や分散表現として用いることで、コンテンツの内容を示す内容情報を生成すればよい。
【０１３５】
〔５−８．広告の入稿〕
なお、コンテンツが広告である場合、広告主は、広告コンテンツの入稿を代理店に依頼する場合もある。この場合、情報配信装置１０に広告コンテンツを入稿するのは代理店となる。本明細書では、コンテンツが広告である場合、「クライアント」といった表記は、広告コンテンツによって広告が行われるクライアント等、広告主だけでなく代理店を含む概念であり、「クライアント端末」といった表記は、広告主が使用する装置だけでなく代理店によって利用される装置を含む概念であるものとする。
【０１３６】
〔５−９．その他〕
また、上記実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
【０１３７】
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
【０１３８】
例えば、図４に示した各データベース１４〜１７は、情報配信装置１０が保持せずに、ストレージサーバ等に保持されていてもよい。この場合、情報配信装置１０は、ストレージサーバにアクセスすることで、コンテンツ等を取得することとなる。
【０１３９】
また、例えば、上述してきた情報配信装置１０は、端末装置１００から配信要求を受け付けたり、コンテンツを配信したりといった、ユーザとのやりとりを中心に実行するフロントエンドサーバ側と、広告コンテンツの情報配信処理などを実行するバックエンドサーバ側に分散されてもよい。すなわち、情報配信装置１０は、学習器Ｌｅの学習を行う学習装置と、コンテンツの配信を行う配信装置とによって実現されてもよい。
【０１４０】
〔５−１０．ハードウェア構成〕
また、上述してきた実施形態に係る情報配信装置１０は、例えば図１５に示すような構成のコンピュータ１０００によって実現される。図１５は、情報配信装置の機能を実現するコンピュータのハードウェア構成の一例を示す図である。コンピュータ１０００は、ＣＰＵ１１００、ＲＡＭ１２００、ＲＯＭ１３００、ＨＤＤ１４００、通信インターフェイス（Ｉ／Ｆ）１５００、入出力インターフェイス（Ｉ／Ｆ）１６００、及びメディアインターフェイス（Ｉ／Ｆ）１７００を有する。
【０１４１】
ＣＰＵ１１００は、ＲＯＭ１３００又はＨＤＤ１４００に格納されたプログラムに基づいて動作し、各部の制御を行う。ＲＯＭ１３００は、コンピュータ１０００の起動時にＣＰＵ１１００によって実行されるブートプログラムや、コンピュータ１０００のハードウェアに依存するプログラム等を格納する。
【０１４２】
ＨＤＤ１４００は、ＣＰＵ１１００によって実行されるプログラム、及び、かかるプログラムによって使用されるデータ等を記憶する。通信インターフェイス１５００は、ネットワークＮを介して他の機器からデータを受信してＣＰＵ１１００へ送り、また、ネットワークＮを介してＣＰＵ１１００が生成したデータを他の機器へ送信する。ＣＰＵ１１００は、入出力インターフェイス１６００を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置を制御する。ＣＰＵ１１００は、入出力インターフェイス１６００を介して、入力装置からデータを取得する。また、ＣＰＵ１１００は、入出力インターフェイス１６００を介して生成したデータを出力装置へ出力する。
【０１４３】
メディアインターフェイス１７００は、記録媒体１８００に格納されたプログラム又はデータを読み取り、ＲＡＭ１２００を介してＣＰＵ１１００に提供する。ＣＰＵ１１００は、かかるプログラムを、メディアインターフェイス１７００を介して記録媒体１８００からＲＡＭ１２００上にロードし、ロードしたプログラムを実行する。記録媒体１８００は、例えばＤＶＤ（Digital  Versatile  Disc）、ＰＤ（Phase  change  rewritable  Disk）等の光学記録媒体、ＭＯ（Magneto-Optical  disk）等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
【０１４４】
例えば、コンピュータ１０００が情報配信装置１０として機能する場合、コンピュータ１０００のＣＰＵ１１００は、ＲＡＭ１２００上にロードされたプログラムを実行することにより、制御部１３の機能を実現する。また、ＨＤＤ１４００には、記憶部１２内の各データが格納される。コンピュータ１０００のＣＰＵ１１００は、これらのプログラムを記録媒体１８００から読み取って実行するが、他の例として、他の装置から通信網を介してこれらのプログラムを取得してもよい。
【０１４５】
〔６．効果〕
上述したように、情報配信装置１０は、コンテンツに含まれる複数の情報からコンテンツの内容を示す分散情報を生成し、分散情報が示す内容を抽象化することで、コンテンツの内容が有する特徴を示す特徴情報を抽出する。そして、情報配信装置１０は、複数のコンテンツから抽出された特徴情報が類似するか否かに基づいて、複数のコンテンツのうち配信対象とするコンテンツを決定する。
【０１４６】
このように、情報配信装置１０は、コンテンツの内容を示す特徴情報を用いて、コンテンツが類似するか否かを判定するので、コンテンツ同士が類似するか否かを判定精度を向上させ、デデュープの性能を向上させることができる。例えば、情報配信装置１０は、表記が類似するが内容が異なる複数のコンテンツを、類似しないコンテンツと判定し、表記が異なるが内容が類似する複数のコンテンツを、類似すると判定することができる。
【０１４７】
また、情報配信装置１０は、コンテンツのに含まれる情報の分散表現又は局所表現から内容情報を生成し、生成した内容情報を抽象化することで、コンテンツの内容が有する特徴を示す特徴情報を抽出する。このため、情報配信装置１０は、テキスト等、内容情報に変換可能なコンテンツ同士が類似するか否かを適切に判定することができる。
【０１４８】
また、情報配信装置１０は、内容情報として複数次元の情報を生成し、生成した内容情報の次元数を圧縮することでコンテンツの内容が有する特徴を示す特徴情報を抽出する学習器Ｌｅを用いて、複数のコンテンツの特徴情報をそれぞれ抽出する。このため、情報配信装置１０は、コンテンツの表記等ではなく、コンテンツの内容が有する特徴同士を比較することができるので、コンテンツ同士が類似するか否かを適切に判定することができる。
【０１４９】
また、情報配信装置１０は、学習器Ｌｅとして、コンテンツの内容情報の次元数を圧縮して特徴情報を抽出し、抽出した特徴情報から元の内容情報を復元するとともに、類似する複数のコンテンツから抽出された各特徴情報が類似し、類似しない複数のコンテンツから抽出された各特徴情報が類似しないように学習が行われた学習器Ｌｅを用いる。このため、情報配信装置１０は、コンテンツの内容が有する特徴同士を比較することができるので、コンテンツ同士が類似するか否かを適切に判定することができる。
【０１５０】
また、情報配信装置１０は、学習器Ｌｅとして、類似する複数のコンテンツから抽出された各特徴情報の内積が、類似しない複数のコンテンツから抽出された各特徴情報の内積よりも大きくなるように学習が行われた学習器Ｌｅを用いる。このため、情報配信装置１０は、コンテンツ同士が類似するか否かを適切に判定することができる。
【０１５１】
また、情報配信装置１０は、学習器Ｌｅとして、同一カテゴリに属する複数のコンテンツから抽出された各特徴情報が類似し、異なるカテゴリに属する複数のコンテンツから抽出された各特徴情報がが類似しないように学習が行われた学習器Ｌｅを用いる。このため、情報配信装置１０は、教師データとするコンテンツを個別に用意せずとも、配信対象として登録されたコンテンツを用いて、学習器Ｌｅの学習できるとともに、コンテンツ同士が類似するか否かを適切に判定することができる。
【０１５２】
また、情報配信装置１０は、学習器Ｌｅとして、同一のカテゴリに含まれる複数のサブカテゴリのうち、同一のサブカテゴリに属する複数のコンテンツから抽出された各特徴情報が類似し、異なるサブカテゴリに属する複数のコンテンツから抽出された各特徴情報が類似しないように学習が行われた学習器Ｌｅを用いる。このため、情報配信装置１０は、コンテンツ同士が類似するか否かの判定精度をさらに向上させることができる。
【０１５３】
また、情報配信装置１０は、同一のカテゴリに含まれる各サブカテゴリに属する複数のコンテンツから抽出された各特徴情報と、比較対象となるコンテンツから抽出された特徴情報との内積が、それぞれ所定の範囲に収まる場合は、比較対象となるコンテンツを、所定のカテゴリに含まれる新たなサブカテゴリに属するコンテンツとする。このため、情報配信装置１０は、新たなコンテンツを新規なサブカテゴリに分類することができる。
【０１５４】
また、情報配信装置１０は、２つのコンテンツから抽出された特徴情報が類似すると判定された場合は、いずれか一方のコンテンツを配信対象とし、当該２つのコンテンツから抽出された特徴情報が類似しないと判定した場合は、両方のコンテンツを配信対象とする。このため、情報配信装置１０は、デデュープを実現することができる。
【０１５５】
また、情報配信装置１０は、学習器Ｌｅの教師データとして、類似する複数のコンテンツと、類似しない複数のコンテンツとを受付ける。そして、情報配信装置１０は、入力されたコンテンツの内容情報と再現された内容情報とが一致するように、学習器Ｌｅが有する各ノード間の接続係数を修正する。同時に、情報配信装置１０は、類似する複数のコンテンツの内容情報から学習部が抽出する各特徴情報が類似し、類似しない複数のコンテンツの内容情報から学習器Ｌｅが抽出する各特徴情報が類似しなくなるように、学習器Ｌｅが有する各ノード間の接続係数を修正する。
【０１５６】
このため、情報配信装置１０は、コンテンツが類似するか否かを適切に判定することができる学習器Ｌｅを学習することができる。また、情報配信装置１０は、詳細に分類された教師データを容易せずとも、新たなコンテンツを新規なサブカテゴリに属するコンテンツであると判定することができる程度に、コンテンツから特徴情報を抽出することができる学習器Ｌｅを学習することができる。
【０１５７】
また、情報配信装置１０は、類似する複数のコンテンツから抽出された各特徴情報の集合類似度、コサイン類似度、又は内積の値が、類似しない複数のコンテンツから抽出された各特徴情報の集合類似度、コサイン類似度、又は内積の値よりも大きくなるように、学習器Ｌｅが有する各ノード間の接続係数を修正する。このため、情報配信装置１０は、類似するコンテンツの各特徴情報が類似し、類似しないコンテンツの各特徴情報が類似しなないように、学習器Ｌｅの学習を行うことができる。
【０１５８】
また、情報配信装置１０は、学習器Ｌｅが有する層のうち、出力する情報の次元数が最少となる中間層から出力された情報を特徴情報とする。このため、情報配信装置１０は、コンテンツの表記等に現れる情報を除いた特徴情報、すなわち、コンテンツの内容が有する意味の特徴を最も適切に示した特徴情報を用いて、コンテンツが類似するか否かを判定することができる。
【０１５９】
また、情報配信装置１０は、端末装置１００へと順次配信されるコンテンツの特徴情報を抽出する。また、情報配信装置１０は、配信済みのコンテンツから抽出された特徴情報と、新たなコンテンツから抽出された特徴情報とが類似するか否かを判定する。そして、情報配信装置１０は、配信済みのコンテンツから抽出された特徴情報と、新たなコンテンツから抽出された特徴情報とが類似する場合は、新たなコンテンツを配信対象から除外する。一方、情報配信装置１０は、配信済みのコンテンツから抽出された特徴情報と、新たなコンテンツから抽出された特徴情報とが類似しない場合は、新たなコンテンツを配信対象とする。
【０１６０】
この結果、情報配信装置１０は、配信済みのコンテンツの特徴情報とは類似しない特徴情報のコンテンツを配信できる。このため、情報配信装置１０は、端末装置１００がストリーム表示を行う場合にも、配信済みのコンテンツとは類似しないコンテンツを配信することができる。
【０１６１】
以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
【０１６２】
また、上記してきた「部（section、module、unit）」は、「手段」や「回路」などに読み替えることができる。例えば、配信部は、配信手段や配信回路に読み替えることができる。
【符号の説明】
【０１６３】
１０  情報配信装置
１１  通信部
１２  記憶部
１３  制御部
１４  接続係数データベース
１５  コンテンツデータベース
１６  内容情報データベース
１７  特徴情報データベース
２０  受付部
３０  学習部
３１  内容情報抽出部
３２  特徴情報抽出部
３３  接続係数修正部
４０  配信部
４１  判定部
４２  決定部
【図１】
0006522050.tif 000002
【図２】
0006522050.tif 000003
【図３】
0006522050.tif 000004
【図４】
0006522050.tif 000005
【図５】
0006522050.tif 000006
【図６】
0006522050.tif 000007
【図７】
0006522050.tif 000008
【図８】
0006522050.tif 000009
【図９】
0006522050.tif 000010
【図１０】
0006522050.tif 000011
【図１１】
0006522050.tif 000012
【図１２】
0006522050.tif 000013
【図１３】
0006522050.tif 000014
【図１４】
0006522050.tif 000015
【図１５】
0006522050.tif 000016