(57)【要約】【課題】より好適なコンテンツを選択させることができる情報処理装置、コンテンツ配信装置、情報処理方法、およびプログラムを提供すること。【解決手段】端末装置に提供されるコンテンツの候補となる複数のコンテンツのそれぞれについて、前記コンテンツに関する指標を予測した予測指標を導出する予測指標導出部と、前記予測指標導出部により導出された予測指標に基づくランキング指標に基づいて、前記複数のコンテンツのランキングを行うランキング処理部と、前記ランキングに伴うバイアスを低減するように前記予測指標を補正する予測指標補正部と、を備える情報処理装置。【選択図】図１
2020154488.tif 000002
【特許請求の範囲】
【請求項１】
端末装置に提供されるコンテンツの候補となる複数のコンテンツのそれぞれについて、前記コンテンツに関する指標を予測した予測指標を導出する予測指標導出部と、
前記予測指標導出部により導出された予測指標に基づくランキング指標に基づいて、前記複数のコンテンツのランキングを行うランキング処理部と、
前記ランキングに伴うバイアスを低減するように前記予測指標を補正する予測指標補正部と、
を備える情報処理装置。
【請求項２】
前記予測指標補正部は、前記ランキング結果において着目するコンテンツよりも下位となったコンテンツのランキング指標と、前記着目するコンテンツよりも上位となったコンテンツのランキング指標とを含む入力データを予測モデルに入力することで、補正後の予測指標を導出する、
請求項１記載の情報処理装置。
【請求項３】
前記予測指標導出部は、前記着目するコンテンツよりも下位となったコンテンツのランキング指標を−∞、前記着目するコンテンツよりも上位となったコンテンツのランキング指標を＋∞とした入力データを前記予測モデルに入力することで、前記予測指標を導出する、
請求項２記載の情報処理装置。
【請求項４】
前記予測モデルは、コンテンツの配信実績と、配信時に前記予測指標導出部により導出されていた、前記ランキング結果において前記着目するコンテンツよりも下位となったコンテンツのランキング指標と、前記着目するコンテンツよりも上位となったコンテンツのランキング指標とを入力データとし、配信後にクリックされたか否かをラベルとした機械学習によって学習されたモデルである、
請求項２または３記載の情報処理装置。
【請求項５】
前記予測モデルは、ロジスティックス回帰によって生成されるモデルである、
請求項４記載の情報処理装置。
【請求項６】
前記コンテンツの配信実績と、配信時に前記予測指標導出部により導出されていた、前記ランキング結果において前記着目するコンテンツよりも下位となったコンテンツのランキング指標と、前記着目するコンテンツよりも上位となったコンテンツのランキング指標とを入力データとし、配信後にクリックされたか否かをラベルとした機械学習を行うことで前記モデルを生成する予測モデル学習部を更に備える、
請求項４または５記載の情報処理装置。
【請求項７】
請求項１から６のうちいずれか１項記載の情報処理装置と、
前記ランキング処理部の処理結果に基づいて前記端末装置にコンテンツを提供するコンテンツ提供部と、
を備えるコンテンツ配信装置。
【請求項８】
コンピュータが、
端末装置に提供されるコンテンツの候補となる複数のコンテンツのそれぞれについて、前記コンテンツに関する指標を予測した予測指標を導出し、
前記導出された予測指標に基づくランキング指標に基づいて、前記複数のコンテンツのランキングを行い、
前記ランキングに伴うバイアスを低減するように前記予測指標を補正する、
情報処理方法。
【請求項９】
コンピュータに、
端末装置に提供されるコンテンツの候補となる複数のコンテンツのそれぞれについて、前記コンテンツに関する指標を予測した予測指標を導出させ、
前記導出された予測指標に基づくランキング指標に基づいて、前記複数のコンテンツのランキングを行わせ、
前記ランキングに伴うバイアスを低減するように前記予測指標を補正させる、
プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、情報処理装置、コンテンツ配信装置、情報処理方法、およびプログラムに関する。
【背景技術】
【０００２】
従来、コンテンツのクリック率を予測するモデルを生成する装置の発明が開示されている（特許文献１参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特許第５９９６７４７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
コンテンツの配信では、例えば、コンテンツに関する何らかの指標が高い順に所定数のコンテンツが配信される。コンテンツの指標としては、例えば、クリック数やクリック確率などが挙げられる。それらの指標は、ユーザーがコンテンツをクリックするといった確率的な事象に依存する場合もあり、多くは期待値と分散を有する何らかの確率分布に従っている。すなわち、コンテンツの配信は、これから配信したときのコンテンツの指標（ＣＴＲ：Click Through Rateなど）を予測モデルによって予測し、予測した指標に基づくランキング指標に基づいてランキングするといった形で行われる。
【０００５】
ここで考慮されるべきは、あるコンテンツの指標の予測値（以下、予測指標）が偶然に過大評価される程、そのコンテンツはランキングで上位になりがちになるという、正のバイアスが生じる点である。この正のバイアスを選択バイアス（selection bias）と称する。
【０００６】
また、選択バイアスが生じた予測指標を、現実の結果に近づけるように予測モデルをフィードバック補正すると、選択バイアスが生じていない（すなわちランキング外となった）コンテンツの予測指標が下振れるという負のバイアスが生じる場合がある。この負のバイアスをネガティブバイアスと称する。
【０００７】
これらのバイアス（ランキングに伴うバイアス）が生じることによって、例えばコンテンツの一例である広告を配信する際に、真に収益が高い広告を配信できなくなる場合がある。すなわち、好適なコンテンツを選択することができない場合が生じ得る。
【０００８】
本発明は、このような事情を考慮してなされたものであり、より好適なコンテンツを選択させることができる情報処理装置、コンテンツ配信装置、情報処理方法、およびプログラムを提供することを目的の一つとする。
【課題を解決するための手段】
【０００９】
本発明の一態様は、端末装置に提供されるコンテンツの候補となる複数のコンテンツのそれぞれについて、前記コンテンツに関する指標を予測した予測指標を導出する予測指標導出部と、前記予測指標導出部により導出された予測指標に基づくランキング指標に基づいて、前記複数のコンテンツのランキングを行うランキング処理部と、前記ランキングに伴うバイアスを低減するように前記予測指標を補正する予測指標補正部と、を備える情報処理装置である。
【発明の効果】
【００１０】
本発明の一態様によれば、より好適なコンテンツを選択させることができる。
【図面の簡単な説明】
【００１１】
【図１】実施形態の情報処理装置を利用したコンテンツ配信装置１００の構成および使用環境の一例を示す図である。
【図２】主コンテンツＭＣの中に複数の広告コンテンツＣＡが埋め込まれた様子を示す図である。
【図３】予測指標導出部１１０による処理の内容の一例を示す図である。
【図４】予測指標の順位（ランク）ごとに確率分布が偏在する様子を示す図である。
【図５】選択バイアスが生じる原理について説明するための図である。
【図６】ネガティブバイアスが生じる原理の一つについて説明するための図である。
【図７】予測指標補正部１３０による処理の内容を模式的に示す図である。
【図８】情報処理装置により実行される処理の流れの一例を示すフローチャートである。
【図９】ログデータ２２の内容の一例を示す図である。
【図１０】学習データ１６２の内容の一例を示す図である。
【図１１】予測モデル学習部１４０の処理の内容について説明するための図である。
【図１２】数値実験の結果を示す図である。
【発明を実施するための形態】
【００１２】
以下、図面を参照し、本発明の情報処理装置、コンテンツ配信装置、情報処理方法、およびプログラムの実施形態について説明する。
【００１３】
［概説］
情報処理装置は、一以上のプロセッサにより実現される。情報処理装置は、利用者の端末装置に提供されるコンテンツの候補となる複数のコンテンツのそれぞれについて、コンテンツに関する指標を予測した予測指標を導出し、端末装置に提供されるコンテンツを選択するための情報として出力する装置である。情報を出力する先は、自装置の他モジュールであってもよいし、他装置であってもよい。
【００１４】
コンテンツは、広告コンテンツやニュース記事、ショッピングサイトにおける商品販売画面などのコンテンツである。以下の説明では、コンテンツは広告コンテンツであるものとする。広告コンテンツは、例えば、あるサービスが提供する主コンテンツの中に設定された広告枠に埋め込まれる形で端末装置に提供される。広告コンテンツは、例えば、ハイパーリンクが付与された、サンプル画像と紹介文（テキスト）の組み合わせである。これに限らず、広告コンテンツは、テキストのみ、画像のみ、或いは動画などのコンテンツであってもよい。この広告コンテンツがクリックまたはタップされる（選択される）ことで、広告コンテンツに付与されたハイパーリンクの指し示すコンテンツ（例えばランディングページ）が端末装置にダウンロードされ、端末装置において再生される。クリックとタップその他の選択態様について、以下の説明ではクリックに表現を統一して説明する。
【００１５】
広告コンテンツに関する指標とは、例えば、利用者が広告コンテンツを選択する確率、頻度、回数、或いはそれらの組み合わせに基づく指標である。この一例として、ＣＴＲやクリック数、ＣＶＲ（Conversion Rate）がある。また、指標は、ＣＰＭ（Cost Per Mille）やｅＣＰＭ（effective CPM）などの広告効率を示す指標であってもよい。以下の説明では指標はＣＴＲであり、情報処理装置は、予測指標としてＣＴＲを予測した予測ＣＴＲを導出するものとする。
【００１６】
そして、情報処理装置は、ランキングに伴うバイアスを低減するように、予測指標を補正する。これによって、情報処理装置は、広告コンテンツの選択者に、より好適な広告コンテンツを選択させることができる。
【００１７】
［構成］
図１は、実施形態の情報処理装置を利用したコンテンツ配信装置１００の構成および使用環境の一例を示す図である。コンテンツ配信装置１００は、ネットワークＮＷを介して利用者の端末装置１０およびサービスサーバ２０と通信する。ネットワークＮＷは、例えば、インターネット、ＷＡＮ（Wide Area Network）、ＬＡＮ（Local Area Network）、プロバイダ端末、無線通信網、無線基地局、専用回線などを含む。
【００１８】
端末装置１０は、例えば、スマートフォンなどの携帯電話、タブレット端末、各種パーソナルコンピュータなどの、入力装置、表示装置、通信装置、記憶装置、および演算装置を備える端末装置である。通信装置は、ＮＩＣ（Network Interface Card）などのネットワークカード、無線通信モジュールなどを含む。端末装置１０では、ブラウザやアプリケーションプログラムなどのＵＡ（User Agent）が起動し、利用者の入力する内容に応じたリクエストをサービスサーバ２０に送信する。また、ＵＡは、サービスサーバ２０から取得した情報に基づいて、各種画像を表示する。
【００１９】
サービスサーバ２０は、ブラウザからのリクエストに応じてウェブページを端末装置１０に提供するウェブサーバ、またはアプリケーションプログラムからのリクエストに応じて画像や音声を端末装置１０に提供するアプリサーバとして機能する。サービスサーバ２０は、主コンテンツの中に、コンテンツ配信装置１００から提供される広告コンテンツを埋め込んで端末装置１０に提供する。図２は、主コンテンツＭＣの中に複数の広告コンテンツＣＡが埋め込まれた様子を示す図である。図２に示す主コンテンツＭＣは、検索サービスを提供したり、各種ニュースを配信したりするポータルサイトである。主コンテンツＭＣには、複数の広告枠が設定されており、それぞれの広告枠に広告コンテンツＣＡ（図ではＣＡ（１）〜ＣＡ（３））が表示される。
【００２０】
広告コンテンツＣＡは、例えば、サンプル画像とテキストの組み合わせであり、サンプル画像とテキストのいずれをクリックしても広告コンテンツにより広告される商品またはサービスの紹介コンテンツに画面が遷移する。サービスサーバ２０は、例えば、利用者の識別情報（利用者ＩＤ）に対応付けた主コンテンツまたは広告コンテンツの閲覧履歴をログデータ２２として記憶装置に保持しており、要求に応じてコンテンツ配信装置１００にログデータ２２を提供する。
【００２１】
コンテンツ配信装置１００は、例えば、予測指標導出部１１０と、ランキング処理部１２０と、予測指標補正部１３０と、予測モデル学習部１４０と、コンテンツ提供部１５０と、記憶部１６０とを備える。予測指標導出部１１０と、ランキング処理部１２０と、予測指標補正部１３０と、予測モデル学習部１４０とを合わせたものが、情報処理装置の一例である。これらの構成要素は、例えば、ＣＰＵ（Central Processing Unit）などのハードウェアプロセッサがプログラム（ソフトウェア）を実行することにより実現される。これらの構成要素のうち一部または全部は、ＬＳＩ（Large Scale Integration）やＡＳＩＣ（Application Specific Integrated Circuit）、ＦＰＧＡ（Field-Programmable Gate Array）、ＧＰＵ（Graphics Processing Unit）などのハードウェア（回路部；circuitryを含む）によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めＨＤＤ（Hard Disk Drive）やフラッシュメモリなどの記憶装置に格納されていてもよいし、ＤＶＤやＣＤ−ＲＯＭなどの着脱可能な記憶媒体に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。記憶部１６０には、上記プログラムの他、学習データ１６２、予測モデル１６４などが格納される。
【００２２】
予測指標導出部１１０は、例えば、端末装置１０に提供される（以下、配信される）広告コンテンツの候補となる複数の広告コンテンツのそれぞれについて、広告コンテンツのＣＴＲを予測した予測ＣＴＲを導出する。予測ＣＴＲは、予測指標の一例である。予測指標導出部１１０は、例えば、主コンテンツごと、当該主コンテンツにおける広告枠ごとに、予測ＣＴＲを導出する。なお、以下の説明では適宜、その時点では端末装置１０に提供されるかどうか不明であることを表す「候補」なる表現を省略する。
【００２３】
予測指標導出部１１０は、例えば、着目する広告コンテンツが過去に配信された際の実績ＣＴＲ、サービスサーバ２０から取得されるログデータ２２から得られる利用者の属性（趣味嗜好等）と広告コンテンツの内容との類似度などを素性とし、線形あるいは非線形ロジスティック回帰モデルを利用して予測ＣＴＲを導出する。また、ＣＴＲの時間変化を考慮する場合は時系列モデルを用いて予測ＣＴＲを導出してもよい。予測指標導出部１１０は、例えば、予測モデル１６４を用いて予測ＣＴＲを導出する。図３は、予測指標導出部１１０による処理の内容の一例を示す図である。図示するように、予測指標導出部１１０は、ログデータ２２に含まれ、或いはログデータ２２を加工して得られる、広告コンテンツのインプレッション数、クリック数、実績ＣＴＲ、利用者の属性と広告コンテンツの類似度、およびパラメータｖ−＝−∞、ｖ＋＝＋∞などの入力データを予測モデル１６４に入力することで、予測ＣＴＲを導出する。図中、パラメータｖ−、ｖ＋の意義については後述する。予測モデル１６４は、予測モデル学習部１４０による学習処理によって生成され、例えば定期的に更新される。学習処理には、学習データ１６２が使用される。学習データ１６２は、ログデータ２２に基づくものである。この詳細についても後述する。
【００２４】
ランキング処理部１２０は、予測ＣＴＲに基づくランキング指標が高い順に、広告コンテンツに対してランクを付与する。以下、この処理をランキングと称称する。ランクが高いということは、ランキング指標が高かったということである。なお、ランクが数字で表される場合、数字の小さい方がランクが高いことを表すものとする。ランキング指標は、予測指標そのもの（例えば予測ＣＴＲ）でもよいし、予測指標に何らかの計算を加えたものでもよい。例えば、予測収益（予測ＣＴＲに広告のビッドを乗算した値）がランキング指標として用いられてもよい。
【００２５】
予測指標補正部１３０は、ランキング処理部１２０によるランキングに伴うバイアスを低減するように、予測ＣＴＲを補正する。予測指標補正部１３０は、例えば、予測モデル１６４に対して予測指標導出部１１０とは異なるパラメータを入力することで、予測ＣＴＲを補正する。
【００２６】
予測モデル１６４を学習する予測モデル学習部１４０に関しては後述する。
【００２７】
コンテンツ提供部１５０は、サービスサーバ２０からの広告リクエストに応じて、ランキング処理部１２０によって付与されたランクの高い順に所定数の広告コンテンツを広告枠に割り当てる。以下、この所定数に該当することになった広告コンテンツを、ランキング内の広告コンテンツ、所定数から外れた広告コンテンツを、ランキング外の広告コンテンツと称する。例えば、広告枠にも優先順位が付与されており、コンテンツ提供部１５０は、優先順位の高い広告枠にランクの高い広告コンテンツを割り当てる。コンテンツ提供部１５０は、サービスサーバ２０に割り当て結果と共に広告コンテンツを提供する。なお、コンテンツ提供部１５０は、一定割合で、ランダムに抽出した広告コンテンツを広告枠に割り当ててよい。
【００２８】
［バイアスについて］
以下、ランキングに伴うバイアスについて説明する。予測ＣＴＲなどの予測指標は、将来の事象を予測したものであるため、所定の確率分布に従って導出されるものである。このため、ランクが高い広告コンテンツには、確率分布の中で、偶然に高い値が出たに過ぎないものが含まれることになる。図４は、予測指標の順位（ランク）ごとに確率分布が偏在する様子を示す図である。本図は、全ての広告コンテンツのＣＴＲは０．１０として、広告をｎ回インプレッションしたときのクリック数はｎ×０．１０を期待値とする二項分布に従っていることを前提としている。ここでは、予測ＣＴＲ＝クリック数／ｎと定義する。図中、Ｄａｌｌは、ランキングされる前の各広告コンテンツの予測ＣＴＲの確率分布を示し、Ｄ１はランクが１（最も高い）となった広告コンテンツの予測ＣＴＲの条件付き確率分布を示し、Ｄ２はランクが２（１の次に高い）となった広告コンテンツの予測ＣＴＲの条件付き確率分布を示し、Ｄ３はランクが３（２の次に高い）となった広告コンテンツの予測ＣＴＲの条件付き確率分布を示している。図示するように、ランキングされた後の予測ＣＴＲの条件付き確率分布は、ランクが高くなるほど、ランキングされる前の確率分布から正方向にバイアスしている。これは、予測ＣＴＲが高い順にランク付けを考える場合、予測ＣＴＲが偶然に過大評価されたものほど高ランクに選ばれやすいという選択バイアスが生じていることを示している。
【００２９】
このように選択バイアスが生じている状態で、予測ＣＴＲを実測ＣＴＲを近づけるように学習が行われて予測モデル１６４が更新される場合、学習データ１６２は実際に配信された広告コンテンツの情報のみ含むのであるから、その学習は、予測ＣＴＲを小さくする方向に作用する。この結果、予測モデル１６４は、ランキング内の広告コンテンツに関しては正しい予測ＣＴＲを導出するようになるが、ランキング外の広告コンテンツに関しては真のＣＴＲよりも下振れした予測ＣＴＲを導出するようになる。これがネガティブバイアスである。
【００３０】
これらのバイアスを統計的見地から説明する。図５は、選択バイアスが生じる原理について説明するための図である。予測ＣＴＲ（ＡＤ１）は広告コンテンツＡＤ１の予測ＣＴＲの本来の標本分布であり、予測ＣＴＲ（ＡＤ２）は広告コンテンツＡＤ２の予測ＣＴＲの本来の標本分布である。広告コンテンツＡＤ２は、広告コンテンツＡＤ１よりもランクが一つ下位の広告コンテンツである。この場合、仮に予測指標導出部１１０により導出された広告コンテンツＡＤ２のランキング指標（現説明においては予測ＣＴＲ）がｖ−であったとすると、予測指標導出部１１０により導出された広告コンテンツＡＤ１の予測ＣＴＲはｖ−よりも高い筈であるので、予測ＣＴＲ（ＡＤ２）＝ｖ−という条件下での予測ＣＴＲ（ＡＤ１）の条件付き標本分布｛予測ＣＴＲ（ＡＤ１）｜予測ＣＴＲ（ＡＤ２）＝ｖ−｝は、ｖ−よりも高い値で分布することになる。この結果、図示するように条件付き標本分布｛予測ＣＴＲ（ＡＤ１）｜予測ＣＴＲ（ＡＤ２）＝ｖ−｝は、広告コンテンツＡＤ１の本来の標本分布よりも全体的に高ＣＴＲ側にシフトすることになる。これが選択バイアスである。
【００３１】
ランキングの結果、ランクが低かったという条件がネガティブバイアスを生じさせることもある。図６は、これを表すものである。図５と同様に、予測ＣＴＲ（ＡＤ１）は広告コンテンツＡＤ１の予測ＣＴＲの本来の標本分布であり、予測ＣＴＲ（ＡＤ２）は広告コンテンツＡＤ２の予測ＣＴＲの本来の標本分布である。広告コンテンツＡＤ２は、広告コンテンツＡＤ１よりもランクが一つ下位の広告コンテンツである。この場合、仮に予測指標導出部１１０により導出された広告コンテンツＡＤ１のランキング指標（現説明においては予測ＣＴＲ）がｖ＋であったとすると、予測指標導出部１１０により導出された広告コンテンツＡＤ２の予測ＣＴＲはｖ＋よりも低い筈であるので、予測ＣＴＲ（ＡＤ１）＝ｖ＋という条件下での予測ＣＴＲ（ＡＤ２）の条件付き標本分布｛予測ＣＴＲ（ＡＤ２）｜予測ＣＴＲ（ＡＤ１）＝ｖ＋｝は、ｖ−よりも低い値で分布することになる。この結果、図示するように条件付き標本分布｛予測ＣＴＲ（ＡＤ２）｜予測ＣＴＲ（ＡＤ１）＝ｖ＋｝は、広告コンテンツＡＤ２の本来の標本分布よりも全体的に低ＣＴＲ側にシフトすることになる。このようにして、ランキングの結果、偶然にランクが低いと判定されてしまった広告にはネガティブバイアスが生じてしまう。ネガティブバイアスが生じた広告は配信機会を失って予測の下振れが続くことになる。なお、ランクが一つ上位と一つ下位の広告コンテンツが存在する場合、条件付き標本分布は、ｖ−とｖ＋に挟まれた範囲で分布することになり、選択バイアスとネガティブバイアスの双方の影響を受けた分布となる。
【００３２】
このように、選択バイアスは、ランクが下位の広告コンテンツについて導出されたランキング指標に依存し、ネガティブバイアスは、ランクが上位の広告コンテンツについて導出されたランキング指標に依存する。予測指標補正部１３０は、係る原理に基づいて、ランキング処理部１２０によるランキングに伴うバイアスを低減するように、予測ＣＴＲを補正する。
【００３３】
なお、上記の説明では、ランクが一つ下位、または一つ上位の広告コンテンツにのみ着目しているが、実際は、ランクが二つ以上、下位または上位の広告コンテンツのランキング指標も両バイアスに影響を及ぼすものである。バイアスは、他の広告コンテンツ群とランキング指標が近い場合に大きくなり、他の広告コンテンツ群とランキング指標が離れている場合は小さくなるからである。従って、予測指標補正部１３０は、ランクが二つ以上、下位または上位の広告コンテンツのランキング指標も考慮して（予測モデル１６４に入力して）予測ＣＴＲを補正してもよいが、以下では説明を簡便にするために、ランクが一つ下位または上位の広告コンテンツのランキング指標のみを考慮するものとする。
【００３４】
［予測指標の補正］
予測指標補正部１３０は、ランキング内となった広告コンテンツのそれぞれについて、予測指標導出部１１０と同じ種類の入力データを予測モデル１６４に入力することで、補正された予測ＣＴＲ（以下、補正後予測ＣＴＲ）または予測ＣＴＲの補正値を取得する。図７は、予測指標補正部１３０による処理の内容を模式的に示す図である。以下の説明では、予測モデル１６４は補正後予測ＣＴＲを出力するものとする。但し、予測指標補正部１３０は、予測指標導出部１１０とは異なり、着目する広告コンテンツよりもランキング指標が一つ下位の広告コンテンツのランキング指標ｖ−と、着目する広告コンテンツよりもランキング指標が一つ上位の広告コンテンツのランキング指標ｖ＋とを予測モデル１６４に入力する。なお、ランキング指標ｖ−、ｖ＋に代えて、着目する広告コンテンツに対する相対的なランキング指標の差分が入力されてもよい。
【００３５】
予測モデル１６４は、インプレッション数、クリック数、実績ＣＴＲ、利用者の属性と内容の類似度などから求まる粗い予測ＣＴＲに対して、ランキング指標ｖ−、ｖ＋に依存して発生する選択バイアスとネガティブバイアスとを低減するように学習されたモデルである。予測指標補正部１３０は、このようにして得られた、補正後予測ＣＴＲをランキング処理部１２０に出力する。ランキング処理部１２０は、取得した補正後予測ＣＴＲに基づいてランキングをやり直す。これによって、情報処理装置は、より好適なコンテンツをコンテンツ提供部１５０に選択させることができる。
【００３６】
ここで、図３を用いて説明した予測指標導出部１１０の処理について再度、説明する。予測指標導出部１１０は、ランキング指標ｖ−、ｖ＋のところにそれぞれ−∞、＋∞を入力する。これによって、予測指標導出部１１０の処理の段階では、専らネガティブバイアスの影響が低減された予測ＣＴＲが導出される。これに対し、予測指標補正部１３０の処理の段階では、ランキング内となった広告コンテンツについてのみ（すなわち、選択バイアスが生じている広告コンテンツについてのみ）、選択バイアスを低減した予測ＣＴＲを導出し直す。これによって、情報処理装置は、より正確な予測ＣＴＲを導出することができ、より正確な予測ＣＴＲに基づいてより適切なランキング処理を行うことができるため、コンテンツ提供部１５０に、より好適な広告コンテンツを選択させることができる。
【００３７】
図８は、情報処理装置により実行される処理の流れの一例を示すフローチャートである。本フローチャートの処理は、コンテンツ提供部１５０が広告リクエストを取得したときに開始される。
【００３８】
まず、予測指標導出部１１０が、図３を用いて説明したように、予測指標を導出する（Ｓ２００）。次に、ランキング処理部１２０が、予測指標に基づいてランキング指標を導出し（Ｓ２０２）、ランキング指標に基づいて一回目のランキング処理を行う（Ｓ２０４）。
【００３９】
次に、予測指標補正部１３０が、ランキング処理の結果、ランキング内となった広告コンテンツを抽出し（Ｓ２０６）、抽出した広告コンテンツについて、図７を用いて説明したように予測指標を補正する（Ｓ２０８）。ランキング処理部１２０は、補正された予測指標に基づいてランキング指標を導出し（Ｓ２１０）、Ｓ２０６で抽出されなかった（ランキング外となっていた）広告コンテンツについてはＳ２０２で導出されたランキング指標を、Ｓ２０６で抽出された（ランキング内となっていた）広告コンテンツについてはＳ２１０で導出されたランキング指標を用いて、二回目のランキング処理を行う（Ｓ２１２）。ランキング処理部１２０は、二回目のランキング処理の結果をコンテンツ提供部１５０に出力する。なお、前述したように、予測指標＝ランキング指標であってもよく、この場合、Ｓ２０２およびＳ２１０の処理は省略されてよい。
【００４０】
［学習段階］
以下、予測モデル１６４を学習する段階の処理について説明する。予測モデル学習部１４０は、例えば、学習データ１６２を用いた機械学習（例えばロジスティックス回帰）によって、予測モデル１６４を学習する。
【００４１】
学習データ１６２は、ログデータ２２に基づいて生成される。図９は、ログデータ２２の内容の一例を示す図である。ログデータ２２は、例えば、利用者の識別情報であるユーザＩＤに対して、閲覧されたコンテンツの識別情報であるコンテンツＩＤ、閲覧日時、コンテンツに埋め込まれて配信された広告の情報である配信広告情報が対応づけられたデータである。配信広告情報は、例えば、ランキング処理の結果であるランクと、広告コンテンツの識別情報である広告ＩＤと、配信された結果としてクリックされたか否かを示すクリック有無とが互いに対応付けられた情報である。なお、配信広告情報は、サービスサーバ２０によって収集されるのではなく、コンテンツ配信装置１００が収集してログデータ２２に付加するようにしてもよい。
【００４２】
図１０は、学習データ１６２の内容の一例を示す図である。学習データ１６２は、ログデータ２２に対して統計的な集計処理を行ったり、コンテンツ配信装置１００の処理履歴を加えたりしたものである。学習データ１６２の一つのレコードは、広告コンテンツが一回配信されたことに対応して作成される。学習データ１６２は、例えば、広告ＩＤに対して、配信時点のインプレッション数、クリック数、実績ＣＴＲ、利用者の属性と内容の類似度、ｖ−、およびｖ＋と、配信の結果としてのクリック有無とが対応づけられたものを一つのレコードとし、複数のレコードを含むものである。インプレッション数、クリック数、および実績ＣＴＲは、ログデータ２２に対して統計的な処理を行うことで取得される。利用者の属性と内容の類似度、ｖ−、およびｖ＋は予測指標導出部１１０の処理履歴（不図示）を参照して取得される。
【００４３】
図１１は、予測モデル学習部１４０の処理の内容について説明するための図である。予測モデル学習部１４０は、学習データ１６２のうちインプレッション数、クリック数、実績ＣＴＲ、利用者の属性と内容の類似度、ｖ−、およびｖ＋を特徴ベクトルｘ、クリック有無をラベルｙとしたロジスティックス回帰を行うことで、インプレッション数、クリック数、実績ＣＴＲ、利用者の属性と内容の類似度、ｖ−、およびｖ＋を入力すると、予測ＣＴＲを出力する予測モデル１６４を生成する。なお、予測モデル１６４は、機械学習によって取得されるモデルに限らず、ルールベースで作成されたモデルであってもよい。
【００４４】
［再考］
上記のように、予測モデル１６４は、実際に配信された広告コンテンツ、すなわちランキング内となった広告コンテンツに関する配信実績等に基づいて生成されるものである。このため、通常の機械学習の手法では、ランキング外となった広告コンテンツを含む母集団全体についてネガティブバイアスを排除するのは困難であった。この点、実施形態の手法では、一回目のランキング処理の前に、予測モデル１６４にパラメータｖ−＝−∞、ｖ＋＝＋∞を入力して予測ＣＴＲを求めている。配信実績の無い広告コンテンツについてｖ＋＝＋∞という状況は実際には生じないものであるが、ロジスティック回帰によって、配信実績の無い広告コンテンツについての予測ＣＴＲを、ｖ＋＝＋∞という前提で特徴ベクトルの近い配信実績を用いて類推することができる。この結果、予測指標導出部１１０が導出する予測ＣＴＲは、ネガティブバイアスの影響を低減したものとなる。
【００４５】
また、一回目のランキング処理によってランキング内となった広告コンテンツには選択バイアスが生じることになるが、これについて予測指標補正部１３０は、予測指標導出部１１０の処理履歴を参照して得られるパラメータｖ−、ｖ＋を予測モデル１６４に入力して予測ＣＴＲを導出し直すことで、選択バイアスの影響を低減することができる。予測モデル１６４は、パラメータｖ−、ｖ＋に依存した選択バイアスの影響を低減するように学習されたモデルだからである。
【００４６】
［数値実験］
本出願の発明者は、実施形態の予測モデル１６４と、比較例の予測モデルとを用いて数値実験を行った。比較例の予測モデルとは、パラメータｖ−、ｖ＋を入力データとして用いないモデルである。数値実験において、五日分のログデータを用いて予測モデルを学習し、翌日一日分を評価データとした。これを三回に分けて実施した。図１２は、数値実験の結果を示す図である。図中の英数字は、真のＣＴＲと予測ＣＴＲとの一致度合いを示すキャリブレーションの値であり、広告コンテンツの母集団全体について評価した値である。図示するように、実施形態の予測モデル１６４は、キャリブレーションが大きく改善しており、真のＣＴＲに近い値を予測することができることが分かった。
【００４７】
［その他］
情報処理装置は、ネガティブバイアスの影響を低減するために、上記説明した予測モデル１６４を用いた手法と、広告コンテンツのインプレッション確率の逆数でサンプルを重みづけする手法とを混合して予測ＣＴＲを導出してもよい。
【００４８】
また、上記の説明では、専ら選択バイアスとネガティブバイアスに着目したが、更に、広告コンテンツの配信においては、ポジションバイアスが生じることが知られている。これについて、詳細な説明を省略するが、ポジションバイアスがマイナスに作用する場合は、負例を間引くなどして対応すればよい。
【００４９】
以上説明した実施形態の情報処理装置によれば、端末装置１０に提供されるコンテンツの候補となる複数のコンテンツのそれぞれについて、コンテンツに関する指標を予測した予測指標を導出する予測指標導出部１１０と、予測指標導出部１１０により導出された予測指標に基づくランキング指標に基づいて、複数のコンテンツのランキングを行うランキング処理部１２０と、ランキングに伴うバイアスを低減するように予測指標を補正する予測指標補正部１３０と、を備えることにより、より好適なコンテンツをコンテンツ提供部１５０に選択させることができる。
【００５０】
以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
【符号の説明】
【００５１】
１００  コンテンツ配信装置
１１０  予測指標導出部
１２０  ランキング処理部
１３０  予測指標補正部
１４０  予測モデル学習部
１５０  コンテンツ提供部
１６０  記憶部
１６２  学習データ
１６４  予測モデル
【図１】
2020154488.tif 000003
【図２】
2020154488.tif 000004
【図３】
2020154488.tif 000005
【図４】
2020154488.tif 000006
【図５】
2020154488.tif 000007
【図６】
2020154488.tif 000008
【図７】
2020154488.tif 000009
【図８】
2020154488.tif 000010
【図９】
2020154488.tif 000011
【図１０】
2020154488.tif 000012
【図１１】
2020154488.tif 000013
【図１２】
2020154488.tif 000014