(57)【要約】【課題】目標コンバージョン単価に応じて適切に入札単価を制御すること。【解決手段】本願に係る補正装置は、取得部と補正部とを有する。取得部は、広告コンテンツの配信実績を取得する。補正部は、取得部によって取得された広告コンテンツの配信実績と目標コンバージョン単価に基づいて、広告コンテンツが配信対象として選択される基準となる入札単価を補正する。また、取得部は、広告コンテンツの配信実績として、広告コンテンツの配信実績に基づくコンバージョン単価を取得し、補正部は、広告コンテンツの配信実績に基づくコンバージョン単価と目標コンバージョン単価とに誤差がある場合、広告コンテンツの配信実績に基づくコンバージョン単価と目標コンバージョン単価との誤差を小さくするように入札単価を補正する。【選択図】図１
2019040529.tif 000002
【特許請求の範囲】
【請求項１】
広告コンテンツの配信実績を取得する取得部と、
前記取得部によって取得された広告コンテンツの配信実績と目標コンバージョン単価に基づいて、前記広告コンテンツが配信対象として選択される基準となる入札単価を補正する補正部と、
を備えることを特徴とする補正装置。
【請求項２】
前記取得部は、
前記広告コンテンツの配信実績として、前記広告コンテンツの配信実績に基づくコンバージョン単価を取得し、
前記補正部は、
前記広告コンテンツの配信実績に基づくコンバージョン単価と前記目標コンバージョン単価とに誤差がある場合、前記広告コンテンツの配信実績に基づくコンバージョン単価と前記目標コンバージョン単価との誤差を小さくするように前記入札単価を補正する
ことを特徴とする請求項１に記載の補正装置。
【請求項３】
前記補正部は、
前記広告コンテンツの配信実績に基づくコンバージョン単価と前記目標コンバージョン単価とに誤差がある場合、強化学習を用いて前記入札単価を補正するためにとるべき行動を学習し、前記強化学習を用いて学習した行動をとることにより、前記入札単価を補正する
ことを特徴とする請求項２に記載の補正装置。
【請求項４】
前記補正部は、
前記入札単価を算出するために用いる算出関数に前記入札単価を補正する補正関数を乗じることにより、前記入札単価を補正する
ことを特徴とする請求項３に記載の補正装置。
【請求項５】
前記補正部は、
強化学習を用いて前記入札単価を補正する補正関数を学習することにより、前記入札単価を補正する
ことを特徴とする請求項４に記載の補正装置。
【請求項６】
コンピュータが実行する補正方法であって、
広告コンテンツの配信実績を取得する取得工程と、
前記取得工程によって取得された広告コンテンツの配信実績と目標コンバージョン単価に基づいて、前記広告コンテンツが配信対象として選択される基準となる入札単価を補正する補正工程と、
を含むことを特徴とする補正方法。
【請求項７】
広告コンテンツの配信実績を取得する取得手順と、
前記取得手順によって取得された広告コンテンツの配信実績と目標コンバージョン単価に基づいて、前記広告コンテンツが配信対象として選択される基準となる入札単価を補正する補正手順と、
をコンピュータに実行させることを特徴とする補正プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、補正装置、補正方法及び補正プログラムに関する。
【背景技術】
【０００２】
近年、インターネットを介した広告配信が盛んに行われている。例えば、広告媒体（ウェブページ）に設定された広告枠に、企業や商品等の広告コンテンツを表示し、かかる広告コンテンツがクリックされた場合に、広告主のウェブページへ遷移させる広告配信が行われている。
【０００３】
また、このような広告配信では、広告コンテンツを掲載する対価として、広告主に課金する課金額である入札単価が使用される場合がある。
【０００４】
ここで、広告コンテンツに対して設定する入札単価を制御する技術が提案されている。例えば、検索キーワードに基づいて、広告コンテンツのコンバージョン率（ＣＶＲ：Conversion  Rate）に対応した入札単価を広告コンテンツに対して設定する技術が提案されている。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２００６−３５０６６８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、上記の従来技術では、目標コンバージョン単価に応じて適切に入札単価を制御することができるとは限らない。具体的には、上記の従来技術では、広告コンテンツに対応する登録キーワードと検索キーワードとの一致度に基づく重みを、出力した広告コンテンツの入札単価に乗じたものを最終的な入札単価とするにすぎず、目標コンバージョン単価に応じて適切に入札単価を制御することができるとは限らない。なお、目標コンバージョン単価とは、所定の広告コンテンツから商品購入や会員登録等の利益につながる成果を１件獲得するのにかかるコストであるコンバージョン単価（ＣＰＡ：Cost  Per  Action）の目標値である。
【０００７】
本願は、上記に鑑みてなされたものであって、目標コンバージョン単価に応じて適切に入札単価を制御することができる補正装置、補正方法及び補正プログラムを提供することを目的とする。
【課題を解決するための手段】
【０００８】
本願にかかる補正装置は、広告コンテンツの配信実績を取得する取得部と、前記取得部によって取得された広告コンテンツの配信実績と目標コンバージョン単価に基づいて、前記広告コンテンツが配信対象として選択される基準となる入札単価を補正する補正部とを備えたことを特徴とする。
【発明の効果】
【０００９】
実施形態の一態様によれば、目標コンバージョン単価に応じて適切に入札単価を制御することができるといった効果を奏する。
【図面の簡単な説明】
【００１０】
【図１】図１は、実施形態に係る補正処理の一例を示す図である。
【図２】図２は、実施形態に係る補正システムの構成例を示す図である。
【図３】図３は、実施形態に係る補正装置の構成例を示す図である。
【図４】図４は、実施形態に係る広告情報記憶部の一例を示す図である。
【図５】図５は、実施形態に係る広告配信履歴記憶部の一例を示す図である。
【図６】図６は、実施形態に係るモデル記憶部の構成例を示す図である。
【図７】図７は、実施形態に係る補正処理の一例を示す図である。
【図８】図８は、実施形態に係る第１モデル生成処理手順を示すフローチャートである。
【図９】図９は、実施形態に係る第２モデル生成処理手順を示すフローチャートである。
【図１０】図１０は、実施形態に係る広告配信処理手順を示すフローチャートである。
【図１１】図１１は、実施形態に係る補正処理手順を示すフローチャートである。
【図１２】図１２は、補正装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。
【発明を実施するための形態】
【００１１】
以下に、本願に係る補正装置、補正方法、補正プログラムを実施するための形態（以下、「実施形態」と呼ぶ）について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る補正装置、補正方法、補正プログラムが限定されるものではない。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。
【００１２】
〔１．補正処理の一例〕
まず、図１を用いて、実施形態に係る補正処理の一例について説明する。図１は、実施形態に係る補正処理の一例を示す図である。図１では、広告配信装置（補正装置）１００が、広告コンテンツＡＤ１の配信実績に基づくコンバージョン単価と目標コンバージョン単価とに誤差がある場合、強化学習を用いて広告コンテンツＡＤ１が配信対象として選択される基準となる入札単価を補正する例を示す。
【００１３】
広告配信装置１００は、広告コンテンツの配信実績と目標コンバージョン単価に基づいて、広告コンテンツが配信対象として選択される基準となる入札単価を補正する補正装置である。
【００１４】
以下、図１を用いて、補正処理の一例を説明する。図１に示す例では、広告配信装置１００は、第１モデルＭ１１に広告配信対象のユーザの検索クエリや訪問ページといったアクセスログを入力することにより、広告配信対象のユーザの第１指標値を算出する（ステップＳ１）。第１指標値は、広告コンテンツＡＤ１をクリックしたか否かに関わらず、ユーザが広告コンテンツＡＤ１の広告主にとって利益につながる行動を起こす度合いを示す数値である。また、広告主にとって利益につながる行動とは、商品購入や資料請求などの行動を指す。
【００１５】
続いて、広告配信装置１００は、第２モデルＭ１２に広告配信対象のユーザの第１指標値を入力することにより、広告配信対象のユーザの第２指標値（コンバージョン率）を算出する（ステップＳ２）。第２指標値は、ユーザが広告コンテンツをクリックする行動に連動して広告コンテンツの広告主にとって利益につながる行動（コンバージョン）を起こす確率（コンバージョン率）である。
【００１６】
続いて、広告配信装置１００は、広告配信対象のユーザの入札単価を決定する（ステップＳ３）。広告配信装置１００は、広告コンテンツＡＤ１の広告主によって設定された目標コンバージョン単価に第２指標値（コンバージョン率）を乗じた値を広告配信対象のユーザの入札単価として決定する。
【００１７】
続いて、広告配信装置１００は、広告配信対象のユーザに配信する広告コンテンツを決定する入札に参加する（ステップＳ４）。ここで、入札の結果、広告コンテンツＡＤ１は配信対象として選択されたものとする。
【００１８】
続いて、広告配信装置１００は、入札に勝った場合、広告コンテンツＡＤ１を広告配信対象のユーザの端末に配信する（ステップＳ５）。
【００１９】
続いて、広告配信装置１００は、配信実績に基づくコンバージョン単価と目標コンバージョン単価の誤差をフィードバックする（ステップＳ６）。具体的には、広告配信装置１００は、広告コンテンツＡＤ１の配信実績として、配信実績に基づくコンバージョン単価と各ユーザの課金額を取得する。
【００２０】
ここで、各ユーザの課金額について説明する。広告配信装置１００は、入札の結果、広告コンテンツＡＤ１が配信対象として選択された場合は、広告コンテンツＡＤ１を配信対象のユーザに配信する。そして、広告コンテンツＡＤ１を配信されたユーザが広告コンテンツＡＤ１をクリックした場合、広告主にそのユーザの課金額として入札単価が課金される。この場合、広告配信装置１００は、そのユーザの課金額として入札単価を取得する。
【００２１】
なお、広告コンテンツＡＤ１を配信されたユーザが広告コンテンツＡＤ１をクリックしなかった場合、広告主に入札単価は課金されない。この場合、広告配信装置１００は、そのユーザの課金額として０円を取得するものとする。また、入札の結果、広告コンテンツＡＤ１が配信対象として選択されなかった場合は、広告配信装置１００は、そのユーザの課金額として０円を取得するものとする。
【００２２】
続いて、広告配信装置１００は、広告コンテンツＡＤ１の配信実績に基づくコンバージョン単価と目標コンバージョン単価とに誤差がある場合、強化学習を用いて広告コンテンツＡＤ１が配信対象として選択される基準となる入札単価を補正する（ステップＳ７）。
【００２３】
上述したように、広告配信装置１００は、広告コンテンツＡＤ１の配信実績を取得し、取得した広告コンテンツＡＤ１の配信実績と目標コンバージョン単価に基づいて、広告コンテンツＡＤ１が配信対象として選択される基準となる入札単価を補正する。
【００２４】
このように、広告配信装置１００は、広告コンテンツの配信実績に基づいて入札単価を補正することにより、配信時に予測したコンバージョン率に基づいて算出された入札単価と現実の課金額との乖離を補正することができる。したがって、広告配信装置１００は、目標コンバージョン単価に応じて適切に入札単価を制御することができる。
【００２５】
なお、図１では、ユーザが広告コンテンツを選択する行動としてユーザが広告コンテンツをクリックする例を示したが、ユーザが広告コンテンツを選択する行動であれば、クリックに限られない。例えば、ユーザがスマートフォンを用いている場合は、ユーザが広告コンテンツを選択する行動は、タップなど任意の操作が行われることに相当する。
【００２６】
〔２．補正システムの構成〕
次に、図２を用いて、実施形態にかかる補正装置１００が含まれる補正システム１の構成について説明する。図２は、実施形態にかかる補正システム１の構成例を示す図である。図２に例示するように、実施形態にかかる補正システム１には、ユーザ端末１０と、アクセスログサーバ２０と、広告主端末３０と、広告配信装置１００とが含まれる。これらの各種装置は、ネットワークＮ（例えば、インターネット）を介して、有線又は無線により通信可能に接続される。なお、図２に示した補正システム１には、複数台のユーザ端末１０や、複数台のアクセスログサーバ２０や、複数台の広告主端末３０が含まれてもよい。また、本実施形態では、アクセスログサーバ２０および広告配信装置１００は、事業者Ｔ１によって管理されているものとする。
【００２７】
ユーザ端末１０は、ユーザによって利用される端末装置である。例えば、ユーザ端末１０は、タブレット型端末、ＰＣ（Personal  Computer）、携帯電話機、ＰＤＡ（Personal  Digital  Assistant）等である。例えば、ユーザ端末１０は、所定のウェブサーバにアクセスすることで、所定のウェブサーバからウェブページを取得し、取得したウェブページを表示画面に表示する。
【００２８】
また、ユーザ端末１０は、ウェブページに広告枠が含まれる場合には、広告配信装置１００にアクセスすることで、広告配信装置１００から広告コンテンツを取得し、取得した広告コンテンツを、かかる広告枠に表示する。
【００２９】
アクセスログサーバ２０は、ユーザの検索クエリやユーザの訪問ページといったアクセスログを保持している。また、アクセスログサーバ２０は、ショッピングサービスを提供する所定のサーバ装置から、ショッピングサービスを利用しているユーザの購入履歴に関する情報を取得する。具体的には、アクセスログサーバ２０は、ショッピングサービスを提供する所定のサーバ装置から、ショッピングサービスを利用しているユーザが広告主にとって利益につながる行動（例えば、広告コンテンツの広告対象商品の購入等）を起こしたか否かに関する情報を取得する。
【００３０】
広告主端末３０は、広告主によって利用される端末装置である。例えば、広告主端末３０は、タブレット型端末、ＰＣ、携帯電話機、ＰＤＡ等である。また、広告主端末３０は、広告主の操作に従って、広告コンテンツを広告配信装置１００に入稿する。
【００３１】
例えば、広告主端末３０は、静止画像、動画像、テキストデータ等に該当する広告コンテンツを広告配信装置１００に入稿する。また、例えば、広告主端末３０は、広告コンテンツが選択操作（例えば、クリックやタップ）された場合に、遷移させる遷移先コンテンツのＵＲＬ（Uniform  Resource  Locator）に該当する広告コンテンツを広告配信装置１００に入稿してもよい。
【００３２】
さらに、広告主端末３０は、広告主の操作に従って、広告コンテンツから商品購入や会員登録等の利益につながる成果を１件獲得するのにかかるコストであるコンバージョン単価の目標値である目標コンバージョン単価を対応する広告コンテンツに設定するよう広告配信装置１００に指示する。
【００３３】
広告配信装置１００は、図１で説明した補正処理を行うサーバ装置である。また、広告配信装置１００は、広告主端末３０から入稿された広告コンテンツを配信するサーバ装置である。
【００３４】
広告配信装置１００は、広告コンテンツを配信したユーザに関する情報を保持している。具体的には、広告配信装置１００は、広告コンテンツを配信したユーザが広告コンテンツをクリックしたか否かに関する情報や、広告コンテンツを配信したユーザがコンバージョンに至ったか否かに関する情報を保持している。
【００３５】
なお、図２では、補正システム１の構成例として、アクセスログを集約して保持するアクセスログサーバ２０から補正装置１００がユーザのアクセスログを取得する例を示したが、検索サーバ装置やショッピングサーバ装置といったそれぞれのサーバ装置から補正装置１００がユーザのアクセスログを取得してもよい。
【００３６】
〔３．補正装置の構成〕
次に、図３を用いて、実施形態にかかる広告配信装置（補正装置）１００について説明する。図３は、実施形態にかかる広告配信装置（補正装置）１００の構成例を示す図である。図３に示すように、広告配信装置（補正装置）１００は、通信部１１０と、記憶部１２０と、制御部１３０とを有する。
【００３７】
（通信部１１０）
通信部１１０は、例えば、ＮＩＣ（Network  Interface  Card）等によって実現される。そして、通信部１１０は、ネットワークＮと有線または無線で接続され、例えば、ユーザ端末１０、アクセスログサーバ２０との間で情報の送受信を行う。
【００３８】
（記憶部１２０）
記憶部１２０は、例えば、ＲＡＭ（Random  Access  Memory)、フラッシュメモリ（Flash  Memory）等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。記憶部１２０は、図３に示すように、広告情報記憶部１２１と、広告配信履歴記憶部１２２と、モデル記憶部１２３とを有する。
【００３９】
（広告情報記憶部１２１）
広告情報記憶部１２１は、広告主端末３０から受け付けた広告コンテンツと目標コンバージョン単価に関する各種情報を記憶する。図４に、実施形態に係る広告情報記憶部１２１の一例を示す。図４に示す例では、広告情報記憶部１２１は、「広告主ＩＤ」、「広告コンテンツＩＤ」、「目標コンバージョン単価」といった項目を有する。
【００４０】
「広告主ＩＤ」は、広告主端末３０の広告主を識別するための識別情報を示す。
【００４１】
「広告コンテンツＩＤ」は、広告主端末３０から受け付けた広告コンテンツを識別するための識別情報を示す。また、例えば、広告コンテンツＩＤ「ＡＤ１」により識別される広告コンテンツを適宜「広告コンテンツＡＤ１」と呼ぶことにする。
【００４２】
「目標コンバージョン単価」は、広告コンテンツにより１件のコンバージョンを得るために費やす広告費の目標値を示す。
【００４３】
図４に示す例では、１レコード目は、広告主ＩＤ「Ｃ１」により識別される広告主から、広告コンテンツＩＤ「ＡＤ１」により識別される広告コンテンツと広告コンテンツＡＤ１により１件のコンバージョンを得るために費やす広告費の目標値「１５，０００」を受け付けたことを示している。
【００４４】
（広告配信履歴記憶部１２２）
広告配信履歴記憶部１２２は、広告コンテンツの配信履歴に関する各種情報を記憶する。図５に、実施形態に係る広告配信履歴記憶部１２２の一例を示す。図５に示す例では、広告配信履歴記憶部１２２は、「広告コンテンツＩＤ」、「ユーザＩＤ」、「広告クリックの有無」、「コンバージョンの有無」、「広告配信日時」といった項目を有する。
【００４５】
「広告コンテンツＩＤ」は、配信した広告コンテンツを識別するための識別情報を示す。また、例えば、広告コンテンツＩＤ「ＡＤ１」により識別される広告コンテンツを適宜「広告コンテンツＡＤ１」と呼ぶことにする。
【００４６】
「ユーザＩＤ」は、広告コンテンツの配信先のユーザを識別するための識別情報を示す。
【００４７】
「広告クリックの有無」は、配信した広告コンテンツが配信先のユーザによってクリックされたか否かの情報を示す。図５に示す例では、配信先のユーザが広告コンテンツをクリックした場合を１、クリックしなかった場合を０で示す。
【００４８】
「コンバージョンの有無」は、広告コンテンツをクリックしたユーザがコンバージョンに至ったか否かの情報を示す。図５に示す例では、広告コンテンツをクリックしたユーザがコンバージョンに至った場合を１、コンバージョンに至らなかった場合を０で示す。
【００４９】
「広告配信日時」は、広告コンテンツを配信した日時の情報を示す。
【００５０】
図５に示す例では、１レコード目は、広告配信日時「２０１７年７月７日１６：１０」にユーザＩＤ「Ｕ１」により識別されるユーザ（ユーザＵ１）に広告コンテンツＩＤ「ＡＤ１」により識別される広告コンテンツが配信されたことを示している。そして、ユーザＩＤ「Ｕ１」により識別されるユーザは、広告コンテンツＡＤ１をクリックせず、コンバージョンに至らなかったことを示す。
【００５１】
（モデル記憶部１２３）
モデル記憶部１２３は、広告コンテンツ毎に生成された第１モデルと第２モデルを広告コンテンツ毎に記憶する。図６に、実施形態に係るモデル記憶部１２３の一例を示す。図６に示す例では、モデル記憶部１２３は、「広告コンテンツＩＤ」、「第１モデルＩＤ」、「第２モデルＩＤ」といった項目を有する。
【００５２】
「広告コンテンツＩＤ」は、広告コンテンツを識別するための識別情報を示す。
【００５３】
「第１モデルＩＤ」は、第１モデルを識別するための識別情報を示す。
【００５４】
「第２モデルＩＤ」は、第２モデルを識別するための識別情報を示す。
【００５５】
図６に示す例では、１レコード目は、広告コンテンツＩＤ「ＡＤ１」により識別される広告コンテンツについて、第１モデルＩＤ「Ｍ１１」により識別される第１モデルと第２モデルＩＤ「Ｍ１２」により識別される第２モデルが格納されていることを示している。
【００５６】
（制御部１３０）
図３の説明に戻って、制御部１３０は、コントローラ（controller）であり、例えば、ＣＰＵ（Central  Processing  Unit）やＭＰＵ（Micro  Processing  Unit）等によって、広告配信装置１００内部の記憶装置に記憶されている各種プログラム（生成プログラムの一例に相当）がＲＡＭを作業領域として実行されることにより実現される。また、制御部１３０は、コントローラであり、例えば、ＡＳＩＣ（Application  Specific  Integrated  Circuit）やＦＰＧＡ（Field  Programmable  Gate  Array）等の集積回路により実現される。
【００５７】
また、制御部１３０は、モデル記憶部１２３に記憶されている第１モデルに従った情報処理により、入力層に入力された所定のユーザの検索クエリや訪問ページといったアクセスログに対し、出力層以外の各層に属する各要素を第１要素として、第１要素と第１要素の重みとに基づく演算を行うことにより、所定のユーザが第２行動を起こすか否かに関する第１指標値を出力層から出力するよう、コンピュータを機能させる。
【００５８】
また、制御部１３０は、モデル記憶部１２３に記憶されている第２モデルに従った情報処理により、入力層に入力された所定のユーザの第１指標値に対し、出力層以外の各層に属する各要素を第１要素として、第１要素と第１要素の重みとに基づく演算を行うことにより、所定のユーザが第１行動に連動して第２行動を起こすか否かに関する第２指標値を出力層から出力するよう、コンピュータを機能させる。
【００５９】
図３に示すように、制御部１３０は、受付部１３１と、第１生成部１３２と、第２生成部１３３と、第１算出部１３４と、第２算出部１３５と、配信部１３６と、取得部１３７と、補正部１３８とを有し、以下に説明する情報処理の作用を実現または実行する。なお、制御部１３０の内部構成は、図３に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。
【００６０】
（受付部１３１）
受付部１３１は、広告主端末３０から広告コンテンツの入稿と目標コンバージョン単価を受け付ける。例えば、受付部１３１は、広告主端末３０から広告コンテンツＡＤ１の入稿と目標コンバージョン単価（目標ＣＰＡ）を受け付ける。
【００６１】
また、受付部１３１は、ユーザ端末１０から広告コンテンツの配信要求を受け付ける。
【００６２】
（第１生成部１３２）
第１生成部１３２は、広告コンテンツをクリックしていないユーザの情報を用いて、所定のユーザの検索クエリや訪問ページといったアクセスログから、所定のユーザが広告コンテンツの広告主にとって利益につながる行動を起こすか否かに関する第１指標値を予測する第１モデルを生成する。
【００６３】
例えば、第１生成部１３２は、受付部１３１が広告主端末３０から広告コンテンツの入稿を受け付けると、広告コンテンツをクリックしていないユーザの情報として、広告コンテンツをクリックしていないユーザの検索クエリや訪問ページといったアクセスログをアクセスログサーバ２０から取得する。
【００６４】
また、第１生成部１３２は、広告コンテンツをクリックしていないユーザの情報として、広告コンテンツをクリックしていないユーザが広告主にとって利益につながる行動（商品購入等）を起こしたか否かに関する情報をアクセスログサーバ２０から取得する。
【００６５】
そして、第１生成部１３２は、広告コンテンツをクリックしていないユーザの情報を用いて、所定のユーザの検索クエリや訪問ページといったアクセスログから、所定のユーザが広告コンテンツの広告主にとって利益につながる行動を起こすか否かに関する第１指標値を予測する第１モデルを生成する。
【００６６】
第１生成部１３２は、第１モデルを生成すると、生成した第１モデルをモデル記憶部１２３に格納する。
【００６７】
なお、第１生成部１３２は、いかなる学習アルゴリズムを用いて第１モデルを生成してもよい。例えば、第１生成部１３２は、ニューラルネットワーク（neural  network）、サポートベクターマシン（support  vector  machine）、クラスタリング、強化学習等の学習アルゴリズムを用いて第１モデルを生成する。一例として、第１生成部１３２がニューラルネットワークを用いて第１モデルを生成する場合、第１モデルは、一以上のニューロンを含む入力層と、一以上のニューロンを含む中間層と、一以上のニューロンを含む出力層とを有する。
【００６８】
第１モデルは、所定のユーザの検索クエリや訪問ページといったアクセスログが入力される入力層と、出力層と、入力層から出力層までのいずれかの層であって出力層以外の層に属する第１要素と、第１要素と第１要素の重みとに基づいて値が算出される第２要素と、を含み、入力層に入力された所定のユーザの検索クエリや訪問ページといったアクセスログに応じて、所定のユーザが広告コンテンツの広告主にとって利益につながる行動を起こすか否かに関する第１指標値を出力層から出力するよう、コンピュータを機能させる。
【００６９】
第１モデルは、所定のユーザの検索クエリや訪問ページといったアクセスログが入力される入力層と、出力層と、入力層から出力層までのいずれかの層であって出力層以外の層に属する第１要素と、第１要素と第１要素の重みとに基づいて値が算出される第２要素と、を含み、入力層に入力された所定のユーザの検索クエリや訪問ページといったアクセスログに対し、出力層以外の各層に属する各要素を第１要素として、第１要素と第１要素の重みとに基づく演算を行うことにより、所定のユーザが広告コンテンツの広告主にとって利益につながる行動を起こすか否かに関する第１指標値を出力層から出力するよう、コンピュータを機能させる。
【００７０】
ここで、第１モデルが「y=a1*x1+a2*x2+・・・+ai*xi」で示す回帰モデルで実現されるとする。この場合、第１モデルが含む第１要素は、x1やx2等といった入力データ（xi）に対応する。また、第１要素の重みは、xiに対応する係数aiに対応する。ここで、回帰モデルは、入力層と出力層とを有する単純パーセプトロンと見做すことができる。各モデルを単純パーセプトロンと見做した場合、第１要素は、入力層が有するいずれかのノードに対応し、第２要素は、出力層が有するノードと見做すことができる。
【００７１】
また、第１モデルがＤＮＮ（Deep  Neural  Network）等、１つまたは複数の中間層を有するニューラルネットワークで実現されるとする。この場合、第１モデルが含む第１要素は、入力層または中間層が有するいずれかのノードに対応する。また、第２要素は、第１要素と対応するノードから値が伝達されるノードである次段のノードに対応する。また、第１要素の重みは、第１要素と対応するノードから第２要素と対応するノードに伝達される値に対して考慮される重みである接続係数に対応する。
【００７２】
広告配信装置１００は、上述した回帰モデルやニューラルネットワーク等、任意の構造を有する第１モデルを用いて、第１指標値の算出を行う。具体的には、第１モデルは、所定のユーザの検索クエリや訪問ページといったアクセスログが入力された場合に、所定のユーザが第２行動を起こすか否かに関する第１指標値を出力するように係数が設定される。広告配信装置１００は、このような第１モデルを用いて、第１指標値を算出する。
【００７３】
なお、上記例では、第１モデルが、所定のユーザの検索クエリや訪問ページといったアクセスログが入力された場合に、所定のユーザが第２行動を起こすか否かに関する第１指標値を出力する第１モデル（モデルＭ１Ｘとする）である例を示した。しかし、実施形態に係る第１モデルは、モデルＭ１Ｘにデータの入出力を繰り返すことで得られる結果に基づいて生成されるモデルであってもよい。例えば、第１モデルは、所定のユーザの検索クエリや訪問ページといったアクセスログを入力とし、モデルＭ１Ｘが出力する所定のユーザが第２行動を起こすか否かに関する第１指標値を出力とするよう学習されたモデル（モデルＭ１Ｙ)であってもよい。または、第１モデルは、所定のユーザの検索クエリや訪問ページといったアクセスログを入力とし、モデルＭ１Ｙの出力値を出力とするよう学習されたモデルであってもよい。
【００７４】
また、広告配信装置１００がＧＡＮ（Generative  Adversarial  Networks）を用いた算出処理を行う場合、第１モデルは、ＧＡＮの一部を構成するモデルであってもよい。
【００７５】
（第２生成部１３３）
第２生成部１３３は、広告コンテンツをクリックしたユーザの情報を用いて、所定のユーザの第１指標値から、所定のユーザが広告コンテンツをクリックする行動に続けて広告コンテンツの広告主にとって利益につながる行動（コンバージョン）を起こすか否かに関する第２指標値（コンバージョン率）を予測する第２モデルを生成する。
【００７６】
例えば、第２生成部１３３は、第１生成部１３２が第１モデルを生成すると、広告コンテンツをクリックしたユーザの検索クエリや訪問ページといったアクセスログをアクセスログサーバ２０から取得する。
【００７７】
そして、第２生成部１３３は、第１生成部１３２が生成した第１モデルに広告コンテンツをクリックしたユーザの検索クエリや訪問ページといったアクセスログを入力することにより、広告コンテンツをクリックしたユーザの第１指標値を算出する。
【００７８】
また、第２生成部１３３は、広告コンテンツをクリックしたユーザが広告コンテンツの広告主にとって利益につながる行動（コンバージョン）を起こしたか否かに関する情報を広告配信履歴記憶部１２２から取得する。
【００７９】
例えば、第２生成部１３３が、広告コンテンツをクリックしたユーザの第１指標値を算出したところ、第１指標値が０．１であるユーザが１０人いたとする。そして、第１指標値が０．１であるユーザ１０人のうち、広告コンテンツをクリックする行動に続けて広告コンテンツの広告主にとって利益につながる行動（コンバージョン）を起こしたユーザは１人であったとする。言い換えると、第１指標値が０．１であるユーザ１０人のうち、広告コンテンツをクリックする行動に続けて広告コンテンツの広告主にとって利益につながる行動（コンバージョン）を起こさなかったユーザは９人であったとする。この場合、第２生成部１３３は、第１指標値が０．１であるユーザが、広告コンテンツをクリックする行動に続けて広告コンテンツの広告主にとって利益につながる行動（コンバージョン）を起こすか否かに関する第２指標値（コンバージョン率）は１０％であると予測する第２モデルを生成する。なお、第２生成部１３３が第２モデルを生成する例は、この例に限られない。
【００８０】
また、第２生成部１３３は、第２モデルを生成すると、生成した第２モデルをモデル記憶部１２３に格納する。
【００８１】
なお、第２生成部１３３は、いかなる学習アルゴリズムを用いて第２モデルを生成してもよい。例えば、第２生成部１３３は、ニューラルネットワーク（neural  network）、サポートベクターマシン（support  vector  machine）、クラスタリング、強化学習等の学習アルゴリズムを用いて第２モデルを生成する。一例として、第２生成部１３３がニューラルネットワークを用いて第２モデルを生成する場合、第２モデルは、一以上のニューロンを含む入力層と、一以上のニューロンを含む中間層と、一以上のニューロンを含む出力層とを有する。
【００８２】
第２モデルは、広告コンテンツをクリックすることなく広告主にとって利益につながる行動を起こしたユーザの情報に基づいて生成された第１モデルを用いて算出された第１指標値であって、所定のユーザが広告主にとって利益につながる行動を起こすか否かに関する第１指標値が入力される入力層と、出力層と、入力層から出力層までのいずれかの層であって出力層以外の層に属する第１要素と、第１要素と第１要素の重みとに基づいて値が算出される第２要素と、を含み、入力層に入力された第１指標値に応じて、所定のユーザが広告コンテンツをクリックする行動に続けて広告コンテンツの広告主にとって利益につながる行動（コンバージョン）を起こすか否かに関する第２指標値を出力層から出力するよう、コンピュータを機能させる。
【００８３】
第２モデルは、広告コンテンツをクリックすることなく広告主にとって利益につながる行動を起こしたユーザの情報に基づいて生成された第１モデルを用いて算出された第１指標値であって、所定のユーザが広告主にとって利益につながる行動を起こすか否かに関する第１指標値が入力される入力層と、出力層と、入力層から出力層までのいずれかの層であって出力層以外の層に属する第１要素と、第１要素と第１要素の重みとに基づいて値が算出される第２要素と、を含み、入力層に入力された第１指標値に対し、出力層以外の各層に属する各要素を第１要素として、第１要素と第１要素の重みとに基づく演算を行うことにより、所定のユーザが広告コンテンツをクリックする行動に続けて広告コンテンツの広告主にとって利益につながる行動（コンバージョン）を起こすか否かに関する第２指標値を出力層から出力するよう、コンピュータを機能させる。
【００８４】
ここで、第２モデルが「y=1/(1+exp(-t))、t=a0+a1*x1+a2*x2+・・・+ai*xi」で示すロジスティック回帰モデルで実現されるとする。この場合、第１モデルが含む第１要素は、x1やx2等といった入力データ（xi）に対応する。ここで、入力データ（xi）は所定のユーザの第１指標値である。また、yは予測確率（0〜1の値）である第２指標値である。例えば、yは、所定のユーザが広告コンテンツをクリックする行動に続けて広告コンテンツの広告主にとって利益につながる行動（コンバージョン）を起こすか否かに関する第２指標値（コンバージョン率）である。また、第１要素の重みは、xiに対応する係数aiに対応する。ここで、ロジスティック回帰モデルは、標準シグモイド関数σを用いると「y=σ(t)=σ(a1*x1+a2*x2+・・・+ai*xi)」のように表せる。したがって、ロジスティック回帰モデルは、入力層と出力層とを有する単純パーセプトロンと見做すことができる。各モデルを単純パーセプトロンと見做した場合、第１要素は、入力層が有するいずれかのノードに対応し、第２要素は、出力層が有するノードと見做すことができる。なお、ロジスティック回帰では、最尤法によりパラメータ（係数ai）を推定する。具体的には、最尤法では、モデルのパラメータ（係数ai）を推定する尤度関数を導出する。そして、負の対数尤度関数が最小になるように反復解法を繰り返すことにより、パラメータ（係数ai）を推定する。
【００８５】
広告配信装置１００は、上述したロジスティック回帰モデル等、発生確率を予測するために用いられるモデルであって、任意の構造を有する第２モデルを用いて、第２指標値（コンバージョン率）の算出を行う。具体的には、第２モデルは、広告コンテンツをクリックすることなく広告主にとって利益につながる行動を起こしたユーザの情報に基づいて生成された第１モデルを用いて算出された第１指標値であって、所定のユーザが広告主にとって利益につながる行動を起こすか否かに関する第１指標値が入力された場合に、所定のユーザが広告コンテンツをクリックする行動に続けて広告コンテンツの広告主にとって利益につながる行動（コンバージョン）を起こすか否かに関する第２指標値（コンバージョン率）を出力するように係数が設定される。広告配信装置１００は、このような第２モデルを用いて、第２指標値を算出する。
【００８６】
（第１算出部１３４）
第１算出部１３４は、第１生成部１３２が生成した第１モデルを用いて、第１指標値を算出する。
【００８７】
第１算出部１３４は、受付部１３１がユーザ端末１０から広告コンテンツの配信要求を受け付けると、配信候補の広告コンテンツを選択する。例えば、第１算出部１３４は、配信要求元のユーザの直近の検索クエリが「ノートパソコン」である場合、広告コンテンツに設定されたキーワードに「ノートパソコン」が含まれる広告コンテンツを配信候補の広告コンテンツとして選択する。例えば、第１算出部１３４は、広告コンテンツＡＤ１と広告コンテンツＡＤ２を配信候補の広告コンテンツとして選択する。
【００８８】
続いて、第１算出部１３４は、配信候補の広告コンテンツ毎に、当該広告コンテンツの第１指標値を算出する。具体的には、第１算出部１３４は、モデル記憶部１２３の広告コンテンツＩＤを参照して、配信候補の広告コンテンツの広告コンテンツＩＤに対応する第１モデルを選択する。例えば、第１算出部１３４は、モデル記憶部１２３の広告コンテンツＩＤを参照して、配信候補の広告コンテンツＡＤ１の広告コンテンツＩＤ「ＡＤ１」に対応する第１モデルＭ１１を選択する。例えば、広告配信装置１００は、モデル記憶部１２３の広告コンテンツＩＤを参照して、配信候補の広告コンテンツＡＤ２の広告コンテンツＩＤ「ＡＤ２」に対応する第１モデルＭ２１を選択する。
【００８９】
そして、第１算出部１３４は、広告配信対象のユーザの検索クエリや訪問ページといったアクセスログを選択した第１モデルに入力することにより、広告配信対象のユーザの第１指標値を算出する。例えば、第１算出部１３４は、広告コンテンツＡＤ１については、広告配信対象のユーザの検索クエリや訪問ページといったアクセスログを選択した第１モデルＭ１１に入力することにより、広告配信対象のユーザの第１指標値Ｆ１１を算出する。例えば、第１算出部１３４は、広告コンテンツＡＤ２については、広告配信対象のユーザの検索クエリや訪問ページといったアクセスログを選択した第１モデルＭ２１に入力することにより、広告配信対象のユーザの第１指標値Ｆ２１を算出する。
【００９０】
（第２算出部１３５）
第２算出部１３５は、第２生成部１３３が生成した第２モデルを用いて、第２指標値（コンバージョン率）を算出する。具体的には、第２算出部１３５は、広告コンテンツの広告主にとって利益につながる行動を起こす度合いを示す数値である第１指標値を、広告コンテンツをクリックする行動に続けて広告コンテンツの広告主にとって利益につながる行動（コンバージョン）を起こす確率である第２指標値（コンバージョン率）に変換する。
【００９１】
また、第２算出部１３５は、第２行動である広告コンテンツの広告主にとって利益につながる行動を得るためにかかる広告コンテンツにおける広告費の目標値と、第２算出部１３５により算出された第２指標値であるコンバージョン率とに基づいて、広告コンテンツが配信対象として選択される基準となる入札単価を算出してもよい。
【００９２】
第２算出部１３５は、第１算出部１３４が第１指標値を算出すると、広告配信対象のユーザの第２指標値（コンバージョン率）を算出する。
【００９３】
第２算出部１３５は、モデル記憶部１２３の広告コンテンツＩＤを参照して、配信候補の広告コンテンツの広告コンテンツＩＤに対応する第２モデルを選択する。例えば、第２算出部１３５は、モデル記憶部１２３の広告コンテンツＩＤを参照して、配信候補の広告コンテンツＡＤ１の広告コンテンツＩＤ「ＡＤ１」に対応する第２モデルＭ１２を選択する。例えば、第２算出部１３５は、モデル記憶部１２３の広告コンテンツＩＤを参照して、配信候補の広告コンテンツＡＤ２の広告コンテンツＩＤ「ＡＤ２」に対応する第２モデルＭ２２を選択する。
【００９４】
そして、第２算出部１３５は、算出した第１指標値を選択した第２モデルに入力することにより、広告配信対象のユーザの第２指標値（コンバージョン率）を算出する。例えば、第２算出部１３５は、広告コンテンツＡＤ１については、算出した第１指標値Ｆ１１を選択した第２モデルＭ１２に入力することにより、広告配信対象のユーザの第２指標値（コンバージョン率）「０．１２５」を算出する。例えば、第２算出部１３５は、広告コンテンツＡＤ２については、算出した第１指標値Ｆ２１を選択した第２モデルＭ２２に入力することにより、広告配信対象のユーザの第２指標値（コンバージョン率）「０．２２５」を算出する。
【００９５】
（配信部１３６）
配信部１３６は、配信候補の広告コンテンツの入札単価を算出する。また、配信部１３６は、抽出した広告コンテンツを配信要求元のユーザ端末１０に配信する。
【００９６】
配信部１３６は、第２算出部１３５が第２指標値（コンバージョン率）を算出すると、広告主端末３０から受け付けた目標コンバージョン単価（目標ＣＰＡ）と第２算出部１３５が算出した第２指標値（コンバージョン率）を乗じることにより、配信候補の広告コンテンツの入札単価を算出する。
【００９７】
例えば、広告コンテンツＡＤ１には、目標ＣＰＡ「１５，０００」が設定され、また、広告コンテンツＡＤ２には、目標ＣＰＡ「２０，０００」が設定されているものとする。この場合、配信部１３６は、広告コンテンツＡＤ１については、広告コンテンツＡＤ１の目標ＣＰＡ「１５，０００」と第２算出部１３５が第２指標値（コンバージョン率）「０．１２５」を乗じることにより、広告コンテンツＡＤ１の入札単価「１，８７５」を算出する。また、配信部１３６は、広告コンテンツＡＤ２については、広告コンテンツＡＤ２の目標ＣＰＡ「２０，０００」と第２算出部が第２指標値（コンバージョン率）「０．２２５」を乗じることにより、広告コンテンツＡＤ２の入札単価「４，５００」を算出する。
【００９８】
続いて、配信部１３６は、配信候補の広告コンテンツのなかから、配信する広告コンテンツを抽出する。具体的には、配信部１３６は、算出した入札単価とクリック率（ＣＴＲ：Click  Through  Rate）とを乗じたｅＣＰＭ（effective  Cost  Per  Mill）に基づいて、配信対象の広告コンテンツを抽出する。
【００９９】
例えば、広告コンテンツＡＤ１のＣＴＲが「０．０５」、広告コンテンツＡＤ２のＣＴＲが「０．０３」であるとする。この場合、配信部１３６は、広告コンテンツＡＤ１の入札単価「１，８７５」と広告コンテンツＡＤ１のＣＴＲ「０．０５」とを乗じることにより、広告コンテンツＡＤ１のｅＣＰＭ「９４」を算出する。また、配信部１３６は、広告コンテンツＡＤ２の入札単価「４，５００」と広告コンテンツＡＤ２のＣＴＲ「０．０３」とを乗じることにより、広告コンテンツＡＤ２のｅＣＰＭ「１３５」を算出する。そして、配信部１３６は、上記のように算出した２つのｅＣＰＭのうち、値の大きいｅＣＰＭが算出された広告コンテンツＡＤ２を配信対象の広告コンテンツとして抽出する。
【０１００】
続いて、配信部１３６は、抽出した広告コンテンツＡＤ２を配信要求元のユーザ端末１０に配信する。
【０１０１】
（取得部１３７）
取得部１３７は、広告コンテンツの配信実績を取得する。具体的には、取得部１３７は、広告コンテンツの配信実績として、広告コンテンツの配信実績に基づくコンバージョン単価を取得する。
【０１０２】
例えば、取得部１３７は、広告コンテンツの配信実績として、ある時刻におけるコンバージョン単価と目標コンバージョン単価の誤差を取得する。例えば、取得部１３７は、広告コンテンツの配信実績として、ある時刻における各ユーザの課金額を取得する。
【０１０３】
（補正部１３８）
補正部１３８は、取得部１３７によって取得された広告コンテンツの配信実績と目標コンバージョン単価に基づいて、広告コンテンツが配信対象として選択される基準となる入札単価を補正する。具体的には、補正部１３８は、広告コンテンツの配信実績に基づくコンバージョン単価と目標コンバージョン単価とに誤差がある場合、広告コンテンツの配信実績に基づくコンバージョン単価と目標コンバージョン単価との誤差を小さくするように入札単価を補正する。
【０１０４】
例えば、補正部１３８は、広告コンテンツの配信実績に基づくコンバージョン単価と目標コンバージョン単価とに誤差がある場合、強化学習を用いて入札単価を補正するためにとるべき行動を学習し、強化学習を用いて学習した行動をとることにより、入札単価を補正する。
【０１０５】
また、補正部１３８は、入札単価を算出するために用いる算出関数に入札単価を補正する補正関数を乗じることにより、入札単価を補正してもよい。具体的には、補正部１３８は、入札単価を算出するために用いる算出関数として、広告主端末３０から受け付けた目標コンバージョン単価に第２算出部１３５が算出した第２指標値（コンバージョン率）を乗じる関数を用いてもよい。そして、補正部１３８は、強化学習を用いて入札単価を補正する補正関数を学習することにより、入札単価を補正してもよい。
【０１０６】
図７を用いて、実施形態に係る補正処理の一例について具体的に説明する。図７は、実施形態に係る補正処理の一例を示す図である。図７では、広告配信装置１００が、広告コンテンツＡＤ１の配信実績に基づくコンバージョン単価と目標コンバージョン単価とに誤差がある場合、強化学習を用いて入札単価を補正するためにとるべき行動を学習し、強化学習を用いて学習した行動をとることにより、入札単価を補正する例を示す。
【０１０７】
具体的には、強化学習のエージェントは、広告配信装置１００である。そして、環境の状態Ｓ(ｔ)は、ある時刻ｔにおける広告コンテンツＡＤ１の配信実績に基づくコンバージョン単価および各ユーザの課金額である。また、報酬Ｒ(ｔ)は、広告コンテンツＡＤ１の配信実績に基づくコンバージョン単価と目標コンバージョン単価の誤差である。また、行動Ａ(ｔ)は、環境の状態Ｓ(ｔ)と報酬Ｒ(ｔ)を考慮した方策Π(ｔ)に基づいて行われる。具体的には、行動Ａ(ｔ)は、入札単価が同じグループ毎に広告配信装置１００が入札単価を上げたり下げたりする行動である。
【０１０８】
したがって、図７では、広告配信装置１００が、環境の状態Ｓ(ｔ)である「広告コンテンツＡＤ１の配信実績に基づくコンバージョン単価および各ユーザの課金額」と報酬Ｒ(ｔ)である「広告コンテンツＡＤ１の配信実績に基づくコンバージョン単価と目標コンバージョン単価の誤差」を考慮した方策Π(ｔ)に基づいて行動Ａ(ｔ)である「入札単価が同じグループ毎に入札単価を上げたり下げたりする行動」を取り、環境は広告配信装置１００の行動Ａ(ｔ)によって状態を変え、その状態Ｓ(ｔ＋１)を知らせることにより、強化学習を用いて入札単価を補正するためにとるべき行動を学習する例を示す。
【０１０９】
はじめに、取得部１３７は、広告コンテンツＡＤ１の配信実績として、ある時刻ｔにおける配信実績に基づくコンバージョン単価（２６０円）と各ユーザの課金額を取得する。ここで、ある時刻ｔにおける環境の状態を状態Ｓ(ｔ)とすると、補正部１３８は、取得部１３７によって取得されたある時刻ｔにおけるコンバージョン単価と各ユーザの課金額を状態Ｓ(ｔ)として観測する（ステップＳ１１）。
【０１１０】
ここで、各ユーザの課金額について説明する。配信部１３６は、入札の結果、広告コンテンツＡＤ１が配信対象として選択された場合は、広告コンテンツＡＤ１を配信対象のユーザに配信する。そして、広告コンテンツＡＤ１を配信されたユーザが広告コンテンツＡＤ１をクリックした場合、広告主にそのユーザの課金額として入札単価が課金される。この場合、取得部１３７は、そのユーザの課金額として入札単価を取得する。
【０１１１】
例えば、ユーザＵ１については、入札の結果、広告コンテンツＡＤ１が配信対象として選択されたので、配信部１３６は、広告コンテンツＡＤ１をユーザＵ１のユーザ端末１０に配信する。そして、広告コンテンツＡＤ１を配信されたユーザＵ１は、広告コンテンツＡＤ１をクリックしたので、広告主にユーザＵ１の課金額として入札単価である２０円が課金される。この場合、取得部１３７は、ユーザＵ１の課金額として２０円を取得する。
【０１１２】
なお、広告コンテンツＡＤ１を配信されたユーザが広告コンテンツＡＤ１をクリックしなかった場合、広告主に入札単価は課金されない。この場合、取得部１３７は、そのユーザの課金額として０円を取得する。
【０１１３】
また、入札の結果、広告コンテンツＡＤ１が配信対象として選択されなかった場合は、取得部１３７は、そのユーザの課金額として０円を取得する。例えば、ユーザＵ２については、入札の結果、広告コンテンツＡＤ１が配信対象として選択されなかったので、取得部１３７は、ユーザＵ２の課金額として０円を取得する。
【０１１４】
続いて、補正部１３８は、取得部１３７によって取得されたある時刻ｔにおける配信実績に基づくコンバージョン単価（２６０円）と目標コンバージョン単価（１００円）に誤差があるか否かを判定する。補正部１３８は、配信実績に基づくコンバージョン単価と目標コンバージョン単価に誤差（１６０円）があると判定する（ステップＳ１２）。
【０１１５】
続いて、補正部１３８は、取得部１３７によって取得されたある時刻ｔにおけるコンバージョン単価と目標コンバージョン単価に誤差（１６０円）があるので、誤差を小さくする方策Π(ｔ)に従って、入札単価を補正する行動Ａ(ｔ)を実行する。補正部１３８は、行動Ａ(ｔ)を実行することにより、入札単価が同じグループ毎に入札単価を補正する（ステップＳ１３）。
【０１１６】
例えば、入札単価が２０円のグループ（ユーザＵ１〜ユーザＵ５のグループ）をグループＧ１とすると、補正部１３８は、グループＧ１については行動ａ１(ｔ)を実行する。例えば、入札単価が３３円のグループ（ユーザＵ６〜ユーザＵ８のグループ）をグループＧ２とすると、補正部１３８は、グループＧ２については、行動ａ２(ｔ)を実行する。例えば、入札単価が５０円のグループ（ユーザＵ９〜ユーザＵ１０のグループ）をグループＧ３とすると、補正部１３８は、グループＧ３については、行動ａ３(ｔ)を実行する。このように、補正部１３８は、方策Π(ｔ)に従って、行動ａ１(ｔ)と行動ａ２(ｔ)と行動ａ３(ｔ)からなる行動Ａ(ｔ)を実行する
【０１１７】
例えば、グループＧ１のメンバー５人のうち、ユーザＵ２とユーザＵ５については、課金額が０円である。すなわち、ユーザＵ２とユーザＵ５については、入札単価が低すぎたため、入札単価が２０円よりも高い他の広告コンテンツに入札で競り負けたことがわかる。そこで、補正部１３８は、グループＧ１については、入札で競り負けないよう、入札単価を２０円から１円上げる行動ａ１(ｔ)を実行する。このように、補正部１３８は、行動ａ１(ｔ)を実行することにより、入札単価が２０円のグループＧ１の入札単価を補正する。
【０１１８】
例えば、グループＧ３のメンバー２人のうち、ユーザＵ９とユーザＵ１０については、課金額が５０円であるが、いずれもコンバージョンを起こさなかった。すなわち、グループＧ３については、当初コンバージョン率を５０％と予測したが、予測に反してコンバージョンを起こさなかったことがわかる。言い換えると、グループＧ３については、入札単価を高く設定しすぎたことがわかる。そこで、補正部１３８は、グループＧ３については、入札単価を低くするよう、入札単価を５０円から１５円下げる行動ａ３(ｔ)を実行する。このように、補正部１３８は、行動ａ３(ｔ)を実行することにより、入札単価が５０円のグループＧ３の入札単価を補正する。
【０１１９】
例えば、グループＧ２のメンバー３人は、課金額が３３円であり、３人のうちユーザＵ８がコンバージョンを起こした。すなわち、グループＧ２ついては、当初コンバージョン率を３３％と予測したが、予測したとおりコンバージョンを起こしたことがわかる。しかしながら、補正部１３８は、時刻ｔにおけるコンバージョン単価と目標コンバージョン単価の誤差が１６０円であり、目標コンバージョン単価を大幅に上回っていることから、グループＧ２については、全体のコンバージョン単価を下げるために、入札単価を３３円から８円下げる行動ａ２(ｔ)を実行する。このように、補正部１３８は、行動ａ２(ｔ)を実行することにより、入札単価が３３円のグループＧ２の入札単価を補正する。
【０１２０】
このように、補正部１３８は、行動Ａ(ｔ)を実行することにより、入札単価が同じグループ毎に入札単価を補正する。そして、補正部１３８は、行動Ａ(ｔ)を実行することにより、環境の状態を状態Ｓ(ｔ)から状態Ｓ(ｔ＋１)に変化させる。
【０１２１】
続いて、取得部１３７は、広告コンテンツＡＤ１の配信実績として、ある時刻ｔ＋１における配信実績に基づくコンバージョン単価（１２５円）と各ユーザの課金額を取得する。補正部１３８は、取得部１３７によって取得されたある時刻ｔ＋１におけるコンバージョン単価と各ユーザの課金額を状態Ｓ(ｔ＋１)として観測する（ステップＳ１４）。
【０１２２】
続いて、補正部１３８は、取得部１３７によって取得されたある時刻ｔ＋１における配信実績に基づくコンバージョン単価（１２５円）と目標コンバージョン単価（１００円）に誤差があるか否かを判定する。補正部１３８は、配信実績に基づくコンバージョン単価と目標コンバージョン単価に誤差（２５円）があると判定する（ステップＳ１５）。
【０１２３】
続いて、補正部１３８は、取得部１３７によって取得されたある時刻ｔ＋１におけるコンバージョン単価と目標コンバージョン単価に誤差（２５円）があるので、誤差を小さくする方策Π(ｔ＋１)に従って、入札単価を補正するための行動Ａ(ｔ＋１)を実行する。補正部１３８は、行動Ａ(ｔ＋１)を実行することにより、入札単価が同じグループ毎に入札単価を補正する（ステップＳ１６）。
【０１２４】
補正部１３８は、取得部１３７によって取得されたある時刻におけるコンバージョン単価と目標コンバージョン単価の誤差が０に近い値に収束するまで、上記のステップＳ１１〜ステップＳ１６を繰り返す。
【０１２５】
〔４．第１モデル生成処理のフロー〕
次に、図８を用いて、実施形態に係る第１モデル生成処理の手順について説明する。図８は、実施形態に係る第１モデル生成処理手順を示すフローチャートである。
【０１２６】
図８に示すように、広告配信装置１００は、広告コンテンツをクリックしていないユーザの検索クエリ、訪問ページ等のアクセスログを取得する（ステップＳ１０１）。
【０１２７】
続いて、広告配信装置１００は、広告コンテンツをクリックしていないユーザが、広告主にとって利益につながる行動を起こしたか否かに関する情報を取得する（ステップＳ１０２）。
【０１２８】
続いて、広告配信装置１００は、第１モデルを生成する（ステップＳ１０３）。
【０１２９】
〔５．第２モデル生成処理のフロー〕
次に、図９を用いて、実施形態に係る第２モデル生成処理の手順について説明する。図９は、実施形態に係る第２モデル生成処理手順を示すフローチャートである。
【０１３０】
図９に示すように、広告配信装置１００は、広告コンテンツをクリックしたユーザの第１指標値を算出する（ステップＳ２０１）。
【０１３１】
続いて、広告配信装置１００は、広告コンテンツをクリックしたユーザが、コンバージョンに至ったか否かに関する情報を取得する（ステップＳ２０２）。
【０１３２】
続いて、広告配信装置１００は、第２モデルを生成する（ステップＳ２０３）。
【０１３３】
〔６．広告配信処理のフロー〕
次に、図１０を用いて、実施形態に係る広告配信処理の手順について説明する。図１０は、実施形態に係る広告配信処理手順を示すフローチャートである。
【０１３４】
図１０に示すように、広告配信装置１００は、ユーザから広告コンテンツの配信要求を受け付けたか否かを判定する（ステップＳ３０１）。広告配信装置１００は、ユーザから広告コンテンツの配信要求を受け付けていない場合（ステップＳ３０１；Ｎｏ）、ユーザから広告コンテンツの配信要求を受け付けるまで待機する。
【０１３５】
広告配信装置１００は、ユーザから広告コンテンツの配信要求を受け付けた場合（ステップＳ３０１；Ｙｅｓ）、配信候補の広告コンテンツを選択する（ステップＳ３０２）。
【０１３６】
続いて、広告配信装置１００は、広告配信対象のユーザの検索クエリ、訪問ページ等のアクセスログを取得する（ステップＳ３０３）。
【０１３７】
続いて、広告配信装置１００は、広告配信対象のユーザの第１指標値を算出する（ステップＳ３０４）。
【０１３８】
続いて、広告配信装置１００は、広告配信対象のユーザの第２指標値（コンバージョン率）を算出する（ステップＳ３０５）。
【０１３９】
続いて、広告配信装置１００は、配信候補の広告コンテンツの入札単価を算出する（ステップＳ３０６）。
【０１４０】
続いて、広告配信装置１００は、配信候補の広告コンテンツのなかから、配信する広告コンテンツを決定する（ステップＳ３０７）。
【０１４１】
続いて、広告配信装置１００は、決定した広告コンテンツを配信要求元のユーザ端末１０に配信する（ステップＳ３０８）。
【０１４２】
〔７．補正処理のフロー〕
次に、図１１を用いて、実施形態に係る補正処理の手順について説明する。図１１は、実施形態に係る補正処理手順を示すフローチャートである。
【０１４３】
図１１に示すように、広告配信装置１００は、広告コンテンツの配信実績に基づくコンバージョン単価を取得する（ステップＳ４０１）。
【０１４４】
続いて、広告配信装置１００は、配信実績に基づくコンバージョン単価と目標コンバージョン単価に誤差があるか否かを判定する（ステップＳ４０２）。広告配信装置１００は、配信実績に基づくコンバージョン単価と目標コンバージョン単価に誤差がない場合（ステップＳ４０２；Ｎｏ）、配信実績に基づくコンバージョン単価と目標コンバージョン単価の誤差を観測するまで待機する。
【０１４５】
広告配信装置１００は、配信実績に基づくコンバージョン単価と目標コンバージョン単価に誤差がある場合（ステップＳ４０２；Ｙｅｓ）、コンバージョン単価と目標コンバージョン単価との誤差を小さくするように入札単価を補正する（ステップＳ４０３）。
【０１４６】
〔８．効果〕
上述してきたように、実施形態に係る補正装置１００は、取得部１３７と補正部１３８とを有する。取得部１３７は、広告コンテンツの配信実績を取得する。補正部１３８は、取得部１３７によって取得された広告コンテンツの配信実績と目標コンバージョン単価に基づいて、広告コンテンツが配信対象として選択される基準となる入札単価を補正する。
【０１４７】
これにより、実施形態に係る補正装置１００は、広告コンテンツの配信実績に基づいて入札単価を補正することにより、配信時に予測したコンバージョン率に基づいて算出された入札単価と現実の課金額との乖離を補正することができる。したがって、補正装置１００は、目標コンバージョン単価に応じて適切に入札単価を制御することができる。
【０１４８】
また、取得部１３７は、広告コンテンツの配信実績として、広告コンテンツの配信実績に基づくコンバージョン単価を取得し、補正部１３８は、広告コンテンツの配信実績に基づくコンバージョン単価と目標コンバージョン単価とに誤差がある場合、広告コンテンツの配信実績に基づくコンバージョン単価と目標コンバージョン単価との誤差を小さくするように入札単価を補正する。
【０１４９】
これにより、実施形態に係る補正装置１００は、広告コンテンツの配信実績に基づくコンバージョン単価と目標コンバージョン単価との乖離を補正することができる。したがって、補正装置１００は、目標コンバージョン単価に応じて適切に入札単価を制御することができる。
【０１５０】
また、補正部１３８は、広告コンテンツの配信実績に基づくコンバージョン単価と目標コンバージョン単価とに誤差がある場合、強化学習を用いて入札単価を補正するためにとるべき行動を学習し、強化学習を用いて学習した行動をとることにより、入札単価を補正する。
【０１５１】
これにより、実施形態に係る補正装置１００は、強化学習を用いることにより、配信前後のコンバージョン単価と目標コンバージョン単価の誤差だけでなく、最初の配信から直近の配信までの広告コンテンツの配信実績に基づくコンバージョン単価と目標コンバージョン単価の誤差を踏まえて、適切に入札単価を補正する行動を学習することができる。すなわち、補正装置１００は、配信前後のコンバージョン単価と目標コンバージョン単価の誤差だけでなく、最初の配信から直近の配信までの広告コンテンツの配信実績に基づくコンバージョン単価と目標コンバージョン単価の誤差を踏まえて、適切に入札単価を補正することができる。したがって、補正装置１００は、目標コンバージョン単価に応じて適切に入札単価を制御することができる。
【０１５２】
また、補正部１３８は、入札単価を算出するために用いる算出関数に入札単価を補正する補正関数を乗じることにより、入札単価を補正する。また、補正部１３８は、強化学習を用いて入札単価を補正する補正関数を学習することにより、入札単価を補正する。
【０１５３】
これにより、実施形態に係る補正装置１００は、入札単価を算出するために用いる算出関数と入札単価を補正する補正関数のそれぞれについて、それぞれの精度を高めるように学習させることができる。したがって、補正装置１００は、目標コンバージョン単価に応じてより適切に入札単価を制御することができる。
【０１５４】
〔９．ハードウェア構成〕
また、上述してきた実施形態に係る補正装置１００は、例えば図１２に示すような構成のコンピュータ１０００によって実現される。図１２は、補正装置１００の機能を実現するコンピュータの一例を示すハードウェア構成図である。コンピュータ１０００は、ＣＰＵ１１００、ＲＡＭ１２００、ＲＯＭ１３００、ＨＤＤ１４００、通信インターフェイス（Ｉ／Ｆ）１５００、入出力インターフェイス（Ｉ／Ｆ）１６００、及びメディアインターフェイス（Ｉ／Ｆ）１７００を有する。
【０１５５】
ＣＰＵ１１００は、ＲＯＭ１３００またはＨＤＤ１４００に格納されたプログラムに基づいて動作し、各部の制御を行う。ＲＯＭ１３００は、コンピュータ１０００の起動時にＣＰＵ１１００によって実行されるブートプログラムや、コンピュータ１０００のハードウェアに依存するプログラム等を格納する。
【０１５６】
ＨＤＤ１４００は、ＣＰＵ１１００によって実行されるプログラム、及び、かかるプログラムによって使用されるデータ等を格納する。通信インターフェイス１５００は、所定の通信網を介して他の機器からデータを受信してＣＰＵ１１００へ送り、ＣＰＵ１１００が生成したデータを所定の通信網を介して他の機器へ送信する。
【０１５７】
ＣＰＵ１１００は、入出力インターフェイス１６００を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置を制御する。ＣＰＵ１１００は、入出力インターフェイス１６００を介して、入力装置からデータを取得する。また、ＣＰＵ１１００は、生成したデータを入出力インターフェイス１６００を介して出力装置へ出力する。
【０１５８】
メディアインターフェイス１７００は、記録媒体１８００に格納されたプログラムまたはデータを読み取り、ＲＡＭ１２００を介してＣＰＵ１１００に提供する。ＣＰＵ１１００は、かかるプログラムを、メディアインターフェイス１７００を介して記録媒体１８００からＲＡＭ１２００上にロードし、ロードしたプログラムを実行する。記録媒体１８００は、例えばＤＶＤ（Digital  Versatile  Disc）、ＰＤ（Phase  change  rewritable  Disk）等の光学記録媒体、ＭＯ（Magneto-Optical  disk）等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
【０１５９】
例えば、コンピュータ１０００が実施形態に係る補正装置１００として機能する場合、コンピュータ１０００のＣＰＵ１１００は、ＲＡＭ１２００上にロードされたプログラムまたはデータ（例えば、第１モデル、第２モデル）を実行することにより、制御部１３０の機能を実現する。コンピュータ１０００のＣＰＵ１１００は、これらのプログラムまたはデータ（例えば、第１モデル、第２モデル）を記録媒体１８００から読み取って実行するが、他の例として、他の装置から所定の通信網を介してこれらのプログラムまたはデータ（例えば、第１モデル、第２モデル）を取得してもよい。
【０１６０】
以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
【０１６１】
〔１０．その他〕
また、上記実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
【０１６２】
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
【０１６３】
また、上述してきた実施形態は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
【０１６４】
また、上述してきた「部（section、module、unit）」は、「手段」や「回路」などに読み替えることができる。例えば、補正部は、補正手段や補正回路に読み替えることができる。
【符号の説明】
【０１６５】
１  補正システム
１０  ユーザ端末
２０  アクセスログサーバ
３０  広告主端末
１００  補正装置
１２１  広告情報記憶部
１２２  広告配信履歴記憶部
１２３  モデル記憶部
１３１  受付部
１３２  第１生成部
１３３  第２生成部
１３４  第１算出部
１３５  第２算出部
１３６  配信部
１３７  取得部
１３８  補正部
【図１】
2019040529.tif 000003
【図２】
2019040529.tif 000004
【図３】
2019040529.tif 000005
【図４】
2019040529.tif 000006
【図５】
2019040529.tif 000007
【図６】
2019040529.tif 000008
【図７】
2019040529.tif 000009
【図８】
2019040529.tif 000010
【図９】
2019040529.tif 000011
【図１０】
2019040529.tif 000012
【図１１】
2019040529.tif 000013
【図１２】
2019040529.tif 000014