DEIM Forum 2014 F3-4

オンライン広告における CVR 予測モデルの素性評価
田頭 幸浩†

小野 真吾†

田島玲†† ヤフー株式会社 〒 107–6211 東京都港区赤坂 9-7-1 ミッドタウン・タワー
E-mail: †{yutagami,shiono,atajima}@yahoo-corp.jp
あらましオンライン広告はインターネットの経済を支える大きな柱の一つであり，ビジネスと学術の両方から大きな注目を浴びている．本稿ではオンライン広告のコンバージョン率 (conversion rate; CVR) を予測するモデル（CVR
予測モデル）の素性について評価を行う．CVR 予測モデルの精度向上は広告効果の最大化に不可欠である．
『Yahoo!
ディスプレイアドネットワーク』の配信システムログを用いて CVR 予測モデルの素性を評価し，その有用性を検証
した．
キーワード

1.

オンライン広告, コンバージョン率，CVR 予測, 機械学習, 統計モデル

導入たが，近年ではそれぞれの広告キャンペーンごとに最適なユーザー集合を動的に作成することも行われるようになった．また，オンライン広告はインターネットの経済を支える大きな柱のreal time bidding (RTB) と呼ばれる，各広告インプレッショ一つである．そのため，この分野はビジネス的に，また学術的ンごとにオークションへの参加や入札額をリアルタイムで決定にも大きな注目を浴びている．オンライン広告の例としては，する仕組みも広く浸透してきた．このような動きにより CVR

検索サイトにおける検索連動型広告，ポータルサイトにおける予測の重要性は高まっている．CVR 予測の精度を高めること

ディスプレイ広告，ニュースサイトやブログ記事のページにおで，各広告キャンペーンは広告効果を最大化するよう，適切にけるコンテキスト広告が挙げられる．

予算を配分することが可能になる．

広告主がオンライン広告を出稿する理由にはさまざまな動機

CVR 予 測 と 似 た 問 題 と し て ，広 告 の ク リック 率 (click-が考えられる．例えば，ショッピングサイトを運営する広告主

through rate; CTR) を予測する，CTR 予測がある．現在の広の場合，ユーザーに自社サイトで商品を購入してもらうことを

告配信システムでは，広告配信ログをもとに機械学習で CTR目的として広告を出稿することが考えられる．このような広告や CVR を予測するモデルを構築するのが一般的である．CTR

主が目標とする特定のユーザー行動をコンバージョンと呼ぶ．

予測モデルは CVR 予測モデルに先んじて，検索連動型広告やコンバージョンの定義は広告主や広告キャンペーンごとに異な

コンテキスト広告に対して多くの研究がされてきた [4], [13]．そり，上記の商品購入以外にもウェブサービスへの会員登録やスのため CVR 予測では CTR 予測で用いられた素性やモデルな

マートフォンアプリのインストールを例として挙げることがでどの知識が活かされている．しかしながら，コンバージョンはきる．扱う商品が不動産などの高額商品であり，オンラインでクリックと比較して数が少なく，また広告キャンペーンごとに決済まで至ることが難しい場合には商品の資料請求がコンバー

定義が異なる．加えて，広告がクリックされるかどうかはウェジョンとして定義されることもある．

ブページやユーザーと広告自体によって決まる一方，コンバー

オンライン広告では広告効果を測るための重要な指標として，

ジョンは広告主サイトの内容や構造にも影響を受けていると考

コンバージョン数やコンバージョン率 (conversion rate; CVR)，

えられる．これらのことから，CVR 予測と CTR 予測に対すコンバージョンごとのコスト (cost per acquisition; CPA) が用る有効なアプローチには違いがあると考えられる．

いられている．広告主はこれらの指標を用いて広告効果の測定や最適化を行う．

本稿ではクリック課金型広告の配信ログを用いて CVR 予測
モデルの素性を評価し，その有用性を検証する．クリック課金

広告効果を最大化するとはすなわち，限られた広告予算の中型広告とは，広告が配信されたページを閲覧しているユーザーで数多くのコンバージョンを得ることと言い換えることができが広告をクリックして広告主の設定したページに移動した場

る．従来のオンライン広告では広告効果を高めるために，ター

合に，入札額に基づき課金される仕組みである．広告クリック

ゲティングという仕組みを用いて特定のユーザー集合や時間帯時に課金が行われることから，本稿では広告クリックを経たコにのみ広告を配信することがされてきた．ターゲティング設定

ンバージョン (post-click conversion) 確率の予測についてを行うことで，ユーザーの性別や年齢などの属性やオンライン

扱う．

上での行動履歴をもとにした，ある特定のセグメントにのみ広本稿の構成は以下のとおりである．2 章では研究背景につい告を配信することができる．これにより CPA が低いユーザーて述べる．続く 3 章では今回用いるデータセットと素性につい集合にのみ広告配信を行うなどの制御が可能になる．

て説明する．4 章では CVR 予測モデルについて述べる．5 章で従来のオンライン広告におけるターゲティングは上記のようは実際の広告配信ログを用いた評価を行った結果を紹介する．

に，定められた区分の中からユーザー集合を選択するものだっこれらを受け 6 章では本稿を結び，将来の展望について述べる．

2.

研究背景

䝟䝤䝸䝑䝅䝱䞊䛾
䜴䜵䝤䝨䞊䝆

この章では，まずオンライン広告の概要について説明する．

ᗈ࿌

続いて関連研究について述べる．オンライン広告の全体像については Broder らの講義資料 [3] や Yuan らの文献 [20], [21] がϯ͘䜽䝸䝑䜽

オンライン広告の概要

ϭ͘ゼၥ

ၟရ㉎ධ

ϯ͛Ͳϰ͛͘ᗈ࿌䜽䝸䝑䜽䜢⤒䛺䛔┤᥋ゼၥϱ͘䝁䞁䝞䞊䝆䝵䞁オンライン広告には，広告主，パブリッシャー，ユーザーと呼ばれる三種類の主要なプレイヤーが存在する．広告主は広告を出稿することにより，自社のブランド力向上や製品購入などϰ͘ᗈ࿌䜽䝸䝑䜽䛻䜘䜛䝨䞊䝆㑄⛣Ϯ͘䜲䞁䝥䝺䝑䝅䝵䞁

詳しい．

2. 1

ᗈ࿌୺䛾
䜴䜵䝤䝨䞊䝆䝴䞊䝄䞊
図 1 ユーザーから見たインプレッション，クリック，コンバージョンを目指す．パブリッシャーはウェブページのオーナーであり，の流れ．(1) ユーザーはパブリッシャーのウェブページを訪問

保有するウェブページ上に広告を掲載して収益を得ることを目し，(2) ページ上に掲載された広告を閲覧する．(3) 興味を持っ的とする．ユーザーはパブリッシャーのウェブページを訪れ，たユーザーが広告をクリックすると，(4) 広告主のウェブページ

そこに掲載された広告を閲覧する，広告主の潜在的な顧客であに遷移する．(5) ユーザーが広告主のページ上で，商品購入などる．広告を閲覧したユーザーは広告のクリックやウェブ検索を通して広告主のサイトを訪れることがある．
ユーザーがオンライン広告に触れて広告主の顧客となるにの広告主が定義した行動をとるとコンバージョンとなる．(3’-4’)のように広告閲覧後，クリックを経ずにウェブ検索などで直接広告主のウェブページを訪問しコンバージョンに至ることもある
が，本稿ではこれは扱わない．

はインプレッション，クリック，コンバージョンの三段階を経る．インプレッションとは，ユーザーがウェブページに掲載された広告を閲覧することを表す．クリックは，ユーザーが表示された広告をクリックすることを指す．これによりユーザーは広告主があらかじめ指定したウェブページに遷移する．コン
バージョンは，広告主が目標とする特定のユーザー行動である．
ショッピングサイトを運営する広告主の場合，コンバージョンの例として，自社サイトで商品を購入することが挙げられる．
ユーザーから見たインプレッション，クリック，コンバージョ
ンの流れを図 1 に示す．
パブリッシャーはウェブページに広告を掲載する見返りとして，広告主に課金を行う．オンライン広告の課金方式は複数あり，例として，広告表示ごとに課金を行うインプレッション課
金や，ユーザーが広告をクリックするごとに課金を行うクリッ
ク課金が挙げられる．現在のオンライン広告の一部では，広告表示の機会ごとにオークションが行われている．このオークションでは，対象のインプレッション機会に対して複数の広告
キャンペーンがそれぞれ入札額を提示し，良い条件を提示した
キャンペーンから順に広告が表示される．これは，各広告キャ
ンペーンは広告表示の機会ごとに，その権利を得るオークショ
ンに参加すると言い換えることができる．一般的にパブリッシャーは収益を最大化することを目的とするため，期待収益の高い順に広告が表示される．ここでの期待収益は広告を掲載した際に得られる課金額の期待値のことを指し，インプレッショ
ン課金であれば入札額，クリック課金であれば入札額と CTRの予測値を掛け合わせた値である．実際の課金額はオークション方式により異なり，オンライン広告で一般的に用いられる

generalized second price auction (GSP) では，次点の広告の期待収益をもとに課金額が決定される．
例えば，クリック課金型の検索連動型広告の場合，広告主は広告掲載の依頼時に特定の検索キーワードに対して入札額を設定する．ユーザーがウェブ検索を行った際，検索結果画面への広告表示に対するオークションが行われ，入力された検索キー

ワードに対して入札設定を行っている広告集合の中で競われる．

1 章で述べたように，ターゲティング設定を行っていた場合，ユーザーや時間帯などに対する条件が満たされなければオークションへの参加は行われない．一般的に検索結果画面には複数の広告表示枠があり，上で述べたように期待収益が高い順に，表示枠に広告が掲載される．ユーザーが広告をクリックするとパブリッシャーは広告主に課金を行い，課金額は広告主が提示した入札額をもとに決定される．
近年盛んになった RTB では，広告主は上の例のように配信対象と入札額をあらかじめ選択しておくのではなく，インプ
レッションごとにリアルタイムでオークションへの入札額を決定する．この入札額の決定は，パブリッシャー側から提供される，広告が掲載されるウェブページや閲覧するユーザーの情報をもとに行われる．この仕組みにより，広告主は微細な粒度で入札額を決めることが可能になった．
広告効果を高めるためには対象のインプレッションで得られる広告効果に基づいて，オークションへの入札額を決定することが必要になる．ショッピングサイトを運営する広告主の例では，商品購入につながりやすいインプレッションには高い入札額を提示し，逆に期待が薄いインプレッションの入札額を 0 にすることでオークションに参加しないという手続きが考えられる．つまり，予測した CVR の値によって入札額を変化させる
ことにより，広告効果を最適化することができる．
オークションの流れを図 2 にまとめた．近年では，広告主に代わり広告効果を最適化する demand-side platform (DSP)や，パブリッシャーに代わり収益の最大化を行う supply-side

platform (SSP) も見られるようになった．
2. 2

関連研究

CVR 予測と関連した問題として CTR 予測を挙げることができる．2. 1 節で述べたように，クリック課金型広告の期待収益の計算には CTR 予測が不可欠である．そのため，この課金表 1 データセットのサンプル数ᗈ࿌୺ϭϮ͘䝨䞊䝆䛸䝴䞊䝄䞊䛾᝟ሗ

学習データ バリデーションデータ

1,803,658

699,437

740,853

負例数5,236,800

1,902,321

1,902,316

合計

7,040,458

2,601,758

2,643,169ϯ͘ᗈ࿌䛸ධᮐ㢠

䝴䞊䝄䞊
ϭ͘ゼၥ

䝟䝤䝸䝑䝅䝱䞊
ϱ͘䜲䞁䝥䝺䝑䝅䝵䞁ϰ͘䜸䞊䜽䝅䝵䞁

ᗈ࿌୺Ϯ

テストデータ正例数

͙͙

表 2 素性グループ

ᗈ࿌୺E

素性グループ

素性詳細

広告主

広告 ID，広告グループ ID，
キャンペーン ID，広告主 ID，

図 2 オークションの流れ．(1) ユーザーがパブリッシャーのウェブペー
ジを訪問すると，パブリッシャーはそのページとユーザーへの広画像 ID，画像サイズ ，

告表示に対してオークションを開催する．(2) パブリッシャーがランディングページの URLID，
カテゴリ，ターゲティング条件

各広告主にページとユーザーの情報を送信すると，(3) 広告主はその情報をもとに表示する広告とオークションへの入札額を提パブリッシャー サイト ID

示する．(4) パブリッシャーは各広告主が提示した入札額をもと

ユーザー

性別，年代，地域，にオークションを行い，それに勝利した広告が表示機会を獲得

デバイス種別，興味カテゴリ

し，(5) ユーザーの目に触れることになる．

その他

商品コード，マッチング種別 ，
ウェブページと広告の類似度，ユーザーと広告の関連度（2 種）方式が広く使われている検索連動型広告やコンテキスト広告に対して多くの研究がされてきた [4], [13], [17]．一般的に，広告の CTR 予測は，過去のクリックログを用いて学習された統この広告配信ログの前半 6 週間分を学習データ，続く 2 週間分計モデルによって行われる．これらのモデルの例として，ロジをバリデーションデータ，後半 2 週間分をテストデータとして

スティック回帰 [5], [6] やプロビット回帰 [9]，Gradient boosted

扱った．1 章で述べたように，本稿では広告クリックを経たコン

decision trees [7], [18] が挙げられる．

バージョンを扱うため，クリックされた広告のデータを用いる．

近年，DSP や RTB による広告取引が盛んになるに伴い，コ

データ中の各サンプルはクリックされた広告インプレッション

ンバージョン予測の研究も多くされるようになった．Agarwal

一つに対応しており，コンバージョンしたか否かがラベル付け

ら [1] は階層構造を持つ素性を用いた Log-linear Model for

されている．クリックされた後一定期間中にコンバージョンにMultiple Hierarchies (LMMH) を提案し，ディスプレイ広告の至ったインプレッションを正例とし，そうでないものを負例とCTR 予測や CVR 予測に適用した．Rosales ら [16] はディスプして扱った．データは同じ規則にしたがい，フィルタリングとレイ広告におけるコンバージョン予測の問題を扱い，クリック

サンプリングを行った．その結果，負例の量は正例のおよそ 3

予測とコンバージョン予測の比較を行った．Lee ら [10] はディ倍となった．得られたデータセットのサンプル数は表 1 にまとスプレイ広告における CVR 予測の問題に対して，過去の実績

めている．

CVR 値を素性としてロジスティック回帰モデルを構築する手法

3. 2を用いた．Rey ら [15] は予測した CVR を用いて，検索連動型
広告の入札額を調整する手法を提案した．Bagherjeiran ら [2]素性

素性は種類に応じてグループ分けを行った．それぞれのグ
ループの詳細は表 2 にまとめている．

はコンテキスト広告において，広告インプレッションからク

広告主に紐づく素性としては広告の階層構造情報に加え，画リックを経てコンバージョンまで至る，コンバージョンファネ

像広告の場合は画像の情報を用いた．広告の階層構造は，広告ルを最適化する手法を提案した．Liu ら [11] はディスプレイ広主，キャンペーン，広告グループ，広告の順に粒度が細かくな

告において CVR が高いと予想されるユーザーを見つける手法

る．それぞれの ID を素性として用いた．画像広告の場合は画を提案した．Perlich ら [14] はディスプレイ広告の RTB 取引に像自体の ID とサイズを追加で用いた．コンバージョンに至る

おけるコンバージョン予測の問題に対して，広告主のサイト訪かどうかは，広告クリック後に遷移するランディングページの問を用いた転移学習のアプローチを提案した．

3.

データセットと素性

この章では，本稿で扱うデータセットと素性について述べる．

3. 1

データセット

評価には，『Yahoo!ディスプレイアドネットワーク（YDN）』

影響があると考えられるため，その URL の ID を用いた．パブ
リッシャーに紐づく素性としてはサイトの ID を用いた．ユー
ザーに紐づく素性としてはアクセスしたデバイス種別に加えて，可能であれば性別，年代，地域情報，ウェブ上での行動履歴をもとに推定した興味カテゴリを用いた．その他の素性として，各広告の商品コードとマッチング種別を用いた．商品コードは，の実際のシステムログを 10 週間分用いた．なお，このデー

ビジネス上の広告商品の区分を表すものであり，YDN では，イ

タセットは，広告自体がテキストからなるテキスト広告と，画

ンタレストマッチ，ターゲティング，モバイル，サイトリター像からなる画像広告の，二種類の広告配信ログが含まれている．

ゲティングなどがある．マッチング種別は，上記のインタレス（注 1）

トマッチ広告において，広告とインターネットユーザーの興味（注 1）：http://promotionalads.yahoo.co.jp/service/ydn/index.html

関心の関連度を図る際の軸として用いられるものである．加え表 3 ID 素性のユニーク数

ϱϬй
ϰϱй

学習データ バリデーションデータ

テストデータϰϬй

広告 ID

284,561

159,907

164,007

広告グループ ID

199,354

117,141

120,380

キャンペーン ID

60,63042,51043,387

ϮϬй

広告主 ID

21,55515,804

16,158

ϭϱй

画像 ID

21,124

14,202

14,714

URLID

155,768

91,75095,846

サイト ID

2,387

2,074

2,083

ϯϱй

ᗈ࿌/
ᗈ࿌䜾䝹䞊䝥/䜻䝱䞁䝨䞊䞁/
ᗈ࿌୺/
⏬ീ/

ϯϬй
Ϯϱй

hZ>/

ϭϬй
ϱй
Ϭй
ϭ

図3

ϯ

ϰ

ϱ

ϲ

ϳ

ϴ

ϵ ϭϬ ϭϭ ϭϮ ϭϯ ϭϰ ϭϱ ϭϲ ϭϳ ϭϴ ϭϵ ϮϬ Ϯϭ ϮϮ Ϯϯ Ϯϰ Ϯϱ Ϯϲ Ϯϳ Ϯϴ

バリデーションデータとテストデータにおける，学習データに含まれていない新規 ID のユニーク数の割合．横軸は学習データのて，それらのマッチングで計算されるスコアの中から，ウェブ

最終日からの経過日数．

ページと広告の類似度と，2 種類のユーザーと広告の関連度を
用いた．

Ϯ

ϰϬй

データに含まれる各 ID 素性のユニーク数は表 3 にまとめてϯϱйいる．また，学習データには含まれなかった ID が，バリデー

ϯϬй

ションデータやテストデータに含まれる割合を図 3 と図 4 に示した．ユニーク数とサンプル数の両方で，日がたつにつれて新規 ID の割合が増えていくことがわかる．特に，粒度が細かい

ᗈ࿌/ᗈ࿌䜾䝹䞊䝥/䜻䝱䞁䝨䞊䞁/
ᗈ࿌୺/
⏬ീ/

Ϯϱй
ϮϬй
ϭϱй

hZ>/

ϭϬй

広告 ID の増加率が大きく，2 週間経過するとユニーク ID の割ϱй合で約 30%，サンプルの割合で約 25%が未知の ID となった．

Ϭй
ϭ

Ϯ

ϯ

ϰ

ϱ

ϲ

ϳ

ϴ

ϵ ϭϬ ϭϭ ϭϮ ϭϯ ϭϰ ϭϱ ϭϲ ϭϳ ϭϴ ϭϵ ϮϬ Ϯϭ ϮϮ Ϯϯ Ϯϰ Ϯϱ Ϯϲ Ϯϳ Ϯϴ

増加率の小さい広告主 ID でも，2 週間後にはユニーク ID の割
合で約 10%，サンプルの割合で約 5%が新規の ID であった．画図4

まれていない新規 ID を含むサンプルの割合．横軸は学習データ

像 ID は，ユニーク数と比較してサンプル数における未知の割の最終日からの経過日数．

合が少なかった．これは，画像 ID は画像広告でのみ変化し，テ
キスト広告では常に同じ ID をとるためである．これらの結果から，バリデーションデータやテストデータには学習データに現れなかった素性が無視できない割合で出現することが分かる．

4.

予測モデル

評 価 で は ，Chapelle ら [4] の 手 法 に 倣 い ，素 性 ベ ク ト ル

x(a, p, u) の次元数を hashing trick [19] を用いて制限した．
ハッシュ値として 24 ビット整数を用い，素性ベクトルの次元数をおよそ 1,600 万とした．

3 章で示したデータセットと素性を用いて CVR 予測モデルを構築した．CVR 予測モデルとしては，以下の式で表現されるロジスティック回帰モデルを用いた．

p(c | a, p, u) =バリデーションデータとテストデータにおける，学習データに含11 + exp(−c(wT x(a, p, u)))なお，c ∈ {+1, −1} はコンバージョンしたか否かを表す変数であり，c = +1 の時にコンバージョンしたことを，c = −1 の時にコンバージョンしなかったことを表す．また，p(c = +1 | a, p, u)
は広告 a，パブリッシャー p，ユーザー u が与えられた時に，コンバージョンする確率を表す．x(a, p, u) はその 3 つから抽出された素性ベクトルを，w はその素性に対応する重みベクトルを表現している．
過学習を避けるため正則化項として ∥w∥22 /2 を加え，以下の最適化問題を解き ŵ を得た．
N∑1ŵ = arg min ∥w∥22 +C
log(1+exp(−ci (wT xi (a, p, u))))
2
w
i=1

5.

実

験

この章では，用いる素性やモデル，評価指標を変えて実験を行う．なお，3. 2 節で述べたように，ID 素性を用いたモデルは学習時に現れなかった素性が評価時に出現し，時間経過によって劣化することが予想されるため，テストデータに対する評価
値と合わせてバリデーションデータに対する評価値も併記し比
較を行う．

5. 1

AUC による評価

まずはじめに，一般的な二値分類の問題設定で評価を行った．
各素性グループごとに CVR 予測モデルを構築し，area under

the ROC curve(AUC) [12] を評価として用いた．結果が表 4 である．なお，表中の値は以下の式による正規化を行った．

AU C =AU C − 0.5
AU Cmax − 0.5

結果を見ると，すべての素性を用いたモデルの AUC が一番高かった．素性グループ間での比較を行うと，広告主情報を用

ここで ∥w∥2 はユークリッドノルム（L2 ノルム）， C > 0 はいた場合に高い AUC を示した．これは，そもそもコンバージョ

正則化パラメータである．C を変化させて学習データで学習をンの定義が広告主やキャンペーンによって異なるためだと考え行い，バリデーションデータでの評価値が高い ŵ を用いてテられる．ただし，広告主素性を用いたモデルよりも，すべてのストデータの評価を行った．

素性を用いたモデルの評価値がわずかながら高いため，広告系

表4

表 5 各素性グループを用いた場合の wAU C

各素性グループを用いた場合の AU C

素性グループバリデーションデータ

テストデータ

素性グループバリデーションデータ

テストデータ

広告主

0.98190.9220広告主

0.2507

0.2710パブリッシャー

0.44710.3566

パブリッシャー

0.55840.4907

ユーザー

0.37330.3256

ユーザー

0.36220.3776

その他

0.43270.5092

その他

0.29590.3061

上記すべて

1.00000.9582

上記すべて

0.90150.8509の素性以外にも有用な素性があると考えられる．素性グループ間の比較では広告主素性に次いで，その他グループの素性を用

表 6 広告主素性を用いた場合の wAU C
素性詳細

バリデーションデータ テストデータ

広告 ID

0.23150.1923いた場合，パブリッシャー情報を用いた場合の順でテストデー

広告グループ ID

0.18520.1680タにおける評価値が高かった．単純に考えると，これら二つのURLID

0.16620.0797

序列は「どのサイトで広告が表示されたか」よりも「どのよう広告主素性すべて

0.2507

0.2710な広告商品か」が予測に強い影響を与えていることを示唆す
表 7 組み合わせ素性を素性とした場合の wAU C

る．しかしながら，それら二つの素性グループは広告主素性とバリデーションデータ

テストデータ組み合わせ素性なし

0.90150.8509×広告 ID

0.95770.8607

した．その他の素性グループのテストデータにおける評価値が×広告グループ ID

0.96930.8760バリデーションデータの値から向上している一方で，その他の×キャンペーン ID

0.97780.8968

三つの素性グループでは悪化した．ユーザー情報を素性として×広告主 ID

1.00000.9457用いた場合の AUC はふるわなかった．

×広告主素性すべて

0.99870.9170相関があるため，この結果のみでそのように考えるのは性急である．なお，この二つの序列はバリデーションデータでは逆転

素性グループ

既に述べたように，広告主やキャンペーンごとにコンバー
ジョンの定義が異なり，その難易度は異なる．例えば，あるキャ

wAU C を評価値として用いた場合の結果が表 5 である．5. 1ンペーンでは特定のページへのアクセスをコンバージョンとみ節での評価結果と同じように，すべての素性を用いたモデルなすために，広告をクリックしたユーザーの大多数がコンバーの評価値が一番高かった．素性グループ間での比較では，パブジョンに至る一方で，別のキャンペーンでは高額商品をオンラ

リッシャー情報を用いたモデルが高い評価値を示した．これは，インで購入することをコンバージョンと見なすために，コン

広告キャンペーンに着目した場合は，広告の配信面によってコバージョンに至るユーザーが非常にまれ，ということがある．

ンバージョン率に違いがあるということを表している．次いで，

このような場合，上記の評価で用いたような，評価データ全て

素性グループ間での比較では，ユーザー情報を用いた場合，そに対する AUC を評価指標とすると，コンバージョンしやすいの他素性を用いた場合，広告主情報を用いた場合と続いた．評

キャンペーンのサンプルの予測値を高く，コンバージョンしに

価データ全体に対する AUC を評価指標として用いた場合とは

くいキャンペーンのサンプルの予測値を低くするだけで評価値

異なり，その他グループの素性を用いた場合の評価値はやや低が高くなる．そこで，次節ではキャンペーンごとの評価指標をい結果となった．

用いることにする．

5. 2

広告キャンペーンごとの AUC による評価

表 6 に，広告主の素性グループの各素性のみを用いた場合の結果を示す．なお，wAU C の評価単位であるキャンペーン ID

評価指標として以下の式で定義される，広告キャンペーンごや，それより粒度の粗い広告主 ID のみを用いた場合は，各キャとの AUC をサンプル数で重み付けした値 wAU C を用いる．
∑
camp AU Ccamp × #samplecamp∑
wAU C =
camp #samplecamp

ンペーン内の予測値に差がつかないため，評価から外した．まなお，正例と負例の両方を含まないキャンペーンに対しては

AUC の値が未定義であるため，wAU C の計算の候補集合に含めなかった．この手続きはバリデーションデータとテストデー
タで独立して行った．そのため，バリデーションデータでは

wAU C の計算対象に含まれなかったキャンペーンが，テストデータの評価では含まれることもある．学習時には，評価の対象に含まれるか否かには関係なく，学習データ全てを用いて学習を行った．AUC での評価結果と同じく，報告する値は全て以下の式を用いて正規化を行った．

wAU C − 0.5
wAU C =wAU Cmax − 0.5

た，画像 ID や画像サイズのみを用いた場合は，テキスト広告の予測値に差がつかず，wAU C の値がほぼ 0 に近い値となったため，表から省いた．広告 ID と広告グループ ID を用いた場合を比較すると，より細かい粒度である広告 ID を用いた場合の評価値が高くなった．広告主のウェブページを表す URLID
は，コンバージョンの予測にはそれほど寄与していない結果となった．広告グループ ID のみを用いた場合と，広告主素性す
べてを用いた場合の評価値には開きがあるため，それぞれの素性は補完しあっていると考えられる．

5. 3

組み合わせ素性を用いた場合の評価

5. 2 節で導入した wAU C は，広告キャンペーンごとの AUCをサンプル数で重みづけした値であるため，それぞれのキャン
ペーンごとにモデルを作成することで精度の向上が見込まれ表 8 L1 正則化による素性選択を行った場合の wAU C
素性グループバリデーションデータ

テストデータ

L2

L1

ノンゼロパラメータ数

L2

L1

L2

L1

組み合わせ素性なし

0.90150.88230.8509 0.8423

727,786

9,321

×広告 ID

0.95770.92470.8607 0.8818 15,516,966

51,901×広告グループ ID

0.96930.93130.8760 0.8822 14,642,865

57,595×キャンペーン ID

0.97780.9526

0.8968 0.8938 11,419,419

64,720×広告主 ID

1.00000.9746

0.9457 0.9315

6,950,731

65,843

×広告主素性すべて

0.99870.97170.9170 0.9059 16,772,878

72,951

る．しかしながら，図 3 と図 4 で示したように，学習データ

L2 正則化の評価値が上回っていた一方で，テストデータではに出現しなかったキャンペーンのサンプルが，テストデータに

粒度の細かい広告 ID と広告グループ ID で組み合わせ素性をは 15%以上含まれるため，学習データをキャンペーンごとに分作成し追加した場合に，L1 正則化の方が高い評価値を示した．

割してモデルを作成する単純なアプローチでは，新しいキャン
ペーンの予測がうまくいかない．そのため，Chapelle ら [4] の

6.

まとめと今後の課題

手法に倣い，組み合わせ素性を用いたマルチタスク学習 [8] を行

本稿では，オンライン広告における CVR 予測モデルの素性

うアプローチをとった．5. 2 節で評価した，すべての素性を用評価を行った．CVR 予測は先んじて研究されてきた CTR 予測

いた場合に対して，広告主素性とそれ以外の三つの素性グルーとよく似た問題だが，コンバージョンはクリックと比較して数プの間で組み合わせ素性を作成して追加した．これにより，未が少なく，広告キャンペーンによって定義が異なるという違い

知の ID を持つ広告の予測にはグローバルなモデルを用い，既がある．そこで，ID 素性を用いた CVR 予測モデルを『Yahoo!

知の ID に対してはグローバルなモデルの予測値を ID ごとに補ディスプレイアドネットワーク』の配信システムログで検証し正するようになる．結果が表 7 である．組み合わせ素性を追加た．ID 素性を用いたモデルは，時間経過に伴い学習時には現することで，評価値の向上が見られた．組み合わせ素性を作成れなかった未知の ID の割合が増え，予測精度が劣化してしま

する ID 素性を比較すると，粒度が粗い順に評価値が高くなっうという問題がある．この問題への対処法の一つが，組み合わた．これは粒度が細かい広告 ID などの素性は数が多く，組みせ素性を用いたマルチタスク学習である．ただし，組み合わせ

合わせ素性の数も膨大になり，過学習を起こしているのだと考

素性は数が多くなるため，学習時の正則化の選択も重要になる．

えられる．広告主素性すべてを用いて組み合わせ素性を追加し今後の課題としては，より多くの素性を追加した評価や，異た場合と，広告主 ID との組み合わせ素性を追加した場合を比なるモデルを用いた場合の評価を挙げることができる．

較すると，バリデーションデータではほぼ同じ評価値だったが，テストデータでは差がつく結果となった．

5. 4

L1 正則化による素性選択を行った場合の評価

L1 正則化を用いた学習はスパースな解が得られるため，素性選択の手法として広く用いられている．L1 正則化を用いた学習では，以下の最適化問題を解く．

ŵ = arg min ∥w∥1 + Cw

N∑log(1 + exp(−ci (wT xi (a, p, u))))i=1

ただし ∥w∥1 は L1 ノルムであり，この式は 4 章の式の正則化
項を置き換えた形となっている．
本節では，L1 正則化を用いた評価を行い，値が 0 でないパラメータの数と予測精度のトレードオフを検証する．結果が表8 である．L1 正則化を行うことで，多くのパラメータの値が 0になり，ノンゼロパラメータの数は非常に少なくなり，L2 正則化を用いた場合と比較して，0.3〜1.3%程度となった．しかしながら，今回のケースでは hashing trick により，素性ベクトルの次元を 24 ビット空間に制限しており，単精度浮動小数点数の配列で表現した場合，およそ 1,600 万の素性で使用メモリは 64
メガバイトと近年の一般的なメモリサイズと比較してそれほど大きくないため，このメモリサイズの削減によって得られる恩恵は限定的である．それぞれの正則化を用いた場合の評価値を比較すると，バリデーションデータではすべての素性セットで

文

献[1] Deepak Agarwal, Rahul Agrawal, Rajiv Khanna, and Nagaraj Kota. Estimating rates of rare events with multiple
hierarchies through scalable log-linear models. In Proceedings of the 16th ACM SIGKDD international conference on
Knowledge discovery and data mining, KDD ’10, 2010.
[2] Abraham Bagherjeiran, Andrew O. Hatch, and Adwait Ratnaparkhi. Ranking for the conversion funnel. In Proceedings of the 33rd international ACM SIGIR conference on
Research and development in information retrieval, SIGIR’10, 2010.
[3] Andrei Broder and Vanja Josifovski. Introduction to computational advertising. http://www.stanford.edu/class/msande239/. Accessed: 14/2/2014.
[4] Olivier Chapelle, Eren Manavoglu, and Romer Rosales.
Simple and scalable response prediction for display advertising. ACM Trans. Intell. Syst. Technol., 2013.
[5] Haibin Cheng and Erick Cantú-Paz. Personalized click prediction in sponsored search. In Proceedings of the third
ACM international conference on Web search and data
mining, WSDM ’10, 2010.
[6] Haibin Cheng, Roelof van Zwol, Javad Azimi, Eren Manavoglu, Ruofei Zhang, Yang Zhou, and Vidhya Navalpakkam. Multimedia features for click prediction of newads in display advertising. In Proceedings of the 18th ACM
SIGKDD international conference on Knowledge discovery
and data mining, KDD ’12, 2012.

[7] Kushal S. Dave and Vasudeva Varma. Learning the clickthrough rate for rare/new ads from similar ads. In Proceedings of the 33rd international ACM SIGIR conference on
Research and development in information retrieval, SIGIR’10, 2010.
[8] Theodoros Evgeniou and Massimiliano Pontil. Regularized multi–task learning. In Proceedings of the Tenth ACM
SIGKDD International Conference on Knowledge Discovery and Data Mining, KDD ’04, pp. 109–117, 2004.
[9] Thore Graepel, Joaquin Quinonero Candela, Thomas
Borchert, and Ralf Herbrich. Web-scale bayesian clickthrough rate prediction for sponsored search advertising in
microsoft’s bing search engine. In Proceedings of the 27th
International Conference on Machine Learning, 2010.
[10] Kuang-Chih Lee, Burkay Orten, Ali Dasdan, and Wentong
Li. Estimating conversion rate in display advertising frompast performance data. In Proceedings of the 18th ACM
SIGKDD international conference on Knowledge discovery
and data mining, KDD ’12, 2012.
[11] Yandong Liu, Sandeep Pandey, Deepak Agarwal, and Vanja
Josifovski. Finding the right consumer: Optimizing for conversion in display advertising campaigns. In Proceedingsof the Fifth ACM International Conference on Web Searchand Data Mining, WSDM ’12, pp. 473–482, 2012.
[12] Christopher D. Manning, Prabhakar Raghavan, and Hinrich
Schtze. Introduction to Information Retrieval. Cambridge
University Press, 2008.
[13] H. Brendan McMahan, Gary Holt, D. Sculley, Michael
Young, Dietmar Ebner, Julian Grady, Lan Nie, Todd
Phillips, Eugene Davydov, Daniel Golovin, Sharat
Chikkerur, Dan Liu, Martin Wattenberg, Arnar Mar
Hrafnkelsson, Tom Boulos, and Jeremy Kubica. Ad click
prediction: A view from the trenches. In Proceedings of the
19th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, KDD ’13, pp. 1222–1230,
2013.

[14] C. Perlich, B. Dalessandro, T. Raeder, O. Stitelman, andF. Provost. Machine learning for targeted display advertising: transfer learning in action. Machine Learning, pp.
1–25, 2013.
[15] Benjamin Rey and Ashvin Kannan. Conversion rate based
bid adjustment for sponsored search. In Proceedings of the
19th International Conference on World Wide Web, WWW’10, pp. 1173–1174, 2010.
[16] Rómer Rosales, Haibin Cheng, and Eren Manavoglu. Postclick conversion modeling and analysis for non-guaranteed
delivery display advertising. In Proceedings of the fifth ACM
international conference on Web search and data mining,
WSDM ’12, 2012.
[17] Yukihiro Tagami, Shingo Ono, Koji Yamamoto, Koji
Tsukamoto, and Akira Tajima. CTR prediction for contextual advertising: Learning-to-rank approach. In Proceedingsof the Seventh International Workshop on Data Mining forOnline Advertising, ADKDD ’13, pp. 4:1–4:8, 2013.
[18] Ilya Trofimov, Anna Kornetova, and Valery Topinskiy. Using boosted trees for click-through rate prediction for sponsored search. In Proceedings of the Sixth International
Workshop on Data Mining for Online Advertising and Internet Economy, ADKDD ’12, 2012.
[19] Kilian Weinberger, Anirban Dasgupta, John Langford, Alex
Smola, and Josh Attenberg. Feature hashing for large scale
multitask learning. In Proceedings of the 26th Annual International Conference on Machine Learning, ICML ’09, pp.
1113–1120, 2009.
[20] Shuai Yuan, Ahmad Zainal Abidin, Marc Sloan, and Jun
Wang. Internet advertising: An interplay among advertisers, online publishers, ad exchanges and web users. CoRR,
2012.
[21] Shuai Yuan, Jun Wang, and Xiaoxue Zhao. Real-time bidding for online advertising: Measurement and analysis. In
Proceedings of the Seventh International Workshop on Data
Mining for Online Advertising, ADKDD ’13, 2013.