言語処理学会 第25回年次大会 発表論文集 (2019年3月)

広告クリエイティブ自動生成にむけたマルチタスク学習とConditional Attention による CVR 予測
北田 俊輔†

彌冨 仁†

関 喜史‡

†

法政大学大学院 理工学研究科 応用情報工学専攻, ‡ 株式会社 Gunosy{shunsuke.kitada.8y@stu., iyatomi@}hosei.ac.jp, yoshifumi.seki@gunosy.com

概要

なるようにクリエイティブを作成，運用する．しかし

広告クリエイティブに対するコンバージョン予測はデジタル広告における重要な問題の１つである．コン
バージョンされやすい，効果の高いクリエイテイブを作成するのは非常に難しいためクリエイティブ作成支援を行いたいが，学術的な取り組みは未だに少ない．
そこで既存クリエイティブや入稿時のクリエイティブ評価のために，本研究では広告配信情報は使わず，クリエイティブのテキストや属性データから広告の効果を予測するシステムを構築する．そのために，マルチタスク学習の枠組みと conditional attention を提案する．マルチタスク学習は情報が少なく予測が難しいコンバージョンに加えて，その事前行動であるクリックを組み合わせて予測する．Conditional attention はクリエイティブの属性値に応じた attention を設定する．これらの提案手法に対し実際に配信されたクリエイティ
ブを用いた評価実験を行い，予測精度を確認した．

1

はじめに
デジタル広告における広告クリエイティブ1 は購買対象となる顧客に対して効果的に製品の情報を届ける重要な役割を担っている [1]．広告から成果2 が発生することをコンバージョンといい，広告主はコンバージョンが多く発生するクリエイティブを作成したい．広告の広告による成果配信効果は 広告にかかったコストによって定義される．広告におけるコストは一般的に広告がクリックされたときに支払が発生する Cost-Per-Click (CPC) 方式 [2] によって決まる．効果の良いクリエイティブを作るために広告主は試行錯誤を繰り返している．コンバージョ
ンはユーザが広告をクリックしなければ発生しないため，まずは広告の Click Through Rate (CTR) が高く
1 広告においてバナーとテキストのことをクリエイティブという．
2 アプリケーションのインストール，商品の購入などを指す．

CTR を高めることに注力した結果，コンバージョンされる割合 (Conversion Rate(CVR)) が低いクリエイティブを生み出してしまうことがあり，効果の高いクリエイティブを作るのは非常に難しくコストがかかる．
したがってそのようなクリエイティブの作成を支援することは重要であるが，既存のクリエイティブや入稿されたクリエイティブを正しく評価することは難しい．
デジタル広告に対する CTR，CVR を予測するモデル
はこれまで数多く提案されている [3, 4, 5] が，これらの先行研究では配信情報からユーザがクリックするか，コンバージョンするかを予測するものであり，本研究の目的であるクリエイティブの評価とは大きく異なる．
一般の広告における CTR，CVR 推定はすでに存在する広告との配信データを用いて，効果の高い配信枠の決定やユーザーへの効率的な配信を目指したものである．一方で本研究の目指すクリエイティブ作成支援においては，まだ配信されていないクリエイティブの評価のために，配信データが未知のデータに対する予測を行うため，先行研究とは問題設定が大きく異なる．
クリエイティブ作成支援の取り組みは企業側からのプレスリリースとしては報告 [6] があるものの，学術的な取り組みとしては報告されていない．
そこで本研究では配信情報を使わず，クリエイティブのデータのみから広告の効果を予測することでクリエイティブの評価を行うことを試みる．クリエイティ
ブには画像とテキストがあるが，本研究では特にテキストに着目し，CVR の予測を試みる．クリエイティ
ブ作成支援のためには CVR の正確な予測より，コンバージョンが多く集まる質の高いクリエイティブの予測が重要であることを踏まえて評価する．本研究における貢献は (1) 広告クリエイティブから配信情報なし
でコンバージョンを予測するモデルの提案，(2) コンバージョン数及びクリック数を同時に学習・予測する
マルチタスク学習によるモデルの性能向上の確認，(3)― 284 ―

Copyright(C) 2019 The Association for Natural Language Processing.
All Rights Reserved.

Ad creative
Title Encoder#CVMLP

7"

Description text
Content Encoder

7# 7$%%

78#Click9

Attributes to be
distributedMulti-task
learning(Gender"#$%/23&4!
ConditionalAttention/0"/0#/0$%%/0&!"!#!$%%!&1.

)*+-*

Genre)*+,*-

Title text

図 1: 本研究で用いるアーキテクチャの概要

5

Conditional attention による属性値に対する動的な注'"

目単語の設定，およびその可視化の提案である．

'$%%'&

6

図 2: Conditional attention の概要

提案手法

2'#

図 1 に本研究で用いるモデルアーキテクチャの概要を示す．広告クリエイティブのテキストは主にタイト
ルと説明文によって構成されており，2 つのテキストは情報量を増やすために異なる文脈を持つことが多ジョン予測の精度向上を測った．このような枠組みはマルチタスク学習 [7] と呼ばれ，主に自然言語処理において複数タスクに対して重みを共有するネットワー
クを用いることで精度向上が報告されている [8]．

い．そこで今回使用するネットワークでは，タイトルテキストと説明文で異なるコンテキストを学習するこ

2.2

Conditional Attentionとを期待し，それぞれ 2 つの text encoder を用いてテAttention 機構は入力系列に対してどの単語に注視すキストから特徴を取得する．具体的にはクリエイティるかを含めて学習可能な機構である．配信対象の属性

ブからタイトルテキストと説明文テキストをそれぞや，クリエイティブのジャンルによって注視すべき単語

れ title encoder と content encoder に入力を行い，特は異なることが予想される．本研究ではこうした属性値徴ベクトルを取得する．本研究では，コンバージョンから得られた特徴ベクトルを用いて self-attention [9]とクリックを同時に予測するマルチタスク学習と属性を計算する conditional attention を提案する．単語数

値に応じてテキスト内の重要な文字列を予測，検出すn のクリエイティブテキスト S = (w1 , w2 , · · · , wn ) にる conditional attention の 2 つを提案する．マルチタ

対して text encoder を適用し，n × u 次元の隠れ状

スク学習では，コンバージョン自体が少ないクリエイ

態 H を取得する．性別とジャンル各々 dgender 次元，ティブに対するコンバージョン予測において，事前行dgenre 次元の one-hot ベクトル表現を結合した df eat

動であるクリックを用いることで予測精度の向上を期

次元の xf eat に対して線形変換を行うことで，性別お待する．Conditional attention はクリエイティブの属

よびジャンルを考慮した dc 次元の conditional ベクト

性値に応じて attention を動的に設定可能にする仕組

ル c を計算する．

みであり，配信対象の性別やクリエイティブのジャンc = Wprj xf eat

ルを考慮した attention が設定できることを期待する．

ここで Wprj は dc × df eat 次元のパラメータ行列であ2.1

マルチタスク学習

り，dc はハイパーパラメータである．計算した condi-CVR 予測において，コンバージョン情報は少なく対象広告のコンバージョンを適切に予測するのは難し
いタスクの 1 つである．そこで本研究では図 1 に示
すネットワークにおいて，コンバージョン情報よりも多いクリック情報も同時に活用することで，コンバー

tional ベクトル c と [9] より計算される attention ベク
トル a を用いて conditional attention ベクトル acondを計算する．

acond = a ⊙ c

ここで ⊙ は element-wise product である．r 個のクリエイティブテキストに対して attention を適用する― 285 ―

Copyright(C) 2019 The Association for Natural Language Processing.
All Rights Reserved.

場合，conditional attention ベクトル acond は r × dc
次元の conditional attention 行列 Acond となる．したがって埋め込み文ベクトル m は r × u 次元の埋込文
行列 M となる．Conditional attention 行列 Acond とtext encoder の隠れ状態 H を乗算し，r 個の重み付き行列を計算する:

M = Acond H

3

実験と結果

3.1

データセット

評価実験には，グノシー3 において 2017 年 8 月から2018 年 8 月の 1 年間で配信された広告クリエイティブデータを使用した．このデータのうち表示回数が 500

図 3: 使用データセットにおけるクリエイティブのクリ以上のクリエイティブ計 14,000 件を対象とした．入ック数とコンバージョン数の関係 (相関係数 r = 0.816)

力に使用した素性はクリエイティブのタイトルテキス
ト，説明文，性別，クリエイティブのカテゴリ属性でジャンルで，どの属性のユーザに配信するかが設定さある．入力テキストは mecab-ipadic-neologd [10] を用れており，複数のクリエイティブが設定されている．

いて形態素解析を行い，分かち書きをした．

本研究では未知のキャンペーンにおけるクリエイティ
ブテキストに対するコンバージョン数予測を行い，汎3.2

実験設定化性能を確認する必要がある．したがって評価時にはベースラインとしてサポートベクター回帰 (SVR)と multi-layer perceptron (MLP) を用いた．SVR にクリエイティブテキストを入力する際には，事前学習済み word2vec を用いて単語ベクトルを得たのちに平均したものを文ベクトルとした．実験では text en-coder として gated recurrent unit (GRU) [11] および bi-directional GRU を利用し，attention を導入しないシンプルなもの (Vanilla)，attention を導入した
もの (Attention)，そして提案手法である conditionalattention を導入したもの (Conditional Attention) について比較を行った．上記に加えて，CVR 予測におけるマルチタスク学習の効果を確認するため，コンバージョン数のみを予測するもの (single) およびコンバージョン数に加えてクリック数を予測するもの (multi-task) について比較を行った．これらネットワークは
mean squared error (MSE) 誤差関数を目的関数とし，誤差逆伝播法によってパラメータを最適化する．パラメータの最適化には Adam [12] を用いた．

3.3

配信キャンペーンが重複しないような形で 5-fold crossvalidation を行った．
評価指標として mean average precision (MAP) および normalized discounted cumulative gain (NDCG)を使用した．これらは主にランキング学習の評価指標として用いられる．一般には MSE や logloss といった指標が用いられるが，コンバージョンの多くが 0 であり，すべて 0 と予測しても評価スコアは良くなってしまう場合がある．したがってコンバージョンの多いクリエイティブが上位となる予測がされているかを評価する必要がある．本研究では多くコンバージョンされているクリエイティブを正確に予測するため，MAP算出時にはコンバージョン数が 1 以上および 10 以上で閾値を設け，NDCG 算出時にはデータすべてに対する結果とコンバージョン数上位 1%に制限したときのスコアを計算した．

3.4

実験結果

実験結果を表 1 に示す．文脈を考慮することが可能

評価方法

な GRU ベースのネットワークがベースラインの SVR

グノシーにおいて，広告はキャンペーンという単位および MLP の精度を上回ることが確認できた．特にで配信されている．キャンペーンにはその広告がどの

bi-directional GRU を text encoder として用いた場
合に予測精度が高く，コンバージョンの多いクリエイ

3 https://gunosy.com/― 286 ―

Copyright(C) 2019 The Association for Natural Language Processing.
All Rights Reserved.

表 1: 各モデルに対する性能比
Mean average precision (MAP)
Model#CV >1singleSVR

GRU

Bi-directional
GRU#CV >10multi-tasksingle0.3469All

multi-tasksingle0.0897#CV top 1 %multi-tasksingle

0.9672

multi-task
0.8373MLP

0.35540.36.240.08750.0956

0.96680.97180.84100.8297

Vanilla

0.34340.36130.0803

0.09370.96540.97000.76390.7851

Attention

0.3571

0.3615

0.0937

0.09650.9676

0.97110.85490.8300Conditional Attention

0.35750.3663

0.09650.10050.96770.97200.87110.8714

Vanilla

0.35310.36030.09580.09800.96800.96930.80880.7995

Attention

0.35640.36190.09660.10050.96830.97170.81620.8325

Conditional Attention

0.36130.36890.10050.11090.9686

0.97210.83920.8357

ティブを適切に予測できている．実験結果より，クリエイティブテキストにおいて語順を適切に捉えることは重要であると示唆される．
今回，マルチタスクモデルはコンバージョン数のみを予測するシングルモデルよりも高い予測精度を実現できた．通常広告クリエイティブは今回使用したデー
タセット図 3 のようにコンバージョン数とクリック数の間に高い相関があるため，コンバージョン数単体を予測するよりも，クリック数も同時に予測するマルチタスクでモデルを学習させることで予測精度が向上したと考えられる．
通常の attention 機構と比較して提案手法である

conditional attention が MAP，NDCG ともに優れた結果であることが確認できた．従来の attention 機構
では単語間の共起関係のみを考慮した注視単語の学習が行われていたが，クリエイティブ配信時に付随する属性情報を考慮することにより，配信時のコンバー

参考文献[1] O. Chapelle, E. Manavoglu, and R. Rosales, “Simple
and scalable response prediction for display advertising,”
ACM Transactions on Intelligent Systems and Technology(TIST), vol. 5, no. 4, p. 61, 2015.
[2] M. Mahdian and K. Tomak, “Pay-per-action model for online
advertising,” Proceedings of the 1st international workshop
on Data mining and audience intelligence for advertising,pp. 1–6, 2007.
[3] M. Richardson, E. Dominowska, and R. Ragno, “Predicting clicks: Estimating the click-through rate for new ads,”
Proceedings of the 16th International World Wide WebConference(WWW-2007), January 2007.
[4] J. Chen, B. Sun, H. Li, H. Lu, and X.-S. Hua, “Deep ctr
prediction in display advertising,” Proceedings of the 2016
ACM on Multimedia Conference, pp. 811–820, 2016.
[5] W. Liu, R. Tang, J. Li, J. Yu, H. Guo, X. He, and S. Zhang,“Field-aware probabilistic embedding neural network for ctr
prediction,” Proceedings of the 12th ACM Conference on
Recommender Systems, pp. 412–416, 2018.
[6] T. Kazuki, O. Kazuhiro, and Y. Kota, “New advertising creative by artificial intelligence,” Journal of the Japanese Society for Artificial Intelligence, vol. 32, no. 4, pp. 501–508,
jul 2017.
[7] R. Caruana, “Multitask learning,”
vol. 28, no. 1, pp. 41–75, 1997.

ジョン数を適切に予測されている．

4

Normalized Discounted Cumulative Gain (NDCG)

Machine learning,[8] R. Collobert, J. Weston, L. Bottou, M. Karlen,
K. Kavukcuoglu, and P. Kuksa, “Natural language processing (almost) from scratch,” Journal of Machine Learning
Research, vol. 12, no. 8, pp. 2493–2537, 2011.

おわりに本研究では広告クリエイティブ作成支援を目標に，マルチタスク学習を用いた枠組みと conditional atten-tion を提案し，クリエイティブの評価を行った．
．コ
ンバージョンとクリックを同時に予測するマルチタス
ク学習をにより，コンバージョンをより正確に予測することが可能となった．加えて conditional attentionを導入することにより予測精度が向上し，同時にクリエイティブの属性値を考慮した動的な注目単語への可[9] Z. Lin, M. Feng, C. N. d. Santos, M. Yu, B. Xiang, B. Zhou,
and Y. Bengio, “A structured self-attentive sentence embedding,” CoRR arXiv:1703.03130, 2017.
[10] S. Toshinori, “Neologism dictionary based on the language
resources on the web for mecab,” 2015. [Online]. Available:
https://github.com/neologd/mecab-ipadic-neologd[11] J. Chung, C. Gulcehre, K. Cho, and Y. Bengio, “Empiricalevaluation of gated recurrent neural networks on sequencemodeling,” CoRR arXiv:1412.3555, 2014.
[12] D. P. Kingma and J. Ba, “Adam: A method for stochastic
optimization,” CoRR arXiv:1412.6980, 2014.

視化を行うことを可能とした．今後はクリエイティブに付随する画像も同時に使用したシステムを構築し，コンバージョン予測の精度向上を目指す．

― 287 ―

Copyright(C) 2019 The Association for Natural Language Processing.
All Rights Reserved.