言語処理学会 第26回年次大会 発表論文集 (2020年3月)

スタイル制御を考慮した多様な広告文生成
川本 峻頌†1†2†1

張 培楠†1

株式会社サイバーエージェント

†2

明治大学

{shunyo_kawamoto,zhang_peinan}@cyberagent.co.jp
1

はじめに
広告文は，ユーザの注意を惹きつけ，クリックやコンバージョンといった購買アクションに誘導する重要な役割を果たしている (図 1)．その一方で，日々増加する商品やサービスのすべてに対して，人手によって適切で魅力的な広告文を作成することは時間的・金銭的な図 1: ショッピングサイトにおける広告文の例

コストが莫大なため現実的ではない．また，インターネット広告では，ユーザに何度も同じ内容の広告を提示するとユーザの反応が著しく低下することが知られている．これは「広告の疲弊」と呼ばれ，この問題を解決するためには同一の商品に対して複数の広告を製作する必要がある．そのため，多様な広告文を自動で大量に生成することは，広告制作者の負担を減らすこと

は，応答文を生成する際に「そうですね」や「わかりません」といった当たり障りない発言を多用する解に陥ることがある．多くの場面で使用できるだけに多様性の低下に伴う人間味や自然さの喪失といった問題を引き起こす．この多様性を向上させるための一つのアプローチが変分オートエンコーダである．

ができる上，広告の疲弊を回避する手段にもつながる．
しかし自動生成タスクで頻繁に用いられる sequence-to-sequence (seq2sec) 手法は，単一入力に対応する最適な系列を出力するように学習するため，多様性と制御可能性を高めるのは簡単ではない．変分オートエンコーダ（Variational Auto-Encoder, VAE）[1] を用いることで，学習された潜在変数の分布から近しい意味やスタイルの表現を多数サンプリングできるが，そのままでは生成する表現のスタイルを制御することができない．そこで我々は VAE をベースとした，品詞情報

変分オートエンコーダ

変分オートエンコーダはKingma ら [1] によって提案された生成モデルの一種である．従来のオートエンコーダの中間表現に潜在変数 z の正規分布を仮定し，そのパラメータである平均 µ と分散 σ を推定する．その学習された潜在変数からサンプリングすることで，入力に近しい表現を生成できる．また，変分オートエンコーダの入力時に制約となる要素を加えることで，出力をコントロールする

CVAE [6, 7] も後続研究として考案されている．に着目した POS-VAE を提案する．また，現存の多様広告文生成性の評価尺度では，各入力に対して多数の出力を行う年盛んに行われてきている．福田ら [4] は CVAE を用モデルに対処できるものがなく，VAE のようなモデルいて，キーワードを入力とした手法を提案した．出力を正しく評価できない．そのため，本研究では新たに文の制御という意味では本研究と同じだが，入力され多出力の場合を考慮した多様性の評価尺度を提案する．

る単一の単語に依存するため，文構造単位でのスタイ

2

広告文へのテキスト生成技術の適応は近ルの制御ができないという点で本研究と異なる．

関連研究

Zhang ら [5] も広告文生成タスクにおいて CVAE を文生成における多様性の高低は，対話タスク [2, 3]拡張したニューラルネットワークを使用している．「赤に始まり，近年では広告文生成 [4, 5] でも注目される色」「メンズ」などといった商品特徴を持つ複数の単語ようになってきている．

を条件として入力することで，これらの条件に沿ったニューラルネットワークで学習された対話モデルで広告文を生成する．しかし条件の単語を使用するよう― 1368 ―Copyright(C) 2020 The Association for Natural Language Processing.
All Rights Reserved.

図 2: 提案モデル POS-VAE の全体像に学習されるため，文構造をスタイルとして生成を行

モデル qθ (z|x) を事前分布 p(z)∼N (O, I) の KL ダイ

うことはできない．

バージェンスの最小化と，サンプリングした潜在変数 z3から入力 x を再構築する期待値の最大化を行う．

提案手法

L′ (θ; x, xpos ) = −KL(qθ (z|x)∥p(z))

提案手法である POS-VAE の全体像を図 2 に示す．

+ Eqθ (z|x) [log pθ (xpos |z)]

POS-VAE では VAE をベースとしており，品詞 (Part-(2)+ Eqθ (z|x) [log pθ (x|z, xpos )]Of-Speech, POS) 系列をスタイル情報とみなし，品詞系列を生成するネットワークと単語列を生成するネッ提案モデルでは品詞系列の多様性のため，サンプリトワークを同時に学習する．品詞系列を生成するネッ

ングした潜在変数 z から品詞系列の生成を行う, 品詞系

トワークでは，VAE によってサンプリングされた潜在列生成モデル log pθ (xpos |z) を導入する．また，文生成変数から品詞系列を多様に生成することを目指す．単モデルは log pθ (x|z, xpos ) として品詞系列を考慮した語列を生成するネットワークでは，入力文をエンコー生成を行う．提案モデルの目的関数を式 (2) に示す．

ドした中間表現と品詞系列の 2 つの系列から入力文を生成する．これにより，入力文の内容と品詞系列のスタイルに沿った文を生成するような学習が期待できる．
この手法の特徴は制約が緩いことである．単語のよ4

評価実験

4.1

実験設定

実験データ

実験では株式会社サイバーエージェント

うな強い制約を加えてしまうと，その単語をなんとしが保有する, 美容・化粧品関連の広告データを使用してでも使うような学習が行われるため，不自然な文をた．前処理として URL 除去, ハッシュタグの除去, 正生成してしまったり，実応用上において使いづらい点が規化, 数字, 低頻度語のマスキング, 「(*1)」といった注生じてしまう．反対に全く制約を加えなければ，ユー釈マークの除去を行ったのち，重複文を一つの文にまとザによるコントロールができないため，望ましい方向のめた．品詞は「名詞」や「形容詞」といった IPA 品詞体生成がなされない可能性が高まる．したがってその中系における大分類*1 を用いた. 総レコード数は 49,552間である緩い制約が適しているのではないかと考えた．

件であり，総単語数は 10,293，平均単語数は 15.9，総品詞数は 16 であった．実験では 44,596 件を学習用，

L(θ; x) = −KL(qθ (z|x)∥p(z))+ Eqθ (z|x) [log pθ (x|z)](1)≤ log p(x)2,477 件を開発用，2,479 件をテスト用に分割した．
モデル

VAE の学習では目的関数 (式 (1)) にある log p(x) の変分下限を最大化する．変分下限では事後分布の近似― 1369 ―品詞系列生成モデル，文生成ネットワークと*1 形態素解析には MeCab および mecab-ipadic-NEologd を使用した.

Copyright(C) 2020 The Association for Natural Language Processing.
All Rights Reserved.

表 1: 自動評価の結果

表 2: 人手評価の結果

BLEU

dist-1

dist-2

local-dist-1

local-dist-2

local-dist-3

流暢性

妥当性

VAE

0.14

0.053

0.18

0.41

0.70

0.81

2.96

2.30

POS-VAE

0.12

0.038

0.15

0.42

0.74

0.86

2.56

1.98

もに 256 次元 1 層の GRU を用いた．単語 Embedding

意味が通るかどうか」と聞かれ，生成文がどれだけ文層は 300 次元，品詞 Embedding 層は 20 次元，潜在法的・意味的なミスなく生成できているかを評価する．

空間の次元数は 16 次元である．学習ではバッチサイズ

妥当性では「出力文が入力文に対して適切で嘘を言っ32 のミニバッチにて 10 epoch 学習させた結果を用いていないか」と聞かれ，入力文の情報を生成文がどれほた．また潜在空間の学習を安定させるために KL cost

ど保持できているかを評価する．評価にはテストデー

annealing[1] と word dropout[1] を行った．

タから入力文を 30 件ランダムにサンプリングし，各入4.2

力文に対して手法ごとに 10 件の広告文を生成した．各

評価手法

生成された広告文に対して，複数の評価尺度での自生成文を作業者 4 名で評価スコアを付与した．

動評価と人手評価を実施した．

5

結果と考察

自動評価

5.1

結果

BLEU は出力文と正解文の重なりを評価するため多様性を考慮できない．したがって多様性を自動評価の結果を表 1 に示す．dist-n は式 (3) の測る指標として distinct [2, 3, 5] を用いて評価する．

n-gram の distinct を表し，local-dist-n は式 (4) におdistinct を式 (3) に示す．

ける n-gram の local-distinct を表す．BLEU, dist-1,distinctn (G) =Uniquen (G)Countn (G)(3)

G = {g1 , g2 , .., gM } は M 個の生成文集合を表し，Uniquen は n-gram の重複なしのカウント数，Countn

dist-2 では VAE が優位である一方，local-distinct では POS-VAE が優位となった．特に local-distinct では n が大きくなるほど，POS-VAE が優位な傾向にあることが確認できる．
人手評価の結果を表 2 に示す．流暢性，妥当性ともは n-gram の重複ありのカウント数を表す．

distinct はテストデータ全体に対してモデルが生成した文の多様性を示す．しかし提案手法が目標とするに VAE が POS-VAE を上回る結果となった．

5.2

考察

多様性とは，1 入力に対する多出力の多様性である．

表 1 より，提案手法が local-distinct で優位であるここのような評価基準が存在しないため，我々は新たにとが確認できた．これは提案手法が同一の入力に対しlocal-distinct を提案する．local-distinct を式 (4) に品詞系列を確率的にサンプリングし，文生成時にスタ示す．

イルとして制御することで多様な表現が得られたため∑
local-distinctn (Gmulti ) =であると考えられる．

G∈Gmulti distinctn (G)表 3 に 1 入力に対するモデルの出力結果を示す．

|Gmulti |(4)

VAE では「シミは家で簡単に消せる」等のフレーズがGmulti = {G1 , G2 , .., GM } は各テストデータに対し一致しており，生成文全体では多様性に欠ける一方，て k 回ずつ生成した生成文全体を表す．ここで Gi ={gi1 , gi2 , .., gik } は i 番目のテストデータに対する k 個の出力であり，g は生成文 1 サンプルを表す．実験ではPOS-VAE では様々なフレーズが確認できる．
distinct では提案手法よりも VAE が優位であった．
この結果は異なる入力間においては VAE がより多様に生成することを示している．これは POS-VAE では品k = 10 とした．

詞系列を多様に生成している反面，文生成モデルが入人手評価人手評価では生成文の流暢性，妥当性をそれぞれ最低を示す 1 から最高を示す 4 の 4 段階で評力品詞系列に横断して適合しやすい単語列を生成している可能性を示唆している．distinct を保持しながら価する．流暢性では「出力文自体が日本語的に流暢で― 1370 ―Copyright(C) 2020 The Association for Natural Language Processing.
All Rights Reserved.

表 3: 各モデルの生成結果
入力文【レーザーじゃないシミ対策】デキる美魔女はみんなやってる簡単自宅ケア?
皮膚科医 (<num>)「シミは家で消せるよ?」簡単すぎる方法が大炎上中

VAE【手遅れのシミは簡単に消える】皮膚科医 (<num>)「シミは家で消せるよ」簡単すぎる方法が大炎上中【レーザー治療はもう古い?】皮膚科医の妻 (<num>)「シミは家で簡単に消えるよ?」効果が凄すぎて大炎上中【ファンデ不要】スッピン美人急増中!シミの悩みにはこれ
シミには並ばない!<person>も愛用したシミ消しの裏ワザが簡単すぎ

POS-VAE<num>割の日本人女性が知らない?美肌を維持した<num>歳主婦が簡単すぎ<num>代からのシミどこいった?<person>さんも愛用のジェルが話題
シミしわに直撃!1 日<num>秒ケア付き<num>％ oﬀ キャンペーン中

local-distinct を最大化することが今後の課題である．

表 4: 品詞を指定した場合の POS-VAE の生成結果．品詞列

また，POS-VAE がどれだけ品詞系列に沿って文をにおいて「名」は名詞，「副」は副詞，「記」は記号を指す生成しているかを確認する．POS-VAE の生成文の品詞系列と入力品詞系列との完全一致率は約 20% であっ

入力文お肌が劇的に変わる♡プルプル日中美容クリームを使ってみたた．一方で VAE の生成文と入力文の品詞系列の完全品詞生成文したサンプルを表 4 に示す．これらの結果から，POS-名名角質層深部ケア

VAE は厳密に入力品詞系列に従うように学習している

名名名

毛穴レス肌用美容液

わけではないが，文⻑や情報量など文の表現に貢献す

副名名名

まるでエステ帰りのすっきり肌る部分を考慮して生成できていることがわかる．特に，

記名名記名「これ 1 本」ファンデ不要の神コスメ

一致率は 0% であった. また，品詞系列を指定して生成品詞系列に記号を入力とした場合に正しく括弧が出力文に反映されている事例を鑑みると，この研究の目的

入力文品詞導くクリームが凄かったに当たるスタイル制御が達成できていることが言える．
人手評価による流暢性, 妥当性に関しては，VAE がお肌の状態を整え，透明感ある肌に参考文献提案手法を上回った．提案手法ではスタイルを制御できる反面，尤もらしいものではない単語を選択することになるため，所々不自然な表現になってしまうと考えられる．

6

まとめ
本研究では, 品詞情報をスタイルとみなし, スタイル制御を考慮した多様な文生成手法として POS-VAE を提案した. また, 多出力を考慮した多様性の評価指標も考案した．美容・化粧品関連の広告データで学習し，ベースラインの VAE との比較実験を行った．POS-VAE は自動評価で多様性が VAE よりも優位であった
一方で，人手評価は VAE が POS-VAE よりも流暢で妥当な文を出力することが分かった．今後は多様性と制御性を維持した，より文法的に自然で内容的に正し[1] Diederik P. Kingma and Max Welling. Auto-encoding variational bayes. In ICLR, 2014.
[2] Tiancheng Zhao, Ran Zhao, and Maxine Eskenazi. Learning discourse-level diversity for neural dialog models usingconditional variational autoencoders. In ACL, 2017.
[3] Jiwei Li, Michel Galley, Chris Brockett, Jianfeng Gao, andBill Dolan. A diversity-promoting objective function forneural conversation models. In NAACL, 2016.
[4] 福田宏幸. キーワード条件つき変分 autoencoder による広告文生成. 人工知能学会, 2019.
[5] Yuchi Zhang, Yongliang Wang, Liping Zhang, Zhiqiang
Zhang, and Kun Gai. Improve diverse text generation by self labeling conditional variational auto encoder.
ICASSP, 2019.
[6] Diederik P. Kingma, Danilo J. Rezende, Shakir Mohamed,and Max Welling. Semi-supervised learning with deep generative models. In NeurIPS, 2014.
[7] Kihyuk Sohn, Honglak Lee, and Xinchen Yan. Learning
structured output representation using deep conditional
generative models. In NeurIPS, 2015.

い文を生成できるような手法を考えていきたい．

― 1371 ―Copyright(C) 2020 The Association for Natural Language Processing.
All Rights Reserved.