# 企業情報を考慮したキャッチコピーの自動生成

昇夏海 $\dagger$, 平岡達也 $\dagger$, 丹羽彩奈 $\dagger$, 西口佳佑 $๋$, 岡崎直観 $\dagger$
†東京工業大学†株式会社サイバーエージェント
\{natsumi.nobori, tatsuya.hiraoka, ayana.niwa\}at nlp.c.titech.ac.jp
okazaki at c.titech.ac.jp
nishiguchi_keisuke at cyberagent.co.jp

## 1 はじめに

キャッチコピーは企業や商品のイメージを消費者に端的に伝えることを目的とした文章であり，インターネット上で大量の広告が発信されるようになった現在では，その自動生成に注目が集まっている $[1,2,3,4]$. キャッチコピーの自動生成に関する研究の一例として，山根らはキャッチコピーの特徴の分析を行い [5]，SNS 上のデータを活用して消費者の嗜好を反映させたキャッチコピーの生成に取り組んだ [6]. また, Alnajjar ら [7] は韻や比喻を含むキャッチコピーの自動生成に取り組んだ。このように，これまでの研究は単語や文構造を制御し，修辞技法などの特定の特徵を持つようなキャッチコピー の生成を目指すことが多かった。

これに対し，本研究では特定の企業を想起させる特徴的な単語（企業関連語）を含むキャッチコピー の自動生成に取り組む。例えば，住友林業の「木と生きる幸福」の「木」のように広告対象を直接的に示すものや，ニチレイの「おいしい瞬間を届けたい」の「おいしい」のようなものが企業関連語として挙げられる。このような企業関連語を含めることで，キャッチコピーと広告対象の結びつきが強くなり，広告の効果を引き出すことができる [8]. 実際に，丹羽ら [9] は，収集したキャッチコピーのうち $57 \%$ に広告対象を想起させるような単語が含まれていることを報告している．そのため，企業関連語を組み込んだキャッチコピーの自動生成を行うことは，低コストで効果的な広告の作成に役立つ。

従来のキャッチコピー生成では，既存のキャッチコピーの単語を置換することで，新たなキャッチコピーを生成していた。このとき，置換を行う単語のリストは事前に作成し，モデルに与える必要があった. 例えば，ユーザからの入力情報や，Wikipedia
や SNS，商品情報を含む Web ページなどの外部文書をもとに単語リストを自動で抽出し，これを広告対象名やその関連語としてモデルに与えていた $[3,2,6,10]$. しかしながら，このように事前に作成した企業関連語で置換を行うキャッチコピー生成では，生成範囲が単語リストで限定されてしまうため，多様性に欠けるという問題がある。さらに，事前に作成した単語リストに含まれる単語が置換対象となる文脈にそぐわず，非文法的なキャッチコピー を生成してしまう恐れもある。

本研究では，事前学習済み言語モデルを用い，既存広告の一部を異なる企業の関連語で置き換えることにより，既存広告を指定した企業の広告に転移させることを試みる。具体的には，BERT [11]によるマスク言語モデルを用いて，キャッチコピー内の指定した単語を企業関連語に置き換える。ところが，ある企業のキャッチコピーを別の企業に書き換えた並列コーパスは存在しないため，このタスクで BERT を再学習するための訓練データは存在しない。そこで，BERT のマスク言語モデルが指定した企業の関連語を出力できるように制御するために， Plug and Play Language Model (PPLM) [12] の枠組みを応用した新たなキャッチコピー生成の手法を提案する. 実際のキャッチコピーを用いた実験を通して，提案手法が指定された企業を考慮し，適切なキャッチコピーが生成できることを確認した。

## 2 提案手法

## 2.1 単語予測のためのマスク言語モデル

本研究の目的は, 既存のキャッチコピーの 1 単語を書き換えることにより，別の企業のキャッチコピーへ転移させることである．例えば，図 1 に示すように，佐川急便のキャッチコピーである「想

(1) 文書分類器とマスク言語モデルの学習

(2) 全単語探索による単語の予測

(3) 推論時のパラメータ更新による単語の予測

図 1: 手法概要:企業ラベルを用いたキャッチコピーの生成

いは一番重い。」について，「重い」という単語を置き換えることで，「想いは一番甘い。」のような新たなキャッチコピーを作成する．具体的には単語の系列 $s=w_{1}, \ldots, w_{N}$ について, 系列に含まれる単語 $w_{n}(1 \leq n \leq N)$ を単語 $w^{\prime}$ に置き換えることによって，新たなキャッチコピー $s^{\prime}$ の生成を行う.

単語 $w^{\prime}$ の予測には，事前学習済みのマスク言語モデルである BERT [11]を利用する．マスク言語モデルの学習では, 入力文 $\mathrm{s}$ に含まれる単語をランダムに一つ選択し，特殊なマスクトークン [MASK] に置き換えた新たな入力文 $s_{\backslash w_{m}}$ を作成する.ここで $\backslash w_{m}$ は $m$ 番目の単語を [MASK] でマスクしたことを表す. マスク済みの文 $s_{\backslash w_{m}}$ の [MASK] に対応する BERT の出力 $\boldsymbol{h}_{\hat{m}}$ を用いて, マスク前の単語の確率を以下のように計算する。

$
p\left(w_{m} \mid s_{\backslash w_{m}}\right)=\operatorname{softmax}\left(\operatorname{MLP}^{(\mathrm{MASK})}\left(\boldsymbol{h}_{\hat{m}}\right)\right)_{w_{m}} \text {. }
$

ここで $\mathrm{MLP}^{(\mathrm{MASK})}(\cdot)$ は多層の全結合層であり， $\boldsymbol{h}_{\hat{m}}$ を語彙の規模と同じ次元数のベクトルへと変換する. また, $(\cdot)_{w_{m}}$ は単語 $w_{m}$ に対応する要素を抜き出す操作である.すなわち [MASK] に対応する入力から，語彙に含まれる各単語に対応する確率をソフトマックス関数で計算し，置き換え前の単語に対応する確率を出力する。このマスク言語モデルの学習は図1の(1)の MLP $^{\text {(MASK) }}$ の学習に対応する.

## 2.2 PPLM による予測の制御

本研究ではさらに，企業ラベルを用いたキャッチコピー生成の制御を行う．上述の例のように「想いは一番重い。」というキャッチコピーを，ある特定の企業（例えば「明治製菓」）のイメージを盛り込んだ内容に書き換えるとする。この時，「明治製菓」 という企業ラベルをモデルに導入することで，「想いは一番甘い。のように指定された企業を考慮し
た書き換えを実現したい。

企業ラベルを用いたキャッチコピー生成の制御のために，PPLM [12] の枠組みを応用する．PPLM では，事前にテキスト $s$ からラベル $l$ を予測する文書分類器を学習し, これを用いてラベル $l$ を考慮した新たな単語 $w^{\prime}$ の予測を行う. 具体的には, 学習済みの文書分類器がラベル $l$ を予測する確率 $p\left(l \mid s^{\prime}\right)$ を用い，文書分類器がラベル $l$ を予測するような新たなテキスト $s^{\prime}$ を求める.

文書分類の確率 $p(l \mid s)$ は以下のように計算する.

$
\begin{aligned}
\boldsymbol{h}^{(\mathrm{CLS})} & =f(\operatorname{BERT}(s)) \\
p(l \mid s) & =\operatorname{softmax}\left(\operatorname{MLP}^{(\mathrm{CLS})}\left(\boldsymbol{h}^{(\mathrm{CLS})}\right)\right)_{l}
\end{aligned}
$

ここで， $\operatorname{BERT}(\cdot)$ は単語の系列 $s=w_{1}, \ldots, w_{N}$ を入力とし, 各時刻の単語 $w_{n}$ に対応する文脈を考慮した分散表現 $\boldsymbol{h}_{1}, \ldots, \boldsymbol{h}_{N}$ を出力する事前学習済みの BERTを用いたエンコーダーである. ただし，入力となる単語の系列の先頭 $w_{1}$ と末尾 $w_{N}$ は, それぞれ文書分類に使用するための特殊トークン [CLS] と，文末を意味する特殊トークン [SEP] である。また $f(\cdot)$ は BERT の出力から文書分類に使用するべ

では特殊トークンの入力に対応する $\boldsymbol{h}_{0}$ を抜き出す操作を採用する. $\mathrm{MLP}^{(\mathrm{CLS})}(\cdot)$ は式 (1) で用いた $\mathrm{MLP}^{(\mathrm{MASK})}(\cdot)$ とは異なる多層の全結合層であり，抜き出した $h_{0}$ を文書ラベルの規模と同じ次元数のべクトルへと変換する. この文章分類器の学習は図 1 の (1)の MLP $^{\text {(CLS) }}$ の学習に対応する.

## 2.3 置換後単語の予測戦略

キャッチコピー $s$ について, 単語 $w_{n}$ を $w^{\prime}$ に置換して得られた $s^{\prime}$ が学習済みの文書分類器によって企業ラベル $l$ に分類される確率を $p\left(l \mid s^{\prime}: w_{n}=w^{\prime}\right)$
表 1: 広告データのマスク処理の例

企業ラベル：牛乳石战共進社

[MASK] は、あなたのカドをまるくします。石けんは、あなたの [MASK]をまるくします。石けんは、あなたのカドを [MASK] します。

表 2: 実験に使用したデータの諸元

と表記する。本研究では，この確率が大きくなるような $w^{*}$ を求めるために 3 つの手法を提案する。

全探索による単語の予測: 語彙 $V$ に含まれる全ての単語候補を用いて $w^{*}=\operatorname{argmax}_{w^{\prime} \in V} p\left(l \mid s^{\prime}: w_{n}=w^{\prime}\right)$ となる $w^{*}$ を求める. これは図 1 の (2) に対応する.追加学習による単語予測: PPLM での予測と同様に,推論時に指定した企業ラベルを用いて文書分類器を追加で学習することで， $p\left(l \mid s^{\prime}, w_{n}=w^{\prime}\right)$ が高くなるように BERT のパラメータのみを更新し，その副産物としてマスクされた単語の予測結果が企業に特徴的な単語になるように誘導する。また，文書分類の追加学習によるマスク言語モデルの忘却 [13] を防ぐために，マスクした $w_{n}$ 以外の単語はそのまま予測できるように追加学習を行う. 追加学習を行なった BERT とマスク言語モデルを用いて，式 (1)による単語の予測を行う.この学習と単語の予測の概要は図1の(3)に対応する.

組み合わせによる単語の予測: 全探索と追加学習を組み合わせた単語の予測を行う. 単語 $w_{n}$ を $w^{\prime}$ で置き換えたときのスコアを以下によって計算する。

$
\operatorname{score}\left(w_{n}, w^{\prime}\right)=p\left(l \mid s^{\prime}: w_{n}=w^{\prime}\right) p\left(w_{n} \mid s_{\backslash w_{n}}\right)
$

ここで $p\left(l \mid s^{\prime}: w_{n}=w^{\prime}\right)$ は全探索による単語の予測で求められたラベル $l$ のの分類確率, $p\left(w_{n} \mid s_{\backslash w_{n}}\right)$ は追加学習を行なった BERT とマスク言語モデルを用いて計算した単語の出現確率である。このスコアが高くなる単語を最終的な予測単語として採用する.

## 3 実験

提案手法によるキャッチコピー生成の有効性を確かめるために，実際のキャッチコピーを用いた実験を行う. 本実験では，既存のキャッチコピーから単語をランダムに [MASK] に置き換え，さらに企業ラベルを用いることで置き換え前の単語の予測性能が向上するかを確認する. 提案手法が企業ラベルを用いて企業に特徴的な単語を予測できるのであれば，表 3: マスク予測の実験結果.

表 4: 「あのオトコ、どうやって [MASK] してやろうか。」への各手法の予測上位 3 単語. 企業ラベルは 「キッコーマン」で，正解の単語は「料理」である.

この実験の評価値は高くなるはずである。

## 3.1 実験設定

本研究では，多数のキャッチコピーを収録したデータセット [14]を用いた実験を行う。データセットに収録されているキャッチコピーの一部を [MASK] に置き換えることで，置換前の単語を予測するマスク言語モデルのタスクを作成した。ただし，[MASK]への置き換えは名詞，形容詞，動詞のみを対象とした。品詞の解析には $\mathrm{MeCab}$ [15] を用いた。また，予測の制御を行うための企業ラベルには，キャッチコピーのテーマとなる企業・団体名を用いた。マスク済みのデータの例を表 1 に示した。 また，データセットに含まれる企業ラベルは 443 種類であり，このうちキャッチコピー数の多い 50 企業を選択して開発データと評価データを作成した。実験に用いたデータセットの諸元を表 2 に示した。

2 節で導入した各手法の性能を比較する。全ての手法に共通する設定として，文書分類とマスク言語モデルに用いる事前学習モデルは Hugging Face ${ }^{1)}$ の日本語の事前学習済み BERT モデル “bert-basejapanese-whole-word-masking,"2)を用いた。また，文書分類器とマスク言語モデルの学習では Adam[16] による最適化を行う。

提案手法が企業ラベルを用いて予測を制御できることを確かめるために，マスク言語モデルのみを学習して置換後単語の予測を行うモデル (MASK) との比較を行う．また， 2.3 節で説明した全探索による単語の予測を行うモデル (全探索), 追加学習による単語の予測を行うモデル (追加学習), これらの組み

表 5: 「想いは一番 $[\mathrm{MASK}]_{0} 」$ 対して，異なる企業ラベルを与えた時の各手法による Top9 の予測単語. 本来の企業ラベルは「佐川急便」で，単語は「重い」である。

 & 美しい & 重い & 強い & 長い & 短い & 多い & 早い & 甘い & 近い \\

合わせによって単語の予測を行うモデル (組み合わせ) をそれぞれ比較し，正解単語に対する top- $k$ 正解率 (Acc@k) による評価を行う。

## 3.2 実験結果

表 3 の実験結果より，全探索と追加学習を組み合わせて単語の予測を行う手法が，もっとも高い精度で正しい単語を予測できることがわかった. また,追加学習を行うモデルが MASK モデルよりも性能が高いことから, 企業ラベルを用いて追加学習を行う提案手法によって, 企業に特徴的な単語を正しく選択できていることがわかった. 一方で，提案手法のうち全探索による単語の予測を行うモデルは, 他のモデルと比べて性能が大きく劣る. これは, 文書分類器の分類確率が最も高くなる単語を全探索で選択するだけでは，企業に特徴的な単語を予測できても，前後の文脈を考慮できないためである.

実際に，各手法によって予測された単語の例を表 4 に示す. 全探索によって単語を予測する手法は,企業関連語（キッコーマンと結びつきやすい「奨油」 など）を予測の上位に挙げているが，前後の文脈を考慮していないことが分かる。一方で MASK モデルは前後の文脈のみを考慮した単語（「出世」など） を上位に挙げている. 追加学習や全探索との組み合わせによる提案手法は, 企業関連語を考慮した単語を上位に予測している。

## 3.3 異なる企業ラベルによる予測

本研究の目的である新しいキャッチコピーの生成のために，キャッチコピーの本来のターゲットとは異なる企業ラベルを用いて単語の予測を行う．実験で比較した各手法に対して，同一のマスク済みキャッチコピーを入力し，異なる企業ラベルを与え
た時の予測単語の Top 9 の予測結果を表 5 に示した.

表より, 全探索と追加学習を組み合わせた提案手法は，「佐川急便」に対して「重い」，「明治製菓」に対して「甘い」のように，企業ごとに異なる関連語を Top 1 として予測できていることが分かった. マスク言語モデルのみを用いた手法は，企業ラベルを推論時に使用しないため, 全ての企業に対して同じ単語を予測する。追加学習のみを行う手法は，マスク言語モデルのみを用いた手法と上位の予測結果が変わらず，Top 1 の単語に関しては全ての企業に対して「美しい」を出力している. 表 3 において， MASK モデルと追加学習モデルの性能差が小さいことからも示唆される通り, 追加学習を用いた単語の予測はほとんどマスク言語モデルの性能と変わらないことがわかった。また，全探索による手法は「佐川」「石賖」「チョコレート」のように，明らかな企業関連語を予測できているが，言語モデルとしての働きはないため, 文脈にそぐわない単語の予測を行なっている.

## 4 おわりに

本稿では，マスク言語モデルで単語の置換を行い，既存のキャッチコピーを異なる企業へ転移させる手法を提案した。 提案手法は，企業ラベルを用いた文書分類器とマスク言語モデルをを事前に学習することで，指定した企業ラベルに関連し，かつ前後の文脈を考慮した単語の予測を行う. 単語の予測では，語彙を用いた全探索手法と，PPLMをべースとした追加学習による手法，そしてこの二つを組み合わせた手法を提案した. 実験結果より, 二つの手法を組み合わせることで適切な単語の置き換えによるキャッチコピー生成ができることを確認した. 今後は，複数の単語を書き換える手法に拡張したい。

## 参考文献

[1]Carlo Strapparava, Alessandro Valitutti, and Oliviero Stock. Automatizing two creative functions for advertising. In Proceedings of the 4th International Joint Workshop on Computational Creativity, pp. 99-108, 2007.

[2]Gözde Özbal, Daniele Pighin, and Carlo Strapparava. BRAINSUP: Brainstorming support for creative sentence generation. In Proceedings of the 51st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pp. 1446-1455, 2013.

[3]Polona Tomašič, Gregor Papa, and Martin Žnidaršič. Using a genetic algorithm to produce slogans. Informatica, Vol. 39, No. 2, 2015.

[4]Yongzhen Wang, Heng Huang, Yuliang Yan, and Xiaozhong Liu. Quality-sensitive training! social advertisement generation by leveraging user click behavior. In Proceedings of the 2019 World Wide Web Conference, pp. 2045-2055, 2019.

[5]山根宏彰, 萩原将文. 複数コーパスを利用したキャッチフレーズの特徴分析. 日本感性工学会論文誌, Vol. 11, No. 2, pp. 233-239, 2012.

[6]山根宏彰, 萩原将文. ウェブにおけるユーザの嗜好を反映させたキャッチコピー自動生成システム. 日本感性工学会論文誌, Vol. 13, No. 4, pp. 493-500, 2014.

[7]Khalid Alnajjar and Hannu Toivonen. Computational generation of slogans. Natural Language Engineering, p. 1-33, 2020.

[8]Chiranjeev Kohli, Lance Leuthesser, and Rajneesh Suri. Got slogan? guidelines for creating effective slogans. Business horizons, Vol. 50, No. 5, pp. 415-422, 2007.

[9]丹羽彩奈, 岡崎直観, 西口佳佑, 亀山千尋, 毛利真崇. 修辞技法を考慮したキャッチコピー自動生成に向けた研究. p. 63. YANS, 2019.

[10]脇本宏平, 川本峻頌, 張培楠. インターネット広告におけるキーワードに基づく広告文の自動生成. 人工知能学会全国大会論文集, Vol. JSAI2020, pp. 4Rin170-4Rin170, 2020.

[11]Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pp. 41714186, 2019.

[12]Sumanth Dathathri, Andrea Madotto, Janice Lan, Jane Hung, Eric Frank, Piero Molino, Jason Yosinski, and Rosanne Liu. Plug and play language models: A simple approach to controlled text generation. In International Conference on Learning Representations, 2020.

[13]Sang-Woo Lee, Jin-Hwa Kim, JungWoo Ha, and Byoung-Tak Zhang. Overcoming catastrophic forgetting by incremental moment matching. CoRR, Vol. abs/1703.08475, , 2017.

[14]丹羽彩奈, 岡崎直観, 西口佳佑, 亀山千尋, 毛利真崇. キャッチコピーの自動生成に向けた分析. pp. 558-561.言語処理学会第 25 回年次大会, 2019.

[15]Taku Kudo. Mecab: Yet another part-of-speech and morphological analyzer. http://taku910.github.io/mecab/, 2006.

[16]Diederik P. Kingma and Jimmy Ba. Adam: A method for stochastic optimization. In International Conference on Learning Representations, 2015.