言語処理学会 第24回年次大会 発表論文集 (2018年3月)

学習データセットを分けた seqGAN による俳句生成
廣田 敦士

岡 夏樹

荒木 雅弘

田中 一晶

京都工芸繊維大学 大学院工芸科学研究科

hirota515tea@gmail.com, {nat, araki, k tanaka}@kit.ac.jp

1

はじめに習データに近い系列を生成することに起因する．つまり，俳句の生成モデルは学習データ中の俳句の性質に機械が創作する研究は，画像生成の分野では Gen-erative Adversarial Networks (GAN) [1] の提案から近づきつつも，完全に同じ系列を出力しないような学習をする必要がある．

飛躍的に進んだ．GAN は，作品を生成する生成器と，P (wi+1 |w0 , w2 , . . . , wi )生成器から生成された作品か人が創った作品かを区別する識別器が敵対的に学習するモデルである．GANは後に改良され [2]，現在では人の主観評価で画家が描いた作品に匹敵する芸術作品を生成するまでになった [3]．一方自然言語創作の研究では，GAN を系列データに拡張した seqGAN [4] が提案され，漢詩とオバマ前アメリカ大統領のスピーチ生成が行われた他，詩の創作 [5] も行われている．
本研究では，近年注目されている俳句を題材にする．
伊藤園お〜いお茶新俳句大賞の応募句数は年々増加傾
向にあり，その人気ぶりが伺える [6]．俳句とは，季語 1 を含む，5・7・5 音で構成された日本語の定型詩であるが，本研究においては，季語や定型にこだわることなく，5・7・5 のリズムにのせた詩を扱うものとする 2 ．
俳句の生成にあたって，留意点が 2 つある．1 つめは生成俳句の評価方法である．言語生成モデルの評価は単語の分岐数を表す perplexitiy による定量的評価が主流 [5] であるが，創作課題を扱っているので，生成俳句に対して人が抱く印象を評価する必要がある．2 つめは，盗作の防止である．俳句生成は，機械翻訳等 [7] と違い，学習データと同じ系列を生成すると盗作になる．
式 (1) に示す Neural Probabilistic Language Model(NPLM) [8] を用いた言語生成モデルでは，学習データに含まれる系列に酷似した系列を生成することが想定される．これは，NPLM が単語列 w0 , w1 . . . , wi が入力された時の次の単語 wi+1 の出現確率分布 P (wi+1 )を予測するモデルである為，教師あり学習をすると学(1)Yu ら [4] は GAN を系列データに拡張したモデル
seqGAN を提案した．seqGAN は GAN 同様，事前学習と敵対的学習の 2 つの学習フェーズがある．事前学習では，生成器は NPLM の学習を行い，識別器はCNN [9] [10] により，人が創った作品を正例，事前学習済生成器から生成された系列を負例として，それらを識別するように学習する．その後，敵対的学習において生成器の出力系列が正例であるか負例であるかが識別器で識別される．生成系列が正例だと判断されれば，識別器を騙せたことになり，生成器に正の報酬が入る．一方，負例だと判断されれば生成器に負の報酬が入る．また同時に，識別器も人の創った系列を正例，生成器から出力される系列を負例として学習する．
本研究では，生成器と識別器の事前学習時に，それぞれ異なる種類のデータセットを用いることを提案する．具体的には，生成器には 5・7・5 のモーラで意味の通る日本語を出力させる為に，wikipedia3 から抽出した 5・7・5 のモーラで構成される文字列で学習させる．識別器は俳人の詠んだ俳句で学習し，人の詠んだ俳句かどうかを識別できるようにする．これらのモデル同士で敵対的学習を行えば，生成器は識別器が俳人の詠んだ俳句と区別がつかない俳句を生成するように学習が進むと考えられる．また，敵対的学習において，生成器が生成する俳句を識別器は負例として学習する
ため，生成器は識別器を騙し続けることはできない．
したがって，生成モデルは事前学習で学習した系列とは違う系列を出力するように学習し，盗作を防げることが期待される．

1 一定の季節と結び付けられた語
2 伊藤園お〜いお茶新俳句大賞の俳句公募テーマに準拠

https://www.itoen.co.jp/new-haiku/rules_regulations/index.html― 1292 ―3 https://ja.wikipedia.org/wiki/

Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

俳句生成2示す．各生成条件において，語彙数が著しく高くなっている点のうち，学習が最も進んでいる 3 モデルを選2.1

データセットんだ (図中の丸印)．このようにして選択されたモデル

本実験で用いる俳句のデータセットは wikipedia より抽出した俳句もどき 18,680 句 (以後「wiki 俳句」)と，現代俳句協会データベース 4 掲載の俳句 14,021 句が生成した 800 句を識別器に入力し，人が詠んだとされる確率が高い上位 2 件を生成俳句とし，3 章の評価実験に用いた．

(以後「協会俳句」) である．wikipedia からの俳句もどきの抽出は wikipedia 日本語ページより，5・7・5 の17 モーラで並んでいてかつ，上五，中七，下五のそれぞれの先頭単語の品詞が動詞，形容詞，名詞のいずれ

3

評価実験

3.1

評価方法

かである文字列を切り出し， 協会俳句内で用いられ主観評価の対象俳句は，生成俳句 3 種類 (asso,ている語彙以外の単語を使っている俳句を取り除くこmixed, sepa) と，協会俳句と wiki 俳句の計 5 種類でとで行った．

あった．生成俳句は各 6 種類 (3 モデル ×2 俳句) あり，協会俳句と wiki 俳句はそれぞれ 14,021 句，18,680 句

2.2

生成モデル

ある．各条件から，アンケート回答者毎に重複しない

本研究では生成器と識別器を敵対的に学習させる

seqGAN [4] を元に，生成器と識別器の事前学習で与えるデータセットの性質を変えて生成俳句がどのようになるかを検証する．生成条件は下記の 3 条件である．

asso 生成器，識別器共に協会俳句で学習

ようにランダムに 3 句ずつ (3 句 ×5 種類 = 15 句) 選んだ．これらの俳句を用いて 20 名 (男性 18 名，女性2 名) の学生 (20 歳 - 24 歳，M = 22.6, SD = 0.912)を対象に評価アンケートを行った．アンケートは 7 段
階で，俳句らしい語法であるか (語法)，詩的な内容であるか (詩的)，意味が理解できるか (意味)，この俳mixed 生成器，識別器共に，協会俳句と wiki 俳句の両方を合わせたもので学習

句が好きか (好感) の 4 項目を 1 俳句ずつ回答してもらった (印象評価)．印象評価対象の 15 句すべてに対する回答終了後，印象評価で回答した俳句それぞれにsepa 生成器を wiki 俳句，識別機を協会俳句で学習
生成器，識別器への単語の入力は，wikipedia 日本語コーパスで学習した 300 次元の subword 情報付き単語の分散表現 [11] 用いた．また，最適化手法には事前学習時，敵対的学習時共に Adam [12] 用い，3 条件そついて，機械が詠んだと思う俳句全てにチェックしてもらうチューリングテスト [13] を行った．なお，アンケート回答中はインターネット等で単語や俳句を検索することを禁じ，前から順番に回答してもらうよう教示した．評価に用いた俳句例を以下に示す．
協会俳句：去年今年以心伝心の妻とゐる

れぞれ 2.3 節の手順で生成実験を行った．

2.3

wiki 俳句：材料となる幾つかの質問に
asso：芋虫に思へを無駄な沖縄忌

生成実験

mixed：息子には身を大切なものができ
sepa：ペンギンのマークと共に繰り返し生成器の事前学習では式 (1) を用いて生成される俳句が学習データに含まれる俳句と同様のものになるまで学習を繰り返した．識別器の事前学習では，各生成条件に対応する識別器用の俳句データセットを正例，3.2

評価結果事前学習済生成器が生成した俳句を負例として最大６

一要因分散分析の結果，語法，詩的，意味，好感の 4

４ステップ学習させ，バリデーション誤差が最小にな項目それぞれに有意な差が認められた (その統計量はそる時のモデルを採用した．敵対的学習では，2,000 ス

れぞれ，F (4, 95) = 10.0, F (4, 95) = 29.7, F (4, 95) =テップの学習を行い，50 ステップおきに俳句を 800 句

8.15. F (4, 95) = 6.46, P s < .001)．Tukey 法による多重比較の結果を図 2 に示す．表 1 には各条件の俳句生成した．その生成俳句に用いられた語彙数を図 1 にが，機械が詠んだ俳句だと判断された割合 (0.0 − 1.0)
4 データ提供元

現代俳句協会 現代俳句データベースjp/を示す．
http://www.haiku-data.

― 1293 ―Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

図 1: 敵対的学習時の生成俳句 800 句に用いられた語彙数 (50 ステップ毎)

図 2: 印象評価アンケート結果：語法 (左上)，詩的 (右上)，意味 (左下)，好感 (右下)

表 1: チューリングテスト結果：各条件の俳句が機械だと判断された割合
モデル 協会
wiki
割合

0.250

0.717

対し，asso 俳句と sepa 俳句では，協会俳句のみ用いている．このことにより，asso, sepa 条件では，事前学習の段階で詩的で俳句らしい語法を用いている俳句

asso
0.433

mixed
0.683

sepa0.433を見分ける精度が，mixed 条件より高くなり，敵対的学習を通じて生成器が俳句らしさを持つように学習されたと考えられる．図 2 左下に示した意味が理解でき

3.3

るかの尺度については，asso 条件が際立って低くなっ考察た．これは asso 条件では学習に wiki 俳句を用いてお印象評価アンケートの結果，seqGAN の事前学習にらず，他の生成条件と比べデータサイズが小さいこと

おいて，生成器と識別機に与えるデータセットを分けに加え，意味の理解しやすいデータである wiki 俳句のることで生成俳句の性質を変えることができる可能性効果が得られなかったことから生じたと考えられる．

が示唆された．図 2 左上と右上に示した語法と詩的図 2 に示した通り，協会俳句は mixed, wiki 俳句との評価値を見ると，asso, sepa 俳句は，mixed 俳句よ比べ，語法，詩的，好感の評価が高い．また，wiki 俳

りも語法面でも内容面でも俳句らしい俳句が生成され

句はどの生成俳句よりも意味が理解しやすいが，語法，ている．mixed 俳句の事前学習では，正例として識別詩的の評価が低い．この結果は，俳人による作品であ器に協会俳句だけでなく wiki 俳句も用いているのにる協会俳句が正しく評価されており，物事を説明して― 1294 ―Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

いる文章から切り抜いた俳句である wiki 俳句が意味

A. Radford, L. Metz, and S. Chintala, ICLR,
2016.

は通るが俳句の性質とは程遠いことを表していることから，印象評価の信頼性が高いことを示している．また，図 2 中の各項目の標準誤差が小さいことは，アンケート回答者毎の評価結果のゆらぎが小さいことを表しており，アンケート回答者毎に評価した俳句が異な[3] CAN: Creative adversarial networks generating “art” by learning about styles and deviating from style norms, A. Elgammal, B. Liu,M. Elhoseiny, and M. Mazzone, arXiv preprint
arXiv:1706.07068, 2017.

ることによる偏りは生じていないと考えられる．
表 1 に示されたチューリングテストの結果，asso,sepa 俳句の 1/2 以上が人が詠んだ俳句であると判断された．俳人の詠んだ協会俳句ですら 1/4 が機械が詠んだ俳句だと判断されていることを考慮すると，非常[4] SeqGAN: Sequence generative adversarial nets
with policy gradient, L. Yu, W. Zhang, J. Wang,and Y. Yu, AAAI, pp.2852-2858, 2017.に高い成績である．アンケート回答者に対する事後イ
ンタビューでは，回答者である学生では本当に人が詠んだ俳句であっても，芸術性の高い俳句については良[5] Haiku generation using deep neural networks,X. Wu, M. Klyen, K. Ito, and Z. Chen, 言語処
理学会 第 23 回年次大会 pp.1133-1136, 2017.

さが理解できないことがわかった．俳句の評価を専門家に依頼することで，より正確な評価を行うことが今後の課題である．

4[6] お 〜 い お 茶 新 俳 句 大 賞, 伊 藤 園, 入 手 先‘‘https://www.itoen.co.jp/new-haiku/about/history/index.html#graph’’, 最終ア
クセス: 2018-01-11.

おわりに
本論文では，seqGAN の生成器と識別器に与えるデータセットの性質を変え，3 種の生成条件で俳句の[7] Sequence to sequence learning with neural networks, I. Sutskever, O. Vinyals, and Q.V. Le,Advances in Neural Information Processing Sys-生成を行った．その結果，データセットの与え方によtems, pp.3104-3112, 2014.

り生成俳句の性質を変えることができ，生成器に意味が理解しやすい wiki 俳句を，識別器の正例に人の詠[8] A neural probabilistic language model, Y. Ben-んだ協会俳句を用いて学習させたモデルでは，主観評

gio, R. Ducharme, P. Vincent, and C. Jauvin, Journal of Machine Learning Research,
pp.1137-1135, 2003.

価において人の詠んだ俳句に近い評価を得ることができた．

[9] Highway networks, R.K. Srivastava, K. Greﬀ, and J. Schmidhuber, arXiv preprint

謝辞

arXiv:1505.00387, 2015.

本論文を執筆するにあたっては，俳句データを現代俳句協会様より提供していただきました．現代俳句協会様に心より感謝致します．

[10] Convolutional neural networks for sentence classification, Y. Kim, arXiv preprint
arXiv:1408.5882, 2014.
[11] Enriching word vectors with subword informa-

参考文献[1] Generative adversarial nets, I. Goodfellow, J.
Pouget-Abadie, M. Mirza, B. Xu, D. WardeFarley, S. Ozair, A. Courville, and Y. Bengio,
Advances in Neural Information Processing Systems, pp.2672-2680, 2014.
[2] Unsupervised representation learning with deep
convolutional generative adversarial networks,tion, P. Bojanowski, E. Grave, A. Joulin, andT. Mikolov, arXiv preprint arXiv:1607.04606,
2016.
[12] Adam: A method for stochastic optimization, D. Kingma and J. Ba, arXiv preprintarXiv:1412.6980, 2014.
[13] Computing machinery and intelligence., A.M.
Turing, Mind, vol. 59, no. 236, pp.433-460, 1950.

― 1295 ―Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.