Vol.2018-SLP-125 No.9
2018/12/10

情報処理学会研究報告
IPSJ SIG Technical Report

条件付き敵対的生成ネットワークを用いたデータ拡張による対話行為分類法の検討
河野 誠也1,a)

吉野 幸一郎2,b)

中村 哲1,c)

概要：対話行為分類は，ユーザの発話における「意図」を分類するタスクであり，対話システムにおいて対話制御を行うための重要な構成要素の一つである．対話行為分類の手法としては，教師あり学習を用いた手法が既に数多く提案されている．しかしながら，教師あり学習により高精度な対話行為分類器を訓練するためには多くの人手でアノテーションされた学習データが必要となる．こうした人手によるアノテー
ション作業には多くのコストがかかるため，訓練データの拡張は容易ではない．そこで本研究では，条件付き敵対的生成ネットワークを用いた発話生成モデルを構築し，任意の対話行為に対して高品質な発話の自動生成を行い学習データの拡張を行う．また，拡張した学習データで訓練を行った対話行為分類モデルの性能が改善されることを示す．
キーワード：対話行為, 対話行為分類, データ拡張, 敵対的生成ネットワーク

1. はじめにを用いた発話生成モデルを構築し，任意の対話行為に対して高品質な発話の自動生成を行うことで学習データを自動

対話行為分類 (Dialogue act classification) は，ユーザの拡張する．また，拡張した学習データにより訓練された対発話における「意図」を分類するタスク [1] であり，対話

話行為分類モデルの対話行為分類精度が従来手法と比較しシステムにおいて対話制御を行うための重要な構成要素て改善されることを示す．

の一つであることが知られている [2]．ここで，対話行為

本稿の構成は次の通りである．2 章では，関連研究につ(Dialogue act) とは，話者が発話において持つ何かしらのいて述べる．3 章では，本研究で用いたベースライン及び「意図」あるいは発話における「機能」であり，その意図や提案手法について述べる．4 章において，評価実験の概要

機能の種類として対話行為タグが定義される．一般に対話について述べる．5 章において，評価実験の結果について

行為分類のタスクは，対話における話者の発話に対して，

述べ，その考察を行う．最後に 6 章において本稿のまとめ

既知の対話行為タグのいずれかを付与する多クラス分類問を行う．

題として扱われる．対話行為の分類手法としては，教師あり学習を用いた手法が既に数多く提案されている [3], [4]．
しかしながら，教師あり学習による手法は訓練データとな

2. 関連研究2.1 置き換えベースアプローチ

る発話集合への対話行為のアノテーションが必要であり，

テキスト分類のタスクにおけるデータ拡張の手法として高精度な対話行為分類器を訓練するためには多くの学習

は，訓練データとなるテキスト中の単語を別の任意の単語データが必要となる．こうした，人手によるアノテーショに置き換えることでデータ拡張を行う手法 (置き換えベーン作業には多くのコストがかかるため，訓練データの拡張

ス) が良く知られている．例えば，WordNet などのシソーは容易ではない [5]．

ラスや単語類似度計算に基づいて選択された同義語で単語

そこで，本研究では，条件付き敵対的生成ネットワーク

を置き換える手法などがある [6], [7]．実際には，同義語が存在するような単語を含むテキストの割合が少ない場合，

1

2

a)
b)
c)

奈良先端科学技術大学院大学
Nara Institute of Science and Technology
科学技術振興機構
Japan Science and Technology Agency
kawano.seiya.kj0@is.naist.jp
koichiro@is.naist.jp
s-nakamura@is.naist.jp

c 2018 Information Processing Society of Japan⃝

置き換えによるデータ拡張の適用事例は限られたものになる．また，対話行為分類のような対話システムにおける言語理解タスクは，文脈，履歴の考慮が重要である [8]．データ拡張手法をこうしたタスクに適用するためには，分類対1Vol.2018-SLP-125 No.9
2018/12/10

情報処理学会研究報告
IPSJ SIG Technical Report

象のテキストだけではなく，文脈においても一貫性を考慮

対話行為タグに基づいて発話の生成を行うことが可能であした単語の置き換えを行うことが必要となる．そのため，ることの 2 点が必要である．本研究では，この 1) の問題

置き換えベースの手法の適用可能な事例はより少なくなる．

に対応するために敵対的生成ネットワークを用いた応答

また，置き換えベースの手法では，文全体の構造が全く異生成モデルを導入する．また，先行研究で用いられているなるようなテキストの生成を行うことが困難であり，デー

Encoder-Deccoder モデルでは，応答発話の内容を対話行

タ拡張により新しく生成されるテキストの多様性を確保す為を用いて明示的に制御することが難しい．そこで，このることが難しい．そこで，本研究では，ニューラルネット

2) における問題に対応するために，任意の対話行為を条件を用いた生成モデルによるデータ拡張の手法 (生成ベース)

として応答生成を行うことが可能な敵対的応答生成モデルに着目する．

を提案する．構築した応答生成モデルを用いて対話行為タ
グ付き発話のデータ拡張を行い，対話行為分類モデルの訓

2.2 生成ベースアプローチ

練に用いることで，対話行為分類の性能向上を試みる．

対話システムにおける言語理解に生成ベースのアプロー

本章では，まず 3.1 節で対話行為による条件付き応答生

チを適用した事例としては，Hou らによる研究がある [9]．

成モデルのベースラインについて述べ，3.2 節で敵対的生Hou らは，ATIS におけスロットフィリングのタスクおい

成学習を用いた提案手法の概要について述べる．

てデータ拡張を行うために，Encoder-Decoder モデルを導入している．具体的には，まずスロットに基づいて応答発

3.1 条件付き Encoder-Decoder モデル

話文のテンプレート化を行ったうえで Encoder-Decoder モ

本研究では，GRU による Encoder-Decoder モデル [12]デルを訓練し，応答発話の自動生成を行っている．また，を対話行為による条件付き応答生成モデルへと応用する．

テンプレート化された応答発話を，編集距離に基づいたリ

対 話 行 為 に よ る 条 件 付 き 応 答 生 成 で は ，入 力 発 話

ランキングにより復元することでデータ拡張を行っていM = {m1 , m2 , · · · , mI } と対話行為 d を用いて，応答発る．この拡張データを用いることで，スロットフィリング

話 R = {w1 , w2 , · · · , wJ } を生成する．ここで，I ，J は発におけるスロットの認識精度が有意に改善したことを報告

話長である．通常の GRU を用いた Encoder-Decoder モデしている．しかしながら，Hou らの手法は，発話のテンプ

ルでは，Decoder における各出力ステップにおいて，直前

レート化を行うことが可能なスロットフィリングなどの限の隠れ状態 ht−1 と現在の単語 wt のベクトル表現 xt が入られたタスクのみで有効であるため，対話行為のような文力として使用される．一方で，本研究では，直前の隠れ状

全体の意図について分類するようなタスクにおけるデータ

態 ht−1 に加えて，対話行為 d のベクトル表現 e と xt の連

拡張には適用できない．

結ベクトル vt を入力として使用することで，指定した対話

また，Encoder-Decoder モデルを用いた応答生成の問題

行為に基づいた応答をモデルが生成することを期待する*1 ．

点として，あらゆる入力発話に対して過度に一般化され評価実験では，Encoder と Decoder における GRU の層数た応答 (例えば，“I don’t know”，“yes” など) を返すといは 1，中間層の次元は 512，単語埋め込みベクトルの次元

う問題が知られている [10]．この問題は，タスク志向対話

は 256，対話行為ベクトルの次元は 100 とした．

における応答生成モデルと比較して，オープンドメイン
における応答生成モデルで顕著である．この問題に対し

3.2 条件付き敵対的応答生成モデルて，敵対的生成ネットワーク (Generative adversarial Net;

前節では，Encoder-Decoder モデルによって指定した対GAN) を導入することで，より多様かつ高品質な応答生

話行為に基いた応答生成を行うモデルついて述べた．しか成モデルの構築が試みられている [11]．具体的には，応しながら，Softmax cross-entropy loss に基づいて訓練され答発話を生成する Generator と，与えられた応答が学習

る Encoder-Decoder モデルはしばしば，過度に一般化されデータか Generator のどちらに由来するものかを識別する

た応答を生成することが知られており，応答文の多様性のDiscriminator を構築する．これらの 2 つのモデルを交互低下が懸念される [10]．この応答文の多様性の問題についに敵対的に訓練することで，より自然な発話を生成しようては，2 章で述べたように敵対的生成学習を導入することとする試みである．このような，学習の枠組みを導入したで改善することが知られている．そこで，前節で提案した応答生成モデルが，従来の応答生成モデルと比較して高品

条件付き Encoder-Decoder モデルに対して，敵対的生成学

質かつ多様な応答を生成したことが報告されており，本研

習の枠組みを導入することで多様性の向上を試みる．

究では対話行為分類のデータ拡張にこの枠組みを適用する．

3.2.1 方策勾配法による Generator の更新

3. 提案手法
対話行為分類のためのデータ拡張では，1) 多様で自然な発話の生成を行うことが可能であること，2) 指定した

c 2018 Information Processing Society of Japan⃝

本研究では，敵対的生成学習 (GAN) の手法として Se-

qGAN (Sequence generative adversarial net)[13] の枠組み
*1

入力単語 wt 及び対話行為 d は埋め込み層を用いて密ベクトル表
現 xt , e へと変換される．

2

Vol.2018-SLP-125 No.9
2018/12/10

情報処理学会研究報告
IPSJ SIG Technical Reportを採用し，対話行為による条件付き応答生成へ応用する．

Neural Network (CNN) ベースのモデルを用いる．評価

発話のような離散系列データの生成に GAN を適用する場

実験においては，一層の 1D-Convolution と Global Max-合，Generator の出力は単語の離散値の系列を前提とする

Pooling で構成されるモデルを採用し，畳み込みカーネル

ため，Disciriminator から Generator への勾配の更新を行のサイズは 3，畳み込みカーネルの数は 256，中間層のサイうことが難しい．この問題に対して，SeqGAN では，強ズは 256 とした．また，Discriminator の更新においては，化学習によるアプローチを Generator の更新に用いること

Generator による応答文と実際の応答文を 1:1 の割合で使で，離散的な系列データに GAN を適用できることを示し

用し，損失関数には Negative log-likelihood loss を用いる．

ている.
対 話 行 為 に よ る 条 件 付 き 応 答 生 成 で は ，入 力 発 話

M = {m1 , m2 , · · · , mI } と対話行為 d が与えられると，応答生成モデルは応答発話 R = {w1 , w2 , · · · , wJ } を生成する．このような応答生成における単語選択のプロセス
は，マルコフ決定過程において，ある政策に従って実行される一連の行動系列とみなすことができる．SeqGAN では，Discriminator によって推定された応答文の妥当性についてのスコア Q(M, R, d) を Generator の報酬として利用
し，この期待報酬を最大化するように Generator を方策勾
図 1 Implicit-Discriminator，Explicit-Discriminator

配法により更新する [14]．本研究における対話行為による条件付き応答生成においては，その目的関数 J と勾配を次式で定義する*2 ．ここで，π は応答 R の生成確率である．

4. 実験設定
本章では，使用したデータセットの概要，応答生成モデ= ER∼p(R|M,d) (Q(M, R, d)|θ)

J(θ)
∇J(θ)

(1)

≈ Q(M, R, d)∇ log π(R|M, d)(2)∑= Q(M, R, d)∇ t log π(wt |M, d, w1:t−1 ) (3)

ルの評価方法及び，応答生成モデルを用いたデータ拡張による対話行為分類器の訓練方法について述べる．

4.1 データセット
3.2.2 Discriminator

応答生成モデル，対話行為分類モデルの訓練と評価には応答文の妥当性 Q(M, R, d) について推定する Discrimi-

Switchboard dialogue act corpus[15] を用いた．本コーパ

nator の構築方法についてはいくつかの検討の余地がある．

スは，DAMSL に基づいた対話行為タグが付与されている．

本研究では，以下の 2 種類の Discriminator について検討

本研究では，このコーパスを訓練 (163,436 発話ペア)，開を行う．

発 (17,126 発話ペア)，評価 (2,307 発話ペア) データに分割• Implicit-Discriminator; 入力発話 M ，応答発話 R，対し，応答生成モデルと対話行為モデルの訓練と評価に用い話行為 d を入力として，与えられた R が本物 (学習デー

た．また，これらのモデルの訓練には，訓練データセット

タ由来のもの) か偽物 (Generator 由来のもの) である

における出現上位 10,000 単語を用いた．なお，それ以下のかの 2 クラス分類を行う．Generator によって生成さ出現頻度の単語については未知語 “UNK” に置き換えた上れた R が本物であると推定される確率を Q(M, R, d)

でモデルの訓練を行った．

として利用する．

• Explicit-Discriminator; 入力発話 M ，対話行為 d に対応答生成モデルの評価については，関連性 (Relevance)，

来のものであるとき偽物，学習データ由来のものであ

多様性 (Diversity)，制御性 (Contorollability) の観点からるときその対話行為を分類するように Discriminator

それぞれ評価を行う．

を訓練する．つまり，対話行為の種類数を N とした• 関連性 (Relevance); 生成された応答発話とレファレ

とき，N + 1 クラスの多クラス分類を行う．ここで，ンスの応答発話における単語分散表現の類似度により

Q(M, R, d) は，Generator によって生成された R が学評価を行う．類似度の算出方法には Embedding Aver-

習データ由来の対話行為 d であると推定される確率で

age，Greedy Matching，Vector Extreme の三つの評ある．

*3
価指標 [16] を採用した．

Discriminator には，図 1 に示すように Convolutional*2

4.2 応答生成モデルの自動評価

応する応答発話 R を入力として，R が Generator 由

本研究では簡単化のために文全体で単一の報酬を使用している．

c 2018 Information Processing Society of Japan⃝• 多様性 (Diversity); 対話システムの分野で広く採用さ*3

これらの詳細については原論文 [16] を参照されたい．

3

Vol.2018-SLP-125 No.9
2018/12/10

情報処理学会研究報告
IPSJ SIG Technical Report

れている Distinct-1 及び Distinct-2 により評価を行う．

Distinct-1 (Distinct-2) は，テストデータに対して生成された応答発話集合におけるユニークな unigram (bi-5. 実験結果
5.1 応答生成モデルの自動評価結果
表 1 に対話行為による条件付き応答生成モデルのgram) の数を，生成されたすべての unigram (bigram)の数でスケーリングした指標である [10]．

評価結果について示す．ここで，Adversarial-Implict モ• 制御性 (Contorollability); 入力として使用した対話行

デル，Adversarial-Explicit モデルはそれぞれ，Implicit-

為と，実際に生成された応答文における対話行為の推Discriminator，Explicit-Discriminator を使用した敵対的定結果の一致率 (Accuracy) により評価する．また，各生成学習により訓練されたモデルである．応答文の生成に対話行為タグにおける応答生成の性能についての検証

おいては，貧欲的に出力単語を選択する場合 (greedy) と多を行うために，Precision，Recall，F 値による評価も項分布に基づいてサンプリングを行う場合 (sampling) の 2行う．応答文の対話行為については，事前訓練した対通りを試した．

話行為分類器*4 による推定結果を用いる．

ベースラインモデルにおける応答生成結果
条件付き Encoder-Decoder モデルにおいて，貧欲的に応4.3 拡張データを用いた対話行為分類器の訓練

答を生成する場合，多様性の評価尺度 (Distinct-1，Distinct-

本研究では，3 章で提案した条件付き応答生成モデルを

2) は他の手法と比較して著しく低いことが確認できる．一

対話行為分類器訓練のためのデータ拡張へと応用する．具方で，制御性 (対話行為分類精度) については高い精度を体的には，訓練データセットにおける発話と，自動生成さ持っていることが分かる．これは，モデルが指定した対れた発話の両方を対話行為分類器の訓練に用いることで，話行為に基づいて応答を生成できているものの，“I don’t

対話行為分類器の性能向上を試みる．本実験では，以下のknow”，“umm” などのような一般的な応答のみしか生成

2 つの訓練方法についてそれぞれ検証を行った．対話行為

できていないことを示している．一方でサンプリングを使

分類器の訓練にはバッチサイズ 64 のミニバッチ学習を使用する場合，多様性の評価尺度は改善しているが，制御性用し，最適化手法には RMSProp (lr=1e-4) を使用する．

は大きく低下していることが確認できる．

• Pretrain; 対話行為分類器の事前訓練を自動生成され敵対的生成学習による応答生成結果

た応答発話を用いて行う．その後，訓練データのみを敵対的生成学習を導入した Adversarial-Implicit モデル

用いて fine-tuning を行う．評価実験では，最初の 1

では，条件付き Encoder-Decoder モデルと比較して関連

epoch のみを事前学習に使用した．

性，多様性についての改善が確認ができなかった．また，制御性については，0.0065 ポイントの低下を引き起こし

1: for epoch = 1 : iteration do2:
for sample (M, R, d) from training data do
3:
if epoch < 2 then4:
generate the response R̂ using (M, d)
5:update the classifier using (M, R̂, d)
6:
else
7:
update the classifier using (M, R, d)

た．一方で，Adversarial-Explicit モデルでは関連性，多様性 (Distinct-2)，制御性が改善していることが確認できる．
特に，制御性においては 0.0919 ポイントの顕著な改善が確認できた．Adversarial-Explicit モデルでは，応答文がGenerator か学習データのどちらに由来するものかを判別すると同時に，明示的に対話行為の推定を行っている．しかしながら，Adversarial-Implicit モデルでは，生成された• Mixed; 訓練データからサンプルされたミニバッチを，自動生成した応答発話を用いたミニバッチに確率 p で応答の対話行為を明示的に推定しないため制御性のスコア
改善につながらなかったと考えられる．

置換する．評価実験では，p = {0.0, 0.1, 0.3} の場合でまた，敵対的生成学習を導入した 2 つのモデルでは，条評価を行った．なお，p = 0.0 はデータ拡張を行わな

件付き Encoder-Decoder モデルと比較して Perplexity のい場合と等しい．

改善が確認できなかった．敵対的生成学習によるテキスト
生成モデルが必ずしも Peprlexity を改善しないことは先行

1: for epoch = 1 : iteration do2:
for sample (M, R, d) from training data do
3:
if rand() < p then4:
generate the response R̂ using (M, d)
5:update the classifier using (M, R̂, d)
6:
else
7:
update the classifier using (M, R, d)

研究 [17] においても指摘されている．これは，敵対的生成
学習は単語予測の最適化を目的としないためである．
各対話行為タグにおける応答生成結果
表 2 に各対話行為タグ毎の Adversarial-Explicit モデルの応答生成の結果*5 について示す．括弧は，条件付き Encoder-

Decoder モデル (sampling) におけるスコアとの差分であ*5*4Explicit-Discriminator と同様のアーキテクチャを採用した．

c 2018 Information Processing Society of Japan⃝

評価セットのサイズが小さいため，一部の対話行為タグは評価セットに含まれていない．

4

Vol.2018-SLP-125 No.9
2018/12/10

情報処理学会研究報告
IPSJ SIG Technical Report
表 1 対話行為による条件付き応答生成モデルの評価
モデル

Perplexity

Average

GreedyExtremeDistinct-1

Distinct-2

Accuracy

-

-

-

-

0.09950.44160.7308

条件付き Encoder-Decoder モデル (greedy)

18.2117---0.00210.01220.7650

条件付き Encoder-Decoder モデル (sampling)

18.21170.294990.73420.21130.09730.45390.7338Adversarial-Implicit モデル (sampling)

19.1752

0.294290.18620.21140.08560.45350.7273Adversarial-Explicit モデル (sampling)

19.13880.298891.7376

0.2194

0.09640.47110.8257

Gold response

表 2

各対話行為タグにおける応答生成結果 (Adversarial-Explicit モデル)

対話行為

Precision

RecallF1

出現数

No answers

0.9167 (-0.0833)

0.9167 (0.0000)

0.9167 (-0.0399)

12

Appreciation

0.8800 (0.1467)

0.8627 (0.2157)

0.8713 (0.1838)

51

Reject0.0000 (0.0000)

0.0000 (0.0000)

0.0000 (0.0000)

1

Dispreferred answers

0.0000 (0.0000)

0.0000 (0.0000)

0.0000 (0.0000)

1

Action-directive

0.2857 (-0.2143)

0.1429 (0.0000)

0.1905 (-0.0317)

14

Agree/Accept

0.7521 (0.2483)

0.7395 (0.1933)

0.7458 (0.2216)

119

Declarative Yes-No-Question

0.0000 (-0.5000)

0.0000 (-0.0714)

0.0000 (-0.1250)

14

Statement-non-opinion

0.8289 (0.0275)

0.9153 (0.0736)

0.8700 (0.0489)

815

Aﬃrmative non-yes answers

0.2000 (-0.3000)

0.2000 (-0.2000)

0.2000 (-0.2444)

5

Declarative Wh-Question

0.0000 (0.0000)

0.0000 (0.0000)

0.0000 (0.0000)

1

Response Acknowledgement

1.0000 (0.5000)

0.4706 (-0.0588)

0.6400 (0.1257)

17

Downplayer

0.0000 (0.0000)

0.0000 (0.0000)

0.0000 (0.0000)

1

Repeat-phrase

0.1250 (0.1250)

0.0833 (0.0833)

0.1000 (0.1000)

12

Or-Clause

1.0000 (0.3333)

0.5000 (-0.5000)

0.6667 (-0.1333)

2

Negative non-no answers

0.2000 (-0.3000)

0.3333 (0.0000)

0.2500 (-0.1500)

3

Conventional-closing

0.9412 (0.0893)

0.8000 (0.2250)

0.8649 (0.1783)

40

Other answers

1.0000 (0.0000)

0.3333 (0.0000)

0.5000 (0.0000)

3

Conventional-opening

1.0000 (0.0000)

0.3333 (-0.3333)

0.5000 (-0.3000)

3

Self-talk

0.0000 (0.0000)

0.0000 (0.0000)

0.0000 (0.0000)

1

Apology0.0000 (0.0000)

0.0000 (0.0000)

0.0000 (0.0000)

1

Signal-non-understanding

0.3333 (-0.6667)

0.5000 (0.0000)

0.4000 (-0.2667)

2

Acknowledge (Backchannel)

0.8902 (0.0893)

0.9467 (0.0990)

0.9176 (0.0939)

394

Thanking

1.0000 (0.4000)

0.6667 (-0.3333)

0.8000 (0.0500)

3

Maybe/Accept-part

0.0000 (0.0000)

0.0000 (0.0000)

0.0000 (0.0000)

7

Hold before answer/agreement

0.6000 (-0.4000)

0.6000 (0.4000)

0.6000 (0.2667)

5

Open-Question

0.8182 (0.3182)

0.9000 (0.2000)

0.8571 (0.2738)

10

Rhetorical-Questions

0.5714 (0.1714)

0.3636 (0.1818)

0.4444 (0.1944)

11

Statement-opinion

0.7934 (0.0952)

0.6883 (0.0753)

0.7371 (0.0843)

385

Yes-No-Question

0.7391 (0.0573)

0.8500 (0.1000)

0.7907 (0.0764)

40

Yes answers

0.8966 (0.1546)

0.6842 (0.0789)

0.7761 (0.1095)

38

Backchannel in question form

0.8750 (0.0855)

0.8235 (-0.0588)

0.8485 (0.0152)

17

Summarize/reformulate

0.0000 (-0.2500)

0.0000 (-0.0625)

0.0000 (-0.1000)16

Non-verbal

1.0000 (0.1538)

1.0000 (0.0000)

1.0000 (0.0833)

11

Uninterpretable

0.8384 (0.2205)

0.8972 (0.1262)

0.8668 (0.1807)

214

Wh-Question

0.8947 (0.1300)

0.8947 (0.2105)

0.8947 (0.1725)

38weighted avg

0.8110 (0.0843)

0.8257 (0.0919)

0.8148 (0.0901)

2307

る．表 2 より，条件付き Encoder-Decoder モデルと比較しについては，直前のユーザの発話だけではなく，より過去て，Adversarial-Explicit モデルでは，18 個の対話行為タグの対話履歴を考慮した Discriminator と Generator を敵対で F 値が改善していることが確認できる．また，9 個の対的生成学習に用いることで改善を行うことができると考え話行為タグで F 値が低下，8 個の対話行為で F 値に変化はられる．

なかった．しかしながら．これらの対話行為タグは出現頻
度が低いものや，より長期の対話履歴を考慮したうえで付

5.2 拡張データを用いた対話行為分類結果与される対話行為タグ (例えば，Summarize/reformulate)

前節において，最も優れた性能を示した Advrsarial-が主である．したがって，低頻度の対話行為タグについて

Explicit モデルを，対話行為分類におけるデータ拡張へとは，例えば文字・サブワードレベルのモデリングを行うこ適用した結果を表 3 へ示す．ここで，Precision，Recall，F1とでデータスパースネスに起因する問題を軽減することがは各対話行為タグにおける分類結果の加重平均であり，開発期待できる．また，対話履歴の参照が必要な対話行為タグ

セットにおける Negative log-likelihood loss が最も下がっ

c 2018 Information Processing Society of Japan⃝5

Vol.2018-SLP-125 No.9
2018/12/10

情報処理学会研究報告
IPSJ SIG Technical Report

たときの評価結果を示している．また，Mixed (p = 0.0)
は訓練データセットのみを用いて訓練された通常の対話行[2]

為分類モデルである．
表 3

対話行為分類の結果

[3]

分類モデル

Precision

RecallF1

Pretrain (1 epoch)

0.72430.73470.7241

Mixed (p = 0.0)

0.73010.74410.7300Mixed (p = 0.3)

0.73140.74510.7315Mixed (p = 0.1)

0.73340.74570.7320[4][5]

表 3 より，対話行為分類器の事前学習に自動生成した発話を用いる場合では，訓練データセットのみを用いたモデルと比較して分類性能の向上を確認することができなかっ[6]

た．一方で，対話行為分類器の訓練の際に，自動生成された応答発話を用いたミニバッチを使用する場合 (p = 0.1, 0.3)
では，Precision，Recall，F 値が向上することを確認でき[7]た．特に，p = 0.1 の場合では，Precision，Recall，F 値がそれぞれ 0.0033，0.0016，0.0020 ポイント改善しており提案モデルによるデータ拡張の有効性が示唆される結果となった．

6. おわりに[8][9]

本研究では，任意の対話行為に対して発話の自動生成を行う条件付き敵対的生成ネットワークを提案し，その評価を行った．その結果，提案モデルはベースラインモデル[10](条件付き Encoder-Decoder モデル) と比較して，関連性，多様性，制御性における客観評価が改善されることを示した．しかしながら，生成文の品質についてより厳密に評価[11]するためには人手による評価を行うことが必要である．また，本研究で用いた Switchboard corpus は質・量ともに[12]十分な対話行為タグがアノテーションされたデータである
ため，データ拡張の効果がよりはっきりとする他の小規模コーパスで実験を行うことも今後の課題である．
さらに，本研究では，提案モデルを用いたデータ拡張に[13]より訓練された対話行為分類モデルの対話行為分類性能が，従来手法と比較して改善される可能性を示した．ニューラ[14]

ルネットワークによる応答生成モデルを用いたデータ拡張
は，訓練データへのノイズ付加など正則化の文脈でも議論[15]を行うことができると考えられる．今後は実験結果の理論的分析や提案手法の他ドメインにおける有効性の検討を進める予定である．
謝辞

本研究は JST さきがけ (JPMJPR165B) および

JST CREST (JPMJCR1513) の支援を受けた。

[16]

参考文献
[1]

Boyer, K. E., Ha, E. Y., Phillips, R., Wallis, M. D.,
Vouk, M. A. and Lester, J. C.: Dialogue act modelingin a complex task-oriented domain, Proc. of SIGDIAL,
Association for Computational Linguistics, pp. 297–305

c 2018 Information Processing Society of Japan⃝[17](2010).
Yoshino, K. and Kawahara, T.: Conversational system
for information navigation based on POMDP with user
focus tracking, Computer Speech & Language, Vol. 34,
No. 1, pp. 275–291 (2015).
Lee, J. Y. and Dernoncourt, F.: Sequential Short-Text
Classification with Recurrent and Convolutional Neural
Networks, Proc. of NAACL-HLT, pp. 515–520 (2016).
Khanpour, H., Guntakandla, N. and Nielsen, R.: Dialogue Act Classification in Domain-Independent Conversations Using a Deep Recurrent Neural Network., COLING, pp. 2012–2021 (2016).
白井清昭， 洪陽杓ほか：決定木に基づく対話行為のタ
グ付け支援，情報処理学会研究報告音声言語情報処理(SLP)， Vol. 2005, No. 50 (2005-SLP-056), pp. 119–124(2005).
Zhang, X., Zhao, J. and LeCun, Y.: Character-level
convolutional networks for text classification, Advancesin neural information processing systems, pp. 649–657(2015).
Wang, W. Y. and Yang, D.: That’s So Annoying!!!:A Lexical and Frame-Semantic Embedding Based Data
Augmentation Approach to Automatic Categorization of
Annoying Behaviors using# petpeeve Tweets, Proc. of
EMNLP, pp. 2557–2563 (2015).
Ortega, D. and Vu, N. T.: Neural-based Context Representation Learning for Dialog Act Classification, Proc.
of SIGDIAL, pp. 247–252 (2017).
Hou, Y., Liu, Y., Che, W. and Liu, T.: Sequenceto-Sequence Data Augmentation for Dialogue Language
Understanding, Proceedings of the 27th International
Conference on Computational Linguistics, pp. 1234–
1245 (2018).
Li, J., Galley, M., Brockett, C., Gao, J. and Dolan, B.: A
Diversity-Promoting Objective Function for Neural Conversation Models, Proc. of NAACL-HLT, pp. 110–119(2016).
Li, J., Monroe, W., Shi, T., Jean, S., Ritter, A. andJurafsky, D.: Adversarial Learning for Neural Dialogue
Generation, Proc. of EMNLP, pp. 2157–2169 (2017).
Cho, K., van Merrienboer, B., Gulcehre, C., Bahdanau,D., Bougares, F., Schwenk, H. and Bengio, Y.: Learning
Phrase Representations using RNN Encoder–Decoder for
Statistical Machine Translation, Proc. of EMNLP, pp.
1724–1734 (2014).
Yu, L., Zhang, W., Wang, J. and Yu, Y.: SeqGAN: Sequence Generative Adversarial Nets with Policy Gradient., AAAI, pp. 2852–2858 (2017).
Williams, R. J.: Simple statistical gradient-following algorithms for connectionist reinforcement learning, Machine learning, Vol. 8, No. 3-4, pp. 229–256 (1992).
Stolcke, A., Ries, K., Coccaro, N., Shriberg, E., Bates,
R., Jurafsky, D., Taylor, P., Martin, R., Van EssDykema, C. and Meteer, M.: Dialogue act modelingfor automatic tagging and recognition of conversational
speech, Computational linguistics, Vol. 26, No. 3, pp.
339–373 (2000).
Liu, C.-W., Lowe, R., Serban, I., Noseworthy, M., Charlin, L. and Pineau, J.: How NOT To Evaluate Your
Dialogue System: An Empirical Study of Unsupervised
Evaluation Metrics for Dialogue Response Generation,
Proc. of EMNLP, pp. 2122–2132 (2016).
Tevet, G., Habib, G., Shwartz, V. and Berant, J.: Evaluating Text GANs as Language Models, arXiv preprint
arXiv:1810.12686 (2018).

6