分脈に対して同調的応答を生成するニューラル会話モデルの検討に対して同調的応答を生成するニューラル会話モデルの検討対して同調的応答を生成するニューラル会話モデルの検討して同調的応答を生成するニューラル会話モデルの検討同調的応答を生成するニューラル会話モデルの検討を生成するニューラル会話モデルの検討生成するニューラル会話モデルの検討するニューラル会話モデルの検討ニューラル会話モデルの検討会話モデルの検討モデル会話モデルの検討の検討検討
奈良先端科学技術大きさ：学院大きさ：学2
NTTコミュニケーション科学基礎研究所
1

河野誠也1, 水上雅博2, 吉野幸一郎1, 中村哲1
研究背景

エントレインメントを生成するニューラル会話モデルの検討考慮した報酬計算モデルしたエントレインメント度合いに近い応答の生成 報酬計算モデルモデル会話モデルの検討

エントレインメント現象



対して計算される報酬値の平均（話の中の性能話の者間による対話ではの性能話のし方や声の調子などの振る舞いが同調・類似する現象や制御を行えるようにモデルを拡張声の調子などの振る舞いが同調・類似する現象の性能調子などの振る舞いが同調・類似する現象な応答を生成どの性能振る舞いが同調・類似する現象る報酬値の平均（舞いが同調・類似する現象いが同調・類似する報酬値の平均（現するような応答を生成象
【連絡先】
E-mail: kawanoo.seiya.kj0@is.naist.jp
Web: https://kwnsiy.github.io/

生成応答と相手の発話（と相手の発話（相手の発話（の発話（発話（エントレインメント対象発話）との類似度を計算 と相手の発話（の発話（類似度を計算 を計算 計算 [Nasir 19] Nasir 19] ]︙

対して計算される報酬値の平均（話のの性能タスと生成発話のク成功率や自然性，対話意欲と強く相関成功率や自然性，対話意欲と強く相関や制御を行えるようにモデルを拡張自然性，事前に定義したエントレインメント度合いを実現するような応答を生成対して計算される報酬値の平均（話の意欲と強く相関と生成発話の強く相関相関 [Nenkova 08, Nasir 19]
エントレインメントの性能分析を通して対話システムの性能や対話の質を評価する試みがあるを参照通して対話システムの性能や対話の質を評価する試みがあるして計算される報酬値の平均（対して計算される報酬値の平均（話のシスと生成発話のテムにより最適化の性能性能や制御を行えるようにモデルを拡張対して計算される報酬値の平均（話のの性能質を評価する試みがあるを参照評価する報酬値の平均（試みがあるみがある報酬値の平均（
一方や声の調子などの振る舞いが同調・類似する現象で，事前に定義したエントレインメント度合いを実現するような応答を生成ニューラルの性能会話のモデルの性能に対して計算される報酬値の平均（エントレインメント現するような応答を生成象を参照組み込むような試みみ込むような試みむような応答を生成試みがあるみは基未検討

U1
0.1
S1

エントレインメント対して計算される報酬値の平均（象発話のの性能決定

生成応答との正規化したに対して計算される報酬値の平均（与える評価値 える報酬値の平均（評価値の平均(報酬)参照と生成発話の最も類似する報酬値の平均（相手の発話に対して，事前に定義したエントレインメント度合いを実現するような応答を生成の性能発話のを参照導出

エントレインメント対して計算される報酬値の平均（象発話のと生成発話のの性能類似度

S2（参照応答を生成するニューラル会話モデルの検討：ニューラル会話モデルの応答生成性能Rref）:
ピク成功率や自然性，対話意欲と強く相関ニック成功率や自然性，対話意欲と強く相関がお好きなん好きです。きな応答を生成んですか。

U2

S2（生成するニューラル会話モデルの検討応答を生成するニューラル会話モデルの検討：ニューラル会話モデルの応答生成性能R）:
たしかに対して計算される報酬値の平均（ピク成功率や自然性，対話意欲と強く相関ニック成功率や自然性，対話意欲と強く相関に対して計算される報酬値の平均（行えるようにモデルを拡張きたく相関な応答を生成る報酬値の平均（ね。

0.9

研究目的

U2

分脈に対して同調的応答を生成するニューラル会話モデルの検討に対して同調的応答を生成するニューラル会話モデルの検討対して同調的応答を生成するニューラル会話モデルの検討して同調的応答を生成するニューラル会話モデルの検討同調的応答を生成するニューラル会話モデルの検討を生成するニューラル会話モデルの検討生成するニューラル会話モデルの検討するニューラル会話モデルの検討ニューラル会話モデルの検討会話モデルの検討モデル会話モデルの検討の検討検討

相手の発話に対して，事前に定義したエントレインメント度合いを実現するような応答を生成の性能発話のに対して計算される報酬値の平均（対して計算される報酬値の平均（して計算される報酬値の平均（，事前に定義したエントレインメント度合いを実現するような応答を生成事前に定義したエントレインメント度合いを実現するような応答を生成に対して計算される報酬値の平均（定義したエントレインメント度合いを実現するような応答を生成したエントレインメント度合いを実現するような応答を生成いを参照実現するような応答を生成する報酬値の平均（ような応答を生成応答との正規化したを参照生成
エントレインメント評価値の平均を参照報酬と生成発話のして計算される報酬値の平均（用いた強化学習による最適化により上記を実現いた強化した学習による最適化により上記を実現に対して計算される報酬値の平均（よる報酬値の平均（最適化したに対して計算される報酬値の平均（より上記を実現上記を実現を参照実現するような応答を生成

評価実験

分脈に対して同調的応答を生成するニューラル会話モデルの検討に対して同調的応答を生成するニューラル会話モデルの検討対して同調的応答を生成するニューラル会話モデルの検討して同調的応答を生成するニューラル会話モデルの検討同調的応答を生成するニューラル会話モデルの検討を生成するニューラル会話モデルの検討生成するニューラル会話モデルの検討するニューラル会話モデルの検討ニューラル会話モデルの検討会話モデルの検討モデル会話モデルの検討•交差エントロピー誤差の最小化に基づいた手法は無難な応答を生成しがち（例：エントロピー誤差エントロピー誤差の最小化に基づいた手法は無難な応答を生成しがち（例：の性能最小化したに対して計算される報酬値の平均（基づいた手の発話に対して，事前に定義したエントレインメント度合いを実現するような応答を生成法は無難な応答を生成しがち（例：は基無難な応答を生成しがち（例：な応答を生成応答との正規化したを参照生成しがち（例：I don’t know.）
生成応答との正規化したの性能エントレインメント評価値の平均が最大きさ：に対して計算される報酬値の平均（な応答を生成る報酬値の平均（ように対して計算される報酬値の平均（REINFORCEアルの性能ゴリズムにより最適化に対して計算される報酬値の平均（より上記を実現最適化した文脈に対して同調的応答を生成するニューラル会話モデルの検討に対して同調的応答を生成するニューラル会話モデルの検討対して同調的応答を生成するニューラル会話モデルの検討して同調的応答を生成するニューラル会話モデルの検討エントレインメントするニューラル会話モデルの検討ような目的関数の導入応答を生成するニューラル会話モデルの検討を生成するニューラル会話モデルの検討生成するニューラル会話モデルの検討するニューラル会話モデルの検討単語の生成確率の検討出力を促進を生成するニューラル会話モデルの検討促進
単語の生成確率の検討生成するニューラル会話モデルの検討確率

データセット：ConvAI2 PersonaChat dataset
評価指標：
Perplexity (PPL): 言語モデルの性能モデルの性能の性能性能
BLEU: レファレンスと生成発話のと生成発話の生成発話のの性能n-gramベースと生成発話のの性能類似度
WMD : レファレンスと生成発話のと生成発話の生成応答との正規化したと生成発話のの性能正規化したしたWMD値の平均の性能平均
90,70,50] %: 生成応答との正規化したに対して計算される報酬値の平均（対して計算される報酬値の平均（して計算される報酬値の平均（計算される報酬値の平均（される報酬値の平均（報酬値の平均の性能平均（90,70,50%は基基準値の平均 ridea の性能大きさ：きさ：2.3節を参照を参照参照）
r [LID

エントレインメント評価値を直接的に最大化するような目的関数の導入を生成するニューラル会話モデルの検討直接的に対して同調的応答を生成するニューラル会話モデルの検討最大化するような目的関数の導入するニューラル会話モデルの検討ような目的関数の導入目的関数の導入の検討導入•

類似度と基準としたエントレインメント度合いに近い応答の生成 値を直接的に最大化するような目的関数の導入ridealが乖離する場合に罰則乖離する場合に罰則するニューラル会話モデルの検討場合いに近い応答の生成 に対して同調的応答を生成するニューラル会話モデルの検討罰則

対して同調的応答を生成するニューラル会話モデルの検討話モデルの検討履歴を考慮するために文脈ベクトルに対する注意の導入●

類似度：正規化したしたWMD値の平均 [kusner 15]

評価結果：ニューラル会話モデルの応答生成性能ニューラル会話モデルの検討会話モデルの検討モデル会話モデルの検討の検討応答を生成するニューラル会話モデルの検討生成するニューラル会話モデルの検討性能#交差エントロピー誤差の最小化によるモデル（エントロピー誤差エントロピー誤差の最小化によるモデル（の検討最小化するような目的関数の導入に対して同調的応答を生成するニューラル会話モデルの検討よるニューラル会話モデルの検討モデル会話モデルの検討（MLE）vs. 異なるエントレインメント基準値 な目的関数の導入るニューラル会話モデルの検討エントレインメント基準としたエントレインメント度合いに近い応答の生成 値を直接的に最大化するような目的関数の導入 rideal を生成するニューラル会話モデルの検討用いたエントレインメント度合いに近い応答の生成 提案モデルモデル会話モデルの検討応答を生成するニューラル会話モデルの検討の検討エントレインメント評価値を直接的に最大化するような目的関数の導入（報酬）の検討期待値を直接的に最大化するような目的関数の導入

注意機構付き階層型 き階層型 階層型 Encoder-Decoderモデル会話モデルの検討への検討適用
履歴を考慮するために文脈ベクトルに対する注意の導入を生成するニューラル会話モデルの検討考慮した報酬計算モデルするニューラル会話モデルの検討たエントレインメント度合いに近い応答の生成 めに対して同調的応答を生成するニューラル会話モデルの検討文脈に対して同調的応答を生成するニューラル会話モデルの検討ベクトル会話モデルの検討に対して同調的応答を生成するニューラル会話モデルの検討対して同調的応答を生成するニューラル会話モデルの検討するニューラル会話モデルの検討注意の検討導入
シスと生成発話のテムにより最適化発話の生成応答との正規化したに対して計算される報酬値の平均（与える評価値 える報酬値の平均（評価値の平均 (報酬)

ユーザ発話発話の【低】U1: こんに対して計算される報酬値の平均（ちは基S2: は基い。私もそう思います。もそう思います。います。
S2: 私もそう思います。は基キャンプが好きです。が好きです。きです。

S1: こんに対して計算される報酬値の平均（ちは基。
今日は良い天気ですね。は基良い天気ですね。ですね。

S2: ピクニックがお好きなん好きです。きな応答を生成んですね。

U2: そうですね。
こんな応答を生成日は良い天気ですね。に対して計算される報酬値の平均（は基ピクニックと生成発話のかに対して計算される報酬値の平均（行きたくなるねき階層型 たエントレインメント度合いに近い応答の生成 くな目的関数の導入るニューラル会話モデルの検討ね。

【高】

発話モデルの検討符号化するような目的関数の導入

文脈に対して同調的応答を生成するニューラル会話モデルの検討符号化するような目的関数の導入応答を生成するニューラル会話モデルの検討復号化するような目的関数の導入

S2: たしかに対して計算される報酬値の平均（ピクニックに対して計算される報酬値の平均（
行きたくなるねき階層型 たエントレインメント度合いに近い応答の生成 くな目的関数の導入るニューラル会話モデルの検討ね。
より上記を実現高い報酬を参照持つつ応答との正規化したを参照生成する報酬値の平均（ように対して計算される報酬値の平均（更新[Yu 17]

まとめ

●

●

参考文献

提案モデルは モデルの性能は基 基準としたエントレインメント度合いに近い応答の生成 としたエントレインメント度合いに近い応答の生成 エントレインメント度合いに近い応答の生成 いに対して同調的応答を生成するニューラル会話モデルの検討近い応答の生成 い応答を生成するニューラル会話モデルの検討の検討生成するニューラル会話モデルの検討 を参照実現するような応答を生成

生成応答との正規化したの性能自然性：WMDは基改善，事前に定義したエントレインメント度合いを実現するような応答を生成言語モデルの性能モデルの性能の性能性能(PPL)は基従来モデルと等価モデルの性能と生成発話の等価，事前に定義したエントレインメント度合いを実現するような応答を生成BLEUは基低下傾向
問題点：実際の人間による対話ではの性能人間による対話ではに対して計算される報酬値の平均（よる報酬値の平均（対して計算される報酬値の平均（話のでは基分脈に応じて適切なエントレインメント度合いは異なるに対して計算される報酬値の平均（応じて計算される報酬値の平均（適切なエントレインメント度合いは異なるな応答を生成エントレインメント度合いを実現するような応答を生成いは基異なるな応答を生成る報酬値の平均（
今後の予定：文脈に応じた適切なエントレインメント度合いの調整や制御を行えるようにモデルを拡張の性能予定：文脈に応じて適切なエントレインメント度合いは異なるに対して計算される報酬値の平均（応じた適切なエントレインメント度合いは異なるな応答を生成エントレインメント度合いを実現するような応答を生成いの性能調整や制御を行えるようにモデルを拡張や制御を行えるようにモデルを拡張制御を行えるようにモデルを拡張を参照行えるようにモデルを拡張える報酬値の平均（ように対して計算される報酬値の平均（モデルの性能を参照拡張