aoba_v2 bot:

多様な応答生成モジュールを統合した雑談対話システム
長澤春希1 工藤慧音1 宮脇峻平1 有山知希1
成田風香1

岸波洋介1 佐藤志貴1 乾健太郎1,2
東北大学1

理化学研究所2

設計アイデア：
様々な応答生成機構を統合した雑談対話システム
評価指標

期待される応答

適するアーキテクチャ
ニューラル
応答生成機構

自然性
ユーザ発話・話題に即した自然な応答

話題追随

話題提供

知識ベース
応答生成機構話題に関する情報提供ができる応答

aoba̲v2 bot

2021/11/29

多様な応答生成機構で応答候補を生成し最適な応答を候補から選択

SLUD20212

TohokuNLP aoba_v2 の概要
Input
東京都内で最も古い寺院はどこ？

1. 応答⽣成機構
aoba

ニューラル
応答⽣成

知識ベース
応答⽣成

2. 応答リランキング機構
東京駅がリニューアルしました

1. 東京都台東区にある浅草寺です
2. 東京駅がリニューアルしました

NTTCS

寺院がお好きなんですか？

DialoGPT分かりません

ルール
ベース

東京都台東区にある浅草寺です

検索
ベース

奈良の飛鳥寺はとても古いです

⁝

・重複度

5観点で評価・継続度・類似度・情報量・⼀貫性

Output
東京都台東区にある浅草寺です
2021/11/29

SLUD20213

TohokuNLP aoba_v2
ニューラル応答⽣成機構
東京都内で最も古い寺院はどこ？

1. 応答⽣成機構
aoba
ニューラル
応答⽣成

知識ベース
応答⽣成

2. 応答リランキング機構
東京駅がリニューアルしました

1. 東京都台東区にある浅草寺です
2. 東京駅がリニューアルしました

NTTCS

寺院がお好きなんですか？

DialoGPT

分かりません

ルール
ベース
検索
ベース

⁝

・重複度

東京都台東区にある浅草寺です

・継続度・類似度・情報量
3つのニューラル応答生成機構を
奈良の飛鳥寺はとても古いです
大量・多様なデータセットで訓練・⼀貫性↓「自然」な応答生成を目指す
東京都台東区にある浅草寺です

2021/11/29

SLUD20214

ニューラル応答生成機構
多様なテキストデータで学習し「自然」な応答を生成
3つのモデルaoba[藤原+ ‘20]

機構：
Transformer
NTTCS[Sugiyama+ ‘20]

機構：
Transformer
DialoGPT…
2021/11/29

Further
pre-training

Fine-tuning

12万

20万

8.63億
対話対

21億
対話対

対話対

対話対

公開モデル

[Zhang+ ‘20]

Decoder
Decoder
Decoder

Pre-training

機構：
GPT-2

1.47億
対話対
SLUD2021

5

学習データ：Pre-training
多様なテキストデータで学習し「自然」な応答を生成
3つのモデルaoba[藤原+ ‘20]

機構：
Transformer
NTTCS[Sugiyama+ ‘20]

機構：
Transformer
DialoGPT…

2021/11/29

8.63億

Further
pre-training

Fine-tuning

大規模疑似対話データセット

対話対

21億
対話対

Twitterリプライを対話とみなし、作成されたデータセット[藤原 +’20]

12万対話対

20万
対話対

公開モデル

[Zhang+ ‘20]

Decoder
Decoder
Decoder

Pre-training

機構：
GPT-2

1.47億
対話対
SLUD2021

6学習データ：Pre-training
多様なテキストデータで学習し「自然」な応答を生成
3つのモデルPre-training
翻訳データセット
機械翻訳モデル[kiyono + ‘20]を用い
aoba[藤原+英語対話データを翻訳‘20]
DailyDialog
機構：

Fine-tuning

12万

20万

8.63億
ConvAI2

Blended Skill Talk

Transformer
Empathetic
Dialogues
NTTCS

Further
pre-training

対話対

Wizard of Wikipedia

常識推論データセット[Sugiyama+ ‘20]
常識推論データセットから21億
機構：対話データを作成
対話対Transformer
京⼤常識推論データ

対話対

対話対

公開モデル

DialoGPT[Zhang+‘20]
質問応答データセット

質問+答えから、疑似対話データを作成…

Decoder億機構：
1.47
GPT-2 解答可能性付き読解データ
対話対

Decoder
JAQKET
Decoder

2021/11/29

SLUD2021

7学習データ：Pre-training
多様なテキストデータで学習し「自然」な応答を生成
3つのモデルaoba[藤原+ ‘20]

機構：
Transformer

Pre-training

Further
pre-training

億
8.63
高品質データ
対話対

高品質なデータセットを[藤原+ ‘20; Sugiyama+ ‘21]
NTTCS組み合わせて作成[Sugiyama+ ‘20]
機構：
Transformer
DialoGPT[Zhang+ ‘20]…

Decoder
Decoder
Decoder

2021/11/29

機構：
GPT-2

Fine-tuning

21億Twitter 疑似対話データ
対話対

対話破綻検出チャレンジデータ
公開モデル
JPersonaChat

12万
対話対

20万
対話対

JEmpathetic Dialogues

1.47億
対話対
SLUD2021

8TohokuNLP aoba_v2
知識ベース応答⽣成機構
東京都内で最も古い寺院はどこ？

1. 応答⽣成機構
aoba

ニューラル
応答⽣成

東京駅がリニューアルしました

1. 東京都台東区にある浅草寺です

知識ベースを用いることで2. 東京駅がリニューアルしました
NTTCS
寺院がお好きなんですか？
「情報」を提供できる応答の生成を目指す⁝
DialoGPT

知識ベース
応答⽣成

2. 応答リランキング機構

ルール
ベース
検索ベース

・重複度

分かりません・継続度
東京都台東区にある浅草寺です

・類似度
・情報量

奈良の飛鳥寺はとても古いです・⼀貫性

東京都台東区にある浅草寺です
2021/11/29

SLUD2021

9検索ベース応答生成モデル①Retrieverで、発話と関連する文書をWikipediaから検索②Readerで、発話と①で検索された文書を使い、応答を生成
Retriever
東京都内で最も古い寺院はどこ？

Reader
発話

発話

発話

FiD
上位k件の関連文書を取得

Enc.-Dec.
最古の寺院は浅草寺で628年建立です

2021/11/29

SLUD202110

TohokuNLP aoba_v2
応答リランキング機構
東京都内で最も古い寺院はどこ？

1. 応答⽣成機構aoba

ニューラル
応答⽣成

知識ベース
応答⽣成

2. 応答リランキング機構
東京駅がリニューアルしました

2. 東京駅がリニューアルしました

NTTCS

寺院がお好きなんですか？
藤原らが提案した4つの手法＋
DialoGPT
分かりません
新たに提案する「一貫性」
ルール
東京都台東区にある浅草寺です↓
ベース
最適な応答を選択
検索ベース

1. 東京都台東区にある浅草寺です

奈良の飛鳥寺はとても古いです

⁝

・重複度

5観点で評価・継続度・類似度・情報量・⼀貫性

Output
東京都台東区にある浅草寺です
2021/11/29

SLUD202111

応答リランキング機構
生成された発話候補から自然で適切な情報を提供している応答を選択
東京のシンボル的存在です。

• 継続度: 直前の発話に対し自然な応答かスカイツリーは大好きだよ <東京のシンボル的存在です。

• 重複度: 同じ語句を繰り返していないか昨年のモデル
で使った指標東京タワーは東京タワー< 東京のシンボル的存在です。

• 類似度: 直前の発話を復唱していないか東京タワーについてですね <東京のシンボル的存在です。

• 情報量: 十分な情報量を含んでいるかそれは分かりません。
追加した指標

東京のシンボル的存在です。

• 一貫性: 直前の自己発話やユーザ発話と矛盾しないか
東京タワー嫌いなんですね <東京タワー好きなんだよね。
東京タワーって知ってる？
2021/11/29<

応答⽣成機構東京のシンボル的存在です。

応答候補を⽣成
SLUD2021

12

新たに追加した指標：一貫性
生成された発話候補から自然で適切な情報を提供している応答を選択
東京のシンボル的存在です。

• 継続度: 直前の発話に対し自然な応答か直前の自己発話やユーザ発話にスカイツリーは大好きだよ < 東京のシンボル的存在です。
矛盾する応答をBERTで検出• 重複度: 同じ語句を繰り返していないか
昨年のモデル
で使った指標ex.)< 東京のシンボル的存在です。
東京タワーは東京タワー
ユーザ発話：東京タワー好きなんだよね。

• 類似度: 直前の発話を復唱していないか矛盾検出
東京タワーについてですね <東京のシンボル的存在です。
応答候補：東京タワーが嫌いなんですね。
• 情報量: 十分な情報量を含んでいるかそれは分かりません。
< 東京のシンボル的存在です。
追加した指標• 一貫性: 直前の自己発話やユーザ発話と矛盾しないか
東京タワー嫌いなんですね <東京タワー好きなんだよね。
東京タワーって知ってる？
2021/11/29

応答⽣成機構東京のシンボル的存在です。

応答候補を⽣成
SLUD2021

13

システム対話例 (システム全体)
洋楽は好きですか?

ユーザaoba̲v2

洋楽はそんなに聞かないですね... 英語が難しいです。

英語は難しいですよね。でも、外国のアーティストの曲はかっこいいと思います。

そうですね。友⼈にも洋楽好きな⼈がいるのですが、彼⼥の英語⼒も⾼いので、英語をちゃんと勉強する必要がありそうです...
彼⼥は英語が得意なんですか?

2021/11/29

そうですね。僕とは違って発⾳がきれいです。

SLUD2021

14

システム対話例 (モデル別)
マリオって知ってますか?

ユーザ

最近、⾳楽を聴くのが趣味なんです!

ユーザ
2021/11/29

任天堂が発売したコンピュータゲームソフトのシリーズ、マリオシリーズに出てくる架空のキャラクターみたいですよ。

検索ベース
応答生成モデル

今は、どんな⾳楽を聴いていますか?

DialoGPT

どんな⾳楽が好きですか?
好きなアーティストはいますか?

NTTCS

どんな⾳楽を聴きますか?
僕は洋楽が好きですね。

aoba
SLUD2021

15

予選評価（スコア）
対話したワーカによる5段階評価の平均

藤原ら
本システム

54

3.392

3.365

33.216

3.135

3.077
2.725

210

自然性

話題追随

話題提供

✔概ね自然な応答生成が実現できた✔話題提供に関し、大幅なスコアの改善が見られた
2021/11/29

SLUD2021

16

予選評価（ワーカの声）
良かった点• 『自然な感じで楽しかったです。』• 『とても知的な方だと感じました。』
自然で情報量の多い応答を生成できた

悪かった点• 『会話の切り替えがいささかぎごちなかった』• 『唐突に話題が切り替る傾向があると感じました。 』
話題転換時の応答が不⾃然
話題転換を検出する仕組みが必要
2021/11/29

SLUD202117

まとめ• 異なる仕組みによって応答を生成する複数のモジュールを統合した対話システムを構築• 応答候補を5つの指標でリランキング• 評価結果から、構築した対話システムが自然で情報量の多い応答を実現できたことを確認

課題・今後の展望• 話題転換時の応答が不自然→話題転換を検出する仕組みの追加
2021/11/29

SLUD202118

参考文献• 藤原吏生, 岸波洋介, 今野颯人, 佐藤志貴, 佐藤汰亮, 宮脇峻平, 加藤拓真, 鈴木潤, 乾健太郎. ILYS aoba bot:

大規模ニュー ラル応答生成モデルとルールベースを統合した雑談対話シス テム. 第 90 回人工知能学会
言語・音声理解と対話処理研究会 (第 11 回対話システムシンポジウム), pp. 110–115, 2020.

• Hiroaki Sugiyama, Masahiro Mizukami, Tsunehiro Arimoto, Hiromi Narimatsu, Yuya Chiba, Hideharu Nakajima,and Toyomi Meguro. Empirical analysis of training strategies of transformer-based japanese chit-chat systems. In
arXiv:2109.05217, 2021.

• Yizhe Zhang, Siqi Sun, Michel Galley, Yen-Chun Chen, Chris Brockett, Xiang Gao, Jianfeng Gao, Jingjing Liu, and BillDolan. DialoGPT : Large-scale generative pretraining for conversational response generation. In ACL, pp. 270–278,2020.

• Shun Kiyono, Takumi Ito, Ryuto Konno, Makoto Morishita, and Jun Suzuki. Tohoku-AIP-NTT at WMT 2020 news
translation task. In WMT, pp. 145–155, 2020.

• 東中竜一郎, 船越孝太郎, 小林優佳, 稲葉通将.

対話破綻検出チャレンジ.
第75 回言語・音声理解と対話処理研究会(第6回対話システムシンポジウム)• (松田耕史, 鈴木正敏, 乾健太郎.

Wikidataからの遠距離教師あり学習に基づく大規模関係知識獲得.
言語処理学会第25 回年次大会(NLP2019))

2021/11/29

SLUD2021

19

Appendix

ルールベース応答生成モデル
知識を問うような発話に対し知識ベースと応答テンプレートを使用して発話を生成
OUTPUT

東京タワーは東京都にあります。東京都港区にある電波塔です。

知識ベース

応答テンプレート

主語：東京タワー

質問フレーズ：どこ
述語：location

目的語：東京都
述語：location
テキスト：東京タワーは(東京都港区)にある電波塔である
名詞句抽出
20XX/XX/XXテンプレート：(主語)は(目的語)にあります

質問フレーズ抽出

東京タワーってどこにあるの？

SLUD2021

21

各種モデルのパラメータ概数• aoba: 約4.8億• NTTCS: 約16億
• DialoGPT: 約3.5億• FiD(検索ベース応答生成): 約2億

20XX/XX/XXSLUD202122