言語処理学会 第24回年次大会 発表論文集 (2018年3月)

知識グラフによる特徴量ベクトルを用いたニューラルネットワークによる対話状態推定
村瀬 行俊1 , 吉野 幸一郎1,2 , 中村 哲1
1
奈良先端科学技術大学院大学情報科学研究科
2
科学技術振興機構 さきがけ
{y-murase, koichiro, s-nakamura}@is.naist.jp

1

はじめにタスク指向型対話システムのモジュールである対話状態推定の精度を向上するため，The Dialog State

Tracking Challenges (DSTCs) というシェアードタス
クが過去５年に渡り開催されている [14, 13]．これまでの研究では，特に機械学習による識別的アプローチが高い精度を達成している [3]．DSTC5 では畳み込みニューラルネットワーク（CNN）による推定器の精度が最も高かった [11]．この推定器では単語埋め込み表現である Word2Vec [9] を入力特徴量として用いている．ただし，推定する状態の数に対して学習に使用できるラベル付きデータの量が限られているため，精度の向上が難しいという問題がある．また，入力となる発話に含まれる情報は限られることから，単純な特徴ベクトルの作り方では予測に必要な特徴を得ることが難しい．
このようにデータが限られている場合，外部の知識ベースをシステムの知識として用いることで，情報の欠落を補うことができる．近年では Web 上で不特定多数が編集可能な知識ベースを構築するプロジェクトが存在し，このような知識ベースを利用することが可能である [2, 12]．対話システムでも，こうした外部の知識情報として Web で収集した知識ベースが用いられている [8]．このように知識を用いることで元になる入力特徴から関連のある情報を推論し，付加して用いることが可能になる．
本研究では，外部の知識ベースを用いて入力発話からより多くの情報を抽出するために，知識グラフ上での推論による特徴量ベクトル構築を提案する．この特徴量ベクトルを全結合ニューラルネットワーク（FCNN）の入力として対話状態推定に用いた結果，既存研究の最も良い手法である CNN ベースの推定器に近い精度が確認された．また，提案手法を CNN ベースの推定器とアンサンブルすることで，Dialog State Tracking

Challenge 4 (DSTC4)) [5] において最高精度を実現した．

2

対話状態推定2.1

DSTC4

本研究では人間同士の旅行対話を扱っている DSTC4での対話状態推定を行った．DSTC4 では副対話ごとにトピック（５種類）が与えられており，この副対話ごとに対話状態推定をする．DSTC4 のコーパスは３人のガイドと３５人の旅行者の対話をスカイプによって収録したものである．それぞれの対話は人手により書き起こしがされ，副対話ごとにアノテーションが付与されている．コーパスのサイズは対話数が 35 対話，発話数が 20,641 発話である．対話状態のアノテー
ションは副対話内の会話で取り上げられている内容をSlot-Value の組で付与されている．例えば，トピックが”Accommodation” であるとき，宿泊施設の種類である Slot の”TYPE” に対して”Hotel” や”Hostel” な
どの Value を取りうる．この Slot-Value の組み合わせは 5,608 組ある．DSTC4 では副対話の書き起こし済
みの各発話に対して状態推定を行う．この際，対話履歴を用いてもよい．
2.2

CNN による対話状態推定

タスク指向型対話における対話状態推定タスクを扱った最新のチャレンジである DSTC5 で最も精度の高い識別器が CNN である．図 1 のように，CNN では発話を１つの行列として入力する．各行は各単語の固定長の単語埋め込みベクトルであり，発話内で観測された単語順で構成されている．これまでに提案されてきた発話内の語順を考慮したモデル [15] と同様に，このモデルでは密な単語ベクトル表現により語順に由来する意味的特徴量の利用を可能にしている [6]．

― 1308 ―Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

Continent
0 → 0.077

Asia0 → 0.231

City0 → 0.132

Singapore1 → 0.485

Area0 → 0.044

Islandnation
0 → 0.184

図 1: CNN モデルの概要図．
IKG Feature Vector
OutputUtterance
Reduced Feature Vector

Inference on
Knowledge
Graph

PCA

FC

Malaysia
1 → 0.594

Country0 → 0.256

図 3: 推論した知識グラフの例．
FC withSigmoid

されたノードの組み合わせを各発話の内容を表現したベクトルとする．
知識グラフは外部知識ベースである Wikidata を元Dialog
Historyに構築している．Wikidata から知識グラフへの変換で

図 2: IKG-FCNN モデルの概要図．

は，データセットで観測した単語のうち Wikidata 内のエンティティとして存在するものをシードノードと外部知識上の推論による対話状態推定する．また，シードノードと Wikidata 内で関係性のDBpedia [1] や Wikidata [12] のような大規模な知識ベースが Web 上で構築され，日々更新されている．こあるエンティティをグラフにおけるノードとして追加のような知識ベースをグラフ表現により変換し，マルまでに得られた全てのエンティティ同士の関係を調べ，コフ確立場によって推論を行うことでユーザの状態を関係性が付与されていれば，それらのエンティティに推定する研究が存在する [8]．この方法では発話内で相当するノードをエッジで繋げる．

2.3する．この際，1-hop 先のノードまで利用した．ここ

未観測である情報（単語・名詞等）を，外部知識ベー

このように構築した知識グラフ上でラベル伝搬法にスを用いて推論することで対話状態推定に利用できる

より発話文内で未観測のノードが発話から得られた情ようにしている．また，我々の以前の研究ではこうし報に近いかを推論する．ラベル伝搬法は観測ノードのた知識グラフ上での推論を用いて，発話文のみから取ラベルから未観測ノードのラベルを推定するため，発得することが難しい対話状態推定に有効な情報を特徴

話文では未観測であったノードのうち，グラフ上で近量として得る方法を提案している [10]．具体的には，いものを観測されたノードと同じクラスとして推論す

外部の知識として Wikidata を用い，ラベル伝搬法 [4]ることができる．未観測ノードのラベルは観測ノードにより推論することで，より有効な情報を含んだ特徴に近いほど高い値を取り，遠いほど低い値を取る．図 3量ベクトルを生成している．

は”Singapore” と”Malaysia” が観測語として与えられ3

知識ベース上の推論による特徴ベクトルを用いたニューラルネットワークベースの対話状態推定た時にラベル伝搬法を適用した結果であり，各ノードの左の値が入力値で右の値が予測値である．ラベル伝搬法では以下の目的関数を最小化する．

ユーザ発話では未観測の単語を推論により外部知識J(f ) =ベース上から見つけることで，より多くの意味的情報n∑(yi − fi )2 + λi=1をもつ特徴量ベクトルを構築する．この特徴量ベクト∑

wi,j (fi + fj )2 ,(1)i<jルを識別モデルである対話状態推定器の入力とするこここで y は入力値であり，f が予測値（出力値）でとで，モデルの学習を行う．本節では，この特徴量ベある．wij はノード i とノード j のエッジの重みであクトルの構築方法と，対話状態推定器への適用についり，λ は第一項と第二項のバランスをとる係数となる．て述べる．図 2 は提案法の概要図である．

予測したベクトル f を，3.1

f = y(I + λL)−1

知識ベース上の推論(2)

知識ベース上の特徴量ベクトルの推論では，知識ベースから構築された知識グラフ上の観測ノードから，素性に加わるべき未観測ノードを予測する．ここで予測のラプラシアン行列を用いた変形から求めることができる．また，ラベル伝搬法で対話履歴を考慮するため― 1309 ―Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

に割引率として γ を定義した．この割引率を掛けた前し，出力層の誤差はシグモイド交差エントロピーを発話の入力値と，現在の入力発話ベクトルとの和を取用いた．出力層では全ての Slot-Value の推定をおこることで，対話履歴を考慮した入力ベクトルとする．

なうため，出力層にシグモイド関数を用いた．また，このように構築したベクトルの次元数が 51,548 次元

バッチ正規化とドロップアウトを中間層とモデルの辺となった．このままでは計算効率が低下するため，本に適用した．この結果，最終的に各モデルでは出力層研究では主成分分析（PCA）による次元圧縮をおこからシグモイドによる各 Slot-Value の確率が得られなった．この次元圧縮では累積寄与率を 1 に保つようる．ただし，出力層では現在の発話のトピックに関連制約し，結果として対話状態推定器の入力は 2,500 次しない Slot-Value も推定するため，各トピックで必要元に圧縮された．

な Slot-Value を参照するようにフィルタリングを加3.2

知識グラフ特徴量ベクトルと全結合ニューラルネットワーク

えた．

4

提案する特徴量ベクトルは推論により多くの情報量を含む．ただし，この特徴量ベクトルは語順を考慮しておらず，既存の最も精度の高い推定器である CNN を用いた枠組みのように語順を考慮したモデルに適用できない．そのため，提案した特徴量ベクトルを入力とする対話状態推定器には全結合ニューラルネットワー
クを用いる．これは図 2 で示したように３層のニューラルネットから構成され，入力層と中間層の次元数は圧縮した特徴量ベクトルの次元数と同じになる．本稿ではこのモデルを IKG-FCNN と呼ぶ．

実験

DSTC4 のデータセットにより評価を行う．DSTC4 では Accuracy と F-measure の２つ評価指標が用いられている．Accuracy は副対話区間終了時点におけるフレームの完全一致率であり，Slot-Value の組が完全に一致していることを要求する．一方，F-measure は各Slot-Value の組の一致を precision と recall の調和平均で計算したものである．
本 実 験 で は ４ つ の モ デ ル（IKG-FCNN，CNN，Ensemble-1，Ensemble-2）による対話状態推定の精度の比較をおこなう．これらのハイパーパラメータはIKG-FCNN と CNN のアンサンブル開発セットを用いて以下の通りに決定した．FCNN は提案した特徴量ベクトルを用いた対話状態推定器はAdam の α が 0.000025，バッチサイズが 40，出力層より多くの情報量を持つが，語順を考慮していない．のシグモイドにおける閾値が 0.2 とした．CNN では

この欠点を補うため，提案する IKG-FCNN と既存のAdam の α が 0.00005，重み減衰率が 0.000001，フィCNN のアンサンブルによるモデルを構築した．アン

ルタ幅が 1，出力チャンネル数が 1500，バッチサイサンブルの手法に応じて，１つ目を Ensemble-1，もズが 50，出力層の閾値が 0.2 とした．Ensemble-1 でう一方を Ensemble-2 とする．Ensemble-1 では２つのは各モデルの重みが 0.5，出力層の閾値が 0.2 とした．

モデルの線形補間をする．

Ensemble-2 では Adam の α が 0.00005，重み減衰率が3.3

yensemble1 = yf cnn × wf cnn + ycnn × wcnn

0.000001，フィルタ幅が 1，出力チャンネル数が 500，(3)バッチサイズが 50，出力層の閾値が 0.3 とした．く

式 (3) では 0 ≤ wf cnn , wcnn ≤ 1 かつ wf cnn + wcnn =わえて DSTC4 で機械学習による最も高い精度を達1 である．Ensemble-2 は各モデルの特徴量を用い，成した対話状態推定器 (MSIIP) を比較のため併記す

IKG-FCNN と CNN の中間層を直接結合した．具体的る [7]．表 1 が各モデルの Accuracy，precision，recall，には IKG-FCNN の中間層（hf cnn ）と CNN の max-F-measure の結果を示している．
Ensemble-1 の F-measure が IKG-FCNN より 2.8%，pooling 後の特徴量ベクトル ĉcnn + b を Rectified Lin-

MSIIP より 1.6%ほど高く，最高値を実現した．このモ

ear Unit (ReLU) 活性化して結合した．
hensemble2 = hf cnn ⊗ ReLU (ĉcnn + b),(4)

デルは precision，recall 共に IKG-FCNN と CNN を上回っており，それぞれの良い点を上手く学習するこ⊗ はネットワークの連結である．式 (4) で得られたとができていると考えられる．一方で，Ensemble-2 のhensemble2 から出力層を全結合層で繋ぎ，シグモイド

F-measure は IKG-FCNN から上がっておらず，CNN関数により出力 yensemble2 を得る．の結果を受けて IKG-FCNN より precision が高くなっyensemble2 = σ(hensemble2 ∗ w + b).

(5)

全てのモデルは Adam optimizer で学習した．また，たのに対して，recall が下がってしまったと考えられる．
表 2 は，Transcription の発話文に対して各モデルが実際に推定した対話状態の例である．この例では各アンモデルの中間層では活性化関数として ReLU を使用― 1310 ―Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

AccuracyPrecision
RecallF-measure

IKG-FFNN
0.04450.37660.31020.3758CNN
0.03220.43390.2816
0.3415

Ensemble-1
0.05780.51670.33070.4033

Ensemble-2
0.05400.46900.3086
0.3723

MIISP
0.06970.46340.33350.3878

表 1: 実験結果の比較表．
Transcription

also for certain
rides in the
Universal Studio,
there’s a heightlimit.

Gold Standard
PLACE:’Universal
Studios
Singapore’
ACTIVITY:’Amusement
ride’
INFO:
’Restriction’IKG-FCNN

CNN

PLACE:’Universal
Studios
Singapore’

PLACE:’Universal
Studios
Singapore’

Ensemble-1
PLACE:’Universal
Studios
Singapore’
ACTIVITY:’Amusement
ride’
INFO:
’Restriction’

Ensemble-2
PLACE:’Universal
Studios
Singapore’
ACTIVITY:’Amusement
ride’
INFO:
’Restriction’

表 2: Utterance-id 566 in Dialog #21 の対話状態フレーム．
サンブルモデルがいずれも正解のフレームと完全一致しており，元となった IKG-FCNN や CNN 単体では推定できていない Slot-Value が存在した (ACTIVITY，INFO)．この結果からもアンサンブルモデルでは各モデルを合わせることで相乗効果があったと推定できる．

5[5] Seokhwan
Kim,
Luis
D’Haro,RafaelBanchs,
Matthew Henderson, Jason Williams, and Koichiro
Yoshino.
Dialog State Tracking Challenge 4.
http://www.colips.org/workshop/dstc4/, 2015.
[6] Yoon Kim. Convolutional neural networks for sentence classification. In Proceedings of Conference on Empirical Methods on Natural Language Processing, 2014.

まとめ

本研究では知識グラフ上の推論により発話文そのものからは抽出が難しい特徴量の抽出を行い，この特徴量ベクトルを用いてニューラルネットワークによる対話状態推定を行った．また，この推定器と CNN ベースの推定器をアンサンブルする方法も提案した．その結果，線形補間によるアンサンブルモデルが，その他の提案したモデルや DSTC4 における機械学習による最高精度の推定器の結果を上回った．ただし，提案したIKG-FCNN では元の発話内の語順の系列情報を考慮していないため，このような系列情報を扱えるようにすることが今後の課題である．

6[4] Tsuyoshi Kato, Hisashi Kashima, and Masashi Sugiyama.
Robust label propagation on multiple networks. In IEEETransactions on Neural Networks, volume 20, pages 35–44,
2009.

謝辞

本 研 究 開 発 の 一 部 は 総 務 省 SCOPE(受 付 番 号152307004) の委託を受けたものです．

[7] Miao Li and Ji Wu. The msiip system for dialog state tracking challenge 4. In Dialogues with Social Robots, pages 465–474. Springer Singapore, 2017.
[8] Yi Ma, Paul Crook, Rushi Sarikayu, and Eric FoslerLussier. Knoewledge graph inference for spoken dialog system. In Proceedings of International Conference on Acoustics, Speech and Signal Processing, pages 5346–5305, 2015.
[9] Tomas Mikolov, Ilya Sutskever, Kai Chen, Greg Corrado,and Jeﬀrey Dean. Distributed represenatational of words
and phrases and their compositionality. In Proceedings ofAdvances in Nueral Information Processing System, pages
3111–3119, 2013.
[10] Yukitoshi Murase, Koichiro Yoshino, Masahiro Mizukami,and Satoshi Nakamura. Feature inference based on label
propagation on wikidata graph for dialogue state tracking. InInternational Workshop on Spoken Dialogue System Technology, pages 1–12, 2017.
[11] Hongjie Shi, Takashi Ushino, Mitsuruand Endo, Katsuyoshi
Yamagami, and Noriaki Horii. A multichannel convolutional neural network for cross-language dialog state tracking. In Proceedings of the Spoken Language Technology
2016, pages 559–564, 2016.
[12] Deny Vrandečić and Markus Krötzsch. Wikidata: A free collaborative knowledgebase. In Communications of the ACS,pages 78–85, 2014.

参考文献[1] Sören Auer, Cristian Bizer, Georgi Kobilarov, Richard Cyganiak, and Zachary Ives. Dbpedia: A nucleus for a web ofopen data. In The semantic web, pages 722–735, 2007.
[2] Kurt Bollacker, Colin Evans, Praveen Paritosh, Tim Sturge,
and Jamie Taylor. Freebase: A collaboratively created graphdatabase for structuring human knowledge. In Proceedings ofACS SIGMOD International Conference on Managementof Data, pages 1247–1250, 2008.
[3] Matthew Henderson. Machine learning for dialog state tracking: A review. In Proceedings of The First International
Workshop on Machine Learning in Spoken Language, 2015.

[13] Jason Williams, Antonie Raux, Deepak Ramachandran, andAlan Black. The dialog state tracking challenge. In Proceedings of the Special Interest Group on Discource andDialogue 2013 Conference, pages 404–413, 2013.
[14] Steve Young, Milica Gašić, Simon Keizer, François Mairesse,
Jost Schatzmann, Blaise Thomson, and Kai Yu. The hidden
information state model: A practical framework for pomdpbased spoken dialogue management. Computer Speech &Language, 24(2):150–174, 2010.
[15] Lukas Zilka and Filip Jurcicek. Incremental lstm-based dialog state tracker. In Automatic Speech Recognition andUnderstanding, pages 757–762, 2015.

― 1311 ―Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.