曖昧なユーザ要求に対する因果関係知識を用いた
気の利いたシステム行動の選択
田中翔平 1,2,3 吉野幸一郎 2,1,3 須藤克仁 1,3 中村哲 1,3
1 奈良先端科学技術大学院大学 2 理化学研究所 ガーディアンロボットプロジェクト
3 理化学研究所 革新知能統合研究センター{tanaka.shohei.tj7, sudoh, s-nakamura}@is.naist.jp
koichiro.yoshino@riken.jp

概要
タスク対話システムは，ユーザの要求に応じて適切なタスク行動を行う．この際，ユーザ発話が明確な場合のみならず，ユーザ発話が曖昧な場合でも適切なタスク行動を行うことが求められる．本研究で

図1

ユーザ要求とシステム行動のペア提案するシステムは，こうした曖昧なユーザ発話に対して，そこから推測できる潜在的な要求に対応しいると見なすことができる曖昧なユーザ発話を収たタスク行動を選択することを目標とする．曖昧な集し，これを学習データとして識別に用いる方法がユーザ発話に対して気の利いたシステム行動は複数存在しうるため，これらが一対一で対応付けられた挙げられる [3]．この方法論では，ある曖昧なユーデータから，Positive/Unlabeled (PU) 学習による分類い行動候補の一つを収集することができる．例えば器を学習する．また，学習データセットから因果関

図 1 のような「和食に飽きた」というユーザ要求係検出モデルによって因果関係に相当する知識を抽ザ要求に対して，気の利いた行動である可能性が高に対しては，「肉料理店の提案」や「中華料理店の出・蒸留することで，より精度の高いシステム行動提案」など複数のシステム行動候補のうち一つだの識別を実現する．実験の結果，提案する因果関係けが収集される．つまり，意図が曖昧なユーザ発検出モデルを用いる手法は，単純に PN 学習や PU話に対して，少数の気の利いた行動候補と，気が学習を用いた場合よりも高精度で気の利いたシステ利いているかわからない多数の行動候補が存在すム行動を識別できることが示された．

る，Positive/Unlabeled (PU) 分類問題 [4, 5, 6] が定義

1

はじめにされる．
本研究ではこうした曖昧なユーザ発話からシステ

音声対話研究において，従来の音声言語理解シスムが取りうる気の利いた行動を識別する問題においテムの多くは，ユーザがシステムに対する要求を明て，事例から汎化された因果関係のような知識を用示的に示すことを仮定している [1]．しかし実際にいることを考える．具体的には，学習データから因は，ユーザの要求はしばしば曖昧であり，ユーザ自果関係に相当する知識を蒸留し，システム行動の選身が明示的な要求を自覚していない場合も多い [2]．

択においてこの知識を用いる．このため，テキストこうした場合，人間のコンシェルジュやガイドであデータからの因果関係検出モデルを導入する．このれば気を利かせてユーザが必要とする補助を提供で因果関係検出モデルにおいては，曖昧なユーザ発話きる．例えば，ユーザが「ここの景色最高だね！」を原因，気の利いたシステム行動を結果とした学習と発話したとき，「写真を撮りましょうか？」などを行い，因果関係に相当する特徴量抽出を行った．と応答することができる．

この抽出特徴量を，PU 学習における分類器のラベル伝播に利用し，気の利いた行動の識別に利用したこうした行動選択を実現する方法のひとつとして，特定のシステム行動に対してそれが気が利いてところ，識別の精度向上が確認された．

2

データセット
既存の多くのタスク対話システムは，ユーザの意

図はユーザの中で明確化されており，曖昧性のないユーザ発話が与えられることを仮定している．しか

図2

し実際には，システムと対話する時に何を要求したいか定まっていない場合も多く，そのようなケース

表1

でのユーザ発話は意図が曖昧なものになりやすい．

対話エージェントの機能とカテゴリ: # はカテゴリ数を表す．
機能
スポット検索レストラン検索
アプリ起動

ARTA コーパス [3] は観光案内のドメインにおいてユーザとスマートフォンアプリケーション上の対話エージェントとの対話を想定し，システムが取りう気の利いた対話例

カテゴリ
遊園地，美術館，など
カフェ，かき氷，など
カメラ，乗り換え，など

#
30
30
10

る行動 (応答) に対してそれが気が利いていると見な

表 2 の「最近は和食が多くて少し飽きてきたんです

すことができる曖昧なユーザ発話を付与したものよね」というユーザ発話例では，肉料理や中華，イである．図 2 にこのコーパス中の対話例を示す．こタリアンといった複数の応答カテゴリが気が効いてこでユーザの「ここの景色最高だね！」という発話は，必ずしも特定の機能に対する要求として言語化いる行動と認定されている．つまり，正解となるテされているわけではない．これに対して，対話エー示的にアノテーションされているが，学習データにジェントが「カメラアプリを起動しましょうか？」は正例の一部のみがアノテーションされており，残という気の利いた応答を返し，実際のカメラ機能をりの部分のアノテーションがない Positive/Unlabeled起動できるようにする．

(PU) の問題になっている．

このコーパス中では対話エージェントの機能 (システム行動; 応答) はスポット検索，レストラン検ストデータには正例・負例となるシステム行動が明

分類モデル

3

索，アプリ起動の 3 つに大きく分けて定義されてい本論文では，気の利いたシステム行動を識別するる．定義された機能のリストを表 1 に示す．各機能タスクにおいて因果関係に相当する知識を導入すはそれぞれ細分化されたカテゴリを持ち，コーパスる．このため，まず問題に対応した PU 学習に基づ中の対話エージェントの応答はこれらのカテゴリにく分類モデルについて説明する．このモデルに対し紐付いて生成される．定義されたカテゴリは全部でて，因果関係検出モデルを用いた因果関係スコアを70 種類である．本コーパスでは，これらのあらかじ導入し，学習データの正例中に存在する因果関係相め定義されたエージェントの応答カテゴリに対して，広範なユーザの先行発話をワーカーに入力して当の知識を用いて分類精度の向上を目指す．

もらう方法により発話-応答ペアが収集されている．

3.1

PU 学習を用いた分類モデル

収集されたコーパス中の発話例を表 2 に示す．コー

図 3 にユーザ発話の分類タスク及びモデルの概要

パス中に含まれるユーザ発話と応答カテゴリのペアを示す．分類モデルは入力されたユーザ発話を，そは合計 27,230 であり，学習データ:検証データ:テスのユーザ発話に紐付けられた対話エージェントの正トデータ = 24, 430 : 1, 400 : 1, 400 の割合で分割され解応答 (正例) カテゴリへと分類する．ここで，曖昧ている．

なユーザ発話に対して正解となりうるシステム応答

ARTA コーパスに含まれるユーザ発話は要求が曖の候補は一つではない場合も多いため，PU 学習を昧であるため，気が利いていると認定される応答が用いる．具体的には Cevikalp ら [6] が提案したラベ

あらかじめ定義された 1 種類とは限らない．しかしル伝播 [7, 8] に基づいた PU 学習を用いる．この手全てのユーザ発話とシステム行動の組み合わせに対法はラベル付けされていない事例に対して，分散表して全応答カテゴリに対応するかどうかラベリング

現上で近傍のラベル付けされた事例のラベルを伝播を行うことは多大なコストが掛かり，現実的ではなするものである．具体的には，事例同士の類似度ス
コア si j を次式のように計算する．
()
d(xi , x¯j )|C|
si j = exp −·.
(1)|C| − 1d¯い．そこでこのコーパスは，テストデータに含まれる 1,400 発話に対してのみ，可能なシステム行動が網羅的に付与されている (平均 9.55 種類) ．例えば

表 2 ARTA コーパス [3] 中に含まれるユーザ要求の例
ユーザ発話 (クラウドソーシングを用いて収集)システム応答 (あらかじめ定義)
汗をかいて気持ち悪い周辺の温泉を検索しましょうか？
最近は和食が多くて少し飽きてきたんですよね． 周辺の肉料理を検索しましょうか？
いい景色だな
カメラを起動しましょうか？

3.2

因果関係知識を用いた類似度スコアの調整

3.1 節におけるラベル伝播法は，ユーザ発話同士の類似に基づいてラベルを伝播している．しかし，ユーザがある要求を行った場合に一般的にどのような行動を取ることが適切か，学習データにおいて観測される因果関係を考慮することで，より適切なラベル伝播を行うことができる可能性がある．そこで
図3

ユーザ要求分類器

本研究では，こうした因果関係を汎化された知識とx¯j はシステム行動 j が正例とされるユーザ発話の分散表現の平均ベクトルである．d(xi , x¯j ) は xi と x¯jのユークリッド距離であり，d¯ は全距離の平均でして抽出・蒸留しシステム行動の識別に利用するたある．C は定義されたシステム行動の集合であり，ば「和食に飽きる」→「肉料理を食べる」というペ|C| = 70 である．si j の値域は 0 ≤ si j ≤ 1 であり，2アがあった場合，前者を原因，後者を結果と見なしつの分散表現間のユークリッド距離が短いほど大きてモデルを構築する．この構築されたモデルから出な値をとる．本研究ではこの手法を PU と呼ぶ．類力された因果関係スコアを，ラベル伝播における新似度スコア si j は次式を用いて −1 ≤ si j ≤ 1 の範囲にしい特徴として利用する．

スケーリングされる．
=s˜i j−1 +めに，ユーザ発話を原因，システム行動を結果とみなして構築した因果関係検出モデルを用いる．例え

図 4 に因果関係スコアを算出する因果関係検出モ2(s − min(si j )).
max(si j ) − min(si j )(2)

デルの概要を示す．このモデルは [SEP] トークンで連結された原因，結果を BERT によって実数ベクトスケーリングされた類似度スコア s˜i j が 0 ≤ s˜i j ≤ 1ルに変換し，MLP によって実数値の因果関係スコアであるとき，システム行動 j を対象のユーザ発話のを算出する．因果関係スコアの値が大きいほど，入正例として扱い，このサンプルの正例としての重みを s˜i j とする．s˜i j が −1 ≤ s˜i j < 0 のとき，システム力された原因，結果は因果関係として強く結びつく

行動 j を対象のユーザ発話の負例として扱い，重みを −s˜i j とする．
類似度スコア s˜i j を用いたラベル伝播に基づく損出できることが期待される．そこで本研究では因果|C x+i | |C x−i ||U∑t r ai n | ∑∑j=1

関係グラフ [9] を用いてユーザ要求を解析し，ユーs˜i j s˜ik L(r j )Rs (w j xi − wk xi )TT

ザ要求に含まれる述語項構造をイベントの基本単位として BERT に入力する．因果関係グラフは「なぜk=1|U∑|C |t r ai n | ∑i

イベント同士の関係に着目することで，今回のタスクにおける因果関係を蒸留した因果関係スコアを算Loss =+κ

本研究ではユーザ発話，システム行動に含まれるイベント間の因果関係認定を行いたい．より単純な失関数は次式の通りである1）．

iことを意味する．

s˜i j Rs (yi j (wTj xi )).

(3)

j=1

式 (3) において，s˜i j は伝播されたシステム行動の，損失関数への寄与率を表す重みとして働く．正例として元々付与されているシステム行動の類似度スコなら」などの言語学的な特徴量に基づいて文中の因果関係を検出するツールであり，前処理として文中のイベントを述語項構造を基本単位として抽出する．また結果として入力するシステム行動に含まれるイベントについては，システム行動が「肉料理のア s˜i j は 1 である．

検索」であれば「肉料理を食べる」など，70 種類の各システム行動に対応した述語項構造として定義

1） 式の詳細は付録を参照．

する．

図4
表3Model

因果関係検出モデル

ユーザ要求の分類性能表4

ラベル伝播の性能

Acc. (%)

R@5 (%)

MRR

Model

Pre. (%)

Rec. (%)

F1PN

89.04

98.10

0.9304PU

62.19

13.51 0.2200

PU89.2897.87

0.9305PU-causal

98.03

0.61 0.0121

PU-causal

90.05

98.27

0.9366
果を表 3 に示す．比較手法としては，論文で述べた

因果関係検出モデルの学習には，ユーザ発話と正PU 学習，PU 学習のラベル伝播時に因果関係知識を例として紐づけられたシステム行動に含まれるイ用いる提案法の他に，単純に Unlabeled なデータをベントのペアを正例 cxi + ，正例として紐づけられていないペアを負例 cxi − とした次式の margin ranking

負例として扱う PN 学習による分類を用いた．評価

loss を用いる．

Reciprocal Rank (MRR) を用いた2）．このとき，PN 学+−()

Loss(cxi , cxi ) = max 0, −(ci + − ci − ) + 0.5 .

(4)ci +, ci − はそれぞれ正例，負例に対してモデルが出力した因果関係スコアであり，式 (4) は ci + − ci − ≥ 0.5のとき 0 となる．
学習済みの因果関係検出モデルを用いて，式 (3)の類似度スコア s˜i j を更新する．具体的には，まずユーザ発話 xi に対して紐づけられていないシステ
ム行動 j のイベントの全てのペアについて因果関係スコア ci j を計算する．ユーザ要求中に複数のイベントが含まれている場合，最も因果関係スコアが高くなるイベントをユーザ要求 xi としてスコアを指標として，Accuracy (Acc.), Recall@5 (R@5), Mean
習や単純にユーザ発話とシステム行動の関係を PU学習で識別する手法 (PU) よりも，因果関係知識を用いた PU 学習手法 (PU-causal) がすべての指標について有意な性能差 (t 検定; 有意水準 0.01) を示した．
実際にラベル伝播法が PU 学習にどの程度効果的に働くかを検証するため，テストデータに対してラベル伝播を実施した場合の性能を表 4 に示す．表 3と表 4 を比較すると，ラベル伝播時の誤伝播がモデルへの影響が大きく，より伝播の適合率が重視されるタスクであることがわかる．また提案する因果関係知識を用いた手法の方がユーザ要求間の類似度ス計算する．次に，全体の因果関係スコアについて式コアのみを用いた場合よりも精度が高いことがわ(2) を用いて −1 ≤ ci j ≤ 1 の範囲にスケーリングした

かる．

上で，式 (5) の通り PU 学習における類似度スコア5の更新に用いる．
sˆi j=max(min(s˜i j + ci j − γ, 1), −1).

おわりに本研究ではユーザの曖昧な要求と対話エージェン(5)

トの気の利いた応答を対応付ける分類モデルの学習

γ は因果関係スコアの影響を調整するためのハイに因果関係知識を用いた．具体的には PU 学習におパーパラメータである．アップデートされた類似度
スコア sˆi j を式 (3) にて用い，分類モデルを学習すけるラベル伝播に用いる特徴量として，ユーザ要求とカテゴリ応答が因果関係として結びつくかを判定る．本研究ではこの手法を PU-causal と呼ぶ．

する因果関係スコアを提案した．ユーザ要求の分類

4

実験

実験の結果，提案する特徴が PU 学習におけるラベル伝播の適合率を高め，その結果分類器の精度を向ARTA コーパスで定義されている通り，曖昧なユーザ発話を入力として対応しうる気の利いたシス上できることがわかった．

テム行動のカテゴリを出力するモデルを評価した結2） 実験設定及び評価指標の詳細は付録を参照．

謝辞

[10]

本研究に利用した因果関係グラフを提供して頂いた京都大学黒橋研究室の黒橋禎夫教授，植田暢大さん，清丸寛一さんに感謝いたします．

参考文献[1] Steve Young, Milica Gašić, Simon Keizer, François
Mairesse, Jost Schatzmann, Blaise Thomson, and Kai
Yu. The hidden information state model: A practicalframework for pomdp-based spoken dialogue management. Computer Speech & Language, Vol. 24, No. 2,pp. 150–174, 2010.
[2] Koichiro Yoshino, Yu Suzuki, and Satoshi Nakamura. Information navigation system with discovering user interests. In Proceedings of the 18th Annual SIGdial Meetingon Discourse and Dialogue, pp. 356–359, Saarbrücken,
Germany, August 2017. Association for ComputationalLinguistics.
[3] Shohei Tanaka, Koichiro Yoshino, Katsuhito Sudoh, andSatoshi Nakamura. ARTA: Collection and classification ofambiguous requests and thoughtful actions. In Proceedings of the 22nd Annual Meeting of the Special Interest
Group on Discourse and Dialogue, pp. 77–88, Singaporeand Online, July 2021. Association for Computational Linguistics.
[4] Tsung-Yi Lin, Michael Maire, Serge Belongie, JamesHays, Pietro Perona, Deva Ramanan, Piotr Dollár, andC. Lawrence Zitnick. Microsoft coco: Common objectsin context. In David Fleet, Tomas Pajdla, Bernt Schiele,and Tinne Tuytelaars, editors, Computer Vision – ECCV2014, pp. 740–755, Cham, 2014. Springer InternationalPublishing.
[5] Charles Elkan and Keith Noto. Learning classifiers fromonly positive and unlabeled data. In Proceedings of the14th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, KDD ’08, p. 213–220,
New York, NY, USA, 2008. Association for Computing
Machinery.
[6] Hakan Cevikalp, Burak Benligiray, and Omer NezihGerek. Semi-supervised robust deep neural networks for
multi-label image classification. Pattern Recognition, Vol.
100, p. 107164, 2020.
[7] Denny Zhou, Jiayuan Huang, and Bernhard Schölkopf.
Learning from labeled and unlabeled data on a directedgraph. In ICML ’05 Proceedings of the 22nd international
conference on Machine learning, p. 1036. ACM Press,August 2005.
[8] Hakan Cevikalp, Jakob Verbeek, Frédéric Jurie, andAlexander Klaser. Semi-supervised dimensionality reduction using pairwise equivalence constraints. 3rd International Conference on Computer Vision Theory and Applications (VISAPP 08), pp. 489–496, 2008.
[9] 清丸寛一, 植田暢大, 児玉貴志, 田中佑, 岸本裕大, 田中リベカ, 河原大輔, 黒橋禎夫. 因果関係グラフ: 構
造的言語処理に基づくイベントの原因・結果・解決策の集約. 言語処理学会 第 26 回年次大会 発表論文

[11]

[12]

集 (ANLP), pp. 1125–1128, 2020.
Adam Paszke, Sam Gross, Francisco Massa, Adam Lerer,
James Bradbury, Gregory Chanan, Trevor Killeen, ZemingLin, Natalia Gimelshein, Luca Antiga, Alban Desmaison,
Andreas Kopf, Edward Yang, Zachary DeVito, Martin Raison, Alykhan Tejani, Sasank Chilamkurthy, Benoit Steiner,Lu Fang, Junjie Bai, and Soumith Chintala. PyTorch:
An Imperative Style, High-Performance Deep Learning
Library. In H. Wallach, H. Larochelle, A. Beygelzimer,
F. d'Alché-Buc, E. Fox, and R. Garnett, editors, Advancesin Neural Information Processing Systems 32, pp. 8024–8035. Curran Associates, Inc., 2019.
Tomohide Shibata, Daisuke Kawahara, and Kurohashi
Sadao. Kurohashi Lab. BERT (http://nlp.ist.i.kyotou.ac.jp/?ku_bert_japanese). 2019.
Diederik P. Kingma and Jimmy Ba. Adam: A Method for
Stochastic Optimization. In Proceedings of the 3rd International Conference on Learning Representations (ICLR),
2015.

付録

評価指標
R@5 は分類モデルが出力した正解カテゴリの順

式 (3) の詳細位が上位 5 位以内に含まれている割合である．MRRUtr ain は学習データに含まれるユーザ発話の集合(0 < M RR ≤ 1) は次式の通り算出される．

であり，Cx+i , Cx−i はそれぞれユーザ発話 xi に対応付けられた正例応答カテゴリの集合，対応付けのない応答カテゴリの集合である．r j は正例カテゴリ j に対してモデルが予測した順位であり，L(r j ) は次式を満たす重み関数である．
L(r j ) =rj
∑
1
k=1k

M RR=1|U∑t est ||Utest |i1.
rxi(8)

ここで rxi はユーザ発話 xi に対応する正解カテゴリについて分類モデルが出力した順位を意味し，Utest
はテストデータに含まれるユーザ発話の集合であ.

(6)

る．全ての指標について，数値が大きいほど分類モデルの性能が高いことを意味する．各モデルの性能

式 (6) はモデルが予測した順位が一位から遠いほどはそれぞれ 100 回の試行の平均より算出した．なお大きな値をとる．w j はカテゴリ j に対応する重み

テストデータに対しては正解となる応答カテゴリがベクトル，xi はユーザ発話 xi に対応する分散表現で網羅的に付与されており，それぞれマルチラベルのある．Rs (t) は次式で表せられる Ramp loss である．

スコアについて計算を行っている．

Rs (t) =min(1 − m, max(0, 1 − t)).

(7)m は分類境界を決定するハイパーパラメータである．yi j はユーザ発話 xi に対してカテゴリ j が正例である場合 1, 負例である場合 −1 となる．κ は第二項の重みを表すハイパーパラメータである．

実験設定
モデルの実装には PyTorch [10] を用いた．BERTモデルとして，Wikipedia 記事を対象に事前学習を行った BERT モデル [11] を用いた．
パラメータの最適化には Adam [12] を使用し，学習率は 1e−5 とした．式 (7) の m, 式 (3) の κ について，Cevikalp ら [6] の実装と同様に m = −0.8, κ = 5 とした．本研究では，BERT が出力した分散表現をラベル伝播に必要な分散表現 xi として用いる．因果関係検出モデルの学習データ, 検証データ，テストデータには ARTA コーパス [3] の学習データを分割したものを用いた．また因果関係グラフによって抽出されたユーザ要求中に含まれる因果関係も学習に用いた．学習した因果関係検出モデルの精度は91.70 であった．式 (5) の γ は 1.0 とした．実験に用いる各モデルのパラメータは，検証データにおける損失関数の値が最小のものを使用した．