80

人工知能学会論文誌 29 巻 1 号 SP1-I（2014 年）

特集論文 「知的対話システム」

対話システムにおける用語間の関係性を用いた話
題誘導応答文生成
Answer Sentence Generation Using Relationships between Terms for Guiding
Users to New Topics in Dialog Systems
山内 祐輝 ∗1
Yamauchi Yuki

奈良先端科学技術大学院大学
Nara Institute of Science and Technology

yamauchi.yuki01@is.naist.jp

Graham Neubig（同Graham Neubig

上）neubig@is.naist.jp, http://www.phontron.com/research.php?lang=ja

Sakriani
Sakti （同
Sakriani Sakti

上）

戸田 智基

（同

上）

中村 哲

（同

ssakti@is.naist.jp, http://isw3.naist.jp/˜ssakti/index.html

Toda Tomoki

Nakamura Satoshi

tomoki@is.naist.jp, http://isw3.naist.jp/˜tomoki/index j.html

上）s-nakamura@is.naist.jp, http://ahclab.naist.jp/Prof.Nakamura/index j.html

keywords: dialog system, guide topic, relationships between terms, answer sentence generation, MDP
Summary
Answer sentence generation is one of the important building blocks to achieve natural and smooth dialog in
dialog systems. In conventional answer sentence generation, the system usually responds according to the user’s topic
or the information required by the user. However, having a dialog using only this information is not necessarily ideal.
For example, in a persuasive dialog system that guides the user to the systems goal, only having a dialog according
to the user’s topic of interest may not achieve the systems goal. In this situation, it is important to be able to generateanswers that guide users to topics related to the system goal. To achieve natural transitions from the current topic to
the target topic, it is necessary to lead the conversation through related new topics that connect the current topic andthe target topics. In this paper, we propose answer sentence generation methods for guiding users to new topics withanswer templates. To effectively extract term pairs that apply to the handmade template from a term database, wetake advantage of information from a concept dictionary and Web search. In addition, on the assumption that the user
does not know the target topic, we prepare an explanation of each topic by hand. We build a dialog system that guides
to the goal topic of the system from the input topic, as a method to evaluate if a dialog system using the proposed
method can guide to the goal topic. We evaluate single answer sentences and the usage of the proposed method in a
dialog system. The experimental results show the efficacy of the generated sentences.

1. は じ め に

ユーザ側の話題やユーザが求める情報に合わせた応答文の生成を対象とした研究が盛んに行われているが，より対話システムは，主に，言語理解，対話制御，応答文生成という要素技術を組み合わせることで構築されるため，システムの性能を改善する上で，個々の要素技術の性能を改善することは重要である．本論文で着目する応答文生成は，基本的に，対話制御から与えられる指令に基づいて適切な応答を生成する技術である．汎用性の高い手法の実現を目指し，これまでに，テンプレートに基づく手法 [河原 2006]，部分的に機械学習を用いる手法[Stent 2004, Mairesse 2005]，統計モデルを用いる手法[Mairesse 2010, Oh 2000] などが提案されている．主に，†1 現在は，KDDI 株式会社に勤務．

複雑な対話を取り扱うためには，さらなる技術の拡張が必要となる．
人の対話は多種多様であり，様々な種類の対話を対象とした対話システムの構築が研究されている．例えば，明確な目標がない対話を取り扱うシステムとして，カウンセ
ラーを模倣したチャットボット型の対話システム [Weizen-baum 1966] や，一問一答型で雑談を行う質問応答対話シ
ステム [西村 2004] が挙げられる．ユーザが明確な目標を持ち，システムとの対話を通して自身が持つ目標を達成する対話を取り扱うものの例としては，航空情報シス
テム [Ward 1990] が挙げられる．また，ユーザとシステ

81

対話システムにおける用語間の関係性を用いた話題誘導応答文生成

ムが相談しながら目標を決定する対話を行うものもあり，

提案法により生成される複数の話題誘導応答文候補からその一例として，観光案内システム [Misu 2011] が挙げ適切なものを選択するために，マルコフ決定過程に基づられる．このシステムでは，明確な目標を持たないユーザ

くモデル化を導入し，強化学習による最適化を行う．話

の潜在的な嗜好を推定しながら対話を行うことで，ユー

題誘導応答文単体における評価と，話題誘導対話システ

ザが満足する目標を決定する．さらには，システム側がムによる最終的な話題誘導効果に対する評価を行い，そ明確な目標を持つ対話を行うシステムも研究されており，の有効性を示す．

例として，説得対話システム [平岡 2012] が挙げられる．
このシステムでは，システム自身が特定の目標を持ち，

2. 話題誘導のための応答文生成法

ユーザがその目標に対して興味を示すように対話を行い，最終的にシステム側が意図した行動をユーザに取らせる

本論文では，話題誘導応答文生成を必要とする対話シことを目的とする．そのため，この種の対話においては，ステムとして，特定の研究室への勧誘を目的とした説得

必ずしもユーザ側の話題に合わせて対話を進めることが対話システム [平岡 2012] や，特定の研究分野の話題へと目的とはならない．

誘導する雑談対話システムに着目する．システムは，個々

説得対話システムのように，システム側が明確な目標の研究室が取り扱う研究分野に関する用語∗1 が記述されを持つ対話においては，ユーザ側の話題や求める情報にたデータベース（用語データベース）を持ち，個々の用合わせて応答文を生成する以上の機能が必要となる．例

語に関連した応答を行うことができる．ここで，個々のえば，ユーザ側の話題が目標とする話題と異なる場合，用語を一つの話題とみなし，これらの用語間での誘導を

ユーザ側の話題に合わせて対話を進めるだけでは，シス

話題誘導の対象とする．

テム側の目標とする話題が話されず，目標達成が困難となる可能性がある．このような対話においては，システ
ム側が想定する話題へと自ら誘導する応答文生成が必要となる．別の対話例として，明確な目標を持たない雑談
対話においても，話題を誘導する応答文生成を行うこと
で，自然な対話の流れで特定の話題をシステムから提示

話題誘導の際に求められる条件として，以下の 2 つが考えられる．

• ユーザに違和感を感じさせない自然な話題誘導を実現すること．

• 効率的な話題誘導を行うために多くの話題間の遷移に対応すること．

するという機能を持たせる事ができる．また，雑談を通これを実現するために，テンプレートに基づく話題誘導

してシステムの知識が乏しい話題へと対話が進み，結果応答文生成法を提案する．話題に関する用語間の関係性として適切な応答が困難となる場合も想定されるが，話に対応する応答テンプレートを用意し，テンプレートの題を誘導することで，そのような問題を緩和できる可能

変数スロットの値に誘導元および誘導先の話題に関する性がある．なお，対話システムを実現するためには，応

適切な用語を埋めることで，話題誘導応答文を生成する．

答文生成のみでなく，ユーザの発話した内容を理解し必

この際に，自然な話題誘導を実現できる用語ペアを取得

要な情報を抽出する言語理解も必要となるが，本論文でする必要がある．また，話題誘導を行う上で，必ずしもは，主に応答文生成に着目し，言語理解については取りユーザが誘導先の話題に関する用語についての知識があ扱わない．

るとは限らないという問題がある．そのため，個々の用

本論文では，現在の話題からシステムが意図する別の語に対する説明文を予め用意することで，話題誘導の際話題へと誘導する応答文（話題誘導応答文）の生成に取に，誘導先の話題に関する用語についての説明を行う機

り組む．比較的簡易な応答文生成手法であるテンプレー

能も付け加える．

ト方式 [河原 2006] において，現在の話題と誘導先の話
題の関係性を示すテンプレートを用意し，現在の話題と誘導先の話題を表す用語を入力することで，話題誘導応

2·1 テンプレートに対する用語ペア取得に基づく話題
誘導応答文生成

答文を生成する．その際に，ユーザにとって自然でかつ現在の話題に関する用語と誘導する話題に関する用語

効率的な話題誘導を実現するためには，現在の話題からの関係性を用いて，テンプレートにより応答文を生成す

自然に誘導可能な話題の選定と，幅広い話題間の誘導をる．用語データベースの中から，応答文テンプレートに可能とするテンプレートおよび用語の設計が必要となる．

対して埋め込み対象となる適切な用語ペアを効率的に抽そこで，現在の話題と誘導先の話題との関係性を考慮し出する方法として，人手により適切な用語ペアを抽出すて，テンプレートの設計および入力可能な用語の決定をる概念辞書に基づく手法と，Web 検索を用いて自動的に行う手法を提案する．また，実際の対話において，提案法

用語ペアを抽出する手法を提案する．概念辞書に基づくによる話題誘導の効果を調査するために，話題誘導に特手法は，高い精度が期待される一方で，辞書の構築コス化した対話システムとして，単純な雑談を通してユーザトが大きいため，埋め込み対象となる用語ペア数は限らが入力した話題からシステムが目標とする話題へと誘導∗1 具体的には，奈良先端科学技術大学院大学情報科学研究科に関係のある用語を用いる．

する対話システム（話題誘導対話システム）を構築する．

82

人工知能学会論文誌 29 巻 1 号 SP1-I（2014 年）

つ場合の応答文テンプレートの例として「Current はHypernym の研究の一つですよね．Hypernym の研
究には Target の研究もあります．
」を作成する．
§ 2 Web 検索を用いる手法
用語間の関係性を利用して Web 検索により取得した情報に基づき，応答文テンプレートに対して埋め込み対象となる用語ペアを取得する手法を提案する．提案手法の手順を以下に示す．

(1) 話題誘導応答文に利用可能な関係性を想定した応答文テンプレートを作成
図 1 概念辞書の構造例

れる．一方で，Web 検索に基づく手法は，多くの用語ペ
ア数を自動的に獲得できるという利点があるが，概念辞例． 応答文テンプレート：「Current は Target の研究に使われています．
」(2) 応答文テンプレートを基に検索テンプレートを作成
例．検索テンプレート：「Current を用いた Target」(3) 検索結果を基に応答文テンプレートに当てはまる書に基づく手法と比べて精度は劣化する．これら 2 つの関係のある用語ペアを抽出

手法は併用可能であり，概念辞書に記述されている用語（ヒット件数が 0 の場合は関係がないと判断）

ペアについては概念辞書に基づく手法を用い，それ以外

用語ペアを取得する際の尺度として，ページのヒット件の用語ペアについては Web 検索に基づく手法を用いるこ

数と用語間の相互情報量を用いる．ヒット件数が多いほとで，比較的高い精度を保ちながら出来る限り多くの用

ど用語間の関係性が強いと判断し，相互情報量が大きい

語ペアに対応することができる．ここで，用語間の関係

ほど関係性が強いと判断する．なお，用語 x と用語 y の性とは，概念辞書に基づく手法においては，用語間の上

相互情報量 I(x, y) は次式にて計算する．

位／下位関係により記述されるものとし，Web 検索を用いる手法においては，Web 上の文章で共起する用語ペア

I(x, y) =のヒット件数や相互情報量に基づいて算出されるものとする．

§ 1 概念辞書に基づく手法
概念辞書とは，概念と概念の間の関係を記述した辞書

P (x, y)N ∗ C(x, y)=
P (x) ∗ P (y) C(x) ∗ C(y)(1)

ここで，P (x, y)，P (x)，P (y) は各々検索テンプレート，
用語 x，用語 y がヒットする確率であり，N は検索サイ
トの総ページ数，C(x, y) ，C(x)，C(y) は各々のヒットである．その例としては，英語の概念辞書である Word-件数である．

Net[Miller 1990] や日本語に対応した日本語 WordNet[Bond 2009] がある．本研究では，対話システムのタスク

2·2 説明文を加えた話題誘導応答文生成に特化した概念辞書を人手で作成する．辞書の内容としシステムが現在の話題から意図した話題へ誘導する応て，用語データベース中の個々の用語を概念とし，概念答をする際に，誘導先の用語に関するユーザの知識が乏間の上位／下位関係を記述する．辞書の構造例を図 1 にしい場合には，現在の話題と誘導先の話題との関係性が示す．最上位概念に研究科名である「情報科学」が記述理解できずに，システムの応答が不自然であると判断すされており，その下位概念には領域名（Area），研究室名る可能性がある．これに対して，用語に関する説明を追（Laboratory），研究テーマ（Research Topic）に関する加することにより，ユーザが現在の話題と誘導先の話題

用語が記述されている．また，専門性の高い共通の単語との関係性を理解するための手助けを行うことで，よりが含まれる複合名詞に対して，その共通の単語（Shared

自然な話題誘導が可能となると期待される．そこで，2·1

words）を上位概念に追記する．

節で述べた手法により生成された誘導文に対して，新た概念間の関係を基に応答文テンプレートを作成し，現在に説明文を追加する手法を提案する．概念辞書内の各用の話題と誘導する話題に関する用語を入れることで応答

語に対する説明文を人手で作成しておき，誘導文の後に文を生成する．例えば，上位語から下位語へ誘導する応答

誘導先の話題に対する用語についての説明文を付け加え

文テンプレートとして「Current の研究には Target

た応答文を生成する．

の研究もあります．
」を作成する．また，概念辞書の構造

なお，先行研究として，Web データから用語の説明文

上で共通の祖先／子孫（上位／下位のどちらか一方を辿っを自動生成する手法 [藤井 2004] が提案されており，そて繋がりがある用語）となる Hypernym/Hyponym

の有効性が示されている．本論文では，今後、説明文のを持つ話題間のテンプレートも作成する．例えば，図 1

自動生成への拡張を視野に入れて，Web データから用語において，「知能コミュニケーション」は，「対話システの説明文と判断した 1 文を人手で抽出し，口語表現へと

ム」と「音声翻訳」の共通の祖先となる．共通の祖先を持書き換えることで，説明文を作成する．

83

対話システムにおける用語間の関係性を用いた話題誘導応答文生成

3. 話題誘導対話システム

3·2 誘 導 経 路 学 習
対話開始時に入力された話題からシステムが目標とす

実際の対話において，提案手法による話題誘導応答文を用いてどの程度システムが目標とする話題へ誘導できるかを調査するために，話題誘導対話システムを構築する．

る話題へと誘導する上で，通常，複数の誘導経路が存在する．ユーザにとって話の展開が自然であり，かつ，効率
よくシステムが目標とする話題へと誘導できる経路を決定する必要がある．この問題に対して，本論文では，マルコフ決定過程 [Levin 2000] によるモデル化と，強化学

3·1 話題誘導対話システムの概要
話題誘導対話システムとは，システム側が目標とする

習による最適化を適用する．

§ 1 マルコフ決定過程における強化学習を用いた誘導経路学習

話題を持って対話を進め，最終的に目標とする話題へ話システムが認識可能な話題を状態 s ∈ S とし，他の話を誘導するシステムである．情報科学研究についての雑題への誘導を行動 a ∈ A とする．ここで，行動 A の要素

談を通して，システムが目標とする研究分野の話題へ誘導する対話を対象とする．基本的な対話の流れとしては，

数 |A| は，誘導先の状態数であり，現在の状態を除いた|S| − 1 となる．状態 s において行動 a をとり，状態 sまず，ユーザが話したい話題を入力することで対話を開に遷移する確率は，ユーザが話題誘導に対して同意する

始する．システムがその話題に関係のある話題へ誘導し確率とし，ユーザモデルとして与える．同意が高確率でながら対話を進め，システムが目標とする話題へ誘導で得られ，かつ効率的に誘導が行われるように報酬を設定

きたら対話が終了する．

し，強化学習を行うことで，最適な方策（すなわち誘導システムの応答は以下の３種類に分類される．

経路）を決定する．強化学習法として，代表的な手法で• 現在の話題と関係のある話題への誘導• 誘導先の用語についての説明• 現在の用語と誘導先の用語の関係の説明

Q 学習では，全ての状態 S と行動 a の組み合わせに対して行動価値関数（Q 値）を設け，以下の式に従って更1 つ目の応答は，2 章で述べた話題誘導応答文生成法を利用する．2 つ目の応答は，辞書に登録されている各用語を説明する応答文を人手で用意したものを用いる．3 つ目の応答は，関係性を取得する際の情報源となる Web ペー
ジを表示することで応答する．対話開始時はユーザが入力した話題を現在の話題とし，それ以降は，生成された話題誘導応答文に対してユーザが同意した場合に，誘導
先の話題 Target を現在の話題とする．また，一度誘導を試みた用語間の誘導は行わない．
システムが認識できるユーザの行為を以下に示す．

• 話題誘導に対しての同意（「はい」，「そうですね」等を想定）• 話題誘導に対しての否定（「いいえ」，「関係ないと思います」等を想定）• 誘導先の用語についての質問• 現在の用語と誘導先の用語の関係についての質問• 一つ前の話題へ戻る• 対話の終了（話題の打ち切り）
ユーザからの話題の展開は考えないこととし，システムからの誘導に対して，ユーザは「同意」または「否定」を繰り返すことで対話を進める．対話中に，ユーザの知識が乏しい用語が含まれる可能性があるため，用語に対する質問や用語間の関係性に対する質問も，ユーザの行為として認める．また，システムが話題を誘導しながら対話を進めるため，話の流れがおかしくなる可能性がある．
その際の対処として，ユーザには，一つ前の話題へ戻る
行為や，対話を途中で終了する行為を許可する．

ある Q 学習 [Watkins 1992] を用いる∗2 ．

新する．

Q(st , at ) ← (1 − α)Q(st , at )+α(rt + γ max Q(st+1 , a))
a∈A

(2)

ここで，Q(st , at ) は時刻 t，状態 st において行動 at を選ぶ場合の Q 値を表し，rt は状態 st で行動 at をとった際に得られる報酬，α と γ は学習率と割引率と呼ばれるパラメータ（0 < α < 1，0 < γ < 1）である．学習アル
ゴリズムを以下に示す．

(1) 全ての Q(s, a) の値を 0 で初期化し，カウンタ C1
を 0 に設定(2) 全状態の中からランダムで状態 s0（t = 0）を選択
し，カウンタ C2 を 0 に設定(3) 状態 st において取り得る行動 at の中から -greedy
法により行動 at を選択(4) ユーザモデルを基に状態 st+1 に遷移し，Q(st , at )の更新を実施（状態 st+1 が目標状態の場合，状態 s0へ遷移し，C2 を 1 つ増加）
(5) C2 が一定回数以下の場合は 3 へ戻り，一定回数を超えたら 2 へ戻り C1 を 1 つ増加(6) C1 が一定回数超えたら，終了
ここで，-greedy 法とは，確率 1 −  で状態 s において行動価値関数 Q(s, a) が最大となる行動 a を選択し，確率  で Q(s, a) によらずランダムで行動 a を選択する手∗2 本論文で取り扱う話題誘導対話システムの設定においては，状態間の遷移確率および報酬が既知であるため，Q 学習ではな
く他の強化学習法を使用することが可能であるが，今後，状態間の遷移確率が未知の場合へと拡張することも視野に入れ，Q学習を用いる．

84

人工知能学会論文誌 29 巻 1 号 SP1-I（2014 年）法である．システムの目標状態は予め設定して学習を行う．学習後，各状態 s に対して Q(s, a) が最大となる行
動 a を選択することで誘導経路を決定する．

4·1 実験 1：テンプレートに対する用語ペア取得に基づ
く話題誘導応答文生成法の評価§ 1 実験条件§ 2 学習に用いるユーザモデル

実験条件を表 1 に示す．特定の研究室への勧誘を目

ユーザモデルは，システムが状態 s において行動 a を的とした説得対話システム [平岡 2012] における利用を選択して応答する場合に想定されるユーザの同意確率

想定し，概念辞書を作成する．概念辞書に登録する用語

P (u = yes|s, a) をモデル化する．本論文では，後に示す
4·1 節で得られる話題誘導応答文の自然性に基づき，自は，奈良先端科学技術大学院大学情報科学研究科のホー然性が最大値の際にユーザは必ず同意し，最小値の際にり，辞書の作成に要した時間は約 8 時間である．応答テ

ユーザは必ず否定すると仮定して，ユーザモデルを初期化

ンプレートとして，上位語から下位語，下位語から上位する．ユーザの同意確率の初期値の計算式を以下に示す．

語，上位に共通の祖先を持つ話題，下位に共通の子孫をムページ∗3 を参考にして決定する．用語数は 148 個であ持つ話題への話題誘導応答文の 4 種類を用いる．また，Ds,a − Dmin
Dmax − Dmin

P0 (u = yes|s, a) は自然性を基に計算したユーザの同意確

Web 検索を用いる手法で利用する検索テンプレートは，(a)「Current を用いた Target」，(b)「Current 技術 Target」，(c)「Current 分野 Target」，(d)「CurrentTarget」の 4 種類である．4 種類の内，率の初期値，Ds,a は状態 s で行動 a で用いる手法の自然

ヒット件数または相互情報量が最も大きい関係を用いて性の平均，Dmax ，Dmin はそれぞれ自然性の最大値と応答文を生成する．ただし，ヒット件数を尺度とする際，初期ユーザモデルに基づき最適化された誘導経路を用(a)，(b)，(c) の 3 種類を用いて検索し，3 種類ともヒットしなかった場合のみ (d) を用いる．
概念辞書に基づく手法 3 種類，Web 検索を用いる手法
6 種類，用語間の関係性を用いない手法 1 種類の，計 10

P0 (u = yes|s, a) =(3)

最小値である（Dmax = 3，Dmin = 1）．

いて話題誘導システムを構築し，システム使用により得られる実際のユーザデータに基づいて，誘導経路を最適化する．P0 (u = yes|s, a) を基底分布とするディレクレ分
布 [MacKay, 1995] を事前分布とすることで，得られたユーザデータ N を用いてユーザモデルを以下の式に基づいて更新する．

P (u = yes|s, a, N ) =Ns,a,yes + h ∗ P0 (u = yes|s, a)
Ns,a + h(4)

ここで，P (u = yes|s, a, N ) は，更新後のユーザモデル
において状態 s で行動 a が選択された際にユーザが同意する確率を表す．また，Ns,a 及び Ns,a,yes は，得られたユーザデータ内で状態 s で行動 a が選択された回数と，その際にユーザが同意した回数を表す．h はハイパーパ
ラメータである．更新されたユーザモデルを用いて，Q種類の手法を評価する．各手法を以下に示す．

• 概念辞書に基づく手法◦ 辞書で直接の上位／下位関係にある用語ペア（Dic1）◦ 辞書の構造上で祖先／子孫関係の用語ペア（Dic2）◦ 共通の祖先／子孫を持つ用語ペア（Dic3）• Web 検索を用いる手法◦ ヒット件数を選択尺度に用いる場合
上位 10%（Hit1），10-50%（Hit2），50-100%（Hit3）
ただし，Hit1 ≤ 10% < Hit2 ≤ 50% < Hit3
◦ 相互情報量を選択尺度に用いる場合
上位 10%（MI1），10-50%（MI2），50-100%（MI3）
ただし，Hit1 ≤ 10% < Hit2 ≤ 50% < Hit3
• 用語間の関係性を用いない手法◦ 関係性を考慮しないテンプレートに用語ペアを入れて応答文生成（ALL）

学習を行うことで実際のユーザデータを考慮した誘導経

概念辞書に基づく手法において，用語間の距離（用語間路の最適化を行う．

を結ぶ経路上にあるエッジ数）は，Dic1 の場合は 1 であり，Dic2 及び Dic3 の場合は 2 以上となる．Web 検索を用いる手法において，Web 検索の頻度計算には，取り扱

4. 実 験 的 評 価

う用語が情報科学に関する専門用語であり，情報科学研
究という範囲においての用語間の関係性を抽出すること

2 章及び 3 章で述べた提案手法の有効性を実験的に評を目的とすることから，日本語論文の検索を専門とする

価する．4·1 節と 4·2 節では，テンプレートに対する用

日本語論文検索サイト CiNii∗4 の検索結果を使用する．そ

語ペア取得に基づく話題誘導応答文生成法と説明文を加の際の，検索サイトの総ページ数（式 (1) における N にえた話題誘導応答文生成法の有効性を調査するため，生相当）は約 1500 万である．

成される応答文単体に対する評価を行う．4·3 節では，実際の対話において提案手法による話題誘導の有効性を調査するため，話題誘導対話システムを用いた評価を行う．

現在の話題からユーザに違和感を感じさせない別の話∗3 http://isw3.naist.jp/Contents/Research-ja/Lablist-ja.html∗4 CiNii, http://ci.nii.ac.jp

85

対話システムにおける用語間の関係性を用いた話題誘導応答文生成
表 3 各手法によって生成された話題誘導応答文の例

Dic1： 音声合成は、音情報処理学の研究です．
音情報処理学の研究は興味ありますか．

Dic2： 音声認識は、情報科学の研究の 1 つです．
情報科学の研究は興味ありますか．

Dic3： 音声翻訳は情報科学の研究の 1 つですよね．情報科学の研究にはセキュリティの研究もあります．
セキュリティの研究は興味ありますか．

Hit1(Top 1)： アルゴリズムは、ネットワークの研究に使われています．
ネットワークの研究は興味ありますか．

MI1(Top 1)： ヒューマンコンピュータインタラクション分野の研究には、ジェスチャーの研究もあります．
ジェスチャーの研究は興味ありますか．

ALL： 自然言語処理とネットワークの研究は関係のある研究です．

表 1 実験 1 における実験条件

Evaluation data
Human evaluators
Subject
Search site

3400 (sentences)(20 sentences × 10 methods
for each person)
17
Words regarding the Graduate Schoolof Information Science at NAISTCiNii（A search site for Japanese papers）

Mean opinion score on naturalness

ネットワークの研究は興味ありますか．

3
All data
Known data
Unknown data

95% confidence interval

2

1

Dic1 Dic2 Dic3 Hit1 Hit2 Hit3 MI1 MI2 MI3 ALL

Method

表 2 各手法のカバー率 [%]MethodCoverage

MethodCoverage

Dic1
Dic1+2
Dic1+2+3
ALL

1.8
4.6
92.5
100

Hit/MI1
Hit/MI1+2
Hit/MI1+2+3

4.0
20.2
40.3

図 2 各手法における話題誘導応答文の自然性に関する主観評価
結果§ 2 実験結果
各手法の用語ペアのカバー率を表 2 に示す．概念辞書を用いる手法全体でのカバー率は 92.5%であり，Web 検索を用いる手法全体でのカバー率は 40.3%，関係性を用

題への誘導を実現できるかを調査するため，各手法によいない手法でのカバー率は 100%である．概念辞書のカり生成された話題誘導応答文の自然性に関する主観評価

バー率が 100%でないのは，追加した共通の単語に上位を行う．被験者は生成される応答文を読んで，話題誘導

概念がなく，応答文を生成できない用語ペアが存在する応答文としての自然性を 3 段階（1．不自然，2．どちらためである．

とも言えない，3．自然）で評価する．この時，被験者各手法における主観評価結果を図 2 に示す．また，各は，話題誘導応答文が適切な文脈で発話されたと仮定し手法で生成された応答文の例を表 3 に示す．図 2 より，て，現在の話題から誘導先への話題へと誘導する行為が概念辞書に記述のある用語ペアを用いた Dic1 の自然性が自然か否か（すなわち，話題間の関係性の自然性）に主最も高く，関係を用いない ALL の自然性が最も低いこと眼を置いて評価する．評価の際には，個々の被験者の生が確認できる．また，自然性の高い手法においても，評成された応答文に含まれる用語に関する知識（A．知っ価者が応答文に含まれる用語に関する知識を持たない場ている，B．知らない）についても調査する．各手法で合，自然性は低下する．これは，知識がない際には生成取得される用語ペアを用いて生成される応答文の中から，される応答文の自然性を判断することが困難であり，自無作為に 20 文ずつサンプリングし，計 200 文を評価す

然性の評価を「2. どちらでもない」と評価する傾向がある．評価者は大学院生であり，合計 17 名である．また，るためである．

多くの話題間に対応した効率的な話題誘導に関する評価

概念辞書を用いる手法に関しては，Dic1 の自然性がとして，辞書内の用語ペアに対するカバー率（全用語ペ

最も高く，Dic3 の自然性が最も低いことが確認できる．

アの内，各手法により話題誘導応答文を生成できる用語

Dic2 の自然性が Dic1 より低くなる原因としては，表 3

ペアの割合）を計算する．

の実例で確認できる通り，用語間の距離が離れることに

86

Mean opinion score on naturalness

人工知能学会論文誌 29 巻 1 号 SP1-I（2014 年）

3

表 4 実験 2 における実験条件
95% confidence interval

Evaluation data
Human evaluators
Subject

2

Search site
1

1

2

3

4

5

1700 (sentences)(50 sentences × 2 methods
for each person)
17
Words regarding the Graduate Schoolof Information Science at NAISTCiNii（A search site for Japanese papers）

6

図 3 概念辞書内における用語間の距離と自然性の関係

より，用語間の関係性が弱くなり，適切な誘導が困難となるためである．Dic3 では，用語間の直接的な関係性が伝わらず，さらに自然性が低くなる傾向がある．概念辞
書における用語間の距離が自然性に与える影響をより詳細に調査するために，手法 Dic1，Dic2，Dic3 に対するMean opinion score on naturalness

Distance3
Without explanation
With explanation

95% confidence interval

2

1

All Data

れるにつれて自然性が低くなることが確認できることか

Known Data

Unknown Data

Knowledge

評価を距離単位でまとめた結果を図 3 に示す．距離が離図 4 説明文の有無が自然性に与える影響

ら，概念辞書は適切な話題誘導が可能な用語ペアを効果的に記述できることが分かる．

Web 検索を用いる手法に関しては，ヒット件数と相互情報量共に，上位 10% （Hit1，MI1）の自然性が最も高いことが確認できる．また，Hit2 と MI2 を比較すると，
MI2 の方が自然性が高いと評価されていることが確認できるため，Web 検索での選択尺度として，ヒット件数よりも相互情報量の方が有効であることが分かる．表 3 のTop 1 の結果でも分かるように，ヒット件数を用いた際にと誘導文と説明文による応答文（With explanation）の 2
種類とする．奈良先端大情報科学研究科の各研究室ホームページや Wikipedia∗5 ，IT 用語辞典 e-Words∗6 を参考にして，説明文を作成する．

§ 2 実験結果
説明文の有無に対する評価結果を図 4 に示す．また，生成された説明文ありの応答文の例を表 5 に示す．図 4は，多く利用される用語が上位に位置付けられるが，相より，説明文を追加することで話題誘導における自然性

互情報量を用いた際には，利用回数は少なくても一緒にが改善され，特に，誘導先の話題に関する用語を知らな使われる頻度が高い用語ペアが上位に位置付けられるとい場合に自然性が大きく向上することが分かる．これは，いう傾向がある．

説明文によってユーザは誘導先の話題について理解する

概念辞書を用いた場合と Web 検索を用いる場合を比較すると，Dic2 と Hit1，MI1 が同等の自然性と評価されていることが確認できる．このことから，カバー率も考慮に入れると，辞書で直接の上位／下位関係にある用語ペアに関しては手法 Dic1 を，祖先／子孫関係にある用語ペアに関しては Dic2 を用いて応答文を生成し，関係の記述がない用語ペアに関しては，Web 検索を用いて相互情報量を選択尺度として応答文を生成するのが良いことが分かる．

4·2 実験 2：説明文を加えた話題誘導応答文生成法の評価§ 1 実験条件

ことができ，現在の話題と誘導先の話題の関係性を想像できるようになるためであると考えられる．なお，誘導先の話題に関する用語を知っている場合に関しては，説明文を追加することで，冗長な応答文となる．本実験設定においては，冗長性が増すことによる悪影響が見られなかったものの，実際の対話システムに導入する際には，話題誘導応答文が複数回提示されるため，悪影響を及ぼす可能性がある．そのため，対話制御部において，誘導
先の話題に関する知識を推定する機能を実現し，説明文の有無を制御するのが望ましい．

4·3 実験 3：話題誘導対話システムにおける評価§ 1 実験条件
話題誘導対話システムをユーザに利用してもらい，そ実験 1 と同様に主観評価実験を行う．実験条件を表 4の対話データを分析する．システムは，奈良先端科学技に示す．誘導文の生成には，実験 1 において自然性が高

術大学院大学の情報科学研究科の研究に関する雑談対話

いと評価された手法 Dic1，Dic2，MI1，MI2 を用いる．
評価対象は，誘導文のみの応答文（Without explanation）∗5 Wikipedia, http://ja.wikipedia.org∗6 IT 用語辞典 e-Words, http://e-words.jp

87

対話システムにおける用語間の関係性を用いた話題誘導応答文生成
表 5 説明文ありの応答文の例（現在の話題：音声変換 ⇒ 誘導する話題：対話システム）
音声変換の技術が使われている研究には対話システムの研究があります。
対話システムの研究は、音声を認識するだけでなく，発話の意図を理解・推論して，適切な応答をするシステム
に関する研究です。
音声対話システムの研究に興味はありますか。
（現在の話題：機械学習 ⇒ 誘導する話題：韻律情報）
機械学習の技術が使われている研究には韻律情報の研究があります。
韻律情報の研究は、合成音声の人間らしさを探求し，対話システムにおける音声コミュニケーションの改善を行う研究です。
韻律情報の研究に興味はありますか。

80とする．ユーザにとっては，興味のある研究を中心とし70て，様々な研究に関する情報を，雑談対話を通して得ることが目的となる．人手で作成した概念辞書に登録されている用語 150 語∗7 に関連する話題を対象とし，ユーザはこの中から好きな研究分野を 1 つ選択することで対話

Expected return

を通して，特定の話題（研究分野）へ誘導することを目的

Updated w/ Dialog Data
Initial

60
50
40
30
20

を開始する．システムが誘導目標とする話題は，事前に10設定された 3 用語の中から無作為に 1 用語を選択するこ

0とで決定し，ユーザにとっては未知とする．対話システ

0

200 400 600 800 1000 1200 1400 1600 1800 2000
Steps (x1000)

ムにおける他の要素技術の影響（言語理解誤り等）を無
図 5 Q 学習の過程における利得の期待値

くすため，ユーザは対話行為に対応づけられた番号を入力し，システムは生成された文章を表示することで，応答を行う．

Q 学習におけるパラメータは，学習率 α = 0.1∗8，割

引率 γ = 0.8， = 0.2 に設定する．状態数 |S| は 150，行• 1 対話中の話題誘導に対しての平均同意回数• 1 対話中の話題誘導に対しての平均否定回数• システムが目標とする話題への誘導成功率

動数 |A| は 149 である．報酬は，目標とする話題へ誘導

話題誘導に対して同意するか否かについては，対話を通できた場合は 100，話題誘導に対してユーザが同意した

した話題の履歴を考慮した上で，現在の話題から次の話

場合は-5，否定した場合は-10 に設定する．ユーザモデル

題への誘導が許容できるか否かを主な基準として，個々に関しては，実験 1 の評価結果を用いて，式 (3) に基づの被験者の判断に一任する．また，許容できる話題誘導

き，初期化する．目標とする各話題に対する学習回数は，が提示されず，対話がこれ以上進行しないと判断した際

200 万回とする．

には，被験者は話題を打ち切って対話を終了する．シス

初期値のユーザモデルにより最適化したシステム（Ini-

テムが目標とする話題へと誘導する前に，被験者が話題

tial System）と，Initial System をユーザが利用することを打ち切って対話を終了した際に，誘導失敗とする．

で得られた 204 対話データを基にユーザモデルを更新し§ 2 実験結果と考察（式 (4) において h = 5 に設定），再度最適化したシステ

誘導経路学習の過程における利得の期待値の推移を図ム（Updated System）の 2 つを評価する．被験者は大学
対話数は 66，Updated System に対する被験者数は 7 名5 に示す．Initial は初期値のユーザモデルを利用した結果，Updated w/ DialogData は更新されたユーザモデルを利用した結果である．どちらも、学習回数が 60 万回程度

で総対話数は 57 である．各システムにおいて，以下の項

で利得の期待値が概ね収束することが分かる．なお，学目について評価する．

習率の設定条件から，必ずしも最適値に収束していると院生であり，Initial System に対する被験者数は 8 名で総• 誘導経路学習の過程における利得（割引率を考慮した報酬の総和）の期待値• 1 対話中の平均話題誘導回数∗7 実験 1 および実験 2 で用いた概念辞書に対して，新たに共通の単語（Shared words）を 2 語追加したものを用いる．
∗8 学習率を定数とする設定は，Q 値を最適値へと収束させる条
件 [Watkins 1992] を満たさなくなるが，収束精度を高く保ちな
がら収束時間を早めることができるため，しばしば用いられる[Sutton 1998, Lim 2005]．

は限らないが，一定の精度は保たれるため，各ユーザモ
デルの特性を反映した誘導経路が学習されていると考えられる．
各システムと被験者の対話における誘導成功率は，Initial System では 95%，Updated System では 98% である．
このことから，提案する話題誘導応答文生成法を用いることで，辞書に登録されている話題間に関しては，ユーザの許容範囲内での話題誘導が，高い確率で実現可能で

88

人工知能学会論文誌 29 巻 1 号 SP1-I（2014 年）

10
InitialUpdated w/ Dialog Data

Number of actions

8

95% confidence intervalて，自然性が向上することを確認した．話題誘導対話シ
ステムの評価においては，提案手法を用いることで，辞書内に登録されている話題間に関しては，98%以上の確率で誘導可能であることを示した．

6

今後の課題としては，本論文では限定された用語のみを4取り扱ったため，他のドメインにおける提案手法の有効性の評価や，ドメインの拡張などが挙げられる．また，本論

2

文で提案した手法は多くの手作業を必要とするため，Web
0

Guide

図6

Yes

No

話題誘導対話システムの評価結果あることが分かる．また，平均話題誘導回数（Guide），

情報を利用した用語間の関係性自動取得 [Patrick 2006] などを導入して，話題誘導応答文生成を自動化する手法も検討する必要がある．

♦ 参 考 文 献 ♦平均同意回数（Yes），平均否定回数（No）を図 6 に示す．
ユーザの平均否定回数を見ると，Initial System では 1 対
話中に平均 3.8 回程度ユーザにとって許容し難い話題誘導が行われるが，Updated System では平均で 1.7 回程度にまで減少する．このことから，提案する話題誘導対話システムでは，ユーザモデルを更新することで，ユーザにとってより許容し易い話題誘導が可能となることが分かる．なお，1 対話中のユーザの平均同意回数を見ると，両システムとも平均して 2 回程度であることから，本研究で用いた辞書に登録されている用語間に対しては，平均 2 回の話題誘導でシステムが持つ目標の話題へ誘導できる経路が存在すると言える．

5. ま

と

め

本論文では，システムが特定の目標を持つ対話システ
ムなどで必要となる話題を誘導する応答文生成に着目し，現在の話題から意図した別の話題へ誘導する応答文（話題誘導応答文）の生成法を提案した．テンプレートによる応答文生成法をベースとして，埋め込み対象となる用語ペアを効率的に抽出するために，概念辞書に基づく手法と Web 検索を用いる手法を提案した．また，誘導先の用語に対するユーザの知識が乏しい場合を想定し，話題
誘導応答文に誘導先の用語の説明文を追加する手法についても提案した．さらに，実際の対話において提案手法の有効性を調査するために，話題誘導対話システムを構築し，マルコフ決定過程によるモデル化と強化学習を導入することで，実際の対話データを考慮した話題誘導経路学習を実現した．提案手法の有効性を評価するために，応答文単体に対する話題誘導の自然性に関する評価と，話題誘導対話システムを用いた評価を行った．話題誘導
応答文単体での評価において，概念辞書に基づく手法では，辞書内の距離が近い用語ペアほど自然性の高い話題
誘導応答文が生成され，Web 検索を用いる手法では，相互情報量が大きい用語ペアに対する話題誘導応答文ほど自然性が高くなることを確認した．また，説明文の追加により，ユーザの知識が乏しい用語への話題誘導におい[Bond 2009] Bond, F., Isahara, H., Fujita, S., Uchimoto, K., Kuribayashi, T., and Kanzaki, K., “Enhancing the Japanese WordNet,”
Proc. 7th Workshop on Asian Language Resources, pp. 1–8, 2009.
[藤井 2004] 藤井 敦, 渡邉 まり子, 石川 徹也, “複数 Web ページの要約による用語説明の自動生成,” 情報処理学会研究報告, Vol.
2004-NL-159, pp. 31–38, 2004.
[平岡 2012] 平岡 拓也, Graham Neubig, Sakriani Sakti, 戸田 智基,
中村 哲, “説得対話システムにおける話題誘導に基づく対話制御,”
情報処理学会研究報告, Vol. 2012-SLP-94, No. 4, pp. 1–6, 2012.
[河原 2006] 河原 達也, 荒木雅弘, “音声対話システム,” オーム社,
2006.
[Levin 2000] Levin, E., Pieraccini, R., and Eckert, W., “A stochastic
model of human-machine interaction for learning dialog strategies,”
IEEE Trans. on Speech and Audio Processing, Vol. 8, No. 1, pp. 11–
23, 2000.
[Lim 2005] Lim, S.H., DeJong, G., “Towards finite-sample convergence of direct reinforcement learning,” Machine Learning: ECML
2005, Vol.3720, pp. 230–241, 2005.
[MacKay, 1995] MacKay, D.J.C., Peto, L..C., “A hierarchical Dirichlet language model,” Natural Language Engineering, Vol. 1, No. 3,
pp. 289–308, 1995.
[Mairesse 2005] Mairesse, F., Walker, M., “Learning to personalize
spoken generation for dialog systems,” Proc. INTERSPEECH, pp.
1881–1884, 2005.
[Mairesse 2010] Mairesse, F., Gasic, M., Jurcicek, F., Keizer, S.,
Prombonas, J., Thomson, B., Yu, K., and Young, S., “Phrase-based
statistical language generation using graphical models and active
learning,” Proc. ACL, pp. 1552–1561, 2010.
[Miller 1990] Miller, G.A., Beckwith, R., Fellbaum, C., Gross,D., and Miller, K., “Introduction to WordNet: an on-line lexical
database,” International Journal of Lexicography, Vol. 3, No. 4, pp.
235–244, 1990.
[Misu 2011] Misu, T., Sugiura, K., Kawahara, T., Ohtake, K., Hori,
C., Kashioka, H., Kawai, H., and Nakamura, S., “Modeling spoken
decision support dialogue and optimization of its dialogue strategy,”
ACM Trans. on Speech and Language Processing, Vol. 7, pp. 10:1–
10:18, 2011.
[西村 2004] 西村 竜一, 西原 洋平, 鶴身 玲典, 李 晃伸, 猿渡 洋, 鹿野 清宏, “実環境研究プラットホームとしての音声情報案内システ
ムの運用,” 電子情報通信学会論文誌, Vol. 87, No, 3, pp. 789–798,
2004.
[Oh 2000] Oh, A.H., Rudnicky, A., “Stochastic language generation
for spoken dialogue system,” Proc. ANLP/NAACL Workshop on
Conversational systems, Vol. 3 pp. 27–32, 2000.
[Patrick 2006] Patrick, P., Marco, P., “Espresso: leveraging genericpatterns for automatically harvesting semantic relations,” Proc. ACL,
pp. 113–120, 2006.
[Stent 2004] Stent, A., Prasad, R., and Walker, M., “Trainable sentence planning for complex information presentation in spoken dialog systems,” Proc. ACL, pp. 79–86, 2004.
[Sutton 1998] Sutton, R.S., Barto, A.G., “Reinforcement learning: an

対話システムにおける用語間の関係性を用いた話題誘導応答文生成

introduction,” A Bradford Book, MIT Press, Cambridge, MA, 1998.
[Ward 1990] Ward, W., “The CMU Air Travel Information Service:
understanding spontaneous speech,” Proc. DARPA Speech and Natural Language Workshop，pp. 127–129, 1990.
[Watkins 1992] Watkins, C.J.C.H., Dayan, P., “Technical note: Qlearning,” Machine Learning, Vol. 8, pp. 279–292, 1992.
[Weizenbaum 1966] Weizenbaum, J., “ELIZA - a computer program
for the study of natural langage communication between man andmachine,” Communications of the ACM, Vol.9, pp. 36–45, 1966.

〔担当委員：桂田 浩一〕

2013 年 5 月 1 日 受理

著 者

紹 介
山内

祐輝

2011 年名古屋工業大学工学部情報工学科卒業．2013 年奈
良先端科学技術大学院大学情報科学専攻科博士前期課程修了．同年 KDDI 株式会社入社，現在に至る．大学，大学院在籍時は共に音声対話システムの研究に従事．

Graham Neubig（正会員）
2005 年米国イリノイ大学アーバナ・シャンペーン校工学部コンピュータ・サイエンス専攻卒業．2010 年京都大学
大学院情報学研究科修士課程修了．2012 年同大学院博士後期課程修了。同年奈良先端科学技術大学院大学助教．自然言語処理に関する研究に従事．

Sakriani Sakti
1999 年インドネシア・バンドゥン工科大学情報工学卒業．
2002 年ドイツ・ウルム大学コミュニケーション学科修士課
程修了．2008 年同大学工学科博士課程修了。2003〜2009
年国際電気通信基礎技術研究所研究員．2006〜2011 年情報通信研究機構専攻研究員．2009〜2011 年インドネシア
大学コンピュータ科学研究科客員教授．2011 年奈良先端科学技術大学院大学情報科学研究科助教．音声言語処理に関する研究に従事．

戸田智基

1999 年名古屋大学工学部電気電子・情報工学科卒．2003
年奈良先端科学技術大学院大学情報科学研究科博士課程了．
2003 年日本学術振興会特別研究員-PD．2005 年奈良先端科学技術大学院大学情報科学研究科助手．2007 年同助教．
2011 年より同准教授．2003 年 10 月〜2004 年 9 月カーネギーメロン大学客員研究員．2008 年 3 月〜8 月ケンブ
リッジ大学客員研究員．博士（工学）．音声情報処理の研究に従事．IEEE SPS 2009 Young Author Best Paper Award
等受賞．

中村

哲（正会員）

1981 京都工繊大電子卒，1992 京都大学博士（工学）．1981
シャープ中央研究所、1994 奈良先端大助教授，2000 国際
電気通信基礎技術研究所， 2005 音声言語コミュニケーション研究所長，2009 情報通信研究機構，けいはんな研究所長を経て、現在，奈良先端大教授．ATR フェロー．カールスルーエ大学客員教授．音声翻訳，音声・言語処理の研究に従事．山下記念研究賞，喜安記念業績賞，日本 ITU 協会国際協力賞，ドコモモバイルサイエンス賞，総務大臣表彰，文部科学大臣表彰，ELRA Antonio Zampoli 賞．

89