DEIM Forum 2015 C4-5

同時進行性のあるチャット対話における発話タイプ推定星川祐人†

若林啓††† 筑波大学情報学群知識情報・図書館学類 〒 305–8550 茨城県つくば市春日 1-2†† 筑波大学図書館情報メディア系 〒 305–8550 茨城県つくば市春日 1-2
E-mail: †s1111549@u.tsukuba.ac.jp, ††kwakaba@slis.tsukuba.ac.jp
あらまし 本研究では、チャット対話における発話タイプの推定手法を提案する。Twitter などのソーシャルメディアにおけるユーザ同士の対話では、ひとつの投稿につき複数の発話が含まれており、それぞれの発話の話題は異なる。
チャット対話には話題の連鎖が並行して進行する同時進行性という性質を持つため、1 つの投稿を複数の発話に分割した上で、発話タイプを推定する必要がある。発話タイプは前後の依存関係が強いことから隠れマルコフモデルが有効であるが、同時進行性により系列データの作成において発話を限定する必要があるため、隠れマルコフモデルを拡張したモデルを提案し、連鎖関係の情報が既知のものであるとして、すべての発話に対して高い精度での発話タイプ推定を行う。
キーワード

隠れマルコフモデル，チャット対話，発話タイプ推定

1. 目

的行っている。この研究は音声対話の雑談に対する研究であり、本研究の対象であるチャット対話は扱っていないが、本研究で近年、情報処理技術やインターネットの発展により、膨大なは、チャット対話においても雑談の本質は変わらないものとし、情報にアクセスできるようになった。膨大な情報の中から有用発話タイプの概念をチャット対話に取り入れる。コンピュータな情報を抽出するために、個人に適した方法で表示するサービとの対話システムを実現するためには、ユーザの発話がどの発スをパーソナライゼーションと呼び、パーソナライズされた情話タイプに属するのかを推定する技術が不可欠である。この

報検索に必要なユーザプロファイリング技術が注目を集めてい発話タイプに注目し、本研究では機械学習を用いて発話タイる [6]。ユーザプロファイリング技術に利用できると考えられプを推定する技術を提案する。本研究ではチャット対話としてている技術のひとつにチャット対話がある。対話を用いることTwitter を用いる。Twitter は非匿名性であるため、誰からもで、質問の内容を絞り込むことや、ユーザのおかれている文脈閲覧できる特性があり、地域に限定されることなく収集できるを自然に伝えることが可能になり、ユーザの挙動から暗黙的にという観点から偏りのないコーパスを得られると考えられる。

ユーザの興味の有無を判断し、効果的な情報検索が実現できる

タスク指向対話においては、発話タイプはドメインに大きくと考えられる。

依存しており [5]、その言語表現の特徴から発話タイプを決定

現在実用化されている音声対話システムはユーザの「命令」するのは容易い一方で、雑談の発話理解、すなわち発話タイプとコンピュータ側の「応答」という関係の会話を処理するものの推定は、言語表現が多岐に渡ることから同様に決定するのはであり、これはタスク指向対話と呼ばれる明確な目的を持つ対困難である。そこで磯村 [2] は隠れマルコフモデルを用いて前話である。ユーザプロファイリングに有用な情報は、目的が明後関係を考慮して発話タイプの推定を行う手法を提案してお確に定められていない非タスク指向の対話に含まれると考えらり、その有用性を示している。しかし、この手法は、対話参加れるが、非タスク指向対話の雑談については、その構造を明ら者が 1 つの発話タイプをもつ発話を 1 つずつ交互に行うことがかにする研究が未だ少数であることが [1] において言及されて仮定されており、チャット対話に直接適用することが難しい。

いる。筒井 [1] は雑談を「特定の達成するべき課題がない状況

Twitter でのある対話を例にした連鎖構造の図を図 1 に示す。

において、あるいは課題があってもそれを行っていない時間にここではユーザをそれぞれ A、B とし、ツイート番号をつけおいて、相手と共に時を過ごす活動として行う会話」と定義して図にしている。A1 の「ちょっと頭にきたことあってね ww」ている。という A にあった出来事を伝える発話と、「鳴門高校勝った？」対話を行う際には対話を理解する必要があり、考慮しなけれという高校野球に関する話題の発話から始まる 2 つの対話のばならない特性のひとつに発話タイプがある。発話タイプは、流れがあることがわかる。この 2 つの流れは交わることはな

対話におけるそれぞれの発話の役割を表す概念であり、各発話

いが、並行に進み、複数の発話が 1 つの発話に連鎖するなど複の役割を類型化し、まとめたものである。例えば<情報要求>、雑な関係を持つ。対話は交互に話し手が切り替わるものである<情報提供>等が発話タイプの例として挙げられる。[1] の研究が、チャット対話においてはそれが明確であり、実際の会話よ

では、雑談から話題の移行により分析単位である連鎖組織を抽りも返答に時間がかかることから一度に複数の発話を持つ場合出し、話題内容、第一発話の発話タイプにより連鎖組織の分類がある。このようにチャット対話においては発話が複雑に連鎖を行い、各連鎖組織に現れる言語形式を抽出することで分析をする。本研究では、この性質をチャット対話における同時進行

<ijkl>m

連のツイートを会話として抽出することを考える。リプライの<ijrs>m

A1!"#$%&'()*%+$,-ww ./012$)3

ツイートには、リプライマークという「@」とそれに続いてリプライ宛のユーザ名が記載され、リプライ対象のツイート ID<ijrs>m<ijkl>mB1!45633789):::( ;´Д<)w<ijkl>m<pifqN>mが記録される。ここでは、2 名のユーザによって、あるツイー<no>mトから始まり、ツイート ID 情報を見てそれにリプライするツ<ijkl>mA2!=>456??+@A%-?77BCD~EFGH(IJK;) LM>NOGwww

<no>m

<tu>m

<ijkl>m<vwkx>m

イートが計 10 回以上続くものを会話として抽出する。ユーザ<ijrs>mB2!PD$)PD$)?CQ( ;´Д<)RSATC'UVW$)XYZ[7LM\]^::?7_`a33<tu>m<ijkl>mA3!CQb[cwww LMde,fghGP?

図 1 連鎖構造の可視化が 3 名以上になるものや、リプライが 10 回に満たないものは会話と見なさない。抽出は時系列順に並んだコーパスの最後からリプライマークのついているツイートを始点として、そのリプライ宛のツイートをバックトラックする。その繰り返しをバックトラックできなくなるまで続け、会話を得る。
表 1 を例にした場合、T8、T5、T2、T1 と辿って会話が抽出性と呼ぶ。この性質のため、1 つの発言の投稿に 1 つの発話タイプを推定することは難しく、1 つの投稿を複数の発話に明示的に分割した上で、それぞれの発話に対して発話タイプを推定する必要がある。発話タイプは、情報要求の後に情報提供が来やすいといったように前後の依存関係が強いことから、文脈を考慮した推定手法が有効であると考えられる。同時進行性のあるチャット対話では、それぞれの発話が独立に連鎖関係をもっており、これをどのように推定手法で考慮するかが主たる問題となる。本来この連鎖関係の情報も観測できない情報であるが、本研究では発話の参照関係が既知のものであるとして、発話タイプの推定精度の向上させることを目的とする。
本研究の構成は以下の通りである。第 2 章で Twitter におけされる。T7、T6、T4、T2 と辿った時点で、既に T2 が抽出済みなので、これらは捨てる。

2. 2 発話単位と連鎖の認定
発話をどう定義する必要があるのかという単位の認定は重要な問題である。本研究では、発話としての区切りとみなすセパレータと呼ぶ文字列を定義することでツイートを発話に分割し、その結果に応じてそれぞれの発話に発話タイプを付与する。付
与する発話タイプの種類は次節にて詳しく記述する。セパレータは実際のデータを見て意味的に区切られる文字や記号から決定したものであり、以下の記号のいずれかが連続して出現する位置を発話の区切り位置とする。
。

！ !

？ ?

ｗw

★

☆

♪

笑←

彡 顔文字る会話の抽出手法と発話タイプの説明を行い、第 3 章では機械学習を用いた発話タイプの推定手法の説明を行う。第 4 章にて同じ記号の全角半角による区別、連続した同じ記号の個数によ

機械学習手法を用いた実験とその考察を行い、第 5 章で結論とる区別をなくし、学習、推定するため、1 つの半角文字に修正する。

してから分割を行う。例えば「！
！」は「!」に修正される。修正対象はセパレート文字と同じである。Twitter における言語表

2. Twitter の会話における発話タイプ

現は多岐に渡り、自動的に完全に意味上の区切りをつけること

本研究では機械学習を用いて発話タイプを推定する技術を提は難しいことから、発話が複数かどうかはこのセパレータでの案する。機械とのチャット対話を目指す上で扱うデータとして結果により判断される。記号のみの発話が意図せず出現してしTwitter を用いて会話を抽出する。Twitter には膨大な量の会まうこともあるため、筒井 [1] の研究で用いた発話タイプには話が蓄積されていることから，これを利用することで実際の音ない<無効>タグを新たに定義し、記号のみから成る発話に対声対話を書き起こすよりも大量のコーパスを獲得することがでしてはこの発話タイプを付与した。

きる。大量にデータを扱うことができるようになれば、機械と分割された結果に発話タイプを付与した実際のデータの例をのチャット対話実現のための内容理解、返答選択などの手法に表 2 に示す。ここではユーザ名、ツイート中のリプライマーク用いることができると考えられる。本研究は、発話に対する発を削除したものを示している。

話タイプ推定が目的であるため、発話や発話タイプの定義をす前述した同時進行性の特性により、1 つのツイートに複数のる必要がある。本章では Twitter から会話を抽出する手法、発発話が存在する場合がある。このとき、それぞれの発話は別の話という単位の認定、発話タイプの付与について節に分けて説役割を持ち、ツイート全体で 1 つの発話タイプを決定すること明する。

ができないため、それぞれに対して発話タイプを推定しなけれ2. 1 Twitter からの会話抽出ばならない。発話タイプの後にコロンを挟んで数字が付与されここでは Twitter からの会話抽出の手法について説明する。ている発話がある。この数字は直前のツイートの 0 から数えてTwitter にはリプライという機能があり、これはユーザがある何番目に関係した発話なのかを示す番号であり、これをもとにツイートに対し返信を送ることができる。この返信は送るユー

同時進行性を持つ会話を整理して学習する。この番号は参照番

ザ自身のツイートとなり、このツイートに対するリプライも可号と呼ぶ。例えば表 2 の 2 行目「大丈夫？？」という発話は 1

能である。そのリプライに対しリプライを送り、といったよう行目の「ちょっと頭にきたことあってね ww」に連鎖することにリプライが継続的に続くことがあり、ここではこのような一を示している。

表1 会話抽出
番号

ユーザ

ツイート

T1

A

ちょっと頭にきたことあってね ww 鳴門高校勝った？

参照ツイート

T2

B大丈夫？？ 負けたーーー ( ；´Д｀)w

T1

T3

C

何かあった？

T1

T4

A

明日どこか行こう！

T2

T5

A

今は大丈夫！
！ありがとね！ そうか 残念やな (＞人＜;) 秋田は明日や www

T2

T6

B

いいねーどこにする？

T4

T7

A

どこでもいいよ！
！

T6

T8

B

よかったよかった！ うん ( ；´Д｀) 友達がゆうにわ腹立ったらしい笑 秋田頑張れーー！ 何回戦？？

T5

表2
日時

実際のデータの例

ツイート

発話タイプ:参照番号

2012/8/14 23:01 ちょっと頭にきたことあってね ww 鳴門高校勝った？

情報提供+情報要求2012/8/14 23:01 大丈夫？？ 負けたーーー ( ；´Д｀)w

情報要求:0+情報提供:1

2012/8/14 23:03 今は大丈夫！
！ありがとね！ そうか 残念やな (＞人＜;) 秋田は 情報提供:0+心情の表明:0+評価:1+
明日や www情報提供

2012/8/14 23:04 よかったよかった！ うん ( ；´Д｀) 友達がゆうにわ腹立った 評価:0+同意:1+情報提供:2+意見提らしい笑 秋田頑張れーー！ 何回戦？？

示:3+情報要求:3

2012/8/14 23:06 うん（笑）www 秋田初めての試合やよ！

表3

発話タイプ一覧

名称定義

同意:0+情報提供:4

3. 機械学習による発話タイプ推定

情報要求

事実や事象を訊ねる

情報提供

事実や事象を伝える

意見要求

相手に対し意見を求める

意見提示

自分の意見を伝える

同意

意見提示に対する賛成

は、語尾に現れることが指摘されていることから [1]、以下に示

不同意

意見提示に対する反対

す発話タイプ推定手法では、特徴量として発話の語尾の 3 形態

根拠説明

自分の情報提供に対する説明

理由説明

自分の意見提示に対する説明

心情の表明

自分の感情を示す

評価

相手の情報や意見に対する評価

理解

相手の述べた内容が伝わったことを伝える

保留

返答する際の言い淀み

笑い

笑い

無効

記号マークや意味のない文字

本研究では、一部の発話タイプ付き会話を学習データとした教師あり学習によって発話タイプ推定を行う。本章では機械学習を用いた発話タイプ推定手法を説明する。発話タイプの特徴素を抽出して用いる。

3. 1 ナイーブベイズ分類器
ナイーブベイズ分類器は確率モデルに基づいた分類器であり、ここでは多項モデルと呼ばれるナイーブベイズ分類器を用いる[3]。多項モデルにおいては文書中の各位置についてどんな単語が起こるかをモデル化する。d を特徴量のベクトル、c を発話タイプとすると事例 d に対して P (c|d) が最大となるクラス c を出力する。特徴量ベクトル d の次元を |d| で表すとすると、多2. 3 発話タイプの付与について本研究で付与した発話タイプとその定義を表 3 に示す。付与
する発話タイプは [1] にて付与されたものと同じ発話タイプを用いる。

項モデルでは語彙 V の中から一つ単語を選ぶ操作を |d| 回繰り返すことで文書を生成する。クラス c において、次元 i に単語w が選ばれる確率を pw,i,c で表す。よって多項モデルのナイー
ブベイズ分類器は筒井の研究では表 3 以外にも発話タイプが存在し、本研究のデータに付与したが全体の割合に対し極端に数が少ないものは別の発話タイプに付与し直した。削除した発話タイプは<共感>、<意見表出>、<意見提示のやり直し>、<否定=謙遜>、<問題提示>、<納得>、<語り>、<異意見提示=根拠説明>、<語り要求>、<評価=ほめ>、<継続支持>、<受け入れ>、<承認>、<語りの開始>、<想起要求>の計 15 個である。また、
前節で説明したとおり、<無効>タグは筒井の研究の発話タイプには存在しない本研究独自の発話タイプである。

P (c)P (d|c) = pc|d|∏∏nw,i,dpw,i,ci=1 w∈Vを最大化するような c を出力する。pc はクラス c であるような文書が生成する確率である。求めるべきパラメータは pw,i,c とpc である。単語が出現しなかった場合を考え、MAP 推定より、
pw,i,c = ∑nw,i,c + α
w nw,i,c + α|W |, pc = ∏Nc + αc Nc + α|C|が得られる。この推定式の nw,i,c はクラス c に属する訓練文書∑全体での w の出現回数、 w nw,i,c はクラス c に属する訓練文
書全体での全単語の出現回数を求めることに対応する。本研究では α = 0.1 とする。

3. 2 隠れマルコフモデル
Z11!

ナイーブベイズ分類器は個々の発話の特徴量から発話タイプ

Z21!

Z31!

を推定するが、ここでは系列ラベリングに用いることができるモデルを用いて、前後関係を考慮して推定する。隠れマルコ

O11)*+,-./01,2+34ww!

O21"#$%%!

O31&'"#$((!

フモデルは次の 5 項組 M = (Q, Σ, A, B, π) により定義される
図 2 HMM のグラフィカルモデル[4]。
（ 1 ） Q = {q1 , …, qN } : 状態の有限集合推定を行う。このため、この手法では全ての発話に対して発話（ 2 ） Σ = {o1 , …, oN } : 出力記号の有限集合タイプを推定できないという問題がある。

（ 3 ） A = {aij } : 状態遷移確率分布∑aij は状態 qi から状態 qj への遷移確率であり、 j aij = 1を満たす∑bi (ot ) は状態 qi で記号 ot を出力する確率であり、 t bi (ot ) =1 を満たす

本研究では記号系列 O を生成したモデル M の最適な状態遷移系列を求める問題である。記号系列 oT
1 = o1 …oT に対する
T
最適な状態遷移系列とは、P (oT1 , q1 |M ) を最大化するような系

列 q1T = q1 …qT である。これは Vitervi アルゴリズムという方法によって求めることができる。
記号系列 oT
1 = o1 …oT を生成して時刻 t で状態 qi に到達す
る状態遷移系列は最大の確率値を与えるものだけを記憶していけば最終的に最適な状態遷移系列を求めることができる。最大の確率値を δt (i) で表すことにする。

δt (i) = max P (q1t−1 , Xt = qi , ot1 |M )t−1q1

δt (i) は以下のように再帰的に計算することができる。

会話とは相手の発話に対し返答することから成るものであり、複数の発話を持つツイートにおいてはどの発話に関係しているかが重要な問題である。本研究ではチャット対話における同時進行性を考慮し、付与された参照番号から発話系列を抽出した上で隠れマルコフモデルによる推定を行う。系列は学習する上で一本化されていなければならない。例えば表 2 を用いてつく→大丈夫？？

うん ( ；´Д｀)

鳴門高校勝った？ → 負けたーーー ( ；´Д｀)w

そうか 残念やな (＞人＜;)Ots : 観測記号。時刻 t の記号番号 s の観測記号。

•Zts : 状態。時刻 t の記号番号 s の記号に対応する状態を表す確率変数。

•Rts : 参照番号。時刻 t の記号番号 s の状態が参照している、時刻 t-1 の状態の記号番号を表す確率変数。ただし、Rts = 0は、どの記号番号も参照しないことを表す。0 <= Rts <= mt−1 。

•T : 観測記号系列の長さ。

また、便宜上以下の記号を使う。

•Zt : 時刻 t の全ての状態を表すベクトル変数。

•O : 時刻 1 から T までの全ての観測記号。

•O<: 時刻 t より前の全ての観測記号。
=t

複数の発話に対応して各時刻に複数の状態を定義する。また、各状態に対応して参照番号が確率変数として定義される。本研究では、参照番号は観測可能な変数である。各状態は、前の時刻の状態のうち、参照番号が指している状態にのみ確率依存関係をもつ。それぞれの確率変数の確率分布を以下のように定義する。

p(Ots = v|Zts = i) = Bi (v)p(Rts = k) = η(k)→→ 友達がゆうにわ腹立ったらしp(Zts = i|Rts = k, Zt−1k = j) = Aj (i) if k =| 0p(Zts = i|Rts = k, Zt−1k = j) = π(i) if k = 0い笑••p(Z0s = i) = π(i)られる系列は以下のようになる。

•mt : 時刻 t に現れる記号番号の数。

では、各時刻に 1 つのツイートが対応し、ツイートに含まれるi→•

参照 HMM のグラフィカルモデルを図 3 に示す。参照 HMM

δt+1 (j) = max[δt (i)aij ]bj (ot+1 )ちょっと頭にきたことあってね ww

追加することですべての発話に対する推定が可能な拡張隠れマ
以下の変数を定義する。

πi は状態 qi が初期状態である確率 P (X1 = qi ) である

ありがとね！

して参照 HMM を提案する。参照 HMM は参照番号を計算にルコフモデルである。

（ 5 ） π = {πi } : 初期状態確率分布→

本研究では、前節の HMM において、全ての発話に対して発話タイプが推定できない問題を克服するため、新たなモデルと（ 4 ） B = {bi (ot )} : 記号出力確率分布•3. 3 参照 HMM

秋田は明日や www→ 何回戦？？ → 秋田初めての試合やよ！
ここでは、図 1 において A2 の最初の 2 つの発話「今は大丈夫！
！」「ありがとね！」は直前の B1 の発話「大丈夫？？」に連参照 HMM では、前向きの Viterbi アルゴリズムを効率的に解くのは難しい。なぜなら、時刻 t の複数の状態が時刻 t − 1の同一の状態を参照している場合、共同親の関係により、最大値を独立に計算できなくなるためである。

鎖している。このように複数の発話が複数の発話に連鎖していしかし、参照できる状態は１つだけであるため、時刻 t − 1る場合、一本化された系列にするにあたり、前者か後者のどちの複数の状態が時刻 t の同一の状態から参照されていることはらかを切り捨てる必要がある。本研究ではデータ上の観測からない。この非対称性から、参照番号が与えられている場合に関後者の方が内容の意味合いが強いと判断し、前者を切り捨ててしては、後向きの Viterbi アルゴリズムを構成することで効率

Algorithm 1 参照番号が既知の場合の Viterbi アルゴリズム

R33=2!

Z33!

1: ϕT k (i) = 1
2: for t = T − 1 to 1 do

ϕtk (i) =3:∏s∈child(t,k) maxj ϕt+1s (j)Bj (Ot+1s )Ai (j)O33

だし、child(t, k) が空集合ならば、ϕtk (i) = 1）

δtks (i) = argmaxj Bj (Ot+1s )Ai (j)4:

5: end for6: #backtrack

R22="!

Z12!

（たO22

O12

R21=1!

O11

O21

EFD0GHI9J0-DK1ww!

-./012

R31=1!

Z21!

#$%~&'()(*+,;)!

Z32!
O32

789:::( ;´Д<)w!

?@ABCD96!

Z11!

R32=1!

Z22!

Z31!
O31

34566!

=>34522!

7: Z1k = maxi π(i)Bi (Otk )ϕ1k (i)図 3 参照 HMM のグラフィカルモデル

8: for t = 2 to T do

if Rts = k =| 0 then9:

表 4 正解率の比較

Zts = δt−1ks (Zt−1k )10:else if Rts = 0 then11:

Zts = maxi π(i)Bi (Ots )ϕts (i)12:end if

13:

正解数

推定対象数

正解率

ナイーブベイズ分類器

16610.262

隠れマルコフモデル

18520.346

参照 HMM

19610.311

14: end forの良い推定手法が得られる。まず、状態 Ztk の参照連鎖状態集合を定義する。参照連鎖状態集合 RcZtk は、Ztk を間接的に参照する状態の集合であり、以下のように再帰的に定義する。

トデータとして各手法により発話タイプを推定する。正解かど
うかは事前に付与された発話タイプとの完全一致によって判断し、一致している発話を正解とする。正解率は以下の式により計算される。

•Ztk ∈ RcZtk•Rt′ s = r の と き 、も し Z(t′ −1)r ∈ RcZtk な ら ば 、

Zt′ s ∈ RcZtk
また、参照連鎖出力集合 RcOtk を、RcZtk のそれぞれの要素が対応している出力記号の集合とする。ϕtk (i) を、Ztk = i であるときの参照連鎖出力集合の最大生成確率として、以下のよう(正解数)
正解率 = (全テストデータ数)

4. 2 実 験 結 果
ナイーブベイズ分類器、隠れマルコフモデル、参照 HMM の正解率を表 4 に示す。
隠れマルコフモデルでは、複数の発話が 1 つの発話に連鎖している場合、3.2 節で説明したように前者の発話を切り捨ててに定義する。

いるため、全テストデータ数は他に比べ少ないが、会話として

ϕtk (i) = maxRcZtk p(RcOtk , RcZtk |Ztk = i)
時刻 t + 1 の状態のうち、Ztk を参照する記号番号の集合をchild(t, k) と定義する。形式的には、以下のように定義される。の数は同じであるため正解率の比較は有効であると考える。
正解率は隠れマルコフモデルが最も高い結果になった。しかし、隠れマルコフモデルにはすべての発話に対して発話タイプを推定できないという問題があり、それを解消した参照 HMM

child(t, k) = {s : Rt+1s = k}ϕtk (i) は、child(t, k) に含まれる記号番号に対応する状態にのみ直接依存関係をもつことから、以下のように再帰的に計算でいる参照 HMM のほうが正解率は高い。次節では、なぜ参照

HMM の正解率が隠れマルコフモデルの正解率に劣っているのか、全体的な正解数の底上げには何が必要か等をエラー分析にきる。

ϕtk (i) =とナイーブベイズ分類器を比較すると同時進行性を考慮してより検討する。

∏maxj ϕt+1s (j)Bj (Ot+1s )Ai (j)s∈child(t,k)

4. 3 考察

エラーの分析方法には Confusion matrix を用いる。ナイー

ただし、child(t, k) が空集合の場合は、Ztk が参照連鎖の末尾

ブベイズ分類器、隠れマルコフモデル、参照 HMM の順に表であることを意味するため、定義より ϕtk (i) = 1 ∀i となる。こ5、表 6、表 7 に示す。便宜上、出現した発話タイプの推定クラのことから、参照番号が観測されている場合、アルゴリズム 1スと実際のクラスのみを表に示している。

によって Viterbi 推定を行うことができる。

4. 実

験

Confusion matrix から推定結果の再現率を比較すると、いずれの手法においてもエラーの傾向には共通点があることが分かる。<情報要求>、<情報提供>、<同意>はナイーブベイズ分

4. 1 実 験 方 法

類器を含む全ての手法で高い再現率であることから、これらのコーパスは時刻が 2012 年 8 月 14 日 0:00〜23:59、位置情報

発話タイプは語尾の 3 形態素に特徴がよく現れていることを示が日本国内にあるツイートを使用する。3.1 節及び 3.2 節のとしている。これに対して<意見提示>、<理解>、<評価>は全おり 10 回以上続く会話を抽出し、それぞれのツイートを発話ての手法において再現率が低いが、これはいくつかの理由が考に分割する。その中の 28 会話、418 ツイート、733 発話を対象えられる。<意見提示>は、実際のクラスの数も多く、語尾のとし、すべてに人手で発話タイプを付与した。約 10 分の 1 で形態素の種類が多岐に渡っているため、他の発話タイプとの区ある 3 会話、40 ツイート、61 発話を学習データ、残りをテス

別が明確でないと思われる。<理解>、<評価>は両者の前後関係が似ているため、推定する際に混同していると考えられる。

謝

辞

再現率の低い 3 つの発話タイプの再現率を向上させるには、

本研究の一部は、JSPS 科研費（課題番号 25280110,25540159）

必ず語尾に特徴があるとは限らないことや、まだ考慮すべき点

および筑波大学図書館情報メディア系プロジェクト研究（Re-があることから発話タイプ、特徴量、推定手法の検討が必要で

search Projects of Facalty of Library, Information and Mediaある。本研究では筒井 [1] の発話タイプを主に用いたが、チャッScience）の助成によって行われた。

ト対話に合わせて発話タイプを追加、変更する必要があると考えられる。特徴量が語尾の 3 形態素で適しているのか、あるいは短い発話の中から特徴語をどう抜き出すのかについても、検討の余地がある。推定手法も、発話タイプの中に高い再現率と低い再現率の差があることから、特徴量が似ているものをまとめて大分類とし、そこから別の特徴量での分類など別の手法を検討する必要がある。
隠れマルコフモデルより参照 HMM の正解率が低い理由としては、複数の発話が 1 つの発話に対して連鎖している場合に、最初の発話に<理解>や<評価>などの短い相槌のような発話タイプが出現しやすく、次以降の発話に状況の説明や意見を述べる<意見提示>などの発話タイプが出現しやすいといったように、1 つのツイート内の発話の順序に依存して発話タイプの傾向が異なる現象を考慮していないことが挙げられる。隠れマル
コフモデルでは系列をつくる際に最後の発話のみを残しているのに対し、参照 HMM は同じ参照番号をもつ全ての発話は同じ遷移確率で計算しているため、付与する発話タイプが前後関係の情報から絞り込みにくくなったことが原因と思われる。単純な遷移確率での推定では問題があるため、発話の順序を考慮した推定方法を検討することが課題となる。
本研究では、参照 HMM による同時進行性を考慮した発話タイプ推定手法の将来性を検討するため、参照番号が既知の場合における発話タイプの推定問題を検討した。今後は参照番号が未知のデータにおいて、参照番号を同時に推定する手法の提案が必要であるが、このためには上記の問題を改善し、発話タイプの推定精度を向上させる必要があると考えられる。

5. 結論

本研究では、チャット対話において同時進行性という性質があることを指摘し、同時進行性を考慮した発話タイプの自動推定を行う手法を提案した。ここでは既存の隠れマルコフモデル
ではすべての発話に対して発話タイプを推定できないという問題を考慮し、参照 HMM という新しいモデルを提案することで同時進行性を持つチャット対話の発話タイプの推定を行った。
実験により参照番号が既知である場合に、隠れマルコフモデルと同程度の精度を保ちつつすべての発話に対して推定を行うことが可能であることを示した。Confusion matrix を用いた考察から混同しやすい発話タイプや、語尾に特徴のない発話タイプが存在し、推定精度を低下させる原因となっていることから発話タイプの定義や特徴量の検討が必要であることが示唆される。
本研究では参照番号が既知であると仮定したが、本来観測できない情報である。このため、今後の課題として参照番号も潜在変数として推定を行う手法の提案が必要であると考えられる。

文

献[1] 筒井 佐代. 雑談の構造分析. くろしお出版, 2012, 354p.
[2] 磯村 直樹, 島海 不二夫, 石井 健一郎. HMM による非タスク指向型対話システムの評価 . 電子情報通信学会論文誌. D, 情報・システム. 一般社団法人電子情報通信学会, 2009, 542-551,(J92-D(4)).
[3] 高村 大也. 言語処理のための機械学習入門, コロナ社, 2010,211p, (自然言語処理シリーズ, 1).
[4] 北 研二. 確率的言語モデル, 東京大学出版会, 1999, 239p, (言語と計算, 4).
[5] 島津 明ほか. 話し言葉対話の計算モデル, コロナ社, 2014, 210p.
[6] 土方 嘉徳. 情報推薦・情報フィルタリングのためのユーザプ
ロファイリング技術 . 人工知能学会誌. 社団法人人工知能学会.
2004, 365-372, (19, 3).

表 5 ナイーブベイズ分類器
推定クラス

実際のクラス
意見提示

意見提示
理解

理解

情報要求

2

情報提供

同意

1

1

2

不同意

評価

意見要求

適合率

1

10.538

10.4

情報要求

1

情報提供

2

同意

2

心情の表明

2

2
1

保留

2

1

2

1
1

不同意

1
2

笑い

1

理由説明

3

正解

70

3

00
1

0

1

0

1
20.375
0.4

2

根拠説明
意見要求

101323020.262

全体数

26

9

77514

2

再現率

0.269

0.222

0.286

0.429

0.4

000

同意

不同意

評価

意見要求

適合率

1

1210.455

表 6 隠れマルコフモデル
推定クラス

実際のクラス
意見提示

意見提示
理解

理解

情報要求

情報提供

1
2

0

情報要求

1

情報提供

4

1

同意

2

1

心情の表明

1

根拠説明

1

不同意

1

1

評価

3

1

意見要求

2

0.833
2

10.4290.4
000
020null

1

笑い

1

0

理由説明

1

0

正解

556

2

全体数

23

5

7

7

3

14

2

再現率

0.217

00.714

0.857

0.667

000

推定クラス

実際のクラス
不同意

評価

意見要求

1

10.5

10.1250.346

表 7 参照 HMM
意見提示
意見提示

理解

理解

5

情報要求

1

情報提供

5

同意

42

心情の表明

3

1

情報提供

同意

12

保留
根拠説明

情報要求

3

1
1

10.62510.4

10.333

10101

評価

適合率

02

0

意見要求

10null

1

0.5

正解

5

1

5

4

4

全体数

26

9

7

75

14

2

再現率

0.192

0.111

0.714

0.571

0.8

0

0

00.311