言語処理学会 第24回年次大会 発表論文集 (2018年3月)

鑧겗‫ה‬鎉衝黎ְ‫ך‬麩ְ‫׾‬罋䣁‫׋׃‬悵㖈‫ٕرٌؙحؾز‬渡邉 研斗 †

赤間 怜奈 †
横井 祥 †,⋄田然††
東北大学
理研 AS⋄

乾 健太郎 †,⋄&F2MiQXr- `2BMX- vQFQB- iBM`M- BMmB'!2+2BXiQ?QFmX+XDTR‫ח׭ׄכ‬

男子学生ヤベーレポート俺やってし〜

話しことばにおいて，鑧겗と鎉衝黎ְは会話を円滑に進めるための重要な因子である．例えば，図Rの会話の例では，「レポート提出」の話題について登場人物全員が言及している一方で，ǳわたしǴ，ǳ〜わǴ，ǳですǴ などの言葉遣いを統一することで登場人物の性格を表現

女子学生私レポート提出

わ

男子学生マジかよwww
女子学生
教授

取り掛かったですわふむレポート提出君

ですよ

男子学生「わかりました！すぐに取り掛かります」
話題「レポートの提出」

している．仮に，会話における話題と言葉遣いの違いを女子学生の言葉遣い「品が高い」
教授の言葉遣い「丁寧」

女子学生に対する男子学生の言葉遣い「粗雑」
教授に対する男子学生の言葉遣い「丁寧」

捉えた確率モデルができれば，応答文の話題や言葉遣いを制御できる対話システムへ応用できる．

図R ある話題に対する複数人での会話の例

このような動機から，会話の話題や言葉遣いをモデ

表記

ル化する研究が行われてきた．例えば，会話の話題や発

M
J
K
V
A(m)
B(m)
N(m)
w(m,n)
N(m,a,b)w(m,a,b,n)

話行為を潜在状態として表現した生成モデルが提案されている (R-k)．また，言葉遣いを捉えるために，登場人物の埋め込みベクトルを用いた言語モデルが提案されている (j)．しかし，これらの研究は，片方の因子に限定したモデル化に留まっており，話題と言葉遣いの違いを捉えた確率モデルの構築まで踏み込んでいない．

説明
全会話数
話題の数
言葉遣いの数
語彙数
会話 m 中の発話者数
会話 m 中の話し相手数
会話 m 中の単語数
会話 m の n 番目の単語
会話 m の発話者 a が話し相手 b へ発した単語数
会話 m の発話者 a が話し相手 b へ発した n 番目の単語

表R 記号・変数の説明

本研究では，会話中のある単語が「話題」に関する単本研究では提案モデルが話題と言葉遣いの違いを捉語か「言葉遣い」に関する単語かを区別することで，こえているか検証するために，話題または言葉遣いだけれら因子を明示的に捉えることができる潜在トピックを考慮したモデルと比較する．分析の結果，比較モデル

モデルを提案する．具体的には，話題と言葉遣いを潜は話題と言葉遣いを区別できないのに対し，提案モデ

在変数で表現し，「ある会話のある登場人物が発言した

ルは話題と言葉遣いの違いを捉えた結果となった．

特定の単語トークンは，話題または言葉遣いの‫׵׍ו‬ַ♧倯から生成される」というプロセスをモデル化しk

た．例えば，図Rの「私はそのレポートをもう提出しま

我々の目的は UV 会話における話題の一貫性と U#V鑧겗‫ה‬鎉衝黎ְ‫⻉ٕرٌך‬したわ」という発言における ǳレポートǴ や ǳ提出Ǵ な

登場人物の言葉遣いの一貫性を捉えた確率モデルのどの単語トークンは話題を表す潜在状態から生成され，構築である．まず UV に対しては，文書の話題を潜在

ǳ私Ǵ や ǳわǴ などの単語トークンは言葉遣いを表す潜変数 z で表現した生成モデルである Gi2Mi .B`B+?H2i在状態から生成される．ここで，ある会話の単語トーク成されうる．我々は，各単語タイプが「話題」と「言葉HHQ+iBQM UhQTB+@G.V (9) を利用する．次に U#V に対しては，登場人物の言葉遣いを潜在変数 z で表現した hQTB+@G. の拡張モデル UaT2F2`@G.V を構築する．最後に，これら k つのモデルを組み合わせること
で，話題と言葉遣いの違いを考慮した Jmi2t@G. を提案する．本稿で使う記号と変数の一覧を表Rに示した．
kXR hQTB+@G.⠓鑧‫ך‬鑧겗‫⻉ٕرٌך‬hQTB+@G. (9) は，「会話（文書）ごとに話題の偏遣い」のどちらから生成されやすいかを確率として表りがある」という仮定に基づいたベイジアンモデルで現した提案モデルを，登場人物名が付与された会話コある．例えば，「スポーツ選手の選挙出馬」に関するーパスから教師なし学習する．

会話では，「スポーツ」を表す潜在状態 z = j と「政ンについては「話題」と「言葉遣い」のどちらか一方から生成されるという排反的な仮定をおいているが，単語のタイプとしては「話題」と「言葉遣い」のどちらも取りうるということに注意されたい．例えば，ǳ母上Ǵという単語タイプは，ある発話においては「話題」として生成されうるが，別の発話では「言葉遣い」として生― 643 ―

Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

る．具体的には，m 番目の会話の n 番目の単語トーク

kXj Jmi2t@G.䲿周ٌ‫ٕر‬
Jmi2t@G. は，hQTB+@G. と aT2F2`@G. を組

ン w(m,n) に対して，話題を表す潜在変数 z が確率分布み合わせることで，話題と言葉遣いの違いを捉えたモ治」を表す潜在状態 z = j ′ が生成されやすいはずであ

φm = (φm,1 , φm,2 , ...φm,J ) から生成される．φm,j は話
題 z = j の生成確率を意味し，以下の式で計算できる：
N(m,j) + α

デルである．本モデルは UBVhQTB+@G. の「会話ごとに話題の偏りがある」という仮定と，UBBVaT2F2`@G. のURV「話し相手によって登場人物が使う単語が偏る」というここで，N(m,z) は m 番目の会話で話題 z が割り当てらンは話題または言葉遣いのどちらか一方にしか属さなれた単語トークンの数である．なお，α は分布 φm をい」という仮定に基づいて，潜在変数 z と単語 w を生生成するディリクレ分布のハイパーパラメータである．

成する．例えば，図Rの例中の単語「レポート」は会話

次に会話内の各単語トークン w(m,n) は話題 z ごとに全体において言及されているため，仮定 UBV に基づいて用意された生成確率分布 θz = (θz,1 , θz,2 , ...θz,V ) から「話題」に関連があるものとして生成される．一方，単φm,j = !J

z=1 N(m,z) + αJ生成される．例えば，ǳバットǴ や ǳボールǴ といった単仮定に加えて UBBBV「ある特定の会話内の各単語トーク

語「私」は女子学生が一貫して使用するため，仮定 UBBV

語は「スポーツ」を表す潜在状態 z = j の単語生成分に基づいて「言葉遣い」に関連があるものとして生成

布 θj から生成されやすい．ここで，確率分布 θz の各

される．つまり，各単語トークン w と潜在変数 z は話

確率値 θz,v は以下の式で計算できる：

題か言葉遣いか，どちらか一方の生成過程しか選べなN(z,v) + γ

UkVいことを意味する．この二者択一 UJmimH 2t+HmbBQMV

ここで，N(z,w) は潜在状態 z から生成された単語 w の

分布 φm と言葉遣い分布 ψm,a,b を生成するディリクレ数である．なお，γ は分布 θz を生成するディリクレ分分布に以下のような制約を加える：

θz,v = !V

w=1 N(z,w) + γVの生成過程を表現するために，Jmi2t@G. では話題

布のハイパーパラメータである．ここで，各単語トーク

φm ∼ Dir(α|φm,J+1 , φm,J+2 , ..., φm,J+K = 0)

ン w(m,n) はある１つの潜在変数 z から生成されているが，単語タイプ w = v は確率分布 θz に従って，全てのψm,a,b ∼ Dir(β|ψm,a,b,1 , ψm,a,b,2 , ..., ψm,a,b,J = 0)

U9V
U8V

z から生成されうることに注意されたい．
kXk aT2F2`@G.涫㜥➂暟‫ך‬鎉衝黎ְ‫⻉ٕرٌך‬aT2F2`@G. は，「話し相手によって登場人物が使う単語が偏る」という仮定に基づいた hQTB+@G. の拡張モデルである．例えば，図Rの例では女子学生に対しこれは，1 ≤ z ≤ J の時しか値を持たない話題分布 φmて男子学生は「粗雑」な言葉遣いだが，教授に対しては

π = (φm,1 , φm,2 , ..., φm,J , ψm,a,b,J+1 ,「丁寧」な言葉遣いである．つまり，女子学生に対する

ψm,a,b,J+2 , ..., ψm,a,b,J+K )と J + 1 ≤ z ≤ J + K の時しか値を持たない言葉遣い

分布 ψm,a,b が生成されることを意味する．この時，潜在変数 z は φm と ψm,a,b を合成した確率分布 π によって生成される：

言葉遣い z の分布は「粗雑」を表す潜在状態を生成しやすく，教授に対する言葉遣い z の分布は「丁寧」を表す潜在状態を生成しやすくなる．具体的には，m 番目の会話における登場人物 a が話し相手 に発した単語トークン w(m,a,b,n) に対して，言葉遣いを表す潜在変数

z が確率分布 ψm,a,b = (ψm,a,b,1 , ψm,a,b,2 , ...ψm,a,b,K )によって生成される．ψm,a,b,k は言葉遣い z = k の生成確率を意味し，以下の式で計算できる：
N(m,a,b,k) + β
ψm,a,b,k = !J
z=1 N(m,a,b,z) + βK

UjV

ここで N(m,a,b,z) は登場人物 a が話し相手 b へ発した
会話中に言葉遣い z が割り当てられた単語トークンの数である．なお，β は分布 ψm,a,b を生成するディリク
レ分布のハイパーパラメータである．
次に各単語トークン w(m,a,b) は言葉遣い z ごとに用意された単語生成確率分布 θz から生成される．例えば，ǳ俺Ǵ や ǳだぜǴ といった単語は「粗雑」を表す潜在状態
z = k の分布 θk から生成されやすい．この確率分布は
hQTB+@G. と同じ式で計算できる．

UeV

次に各単語 w(m,a,b) が，潜在変数 z(1 ≤ z ≤ J + K)

ごとに用意された確率分布 θz から生成される．この θz

は hQTB+@G. と同じ式 UkV で計算できる．以上をまとめると，Jmi2t@G. における潜在変数 z と単語 w の生成過程は以下のように書き表せる．
R, 7Q` 2+? bii2 z = 1, 2, ..., J + K /Qk,/`r θz ∼ Dir(γ)
j, 2M/ 7Q`
9, 7Q` 2+? /Q+mK2Mi m = 1, 2, ..., M /Q
8,/`r φm ∼ Dir(α|φm,J+1 , ...φm,J+K = 0)e,
7Q` 2+? bT2F2` a = 1, 2, ..., Am /Qd,
7Q` 2+? T`iM2` b = 1, 2, ..., Bm /Q
3,/`r ψm,a,b ∼ Dir(β|ψm,a,b,1 , ...ψm,a,b,J = 0)N,
+H+mHi2 π ++Q`/BM; iQ 1[XUeVRy,
7Q` 2+? w(m,a,b,n) (1 ≤ n ≤ N(m,a,b) ) /Q
RR,/`r z(m,a,b,n) ∼ M ulti(π)
Rk,/`r w(m,a,b,n) ∼ M ulti(θz(m,a,b,n) )Rj,
2M/ 7Q`R9,
2M/ 7Q`R8,
2M/ 7Q`Re, 2M/ 7Q`

ここで Dir(·) と M ulti(·) はそれぞれディリクレ分布と多項分布を意味する．

― 644 ―

Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

kXjXR ٌ‫ךٕر‬䱿㹀zk

本研究ではパラメータ Φ, Ψ, Θ を積分消去すること

9で，潜在変数 z を効率的に推定できる崩壊型ギブスサ

e

ンプリングを用いる (8)．ここで，サンプリングのため

Nの式を導出するために，「話題」の生成過程を表す潜在Re

状態 τt と「話し言葉」を表す潜在状態 τs を導入する．

Φ, Ψ, Θ を積分消去した単語集合 r と潜在状態集合 xと τ の同時確率は以下の式で表現することができる：
P (r, x, τ |α, β, γ) =RN

こ こ で， 一 つ 目 の 因 子 P (x, τt |α)P (r|x, τt , γ) だ けdに 注 目 す る と hQTB+@G. と 見 な せ， 二 つ 目 の 因 子

3

P (x, τs |β)P (r|x, τs , γ) は aT2F2`@G. と見なせる．
ただし，本モデルでは話題分布 φm と言葉遣い分布
ψm,a,b を生成するディリクレ分布に制約をいれたため，潜在変数 z のサンプリング式は以下のように計算

RR

表k hQTB+@G. での生成確率 P (w|φ(z) ) 上位 R8 単語zj

P (x, τt |α)P (r|x, τt , γ) + P (x, τs |β)P (r|x, τs , γ) UdVR9

単語生成確率 P (w|φz ) 上位 R8 単語

わ- でしょ- あんた- なに- なんて- そうね- ない- 早く- まだ- 別に- 仕方- こっち- まったく- 知ら- うるさい
この- する- ば- 司令- 官- ここ- 娘- 敵- 艦- 貴様- 鎮守- 攻撃- 府- 相手第俺- お前- まぁ- あぁ- 悪い- わかっ- 少し- すまん- 頼む- しよ- だ- そろ
そろ- さて- なあ- とりあえず
ねー- よー- なー- 姉ちゃん- ー- 兄ちゃん- じゃん- ほら- ほ- あー- はーい- へー- ありがと- しま- わたしです- さん- ます- ん- プロデューサー- 先輩- ありがとう- お願い- わか
り- すみません- はいっ- おはよう- 仕事- そうですね- すいません

表j aT2F2`@G. での生成確率 P (w|φ(z) ) 上位 R8 単語

各モデルの教師なし学習には崩壊型ギブスサンプリ

できる：

ングを用い，イテレーション回数を Ryy に設定した．

P (z(m,a,b,n) = k|r, x¬n , α, β, γ) ∝P (z(m,a,b,n) = k|x¬n , α, β)× P (w(m,a,b,n) |z(m,a,b,n) = k, x¬n , γ)

なお，潜在変数の数は hQTB+@G. は C4ky，aT2F2`@

U3V

ここで，¬n はサンプル n を除いたことを意味する．また，それぞれの項は以下の式で計算される：P (z(m,a,b,n) = k|x¬n , α, β) ∝⎧⎨ !J+K N(m,k)¬n +α(1 ≤ z ≤ J)
N(m,z)¬n +α(J+K)⎩ !J+K N(m,a,b,k)¬n +β
z=1 N(m,a,b,z)¬n +β(J+K)

単語生成確率 P (w|φz ) 上位 R8 単語

ふ-Ɣ- ねー- へ- にゃ- よー- なー- ー- - ちょ- ご- ほ- 可愛い- あー- よっ
戦車- 住- 西- 隊長- こと- 会長- 試合- 学園- 姉ちゃん- 流- チーム- 生
徒- みぽりん- こちら- 副
司令- 官- 艦- 娘- 鎮守- 府- 姉- 達- っぽい- 駆逐- 敵- 艦隊- 出撃- 二- 作
戦
先輩- あたし- 兄ちゃん- おう- 言っ- じゃん- あんた- 先生- ゆき- 別に学校- 君- わたし- 由比ヶ浜- なんで〜- 料理- なぁ- 美味しい- 作っ- 食べる- 今日- き- ご飯- 食べ- まぁ- 買っ- ほら- 風呂- 飲ん
です- ます- か- プロデューサー- アイドル- 仕事- でし- ので- 事務所レッスン- お願い- プロ- おはよう- わかり- ライブ

z=1(J + 1 ≤ z ≤ J + K)

P (w(m,a,b,n) |z(m,a,b,n) = k, x¬n , γ) ∝N(z,v)¬n + γ!V
w=1 N(z,w)¬gn + γV

G. は E4ky，Jmi2t@G. は C4Ry，E4Ry とした．
また，ディリクレ分布のハイパーパラメータ α, β, γ は
6Bt2/ SQBMi Ai2`iBQM (e) により最適化した．
jXk 悵㖈㢌侧‫⽃ךה׀‬铂欰䧭然桦‫ⴓך‬匿モデルが話題や言葉遣いを捉えているか確認する

UNV

ために，どんな単語タイプが分布 θz から生成されやすいかを観察する．表kとjはそれぞれ，hQTB+@G. と

aT2F2`@G. における潜在変数 z と各単語生成確率が
URyV

大きい単語を示した．なお紙面の都合上，話題や言葉遣いとして観察できなかった z の学習結果は除外した．
表kより，hQTB+@G. については z = 4, 6, 9, 16, 19

j ٌ‫ⴓךٕر‬匿

で，それぞれ「戦車」
「艦隊」
「学校」
「料理」
「アイドル」

本研究では，hQTB+@G. と aT2F2`@G. と比べ，提案した Jmi2t@G. が人間が見てもわかりやすく，「話
題」と「言葉遣い」の違いを表現できるかを分析する．

jXR ‫ر‬٦‫ًٓػהة‬٦‫ة‬
本研究では，図Rのような登場人物の情報が付与された会話データとして，ショートストーリー UaaV を用いる．aa は q2# の掲示板に投稿された漫画やアニメのk 次創作の物語であり，カギ括弧で囲まれた発話の系列で表現されている．また，カギ括弧の直前には登場人物の名前が記載されている．本研究では，q2# 上から無作為に R 万件の aa を収集した．なお，登場人物 a の直前に発言した人物を話し相手 b と仮定した．
前処理として，発話に形態素解析を行い，発話中に出てくる登場人物の名前を PqLLJ1（発話者の名前），

uPl_LJ1U話し相手の名前V，>lJLLJ1Uそれ以外の登場人物の名前V に置き換えた．使用する語彙はデータ中の出現頻度が大きい上位 k 万単語である．

など，アニメや漫画に関連する話題が学習されたことがわかる．しかし，z = 2 は話題ではなく，「フィラー」などの言葉遣いが学習された．これは，「フィラー」が多く使われた会話があり，「フィラー」をある種の話題であるとモデルが学習したと考えられる．
表jより，aT2F2`@G. については z = 3, 8, 11, 14
で，それぞれ「ツンデレ」
「粗雑」
「稚拙」
「丁寧」など，典型的な言葉遣いが学習されたことがわかる．一方でz = 7 のように言葉遣いとは異なる「艦隊」に関する話
題が学習された．aT2F2`@G. は「話し相手によって登場人物の言葉遣いが異なる」ことを仮定したモデルであるが，ある登場人物が常に「艦隊」について言及していれば，それはある種の言葉遣いとみなすことができるため，話題が学習されたと考えられる．以上の結果をまとめると，hQTB+@G. と aT2F2`@G. はそれぞれ話題と言葉遣いを上手く学習しているが，話題と言葉遣いが混在しており，両モデルは言葉遣いと話題の― 645 ―

Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

z
R
k
j
9
8
e
d
3
N
Ry
RR
Rk
Rj
R9
R8
Re
Rd
R3
RN
ky

単語生成確率 P (w|φz ) 上位 9y 単語
司令- 官- 艦- 娘- 達- 鎮守- 府- 敵- 姉- 駆逐- 艦隊- っぽい- 出撃- 作戦- 第- 了解- 提督- 戦艦- 空母- 秘書- 戦闘- 任務- 姉さん- 訓練- 演習- 執務- 夜戦- 部隊- 艤装デ- 他- 巡- 報告- 海域- 遠征- 任せ- 装備- 艦載- 全- 妖精
みんな-k- たち-j- ライブ- まで- 練習- 麻雀- プロ- 二- 須賀- 三- 京-Ƕ- 頑張っ- 勝負- 最後- - 選手- スクールǲ- さすが-9- すごい- さあ-8- 部長-@- やり- 目- 凄い野球- 優勝- メンバー- 勝っ- 宮永- 応援- 絶対- 年生- 誕生
55-···-555-······-5555- ミサカ-ŀ-U- ァ-·- ねェ-55\-55555- こんな- -\5-\\-··- 早く- パンツ- さぁ-V-···\-····- -···5-555555- おっぱい- 綾- マスター- 御坂- 変態-···。- 痛い- こう- ちんちん-·····- 尻- 使徒- なァ>lJLLJ1- た- - くん- ここ- 犯人- 誰- 少女- 事件- 死ん- 部屋-【-】- どこ- 魔女- べ- 暁美- はず- 名前- まさか- 室- どういう- コイン- 美樹- 涼- 警察- 絶
望- ノート- 鹿目- 殺さ- 捜査- 嘘- クン- 間違い- 無事- 鍵- 探偵- 今回- 探し- 夜
戦車- 住- 西- 隊長- 会長- 由比ヶ浜- 雪ノ下- 谷- 生徒- 先輩- 殿- 試合- 学校- 先生- 学園- 比企- 流- 奉仕- チーム- 部活- みぽりん- 副- 高校- 女子- わたし- ボコ- 大
学- 友達- 依頼- クラス- 告白- アンツィオ- 優美子- 逸見- 秋山- 祭- 峰- 転校- ヒキオ- 大会の- この- 様- 魔法- あの- 人間- 攻撃- 魔- 世界- 相手- 能力- カード- 剣-y- 効果- ターン-‥- 貴様- まだ- 発動- 仲間- 召喚- モンスター- 魔物- 倒し- 魔術- 力- 魔力戦う- 魔王- 破壊- ポケモン- 勇者- 旅- 戦っ- 生き- 武器- 族- 主人- 騎士、-\- も- どう- なっ- 言っ- たい- そういう- 言わ- 聞い- それで- 気持ち- いつ- 昨日- 忘れ- 初めて- なく- それなら- いい- 良い- 大事- 幸せ- 約束- 迷惑- 今- 家族どうしても- もうすぐ- 優しく- 突然- はっきり- 誤解- 返事- また- 入ら- 体調- 嬉しく- てっきり- ちょっとした- 解っプロデューサー- アイドル-『-』- とか- 仕事- 事務所- レッスン- 的-Ǵ- ゲーム- ファン- 普通- いう- 番組- キャラ-de8- 可愛い- アニメ- っていう- なるほど- 最近大人- 意味- ラジオ- どんな- 一番- 映画- ユニット- イメージ- ロック- 最初- お疲れ様- ちなみに- 書い- 衣装- 猫- 質問- ネタ- プロデュース
ー・- ・- 進撃- 添い寝- 隣- ほか- クエスト- ー・・・- 華- ブルマ-ffffffff- 喫茶店-fffffff- 配-www- オプション-pb- 桃- 夜空- 中国- 測っ- 苦し- 恐竜- かぜ- 一覧- フランス語- ぽかぽか- すっきり- 墓参り- 昨夜- 下ろす- 止まれ- さんざん- 汚し- 辛く- ひみ- 金魚- ゆり-\V- 抱き着い
XXX-XXXXXX-XXXX-XXXXX- もう- これ- オカリン-XXX5-XXX\- 氏- 凶-XXXXXXX- ラボ-XX- 牧瀬- あぁ- 助手- 倫太郎-XXXXXXXXX-XXXXXXXX-rrr- ルカ- ダメ- ニャン- んで-XXXX\- メールメン- 橋田-XXX。- もっと-XXXXXX\- 院- 鳳凰- ござる-XXXXXXXXXX-rr-XXXXXXXXXXXX- ニャ- 笑っ
わ- 私- でしょ- あなた- あんた- もの- そうね- なに- ない- 子- ごめんなさい- 本当に- 貴方- どうして- ミキ- 貴女- あらあら- 仕方- ふふふ- うるさい- まったくうふふ- いいえ- 当然- あんな- 当たり前- 分から- 決まっ- 全く- しょうが- バカ- 何かしら- どうせ- アナタ- はね- 悪く- ずら- 呼ん- 黙っ- もらえる。- 僕- 君- だっ- ボク- 少し- しよ- すま- だい- 頼む- 分かっ- しれ- うむ- だ- さて- くれる- 彼女- これから- 心配- ふむ- おく- 構わ- だが- キミ- わから- そろそろ- もちろん- ところで- ほしい- 連絡- おや- 君たち- 頼ん- 実は- みよ- 安心- おこ- 久しぶり- 予定- そう
は- を- こと- する- という- その- ば- として- れる- しかし- ため- など- そして- 自分- ず- 必要- わけ- できる- 可能- 存在- ほど- 問題- べき- しか- 全て- しまう何故- せる- 一つ- 以上- 彼- 言葉- やはり- 我々- すれ- 為- 理由- 情報- について- つもりです- ます- さん- ましょ- でし- ので- ありがとう- お願い- わかり- では- すみません- 分かり- ご- それでは- そうですね- こちら- わたくし- はいっ- 皆さん- 違
い- すいません- 申し訳- 言い- とても- おはよう- いえいえ- 頑張り- お話- 聞き- みなさん- 構い- どうか- よろしい- ですが- 戻り- いえ- 知り- 素敵- こんにちは
たら- から- っす-R- 一- だけ- くらい- ほら- 入っ- 買っ- 今日- 持っ- 作っ- 料理- とりあえず- 食べる- 美味しい- 回- 寝- 風呂- ご飯- 朝- そこ- 家- 食べ- 使っ- 明
日- こっち- ながら- 作る- らしい- 肉- 用意- お金- お腹-Ry- 飲ん- 全部- 置い- 時間
5-5\- っ- ああ- う-fff-——- はぁ- ちょ- おお- うぅ- ゛- うう- うわ- ひっ- うっ- 待っ-ff- -—-5fff- ゃっ- だめ- はあ-ffff-5…- -5\fff- てぇ- げ- 恥ずかしいぐす- ほっ- きゃあ-5……- ぃっ- くっ- いきなり- えと- くぅ
俺- お前- ぜ- なぁ- ら- おう- まぁ- あいつ- 悪い- なんで- マジ- なあ- しろ- やつ- こいつ- オレ- わかっ- すまん- やめろ- つ- ちまっ- んじゃ- がっ- 何で- 知ら- やる- おいおい- 馬鹿- 何だ- 奴- だろ- 悪かっ- 別に- さっさと- やっぱ- すげ- 飯- アイツ- ってな- おまえ〜-PqLLJ1-Ɣ- にゃ- ねー- よー- ち- ふ- なー- ー- 兄ちゃん- - 姉ちゃん- 〜5- 〜\- 〜、- じ- ほ- 〜 Ɣ- ちん- はーい- わぁ- かぁ- ス- り- 〜。- かよ- へーしま- あー- どー- っと- ねっ- ぶ-､- ゆ- ちゃーん- すぅ- いやー- よーし…-\……- 親友- フヒ- 離れる-\…………- だるい-V……-5…………- 花言葉- 眩しい- 居心地- フヒッ- モグモグ- 気遣っ- 成り行き- 読も- シャ- 無性に- けじめ——5- 繋ご- 近付く- むや- 訊か- 羨ましかっ- 悲しかっ- ｽｩ- 思い付か- 眩しく- くれよ- 運勢- 寄せる- 動き出す- 憎く- 首尾- 夕陽- しでかし- ぼちぼち- お早う
uPl_LJ1- って- みたい- あたし- 思う- 大丈夫- じゃん- ちゃんと- 一緒- やっぱり- 思っ- うーん- ううん- のに- だから- 違う- ありがと- さっき- きっとっけ- 全然- 嫌- ホント- なんか- 知っ- ずっと- ふーん- あんまり- 怖い- 変- もしかして- へぇ- すごく- そんなに- わかる- でる- 話し- なんだか- 嬉しい- なかっ

表9 >v#`B/@G. における単語生成確率 P (w|φz ) 上位 9y 単語．1 ≤ z ≤ 10 は話題を表し，11 ≤ z ≤ 20 は言葉遣いを表す．

違いを捉えられない結果となった．
表9に Jmi2t@G. における潜在変数 z と生成確率
θz,v が大きい単語タイプの集合を示した．
まず，
話題分布の成分 φm,1 , φm,2 , ..., φm,J から生成された 1 ≤ z ≤ 10
では，hQTB+@G. に比べて，言葉遣いに関する z は学習されずに，話題に関する単語の生成確率が大きい結果となった．例えば，z = 1 では「艦隊」，z = 6 では「勝負」に関する単語の確率値が大きい．言葉遣い分
布の成分 ψm,J+1 , ψm,J+2 , ..., ψm,J+K から生成された11 ≤ z ≤ 20 では，z = 15 を除いて，話題は学習されずに言葉遣いに関する単語の生成確率が大きい結果となった．例えば z = 12 では，ǳ僕Ǵ や ǳふむǴ，ǳさてǴなどの目上の人が使う言葉遣いが学習されている．しかし z = 15 では，言葉遣いには見えない生活的な単語の生成確率が大きい結果となった．これは，ある登場人物だけが「生活」について言及しているため学習された結果であり，これは「世話焼き」な人の言葉遣いとして見ることができる．一方で，z = 7 や z = 9，z = 19のような話題でも言葉遣いでもない潜在状態も学習されれいる．これらは，助詞などの「基本的な機能語」や，形容詞・副詞などの「感情」などの別の因子をモデル

9ֶ‫ח׶׻‬
本研究では，会話における「話題」の一貫性と，登場人物の「言葉遣い」の一貫性を捉えた潜在トピックモ
デル Jmi2t@G. を提案した．提案手法は「特定の会話内の各単語トークンは話題または言葉遣いのどちらか一方にしか属さない」という仮定をモデル化することにより，「話題」と「言葉遣い」を明示的に区別することが可能となった．今後は，学習された話題と言葉遣いの妥当性を主観評価する予定である (d)．また，提案モデルの応用として，指定した話題や言葉遣いを満たす応答を生成する対話システムの構築を目指す．

⿫罋俑柃(R) HM _Bii2`- *QHBM *?2``v- M/ "BHH .QHMX lMbmT2`pBb2/ KQ/2HBM;
Q7 irBii2` +QMp2`biBQMbX AM L*G kyRy- T;2b RdkĜR3y- kyRyX(k) E2 w?B M/ CbQM .X qBHHBKbX .Bb+Qp2`BM; Hi2Mi bi`m+im`2 BM
ibF@Q`B2Mi2/ /BHQ;m2bX AM *G kyR9- T;2b jeĜ9e- kyR9X(j) CBr2B GB- JB+?2H :HH2v- *?`Bb "`Q+F2ii- 2i HX  T2`bQM@#b2/
M2m`H +QMp2`biBQM KQ/2HX AM *G kyRe- T;2b NN9ĜRyyj- kyReX(9) .pB/ JX "H2B- M/`2r uX L;- M/ JB+?2H AX CQ`/MX Gi2Mi /B`B+?@
H2i HHQ+iBQMX CQm`MH Q7 J+?BM2 G2`MBM; _2b2`+?- j,NNjĜRykkkyyjX(8) h?QKb G :`B{i?b M/ J`F ai2vp2`bX 6BM/BM; b+B2MiB}+ iQT@
B+bX S`Q+22/BM;b Q7 i?2 LiBQMH +/2Kv Q7 a+B2M+2b- RyR,8kk3Ĝ8kj8kyy9X(e) h?QKb SX JBMFX 1biBKiBM;  /B`B+?H2i /Bbi`B#miBQMX h2+?MB+H`2TQ`i- kyyyX(d) CQMi?M *?M;- a2M :2``Bb?- *?QM; qM;- CQ`/M G "Qv/@:`#2`- M/ .pB/ J "H2BX _2/BM; i2 H2p2b, >Qr ?mKMb BMi2`@T`2i iQTB+ KQ/2HbX AM LASa kyyN- T;2b k33ĜkNe- kyyNX化することで改善されると考えられる．

― 646 ―

Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.