人工知能学会研究会資料
SIG-SLUD-B402-02

言語的個人性変換における言語モデルの適応と分析
Language Model Adaptation and Analysis for Individuality
Transforming
水上 雅博 1∗Masahiro MIZUKAMI1

Graham Neubig1
Graham NEUBIG1

Sakriani Sakti1

Sakriani SAKTI1

戸田 智基 1

Tomoki TODA1

中村 哲 1

Satoshi NAKAMURA1

奈良先端科学技術大学院大学
Nara Institute of Science and Technology
11

Abstract: In text and speech, there are various features that express the individuality of thewriter or speaker. We proposed a method for transforming individuality using a technique inspiredby statistical machine translation (SMT), and showed the eﬀectiveness. In previous work, we
proposed a method for paraphrasing for characteristic words using n-gram clustering. However,
the method can be improved, because it considers only short context. In this paper, we propose
a model of transforming individuality that considers longer contexts. To achieve this, we suggest
adaptation of the language models and expansion of paraphrasing for characteristic words.

1

はじめに

円滑な意思疎通を行う上で，伝えたい内容のみならず，その内容を伝えるために用いる語彙や，発話の際に用いる韻律や声質など，内容に直接影響しない要素も重要な役割を果たす．これらの要素は人間とコンピュー
タのコミュニケーションにおいても重要であると考えられる．例を挙げれば，対話システムにユーザの望む
性格や性別，または特定の有名人，キャラクターの話し方を再現することで，より良い印象を与えられる．そのため，対話システムにおいて，話し方を適切に制御する技術の構築が望まれる．
対話システムの話者性に関して，個人性を考慮した
音声合成の研究等が進んでおり，その発展として，話者の声質を考慮した音声翻訳システムなども実現されている．その一方で，話し言葉特有の言語表現や，文章における話者ごとの特徴（以下，言語的個人性と呼ぶ）までも制御する研究は少なく，社交性や知性など，
個人性のごく一部の要素を考慮し，ルールベースの文
章生成でその特徴を再現する研究 [1] などに限定される．個人性を扱うに当たって，このような心理学的要
素を個人性の表現モデルとして汎化した場合，目的の
個人性を柔軟に制御できるものの，特定の個人を再現することや架空のキャラクターなどのステレオタイプ
な個人性を再現できない問題がある．
我々は，統計的機械翻訳の技術を用い，話し言葉の書き起こし文章に対して言語的な個人性を変換する手法（以下，言語的個人性変換と呼ぶ）を提案している∗ 連絡先：奈良先端科学技術大学院大学

奈良県生駒市高山町 8916-5
E-mail: masahiro-mi@is.naist.jp[2, 3]．言語的個人性変換は，文章生成ではなく文章変換を行うことで既存の対話システムの内部に変更を加えることなく個人性が制御可能となる．また，対訳コーパスを必要とせず，言語モデルおよび言い換えモデルを学習するための少量の目標話者コーパスのみで利用できる．しかしながら，現状では，ごく少量の目標話
者コーパスから言語モデルを構築するため，高い精度を保証できない問題があった．また，言い換えモデルにおいても，話者依存性のない一般的な言い換えデー
タか，事前に選ばれたわずかな特徴語に対して，前後の n-gram 分布から置き換え可能な単語を探すのみであった．
本稿では，より高精度な言語的個人性変換を行うた
めに，言語モデルの適応と，より広い文脈を考慮できるように特徴語の言い換え手法の拡張を提案する．言語
モデルの適応では，目標話者のコーパスから学習された言語モデルと，目標話者に類似するドメインのコー
パスで学習された言語モデル，そして，一般的な日本
語コーパスから学習された言語モデルをそれぞれ適応
し，目標話者に最も近い言語モデルを構築する．言い換えモデルの拡張では，今まで前後１単語の n-gram 分
布のみを考慮していた言い換え抽出を，より広い範囲の n-gram 分布を考慮する手法を提案する．
なお，本稿では複数の言語モデル，言い換えモデル
を組み合わせて個人性変換モデルを構築し，評価を行う．評価を効率よく行うため，人手によってつくられた特定の入力に対する理想的な変換結果（以下，参照文）を用意し，参照文ベースの自動評価を行う．また，自動評価を用いて，個人性変換モデルの変換パラメー
タをチューニングし，最も自動評価において高い評価を得られた変換モデルを用いた個人性変換結果を対象−7−

に，被験者による主観評価実験を行う．

2(3)

言語的個人性変換

言語的個人性変換 [2, 3] では，与えられたテキスト
V を目的の話者の個人性を持つテキスト W へと変換
する．基本となる変換のモデルは，統計的機械翻訳において代表的なモデルである雑音のある通信路モデルを用いる．雑音のある通信路モデルは，同言語間における翻訳の関連研究である話し言葉の整形 [4] でも利用されている．
一般的な統計的機械翻訳においては，変換する要素を対としたコーパス（以下，対訳コーパス）を利用し，学習を行う．しかしながら，言語的個人性変換において翻訳モデルの学習を行うためには「同じ意味を持ち，異なる個人性を持つ」特殊な対訳コーパスを必要とす
る．個人性を再現したい各個人に対して，この対訳コーパスを収集するのは労力がかかるため，我々は今まで，
n-gram やシソーラス，日英対訳コーパス等から学習された言い換え資源を用いて構築した擬似的な翻訳モデルを構築している [2, 3, 5]．特に，文献 [5] で提案された特徴語の言い換えモデルは，固有のキャラクターや
特殊な話し方をする話者の個人性を変換するために非常に効率的であることが示されている．
言語的個人性変換のモデル化では，十分な量が確保可能な目標話者の個人性を持つ言語モデル確率 P (W )と，言い換え抽出によって得られる言い換えモデル確率 P (V |W ) の二つを用いて，事後確率 P (W |V ) を以
下のようにモデル化する．

P (W |V ) =P (V |W )P (W )P (V )(1)

なお，変換モデルに存在する λLM は言語モデルに対する重み，λW P は文章長に対する重みを示すパラメー
タである．先行研究においては，これらのパラメータには経験的に一意な値を与えていたが，本稿では 6.4 節
で説明する参照文を用いた自動評価指標を利用し，尤もらしい変換が行われるパラメータを推定する．

3

言語モデルは言語的個人性変換において，変換候補の文章がどの程度目標話者らしいかを評価するために用いられる．言語モデルを構築する上で問題となるのは，一人の話者から集めることのできる発話は限られており，内容も限定的である点である．このような少量の目標話者の発話のみから構築された言語モデルを用いて正確に言語モデル確率 P (w) を推定することは困難である．これらの問題を解決するために，先行研究
では，少量の目標話者コーパスから学習された言語モ
デル Pt (w) と，大量の全話者混合コーパスから学習された言語モデル Pg (w) を，与えられた目標話者のテキストに最も一致するように線形結合を行っていた．また，目標話者コーパスが少量であることから，非常に短い文脈のみを考慮する n-gram モデルを利用していた．
本稿では，先行研究で利用した目標話者の言語モデル
Pt (w) と大規模な全話者混合の言語モデル Pg (w) に加えて，目標話者に類似したドメインの言語モデル Pd (w)を結合することで，少量の目標話者データから高精度で長い文脈を考慮できる言語モデルを構築する．なお，
言語モデルを線形結合する際には，与えられた文章に対して最適な結合係数 λt , λd , λg をそれぞれ求める．

与えられた V に対して P (W |V ) が最大となる Ŵ を探索する．P (V ) は W の選択によらず変動しないため，
以下のように表せる．

Ŵ = argmax P (V |W )P (W )言語モデルの適応

P (w) = λt Pt (w) + λd Pd (w) + λg Pg (w)λt + λd + λg = 1

(4)

(2)

W

しかしながら，翻訳モデルにおいて W と V が異なる文章長を持つような変換が行われる場合，言語モデ
ル確率を最大化するために文章を短くするような変換候補ばかりが選択され，不当に短い変換結果が出力されることがしばしばある．これを防ぐために，機械翻訳では出力単語数に比例してスコアに加算されるワー
ドペナルティを導入し，文章の単語数を制御している．
本研究でも，変換モデルにおける候補 Ŵ のスコアを，
対数スケールで表現される事後確率 P (W |V ) とワードペナルティW P と Ŵ の単語数 N の積を用いて，以下のように定義する．

4

言い換えによる翻訳モデル

先行研究 [2, 3] では，言語的個人性変換に利用可能な対訳コーパスを収集する労力を考慮し，対訳コーパ
スを用いずに学習可能な一般的な言い換えとその言い換え確率を用いて擬似的に翻訳モデルを構築している．
しかしながら，一般的な言い換えのみでは，特徴的な話者や固有のキャラクターの個人性を変換できないという問題があった．
これに対して文献 [5] では，ごく少量の目標話者のコーパスと大規模な全話者混合のコーパスを比較する
ことで，単言語のコーパスから話者特有の語彙（以下、特徴語と呼ぶ）の言い換えを抽出する手法を提案し，特徴的な個人性を持つ目標話者への言語的個人性変換をŴ = argmax logP (V |W ) + λLM ∗ logP (W ) + λW P ∗ N 可能にしている．
W−8−

表 2: 参照文の一例

表 1: 特徴語の言い換えの一例 (文脈長 m = 3)v
だ。

w
だ モン ！
だ モン 。
だ モン ☆
か モン ？
モン ！
計 13 語P (w|v)
0.15
0.08
0.06
0.06
0.05

この手法では，目標話者の言語モデルと全話者混合の言語モデルの n-gram 確率から，言語モデル間の差異に寄与する量を示す χ2 値を計算し，χ2 値が大きい語を対象として言い換えの抽出を行った．言い換えの抽出，言い換え確率の計算では，単語間の n-gram 分
布の類似性 [6] を用いて，類似の文脈で登場する単語対は言い換えられるという仮定から，言い換え可能な語を抽出している．しかしながら，この手法は前後 1 単
語の n-gram 分布のみを考慮するため，大域的な文脈は考慮できていなかった．
本稿では，この手法を拡張し，任意の前後 m 語のn-gram 分布の類似性を考慮した言い換え確率を計算する手法を提案する．また，文献 [5] においては，類似性を JS ダイバージェンスを負の乗数とした指数関数として計算したが，本稿ではコサイン類似度を利用する．
この理由として，計算量の問題が挙げられる．JS ダイ
バージェンスは言い換えの候補となる任意のフレーズ
v およびフレーズ w の持つ全ての n-gram を考慮して計算するが，これは考慮する文脈 m を大きくすると，組合せ爆発が起こり，実時間内の計算は不可能となる．
これに対してコサイン類似度は，各要素の積として表現されるため，どちらか一方でも 0 となる要素は計算しなくてよい．すなわち，任意のフレーズ v およびフレーズ w の持つ全ての n-gram のうち少ない方を要素数のみで計算が終了する．
以下に特徴語言い換えの抽出手法を示す．
1. 一般的コーパスから出現頻度の高いフレーズの集合 Vを，目標話者コーパスから出現頻度の高いフレーズの集合 W を抽出する．
2. あるフレーズ v ∈ V ，w ∈ W の前後 m 単語における
n-gram 分布仮定を両コーパスから計算する．
3. あるフレーズ v ∈ V ，w ∈ W 間の n-gram 分布仮定のコサイン類似度 Cos(w, v) を計算する．
4. あるフレーズ v ∈ V に対して，言い換え候補 w ∈ W
について以下の式を用いて周辺化を行い，言い換え確率 P (w|v) を求める．
P (w|v) = ∑ ′ Cos(w,v)
Cos(w′ ,v)w ∈W

5. 言い換え確率 P (w|v) が閾値 1 以上のフレーズ v，wを言い換えとして抽出する．

本手法によって得られた言い換えの例を表 1 に示す．
1 本稿では，経験的に閾値を 0.01 とした．

入力文
参照文

見てるだけです。
見てるだけだモン☆
見てるだけだモン。
見てるだけだモン。
見てるだけだモン！

入力文
参照文

ありがとう。
ありがとうだモン！
サンクマー☆
ありがとうだモン！
サンくまー☆

参照文の収集5

2 節で述べたとおり，言語的個人性変換における対訳
コーパスを変換モデルの学習が可能な量を収集することは労力がかかる．そのため，文献 [2, 3, 5] では言い換え資源を用いて擬似的な翻訳モデルを構築している．
本稿では，人手で作られた理想的な入力文と，入力文に目標話者の言語的個人性を与えた対訳コーパス（以下，参照文と呼ぶ）をモデルの学習ではなく，評価とチューニングのみに用いることで，少量の参照文から高精度な言語的個人性変換のモデルを構築する手法を提案する．言語的個人性変換のモデルのチューニング
は，6.4 節にて説明する．参照文の収集は以下の手順で行われる．
1. 作業者に目標話者の発話を集めたコーパスを熟読してもらい，目標話者の言語的個人性を学習する．
2. 作業者に全話者混合の一般的な話し言葉コーパスから，ランダムに抽出した 20 文章を与える．
3. 作業者は，与えられた文章を先に学習した目標話者の言語的個人性を持つように書き換える．
4. 作業者によって書き換えられた，目標話者の言語的個人性を持つ文章を入力文と対にして参照文として収集する．

今回は，4 名の作業者に対して参照文の収集を行った．表 2 に与えた入力文と被験者から得られた参照文
を例として示す．

6

評価的実験

6.1

実験条件

実験条件として，先行研究 [5] と同様に，特定のキャラクターを目標話者として設定した．また，参照文収
集には、目標話者の言語的個人性を十分に理解した作業者が複数人必要であり，複数のキャラクターの参照
文を収集することは難しい．そのため，本稿では目標
話者を 1 つのキャラクターに限定した．
評価実験に用いる言語的個人性変換の言語モデルの学習と適応，言い換えモデル，チューニングに用いる−9−ϭϬϬϬϬϬ

表 3: 変換用言語モデルの緒元
種類
目標話者
ドメイン
旅行会話
一般例文
目標話者

文数
1304
390k
186k
169k
326

単語数
16.0k
5178k
1645k
3560k
4.2l

dĂƌŐĞƚͲ:Ă
dĂƌŐĞƚͲdǁͲ:ĂϭϬϬϬϬWĞƌƉůĞǆŝƚǇ

コーパス名
Character
Twitter
BTEC[7]
REIJIRO
Dev

dĂƌŐĞƚ
dĂƌŐĞƚͲdǁ

ϭϬϬϬ

ϭϬϬ

ϭϬ
ϭ

コーパス名
Character
Twitter
BTEC[7]
REIJIRO
Dev1
Dev2

種類
目標話者
ドメイン
旅行会話
一般例文
目標話者
一般例文，旅行会話

文数
1304
7371k
186k
169k
326
88.9k

単語数
16.3k
83724k
1648k
3555k
4.1k
1029k

ϳ

図 1 から，全ての言語モデルにおいて長い文脈を考慮することでパープレキシティは減少することが分かった．また，適応に用いる言語モデル数を増やすことでパープレキシティは減少することが明らかになった．全言語モデルのパープレキシティを比較したところ，最小のパープレキシティとなった言語モデルは Target-TwJa 言語モデルの 5-gram であった．この結果を踏まえ，
6.4 節で利用する評価用の言語モデルは Target-Tw-Ja
言語モデルの 5-gram とした．

言語モデルの構築と適応

言語的個人性変換に用いる言語モデルを学習，適応する．なお，目標話者と類似のドメインのコーパスとして，Twitter から収集したコーパスを利用する 2 ．学習に用いたコーパスの緒元を表 3 に示す．なお，結合の際は Dev コーパスを利用して適応する．適応の結果を 4 に示す．また，言い換えモデルも表 3 のコーパスを用いて，4 節の手法で構築する．
6.4 節において，言語的個人性変換の結果を自動評価するために，目標話者の言語モデルと，話者混合の一般的な言語モデルの二つの評価用の言語モデルが必要となる．評価用の言語モデルの学習に用いたコーパスの緒元を表 5 に示す．評価用の目標話者の言語モデルは
表 5 の全てのコーパスから学習した言語モデルを Dev1を用いて適応，一般言語モデルは，BTEC と REIJIROから学習した言語モデルを Dev2 を用いて適応することで得られる．

6.3

ϱ

図 1: 各言語モデルとパープレキシティ

評価用の言語モデルの学習と適応の手順を次節よりに
示す．

6.2

ϯ
Ŷ

表 5: 評価用言語モデルの緒元

言語モデル適応の評価6.2 で構築した言語モデルの評価として，適応によって構築されたそれぞれの組合せの言語モデルを用いて，目標話者の学習に利用していないテストコーパス 3 に対するパープレキシティを計算した．言語モデルの組合
せ，文脈長 n，パープレキシティの関係を図 1 に示す．
2 ノイズを除去するために，Twitter から得られたコーパスは，リ

プライ，RT，ハッシュタグ，URL を除外した．
3 326 文，合計単語数 4.1k．

6.4

自動評価とチューニング

パラメータのチューニングを行うために，先行研究[8, 5] 基づいて自動評価手法を行う．自動評価の指標は以下の二つを選択した．
言語モデル指標 (LMM) Xu らによって提案された話し方に関する自動評価指標の一つで，目標話者らしさと高い相関を示す指標である [8]．変換前の言語モデル確率 Pg (W ) と目標話者の言語モデル
確率 Pt (W ) を用いて以下のように表現される 4 ．
t (W )P (style = target|W ) = Pt (WP)+P
g (W )BLEU 先行研究 [8] において自然性と高い相関を示す指標であり，統計的機械翻訳の自動評価で最も頻繁に利用される自動評価指標の一つである．
BLEU は参照文と出力文においてどれだけ n-gramが一致するかを計算する [9]5 ．
2 節で述べたとおり，先行研究においては，言語的個
人性変換で利用されるモデルのパラメータは経験的に決定されていた．本稿では 5 節で得られた参照文と 6.2
節で得られた評価用の言語モデルを用いて，言語的個
人性変換の最適なモデル構成とパラメータをチューニングする．
4 この指標は目標話者の言語モデルと一般言語モデルを必要する
が，これは 6.2 節で示した評価用の言語モデルを利用する．
5 一般的に，BLEU を計算する際の n-gram は n=4 とされる．
本稿でも，n=4 として BLEU を計算した．

− 10 −

表 4: 言語モデル適応の組合せ
言語モデル
Target+Tw+Ja
Target+Tw
Target+Ja
TargetCharacter(0.61)
Character(0.62)
Character(0.76)
Character(1.00)

利用コーパス (結合係数 λ)Twitter(0.35) BTEC(0.01)
Twitter(0.38)
BTEC(0.06)-

チューニングの際は，先述の自動評価指標である LMMと BLEU，そして LMM と BLEU の幾何平均を最大化する．このような自動評価指標を用いたチューニング
手法は MERT[10] と呼ばれ，統計的機械翻訳の分野では幅広く利用されている．

REIJIRO(0.03)
REIJIRO(0.18)
-

ϰ
ϯ͘ϱ

/ŶĚŝǀŝĚƵĂůŝƚǇ

ϯ
Ϯ͘ϱ
Ϯ
ϭ͘ϱ
ϭ

6.5

チューニングと分析Ϭ͘ϱϬ

6.4 節で説明した自動評価を用いたチューニングを行い，その結果を表 6 に示す．
チューニングの結果，全ての指標において，言い換
えモデルにおける文脈長を m を長く考慮した方が評価
指標は向上した．BLEU では，変換なしに比べてわず
かに向上したが，LMM 値も変換無しに比べてわずかに向上するのみであった．LMM 値の向上値が小さいことから，変換はあまり行われなかったと考えられる．
LMM では，LMM 値が向上したが，BLEU 値は低下した．これらの値から，多くの単語が変換によって追加されたと考えられる．BLEU と LMM の幾何平均である
BLEU+LMM では，変換無しに比べて BLEU 値はわず
かに低下したが，LMM 値のは向上した．BLEU+LMM
は BLEU を低下させないように，LMM を最大化する
ような変換結果が得られたと考えられる．

6.6

ኚ᥮↓䛧

ĂƐĞůŝŶĞ

>h

>DD

>hн>DDDŽĚĞů

図 2: 変換モデルと目標話者らしさϲϬϱϬtZ΀й΁

ϰϬ
ϯϬ
ϮϬ
ϭϬ
Ϭ
ĂƐĞůŝŶĞ

>h

>DD

>hн>DDDŽĚĞů

図 3: 変換モデルと WER

主観評価実験

先行研究 [5] と同様に，被験者による主観評価を通して変換結果の目標話者らしさと変換精度の評価を行った．
主観評価の対象となる文は，BTEC および REIJIROのコーパスから，言語モデルの学習に用いられなかった文からランダムに 10 文選択され，言語的個人性変換は 6.4 節で得られたモデル，パラメータを用いて行われる．なお，今後はそれぞれ言語的個人性変換に利用したモデル，パラメータをチューニング時に利用した評価指標名（BLEU，LMM，BLEU+LMM）で表記
する．
得られた変換結果，計 30 文に対して，被験者 5 名が目標話者らしさおよび変換で生じた単語誤り率を評価する．評価結果に対して信頼区間を有意水準 p < 0.05の Bootstrap Resampling[11] を用いて求める．また，
文献 [5] と同様の手法で個人性変換を行った文章に対しても同様の評価も行い，ベースラインとしてそれを
示す．

6.7

主観評価実験結果

図 2 に変換モデルと目標話者らしさの関係を，図 3に変換モデルと WER の関係を示す．
変換前の目標話者らしさは 1.0（目標話者らしくない）であり，ベースラインの目標話者らしさは 2.79 まで向上した．提案法による目標話者らしさは，LMM を用いた際に 2.22，BLEU+LMM を用いた際に 3.13 まで向上したが，BLEU を用いた際には変換が行われなかった．
また，WER はベースラインが最小で 1.2%，提案法中では変換が行われなかった BLEU を除いて，BLEU+LMM
を用いた際に最小となり，5.3%となった．LMM では，
言語モデル確率のみを考慮するため，しばしば過剰な変換が行われ，WER が大きくなる．Xu らの研究 [8]において，LMM 値は目標話者らしさと高い相関を示
すことがすでに明らかになっているが，本手法においては，非常に単語誤りの多い文章が生じるため，LMM− 11 −

表 6: チューニングとパラメータ
Model
変換無し
BLEU
LMM
BLEU+LMM

LM n
7
7
7

TM m
3
3
3

λLM
0.1
0.1
0.6

λW P
0.2
5.3
1.6

BLEU
0.894
0.903
0.071
0.790

LMM
0.267
0.305
0.995
0.841

BLEU+LMM
0.489
0.525
0.266
0.815

参考文献

表 7: 変換結果の一例[1] François Mairesse and Marilyn A Walker. Controllinguser perceptions of linguistic style: Trainable generation of personality traits. Computational Linguistics,
Vol. 37, No. 3, pp. 455–488, 2011.
[2] 水上雅博, Graham Neubig, Sakriani Sakti, 戸田智基,
中村哲. 話し言葉における言語情報の個人性変換における変換辞書拡張. 電子情報通信学会音声研究会 (SP), 千葉, 9 2013.
[3] 水上雅博, Graham Neubig, Sakriani Sakti, 戸田智基,
中村哲. 日本語言い換えデータベースの構築と言語的個人性変換への応用. 言語処理学会第 20 回年次大会(NLP2014), pp. 773—-776, 北海道, 3 2014.
値のみを最大化しても，目標話者らしさは最大化され[4] Graham Neubig, Yuya Akita, Shinsuke Mori, andなかった．これに対して，BLEU は n-gram 一致と単
Tatsuya Kawahara. A monotonic statistical machine
語数を考慮するため，個人性を最大化するために過剰translation approach to speaking style transformation. Computer Speech & Language, Vol. 26, No. 5,に特徴語を言い換えたり，文章長を変化させることは
pp. 349–370, 2012.
少なくなり，結果として BLEU+LMM を用いた場合，[5] 水上雅博, Graham Neubig, Sakriani Sakti, 戸田智基,
LMM に比べて低い WER になり，BLEU のみを用い
中村哲. 特徴的話者を対象とした言語的個人性変換. 情た場合は変換が行われなかったと考えられる．
報処理学会 第 216 回自然言語処理研究会 (SIG-NL), 東
京, 5 2014.
BLEU をチューニングに用いた際に変換が行われな[6] Regina Barzilay and Lillian Lee. Learning to paraかった原因として，変換前の BLEU 値が 0.894 と高い
phrase: An unsupervised approach using multiple値であり，変換を行って誤った文章を得るよりも，変sequence alignment. In Conference of the North
換を行わないようなパラメータがチューニングによっAmerican Chapter of the Association for Computational Linguistics: Human Language Technologies :て得られたと考えられる．
Main Proceedings, pp. 16–23, 2003.
主観評価実験の結果から，提案法 BLEU+LMM は[7] Toshiyuki Takezawa, Eiichiro Sumita, Fumiaki Sugベースラインに比べて目標話者らしさが向上したが，
aya, Hirofumi Yamamoto, and Seiichi Yamamoto. Toward a broad-coverage bilingual corpus for speech
WER もベースラインに比べて増加した．
translation of travel conversations in the real world.
最後に，表 7 にベースラインと提案手法（BLEU+LMM）
In The International Conference on Language Reの変換結果の一例を示す．
sources and Evaluation, pp. 147–152, 2002.
[8] Wei Xu, Alan Ritter, Bill Dolan, Ralph Grishman,
and Colin Cherry. Paraphrasing for style. In Proceedings of COLING 2012, pp. 2899–2914, Mumbai,
まとめ
India, December 2012. The COLING 2012 Organizing Committee.
本稿では，言語的個人性変換の高精度化を目標とし，[9] Kishore Papineni, Salim Roukos, Todd Ward, and言語モデルの適応とより大域的な文脈を考慮した特徴
Wei-Jing Zhu. Bleu: A method for automatic evaluation of machine translation. In Proceedings of the
語の言い換え，参照文を用いたチューニングを行った．
40th Annual Meeting on Association for Computa言語モデルを適応することにより，従来よりも高精度
tional Linguistics, ACL ’02, pp. 311–318, Stroudsで長い文脈を考慮可能な目標話者言語モデルを獲得し
burg, PA, USA, 2002. Association for Computational
Linguistics.
た．また，より大域的な文脈を考慮した特徴語の言い[10] Franz Josef Och. Minimum error rate training in sta換えでは，先行研究に比べて長い文脈を考慮すること
tistical machine translation. In Proceedings of theにより，高精度な特徴語言い換えモデルを獲得した．こ41st Annual Meeting on Association for Computational Linguistics-Volume 1, pp. 160–167. Association
れらを組み合わせた言語的個人性変換モデルとチュー
for Computational Linguistics, 2003.
ニングの有効性を主観評価実験を通して示した．
[11]
Philipp
Koehn. Statistical significance tests for ma今後は，文脈のみでなく，語彙を形成する内部構造
chine translation evaluation. In Conference on Emの類似性を用いた言い換え抽出や既知の言い換え規則
pirical Methods on Natural Language Processing, pp.
388–395, 2004.
を利用した特徴語の言い換え抽出手法を提案する．
モデル
入力文
ベースライン
提案法
入力文
ベースライン
提案法

変換結果
食べ たい もの は あり ます か 。
食べ たい もの は あり ます モン 。
食べ たい もの は あり ます か モン ？
参加 し て い ます 。
参加 し て い た モン ！
参加 し て き た モン 。

7

− 12 −