情報処理学会研究報告
IPSJ SIG Technical Report

1. ま え が き

重み付き有限状態トランスデューサーと対数線形モデルを用いた話し言葉の整形

従来の自動音声認識 (ASR) システムは音声の音響的特徴 X から、発話された内容 V を忠実に書き起こすことを目的としている。統計的手法を用いる場合、音響的特徴 X から事後確率 P (V |X) が最も高くなる V̂ を探索する。しかし、自然な発話にはフィラーや言いよGraham Neubig †1

森信介†1

河 原 達

どみ、口語的表現、助詞の脱落などが存在するため、忠実な音声認識結果は人間にとってか也†1

えって読みづらい。このため、プロの速記者は話し言葉に含まれる冗長性や口語的表現を修正し、読みやすい文章を作成する。音声認識を用いた書き起こしシステムも同様にこのよう自然な話し言葉には、フィラーや言いよどみ、口語的表現、助詞の脱落など、書き言葉に出現しない現象が多く含まれている。音声認識の結果から読みやすい書き起こしを作成する際に、このような現象に対応し、書き言葉に整形する必要がある。本研究では、話し言葉の整形を統計的機械翻訳の問題として扱い、この枠組みの中で様々なモデルを提案する。特に、話し言葉固有の現象を捉える複数の特徴量を組み合わせる対数線形モデルを導入する。このモデルを重み付き有限状態トランスデューサー (WFST)を用いて実装した。国会討論を対象とした評価実験において、ルールベースや単純な統計的モデルを用いた手法に比べて提案手法は精度を大幅に改善することができた。

な現象を修正し、可読性の高い文を出力することが理想的である。このような処理は人間の読者のためだけでなく、音声翻訳などの機械処理においても有益である1) 。
話し言葉の整形はこのように自動書き起こしシステムの実現に向けて大きな課題であり、多くの研究がなされてきた。英語等の場合では、フィラーや言い直しなどの検出として定式化され、雑音のある通信路や隠れマルコフモデル (HMM)、条件付確率場 (CRF) などで整形を行うことが多い2)–4) 。これにより冗長な表現を削除することができるが、人間の整形においては、削除のみならず脱落された単語の挿入や口語的表現の置換などの修正も行わ

Log-Linear Speaking-Style Transformation
using Weighted Finite State Transducers

れる。これは日本語のような、話し言葉と書き言葉が著しく異なる言語では特に重要となる5),6) 。
先行研究では、話し言葉整形を統計的機械翻訳の問題とみなし、雑音のある通信路モデル

Graham Neubig ,†1 Shinsuke Mori †1and Tatsuya Kawahara†1を用いて言語モデルと翻訳モデルの確率を分解している。これに対し、近年の統計的機械翻訳では対数線形モデルを採用することで、雑音のある通信路モデルで導入困難であった特徴量を扱うことが可能になっている。本研究ではこの枠組みを用いて、整形を必要とする箇所

In spontaneous speech, there exist a number of fillers, disfluencies, colloquial
expressions, and omitted words that do not appear in normal written text. In
order to create easily readable transcripts from automatic speech recognition
results, it is necessary to transform verbatim speech into a more appropriate
written form. This paper proposes a system to correct these spoken-language
phenomena based on the framework of statistical machine translation. A number of potentially useful features are proposed, and combined in a log-linear
framework. The system was implemented using weighted finite state transducers (WFSTs), allowing for easy integration with WFST-based speech recognition engines. In an evaluation on a corpus from the National Diet (Congress)of Japan, the proposed system showed a large increase in accuracy over a rulebased baseline and simple statistical systems.の文脈依存性や共起傾向などを考慮したモデル化を提案する。また、システムの実装法として重み付き有限状態トランスデューサー (WFST) を利用する。これにより、特徴量の開発・導入を迅速に行うことができ、WFST の音声認識システムとの統合も容易となる。
国会の会議録作成で評価実験を行い、提案手法の有効性を検証する。具体的には、人手による忠実な書き起こしと国会の会議録の “対訳コーパス” を学習・評価データとし、会議録を正解とみなしシステムの出力の単語誤り率 (WER) を評価基準として評価を行う。

†1 京都大学 情報学研究科
Graduate School of Informatics, Kyoto University

1c 2009 Information Processing Society of Japan情報処理学会研究報告IPSJ SIG Technical Report

は大量の多言語データから学習可能である。
翻訳モデル確率を推定する際に、単語の翻訳確率が文脈に依存しないと仮定し、文の翻訳モデル確率を各単語の翻訳確率の積で近似する。
図 1 話し言葉整形の一例
Fig. 1 An example of transformed speech

P (V |W ) ≈∏P (vi |wi )i

P (vi |wi ) を 算 出 す る た め に 、原 言 語 文 V=(2){v1 , . . . , vk } と 目 的 言 語 文 W={w1 , . . . , wk } をアラインメントし、アラインメントされた単語対の列 Γ = {γv1 ,w1 =
hv1 , w1 i, . . . , γvk ,wk = hvk , wk i} を作成する。γvi ,wi と wi の出現回数 c(γvi ,wi ) と c(wi ) を2. 話し言葉の整形

数え、以下の式で P (vi |wi ) を求める。

会議録や講演録を作成する上で編集者が行う修正として以下のようなものがある6) 。

(1)c(γvi ,wi )(3)c(wi )
削除や挿入の確率を計算するために、ヌル文字列  を用いて、削除・挿入された単語に対しP (vi |wi ) =フィラー等の削除: 「あのー」や「えーと」などのフィラー単語を削除する。「ですね」のように、フィラーとしても機能語としても利用される語についてはフィラーかて、それぞれ P (v|) と P (|w) を推定する。「いろんな」→「いろいろ な」のような一対否か判断する必要がある。

(2)

多関係を扱うために「いろいろ な」を 1 つの単語として語彙に登録する。

書き言葉表現への変換: 「いろんな」などの口語的表現を「いろいろ な」のような統計的機械翻訳の手法で話し言葉の整形を行う先行研究のほとんどはこの雑音のある通文書にふさわしい書き言葉表現に変換する。

(3)

信路モデルを用いている2),3),5),6) 。

助詞の挿入: 「注文つける」のように助詞が脱落された文に「注文 を つける」のよ

3.2 対数線形モデル

うに適切な助詞を挿入する。

(4)

話し言葉の整形では、言語モデル確率と翻訳モデル確率以外にも有用な特徴がある（第その他の修正: 倒置部や言い淀み、独り言、単語の誤用、誤った情報の修正を行う。

4 節参照）。このような特徴量を導入する方法として対数線形モデルが効果的である7) 。簡

整形前と整形後の文の例を図 1 に示す。本研究では統計的手法を用いて、主に (1)〜(3)単な対数線形モデルは式 (1) の対数を取り、それぞれの項に重みをつけることによって得らを対象とする。

れる。

Ŵ = argmax [λ1 log P (V |W ) + λ2 log P (W )]3. 整形のモデル化(4)

W

話し言葉の整形を行うために、発話の忠実な書き起こし V と会議録 W を異なる言語とλ1 と λ2 の値が両方 1 である場合、式 (1) と式 (4) で得られる Ŵ は同一である。したがっみなし、V から W への統計的機械翻訳を行う。事後確率 P (W |V ) を以下のような手法でて、最適な重みを選択すれば対数線形モデルを用いることで単純な雑音のある通信路モデルより高い精度が期待できる。重みの学習については第 5.4 節で述べる。

モデル化し、与えられた V に対して P (W |V ) が最も高くなる Ŵ を探索する。

また、対数線形モデルにおいて、多様な特徴量を組み合わせることも可能である。単純な

3.1 雑音のある通信路モデル

雑音のある通信路モデルと違い、特徴量は独立ではなくてもよいため、新しい特徴量の導統計的機械翻訳は原言語と目的言語が文毎に対応付けされている対訳コーパスを必要と入・検証が容易となる。

する。対訳コーパスの量は単言語で入手可能な言語資源の量をはるかに下回るため、ベイズ

3.3 翻訳モデルの分解則を用いて P (W |V ) を言語モデル確率 P (W ) と翻訳モデル確率 P (V |W ) に分解する。

Ŵ = argmaxP (V |W )P (W )雑音のある通信路における単語翻訳確率 P (vi |wi ) は式 (3) のように γvi ,wi と wi の出現(1)

回数から算出される。これを利用して、以下のように翻訳確率をその 2 つの頻度の対数を分W

翻訳モデル確率 P (V |W ) の学習には対訳コーパスが必要となるが、言語モデル確率 P (W )2c 2009 Information Processing Society of Japan

情報処理学会研究報告
IPSJ SIG Technical Report

解した形で表現できる。

log(P (V |W )) = log(∏∏

4.1 フィラー辞書
P (vi |wi ))話し言葉整形の最も単純な形として、人手で作成されたフィラーの辞書に含まれている単語をすべて削除する方法がある。文脈に依存しないフィラーしか削除できないため修正の再i= log(= log(i∏c(γvi ,wi )/c(wi ))c(γvi ,wi )) − log(i∏現率は良くないが、実装が容易であり、よく用いられる方法である。フィラー辞書の情報を対数線形モデルで使用するために、フィラーが削除される度に定数のボーナスを加える特c(wi ))徴量を導入する。フィラー辞書の特徴量の重みのみを 1 にすることで対数線形モデルにおi

この 2 つの対数頻度を対数線形モデルにおいて個別の要素として扱えば、重み学習の段階いてルールベースシステムと同じ動作が再現できる。このため、重みを適切に選択すれば、で両方に異なる重みがつけられる。前者の重みが後者の重みより大きい場合、学習コーパス

対数線形モデルの精度はルールベースシステムの精度以上になることが期待される。に頻出する変換は頻度の低い変換より重視され、適合率の向上が期待できる。以下ではこの4.2 変換グループ

モデルを “分解モデル” と呼ぶ。

話し言葉の中で、整形が必要となる箇所は連続して出現することが多い?1 。これは主に、3.4 文脈依存の翻訳モデル

話し手が思考している間、フィラーや言い直しなどが連続的に発声されるからである。

雑音のある通信路では、P (W |V ) を文脈に依存する言語モデル P (W ) と文脈に依存しなこの現象を捉える特徴量として、変換グループのペナルティーを提案する。連続して変換い翻訳モデル P (V |W ) に分解する。P (W ) の学習には大規模な単言語データが利用できるされるグループ毎に、グループのサイズに係わらず、定数のペナルティーを加算する。これという利点もあるが、P (V |W ) の文脈非依存性は必ずしも成り立たない。特に、「ですね」

で「えー です ね えー」のように 2 変換グループの「えー です ね えー」としても、1 変や「と」のような、変換するか否かが文脈に依存する現象については、翻訳モデルに直接文換グループの「えー です ね えー」としても変換され得るものがあれば、1 つの変換グルー脈を取り入れた方が有利であると考えられる。

プの後者の方が優先的に選ばれ、変換の共起性が捉えられる。

文脈に依存する翻訳モデルを作成するために、雑音のある通信路モデルでモデルの分解を4.3 変換タイプ行わずに、対訳コーパスのみを用いて同時確率 P (V, W ) を直接モデル化する方法がある。

話し言葉の整形で必要となる修正は、削除・挿入・置換に分類できる。第 6 節の評価実Ŵ = argmaxP (V |W )P (W )

験で明らかとなるように、削除の精度は挿入や置換の精度より高くなる傾向がある。削除・W

挿入・置換の 3 タイプに個別のペナルティー（ボーナス）を与えることで、特定が容易な変= argmaxP (V, W )W

同時確率をモデル化する具体的な方法はいくつか提案されているが、本研究では GIATI換はより多く行われ、特定困難な変換については抑制される。

8)

4.4 単 語 数と呼ばれる方法を採用する。アラインメントされた V と W を代表する Γ を用いて、平滑化された n-gram モデルを構築する。

P (V, W ) = P (Γ) ≈音声認識や機械翻訳では、特に長いまたは短い候補が探索に障害を及ぼすことを防ぐため
k∏に、仮説に含まれる単語毎に定数のペナルティーを加算することが多い。ここでも単語数にP (γi |γi−n+1 , . . . , γi−1 )応じてペナルティーを導入する。

i

これにより翻訳モデルに文脈を利用することはできるが、同時確率を直接モデル化するため、言語モデル P (W ) との併用は容易ではなく、単言語のデータを利用することは困難である。

4. 整形のための特徴量?1 評価用データの中で変換すべき単語は全体の 16.2%であるため、変換すべき単語がランダムに起こると仮定すれば変換グループの長さの期待値は 1/(1 − 0.162) = 1.19 単語である。これに対して、変換グループの実際の平均長は 1.76 単語であるため、ランダムに起こるわけではないといえる。

本節では、話し言葉整形の特徴を考慮した特徴量について述べる。

3c 2009 Information Processing Society of Japan

情報処理学会研究報告
IPSJ SIG Technical Report
表 1 評価用データの詳細
Table 1 Test set details

5. モデルの構築と探索
文数

5.1 重み付き有限状態トランスデューサー

単語数以上のモデルを重み付き有限状態トランスデューサー (WFST) で実装した。WFST は有限オートマトンの拡張であり、各状態遷移は入力・出力・重みを有する。入力列に従って状削除

態遷移を繰り返し、その結果、出力と重みが得られる。詳細は文献9) を参照されたい。

置換
挿入

状態遷移の重みが確率（通常は負の対数確率）に相当する場合、P (V |W ) や P (W ) など

発話の書き起こし
会議録
フィラー
その他

単語誤り率の確率的モデルを WFST で表現することができる。複数の WFST を効率的に合成するア

27,51018,7895,5584,115

表 2 各翻訳モデルの精度
Table 2 Accuracy of various translation models

7,181
341,398
299,214(49.1%)(33.6%)(9.9%)(7.4%)
18.71%

ルゴリズムや、1 つの WFST を決定化・最小化するアルゴリズムなどが知られているため、

モデル
整形なし
ルールベース
雑音のある通信路+重み学習+モデル分解

GIATI

1-gram2-gram3-gram4-gram

WER
18.71%
10.86%
5.71%
5.70%
5.34%
9.95%
5.56%
5.50%
5.62%

+全特徴量
5.14%
4.92%
7.36%
5.29%
5.04%
5.13%

個別にコンポーネントを作成しても容易に 1 つのシステムに組み合わせることができる。これで特徴量の効率的な開発が可能となり、また WFST により実装された音声認識システムされた空間の中の最適な解を探し出す。と組み合わせれば音響的特徴量から直接会議録や講演録を作成するシステムも構成できる。

5.4 重みの学習5.2 モデル学習

対数線形モデルの最適な重みを学習する方法として、誤り率最小化学習法 (MERT) があ

本システムを構築するために、第 4 節で述べた各特徴量を個別の WFST で表現する。こる12) 。学習コーパスから少量のデータを重みの学習のために取っておき、そのヘルドアウのため、ほとんどの WFST（ペナルティーや変換候補作成等）を構築するのはさほど困難

トデータで誤り率が最小となる重みを学習する。誤り率の定義は任意であるが、本研究ではではない。言語モデルや GIATI による翻訳モデルを学習するために通常の n-gram ツール評価基準としても利用する単語誤り率 (WER) を採用する。評価実験ではオープンソースのキットを利用することができる。後述する評価実験では、WFST が直接出力できる言語モ

機械翻訳ツールキット Moses13) に含まれている誤り率最小化学習のツールを利用した。

デルツールキット Kylm ?1 を利用した。

6. 評 価 実 験

後述する評価実験では、言語モデルの学習には Kneser-Ney 平滑化10) を用いた。言語モ
デル確率 P (W ) は 3-gram で推定し、GIATI による翻訳モデルは n を変化させて、精度を6.1 実験データ比較した。

学習・評価用データとして衆議院の会議録を用いた。言語モデルの学習に 1999 年 1 月〜

5.3 WFST の合成と探索

2007 年 8 月の会議録から 396 万文、翻訳モデルの学習に 2003 年 2 月〜2006 年 10 月の各特徴量を WFST で表現してから、それらを合成することで 1 つのモデルが容易に構築

5.62 万文の対訳コーパスを使用した。語彙は国会の音声認識のために作成された 49,270 語できる。また、最小化・決定化などで、必要な記憶量を削減でき、探索が効率的となる。本
研究ではこれらのアルゴリズムを実装したライブラリ OpenFst11)の単語辞書で設定し、重みは 974 文のヘルドアウトデータで学習した。

を利用した。

2007 年 10 月に行われた会議 7 回の忠実な書き起こしと会議録を評価の対象とした。評合成されたモデル上で全探索を行うことは計算量的に現実的でないため、ビームサーチを価用データの詳細は表 1 の通りである。会議録を正解とみなして、これと比較して得られ用いる。ビームサーチを行うために、OpenFst をベースとした WFST デコーダを開発しる単語誤り率 (WER) を比較する。削除の欄で「フィラー」とされるものは第 4.1 節で言及

た?2 。探索は 2 パスで行い、まずビームサーチで探索空間を枝刈りしてから全探索で枝刈りしたようなフィラー辞書を用いてルールベースで削除できるものである。ここでは 23 語のフィラーを登録した。フィラーの削除はすべての変換の 49.1%を占め、最も多い変換ではあるが、半分以上の必要な変換はフィラーの削除ではないため、統計的手法は明らかに必要で?1 第一著者作のオープンソースツールキット。http://www.phontron.com/kylm にて入手可能。
?2 今後オープンソースで公開する予定である。

ある。

4c 2009 Information Processing Society of Japan情報処理学会研究報告
IPSJ SIG Technical Report

Fig. 2

図 3 各特徴量を用いた際の単語誤り率
Fig. 3 The WER when each feature is used

図 2 各変換タイプの適合率と再現率
The precision and recall of each transformation type

6.2 翻訳モデル

モデルを大幅に上回ったものの、それ以外では低い精度となっていた。これは削除が学習

まず、第 3 節で説明した翻訳モデルの比較を行った。ベースラインとして、ルールベースデータに多く含まれており、文脈情報をきちんと学習できるが、置換や挿入のデータは比較のフィラー削除と重み学習なしの雑音のある通信路モデルを用いた。GIATI に基づくモデ的少なく、文脈の学習は困難であったためと考えられる。

ルの n-gram 長を 1〜4 の間で変化させた。

6.3 特徴量の効果

それぞれの翻訳モデルの精度は表 2 の通りである。ルールベースモデルではフィラーの次に、対数線形モデルにおける各特徴量の効果を検証するために、特徴量を 1 つずつ導入

削除のみができ、整形なしより単語誤り率を 7.85%改善できたが、その他の変換を全く行し、その際の単語誤り率を比較した。その結果を図 3 に示す。特徴量の効果はそれぞれ以わず、モデルの中で最も単語誤り率が大きかった。単純な雑音のある通信路モデルを用いて下の通りである。

統計的に処理を行うことで、大幅に単語誤り率が削減できている。P (W ) と P (V |W ) の個

• フィラー辞書：分解モデルでも GIATI でも大きな効果がなかった。これは辞書に入っ別の重みを学習しても精度のわずかな変化しか見られなかったが、翻訳モデルを分解するこているフィラーは特徴量を個別に与えなくてもきちんと処理されていたからである。

• 変換グループ：分解モデルで大きな改善が見られたが、GIATI における改善は比較的とで有意な改善が見られた。

GIATI については、文脈を考慮しない 1-gram モデル以外は雑音のある通信路モデルよりに小さかった。分解モデルでは隣の単語が変換されたかどうかは有益な情報となるが、高く、分解モデルより低い精度となった。GIATI の中で最も誤りが少なかったのは 3-gram

GIATI では文脈情報は翻訳モデルに含まれているためさほど有益でないと考えられる。
• 単語数：GIATI では大きな改善が見られたが、分解モデルでは全く効果がなかった。

モデルであったため、以下の分析では 3-gram モデルを GIATI として言及する。
各変換タイプにおける適合率と再現率を図 2 に示す。まず、分解モデルと通常の雑音のあ

図 2 で明らかなように、GIATI は分解モデルに比べて削除の再現率が高かったが、適る通信路モデルを比較すると、モデルを分解することですべての変換タイプにおいて適合合率は低かった。単語数でペナルティーをかけることで適合率をあげ、精度が大幅に改率が大幅に改善され、再現率がわずかに下がる傾向が見られた。第 3.3 節で述べたように、善された。これに対して、分解モデルは既に適合率と再現率のバランスが取れていたた∏c(vi , wi ) の重みを上げることで信頼度の高いパターンが優先的に変換されるためである
i

め、単語数のペナルティーは効果がなかった。

• 変換タイプ：分解モデルでも GIATI でも各タイプの適合率と再現率のバランスを調整?1と考えられる 。また、分解モデルと GIATI を比較すると、GIATI の削除の再現率は分解し、適切な値を選択することで、すべての特徴量の中で最大の改善が得られた。
?1

Qi c(vi , wi ) とQ

また、すべての特徴量を組み合わせることで、精度はさらに改善し、GIATI のモデルで最良

i c(wi ) と P (W ) の重みはそれぞれ 1.56、-1.28、1.00 となっていた。

5c 2009 Information Processing Society of Japan

情報処理学会研究報告
IPSJ SIG Technical Report

参考文献

1) Rao, S., Lane, I. and Schultz, T.: Improving Spoken Language Translation by
Automatic Disﬂuency Removal: Evidence from Conversational Speech Transcripts,
Machine Translation Summit XI, Copenhagen, Denmark, pp.177–180 (2007).
2) Honal, M. and Schultz, T.: Correction of Disﬂuencies in Spontaneous Speech using a Noisy-Channel Approach, Proc. EuroSpeech2003, Geneva, Switzerland, pp.
2781–2784 (2003).
3) Johnson, M. and Charniak, E.: A TAG-based noisy channel model of speech repairs, Proc. ACL04, Association for Computational Linguistics, p.33 (2004).
4) Liu, Y., Shriberg, E., Stolcke, A., Hillard, D., Ostendorf, M. and Harper, M.:Enriching Speech Recognition with Automatic Detection of Sentence Boundaries
and Disﬂuencies, IEEE Transactions on Audio, Speech, and Language Processing,Vol.14, No.5, pp.1526–1540 (2006).
5) Hori, T., Willett, D. and Minami, Y.: Language model adaptation using WFSTbased speaking-style translation, Proc. ICASSP2003, pp.228–231 (2003).
6) 下岡和也，南條浩輝，河原達也：講演の書き起こしに対する統計的手法を用いた文体の整形，自然言語処理， Vol.11, No.2, pp.67–83 (2004).
7) Och, F.J. and Ney, H.: Discriminative training and maximum entropy models forstatistical machine translation, Proc. ACL02, Morristown, NJ, USA, Association
for Computational Linguistics, pp.295–302 (2002).
8) Casacuberta, F. and Vidal, E.: Machine Translation with Inferred Stochastic
Finite-State Transducers, Computational Linguistics, Vol. 30, No. 2, pp. 205–225(2004).
9) Mohri, M.: Finite-state transducers in language and speech processing, Computational Linguistics, Vol.23, No.2, pp.269–311 (1997).
10) Kneser, R. and Ney, H.: Improved backing-oﬀ for M-gram language modeling,
Proc. ICASSP95, Vol.1, pp.181–184 (1995).
11) Allauzen, C., Riley, M., Schalkwyk, J., Skut, W. and Mohri, M.: OpenFst: a general and eﬃcient weighted ﬁnite-state transducer library, Proc. CIAA ’07, pp.11–23(2007).
12) Och, F.J.: Minimum Error Rate Training in Statistical Machine Translation, Proc.
ACL03, pp.160–167 (2003).
13) Koehn, P., Hoang, H., Birch, A., Callison-Burch, C., Federico, M., Bertoldi, N.,Cowan, B., Shen, W., Moran, C., Zens, R., Dyer, C., Bojar, O., Constantin, A. andHerbst, E.: Moses: Open Source Toolkit for Statistical Machine Translation, Proc.
ACL07, Prague, Czech Republic, Association for Computational Linguistics, pp.
177–180 (2007).

図 4 学習に用いる対訳コーパスの文数と単語誤り率の比較
Fig. 4 A comparison of word error rates for diﬀerent sizes of the parallel corpusの 5.04%の単語誤り率が得られた。分解モデルでは、すべての特徴量を利用するより、フィラー辞書を利用しない方がよい精度 (4.92%) が得られた。

6.4 コーパスサイズの影響
忠実な書き起こしの準備には大きなコストがかかり、実用的には少ないデータ数で高い精度が得られることが求められる。このため、学習に用いる対訳コーパスのサイズを変化させて、分解モデルと GIATI の精度を比較した。図 4 にこの比較の結果を示す。
分解モデルでも GIATI でも、コーパスのサイズが小さくなるほど精度が下がるが、GIATIの方が大きな低下を見せた。これは、GIATI は対訳コーパスのみを利用しているのに対し、分解モデルは会議録のみのコーパスも利用しているからであろう。また、コーパスのサイズが小さくなるほど全特徴量を用いる効果が小さくなる。最も小さいコーパスでは全特徴量を用いても用いなくてもほぼ同等の単語誤り率が得られた。

7. む す び
本稿では、話し言葉を整形する手法を提案し、様々な翻訳モデルの構造と特徴量を導入し、その効果を比較した。雑音のある通信路モデルの拡張である分解モデルは最も高い精度が得られ、少ないデータで比較的安定して学習できた。GIATI によるモデルは十分な学習量がある場合には文脈を捉え、多く出現する削除では高い再現率が得られた。変換タイプや変換グループ、単語数などの特徴量は有用であり、フィラーの辞書は大きな効果がなかった。
最も良い特徴量の組み合わせによる WER は 4.92%であり、ルールベース手法の 10.86%と単純な雑音のある通信路モデルを用いる手法の 5.71%を大幅に改善した。

6c 2009 Information Processing Society of Japan