情報処理学会論文誌

Vol.54 No.2 452–462 (Feb. 2013)

日本語の未知語に対する発音付与のための
多対多アライメント
久保 慶伍1,a)

川波 弘道1,b)

猿渡 洋1,c)

鹿野 清宏1,d)

受付日 2012年5月31日, 採録日 2012年11月2日

概要：音声ドキュメント検索や音声検索のような固有名詞や新語を扱うアプリケーションの発達とともに，未知語に対する頑健な自動発音付与の必要性は増加している．未知語への自動発音付与手法として統計的アプローチや Web テキストマイニングによるアプローチがある．これらには単語の表記と発音を単語（形態素）よりも小さい単位で対応付けたデータが不可欠である．本論文では日本語の未知語に対する発音付
与の性能向上を目的として，表記と発音の対応付けの精度を劣化させずに，未知語を表現する能力が高い
小さい単位での対応付けを求めるアライメントアルゴリズムを提案する．また，Web テキストマイニング
を用いた日本語の未知語に対する自動発音付与により提案手法の評価を行った．評価実験の結果，提案手
法は従来手法が持つ精度をほとんど劣化させずに，未知語に対する汎化能力を表す再現率を約 3.9 ポイン
ト改善した．
キーワード：文字列アライメント，Joint multigram，未知語，自動発音付与，Web テキストマイニング

Many-to-many Alignment Algorithm
for Automatic Pronunciation Annotation
on Japanese Unknown Words
Keigo Kubo1,a)Hiromichi Kawanami1,b) Hiroshi Saruwatari1,c)Kiyohiro Shikano1,d)Received: May 31, 2012, Accepted: November 2, 2012

Abstract: The need for robust pronunciation annotation on unknown words has been increasing with thedevelopment of an application that deals with proper nouns and brand-new words, such as Spoken Document
Retrieval and Voice Search. In robust pronunciation annotation on unknown words, the alignment between
graphemes and phonemes is vital data. In this paper, for the purpose of the improving pronunciation annotation on Japanese unknown words, we propose the alignment algorithm that requires a mapping withsmall unit having high expression ability on unknown words while avoiding degradation of the accuracy of a
mapping between graphemes and phonemes. An evaluation experiment of a many-to-many alignment by automatic pronunciation annotation using Web text mining is also performed. That experimental result showsthat the proposed many-to-many alignment obtains 3.9 point improvement on recall rate that represents thegeneralization ability for unknown words while avoiding degradation of the accuracy of the pronunciation
annotation compared with the conventional approach.
Keywords: character alignment, Joint multigram, out-of-vocabulary, pronunciation annotation, Web text
mining

1

a)
b)
c)
d)

奈良先端科学技術大学院大学
Nara Institute of Science and Technology, Ikoma, Nara 630–
0101, Japankeigo-k@is.naist.jp
kawanami@is.naist.jp
sawatari@is.naist.jp
shikano@is.naist.jp

c 2013 Information Processing Society of Japan

1. はじめに
近年，Web 上に存在する音声データの言語情報を検索する音声ドキュメント検索 [1] や音声で Web 検索を行う音声検索 [2] など，ドメインを限定しない大語彙の音声認識

452

情報処理学会論文誌

Vol.54 No.2 452–462 (Feb. 2013)

アプリケーションの実用化が進んでいる．音声ドキュメン
ト検索や音声検索において固有名詞や新語は検索結果を効率的に絞り込むための検索語として使われることが多いため，これらのアプリケーションの性能は固有名詞や新語に対する音声認識性能に大きく依存する．そのため，新たに

(a)
図 1

(b)

表記 phoneme，発音 fóunı̄m のアライメント例．(a) が 1 対

1 アライメントの例．(b) が多対多アライメントの例．「-」は表れるこれらの単語（未知語）に対処するためには認識辞対応する部分文字列がないことを表す．本論文では「-」が発書と言語モデルを継続的に更新しなければならず，未知語音側に表れる対応付けを削除文字，表記側に表れる対応付けを獲得の自動化は重要な研究課題となっている．

Yahoo! 検索ランキング [3] などの Web 上の言語資源を挿入文字と呼ぶ

Fig. 1 Example of the alignment in the word phoneme pronounced as fóunı̄m. (a) is the example of the one-to-

継続的に自動収集すれば，未知語の表記は自動獲得できる

one alignment. (b) is the example of the many-to-many

が，音声認識や規則音声合成で必要な発音（読み）は必ずalignment. The “-” means that there is no the cor-

しも提供されないため，自動発音付与技術が必要となる．

responding substring. We call a mapping that the “-”従来，日本語の自動発音付与には Kytea [4] などの形態素

appeared on the pronunciation side “deleted character”,

解析器が用いられてきた．これは入力された文字列を形態

and a mapping that the “-” appeared on the notationside “inserted character” in this paper.

素へと分割し，形態素ごとに形態素辞書に登録された発音を付与する．これは辞書ベースの発音付与といえる．しか発音の自動アライメントの研究が行われている．

し，このような辞書ベースの手法では辞書に登録されてい表記と発音の自動アライメントの先行研究として EM ア

ない形態素（未知語）に対して発音を付与することはでき

ルゴリズム [7] の概念を用いた教師なしアライメントが提案ない．音声ドキュメント検索や音声検索のタスクにおいてされている [8], [9], [10], [11]．この自動アライメント手法

よく出現する固有名詞や新語は未知語である可能性が高の代表例として，図 1 (a) のように対応付けを表記 1 文字，

く，辞書ベースの手法では正確な発音付与が困難である．

発音 1 文字に制限した 1 対 1 アライメント [8] や図 1 (b)そのため，固有名詞や新語に対して誤った発音を付与するのように表記，発音の両方において複数文字との対応付け可能性が高く，誤った発音が付与されると音声ドキュメンを許した多対多アライメント [9], [10], [11] がある．なお，トなどの音声認識時にそれらを認識することができなくな

図 1 において，「-」は対応する文字が存在しないことを示る．音声ドキュメント検索の場合，検索語になりやすい固し，これが発音側に表れる対応付けを本論文では削除文字

有名詞や新語が，音声ドキュメントにおいて正しく認識さと呼び，逆に「-」が表記側に表れる対応付けを挿入文字とれないと検索性能は劣化すると考えられる．

呼ぶ．表記と発音の多対多アライメントの場合，挿入文字

また，単語単位とサブワード単位を併用する音声ドキュの出現頻度は限りなく少ないため，本論文では挿入文字をメント検索システムの検索を考えた場合，入力された検索考慮しない．図 1 のようにアライメントされたデータは発語に関する適切なサブワード系列を得るために，固有名詞

音付与のために利用される．

や新語が多い検索語に対して正しい発音を付与する必要が文献 [9] において，多対多アライメントは Joint multi-

ある（検索語入力時にユーザが入力したひらがなの系列を

gram と呼ばれており，文献 [10] で提案されている手法と獲得できる場合があるが，必ずしも正しい発音とは限らず，

本質的に同じである．本報告ではこの従来の多対多アライ

またコピー&ペーストや英字・記号ではその系列を得られメントの手法を Joint multigram と呼ぶ．Jiampojamarn

ないため，検索語に対して発音を付与する必要がある）．こらの報告 [10] によると Joint multigram は 1 対 1 アライメ

れらのことから，上記の音声認識アプリケーションにおいントよりも自然な表記と発音の対応付けを行い，統計的アて未知語（固有名詞や新語）に頑健な自動発音付与技術がプローチを用いた自動発音付与において 1 対 1 アライメン

必要となる．

トを上回る性能を実現している．

未知語に対する自動発音付与の研究として，オンライン

ただし，Joint multigram はアライメントに含まれている

識別訓練 [5] などの統計的アプローチや，括弧表現に基づ

対応付けの数の違いによる影響を考慮していないため，相く Web テキストマイニングを用いたアプローチ [6] が提案

対的に大きい単位での表記と発音の対応付けが優先される．

されている．これらの手法では，図 1 のように単語（形たとえば，図 1 の表記 phoneme，発音 fóunı̄m の対データ態素）より小さい単位で表記と発音を対応付けたデータがの場合，Joint multigram は図 1 (b) の ph/f のような小さい必要となる．本論文では，図 1 の ph/f のような表記の部

単位での対応付けよりも，phon/fóun や phoneme/fóunı̄m

分文字列と発音の部分文字列の対応関係を「対応付け」とといった大きい単位での対応付けを優先する傾向にある．

呼び，「ph/f o/óu n/n e/ı̄ m/m e/-」のような対応もし，このような大きい単位での対応付けがアライメント

付けの系列を「アライメント」と呼ぶ．このデータを単語

推定時に選ばれると，たとえば，未知語 nome（発音 nóum）（形態素）辞書から自動生成することを目的として，表記とに対して発音を付与する際に，アライメントで得られた対c 2013 Information Processing Society of Japan


453

情報処理学会論文誌

Vol.54 No.2 452–462 (Feb. 2013)

応付けだけでは nome を表現することができず，発音は付

未知語のデータである．この評価は間接的であるが，我々与できなくなる．つまり，大きい単位での対応付けは未知のアライメント手法を研究する動機が未知語に対する自動語を表現する能力（汎化能力）が低い．そのため，文献 [10]発音付与性能の向上であるため，我々のアライメント手法

では対応付ける最大文字数を表記と発音の各々においてが未知語に対する自動発音付与性能にどれだけ貢献できる

2 文字に制限し，大きい単位で対応付けされることを防いかを評価することは，我々のアライメント手法の評価方法

でいる．この方法では対応付けの最大文字数を固定するたとして妥当だと考えられる．

め，最大文字数を超える表記と発音の対応関係（たとえば本論文の構成は以下のとおりである．2 章では従来手法「従兄弟（イトコ）」などの熟字訓）に対して不正確な対応である Joint multigram と提案手法の概要を説明する．3 章

付けが行われてしまう．これにより，発音付与の精度が劣では提案手法において用いられるパラメータの学習方法を化する可能性がある．逆に，最大文字数を増やすと，前述説明する．4 章では N-best Viterbi トレーニングを用いたのように汎化能力が低い大きい単位での対応付けが選ばれ削除文字推定の改善手法を示し，5 章では不正確なマッピてしまう．

ングの結合手法を示す．6 章では提案手法の未知語に対す対応付けの最大文字数を制限することなく汎化能力の高い小さい単位での対応付けを可能とする多対多アライメントの実現のために，我々はアライメントの学習時と推定時に，表記と発音の個々の対応付けに関するパラメータを表記と発音の長さの和（表記と発音のマトリックス上での市る自動発音付与における有効性を評価し，7 章でまとめを述べる．

2. 多対多アライメント
2.1 変数の導入

街地距離）でべき乗することでアライメントに含まれていはじめに本論文で用いる変数を定義する．表記 phoneme，る対応付けの数の違いを解消する方法を提案している [11]．

発音 fóunı̄m のように単語の表記と発音からなるデータをその結果，統計的アプローチによる自動発音付与において対データ d，対データの集合をデータセット D と定義す

従来の Joint multigram を超える性能を示した．ただし，る．表記の部分文字列と発音の部分文字列の 1 つの対応関その手法では削除文字が発生しやすく，また，データセット

係を対応付け u と定義する．また，対データ d は対応付け

によっては熟字訓などの特殊な発音を持つ単語に対して不u の系列により構成することができる．この系列をアライ

正確な対応付けを行うという問題があった．本論文では前

メント u とし，対データ d において可能なアライメント u者の問題に対してアライメントの学習時に N-best Viterbiの集合を Ud と定義する．各変数の例をまとめたものを以トレーニングを用いて解決する方法を提案し，後者の問題

下に示す．

に対しては不正確な対応付けを隣の対応付けと結合させる
ことで正確な対応付けに修正する方法を提案する．本手法
は Joint multigram における最大文字数のような性能に大d = phoneme, fóunı̄m
D = {phoneme, fóunı̄m, pheasant, féznt, ...}

きな影響を与えるヒューリスティックなパラメータの最適

u = ph/f値を求める必要がない．

u = ph/f o/óu n/n e/ı̄ m/m e/-

本論文の提案手法はアライメント手法であるため，直接，Ud = {phoneme/fóunı̄m, phonem/fóunı̄m e/-, ... ,表記に発音を付与することはできない．提案手法を用いてph/ph o/óu n/n e/ı̄ m/m e/-}アライメントしたデータを，統計的アプローチや Web テキ
ストマイニングによるアプローチで用いることではじめて発音付与が可能となる．また，表記と発音のアライメント
手法の評価方法としてはアライメント内における対応付けの正解率で評価すべきであるが，表記「would」，発音「ウッド」のような正解の対応付けを一意に決定することが難しいデータが存在するため，表記と発音のアライメントの先行研究 [8], [9], [10], [11] においては，統計的アプローチの学習データに提案手法と従来手法でアライメントしたデー
タを用いて，その自動発音付与性能を評価することで間接

2.2 Joint multigram
Joint multigram によるアライメントの推定は以下のように定式化される [9]．

û = arg max P (u)u∈Ud arg maxu∈Ud

 arg max
u∈Ud



(1)

P (u)

(2)

pu

(3)

u∈u



u∈u

的にアライメント手法の性能を評価している．そのため，

式 (1) から式 (2) において，アライメントの確率 P (u)

本論文においても提案するアライメント手法を自動発音付

をアライメント u に含まれる対応付け u の確率 P (u) の積

与手法により間接的に評価する．評価に用いた自動発音付と仮定している．式 (3) の pu は対応付け u に関するパラ与手法は，括弧表現に基づく Web テキストマイニング [6]

メータである．式 (3) から，適切な pu を得ることができによるアプローチで，発音を付与されるデータは日本語のれば，Viterbi アルゴリズムを用いて正確なアライメント

c 2013 Information Processing Society of Japan


454

情報処理学会論文誌

Vol.54 No.2 452–462 (Feb. 2013)

を推定することができる．Joint multigram では EM アル
ゴリズムを用いて pu を最尤推定する．

1 対 1 アライメントとは違い，多対多アライメントでは

γu =

 

るように，大きい単位で対応付けられた対応付けを多く含む（含んでいる対応付けの数が少ない）アライメント
は小さい単位で対応付けられた対応付けを多く含むアラからu∈u P (u) は高い値をとりやすい．そのため，Joint

wusu

nu (u)(6)u∈Ud u∈unu (u) は u における u の出現数である．
( 3 ) 式 (7) により尤度を最大化（M-step）．
γuŵu = γu

イメントよりも乗算回数が少なく，P (u) ≤ 1 であること



u∈u

 

d∈D u∈Ud

複数文字の対応付けが可能になるため各アライメントに含まれている対応付けの数は異なりうる．式 (3) から分か

wusu

(7)

u∈U

U は対応付け u の異なり集合である．

multigram は未知語に対する汎化能力が低い大きい単位で( 4 ) ŵu に wu の値を代入．

の対応付けを優先する傾向にある．これに対処するため( 5 ) 収束条件を満たせば終了，満たさない場合は ( 2 ) へに，Joint multigram では表記と発音それぞれにおいて対応付けの最大文字数を制限し，大きい単位での対応付けを戻る．

防いでいる．

4. N-best Viterbi トレーニングを用いた削除文字推定の改善

2.3 提案手法

多対多アライメントにおいて削除文字は通常の発音が対Joint multigram では対応付けの最大文字数を固定する

応付けられた対応付けと性質が異なる．発音が対応付けらため，最大文字数を超えた表記と発音の対応関係に対し，れた対応付けはその表記と発音が同時に対データに出現し不正確な対応付けを行ってしまう．また，このことを考慮た際に 3 章の E-step においてその出現回数の期待値が得して最大文字数を増やすと，汎化能力の低い大きい単位でられるのに対して，削除文字は対データにその表記が出現の対応付けが行われてしまう．

しただけでその出現回数の期待値が得られる．そのため，

そこで，最大文字数を固定せずに大きい単位での対応付
けを抑制するために，提案手法では対応付けに関するパラメータをその対応付けの表記の文字数と発音の文字数の和対応付けとして不正確な削除文字でも有利に学習され推定されやすくなる．
たとえば D = {many, méni, ask, ǽsk} を考えると，（表記と発音のマトリックス上での市街地距離）でべき乗

表記「a」は各データに存在するため，式 (6) において削することで，乗算数を表記の文字数と発音の文字数の和で除文字 a/- の各データにおける出現回数の期待値が足し合統一する．提案手法は以下のように定式化できる．

わされる．一方で，正しい対応付けの a/é は many, méniû  arg maxu∈UdP (u)  arg max

u∈u

u∈Ud



にしか出現しないため，このデータにおける（a/é の）出

wusu

(4)

現回数の期待値しか得られない．これにより削除文字 a/のパラメータ wu が，a/é の wu よりも高い値となり，アラu∈u

イメントを推定する際に a/- が選ばれやすくなる．
ここで，wu は対応付け u に関するパラメータであり，su

Joint multigram では削除文字が出現すると式 (2) の乗は表記と発音のマトリックス上での市街地距離を意味し，算回数が増加するため，そのアライメントの確率が小さく

以下のように定義される．

なり，それに合わせて，その削除文字の出現回数の期待値も小さくなって，削除文字が抑制される．一方で，提案手

su = iu + ju

(5)

法では削除文字が出現しても乗算回数は同じため，削除文
字を抑制できない．

ここで，iu は対応付け u における表記の文字数，ju は対応
付け u における発音の文字数である．

3. 提案手法におけるパラメータの学習提案手法では Joint multigram と同様に EM アルゴリズ

この問題を改善するために，EM アルゴリズムのようにすべての可能なアライメントを考慮するのではなく，有望なアライメントだけを考慮する N-best Viterbi トレーニン
グ [9] を学習に導入する．N-best Viterbi トレーニングは3 章の EM アルゴリズムとほぼ同じ学習方法であるが，式ムを用いてパラメータ wu を学習する．以下に提案手法の(6) の Ud（すべての可能なアライメントの集合）の代わり

パラメータ wu を学習するための EM アルゴリズムを示す．

に，有望な N 個のアライメントの集合（N-best のアライ

( 1 ) wu に初期値を設定（均一の値を設定）．

メント）を使用する．有望でないアライメントには不正確( 2 ) 式 (6) により，学習データにおける対応付け u の出現

な削除文字が多く含まれるため，有望なアライメントのみ

回数の期待値を計算（E-step）．

c 2013 Information Processing Society of Japan

を学習に用いることで，不正確な削除文字を抑制すること455

情報処理学会論文誌

Vol.54 No.2 452–462 (Feb. 2013)ができる．以下に N-best Viterbi トレーニングを導入した

表 1 AAA, trı́pléi と Ace, éis の場合における不正確な対応付けの例．この例の場合，不正確な対応付けは AA/trı́pl である

パラメータの学習方法を示す．

( 1 ) 初期の段階では有望なアライメントを求められないた
め，市街地距離を導入した 3 章の EM アルゴリズム
でパラメータを学習する．この際，削除文字を許可す
ると削除文字が有利に学習されるため削除文字は禁止

Table 1 Example of irrelevant mapping in the case of
AAA, trı́pléi and Ace, éis. In this case, the irrelevant mapping is AA/trı́pl.
AAA, trı́pléi → {…，AA/trı́pl A/éi, …}する．

( 2 ) 手順 ( 1 ) で学習したパラメータを初期値とし，式 (8) をAce, éis → {…，A/éi c/s e/, …}

基準に N-best のアライメントを求める N-best Viterbi
トレーニングを行う．ただし，その N-best Viterbi ト
レーニングを用いてパラメータを更新する回数は 1 回とする．式 (8) は削除文字の対応付けのパラメータ wu
をそれ以外の対応付けのパラメータ wu の加重相乗平均としている．各パラメータ wu の重みはそれに対応
する su である．

û = arg max
u



u∈u

wusu × (

図 2 正確な対応付けのコンテキスト

Fig. 2 Context of correct mapping.

Duwusu ) Iu +Ju −Du (8)

u∈u



ここで，u は u から削除文字を取り除いた対応付け

図 3 不正確な対応付けのコンテキストの系列，Du は全削除文字の表記の総文字数，Iu は表

Fig. 3 Context of irrelevant mapping.

記全体の文字数，Ju は発音全体の文字数である．

( 3 ) 手順 ( 2 ) で学習したパラメータを用いることで有望な推定後の対応付けが持つ前方または後方のコンテキストのアライメントを求めることができる．その学習したパ

種類数を用いる．図 2 にアライメントを行った際の正確なラメータを初期値として，式 (4) を基準に N-best の対応付けのコンテキストの様子を示す．図 2 のようにコン

アライメントを求める N-best Viterbi トレーニングを

テキストを複数種類持つ対応付けは正確な対応付けである

行う．

と考えられる．一方で，図 3 のようにコンテキストが 1 種

5. 不正確な対応付けの結合類しかない（種類数が 1 の）対応付けは他にその対応付け
に関する事例を持っていないため，不正確な対応付けであEM アルゴリズムは対データにおいて出現するすべてのる可能性が高い．このようなヒューリスティックな性質を対応付けをカウントする．そのため，表記と発音の誤った用いることで AA/trı́pl などの不正確な対応付けを検出す

対応付けも学習される．データセットによっては，誤ったることができる．つまり，前方と後方のコンテキスト数を対応付けが学習されることにより熟字訓などの特殊な発音調べ，どちらかのコンテキストの種類数が 1 しかない対応を持つ単語に対して不正確な対応付けが行われる可能性が付けを隣（種類数が少なかった方向）の対応付けと結合すある．

る．これにより，AAA/trı́pléi などの正確な対応付けを求

その例を 表 1 に示す．AAA, trı́pléi の誤った対応付けである AA/trı́pl が含まれているアライメントには A/éi の対応付けが存在する．この A/éi の対応付けは他のデータのアライメント候補にも出現している．これにより，A/éi のめることができ，不正確な対応付けを避けることができる．

6. 評価実験
6.1 実験内容

対応付けの確率が学習により高い値をとり，AAA, trı́pléi

1 章で述べたように，括弧表現に基づく Web テキストマのアライメントとして「AA/trı́pl A/éi」が推定される．結イニング [6] によるアプローチを用いて，提案手法の未知果として，AA に対して trı́pl が対応付けられた不正確な対語に対する自動発音付与における有効性を評価する．図 4

応付けが得られる．

に，括弧表現に基づく Web テキストマイニングによる自Joint multigram は大きい単位での対応付けが優先され動発音付与の例を示す．提案手法と従来手法は工程 (1) のるため，このような問題はほとんど起こらない．一方で，アライメント処理に対応する．あらかじめ提案手法（また提案手法は市街地距離の導入により，詳細な対応付けを行は従来手法）により辞書データから抽出した表記と発音のうため，このような問題を避けることができない．

対データをアライメントする．そして，アライメントされこの問題を改善するために，AA/trı́pl などの不正確な対たデータから，ある表記がどのように発音されるかを定義

応付けを自動的に検出し，隣接する対応付けと結合するこ

した発音規則（アライメントデータの各対応付け）を獲得とを提案する．不正確な対応付けの検出にはアライメント

する（工程 (2)）．

c 2013 Information Processing Society of Japan

456

情報処理学会論文誌

Vol.54 No.2 452–462 (Feb. 2013)

図 4 提案手法（または従来手法）は (1) アライメント処理に対応する，括弧表現に基づく Web
テキストマイニングによる自動発音付与の流れ（「細氷」に対して発音を付与する）．Web
検索は goo 検索 [12] を使用．

Fig. 4 Flow of automatic pronunciation annotation using the proposed (or conventional) method and Web text mining based on the bracket representation (inthe case of “細氷” as a test data). We used goo search [12] as Web search.

発音規則の獲得後，図 4 の工程 (3)，(4)，(5)，(6) を各を付与せずに認識辞書に登録しないか選択が可能になる．

テストデータに対して行う．工程 (3) ではテストデータをそのため，A ∩ B = ∅ の場合，発音を付与しない．これら

検索語として検索を行い，工程 (4) では検索結果として提の工程により，A ∩ B = ∅ の場合を除いて，テストデータ示された Web ページから，検索語の後に続く括弧内の文に対して自動で発音を付与する．

字列を抽出し，抽出した文字列の集合 A を得る．これは日本実験では評価尺度として再現率と精度，F 値を用いる．

本語テキストにおいて，単語に続く括弧内にその読みを表

文献 [6] では generality（一般性，正解したテストデータ数

記するという記法が用いられることを利用している．工程

割る全体のテストデータ数）を用いているが，これは図 4(5) では獲得した発音規則を用いてテストデータの表記かの工程 (4) のテキストマイニング処理において，どれだけら考えられる発音をすべて展開し，展開した発音の集合 B

正解の発音を抽出できるかに依存する．我々が提案する手を得る．工程 (6) では抽出した文字列の集合 A と展開した

法はアライメント手法であり，Web テキストマイニングを発音の集合 B の積集合 A ∩ B の中から，Web ページから用いた自動発音付与手法ではないため，アライメント手法

抽出された頻度が最も高い発音を 1 つ選択し，テストデーの評価としてはテキストマイニングの性能に依存しない評

タの発音として付与する．つまり，本実験においては先行

価尺度を用いるべきだと考えられる．そのため，テキスト研究 [8], [9], [10], [11] と同様に異音同義語を考慮しない．

マイニングの性能に依存しないよう，テキストマイニング

もし，A ∩ B = ∅ なら，誤った発音を付与する可能性がで正解の発音を抽出できなかったテストデータは考慮せず高いため，テストデータには発音を付与しない（抽出したに，正解の発音を抽出できたテストデータのみで評価する

文字列をすべて棄却する）．誤った発音が付与される可能再現率を定義し，それを generality の代わりとして評価に性が高いデータに対して，自動で発音を付与しないことは用いる．各評価尺度は以下のように定義される．

実用的な利点がある．たとえば音声認識の認識辞書構築時

再現率 =に，実際に発音が誤っているデータを語彙として登録すると認識に悪影響を与える可能性がある．もし，あらかじめ誤った発音が付与される可能性が高いデータを分かっていれば，認識に悪影響を与えないよう，そのデータに対して人手で発音を付与して認識辞書に登録するか，人手で発音c 2013 Information Processing Society of Japan


R
C

(9)

精度 =

R
N

(10)

F値=

R
0.5(N + C)

(11)

ここで，R は正解したテストデータ数（正解の発音と自動

457

情報処理学会論文誌

Vol.54 No.2 452–462 (Feb. 2013)

付与した発音が一致するテストデータ数），C は工程 (4) にN-best Viterbi トレーニングでは，対応付けとして不正確おけるテキストマイニングにより抽出された文字列の集合

な削除文字が学習されることを極力避けるために，2-best

A の中に，正解の発音が含まれているテストデータの数でのアライメントを用いて学習を行った．Web 検索には goo

ある．いい換えると，C はアライメント手法で改善するこ

検索 [12] を使用し，マイニングする Web ページ数は 1 キーとができるテストデータの数の上限値である．N は「(抽ワードにつき 500 ページとした．

出した文字列の集合 A)∩(展開した発音の集合 B)= ∅ であ

実験データは以下のとおりである．辞書データは単漢字

るテストデータ」の数である．いい換えると，N は図 4 の辞書（Wnn [13] と三省堂 [14]），NAIST Japanese Dictio-「Web テキストマイニングによる自動発音付与」システム

nary [15]，英辞郎 [16] を用いた．辞書データから抽出したが発音を付与したテストデータの数であり，正解のテスト

表記と発音の対データは合計で約 35 万個であった．テス

データ数 R をこれで割ることにより求まる精度はこのシス

トデータは，音声ドキュメント検索や音声検索のタスクを

テムの発音付与の正確さを表す指標である．

意識し，固有名詞や新語が多く含まれている最新の検索

アライメントの観点から見ると，本実験の再現率は未知キーワードを使用した．テストデータは以下のように構築語に対する表現能力（汎化能力）の高さを表す．精度は不した．まず，Yahoo! 検索ランキング [3]，Google 急上昇

正確な対応付けが少ないことを表す．一般的に，汎化能力

ワード [17]，Goo キーワードランキング [18] から収集したを上げるために小さい単位で対応付けを行うと不正確な対使用頻度の高い最新の検索キーワードの中から，重複を除

応付けが多くなり，正確な対応付けを行うために大きい単

いたのち，ランダムに 6,439 個の検索キーワードを抽出し位で対応付けを行うと汎化能力が下がる．そのため，このた．次にそれらのキーワードに対して，人手で発音の揺ら

2 つの指標はトレードオフの関係にある．

ぎも考慮し，1 つのキーワードにつき 1 つ以上の発音を正評価する手法は以下のとおりである．

解の発音として付与した．そして，各キーワードに対して( 1 ) ベースライン 1（Web freq）：工程 (6) の代わりに，Web

形態素解析器 Kytea [4] を用いて発音を推定し，人手で付から抽出した文字列の集合 A の中で最も抽出された頻

与した正解の発音と一致しなかった（正解の発音が得られ度が高い文字列を発音として付与する方法なかった）1,995 個のキーワードを未知語のテストデータ( 2 ) ベースライン 2 [6]（without align）：工程 (1) においてとして用いた．辞書データとテストデータでは，表記が漢アライメントを行わずに単語の表記と発音を直接発音

字，平仮名，カタカナ，英字，記号で構成され，発音はカタ

規則として用いる方法

カナのみで構成されている．また，構築したテストデータ( 3 ) 従来手法 [9], [10]（joint）：工程 (1) において Joint multigram を使用の C の値（Web から正解の発音を抽出できたテストデー
タ数）は 1,403 であった．

( 4 ) 提案手法 1（city）：工程 (1) において市街地距離を導入した多対多アライメントを使用

6.3 実験結果( 5 ) 提案手法 2（city+del）：工程 (1) において city に 4 章

表 2 に Joint multigram の表記と発音の最大文字数の違の「N-best Viterbi トレーニングを用いた削除文字推いによる評価実験の結果を示す．各再現率と精度に関して，定の改善」を導入した多対多アライメントを使用

それらの値を求める際に用いた R，C ，N の値も示してい( 6 ) 提案手法 3（city+merge）：工程 (1) において city にる．joint N -M は最大文字数を表記 N 文字，発音 M 文字

5 章の「不正確な対応付けの結合」を導入した多対多に制限した Joint multigram を意味する．表 2 から Joint

アライメントを使用

multigram は表記と発音の最大文字数の違いによって性能( 7 ) 提 案 手 法 4（city+del+merge）：工 程 (1) に お い てが大きく変化することが分かる．joint 1-6 の場合，他の設

city+del に 5 章の「不正確な対応付けの結合」を定と比べ最も再現率が高かった．これは表記 1 文字という導入した多対多アライメントを使用

小さい単位でのアライメントを行うことにより，未知語に対する高い汎化能力が得られたからである．一方で，精度6.2 実験条件

は最も低い値を示した．これは小さい単位でアライメント

実 験 条 件 を 以 下 に 示 す ．1 つ の 対 応 付 け に お け る 表することで不正確な対応付けが多くなったからである．逆記と発音の最大文字数は without align，city，city+del，に最大文字数を表記 3 文字，発音 6 文字と大きい単位でア

city+merge，city+del+merge に関しては無制限，joint にライメントした場合（joint 3-6）
，不正確な対応付けが少な

関しては表記 1，2，3 文字と発音 3，6 文字の組合せ（計 6くなり精度は向上するものの，汎化能力が低下して再現率組）を試行した．各手法とも削除文字の出現は許可し，挿は劣化している．F 値が最も高かったのは joint 2-3 で，こ入文字の出現は禁止した．また，図 4 の工程 (5) の発音のの結果を他の手法との比較に用いる．

展開時において削除文字の発音規則が連続して選ばれるよ

表 3 に全手法の評価実験の結果を示す．表 3 から，city

うな展開は禁止した．city+del，city+del+merge におけると city+del を比べると，再現率を約 1.0 ポイント，精度をc 2013 Information Processing Society of Japan

458

情報処理学会論文誌

Vol.54 No.2 452–462 (Feb. 2013)

表 2

従来手法 Joint multigram の表記と発音の最大文字数の違いによる評価実験の結果．

joint N -M は最大文字数を表記 N 文字，発音 M 文字に制限した Joint multigram を意味する

Table 2 The result of the evaluation experiment due to diﬀerences in the maximum
number of characters of notation and pronunciation for joint multigram approach of conventional method. The joint N-M denotes joint multigram approach with the maximum lengths of N graphemes and M phonemes.
再現率 (%) (R/C)

精度 (%) (R/N )joint 1-3

87.95 (1,234/1,403)

93.27 (1,234/1,323)

joint 1-6

88.38 (1,240/1,403)

92.81 (1,240/1,336)

90.54

joint 2-3

86.46 (1,213/1,403)

95.81 (1,213/1,266)

90.90

joint 2-6

85.46 (1,199/1,403)

95.54 (1,199/1,255)

90.22

joint 3-3

85.10 (1,194/1,403)

95.83 (1,194/1,246)

90.15

joint 3-6

83.96 (1,178/1,403)

95.93 (1,178/1,228)

89.55

表 3

F 値 (%)
90.54

全手法の評価実験の結果

Table 3 The result of the evaluation experiment for all evaluated methods.
再現率 (%) (R/C)

精度 (%) (R/N )59.73 (838/1,403)

45.64 (838/1,836)

F 値 (%)
51.74

76.19 (1,069/1,403)

95.87 (1,069/1,115)

84.91

ベース

Web freq

ライン

without align従来手法

joint 2-3

86.46 (1,213/1,403)

95.81 (1,213/1,266)

90.90

提案手法

city

89.24 (1,252/1,403)

93.43 (1,252/1,340)

91.29

city+del90.24 (1,266/1,403)

95.12 (1,266/1,331)

92.61

city+merge

88.81 (1,246/1,403)

94.82 (1,246/1,314)

91.72

city+del+merge

90.31 (1,267/1,403)

95.33 (1,267/1,329)

92.75

約 1.7 ポイント改善したことが分かる．有意水準 5%の t 検

1-6 は「ニコニコ」を付与した．この理由は joint 1-6 にお定において，再現率の改善には有意な差があるとはいえな

いて「t/-」
，
「a/ニ」
，
「c/コ」
，
「i/ニ」
，
「a/-」の発音規則がいものの，精度の改善は有意であった．また，F 値で見る存在したからである．
「a/ニ」に注目すると，辞書データと約 1.32 ポイントの改善であった．city と city+merge は内の「mechanic（メカニック）」に対して，「m/メ e/- c/カ

F 値で見ると約 0.43 ポイントの改善であったが，再現率とh/- a/ニ n/- i/ック c/-」とアライメントした結果から得ら精度は有意水準 5%の t 検定において有意な差があるとはれており，これは明らかに不正確な対応付けである．joint

いえなかった．city+del と city+del+merge もまた，F 値

1-6 においてこのような対応付けになったのは，表記を 1

で見ると約 0.14 ポイントの改善であったが，再現率と精度

文字に制限したことにより，アライメント候補の中で発音は有意水準 5%の t 検定において有意な差があるとはいえが割り当てられない表記の割合が増え，削除文字の影響がなかった．city+del+merge は joint 2-3 と比べて再現率を強くなり，n/- が n/ニ や a/- よりも高いパラメータ値を得

約 3.9 ポイント改善した．これは有意水準 1%の t 検定にたからである．このことから，最大文字数を小さく設定すおいても有意な差がみられた．一方で精度は約 0.5 ポイン

ることで不正確な対応付けが多くなることが分かる．

ト劣化したが，これは有意水準 5%の t 検定において有意また，city+del+merge と joint 3-6 の違いを比較すると，な差があるとはいえなかった．また，F 値で見ると約 1.85

「熊谷直実（クマガイナオザネ）」に対して，city+del+merge

ポイントの改善であった．以上の結果から，拡張された提は正解の発音を付与したのに対し，joint 3-6 は発音を付与

案手法は Joint multigram が持つ精度をほとんど劣化させしなかった．この理由は joint 3-6 は大きい単位で対応付

ずに，再現率を大きく改善することが分かった．

けを行うため，小さい単位での対応付けである「実/ザネ」
を発音規則として得られなかったからである．このことか

6.4 考察ら，従来手法は最大文字数を小さくすると不正確な対応付

6.4.1 提案手法 city+del+merge と従来手法 joint のけが増えて精度が劣化し，大きくすると未知語に対する汎比較
テストデータにおける city+del+merge と joint 1-6 の発音付与の違いを比較すると，「tacica（タシカ）」の場合，化能力が劣化することが分かる．一方で提案手法は最大文字数の適切な設定を探索する必要がなく，これは提案手法の利点の 1 つとしてあげられる．

city+del+merge は正解の発音を付与したのに対し，jointc 2013 Information Processing Society of Japan

459

情報処理学会論文誌

Vol.54 No.2 452–462 (Feb. 2013)

6.4.2 提案手法 city と提案手法 city+del の比較用した Web テキストマイニングによる自動発音付与を形

city と city+del の性能を比べると，city+del が精度に

態素解析器と併用することで，Yahoo!検索ランキングなど

おいて約 1.7 ポイントの有意な改善を示した．この改善のから抽出した 6,439 個のキーワードの約 88.7%に対して正要因は，N-best Viterbi トレーニングにより，不正確な削解の発音を付与できることになる．形態素解析器だけの場

除文字の学習が抑制されたためである．たとえば，テスト合，約 69%しか正解の発音を付与できないため，形態素解

データの「nakata.net（ナカタドットネット）」に対して，

析器と提案手法の city+del+merge を適用した Web テキ

city+del は発音を付与しなかったのに対し，city は「レベストマイニングによる自動発音付与を併用することで，音ルファイブ」を付与した．この理由を調査すると，city に声ドキュメントの認識性能などを改善することが期待でき

おいて「n/レ」
，
「a/ベ」
，
「k/-」
，
「a/ル」
，
「t/フ」
，
「a/ァ」
，

る．また，従来手法の joint 2-3 ではその値が約 87.9%であ

「./イ」
，
「n/-」
，
「e/ブ」
，
「t/-」の発音規則が存在している

り，提案手法の city+del+merge との差は約 0.84 ポイント

ことが分かった．
「a/ベ」に注目すると，辞書データ内のである．これは有意水準 7%の t 検定において有意な差で「deathbed（デスベッド）」に対して，city は「d/デ e/スある．音声ドキュメント検索などでこの差がどの程度にな

a/ベ th/- b/ッ e/- d/ド」とアライメントしており，これるかは，音声ドキュメントの種類，音声ドキュメントシス

は明らかに不正確な対応付けである．city においてこのよ

テムの構成，評価指標によって異なるが，Web 上の音声ドうな対応付けになったのは，すべてのアライメントを学習

キュメント検索に関しては新語が継続的に出現することがに用いることで，削除文字の影響が強くなり，th/- や e/-

想定されるため，提案手法を継続的に使用することにより，が他よりも高いパラメータ値を得たからである．一方で，音声ドキュメント検索における提案手法と従来手法の性能

city+del は「deathbed（デスベッド）」を「d/デ ea/- th/ス

差が漸次的に拡大していくと考えられる．
「形態素解析器

b/ベ e/ッ d/ド」とアライメントしている．これは有望なアで付与した発音が誤っているデータ」の検出も含め，形態

ライメントのみ学習に用いることで，不正確な削除文字の素解析器と Web テキストマイニングによる自動発音付与

影響を抑えたからだと考えられる．このことから，「N-bestの併用に関しては今後の課題である．

Viterbi トレーニングを用いた削除文字推定の改善」によ

また，本実験においては，先行研究 [8], [9], [10], [11] とり精度が改善されることが分かる．

同様に，異音同義語を考慮しなかった．異音同義語を考慮

6.4.3 提案手法 city+del と提案手法 city+merge の相する場合，自動発音付与システムによって与えられた複数補性の有望な候補（統計的アプローチでは N-best の出力結果，

city+del と city+merge を比べると，「不正確な対応付け

Web テキストマイニングによるアプローチでは「(抽出しの結合」よりも「N-best Viterbi トレーニングを用いた削除た文字列の集合 A)∩(展開した発音の集合 B)」）に対して，

文字推定の改善」の方が F 値を改善する効果が高いことがそれが正解の発音か誤った発音かを識別器によりさらに判分かる．これは不正確な削除文字が自動発音付与の性能に定する必要がある．このような異音同義語を扱うことがで大きな影響を及ぼしており，「不正確な対応付けの結合」できる自動発音付与システムもまた，形態素解析器と Web テ

はこの問題に対処できないからである．一方で，city+del

キストマイニングによる自動発音付与の併用と同様に今後

は特殊な発音を持つ単語（熟字訓など）に対して不正確なの課題である．

対応付けを行っていたのに対し，city+merge はそれらに対して正確な対応付けを行っていた．たとえば辞書データに

7. まとめ

ある「山葵（ワサビ）」のアライメントにおいて，city+del

日本語の未知語に対する発音付与の性能向上を目的とし

では「山/ワ 葵/サビ」と対応付けたのに対し，city+mergeて，表記と発音の対応付けの最大文字数を制限せずに，汎は「山葵/ワサビ」と正確に対応付けた．これらのことか化能力が高い小さい単位での対応付けを求める多対多アラら，この 2 つの手法は相補的な関係にあり，この 2 つの手

イメントを提案した．これまでに提案していた，市街地距法を導入した city+del+merge は F 値において最も高い性離を導入した多対多アライメントでは削除文字が推定され能を示す結果となった．

やすく，またデータセットによっては熟字訓などの特殊な6.4.4 総合的な発音付与性能

発音を持つ単語に対して不正確な対応付けを行うという問

city+del+merge はテストデータの 1,995 個のキーワー

題を持っていた．本論文では前者の問題に対してアライメ

ドのうち，1,267 個のキーワードに対して正解の発音を付

ントの学習時に N-best Viterbi トレーニングを用いて解決与した．本実験ではあらかじめ人手で正解の発音を付与しする方法を提案し，後者の問題に対しては不正確な対応付ているため，「形態素解析器により付与された発音が誤っ

けを隣の対応付けと結合させることで正確な対応付けにすているデータ」を自動的に得ることが可能であるが，実際る方法を提案した．また，Web テキストマイニングを用いにはこのデータを得ることは難しい．もしこのデータを得た日本語の未知語に対する自動発音付与により拡張されたることができた場合は，提案手法の city+del+merge を適提案手法の評価を行った．評価実験の結果，拡張された提c 2013 Information Processing Society of Japan

460

情報処理学会論文誌

Vol.54 No.2 452–462 (Feb. 2013)

案手法は従来手法の Joint multigram が持つ精度をほとん
ど劣化させずに，未知語に対する汎化能力を表す再現率を
約 3.9 ポイント改善した．
謝辞 本研究の一部は，戦略的創造研究推進事業「共生社会に向けた人間調和型情報技術の構築」（JST/CREST）などの援助を受けて行われた．
参考文献
Ogata, J., Goto, M. and Eto, K.: Automatic Transcription for a Web 2.0 Service to Search Podcasts, Proc.
Interspeech 2007, pp.2617–2620 (2007).
グーグル株式会社：Android/iPhone 向け音声検索，グー[2]
グル株式会社（オンライン），入手先http://www.google.co.jp/mobile/default/onsei.html
（参照 2012-04-27）.
ヤフー株式会社：Yahoo!検索ランキング，ヤフー株式会[3]
社（オンライン），入手先
http://searchranking.yahoo.co.jp/ （参照 2012-04-27）.
[4]
Neubig, G. and Mori, S.: Word-based Partial Annotation
for Eﬃcient Corpus Construction, Proc. LREC 2010,
pp.2723–2727 (2010).
[5]
Jiampojamarn, S., Cherry, C. and Kondrak, G.: Integrating joint n-gram features into a discriminative training framework, Proc. NAACL-HLT 2010, pp.697–700(2010).
[6]
Miyake, J., Takeuchi, S., Kawanami, H., Saruwatari,
H. and Shikano, K.: Automatic Reading Annotation to
Japanese Trendy Words based on Parentheses Expression, Proc. Oriental COCOSDA 2008, pp.81–86 (2008).
[7]
Dempster, A., Laird, N. and Rubin, D.: Maximum likelihood from incomplete data via the EM algorithm, Journal of the Royal Statistical Society, Vol.Series B, pp.1–38(1977).
[8]
Damper, R.I., Marchand, Y., Marsters, J.D. and Bazin,
A.I.: Aligning text and phonemes for speech technology applications using an EM-like algorithm, Journal of
speech Technology, Vol.8, No.2, pp.147–160 (2005).
[9]
Deligne, S., Yvon, F. and Bimbot, F.: Variable-Length
Sequence Matching for Phonetic Transcription Using
Joint Multigrams, Proc. EUROSPEECH, pp.2243–2246(1995).
[10] Jiampojamarn, S., Kondrak, G. and Sherif, T.: Applying
Many-to-Many Alignments and Hidden Markov Models
to Letter-to-Phoneme Conversion, Proc. NAACL HLT
2007, pp.372–379 (2007).
[11] Kubo, K., Kawanami, H., Saruwatari, H. and Shikano,
K.: Unconstrained Many-to-Many Alignment for Automatic Pronunciation Annotation, Proc. APSIPA 2011
(2011).
[12] エヌ・ティ・ティレゾナント株式会社：goo 検索，エヌ・ティ・ティ レゾナント株式会社（オンライン），入手先http://search.goo.ne.jp/ （参照 2012-04-27）.
[13] Aono, T.: FreeWnn @ SourceForge.jp Web ペ ー
ジ ，FreeWnn プ ロ ジ ェ ク ト（ オ ン ラ イ ン ），入 手 先http://freewnn.sourceforge.jp/ （参照 2012-04-27）.
[14] 株式会社三省堂：三省堂★ SANSEIDO，株式会社三省堂（オンライン），入手先 http://www.sanseido-publ.co.jp/
（参照 2012-04-27）.
[15] Yamane, H. and Asahara, M.: NAIST Japanese Dictionary プロジェクト日本語トップページ - SourceForge.JP，
奈良先端科学技術大学院大学（オンライン），入手先http://sourceforge.jp/projects/naist-jdic/ （参照 2012-04-27）.
EDP：英辞郎（えいじろう・EIJIRO）の最新情報，EDP（オンライン），入手先 http://www.eijiro.jp（参照 201204-27）.
[17] グーグル株式会社：急上昇ワード，グーグル株式会社（オンライン），入手先 http://www.google.co.jp/m/trends
（参照 2012-04-27）.
[18] エヌ・ティ・ティレゾナント株式会社：検索ランキング
ランキング - goo ランキング，エヌ・ティ・ティ レゾナ
ント株式会社（オンライン），入手先http://ranking.goo.ne.jp/keyword/（参照 2012-04-27）.
[16]

[1]

c 2013 Information Processing Society of Japan

久保 慶伍
平成 21 年近畿大学理工学部情報工学科卒業．平成 23 年奈良先端科学技術
大学院大学情報科学研究科博士前期課
程修了．同年同大学院博士後期課程入学，現在に至る．音声認識のための自動発音付与の研究に従事．日本音響学会学生会員．

川波 弘道
平成 6 年東京大学工学部電気工学科卒業．平成 12 年東京大学大学院工学系研究科博士課程修了．博士（工学）．
同年電子技術総合研究所入所．平成13 年より奈良先端科学技術大学院大学情報科学研究科助手，平成 19 年同助教．現在，音声分析，音声対話の研究に従事．電子情報通信学会，日本音響学会各会員．

猿渡 洋
平成 3 年名古屋大学工学部電気工学科卒業．平成 5 年同大学大学院修士課程修了．平成 12 年同大学院博士課程修了．工学博士．平成 5 年セコム（株）
入社．セコム IS 研究所音声情報処理研究室において，音響アレー信号処理に関する研究に従事．平成 12 年奈良科学技術大学院大学助教授．平成 19 年同准教授．音声信号処理，統計的信号処理等に関する研究に従事．平成 13，18 年電子情報通信学会論文賞受賞．平成 15，20，23 年電気通信普及財団テ
レコムシステム技術論文賞受賞．平成 23 年ドコモ・モバ
イル・サイエンス賞基礎科学部門優秀賞受賞．日本音響学会，日本 VR 学会，IEEE 各会員．

461

情報処理学会論文誌

Vol.54 No.2 452–462 (Feb. 2013)

鹿野 清宏 （フェロー）
昭和 45 年名古屋大学工学部電気工学科卒業．昭和 47 年同大学大学院修士課程修了．同年電電公社武蔵野
電気通信研究所入所．昭和 59〜61 年
カーネギーメロン大客員研究員．昭和61〜平成 2 年 ATR 自動翻訳電話研究
所音声情報処理研究室長．平成 4 年 NTT ヒューマンイン
タフェース研究所主席研究員．平成 6 年より奈良先端科学
技術大学院大学情報科学研究科教授．音情報処理学講座を担当．工学博士．音声・音情報処理の研究および研究指導に従事．昭和 50 年電子通信学会米沢賞，平成 3 年 IEEESP 1990 Senior Award，平成 6 年日本音響学会技術開発賞，平成 12 年情報処理学会山下記念研究賞，平成 13 年

VR 学会論文賞，平成 17，18 年電子情報通信学会論文賞，
平成 17 年猪瀬賞．電子情報通信学会フェロー，IEEE フェロー，ISCA，音響学会各会員．

c 2013 Information Processing Society of Japan

462