(57)【要約】【課題】簡便に誤り修正モデルを逐次学習する。【解決手段】誤り修正モデル学習装置１の音声認識部２は、入力音声を音声認識し、音声認識において単語の誤り傾向を修正するための誤り修正モデルを用いて、入力音声から得られた音声認識結果の選択における誤りを修正して出力する。音声認識結果修正部７は、人手により声認識結果を修正し、誤り修正モデル更新部１０は、音声認識結果に含まれる言語的な特徴と、修正結果に含まれる言語的な特徴との差分から単語の誤り傾向を学習し、学習した単語誤りの傾向に応じて誤り修正モデルを更新する。音声認識部２は、更新された誤り修正モデルを用いて、入力音声から得られた音声認識結果の選択における誤りを修正して出力する。【選択図】図４
2014224860.tif 000002
【特許請求の範囲】
【請求項１】
入力された指示に従って音声認識結果を修正する音声認識結果修正部と、
前記音声認識結果に含まれる言語的な特徴と、前記音声認識結果修正部による修正結果に含まれる言語的な特徴との差分から単語の誤り傾向を学習し、音声認識において単語の誤り傾向を修正するための誤り修正モデルを、学習した前記単語の誤りの傾向に応じて更新する誤り修正モデル更新部と、
を備えることを特徴とする誤り修正モデル学習装置。
【請求項２】
前記誤り修正モデル更新部は、前記音声認識結果に含まれる単語または単語の品詞の共起の頻度と、前記修正結果に含まれる単語または単語の品詞の共起の頻度とを用いて単語誤りの傾向を学習する、
ことを特徴とする請求項１に記載の誤り修正モデル学習装置。
【請求項３】
前記言語的な特徴は、連続する単語列、または、連続する単語の品詞列の頻度であり、
前記誤り修正モデルは、前記言語的な特徴に基づく素性関数と、前記素性関数の素性重みとを用いて音声認識のスコアを修正する算出式であり、
前記誤り修正モデル更新部は、前記誤り修正モデルの前記素性重みを、学習した前記単語の誤りの傾向に応じて更新する、
ことを特徴とする請求項１または請求項２のいずれか１項に記載の誤り修正モデル学習装置。
【請求項４】
入力音声を音声認識し、前記誤り修正モデル更新部により更新された前記誤り修正モデルを用いて、前記入力音声から得られた音声認識結果の選択における誤りを修正して出力する音声認識部をさらに備える、
ことを特徴とする請求項１から請求項３のいずれか１項に記載の誤り修正モデル学習装置。
【請求項５】
コンピュータを、
入力された指示に従って音声認識結果を修正する音声認識結果修正手段と、
前記音声認識結果に含まれる言語的な特徴と、前記音声認識結果修正手段による修正結果に含まれる言語的な特徴との差分から単語の誤り傾向を学習し、音声認識において単語の誤り傾向を修正するための誤り修正モデルを、学習した前記単語の誤りの傾向に応じて更新する誤り修正モデル更新手段と、
を具備する誤り修正モデル学習装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、誤り修正モデル学習装置、及びプログラムに関する。
【背景技術】
【０００２】
音声認識の誤り修正については、音声とその書き起こし（正解文）から、言語的な特徴を用いて音声認識の誤り傾向を統計的に学習し、学習の結果得られた統計的な誤り修正モデルを用いて音声認識の性能改善を図る技術がある（例えば、非特許文献１参照）。この従来技術では、音声データと、その音声認識結果および正解単語列を用いて誤り修正モデルのモデルパラメータを学習する。
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】小林ほか，「単語誤り最小化に基づく識別的スコアリングによるニュース音声認識」，電子情報通信学会誌，vol.J93-D no.5，２０１０年，ｐ．５９８−６０９
【発明の概要】
【発明が解決しようとする課題】
【０００４】
字幕制作システムなどのアプリケーションシステムでは、入力となる音声を逐次的かつリアルタイムに処理する必要がある。しかしながら、従来技術による誤り修正モデルの学習は計算量が多いため、逐次性とリアルタイム性の観点から上記のアプリケーションの利用では問題がある。
例えば、従来技術では、正解単語列を構成する各単語の発話時刻を求めるために、入力音声に対する整列を行う必要がある。整列の際には、各単語の発話時刻に合わせて、その音響スコア（統計的音響モデルによる対数尤度に基づくスコア）を計算する。これは、従来技術の誤り修正モデルにおいては、音響スコアが必要となることが理由である。整列処理は、誤り修正モデルの学習において、厳密なモデルパラメータの推定を行う上で重要ではあるものの、計算量の観点からは好ましいものではない。逐次的に誤り修正モデルを学習することができたとしても、モデルの適用に遅延が生じるため、放送音声のような話題の移り変わりの激しいタスクでは、誤り修正モデルの有効性が大きく損なわれると考えられる。
【０００５】
本発明は、このような事情を考慮してなされたもので、簡便に誤り修正モデルを逐次学習することができる誤り修正モデル学習装置、及びプログラムを提供する。
【課題を解決するための手段】
【０００６】
［１］  本発明の一態様は、入力された指示に従って音声認識結果を修正する音声認識結果修正部と、前記音声認識結果に含まれる言語的な特徴と、前記音声認識結果修正部による修正結果に含まれる言語的な特徴との差分から単語の誤り傾向を学習し、音声認識において単語の誤り傾向を修正するための誤り修正モデルを、学習した前記単語の誤りの傾向に応じて更新する誤り修正モデル更新部と、を備えることを特徴とする誤り修正モデル学習装置である。
この発明によれば、誤り修正モデル学習装置は、音声認識結果と、音声認識結果を人手により修正した修正結果とのそれぞれに含まれる言語的な特徴の差分に基づいて単語の誤り傾向を学習し、学習した誤り傾向に応じて誤り修正モデルを更新する。
これにより、誤り修正モデル学習装置は、逐次入力される音声の音声認識結果と、その音声認識結果を人手により修正した修正結果のみを用いて、少ない計算量により単語の誤り傾向を学習し、誤り修正モデルを更新することができる。従って、誤り修正モデル学習装置は、誤り修正モデルを逐次的かつ低遅延で更新することが可能となる。
なお、上記の「入力された指示」は、人手による修正作業を指すものとしてよい。
【０００７】
［２］  本発明の一態様は、上述する誤り修正モデル学習装置であって、前記誤り修正モデル更新部は、前記音声認識結果に含まれる単語または単語の品詞の共起の頻度と、前記修正結果に含まれる単語または単語の品詞の共起の頻度とを用いて単語誤りの傾向を学習する、ことを特徴とする。
この発明によれば、誤り修正モデル学習装置は、音声認識結果と、音声認識結果を人手により修正した修正結果とのそれぞれに含まれる単語または単語の品詞の共起の頻度を用いて単語の誤り傾向を学習し、誤り修正モデルを更新する。
これにより、誤り修正モデル学習装置は、音声認識結果と修正結果について単語または単語の品詞の共起の頻度を計数することで、音声認識における単語の誤り傾向を効率的に学習し、学習結果から誤り修正モデルを更新することができる。
【０００８】
［３］  本発明の一態様は、上述する誤り修正モデル学習装置であって、前記言語的な特徴は、連続する単語列、または、連続する単語の品詞列の頻度であり、前記誤り修正モデルは、前記言語的な特徴に基づく素性関数と、前記素性関数の素性重みとを用いて音声認識のスコアを修正する算出式であり、前記誤り修正モデル更新部は、前記誤り修正モデルの前記素性重みを、学習した前記単語の誤りの傾向に応じて更新する、ことを特徴とする。
この発明によれば、誤り修正モデル学習装置は、音声認識結果及び修正結果のそれぞれに含まれる連続する単語列の頻度、連続する単語の品詞列の頻度などの言語的な特徴の差分から単語の誤り傾向を学習する。誤り修正モデルは、言語的な特徴を表わす素性関数と素性関数の素性重みとにより音声認識のスコアを修正する算出式であり、誤り修正モデル学習装置は、学習した単語誤りの傾向に応じて誤り修正モデルの素性重みを更新する。
これにより、誤り修正モデル学習装置は、音声認識の認識誤り傾向を効率的に学習し、誤り修正モデルにおける素性重みを更新することができる。
【０００９】
［４］  本発明の一態様は、上述する誤り修正モデル学習装置であって、入力音声を音声認識し、前記誤り修正モデル更新部により更新された前記誤り修正モデルを用いて、前記入力音声から得られた音声認識結果の選択における誤りを修正して出力する音声認識部をさらに備える、ことを特徴とする。
この発明によれば、誤り修正モデル学習装置は、入力音声を音声認識することにより得られた正解候補の中から、逐次更新される誤り修正モデルを用いて音声認識結果を選択する。
これにより、誤り修正モデル学習装置は、話題が移り変わっていく場合でも、その話題に応じて逐次的かつ学習による遅延時間の小さい誤り修正モデルを用いて、認識率のよい音声認識結果を得ることができる。
【００１０】
［５］  本発明の一態様は、コンピュータを、入力された指示に従って音声認識結果を修正する音声認識結果修正手段と、前記音声認識結果に含まれる言語的な特徴と、前記音声認識結果修正手段による修正結果に含まれる言語的な特徴との差分から単語の誤り傾向を学習し、音声認識において単語の誤り傾向を修正するための誤り修正モデルを、学習した前記単語の誤りの傾向に応じて更新する誤り修正モデル更新手段と、を具備する誤り修正モデル学習装置として機能させるためのプログラムである。
【発明の効果】
【００１１】
本発明によれば、簡便に誤り修正モデルを逐次学習することができる。
【図面の簡単な説明】
【００１２】
【図１】本発明の一実施形態に適用される音声認識結果の修正プロセスを示す図である。
【図２】同実施形態による誤り修正モデルの逐次更新プロセスを示す図である。
【図３】同実施形態による言語モデルの更新プロセスを示す図である。
【図４】同実施形態による誤り修正モデル学習装置の構成を示す機能ブロック図である。
【図５】同実施形態による誤り修正モデル学習装置の全体処理を示すフローチャートである。
【図６】同実施形態による形態素解析部の処理を示すフローチャートである。
【図７】同実施形態による誤り修正モデル更新部の処理を示すフローチャートである。
【図８】同実施形態による言語モデル更新部の処理を示すフローチャートである。
【発明を実施するための形態】
【００１３】
以下、図面を参照しながら本発明の実施形態を詳細に説明する。
【００１４】
［１．  本実施形態の概要］
音声認識の誤り傾向を反映した識別学習に基づく誤り修正モデルがすでに考案されている。従来の誤り修正モデルの学習では、与えられた音声とその音声に該当する正解単語列に対して、単語列を構成する各単語の発話開始時刻と終了時刻を整列するための手続きが必要である。その手続きは次の通りである。
【００１５】
（１）音声データと正解単語列を整列する。この際、正解単語列を構成する各単語の音響スコアと言語スコア（統計的言語モデルによる単語列の生成確率に基づくスコア）を計算する。
（２）音声認識結果および（１）で整列済みの正解単語列を基に、入力音声データに対する期待誤り数（平均的な音声認識の単語誤り数）を計算する。
（３）期待誤り数を評価関数として、誤り修正モデルのモデルパラメータの推定を行う。
【００１６】
上述した従来技術では、すべての音声データが所与のもとで誤り修正モデルのモデルパラメータを推定している。音声データが得られるたびに上記手続きを繰り返し行うようにすれば、従来技術においても逐次処理に適用可能であるが、（１）と（２）の処理は誤り修正モデルのパラメータ推定のための計算時間を押し上げる要因となっている。そのため、推定したモデルパラメータを即時音声認識に適用するような、リアルタイム性が求められるアプリケーションには向いていない。そこで、整列手続きを行うことなく簡便にモデルを学習することが望まれる。
【００１７】
本実施形態の誤り修正モデル学習装置は、字幕制作システムなどにより、入力音声の認識誤りを修正した正解単語列が所与であるという音声認識アプリケーションに適用される誤り修正モデルを、正解単語列の整列手続きを踏まえることなく、音声認識結果と修正結果から逐次的かつ簡便に学習する。
【００１８】
［２．  誤り修正モデルの学習アルゴリズム］
本実施形態の誤り修正モデル学習装置は、従来法の課題を解決するために、リアルタイム性に優れる逐次処理に基づいて誤り修正モデルを学習する。本実施形態の学習アルゴリズムでは、字幕制作システムのように正解単語列が逐次的に得られるアプリケーションに適用される誤り修正モデルを学習の対象とする。
【００１９】
図１は、音声認識結果から修正結果を得る修正プロセスを示す図である。一般的な修正プロセスにおいては、前段となる音声認識装置により、音声認識結果が逐次与えられる。従来の逐次確定型の音声認識装置（例えば、特開２００１−０９２４９６号公報参照。）の場合、認識結果は、入力発話に該当する単語がまとめて送られてくるのではなく、音声認識装置において確定した（最も正解らしいと判定された）一部分の単語列が送られてくる。このプロセスは、本実施形態においても適用される。
【００２０】
その後、人手による作業により音声認識結果が修正され、修正結果が正解単語列として後段の処理に送られる。修正プロセスでは、通常、修正後の単語列を逐次後段に送るのではなく、入力発話の該当する単語すべてを後段に送る。したがって、修正プロセスにおける修正の一単位（修正ブロック）は、発話を単位とするブロックとなる。
後段の処理は、例えば、字幕制作システムであれば、正解単語列を字幕のフォーマットに変換し、放送波に重畳するといった処理を指す。
【００２１】
修正作業は、音声認識結果の各単語に対する次の３つの作業を指す。
（１）音声認識結果に含まれる単語を削除する。これは、「挿入誤り」とよばれる認識誤りの修正に該当する。
（２）音声認識結果に含まれる単語を置き換える。これは、「置換誤り」とよばれる認識誤りの修正に該当する。
（３）音声認識結果にはない単語を挿入する。これは、「削除誤り」とよばれる認識誤りの修正に該当する。
【００２２】
図２は、本実施形態による誤り修正モデルの逐次更新プロセスを示す図である。本実施形態では、誤り修正モデルを逐次的に学習して音声認識に適用するため、同図に示すように、複数の修正ブロックを一つの逐次更新ブロックと定めて誤り修正モデルの更新タイミングを調整する。そして、この逐次更新ブロックに含まれる音声認識結果と修正結果の単語列のみを用いて、逐次的に誤り修正モデルを更新していく。
【００２３】
［２．１  従来法の誤り修正モデル］
ベイズの定理によれば、音声入力ｘが与えられたとき、この音声入力ｘに対して最も尤もらしい単語列ｗ＾（「＾」は、「ハット」を表す。）は、以下の式（１）により求めることができる。
【００２４】
【数１】
2014224860.tif 000003
【００２５】
音声入力ｘ及び単語列ｗは、例えば、発話の単位に対応し、Ｐ（ｗ｜ｘ）は、音声入力ｘが与えられたときに単語列（文仮説）ｗが得られる事後確率である。
また、Ｐ（ｘ｜ｗ）は、単語列ｗに対する音響的な尤もらしさを示す尤度であり、そのスコア（音響スコア）は隠れマルコフモデル（Hidden Markov Model、ＨＭＭ）及び混合ガウス分布（Gaussian Mixture Model、ＧＭＭ）に代表される統計的音響モデル（以下、「音響モデル」と記載する。）に基づいて計算される。言い換えれば、音響特徴量が与えられたとき、複数の正解候補の単語それぞれに対する尤もらしさを表すスコアが音響スコアである。
【００２６】
一方、Ｐ（ｗ）は、単語列ｗに対する言語的な生成確率であり、そのスコア（言語スコア）は、単語ｎ−ｇｒａｍモデル等の統計的言語モデル（以下、「言語モデル」と記載する。）により計算される。言い換えれば、音声認識対象の単語の前または後の単語列、あるいは前後両方の単語列が与えられたとき、複数の正解候補の単語列それぞれに対する尤もらしさを表すスコアが言語スコアである。なお、単語ｎ−ｇｒａｍモデルは、Ｎ単語連鎖（Ｎは、例えば１、２、または３である。）の統計に基づいて、（Ｎ−１）単語の履歴から次の単語の生起確率を与えるモデルである。
以下の説明では、音響モデルにＨＭＭ−ＧＭＭを用い、言語モデルにｎ−ｇｒａｍを用いる。
【００２７】
式（１）のＰ（ｘ｜ｗ）Ｐ（ｗ）が最大の場合は、その対数も最大である。そこで、音声認識では、上記の式（１）のベイズの定理に基づいて、音声入力ｘが与えられたときの文仮説（正解候補）である単語列ｗの評価関数Ｓ（ｗ｜ｘ）を以下の式（２）のように定める。
【００２８】
【数２】
2014224860.tif 000004
【００２９】
式（２）において、ｆａｍ（ｘ｜ｗ）は、音響モデルによる単語列ｗの対数音響スコア、ｆｌｍ（ｗ）は、言語モデルによる単語列ｗの対数言語スコア、λｌｍは、音響スコアに対する言語スコアの重みである。
【００３０】
式（２）が定められたとき、以下の式（３）に示すように、音声入力ｘに対する正解候補の単語列ｗの集合の中から、式（２）が示す評価関数Ｓ（ｗ｜ｘ）の結果が最大である単語列ｗ＾が、音声入力ｘの音声認識結果として選択される。
【００３１】
【数３】
2014224860.tif 000005
【００３２】
非特許文献１などの従来法における誤り修正モデルでは、仮説（正解候補の単語列ｗ）の評価関数を以下の式（４）として、最尤仮説である単語列ｗ＾を以下の式（５）により求める。
【００３３】
【数４】
2014224860.tif 000006
【００３４】
【数５】
2014224860.tif 000007
【００３５】
式（４）の右辺が誤り修正モデルである。式（４）におけるΣｉλｉｆｉ（ｗ）は、単語列ｗの誤り傾向を反映したスコアであり、単語列ｗに対するペナルティもしくは報償として働く。また、ｆｉ（ｗ）（ｉ＝１，...，）はｉ番目の素性関数であり、モデルパラメータΛ＝｛λ１，...｝の要素λｉは素性関数ｆｉ（ｗ）の重み（素性重み）である。素性関数は、与えられた単語列（ここでは、単語列ｗ）で言語的ルールが成立すればその数となり、成立しなければ０となるような関数として定められる。これらルールは、例えば、同一の発話内における連続する単語、連続しない２単語以上の単語の共起関係、単語の構文的な情報または意味的な情報、などの言語的特徴である。従来法における具体的な素性関数ｆｉのルールの例として、以下があげられる。
【００３６】
例えば、単語の共起関係に基づく素性関数として、以下の（１）、（２）がある。
【００３７】
（１）単語列ｗに連続する単語２つ組（ｕ，ｖ）が含まれる場合、その数を返す関数
（２）単語列ｗに連続しない単語２つ組（ｕ，ｖ）が含まれる場合、その数を返す関数
【００３８】
また、単語列ｗを構成する各単語を名詞や動詞といった品詞カテゴリ（構文情報）に置き換えた上で得られる、構文情報に基づく素性関数として、例えば以下の（３）、（４）がある。なお、ｃ（・）は、単語を品詞にマッピングする関数である。
【００３９】
（３）単語列ｗに連続する品詞２つ組（ｃ（ｕ），ｃ（ｖ））が含まれる場合、その数を返す関数
（４）単語列ｗに連続しない品詞２つ組（ｃ（ｕ），ｃ（ｖ））が含まれる場合、その数を返す関数
【００４０】
あるいは、単語列ｗを構成する各単語を、意味情報を表すカテゴリ（意味カテゴリ）に置き換えた上で得られる、意味的な情報に基づく素性関数として、例えば以下の（５）、（６）がある。意味カテゴリは、本実施形態の誤り修正モデル学習装置が外部または内部に備えるデータベースに記憶されるシソーラスなどを用いて得ることができる。なお、ｓ（・）は単語を意味カテゴリにマッピングする関数である。
【００４１】
（５）単語列ｗに連続する意味カテゴリ２つ組（ｓ（ｕ），ｓ（ｖ））が含まれる場合、その数を返す関数
（６）単語列ｗに連続しない意味カテゴリ２つ組（ｓ（ｕ），ｓ（ｖ））が含まれる場合、その数を返す関数
【００４２】
非特許文献１の手法では、式（４）における仮説のスコアの計算を、修正済みの正解単語列について行っているが、この計算は時間がかかるため、誤り修正モデルの適用からリアルタイム性が失われてしまう。
そこで、逐次更新処理ブロックにおける誤り修正モデルのモデルパラメータΛの更新方法として、以下のアルゴリズムを用いる。
【００４３】
［２．２  本実施形態に適用される誤り修正モデルの学習アルゴリズム］
いま、着目している逐次更新処理ブロック内の音声認識結果をｗとし、その修正結果である正解単語列をｗｒｅｆとする。モデルパラメータΛを用いた式（４）により算出した音声認識結果wのスコアをＳ＾（ｗ｜ｘ；Λ）、正解単語列ｗｒｅｆのスコアをＳ＾（ｗｒｅｆ｜ｘ；Λ）としたとき、以下の式（６）に示すそれらスコアの差分Ｌ１（Λ）を考える。
【００４４】
【数６】
2014224860.tif 000008
【００４５】
正解単語列ｗｒｅｆに対するスコアが大きければ、式（６）において正解単語列が選ばれる見込みが高くなる。一方、誤りを含む音声認識結果ｗに対するスコアが小さければ、そのような単語列が選ばれる見込みが小さくなる。したがって、Ｌ１（Λ）が大きいほど、正解単語列が選ばれる見込みが高くなる。
つまり、Ｌ１（Λ）を大きくするようにモデルパラメータΛを推定することにより、音声認識結果の誤り傾向を反映した誤り修正モデルが得られる。そこで、Ｌ１（Λ）を最大化するために、その重みλｉに関する勾配を求めると、以下の式（７）となる。
【００４６】
【数７】
2014224860.tif 000009
【００４７】
今、逐次更新ブロックｂｍ（ｍ＝１，...，）内に修正ブロックがｎｍ個含まれていたとすると、逐次更新ブロックｂｍにおけるスコアの差分Ｌ１（Λ）は、以下の式（８）のように書き換えられる。なお、入力音声ｘｎに対応した修正ブロックｎ（ｎ＝１，...，ｎｍ）における音声認識結果をｗｎとし、その修正結果である正解単語列をｗｎｒｅｆとする。
【００４８】
【数８】
2014224860.tif 000010
【００４９】
したがって、逐次更新ブロックｂｍにおける式（８）に示す関数の勾配Δλｉｍは、以下の式（９）となる。
【００５０】
【数９】
2014224860.tif 000011
【００５１】
素性関数ｆｉの値は、その定義より、音声認識結果および正解単語列で生起する言語的ルールの個数である。従って、修正済みの正解単語列に対して式（４）によるスコアを計算することなく、逐次処理更新ブロック内の素性を数え上げるだけの簡単な処理によりスコアの差分Ｌ１（Λ）を最大化でき、そのときのモデルパラメータΛから結果として誤り修正モデルを学習できる。
【００５２】
逐次処理更新ブロックに対する繰り返し更新によりモデルパラメータΛの推定を行うとすれば、ｍ−１番目の逐次更新ブロックｂｍ−１で重みλｉｍ−１が得られたとして、現在のブロックｍにおける重みλｉｍは、以下の式（１０）となる。
【００５３】
【数１０】
2014224860.tif 000012
【００５４】
式（１０）において、ηは、事前に定めた係数とする。
あるいは、過去に得られたＫ個の逐次更新ブロックに対して重み付け加算を行うことにより、以下の式（１１）とすることもできる。
【００５５】
【数１１】
2014224860.tif 000013
【００５６】
式（１１）において、ρｋは、事前に定めた重みであり、Σρｋ＝１（ｋ＝０，...，Ｋ−１）とする。
【００５７】
一方、音声認識では、最尤系列を音声認識結果として一意に求めるのではなくて、最尤系列の導出の際に複数の正解候補となる系列をＬ個同時に生成することが多い。いま、音声ｘｎに対する第ｌ番目（ｌ＝１，...，）の正解候補文（正解候補となる系列）をｗｎｌ、式（４）により算出した正解候補文ｗｎｌのスコアをＳ＾（ｗｎｌ｜ｘ；Λ）とすると、正解候補文ｗｎｌが生成される事後確率ｐ（ｗｎｌ｜ｘｎ）は、以下の式（１２）で与えられる。なお、正解候補文ｗｎｌ’は、音声ｘｎの正解候補文ｗｎｌ以外の正解候補文である。
【００５８】
【数１２】
2014224860.tif 000014
【００５９】
ここで、音声ｘｎの正解単語列ｗｎｒｅｆのスコアとＬ個の正解候補文ｗｎｌの平均スコアとの差分Ｌ２（Λ）を以下の式（１３）のように定める。
【００６０】
【数１３】
2014224860.tif 000015
【００６１】
式（１３）に示す関数を最大化するために勾配を求めると、以下の式（１４）となる。
【００６２】
【数１４】
2014224860.tif 000016
【００６３】
したがって、逐次更新ブロックｂｍにおける勾配Δλｉｍは、以下の式（１５）となる。
【００６４】
【数１５】
2014224860.tif 000017
【００６５】
モデルパラメータΛの最終更新式は、上述した式（１０）または式（１１）となる。
【００６６】
［３．  誤り修正モデル学習装置の構成］
図４は、本発明の一実施形態による誤り修正モデル学習装置１の構成を示す機能ブロック図であり、本実施形態と関係する機能ブロックのみ抽出して示してある。誤り修正モデル学習装置１は、コンピュータ装置により実現され、同図に示すように、音声認識部２、発音辞書記憶部３、言語モデル記憶部４、音響モデル記憶部５、誤り修正モデル記憶部６、音声認識結果修正部７、形態素解析部８、形態素解析辞書データベース（ＤＢ）記憶部９、誤り修正モデル更新部１０、言語モデル更新部１２、及び発音辞書データベース（ＤＢ）記憶部１４を備えて構成される。
【００６７】
発音辞書記憶部３は、単語と発音の組を示す発音辞書を記憶する。言語モデル記憶部４は、言語モデルを記憶する。音響モデル記憶部５は、音響モデルを記憶する。誤り修正モデル記憶部６は、誤り修正モデルを記憶する。音声認識部２には、従来技術の音声認識装置を用いることができ、発音辞書記憶部３に記憶されている発音辞書、言語モデル記憶部４に記憶されている言語モデル、音響モデル記憶部５に記憶されている音響モデル、及び誤り修正モデル記憶部６に記憶されている誤り修正モデルを用いて、逐次入力される入力音声Ｄ１の音声認識結果を得る。なお、誤り修正モデル記憶部６に記憶されている誤り修正モデルは誤り修正モデル更新部１０により逐次更新されるため、音声認識部２は、更新された誤り修正モデルを音声認識に用いる。また、発音辞書記憶部３に記憶されている発音辞書、及び言語モデル記憶部４に記憶されている言語モデルは言語モデル更新部１２により更新されるため、音声認識部２は、更新された発音辞書及び言語モデルを音声認識に用いる。音声認識部２は、音声認識結果を音声認識結果修正部７に出力する。
【００６８】
音声認識結果修正部７は、人手により音声認識結果を正解単語列に修正し、音声認識結果及びその修正結果である正解単語列を形態素解析部８に出力する。音声認識結果修正部７には、例えば、従来の字幕制作システムなどを用いることができる。形態素解析部８は、正解単語列に含まれる修正文字列を形態素解析する。形態素解析部８は、音声認識結果及びその正解単語列と、形態素解析結果とを誤り修正モデル更新部１０に出力する。誤り修正モデル更新部１０は、音声認識部２により得られた音声認識結果と、音声認識結果修正部７で修正され、形態素解析部８により形態素解析された結果の正解単語列を用いて、誤り修正モデルのモデルパラメータΛを推定する。誤り修正モデル更新部１０は、逐次更新ブロック分の音声認識結果と修正結果の正解単語列が得られるたびにモデルパラメータΛを逐次推定し、推定したモデルパラメータΛにより誤り修正モデル記憶部６に記憶されている誤り修正モデルを逐次更新する。誤り修正モデル更新部１０が備える記憶部１１は、誤り修正モデルの更新に用いる音声認識結果及び修正結果の正解単語列を記憶する。
【００６９】
発音辞書データベース記憶部１４は、発音辞書のデータベースを記憶する。発音辞書記憶部３が記憶する発音辞書は、発音辞書データベース記憶部１４に記憶されている発音辞書のデータベースの中から音声認識に使用されるものを抽出した一部である。言語モデル更新部１２は、正解単語列に基づいて言語モデル記憶部４に記憶されている言語モデルを更新する。さらに、言語モデル更新部１２は、正解単語列に含まれる単語の発音が、発音辞書記憶部３に記憶されている発音辞書に登録されていない場合、発音辞書データベース記憶部１４に記憶されている発音辞書データベースからその単語の発音を読み出して登録する。言語モデル更新部１２が備える記憶部１３は、言語モデルの更新に用いる正解単語列を記憶する。
【００７０】
［４．  誤り修正モデル学習装置の処理手順］
図５は、誤り修正モデル学習装置１の全体処理を示すフローチャートである。誤り修正モデル学習装置１は、音声が入力されると逐次的に同図に示す処理を行う。以下、同図に示す各ステップの処理について説明する。
【００７１】
［４．１  ステップＳ１］
音声認識部２は、音発音辞書記憶部３に記憶されている発音辞書、言語モデル記憶部４に記憶されている言語モデル、音響モデル記憶部５に記憶されている音響モデル、及び誤り修正モデル記憶部６に記憶されている誤り修正モデルを用いて、入力音声Ｄ１を音声認識する。この音声認識結果は、誤り修正モデルにより、入力音声から得られた音声認識結果の選択における誤りを修正したものである。音声認識部２は、入力音声の音声認識結果である単語列を出力する。本実施形態では、音声認識部２は、特開２００１−０９２４９６号公報に示す技術と同様に、入力音声を逐次音声認識し、確定した認識結果を示す音声認識結果データＤ２を、単語を単位として次々に後段の音声認識結果修正部７に出力する。また、音声認識部２は、入力音声が発話の終了点（無音区間で定められる発話境界）に達した際に、発話終了記号を示す発話終了記号データを音声認識結果修正部７に出力する。発話終了記号は、音声認識結果修正部７において、修正ブロックの境界を定めるために必要となる。なお、本実施形態において音声認識結果データＤ２が示す音声認識結果は、逐次確定した最尤系列の単語列だけでもよく、複数の正解候補単語列（最尤系列の単語列と１以上の他の正解候補単語列）から構成されていても良い。音声認識結果が複数の正解候補単語列から構成される場合、各正解候補単語列の音声認識のスコアも音声認識結果データＤ２に付加される。
【００７２】
［４．２  ステップＳ２］
音声認識結果修正部７は、前段の音声認識部２から音声認識結果データＤ２が送られてくると、音声認識結果データＤ２が示す音声認識結果を構成する各単語の誤りを、図示しない入力手段により人が入力した指示に従って修正した修正結果を生成する。ただし、音声認識結果が複数の正解候補単語列から構成される場合、修正対象となるのは最尤系列とする。認識結果を構成する単語は、音声認識部２から音声認識結果データＤ２により逐次送られてくるが、人手による修正を行う際の単位（修正ブロック）は、発話の始端から終端までとする。音声認識結果修正部７は、修正ブロックの境界を音声認識部２から出力される発話終了記号データにより定める。
修正ブロックの各単語の認識誤りを人手により修正した後、図示しない入力手段により送出操作が行われた場合、音声認識結果修正部７は、後段の形態素解析部８に、音声認識結果データＤ２と修正結果を示す修正結果データＤ３とのペアを修正ブロック単位で出力する。
【００７３】
［４．３  ステップＳ３］
形態素解析部８は、前段の音声認識結果修正部７から入力された修正結果データＤ３が示す修正結果の単語列を形態素解析する。音声認識結果は単語列であるが、修正作業では単語の分割を考慮せずに文字入力を行うため、修正が行われた箇所の単語境界は不明である。そこで、形態素解析部８は、修正結果に含まれる単語を順次チェックし、単語分割されていない語を形態素解析により単語に分解する。
図６は、形態素解析部８の処理を示すフローチャートである。
【００７４】
（ステップＳ３１：修正結果単語選択処理）
形態素解析部８は、修正結果データＤ３が示す修正結果を、音声認識結果データＤ２が示す最尤系列と比較し、不一致箇所を修正文字列として特定する。形態素解析部８は、特定されたｍ＝１，...，番目の修正文字列からまだ処理対象となっていない先頭（ｍ＝１）の修正文字列を選択する。
【００７５】
（ステップＳ３２：未登録単語判定処理）
形態素解析部８は、ｍ番目の修正文字列が、複数の単語から構成されているか否かを、当該修正文字列が形態素解析辞書データベース記憶部９に記憶されている形態素解析辞書に含まれているかどうかにより判断する。形態素解析部８は、修正文字列が形態素解析辞書に含まれている場合、ｍ番目の修正文字列が１つの単語であると判断し、ステップＳ３４の処理を行う。一方、ｍ番目の修正文字列が形態素解析辞書に含まれていない場合、形態素解析部８は、当該修正文字列が複数の単語列から構成されているとみなし、ステップＳ３３の処理を行う。
【００７６】
（ステップＳ３３：形態素解析処理）
形態素解析部８は、修正文字列を形態素解析して形態素解析辞書に含まれる既知の単語の組み合わせを探索する。例えば、修正文字列ｃが、修正結果の第ｋ番目の単語であったとすると、当該修正文字列ｃから形態素解析により得られる単語列ｗ＾は、以下の式（１６）により求めることができる。
【００７７】
【数１６】
2014224860.tif 000018
【００７８】
ここで、単語列ｗｋ−１、単語列ｗｋ＋１はそれぞれ、修正結果における修正文字列ｃの前後の単語である。これは、統計的な形態素解析にみられる従来の手法と同一の手法である。形態素解析部８は、修正結果におけるｍ番目の修正文字列ｃを、形態素解析の結果得られた単語列ｗ＾に置き換える。
【００７９】
（ステップＳ３４：次の修正単語選択処理）
形態素解析部８は、現在のｍの値に１を加算して、ステップＳ３２からの処理を繰り返す。そして、形態素解析部８は、修正結果に含まれるすべての修正単語列についてステップＳ３２〜Ｓ３３の処理を行うと、図６の処理フローを終了する。形態素解析部８は、音声認識結果データＤ２と、修正結果データＤ３が示す修正結果に含まれる修正文字列を形態素解析の結果得られた単語列に置き換えた修正結果を示す修正結果データＤ４を、後段の誤り修正モデル更新部１０に出力する。
【００８０】
［４．４  ステップＳ４］
誤り修正モデル更新部１０は、前段の形態素解析部８から音声認識結果データＤ２と、形態素解析が行われた修正結果を示す修正結果データＤ４を入力として受け取ると、音声認識結果データＤ２及び修正結果データＤ４を内部に備える記憶部１１に書き込む。誤り修正モデル更新部１０は、記憶部１１に記憶されている音声認識結果データＤ２が示す音声認識結果と修正結果データＤ４が示す修正結果とに基づいてモデルパラメータΛを更新し、更新したモデルパラメータΛにより、誤り修正モデル記憶部６に記憶されている誤り修正モデルを更新する。
図７は、誤り修正モデル更新部１０の処理を示すフローチャートである。
【００８１】
（ステップＳ４１：更新判定処理）
誤り修正モデル更新部１０は、誤り修正モデルのモデルパラメータΛの更新を行うかどうかを判定する。この判定は、モデルの更新頻度を調整するために行う。誤り修正モデル更新部１０は、まだ後段の処理に使用していない音声認識結果の単語数をＮ、修正結果の単語数をＭとしたときに、音声認識結果の単語数Ｎまたは修正結果の単語数Ｍのどちらか小さい方が、あらかじめ定めた閾値以上の場合に、後段の処理を行うと判定する。なお、誤り修正モデル更新部１０は、音声認識結果の単語数Ｎ、修正結果の単語数Ｍを、記憶部１１に記憶され、まだ後段の処理に使用していない音声認識結果データＤ２、修正結果データＤ４から取得する。ただし、音声認識結果が複数の正解候補単語列から構成される場合は、音声認識結果の単語数Ｎの値を、最尤系列に含まれる単語数とする。
【００８２】
音声認識結果の単語数Ｎまたは修正結果の単語数Ｍのどちらか小さい方が閾値よりも小さな場合、誤り修正モデル更新部１０は、後段の処理を行わないと判定し、図７の処理を終了する。記憶部１１に書き込まれた音声認識結果データＤ２及び修正結果データＤ４は、次の更新機会に利用される。
一方、音声認識結果の単語数Ｎまたは修正結果の単語数Ｍのどちらか小さい方が閾値以上の場合、誤り修正モデル更新部１０は、ステップＳ４２からの処理を行うと判定する。記憶部１１に記憶され、まだステップＳ４２以降の処理に使用していない音声認識結果データＤ２及び修正結果データＤ４を逐次更新ブロックｂｍとする。
【００８３】
（ステップＳ４２：素性計算処理）
誤り修正モデル更新部１０は、逐次更新ブロックｂｍについて素性計算処理を行う。具体的には、誤り修正モデル更新部１０は、逐次更新ブロックｂｍの音声認識結果データＤ２が示す音声認識結果と、修正結果データＤ４が示す修正結果のそれぞれについて、以下の素性関数の値（素性が生起する個数）を計算する。
【００８４】
（１）連続する単語２つ組（ｕ，ｖ）が含まれる場合、その数を返す関数
（２）連続する品詞２つ組（ｃ（ｕ），ｃ（ｖ））が含まれる場合、その数を返す関数
（３）連続する意味カテゴリ２つ組（ｓ（ｕ），ｓ（ｖ））が含まれる場合、その数を返す関数
【００８５】
これにより、修正結果が示す正解単語列ｗｎｒｅｆから、ｆｉ（ｗｎｒｅｆ）が得られる。また、音声認識結果が最尤系列の場合、最尤系列の音声認識結果ｗｎからｆｉ（ｗｎ）が得られ、音声認識結果が複数の正解候補単語列（正解候補文）ｗｎｌの場合、ｆｉ（ｗｎｌ）が得られる。
【００８６】
（ステップＳ４３：勾配計算処理）
誤り修正モデル更新部１０は、ステップＳ４２において求めた素性関数の値を用いて、勾配の値（素性関数の値の差分）を、式（９）または式（１５）に従って計算する勾配計算処理を行う。
具体的には、音声認識結果が最尤系列を示す場合、誤り修正モデル更新部１０は、ステップＳ４２において求めたｆｉ（ｗｎｒｅｆ）及びｆｉ（ｗｎ）を式（９）に代入して勾配Δλｉｍを算出する。
一方、音声認識結果が複数正解候補単語列を示す場合、誤り修正モデル更新部１０は、音声認識結果データＤ２から各正解候補単語列ｗｎｌのスコアＳ＾（ｗｎｌ｜ｘｎ）を読み出し、式（１２）により各正解候補単語列ｗｎｌの事後確率ｐ（ｗｎｌ｜ｘｎ）を算出する。続いて、誤り修正モデル更新部１０は、ステップＳ４２において求めたｆｉ（ｗｎｒｅｆ）及びｆｉ（ｗｎｌ）と、算出した各正解候補単語列ｗｎｌの事後確率ｐ（ｗｎｌ｜ｘｎ）を式（１５）に代入して勾配Δλｉｍを算出する。
【００８７】
（ステップＳ４４：パラメータ更新処理）
誤り修正モデル更新部１０は、逐次更新ブロックｂｍ−１について算出した重みλｉｍ−１を誤り修正モデル記憶部６に記憶されている誤り修正モデルから取得し、ステップＳ４３において求めた勾配Δλｉｍと、読み出した重みλｉｍ−１とを用いて、式（１０）により重みλｉｍを算出する。なお、重みλｉｍ−１を記憶部１１から読み出してもよい。
あるいは、誤り修正モデル更新部１０は、逐次更新ブロックｂｍ−１〜ｂｍ−（Ｋ−１）について算出した重みλｉｍ−１〜λｉｍ−（Ｋ−１）を記憶部１１から読み出す。誤り修正モデル更新部１０は、ステップＳ４３において求めた勾配Δλｉｍと、読み出した重みλｉｍ−１〜λｉｍ−（Ｋ−１）とを用いて、式（１１）により重みλｉｍを算出する。なお、誤り修正モデル記憶部６に現在の誤り修正モデルより前に使用していた誤り修正モデルも記憶されている場合、重みλｉｍ−１〜λｉｍ−（Ｋ−１）をこれらの誤り修正モデルから取得してもよい。
誤り修正モデル更新部１０は、算出した重みλｉｍからなるモデルパラメータΛを記憶部１１に書き込む。
【００８８】
（ステップＳ４５：モデル更新処理）
誤り修正モデル更新部１０は、音声認識部２が入力音声の発話終了（引き続く発話の開始前）を検出したタイミングに応じて、誤り修正モデル記憶部６に記憶され、音声認識部２が参照している誤り修正モデルのモデルパラメータを、記憶部１１に保持しておいたモデルパラメータΛにより置き換える。誤り修正モデル更新部１０は、図７の処理を終了する。
【００８９】
［４．５  ステップＳ５］
言語モデル更新部１２は、修正結果を利用して言語モデル記憶部４に記憶されている言語モデルを更新する。本実施形態では、誤り修正モデルと同様に、逐次処理により言語モデルを更新する。また、更新手法は、従来法であるｎ−ｇｒａｍモデルの線形補間に基づく。ただし、言語モデル更新部１２では、言語モデルの更新だけではなく、発音辞書記憶部３に記憶され、音声認識部２が参照する発音辞書も更新する。これは、現在使用している発音辞書に含まれていない単語を音声認識できるようにするための処理であり、誤り修正モデルにおいても、その効果を改善する上で必要となる。
【００９０】
図３は、言語モデル更新プロセスを示す図である。ｎ−ｇｒａｍモデルでは、モデルの統計的な精度を保証するために、可能な限り大量のテキストデータから学習する必要がある。そこで、同図に示すように、言語モデルの更新処理は、誤り修正モデルの逐次更新ブロックを複数組み合わせ、十分な数の単語が得られるブロックを更新の１単位とする。この言語モデルの更新の単位となるブロックを、言語モデル更新ブロックとする。
【００９１】
図８は、言語モデル更新部１２の処理を示すフローチャートである。言語モデル更新部１２は、形態素解析部８から送られた修正結果データＤ４の入力を受けると、修正結果データＤ４を内部に備える記憶部１３に書き込む。
【００９２】
（ステップＳ５１：更新判定処理）
言語モデル更新部１２は、言語モデルの更新を行うかどうかを判定する。この判定は、修正結果から十分な単語数を得た上で言語モデルを推定することを目的に行う。言語モデル更新部１２は、修正結果の単語数Ｍがあらかじめ定めた閾値以上の場合に、後段の処理を行うと判定する。なお、言語モデル更新部１２は、修正結果の単語数Ｍを、記憶部１３に記憶され、まだ後段の処理に使用していない修正結果データＤ４から取得する。修正結果の単語数Ｍが閾値よりも小さな場合、言語モデル更新部１２は、後段の処理を行わないと判定し、図８の処理を終了する。記憶部１３に書き込まれた修正結果データＤ４は、次の更新機会に利用される。
一方、修正結果の単語数Ｍが閾値以上の場合、言語モデル更新部１２は、後段の処理を行うと判定し、ステップＳ５２の処理を行う。言語モデル更新部１２は、記憶部１３に記憶され、まだステップＳ５２以降の処理に使用していない修正結果データＤ４を処理対象の言語モデル更新ブロックとする。
【００９３】
（ステップＳ５２：発音辞書更新処理）
言語モデル更新部１２は、記憶部１３から処理対象の言語モデル更新ブロックに含まれる修正結果データＤ４を読み出す。言語モデル更新部１２は、修正結果データＤ４が示す修正結果に含まれる単語に対して、発音辞書データベース記憶部１４に記憶されている発音辞書のデータベースから発音を読み出して付与する。発音辞書記憶部３に記憶されている発音辞書は、音声認識部２により参照されるが、更新対象となるのは発音辞書記憶部３に含まれない単語と発音の組となる。そこで、例えば、言語モデル更新部１２は、修正結果に含まれる単語と、その発音の組が登録されているか否かを発音辞書記憶部３に問い合わせ、登録されていない単語と発音の組を選択する。なお、発音辞書のデータベースを参照した結果、該当する発音が存在しない場合、言語モデル更新部１２は、その単語が後段において推定するｎ−ｇｒａｍに用いられないように、修正結果における当該単語を、未知語を表すシンボルで置換しておく。
【００９４】
（ステップＳ５３：ｎ−ｇｒａｍ計算処理）
言語モデル更新部１２は、修正結果に含まれる単語からｎ−ｇｒａｍを推定する。ｎ−ｇｒａｍとして、例えばｔｒｉｇｒａｍを考えると、その推定式は、以下の式（１７）となる。
【００９５】
【数１７】
2014224860.tif 000019
【００９６】
ここで、Ｃ（ｕ，ｖ）は、修正結果における単語２つ組（ｕ，ｖ）の頻度、Ｃ（ｕ，ｖ，ｗ）は、単語３つ組（ｕ，ｖ，ｗ）の頻度である。Ｐ（ｗ｜ｕ，ｖ）は、ｔｒｉｇｒａｍであり、単語２つ組（ｕ，ｖ）に引き続き単語ｗが生起する条件付き確率である。言語モデル更新部１２は、修正結果の先頭から単語３つ組を１単語ずつ順に後ろにずらしていき、修正結果のすべての単語３つ組から上記の計算を行う。
【００９７】
（ステップＳ５４：ｎ−ｇｒａｍ計算処理）
次に、言語モデル更新部１２は、以下の式（１８）のように、言語モデル記憶部４に現在記憶され、音声認識部２で参照しているｔｒｉｇｒａｍと、ステップＳ５３において求めたｔｒｉｇｒａｍを線形補間により結合する。
【００９８】
【数１８】
2014224860.tif 000020
【００９９】
ここで、Ｐｎｅｗ（ｗ｜ｕ，ｖ）は、更新されたｔｒｉｇｒａｍ、Ｐｏｌｄ（ｗ｜ｕ，ｖ）は、言語モデル記憶部４に現在記憶されている言語モデルのｔｒｉｇｒａｍである。また、νは、線形補間の重みであり、事前に定めておく。
【０１００】
（ステップＳ５５：モデル更新処理）
言語モデル更新部１２は、ステップＳ５２において選択した単語と発音の組を、発音辞書記憶部３に記憶されている発音辞書に追加する。さらに、言語モデル更新部１２は、ステップＳ５４において得られたｔｒｉｇｒａｍにより、言語モデル記憶部４に現在記憶されている言語モデルを置き換える。
なお、誤り修正モデル更新部１０における誤り修正モデルの更新と言語モデル更新部１２における言語モデルの更新は、互いに独立して動作するため、どちらも任意の発話終了タイミングでモデル更新を行うことができる。
【０１０１】
［５．  効果］
本実施形態によれば、誤り修正モデルを少量の計算で推定可能となるため、誤り修正モデル学習装置１は、音声認識に用いられる誤り修正モデルを低遅延で逐次更新することができる。この逐次更新された誤り修正モデルを用いて音声認識を行うことにより、音声認識部２は、従来よりもリアルタイム性を反映して音声認識の誤りを削減することが可能となる。
【０１０２】
［６．  その他］
なお、上述の誤り修正モデル学習装置１は、内部にコンピュータシステムを有している。そして、誤り修正モデル学習装置１の動作の過程は、プログラムの形式でコンピュータ読み取り可能な記録媒体に記憶されており、このプログラムをコンピュータシステムが読み出して実行することによって、上記処理が行われる。ここでいうコンピュータシステムとは、ＣＰＵ及び各種メモリやＯＳ、周辺機器等のハードウェアを含むものである。
【０１０３】
また、「コンピュータシステム」は、ＷＷＷシステムを利用している場合であれば、ホームページ提供環境（あるいは表示環境）も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
【符号の説明】
【０１０４】
１  誤り修正モデル学習装置
２  音声認識部
３  発音辞書記憶部
４  言語モデル記憶部
５  音響モデル記憶部
６  誤り修正モデル記憶部
７  音声認識結果修正部
８  形態素解析部
９  形態素解析辞書データベース記憶部
１０  誤り修正モデル更新部
１１  記憶部
１２  言語モデル更新部
１３  記憶部
１４  発音辞書データベース記憶部
【図１】
2014224860.tif 000021
【図２】
2014224860.tif 000022
【図３】
2014224860.tif 000023
【図４】
2014224860.tif 000024
【図５】
2014224860.tif 000025
【図６】
2014224860.tif 000026
【図７】
2014224860.tif 000027
【図８】
2014224860.tif 000028