LSSN 0915‑5961

Vol.33 No.3 (1999.11)
行：視聴覚情報研究会(AVIRG)

発代表幹事：伊 藤 崇

之〒157‑8510 世田谷区砧 1‑10‑11
日本放送協会放送技術研究所
TEL 03‑5494‑2361
FAX 03‑5494‑2371

Ⅰ．10 月例会報告「MDL 基準を用いた音声認識単位の自動生成」
講演： 篠田 浩一 氏（ＮＥＣ Ｃ＆Ｃメディア研究所）
報告： 世木 寛之（ＮＨＫ）《概要と感想》
現在の音声認識は，観測された音声波形と単入力された音声波形と/a/，/m/，/e/という各音素を比較することになる．

語との音響的な類似度である音響スコアと，単このとき，前後の音素環境を考慮したトライ語と単語のつながりやすさを表す言語スコアをフォンを使用すると，より正確な音響スコアを計算していき，この２種類のスコアの合計が最求めることができる．例えば，同じ音素/m/でも，終的に最大となる単語列を出力する．

前述の「雨」の音素/m/と，「網(ami)」という単

そして，この音響スコアを計算するとき，語の音素/m/では，後ろの音素が異なるので音響HMM(Hidden Markov Model：隠れマルコフモデル)的な特徴が異なり，別々にモデルを作ったほうを用いる手法が一般的である．

が精度が良くなるのである．

本講演では，音声認識を専門としていない人

トライフォンを扱うときに問題になるのが，でも理解できるようにHMMの初歩から説明があ

学習データが少なくなり統計的信頼性が低下すり，篠田氏ご自身が行ったクラスタリングに関ることと，学習データに出現しなかったトライする研究までの報告が行われた．

フォンのHMMが作れないということである．

大語彙連続音声認識では，限られた学習デー

そこで，トライフォンをいくつか集めてクラタしか存在しないことと，HMMが大きくなってしスターを作り，クラスター内のトライフォンをまう（計算機のメモリに載りきらない）ことか同じトライフォンとして扱うことにより，見から，単語でHMMを作らずに，音素と呼ばれる単位け上の学習データを増やす手法がとられてきた．

でHMMを作ることが多い．例えば，入力である音

その際，パラメータを制御することによりクラ声波形と「雨」という単語を比較するときには，スター数を制御するのだが，クラスター数を小さくしてしまうとデータの音響的特徴を十分ににより推定したパラメータでHMMを作り認識実表現できず精度が悪くなり，逆にクラスター数験を行った結果を比較すると，本手法の方が孤を大きくしてしまうと学習データ数が少なくな

立発声単語認識実験で２％程度良い認識率が得ってやはり精度が悪くなる．つまり，適当なクられている．

ラスター数を作るパラメータを求めるためには，

ただ，MDL基準の最適性を調べるために，MDLいくつかのパラメータで実際にHMMを作成し，認基準により推定されたパラメータを数倍にした

識実験を行って認識率を求めなければならなかいくつかのパラメータでHMMを作り認識実験をった．また，そのパラメータは学習データの量行ったところ，MDL基準により求めたパラメータや質が変われば使えなくなってしまうので，新の２倍の値が最高の認識率を示している．このたに求めなおす必要があった．

ことから，MDL基準によりパラメータを推定する

篠田氏は，このクラスタリングする際のパラことは，最適ではないが，従来法に比べ非常にメ ー タ を 情 報 量 基 準 の 一 つ で あ る MDL 基 準

効率よくパラメータを選ぶことができることが(Minimum Description Length Criterion：記述分かる．また，あらかじめMDL基準によりパラメ長最小基準)から決めることを提案している．

ータを推定しておき，その値付近のパラメータ

MDL基準は，与えられたデータに対し最適なモをいくつか試せば，従来法でパラメータをいくデルを選択する問題において有効であることがつか試すよりも少ない数ですむと予想される．

知られている．そこで，学習データに対するHMM

ここ数年で音声認識は大変な進歩をとげ，デの記述長を考え，この記述長を最小とするHMMィクテーションソフトやゲームなど実用的な製を求めることにした．これを考慮すると，パラ品にとりいれられ，また一方でニュース番組でメータの推定式として，学習データの大きさにのアナウンサーの音声をリアルタイムで字幕化依存する式が得られる．このことを使うと，学するのに使用する試みも行われている．音声認

習データに対し最適なモデルサイズを持つモデ

識がいろいろな分野に普及していくためには，ルを作成できるパラメータを得ることができる

現在の音声認識システムに存在する様々なパラようになる．

メータを，今回の研究発表のように合理的な観点から効率良く推定していくことが必要不可欠

実際に，従来法でいくつかのパラメータでHMMのように思われる．

を作り認識実験を行った結果と，今回のMDL基準「音声認識のための精密かつ頑健な音響モデル」
講演： 中村 篤 氏（ＡＴＲ音声翻訳通信研究所）
報告： 黒岩 眞吾（ＫＤＤ研究所）《概要と感想》

音声認識においても，最近では数千から数万人限られた学習データを用い精密かつ頑健なモの発声データを用いて音響モデルの学習が行わ

デルを構成することは，人間の学習を含め，学れるようになってきたが，自然の産物である人習の研究における永遠のテーマの一つである．

間の音声を認識するには，それでもなお「限ら2れた」学習データに過ぎず，精密かつ頑健な音分割を行う，という２つの操作を繰り返すこと響モデルを構築するために，今日もなお多くので，１状態のHMMから出発し，最終的には数百か研究努力が続けられている．

ら千程度の状態で構成されるHM‑Netを構成する．

中村氏の所属するATR音声翻訳通信研究所は，本来ならば，(2)の分割の試みをすべての状態にその前身であるATR自動翻訳電話研究所時代をついて行うべきであるが，計算量的に不可能で含め日本における統計的手法を用いた音声認識あり，(1)の近似を用いたことが本手法を現実的研究の老舗の一つである．講演では現在ATRの音なものとしている．このようにモデルを構成し声翻訳システムの主力の音響モデルである隠れた結果，特定話者に関しては精密かつ頑健なモマルコフ網(HM‑Net)について，精密性と頑健性デルが実現された．
しかし，この手法を不特定話者のデータに適のバランスをとりつつその構造を決定する手法用した場合，話者による分布の広がりでが原因について，改良の歴史を含め紹介された．
HM‑Net は そ の 構 造 の 学 習 法 で あ る SSS

で状態が選択され，音素環境で状態を分割して(Successive State Splitting)と共に，1991年，も尤度がほとんど上昇しないという問題が生じATRの鷹見氏と嵯峨山氏によって提案された．

た ． こ れ に 対 し 1996 年 ， ATR の Singer 氏 とSSSは従来，知識や経験等によって決定していた

Ostendorf 氏 に よ っ て 提 案 さ れ た ML‑SSS

HMMの構造を，1状態のHMMを出発点としデータ駆(Maximum Likelihood SSS)[2]では，上記(1)の動で最尤基準により逐次状態分割を進めていく方法を排除する代わりに，音素環境による２分ことで，精密かつ頑健な音響モデルを得ようと割をChouの最適分割アルゴリズム[3](K‑meansいうものである[1]．

クラスタリングやVQコードブック作成時に空間音声認識においては，一般に音素(例えば「か」を２分割するのと類似の手法)により行うことは/k/という音素と/a/という音素から構成されで，尤度最大(正確には局大)条件で状態の選択る)毎に3状態程度のHMMを作成し，それらを連結および分割を同時に行うことが可能となった．

することで任意の単語や文に対するテンプレー

その結果，不特定話者に関しても精密かつ頑健トを作成し入力音声とのマッチングが図られる．

なモデルの実現に至った．しかしながら，そのこのようなモデルをさらに詳細化するためには，

後，このモデルを自然発話の大語彙音声認識に例えば前後の音素によってモデルを分ける(aka

適用した際，尤度の局所的な落ち込みが生じ探の/k/とakiの/k/では，後ろの/a/や/i/に引っ張索の過程で正解候補が枝刈りされてしまう場合られて舌の位置や口の形が異なり，音響的にもがあることを，本講演者であるATRの中村氏が明特徴量が違ってくるため)ことが考えられる(音らかにした[4]．

素環境による分割と呼ぶ)．しかし，あまり分割

大語彙音声認識では，演算量および記憶容量しすぎると状態あたりの学習データが少なくなの問題で探索処理の過程でどうしても枝刈りをってしまうため頑健性が低下するという問題が行わなくてはならず，部分的にでも尤度が下が生じる．ってしまうことは誤認識の増大につながる．こ

そこで，SSSでは，(1)すべての状態の中からの問題に対し中村氏は，局所的に尤度を落ち込分布の広がり(正確にはdivergence)が最大の状ませてしまうデータに対し尤度が上昇するよう態を選択する，(2)その状態を，時間方向への２に状態間で分布を共有する（分布を再構成する）分割と音素環境による２分割の組み合わせのすことを提案した(HM‑Netに限らず音声認識で用べての方法で分割を試み最も尤度が上昇する２いるHMMの各状態は混合正規分布で表現するこ

3

とが一般的である．共有は混合分布の１要素を学習データ数やタスクが変わっても精密性と頑他の状態から借りてくることに相当し状態を共健性のバランスのとれた状態数を自動的に決定有するわけではない)．これは，ML‑SSSでは２分できる手法の導入が望まれる．

割で状態を分割していくため，２つの分布の重以上のようにATRでは国内外の優秀な研究者なりでそれなりに尤度を保っていたデータが分が集い，一つの手法に対しても様々な視点から割によって谷間になってしまうことがあるから研究開発が行われ目覚ましい成果を達成していと氏は説明された．(谷間以外の例として，例える．2001年にHAL9000程度の音声認識が実現する

ば同じ「が(/g//a/)」の音もポーズの後では濁か否かは微妙なところであるが，海外のホテル音，他の音に続く場合は鼻濁音とアナウンサー予約が音声翻訳システムにより日本語だけでで等，使い分けている人も多い．この音声でML‑SSS行えることは，既にSFの中のお話ではないようを行いモデルを作成した場合，前の音素がポーである．

ズの/g/（濁音）と他の音素に続く/g/（鼻濁音）《参考文献》で状態が分割される可能性が高い．このモデル[1] 鷹見淳一,嵯峨山茂樹， 音素コンテキスト

に対し，単語中の/g/も濁音で発声する人の音声と時間に関する逐次状態分割による隠れマ

では，分割前は尤度が高かったにも関わらず分ルコフ網の自動生成割により尤度が下がるという現象が生じるもの

pp.57‑64, 1991.
[2]と予想される．)

H.Singer,, 信学技法SP91‑88,

M.Ostendorf ， ”Maximum

以上の結果，ML‑SSS＋分布の再構成法による

Likelihood Successive State Splitting",

モデルを用いた現在のATR大語彙連続音声認識

Proc. of ICASSP 96, pp. 601‑604, 1996.
[3]システム(ATRSPREC)では，不特定の人の自然なChou,"Optimalpartitioningfor

発話に対しても高い認識性能が達成されている

classification and regression

trees",（95年当時40%を超える誤り率があったものが，IEEE Trans. PAMI, 13(4), pp. 340‑354,

現在では27,000語彙の自然発話で単語誤り率

1991.
[4] 中村篤，"ガウス混合分布の再構成による不13.5%，また，文献[5]によれば朗読発声では誤特 定 話 者 音 響 モ デ ル の 改 善 ", 信 学 技 法り率7.2%と報告されている）．

SP97‑18, pp.9‑16, 1997.

なお，文献[5]によれば現在用いているHM‑Netの状態数は1,000から1,400となっている．この[5] 内藤正樹，他，"旅行会話タスクにおける状態数は開発用テストセットにより経験的に決ATRSPRECの性能評価", 音響学会秋季講演論定しているとのことであるが，今後は，例えば文集, pp.113‑114, 1999.

前半の篠田氏の講演にあったMDL基準等により4

Ⅱ． 11 月例会予定

AVIRG 11月例会は，spaces to retrieve and browse image data",

日時： 11月25日（木）14時〜17時

Third International Conference on Visual

場所： 東京大学工学部6号館

Information Systems, Springer‑Verlag,
pp.155‑162, 1999.

3Ｆセミナー室A・B
で開催いたします．テーマは，『マルチメディア処理』です．講演者およびタイトルは以下の2｢撮像面上に処理機能を統合したイメージセンサ｣件を予定しております．奮ってご参加ください．

講演者： 浜本 隆之 氏
(東京理科大学工学部電気工学科）「情報空間の知覚化」
講演者： 広池 敦 氏

イメージセンサと処理回路を１つのチップに(日立製作所中央研究所)統合し，センサ上で直接画像処理を行う，高機能イメージセンサについて発表する．このよう我々が開発中の類似画像検索システムについな処理機能一体型イメージセンサは，スマートて紹介する．我々のシステムの特色は，ユーザセンサ，コンピュテーショナルセンサ，ビジョインタフェイス上での検索結果の表現にあり，ンチップ等と呼ばれ，近年研究が盛んになりつ

基本コンセプトは「なるべく多くの画像をユーつある．高機能イメージセンサの大きな利点は，ザに見せる」ことである．実際の表現上では，蓄積時間等の撮像パラメータを直接制御できる2000件規模の検索結果が，３次元空間中を群れということと，画像情報の2次元性を直接利用すを形成しながら運動する．また，視覚表現のみることで，高速並列処理を行なえる点にある．

ではなく，ユーザインタフェイス上の音響効果画像システムの一部あるいは全部の処理を撮像についても論じたい．

面上で行うことで，後段で必要とされる情報の《参考文献》

みを出力し，データ転送量を大幅に削減できる．
VR空間を用いた画像

このような技術は，画像処理システムの小型化，特徴量空間の可視化 − 画像データベース

高速化，低消費電力化に貢献するものと期待さの検索・ブラウジングのためのユーザインれている．

[1] 広池, 武者, 杉本,

本発表では，高機能イメージセンサの研究動

タ フ ェ イ ス ， 信 学 技 報 ， PRMU98‑86,

向について簡単に述べるとともに，我々のグル

pp.17‑24, 1998.
[2] 武者, 広池,ープが検討している動画像圧縮センサ，適応蓄

類似画像検索における検索結果の可視化インターフェース ‑ 可視化

積時間イメージセンサ等について説明する．

軸として意味軸を用いる方法 ‑《参考文献》, 信学技[1] http://www.eleceng.adelaide.edu.au/

報，PRMU99‑57, pp.59‑64, 1999.
[3] Hiroike A., Musha, Y., Sugimoto, A. andGroups/GAAS/Bugeye/visionchips/index.html,“Vision Chips or Seeing Silicon”, by A.

Mori Y., "Visualization of information

5

Moini, third revision, 1997.

(1997)[2] 相澤, 大野, 江木, 浜本, 羽鳥, 丸山, 山崎, 大竹, 小林, 大久保, 阿部,
圧縮イメージセンサ[4] 浜本, 相澤, 羽鳥, 動き適応イメージセン

動画像

サの試作と機能評価,テレビ誌, Vol.50,No.12, pp.2149‑2157 (1997)

No.2, pp.257‑265 (1996)[3] 浜本, 大塚, 相澤, 羽鳥,,映情学誌, Vol.51,[5] 大塚, 浜本, 相澤, 羽鳥,
動画像圧縮セ空間可変サンプリングを撮像面上で行う新しいイメージセ

ンサ‑‑列並列処理構成による設計と試作— ,ンサの設計・試作,映情学誌,

映 情 学 誌 , Vol.51, No.12, pp.2141‑2148

No.2, pp.261‑268 (1999)

Vol.53,〜会員登録情報の変更のお願い〜
AVIRG会員の御所属，会報送付先など登録情報に変更がありましたら，お手数ですが以下のいずれかにご連絡ください．
◎ (財)日本学会事務センター 会員業務係◎ 電子メール（1999年度中）

avirg‑member@vision.STRL.nhk.or.jp(AVIRG幹事宛)(注) 会員の確認のために，御氏名とともに，必ず会員番号を明記して下さい．
会員番号および学会事務センターの連絡先は会報郵送時の封筒に印刷されています．

6