キーワード抽出に基づく統計的音声発話理解 
内田 佳孝

£

         嶋田 和孝

Ý   

遠藤 勉 Ý はじめに   ࡙࡯ࠩ⊒⹤

まず，音声認識エンジンから出力される  出力からキーワード列を抽出する手法について述べる．抽出には， 内容語の信頼度， 連想確率，という  つの尺度を用いる．音声認識エンジンには記述文法方式の音声認識エンジン  を使用した．

 内容語の信頼度

ここでは，
ら  や駒谷ら  が提案している内容語に関する信頼度の計算方法を拡張したものを用いる．内容語とは，品詞が，動詞，名詞，指示詞，形容詞，連体詞，副詞であると定義する．音声認識結果の 
出力には対数スケールでスコアが付与されている．このスコアより，
を計算する．ここで，   であり， はスムージング係数である．ある内容語  が  番目の文に含まれる
九州工業大学 情報工学部 知能情報工学科．現在は，ジャストシステム．
 九州工業大学 情報工学部 知能情報工学科
    N-bestኻ⹤ࠦ䳦ࡄࠬキーワード抽出㖸ჿ⹺⼂ࠛࡦࠫࡦࠠ࡯ࡢ࡯࠼೉ߩ᛽಴ࠠ࡯ࡢ࡯࠼೉ᢥߩᓳరᓳరᢥ ( ᒻᘒ⚛೉ )ᓳరᢥߩ⹏ଔ

近年の音声認識技術の向上により，音声入力を用いた実用的な対話システムの実現を目指した研究が進められている．実用的な音声対話システムの構築には，音声認識誤りへの対処が不可欠である．しかしながら，音声認識誤りは，システム内の語彙や文法の範囲を広げたとしても，本質的に避けられない問題である．実用的な音声入力を用いた対話システムを構築するためには，音声認識の精度を高めるとともに，音声認識誤りに対して頑健な枠組みが必要である．
音声認識誤りの問題に関しては，その影響を軽減するためにキーワードもしくはキーフレーズの抽出に基づく発話理解法の研究が行われてきた    ．これらの手法は，音声認識誤りを減少させ，ユーザからの比較ら  や的自由な発話を可能にする．また，
駒谷ら  は音声認識エンジンからの  出力による内容語に対して信頼度を計算し，それを利用することによって音声認識誤りの影響を軽減させる手法を提案している．
本稿では，これらの先行研究での議論を踏まえ，音声認識誤りに対して頑健な発話理解を実現するために，キーワード抽出に基づく発話理解法を提案する．図  に提案
手法の概要を示す．提案手法では，音声認識エンジンから得られた  出力からキーワード抽出を行う．続いて，得られたキーワードを，対話コーパスからの情報を利用して文に復元する．その復元された文が妥当かどうかの評価を行い，最終的に依存構造木を出力する．

峯脇 さやか Ýᒻᘒ⚛೉ߩ⹏ଔ
ᓳరᢥ ( ଐሽ᭴ㅧᧁ )ଐሽ᭴ㅧᧁߩ⹏ଔ಴ജ

図  処理の概要
 ，含まれないときを Æ  とすると，ときを Æは，入力音声に  が含まれていた確率 Æとなり，
および駒谷らは，これを内容語  の信頼度としていた．
提案手法では，これを形態素単位で計算していく．まず，語の発話時間や品詞，文法情報などを用いて，形態素長の正規化を行う．その後，以下の式で形態素毎に全ての語に対して計算を行う．

 Æ   

ここで， は形態素位置であり，Æ  はある語  が 番目の文の  番目の形態素に含まれるとき ，含まれないとき  とする．この処理によってキーワードになり得る語を抽出する．キーワード以外の語の方が高い信頼度を持つ場合は，そのキーワードは抽出しない．

 連想確率 の内容語の信頼度は，音声認識結果に対する信頼度である．次に対話ドメインでの信頼度を考える．ここでは，単語間の意味的なつながりの強さ計算するために持橋らが提案している連想確率  を導入する．
持橋らは，語の意味とは他の語との連想関係により定義され，その手がかりは言語的な束縛＝共起関係であるという考えに基づき，共起確率分布から連想確率を定義している．単語の意味的な重みを表す指標として，単語の共起確率分布の情報量から計算される連想情報量を提案しており，それと共起確率との組み合わせにより連想確率は計算される．連想情報量    とは  語当たりの平均共起確率であり，様々な語と平均的に共起するような語 機能語など はこの値が小さくなる．

       

ここで， は意味空間上での語であり， は意味空間であ上での語の集合であることを意味し，単語る．   は語  の共起確率である．
語  から語  への連想確率    とは，共起確率    に比例し，連想情報量により重み付けを行ったものであり，以下のように定義される値である．

           ⊒⹤㧦ߢߪ㧘ᨒߩਛߩⲔߩᢙࠍᢙ߃ߡߊߛߐ޿
N-best910j=134 5 6 7 82Pii=1 ߢߪߎ߁ ߽ Ⲕ ߩ ᢙ ߩ ᢙ߃ߡ ߊߛߐ޿ 0.19602 ߢߪߎߩⲔ ߩ ᢙ ߩ ᢙ߃ߡ ߊߛߐ޿ 0.1707
3 ߢߪߎߎ ߽ Ⲕ ߩ ᢙ ߩ ᢙ߃ߡ ߊߛߐ޿ 0.10854ߢ߽ Ⲕ ߩ ᢙ ߩ ᢙ߃ߡ ߊߛߐ޿ 0.1028
ᨒ5 ߢߪ ว߁ ߎ߁ ߽ Ⲕ ߩ ᢙ ߩ ᢙ߃ߡ ߊߛߐ޿ 0.0955
6 ߢߪ ᓟᣇ ߽ Ⲕ ߩ ᢙ ߩ ᢙ߃ߡ ߊߛߐ޿ 0.0793
7 ߢߪ
ᣇ ߽ Ⲕ ߩ ᢙ ߩ ᢙ߃ߡ ߊߛߐ޿ 0.0769
8 ޿ߌࠆ ᨒ߽ Ⲕ ߩ ᢙ ߩ ᢙ߃ߡ ߊߛߐ޿ 0.0684
9 ߢߪ ᓟ ߎ߁ ߽ Ⲕ ߩ ᢙ ߩ ᢙ߃ߡ ߊߛߐ޿ 0.0544
10 ߢߪ ᓟ ߎߩⲔ ߩ ᢙ ߩ ᢙ߃ߡ ߊߛߐ޿ 0.0474
ା㗬ᐲ

j=3
57
9
ߎ߁ (0.3459) Ⲕ (1) ᢙ (1) ᢙ߃ࠆ (1)ߎߩ (0.2181)

ኻ⹤ࠦ࡯ࡄࠬㅪᗐ⏕₸j=1
2
34i=1 ߎ߁ (0.0000) Ⲕ (0.0651) ᢙ (0.0591) ᢙ߃ࠆ (0.0604)
2 ߎߩ (0.0490) Ⲕ (0.0897) ᢙ (0.0862) ᢙ߃ࠆ (0.0879)

P(kp i )0.557683
0.000014

PC (kp i )0.386659
0.613341

Pa (kp i )0.999993
0.000007

kp iߎߩⲔᢙᢙ߃ࠆ
ߎ߁Ⲕᢙᢙ߃ࠆ

 つの尺度によるキーワードの抽出で説明した連想確率を  で述べた手法により抽出されたキーワード群に対して適用していく．まず，抽出されたキーワード群から考えられる 個のキー
，
ワード列        を作成する． の要素  が持つ連想確率    は以下の式で計算される．
       キーワード列  に対する内容語の信頼度  連想確率    は，       と   となる ．この    と    を    およ で正規化したのち， つの尺度の調和び
平均をとり，その値をキーワード列  に対するスコア   とする．

  

 !     

これを，  全てに対して計算し，スコア順にソートした  解をここでの出力とする．図  にキーワード列の抽出の例を示す．

図  キーワード抽出の例
存構造木の評価，の  段階に分けて行う．その理由としては，依存構造を付与しない場合でさえも，膨大な数の文がキーワードから復元されることにある．さらに，そこから依存構造を考えるとキーワード  つの場合は  倍，" つの場合は  倍の文を評価しなければならない．提案
手法ではこのコストを考慮し，まず，形態素列での評価を行い，その後，正しいと評価された形態素列のみから作成される依存構造木を用いて評価するという方法をとる．まず，キーワード列を入力とし，そのキーワードを含む全ての文節をコーパスから獲得し，文節の候補を復元する．この際，フィラーや冗長表現などを含む文節は抽出しないなどの簡単な制約を加えている．次に，得られた文節の全ての組み合わせを考え，文を復元する．文として復元された形態素列に対して，頻出系列パターンを素性とした分類器を作成し，評価を行う．続いて，正例と判断された形態素列に対して依存構造木を作成し，それらを素性とする分類器によって評価を行う．分類器には # $ %&$ ' &()  #%'  を用いた．
ここで，本タスクでの評価基準は，復元された文があるドメイン内で受理可能な文であるか否かの  値分類とする．

 形態素列の評価

まず，復元された文の形態素列の評価のための分類器について説明する．日本語は語順が比較的自由なため，文の評価では，本質的には依存関係を考慮しなければ正 で得られたキーワード列のみでは，音声発話を理解しい評価がくだせないものも多い．しかし，ここでの評したとは言い難い．キーワード間には依存関係が存在しており，それらの関係を同定する必要がある．ここでは， 価とは，ドメイン内において受理可能か否かの評価である．そのため，形態素列だけから評価できるものも少な
キーワード間の依存関係を同定するためにコーパスからくないと考えられる．
機能語などを補完し，キーワード列を文に復元する手法
例えば，「蝶」，「数」および「数える」というキーワーをとる．
ド列から，コーパスの情報によって「蝶が数を数える」
キーワードからの文の復元には，内元ら  の先行研という形態素列が復元されたと仮定する．ここで，「蝶」
究がある．内元らの文の生成部での出力は，依存構造木「が」「数」という系列パターンを含む文は，それだけでだが，提案手法では，評価を  形態素列の評価， 依文の復元
いる．

    になる場合もあるが，その場合は小さな値を与えて 実 装 に は 工 藤 氏 の  を 使 用 し た ．         

は，正例か負例かの判断ができないが，同時にこの文が「数」「を」「数える」という系列パターンを含んでいれば，明らかに負例であると判断できる．このように，系列パターンの組み合わせにより文の妥当性を判断できると考えた．
頻出系列パターンの抽出には *$+# アルゴリズ
ム , を使用する．また，素性には形態素の集合  
-.$/：0. も加える．素性の重みは  か ，つまり文中に形態素やパターンが出現すると ，しない場合は  として表現する．

 依存構造木の評価
形態素列の評価において，正例と判断されたものに対して依存構造木を作成し，さらに，それらに対する評価を行う．依存構造木は日本語の係り受けに関する  つの制約を満たすもの全てを作成する ．
ここでの評価基準も  と同様で，あるドメイン内で受理可能か否かの  値分類である．素性には頻出部分木を用い，部分木の組み合わせにより，その文の構造が正しいかどうかの評価を行う．依存構造木は形態素単位の依存構造木を用いる．文節単位の依存構造から形態素単位の依存構造へは以下の手続きで変換を行う．


文節内の形態素は直後の形態素にかける．
文節末尾の形態素は，その文節が係っている文節内の最後尾の自立語 主辞単語 にかける．

頻出部分木の抽出には，12345 アルゴリズム  を使用する．ここでも，0. を素性に加え，素性の重みは  か  で表現する．



実験・考察

提案手法について実験および考察を行う．本稿では，ドメインとして，我々の研究グループが構築を進めている，小学校  年生の算数のドリルテキストを対象とした対話支援型問題解決システムの世界を扱う "．これは，ドリルテキストならびに人間との対話を相互参照しながら問題解決を行うシステムである．使用する対話コーパ
スは，そのドメインに対する模擬対話であり，人間対人間の  対話と .)6 $/ - 07 法によって収集した人間
対機械の " 対話から構成されている．総発話数は 発話である．

 キーワード列の抽出
まず，音声認識結果からのキーワード列の抽出処理について述べる．内容語に対する信頼度を求めるために必要なパラメータである  は ， は  とした．連想確率のモデルには，我々が収集した対話コーパス  対話・ 発話 と，*8#9 コーパス  対話・" 発話 から作成されたものを使用した．実験には  発話 被験者  名  発話 に対して音声認識エンジン から出力された  候補を，人手で形態素長の正規化したものを用いた．使用した発話の平均キーワード数は "" である．評価には，スコアが最も高かった候補が正しいキーワード列であるかどうか キーワード列正解率， 解中に正しいキーワード列が含まれいるかどうか  解正解率 で行った．さらに，抽出され 語順は固定して作成している．

表  キーワード列抽出実験の結果
キーワード列正解率
Ｎ
解正解率
適合率
再現率



 第１候補  信頼度のみ  提案手法
 



表  系列パターン＋ 0. 実験結果 1 値

 
   








 
たキーワード全てに対する適合率 * および再現率 2で評価した．それぞれの評価基準に対して， 音声認
識結果の第  候補中のキーワード， 内容語の信頼度のみを用いた場合， 提案手法，について比較した．結果を表  に示す．
提案手法は，第  候補のみ，内容語の信頼度のみを用いる手法 先行研究を拡張した手法 と比べて，全ての尺度においてポイントが向上している．これにより，内容語の信頼度と連想確率によるキーワード抽出手法が有効であることが確認された．全体的に精度が低いのは，基準となる音声認識結果の文正解率 が低いためであり， 出力中に抽出すべきキーワードが含まれていない場合があったためである．この問題については，例えば，文の復元の段階で連想確率を用いることにより，抽出洩れもしくは音声認識誤りにより得られなかった内容語の復元も可能だと考えており，今後の課題の一つである．

 復元文の評価
まず，形態素列の評価を行う．評価には，キーワード列  組 " つのキーワード列  組， つのキーワード列 組 から復元した  文からサンプリングされた訓練データ  文とテストデータ  文を用いた．
*$+#
アルゴリズムは工藤氏の実装を使用した ．
系列パターンの長さは， から  とした．#%' のカーネル関数は線形関数を使用した．実験では，系列パターンの最小サポート数および #%' のソフトマージンパラメータ  をいくつか変化させて行った．評価は  値によって行った．

 値 !



適合率 * と再現率 2 は，分類器が正例として正しく判断した文の数に基づき算出される．実験結果を表  に示す．表中で，: はソフトマージンを， は最小サポート数を表す．太字は全体での最高値である．使用した素性数は，  の場合が ， の場合が "，の場合が "",, であった．
続いて，依存構造木の評価を行う．評価には，形態素列の評価で用いた訓練データおよびテストデータから，正例を " 文，負例を  文サンプリングし，それら第 候補の文正解率は !! ""#であった．
          $% 表  部分木＋ 0. 実験結果 1 値

 参考文献
 ;

8

#

# 8$)>#)$& ;58 )

 0))6/ #$&

&*$)&?$@ )=$/ 9   *$& ( 3&)

8$)$ $ 9)&?$@ 1$$

/ *$ &)& - ;

:

-$

/  9)9    *;99 A8B " "

に対して依存構造木を作成した  文を用いた．訓練
データは  文，テストデータは  文とした．
12345 アルゴリズムには，工藤氏の実装を使用した ．部分木の長さは  から  とした．ここでも，#%'のカーネルは線形関数を使用し，頻出部分木の最小サポート数と #%' のソフトマージンパラメータ  をいく
つか変化させて実験した．評価には，形態素列による評価と同じ尺度を用いる．実験結果を表  に示す．ここで使用した素性数は，  の場合で ",， の場合は
"， の場合では "" であった．
双方の実験結果から，提案手法の有効性は示せた．キー
ワードからの文生成により，キーワード間の依存関係を扱えるようになるため，提案手法はキーワード抽出に基づく音声認識手法の精度向上に繋がると考えられる．しかしながら，他のドメインで同程度の精度が得られるかどうかは今後の課題となる．内元らの先行研究は，生成文の評価を形態素解析および係り受け解析の応用として扱っていることや，その目的が自然な文の生成であり，提案手法とは問題設定が異なるため，単純な比較は難しい．
今回の実験は比較的小規模であり，今後さらに大規模な実験を行う必要がある．その際の計算的負荷についても議論の対象となるだろう．解決策としては #$) ;$ 
や 5$ ;$  などのカーネル関数の導入などが挙げられる．また，現在は対話の文脈やその発話の意図などを全く考慮していない．そのような情報をどのように提案手法に反映させ，精度を向上させるかも今後の課題の一つである．

 : :B

 C #+/-$& '  )

$ A ? $ )( 9#@

B&$$ )

&( 5$ )9?/)5)

 : :$ % % ' &() A $))>  #)

- E$*$&#?)$ %&$          &$>

 % , ,," 5 3 / 5 ;:$ )? E/ F#@$ ):/$9) / / )

B )& %  , ,,,



駒谷和範，河原達也：音声認識結果の信頼度を用いた効率的な確認・誘導を行う対話管理，情報処理学
会論文誌，%" ， ．



宮崎昇，中野幹生，相川清明：  音声認識と逐次理解法によるロバストな音声発話理解，情報処理学
会研究報告，#A*"， ．



持橋大地，松本裕治：連想としての意味，情報処理学会研究報告，,,A"， ,,,．

 '  > ')@ 6 >)

E#/)

5)

 #>')C =)$  / E$ E$9)  #@

- ( 8) )

E& )

/$

2 

 *$& ( 8-$ : )

 A)))& 8:A  ,,,
, C *) C =  '$ 6 ?)8 = *)  4 :(E 9 @  ' =

*$& B $

本稿では，音声認識誤りに頑健な音声発話理解を実現するためにキーワード抽出に基づく音声発話理解手法について述べた．提案手法の特徴は， コーパスの情報を用いたキーワード抽出， キーワードから復元された文による音声発話理解の実現，である．キーワード抽
出では，内容語の信頼度と連想確率の  つの尺度を用いることにより，内容語の信頼度のみの場合に比べて，キーワード列の正解率で約 <の精度の向上が見られた．キーワードからの文の復元に関しては，形態素列と依存構造木による  段階の評価を行った．限られたドメインであるが，一定の有効性を示せた．キーワードからの文生成は，キーワード抽出に基づく音声認識手法の精度向上に繋がると考えられる．
今後の課題としては，より大規模な実験や他ドメインでの提案手法の有効性の確認，各プロセスのさらなる精度向上や一般性の向上などが挙げられる．

82B:3

$ D& *$& B:8##* ,,,

*$+#')))  3Æ&) @ @ *$+*$ D&/ * $

おわりに 

()

)

 :-$& - 9 #GF$3)

($B:93 " 

重点領域研究「音声対話」音声対話コーパス .F 編
集：平成６年度文部省科学研究費補助金重点領域研
究「音声・言語・統合の統合的処理による対話の理解と生成に関する研究」対話音声コーパス，:920'%" ,,．



竹林洋一：音声自由対話システム 50#E2FBB H
ユーザ中心のマルチモーダルインタフェースの実現に向けてH，電子情報通信学会論文誌，%C9BB，，"" ,,"．



内元清貴，関根聡，井佐原均：キーワードからのテキ
スト生成，言語処理学会第８回年次大会，
．



屋野武秀，笹島宗彦，河野恭之：音声対話タスクのための高速なキーワードラティスパーザ 5=，人工知能学会論文誌，%，， ．

