(57)【特許請求の範囲】
【請求項１】
Ｎを２以上の整数とし、
入力された音声データに基づいて１位からＮ位の音声認識結果を出力する音声認識部と、
予め用意されたテキストデータの３ｇｒａｍ確率を計算する３ｇｒａｍ計算部と、
前記１位からＮ位の音声認識結果に含まれる各単語のｔｆと、前記テキストデータに基づいて予め用意されたｉｄｆのうち前記１位の音声認識結果に含まれる各単語のｉｄｆに基づき、前記１位の音声認識結果に含まれる各単語のｔｆ−ｉｄｆを計算するｔｆ−ｉｄｆ計算部と、
前記ｔｆ−ｉｄｆに基づいて前記１位の音声認識結果に含まれる各単語のＮＲＤを計算し、計算された前記ＮＲＤに基づく値を各単語の重要度として出力する重要度計算部と、
前記１位の音声認識結果に含まれる各単語の信頼度と、前記１位の音声認識結果に含まれる連続する三つの単語の３ｇｒａｍ確率と、前記１位の音声認識結果に含まれる各単語の重要度と、を用いて定式化した整数計画問題の解に基づいて前記１位の音声認識結果に含まれる不要単語を削除する不要単語削除部
を含む音声認識装置。
【請求項２】
入力された音声データに基づいて１位の音声認識結果を出力する音声認識部と、
予め用意されたテキストデータの３ｇｒａｍ確率を計算する３ｇｒａｍ計算部と、
前記テキストデータの各単語を、ＤＮＮを用いて多次元の実数値ベクトルに変換し、前記多次元の実数値ベクトルに基づいて前記１位の音声認識結果に含まれる各単語の重要度を計算する重要度計算部と、
前記１位の音声認識結果に含まれる各単語の信頼度と、前記１位の音声認識結果に含まれる連続する三つの単語の３ｇｒａｍ確率と、前記１位の音声認識結果に含まれる各単語の重要度と、を用いて定式化した整数計画問題の解に基づいて前記１位の音声認識結果に含まれる不要単語を削除する不要単語削除部
を含む音声認識装置。
【請求項３】
請求項２に記載の音声認識装置であって、
前記重要度計算部は、
前記実数値ベクトルのばらつきの度合いに基づいて前記重要度を計算する
音声認識装置。
【請求項４】
音声認識装置が実行する音声認識方法であって、
Ｎを２以上の整数とし、
入力された音声データに基づいて１位からＮ位の音声認識結果を出力するステップと、
予め用意されたテキストデータの３ｇｒａｍ確率を計算するステップと、
前記１位からＮ位の音声認識結果に含まれる各単語のｔｆと、前記テキストデータに基づいて予め用意されたｉｄｆのうち前記１位の音声認識結果に含まれる各単語のｉｄｆに基づき、前記１位の音声認識結果に含まれる各単語のｔｆ−ｉｄｆを計算するステップと、
前記ｔｆ−ｉｄｆに基づいて前記１位の音声認識結果に含まれる各単語のＮＲＤを計算し、計算された前記ＮＲＤに基づく値を各単語の重要度として出力するステップと、
前記１位の音声認識結果に含まれる各単語の信頼度と、前記１位の音声認識結果に含まれる連続する三つの単語の３ｇｒａｍ確率と、前記１位の音声認識結果に含まれる各単語の重要度と、を用いて定式化した整数計画問題の解に基づいて前記１位の音声認識結果に含まれる不要単語を削除するステップ
を含む音声認識方法。
【請求項５】
音声認識装置が実行する音声認識方法であって、
入力された音声データに基づいて１位の音声認識結果を出力するステップと、
予め用意されたテキストデータの３ｇｒａｍ確率を計算するステップと、
前記テキストデータの各単語を、ＤＮＮを用いて多次元の実数値ベクトルに変換し、前記多次元の実数値ベクトルに基づいて前記１位の音声認識結果に含まれる各単語の重要度を計算するステップと、
前記１位の音声認識結果に含まれる各単語の信頼度と、前記１位の音声認識結果に含まれる連続する三つの単語の３ｇｒａｍ確率と、前記１位の音声認識結果に含まれる各単語の重要度と、を用いて定式化した整数計画問題の解に基づいて前記１位の音声認識結果に含まれる不要単語を削除するステップ
を含む音声認識方法。
【請求項６】
請求項５に記載の音声認識方法であって、
前記実数値ベクトルのばらつきの度合いに基づいて前記重要度を計算する
音声認識方法。
【請求項７】
コンピュータを、請求項１から３の何れかに記載の音声認識装置として機能させるプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、音声認識装置、音声認識方法、プログラムに関する。
【背景技術】
【０００２】
特許文献１に、文字数制限に柔軟に対応することができる文書要約装置が開示されている。特許文献１の文書要約装置は、文短縮装置と、文スコア決定装置と、文選択装置を備える。文短縮装置は、入力された文書中の文を、指定された複数の短縮率で短縮して原文および短縮文を出力する。文スコア決定装置は、文短縮装置により出力された原文および短縮文に対して、文短縮率、文の出現位置情報および入力されたパラメタにより求められた位置情報スコアと、単語スコアデータベースを参照して取得した、文を構成する単語の重みを示す尺度である単語スコアとに基づいて文スコアを決定する。文選択装置は、入力された文字数制限のもと、文スコア決定装置により決定された文スコアの和が最大となる文の組合せを要約として選択する。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１０−５５２３６号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
音声認識は、音声をテキストに変換する技術であるが、全ての状況下において１００％の変換率で音声認識を行うことは現状難しく、多くの場合認識結果に誤りの単語が含まれてしまう。また、認識結果にはテキストに変換する必要のない冗長なフレーズが含まれている場合がある。例えば、認識結果「これはそうですね難しいですね」は、冗長なフレーズの削除により、「これは難しい」という表現に短縮すべき場合がある。
【０００５】
このように音声認識結果の誤りを修正し、不要部を削除することは、質の高い認識結果を得るためには必須の処理である。認識結果に対して上記２点の改善を行い、認識結果の可読性や、後段の言語処理の適用しやすさを向上させる処理を、「認識結果の整形技術」と称することにする。
【０００６】
通常の音声認識は、音響モデルと言語モデルを対象音声に最適な形にチューニングした後、デコーディング（両モデルを用いたリアルタイムなテキスト変換）することにより、行われている。上述の２つのモデルは音の確からしさ、言語の数、単語の並びの情報のみを用いるモデルである。上記２つのモデルはそれ以上の情報を利用することができない。
【０００７】
一方、音声認識結果と正解データのペアを用いて、通常の言語モデルでは考慮できないような長距離の情報（文単位での確からしさなど）を用いて認識結果の修正を行う識別的リランキングの研究が存在する。しかしながら、識別的リランキング法は音声認識の正解データを人手で作成しなければならず、このコストが高いことが課題であった。
【０００８】
そこで、本発明では正解データを用いずに音声認識結果を修正することができる音声認識装置を提供することを目的とする。
【課題を解決するための手段】
【０００９】
本発明の音声認識装置は、音声認識部と、３ｇｒａｍ計算部と、ｔｆ−ｉｄｆ計算部と、重要度計算部と、不要単語削除部を含む。なお、Ｎを２以上の整数とする。
【００１０】
音声認識部は、入力された音声データに基づいて１位からＮ位の音声認識結果を出力する。３ｇｒａｍ計算部は、予め用意されたテキストデータの３ｇｒａｍ確率を計算する。ｔｆ−ｉｄｆ計算部は、１位からＮ位の音声認識結果に含まれる各単語のｔｆと、テキストデータに基づいて予め用意されたｉｄｆのうち１位の音声認識結果に含まれる各単語のｉｄｆに基づき、１位の音声認識結果に含まれる各単語のｔｆ−ｉｄｆを計算する。重要度計算部は、ｔｆ−ｉｄｆに基づいて１位の音声認識結果に含まれる各単語のＮＲＤを計算し、計算されたＮＲＤに基づく値を各単語の重要度として出力する。不要単語削除部は、１位の音声認識結果に含まれる各単語の信頼度と、１位の音声認識結果に含まれる連続する三つの単語の３ｇｒａｍ確率と、１位の音声認識結果に含まれる各単語の重要度と、を用いて定式化した整数計画問題の解に基づいて１位の音声認識結果に含まれる不要単語を削除する。
【発明の効果】
【００１１】
本発明の音声認識装置によれば、正解データを用いずに音声認識結果を修正することができる。
【図面の簡単な説明】
【００１２】
【図１】実施例１の音声認識装置の構成を示すブロック図。
【図２】実施例１の音声認識装置の動作を示すフローチャート。
【図３】実施例２の音声認識装置の構成を示すブロック図。
【図４】実施例２の音声認識装置の動作を示すフローチャート。
【図５】実施例３の音声認識装置の構成を示すブロック図。
【図６】実施例３の音声認識装置の動作を示すフローチャート。
【図７】実施例４の音声認識装置の構成を示すブロック図。
【図８】実施例４の音声認識装置の動作を示すフローチャート。
【発明を実施するための形態】
【００１３】
以下、本発明の実施の形態について、詳細に説明する。なお、同じ機能を有する構成部には同じ番号を付し、重複説明を省略する。
【実施例１】
【００１４】
以下、図１、図２を参照して実施例１の音声認識装置１の構成、および動作を説明する。図１に示すように、本実施例の音声認識装置１は、コーパス記憶部１０と、音声認識部１１と、３ｇｒａｍ計算部１２と、ｔｆ−ｉｄｆ計算部１３と、重要度計算部１４と、不要単語削除部１５を含む。コーパス記憶部１０には、予め用意されたテキストデータが記憶されているものとする。
【００１５】
音声認識部１１は、入力された音声データに基づいて１位からＮ位の音声認識結果を出力する（Ｓ１１）。３ｇｒａｍ計算部１２は、予め用意されたテキストデータの３ｇｒａｍ確率を計算する（Ｓ１２）。ｔｆ−ｉｄｆ計算部１３は、１位からＮ位の音声認識結果に含まれる各単語のｔｆと、テキストデータに基づいて予め用意されたｉｄｆのうち１位の音声認識結果に含まれる各単語のｉｄｆに基づき、１位の音声認識結果に含まれる各単語のｔｆ−ｉｄｆを計算する（Ｓ１３）。重要度計算部１４は、ｔｆ−ｉｄｆに基づいて１位の音声認識結果に含まれる各単語のＮＲＤ（Ｎｏｒｍａｌｉｚｅｄ  Ｒｅｌｅｖａｎｃｅ  Ｄｉｓｔａｎｃｅ）を計算し、計算されたＮＲＤに基づく値を各単語の重要度として出力する（Ｓ１４）。不要単語削除部１５は、１位の音声認識結果に含まれる各単語の信頼度と、１位の音声認識結果に含まれる連続する三つの単語の３ｇｒａｍ確率と、１位の音声認識結果に含まれる各単語の重要度と、を用いて定式化した整数計画問題の解に基づいて１位の音声認識結果に含まれる不要単語を削除する（Ｓ１５）。
【００１６】
以下、各構成要件の動作について詳細に説明する。
＜音声認識部１１＞
入力：音声データ（音圧の時系列データ。形式はｐｃｍ，ｗａｖなど）、順位数の上限Ｎ
出力：音声認識結果の１位〜Ｎ位の文、各文における各単語の信頼度
ここで、入力される音声データは、例えば１発話毎に文として処理されるものとする。
【００１７】
［入力される１発話毎の文例］
1発話目の文例：「今日はかるカレーを食べた」
音声認識部１１は、音声データを入力として取得し、一般的な音声認識方法によって音声認識を実行し、１位からＮ位までの音声認識結果を出力する（Ｓ１１）。ただし前述したようにＮは２以上の整数である。
【００１８】
ステップＳ１１により、音声データの各文（文は時刻情報を基に区切られる）に対し、以下のように順位と各単語に信頼度を持つ複数（＝Ｎ個）仮説の認識結果が出力される。なお、Ｎは人手で指定してもよい。例えば、Ｎ＝５としてもよい。
【００１９】
認識結果の複数仮説とは、音声認識結果のうち、音声認識システムにより１番尤もらしいと評価された文、音声認識の計算途中で上記以外に候補として挙がった文を含む複数の認識結果よりなる仮説を示す。
【００２０】
信頼度とは、認識結果の各単語に対してどれだけの尤もらしさでこの単語が正解しているかを表す確率値であり、０以上１以下の値を持つ。
【００２１】
［信頼度の例］
１位：今日  は  かる  カレー  を  食べた
信頼度：今日→０．７  は→０．５  かる→０．４  カレー→０．５  を→０．７  食べた→０．９
２位：今日  は  軽い  カレー  を  食べた
信頼度：今日→０．７  は→０．５  軽い→０．３５  カレー→０．５  を→０．７  食べた→０．９
・・・
Ｎ位：  今日  は  かん  カレー  を  食べた  
信頼度：今日→０．７  は→０．５  かん→０．２  カレー→０．５  を→０．７  食べた→０．９
【００２２】
＜３ｇｒａｍ計算部１２＞
入力：大量のテキストデータ
出力：テキストデータに対する３ｇｒａｍ確率
３ｇｒａｍ計算部１２は、予め用意された大量のテキストデータ（音声認識結果でないもの）を用いる。本実施例では、大量のテキストデータはコーパス記憶部１０に予め記憶されているものとする。大量のテキストデータとしては、例えば新聞の記事などを用いることができる。大量のテキストデータとしては、例えば１個３０文程度の記事が１５００００記事程度あるようなコーパスが考えられる。
【００２３】
３ｇｒａｍ計算部１２は、大量のテキストデータの全ての文に対して、３ｇｒａｍ確率を計算する。３ｇｒａｍ確率とは、三つの単語が連続して文章に出現する確率を表す。ステップＳ１２を具体例を用いて説明する。例えば、３ｇｒａｍ（今日、は、暑い）という並びが出現する３ｇｒａｍ確率ｐ（暑い｜今日、は）を計算したいとする。これを計算する際、「今日、は、○○○」と連続する３単語の並びをテキストデータすべてに対して探し出し、その個数を計算する。その結果例えば以下の３パターンのみが見つかり、各並びの個数は以下であったとする。
（１）今日  は  暑い        １００
（２）今日  は  晴れ          ９５
（３）今日  は  まれ            ５
この場合、３ｇｒａｍ確率ｐ（暑い｜今日、は）は、
【００２４】
【数１】
0006549064.tif 000002
【００２５】
と計算される。３ｇｒａｍ計算部１２は、テキストデータに出現する任意の単語について、考えられる任意の三並びｗｉ，ｗｊ，ｗｋが生じる条件付き確率ｐ（ｗｋ｜ｗｉ，ｗｊ）を計算する（ｉ、ｊ、ｋは任意のインデックスを表す記号、以下の数式などにも登場する）。
【００２６】
ここで、任意の三並びｗｉ，ｗｊ，ｗｋがテキストデータに１回も出現せず、ｐ（ｗｋ｜ｗｉ，ｗｊ）が直接計算不可能な場合も存在する。このような場合には、バックオフと呼ばれる方法で対処すればよい。バックオフとは、上述のような場合に３ｇｒａｍの代わりに２ｇｒａｍや１ｇｒａｍを利用する方法である。バックオフについては、例えば参考非特許文献１に開示されている。
（参考非特許文献１：北研二、辻井潤一、「言語と計算（４）確率的言語モデル」、東京大学出版会、1999年11月、p.67-69）
【００２７】
また、ｐ（○｜ｓｔａｒｔ）とｐ（ｅｎｄ｜○，○）も計算する。ｐ（○｜ｓｔａｒｔ）は文頭の直後に○という単語が出現する確率である。ｐ（ｅｎｄ｜○，○）は、○，○という並びの後文末になる確率である。文頭、文末は、テキストデータにおける改行記号を基に判断する。
【００２８】
＜ｔｆ−ｉｄｆ計算部１３＞
入力：１位からＮ位の音声認識結果、大量のテキストデータ
出力：１位の音声認識結果に出現した全ての単語に対するｔｆ−ｉｄｆ
ｔｆ−ｉｄｆとは、ｔｆ（ｔｅｒｍ  ｆｒｅｑｕｅｎｃｙ、単語の出現頻度）とｉｄｆ（ｉｎｖｅｒｓｅ  ｄｏｃｕｍｅｎｔ  ｆｒｅｑｕｅｎｃｙ、逆文書頻度）の二つの指標にもとづいて計算される指標であり、文章内での単語の重要度を表す指標である。
【００２９】
まず、ステップＳ１２で用いた大量のテキストデータと同じデータを用意する。本実施例では、コーパス記憶部１０に予め記憶されたテキストデータを流用すればよい。予め用意するテキストデータは前述したとおり、例えば新聞の記事、１個３０文程度の記事が１５００００記事程度あるようなコーパスなどでよい。
【００３０】
以下、ｉｄｆの計算方法について述べる。テキストデータのドキュメント（文書のあるまとまった区切り。当該区切りはあらかじめテキストデータに付与されているものとする。例えば新聞なら１記事など）の数をＤ、そのうち着目単語ａが出現するドキュメントの数をｄとすると、ｉｄｆはｌｏｇ（Ｄ／ｄ）と計算される。対数の底は任意の１より大きい正の実数とする。以下の例では底は１０であるものとする。
【００３１】
例えばコーパス記憶部１０内のドキュメントの総数が１５００００で、
「今日」が出現するドキュメントの数・・・４００
「は」が出現するドキュメントの数・・・３００
「カレー」が出現するドキュメントの数・・・３０００
「を」が出現するドキュメントの数・・・５００００
「食べ」が出現するドキュメントの数・・・４００００
「た」が出現するドキュメントの数・・・５００００
であったとする。
【００３２】
この場合、ｔｆ−ｉｄｆ計算部１３は各単語のｉｄｆを、
「今日」のｉｄｆ＝ｌｏｇ１０（１５００００／４００）＝２．２４
「は」のｉｄｆ＝ｌｏｇ１０（１５００００／３００）＝２．７０
「カレー」のｉｄｆ＝ｌｏｇ１０（１５００００／３０００）＝１．７０
「を」のｉｄｆ＝ｌｏｇ１０（１５００００／５００００）＝０．４７８
「食べ」のｉｄｆ＝ｌｏｇ１０（１５００００／４００００）＝０．５７
「た」のｉｄｆ＝ｌｏｇ１０（１５００００／５００００）＝０．４７８
と計算する。
【００３３】
次に、ｔｆの計算方法について述べる。一般的にｔｆは、あるドキュメント内での単語の総数がＭである場合に、当該ドキュメント内における、着目単語ａの出現頻度Ａを用いて、ｔｆ＝Ａ／Ｍと計算される。
【００３４】
従って、ｔｆ−ｉｄｆ計算部１３は、１位からＮ位までの音声認識結果の集合を一つのドキュメントと捉え、少なくとも１位の音声認識結果に含まれる各単語についてｔｆを計算する。例えば、１位からＮ位までの音声認識結果の集合における単語の総数Ｍ＝１０００であり、１位の音声認識結果に含まれる単語「カレー」の出現頻度Ａ＝２００であるものとすると、
「カレー」のｔｆ＝２００／１０００＝０．２０
と計算される。
【００３５】
ｔｆ−ｉｄｆ計算部１３は、ｉｄｆとｔｆの値を用いて、ｔｆ−ｉｄｆを以下のように計算する。
ｔｆ−ｉｄｆ＝ｔｆ×ｉｄｆ
例えば前述の例における「カレー」のｔｆ−ｉｄｆは、
ｔｆ−ｉｄｆ＝０．２０×１．７０＝０．３４
である。
【００３６】
なお、ｔｆ−ｉｄｆ計算部１３は、少なくとも１位の音声認識結果に含まれる各単語のｔｆ−ｉｄｆを計算すればよい。ここで重要なのは、ｔｆの計算には１位からＮ位までの音声認識結果が必要であるものの、ｔｆ−ｉｄｆとしては、必ずしも１位からＮ位までの音声認識結果に登場する全ての単語について必須ではないということである。
【００３７】
＜重要度計算部１４＞
入力：１位の音声認識結果、１位の音声認識結果のｔｆ−ｉｄｆ
出力：１位の音声認識結果に含まれる各単語のＮＲＤ（Ｎｏｒｍａｌｉｚｅｄ  Ｒｅｌｅｖａｎｃｅ  Ｄｉｓｔａｎｃｅ）
重要度計算部１４は、１位の音声認識結果のｔｆ−ｉｄｆに基づいて、１位の音声認識結果中の２単語間の類似性を表す尺度であるＮＲＤを計算する（Ｓ１４）。２単語間の類似性を表すＮＲＤを計算する目的は、例えば、ある単語が他の単語との類似性が高ければ、その単語は誤認識ではない正解単語であり、削除すべき不要な単語ではないと判断できるためである。
【００３８】
ここで、ＮＲＤを計算するために、まず各単語に対するｆＮＲＤ（ｗ）と、２単語間のｆＮＲＤ（ｗ１，ｗ２）を算出する。これらは、
【００３９】
【数２】
0006549064.tif 000003
【００４０】
として定義される。なお、ＴＦＩＤＦ（ｗ，ｄ）は、ドキュメントｄにおける単語ｗのｔｆ−ｉｄｆを表す。Ｓはドキュメントの総数である。
【００４１】
重要度計算部１４は、例えば上述の定義を用いて１位の音声認識結果に含まれる各単語のＮＲＤを計算する。例えば、１位の音声認識結果に含まれる各単語がｗ１，．．．，ｗＭだったとすると、この中の任意の単語ｗｉの単語一貫性スコアは、
【００４２】
【数３】
0006549064.tif 000004
【００４３】
すなわち、インデクスｊ＝１〜Ｍまでのうちｉを除いた全ての単語と単語ｗｉのＮＲＤの逆数の和として計算される。このスコアが高いほど、正解単語である可能性が高く、不要でない（必要な）単語である可能性が高い単語であるものと判断する。
【００４４】
＜不要単語削除部１５＞
入力：１位の音声認識結果、１位の音声認識結果の各単語に対する信頼度、１位の音声認識結果の各単語に対する３ｇｒａｍ確率、１位の音声認識結果の各単語に対する重要度
出力：不要な単語が削除された音声認識結果
不要単語削除部１５は、１位の音声認識結果に対して、不要な単語を削除する処理を実行する。今、ある音声データの１位の音声認識結果が、単語ｗ１，ｗ２，．．．，ｗＴという並びで得られているとする。この文から不要な単語を、ＮＲＤに基づく値（単語一貫性スコア、その単語の重要度、削除してはいけない度合い）と、単語３つ並びの接続のしやすさの確率（３ｇｒａｍ確率）、信頼度（その単語が音声認識結果として正しいと考えられる度合い）を用いて整数計画問題に定式化する。
【００４５】
ステップＳ１５の説明にあたり、変数を定義する。δｉ，αｉ，βｉｊ，γｉｊｋはいずれも１か０の整数値を取り、δｉはｉ＝１〜Ｔに対して定義され、１ならば単語ｗｉを残し（削除しない）、０ならば削除することを表す変数である。αｉはｉ＝１〜Ｔに対して定義され、１ならば単語ｗｉが文の先頭単語であり、０ならば先頭単語ではないことを表す変数である。βｉｊは０≦ｉ＜ｊ≦Ｔを満たす全ての（ｉ，ｊ）の組み合わせに対して定義され、ｗｉ，ｗｊという並びの直後が文末となるならば１、そうでなければ０を表す変数である。γｉｊｋは、０≦ｉ＜ｊ＜ｋ≦Ｔを満たすすべての（ｉ，ｊ，ｋ）の組み合わせに対して定義され、ｗｉ，ｗｊ，ｗｋという三連続する単語が削除後の文に存在すれば１、存在しなければ０と定義される。
【００４６】
この変数を用いて、次の関数を最大化する解となるδｉ，αｉ，βｉｊ，γｉｊｋを計算する（整数計画問題）。
【００４７】
【数４】
0006549064.tif 000005
【００４８】
ここで、Ｓｉｇ（ｗｉ）は単語ｗｉの重要度（ＮＲＤに基づく値）であり、ｐ（ｗｋ｜ｗｉ，ｗｊ）は単語ｗｉ，ｗｊ，ｗｋが三連続する３ｇｒａｍ確率、ｑ（ｗｉ）は単語ｗｉの信頼度である。不要単語削除部１５は、この問題の解を算出し、ｗ１，ｗ２，．．．，ｗＴの各単語ｗｉに対して、δｉが１となるような単語はそのまま出力し、δｉが０となるような単語（不要語に相当する）は出力しないことによって、認識結果文の不要単語の削除を行う。
【００４９】
上記の評価関数を最大にすると、重要度が高くない単語は削除される。また任意の単語を削除した場合に他の単語の並びが自然な並びとなる場合、当該任意の単語は削除される。
例えば、音声認識結果である、「今日  は  かる  カレー  を  食べた」という文に対してこの方法で不要単語を削除し、文圧縮を行うものとする。この場合、「かる」は、重要度が低い（ＮＲＤに基づく値が低い）ものとする。すると、「かる」を削除したと仮定した並びの、「は  カレー  を」が自然である（３ｇｒａｍ確率が高い）ならば、該当の「かる」を削除しても構わないはずである。これを数式表現したものが上記の式となっている。
【００５０】
従って、不要単語削除部１５は、上述の最大値問題の解のδｉを用いて不要語を除去した音声認識結果を出力する。
【実施例２】
【００５１】
以下、図３、図４を参照して実施例２の音声認識装置の構成および動作について説明する。図３に示すように本実施例の音声認識装置２は、コーパス記憶部１０と、音声認識部１１と、３ｇｒａｍ計算部１２と、重要度計算部２４と、不要単語削除部１５を含む。実施例１の音声認識装置１に存在したｔｆ−ｉｄｆ計算部１３が省略されていること、実施例１の重要度計算部１４が本実施例において重要度計算部２４に置き換えられていること以外については、実施例１と同様であるため、適宜説明を略する。
【００５２】
本実施例では、単語の重要度を計算する際、ＮＲＤの代わりにｗｏｒｄ２ｖｅｃを用いる。ｗｏｒｄ２ｖｅｃは大量のテキストデータの各単語をＤＮＮ（Ｄｅｅｐ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）を用いてＵ次元（Ｕは２以上の整数）の実数値ベクトルに変換する方法である。ｗｏｒｄ２ｖｅｃについては例えば参考非特許文献２に開示されている。
（参考非特許文献２：Tomas Mikolov, Ilya Sutskever , Kai Chen, Greg Corrado, Jeffrey Dean, ”Distributed Representations of Words and Phrases and their Compositionality”, [online], Oct 2013, [平成28年5月30日検索]、インターネット<URL:https://papers.nips.cc/paper/5021-distributed-representations-of-words-and-phrases-and-their-compositionality.pdf>）
【００５３】
次元Ｕは人手で指定する。例えば、Ｕ＝１００などが用いられる。以下、単語ｗのｗｏｒｄ２ｖｅｃの実数値ベクトルをｘ（ｗ）と書くことにする（このベクトルは縦ベクトルであるものとする）。これを用いて、前述の
【００５４】
【数５】
0006549064.tif 000006
の代わりに、
【００５５】
【数６】
0006549064.tif 000007
【００５６】
を用いる。すなわち、重要度計算部２４は、テキストデータの各単語ｗを、ＤＮＮを用いてＵ次元の実数値ベクトルｘ（ｗ）に変換し、当該Ｕ次元の実数値ベクトルｘ（ｗ）に基づいて、１位の音声認識結果に含まれる各単語の重要度を計算する（Ｓ２４）。
【実施例３】
【００５７】
以下、図５、図６を参照して実施例３の音声認識装置の構成および動作について説明する。本実施例の音声認識装置３は、実施例２の音声認識装置２にさらに変更を加えたものである。図５に示すように本実施例の音声認識装置３は、コーパス記憶部１０と、音声認識部１１と、３ｇｒａｍ計算部１２と、重要度計算部３４と、不要単語削除部１５を含み、実施例２の重要度計算部２４が本実施例において重要度計算部３４に置き換えられていること以外については、実施例２と同様であるため、適宜説明を略する。
【００５８】
本実施例の重要度計算部３４は、単語の重要度を計算する際、ｗｏｒｄ２ｖｅｃによる実数値ベクトルのばらつきの度合いに基づいて重要度（文内での自然さ）を計算する。今、文中の各単語ｗ１，ｗ２，．．．，ｗＶのそれぞれに対し、実数値ベクトルｘ（ｗｉ）を考える。
この実数値ベクトルの平均ベクトルである
【００５９】
【数７】
0006549064.tif 000008
を計算する。これを用いて、
【００６０】
【数８】
0006549064.tif 000009
をその単語の重要度（文内の自然さ）を表す指標とし、
【００６１】
【数９】
0006549064.tif 000010
の代わりに用いる。
【実施例４】
【００６２】
以下、図７、図８を参照して実施例４の音声認識装置の構成および動作について説明する。本実施例の音声認識装置４は、実施例２の音声認識装置２にさらに変更を加えたものである。図７に示すように本実施例の音声認識装置４は、コーパス記憶部１０と、音声認識部１１と、３ｇｒａｍ計算部１２と、重要度計算部４４と、不要単語削除部１５を含み、実施例２の重要度計算部２４が本実施例において重要度計算部４４に置き換えられていること以外については、実施例２と同様であるため、適宜説明を略する。
【００６３】
本実施例の重要度計算部４４は、実施例３と同様に、単語の重要度を計算する際、ｗｏｒｄ２ｖｅｃによる実数値ベクトルのばらつきの度合いに基づいて重要度（文内での自然さ）を計算する。
【００６４】
今、文中の各単語ｗ１，ｗ２，．．．，ｗＹのそれぞれに対し、実数値ベクトルｗｉを考える。この実数値ベクトル群が１混合正規分布に従うと仮定し、
【００６５】
【数１０】
0006549064.tif 000011
を用いて、対数ガウス確率
【００６６】
【数１１】
0006549064.tif 000012
を、その単語の重要度とする。これを、
【００６７】
【数１２】
0006549064.tif 000013
の代わりに用いる。
【００６８】
＜補記＞
本発明の装置は、例えば単一のハードウェアエンティティとして、キーボードなどが接続可能な入力部、液晶ディスプレイなどが接続可能な出力部、ハードウェアエンティティの外部に通信可能な通信装置（例えば通信ケーブル）が接続可能な通信部、ＣＰＵ（Central Processing Unit、キャッシュメモリやレジスタなどを備えていてもよい）、メモリであるＲＡＭやＲＯＭ、ハードディスクである外部記憶装置並びにこれらの入力部、出力部、通信部、ＣＰＵ、ＲＡＭ、ＲＯＭ、外部記憶装置の間のデータのやり取りが可能なように接続するバスを有している。また必要に応じて、ハードウェアエンティティに、ＣＤ−ＲＯＭなどの記録媒体を読み書きできる装置（ドライブ）などを設けることとしてもよい。このようなハードウェア資源を備えた物理的実体としては、汎用コンピュータなどがある。
【００６９】
ハードウェアエンティティの外部記憶装置には、上述の機能を実現するために必要となるプログラムおよびこのプログラムの処理において必要となるデータなどが記憶されている（外部記憶装置に限らず、例えばプログラムを読み出し専用記憶装置であるＲＯＭに記憶させておくこととしてもよい）。また、これらのプログラムの処理によって得られるデータなどは、ＲＡＭや外部記憶装置などに適宜に記憶される。
【００７０】
ハードウェアエンティティでは、外部記憶装置（あるいはＲＯＭなど）に記憶された各プログラムとこの各プログラムの処理に必要なデータが必要に応じてメモリに読み込まれて、適宜にＣＰＵで解釈実行・処理される。その結果、ＣＰＵが所定の機能（上記、…部、…手段などと表した各構成要件）を実現する。
【００７１】
本発明は上述の実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で適宜変更が可能である。また、上記実施形態において説明した処理は、記載の順に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されるとしてもよい。
【００７２】
既述のように、上記実施形態において説明したハードウェアエンティティ（本発明の装置）における処理機能をコンピュータによって実現する場合、ハードウェアエンティティが有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、上記ハードウェアエンティティにおける処理機能がコンピュータ上で実現される。
【００７３】
この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。具体的には、例えば、磁気記録装置として、ハードディスク装置、フレキシブルディスク、磁気テープ等を、光ディスクとして、ＤＶＤ（Digital Versatile Disc）、ＤＶＤ−ＲＡＭ（Random Access Memory）、ＣＤ−ＲＯＭ（Compact Disc Read Only Memory）、ＣＤ−Ｒ（Recordable）／ＲＷ（ReWritable）等を、光磁気記録媒体として、ＭＯ（Magneto-Optical disc）等を、半導体メモリとしてＥＥＰ−ＲＯＭ（Electronically Erasable and Programmable-Read Only Memory）等を用いることができる。
【００７４】
また、このプログラムの流通は、例えば、そのプログラムを記録したＤＶＤ、ＣＤ−ＲＯＭ等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させる構成としてもよい。
【００７５】
このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の記憶装置に格納する。そして、処理の実行時、このコンピュータは、自己の記録媒体に格納されたプログラムを読み取り、読み取ったプログラムに従った処理を実行する。また、このプログラムの別の実行形態として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。また、サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるＡＳＰ（Application Service Provider）型のサービスによって、上述の処理を実行する構成としてもよい。なお、本形態におけるプログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるもの（コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータ等）を含むものとする。
【００７６】
また、この形態では、コンピュータ上で所定のプログラムを実行させることにより、ハードウェアエンティティを構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。
【図１】
0006549064.tif 000014
【図２】
0006549064.tif 000015
【図３】
0006549064.tif 000016
【図４】
0006549064.tif 000017
【図５】
0006549064.tif 000018
【図６】
0006549064.tif 000019
【図７】
0006549064.tif 000020
【図８】
0006549064.tif 000021