(57)【要約】本発明は、学習データから言語特徴量を抽出し、抽出された言語特徴量とその出自である学習データとを関連付けた言語特徴量出自情報を記憶し、音声認識処理において各言語特徴量が利用された度合いを示す言語特徴量利用統計情報を取得して記憶し、言語特徴量統計情報と言語特徴量出自情報に基づいて、音声認識処理における各学習データの寄与度を算出し、算出された学習データの寄与度を出力する。
2012165529.tif 000002
【特許請求の範囲】
【請求項１】
学習データ毎に言語特徴量を抽出する言語特徴量抽出手段と、
抽出された言語特徴量とその出自である学習データとを関連付けた言語特徴量出自情報を記憶する手段と、
過去に実施された音声認識処理において各言語特徴量が利用された度合いを示す言語特徴量利用統計情報を取得して記憶する手段と、
前記言語特徴量統計情報と前記言語特徴量出自情報に基づいて、前記音声認識処理における各学習データの寄与度を算出する寄与度算出手段と、
前記算出された学習データの寄与度を出力する手段と、
を備えることを特徴とする言語モデル構築支援装置。
【請求項２】
前記寄与度算出手段は、各学習データにおける、前記音声認識処理で利用された言語特徴量の出現度に応じた値を寄与度として算出する
ことを特徴とする請求項１に記載の言語モデル構築支援装置。
【請求項３】
前記音声認識処理の処理対象の発話に対する正解テキストと前記発話の音声認識結果の正解度に関する情報と前記発話の音声認識結果に対する訂正情報の少なくとも一つに基づいて、前記言語特徴量利用統計情報に重み付けを行う、
ことを特徴とする請求項１又は２に記載の言語モデル構築支援装置。
【請求項４】
前記言語特徴量抽出手段により取得された言語特徴量に基づいて、音声認識処理で用いる言語モデルを更新又は構築する、
ことを特徴とする請求項１から３のいずれか１項に記載の言語モデル構築支援装置。
【請求項５】
前記言語モデルを用いて音声データについて音声認識を行い、前記言語特徴量利用統計情報を出力する音声認識手段をさらに備える、
ことを特徴とする請求項１から４のいずれか１項に記載の言語モデル構築支援装置。
【請求項６】
寄与度の算出対象となる学習データと、寄与度の算出に用いられる言語特徴量利用統計情報の少なくとも一方を、ユーザの要求に応じて切り換え又は限定する、
ことを特徴とする請求項１から５のいずれか１項に記載の言語モデル構築支援装置。
【請求項７】
更新前の言語モデルを用いて行った音声認識処理で取得された言語特徴量統計情報と、更新後の言語モデルを用いて行った音声認識処理で取得された言語特徴量統計情報の差分を取り、当該差分を用いて学習データの寄与度を算出する、
ことを特徴とする請求項１から６のいずれか１項に記載の言語モデル構築支援装置。
【請求項８】
言語モデル構築支援方法であって、
学習データから言語特徴量を抽出し、
抽出された言語特徴量とその出自である学習データとを関連付けた言語特徴量出自情報を記憶し、
音声認識処理において各言語特徴量が利用された度合いを示す言語特徴量利用統計情報を取得して記憶し、
前記言語特徴量統計情報と前記言語特徴量出自情報に基づいて、前記音声認識処理における各学習データの寄与度を算出し、
前記算出された学習データの寄与度を出力する、
ことを特徴とする言語モデル構築支援方法。
【請求項９】
コンピュータに、
学習データから言語特徴量を抽出する処理、
抽出された言語特徴量とその出自である学習データとを関連付けた言語特徴量出自情報を記憶する処理、
音声認識処理において各言語特徴量が利用された度合いを示す言語特徴量利用統計情報を取得して記憶する処理、
前記言語特徴量統計情報と前記言語特徴量出自情報に基づいて、前記音声認識処理における各学習データの寄与度を算出する処理、
前記算出された学習データの寄与度を出力する処理、
を実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、言語モデル構築支援装置、方法及びプログラムに関する。
【背景技術】
【０００２】
音声データからテキスト情報を取得する音声認識技術では、言語モデルと呼ばれるコンポーネントが用いられる。このコンポーネントは、音声認識器が複数の認識結果テキストの仮説の中から、より言語的に妥当なものを選ぶために用いられる。今日広く用いられている言語モデルにはN-gram言語モデルがある。N-gram言語モデルは、Ｎ個の単語連鎖が現れる尤もらしさを、大量のテキストデータから統計的に学習することによって構築される。N-gram言語モデルは、学習データから得られた統計情報に基づいて動作するため、ある特有のドメインに属する学習データが手元にある状態では、そのドメインに属する言語表現を用いた音声は高い精度で認識できるものの、そのドメインに属さない言語表現を用いた音声に対する認識精度は低くなる。【０００３】
例えば、特許文献１には、テキストデータを複数のクラスタに分けて、クラスタ毎に言語モデルを生成し、評価用データを用いて各言語モデルを評価し、評価結果に基づいて選択した言語モデルを統合する等して、目的の用途に即したテキストデータ要することなく、目的の用途に即した言語モデルを作成するための装置が開示されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特許第４５３７９７０号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかし、上記特許文献１の装置では、最終的に得られる言語モデルの目的ドメインに対する認識精度が、他のクラスタ別言語モデルよりは高くなるが、良好な認識精度を達成できる保証がない。この方式によって保証されるものは、最終的に得られる言語モデルの目的ドメインに対する認識精度が、他のクラスタ別言語モデルよりも高い、という点である。【０００６】
より良好な認識精度を得るためには、言語モデルを目的ドメインに適応させる効果の高い学習データを用いることが望ましく、このような学習データをユーザに登録させるための仕組みの実現が望まれる。しかし、どのような学習データが音声認識の精度向上に効果的であるかをユーザが把握することは困難であった。【０００７】
本発明は、上記問題点に鑑みてなされたもので、音声認識処理で用いる言語モデルを目的ドメインに適応させる効果の高い学習データの登録を支援する言語モデル構築支援装置、方法及びプログラムを提供することを目的とする。【０００８】
また、本発明は、どのような学習データが音声認識の精度向上に効果的であるかをユーザが容易に把握することができる言語モデル構築支援装置、方法及びプログラムを提供することを他の目的とする。
【課題を解決するための手段】
【０００９】
本発明は、学習データから言語特徴量を抽出する言語特徴量抽出手段と、抽出された言語特徴量とその出自である学習データとを関連付けた言語特徴量出自情報を記憶する手段と、音声認識処理において各言語特徴量が利用された度合いを示す言語特徴量利用統計情報を取得して記憶する手段と、前記言語特徴量統計情報と前記言語特徴量出自情報に基づいて、前記音声認識処理における各学習データの寄与度を算出する寄与度算出手段と、前記算出された学習データの寄与度を出力する手段と、を備えることを特徴とする言語モデル構築支援装置である。【００１０】
本発明は、言語モデル構築支援方法であって、学習データから言語特徴量を抽出し、抽出された言語特徴量とその出自である学習データとを関連付けた言語特徴量出自情報を記憶し、音声認識処理において各言語特徴量が利用された度合いを示す言語特徴量利用統計情報を取得して記憶し、前記言語特徴量統計情報と前記言語特徴量出自情報に基づいて、前記音声認識処理における各学習データの寄与度を算出し、前記算出された学習データの寄与度を出力する、ことを特徴とする言語モデル構築支援方法である。【００１１】
本発明は、コンピュータに、学習データから言語特徴量を抽出する処理、抽出された言語特徴量とその出自である学習データとを関連付けた言語特徴量出自情報を記憶する処理、音声認識処理において各言語特徴量が利用された度合いを示す言語特徴量利用統計情報を取得して記憶する処理、前記言語特徴量統計情報と前記言語特徴量出自情報に基づいて、前記音声認識処理における各学習データの寄与度を算出する処理、前記算出された学習データの寄与度を出力する処理、を実行させるためのプログラムである。
【発明の効果】
【００１２】
本発明によれば、音声認識処理で用いる言語モデルを目的ドメインに適応させる効果の高い学習データの登録を支援することができる。
【図面の簡単な説明】
【００１３】
【図１】図１は本発明の第１の実施形態に係る言語モデル構築支援装置のブロック図である。
【図２】図２は集計フェイズを説明するためのフローチャートである。
【図３】図３は学習フェイズを説明するためのフローチャートである。
【図４】図４は認識フェイズを説明するためのフローチャートである。
【図５】図５は解析フェイズを説明するためのフローチャートである。
【図６】図６は第１の実施形態に係る言語モデル構築支援装置の他の構成例を示す図である。
【図７】図７は第２の実施形態に係る言語モデル構築支援装置のブロック図である。
【図８】図８は言語特徴量出自ＤＢに記憶されるデータを例示する図である。
【図９】図９は第３の実施形態にかかる言語モデル構築支援装置のブロック図である。
【図１０】図１０は第４の実施形態にかかる言語モデル構築支援装置のブロック図である。
【図１１】図１１は第５の実施形態にかかる言語モデル構築支援装置のブロック図である。
【図１２】図１２は第７の実施形態にかかる言語モデル構築支援装置のブロックである。
【発明を実施するための形態】
【００１４】
以下、本発明の実施形態について図面を参照して説明する。
【００１５】
（第１の実施形態）
図１は、本発明の第１の実施形態に係る言語モデル構築支援装置のブロック図である。図示されるように、本実施形態に係る言語モデル構築支援装置は、言語特徴量抽出部１０１と、言語特徴量出自記憶部１０２と、言語モデル学習部１０３と、音声認識部１０４と、学習データ寄与度解析部１０５と、を備える。
【００１６】
言語特徴量抽出部１０１は、言語モデルの学習データを入力として受け取ると、その学習データから所与の手続きに従って言語特徴量を抽出（計算）する。
【００１７】
言語特徴量出自記憶部１０２は、言語特徴量抽出部１０１において抽出された言語特徴量を、その出自である学習データを追跡できるような形でデータベース（言語特徴量出自ＤＢ）に記憶する。例えば、「『柴犬』という単語は学習データｄ１では２０回、学習データｄ２では１５回現れた」という情報（言語特徴量出自情報）が記録される。
【００１８】
言語モデル学習部１０３は、言語特徴量抽出部１０１により抽出された言語特徴量を用い、所与の手続きに基づいて言語モデルを構築する。例えば一般的な単語トライグラム（3-gram）言語モデルの場合、連続して現れる３つの単語の組の各々についての出現数が言語特徴量となる。この出現数を、最初の２つの単語（コンテキスト）が連続して現れる数で割る。これを与えられた全ての言語特徴量に対して計算することで、確率的言語モデルを構築することができる。
【００１９】
音声認識部１０４は、言語モデル学習部１０３によって構築された言語モデルを用い、別途入力された音声信号に対して所与の手順に従って音声認識処理を施す。また、音声認識部１０４は、音声認識処理において参照された言語特徴量を逐一記録する。これにより、音声認識処理における各言語特徴量についての参照カウントを示す言語特徴量利用統計情報が得られる。
【００２０】
学習データ寄与度解析部１０５は、所与のアルゴリズムに従って、音声認識部１０４によって記録された言語特徴量利用統計情報を元に、言語特徴量出自記憶部１０２を適宜参照しながら、言語特徴量抽出部１０１に入力された各学習データに対して、音声認識処理に対する寄与度を算出する。
【００２１】
次に、本実施形態に係る言語モデル構築支援装置の動作について説明する。言語モデル構築支援装置における処理は、大きく四つのそれぞれ独立したフェイズから構成される。すなわち、集計フェイズ、学習フェイズ、認識フェイズ、解析フェイズである。集計→学習、学習→認識、認識→解析の各々のフェイズ間には直接の依存関係がある。各フェイズは、直接の依存関係を持つフェイズの直近の処理結果を用いて動作する。典型的には、各フェイズは集計→学習→認識→解析の順で実行されるので、以降はこの順に沿って説明を進める。しかしこれは一例であって、必ずしも、あるフェイズの完了を契機として次のフェイズを起動する必要はない。例えば、これらのフェイズを各々任意のタイミングで実行するようにしてもよい。
【００２２】
例えば、学習フェイズは、集計フェイズの完了後にそれを受けて動作してもよく、認識フェイズが起動する直前に自動的に起動するようにしてもよく、ユーザによって明示的に起動されてもよく、所定時間毎（数分から１時間毎や一晩ごと等）にタイマーで起動されるようにしてもよい。認識フェイズは、ユーザの音声認識処理要求に応じて実行される。解析フェイズは、認識フェイズの完了後にそれを受けて動作してもよく、ユーザにより明示的に起動されてもよく、所定時間毎にタイマーで起動されるようにしてもよい。
【００２３】
集計フェイズについて説明する。集計フェイズは、ユーザから新たな学習データが与えられる都度実行され、言語特徴量出自データベースを順次更新する。以下、集計フェイズの詳細について図２を参照して述べる。
【００２４】
まず、ユーザによって学習データが入力される（Ａ１）。学習データは、一塊のテキストデータであり、典型的には一つの文書ファイルである。テキストデータが取り出せるものであれば、このファイルの具体的なフォーマットは問われない。また、ウェブページのテキスト入力フォームなどから直接入力されたテキストデータを一つの学習データとして扱ってもよい。
【００２５】
一つの学習データは単独のドメインに属する言語表現によってのみ構成されることが望ましいが、複数のドメインに属する言語表現を含んでも構わない。但し、異なるドメインに属する言語表現を一様に含む学習データは、特定のドメインに属する言語表現のみを含む学習データに比べ、その特定ドメインに属する表現形式に沿ってなされた音声発話に対する音声認識処理への寄与度が低く見積もられる場合がある。
【００２６】
例えば、音声が業務日報の読み上げである場合に、与える学習データは業務日報そのもの（”業務日報”ドメイン）であることが望ましいが、ここに製品パンフレット（”製品紹介ドメイン”）を合わせたものを一つの学習データとして与えると、学習データに含まれる言語表現の絶対量は増加するにも関わらず”業務日報”ドメインに特有の言語表現は殆ど増加しないので、”業務日報”ドメインに特有の発話に対する寄与度は下がる。
【００２７】
学習データは、実際に音声発話に用いられる言語表現を多く含むことが望ましいが、そのような言語表現が含まれなくても構わない。但し、そのような学習データは、音声認識精度を低下させる場合がある。
【００２８】
言語特徴量算出部１０１は、与えられた学習データから言語特徴量を抽出する（ステップＡ２）。例えば、形態素解析処理を施して単語（形態素）単位に分割した後、Ｎ個の単語の連鎖単位に出現数をカウントする。この他の言語特徴量としては、単語一つ一つの出現頻度（ユニグラム頻度）、各単語や単語連鎖の属するメタ情報（品詞や意味クラス等）単位での出現頻度が考えられる。また、複数の単語の組み合わせからなるフレーズや、係り受け解析に基づく構文木の部分木などを用いてもよい。どのような特徴量を取り出すかは、最終的に生成される言語モデルや、後述する音声認識部１０４に応じて予め決定する。
【００２９】
言語特徴量出自記憶部１０２は、ステップＡ２で抽出された言語特徴量の出現頻度を、その抽出元の学習データを追跡可能な形で記憶する（ステップＡ３）。例えば、学習データを表すＩＤ番号として、言語特徴量出自記憶部１０２に登録された学習データの通し番号を採用し、各言語特徴量に対して、ＩＤ番号と出現頻度のペアを要素とするリストを言語特徴量出自データベースに記録する。以上で集計フェイズが完了する。
【００３０】
少なくとも１回以上集計フェイズが行われた後、言語モデルの学習フェイズが実行される。学習フェイズの起動タイミングとしては、（１）集計フェイズの完了後、（２）所定時間毎に（数分から数時間毎に）・定期毎に、（３）ユーザによって明示的に起動を指示された場合、等が考えられる。集計フェイズと連動してする以外の構成とする場合、一次的に集計フェイズにおける出力結果を蓄積するデータベースを用いてもよく、言語特徴量出自データベースを流用してもよい。いずれの場合でも、前回の学習フェイズ以降、特に学習データやそこから抽出された言語特徴量に変化が認められなければ、学習フェイズは何も処理をせずに終了してもよい。
【００３１】
以下、学習フェイズの詳細について図３を参照して述べる。
【００３２】
言語モデル学習部１０３は、所与の設定に基づいて、集計済みの言語特徴量を収集する（ステップＡ４）。具体的には、例えば、既知の全ての学習データから抽出された言語特徴量を足し合わせる。この際、同一と見做せる言語特徴量同士の頻度は学習データを超えて足し合わせるが、例えばN-gram言語モデルを学習する場合であれば、学習データごとに別途与えた重み値をもって加重和を取ってもよい。また、この重みを何らかのアルゴリズムを用いて自動的に算出してもよい。これらは言語モデルのタスク適応のために一般的に用いられている方法であるためその詳細は省略する。
【００３３】
次に、言語モデル学習部１０３は、収集した言語特徴量を用いて言語モデルを学習する（ステップＡ５）。例えばN-gram言語モデルの場合は、言語特徴量として収集した単語のＮ連鎖の出現頻度を、そのＮ連鎖を構成する冒頭（Ｎ−１）個の単語による（Ｎ−１）連鎖の出現頻度で割ることによって得る。即ち、ある単語連鎖ｗｉ−Ｎ＋１…ｗｉ−１ｗｉの出現頻度をＮ（ｗｉｉ−Ｎ＋１）とした場合、単語連鎖ｗｉ−Ｎ＋１…ｗｉ−１が得られた次にｗｉが現れる条件付確率P(ｗｉ|ｗｉｉ−Ｎ＋１)は（式１）で求められる。
【００３４】
【数１】
2012165529.tif 000003
【００３５】
以上で学習フェイズが完了し、言語モデルが構築される。なお、一般的には、出現頻度の低い単語連鎖に対していくらかの確率値を割り当てる処理（スムージング）が合わせて行われる。
【００３６】
少なくとも１回以上学習フェイズが完了した後、認識フェイズが実行される。認識フェイズは、ユーザにより音声認識処理が要求される度に実行される。以下、認識フェイズにおける動作について図４を参照して説明する。
【００３７】
まず、ユーザより音声信号データが音声認識部１０４に入力される。音声認識部１０４は、所定のアルゴリズムに基づいて音声信号データを解析し、最も適切と判断された文字列や単語列などを出力する（ステップＡ６）。この音声認識処理では、学習フェイズにより構築された言語モデルを用いる。
【００３８】
音声認識部１０４における音声認識処理の具体的な処理手順にはさまざまな方式があるが、おおむね次のようにして行われる。
【００３９】
まず入力音声信号から音響特徴量を算出する。音響特徴量とは、ケプストラム、パワー、Δパワーなどの、人が音声を知覚する際の手掛かりとして利用されている音響信号的な特徴量のベクトルである。こうして得られた音響特徴量シーケンスを、音響モデルと呼ばれるコンポーネントに記録された各音素の音響特徴量パターン分布と比較することで、あり得る音素シーケンスの組み合わせが生成される。パターン分布と音素シーケンスの累積距離の近さを音響尤度と呼ぶ。
【００４０】
次に各音素シーケンスを辞書と照らし合わせることによって、あり得る単語シーケンス(仮説)を求める。そして、各単語シーケンスの妥当性を言語モデル学習部１０３で構築した言語モデルによって評価し、数値化された評価結果（言語尤度）を得る。N-gram言語モデルなどの確率的言語モデルの場合、言語尤度は単語シーケンスの出現確率となる。最後に、各仮説単語シーケンスに対してその音響尤度と言語尤度を所与の重みで混合した値を算出し、この値がもっとも高い仮説を認識結果として出力する。実際には全ての仮説を探索することはできないため、音声信号の入力に従って尤度の低い仮説は切り捨てる。また、最尤仮説の探索処理は尤度の逆数を用いることで最小コスト経路探索問題として解くのが一般的である。本発明では、音声認識の具体的なアルゴリズムについては特に問わないが、少なくともそこで用いられる言語モデルは、前述の学習フェイズによって構築されたものを用いる必要がある。
【００４１】
また、音声認識部１０４は、音声認識処理において参照された言語特徴量を逐一記録する。即ち、音声認識部１０４は、音声認識処理の完了後または音声認識処理の進行に合わせて、言語特徴量の利用統計情報を算出し、これを学習寄与度解析部１０５に入力する（ステップＡ７）。
【００４２】
例えば、最終的に得られた最尤単語シーケンスに含まれる単語や単語連鎖を、最尤単語シーケンスとは別に記録・出力する。最尤単語シーケンスだけでなく、尤度上位のＮ個の仮説（N-best）における単語や単語連鎖の出現頻度を対象としてもよい。あるいは、最尤単語シーケンスが得られた際に音声認識部１０４の内部で保持していた仮説単語シーケンス群のラティス構造（ワードグラフ）の中に含まれる単語または単語連鎖の出現頻度を対象としてもよい。また、最終的な上位仮説以外に、探索途中で言語モデルを参照した全ての単語または単語連鎖とその個数を記録・出力してもよい。
【００４３】
また、それらを記録する際に、その単語または単語連鎖を構成する音素シーケンスの音響尤度を合わせて記録・出力してもよい。また、最尤単語シーケンスないしN-bestシーケンスやワードグラフに対して所定の意味解析処理を施し、一つ又は複数の単語連鎖からなる意味単位（フレーズ又は固有表現）を取り出してその出現数を集計・記録・出力してもよい。あるいは、単語または単語連鎖の持つメタ情報（品詞、意味クラス）を単位として集計・記録・出力してもよい。また、単語又は単語列の係り受け構造や共起情報を集計・記録・出力してもよい。
【００４４】
いずれの統計情報を用いるにしても、その集計対象となる言語特徴量は、言語特徴量出自記憶部１０２を参照することで、過去のどの学習データにどれだけ出現したか判断できるものでなければならない。典型的には、これは、言語特徴量抽出部１０１により抽出され、言語特徴量出自記憶部１０２により記録されている言語特徴量を対象とすることを意味する。しかし、言語特徴量出自記憶部１０２により記録された複数のデータから演算によって求められるような二次的な特徴量を用いてもよい。具体的には、言語特徴量出自記憶部１０２に単語トライグラムのみが記録されている場合であっても、これを適宜積算することによって単語バイグラムや品詞トライグラムに関する言語特徴量を導き出すことが可能であるから、そのような言語特徴量の統計情報を用いてもよい。また、整合性が保たれるのであれば、言語特徴量抽出部１０１には異なる複数のアルゴリズムを用いてもよい。以上で認識フェイズが完了する。
【００４５】
少なくとも認識フェイズが１回以上完了した後、解析フェイズが実行される。解析フェイズの起動タイミングとしては、（１）認識フェイズの完了後、（２）所定時間毎に（数分から数時間毎に）、（３）ユーザによって明示的に起動を指示された場合、等が考えられる。認識フェイズと連動して起動する以外の構成とする場合、一時的に認識フェイズにおける出力結果である言語特徴量の利用統計情報を蓄積するデータベースを用いてもよいし、学習データ寄与度解析部１０５に直接入力してもよい。いずれの場合でも、前回の認識フェイズ以降、特に言語特徴量利用統計に変化が認められなければ、解析フェイズは何も処理せずに終了してよい。以下、解析フェイズにおける動作について図５を参照して説明する。
【００４６】
学習データ寄与度１０５は、音声認識部１０４の出力した言語特徴量ごとの統計情報を用い、言語特徴量出自部１０２を参照しながら、各学習データが音声認識処理においてどれだけ参照されたか、その寄与度を所与のアルゴリズムを用いて算出する。
【００４７】
寄与度算出アルゴリズムの一例を挙げる。音声認識部１０４は、音声認識処理において最尤単語シーケンスに含まれる各単語の出現個数を取得する。例えば「今日は晴れ、明日は雨です」という発話に対する認識結果単語列が「今日/は/あれ/明日/は/雨/で」であったとすると、「今日」「あれ」「明日」「雨」「で」はそれぞれ１回、「は」２回現れたという統計情報が出力され、学習データ寄与度解析部１０５に入力される。学習データ寄与度解析部１０５は、過去に入力された統計情報を記憶しており、これに得られた統計情報を加える。その結果、例えば「今日」が３０回、「あれ」が１００回、「明日」が４０回、「雨」が１０回、「は」が５００回、それぞれ累積で現れたとする。以降、ある時刻ｔにおける単語の出現情報の集合をEtと表し、Etにおける単語wの累積出現数をEt(w)と表す。
【００４８】
学習データ寄与度解析部１０５は、言語特徴量出自記憶部１０２を参照して、各単語が学習データのそれぞれにどれだけ現れたかを計算する。例えば「今日」という単語は学習データｄ１に２００回、学習データｄ２では２０回、学習データｄ３では一回も現れなかった、のような情報を求める。以降、ある学習データｃにおける単語ｗの出現数をF(w|c)と表す。すると、ある時刻tにおける学習データcの寄与度Contribute(t|c)は（式２）のように表される。
【００４９】
【数２】
2012165529.tif 000004
【００５０】
（式２）は過去に得られた認識結果により多く含まれる単語をより多く与える学習データほど、その過去の音声認識に対する寄与度が高いということを表す。ここでαは学習データごとの重みであり、基本的にはステップＡ４において用いられた値に合わせる。学習時に特に重みをつけず足し合わせた場合は、あらゆる学習データに対してα＝１となる。
【００５１】
このケースでは認識処理で何回用いられたかは考慮していないが、これを考慮するならば（式３）のようになる。
【００５２】
【数３】
2012165529.tif 000005
【００５３】
また、上式では単純に全ての単語を計算対象として公平に取り扱っているが、例えば格助詞「が」、「は」等は、学習データによらず同じように働くと考えて計算から除外したり、適当係数を掛けて影響が小さくなるよう調整したりしてもよい。単語ごとの重みをβ（ｗ）とすると、例えば（式４）のようになる。
【００５４】
【数４】
2012165529.tif 000006
【００５５】
単語ごとの重みの与え方については、予め単語ごとに重み値を与えておく方法と、音声認識処理時に求める方法がある。前者は、例えば固有名詞に高い重みを与え、助詞や普通名詞には低い重みを与える、等のように事前に決定する。後者は、例えば、認識結果の各単語に対する尤度やスコアの大小から求める。例えば単語事後確率等のいわゆる信頼度は、そのまま重みとして用いることができる。
【００５６】
また、さらに学習データのサイズを考慮するという方法も考えられる。例えば認識処理中に参照されたある単語が、５０００単語からなる学習データで１０回、１００単語からなる文書で１０回出てくるのであれば、後者の方が音声の内容に近い学習データである可能性が高い。これを例えば（式５）で表現する。
【００５７】
【数５】
2012165529.tif 000007
【００５８】
ここでｙは、学習データｃが含む単語を示す。ｗは認識処理中に参照された単語であるため、母集団が異なる点に注意が必要となる。上記のようにこの式は、各単語の学習データ中における出現数ではなく、出現確率に基づいて寄与度を求めることを表している。学習データは、最終的に言語モデルにおける各言語特徴量の出現確率に影響を与えるのであるからこれを反映した方式であるといえる。
【００５９】
学習データの大きさに関しては別の考え方もある。例えば、前述の学習データＡにおいて、ある単語ｗの出現確率は確かに小さいとしても、すべての学習データから得られた言語特徴量全体としてみたときに、ｗが表れたのは学習データＡだけだったとすれば、やはりその寄与は大きいと考えられる。これについては、例えば、式４と式５を適当な重みを用いて線形和したものを最終的な寄与度にする、などの方法が考えられる。
【００６０】
また、単語の出現頻度分布は大小が極端に現れる傾向があるので、各々の出現数には対数を取った値を代わりに用いてもよい。
【００６１】
単語以外の言語特徴量を用いる場合でも、同様のアルゴリズムで寄与度を計算することができる。例えば３個の単語連鎖（3-gram）を用いる場合、音声認識手段１０４は、上述の例であれば「<S>/今日/は/」、「今日/は/あれ」、「は/あれ/明日」、「明日/は/雨」、「は/雨/で」、「雨/で/<E>」の７つの単語連鎖に対する出現回数（それぞれ１回）を集計する。ここで<S>と<E>はそれぞれ文頭・文末を表す特殊な記号である。「で/<E>/<?>」を８つ目の単語連鎖として集計してもよいが、この場合の第３単語には実在しない（＝音素列から引けない）任意の単語エントリー<?>を予めひとつ定めて、これを割り当てる。その後の寄与度算出アルゴリズムは単語を言語特徴量とする場合とほぼ同一であるため省略する。
【００６２】
学習データごとの寄与度が算出されたならば、システムはこれを所定の形式で出力する（Ａ９）。具体的には、学習データごとに、過去に行われたすべての音声認識処理から得られた言語特徴量利用統計を用いて算出した寄与度の一覧を、所定のデータ形式にエンコードして出力する。
【００６３】
また、特定ユーザの音声認識処理から得られた言語特徴量利用統計のみを用いて算出した寄与度を出力してもよい。ひとり以上の特定ユーザからなるグループの音声認識処理に対する寄与度を出力してもよい。あるいはまた、過去のある時間内に行われた音声認識処理に対する寄与度を算出してもよい。例えば、一日単位で学習データごとの寄与度を順次出力することで、グラフ（折れ線グラフなど）で表示することができる。またあるいは、学習データごとではなく、学習データを登録したユーザ単位でまとめて出力してもよい。例えば、あるユーザが４つの学習データを登録し、直近の一週間におけるすべての音声認識処理に対する寄与度がそれぞれ１０％、１５％、２％、５％であれば、そのユーザの登録した学習データによる寄与度は１０＋１５＋２＋５＝３２％である、のように求めることができる。以上で解析フェイズが一通り完了する。
【００６４】
以上説明したように、本発明によれば、音声認識処理の際に参照された言語特徴量の利用統計を記録する手段を備え、各言語特徴量が、与えられた学習データごとにどのように出現したかを後で参照可能な構成を有するため、音声認識処理に際して実際により多く参照された言語特徴量をより多く含む学習データがいずれであるか、また、その相対的な大きさはどの程度であるか、を算出し、ユーザに提示することができる。
【００６５】
なお、図１に示すシステム構成は一例であり、例えば図６に示すように、２つの言語特徴抽出部１０１が並んでおり、一方が言語特徴量出自記憶部１０２に、もう一方が言語モデル学習部１０３に、それぞれ繋がるような構成としてもよい。例えば、言語モデルはN-gramモデルであるが、言語特徴量としては係り受けを用いるといった場合では、言語特徴量収集と言語モデル構築で共有される情報は殆どないため、このような場合は、図６の構成を適用してもよい。
【００６６】
（第２の実施形態）
次に、本発明の第２の実施形態に係る言語モデル構築支援装置について説明する。図７は、第２の実施形態に係る言語モデル構築支援装置のブロック図である。本言語モデル構築支援装置は、第１の実施形態とほぼ同じ構成を有するが、言語モデル構築部に更新前の言語モデルを与えることができる点が異なる。以下、第１の実施形態との相違点を中心に説明する。
【００６７】
学習フェイズにおけるステップＡ５は、言語モデルを実際に構築するステップである。第２の実施形態では、ステップＡ４で集計された言語特徴量のほかに、別途与えられた言語モデル（更新前言語モデル）も同時に用いることで新しい言語モデル（更新後言語モデル）を構築する。
【００６８】
言語モデル学習部２０３は、更新前言語モデルの構築に用いられた言語特徴量の集合を、言語特徴量出自記憶部２０２に登録する。この場合、これらの言語特徴量の出自は更新前言語モデルそのものとなるので、ステップＡ９における出力の際には、適宜他の学習データと区別することができる。
【００６９】
更新前言語モデルから、その構築に用いられた言語特徴量を取り出すには例えば二つの方法がある。
【００７０】
第１の方法は、更新前言語モデルの学習時に、言語モデル（言語特徴量をキーとし、その言語尤度を返すテーブルと見做せる）に関連付けて、算出の根拠となった言語特徴量の集合を合わせて保存する方式である。例えば、更新前言語モデル自体が本発明の第１の実施形態に準じたシステムによって構築されたのであれば、このような情報を保存することは容易い。
【００７１】
第２の方法は、更新前言語モデルに含まれる各言語特徴量に対する言語尤度から、各言語特徴量の出現数を所与のアルゴリズムを用いて復元する方式である。頻度復元アルゴリズムはどのような方法を用いてもよいが、例えば文献１「相補的バックオフを用いた言語モデル融合ツールの構築，情報処理学会研究報告.SLP,音声言語情報処理2001,11,p49-54」では、N-gram言語モデルが条件付確率の積であることを利用した復元方法が紹介されている。これは近似値になるが、本発明での利用においては精度上の問題は特にない。
【００７２】
また、ステップＡ４で集計された言語特徴量と合わせて更新前言語モデルを利用して言語モデルを構築する処理方法にもさまざまな方式が考えられる。ここでは、代表的な二つの方法について説明する。これらの方法のいずれを用いるかは任意に設定可能である。
【００７３】
第１の言語モデルの更新方法は、更新前言語モデルの構築に用いられた言語特徴量の集合と、ステップＡ４で集計された言語特徴量の集合との和（または加重和）を取るものである。前掲の文献１ではこれをコーパス結合と呼んでいる。本実施形態では、上述の通り、更新前言語モデルから言語特徴量の出現数を取り出す処理を行っているので、この方法が特に好適である。
【００７４】
第２の言語モデル更新方法は、集計された言語特徴量から第１の実施形態におけるステップＡ５と同様の方法で構築した言語モデルと、更新前言語モデルとの間で、言語尤度の線形和を取るものである。具体的な線形和の取り方にもさまざまな方式があるが、文献１では一方の言語モデルに出現しない言語特徴量については確率値としてゼロを与える方法と、もう一方の言語モデルから推定した確率値を与える方法が記載されている。この方法は第一の方法に比べて処理速度が速い。
【００７５】
本発明の第２の実施形態によれば、既存の言語モデルに対して、後から加えた学習データから得られた言語特徴量をさらに追加するよう構築されているため、ゼロから言語モデルを構築するよりも、より大規模でロバスト性の高い言語モデルを得ることができる。そして、そのような言語モデルを用いる場合でも、後から加えた学習データの寄与度を正しく求めることができる。
【００７６】
次に、本実施形態の実施例として、業務日報入力をタスクとしたシステムについて説明する。学習データは過去の（手書きの）業務日報のほか、製品パンフレット、メールなどとし、一つのファイルを一つの学習データとする。生成する言語モデルは単語トライグラムモデルとし、言語特徴量抽出部２０１は、単語３連鎖の各々の出現頻度を数える。言語特徴量出自記憶部２０２により言語特徴量出自ＤＢに記憶されるデータの一例を図８に示す。
【００７７】
このようなデータにより、トライグラムをキーにして学習データごとの出現頻度を取得できる。更新前言語モデルは、そのモデルが学習された際の入力であったトライグラムの出現頻度テーブルが付属しているものとする。言語モデル学習部２０３は、更新前言語モデルの出現頻度テーブル（トライグラムをキーにして出現頻度が引ける表）を言語特徴量出自記憶部２０２に記憶されるテーブルにマージする（１列増える）。その後、言語特徴量出自記憶部２０２のテーブルでトライグラムを一つずつ参照し、全ての行の出現頻度を合計して記憶する。以降の確率計算の処理動作は第１の実施形態と同様であり、算出されたトライグラム→確率値のテーブルを更新後言語モデルとして出力する。
【００７８】
音声認識部２０４は、第１の実施形態と同様に、最尤単語列を算出し、これを表示装置に出力する。一方、最尤単語列に含まれる各単語を、学習データ寄与度解析部２０５に入力する。学習データ寄与度解析部２０５は、受け取った単語の累積個数（累積利用頻度）をカウントしておく。保持方式としては、言語特徴量出自記憶部２０２と同様に、トライグラムと音声認識処理の実行時刻をキーとして、その実行時刻における利用頻度が引けるようなテーブルを用いる。これにより、例えば、実行時刻から１カ月たったデータは削除するという処理動作を行ってもよい。また、その音声認識処理を実行したユーザを示すユーザアカウントも合わせて記録してもよい。
【００７９】
ユーザがＵＩ（ユーザインタフェース）画面から「学習データの利用状況を見る」ボタンを押すと、学習データ寄与度解析部２０５は、保持しているカウント数から式４に基づいて寄与度を算出し、学習コーパスごとに一覧表を生成して表示装置に出力する。ここで、αとβはどちらも常に１とする。また、ユーザがＵＩ画面から「計算対象とする利用期間」フィールドに日数又は月数を入力した場合、学習データ寄与度解析部２０５は、各トライグラムの累積利用頻度を求める際、そのエントリーの実行時刻が指定された期間に属さないエントリーは無視する。また、ユーザがＵＩ画面から「計算対象とするユーザ」リストボックスから特定のユーザを選んだ場合は、同様にそのユーザを示すユーザアカウントと合わせて登録されなかったエントリーは無視する。複数選択可能リストボックスを用いて複数ユーザを登録させたり、別途定めたユーザグループ単位で選択させることで、選択されたユーザユーザグループに属する複数のユーザを対象として選択させてもよく、この場合も同様に選択されたユーザのいずれでもないユーザアカウントで登録されたエントリーは無視する。
【００８０】
学習データの登録時に、学習データごとに複数の属性を付与できるようにしてもよい。例えば、学習データの登録ユーザのユーザカウント、登録日時、あるいはタグ（任意のラベル）などが考えられる。ユーザは、寄与度の計算対象として特定の属性値を持つ学習データを選択することができる。例えば、ＵＩ上に「登録者が○○である学習データの利用状況を見る」（○○はリストボックスやテキストフィールド）というコントロールを配置しておき、ここから選択する。また、属性ごとに学習データクラスタとしてまとめて寄与度を計算し、表示するようにしてもよい。例えばＵＩ画面上に「学習データの利用状況を登録時間ごとに見る」というボタンを配置しておき、ユーザがこれを選択した場合、学習データをその登録日時属性を用いて特定の期間、例えば１カ月単位で分類して各々を学習データクラスタとしたのち、学習データクラスタ単位で寄与度を計算する。
【００８１】
（第３の実施形態）
図９は、第３の実施形態にかかる言語モデル構築支援装置のブロック図である。本言語モデル構築支援装置は、第２の実施形態と同様の構成を有するが、更新前言語モデルでも同様に音声認識を行い、更新後モデルとの間で言語特徴量の差分を取って、そこから寄与度を算出する手段をさらに備える。
【００８２】
第２の実施形態では、更新前言語モデルの寄与度が大きい場合に、個別の学習データに対する寄与度が相対的に小さく、優劣の幅も小さくなる。特に、学習データ間の寄与度の差に注目する場合はこの処理方法が望ましい。学習データの寄与度の差が特に重要となるケースとしては、例えば、寄与度の高い学習データを追加したユーザに謝礼などの報酬を与える場合が挙げられる。なお、第２の実施形態でもステップＡ８で更新前言語モデルにおける各言語特徴量の出現数をゼロと見做せば同じような値が得られるが、こちらの方がより厳密に更新前後の言語モデルに対する学習データ群の影響を評価できる。
【００８３】
（第４の実施形態）
図１０は、第４の実施形態にかかる言語モデル構築支援装置のブロック図である。本実施形態は、話者の話した言葉に対する正しい書き起こしテキスト（正解テキスト）が与えられるケースに対応するものである。本実施形態のモデル構築支援装置が備える言語特徴量抽出部５０１、言語特徴量出自記憶部５０２、学習データ寄与度解析部５０３は、第１の実施形態において対応する各構成要素とほぼ同じ機能・構成を有するが、学習データ寄与度解析部５０３は、入力された正解テキストから言語特徴量を抽出し、抽出した言語特徴量の統計情報を利用統計情報として用いて寄与度を算出する。
【００８４】
（第５の実施形態）
図１１は、第５の実施形態にかかる言語モデル構築支援装置のブロック図である。本実施形態は、第１の実施形態とほぼ同様の構成を有するが、学習データ寄与度解析部１０５が音声認識部１０４によって記録された言語特徴量の利用統計情報や、各音声について入力される正解テキスト等に基づいて学習データの寄与度を算出する点で相違する。
【００８５】
例えば会議室録音音声の書き起こし補助システムなどでは、まず音声認識を行い、認識結果テキストの中から間違いを修正して、最終的な書き起こしを仕上げる、というワークフローが用いられる。このような場合には、認識結果と正解テキストを比較することができる。そこで、例えば学習データ寄与度解析部１０５が、音声認識結果と正解テキストで共通する言語特徴量については+1を、一致しないものは-1をそれぞれの利用頻度に掛けたのち、式２〜式５等の方法で寄与度を求める。また、正解テキスト自体は与えられず、認識結果テキストが「ほぼ正解」、「間違いも多い」、「殆ど間違い」のいずれであるか、その正解の程度を与えてもよい。この場合、正解の程度のレベル（上の例では３段階）を重みとして、例えば+1,0,-1のように数値化し、これを言語特徴量利用統計情報に掛け合わせる。例えば「ＮＥＣ」という単語が「ほぼ正解」の発話に合わせて５回、「ほとんど間違い」の発話に合わせて３回現れたなら、差し引きで２回と見做して寄与度を算出してもよい。さらにまた、認識結果の一部についてのみ、誤りの訂正情報が与えられる可能性もある。この例として、かな漢字変換のように、認識誤りである単語を指定し、提示された下位候補から正解を選ぶようなケースが考えられる。この場合は、訂正された単語は明らかに誤りと判断できるが、それ以外の単語に関しては正しかったのか、誤りであるが許容できると見做されたのか判断できない。よって、訂正された単語を-2とし、訂正されなかった単語は+1と見做すことによって、訂正されなかった単語のもたらすプラスの効果をマイルドにすることができる。勿論、明示的にある単語が正解であるという情報を入力させるようなケースでは、明示的に誤りとも正解とも示されなかった単語よりも高い効果を示すよう、+2を与えるようにしてもよい。
【００８６】
（第６の実施形態）
上述した第１、２、３、５の各実施形態において、音声認識処理中に頻繁に仮説として採用されたが、最終的に認識結果（及び／又は上位Ｎ位までの候補）に残らなかった言語特徴量を検索し、そのような言語特徴量を多く含む学習データの寄与度にペナルティを掛けるようにしてもよい。例えば、最終的な認識結果が「菅総理」であるとき、音声認識部は、途中の仮説として「癌」を頻繁に参照したとすると、その「癌」という言葉を多く含む学習データは目的ドメイン（この例では”政治”ドメイン）とは関係ないドメイン（例えば”医療”ドメイン）に属する可能性がある、と見做す。別ドメインに属する学習データは、目的ドメインの発話に対してマイナスの影響を及ぼすことがありうるので、このような学習データの寄与度はやや差し引いてユーザに提示する。例えば、仮説としてＮ回採用されたにも関わらず、最終的に尤度の高い上位Ｋ個の仮説のいずれにも残らなかった単語は、言語特徴量利用統計情報に−（γ／Ｎ）をペナルティとして掛けあわせる。γは所与の定数であり、ペナルティの効きの強弱を調整する。
【００８７】
（第７の実施形態）
図１２は、第７の実施形態にかかる言語モデル構築支援装置のブロックである。本実施形態の言語モデル構築支援装置は、複数の異なる音声認識部を備える。学習データは一括して与えるが、音声認識部１０４は複数存在し、言語モデルはそれぞれ別に学習（更新）する。音声認識処理はすべて同時に動いても、ユーザから明示的に指示されたどれか一つ（又は複数）だけ動いてもよい。このようなシステム構成により、音声認識部ごとに異なる言語特徴量利用履歴（言語特徴量利用統計情報）が得られるので、各々独立に寄与度を求めることができる。
【００８８】
これにより、学習データがどの音声認識部にどれだけ寄与したかを示すことができる。例えば音声認識部（および言語モデル）をドメインごとに割り当てたり、アプリケーションごとに（例えば、音声ディクテーション用、音声地図検索用、等）割り当てたりすることで、ユーザは学習データがどのドメイン／アプリケーションに寄与するかを知ることができる。寄与度の算出に用いられる言語特徴量統計情報を指定する入力をユーザから受け付けてもよい。
【００８９】
音声認識部を複数同時に動作させる場合は最終的な認識結果は何らかの方法で一つにまとめることが多い。例えば、「A post-processing system to yield reduced word error rate: Recognizer Output Voting Error Reduction (ROVER), In Proceedings IEEE Automatic Speech Recognition and Understanding Workshop,pp.347-352」に開示されているROVER法を用いてもよい。なお、複数同時にユーザに提示してもよい。
【００９０】
（第８の実施形態）
第８の実施形態に係る言語モデル構築支援装置は、上述した第１から第７の各実施形態と同様の構成を有し、寄与度算出の際に、複数の学習データクラスタ単位で解析を行う。寄与度算出の式としては、式２〜式５用いてさらに「学習クラスタに属する各コーパス」のsummationを取る。学習データクラスタとしては、例えば同一ユーザによって登録されたもの、同一部門のもの、ユーザによって明示的に選択されたもの、所定期間（例えば１カ月）に登録されたもの、等、さまざまな設定を用いることができる。第８の実施形態に係る言語モデル構築支援装置は、上述した第１から第７の各実施形態と同様の構成を有するが、学習データをいくつかのクラスタに分割して記録、参照する点において異なる。クラスタは、例えばユーザごとに１クラスタとしてもよいし、同一部門に属するユーザから登録されたものを１クラスタとしてもよいし、登録された時期に応じて一定期間（例えば１カ月）ごとに分けてもよい。寄与度の算出は、各クラスタごとに式２〜式５と同様の手順で算出したのち、所与の重み値を用いて総和（加重和）を取る。これによって、例えば一定期間ごとにクラスタ分けをするなら、特に強く影響を持たせる学習データと、それほど強くは影響させない学習データとを区別することができる。勿論、クラスタの分け方は上記に限らない。
【００９１】
以上、好ましい実施の形態をあげて本発明を説明したが、本発明は必ずしも上記実施の形態に限定されるものではなく、その技術的思想の範囲内において様々に変形し実施することが出来る。
【００９２】
上述した本発明の実施形態に係る言語モデル構築支援装置は、ＣＰＵ（Central Processing Unit）等の制御部、メモリやハードディスク等の記憶部、通信部等を備えるコンピュータにより実現してもよい。言語特徴量抽出部、言語特徴量出自記憶部、言語モデル学習部、音声認識部と、学習データ寄与度解析部は、ＣＰＵが記憶部に格納された動作プログラム等を読み出して実行することにより実現されてもよく、また、ハードウェアで構成されてもよい。上述した実施の形態の一部の機能のみをコンピュータプログラムにより実現することもできる。上記コンピュータプログラムは、コンピュータで読み取り可能な記憶媒体に記録されてもよい。コンピュータプログラムは、記録媒体からメモリにロードされてもよいし、ネットワークを通じてコンピュータにダウンロードされ、メモリにロードされてもよい。
【００９３】
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
【００９４】
(付記１）
学習データ毎に言語特徴量を抽出する言語特徴量抽出手段と、
抽出された言語特徴量とその出自である学習データとを関連付けた言語特徴量出自情報を記憶する手段と、
過去に実施された音声認識処理において各言語特徴量が利用された度合いを示す言語特徴量利用統計情報を取得して記憶する手段と、
前記言語特徴量統計情報と前記言語特徴量出自情報に基づいて、前記音声認識処理における各学習データの寄与度を算出する寄与度算出手段と、
前記算出された学習データの寄与度を出力する手段と、
を備えることを特徴とする言語モデル構築支援装置。
【００９５】
(付記２）
前記寄与度算出手段は、各学習データにおける、前記音声認識処理で利用された言語特徴量の出現度に応じた値を寄与度として算出する
ことを特徴とする付記１に記載の言語モデル構築支援装置。
【００９６】
(付記３）
前記音声認識処理の処理対象の発話に対する正解テキストと前記発話の音声認識結果の正解度に関する情報と前記発話の音声認識結果に対する訂正情報の少なくとも一つに基づいて、前記言語特徴量利用統計情報に重み付けを行う、
ことを特徴とする付記１又は２に記載の言語モデル構築支援装置。
【００９７】
(付記４）
前記言語特徴量抽出手段により取得された言語特徴量に基づいて、音声認識処理で用いる言語モデルを更新又は構築する、
ことを特徴とする付記１から３のいずれか１項に記載の言語モデル構築支援装置。
【００９８】
(付記５）
前記言語モデルを用いて音声データについて音声認識を行い、前記言語特徴量利用統計情報を出力する音声認識手段をさらに備える、
ことを特徴とする付記１から４のいずれか１項に記載の言語モデル構築支援装置。
【００９９】
(付記６）
寄与度の算出対象となる学習データと、寄与度の算出に用いられる言語特徴量利用統計情報の少なくとも一方を、ユーザの要求に応じて切り換え又は限定する、
ことを特徴とする付記１から５のいずれか１項に記載の言語モデル構築支援装置。
【０１００】
(付記７）
更新前の言語モデルを用いて行った音声認識処理で取得された言語特徴量統計情報と、更新後の言語モデルを用いて行った音声認識処理で取得された言語特徴量統計情報の差分を取り、当該差分を用いて学習データの寄与度を算出する、
ことを特徴とする付記１から６のいずれか１項に記載の言語モデル構築支援装置。
【０１０１】
(付記８）
言語モデル構築支援方法であって、
学習データ毎に言語特徴量を抽出し、
抽出された言語特徴量とその出自である学習データとを関連付けた言語特徴量出自情報を記憶し、
過去に実施された音声認識処理において各言語特徴量が利用された度合いを示す言語特徴量利用統計情報を取得して記憶し、
前記言語特徴量統計情報と前記言語特徴量出自情報に基づいて、前記音声認識処理における各学習データの寄与度を算出し、
前記算出された学習データの寄与度を出力する、
ことを特徴とする言語モデル構築支援方法。
【０１０２】
(付記９）
前記寄与度の算出では、各学習データにおける、前記音声認識処理で利用された言語特徴量の出現度に応じた値を寄与度として算出する
ことを特徴とする付記８に記載の言語モデル構築支援方法。
【０１０３】
(付記１０）
前記音声認識処理の処理対象の発話に対する正解テキストと前記発話の音声認識結果の正解度に関する情報と前記発話の音声認識結果に対する訂正情報の少なくとも一つに基づいて、前記言語特徴量利用統計情報に重み付けを行う、
ことを特徴とする付記８又は９に記載の言語モデル構築支援方法。
【０１０４】
(付記１１）
前記取得された言語特徴量に基づいて、音声認識処理で用いる言語モデルを更新又は構築する、
ことを特徴とする付記８から１０のいずれか１項に記載の言語モデル構築支援方法。
【０１０５】
(付記１２）
前記言語モデルを用いて音声データについて音声認識を行い、前記言語特徴量利用統計情報を出力する、
ことを特徴とする付記８から１１のいずれか１項に記載の言語モデル構築支援方法。
【０１０６】
(付記１３）
寄与度の算出対象となる学習データと、寄与度の算出に用いられる言語特徴量利用統計情報の少なくとも一方を、ユーザの要求に応じて切り換え又は限定する、
ことを特徴とする付記８から１２のいずれか１項に記載の言語モデル構築支援方法。
【０１０７】
(付記１４）
更新前の言語モデルを用いて行った音声認識処理で取得された言語特徴量統計情報と、更新後の言語モデルを用いて行った音声認識処理で取得された言語特徴量統計情報の差分を取り、当該差分を用いて学習データの寄与度を算出する、
ことを特徴とする付記８から１３のいずれか１項に記載の言語モデル構築支援方法。
【０１０８】
(付記１５）
コンピュータに、
学習データ毎に言語特徴量を抽出する処理、
抽出された言語特徴量とその出自である学習データとを関連付けた言語特徴量出自情報を記憶する処理、
過去に実施された音声認識処理において各言語特徴量が利用された度合いを示す言語特徴量利用統計情報を取得して記憶する処理、
前記言語特徴量統計情報と前記言語特徴量出自情報に基づいて、前記音声認識処理における各学習データの寄与度を算出する処理、
前記算出された学習データの寄与度を出力する処理、
を実行させるためのプログラム。
【０１０９】
(付記１６）
前記寄与度を算出する処理では、各学習データにおける、前記音声認識処理で利用された言語特徴量の出現度に応じた値を寄与度として算出する、
ことを特徴とする付記１５に記載のプログラム。
【０１１０】
(付記１７）
前記コンピュータに、
前記音声認識処理の処理対象の発話に対する正解テキストと前記発話の音声認識結果の正解度に関する情報と前記発話の音声認識結果に対する訂正情報の少なくとも一つに基づいて、前記言語特徴量利用統計情報に重み付けを行う処理を実行させる、
ことを特徴とする付記１５又は１６に記載の言語モデル構築支援装置。
【０１１１】
(付記１８）
前記コンピュータに、
前記取得された言語特徴量に基づいて、音声認識処理で用いる言語モデルを更新又は構築する処理を実行させる、
ことを特徴とする付記１５から１７のいずれか１項に記載のプログラム。
【０１１２】
(付記１９）
前記コンピュータに、
前記言語モデルを用いて音声データについて音声認識を行い、前記言語特徴量利用統計情報を出力する音声認識処理をさらに実行させる、
ことを特徴とする付記１５から１８のいずれか１項に記載のプログラム。
【０１１３】
(付記２０）
前記コンピュータに、
寄与度の算出対象となる学習データと、寄与度の算出に用いられる言語特徴量利用統計情報の少なくとも一方を、ユーザの要求に応じて切り換え又は限定する処理を実行させる、
ことを特徴とする付記１５から１９のいずれか１項に記載のプログラム。
【０１１４】
(付記２１）
前記コンピュータに、
更新前の言語モデルを用いて行った音声認識処理で取得された言語特徴量統計情報と、更新後の言語モデルを用いて行った音声認識処理で取得された言語特徴量統計情報の差分を取り、当該差分を用いて学習データの寄与度を算出する処理を実行させる、
ことを特徴とする付記１５から２０のいずれか１項に記載のプログラム。
【０１１５】
本出願は、２０１１年６月３日に出願された日本出願特願２０１１−１２４７８５号を基礎とする優先権を主張し、その開示の全てをここに取り込む。
【符号の説明】
【０１１６】
１０１、２０１、５０１    言語特徴量抽出部
１０２、２０２、５０２    言語特徴量出自記憶部
１０３、２０３、５０３    言語モデル学習部
１０４、２０４    音声認識部
１０５、２０５    学習データ寄与度解析部
【図１】
2012165529.tif 000008
【図２】
2012165529.tif 000009
【図３】
2012165529.tif 000010
【図４】
2012165529.tif 000011
【図５】
2012165529.tif 000012
【図６】
2012165529.tif 000013
【図７】
2012165529.tif 000014
【図８】
2012165529.tif 000015
【図９】
2012165529.tif 000016
【図１０】
2012165529.tif 000017
【図１１】
2012165529.tif 000018
【図１２】
2012165529.tif 000019
【国際調査報告】
2012165529.tif 000020
2012165529.tif 000021
2012165529.tif 000022
2012165529.tif 000023