(57)【要約】音源分離の方法及びシステム（２０）が記載される。方法は、音声混合及び音声混合に関連する少なくとも１つのテキストクエリを受け取ること（１０）と、補助音声データベースから少なくとも１つの音声サンプルを取り出すこと（１１）と、取り出された前記音声サンプルを評価すること（１２）と、音声サンプルを用いて音声混合を複数の音源に分離すること（１３）とを有する。対応するシステム（２０）は、方法を実装するよう構成された受信ユニット（２１）及びプロセッサ（２２）を有する。
2017520784.tif 000002
【特許請求の範囲】
【請求項１】
プロセッサによって実行される、音声混合のための音源分離の方法であって、
音声混合及び該音声混合に関連する少なくとも１つのテキストクエリを受け取り、
前記テキストクエリを補助音声データベースに関連する意味情報と照合することによって、前記補助音声データベースから少なくとも１つの音声サンプルを取り出し、
前記補助音声データベースから取り出された前記音声サンプルを評価し、
前記音声サンプルを用いて前記音声混合を複数の音源に分離する
ことを有する方法。
【請求項２】
前記音声混合を分離することは、前記音声サンプルの前記評価の結果に従って前記音声サンプルのサブセットを使用する、
請求項１に記載の方法。
【請求項３】
前記音声サンプルを評価することは、前記音声サンプルを、前記受け取られたテキストクエリとのそれらの一致に従って順位付けすることを含む、
請求項１に記載の方法。
【請求項４】
前記音声サンプルを評価することは、前記音声サンプルを、前記受け取られた音声混合とのそれらの相関に従って順位付けすることを含む、
請求項１に記載の方法。
【請求項５】
前記音声サンプルを評価することは、前記取り出された音声サンプルと前記受け取られた音声混合との間の音声特徴類似に従って前記音声サンプルを順位付けすることを含む、
請求項１に記載の方法。
【請求項６】
前記補助音声データベースは、インターネット検索エンジンを含む、
請求項１に記載の方法。
【請求項７】
前記音声混合を分離することは、非負値行列因子分解（ＮＭＦ）を前記音声混合に適用することを含む、
請求項１乃至６のうちいずれか一項に記載の方法。
【請求項８】
前記音声サンプルを評価すること及び前記音声混合を分離することは、一緒に実行される、
請求項１に記載の方法。
【請求項９】
前記音声サンプルを評価すること及び前記音声混合を分離することは、非負値行列因子分解（ＮＭＦ）を前記音声混合及び前記音声サンプルに適用することによって一緒に実行される、
請求項８に記載の方法。
【請求項１０】
前記音声サンプルを評価することは、前記非負値行列因子分解の適用において費用関数を導入することによって実行され、
前記費用関数は、前記音声混合の分解を導くよう前記取り出された音声サンプルから学習されるスペクトルパターンを選択することを可能にするために、スパース性ペナルティのパラメータを含む、
請求項９に記載の方法。
【請求項１１】
前記スパース性ペナルティの前記パラメータは、パラメータ更新プロセスにおいて適応変更されるトレードオフ・パラメータと関連付けられる、
請求項１０に記載の方法。
【請求項１２】
音声混合のための音源分離のシステムであって、
音声混合及び該音声混合に関連する少なくとも１つのテキストクエリを受け取るよう構成される受信ユニットと、
前記テキストクエリを補助音声データベースに関連する意味情報と照合することによって前記補助音声データベースから少なくとも１つの音声サンプルを取り出し、前記補助音声データベースから取り出された前記音声サンプルを評価し、前記音声サンプルを用いて前記音声混合を複数の音源に分離するよう構成されるプロセッサと
を有するシステム。
【請求項１３】
前記プロセッサは、非負値行列因子分解（ＮＭＦ）を前記音声混合に適用することによって前記音声混合を分離する、
請求項１２に記載のシステム。
【請求項１４】
前記プロセッサは、前記音声サンプルを評価すること及び前記音声混合を分離することを一緒に行う、
請求項１２に記載のシステム。
【請求項１５】
音声混合のための音源分離の命令を記憶しているコンピュータ可読媒体であって、
前記命令は、コンピュータによって実行される場合に、該コンピュータに、
音声混合及び該音声混合に関連する少なくとも１つのテキストクエリを受け取らせ、
前記テキストクエリを補助音声データベースに関連する意味情報と照合することによって、前記補助音声データベースから少なくとも１つの音声サンプルを取り出させ、
前記補助音声データベースから取り出された前記音声サンプルを評価させ、
前記音声サンプルを用いて前記音声混合を複数の音源に分離させる、
コンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、音源分離の方法及びシステムに関係がある。特に、方法及びシステムは、テキスト及び例を併用した、音源分離のためのアプローチを利用する。本発明は、そのような方法又はシステムに適したコンピュータ可読媒体に更に関係がある。
【背景技術】
【０００２】
音源分離は、音声混合（audio  mixture）をその構成音源に分解することに関係している。それは、音声／発話の強化、ポストプロダクション（post-production）、３Ｄ音声、などにおいて幅広い用途を提供する。とりわけ、ブラインド信号源分離（ＢＳＳ；Blind  Source  Separation）は、音源、混合、及び／又は混合を生成するミキシングプロセスに関する情報なしで音源分離が実施されると仮定する。他方で、インフォームド信号源分離（ＩＳＳ；Informed  Source  Separation）は、音源分離が何らかの補助情報からの指針に基づき実施されることを可能にする。
【０００３】
指針に基づいた音源分離のための既存のアプローチの大部分は、例に基づく（example-based）方法である。そのようなアプローチのための必要条件は、対象の音源と類似したいくつかの音声サンプルを前もって取得することである。これは、通常は面倒であり、必ずしも可能とは限らない。音声例が前もって入手可能でない場合に、代わりに、簡単なテキストクエリが、音声ファイルを検索するために使用され得る。音源分離のためのこのテキストクエリに基づくアプローチは、ユーザが音声混合を聴いて、例えば、彼らが分離したいものを記述する語を提供する必要しかないので、ユーザにとってより簡単であり且つより効率的である。しかし、テキストクエリに基づくアプローチについては、下記の非特許文献１２において記載されているが、今までのところ、ノイジーな又は代表的でない検索された例を効率良く扱うことができる実際的な解決法は存在しない。
【０００４】
例に基づく音源分離のために、単チャネル源分離は、劣決定（underdetermined）問題であり、よって、最も困難な問題の１つである。いくつかのアルゴリズムは、個々の音源を音声混合から分離するために、それら個々の音源の予め学習されたスペクトル特性を考慮に入れることを提案している。これを達成するためには、個々の対象源のスペクトル特性を学習し示すよう予備的なトレーニングデータを取得する必要がある。指針に基づいたアルゴリズムの類は、非負値行列因子分解（ＮＭＦ；non-negative  matrix  factorization）（下記の非特許文献１〜３を参照）又は確率潜在コンポーネント分析（ＰＬＣＡ；probabilistic  latent  component  analysis）（下記の非特許文献４、５を参照）として知られているその確率論的定式化に基づき提案されている。それでもなお、トレーニングデータが利用可能でないか、あるいは、音源にとって十分に代表的でない場合に、上記の方法は、信号源からの他の補助情報なしでは適用不可能となる。補助情報は、例えば、混合に含まれる信号源によく似る“ハム（hummed）”音（下記の非特許文献５を参照）、又は対応する音声混合のテキスト・トランスクリプション（transcription(s)）（下記の非特許文献６を参照）を含む。
【０００５】
音源分離のためにＮＭＦに基づく、ユーザによる指揮下のアプローチは、最近提案されており（下記の非特許文献７を参照。）、これによって、音源分離プロセスの全体は、いくつかの相互に作用する分離ステップを有してよい。そのようなアプローチは、エンドユーザが夫々の音源のアクティビティに関する情報に手動により注釈を付すことを可能にする。注釈付き情報は、上記のトレーニングデータの代わりに、信号源分離プロセスを導くために使用される。加えて、ユーザは、分離結果をレビューし、そのエラーを、分離プロセスの間に中間分離結果のスペクトログラム表示に注釈を付すことによって、補正することができる。
【０００６】
しかし、上記のユーザによる指揮下の相互作用的アプローチには、ユーザが、音源の特性を手動により特定して分離プロセスと相互作用するために、音源スペクトログラム及び音声信号処理に関していくらかの最小限の知識を有することが求められる。言い換えると、音源分離の任意の相互作用及び干渉は、エンドユーザにとって容易でも実際的でもない。加えて、注釈を付すプロセスは、プロのオペレータでさえ時間がかかる。
【先行技術文献】
【非特許文献】
【０００７】
【非特許文献１】D.  L.  Sun  and  G.  J.  Mysore，“Universal  Speech  Models  for  Speaker  Independent  Single  Channel  Source  Separation”，IEEE  International  Conference  on  Acoustics,  Speech,  and  Signal  Processing  (ICASSP)，May  2013
【非特許文献２】A.  Lefevre,  F.  Bach,  and  C. Fevotte，“Itakura-Saito  Non-negative  Matrix  Factorization  with  Group  Sparsity”，ICASSP  2011
【非特許文献３】C.  Fevotte,  N.  Bertin,  and  J.  Durrieu，“Non-negative  Matrix  Factorization  with  the  Itakura-Saito  divergence.  With  Application  to  Music  Analysis”，Neural  Computation  Vol.21  No.3，March  2009
【非特許文献４】P.  Smaragdis,  B.  Raj,  and  M.  Shashanka，“Supervised  and  semi-supervised  separation  of  sounds  from  single-channel  mixtures”，in  Proc.  Int.  Conf.  on  Independent  Component  Analysis  and  Signal  Separation  (ICA)，2007，pp.414-421
【非特許文献５】P.  Smaragdis  and  G.  J.  Mysore，“Separation  by  humming:  User-guided  sound  extraction  from  monophonic  mixtures”，in  Proc.  IEEE  Workshop  on  Applications  of  Signal  Processing  to  Audio  and  Acoustics  (WASPAA)，2009，pp.69-72
【非特許文献６】L.  L.  Magoarou,  A.  Ozerov,  and  N.  Q.  K.  Duong，“Text-informed  audio  source  separation  using  nonnegative  matrix  partial  co-factorization”，in  Proc.  Int.  Workshop  on  Machine  Learning  for  Signal  Processing  (MLSP)，2013
【非特許文献７】N.  Q.  K.  Duong,  A.  Ozerov,  L.  Chevallier,  and  J.  Sirot，“An  interactive  audio  source  separation  framework  based  on  nonnegative  matrix  factorization”，Proc.  ICASSP  2014
【非特許文献８】N.  Q.  K.  Duong,  A.  Ozerov,  and  L.  Chevallier，“Method  of  audio  source  separation  and  corresponding  apparatus”，European  Patent  Application  No.13305759.6
【非特許文献９】N.  Q.  K.  Duong,  A.  Ozerov,  and  L.  Chevallier，“Temporal  annotation  based  audio  source  separation  using  weighted  nonnegative  matrix  factorization”，Proc.  IEEE  ICCE-Berlin,  submitted，2014
【非特許文献１０】N.  Q.  K.  Duong,  E.  Vincent  and  R.  Gribonval，“Under-determined  reverberant  audio  source  separation  using  a  full-rank  spatial  covariance  model”，IEEE  Transactions  on  Audio,  Speech  and  Language  Processing,  Special  Issue  on  Processing  Reverberant  Speech，Vol.18，No.7，pp.1830-1840，Sep.  2010
【非特許文献１１】S  Arberet,  A.  Ozerov,  N  Q.  K  Duong,  E.  Vincent,  R  Gribonval,  F.  Bimbot  and  P  Vandergheynst，“Nonnegative  matrix  factorization  and  spatial  covariance  model  for  under-determined  reverberant  audio  source  separation”，Proc.  International  Conference  on  Information  Science,  Signal  Processing  and  their  Applications(ISSPA.  IEEE)，2010
【発明の概要】
【０００８】
本発明の目的は、特に、経験のないエンドユーザが信号源分離タスクを容易に実施することができるようにユーザ・インタラクションの簡素化に対して、音源分離のための改善された解決法を提案することである。
【０００９】
本発明の第１の態様に従って、音源分離の方法は：音声混合及び該音声混合に関連する少なくとも１つのテキストクエリを受け取り；前記テキストクエリを補助音声データベースに関連する意味情報と照合することによって、前記補助音声データベースから少なくとも１つの音声サンプルを取り出し；前記補助音声データベースから取り出された前記音声サンプルを評価し；前記取り出された音声サンプルを用いて前記音声混合を複数の音源に分離することを有する。本発明の一実施形態において、前記音声サンプルを評価すること及び前記音声混合を分離することは、非負値行列因子分解を前記音声混合及び前記音声サンプルに適用することによって一緒に実行される。
【００１０】
然るに、音源分離の上記方法を実装するよう構成されたシステムは：音声混合及び該音声混合に関連する少なくとも１つのテキストクエリを受け取るよう構成される受信ユニットと、前記テキストクエリを補助音声データベースに関連する意味情報と照合することによって前記補助音声データベースから少なくとも１つの音声サンプルを取り出し、前記補助音声データベースから取り出された前記音声サンプルを評価し、前記音声サンプルを用いて前記音声混合を複数の音源に分離するよう構成されるプロセッサとを有する。
【００１１】
また、音声混合のための音源分離のための命令を記憶しているコンピュータ可読媒体において、前記命令は、コンピュータによって実行される場合に、該コンピュータに：音声混合及び該音声混合に関連する少なくとも１つのテキストクエリを受け取らせ、前記テキストクエリを補助音声データベースに関連する意味情報と照合することによって、前記補助音声データベースから少なくとも１つの音声サンプルを取り出させ、前記補助音声データベースから取り出された前記音声サンプルを評価させ、前記音声サンプルを用いて前記音声混合を複数の音源に分離させる。
【００１２】
本発明の音源分離の方法は、プロセスを簡単にし、且つ、音源分離の結果を改善する。テキスト及びサンプルを併用したアプローチによれば、エンドユーザは、混合に含まれる音響を記述するテキストクエリ又は発話音声クエリを単に提供することによって、音源分離指揮するようシステムと容易に相互作用することができる。発話音声クエリを提供する場合に、発話−テキストインターフェイスは、発話音声クエリをテキストクエリへ変換するために使用される。事前に取り出された音声サンプルの評価は、より良くトレーニングされた信号源サンプルの提供とともに、その後の音源分離を改善する。信号源サンプルの評価及び音声混合の信号源分離が一緒に実行されるところの本発明の一実施形態において、音源分離のプロセス全体は、より効率的になる。
【図面の簡単な説明】
【００１３】
より良い理解のために、本発明は、これより、図を参照して以下の説明において更に詳細に説明されるだろう。本発明は、この開示されている例となる実施形態に制限されないこと、及び特定の特徴はまた、添付の特許請求の範囲で定義されている本発明の適用範囲から逸脱することなしに便宜上組み合わされ及び／又は変更され得ることが理解される。
【００１４】
【図１】本発明に従う音源分離の方法の好適な実施形態を表すフローチャートである。
【図２】本発明に従う方法の信号源分離段の一実施形態を表すフローチャートである。
【図３】ＮＭＦ分解を示す例となる図である。
【図４】本発明に従う方法の他の好適な実施形態を表すフローチャートである。
【図５】ＮＭＦ適用の最適化関数定式化におけるトレードオフ・パラメータλが繰り返しプロセスの間に適応変更される一実施形態を表す図である。
【図６】本発明のＮＭＦ適用のためのグループスパース性ペナルティアプローチの効果を示す例となる図である。
【図７】本発明のＮＭＦ適用のための、グループ及び行の組み合わせによるスパース性ペナルティアプローチの効果を示す例となる図である。
【図８】本発明に従う音源分離の方法を実装するシステムを表す概略図である。
【発明を実施するための形態】
【００１５】
図１を参照すると、本発明に従う音源分離の方法の１つの好適な実施形態は、音声混合及び音声混合に関連する少なくとも１つのテキストクエリを受け取ること１０と、テキストクエリを補助音声データベースに関連する意味情報と照合することによって、補助音声データベースから少なくとも１つの音声サンプルを取り出すこと１１と、補助音声データベースから取り出された音声サンプルを評価すること１２と、音声サンプルを用いて音声混合を複数の音源に分離すること１３とを有する。音源分離の方法は、システムにおいて、及び／又はプロセッサ、サーバ若しくはあらゆる適切なデバイスによって、実施され得る。
【００１６】
テキストクエリは、ユーザ入力デバイス又は同様のもの、例えば、タイピングデバイス又はリモートコントロールを通じて、ユーザによって提供され得る。ユーザは、音声混合を聴き、音声混合に含まれている音源を識別し、次いで、テキストクエリを任意に提供する。代替的に、テキストクエリは、発話−テキスト又は同様の技術を実施するデバイスによって直接に提供され得る。テキストクエリは、望ましくは、音声混合に含まれている音源、例えば、犬の鳴き声、鳥のさえずり、など、及び／又は発話コンテキストのような音声混合のテキストコンテンツを記述する。加えて、サンプルレート、チャネルの数、音声ファイルのタイプ（ｗａｖ、ｍｐ３、など）のような他の特定のパラメータも、テキストクエリに含まれ、それと結合され得る。各パラメータは、個々の又はいくつかの音源を参照する。当然、テキストクエリの長さ、形式及び／又は他の特性は制限されず、種々の要求ごとに柔軟である。
【００１７】
テキストクエリは、その後に、補助データベースからの音声サンプルの音声取り出し１１のために使用される。補助音声データベースは、何らかの意味情報（semantic  information）に関連したデータベースである。意味情報は、望ましくは、データベースの音声データの内容を識別する。当然、意味情報は、タグ、ファイル名、対応するウェブページ、などのような、信号源分離において適用される如何なる形式も有することができる。望ましくは、補助データベースは、Ｇｏｏｇｌｅ（登録商標）及びＦｉｎｄｓｏｕｎｄｓのようなオープン検索エンジンのように、公の、且つ、容易にアクセス可能なデータベースである。この場合に、取り出された音声サンプルは、更なる処理のためにローカルでダウンロード可能であり、且つ／あるいは、ＵＲＬのリストは、補助データベースによって供給され得る。代替的に、補助データベースはまた、音源分離の準備として、ローカル又はあらゆるタイプのデータベースであることもできる。
【００１８】
補助データベースに関連した少なくとも何らかの意味情報が存在するので、音声サンプルの取り出しは、受け取られたテキストクエリを補助データベースの意味情報と照合することによって実施される。言い換えると、音声サンプルの音声取り出しは、当該分野における如何なる既知のテキストに基づく音声検索技術に基づいても実施され得る。
【００１９】
取り出された音声サンプルを評価すること１２は、ローカルサーバ又は補助データベースのプロバイダのいずれかによって、様々な基準に基づき実施され得る。然るに、音声混合のその後の分離１３は、音声サンプルの評価結果に従って、全ての取り出された音声サンプル又はそのサブセットのみを用いて実施され得る。音声サンプルの評価１２は、異なるアルゴリズムを含むいくつかの方法によって実現され得る。
【００２０】
本発明の一実施形態において、音声サンプルを取り出すこと１１及び評価すること１２は、補助データベースのプロバイダによって行われる。補助データベース、例えば、インターネット検索エンジンは、音声サンプルのリストを供給する。リスト内の音声サンプルは、提供されたテキストクエリとのそれらの一致に従って順位付けされる。音声サンプルの連続は、任意で、最も良く一致するものから始まって最も一致しないもので終わる。任意に、一定数の最良一致が、その後の音声分離のために使用される。例えば、ユーザは、上位３つの音声サンプルのみを使用し、残りを除外すると決めることができる。加えて、ユーザは、一致スコアに基づき、異なる重みを夫々のサンプルに割り当てることができる。
【００２１】
本発明の一実施形態において、音声サンプルは、受け取られた音声混合とのそれらの相関に従って順位付けされる。音声サンプルは、音声混合と時間的に相互相関され、出力は、個々の音声サンプルごとのスコアを得るよう集約される。例えば、より高いスコアは、音声混合との音声サンプルのより良い一致を表すことができる。同様に、音声サンプルのサブセットは、その後の音源分離のために選択され得る。
【００２２】
本発明の他の実施形態において、音声サンプルは、音声特徴類似に従って順位付けされる。音声特徴類似は、音声サンプルと音声混合との間のよりロバストな照合を提供することができる。最初に、スペクトル中心（spectral  centroid）、メル周波数ケプストラム係数（ＭＦＣＣ；Mel-frequency  cepstrum  coefficient）、スペクトラム拡散、スペクトルバンドエネルギ、などのような音声特徴は、取り出された音声サンプル及び音声混合から夫々抽出される。抽出された特徴に基づき、音声サンプル及び音声混合についての特徴ベクトルが夫々計算され、正規化相互相関（normalized  cross  correlation）によって比較される。この場合に、音声サンプル及び音声混合は、それらの生の信号よりむしろ、導出された特徴ベクトルに従って、特に比較及び照合される。特徴ベクトルに代わるものとして、音声サンプル及び音声混合のバッグ・オブ・ワーズ（bag-of-words）表現が抽出可能であり、その後に、相関、コサイン類似又は他の距離メトリクスを用いた音声サンプルと音声混合との比較が続く。
【００２３】
当然、他の代替の方法も、補助データベースから取り出された音声サンプルの評価１２のために使用可能である。更には、音声サンプルの評価１２の後に、重み付けされた非負値行列因子分解（上記の非特許文献８、９を参照）が、より高く順位付けされた音声サンプルにはより大きい重みが与えられて、任意で適用され得る。
【００２４】
図２は、本発明に従う方法の信号源分離段階の１つの好適な実施形態を表す。以下の明細書では、ＮＭＦモデルに基づく方法が、簡単のために、例として説明される点が留意されるべきである。オンザフライ（on-the-fly）の信号源分離の方法及びシステムは、確率潜在コンポーネント分析（ＰＬＣＡ）（上記の非特許文献４、５を参照）又はガウス混合モデル（ＧＭＭ；Gaussian  Mixture  Model）などのような他のスペクトルモデルも使用することができる。
【００２５】
最初に、評価された音声サンプルは、短時間フーリエ変換（ＳＴＦＴ；Short-time  Fourier  Transform）を介して時間−周波数表現へ変換され、そして、音声サンプルのＳＴＦＴ係数（スペクトログラム、行列としても知られる。）の振幅又は二乗振幅が使用される。この行列は、音源のスペクトル特性を記述するスペクトルモデル行列（Ｗ）、及び時間アクティベーション行列（time  activation  matrix）（Ｈ）を求めるよう、非負値行列因子分解（ＮＭＦ）アルゴリズムによって因子分解される。スペクトル行列Ｗは学習され、ＳＴＦＴを介して変換されることによって同じく取得される音声混合のスペクトログラムの因子分解を導くために使用される。スペクトル行列の部分又は全ての列が音声例からの事前学習されたものによって定められる音声混合のスペクトログラムにＮＭＦを適用することによって、音源の推定されるＳＴＦＴ係数は、よく知られたウィナー（Wiener）フィルタリングによって求められる。最後に、逆（inverse）ＳＴＦＴ（ＩＳＴＦＴ）が、信号源の時間領域推定を求めるよう適用され、それにより、信号源は、例えば、ウェーブファイル（wave  file）として、セーブされ得る。
【００２６】
本発明の方法の好適な実施形態は、ＮＭＦモデルを実装する。ＮＭＦの従来の定式化は、
〈外１〉
2017520784.tif 000003
として定義され得る。ここで、Ｖは、次元Ｆ×Ｎの非負値行列である。ＮＭＦの目標は、夫々次元Ｆ×Ｋ及びＫ×Ｎの２つの簡単な非負値行列Ｗ及びＨの積として行列Ｖを近似することであり、誤差は、行列ＶがＷ・Ｈによって近似的に再構成される場合に最小限にされる。近似の誤差は、様々な費用関数を用いて測定され得る。
【００２７】
ＮＭＦの定式化、すなわち、
〈外２〉
2017520784.tif 000004
を適用すると、本発明の実施形態において、Ｖは、音声混合の非負値スペクトログラム行列を表し、これは、入力混合信号の時間−周波数表現である。Ｗ及びＨは、音源のスペクトルアトム（spectral  atom(s)）及びそれらの対応するアクティベーション（activation(s)）を夫々表す。Ｆは、全ての周波数ビンを表し、Ｎは、時間フレームの数であり、Ｋは、音源のスペクトル特性を記述するスペクトル基底であるＮＭＦ成分の数を表す。言い換えると、ＮＭＦは、行列Ｗの異なる列（及び行列Ｈの対応する行）を音源と関連付けることによって、単チャネル音声混合を分離することができる。図３は、分解の例を示す。
【００２８】
目的は、このように、次の最適化問題を解くことによって、近似誤差を最小限にすることである：
【数１】
2017520784.tif 000005
ここで、
【数２】
2017520784.tif 000006
ここで、ｄ（．｜．）は発散であり、ｆ（周波数ビンのインデックス）及びｎ（時間フレームのインデックス）は、ｆ番目の行及びｎ番目の列にある要素を示す。起こり得る例となる発散は、板倉斎藤発散（Itakura-Saito  divergence）（上記の非特許文献３を参照）を含む。
【００２９】
任意で、スペクトル基底行列Ｗは、固定されたままであるか、又は更新され得る。取り出された音声サンプルが比較的良い場合に、更なる音源分離のためには、学習されたＷを固定することが好ましい。他方で、更新されたＷは柔軟であり、入力された音声混合に対するより良い近似へ収束する。代替的に、他の選択肢は、最初に、最初のパラメータ更新繰り返しの間は行列Ｗを固定し、続いて、後の繰り返しにおいてはＷを調整及び更新することである。これは、音声混合に含まれている音源のスペクトル特性をより良く適応させることができる。
【００３０】
図４は、本発明に従う音源分離の方法の他の好適な実施形態を示す。この実施形態では、音声サンプルを評価すること１２及び音声混合を分離すること１３は、一緒に実行される。言い換えると、評価は、音源分離の前には行われず、取り出された全ての音声サンプルは、音源分離段のための入力として供給される。
【００３１】
一般に、音声サンプルを評価すること及び音声混合を分離することは、異なる信号源についての音声例から学習されたスペクトルパターン行列を連結させることによって構成された大規模なスペクトルパターン辞書を用いて、非負値行列定式化を音声混合に適用することによって一緒に行われる。より具体的には、２つの信号源の例として、スペクトルパターンの行列は、最初にＷ＝［Ｗ１１，．．．，Ｗ１Ｐ，Ｗ２１，．．．，Ｗ２Ｑ］として構成される。ここで、Ｐ及びＱは、夫々信号源１及び２のための取り出された例の数であり、Ｗ１ｐ（ｐ＝１，．．．，Ｐ）及びＷ１ｑ（ｑ＝１，．．．，Ｑ）は、夫々信号源１（ｐによってインデックス付けされる。）及び信号源２（ｑによってインデックス付けされる。）の各例からＮＭＦによって学習されるスペクトルパターンの行列である。時間アクティベーションＨの行列は同様にして構成されるが、全ての行列成分（entry）は、最初にランダムに初期化され、次いで、最適化プロセスを介して更新される。本発明のこの実施形態において、グループスパース性（group  sparsity）を行列Ｈに対して実行するペナルティ（penalty）関数は、混合のＮＭＦ分解を導くよう例から学習された最も適切なスペクトルパターンのみを選択することを可能にするために、大域最適化費用（global  optimization  cost）において示される。このストラテジは、２つの信号源及び信号源ごとの２つの例の場合を例として図６で説明される。このとき、Ｗ１１及びＷ１２は、２つの例から第１の信号源について学習されたスペクトルパターンであり、同様に、Ｗ２１及びＷ２２は、２つの例から第２の信号源について学習されたスペクトルパターンである。行列Ｈは、スペクトルパターンに対応するアクティベーションであるブロックＨ１１、Ｈ１２、Ｈ２１、及びＨ２２から成る。最適化の後、Ｈ１２及びＨ２２の成分は、各信号源についてのただ１つの取り出された例（１でインデックス付けされる。）のみが分離プロセスを導くために自動的に選択されたことを意味するように、ゼロである。
【００３２】
ＮＭＦモデルを実装する音源分離において直接に音声サンプルの評価を組み込むよう、アクティベーション行列Ｈに対するスパース性ペナルティ（sparsity  penalty）Ψ（Ｈ）が、ＮＭＦ費用関数において導入される：
【数３】
2017520784.tif 000007
ここで、Ｄ（Ｖ｜ＷＨ）は、上記のように定義され、λは、スパース性制約（sparsity  constraint）の寄与を重み付けするトレードオフ・パラメータである。
【００３３】
任意で、且つ、望ましくは、費用関数定式化におけるトレードオフ・パラメータλは、適応的なλ＝ｆ（ｉ）であることができる。ここで、ｆは、関数であり、ｉは、パラメータ更新プロセスにおける繰り返す数である。考えは、最初に高いλを有してより大きい重みをスパース性ペナルティに与え、そのようにして基本の音声サンプルを選択し、次いで、最初の項、すなわち、発散Ｄ（Ｖ｜ＷＨ）へより良く適合させるようλを漸減して、より良い近似を得ることである。トレードオフ・パラメータλを線形適応させることにおけるこのストラテジの例は、図５に示されている。
【００３４】
上記の非特許文献２には、上記の費用関数を最適化するよう乗法的更新（multiplicative  update(s)）による繰り返しアルゴリズムの更に詳細な由来及び説明が記載されている。
【数４】
2017520784.tif 000008
異なるスパース性ペナルティを選択することによって、いくつかの最適化スキームが達成される。そのような最適化スキームは、分離プロセスを導くよう音声サンプルのスペクトル特性を利用する種々の方法の基礎となる。提案されるスパース性ペナルティを次のように考えると、対応するパラメータ推定のための対応する更新ルールが導き出され得る。
【００３５】
一実施形態において、スパース性ペナルティは、次のように定義される：
【数５】
2017520784.tif 000009
ここで、Ｇは、使用される音声サンプルの数に対応するグループの数を表し、Ｈｇは、ｇ番目の信号源（ｇ番目のグループ）に対応するアクティベーション行列Ｈの部分である。Ψ（ｘ）は、例えば、上記の非特許文献１、２で示されるような、種々の関数によって定義され得る。１つの例はΨ（ｘ）＝ｌｏｇ（ｘ）である。これは、簡単のために実施形態において使用される。当然、異なる関数Ψも使用され得る。
【００３６】
このグループスパース性アプローチは、補助データベースから取り出された関連するトレーニング信号源サンプルの評価及び選択を効率良く実施することを可能にする。このとき、グループは、１つのトレーニング音声サンプルに相当する。ただ１つの信号源のための良好なモデルが取得されるとする上記の非特許文献１の改善として、本実施形態では、全ての音源のためのより多くのモデルが一般に学習され実現される。図６に示されるように、アクティベーション行列Ｈは、より高く順位付けされた音声サンプルに対応するアクティベーションの数個のブロックを含むことを余儀なくされる。
【００３７】
一実施形態において、スパース性ペナルティは、次のように定義される：
【数６】
2017520784.tif 000010
ここで、ｈｇは、アクティベーション行列のｇ番目の行である。この行スパース性アプローチは、更なる柔軟性とともに、異なる音声サンプルからでさえ最良のスペクトルアトムを選択すること可能にする。
【００３８】
一実施形態において、ペアグループスパース性アプローチが適用される。このとき、スパース性ペナルティは、次のように定義される：
【数７】
2017520784.tif 000011
スパース性ペナルティがただ１つの信号源からただ１つのアクティブ化されたグループを保持するシナリオを回避するよう、グループは、１つの音源から夫々一対のトレーニング音声サンプルとして定義される。このアプローチは、夫々の音源において少なくとも１つのアクティブ化されたグループを保持することができる。
【００３９】
他の実施形態では、同様に、アプローチは、ペア行スパース性に基づく。このとき、スパース性ペナルティは、次のように定義される：
【数８】
2017520784.tif 000012
【００４０】
望ましくは、更なる他の実施形態では、グループ及び行の組み合わせによるスパース性アプローチが適用される。この複合アプローチのための費用関数は、次のように定義される：
【数９】
2017520784.tif 000013
ここで、α及びβは、夫々のペナルティの寄与を決定する重みである。このアプローチは、図７で見られるように視覚化され得る。アルゴリズムは、異なる信号源から良好なスペクトルパターンを選択することができる。
【００４１】
本発明の他の実施形態において、考えられるスペクトルモデルは、多チャネル音声混合においてオンザフライの信号源分離を実施するために、空間モデルと組み合わされ得る（上記の非特許文献１０を参照）。多チャネルの場合への考えられるフレームワークの拡張は直接的であり、例えば、上記の非特許文献１１において、記載されている。
【００４２】
図８は、本発明に従う音源分離の方法を実施するよう構成されるシステム２０の好適な実施形態を概略的に表す。システム２０は、音声混合及び音声混合に関連する少なくとも１つのテキストクエリを受け取る（１０）よう構成される受信ユニット２１と、テキストクエリを補助音声データベース２３に関連する意味情報と照合することによって補助音声データベース２３から少なくとも１つの音声サンプルを取り出し（１１）、補助音声データベース２３から取り出された音声サンプルを評価し（１２）、音声サンプルを用いて音声混合を複数の音源に分離する（１３）よう構成されるプロセッサ２２とを有する。
【００４３】
望ましくは、プロセッサ２２は、音声サンプルを評価すること（１２）及び音声混合を分離すること（１３）を一緒に行う。より望ましくは、プロセッサ２２は、受け取られた音声混合にＮＭＦを適用することによって音声混合を分離（１３）する。
【図１】
2017520784.tif 000014
【図２】
2017520784.tif 000015
【図３】
2017520784.tif 000016
【図４】
2017520784.tif 000017
【図５】
2017520784.tif 000018
【図６】
2017520784.tif 000019
【図７】
2017520784.tif 000020
【図８】
2017520784.tif 000021
【手続補正書】
【提出日】平成29年1月18日(2017.1.18)
【手続補正１】
【補正対象書類名】明細書
【補正対象項目名】０００３
【補正方法】変更
【補正の内容】
【０００３】
指針に基づいた音源分離のための既存のアプローチの大部分は、例に基づく（example-based）方法である。そのようなアプローチのための必要条件は、対象の音源と類似したいくつかの音声サンプルを前もって取得することである。これは、通常は面倒であり、必ずしも可能とは限らない。音声例が前もって入手可能でない場合に、代わりに、簡単なテキストクエリが、音声ファイルを検索するために使用され得る。音源分離のためのこのテキストクエリに基づくアプローチは、ユーザが音声混合を聴いて、例えば、彼らが分離したいものを記述する語を提供する必要しかないので、ユーザにとってより簡単であり且つより効率的である。しかし、テキスト・トランスクリプトに基づくアプローチについては、下記の非特許文献６において記載されているが、今までのところ、ノイジーな又は代表的でない検索された例を効率良く扱うことができる実際的な解決法は存在しない。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】００４３
【補正方法】変更
【補正の内容】
【００４３】
望ましくは、プロセッサ２２は、音声サンプルを評価すること（１２）及び音声混合を分離すること（１３）を一緒に行う。より望ましくは、プロセッサ２２は、受け取られた音声混合にＮＭＦを適用することによって音声混合を分離（１３）する。  
上記の実施形態に加えて、以下の付記が開示される。
（付記１）
プロセッサによって実行される、音声混合のための音源分離の方法であって、
音声混合及び該音声混合に関連する少なくとも１つのテキストクエリを受け取り、
前記テキストクエリを補助音声データベースに関連する意味情報と照合することによって、前記補助音声データベースから少なくとも１つの音声サンプルを取り出し、
前記補助音声データベースから取り出された前記音声サンプルを評価し、
前記音声サンプルを用いて前記音声混合を複数の音源に分離する
ことを有する方法。
（付記２）
前記音声混合を分離することは、前記音声サンプルの前記評価の結果に従って前記音声サンプルのサブセットを使用する、
付記１に記載の方法。
（付記３）
前記音声サンプルを評価することは、前記音声サンプルを、前記受け取られたテキストクエリとのそれらの一致に従って順位付けすることを含む、
付記１に記載の方法。
（付記４）
前記音声サンプルを評価することは、前記音声サンプルを、前記受け取られた音声混合とのそれらの相関に従って順位付けすることを含む、
付記１に記載の方法。
（付記５）
前記音声サンプルを評価することは、前記取り出された音声サンプルと前記受け取られた音声混合との間の音声特徴類似に従って前記音声サンプルを順位付けすることを含む、
付記１に記載の方法。
（付記６）
前記補助音声データベースは、インターネット検索エンジンを含む、
付記１に記載の方法。
（付記７）
前記音声混合を分離することは、非負値行列因子分解（ＮＭＦ）を前記音声混合に適用することを含む、
付記１乃至６のうちいずれか一つに記載の方法。
（付記８）
前記音声サンプルを評価すること及び前記音声混合を分離することは、一緒に実行される、
付記１に記載の方法。
（付記９）
前記音声サンプルを評価すること及び前記音声混合を分離することは、非負値行列因子分解（ＮＭＦ）を前記音声混合及び前記音声サンプルに適用することによって一緒に実行される、
付記８に記載の方法。
（付記１０）
前記音声サンプルを評価することは、前記非負値行列因子分解の適用において費用関数を導入することによって実行され、
前記費用関数は、前記音声混合の分解を導くよう前記取り出された音声サンプルから学習されるスペクトルパターンを選択することを可能にするために、スパース性ペナルティのパラメータを含む、
付記９に記載の方法。
（付記１１）
前記スパース性ペナルティの前記パラメータは、パラメータ更新プロセスにおいて適応変更されるトレードオフ・パラメータと関連付けられる、
付記１０に記載の方法。
（付記１２）
音声混合のための音源分離のシステムであって、
音声混合及び該音声混合に関連する少なくとも１つのテキストクエリを受け取るよう構成される受信ユニットと、
前記テキストクエリを補助音声データベースに関連する意味情報と照合することによって前記補助音声データベースから少なくとも１つの音声サンプルを取り出し、前記補助音声データベースから取り出された前記音声サンプルを評価し、前記音声サンプルを用いて前記音声混合を複数の音源に分離するよう構成されるプロセッサと
を有するシステム。
（付記１３）
前記プロセッサは、非負値行列因子分解（ＮＭＦ）を前記音声混合に適用することによって前記音声混合を分離する、
付記１２に記載のシステム。
（付記１４）
前記プロセッサは、前記音声サンプルを評価すること及び前記音声混合を分離することを一緒に行う、
付記１２に記載のシステム。
（付記１５）
音声混合のための音源分離の命令を記憶しているコンピュータ可読媒体であって、
前記命令は、コンピュータによって実行される場合に、該コンピュータに、
音声混合及び該音声混合に関連する少なくとも１つのテキストクエリを受け取らせ、
前記テキストクエリを補助音声データベースに関連する意味情報と照合することによって、前記補助音声データベースから少なくとも１つの音声サンプルを取り出させ、
前記補助音声データベースから取り出された前記音声サンプルを評価させ、
前記音声サンプルを用いて前記音声混合を複数の音源に分離させる、
コンピュータ可読媒体。
【国際調査報告】
2017520784.tif 000022
2017520784.tif 000023
2017520784.tif 000024
2017520784.tif 000025
2017520784.tif 000026