(57)【特許請求の範囲】
【請求項１】
目的話者を含む１人以上の話者の音声を少なくとも含んだ音声の観測信号から特徴量を抽出する特徴量抽出部と、
前記観測信号の特徴量及び目的話者の音声の信号である適応用目的話者信号に基づいて、前記観測信号から前記目的話者の音声を抽出するマスクを計算するマスク計算部と、
前記マスクに基づいて、前記観測信号から前記目的話者の音声の信号を計算する目的信号計算部と、
を有することを特徴とするマスク計算装置。
【請求項２】
少なくともいずれかの層が複数のクラスタに分解された第１のニューラルネットワークの、前記複数のクラスタのそれぞれに対応する重みを、前記適応用目的話者信号を基に、第２のニューラルネットワークを用いて計算するクラスタ重み計算部をさらに有し、
前記マスク計算部は、前記マスクを、前記観測信号の特徴量を基に、前記クラスタ重み計算部によって計算された重みで重み付けされた前記第１のニューラルネットワークを用いて計算することを特徴とする請求項１に記載のマスク計算装置。
【請求項３】
前記マスク計算部は、前記第１のニューラルネットワークに前記観測信号の特徴量を入力することで得られる、前記複数のクラスタの各々の出力である中間状態を、前記クラスタ重み計算部で計算した前記複数のクラスタの各々に対応する重みで重み付けした中間状態を用いて、前記マスクを計算することを特徴とする請求項２に記載のマスク計算装置。
【請求項４】
少なくともいずれかの層が複数のクラスタに分解された第１のニューラルネットワークの、前記複数のクラスタのそれぞれに対応する重みを、特定の話者の音声の信号を基に、第２のニューラルネットワークを用いて計算するクラスタ重み計算部と、
前記特定の話者を含む１人以上の話者の音声の観測信号の特徴量から前記特定の話者の音声の特徴量を抽出するマスクを、前記１人以上の話者の音声の観測信号の特徴量を基に、前記クラスタ重み計算部によって計算された重みで重み付けされた前記第１のニューラルネットワークを用いて計算するマスク計算部と、
前記第１のニューラルネットワークと前記第２のニューラルネットワークを結合されたニューラルネットワークとみなし、当該結合されたニューラルネットワークに対し誤差逆伝搬を行うことで、前記重みの微分値を計算するクラスタ重み微分値計算部と、
前記クラスタ重み微分値計算部によって計算された前記クラスタ重みの微分値を基に、前記クラスタ重みを更新するクラスタ重み更新部と、
を有することを特徴とするクラスタ重み学習装置。
【請求項５】
少なくともいずれかの層が複数のクラスタに分解された第１のニューラルネットワークの、前記複数のクラスタのそれぞれに対応する重みを、特定の話者の音声の信号を基に、第２のニューラルネットワークを用いて計算するクラスタ重み計算部と、
前記特定の話者を含む１人以上の話者の音声の観測信号の特徴量から前記特定の話者の音声の特徴量を抽出するマスクを、前記１人以上の話者の音声の観測信号の特徴量を基に、前記クラスタ重み計算部によって計算された重みで重み付けされた前記第１のニューラルネットワークを用いて計算するマスク計算部と、
前記第１のニューラルネットワークと前記第２のニューラルネットワークを結合されたニューラルネットワークとみなし、当該結合されたニューラルネットワークに対し誤差逆伝搬を行うことで、前記第１のニューラルネットワークのパラメータの微分値を計算する第１のパラメータ微分値計算部と、
前記第１のパラメータ微分値計算部によって計算されたパラメータの微分値を基に、前記第１のニューラルネットワークのパラメータを更新する第１のパラメータ更新部と、
前記結合されたニューラルネットワークに対し誤差逆伝搬を行うことで、前記第２のニューラルネットワークのパラメータの微分値を計算する第２のパラメータ微分値計算部と、
前記第２のパラメータ微分値計算部によって計算された前記第２のパラメータの微分値を基に、前記第２のニューラルネットワークのパラメータを更新する第２のパラメータ更新部と、
を有することを特徴とするマスク計算ニューラルネットワーク学習装置。
【請求項６】
コンピュータによって実行されるマスク計算方法であって、
目的話者を含む１人以上の話者の音声を少なくとも含んだ音声の観測信号から特徴量を抽出する特徴量抽出工程と、
前記観測信号の特徴量及び目的話者の音声の信号である適応用目的話者信号に基づいて、前記観測信号から前記目的話者の音声を抽出するマスクを計算するマスク計算工程と、
前記マスクに基づいて、前記観測信号から前記目的話者の音声の信号を計算する目的信号計算工程と、
を含んだことを特徴とするマスク計算方法。
【請求項７】
コンピュータによって実行されるクラスタ重み学習方法であって、
少なくともいずれかの層が複数のクラスタに分解された第１のニューラルネットワークの、前記複数のクラスタのそれぞれに対応する重みを、特定の話者の音声の信号を基に、第２のニューラルネットワークを用いて計算するクラスタ重み計算工程と、
前記特定の話者を含む１人以上の話者の音声の観測信号の特徴量から前記特定の話者の音声の特徴量を抽出するマスクを、前記１人以上の話者の音声の観測信号の特徴量を基に、前記クラスタ重み計算工程によって計算された重みで重み付けされた前記第１のニューラルネットワークを用いて計算するマスク計算工程と、
前記第１のニューラルネットワークと前記第２のニューラルネットワークを結合されたニューラルネットワークとみなし、当該結合されたニューラルネットワークに対し誤差逆伝搬を行うことで、前記重みの微分値を計算するクラスタ重み微分値計算工程と、
前記クラスタ重み微分値計算工程によって計算された前記クラスタ重みの微分値を基に、前記クラスタ重みを更新するクラスタ重み更新工程と、
を含んだことを特徴とするクラスタ重み学習方法。
【請求項８】
コンピュータによって実行されるマスク計算ニューラルネットワーク学習方法であって、
少なくともいずれかの層が複数のクラスタに分解された第１のニューラルネットワークの、前記複数のクラスタのそれぞれに対応する重みを、特定の話者の音声の信号を基に、第２のニューラルネットワークを用いて計算するクラスタ重み計算工程と、
前記特定の話者を含む１人以上の話者の音声の観測信号の特徴量から前記特定の話者の音声の特徴量を抽出するマスクを、前記１人以上の話者の音声の観測信号の特徴量を基に、前記クラスタ重み計算工程によって計算された重みで重み付けされた前記第１のニューラルネットワークを用いて計算するマスク計算工程と、
前記第１のニューラルネットワークと前記第２のニューラルネットワークを結合されたニューラルネットワークとみなし、当該結合されたニューラルネットワークに対し誤差逆伝搬を行うことで、前記第１のニューラルネットワークのパラメータの微分値を計算する第１のパラメータ微分値計算工程と、
前記第１のパラメータ微分値計算工程によって計算されたパラメータの微分値を基に、前記第１のニューラルネットワークのパラメータを更新する第１のパラメータ更新工程と、
前記結合されたニューラルネットワークに対し誤差逆伝搬を行うことで、前記第２のニューラルネットワークのパラメータの微分値を計算する第２のパラメータ微分値計算工程と、
前記第２のパラメータ微分値計算工程によって計算された前記第２のパラメータの微分値を基に、前記第２のニューラルネットワークのパラメータを更新する第２のパラメータ更新工程と、
を含んだことを特徴とするマスク計算ニューラルネットワーク学習方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、マスク計算装置、クラスタ重み学習装置、マスク計算ニューラルネットワーク学習装置、マスク計算方法、クラスタ重み学習方法及びマスク計算ニューラルネットワーク学習方法に関する。
【背景技術】
【０００２】
話者の音声を収録する際に、話者の音声と同時に周囲の雑音が収録されてしまう場合がある。このような場合、収録された音声から話者の音声だけを聞き取ることが難しくなる。これに対し、従来、雑音を含んだ音声の音声データから、目的の話者の音声を取り出す技術が知られている（例えば、非特許文献１又は非特許文献２を参照）。【０００３】
例えば、非特許文献１には、目的の話者の音声の信号が強く表れている時間周波数ビンにおける信号を観測信号から抽出するためのマスクを計算する技術が記載されている。また、例えば、非特許文献２には、ニューラルネットワークを用いてマスクの計算を行う技術が記載されている。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】Y  Wang,  A  Narayanan,  DL  Wang，  “On  training  targets  for  supervised  speech  separation”,IEEE/ACM  Transactions  on  Audio,  Speech  and  Language  processing,  2014
【非特許文献２】J  Heymann,  L  Drude,  R  Haeb-Umbach，  “Neural  network  based  spectral  mask  estimation  for  acoustic  beamforming”,  Acoustics,  Speech  and  Signal  Processing  (ICASSP),  2016
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、従来の技術には、観測した音声に複数の話者の音声が含まれる場合、目的の話者の音声を取り出すことが困難であるという問題がある。例えば、従来の技術では、目的の話者の音声以外の音声を雑音とみなし、話者の音声と雑音とでは特徴が異なることを仮定している。一方で、観測した音声に複数の話者の音声が含まれる場合、各話者の音声の特徴は似ているため、従来の技術では、目的の話者以外の話者の音声を雑音と認識することができないため、目的の話者の音声のみを取り出すことは難しい。
【課題を解決するための手段】
【０００６】
本発明のマスク計算装置は、目的話者を含む１人以上の話者の音声を少なくとも含んだ音声の観測信号から特徴量を抽出する特徴量抽出部と、前記観測信号の特徴量及び目的話者の音声の信号である適応用目的話者信号に基づいて、前記観測信号から前記目的話者の音声を抽出するマスクを計算するマスク計算部と、前記マスクに基づいて、前記観測信号から前記目的話者の音声の信号を計算する目的信号計算部と、を有することを特徴とする。【０００７】
本発明のクラスタ重み学習装置は、少なくともいずれかの層が複数のクラスタに分解された第１のニューラルネットワークの、前記複数のクラスタのそれぞれに対応する重みを、特定の話者の音声の信号を基に、第２のニューラルネットワークを用いて計算するクラスタ重み計算部と、前記特定の話者を含む１人以上の話者の音声の観測信号の特徴量から前記特定の話者の音声の特徴量を抽出するマスクを、前記１人以上の話者の音声の観測信号の特徴量を基に、前記クラスタ重み計算部によって計算された重みで重み付けされた前記第１のニューラルネットワークを用いて計算するマスク計算部と、前記第１のニューラルネットワークと前記第２のニューラルネットワークを結合されたニューラルネットワークとみなし、当該結合されたニューラルネットワークに対し誤差逆伝搬を行うことで、前記重みの微分値を計算するクラスタ重み微分値計算部と、前記クラスタ重み微分値計算部によって計算された前記クラスタ重みの微分値を基に、前記クラスタ重みを更新するクラスタ重み更新部と、を有することを特徴とする。【０００８】
本発明のマスク計算ニューラルネットワーク学習装置は、少なくともいずれかの層が複数のクラスタに分解された第１のニューラルネットワークの、前記複数のクラスタのそれぞれに対応する重みを、特定の話者の音声の信号を基に、第２のニューラルネットワークを用いて計算するクラスタ重み計算部と、前記特定の話者を含む１人以上の話者の音声の観測信号の特徴量から前記特定の話者の音声の特徴量を抽出するマスクを、前記１人以上の話者の音声の観測信号の特徴量を基に、前記クラスタ重み計算部によって計算された重みで重み付けされた前記第１のニューラルネットワークを用いて計算するマスク計算部と、前記第１のニューラルネットワークと前記第２のニューラルネットワークを結合されたニューラルネットワークとみなし、当該結合されたニューラルネットワークに対し誤差逆伝搬を行うことで、前記第１のニューラルネットワークのパラメータの微分値を計算する第１のパラメータ微分値計算部と、前記第１のパラメータ微分値計算部によって計算されたパラメータの微分値を基に、前記第１のニューラルネットワークのパラメータを更新する第１のパラメータ更新部と、前記結合されたニューラルネットワークに対し誤差逆伝搬を行うことで、前記第２のニューラルネットワークのパラメータの微分値を計算する第２のパラメータ微分値計算部と、前記第２のパラメータ微分値計算部によって計算された前記第２のパラメータの微分値を基に、前記第２のニューラルネットワークのパラメータを更新する第２のパラメータ更新部と、を有することを特徴とする。
【発明の効果】
【０００９】
本発明によれば、観測した音声に複数の話者の音声が含まれる場合であっても、目的の話者の音声を取り出すことができる。
【図面の簡単な説明】
【００１０】
【図１】図１は、従来の目的話者抽出装置の構成の一例を示す図である。
【図２】図２は、従来の目的話者抽出装置の処理の流れを示すフローチャートである。
【図３】図３は、第１の実施形態に係るマスク計算装置の構成の一例を示す図である。
【図４】図４は、第１の実施形態に係るマスク計算装置の処理の流れを示すフローチャートである。
【図５】図５は、第１の実施形態に係るマスク計算ニューラルネットワーク学習装置の構成の一例を示す図である。
【図６】図６は、第１の実施形態に係るマスク計算ニューラルネットワーク学習装置の処理の流れを示すフローチャートである。
【図７】図７は、第２の実施形態に係るマスク計算装置の構成の一例を示す図である。
【図８】図８は、第２の実施形態に係るマスク計算装置の処理の流れを示すフローチャートである。
【図９】図９は、第３の実施形態に係るクラスタ重み学習装置の構成の一例を示す図である。
【図１０】図１０は、第３の実施形態に係るクラスタ重み学習装置の処理の流れを示すフローチャートである。
【図１１】図１１は、プログラムを実行するコンピュータの一例を示す図である。
【発明を実施するための形態】
【００１１】
以下に、本願に係るマスク計算装置、クラスタ重み学習装置、マスク計算ニューラルネットワーク学習装置、マスク計算方法、クラスタ重み学習方法及びマスク計算ニューラルネットワーク学習方法の実施形態を図面に基づいて詳細に説明する。なお、本発明は、以下に説明する実施形態により限定されるものではない。
【００１２】
なお、以下では、例えばＡがベクトルである場合には“ベクトルＡ”と表記し、例えばＡが行列である場合には“行列Ａ”と表記し、例えばＡがスカラーである場合には単に“Ａ”と表記する。また、例えばＡが集合である場合には、“集合Ａ”と表記する。また、例えばベクトルＡの関数ｆは、ｆ（ベクトルＡ）と表記する。また、ベクトル、行列又はスカラーであるＡに対し、“＾Ａ”と記載する場合は「“Ａ”の直上に“＾”が記された記号」と同等であるとする。また、ベクトル、行列又はスカラーであるＡに対し、“−Ａ”と記載する場合は「“Ａ”の直上に“−”が記された記号」と同等であるとする。また、ベクトル、行列又はスカラーであるＡに対し、“~Ａ”と記載する場合は「“Ａ”の直上に“~”が記された記号」と同等であるとする。また、ベクトル又は行列であるＡに対し、ＡＴはＡの転置を表す。
【００１３】
＜従来の目的音声抽出装置＞
まず、図１を用いて、従来の目的話者抽出装置の構成について説明する。図１は、従来の目的話者抽出装置の構成の一例を示す図である。図１に示すように、目的話者抽出装置１０ａは、特徴量抽出部１０１ａ、マスク計算部１０２ａ、目的信号計算部１０３ａ及び記憶部１４０ａを有する。
【００１４】
記憶部１４０ａは、マスクを計算するための計算モデルの、学習済みのパラメータを記憶する。例えば、ニューラルネットワーク（以下、ＮＮ）に基づいてマスクの計算が行われる場合、記憶部１４０ａは、各ＮＮのパラメータを記憶する。ＮＮのパラメータは、各隠れ層に関する重み行列、バイアスベクトル、アクティベーション関数のパラメータ等である。例えば、ＮＮの各隠れ層の処理は以下の式（１）のように定義される。
【００１５】
【数１】
0006764028.tif 000002
【００１６】
ただし、ｔは時間フレームのインデックスである。また、ｌは隠れ層のインデックスである。ｘｔ（ｌ−１）とｘｔ（ｌ）は、それぞれ隠れ層の入力と出力である。σ（ｌ）（・）は、アクティベーション関数である。アクティベーション関数は、例えばsigmoid関数及びRelu関数等である。Ｆ（ｌ）（・；θ（ｌ））は変換関数である。変換関数は、例えば線形変換及び畳み込み等である。θ（ｌ）は、変換関数のパラメータである。例えば従来のＮＮにおいては、Ｆ（ｌ）（・；θ（ｌ））は式（２）のようになる。
【００１７】
【数２】
0006764028.tif 000003
【００１８】
ただし、Ｗ（ｌ）とｂ（ｌ）は、それぞれ線形変換の行列とバイアスベクトルである。式（２）の場合、θ（ｌ）＝｛Ｗ（ｌ），ｂ（ｌ）｝である。また、ＮＮ全体のパラメータをθ＝｛θ（１），…，θ（Ｌ）｝とする。この場合、ＮＮ全体の隠れ層の総数はＬ−１である。また、ＮＮのパラメータは、畳み込み層、ＬＳＴＭ／ＢＬＳＴＭ等のリカレントの層でも同様に定義できる。
【００１９】
特徴量抽出部１０１ａは、入力信号の波形からＳＴＦＴ（Short  Time  Fourier  Transform）を計算する。ＳＴＦＴ領域では、観測信号は式（３）で表される。
【００２０】
【数３】
0006764028.tif 000004
【００２１】
ただし、ｉ＝１，…，Ｉはマイクロホンのインデックスである。また、ｔ＝１，…，Ｔは時間のインデックスである。また、ｆ＝１，…，Ｆは周波数のインデックスである。Ｙｉ（ｔ，ｆ）、Ｓｉ（ｔ，ｆ）、Ｎｉ（ｔ，ｆ）は、それぞれ観測信号、目的音声、雑音のＳＴＦＴ信号である。特徴量ベクトルは、ｙ（ｉ，ｔ）＝［｜Ｙｉ（ｔ，１）｜，…，｜Ｙｉ（ｔ，Ｆ）｜］である。なお、｜・｜は振幅である。さらに、時系列の特徴量ベクトルである特徴量ベクトル系列Ｙｉは式（４）で表される。
【００２２】
【数４】
0006764028.tif 000005
【００２３】
つまり、Ｙｉは、１フレーム目からＴフレーム目までのＦ次元特徴量ベクトルで表現されるデータである。例えば、分析フレーム幅は３０ｍｓ程度、分析フレームシフト幅は１０ｍｓ程度で分析が実行される。
【００２４】
マスク計算部１０２ａは、時間周波数マスクを計算する。時間周波数マスクは、各時間周波数ビン（ｔ，ｆ）に対する、目的信号が優位であるか雑音が優位であるかを表すマスクである。時間周波数マスクを利用することにより、目的信号計算部１０３ａは、目的音声を式（５）のように抽出することができる。以下、時間周波数マスクを単にマスクと呼ぶ場合がある。
【００２５】
【数５】
0006764028.tif 000006
【００２６】
ただし、Ｍｉ（ｔ，ｆ）は目的信号を抽出するためのマスクである。
【００２７】
また、マスク計算部１０２ａは、式（６−１）のようにＮＮを用いてマスクを計算することができる。
【００２８】
【数６】
0006764028.tif 000007
【００２９】
ただし、式（６−２）は、各周波数に対するマスクの値のベクトルである。また、ｇ（・，θ）はＮＮを表す。また、ＮＮの入力は、特徴量抽出部１０１ａによって抽出された特徴量ｙｉ，ｔである。なお、マスク計算ＮＮパラメータΘは記憶部１４０ａに記憶される。
【００３０】
図示しない学習装置がマスク計算部１０２ａで用いられるＮＮのパラメータΘの学習を行う場合、音声と雑音のデータが必要になる。なお、学習装置は、目的話者抽出装置１０ａの各機能を利用するものであってよい。学習装置は、音声と雑音のデータからＮＮの学習に必要なラベルを作成する。例えば、学習装置は、音声と雑音のデータから正解のマスクを計算する。学習装置は、正解のマスクをラベルとして利用することで、Cross  Entropy基準によってＮＮを最適化する。学習装置は、誤差逆伝搬（Error  backpropagation）によって最適化を行う。学習装置は、正解のマスクを式（７−１）のように計算することができる。
【００３１】
【数７】
0006764028.tif 000008
【００３２】
ただし、式（７−２）は正解のマスクである。また、式（７−３）は信号対雑音比（ＳＮ比）である。またεはＳＮ比の閾値である。
【００３３】
目的信号計算部１０３ａは、マスク計算部１０２ａによって計算されたマスクと特徴量抽出部１０１ａによって計算された観測信号のＳＴＦＴに基づいて、目的音声を計算する。マイクロホンが１つ（Ｉ＝１）の場合、目的信号計算部１０３ａは、式（８）のように目的音声の信号を計算する。
【００３４】
【数８】
0006764028.tif 000009
【００３５】
マイクロホンが複数（Ｉ＞１）の場合、目的信号計算部１０３ａは、各マイクロホンの信号からマスクを推定し、式（９）のように統合したマスク（統合マスク）を計算する。
【００３６】
【数９】
0006764028.tif 000010
【００３７】
ただし、Ｍ（ｔ，ｆ）は統合したマスクである。また、median（・）はメディアンを計算するための関数である。目的信号計算部１０３ａは、統合マスクを用いて、式（１０）のように目的音声の空間相関行列を計算できる。
【００３８】
【数１０】
0006764028.tif 000011
【００３９】
ただし、Φｓｓ（ｆ）は目的音声の空間相関行列である。また、Ｙ（ｔ，ｆ）＝［Ｙ１（ｔ，ｆ），…，ＹＩ（ｔ，ｆ）］は各マイクロホンの信号の集合ベクトルである。また、・Ｈは、エルミート転置（Hermitian  transpose）である。同様に、目的信号計算部１０３ａは、統合マスクを用いて、式（１１）のように雑音の空間相関行列を計算できる。
【００４０】
【数１１】
0006764028.tif 000012
【００４１】
ただし、ΦＮＮ（ｆ）は雑音信号の空間相関行列である。また、ＭＮ（ｔ，ｆ）は、雑音信号を抽出するためのマスクである。なお、１−Ｍ（ｔ，ｆ）をＭＮ（ｔ，ｆ）として用いてもよいし、マスク計算部１０２ａを構成するＮＮを、観測信号の特徴量ベクトル系列を入力として、目的信号を抽出するためのマスクＭｉ（ｔ，ｆ）に加えて雑音信号を抽出するためのマスクＭｉＮ（ｔ，ｆ）も出力するよう構成しておき、ＮＮの出力として得られるＭｉＮ（ｔ，ｆ）を統合したマスクをＭＮ（ｔ，ｆ）としてもよい。
【００４２】
目的信号計算部１０３ａは、各空間相関行列に基づいてビームフォーマを計算することができる。例えば、目的信号計算部１０３ａは、ビームフォーマとして使われることが多いＭＶＤＲビームフォーマやＭａｘＳＮＲビームフォーマ等を、空間相関行列に基づいて計算できる。
【００４３】
例えば、目的信号計算部１０３ａは、ＭａｘＳＮＲビームフォーマのフィルターを式（１２−１）のように計算する。また、計算したフィルターは、式（１２−２）のように表される。なお、式（１２−３）に示すように、ΦYY（ｆ）は、観測信号の空間相関行列である。
【００４４】
【数１２】
0006764028.tif 000013
【００４５】
目的信号計算部１０３ａは、ビームフォーマのフィルターを用いて、目的音声の信号を式（１３）のように計算する。
【００４６】
【数１３】
0006764028.tif 000014
【００４７】
なお、マイクロホンが１つの場合及びマイクロホンが複数の場合のいずれであっても、目的信号計算部１０３ａは、目的音声の波形信号を計算するために、例えば、逆ＦＦＴとOverlapp  Add方法によってＳＴＦＴ領域の信号を計算することができる。
【００４８】
図２は、従来の目的話者抽出装置の処理の流れを示すフローチャートである。図２に示すように、まず、特徴量抽出部１０１ａは、観測信号を読み込む（ステップＳ１０１ａ）。このとき、マスク計算部１０２ａは、記憶部１４０ａからマスク計算ＮＮパラメータを読み込んでおく（ステップＳ１０２ａ）。次に、特徴量抽出部１０１ａは、観測信号から特徴量を抽出する（ステップＳ１０３ａ）。
【００４９】
ここで、マスク計算部１０２ａは、特徴量及びマスク計算ＮＮパラメータを基にマスクを計算する（ステップＳ１０４ａ）。そして、目的信号計算部１０３ａは、マスクを用いて観測信号から目的音声の信号を計算する（ステップＳ１０５ａ）。その後、目的信号計算部１０３ａは、計算した目的音声の信号を出力する（ステップＳ１０６ａ）。
【００５０】
＜本発明の実施形態で用いられるＮＮの構造＞
ここで、本発明の実施形態でマスクの計算に用いられるＮＮについて説明する。本実施形態では、式（１４）で表されるような、少なくともいずれかの層が複数のクラスタに分解されたＮＮがマスクの計算に用いられる（参考文献：M.  Delcroix,  K.  Kinoshita,  C.  Yu,  A.  Ogawa,  T.  Yoshioka,  T.  Nakatani,“Context  adaptive  deep  neural  networks  for  fast  acoustic  model  adaptation  in  noisy  conditions”,  in  Proc.  IEEE  International  Conference  on  Acoustics,  Speech  and  Signal  Processing  (ICASSP),  2016  ．）。
【００５１】
【数１４】
0006764028.tif 000015
【００５２】
ただし、ｋ＝１，…，Ｋは、クラスタのインデックスである。また、Ｋはクラスタの数である。また、Ｆｋ（ｌ）（・；θｋ（ｌ））は、ｋ番目の話者クラスタの変換関数である。αｋは、ｋ番目のクラスタの重みである。また、クラスタの重みは、ベクトルα＝［α１，…，αＫ］である。このような少なくともいずれかの層が複数のクラスタに分解されたニューラルネットワークには、話者依存ＮＮ、話者依存層を用いるＮＮ、話者適応型層を用いるＮＮが含まれる。
【００５３】
（話者依存ＮＮ）
話者依存ＮＮは、全ての層が複数のクラスタに分解されたＮＮである。話者依存ＮＮにおいては、Ｋが学習データの話者の数と同じである。また、話者依存ＮＮにおいて、ベクトルαは、話者ＩＤを表す１  ｈｏｔベクトルである。なお、１  ｈｏｔベクトルとは、１つの要素の値が１、かつ他の要素の値が０であるようなベクトルである。また、話者依存ＮＮでは、話者ごとにＮＮが用意されているといえる。また、話者依存ＮＮの学習時と、当該話者依存ＮＮを使った目的音声の抽出時とにおいては、同じ話者の音声が用いられる。言い換えれば、話者依存ＮＮでは、抽出したい目的音声の話者を含む少なくとも１人以上の話者について学習用に用意された音声信号に基づいてＮＮのパラメータが学習されていることを前提とする。
【００５４】
（話者依存層を用いるＮＮ）
話者依存層を用いるＮＮは、少なくとも１つの層が複数のクラスタに分解されたＮＮである。話者依存層を用いるＮＮにおいては、Ｋが学習データの話者の数と同じである。また、話者依存層を用いるＮＮにおいて、ベクトルαは、話者ＩＤを表す１  ｈｏｔベクトルである。また、話者依存層を用いるＮＮでは、話者ごとに隠れ層のクラスタが用意されているといえる。また、話者依存層を用いるＮＮの学習時と、当該話者依存層を用いるＮＮを使った目的音声の抽出時とにおいては、同じ話者の音声が用いられる。言い換えれば、話者依存層を用いるＮＮでは、抽出したい目的音声の話者を含む少なくとも１人以上の話者について学習用に用意された音声信号に基づいてＮＮのパラメータが学習されていることを前提とする。
【００５５】
（話者適応型層を用いるＮＮ）
話者適応型層を用いるＮＮは、少なくとも１つの層が複数のクラスタに分解されたＮＮである。話者適応型層を用いるＮＮにおいては、Ｋが学習データの話者の数以下の数であればよい。また、話者適応型層を用いるＮＮにおいて、ベクトルαは、１  ｈｏｔベクトルでなくてもよい。また、話者適応型層を用いるＮＮの学習時と、当該話者適応型層を用いるＮＮを使った目的音声の抽出時とにおいては、同じ話者の音声が用いられなくてもよい。このため、話者適応型層を用いるＮＮは汎用性が高い。
【００５６】
＜第１の実施形態＞
ここで、第１の実施形態に係るマスク計算装置及びマスク計算ニューラルネットワーク学習装置について説明する。マスク計算装置及びマスク計算ニューラルネットワーク学習装置は、それぞれ異なるコンピュータによって実現されてもよいし、１つのコンピュータの機能として実現されてもよい。
【００５７】
＜第１の実施形態に係るマスク計算装置＞
まず、図３を用いて、第１の実施形態に係るマスク計算装置の構成について説明する。図３は、第１の実施形態に係るマスク計算装置の構成の一例を示す図である。図３に示すように、マスク計算装置１０は、特徴量抽出部１０１、マスク計算部１０２、目的信号計算部１０３、目的話者特徴量抽出部１２１、クラスタ重み計算部１２２及び記憶部１４０を有する。
【００５８】
記憶部１４０は、目的話者特徴量抽出部１２１で用いられる所定の計算モデルのパラメータである話者特徴量抽出モデルパラメータ、クラスタ重み計算部１２２で用いられるＮＮのパラメータであるクラスタ重み計算ＮＮパラメータ、及びマスク計算部１０２で用いられるＮＮのパラメータであるマスク計算ＮＮパラメータを記憶する。なお、クラスタ重み計算部１２２で用いられるＮＮをクラスタ重み計算ＮＮと呼ぶ。また、マスク計算部１０２で用いられるＮＮをマスク計算ＮＮと呼ぶ。また、話者特徴量抽出モデルパラメータとマスク計算ＮＮパラメータの集合をΘ、クラスタ重み計算パラメータの集合をλとする。
【００５９】
特徴量抽出部１０１は、従来の目的話者抽出装置１０ａの特徴量抽出部１０１ａと同様の処理を行う。つまり、特徴量抽出部１０１は、観測信号から、１フレーム目からＴフレーム目までのＦ次元特徴量ベクトルを抽出する。言い換えれば、特徴量抽出部１０１は、観測信号から、フレームごとに所定次数（Ｆ次元）の特徴量ベクトルを抽出する。特徴量抽出部１０１は、目的話者を含む１人以上の話者の音声を少なくとも含んだ音声の観測信号から観測信号の特徴量を抽出する。なお、観測信号に含まれる音声の話者が１人の場合には、雑音等の音声以外の音が含まれることを前提とする。観測信号に含まれる音声の話者が２以上の場合は、雑音が含まれていても、含まれていなくてもよい。
【００６０】
目的話者特徴量抽出部１２１は、目的話者の音声の信号である適応用目的話者信号から目的話者特徴量を抽出する。目的話者特徴量抽出部１２１は、適応用目的話者信号を入力とし、記憶部１４０に記憶されている目的話者特徴量を抽出するための話者特徴量抽出モデルパラメータθ（ｌ）により特定される所定の計算モデルを用いて目的話者特徴量ａ（ｓ）を出力する。
【００６１】
ここで、目的話者特徴量抽出部１２１によって用いられる計算モデルとしては、ivector（参考文献：N.  Dehak,  P.  Kenny,  R.  Dehak,  P.  Dumouchel,  and  P.  Ouellet,  “Front-end  factor  analysis  for  speaker  verification”,  IEEE  Trans.  Audio,  Speech,  Language  Process.,  vol.  19,  no.  4,  pp.  788-798,  2011.）、Bottleneck特徴量、話者の事後確率を用いたもの等がある。また、話者のＩＤが既知である場合や、目的の話者が学習データに含まれる話者の場合は、目的話者特徴量抽出部１２１は、話者のＩＤを表す１  ｈｏｔベクトルを計算に用いてもよい。
【００６２】
クラスタ重み計算部１２２は、少なくともいずれかの層が複数のクラスタに分解されたマスク計算ＮＮ（第１のニューラルネットワーク）の、複数のクラスタのそれぞれに対応する重みを、適応用目的話者信号を基に、クラスタ重み計算ＮＮ（第２のニューラルネットワーク）を用いて計算する。クラスタ重み計算部１２２は、目的話者特徴量を入力とし、記憶部１４０に記憶されているクラスタ重み計算ＮＮパラメータλに基づいてクラスタ重みを出力する。クラスタ重み計算部１２２は、式（１５）のようにクラスタ重みのベクトルαを計算する。なお、ｈ（・，λ）は音声の特徴量からクラスタ重みを計算するためのＮＮを表す関数である。つまり、クラスタ重み計算部１２２は、クラスタ重み計算ＮＮパラメータλが設定されたＮＮ（第２のニューラルネットワーク）に目的話者特徴量を入力することで、クラスタ重みのベクトルαを得て出力する。
【００６３】
【数１５】
0006764028.tif 000016
【００６４】
マスク計算部１０２は、観測信号の特徴量及び目的話者特徴量に基づいて、観測信号から目的話者の音声を抽出するマスクを計算する。マスク計算部１０２は、観測信号の特徴量を基に、クラスタ重み計算部１２２によって計算された重みで重み付けされたマスク計算ＮＮ（第１のニューラルネットワーク）を用いてマスクを計算する。マスク計算部１０２は、式（１４）によってマスクを計算する。
【００６５】
なお、式（１４）はニューラルネットワークのｌ番目の層における計算を表す。Ｆｋ（ｌ）は、複数のクラスタに分解された隠れ層のうち、ｋ番目の隠れ層における計算を表す関数である。ｘｔ（ｌ−１）は、（ｌ−１）番目の層の出力であり、ｘｔ（０）はニューラルネットワークへの入力、すなわち観測信号の特徴量Ｙ（ｔ，ｆ）である。つまり、式（１４）は、複数のクラスタに分解された層からの出力（中間状態）ｘｔ（ｌ）が、分解された隠れ層の各々に（ｌ−１）番目の層の出力を入力して得られる各隠れ層の出力（中間状態）を、クラスタ重み計算部１２２で求めた各クラスタに対応する重みで重み付けした重み付け和に基づいて決定されることを示している。
【００６６】
ｌ番目の層の後段に、さらに分解されていない隠れ層がある場合には、当該分解されていない隠れ層でさらに計算が行われる。例えば、（ｌ＋１）番目の層では、ｘｔ（ｌ）を入力として、変換関数Ｆ（ｌ＋１）に応じた変換が行われ、ｘ（ｌ＋１）が計算される。マスク計算ＮＮの層の数だけこの計算が繰り返されることで、最終的にマスクが出力されるのである。最後の層をＬとすれば、ｘ（Ｌ）がマスクとなる。
【００６７】
以上のように、マスク計算部１０２は、マスク計算ＮＮ（第１のニューラルネットワーク）に観測信号の特徴量を入力することで得られる、ＮＮ内の複数のクラスタの各々の出力である中間状態を、クラスタ重み計算部１２２で計算した複数のクラスタの各々に対応する重みで重み付けした中間状態を用いて、マスクを計算する。
【００６８】
目的信号計算部１０３は、従来の目的話者抽出装置１０ａの目的信号計算部１０３ａと同様の処理を行う。つまり、目的信号計算部１０３は、マスクに基づいて、観測信号から目的話者の音声の信号を計算する。例えば、目的信号計算部１０３は、マスク計算部１０２によって計算されたマスクと特徴量抽出部１０１によって計算された観測信号のＳＴＦＴに基づいて、目的音声の信号を計算する。
【００６９】
図４は、第１の実施形態に係るマスク計算装置の処理の流れを示すフローチャートである。図４に示すように、まず、特徴量抽出部１０１は、観測信号を読み込む（ステップＳ１０１）。また、目的話者特徴量抽出部１２１は、適応用目的話者信号を読み込む（ステップＳ１０２）。
【００７０】
このとき、目的話者特徴量抽出部１２１は、記憶部１４０から話者特徴量抽出モデルパラメータを読み込んでおく（ステップＳ１０３）。また、クラスタ重み計算部１２２は、記憶部１４０からクラスタ重み計算ＮＮパラメータを読み込んでおく（ステップＳ１０４）。また、マスク計算部１０２は、記憶部１４０からマスク計算ＮＮパラメータを読み込んでおく（ステップＳ１０５）。
【００７１】
次に、特徴量抽出部１０１は、観測信号から特徴量を抽出する（ステップＳ１０６）。また、目的話者特徴量抽出部１２１は、適応用目的話者信号から目的話者特徴量を抽出する（ステップＳ１０７）。
【００７２】
ここで、クラスタ重み計算部１２２は、クラスタ重み計算ＮＮパラメータ及び目的話者特徴量を基にクラスタ重みを計算する（ステップＳ１０８）。また、マスク計算部１０２は、特徴量及びマスク計算ＮＮパラメータを基にマスクを計算する（ステップＳ１０９）。そして、目的信号計算部１０３は、マスクを用いて観測信号から目的音声の信号を計算する（ステップＳ１１０）。その後、目的信号計算部１０３は、計算した目的音声の信号を出力する（ステップＳ１１１）。
【００７３】
＜第１の実施形態に係るマスク計算ニューラルネットワーク学習装置＞
次に、図５を用いて、第１の実施形態に係るマスク計算ニューラルネットワーク学習装置の構成について説明する。図５は、第１の実施形態に係るマスク計算ニューラルネットワーク学習装置の構成の一例を示す図である。図５に示すように、マスク計算ニューラルネットワーク学習装置２０は、特徴量抽出部２０１、マスク計算部２０２、エラー計算部２０３、マスク計算ＮＮパラメータ微分値計算部２０４、マスク計算ＮＮパラメータ更新部２０５、収束判定部２０６、目的話者特徴量抽出部２２１、クラスタ重み計算部２２２、クラスタ重み計算ＮＮパラメータ微分値計算部２２３、クラスタ重み計算ＮＮパラメータ更新部２２４及び記憶部２４０を有する。
【００７４】
特徴量抽出部２０１、マスク計算部２０２、目的話者特徴量抽出部２２１、クラスタ重み計算部２２２は、それぞれマスク計算装置１０の特徴量抽出部１０１、マスク計算部１０２、目的話者特徴量抽出部１２１、クラスタ重み計算部１２２と同様の処理を行う。
【００７５】
つまり、クラスタ重み計算部２２２は、少なくともいずれかの層が複数のクラスタに分解されたマスク計算ＮＮの、複数のクラスタのそれぞれに対応する重みを、特定の話者の音声の信号を基に、クラスタ重み計算ＮＮを用いて計算する。なお、特定の話者は、例えば目的話者である。また、マスク計算部２０２は、特定の話者を含む１人以上の話者の音声の観測信号の特徴量から特定の話者の音声の特徴量を抽出するマスクを、１人以上の話者の音声の観測信号の特徴量を基に、クラスタ重み計算部２２２によって計算された重みで重み付けされたマスク計算ＮＮを用いて計算する。なお、マスク計算ＮＮは、第１のニューラルネットワークの一例である。また、クラスタ重み計算ＮＮは、第２のニューラルネットワークの一例である。
【００７６】
記憶部２４０は、目的話者特徴量抽出部２２１で用いられる話者特徴量抽出モデルパラメータ、クラスタ重み計算部２２２で用いられるクラスタ重み計算ＮＮパラメータ、及びマスク計算部２０２で用いられるマスク計算ＮＮパラメータを記憶する。ただし、学習開始時点においては、話者特徴量抽出モデルパラメータ、クラスタ重み計算ＮＮパラメータ、マスク計算ＮＮパラメータの各々に適当な初期値（ランダムな初期値）が設定されているものとする。
【００７７】
マスク計算ニューラルネットワーク学習装置２０は、例えば、マスク計算装置１０で用いられるマスク計算ＮＮパラメータ及びクラスタ重み計算ＮＮパラメータの学習を行う。マスク計算ニューラルネットワーク学習装置２０は、学習用観測信号及び適応用目的信号及び正解マスクを用いて学習を行う。
【００７８】
マスク計算ニューラルネットワーク学習装置２０は、誤差逆伝搬とＳＧＤ（Stochastic  Gradient  Descent）を用いて学習を行う（参考文献：S.  Haykin,  Neural  Networks,  “A  Comprehensive  Foundation,”  Prentice  Hall  PTR,  Upper  Saddle  River,  NJ,  USA,  2nd  edition,  1999.）。まず、エラー計算部２０３は、マスク計算装置１０で計算されたマスクＭ（ｔ）と正解マスク＾Ｍ（ｔ）に基づいて、式（１６）のようにエラーδｔを計算する。
【００７９】
【数１６】
0006764028.tif 000017
【００８０】
なお、マスク計算ニューラルネットワーク学習装置２０は、正解マスクを用いることなく、計算した目的音声の歪及び距離の最小化基準や、音声認識の基準により学習を行ってもよい。また、マスク計算ニューラルネットワーク学習装置２０が学習を行う際の手法はＳＧＤに限られない。マスク計算ニューラルネットワーク学習装置２０は、例えばＡｄａｍ及びＡｄａｇｒａｄ等を用いて学習を行ってもよい。
【００８１】
マスク計算ＮＮパラメータ微分値計算部２０４は、マスク計算ＮＮとクラスタ重み計算ＮＮを結合されたＮＮとみなし、当該結合されたＮＮに対し誤差逆伝搬を行うことで、マスク計算ＮＮのパラメータの微分値を計算する。また、マスク計算ＮＮパラメータ更新部２０５は、マスク計算ＮＮパラメータ微分値計算部２０４によって計算されたパラメータの微分値を基に、マスク計算ＮＮのパラメータを更新する。つまり、マスク計算ＮＮパラメータ更新部２０５は、記憶部２４０に記憶されているマスク計算ＮＮのパラメータの値を更新後の値に更新する。
【００８２】
マスク計算ＮＮパラメータ更新部２０５は、式（１７）のようにマスク計算ＮＮパラメータ＾θ（ｌ）の更新を行う。
【００８３】
【数１７】
0006764028.tif 000018
【００８４】
ただし、＾θ（ｌ）は、更新後のマスク計算ＮＮパラメータである。また、θ（ｌ）は、更新前のマスク計算ＮＮパラメータである。また、η（δＪ／δθ（ｌ））（式（１７）の右辺の第２項）は、マスク計算ＮＮパラメータ微分値計算部２０４によって計算されるマスク計算ＮＮのパラメータの微分値である。また、Ｊは最適化基準（例えばCross  Entropy）を表す。また、ηは、ラーニングレートのパラメータであり、例えば０．１〜０．０００１程度の小さい値を取る。
【００８５】
クラスタ重み計算ＮＮパラメータ微分値計算部２２３は、結合されたＮＮに対し誤差逆伝搬を行うことで、クラスタ重み計算ＮＮのパラメータの微分値を計算する。また、クラスタ重み計算ＮＮパラメータ更新部２２４は、クラスタ重み計算ＮＮパラメータ微分値計算部２２３によって計算されたクラスタ重み計算ＮＮパラメータの微分値を基に、クラスタ重み計算ＮＮのパラメータを更新する。つまり、クラスタ重み計算ＮＮパラメータ更新部２２４は、記憶部２４０に記憶されているクラスタ重み計算ＮＮのパラメータの値を更新後の値に更新する。
【００８６】
クラスタ重み計算ＮＮパラメータ更新部２２４は、式（１８）のようにクラスタ重み計算ＮＮパラメータ＾λの更新を行う。つまり、クラスタ重み計算ＮＮパラメータ更新部２２４は、記憶部２４０に記憶されているクラスタ重み計算ＮＮパラメータの値を更新後の値に更新する。
【００８７】
【数１８】
0006764028.tif 000019
【００８８】
ただし、＾λは、更新後のクラスタ重み計算ＮＮパラメータである。また、λは、更新前のクラスタ重み計算ＮＮパラメータである。また、η´（δＪ／δλ）（式（１８）の右辺の第２項）は、クラスタ重み計算ＮＮパラメータ微分値計算部２２３によって計算されるクラスタ重み計算ＮＮのパラメータの微分値である。また、Ｊは最適化基準（例えばCross  Entropy）を表す。また、η´は、ラーニングレートのパラメータであり、例えば０．１〜０．０００１程度の小さい値を取る。
【００８９】
収束判定部２０６は、モデルパラメータ群を受け取り、各モデルパラメータの学習が収束したか否かを判定する。収束判定部２０６は、収束したと判定した場合、収束時の各モデルパラメータをマスク計算ニューラルネットワーク学習装置２０の出力値として出力する。モデルパラメータには、マスク計算ＮＮパラメータ及びクラスタ重み計算ＮＮパラメータが含まれる。
【００９０】
一方、収束判定部２０６は、収束していないと判定した場合、収束判定部２０６は、クラスタ重み計算部２２２、マスク計算部２０２、エラー計算部２０３、マスク計算ＮＮパラメータ微分値計算部２０４、マスク計算ＮＮパラメータ更新部２０５、クラスタ重み計算ＮＮパラメータ微分値計算部２２３、クラスタ重み計算ＮＮパラメータ更新部２２４に処理を繰り返すように制御信号を出力する。
【００９１】
また、収束判定部２０６は、例えば、更新前後のパラメータの差分が閾値以下になった場合、繰り返し回数が所定回数以上になった場合、学習用音声の一部を用いてモデルの性能を評価した際に性能が悪化した場合等に収束したと判定する。要するに、収束判定部２０６は、記憶部２４０モデルパラメータに基づきＮＮで計算されたマスクが所定の基準を満たすまで、クラスタ重み計算部２２２に戻って、マスクの推定とＮＮのパラメータの更新処理を繰り返すよう制御する。所定の条件を満たしたら、マスク計算ニューラルネットワーク学習装置２０は学習処理を終了する。このとき記憶部２４０に記憶されているＮＮのパラメータの値が、学習後のＮＮのパラメータである。
【００９２】
図６は、第１の実施形態に係るマスク計算ニューラルネットワーク学習装置の処理の流れを示すフローチャートである。図６に示すように、まず、特徴量抽出部２０１は、観測信号を読み込む（ステップＳ２０１）。また、目的話者特徴量抽出部２２１は、適応用目的話者信号を読み込む（ステップＳ２０２）。
【００９３】
このとき、目的話者特徴量抽出部２２１は、記憶部２４０から話者特徴量抽出モデルパラメータを読み込んでおく（ステップＳ２０３）。また、クラスタ重み計算部２２２は、記憶部２４０からクラスタ重み計算ＮＮパラメータを読み込んでおく（ステップＳ２０４）。また、マスク計算部２０２は、記憶部２４０からマスク計算ＮＮパラメータを読み込んでおく（ステップＳ２０５）。
【００９４】
次に、特徴量抽出部２０１は、観測信号から特徴量を抽出する（ステップＳ２０６）。また、目的話者特徴量抽出部２２１は、適応用目的話者信号から目的話者特徴量を抽出する（ステップＳ２０７）。
【００９５】
ここで、クラスタ重み計算部２２２は、クラスタ重み計算ＮＮパラメータ及び目的話者特徴量を基にクラスタ重みを計算する（ステップＳ２０８）。また、マスク計算部２０２は、特徴量及びマスク計算ＮＮパラメータを基にマスクを計算する（ステップＳ２０９）。エラー計算部２０３は、マスク計算部２０２によって計算されたマスクと正解マスクとに基づいてエラーを計算する（ステップＳ２１０）。
【００９６】
マスク計算ＮＮパラメータ微分値計算部２０４は、マスク計算ＮＮパラメータの微分値を計算する（ステップＳ２１１）。そして、マスク計算ＮＮパラメータ更新部２０５は、マスク計算ＮＮパラメータを更新する（ステップＳ２１２）。
【００９７】
クラスタ重み計算ＮＮパラメータ微分値計算部２２３は、クラスタ重みＮＮパラメータの微分値を計算する（ステップＳ２１３）。そして、クラスタ重み計算ＮＮパラメータ更新部２２４は、クラスタ重みＮＮパラメータを更新する（ステップＳ２１４）。
【００９８】
収束判定部２０６は、モデルパラメータが収束したか否かを判定する（ステップＳ２１５）。収束判定部２０６は、モデルパラメータが収束していないと判定した場合（ステップＳ２１５、Ｎｏ）、各処理部にステップＳ２０８〜Ｓ２１４をさらに実行させる。一方、収束判定部２０６は、モデルパラメータが収束したと判定した場合（ステップＳ２１５、Ｙｅｓ）、モデルパラメータを出力する（ステップＳ２１６）。
【００９９】
［第１の実施形態の効果］
特徴量抽出部１０１は、目的話者を含む１人以上の話者の音声を少なくとも含んだ音声の観測信号から特徴量を抽出する。また、目的話者特徴量抽出部１２１は、目的話者の音声の信号である適応用目的話者信号から目的話者特徴量を抽出する。また、マスク計算部１０２は、観測信号の特徴量及び目的話者特徴量に基づいて、観測信号から目的話者の音声を抽出するマスクを計算する。また、目的信号計算部１０３は、マスクに基づいて、観測信号から目的話者の音声の信号を計算する。このように、本実施形態では、目的話者特徴量から計算されたマスクを用いている。このため、観測した音声に複数の話者の音声が含まれる場合であっても、目的の話者の音声を取り出すことが可能となる。
【０１００】
目的話者特徴量抽出部１２１は、特定の話者の音声の信号から、特定の話者の音声の特徴量を抽出する。また、クラスタ重み計算部１２２は、少なくともいずれかの層が複数のクラスタに分解されたマスク計算ＮＮの、複数のクラスタのそれぞれに対応する重みを、目的話者特徴量抽出部１２１によって抽出された特徴量をクラスタ重み計算ＮＮに入力し計算する。また、マスク計算部１０２は、特定の話者を含む１人以上の話者の音声の観測信号の特徴量から特定の話者の音声の特徴量を抽出するマスクを、１人以上の話者の音声の観測信号の特徴量を基に、クラスタ重み計算部によって計算された重みで重み付けされたマスク計算ＮＮを用いて計算する。このように、本実施形態では、マスク計算に用いられるＮＮの層のうち、複数のクラスタに分解された層の、目的話者の音声に対応したクラスタに重み付けがされるため、観測した音声に複数の話者の音声が含まれる場合であっても、目的の話者の音声を取り出すことが可能となる。
【０１０１】
クラスタ重み計算部２２２は、少なくともいずれかの層が複数のクラスタに分解されたマスク計算ＮＮの、複数のクラスタのそれぞれに対応する重みを、特定の話者の音声の信号を基に、クラスタ重み計算ＮＮを用いて計算する。また、マスク計算部２０２は、特定の話者を含む１人以上の話者の音声の観測信号の特徴量から特定の話者の音声の特徴量を抽出するマスクを、１人以上の話者の音声の観測信号の特徴量を基に、クラスタ重み計算部２２２によって計算された重みで重み付けされたマスク計算ＮＮを用いて計算する。マスク計算ＮＮパラメータ微分値計算部２０４は、マスク計算ＮＮとクラスタ重み計算ＮＮを結合されたＮＮとみなし、当該結合されたＮＮに対し誤差逆伝搬を行うことで、マスク計算ＮＮのパラメータの微分値を計算する。また、マスク計算ＮＮパラメータ更新部２０５は、マスク計算ＮＮパラメータ微分値計算部２０４によって計算されたパラメータの微分値を基に、マスク計算ＮＮのパラメータを更新する。また、クラスタ重み計算ＮＮパラメータ微分値計算部２２３は、結合されたＮＮに対し誤差逆伝搬を行うことで、クラスタ重み計算ＮＮのパラメータの微分値を計算する。また、クラスタ重み計算ＮＮパラメータ更新部２２４は、クラスタ重み計算ＮＮパラメータ微分値計算部２２３によって計算されたクラスタ重み計算ＮＮパラメータの微分値を基に、クラスタ重み計算ＮＮのパラメータを更新する。このように、マスク計算に用いられるＮＮとクラスタ重み計算に用いられるＮＮを結合することで、パラメータの同時最適化が可能となる。
【０１０２】
［第２の実施形態］
ここで、第２の実施形態に係るマスク計算装置について説明する。図３に示すように、第１の実施形態では、クラスタ重みは、適応用目的話者信号から抽出された目的話者特徴量を基に計算される。一方、第２の実施形態では、クラスタ重みは、適応用目的話者信号から直接計算される。
【０１０３】
＜第２の実施形態に係るマスク計算装置＞
図７を用いて、第２の実施形態に係るマスク計算装置の構成について説明する。図７は、第２の実施形態に係るマスク計算装置の構成の一例を示す図である。図７に示すように、マスク計算装置３０は、特徴量抽出部３０１、マスク計算部３０２、目的信号計算部３０３、クラスタ重み計算部３２２及び記憶部３４０を有する。
【０１０４】
特徴量抽出部３０１、マスク計算部３０２及び目的信号計算部３０３は、それぞれマスク計算装置１０の特徴量抽出部１０１、マスク計算部１０２及び目的信号計算部１０３と同様の処理を行う。つまり、マスク計算部３０２は、特定の話者を含む１人以上の話者の音声の観測信号の特徴量から特定の話者の音声の特徴量を抽出するマスクを、１人以上の話者の音声の観測信号の特徴量を基に、クラスタ重み計算部３２２によって計算された重みで重み付けされたマスク計算ＮＮを用いて計算する。
【０１０５】
ここで、特徴量抽出部３０１は、特徴量として、ＭＦＣＣ（Mel  Frequency  Cepstral  Coefficient）、ＬＭＦＣ（log  Mel  Filterbank  coefficients）、ΔＭＦＣＣ（ＭＦＣＣの１回微分）、ΔΔＭＦＣＣ（ＭＦＣＣの２回微分）、対数パワー、Δ対数パワー（対数パワーの１回微分）等を抽出することができる。また、特徴量抽出部３０１は、複数の特徴量を組み合わせたものを特徴量として抽出してもよい。
【０１０６】
ここで、マスク計算装置１０のクラスタ重み計算部１２２が目的話者特徴量を基にクラスタ重みを計算するのに対し、クラスタ重み計算部３２２は、適応用目的話者信号を基にクラスタ重みを計算する。つまり、クラスタ重み計算部３２２は、少なくともいずれかの層が複数のクラスタに分解されたマスク計算ＮＮの、複数のクラスタのそれぞれに対応する重みを、特定の話者の音声の信号を基に、クラスタ重み計算ＮＮを用いて計算する。
【０１０７】
クラスタ重み計算部３２２は、適応用目的話者信号Ｓｔ（ｓ）を入力とし、クラスタ重み計算ＮＮパラメータμが設定されたＮＮによりクラスタ重みを計算して出力する。クラスタ重み計算部３２２は、式（１９）のようにクラスタ重みのベクトルαを計算する。なお、ｌ（・，μ）は音声信号からクラスタ重みを計算するためのＮＮである。
【０１０８】
【数１９】
0006764028.tif 000020
【０１０９】
また、適応用目的話者信号Ｓｔ（ｓ）は、目的話者の音声だけが収録された音声データの音声特徴量の集合とすることができる。ここでは、クラスタ重み計算部３２２は、出力の時間平均をクラスタの重みベクトルαとしている。
【０１１０】
また、記憶部３４０は、クラスタ重み計算部３２２で用いられるクラスタ重み計算ＮＮパラメータ、及びマスク計算部３０２で用いられるマスク計算ＮＮパラメータを記憶する。
【０１１１】
図８は、第２の実施形態に係るマスク計算装置の処理の流れを示すフローチャートである。図８に示すように、まず、特徴量抽出部３０１は、観測信号を読み込む（ステップＳ３０１）。また、クラスタ重み計算部３２２は、適応用目的話者信号を読み込む（ステップＳ３０２）。
【０１１２】
このとき、クラスタ重み計算部３２２は、記憶部３４０からクラスタ重み計算ＮＮパラメータを読み込んでおく（ステップＳ３０３）。また、マスク計算部３０２は、記憶部３４０からマスク計算ＮＮパラメータを読み込んでおく（ステップＳ３０４）。
【０１１３】
次に、特徴量抽出部３０１は、観測信号から特徴量を抽出する（ステップＳ３０５）。ここで、クラスタ重み計算部３２２は、クラスタ重み計算ＮＮパラメータ及び適応用目的話者信号を基にクラスタ重みを計算する（ステップＳ３０６）。また、マスク計算部３０２は、特徴量及びマスク計算ＮＮパラメータを基にマスクを計算する（ステップＳ３０７）。そして、目的信号計算部３０３は、マスクを用いて観測信号から目的音声の信号を計算する（ステップＳ３０８）。その後、目的信号計算部３０３は、計算した目的音声の信号を出力する（ステップＳ３０９）。
【０１１４】
［第２の実施形態の効果］
クラスタ重み計算部３２２は、少なくともいずれかの層が複数のクラスタに分解されたマスク計算ＮＮの、複数のクラスタのそれぞれに対応する重みを、特定の話者の音声の信号を基に、クラスタ重み計算ＮＮを用いて計算する。また、マスク計算部３０２は、特定の話者を含む１人以上の話者の音声の観測信号の特徴量から特定の話者の音声の特徴量を抽出するマスクを、１人以上の話者の音声の観測信号の特徴量を基に、クラスタ重み計算部３２２によって計算された重みで重み付けされたマスク計算ＮＮを用いて計算する。本実施形態では、目的話者特徴量抽出のためのパラメータを用意する必要がなく、また、目的話者特徴量抽出のための計算を行う必要がないため、マスク計算を容易に行うことができる。
【０１１５】
［第３の実施形態］
ここで、第３の実施形態に係るクラスタ重み学習装置について説明する。ここで、第１の実施形態のマスク計算ニューラルネットワーク学習装置２０は、クラスタ重み計算ＮＮパラメータ及びマスク計算ＮＮパラメータの学習を行う。一方、第３の実施形態のクラスタ重み学習装置は、マスク計算ニューラルネットワーク学習装置２０による学習と同様の方法で、クラスタ重みの再推定を行う。
【０１１６】
例えば、目的話者の特徴と学習データの話者の特徴とが大幅に異なっている場合、第１の実施形態のクラスタ重み計算部１２２によって計算されるクラスタ重みでは、目的音声を精度良く抽出可能なマスクを計算することができない場合がある。このような場合、第３の実施形態のクラスタ重み学習装置を用いることで、クラスタ重みを再推定し、音声抽出の精度を向上させることができる。
【０１１７】
＜第３の実施形態に係るクラスタ重み学習装置＞
図９を用いて、第１の実施形態に係るクラスタ重み学習装置の構成について説明する。図９は、第３の実施形態に係るクラスタ重み学習装置の構成の一例を示す図である。図９に示すように、クラスタ重み学習装置４０は、特徴量抽出部４０１、マスク計算部４０２、エラー計算部４０３、クラスタ重み微分値計算部４０４、クラスタ重み更新部４０５、収束判定部４０６、目的話者特徴量抽出部４２１、クラスタ重み計算部４２２及び記憶部４４０を有する。
【０１１８】
特徴量抽出部４０１、マスク計算部４０２、エラー計算部４０３、目的話者特徴量抽出部４２１、クラスタ重み計算部４２２は、それぞれマスク計算ニューラルネットワーク学習装置２０の特徴量抽出部２０１、マスク計算部２０２、エラー計算部２０３、目的話者特徴量抽出部２２１及びクラスタ重み計算部２２２と同様の処理を行う。
【０１１９】
つまり、クラスタ重み計算部４２２は、少なくともいずれかの層が複数のクラスタに分解されたマスク計算ＮＮの、複数のクラスタのそれぞれに対応する重みを、特定の話者の音声の信号を基に、クラスタ重み計算ＮＮを用いて計算する。
【０１２０】
また、マスク計算部４０２は、特定の話者を含む１人以上の話者の音声の観測信号の特徴量から特定の話者の音声の特徴量を抽出するマスクを、１人以上の話者の音声の観測信号の特徴量を基に、クラスタ重み計算部４２２によって計算された重みで重み付けされたマスク計算ＮＮを用いて計算する。
【０１２１】
記憶部４４０は、目的話者特徴量抽出部４２１で用いられる話者特徴量抽出モデルパラメータ、クラスタ重み計算部４２２で用いられるクラスタ重み計算ＮＮパラメータ、及びマスク計算部４０２で用いられるマスク計算ＮＮパラメータを記憶する。
【０１２２】
クラスタ重み学習装置４０は、例えば、マスク計算ニューラルネットワーク学習装置２０におけるマスク計算ＮＮパラメータを学習する方法と同様の方法で、クラスタ重みの再推定を行う。このとき、クラスタ重み学習装置４０は、目的話者の音声と他の話者の音声とを混ぜて作成された音声データから、目的話者の音声を抽出可能なマスクを正解マスクとすることができる。ここで、目的話者の音声と他の話者の音声とを混ぜて作成された観測信号を、適応用観測信号と呼ぶ。
【０１２３】
クラスタ重み微分値計算部４０４は、マスク計算ＮＮとクラスタ重み計算ＮＮを結合されたＮＮとみなし、当該結合されたＮＮに対し誤差逆伝搬を行うことで、重みの微分値を計算する。また、クラスタ重み更新部４０５は、クラスタ重み微分値計算部４０４によって計算されたクラスタ重みの微分値を基に、クラスタ重みを更新する。
【０１２４】
収束判定部４０６は、クラスタ重みが収束したか否かを判定する。収束判定部４０６は、収束したと判定した場合、収束時のクラスタ重みをクラスタ重み学習装置４０の出力値として出力する。
【０１２５】
一方、収束判定部４０６は、収束していないと判定した場合、更新後のクラスタ重みをマスク計算部４０２に出力する。そして、収束判定部４０６は、マスク計算部４０２、エラー計算部４０３、クラスタ重み微分値計算部４０４及びクラスタ重み更新部４０５に処理を繰り返すように制御信号を出力する。
【０１２６】
図１０は、第３の実施形態に係るクラスタ重み学習装置の処理の流れを示すフローチャートである。図１０に示すように、まず、特徴量抽出部４０１は、適応用観測信号を読み込む（ステップＳ４０１）。また、目的話者特徴量抽出部４２１は、適応用目的話者信号を読み込む（ステップＳ４０２）。
【０１２７】
このとき、目的話者特徴量抽出部４２１は、記憶部４４０から話者特徴量抽出モデルパラメータを読み込んでおく（ステップＳ４０３）。また、クラスタ重み計算部４２２は、記憶部４４０からクラスタ重み計算ＮＮパラメータを読み込んでおく（ステップＳ４０４）。また、マスク計算部４０２は、記憶部４４０からマスク計算ＮＮパラメータを読み込んでおく（ステップＳ４０５）。
【０１２８】
次に、特徴量抽出部４０１は、観測信号から特徴量を抽出する（ステップＳ４０６）。また、目的話者特徴量抽出部４２１は、適応用目的話者信号から目的話者特徴量を抽出する（ステップＳ４０７）。
【０１２９】
ここで、クラスタ重み計算部４２２は、クラスタ重み計算ＮＮパラメータ及び目的話者特徴量を基にクラスタ重みを計算する（ステップＳ４０８）。また、マスク計算部４０２は、特徴量及びマスク計算ＮＮパラメータを基にマスクを計算する（ステップＳ４０９）。エラー計算部４０３は、マスク計算部４０２によって計算されたマスクと正解マスクとに基づいてエラーを計算する（ステップＳ４１０）。
【０１３０】
クラスタ重み微分値計算部４０４は、クラスタ重みの微分値を計算する（ステップＳ４１１）。そして、クラスタ重み更新部４０５は、クラスタ重みを更新する（ステップＳ４１２）。
【０１３１】
収束判定部４０６は、クラスタ重みが収束したか否かを判定する（ステップＳ４１３）。収束判定部４０６は、モデルパラメータが収束していないと判定した場合（ステップＳ４１３、Ｎｏ）、各処理部にステップＳ４０９〜Ｓ４１２をさらに実行させる。一方、収束判定部４０６は、モデルパラメータが収束したと判定した場合（ステップＳ４１３、Ｙｅｓ）、モデルパラメータを出力する（ステップＳ４１４）。
【０１３２】
［第３の実施形態の効果］
クラスタ重み計算部４２２は、少なくともいずれかの層が複数のクラスタに分解されたマスク計算ＮＮの、複数のクラスタのそれぞれに対応する重みを、特定の話者の音声の信号を基に、クラスタ重み計算ＮＮを用いて計算する。また、マスク計算部４０２は、特定の話者を含む１人以上の話者の音声の観測信号の特徴量から特定の話者の音声の特徴量を抽出するマスクを、１人以上の話者の音声の観測信号の特徴量を基に、クラスタ重み計算部４２２によって計算された重みで重み付けされたマスク計算ＮＮを用いて計算する。また、クラスタ重み微分値計算部４０４は、マスク計算ＮＮとクラスタ重み計算ＮＮを結合されたＮＮとみなし、当該結合されたＮＮに対し誤差逆伝搬を行うことで、重みの微分値を計算する。また、クラスタ重み更新部４０５は、クラスタ重み微分値計算部４０４によって計算されたクラスタ重みの微分値を基に、クラスタ重みを更新する。これにより、１回の計算では、精度の良いマスクを計算することができない場合であっても、クラスタ重みを再推定することで、マスクの精度を向上させていくことができる。
【０１３３】
［本発明と従来技術との比較］
表１に、本発明の各実施形態及び従来技術を用いて音声抽出を行った場合の実験結果を示す。表１のケプストラル距離（ｄＢ）は、抽出した目的音声の信号と実際の目的音声の信号のケプストラル距離である。また、音声抽出精度が高いほど、ケプストラル距離は小さくなる。
【０１３４】
【表１】
0006764028.tif 000021
【０１３５】
本実験は、２人の話者が混ざった観測信号から目的話者の音声のみを抽出するものである。本実験では、８個のマイクロホンで音声を観測し、ビームフォーマによって出力する目的音声の信号を計算する。また、本実験では、マスク計算ＮＮは、ＢＬＳＴＭ層と、Relu関数をアクティベーション関数として持つ２つの全結合層と、sigmoid数をアクティベーション関数として持つ全結合層と、を有する。
【０１３６】
表１の「観測音声」は、音声抽出を行わなかった場合の結果である。表１に示すように、音声抽出を行わなかった場合のケプストラル距離は５．２３であった。また、表１の「Baseline」は、従来の目的話者抽出装置１０ａを用いて音声抽出を行った場合の結果である。表１に示すように、「Baseline」のケプストラル距離は５．８６であった。このように、従来の従来の目的話者抽出装置１０ａでは、観測信号と比べてケプストラル距離が改善されていない。
【０１３７】
表１の「本発明（ivector）」は、本発明の第１の実施形態において、ivectorを用いて目的話者特徴量の抽出を行い、音声抽出を行った場合の結果である。表１に示すように、「本発明（ivector）」のケプストラル距離は３．９１であった。
【０１３８】
表１の「本発明（話者の事後確率）」は、本発明の第１の実施形態において、話者の事後確率を用いて目的話者特徴量の抽出を行い、音声抽出を行った場合の結果である。表１に示すように、「本発明（話者の事後確率）」のケプストラル距離は４．１１であった。
【０１３９】
表１の「本発明（adaptation）」は、本発明の第１の実施形態のマスク計算装置１０を用いてクラスタ重みを計算し、さらに、本発明の第３の実施形態のクラスタ重み学習装置４０を用いてクラスタ重みの再推定を行った上で、音声抽出を行った場合の結果である。表１に示すように、「本発明（adaptation）」のケプストラル距離は３．８６であった。
【０１４０】
表１の「本発明（sequence  summary）」は、本発明の第２の実施形態のマスク計算装置３０を用いて音声抽出を行った場合の結果である。表１に示すように、「本発明（sequence  summary）」のケプストラル距離は３．６７であった。
【０１４１】
表１に示すように、従来の目的話者抽出装置１０ａでは、観測信号と比べてケプストラル距離が改善されなかったのに対し、本実施形態の各手法を用いた場合はケプストラル距離が改善された。これより、本発明の各実施形態は、目的音声抽出の精度向上に有効であることがいえる。
【０１４２】
［システム構成等］
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示のように構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的又は物理的に分散・統合して構成することができる。さらに、各装置にて行われる各処理機能は、その全部又は任意の一部が、ＣＰＵ及び当該ＣＰＵにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
【０１４３】
また、本実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部又は一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部又は一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
【０１４４】
［プログラム］
一実施形態として、マスク計算装置１０は、パッケージソフトウェアやオンラインソフトウェアとして上記のマスクの計算を実行するマスク計算プログラムを所望のコンピュータにインストールさせることによって実装できる。例えば、上記のマスク計算プログラムを情報処理装置に実行させることにより、情報処理装置をマスク計算装置１０として機能させることができる。ここで言う情報処理装置には、デスクトップ型又はノート型のパーソナルコンピュータが含まれる。また、その他にも、情報処理装置にはスマートフォン、携帯電話機やＰＨＳ（Personal  Handyphone  System）等の移動体通信端末、さらには、ＰＤＡ（Personal  Digital  Assistant）等のスレート端末等がその範疇に含まれる。
【０１４５】
また、マスク計算装置１０は、ユーザが使用する端末装置をクライアントとし、当該クライアントに上記のマスク計算に関するサービスを提供するマスク計算サーバ装置として実装することもできる。例えば、マスク計算サーバ装置は、観測信号及び適応用目的話者信号を入力とし、目的音声の信号を抽出するためのマスクを出力とするマスク計算サービスを提供するサーバ装置として実装される。この場合、マスク計算サーバ装置は、Ｗｅｂサーバとして実装することとしてもよいし、アウトソーシングによって上記のマスク計算に関するサービスを提供するクラウドとして実装することとしてもかまわない。
【０１４６】
図１１は、プログラムを実行するコンピュータの一例を示す図である。コンピュータ１０００は、例えば、メモリ１０１０、ＣＰＵ１０２０を有する。また、コンピュータ１０００は、ハードディスクドライブインタフェース１０３０、ディスクドライブインタフェース１０４０、シリアルポートインタフェース１０５０、ビデオアダプタ１０６０、ネットワークインタフェース１０７０を有する。これらの各部は、バス１０８０によって接続される。
【０１４７】
メモリ１０１０は、ＲＯＭ（Read  Only  Memory）１０１１及びＲＡＭ１０１２を含む。ＲＯＭ１０１１は、例えば、ＢＩＯＳ（Basic  Input  Output  System）等のブートプログラムを記憶する。ハードディスクドライブインタフェース１０３０は、ハードディスクドライブ１０９０に接続される。ディスクドライブインタフェース１０４０は、ディスクドライブ１１００に接続される。例えば磁気ディスクや光ディスク等の着脱可能な記憶媒体が、ディスクドライブ１１００に挿入される。シリアルポートインタフェース１０５０は、例えばマウス１１１０、キーボード１１２０に接続される。ビデオアダプタ１０６０は、例えばディスプレイ１１３０に接続される。
【０１４８】
ハードディスクドライブ１０９０は、例えば、ＯＳ１０９１、アプリケーションプログラム１０９２、プログラムモジュール１０９３、プログラムデータ１０９４を記憶する。すなわち、マスク計算装置１０の各処理を規定するプログラムは、コンピュータにより実行可能なコードが記述されたプログラムモジュール１０９３として実装される。プログラムモジュール１０９３は、例えばハードディスクドライブ１０９０に記憶される。例えば、マスク計算装置１０における機能構成と同様の処理を実行するためのプログラムモジュール１０９３が、ハードディスクドライブ１０９０に記憶される。なお、ハードディスクドライブ１０９０は、ＳＳＤにより代替されてもよい。
【０１４９】
また、上述した実施形態の処理で用いられる設定データは、プログラムデータ１０９４として、例えばメモリ１０１０やハードディスクドライブ１０９０に記憶される。そして、ＣＰＵ１０２０が、メモリ１０１０やハードディスクドライブ１０９０に記憶されたプログラムモジュール１０９３やプログラムデータ１０９４を必要に応じてＲＡＭ１０１２に読み出して実行する。
【０１５０】
なお、プログラムモジュール１０９３やプログラムデータ１０９４は、ハードディスクドライブ１０９０に記憶される場合に限らず、例えば着脱可能な記憶媒体に記憶され、ディスクドライブ１１００等を介してＣＰＵ１０２０によって読み出されてもよい。あるいは、プログラムモジュール１０９３及びプログラムデータ１０９４は、ネットワーク（ＬＡＮ（Local  Area  Network）、ＷＡＮ（Wide  Area  Network）等）を介して接続された他のコンピュータに記憶されてもよい。そして、プログラムモジュール１０９３及びプログラムデータ１０９４は、他のコンピュータから、ネットワークインタフェース１０７０を介してＣＰＵ１０２０によって読み出されてもよい。
【０１５１】
プログラムモジュール１０９３は、マスク計算装置１０、マスク計算ニューラルネットワーク学習装置２０、マスク計算装置３０、又はクラスタ重み学習装置４０のうちの少なくとも１つの各処理を規定するプログラムとすることができる。
【符号の説明】
【０１５２】
１０、３０  マスク計算装置
２０  マスク計算ニューラルネットワーク学習装置
４０  クラスタ重み学習装置
１０１、２０１、３０１、４０１  特徴量抽出部
１０２、２０２、３０２、４０２  マスク計算部
１０３、３０３  目的信号計算部
１２１、２２１、４２１  目的話者特徴量抽出部
１２２、２２２、３２２、４２２  クラスタ重み計算部
１４０、２４０、３４０、４４０  記憶部
２０３、４０３  エラー計算部
２０４  マスク計算ＮＮパラメータ微分値計算部
２０５  マスク計算ＮＮパラメータ更新部
２０６、４０６  収束判定部
２２３  クラスタ重み計算ＮＮパラメータ微分値計算部
２２４  クラスタ重み計算ＮＮパラメータ更新部
４０４  クラスタ重み微分値計算部
４０５  クラスタ重み更新部
【図１】
0006764028.tif 000022
【図２】
0006764028.tif 000023
【図３】
0006764028.tif 000024
【図４】
0006764028.tif 000025
【図５】
0006764028.tif 000026
【図６】
0006764028.tif 000027
【図７】
0006764028.tif 000028
【図８】
0006764028.tif 000029
【図９】
0006764028.tif 000030
【図１０】
0006764028.tif 000031
【図１１】
0006764028.tif 000032