特別研究論文（査読済み）研究

題

目独立低ランク行列分析を用いたインタラクティブ音源分離システム

提出年月日

2021 年

2月

氏

名

大島 風雅

主

査

北村 大地

副

査

重田 和弘

副

査

柿元 健

香川高等専門学校
専攻科
創造工学専攻1日

Interactive Audio Source Separation System Using
Independent Low-Rank Matrix Analysis
Fuga Oshima
Advanced Course in Industrial and Systems Engineering
National Institute of Technology, Kagawa College
Abstract
Audio source separation is a technique for separating original sources from an observed mixture signal. For
example, it can be used for a pre-process of an automatic speech recognition system and remastering of existingmusic signals by users. In the former ap- plication, audio source separation is utilized for separating a target
speech signal and the other speech or background noise. Also, in the latter application, vocals and individual
musical instruments are estimated by the technique. In particular, audio source separation that does not utilize
any prior information about mixing system is called blind source separation (BSS). BSS has mainly beendeveloped based on the algorithm called independent component analysis (ICA). The state-of-the-art BSS
algorithm is called independent low-rank matrix analysis (ILRMA), which can achieve high quality audio source
separation in (over-)determined situations. However, the separation performance is of- ten degraded because of
the dependence of initial values for optimization parameters and the difference of optimization speeds of sourceand spatial models. This is due to the occurrence of a mismatch of estimated source permutations in certain
ranges (blocks) of frequency bands, which is called the block permutation problem. In this thesis, I investigate
the appropriate balance of optimization speeds between source and spatial models and clarify the relationshipbetween the behavior of the cost function and the separation performance in ILRMA. The experimental results
show that the convergence behaviors of the cost function value are significantly different in the cases of highand low-quality separation in ILRMA. This fact implies that we can expect the failure or success of separation
during the iterative optimization. On the basis of this findings, I extend the interactive audio source separation
system, which utilizes user annotations to achieve more robust and precise audio source separation.
Key Words: audio source separation, independent low-rank matrix analysis, user interaction

（和訳）
音源分離とは，複数の音源が混合している観測信号から混合前の音源を推定する技術である．この技術は，例えば音声認識の前段処理や既存の音楽信号のリマスタリング等に用いられる．前者では，目的
話者の音声信号とその他の音声や背景雑音等の分離に音源分離が活用される．また後者においては，ボーカルや個々の楽器音信号が音源分離によって推定される．特に，音源の混合系に関する事前情報を全く用いずに音源を分離する技術はブラインド音源分離（blind source separation: BSS）と呼ばれる．BSS
は主に独立成分分析と呼ばれる数理理 論に基づき，これまで発展してきた歴史を持つ．最先端の BSS
アルゴリズムは独立低ランク行列分析（independent low-rank matrix analysis: ILRMA）と呼ばれ，優決定な観測条件において高性能な音源分離を実現する．しかしながら，ILRMA の音源分離性能はパラメタの初期値依存性や音源・空間モデルの最適化速度の違いに依存して低下してしまう場合がある．これはブロックパーミュテーション問題と呼ばれる，まとまった周波数帯でのパーミュテーション不整合が発生するためである．本論文では，ILRMA における音源モデル及び空間モデルの目的関数の収束の様
子と音源分離性能の関係性を明らかにする．実験結果より，ILRMA の分離性能が良いときと悪いときの目的関数値の収束の様子は明らかに異なっていることを確認した．この事実は，ILRMA の反復最適化の途中であっても，分離の成否をある程度判断できることを示している．さらに，得られた知見に基づいて，ユーザアノテーションを活用するインタラクティブ音源分離システムに拡張することで，より頑健かつ高精度な音源分離システムを提案する.

目次
第1章

緒言

1

1.1

本論文の背景 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1

1.2

本論文の目的 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3

1.3

本論文の構成 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3

既存手法

5

2.1

まえがき . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

5

2.2

短時間フーリエ変換 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

5

2.3

ICA と FDICA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

62.4周波数領域における BSS（FDICA）の定式化 . . . . . . . . . . . . . . . .

7

2.5

IVA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

8

2.6

NMF . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

10

2.7

ILRMA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

13

2.8

更新式を一般化させた独立低ランク行列分析 . . . . . . . . . . . . . . . . .

15

2.9

インタラクティブ音源分離システム . . . . . . . . . . . . . . . . . . . . . .

15

2.10

アノテーションの活用方法 . . . . . . . . . . . . . . . . . . . . . . . . . . .

18

2.11

本章のまとめ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

20目的関数の挙動と音源分離性能の相関の調査

21

3.1

まえがき . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

21

3.2

ILRMA の初期値依存性 . . . . . . . . . . . . . . . . . . . . . . . . . . . .

21

3.3

モデルごとの目的関数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

22

3.4

実験 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

22

3.5

本章のまとめ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

27

インタラクティブ音源分離システムへの拡張

28

4.1

まえがき . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

28

4.2

動機 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

28

4.3

開発システムの解説 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

28

4.4

実験 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

32

4.5

本章のまとめ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

37

第2章

第3章

第4章

第5章

結論

38

謝辞

39

参考文献

40

1

第1章

緒言
1.1 本論文の背景
音源分離とは，複数の音響信号が混ざった観測信号から混合前の信号を推定する技術である．この技術は，Fig. 1.1 に示す例のように，様々な場面で用いられている．例えば，スマー
トフォンやスマートスピーカーの音声認識機能において入力音声の前段処理として用いられている．これは端末に入力された信号から外部雑音や残響音を取り除いた目的信号のみを抽出することで認識性能を高めるためである．また，楽曲を各楽器ごとに分離することで，一度マスタリングされた楽曲のリマスタリングが可能となり，ユーザによる音楽の再編集を実現することで音楽文化の興隆につながっている．この音楽音源分離技術も既にいくつかの形で実用化が行われている．例として iZotope の RX8 [1] や Deezer の Spleeter [2] などは深層学習を利用
して 2 チャネルの混合信号をボーカル，ドラム及びベースの各楽器信号へ分離することができる．特に Spleeter は GitHub で公開されており [3]，簡単に利用することができる．
音源分離手法は主に音源数及びチャネル数の関係によって手法が大別される．Fig. 1.2 にその概要を示す．まず，劣決定条件（音源数 > チャネル数）の場合について述べる．一般的に mp3 形式や wav 形式の音楽信号はチャネル数が 1ch（モノラル）もしくは 2ch（ステレオ）
であり，そこに含まれる音源の数は 2 つより大きいことの方が多いため，通常の音楽音源分
離は劣決定条件の下で行われる．しかし，劣決定条件の音源分離を音源の性質や定位，残響長などの事前情報が無い状態で実現するのは困難である．そこで，劣決定条件での音源分離は楽器信号特有の時間周波数構造を手掛かりとして，非負値行列因子分解（nonnegative matrix

factorization: NMF）[4] を用いた音源分離手法 [5, 6, 7] が提案されている．一方で，決定的条
件（音源数 = チャネル数）もしくは優決定条件（音源数 < チャネル数）では，事前情報が無い
状態でも音響信号の統計的性質を利用することで分離を推定するブラインド音源分離（blindsource separation: BSS）[8] の手法が盛んに研究されている．独立成分分析（independent
component analysis: ICA）[9] は BSS の最も一般的な手法で，様々な手法が提案されている．
本研究で取り扱う独立低ランク行列分析（independent low-rank matrix analysis: ILRMA）[10, 11] もまた ICA を発展させた手法である．

2

第 1 章 緒言Fig. 1.1. Typical application examples of audio source separation technique.

(Over-)determined BSS

Under-determined BSS

Year
1994

Independent component
analysis (ICA) [9]1998

Frequency domain ICA [12]

1999

2006

Nonnegative matrix analysis(NMF) [4]Independent vector analysis[13, 14]2009

Itakura-Saito divergencebased NMF [20]2010Multichannel NMF [7]2016

Independent low-rank matrix analysis [10, 11]

Fig. 1.2. History of audio source separation techniques.

このように盛んに音源分離手法が研究され，人間の聴覚に対して違和感のない高品質な音源分離が実現している．一方で，偶発的に分離性能が低下することがある．これは ICA に基づ
く手法が反復最適化アルゴリズムであり，その最適化パラメタの初期値が乱数で与えられるために発生するものである．実際の応用では，分離結果がどの程度の性能であったかを知るには主観的に評価するしかないため，パラメタ初期値依存性による分離性能の変動は大きな問題である．そのため，最適化パラメタがどのように初期化されても常に高品質な音源分離が実現されるような初期値頑健性を持つ音源分離が必要とされている．

1.2 本論文の目的

3

1.2 本論文の目的
本論文では，最新の BSS 手法である ILRMA を用いた初期値頑健性を持つ音源分離の実現を目指す．ILRMA は反復最適化アルゴリズムである周波数領域 ICA（frequency-domain

ICA: FDICA）[12] 及び独立ベクトル分析（independent vector analysis: IVA）[13, 14] といった BSS 手法に NMF による音源モデルを導入し，観測信号を分離するフィルタ（空間モデル）と音源モデルを交互に反復最適化することでより高性能な音源分離を実現している．しかし音源モデルの初期値の乱数によって分離性能が低下してしまうことがある．これは交互に反復最適化する二つのモデルパラメタの最適化速度のバランスが悪いために局所最適解に陥りやすいためである．
本論文では，より良い分離が達成される最適化速度を実験により調査するとともに，二つのモデルの目的関数の挙動と分離性能の相関関係を調査するものである．また，それにより得られた知見を Fig. 1.3 のように既存のインタラクティブ音源分離システムに導入する．既存のインタラクティブ音源分離システムには，システムを初めて使うユーザには分離失敗を判定
し，アノテーションを与えるのが難しいという問題がある．しかし，本研究で得られた知見を活かすことでユーザの音源分離性能の判断基準が増え，アノテーションを誤って与えないようなシステムへと改善できる．

1.3 本論文の構成
2 章では，既存のブラインド音源分離の手法及びインタラクティブ音源分離システムの解説を行う．3 章では本論文で取り扱う手法のパラメタと性能の相関関係を実験により調査する．

4 章では 3 章で得られた知見を活かして既存のインタラクティブ音源分離システムの拡張を行

ILRMA
Predict separation performance fromconvergence behavior of cost function
value during iterative optimization

Interactive audio source
separation system

Re-estimate separated signals
based on user annotation

Construct new interactive audio source separation systemthat enables us to predict separation performance fromconvergence behavior of cost function value
Fig. 1.3. Extension of interactive audio source separation system.

4

第 1 章 緒言う．5 章では全ての章を総括した結言を述べる．

5

第2章

既存手法
2.1 まえがき
本章では，BSS の手法について説明する．まず，2.2 節では，短時間フーリエ変換について説明する．次に 2.3 節では，時間領域 BSS の問題点とパーミュテーション問題について説明する．2.4 節では，周波数領域 BSS の定式化を行う．2.5 節では，FDICA で発生する問題の解決のために提案された IVA，2.6 節では行列分解の手法の一つである NMF，2.7 節では，本研究で扱った ILRMA についてそれぞれ説明する．2.8 節では，反復更新式を一般化させた

ILRMA について説明する．また，2.9 節では ILRMA を用いたインタラクティブ音源分離シ
ステムについて，2.10 節ではシステムのパラメタの処理方法について説明する．

2.2 短時間フーリエ変換
短時間フーリエ変換（short-time Fourier transform: STFT）は Fig. 2.1 に示すような時間的に変化するスペクトルを表現するための手法である．STFT の分析窓関数の長さ及びシ
フト長をそれぞれ Q 及び τ としたとき，時間領域の信号 z[l] の j 番目の短時間区間信号（時間フレーム）は次式で表される．
Tz [j] = [z[(j − 1)τ + 1], z[(j − 1)τ + 2], · · · , z[(j − 1)τ + Q]]= [z [j] [1], z [j] [2], · · · , z [j] [q], · · · , z [j] [Q]]T ∈ RQ

(2.1)

ここで，l = 1, 2, · · · , L，j = 1, 2, · · · , J 及び q = 1, 2, · · · , Q はそれぞれ離散時間のインデクス，時間フレーム及び時間フレーム内のサンプルを示す．また，時間フレーム数 J は次式によって与えられる．

J=

L
τ

(2.2)

ただし，信号長 L はセグメント数 J が整数となるように各時間フレームの信号の両端にゼロを挿入する処理（ゼロパディング）が施される．そして，信号 z = [z[1], z[2], · · · , z[L]]T ∈ RL

6

第 2 章 既存手法

Time
domain時間領域

Time-frequency
domain時間周波数領域

Waveform
時間波形

Frequency…
Fourier transform
Windowfunction···<latexit sha1_base64="XY3LAI8RERHLt3Jt/EktUOkF7VA=">AAACh3ichVE7S8NQGD3G97vqIrgUS8WpfpHia1JcHNXaB7ZFknitsXmRpAUt/gEnN1EnBQdx9w+4+Acc/AniqODi4Jc0KCLqF5J77rnf+XIuR3UM3fOJHluk1rb2js6u7p7evv6BwdjQcM6za64msppt2G5BVTxh6JbI+rpviILjCsVUDZFXq8vBeb4uXE+3rQ1/3xFlU6lY+o6uKT5TuZJqNjYPt2IJSlFY8Z9AjkACUa3asVuUsA0bGmowIWDBZ2xAgcdPETIIDnNlNJhzGenhucAhelhb4y7BHQqzVf5WeFeMWIv3wUwvVGv8F4Nfl5VxJOmBrumF7umGnuj911mNcEbgZZ9XtakVztbg0Wjm7V+VyauP3S/Vn5597GAu9KqzdydkgltoTX394OQls7CebEzQJT2z/wt6pDu+gVV/1a7WxPr5H35U9hLEI3+lMs81m47AvPwZT246JVNKXksnFpejoLowhnFMchqzWMQKVpHl6Xs4xinOpG5pSpqR5pqtUkukGcG3kpY+APeWkm0=</latexit><latexit

Time
Spectrogram
Complex-valued matrix

Fourier transform

Fourier transform

Shift lengthZ<latexit sha1_base64="V/eOoxEjx3rwYPcOE8bTAcwcYgE=">AAACaXichVFNLwNRFD0dX1VfLZuGjWiIVXNHJMWqYWPZotWERmbGw+h0ZjLz2oTGH7CyE6xIRMTPsPEHLPoTxJLExsLtdEJEcCfz3nnn3XPfee/qrmX6kqgZUTo6u7p7or2xvv6BwaF4YrjoOzXPEAXDsRyvpGu+sExbFKQpLVFyPaFVdUus65Wl1v56XXi+6dhr8sAV5aq2a5s7pqFJpoqbxrYj/a14itIUxPhPoIYghTByTvwGm9iGAwM1VCFgQzK2oMHnbwMqCC5zZTSY8xiZwb7AEWKsrXGW4AyN2QqPu7zaCFmb162afqA2+BSLf4+V45ikR7qlF3qgO3qi919rNYIaLS8HPOttrXC3ho6Tq2//qqo8S+x9qf70LLGDucCryd7dgGndwmjr64enL6sLK5ONKbqiZ/Z/SU265xvY9VfjOi9WLhDjBqhf7z7PkZkNwbz62YDiTFqltJqfTWUXw1ZEMYYJTPN7Z5DFMnIo8Ln7OMEZziPPSkJJKqPtVCUSakbwLZTUB97TjIY=</latexit>

FFT length

Fig. 2.1. Mechanism of STFT.

の STFT は次式のように表される．

Z = STFTω (z) ∈ CI×J

(2.3)

また，スペクトログラム Z の (i, j) 番目の要素は次式で表される．

zij =

Q
X


[j]

ω[q]z [q] exp

q=1−ı2π(q − 1)(i − 1)
F


(2.4)

ここで i = 1, 2, · · · , I は周波数ビンのインデクスを，F は ⌊ F2 ⌋ + 1 = I を満たす整数（⌊·⌋ は床関数）を，ı は虚数単位を，ω は分析窓関数を示している．また，逆 STFT は合成窓関数 ω̃を用いて定義され，ISTFTω̃ (·) と記述される．
このように，時間領域の信号に対して一定幅の短時間ごとに分析窓関数を乗じて離散フーリ
エ変換を行うことで，横軸が時間，縦軸が周波数のスペクトログラムと呼ばれる複素行列 Zで表すことができる．

2.3 ICA と FDICAICA は優決定条件（マイクロホン数 > チャネル数）もしくは決定条件（マイクロホン数= チャネル数）における BSS として最も一般的な手法で，音源間の独立性が最大になるような分離行列を時間領域で推定する手法である．このような時間領域の BSS は時間領域の信号と混合行列の積で表される．しかし，実際の音響信号の混合は残響の影響で畳み込み混合になるため，単純な ICA で分離信号を推定することはできない．そこで，時間領域の観測信号に STFT を施して時間周波数領域の信号に変換し，各周波数において独立に ICA を適用する

FDICA [12] が提案されている．時間周波数領域では，残響長に対して STFT の窓関数長が十2.4 周波数領域における BSS（FDICA）の定式化

7分に大きい場合に，時間領域での畳み込み混合を時間周波数領域での瞬時混合（行列積）で表現できるため，FDICA は残響を含む混合信号の音源分離が可能となる．次節にて FDICA における各信号の定式化とパーミュテーション問題について説明する．

2.4 周波数領域における BSS（FDICA）の定式化
周波数領域の BSS の定式化を行う．複数の音源が混合している観測信号中の音源数及びチャネル数をそれぞれ N 及び M と定義する．Fig. 2.2 に N = M = 2 の場合の BSS の概略を示す．混合前の音源，観測信号及び分離信号に対して STFT したものをそれぞれ

sij = (sij,1 , sij,2 , · · · , sij,n , · · · , sij,N )T ∈ CN

(2.5)

xij = (xij,1 , xij,2 , · · · , xij,m , · · · , xij,M )T ∈ CM

(2.6)

yij = (yij,1 , yij,2 , · · · , yij,n , · · · , yij,N ) ∈ C

(2.7)

T

N

と定義する．ここで，n = 1, 2, · · · , N 及び m = 1, 2, · · · , M はそれぞれ音源及びチャネルのインデクスを表す．式 (2.5) から式 (2.7) と周波数ごとの時不変な（時間フレーム j に依存しない）混合行列 Ai ∈ CM ×N を用いると，混合時の残響長が STFT の短時間信号長（窓長）L
よりも十分に短い場合，観測信号は次式で表せる.

xij = Ai sij(2.8)

ここで，M = N かつ Ai がフルランクの場合は，分離行列 Wi = (wi1 wi2 · · · wiN )H ∈CN ×M が存在し，分離信号は次式で表せる．
yij = Wi xij(2.9)

ここで，H は行列またはベクトルのエルミート転置を表す．BSS は混合行列 Ai が未知の状態
で分離行列 Wi を全ての周波数 i = 1, 2, · · · , I において推定する問題である．

ICA を周波数領域に拡張した FDICA では，周波数領域の分離行列 Wi に次式の任意性が存在する．

Wi = Di Pi Wi(2.10)

ここで，Di ∈ CN ×N 及び Pi ∈ {0, 1}N ×N はそれぞれ任意の対角行列及びパーミュテーショ
ン行列である．つまり，分離行列のスケールとパーミュテーションに任意性が存在するため，
周波数ごとに分離信号のスケールと順序がばらばらとなる可能性がある．スケールの問題はプロジェクションバック法 [15] を用いて解決できる．しかし，順番の問題はパーミュテー
ション問題と呼ばれ，解決が困難である．パーミュテーション問題の概要を Fig. 2.3 に示す．

FDICA は周波数ビンごとに分離信号を推定するが，分離した信号がどのような順番で推定されるかは不定であり，分離行列の初期値に依存して決まる．よって，周波数ごとの分離が完璧に達成されていたとしても，分離信号が任意のパーミュテーション行列によって交換されるた
め，全ての周波数ビンにおいてパーミュテーション行列が一致していなければ音源分離は達成されない．パーミュテーション問題は様々な解決法が提案されており，後述の IVA や ILRMA
はパーミュテーション問題を回避する手法である．

8

第 2 章 既存手法

Ai

Wi

<latexit sha1_base64="zW58UJo6CA6GtarX8GLA1J+2Wzk=">AAACfXichVFNSxtBGH6yflSj1agXoZfQJKWHEt4tBUtPFi89+hUTSELY3Ux0yH6xOwnaJf0B/gEPniqKSNE/4cU/4MGfID1a6EXQN5sFsaHtO8zMM8+8zzvPzJi+LUNFdJPSRkbHxl9MTKanpl/OzGbm5rdCrxNYomR5thdUTCMUtnRFSUlli4ofCMMxbVE22yv9/XJXBKH03E2154u6Y2y7siUtQzHVyCzWHNPbjWqmZzcdQ+1k85/zvUYke41MjooUR3YY6AnIIYlVL3OKGprwYKEDBwIuFGMbBkJuVegg+MzVETEXMJLxvkAPadZ2OEtwhsFsm8dtXlUT1uV1v2YYqy0+xeYesDKLAl3TGd3RFf2gW7r/a60ortH3ssezOdAKvzG7v7jx+78qh2eFnSfVPz0rtPAx9irZux8z/VtYA33368Hdxqf1QvSGjugn+/9ON3TJN3C7v6yTNbF+iDR/gP7ncw+DrfdFnYr62ofc8kryFRN4hdd4y++9hGV8wSpKfO43HOMcF6kHraC904qDVC2VaBbwLLSlR40Jk7I=</latexit><latexit sha1_base64="j/XMgTWefeddKZyEi0zX2ErO6do=">AAACi3ichVG7SgNBFD2u72eiNoKNGBSrcFcFJVgIIlj6ihETCbvrqEP2xe4moEt+wFqwEAUFC7H3B2z8AQs/QSwVbCy8u1kQFfUOM3PmzD13znB115R+QPTYpDS3tLa1d3R2dff09qXS/QMbvlP1DJE3HNPxNnXNF6a0RT6QgSk2XU9olm6Kgl5ZiO4LNeH50rHXgwNXbFvani13paEFTG2VdCss1MuhrJfTGcpSHCM/gZqADJJYdtK3KGEHDgxUYUHARsDYhAafRxEqCC5z2wiZ8xjJ+F6gji7WVjlLcIbGbIXXPT4VE9bmc1TTj9UGv2Ly9Fg5gjF6oGt6oXu6oSd6/7VWGNeIvBzwrje0wi2njobW3v5VWbwH2P9U/ek5wC5mY6+SvbsxE/3CaOhrhycva7nVsXCcLumZ/V/QI93xD+zaq3G1IlZP//Cjs5eoPer3ZvwEG5NZlbLqynRmfiFpVAeGMYoJ7sYM5rGEZeS5uo1jnOFc6VWmlJwy10hVmhLNIL6EsvgBIyKT9w==</latexit>

Source signal

Observed signal

sij

xij

<latexit sha1_base64="Tu23FpeLMwpi72W2tvCMKVsysfU=">AAACjHichVHLSsNAFL2Nr1ofrboR3BRLxVW5kYIvBEEQl31YLbSlJHHUsXmRpIUa+gPuxYWgKLgQ9/6AG3/ART9BXFZw48KbNFhErDdM5syZe+6cmSubKrcdxHZIGBgcGh4Jj0bGxicmo7Gp6T3bqFsKKyiGalhFWbKZynVWcLijsqJpMUmTVbYv17a8/f0Gs2xu6LtO02QVTTrS+SFXJIeoUlnWXLtVdflJqxpLYAr9iP8GYgASEETGiD1CGQ7AAAXqoAEDHRzCKkhg01cCERBM4irgEmcR4v4+gxZESFunLEYZErE1+h/RqhSwOq29mravVugUlYZFyjgk8QXvsYPP+ICv+PlnLdev4Xlp0ix3tcysRs9m8x//qjSaHTjuqfp6duAQVnyvnLybPuPdQunqG6cXnfxaLuku4C2+kf8bbOMT3UBvvCt3WZa77ONHJi9ee8ReV1YpltMBWBW/27O3lBIxJWbTic2toFFhmIN5WKRuLMMm7EAGCv57nsMVXAuTQlpYFza6qUIo0MzAjxC2vwCOtpTi</latexit>

Estimated signal

yij<latexit sha1_base64="74oDPAwYrb30M6Ja4tu8jZqT78g=">AAACjHichVHLSsNAFL2Nr1ofrboR3BSL4qrcSKFWEQoFcdmHVaFKSeK0js2LJC3W0B9wLy4ERcGFuPcH3PgDLvoJ4lLBjQtv0qCIqDdM5syZe+6cmSubKrcdxG5I6OsfGBwKD0dGRsfGo7GJyU3baFoKKyuGaljbsmQzleus7HBHZdumxSRNVtmW3Mh5+1stZtnc0Dectsl2Namu8xpXJIeoyo6suYedqssPOtVYApPoR/wnEAOQgCDyRuwOdmAPDFCgCRow0MEhrIIENn0VEAHBJG4XXOIsQtzfZ9CBCGmblMUoQyK2Qf86rSoBq9Paq2n7aoVOUWlYpIzDHD7iDb7gA97iE77/Wsv1a3he2jTLPS0zq9Hj6dLbvyqNZgf2v1R/enagBku+V07eTZ/xbqH09K2j05fScnHOnccrfCb/l9jFe7qB3npVrgusePaHH5m8eO0Rv7qSoUinApARP9uzuZgUMSkWUolsLmhUGGZgFhaoG2nIwjrkoey/5wmcw4UwLqSEFWG1lyqEAs0UfAth7QOZapTn</latexit><latexit sha1_base64="PZQb03nBJsp/F5dlAL9CX5xBuOg=">AAACjHichVHLSsNAFL2Nr1q1Vt0IbopFcVVupKBVBEEQl33YVqhSkjjVsXmRpIUa+gPuxYWgKLgQ9/6AG3/ART9BXFZw48KbNFhErDdM5syZe+6cmSubKrcdxHZIGBgcGh4Jj0bGxieik7Gp6aJt1C2FFRRDNaw9WbKZynVWcLijsj3TYpImq6wk17a8/VKDWTY39F2nabIDTTrSeZUrkkNUeV/W3Gar4vKTViWWwCT6Ef8NxAAkIIiMEXuEfTgEAxSogwYMdHAIqyCBTV8ZREAwiTsAlziLEPf3GbQgQto6ZTHKkIit0f+IVuWA1Wnt1bR9tUKnqDQsUsZhAV/wHjv4jA/4ip9/1nL9Gp6XJs1yV8vMyuTZbP7jX5VGswPHPVVfzw5UYdX3ysm76TPeLZSuvnF60cmv5RbcRbzFN/J/g218ohvojXflLstyl338yOTFa4/Y60qaYiUVgLT43Z7iclLEpJhNJTa3gkaFYQ7mYYm6sQKbsAMZKPjveQ5XcC1EhZSwLmx0U4VQoJmBHyFsfwGbjpTo</latexit>

Fig. 2.2. Outline of BSS, where N = M = 2.
Estimated signal 1

.b
Fr
eq

Source 1…

in

Separated signal 1<latexit sha1_base64="AycCZy3lO4lj9MxZ80kMMoDACDU=">AAACi3ichVG7SgNRED1ZXzG+ojaCjRgUqzCrgg8sAiJYqjG+JeyuN7pkX+xuAnHJD1gLFqKgYCH2/oCNP2DhJ4ilgo2Fk82qqKhzuXfmnpkz91xGdQzd84nuY1JDY1NzS7w10dbe0dmV7O5Z8eySq4mcZhu2u6YqnjB0S+R83TfEmuMKxVQNsaoWZ2v51bJwPd22lv2KI7ZNZdfSC7qm+AxtbKlmsF7NB3I1n0zJaQptgH4E76kUIluwk9fYwg5saCjBhIAFn2MDCjxem5BBcBjbRsCYy5Ee5gWqSDC3xFWCKxRGi3zu8m0zQi2+13p6IVvjVwzeLjMHMER3dElPdEtX9ECvv/YKwh41LRX2ap0rnHzXQV/25V+Wyd7H3ifrT80+CpgMteqs3QmR2i+0Or+8f/SUnV4aCobpnB5Z/xnd0w3/wCo/axeLYun4Dz0qa/k2nim2ifEomJI/xrMympYpLS+OpzKZaFBx9GMQIzyNCWQwjwXkuLuFQ5zgVOqQxqRpaaZeKsUiTi++mDT3Btc2lBo=</latexit>

Observed 1

Permutation
Solver Separated signal 2

Estimated signal 2
Fre
q

.

FDICA
Source 2

Y1

Observed 2<latexit sha1_base64="z4991w++ZBH6ercN0ljganizVbM=">AAACi3ichVG5SsRQFD3GfR+1EWwGB8VquJkFR7EYEMHSbdxlSOIbDWYjyQxomB+wFixEQcFC7P0BG3/Awk8QSwUbC28yEbFQb0jeeefdc3MeR3UM3fOJnpqk5pbWtvaOzq7unt6+/sTA4KpnV11NlDTbsN11VfGEoVui5Ou+IdYdVyimaog19WA2PF+rCdfTbWvFP3TEjqnsWXpF1xSfqc1t1Qw26uUgUy8nUpSmfI4K+SQDmShTYJDNZTN5OSmnKaoU4lqwE3fYxi5saKjChIAFn7EBBR4/W5BBcJjbQcCcy0iPzgXq6GJtlbsEdyjMHvB3j3dbMWvxPpzpRWqN/2Lw67IyiTF6pBt6pQe6pWf6+HVWEM0IvRzyqja0win3Hw8vv/+rMnn1sf+t+tOzjwoKkVedvTsRE95Ca+hrR6evy9NLY8E4XdEL+7+kJ7rnG1i1N+16USyd/eFHZS9hPF8ZcCpTXJO5GEx9x7OaScuUlhdzqWIxDqoDIxjFBKcxiSLmsYAST7dwgnNcSL1SVpqWZhqtUlOsGcKPkuY+AT/LlE0=</latexit>

Tim
e

Y2

All frequency
components

Fig. 2.3. Permutation problem in FDICA.

2.5 IVAIVA は FDICA の多変量拡張であり，分離行列 Wi の推定と同時にパーミュテーション問
題をある程度回避できる BSS である．ここで音源，観測信号及び分離信号それぞれについて，
全ての周波数ビンに関する成分をまとめたベクトルを

sj,n = (s1j,n , s2j,n , · · · , sij,n , · · · , sIj,n )T ∈ CI

(2.11)

xj,m = (x1j,m , x2j,m , · · · , xij,m , · · · , xIj,m )T ∈ CI

(2.12)

y j,n = (y1j,n , y2j,n , · · · , yij,n , · · · , yIj,n ) ∈ C(2.13)

T

Iと定義する．Fig. 2.4 に M = N = 2 の場合の混合分離モデルを示す．IVA も FDICA のよ
うに周波数ごとに独立した分離行列 Wi を推定する．ただし，推定の過程で全周波数を含む I次元分布を生成モデルとして仮定し，I 次元ベクトル内の高次相関を仮定している．この IVAの生成モデルには，Fig. 2.5 で示すような球状対称ラプラス分布が用いられ，式 (2.14) で表

2.5 IVA
Observed
s gna

Source
s gna

y j,1

Dem x ng matr x<latexit sha1_base64="n3g1TbSbcm9hXxXuIAuArYXglfU=">AAACmnichVHLSsNQEB3j+9moCwVdFEvFhZSJFHysim4UN7ZaFayUJN7W2LxIbosa8gP+gAtXKi5E3foDbvwBF/0EcangxoWTNFhE1Ak3d+6ZOXPP5Si2rrkcsd4itLa1d3R2dff09vUPxMTBoU3Xqjoqy6uWbjnbiuwyXTNZnmtcZ9u2w2RD0dmWUlkK6ls15riaZW7wI5vtGnLZ1EqaKnOCiuJIwaJywPYKiuEd+n7RO5iW/KKYwBSGEf+ZSFGSgCjWLPEeCrAHFqhQBQMYmMAp10EGl74dkADBJmwXPMIcyrSwzsCHHuJWqYtRh0xohf5lOu1EqEnnYKYbslW6RaflEDMOSXzCa3zFR7zBZ/z4dZYXzgi0HNGuNLjMLsZORtff/2UZtHPYb7L+1MyhBHOhVo202yESvEJt8GvHp6/rC7mkN4kX+EL6z7GOD/QCs/amXmVZ7uwPPQppCeyRmq7MU8ymo2Re+rJncyYlYUrKphOZTGRUF4zBBEyRG7OQgWVYg3yo6hJu4U4YFxaFFWG10Sq0RJxh+BbCxicfV5o5</latexit><latexit sha1_base64="asproCYiSB4VWDO0FNPlBTBYspE=">AAACmnichVHLSsNQEB3jq76jLhR0IZaKCykTEaquim4UNz5aW7AlJPFWr+ZFkhZqyA/4Ay5cqbgQdesPuPEHXPgJ4rKCGxdO0qCIqBNu7twzc+aey1Ftnbse4lOL0NrW3tGZ6Oru6e3rHxAHh7Zdq+poLK9ZuuUUVcVlOjdZ3uOezoq2wxRD1VlBPVwO64Uac1xumTmvbrOyoeyZvMI1xSNIFkdKFpVDtl9SDb8eBLJ/MCMFspjENEYx8TOR4iQJcaxb4h2UYBcs0KAKBjAwwaNcBwVc+nZAAgSbsDL4hDmU8ajOIIBu4lapi1GHQugh/ffotBOjJp3DmW7E1ugWnZZDzAlI4SNeYQMf8Bqf8f3XWX40I9RSp11tcpktDxyPbr39yzJo92D/i/WnZg8qMB9p5aTdjpDwFVqTXzs6aWwtbqb8KTzHF9J/hk94Ty8wa6/a5QbbPP1Dj0paQnukL1cWKDJzcbIgfdqzPZuWMC1tzCWz2dioBIzBJEyTGxnIwgqsQz5SdQE3cCuMC0vCqrDWbBVaYs4wfAsh9wEhfZo6</latexit>

W1 = y j,2xj,2 ⇥<latexit sha1_base64="oVTTg1jAPWNtmJwaDlIULGbkAD4=">AAACi3ichVHLSsNQFBzjq76rbgQ3YlFclRMV1OKiIILLtlorPihJvNZgXiRpoYb+gGvBhSgouBD3/oAbf8CFnyAuFdy48CQNioh6QnLnzj1zMpdRHUP3fKLHFqm1rb2jM9HV3dPb1z+QHBxa9+yqq4miZhu2u6EqnjB0SxR93TfEhuMKxVQNUVIPlsLzUk24nm5ba37dETumUrH0PV1TfKY2t1UzKDXKgdwoJ1OUpqjGfgI5BinElbOTt9jGLmxoqMKEgAWfsQEFHj9bkEFwmNtBwJzLSI/OBRroZm2VuwR3KMwe8LfCu62YtXgfzvQitcZ/Mfh1WTmGCXqga3qhe7qhJ3r/dVYQzQi91HlVm1rhlAeORlbf/lWZvPrY/1L96dnHHuYjrzp7dyImvIXW1NcOT15WM4WJYJIu6Zn9X9Aj3fENrNqrdpUXhdM//KjsJYxH/kplgWtuNgYL8mc869NpmdJyfjaVzcZBJTCKcUxxGnPIYgU5FHm6hWOc4Vzqk2akjLTYbJVaYs0wvpW0/AHQ1pQX</latexit>

···

···

W2

AI

=

⇥

WI =

<latexit sha1_base64="nnf42k6qyHjfP/ygCS0vqRRJeUo=">AAACh3ichVFNLwNRFD0dX63PYiOxEQ2xqjvSaGtVsbHU0pIgMjMehunMZOa1STX9A1Z2ghWJhdj7Azb+gIWfIJYkNhZupxMigjuZeeedd8+d83J01zJ9SfQYUdraOzq7orHunt6+/oH44FDJdyqeIYqGYznemq75wjJtUZSmtMSa6wmtrFtiVT9YaJ6vVoXnm469Imuu2Cxru7a5YxqaZKq0YWw70t+KJyhJQY39BGoIEghryYnfYgPbcGCggjIEbEjGFjT4/KxDBcFlbhN15jxGZnAu0EA3ayvcJbhDY/aAv7u8Ww9Zm/fNmX6gNvgvFr8eK8cwQQ90TS90Tzf0RO+/zqoHM5pearzqLa1wtwaORpbf/lWVeZXY+1L96VliB5nAq8ne3YBp3sJo6auHJy/Lc4WJ+iRd0jP7v6BHuuMb2NVX4yovCud/+NHZS4PjUb9SyXKlUyHIqp/xlGaSKiXVfCqRy4VBRTGKcUxxGmnksIglFHn6Po5xijMlpkwrs0qm1apEQs0wvpUy/wHuIpJm</latexit><latexit sha1_base64="2NwUxUBI7HVB2dKaI5EkV/dCKdA=">AAACi3ichVHLSsNQFBzj+9mqG8GNWBRX5UQLtcVFQQSXvmrFByWJ1xqaF0la0NAfcC24EAUFF+LeH3DjD7jwE8SlghsXnqRBEVFPSO7cuWdO5jKqY+ieT/TYIrW2tXd0dnX39Pb1DySSg0Prnl1zNVHUbMN2N1TFE4ZuiaKv+4bYcFyhmKohSmp1Pjwv1YXr6ba15h84YsdUKpa+p2uKz9TmtmoGpUY5mG6UkylKU1RjP4EcgxTiWrKTt9jGLmxoqMGEgAWfsQEFHj9bkEFwmNtBwJzLSI/OBRroYW2NuwR3KMxW+Vvh3VbMWrwPZ3qRWuO/GPy6rBzDBD3QNb3QPd3QE73/OiuIZoReDnhVm1rhlBNHI6tv/6pMXn3sf6n+9OxjD7ORV529OxET3kJr6uuHJy+r+ZWJYJIu6Zn9X9Aj3fENrPqrdrUsVk7/8KOylzAe+SuVHFc2E4Oc/BnP+nRaprS8nEkVCnFQXRjFOKY4jSwKWMQSijzdwjHOcC71SzNSXpprtkotsWYY30pa+ADS9ZQY</latexit><latexit sha1_base64="nnf42k6qyHjfP/ygCS0vqRRJeUo=">AAACh3ichVFNLwNRFD0dX63PYiOxEQ2xqjvSaGtVsbHU0pIgMjMehunMZOa1STX9A1Z2ghWJhdj7Azb+gIWfIJYkNhZupxMigjuZeeedd8+d83J01zJ9SfQYUdraOzq7orHunt6+/oH44FDJdyqeIYqGYznemq75wjJtUZSmtMSa6wmtrFtiVT9YaJ6vVoXnm469Imuu2Cxru7a5YxqaZKq0YWw70t+KJyhJQY39BGoIEghryYnfYgPbcGCggjIEbEjGFjT4/KxDBcFlbhN15jxGZnAu0EA3ayvcJbhDY/aAv7u8Ww9Zm/fNmX6gNvgvFr8eK8cwQQ90TS
sha1_base64="nnf42k6qyHjfP/ygCS0vqRRJeUo=">AAACh3ichVFNLwNRFD0dX63PYiOxEQ2xqjvSaGtVsbHU0pIgMjMehunMZOa1STX9A1Z2ghWJhdj7Azb+gIWfIJYkNhZupxMigjuZeeedd8+d83J01zJ9SfQYUdraOzq7orHunt6+/oH44FDJdyqeIYqGYznemq75wjJtUZSmtMSa6wmtrFtiVT9YaJ6vVoXnm469Imuu2Cxru7a5YxqaZKq0YWw70t+KJyhJQY39BGoIEghryYnfYgPbcGCggjIEbEjGFjT4/KxDBcFlbhN15jxGZnAu0EA3ayvcJbhDY/aAv7u8Ww9Zm/fNmX6gNvgvFr8eK8cwQQ90TS90Tzf0RO+/zqoHM5pearzqLa1wtwaORpbf/lWVeZXY+1L96VliB5nAq8ne3YBp3sJo6auHJy/Lc4WJ+iRd0jP7v6BHuuMb2NVX4yovCud/+NHZS4PjUb9SyXKlUyHIqp/xlGaSKiXVfCqRy4VBRTGKcUxxGmnksIglFHn6Po5xijMlpkwrs0qm1apEQs0wvpUy/wHuIpJm</latexit><latexit sha1_base64="nnf42k6qyHjfP/ygCS0vqRRJeUo=">AAACh3ichVFNLwNRFD0dX63PYiOxEQ2xqjvSaGtVsbHU0pIgMjMehunMZOa1STX9A1Z2ghWJhdj7Azb+gIWfIJYkNhZupxMigjuZeeedd8+d83J01zJ9SfQYUdraOzq7orHunt6+/oH44FDJdyqeIYqGYznemq75wjJtUZSmtMSa6wmtrFtiVT9YaJ6vVoXnm469Imuu2Cxru7a5YxqaZKq0YWw70t+KJyhJQY39BGoIEghryYnfYgPbcGCggjIEbEjGFjT4/KxDBcFlbhN15jxGZnAu0EA3ayvcJbhDY/aAv7u8Ww9Zm/fNmX6gNvgvFr8eK8cwQQ90TS90Tzf0RO+/zqoHM5pearzqLa1wtwaORpbf/lWVeZXY+1L96VliB5nAq8ne3YBp3sJo6auHJy/Lc4WJ+iRd0jP7v6BHuuMb2NVX4yovCud/+NHZS4PjUb9SyXKlUyHIqp/xlGaSKiXVfCqRy4VBRTGKcUxxGmnksIglFHn6Po5xijMlpkwrs0qm1apEQs0wvpUy/wHuIpJm</latexit><latexit sha1_base64="7eLFv7emigrRmGQVxrHEfOBUNM8=">AAACi3ichVHLSsNQFBzjq76rbgQ3Yqm4KicqqMVFRQTd+WorPihJvGowL5K0oKE/4FpwIQoKLsS9P+DGH3DhJ4jLCm5ceJIGRUQ9Iblz5545mcuojqF7PtFTg9TY1NzSmmhr7+js6u5J9vYVPLvsaiKv2YbtrquKJwzdEnlf9w2x7rhCMVVDFNWDufC8WBGup9vWmn/oiG1T2bP0XV1TfKY2tlQzmK2WgsVqKZmiDEU19BPIMUghriU7eYct7MCGhjJMCFjwGRtQ4PGzCRkEh7ltBMy5jPToXKCKdtaWuUtwh8LsAX/3eLcZsxbvw5lepNb4Lwa/LiuHkKZHuqEaPdAtPdP7r7OCaEbo5ZBXta4VTqnneGD17V+VyauP/S/Vn5597GIq8qqzdydiwltodX3l6LS2ml1JByN0RS/s/5Ke6J5vYFVetetlsXL2hx+VvYTxyF+pTHNNTsRgWv6MpzCWkSkjL0+kcrk4qAQGMYxRTmMSOSxgCXmebuEE57iQuqRxKSvN1FulhljTj28lzX8A1LyUGQ==</latexit><latexit sha1_base64="hwb3Zw/X+AAahDaSMTP/Hc5NlBk=">AAACmnichVHNLsRQFD7qb/wXCxIWYkIsZHIqk4yxmrAhNhjzkxiZtHWHS//SdiZG0xfwAhZWiIVg6wVsvICFRxDLkdhYOO00RASnub3nfud85343n2Jp3HERn1qE1rb2js5YV3dPb1//gDg4lHfMqq2ynGpqpl1UZIdp3GA5l7saK1o2k3VFYwXlYCmoF2rMdrhpbLp1i23r8q7BK1yVXYLK4kjJpHLA9kqK7h36ftnbn53zy2IcExjGxM9EipI4RLFmindQgh0wQYUq6MDAAJdyDWRw6NsCCRAswrbBI8ymjId1Bj50E7dKXYw6ZEIP6L9Lp60INegczHRCtkq3aLRsYk7AFD7iFTbwAa/xGd9/neWFMwItddqVJpdZ5YHj0ezbvyyddhf2vlh/anahAvOhVk7arRAJXqE2+bWjk0Z2YWPKm8ZzfCH9Z/iE9/QCo/aqXq6zjdM/9CikJbBH+nIlTZFKRkla+rQnP5eQMCGtJ+OZTGRUDMZgEmbIjRRkYBnWIBequoAbuBXGhUVhRVhttgotEWcYvoWw+QEhdpo6</latexit>

···

⇥

=

···

A2

<latexit sha1_base64="nnf42k6qyHjfP/ygCS0vqRRJeUo=">AAACh3ichVFNLwNRFD0dX63PYiOxEQ2xqjvSaGtVsbHU0pIgMjMehunMZOa1STX9A1Z2ghWJhdj7Azb+gIWfIJYkNhZupxMigjuZeeedd8+d83J01zJ9SfQYUdraOzq7orHunt6+/oH44FDJdyqeIYqGYznemq75wjJtUZSmtMSa6wmtrFtiVT9YaJ6vVoXnm469Imuu2Cxru7a5YxqaZKq0YWw70t+KJyhJQY39BGoIEghryYnfYgPbcGCggjIEbEjGFjT4/KxDBcFlbhN15jxGZnAu0EA3ayvcJbhDY/aAv7u8Ww9Zm/fNmX6gNvgvFr8eK8cwQQ90TS90Tzf0RO+/zqoHM5pearzqLa1wtwaORpbf/lWVeZXY+1L96VliB5nAq8ne3YBp3sJo6auHJy/Lc4WJ+iRd0jP7v6BHuuMb2NVX4yovCud/+NHZS4PjUb9SyXKlUyHIqp/xlGaSKiXVfCqRy4VBRTGKcUxxGmnksIglFHn6Po5xijMlpkwrs0qm1apEQs0wvpUy/wHuIpJm</latexit><latexit sha1_base64="whh5oant3i+8HV2IxDd4PZ+Rg84=">AAACi3ichVHLSsNQFBzjq76rbgQ3YlFclRMtqMVFRQSX9VEVH5Qk3mpoXiRpoYb+gGvBhSgouBD3/oAbf8CFnyAuFdy48CQNioh6QnLnzj1zMpdRHUP3fKLHJqm5pbWtPdHR2dXd09uX7B9Y9+yKq4mCZhu2u6kqnjB0SxR83TfEpuMKxVQNsaGWF8LzjapwPd221vyaI3ZNZd/SS7qm+Ext7ahmMF8vBpP1YjJFaYpq5CeQY5BCXHk7eYsd7MGGhgpMCFjwGRtQ4PGzDRkEh7ldBMy5jPToXKCOTtZWuEtwh8Jsmb/7vNuOWYv34UwvUmv8F4Nfl5UjGKMHuqYXuqcbeqL3X2cF0YzQS41XtaEVTrHvaGj17V+VyauPgy/Vn559lDATedXZuxMx4S20hr56ePKyml0ZC8bpkp7Z/wU90h3fwKq+alfLYuX0Dz8qewnjkb9SmeWazsRgVv6MZ30yLVNaXs6kcrk4qASGMYoJTmMaOSwhjwJPt3CMM5xLPdKUlJXmGq1SU6wZxLeSFj8Ao/OUAg==</latexit>

A1

···

<latexit sha1_base64="oYr0T8z7s5Q7pNjUknwe4xrF03w=">AAACi3ichVHLSsNQFBzj+111I7gploqrcqKCD1xURHDZWqvig5LEWw3mRZIWNPQHXAsuREHBhbj3B9z4Ay76CeJSwY0LT9KgiKgnJHfu3DMncxnVMXTPJ6o3Sc0trW3tHZ1d3T29ff2JgcE1z664mihqtmG7G6riCUO3RNHXfUNsOK5QTNUQ6+rBYni+XhWup9vWqn/oiB1T2bP0sq4pPlOb26oZLNRKgVwrJVKUoaiSP4EcgxTiytmJO2xjFzY0VGBCwILP2IACj58tyCA4zO0gYM5lpEfnAjV0sbbCXYI7FGYP+LvHu62YtXgfzvQitcZ/Mfh1WZlEmh7phl7ogW7pid5/nRVEM0Ivh7yqDa1wSv3Hw4W3f1Umrz72v1R/evZRxkzkVWfvTsSEt9Aa+urR6UthbiUdjNEVPbP/S6rTPd/Aqr5q13mxcvaHH5W9hPHIX6nMck1PxWBW/oxnbSIjU0bOT6Wy2TioDoxgFOOcxjSyWEYORZ5u4QTnuJB6pUlpTppvtEpNsWYI30pa+gCh1JQB</latexit><latexit sha1_base64="nnf42k6qyHjfP/ygCS0vqRRJeUo=">AAACh3ichVFNLwNRFD0dX63PYiOxEQ2xqjvSaGtVsbHU0pIgMjMehunMZOa1STX9A1Z2ghWJhdj7Azb+gIWfIJYkNhZupxMigjuZeeedd8+d83J01zJ9SfQYUdraOzq7orHunt6+/oH44FDJdyqeIYqGYznemq75wjJtUZSmtMSa6wmtrFtiVT9YaJ6vVoXnm469Imuu2Cxru7a5YxqaZKq0YWw70t+KJyhJQY39BGoIEghryYnfYgPbcGCggjIEbEjGFjT4/KxDBcFlbhN15jxGZnAu0EA3ayvcJbhDY/aAv7u8Ww9Zm/fNmX6gNvgvFr8eK8cwQQ90TS90Tzf0RO+/zqoHM5pearzqLa1wtwaORpbf/lWVeZXY+1L96VliB5nAq8ne3YBp3sJo6auHJy/Lc4WJ+iRd0jP7v6BHuuMb2NVX4yovCud/+NHZS4PjUb9SyXKlUyHIqp/xlGaSKiXVfCqRy4VBRTGKcUxxGmnksIglFHn6Po5xijMlpkwrs0qm1apEQs0wvpUy/wHuIpJm</latexit>

⇥
···

sj,2

Separated
s gna

xj,1

M x ng matr x

sj,1

9

<latexit sha1_base64="EYXM7aPe6jz5BSMUFbzfS8uSpkk=">AAACi3ichVHJSsNQFD3GqQ7VqhvBjVgUV+VGBQdcFETQXR3aigMliU8NZiJJCxr6A64FF6Kg4ELc+wNu/AEXfoK4rODGhTdpUESsNyTvvPPuuTmPozqG7vlEz01Sc0trW3uio7OrO9nTm+rrL3h22dVEXrMN291QFU8YuiXyvu4bYsNxhWKqhiiqhwvhebEiXE+3rXX/yBE7prJv6Xu6pvhMbW6rZlCsloLlaimVpgxFNfwbyDFII66cnbrHNnZhQ0MZJgQs+IwNKPD42YIMgsPcDgLmXEZ6dC5QRSdry9wluENh9pC/+7zbilmL9+FML1Jr/BeDX5eVwxilJ7qlGj3SHb3Qx5+zgmhG6OWIV7WuFU6p92Rw7f1flcmrj4NvVUPPPvYwE3nV2bsTMeEttLq+cnxWW5tbHQ3G6Jpe2f8VPdMD38CqvGk3K2L1vIEflb2E8cjfqcxyTU/FYFb+iqcwkZEpI69MpbPZOKgEhjCCcU5jGlksIYc8T7dwigtcSklpUpqT5uutUlOsGcCPkhY/AQPNlC8=</latexit>p(s⇤1j,n , s⇤2j,n )F g 2 4 M x ng and dem x ng mode n IVA where N = M = 2s⇤1j,ns⇤2j,nF g 2 5 Zero-mean and spher ca y symmetr c Lap ace d str but on where I = 2 ands∗j n can be cons dered as e ther rea or mag nary part of s j n

される．

p(y jn ) =

π


 v
u
uX yij n 2

exp −t
σ
σi n
i
n
i
i

1
Q

(2.14)

ここで，σi n はスケールパラメタである．式 (2.14) の多次元ラプラス分布は球対称性を持つため，同一ベクトル内の成分が高次相関を持つ．したがって，IVA は同時に生起する周波数成

10

第2章

既存手法

分を一つの音源としてまとめるという傾向がある．つまり，信号の基本周波数とその倍音成分が同一音源として扱われやすいと言える．このような「同一音源の周波数成分の共起性を仮定
した統計的音源モデル」により，FDICA で発生するパーミュテーション問題をある程度回避することができる．音源周波数ベクトル間の独立性 p(y j,1 , y j,2 , · · · , y j,N ) =Qn p(y i,n ) を仮定すると，IVA の観測信号に対する負対数尤度関数は次式で得られる．

L = −2J

X

log | det Wi | +iXG(y j,n )(2.15)

j,n

ここで，G(y j,n ) はコントラスト関数と呼ばれ，G(y j,n ) = − log p(y j,n ) で定義される．IVAの最適化は補助関数法 [22] を用いた手法によって高速かつ安定に行える [14, 16]．

2.6 NMF
NMF [4] とは行列分解の方法の一つである．NMF が他の行列分解の方法である LU 分解や固有値分解と異なるのは非負値行列を対象としている点である．また，NMF は対象とする非負値行列の低ランク性を仮定して分解することで，行列の潜在パタンを抽出できるアルゴリズ
ムである．そして，NMF は劣決定音源分離に適用することが可能である [5, 6, 7]．単一チャネルの音響信号を STFT することで得られるパワースペクトログラムの NMF による分解は次式で表される．

|Z|.2 = T V(2.16)

ここで，| · | は要素ごとの絶対値を，ドット付きの指数は要素ごとの累乗を示す．よって，|Z|.2
はパワースペクトログラムを表す．また，T ∈ RI×K
を基底行列，V ∈ RK×J
をアクティ
≥0
≥0
ベーション行列という．K は NMF の分解において手動で与えるパラメタであり，基底行列

T の列ベクトルの本数（基底ベクトル数）である．従って，行列積 T V のランクは K と一致し，通常は K ≪ min(I, J) となるように設定される．つまり，Fig. 2.6 に示すように単一チャネルの音響信号を対象とした NMF では，パワースペクトログラムに対して低ランク近似を行うことで，T が音響信号中の頻出スペクトルパタンとなり，V が各スペクトルパタンの発音タイミング（アクティベーション）となるような分解が可能である．また，基底行列 T とアクティベーション行列 V は次式の最小化問題の解として推定される．

min D(|Z|.2 |T V ) s.t. tik , vkj ≥ 0
T ,V∀i = 1, 2, ..., I, j = 1, 2, ..., J, k = 1, 2, ..., K(2.17)

ここで，tik 及び vkj は T 及び V の要素である．また，D(|Z|.2 |T V ) は 2 つの行列（|Z|.2
及び T V ）間の類似度を測る関数である．行列の類似度を図る関数には，次式で表される

2.6 NMF
Observed matrix(Power spectrogram)

Basis matrix(Spectral pattern)

Activation matrix(Time-series activity)|Z|.2 (I ⇥ J) ⇡ T (I ⇥ K)

V (K ⇥ J)<latexit sha1_base64="hwDXiM/mFL4a/J3t9l94E+Y5hjY=">AAACiHichVE7T8JQFD7UF+ID1MXEhUgwTuTUkCBORBdHHvJIgJC2XrShj5u2EJHwB9ycTGTSxMG4+wdc/AMO/ATjiImLg4fSSIwRT9Pe7373fKffzSdzTbUdxL5PmJqemZ3zzwcWFpeWg6GV1YJtNi2F5RVTM62SLNlMUw2Wd1RHYyVuMUmXNVaUGwfD82KLWbZqGkdOm7OqLp0Yal1VJIeoYkXi3DLPaqEIxtCt8G8geiACXqXN0CNU4BhMUKAJOjAwwCGsgQQ2PWUQAYETV4UOcRYh1T1n0IUAaZvUxahDIrZB3xPalT3WoP1wpu2qFfqLRq9FyjBE8QXvcYDP+ICv+PnnrI47Y+ilTas80jJeC16s5z7+Vem0OnA6Vk307EAddl2vKnnnLjO8hTLSt86vBrm9bLSzhbf4Rv5vsI9PdAOj9a7cZVi2N8GPTF66FI84TiVJlYh7ICl+x1PYiYkYEzPxSCrlBeWHDdiEbUojASk4hDTk3emXcA09ISCgkBCSo1bB52nW4EcJ+18fCJLt</latexit><latexit<latexit sha1_base64="0HxgFjSBBL75AsjlCJ9/eBJgSW8=">AAACh3ichVE9S8NQFD3Gr/pddRFcxKI41RsRbZ0UQRz9ahW0lCS+1mi+SNJCLf4BJzdRJwUHcfcPuPgHHPoTxLGCi4M3aVBErDck77zz7rk5j6M6hu75RLUWqbWtvaMz1tXd09vXPxAfHMp6dsnVREazDdvdURVPGLolMr7uG2LHcYViqobYVo+Wg/PtsnA93ba2/IojcqZStPSCrik+U9k91axmT/LxBCUprLHfQI5AAlGt2fEH7GEfNjSUYELAgs/YgAKPn13IIDjM5VBlzmWkh+cCJ+hmbYm7BHcozB7xt8i73Yi1eB/M9EK1xn8x+HVZOYYJeqY7qtMT3dMLffw5qxrOCLxUeFUbWuHkB05HNt//VZm8+jj4VjX17KOAVOhVZ+9OyAS30Br68vF5fXNhY6I6STf0yv6vqUaPfAOr/KbdrouNqyZ+VPYSxCN/p5Lmmp+NQFr+iic7k5QpKa/PJhZXoqBiGMU4pjiNeSxiFWvI8PRDnOECl1KXNC3NSalGq9QSaYbxo6SlT/ABkmw=</latexit><latexit<latexit sha1_base64="/9YqheTqLE0S/jkV2jBX03sjZMA=">AAACh3ichVFNL8RQFD3qe3wNNhIbMSFW41YmGCsiEUtmzEcyRNp6Rk2/0nYmGRN/wMpOsCKxEHt/wMYfsPATxJLExsJtpyEiuE37zjvvntvzclTH0D2f6LFFam1r7+js6o719Pb1D8QHh/KeXXU1kdNsw3aLquIJQ7dEztd9QxQdVyimaoiCWlkOzgs14Xq6bW34dUdsmUrZ0nd1TfGZym+qZmPjcDueoCSFNfYTyBFIIKo1O36LTezAhoYqTAhY8BkbUODxU4IMgsPcFhrMuYz08FzgEDHWVrlLcIfCbIW/Zd6VItbifTDTC9Ua/8Xg12XlGCboga7phe7php7o/ddZjXBG4KXOq9rUCmd74Ggk+/avyuTVx96X6k/PPnYxH3rV2bsTMsEttKa+dnDykl3ITDQm6ZKe2f8FPdId38CqvWpX6yJz/ocflb0E8chfqaS55lIRSMuf8eRnkjIl5fVUYnElCqoLoxjHFKcxh0WsYg05nr6PY5ziTOqWpqVZab7ZKrVEmmF8K2npA+vDkmo=</latexit><latexit<latexit sha1_base64="44y+E78nocm5as/0zb5MHcY7I90=">AAACjXichVHLLgRBFD3a+zmDjcRmYkLYTG4L8YjIJBaEjdcgMSLdrVDRr3TXTMLED/gAFhYeiYXY+wEbP2DhE8SSxMbCnZ4OEcHtdNepU/fcPpVj+rYMFdFjlVZdU1tX39DY1NzS2pZItneshF4hsETO8mwvWDONUNjSFTkllS3W/EAYjmmLVXNvqny+WhRBKD13We37YsMxdly5LS1DMZXvn0vllXREmJod2EymKUNRpX4CPQZpxDXvJW+RxxY8WCjAgYALxdiGgZCfdegg+MxtoMRcwEhG5wKHaGJtgbsEdxjM7vF3h3frMevyvjwzjNQW/8XmN2BlCr30QNf0Qvd0Q0/0/uusUjSj7GWfV7OiFf5m4qhr6e1flcOrwu6X6k/PCtsYjbxK9u5HTPkWVkVfPDh5WRpf7C310SU9s/8LeqQ7voFbfLWuFsTi6R9+TPZyyPHoX6mMcY0MxWBM/4xnZTCjU0ZfGEpns3FQDehGD/o5jRFkMYN55Hi6j2Oc4VxLaMPahDZZadWqYk0nvpU2/QFWwJPN</latexit><latexit sha1_base64="ilfTFurpdyxGRTuo9J9MWRu8t/I=">AAACjXichVHLLgRBFD3a+zmDjcRmYkLYTG4L8YjIJBaIjdcgMSLdrVDRr3TXTMLED/gAFhYeiYXY+wEbP2DhE8SSxMbCnZ4OEcHtdNepU/fcPpVj+rYMFdFjlVZdU1tX39DY1NzS2pZItneshF4hsETO8mwvWDONUNjSFTkllS3W/EAYjmmLVXNvqny+WhRBKD13We37YsMxdly5LS1DMZXvn03llXREmJob2EymKUNRpX4CPQZpxDXvJW+RxxY8WCjAgYALxdiGgZCfdegg+MxtoMRcwEhG5wKHaGJtgbsEdxjM7vF3h3frMevyvjwzjNQW/8XmN2BlCr30QNf0Qvd0Q0/0/uusUjSj7GWfV7OiFf5m4qhr6e1flcOrwu6X6k/PCtsYjbxK9u5HTPkWVkVfPDh5WRpf7C310SU9s/8LeqQ7voFbfLWuFsTi6R9+TPZyyPHoX6mMcY0MxWBM/4xnZTCjU0ZfGEpns3FQDehGD/o5jRFkMYN55Hi6j2Oc4VxLaMPahDZZadWqYk0nvpU2/QFUj5PM</latexit><latexit sha1_base64="ZAxhYOjShDxeWwttSssNbSJthzE=">AAACjXichVG5SsRQFD3GfZ1RG8FmcFC0GW5EcUFkwMKlchsVHJEkPvVhNpI3Azr4A36AFhYuYCH2/oCNP2DhJ4ilgo2FdzJBEVFvSN55591zcx7H9G0ZKqLHKq26prauvqGxqbmltS2RbO9YCb1CYImc5dlesGYaobClK3JKKlus+YEwHNMWq+beVPl8tSiCUHrustr3xYZj7LhyW1qGYirfP5vKK+mIMDU3sJlMU4aiSv0EegzSiGveS94ijy14sFCAAwEXirENAyE/69BB8JnbQIm5gJGMzgUO0cTaAncJ7jCY3ePvDu/WY9blfXlmGKkt/ovNb8DKFHrpga7phe7php7o/ddZpWhG2cs+r2ZFK/zNxFHX0tu/KodXhd0v1Z+eFbYxGnmV7N2PmPItrIq+eHDysjS+2Fvqo0t6Zv8X9Eh3fAO3+GpdLYjF0z/8mOzlkOPRv1IZ4xoZisGY/hnPymBGp4y+MJTOZuOgGtCNHvRzGiPIYgbzyPF0H8c4w7mW0Ia1CW2y0qpVxZpOfCtt+gNScJPL</latexit><latexit sha1_base64="hwDXiM/mFL4a/J3t9l94E+Y5hjY=">AAACiHichVE7T8JQFD7UF+ID1MXEhUgwTuTUkCBORBdHHvJIgJC2XrShj5u2EJHwB9ycTGTSxMG4+wdc/AMO/ATjiImLg4fSSIwRT9Pe7373fKffzSdzTbUdxL5PmJqemZ3zzwcWFpeWg6GV1YJtNi2F5RVTM62SLNlMUw2Wd1RHYyVuMUmXNVaUGwfD82KLWbZqGkdOm7OqLp0Yal1VJIeoYkXi3DLPaqEIxtCt8G8geiACXqXN0CNU4BhMUKAJOjAwwCGsgQQ2PWUQAYETV4UOcRYh1T1n0IUAaZvUxahDIrZB3xPalT3WoP1wpu2qFfqLRq9FyjBE8QXvcYDP+ICv+PnnrI47Y+ilTas80jJeC16s5z7+Vem0OnA6Vk307EAddl2vKnnnLjO8hTLSt86vBrm9bLSzhbf4Rv5vsI9PdAOj9a7cZVi2N8GPTF66FI84TiVJlYh7ICl+x1PYiYkYEzPxSCrlBeWHDdiEbUojASk4hDTk3emXcA09ISCgkBCSo1bB52nW4EcJ+18fCJLt</latexit><latexit<latexit sha1_base64="2ANpylFWRCvtZIFY6y1RM+/r2ps=">AAACgnichVE9S8NQFD3G+v3RqovgIpaKOJQbLdSKQ8FFN6u2Clokic8ami+StKDFP6Cr4uCk4CDu/gEX/4CDP0EcFVwcvEmDImK9IXnnnXfPzXkc1TF0zyd6apPaYx2dXd09vX39A4PxxNBwybNrriaKmm3Y7qaqeMLQLVH0dd8Qm44rFFM1xIZaXQzON+rC9XTbWvcPHFE2lYql7+ma4jNVWN5JJClNYY3/BnIEkohqxU7cYRu7sKGhBhMCFnzGBhR4/GxBBsFhrowGcy4jPTwXOEIva2vcJbhDYbbK3wrvtiLW4n0w0wvVGv/F4Ndl5ThS9Eg39EoPdEvP9PHnrEY4I/BywKva1ApnJ348uvb+r8rk1cf+t6qlZx97mAu96uzdCZngFlpTXz88f12bX001JumKXtj/JT3RPd/Aqr9p1wWxetHCj8pejjge+TuVHFc2E4Gc/BVPaSYtU1ouZJL5fBRUN8YwgSlOI4s8lrCCIk8XOMEpzqSYNC3J0myzVWqLNCP4UdLCJ4rXkAQ=</latexit><latexit<latexit sha1_base64="srF1vQUo1+qhAQ4E6LXWeAdA/JM=">AAACgnichVE9S8NQFD3G+v3RqovgIpaKOJQbLdSKQ8FFcLFqq6BFkvisofkiSQta/AO6Kg5OCg7i7h9w8Q84+BPEUcHFwZs0KCLWG5J33nn33JzHUR1D93yipzapPdbR2dXd09vXPzAYTwwNlzy75mqiqNmG7W6qiicM3RJFX/cNsem4QjFVQ2yo1cXgfKMuXE+3rXX/wBFlU6lY+p6uKT5TheWdRJLSFNb4byB<latexit
sha1_base64="srF1vQUo1+qhAQ4E6LXWeAdA/JM=">AAACgnichVE9S8NQFD3G+v3RqovgIpaKOJQbLdSKQ8FFcLFqq6BFkvisofkiSQta/AO6Kg5OCg7i7h9w8Q84+BPEUcHFwZs0KCLWG5J33nn33JzHUR1D93yipzapPdbR2dXd09vXPzAYTwwNlzy75mqiqNmG7W6qiicM3RJFX/cNsem4QjFVQ2yo1cXgfKMuXE+3rXX/wBFlU6lY+p6uKT5TheWdRJLSFNb4byBHIImoVuzEHbaxCxsaajAhYMFnbECBx88WZBAc5spoMOcy0sNzgSP0srbGXYI7FGar/K3wbitiLd4HM71QrfFfDH5dVo4jRY90Q6/0QLf0TB9/zmqEMwIvB7yqTa1wduLHo2vv/6pMXn3sf6taevaxh7nQq87enZAJbqE19fXD89e1+dVUY5Ku6IX9X9IT3fMNrPqbdl0Qqxct/Kjs5Yjjkb9TyXFlMxHIyV/xlGbSMqXlQiaZz0dBdWMME5jiNLLIYwkrKPJ0gROc4kyKSdOSLM02W6W2SDOCHyUtfAKPE5AG</latexit>

K

Amplitude⇡I

Frequency

I

Frequency<latexit sha1_base64="Z5SbsAI3inSTOApdY8Lmwq/usdU=">AAACjnichVHNLsRQGD3q/3+wkdiICbGafJ2IQSIkErGcwSAY0tad0Uz/tJ1JqHkBL2Bhg8RC7L2AjRew8AhiSWJj4WunISL4mvaee+53vp6bozqG7vlEjw1SY1NzS2tbe0dnV3dPb6Kvf82zK64m8ppt2O6GqnjC0C2R93XfEBuOKxRTNcS6Wl4Iz9erwvV021r1Dx1RMJWSpRd1TfGZKhxvq2awWTveCVLp2m4iSSmKavgnkGOQRFxZO3GLbezBhoYKTAhY8BkbUODxswUZBIe5AgLmXEZ6dC5QQwdrK9wluENhtszfEu+2YtbifTjTi9Qa/8Xg12XlMEbpga7phe7php7o/ddZQTQj9HLIq1rXCme392Rw5e1flcmrj/0v1Z+efRQxFXnV2bsTMeEttLq+enT6sjKzPBqM0SU9s/8LeqQ7voFVfdWucmL57A8/KnsJ45G/UpnmykzEYFr+jGctnZIpJecmkvOLcVBtGMIIxjmNDOaxhCzyPP0ApzjHhZSQJqVZaa7eKjXEmgF8K2npA8bNlWQ=</latexit><latexit sha1_base64="2ANpylFWRCvtZIFY6y1RM+/r2ps=">AAACgnichVE9S8NQFD3G+v3RqovgIpaKOJQbLdSKQ8FFN6u2Clokic8ami+StKDFP6Cr4uCk4CDu/gEX/4CDP0EcFVwcvEmDImK9IXnnnXfPzXkc1TF0zyd6apPaYx2dXd09vX39A4PxxNBwybNrriaKmm3Y7qaqeMLQLVH0dd8Qm44rFFM1xIZaXQzON+rC9XTbWvcPHFE2lYql7+ma4jNVWN5JJClNYY3/BnIEkohqxU7cYRu7sKGhBhMCFnzGBhR4/GxBBsFhrowGcy4jPTwXOEIva2vcJbhDYbbK3wrvtiLW4n0w0wvVGv/F4Ndl5ThS9Eg39EoPdEvP9PHnrEY4I/BywKva1ApnJ348uvb+r8rk1cf+t6qlZx97mAu96uzdCZngFlpTXz88f12bX001JumKXtj/JT3RPd/Aqr9p1wWxetHCj8pejjge+TuVHFc2E4Gc/BVPaSYtU1ouZJL5fBRUN8YwgSlOI4s8lrCCIk8XOMEpzqSYNC3J0myzVWqLNCP4UdLCJ4rXkAQ=</latexit><latexit

11

Time

J

AmplitudeTime<latexit sha1_base64="i3xuhm77N+kGqi5JTPrqY3RLMnQ=">AAACgnichVE9S8NQFD3G+v3RqovgIpaKOJQbLdSKQ8FFnKzaKmiRJD5raL5I0oIW/4CuioOTgoO4+wdc/AMO/gRxVHBx8CYNioj1huSdd949N+dxVMfQPZ/oqU1qj3V0dnX39Pb1DwzGE0PDJc+uuZooarZhu5uq4glDt0TR131DbDquUEzVEBtqdTE436gL19Nta90/cETZVCqWvqdris9UYXknkaQ0hTX+G8gRSCKqFTtxh23swoaGGkwIWPAZG1Dg8bMFGQSHuTIazLmM9PBc4Ai9rK1xl+AOhdkqfyu824pYi/fBTC9Ua/wXg1+XleNI0SPd0Cs90C0908efsxrhjMDLAa9qUyucnfjx6Nr7vyqTVx/736qWnn3sYS70qrN3J2SCW2hNff3w/HVtfjXVmKQremH/l/RE93wDq/6mXRfE6kULPyp7OeJ45O9UclzZTARy8lc8pZm0TGm5kEnm81FQ3RjDBKY4jSzyWMIKijxd4ASnOJNi0rQkS7PNVqkt0ozgR0kLn4z1kAU=</latexit><latexit

J<latexit sha1_base64="srF1vQUo1+qhAQ4E6LXWeAdA/JM=">AAACgnichVE9S8NQFD3G+v3RqovgIpaKOJQbLdSKQ8FFcLFqq6BFkvisofkiSQta/AO6Kg5OCg7i7h9w8Q84+BPEUcHFwZs0KCLWG5J33nn33JzHUR1D93yipzapPdbR2dXd09vXPzAYTwwNlzy75mqiqNmG7W6qiicM3RJFX/cNsem4QjFVQ2yo1cXgfKMuXE+3rXX/wBFlU6lY+p6uKT5TheWdRJLSFNb4byBHIImoVuzEHbaxCxsaajAhYMFnbECBx88WZBAc5spoMOcy0sNzgSP0srbGXYI7FGar/K3wbitiLd4HM71QrfFfDH5dVo4jRY90Q6/0QLf0TB9/zmqEMwIvB7yqTa1wduLHo2vv/6pMXn3sf6taevaxh7nQq87enZAJbqE19fXD89e1+dVUY5Ku6IX9X9IT3fMNrPqbdl0Qqxct/Kjs5Yjjkb9TyXFlMxHIyV/xlGbSMqXlQiaZz0dBdWMME5jiNLLIYwkrKPJ0gROc4kyKSdOSLM02W6W2SDOCHyUtfAKPE5AG</latexit><latexit<latexit sha1_base64="i3xuhm77N+kGqi5JTPrqY3RLMnQ=">AAACgnichVE9S8NQFD3G+v3RqovgIpaKOJQbLdSKQ8FFnKzaKmiRJD5raL5I0oIW/4CuioOTgoO4+wdc/AMO/gRxVHBx8CYNioj1huSdd949N+dxVMfQPZ/oqU1qj3V0dnX39Pb1DwzGE0PDJc+uuZooarZhu5uq4glDt0TR131DbDquUEzVEBtqdTE436gL19Nta90/cETZVCqWvqdris9UYXknkaQ0hTX+G8gRSCKqFTtxh23swoaGGkwIWPAZG1Dg8bMFGQSHuTIazLmM9PBc4Ai9rK1xl+AOhdkqfyu824pYi/fBTC9Ua/wXg1+XleNI0SPd0Cs90C0908efsxrhjMDLAa9qUyucnfjx6Nr7vyqTVx/736qWnn3sYS70qrN3J2SCW2hNff3w/HVtfjXVmKQremH/l/RE93wDq/6mXRfE6kULPyp7OeJ45O9UclzZTARy8lc8pZm0TGm5kEnm81FQ3RjDBKY4jSzyWMIKijxd4ASnOJNi0rQkS7PNVqkt0ozgR0kLn4z1kAU=</latexit><latexit

K

F g 2 6 NMF decompos t on of power spectrogram whereand dotted exponent for
matr ces denote entryw se abso ute va ue and entryw se exponent respect ve yβ-divergence [17, 18] がよく利用される [19]．
 aa
− log − 1



 b
a b
+b−a
a
log
dβ (a|b) =
b

β

a
bβ
abβ−1


+
−

β(β − 1)ββ−1(β = 0)(β = 1)(2.18)(otherwise)

β-divergence の中でも特に β = 2, 1, 0 の場合はそれぞれ二乗 Euclid 距離，一般化 Kullback–Leibler ダイバージェンス及び Itakura–Saito ダイバージェンスと呼ばれている．これらのうち，ダイバージェンスと名のつくものは以下に示す距離の公理

1. 非負性：D(a|b) ≥ 0 ∀a, b ∈ R
2. 同一性：D(a|b) = 0 ⇔ a = b ∀a, b ∈ R
3. 対称性：D(a|b) = D(a|b) ∀a, b ∈ R
4. 三角不等式：D(a|b) + D(b|c) ≥ D(a|c) ∀a, b, c ∈ Rのうち，対称性と三角不等式を満たさない．
本論文では Itakura–Saito ダイバージェンスに基づく NMF（Itakura–Saito-divergence-

based NMF: ISNMF）[20] について述べる．Z の要素である複素スペクトル zij が以下の確率モデルに従って生成されていると仮定する．

zij =

X

cij k

(2.19)

cij k ∼ NC (0, tik v j )(2.20)k

ここで，cij k ∈ C は全ての i，j 及び k に関して互いに独立と仮定する．また，c を複素数の確率変数としたとき，NC (µ, σ 2 ) は一次元複素ガウス分布を表し，その確率密度関数は次式で

第2章

12

既存手法

与えられる．

1|c − µ|2
pc (c|µ, σ ) =
exp −
πσ 2
σ2
2

(2.21)

ここで，µ 及び σ 2 はそれぞれ平均及び分散を示す．また，c1 と c2 が独立である場合，ゼロ平均の一次元複素ガウス分布において以下の加法性が成り立つ．

c1 ∼ NC (0, σ12 ) かつ c2 ∼ NC (0, σ22 ) =⇒ c1 + c2 ∼ NC (0, σ12 + σ22 )(2.22)

よって，X

cij,k ∼ NC

0,

X

k

!
tik vkj(2.23)kを用いて次式が成り立つ．

zij ∼ NC0,X!
tik vkj(2.24)k

これが ISNMF の生成モデルで，Fig. 2.7 のような球対称複素ガウス分布である．ここで，観測信号 zij が与えられた場合における tik 及び vkj の最尤推定問題を考える．このとき，尤度
関数は

Y
π
i,j



1
|zij |2
exp − Pk tik vkj
k tik vkj

P<latexit sha1_base64="+/xfVSIq0K8HSX4wNjIsBE4NAIE=">AAACbHichVG7SgNBFD1Z3/EVH4UQBDEo2oS7IviogjaWiRofqITddaKj+2J3E9DgD9haWKiFgoj4GTb+gIWfIIKNgo2FN5tFEVHvsjNnztxz58xc3TWlHxA9xJS6+obGpuaWeGtbe0dnoqt7yXdKniHyhmM63oqu+cKUtsgHMjDFiusJzdJNsazvzlb3l8vC86VjLwZ7rtiwtC1bFqWhBUytuiP7hYrcORgtJFKUpjAGfgI1AilEkXUSV1jHJhwYKMGCgI2AsQkNPn9rUEFwmdtAhTmPkQz3BQ4QZ22JswRnaMzu8rjFq7WItXldremHaoNPMfn3WDmAIbqna3qhO7qhR3r/tVYlrFH1ssezXtMKt9B52Lfw9q/K4jnA9pfqT88BipgMvUr27oZM9RZGTV/eP35ZmJ4fqgzTBT2x/3N6oFu+gV1+NS5zYv4EcW6A+vXuUxwT4xGYUj8bsDSWVimt5sZTmZmoFc1IYhAj/N4TyGAOWeT5XAtHOMVZ7FnpVZJKfy1ViUWaHnwLZfgDLzWNkA==</latexit>p(zij )

L(T , V ) =Re[zij ]Im[zij ]<latexit sha1_base64="5yfMktYd3cDL5Jv/1MXx0QzaFF4=">AAACeXichVHLSiNBFD1p3xlHM+pCcJOZ4CAuwm0VHF2JblxqnKgQQ+huSy3tF92VgGnyA/6ACzcqDIP6GW78ARd+gsxSwYUu5qbTKCLqbbrq1Kl7bp2qa/q2DBXRTUpra+/o7OruSX/p/drXn/k2sBp61cASRcuzvWDdNEJhS1cUlVS2WPcDYTimLdbMvYXm/lpNBKH03N9q3xdlx9h25Za0DMVUJTO04RhqJ3CigmhkS/VKJHcb5UomR3mKI/sW6AnIIYklL/MXG9iEBwtVOBBwoRjbMBDyV4IOgs9cGRFzASMZ7ws0kGZtlbMEZxjM7vG4zatSwrq8btYMY7XFp9j8B6zMYpSu6Yzu6Iou6Jae3q0VxTWaXvZ5Nlta4Vf6D4ZXHj5VOTwr7LyoPvSssIVfsVfJ3v2Yad7Caulr9cO7ldnCaPSTTukf+z+hG7rkG7i1e+vPsigcIc0N0F/efYZjeioBM/pzA1Yn8jrl9eWp3Nx80opujOAHxvi9pzGHRSyhyOfWcYwznKcete/amDbeStVSiWYQr0Kb/A/n/pLa</latexit><latexit sha1_base64="o6DT6171p3/NOfg5nNzhXLTsotk=">AAACeXichVHLTttAFD0xlEJoITwWSGxSIirEIroukXisEN3AjkcDSCGKbDPAEL9kTyIRKz/AD3TRDUVCCPgMNvwACz4BsQSJBSy4cayiqipcyzNnztxz58xc07dlqIhuUlpH54euj9096d5Pn/v6MwOD66FXCyxRtDzbCzZNIxS2dEVRSWWLTT8QhmPaYsOsfm/tb9RFEErP/aEOfFF2jF1X7kjLUExVMsNbjqH2AidacprZUqMSyf1muZLJUZ7iyP4L9ATkkMSylznFFrbhwUINDgRcKMY2DIT8laCD4DNXRsRcwEjG+wJNpFlb4yzBGQazVR53eVVKWJfXrZphrLb4FJv/gJVZjNM1ndE9XdEF3dLzf2tFcY2WlwOezbZW+JX+w5G1x3dVDs8Ke6+qNz0r7GAm9irZux8zrVtYbX298fN+bW51PPpKx3TH/n/TDV3yDdz6g3WyIlZ/Ic0N0F/ffZZjupCAWf1PA9a/5XXK6yuF3PxC0opujGIME/ze05jHIpZR5HMbOMIZzlNP2hdtQptsp2qpRDOEv0KbegHl65LZ</latexit>

Fig. 2.7. Circularly symmetric complex Gauss distribution.

(2.25)

2.7 ILRMA

13となり，負対数尤度は− log L(T , V ) =

X
i,j

X
|z |2
P ij
+ log
tik vkj + log π
k tik vkj!
(2.26)kで表される．これは観測信号のパワースペクトログラム |zij |2 に対する ISNMF の目的関数(式（2.18) の β = 0 の場合）と定数部分を除いて一致するので，尤度関数は以下のように書き換えられる．

− log L(T , V ) = dIS|zij |2 |X!
tik vkj+ const.

(2.27)k

ここで，dIS (·|·) は 2 つの行列間の Itakura-Saito ダイバージェンスを示す．つまり，ISNMFを観測信号のパワースペクトログラム |Z|.2 に適用したとき，複素スペクトル zij が式 (2.24)で表される生成モデルに従い，全時間周波数グリッドに関して互いに独立であると仮定されている．また，ISNMF の T 及び V の最適化のための反復更新式は式 (2.28) 及び式 (2.29) で表される [21]．

vPuPu j |zij |2 vkj ( k′ tik′ vk′ j )−2tik ← tik t PP−1′′
j vkj (
k′ tik vk j )
sP
P
−2
2
′
′
i |zij | tik (k′ tik vk j )vkj ← vkj
P
P
−1
′
′
i tik (
k′ tik vk j )(2.28)(2.29)

この更新式は乗算型反復更新式と呼ばれ，目的関数が単調非増加であることが保証されている．

2.7 ILRMAILRMA [10, 11] は IVA の音源モデルを NMF に拡張した手法である．IVA は同一音源の周波数成分の共起性からパーミュテーション問題を回避しつつ，分離行列 Wi を推定できる．
しかし，全周波数に対して一様な強度の変化しか表せない．つまり，楽器信号のような基本周波数に対して倍音のみが大きい成分を持ち，それ以外の周波数では小さい成分を持つ，という明確な周波数構造を持つ信号の分離には適していない．それに対して，2.6 節で解説した NMF は，同一音源の時間周波数構造を少数（K 個）のスペクトルパタンとそのアクティ
ベーションで表すことができ，これは音声や楽器信号の時間周波数構造のモデル化に良く適合している．ILRMA の反復最適化の概要を Fig. 2.8 に示す．ここで Tn 及び Vn は n 番目の音源のパワースペクトログラムをモデル化する基底行列及びアクティベーション行列を示す．

ILRMA は IVA に対応する分離行列 Wi の反復最適化と ISNMF の低ランクモデリングに対応する Tn Vn の反復最適化が交互に行われる．具体的には，分離行列 Wi により推定された分離信号を NMF によって非負低ランク行列でモデル化し，得られた Tn 及び Vn の各時間周波

既存手法

観測信号
<latexit sha1_base64="IGgtPxKMPIy+HVKz6aCkeMbSd3Y=">AAACZnichVHLSsNAFD2Nr1q1rYoouCmWiqtyI4KPlejGpVprC7WUJE5rME1CkhZr8QcEt7pwpSAifoYbf8CFf6C4VHDjwts0WETUGzJz5sw9d87MVW1Ddz2ix5DU1d3T2xfujwwMDkVj8eGRbdeqOZrIapZhOXlVcYWhmyLr6Z4h8rYjlKpqiJy6v9raz9WF4+qWueU1bFGsKhVTL+ua4jGVOSjJpXiS0uRH4ieQA5BEEOtW/Bo72IUFDTVUIWDCY2xAgctfATIINnNFNJlzGOn+vsARIqytcZbgDIXZfR4rvCoErMnrVk3XV2t8isG/w8oEUvRAN/RK93RLz/Txa62mX6PlpcGz2tYKuxQ7nsi8/6uq8uxhr6P607OHMhZ8rzp7t32mdQutra8fnr1mljZTzWm6pBf2f0GPdMc3MOtv2tWG2DxHhBsgd959kWN+LgCL8lcDtmfTMqXljbnk8krQijAmMYUZfu95LGMN68jyuRWc4BRnoScpKo1J4+1UKRRoRvEtpMQnh+2K9w==</latexit><latexit sha1_base64="UijO0dHAz7vgiFwSARdI6CViBHE=">AAACZnichVHLSsNAFD2Nr1ofrYoouCkWxVW5kUKtq6Ibl31YFVRKEscaTJOQpMVa/AHBrV24UhARP8ONP+DCP1BcKrhx4W0aFBH1hsycOXPPnTNzVdvQXY/oISR1dff09oX7IwODQ8PR2MjommvVHE2UNMuwnA1VcYWhm6Lk6Z4hNmxHKFXVEOvq/nJ7f70uHFe3zFWvYYvtqlIx9V1dUzymigfl+XIsQUnyI/4TyAFIIIicFbvCFnZgQUMNVQiY8BgbUODytwkZBJu5bTSZcxjp/r7AESKsrXGW4AyF2X0eK7zaDFiT1+2arq/W+BSDf4eVcczQPV3TC93RDT3R+6+1mn6NtpcGz2pHK+xy9Hiy+Pavqsqzh70v1Z+ePexiwfeqs3fbZ9q30Dr6+mHrpbhYmGnO0gU9s/9zeqBbvoFZf9Uu86Jwhgg3QP569wxHOhWAjPzZgLX5pExJOZ9KZJeCVoQxhWnM8XunkcUKcijxuRWc4BSt0KM0LI1LE51UKRRoxvAtpPgHie2K+A==</latexit>

x1
x2

NMFによる低ランク近似

分離信号
周波数毎の
分離行列 Wi<latexit sha1_base64="K97AQfuaul07XdI5M9jwAdyJxxg=">AAACi3ichVG7SsRAFD3G93vVRrARF8VquVHBBxYLIli6q+uKD5YkjutgXiTZBQ37A9aChSgoWIi9P2DjD1j4CWKpYGPhTTYoIuoNyZw5c8/NGY7umtIPiB4blMam5pbWtvaOzq7unt5UX/+a71Q8QxQMx3S8dV3zhSltUQhkYIp11xOapZuiqO8vROfFqvB86dirwYErti2tbMtdaWgBUxtbuhUWa6VQ1kqpNGUoruGfQE1AGkktO6lbbGEHDgxUYEHARsDYhAafn02oILjMbSNkzmMk43OBGjpYW+EuwR0as/v8LfNuM2Ft3kcz/Vht8F9Mfj1WDmOUHuiaXuiebuiJ3n+dFcYzIi8HvOp1rXBLvUeDK2//qixeA+x9qf70HGAXM7FXyd7dmIluYdT11cOTl5W5/Gg4Rpf0zP4v6JHu+AZ29dW4yon86R9+dPYSxaN+pTLLNT2VgFn1M561iYxKGTU3lc5mk6DaMIQRjHMa08hiCcso8HQbxzjDudKtTCpzyny9VWlINAP4VsriB0etlE8=</latexit>y1Frequency
Frequency

第2章

14<latexit sha1_base64="1q6Jr2pGy703u2p3JaMwZMet5Qk=">AAACZnichVFNS8NAEH2NX7VqWxVR8FIsFU9lIkKtp6IXj7a1raBSkrjWYJqEJC3U4h8QvOrBk4KI+DO8+Ac8+A8UjwpePDhNgyKiTsju27fzZt/uqLahux7RQ0jq6e3rHwgPRoaGR6Kx+OhY2bUajiZKmmVYzoaquMLQTVHydM8QG7YjlLpqiIq6v9LZrzSF4+qWue61bLFdV2qmvqtrisdUsVWVq/EkpcmPxE8gByCJINas+BW2sAMLGhqoQ8CEx9iAApe/Tcgg2Mxto82cw0j39wUOEWFtg7MEZyjM7vNY49VmwJq87tR0fbXGpxj8O6xMIEX3dE0vdEc39ETvv9Zq+zU6Xlo8q12tsKuxo6ni27+qOs8e9r5Uf3r2sItF36vO3m2f6dxC6+qbB6cvxaVCqj1LF/TM/s/pgW75BmbzVbvMi8IZItwA+evdsxyZhQBk5c8GlOfTMqXl/EIytxy0IoxpzGCO3zuDHFaxhhKfW8MxTnAaepSi0oQ02U2VQoFmHN9CSnwAie+K+A==</latexit>

STFT

y2
<latexit sha1_base64="wmQ3bIdsHc8Iq6iWTP2DCHTozFg=">AAACZnichVFNS8NAEH2NX7VqWxVR8FIsiqcykUKtp6IXj2qtClVKErc1mCYhSQu1+AcEr/bgSUFE/Ble/AMe/AeKRwUvHpymwSKiTsju27fzZt/uqLahux7RY0jq6e3rHwgPRoaGR6Kx+OjYlmvVHE0UNMuwnB1VcYWhm6Lg6Z4hdmxHKFXVENvq4Up7f7suHFe3zE2vYYu9qlIx9bKuKR5T+UZpoRRPUor8SPwEcgCSCGLNil9jF/uwoKGGKgRMeIwNKHD5K0IGwWZuD03mHEa6vy9wjAhra5wlOENh9pDHCq+KAWvyul3T9dUan2Lw77AygVl6oBt6pXu6pWf6+LVW06/R9tLgWe1ohV2KnUzl3/9VVXn2cNBV/enZQxmLvledvds+076F1tHXj1qv+aWN2eYcXdIL+7+gR7rjG5j1N+1qXWycI8INkLvvnuXIpAOQlb8asLWQkiklr6eTueWgFWFMYwbz/N4Z5LCKNRT43ApOcYZW6EmKShPSZCdVCgWacXwLKfEJi++K+Q==</latexit>

各分離信号（音源）の時間周波数構造が低ランクな行列となるように周波数毎の分離フィルタを更新

Time
Time

Fig. 2.8. Outline of ILRMA.

数成分を式 (2.24) における分散（各音源の生成モデルの推定パラメタ）として用いて分離行列を再度推定する，というプロセスが反復的に行われる．ILRMA の生成モデルは ISNMF と同様に次式の複素ガウス分布で表される．

yij,n =

X

cij,k,n(2.30)kcij,k,n = NC (0, tik,n vkj,n )(2.31)

ここで，tik,n 及び vkj,n は n 番目の音源に関する基底行列 Tn 及びアクティベーション行列

Vn の非負要素であり，k = 1, 2, · · · , K は基底インデクスである．また，cij,k,n ∈ C は互いに独立であると仮定する．このとき，観測 xij,n が与えられた場合において Wi ，Tn 及び Vn を
最尤推定する問題を考える．ISNMF のときと同様にX

cij,k,n ∼ NC

0,

X

k

!
tik,n vkj,n(2.32)kより，yij,n ∼ NC

0,

X

!
tik,n vkj,n(2.33)kが成り立つので，この生成モデルに基づく観測信号の負対数尤度は次式で表される．

L(W, T, V) = −2JX

log | det Wi | +

i

X
i,j,n

X
|wH xij |2
P i,n
+ log
tik,n vkj,nk tik,n vkj,n!
(2.34)kN
ここで，W = {Wi }Ii=1 ，T = {Tn }N
n=1 及び V = {Vn }n=1 は最適化パラメタの集合である．

式 (2.34) を見ると，第一項と第二項は式 (2.15) で表される IVA の尤度関数に対応し，第二項と第三項は式 (2.27) の ISNMF の尤度関数に対応していることがわかる．
分離行列 Wi の関する最適化は，分離ベクトル wi,n の更新を反復射影法（iterative projec-

tion: IP）[14] を用いることで次式で行われる．
Ui,n =

1
1X
P
xij xH
ij
J j
t
v
ik,n
kj,n
l

wi,n ← (Wi Ui,n )−1 en(2.35)(2.36)− 21

Hwi,n ← wi,n (wi,nUi,n wi,n )(2.37)

2.8 更新式を一般化させた独立低ランク行列分析15

ここで，en ∈ RN
{0,1} は n 番目の要素が 1，他要素が 0 のベクトルである．

NMF による低ランクモデリングのパラメタ Tn Vn の最適化は式 (2.28) 及び式 (2.29) の乗算型反復更新式を用いて次式で表される．

sP

P

−2
′
′
k′ tik ,n vk j,n )P−1′′
j vkj,n (k′ tik ,n vk j,n )
sP
P
H
2
−2
′
′
i |wi,n xij | tik,n (k′ tik ,n vk j,n )PPvkj,n ← vkj,n−1′′
i tik,n (k′ tik ,n vk j,n )H2
j |wi,n xij | vkj,n (Ptik,n ← tik,n(2.38)(2.39)

これらの更新式も式 (2.28) 及び式 (2.29) と同様に目的関数式 (2.34) の値が単調非増加である
ことが保証されている．

2.8 更新式を一般化させた独立低ランク行列分析
ILRMA の反復更新式は，前節で述べたように分離行列（以後，空間モデルと呼ぶ）Wi は
式 (2.35) から式 (2.37) で，低ランクモデリングによるパラメタ Tn Vn （以後，音源モデルと呼ぶ）は式 (2.38) 及び式 (2.39) で交互に反復最適化される．これらの空間モデルと音源モ
デルの収束速度は大幅に異なることが経験的に知られている．それに加えて ILRMA の目的
関数式 (2.34) は非凸関数である．これらの理由から，Wi ，Tn 及び Vn に与える乱数初期値に対して，空間モデルと音源モデルの最適化速度のバランスが悪い場合，音源分離が正しく達成されない局所最適解に陥ることがある．そこで，文献 [23] では補助関数法の一つである

majorization-equalization 法 [24] を音源モデルの更新式に用いることで最適化速度を制御できる，音源モデルの一般化された更新式が提案されている．式 (2.40) 及び式 (2.41) に音源モ
デルの一般化反復更新式を示す．

"P
tik,n ← tik,nPH2
j |wi,n xij | vkj,n ("P
vkj,n ← vkj,nk′ tik ,n vk j,n )
P
P
−1
′
′
j vkj,n (k′ tik ,n vk j,n )
′

′

−2

#p

#p
P
H
2
−2
′ ,n vk ′ j,n )
|w
x
|
t
(
t
′
ij
ik,n
ik
i,n
i
k
P
P
′ ,n vk ′ j,n )−1
t
(
t
′
ik,n
ik
i
k

(2.40)(2.41)

ここで，p は最適化速度を表すパラメタで，0 < p ≤ 1 の範囲で単調非増加であることが保証されている．また，p = 0.5 とき，従来の更新式である式 (2.38) 及び式 (2.39) に一致する．

2.9 インタラクティブ音源分離システム
前節で述べたように，ILRMA は最適化の過程で局所最適化に陥ることがある．これはブ
ロックパーミュテーションという現象が発生するためである．Fig. 2.9 にブロックパーミュ
テーション問題の例を示す．ブロックパーミュテーション問題とは，2.3 節で述べたようなパーミュテーション問題がまとまった周波数帯で発生することを言う．つまり，ある周波数帯
では特定の音源の分離音であるにも関わらず，その他の周波数帯では別の音源の分離音が出力

16

第2章

既存手法

Block
permutation
problemBlockpermutation

Fig. 2.9. Example of block permutation problem.

されている，という状態になっている．この現象は特に音声信号の分離の際に頻発する．そこで文献 [25] では，ユーザに分離音のスペクトログラムを提示し，ブロックパーミュテーション
問題が発生していれば，その周波数帯をアノテーションとしてアルゴリズムに与えて再分離する，というインタラクティブ音源分離システムが提案されている．このシステムの概要を Fig.

2.10 に示す．本システムはシステムの柔軟性からサーバ・クライアントモデルのようにフロン
トエンドとバックエンドを分割する方法がとられている．Fig. 2.11 にシステムのユーザイン
ターフェース（user interface: UI）を示す．このシステムはブロックパーミュテーションを直接する指定するだけでなく空間モデルの反復更新の際に重要な情報となる「ある特定の音源のみが沈黙している時間」を指定する方法でもアノテーションを与えることができる．

2.9 インタラクティブ音源分離システム

ClientServerWeb browser
MessagePack
Encoder/Decoder

MessagePack
MixturesVue.jsServerSpectrograms
encoded wav files

Initialscean

Encoder/Decoder

WAV
Encoder/Decoder

Spectrograms
annotator

Numpy
EncoderAnnotations

Browser API

ILRMA

Fig. 2.10. Outline of interactive audio source separation system.

Fig. 2.11. UI of interactive audio source separation system.

17

第2章

18

既存手法

2.10 アノテーションの活用方法
インタラクティブ音源分離システムで，ユーザがアノテーションを与えたときの処理方法について説明する．処理方法はブロックパーミュテーションを起こしている周波数帯を直接指定する方法と，多音源が沈黙し特定の音源のみが発音している時間を指定する方法が文献 [25] で提案されている．なお，後者の方法は二種類提案されている．

2.10.1 ブロックパーミュテーション発生周波数帯域の指定情報の活用
周波数アノテーションの活用方法の概要を Fig. 2.12 に示す．今，周波数ビン i = is からi = ie （1 ≤ is < ie ≤ I ）の範囲でブロックパーミュテーション問題が発生し，それに該当する音源インデクスが n = ns ，ブロックの移動先となる正しいパーミュテーションの音源がn = nt であるというアノテーション情報が，ユーザーから与えられた状況を考える．この場合，以後の ILRMA の更新では該当周波数ビンの分離フィルタ wi,n と基底ベクトル Tn の成
分 tik,n について入れ替え処理を行えば良いので，次式のような処理を行う．

wis ,ns , wis +1,ns , · · · , wie ,ns ⇔ wis ,nt , wis +1,nt , · · · , wie ,nt(2.42)

tis k,ns , t(is +1)k,ns , · · · , tie k,ns ⇔ tis k,nt , t(is +1)k,nt , · · · , tie k,nt ∀k(2.43)

vkj,n ← ρ∀k, j, n(2.44)

ここで ⇔ は左辺と右辺の変数を入れ替えすることを意味する．また，ρ は区間 (0, 1) の一様乱数である．式 (2.44) では，アクティベーション行列 Vn をリセットすることで，現在捕らわれている悪い局所解から一度抜け出すことを目的としている．分離行列 Wi 及び基底行列 Tn
は，式 (2.42) 及び (2.43) で入れ替えたうえでそのまま引き継いで ILRMA 最適化の反復更新

Demixing matrix

Basis matrix(spectral patterns)

N

M

W1

Reset with ⇢<latexit sha1_base64="3ofVH+I7ktRFEzST8W/D/GLzXkU=">AAACi3ichVHLSsNQFBzjuz5adSO4EYviqpxowQcuBBFcttZa8UFJ4lWDeZGkBQ39AdeCC1FQcCHu/QE3/oCLfoK4rODGhSdpUETUE5I7d+6Zk7mM6hi65xPVW6TWtvaOzq7uRE9vX38yNTC47tkVVxNFzTZsd0NVPGHolij6um+IDccViqkaoqQeLoXnpapwPd221vwjR+yYyr6l7+ma4jO1ua2aQalWDuRaOZWmDEU1+hPIMUgjrpydusc2dmFDQwUmBCz4jA0o8PjZggyCw9wOAuZcRnp0LlBDgrUV7hLcoTB7yN993m3FrMX7cKYXqTX+i8Gvy8pRjNMT3VKDHumOnun911lBNCP0csSr2tQKp5w8GS68/asyefVx8KX607OPPcxGXnX27kRMeAutqa8enzUK86vjwQRd0wv7v6I6PfANrOqrdpMXq+d/+FHZSxiP/JXKHNdMNgZz8mc861MZmTJyPptenIqD6sIIxjDJacxgESvIocjTLZziApdSnzQtzUsLzVapJdYM4VtJyx/MoJQJ</latexit>···<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit

Swap

i = isSwap

J<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit<latexit sha1_base64="xsFjpdvkvZ1AMSAOWRJ9/5aj38U=">AAACiHichVFLSwJRFD5OL7OHVpugjSRGKzkjghkEUpuWPvIBJjIzXevivJgZBRP/QLtWQa4KWkT7/kCb/kALf0K0NGjTouM4JBHZGWbud797vjPf5ZNNldsOYt8nTE3PzM755wMLi0vLwdDKatE2mpbCCoqhGlZZlmymcp0VHO6orGxaTNJklZXkxsHwvNRils0N/chpm6yqSac6r3NFcogq8fBemNfsWiiCMXQr/BuIHoiAVxkj9AjHcAIGKNAEDRjo4BBWQQKbngqIgGASV4UOcRYh7p4z6EKAtE3qYtQhEdug7yntKh6r034403bVCv1FpdciZRii+IL3OMBnfMBX/PxzVsedMfTSplUeaZlZC16s5z/+VWm0OnA2Vk307EAddlyvnLybLjO8hTLSt86vBvndXLSzhbf4Rv5vsI9PdAO99a7cZVmuN8GPTF66FI84TiVFlUx4ICV+x1OMx0SMidlEJB33gvLDBmzCNqWRhDQcQgYK7vRLuIaeEBBQSAqpUavg8zRr8KOE/S9U6ZIK</latexit>

Wi s

i = is<latexit sha1_base64="gcl619OrndvwX7YkyMh8T2MGriU=">AAACjXichVG7SsRAFD3G93NXbQQbcVGslhtR1hURwUJLX+sKrixJHHUwL5Lsgob9AT9ACwsfYCH2/oCNP2DhJ4ilgo2FN9mgiKg3JHPmzD03Zzi6a0o/IHpsUBqbmlta29o7Oru6e1Lp3r5136l4higYjul4G7rmC1PaohDIwBQbric0SzdFUd+fj86LVeH50rHXggNXbFnari13pKEFTJVKuhUWa+VQlv1aOZ2hLMU19BOoCcggqSUnfYsStuHAQAUWBGwEjE1o8PnZhAqCy9wWQuY8RjI+F6ihg7UV7hLcoTG7z99d3m0mrM37aKYfqw3+i8mvx8ohjNADXdML3dMNPdH7r7PCeEbk5YBXva4Vbjl1NLD69q/K4jXA3pfqT88BdjAVe5Xs3Y2Z6BZGXV89PHlZnV4ZCUfpkp7Z/wU90h3fwK6+GlfLYuX0Dz86e4niUb9SyXPlJhKQVz/jWR/PqpRVlycyc+NJUG0YxDDGOI0c5rCIJRR4uotjnOFcSSmTyowyW29VGhJNP76VsvABU/6VJw==</latexit>

I<latexit sha1_base64="qdrICDL0kO0A3XMvtVElfYeUSng=">AAACiHichVFLSwJRFD5OL7OHVpugjSRGKzkjghkEUpuWPvIBJjIzXevivJgZBRP/QLtWQa4KWkT7/kCb/kALf0K0NGjTouM4JBHZGWbud797vjPf5ZNNldsOYt8nTE3PzM755wMLi0vLwdDKatE2mpbCCoqhGlZZlmymcp0VHO6orGxaTNJklZXkxsHwvNRils0N/chpm6yqSac6r3NFcogq8fBemNdYLRTBGLoV/g1ED0TAq4wReoRjOAEDFGiCBgx0cAirIIFNTwVEQDCJq0KHOIsQd88ZdCFA2iZ1MeqQiG3Q95R2FY/VaT+cabtqhf6i0muRMgxRfMF7HOAzPuArfv45q+POGHpp0yqPtMysBS/W8x//qjRaHTgbqyZ6dqAOO65XTt5NlxneQhnpW+dXg/xuLtrZwlt8I/832McnuoHeelfusizXm+BHJi9dikccp5KiSiY8kBK/4ynGYyLGxGwiko57QflhAzZhm9JIQhoOIQMFd/olXENPCAgoJIXUqFXweZo1+FHC/hc3RZH8</latexit>

··

Swap

I

<latexit sha1_base64="oY30qS6AbWvLptJRYFcV4cFPYP0=">AAACi3ichVHLSsNQFBzjq76rbgQ3xaK4KicqaIsLQQSXtrUqPihJvNZgXiRpoYb+gGvBhSgouBD3/oAbf8CFnyAuFdy48CQNioh6QnLnzj1zMpdRHUP3fKLHFqm1rb2jM9HV3dPb1z+QHBxa8+yqq4mSZhu2u6EqnjB0S5R83TfEhuMKxVQNsa4eLIbn6zXherptrfp1R+yYSsXS93RN8Zna3FbNYLVRDuRGOZmmDEWV+gnkGKQR14qdvMU2dmFDQxUmBCz4jA0o8PjZggyCw9wOAuZcRnp0LtBAN2ur3CW4Q2H2gL8V3m3FrMX7cKYXqTX+i8Gvy8oUxumBrumF7umGnuj911lBNCP0UudVbWqFUx44Gim+/asyefWx/6X607OPPcxFXnX27kRMeAutqa8dnrwUc4XxYIIu6Zn9X9Aj3fENrNqrdpUXhdM//KjsJYxH/kolyzU7E4Os/BnP2lRGpoycn0kvTMVBJTCKMUxyGrNYwDJWUOLpFo5xhnOpT5qWctJ8s1VqiTXD+FbS0gfGN5QG</latexit>

T1<latexit sha1_base64="KZi2KLTVzYyjgZU97rK84K5Cunc=">AAACi3ichVHJSsNQFD3Gea66EdyIpeKq3FTBAReCCC6dOmBbShKfGsxEkhY09AdcCy5EQcGFuPcH3PgDLvwEcan
sha1_base64="KZi2KLTVzYyjgZU97rK84K5Cunc=">AAACi3ichVHJSsNQFD3Gea66EdyIpeKq3FTBAReCCC6dOmBbShKfGsxEkhY09AdcCy5EQcGFuPcH3PgDLvwEcangxoU3abCIqDck77zz7rk5j6M6hu75RE8tUmtbe0dnV3dPb1//wGBiaDjn2VVXE1nNNmy3oCqeMHRLZH3dN0TBcYViqobIqwfL4Xm+JlxPt60t/9ARZVPZs/RdXVN8prZLqhls1StBpl5JJClNUY3/BHIMkohrzU7coYQd2NBQhQkBCz5jAwo8foqQQXCYKyNgzmWkR+cCdfSwtspdgjsUZg/4u8e7YsxavA9nepFa478Y/LqsHEeKHumGXumBbumZPn6dFUQzQi+HvKoNrXAqg8ejm+//qkxefew3VX969rGLucirzt6diAlvoTX0taPT182FjVQwSVf0wv4v6Ynu+QZW7U27XhcbZ3/4UdlLGI/cTGWea3YmBvPyVzy5TFqmtLw+k1zKxEF1YQwTmOI0ZrGEVawhy9MtnOAcF1K/NC0tSIuNVqkl1ozgW0krn8hWlAc=</latexit>

V2<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit

Wi e

i = ie<latexit sha1_base64="ykhZ45syCpMWX1q4kShILAOBm4U=">AAACjXichVG7SsRAFD3G93NXbQQbcVGslhtR1hURwUJLX+sKrixJHHUwL5Lsgob9AT9ACwsfYCH2/oCNP2DhJ4ilgo2FN9mgiKg3JHPmzD03Zzi6a0o/IHpsUBqbmlta29o7Oru6e1Lp3r5136l4higYjul4G7rmC1PaohDIwBQbric0SzdFUd+fj86LVeH50rHXggNXbFnari13pKEFTJVKuhUWa+VQlkWtnM5QluIa+gnUBGSQ1JKTvkUJ23BgoAILAjYCxiY0+PxsQgXBZW4LIXMeIxmfC9TQwdoKdwnu0Jjd5+8u7zYT1uZ9NNOP1Qb/xeTXY+UQRuiBrumF7umGnuj911lhPCPycsCrXtcKt5w6Glh9+1dl8Rpg70v1p+cAO5iKvUr27sZMdAujrq8enrysTq+MhKN0Sc/s/4Ie6Y5vYFdfjatlsXL6hx+dvUTxqF+p5LlyEwnIq5/xrI9nVcqqyxOZufEkqDYMYhhjnEYOc1jEEgo83cUxznCupJRJZUaZrbcqDYmmH99KWfgANkyVGQ==</latexit>i = ieActivation matrix··<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit

WI 1<latexit sha1_base64="sC9YqZVxnUWbhmwDPo/cPBQgZI4=">AAACjXichVHLSsNQFJzG97NVN4KbYlHcWE6kUhURwYW681UrWClJvGowL5K0oKE/4AfowoUPcCHu/QE3/oALP0FcKrhx4UkaFBH1hOTOnXvmZC6jOobu+USPCamhsam5pbWtvaOzqzuZ6uld9+yKq4mCZhu2u6EqnjB0SxR83TfEhuMKxVQNUVT358LzYlW4nm5ba/6BI7ZMZdfSd3RN8ZkqlVQzKNbKweKoXCunMpSlqNI/gRyDDOJaslO3KGEbNjRUYELAgs/YgAKPn03IIDjMbSFgzmWkR+cCNbSztsJdgjsUZvf5u8u7zZi1eB/O9CK1xn8x+HVZmcYQPdA1vdA93dATvf86K4hmhF4OeFXrWuGUk0f9q2//qkxefex9qf707GMHE5FXnb07ERPeQqvrq4cnL6tTK0PBMF3SM/u/oEe64xtY1VftalmsnP7hR2UvYTzyVyqTXPlcDCblz3jWx7IyZeXlXGZ2LA6qFQMYxAinkccsFrCEAk93cIwznEtJaVyalmbqrVIi1vThW0nzHxmRlJM=</latexit>

K

V1

T2

K

K

F g 2 12 Overv ew of frequency annotat onK2.10 アノテーションの活用方法

19を再開するため，ブロックパーミュテーション問題を回避しながらより高精度な音源分離ができる解へと誘導されることを期待している．

2.10.2 他音源が沈黙している時間範囲の指定情報の活用方法（a）
時間アノテーションの活用方法（a）の概要を Fig. 2.13 に示す．今，時間 j = js から j = je
（1 ≤ js < je ≤ J ）の範囲で音源 n = nt の音源が沈黙しているというアノテーション情報がユーザーから与えられた状況を考える．この場合，以後の ILRMA の更新では，次式のように該当時間フレームのアクティベーション成分 vkj,n に微小値で置き換え，同時に分離フィルタ

wi,n についても乱数でリセットする処理を行う．
vkjs ,nt , vk(js +1),nt , · · · , vkje ,nt ← ε, ε, · · · , ε ∀k

(2.45)

wi,n ← ρ ∀i, n(2.46)

ここで，ε > 0 は適当な微小値である．この処理では音源モデル Wi をリセットすることで，現在捕らわれている悪い局所解から一度抜け出すことを目的としている．この場合は基底行列

Tn とアクティベーション行列 Vn の一部は引き継いで ILRMA 最適化の反復更新を再開する
ため，より良い解へと誘導されることを期待している．
Demixing matrix

Bas s ma r x(spec ra pa erns)

N

M

W1

Rese w h "···j = js<latexit sha1_base64="3ofVH+I7ktRFEzST8W/D/GLzXkU=">AAACi3ichVHLSsNQFBzjuz5adSO4EYviqpxowQcuBBFcttZa8UFJ4lWDeZGkBQ39AdeCC1FQcCHu/QE3/oCLfoK4rODGhSdpUETUE5I7d+6Zk7mM6hi65xPVW6TWtvaOzq7uRE9vX38yNTC47tkVVxNFzTZsd0NVPGHolij6um+IDccViqkaoqQeLoXnpapwPd221vwjR+yYyr6l7+ma4jO1ua2aQalWDuRaOZWmDEU1+hPIMUgjrpydusc2dmFDQwUmBCz4jA0o8PjZggyCw9wOAuZcRnp0LlBDgrUV7hLcoTB7yN993m3FrMX7cKYXqTX+i8Gvy8pRjNMT3VKDHumOnun911lBNCP0csSr2tQKp5w8GS68/asyefVx8KX607OPPcxGXnX27kRMeAutqa8enzUK86vjwQRd0wv7v6I6PfANrOqrdpMXq+d/+FHZSxiP/JXKHNdMNgZz8mc861MZmTJyPptenIqD6sIIxjDJacxgESvIocjTLZziApdSnzQtzUsLzVapJdYM4VtJyx/MoJQJ</latexit><latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit

Rese<latexit sha1_base64="d3MwO5P7DIvuWH0dISDgPeb+8sc=">AAACgnichVE9S8NQFD3GqrV+tOoiuBSLIg7lRgut4lBw0c1W2woqksRnDU2TkKQFLf0DuioOTgoO4u4fcPEPOPgTxLGCi4O3aVBE1BuSd95599ycx1FtQ3c9oqcuqTvU09sX7o8<latexit
sha1_base64="d3MwO5P7DIvuWH0dISDgPeb+8sc=">AAACgnichVE9S8NQFD3GqrV+tOoiuBSLIg7lRgut4lBw0c1W2woqksRnDU2TkKQFLf0DuioOTgoO4u4fcPEPOPgTxLGCi4O3aVBE1BuSd95599ycx1FtQ3c9oqcuqTvU09sX7o8MDA4NR2Mjo0XXqjmaKGiWYTmbquIKQzdFwdM9Q2zajlCqqiFKamW5fV6qC8fVLXPDO7TFTlUpm/q+rikeU7nV3ViCkuRX/CeQA5BAUGtW7A7b2IMFDTVUIWDCY2xAgcvPFmQQbOZ20GDOYaT75wJNRFhb4y7BHQqzFf6WebcVsCbv2zNdX63xXwx+HVbGMUWPdEMteqBbeqb3X2c1/BltL4e8qh2tsHejx+Prb/+qqrx6OPhS/enZwz4yvledvds+076F1tHXj85b64v5qcY0XdEL+7+kJ7rnG5j1V+06J/IXf/hR2UuT45G/UlngSqcCsCB/xlOcS8qUlHOpRDYTBBXGBCYxw2mkkcUK1lDg6QInOMWZFJJmJVma77RKXYFmDN9KWvoAiG+P/A==</latexit><latexit sha1_base64="d3MwO5P7DIvuWH0dISDgPeb+8sc=">AAACgnichVE9S8NQFD3GqrV+tOoiuBSLIg7lRgut4lBw0c1W2woqksRnDU2TkKQFLf0DuioOTgoO4u4fcPEPOPgTxLGCi4O3aVBE1BuSd95599ycx1FtQ3c9oqcuqTvU09sX7o8MDA4NR2Mjo0XXqjmaKGiWYTmbquIKQzdFwdM9Q2zajlCqqiFKamW5fV6qC8fVLXPDO7TFTlUpm/q+rikeU7nV3ViCkuRX/CeQA5BAUGtW7A7b2IMFDTVUIWDCY2xAgcvPFmQQbOZ20GDOYaT75wJNRFhb4y7BHQqzFf6WebcVsCbv2zNdX63xXwx+HVbGMUWPdEMteqBbeqb3X2c1/BltL4e8qh2tsHejx+Prb/+qqrx6OPhS/enZwz4yvledvds+076F1tHXj85b64v5qcY0XdEL+7+kJ7rnG5j1V+06J/IXf/hR2UuT45G/UlngSqcCsCB/xlOcS8qUlHOpRDYTBBXGBCYxw2mkkcUK1lDg6QInOMWZFJJmJVma77RKXYFmDN9KWvoAiG+P/A==</latexit><latexit

I<latexit sha1_base64="oY30qS6AbWvLptJRYFcV4cFPYP0=">AAACi3ichVHLSsNQFBzjq76rbgQ3xaK4KicqaIsLQQSXtrUqPihJvNZgXiRpoYb+gGvBhSgouBD3/oAbf8CFnyAuFdy48CQNioh6QnLnzj1zMpdRHUP3fKLHFqm1rb2jM9HV3dPb1z+QHBxa8+yqq4mSZhu2u6EqnjB0S5R83TfEhuMKxVQNsa4eLIbn6zXherptrfp1R+yYSsXS93RN8Zna3FbNYLVRDuRGOZmmDEWV+gnkGKQR14qdvMU2dmFDQxUmBCz4jA0o8PjZggyCw9wOAuZcRnp0LtBAN2ur3CW4Q2H2gL8V3m3FrMX7cKYXqTX+i8Gvy8oUxumBrumF7umGnuj911lBNCP0UudVbWqFUx44Gim+/asyefWx/6X607OPPcxFXnX27kRMeAutqa8dnrwUc4XxYIIu6Zn9X9Aj3fENrNqrdpUXhdM//KjsJYxH/kolyzU7E4Os/BnP2lRGpoycn0kvTMVBJTCKMUxyGrNYwDJWUOLpFo5xhnOpT5qWctJ8s1VqiTXD+FbS0gfGN5QG</latexit>

T1

··

I

J
<latexit sha1_base64="o4QdAFZcNEV1G2mZaU0UhY4twD8=">AAACi3ichVHLSsNQFBzju76qbgQ3YlFclRMVfOBCEMGlWltFW0oSrxrMiyQtaOgPuBZciIKCC3HvD7jxB1z0E8RlBTcuPEmDRcR6QnLnzj1zMpdRHUP3fKJqi9Ta1t7R2dWd6Ont6x9IDg7lPLvkaiKr2Ybt7qiKJwzdEllf9w2x47hCMVVDbKvHK+H5dlm4nm5bW/6JIwqmcmjpB7qm+Ezt5lUzyFWKgVwpJlOUpqjGfgM5BinEtW4nH5HHPmxoKMGEgAWfsQEFHj97kEFwmCsgYM5lpEfnAhUkWFviLsEdCrPH/D3k3V7MWrwPZ3qRWuO/GPy6rBzDBL3QPdXomR7olT7/nBVEM0IvJ7yqda1wigNnI5mPf1Umrz6OGqqmnn0cYD7yqrN3J2LCW2h1ffn0opZZ3JwIJumW3tj/DVXpiW9gld+1uw2xednEj8pewnjkRioLXHOzMViQv+PJTadlSssbs6nl6TioLoxiHFOcxhyWsYZ1ZHm6hXNc4Vrqk2akRWmp3iq1xJph/Chp9QvKfZQI</latexit><latexit sha1_base64="KZi2KLTVzYyjgZU97rK84K5Cunc=">AAACi3ichVHJSsNQFD3Gea66EdyIpeKq3FTBAReCCC6dOmBbShKfGsxEkhY09AdcCy5EQcGFuPcH3PgDLvwEcangxoU3abCIqDck77zz7rk5j6M6hu75RE8tUmtbe0dnV3dPb1//wGBiaDjn2VVXE1nNNmy3oCqeMHRLZH3dN0TBcYViqobIqwfL4Xm+JlxPt60t/9ARZVPZs/RdXVN8prZLqhls1StBpl5JJClNUY3/BHIMkohrzU7coYQd2NBQhQkBCz5jAwo8foqQQXCYKyNgzmWkR+cCdfSwtspdgjsUZg/4u8e7YsxavA9nepFa478Y/LqsHEeKHumGXumBbumZPn6dFUQzQi+HvKoNrXAqg8ejm+//qkxefew3VX969rGLucirzt6diAlvoTX0taPT182FjVQwSVf0wv4v6Ynu+QZW7U27XhcbZ3/4UdlLGI/cTGWea3YmBvPyVzy5TFqmtLw+k1zKxEF1YQwTmOI0ZrGEVawhy9MtnOAcF1K/NC0tSIuNVqkl1ozgW0krn8hWlAc=</latexit>

T2

j = jeK

V1<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit<latexit sha1_base64="oOsWay5tlYeE6zftDNvTj1E4SAI=">AAACi3ichVHLSsNQFBzj+9mqG8GNWBRX5aQWaosLQQSXvlrFByWJ1xrMiyQt1NAfcC24EAUFF+LeH3DjD7jwE8SlghsXnqRBEVFPSO7cuWdO5jKqY+ieT/TYIrW2tXd0dnX39Pb1DySSg0Mlz666mihqtmG7G6riCUO3RNHXfUNsOK5QTNUQ6+rBfHi+XhOup9vWml93xI6pVCx9T9cUn6nNbdUMSo1ykGmUkylKU1RjP4EcgxTiWrKTt9jGLmxoqMKEgAWfsQEFHj9bkEFwmNtBwJzLSI/OBRroYW2VuwR3KMwe8LfCu62YtXgfzvQitcZ/Mfh1WTmGCXqga3qhe7qhJ3r/dVYQzQi91HlVm1rhlBNHI6tv/6pMXn3sf6n+9OxjDzORV529OxET3kJr6muHJy+rhZWJYJIu6Zn9X9Aj3fENrNqrdrUsVk7/8KOylzAe+SuVPFcuG4O8/BlPKZOWKS0vZ1NzmTioLoxiHFOcRg5zWMQSijzdwjHOcC71S9NSQZpttkotsWYY30pa+ADMnJQJ</latexit>

Ac va on ma r x··<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit

WI 1<latexit sha1_base64="sC9YqZVxnUWbhmwDPo/cPBQgZI4=">AAACjXichVHLSsNQFJzG97NVN4KbYlHcWE6kUhURwYW681UrWClJvGowL5K0oKE/4AfowoUPcCHu/QE3/oALP0FcKrhx4UkaFBH1hOTOnXvmZC6jOobu+USPCamhsam5pbWtvaOzqzuZ6uld9+yKq4mCZhu2u6EqnjB0SxR83TfEhuMKxVQNUVT358LzYlW4nm5ba/6BI7ZMZdfSd3RN8ZkqlVQzKNbKweKoXCunMpSlqNI/gRyDDOJaslO3KGEbNjRUYELAgs/YgAKPn03IIDjMbSFgzmWkR+cCNbSztsJdgjsUZvf5u8u7zZi1eB/O9CK1xn8x+HVZmcYQPdA1vdA93dATvf86K4hmhF4OeFXrWuGUk0f9q2//qkxefex9qf707GMHE5FXnb07ERPeQqvrq4cnL6tTK0PBMF3SM/u/oEe64xtY1VftalmsnP7hR2UvYTzyVyqTXPlcDCblz3jWx7IyZeXlXGZ2LA6qFQMYxAinkccsFrCEAk93cIwznEtJaVyalmbqrVIi1vThW0nzHxmRlJM=</latexit>

V2

K

K

F g 2 13 Overv ew of t me annotat on (a)

K

第2章

20

既存手法

2.10.3 他音源が沈黙している時間範囲の指定情報の活用方法（b）
時間アノテーションの活用方法（b）の概要を Fig. 2.14 に示す．前項の処理 (2.45) 及び(2.46) では，沈黙音源の当該時間フレームのアクティベーションに微小値を代入していたが，同時にアクティベーション行列のその他の要素を次式のようにリセットする手法も考えられている．

vk1,nt , vk2,nt , · · · , vk(js −1),nt ← α, α, · · · , α ∀k(2.47)

vk(js +1),nt , vk(js +2),nt , · · · , vkJ,nt ← α, α, · · · , α ∀k

(2.48)

vkj,n ← α ∀k, j, n ̸= nt(2.49)

ここで，α は区間 [1.0 × 105 , 1.1 × 105 ] の一様乱数（ε と比較して十分大きな一様乱数）である．前項の処理 (2.45) 及び (2.46) のみの場合と比べ，本項の処理 (2.47)–(2.49) はより多くのパラメタをリセットしている．

2.11 本章のまとめ
本章では，ICA と FDICA の問題点について説明した．また，周波数領域 BSS の定式化を行い，その代表的な手法，そして ILRMA で導入された ISNMF について説明した．それに加えて 4 章で拡張するインタラクティブ音源分離システムとアノテーションの利用方法についても説明した．次章では，2.8 節で説明した一般化反復更新式の更新速度と分離性能の相関について調査を行う．
Demixing matrix

Bas s ma r x(spec ra pa erns)

N

M

W1

Rese w h "···j = js<latexit sha1_base64="3ofVH+I7ktRFEzST8W/D/GLzXkU=">AAACi3ichVHLSsNQFBzjuz5adSO4EYviqpxowQcuBBFcttZa8UFJ4lWDeZGkBQ39AdeCC1FQcCHu/QE3/oCLfoK4rODGhSdpUETUE5I7d+6Zk7mM6hi65xPVW6TWtvaOzq7uRE9vX38yNTC47tkVVxNFzTZsd0NVPGHolij6um+IDccViqkaoqQeLoXnpapwPd221vwjR+yYyr6l7+ma4jO1ua2aQalWDuRaOZWmDEU1+hPIMUgjrpydusc2dmFDQwUmBCz4jA0o8PjZggyCw9wOAuZcRnp0LlBDgrUV7hLcoTB7yN993m3FrMX7cKYXqTX+i8Gvy8pRjNMT3VKDHumOnun911lBNCP0csSr2tQKp5w8GS68/asyefVx8KX607OPPcxGXnX27kRMeAutqa8enzUK86vjwQRd0wv7v6I6PfANrOqrdpMXq+d/+FHZSxiP/JXKHNdMNgZz8mc861MZmTJyPptenIqD6sIIxjDJacxgESvIocjTLZziApdSnzQtzUsLzVapJdYM4VtJyx/MoJQJ</latexit>

Rese w h ↵<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit

Rese<latexit sha1_base64="d3MwO5P7DIvuWH0dISDgPeb+8sc=">AAACgnichVE9S8NQFD3GqrV+tOoiuBSLIg7lRgut4lBw0c1W2woqksRnDU2TkKQFLf0DuioOTgoO4u4fcPEPOPgTxLGCi4O3aVBE1BuSd95599ycx1FtQ3c9oqcuqTvU09sX7o<latexit
sha1_base64="d3MwO5P7DIvuWH0dISDgPeb+8sc=">AAACgnichVE9S8NQFD3GqrV+tOoiuBSLIg7lRgut4lBw0c1W2woqksRnDU2TkKQFLf0DuioOTgoO4u4fcPEPOPgTxLGCi4O3aVBE1BuSd95599ycx1FtQ3c9oqcuqTvU09sX7o8MDA4NR2Mjo0XXqjmaKGiWYTmbquIKQzdFwdM9Q2zajlCqqiFKamW5fV6qC8fVLXPDO7TFTlUpm/q+rikeU7nV3ViCkuRX/CeQA5BAUGtW7A7b2IMFDTVUIWDCY2xAgcvPFmQQbOZ20GDOYaT75wJNRFhb4y7BHQqzFf6WebcVsCbv2zNdX63xXwx+HVbGMUWPdEMteqBbeqb3X2c1/BltL4e8qh2tsHejx+Prb/+qqrx6OPhS/enZwz4yvledvds+076F1tHXj85b64v5qcY0XdEL+7+kJ7rnG5j1V+06J/IXf/hR2UuT45G/UlngSqcCsCB/xlOcS8qUlHOpRDYTBBXGBCYxw2mkkcUK1lDg6QInOMWZFJJmJVma77RKXYFmDN9KWvoAiG+P/A==</latexit><latexit sha1_base64="d3MwO5P7DIvuWH0dISDgPeb+8sc=">AAACgnichVE9S8NQFD3GqrV+tOoiuBSLIg7lRgut4lBw0c1W2woqksRnDU2TkKQFLf0DuioOTgoO4u4fcPEPOPgTxLGCi4O3aVBE1BuSd95599ycx1FtQ3c9oqcuqTvU09sX7o8MDA4NR2Mjo0XXqjmaKGiWYTmbquIKQzdFwdM9Q2zajlCqqiFKamW5fV6qC8fVLXPDO7TFTlUpm/q+rikeU7nV3ViCkuRX/CeQA5BAUGtW7A7b2IMFDTVUIWDCY2xAgcvPFmQQbOZ20GDOYaT75wJNRFhb4y7BHQqzFf6WebcVsCbv2zNdX63xXwx+HVbGMUWPdEMteqBbeqb3X2c1/BltL4e8qh2tsHejx+Prb/+qqrx6OPhS/enZwz4yvledvds+076F1tHXj85b64v5qcY0XdEL+7+kJ7rnG5j1V+06J/IXf/hR2UuT45G/UlngSqcCsCB/xlOcS8qUlHOpRDYTBBXGBCYxw2mkkcUK1lDg6QInOMWZFJJmJVma77RKXYFmDN9KWvoAiG+P/A==</latexit><latexit

I<latexit sha1_base64="oY30qS6AbWvLptJRYFcV4cFPYP0=">AAACi3ichVHLSsNQFBzjq76rbgQ3xaK4KicqaIsLQQSXtrUqPihJvNZgXiRpoYb+gGvBhSgouBD3/oAbf8CFnyAuFdy48CQNioh6QnLnzj1zMpdRHUP3fKLHFqm1rb2jM9HV3dPb1z+QHBxa8+yqq4mSZhu2u6EqnjB0S5R83TfEhuMKxVQNsa4eLIbn6zXherptrfp1R+yYSsXS93RN8Zna3FbNYLVRDuRGOZmmDEWV+gnkGKQR14qdvMU2dmFDQxUmBCz4jA0o8PjZggyCw9wOAuZcRnp0LtBAN2ur3CW4Q2H2gL8V3m3FrMX7cKYXqTX+i8Gvy8oUxumBrumF7umGnuj911lBNCP0UudVbWqFUx44Gim+/asyefWx/6X607OPPcxFXnX27kRMeAutqa8dnrwUc4XxYIIu6Zn9X9Aj3fENrNqrdpUXhdM//KjsJYxH/kolyzU7E4Os/BnP2lRGpoycn0kvTMVBJTCKMUxyGrNYwDJWUOLpFo5xhnOpT5qWctJ8s1VqiTXD+FbS0gfGN5QG</latexit>

T1

··

I

J
<latexit sha1_base64="o4QdAFZcNEV1G2mZaU0UhY4twD8=">AAACi3ichVHLSsNQFBzju76qbgQ3YlFclRMVfOBCEMGlWltFW0oSrxrMiyQtaOgPuBZciIKCC3HvD7jxB1z0E8RlBTcuPEmDRcR6QnLnzj1zMpdRHUP3fKJqi9Ta1t7R2dWd6Ont6x9IDg7lPLvkaiKr2Ybt7qiKJwzdEllf9w2x47hCMVVDbKvHK+H5dlm4nm5bW/6JIwqmcmjpB7qm+Ezt5lUzyFWKgVwpJlOUpqjGfgM5BinEtW4nH5HHPmxoKMGEgAWfsQEFHj97kEFwmCsgYM5lpEfnAhUkWFviLsEdCrPH/D3k3V7MWrwPZ3qRWuO/GPy6rBzDBL3QPdXomR7olT7/nBVEM0IvJ7yqda1wigNnI5mPf1Umrz6OGqqmnn0cYD7yqrN3J2LCW2h1ffn0opZZ3JwIJumW3tj/DVXpiW9gld+1uw2xednEj8pewnjkRioLXHOzMViQv+PJTadlSssbs6nl6TioLoxiHFOcxhyWsYZ1ZHm6hXNc4Vrqk2akRWmp3iq1xJph/Chp9QvKfZQI</latexit><latexit sha1_base64="KZi2KLTVzYyjgZU97rK84K5Cunc=">AAACi3ichVHJSsNQFD3Gea66EdyIpeKq3FTBAReCCC6dOmBbShKfGsxEkhY09AdcCy5EQcGFuPcH3PgDLvwEcangxoU3abCIqDck77zz7rk5j6M6hu75RE8tUmtbe0dnV3dPb1//wGBiaDjn2VVXE1nNNmy3oCqeMHRLZH3dN0TBcYViqobIqwfL4Xm+JlxPt60t/9ARZVPZs/RdXVN8prZLqhls1StBpl5JJClNUY3/BHIMkohrzU7coYQd2NBQhQkBCz5jAwo8foqQQXCYKyNgzmWkR+cCdfSwtspdgjsUZg/4u8e7YsxavA9nepFa478Y/LqsHEeKHumGXumBbumZPn6dFUQzQi+HvKoNrXAqg8ejm+//qkxefew3VX969rGLucirzt6diAlvoTX0taPT182FjVQwSVf0wv4v6Ynu+QZW7U27XhcbZ3/4UdlLGI/cTGWea3YmBvPyVzy5TFqmtLw+k1zKxEF1YQwTmOI0ZrGEVawhy9MtnOAcF1K/NC0tSIuNVqkl1ozgW0krn8hWlAc=</latexit>

T2

j = jeK

V1<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit<latexit sha1_base64="oOsWay5tlYeE6zftDNvTj1E4SAI=">AAACi3ichVHLSsNQFBzj+9mqG8GNWBRX5aQWaosLQQSXvlrFByWJ1xrMiyQt1NAfcC24EAUFF+LeH3DjD7jwE8SlghsXnqRBEVFPSO7cuWdO5jKqY+ieT/TYIrW2tXd0dnX39Pb1DySSg0Mlz666mihqtmG7G6riCUO3RNHXfUNsOK5QTNUQ6+rBfHi+XhOup9vWml93xI6pVCx9T9cUn6nNbdUMSo1ykGmUkylKU1RjP4EcgxTiWrKTt9jGLmxoqMKEgAWfsQEFHj9bkEFwmNtBwJzLSI/OBRroYW2VuwR3KMwe8LfCu62YtXgfzvQitcZ/Mfh1WTmGCXqga3qhe7qhJ3r/dVYQzQi91HlVm1rhlBNHI6tv/6pMXn3sf6n+9OxjDzORV529OxET3kJr6muHJy+rhZWJYJIu6Zn9X9Aj3fENrNqrdrUsVk7/8KOylzAe+SuVPFcuG4O8/BlPKZOWKS0vZ1NzmTioLoxiHFOcRg5zWMQSijzdwjHOcC71S9NSQZpttkotsWYY30pa+ADMnJQJ</latexit>

Ac va on ma r x··<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit<latexit sha1_base64="RH077LjBYi9O1jGkNuH9lJByKFY=">AAAChnichVE9S8NQFD2NX/W76iK4iEVxKjeiVJ0KLo7V2g9QkSS+1kfTJCSvBS3+ARdHFScFB3H3D7j4Bxz8CeKo4OLgbRoUEfWG5J133j0353FMz5aBInqMaR2dXd098d6+/oHBoeHEyGghcOu+JfKWa7t+yTQCYUtH5JVUtih5vjBqpi2KZnWldV5sCD+QrrOh9j2xXTMqjixLy1BM5besXVftJJKUorAmfwI9AklElXUTt9jCLlxYqKMGAQeKsQ0DAT+b0EHwmNtGkzmfkQzPBQ7Rx9o6dwnuMJit8rfCu82IdXjfmhmEaov/YvPrs3IS0/RA1/RC93RDT/T+66xmOKPlZZ9Xs60V3s7w0Xju7V9VjVeFvS/Vn54VylgMvUr27oVM6xZWW984OHnJLa9PN2fokp7Z/wU90h3fwGm8WldrYv38Dz8meznkePSvVJa40vMRWNI/4ynMpXRK6WvzycxcFFQcE5jCLKeRRgaryCLP0yWOcYozLa6ltAUt3W7VYpFmDN9Ky3wAzteR2w==</latexit><latexit

WI 1<latexit sha1_base64="sC9YqZVxnUWbhmwDPo/cPBQgZI4=">AAACjXichVHLSsNQFJzG97NVN4KbYlHcWE6kUhURwYW681UrWClJvGowL5K0oKE/4AfowoUPcCHu/QE3/oALP0FcKrhx4UkaFBH1hOTOnXvmZC6jOobu+USPCamhsam5pbWtvaOzqzuZ6uld9+yKq4mCZhu2u6EqnjB0SxR83TfEhuMKxVQNUVT358LzYlW4nm5ba/6BI7ZMZdfSd3RN8ZkqlVQzKNbKweKoXCunMpSlqNI/gRyDDOJaslO3KGEbNjRUYELAgs/YgAKPn03IIDjMbSFgzmWkR+cCNbSztsJdgjsUZvf5u8u7zZi1eB/O9CK1xn8x+HVZmcYQPdA1vdA93dATvf86K4hmhF4OeFXrWuGUk0f9q2//qkxefex9qf707GMHE5FXnb07ERPeQqvrq4cnL6tTK0PBMF3SM/u/oEe64xtY1VftalmsnP7hR2UvYTzyVyqTXPlcDCblz3jWx7IyZeXlXGZ2LA6qFQMYxAinkccsFrCEAk93cIwznEtJaVyalmbqrVIi1vThW0nzHxmRlJM=</latexit>

V2

K

K

F g 2 14 Overv ew of t me annotat on (b)

K

21

第3章

目的関数の挙動と音源分離性能の相関の調査
3.1 まえがき
本章では，目的関数の挙動と音源分離性能の相関を調査する．まず，3.2 節では ILRMAの初期値依存性と分離失敗に対するアプローチについて述べる．次に，3.3 節 では最適化速度と収束値を別々に議論するために ILRMA の目的関数から IVA に由来する目的関数及びISNMF に由来する目的関数を定義する．そして，3.4 節では最適化速度と分離性能の関係を明らかにし，それを元に分離性能が高いときと低いときの二つのモデルの目的関数を観測する．

3.2 ILRMA の初期値依存性
ILRMA のパラメタである空間モデル Wi 及び音源モデル Tn Vn の初期値は，それぞれ単位
行列及び乱数で初期化することが一般的である．しかし，分離性能のばらつきはこの初期化方法でも解消されず，場合によっては極端に分離性能が低くなる局所最適解に陥ってしまう．この原因の多くは先述したブロックパーミュテーション問題である．これを解決するには，常に高い分離性能をもたらすようなパラメタの初期化方法を明らかにする必要があるが，現在その方法は不明である．また，ILRMA の目的関数が非凸関数なので，あらゆる観測信号に対して
常に最良の分離性能をもたらすような初期化方法を確立することは困難であると考えられる．
そこで，別の観点から解決を検討する．空間モデル Wi 及び音源モデル Tn Vn の最適化速度のバランスを操作すれば，初期化方法が同じでも解は変わる．2.8 節で述べた音源モデルの一
般化反復更新式を用いれば，空間モデル Wi 及び音源モデル Tn Vn の最適化速度を変化させることができる．そこで，本章では解決が困難である初期値依存性の問題を「空間モデル Wi 及
び音源モデル Tn Vn の最適化速度の調整」という観点から解決の可能性があるか調査する．

22

第3章

目的関数の挙動と音源分離性能の相関の調査

3.3 モデルごとの目的関数
空間モデル Wi と音源モデル Tn Vn についての目的関数を式 (2.34) より以下のように定義する．

LW = −2JX

log | det Wi | +

i

LTV =

X
i,j,n

X
i,j,n

|wH xij |2
P i,nk tik,n vkj,nX|wH xij |2
P i,n
+ log
tik,n vkj,nk tik,n vkj,n

!
(3.1)
!
(3.2)

k

式 (3.1) 及び式 (3.2) は式 (2.34) のそれぞれ IVA に対応する項と ISNMF に対応する項を抽出したものとなっている．したがって，LW と LTV の反復に対する収束カーブを観測することで，空間モデル Wi と音源モデル Tn Vn の最適化速度と収束値を別々に議論でき，より良い最適化条件を調査することができる．
なお，式 (3.1) 及び式 (3.2) は式 (2.34) における第二項が重複しているため，両モデルの目
的関数の和は式 (2.34) に一致しない．また，式 (2.34) と異なって式 (3.1) 及び式 (3.2) に単調
非増加性は保証されていない点に注意する．

3.4 実験
まず，2.8 節で述べた一般化乗算型反復更新式の最適化速度と分離性能の関係について調査する．次に，分離性能が高いとき及び低いときの空間モデル Wi と空間モデル Tn Vn の目的関数の挙動を観察することで目的関数の挙動と分離性能の関係について調査する．分離性能の評
価には次式で表される信号対歪比（source-to-distortion ratio: SDR）[26] を用いる．

Ŝ[l] = et [l] + ei [l] + ea [l]PL|et [l]|2
SDR = 10 log PL l=1
[dB]
2
|e
[l]
+
e
[l]|
i
a
l=1

(3.3)
(3.4)

ここで，Ŝ[l] は推定によって得られた時間領域の分離信号を示す．また，et [l]，ei [l] 及び ea [l]はそれぞれ時間領域の分離の目的とする成分，非目的（干渉）音源の残留成分及び BSS で生じたその他の人工的な歪み成分を示す．

3.4 実験

23

3.4.1 音源モデルの収束速度と分離性能に関する実験
分離実験は Fig. 3.1 に示すような 2 種類の音源を 2 本のマイクロホンで観測した場合を想定した．観測信号は SiSEC2011 [27] で利用されたギターとシンセサイザー混合信号（dev2 ultimate nz tour snip 43 61）に対し，RWCP データベース収録の E2A インパルス応答 [28] を畳み込むことで作成した．その他の実験条件を Table 3.1 に示す．また，音源モデルの最適化速度を制御する指数パラメタ p を (0, 1) の範囲の一様乱数から生成し，Tn 及び Vnの初期値と p を 2000 通り変化させた．その結果を Fig. 3.2 に示す．縦軸が SDR 改善量を，
横軸が指数パラメタ p を示す．音源分離性能は 2 層の層状に分布しており，音源分離性能が高
い結果と低い結果の 2 つの大まかな局所解に収束している様子が確認できる．また，指数パラ
メタ p が小さいとき，即ち音源モデルの最適化速度が速いよりもむしろ遅い方がより良い音源分離を達成できる傾向にある．

インパルス応答 E2A
残響時間 T60 = 300 ms<latexit sha1_base64="PdrRC5ql6SorDrQ1sYjpBRjiY3Y=">AAACenichVHLSsNAFD2N7/poVQTBTbAoilButFgVBMGNS19VQaUkcdTQvEjSQg31A/wBF64URNTPcOMPuPATxKWCGxfepkERUW/IzJkz99w5M1dzTcMPiB4TUlNzS2tbe0eys6u7J5Xu7dvwnbKni4LumI63pam+MA1bFAIjMMWW6wnV0kyxqZUW6/ubFeH5hmOvB1VX7FrqgW3sG7oaMFVMD6wXw2mqyfPyFNFxuONZsuXXiukMZSkK+SdQYpBBHMtO+go72IMDHWVYELARMDahwudvGwoILnO7CJnzGBnRvkANSdaWOUtwhspsiccDXm3HrM3rek0/Uut8ism/x0oZI/RA1/RC93RLT/T+a60wqlH3UuVZa2iFW0ydDK69/auyeA5w+KX603OAfcxEXg327kZM/RZ6Q185On1Zm1sdCUfpgp7Z/zk90h3fwK686pcrYvUMSW6A8vXusxz5XAxmlc8GbExmFcoqK7nMwmTcinYMYRhj/N55LGAJyyjwuSHOcYPbxLs0LI1LE41UKRFr+vEtpNwHf7KRlg==</latexit>

Synth
Synth

GuitarGuitarFig. 3.1. Audio recording environment.
Table 3.1. Experimental conditions

Parameter

Value

Sampling frequency

16000 HzFFT length

256 ms (4096 samples)

Shift length

128 ms (2048 samples)

Initial value of spatial model

Uniform random values (0, 1)

Initial value of source model

N × N identity matrix

Number of iterations

200

第3章

24

目的関数の挙動と音源分離性能の相関の調査

14

SDR improvement [dB]

13
12
11
10
9
8
7
6
0

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

Exponent parameter p
Fig. 3.2. SDR improvements of guitar and synth mixture in terms of balance of optimization speeds between spatial and source models.

3.4.2 目的関数の挙動に関する実験
前項の実験で得られた SDR 改善量が大きい場合及び小さい場合の例をそれぞれ 5 つ抽出したものを Table 3.2 に示す．これらのパラメタにおける ILRMA の反復最適化の際に式 (3.1)
及び式 (3.2) で得られる各モデルの目的関数の挙動を Fig. 3.3 及び Fig. 3.4 に示す．両図とも SDR 改善量が大きいときの目的関数の挙動を実線で，低いときを破線で表しており，横軸が反復回数を，縦軸が各モデルの目的関数値を示している．
まず，Fig. 3.3 の空間モデルの場合では分離性能が高いときの方が目的関数は小さい値に収束している．これは分離信号間の独立性をより高めるような空間モデルつまり分離行列を推定していることを示しており，この結果からも p の値を小さくする方がより良い音源分離結果をもたらす傾向にあることが示唆される．また，反復回数が 3 回程度の最適化がほとんど進んでいないとき，分離性能が低いときは高いときと比較してスパイクが大きい．
次に Fig. 3.4 では，音源モデルの目的関数の場合では分離性能が高いときの方が目的関数
は大きい値に収束している．つまり，目的関数である負対数尤度関数を最小化することがより良い音源分離につながってないと言える．また，目的関数値のオーダから，音源モデルの目的関数が支配的であることから式 (2.34) の全体の目的関数でも同様の現象が見られる．一方で，目的関数の値ではなく挙動の方に注目すると，分離性能が高いときは低いときと比較してカーブが緩やかであることが見て取れる．
上記の結果がなぜより良い分離結果をもたらすかについて考察する．ILRMA の反復最適化

3.4 実験

25

Table 3.2. Exponent parameters and initial values in case of good and poor separations

高性能

低性能

SDR [dB]

指数パラメタ p

初期値（乱数シード）

13.51

0.067

1656

13.50

0.252

789

13.48

0.125

854

13.43

0.237

984

13.41

0.084

1580

6.53

0.795

769

6.56

0.941

1052

6.81

0.841

1040

6.89

0.990

1513

7.23

0.960

1823

は 2.7 節で述べたように，分離信号 Yn の推定とそれに対する低ランクモデリングが交互に行われる．音源モデル Tn Vn の最適化速度が速いと Tn Vn は直ちに Yn をモデル化し収束するが，空間モデル Wi の最適化がまだ進んでいない反復初期の段階では，空間モデルによって推定される分離信号 Yn の推定精度は低く，複数の音源が混合した（非目的音源が多く残留した）状態にある．このような状態で音源モデル Tn Vn が Yn を正確にモデリングし収束してしまうと，混合信号を低ランク近似する不適切なモデリングが行われ，それに対する分離信号 Yn もまた，分離性能が低い局所最適解に陥ってしまう．つまり，音源モデル Tn Vn は空間モデル

Wi がある程度最適化された状態（ある程度音源分離が進んだ状態）でモデリングする必要がある．一般化反復最適化式における p 値を小さくし，音源モデル Tn Vn の最適化速度を遅くすることは，Tn Vn が混合信号をモデル化してしまう現象を防ぐ効果があり，より音源分離性能の高い解へと誘導していると考えられる．
最後に，両モデルに共通する事実として，分離性能が高いときと低いときでは明らかに目的関数の挙動が異なっている．分離性能が低いときは空間モデルと音源モデルの両方の目的関数
値の収束が速く，反復回数が 40 回を超えると目的関数値はほとんど変化しない．一方で，分離性能が高いときは反復回数が 100 回を超えても収束せず緩やかに目的関数値が推移している．この事実から，目的関数の挙動を観察することで分離が未了である反復最適化の途中であっても分離の成否を判断できることがわかる．

第3章

26

8.3

目的関数の挙動と音源分離性能の相関の調査

× 105<latexit sha1_base64="0zNLxpRlF+xbOcdTsyyOd6mi/Tg=">AAACbHichVG7SgNBFD1Z3/EVH4UQhMVgsAp3NWAQBMHG0iTGByqyu07i4r7Y3QQ0+AO2FhZqoSAifoaNP2DhJ4hgo2Bj4c1mQVTUO8zMmTP33Dkzo7mm4QdEDzGppbWtvaOzK97d09vXnxgYXPadqqeLku6Yjreqqb4wDVuUAiMwxarrCdXSTLGi7c439ldqwvMNx14K9lyxaakV2ygbuhowtebKszJlclllK5GiDIUh/wRKBFKIYtFJXGED23CgowoLAjYCxiZU+NzWoYDgMreJOnMeIyPcFzhAnLVVzhKcoTK7y2OFV+sRa/O6UdMP1TqfYnL3WCljnO7pml7ojm7okd5/rVUPazS87PGsNbXC3eo/HCm+/auyeA6w86n603OAMnKhV4O9uyHTuIXe1Nf2j1+KM4Xxepou6In9n9MD3fIN7NqrfpkXhRPE+QOU78/9EyxPZhTKKPlsam4q+opOJDGGCX7vacxhAYso8bkWjnCKs9izNCwlpdFmqhSLNEP4ElL6AwWoi6k=</latexit>

p = 0.841<latexit sha1_base64="OmKaC56YEywYE8Y7sDmEqhuioS4=">AAACbHichVG7SgNBFD1ZXzG+4qMQRFgMBqtwVwM+QAjYWCZqfKASdtdRF/fF7iYQgz9ga2GhFgoi4mfY+AMWfoIINgo2Ft5sFkRFvcPMnDlzz50zM5prGn5A9BCTmppbWtvi7YmOzq7unmRv37LvlD1dFHXHdLxVTfWFadiiGBiBKVZdT6iWZooVbW+uvr9SEZ5vOPZSUHXFpqXu2Ma2oasBU2uuPCtTZjqrlJIpylAY8k+gRCCFKPJO8gob2IIDHWVYELARMDahwue2DgUEl7lN1JjzGBnhvsABEqwtc5bgDJXZPR53eLUesTav6zX9UK3zKSZ3j5UyRumerumF7uiGHun911q1sEbdS5VnraEVbqnncHDx7V+VxXOA3U/Vn54DbGMq9Gqwdzdk6rfQG/rK/vHL4szCaC1NF/TE/s/pgW75BnblVb8siIUTJPgDlO/P/RMsj2cUyiiFbCo3EX1FHEMYwRi/9yRymEceRT7XwhFOcRZ7lgakIWm4kSrFIk0/voSU/gAHqouq</latexit>

p = 0.941<latexit sha1_base64="YyHddSPBQw370O2Igz/aghJng5A=">AAACbHichVG7SgNBFD1Z3/EVH4UQhGBQrMJdH0QFQbCxNGoeEkV214ku2Re7m4AGf8DWwkItFETEz7DxByz8BBFsFGwsvNksiIp6h5k5c+aeO2dmVMfQPZ/oISI1Nbe0trV3RDu7unt6Y339Oc+uuJrIarZhuwVV8YShWyLr674hCo4rFFM1RF4tL9b381Xherptrfl7jtg0lR1LL+ma4jO17iTmE5RKz05vxZKUoiASP4EcgiTCWLZjV9jANmxoqMCEgAWfsQEFHrciZBAc5jZRY85lpAf7AgeIsrbCWYIzFGbLPO7wqhiyFq/rNb1ArfEpBneXlQmM0j1d0wvd0Q090vuvtWpBjbqXPZ7VhlY4W72HQ6tv/6pMnn3sfqr+9OyjhJnAq87enYCp30Jr6Kv7xy+rcyujtTG6oCf2f04PdMs3sKqv2mVGrJwgyh8gf3/unyA3kZIpJWemkguT4Ve0I44RjPN7p7GAJSwjy+eaOMIpziLP0qAUl4YbqVIk1AzgS0hjHxWri7E=</latexit>

p = 0.795

Cost value for spatial model

8.2
8.1

<latexit sha1_base64="WfS5qTIdfzyzXNoZB/aOi3PziVw=">AAACbHichVG7SgNBFD1ZXzE+Eh+FEIRgUKzCXRU0ghCwsUyi8YGK7K6jLtkXu5tADP6ArYWFWiiIiJ9h4w9Y+Aki2CjYWHizWRAV9Q4zc+bMPXfOzKiOoXs+0UNEamlta++Idsa6unt644m+/mXPrriaKGm2YburquIJQ7dEydd9Q6w6rlBM1RAranm+sb9SFa6n29aSX3PEpqnsWvqOrik+U2tOai5FmWyWthJpylAQqZ9ADkEaYeTtxBU2sA0bGiowIWDBZ2xAgcdtHTIIDnObqDPnMtKDfYEDxFhb4SzBGQqzZR53ebUeshavGzW9QK3xKQZ3l5UpjNI9XdML3dENPdL7r7XqQY2GlxrPalMrnK344dDi278qk2cfe5+qPz372MFM4FVn707ANG6hNfXV/eOXxdniaH2MLuiJ/Z/TA93yDazqq3ZZEMUTxPgD5O/P/RMsT2RkysiFqXRuMvyKKJIYwTi/9zRyWEAeJT7XxBFOcRZ5lgalpDTcTJUioWYAX0Ia+wAPr4uu</latexit>

p = 0.990<latexit sha1_base64="8wWn1K3k2hpi6PwP7aePo6jEWD8=">AAACbHichVG7SgNBFD1Z3/EVH4UQhMVgsAp3VXyBINhYxkeMEiXsrhNd3Be7m4AGf8DWwkItFETEz7DxByz8BBFsFGwsvNksiIp6h5k5c+aeO2dmNNc0/IDoISY1NDY1t7S2xds7Oru6Ez29q75T9nSR0x3T8dY01RemYYtcYASmWHM9oVqaKfLa7nxtP18Rnm849kqw54pNS922jZKhqwFT6648K1NmeoKKiRRlKAz5J1AikEIUWSdxhQ1swYGOMiwI2AgYm1DhcytAAcFlbhNV5jxGRrgvcIA4a8ucJThDZXaXx21eFSLW5nWtph+qdT7F5O6xUsYw3dM1vdAd3dAjvf9aqxrWqHnZ41mra4Vb7D4cWH77V2XxHGDnU/Wn5wAlTIVeDfbuhkztFnpdX9k/flmeWRqupumCntj/OT3QLd/Arrzql4ti6QRx/gDl+3P/BKujGYUyyuJ4am4s+opWJDGEEX7vScxhAVnk+FwLRzjFWexZ6peS0mA9VYpFmj58CSn9AQmsi6s=</latexit>

p = 0.960

8.0
7.9

p = 0.067
p = 0.084
p = 0.125
p = 0.237<latexit sha1_base64="pftxQm+3bUt8b7CyFJ9TLDQVurg=">AAACbHichVHLSsNAFD2N7/qqj4UgQrBYXJUbFRVBENy4bNVWRaUkcVqDeZGkBS3+gFsXLtSFgoj4GW78ARd+gghuKrhx4W0aEBX1hsw9c+aeO2dmNNc0/IDoMSY1Nbe0trV3xDu7unt6E339ed8pe7rI6Y7peOua6gvTsEUuMAJTrLueUC3NFGva3mJ9fa0iPN9w7NVg3xXbllqyjaKhqwFTG648L1OapmcKiSTnMOSfQIlAElFknMQ1trADBzrKsCBgI2BsQoXP3yYUEFzmtlFlzmNkhOsCh4iztsxVgitUZvd4LPFsM2Jtntd7+qFa511M/j1WyhijB7qhGt3TLT3R+6+9qmGPupd9zlpDK9xC79HQytu/KotzgN1P1Z+eAxQxG3o12LsbMvVT6A195eCktjK3PFZN0SU9s/8LeqQ7PoFdedWvsmL5FHF+AOX7df8E+Ym0QmklO5VcmIyeoh3DGMU43/cMFrCEDHK8r4VjnOE89iINSsPSSKNUikWaAXwJKfUBBZqLqQ==</latexit>

7.8<latexit sha1_base64="h315RFK3ZZYKjKw3wVitgs3h2vY=">AAACbHichVHLSsNAFD2N7/qqj4VQhGKpuCo3WrAIguDGpW2tVVQkiWMN5kWSFrT4A25duFAXCiLiZ7jxB1z4CSK4qeDGhbdpQLSoN2TumTP33DkzozqG7vlETxGprb2js6u7J9rb1z8wGBsaXvXsiquJomYbtrumKp4wdEsUfd03xJrjCsVUDVFS9xcb66WqcD3dtlb8A0dsmUrZ0nd1TfGZWncS8wlKUzazHUtyDiLRCuQQJBHGsh27wSZ2YENDBSYELPiMDSjw+NuADILD3BZqzLmM9GBd4AhR1la4SnCFwuw+j2WebYSsxfNGTy9Qa7yLwb/LygRS9Ei3VKcHuqNn+vi1Vy3o0fBywFltaoWzPXg8Vnj/V2Vy9rH3pfrTs49dZAOvOnt3AqZxCq2prx6e1gtz+VRtkq7ohf1f0hPd8wms6pt2nRP5M0T5AeSf190KVqfTMqXlXCa5MBM+RTfimMAU3/csFrCEZRR5XxMnOMdF5FUaleLSeLNUioSaEXwLafITA5yLqA==</latexit><latexit sha1_base64="GEz3X4q0vQMkGgORA2trQImZiJ0=">AAACbHichVHLSsNAFD2Nr1ofrY+FIEKxKK7KTVUUQSi4cdmqtRUVSeKooXmRpIVa/AG3LlyoCwUR8TPc+AMu/AQR3Ci4ceFtGhAV9YbMnDlzz50zc1XH0D2f6CEitbS2tXdEO2Nd3T298URf/6pnV1xNFDTbsN2SqnjC0C1R8HXfECXHFYqpGqKolhca+8WqcD3dtlb8miM2TWXX0nd0TfGZWnOS80lKy5nprUSK0hRE8ieQQ5BCGDk7cYUNbMOGhgpMCFjwGRtQ4PG3DhkEh7lN1JlzGenBvsABYqytcJbgDIXZMo+7vFoPWYvXjZpeoNb4FIN/l5VJjNE9XdML3dENPdL7r7XqQY2GlxrPalMrnK344dDy278qk2cfe5+qPz372MFs4FVn707ANG6hNfXV/eOX5bmlsfo4XdAT+z+nB7rlG1jVV+0yL5ZOEOMGyN+f+ydYzaRl7ld+KpWdDFsRxTBGMcHvPYMsFpFDgc81cYRTnEWepUFpWBpppkqRUDOALyGNfwD7iYuk</latexit>

7.7<latexit sha1_base64="WBrZclWncV3CKMVRJoNQ2xnz/Ew=">AAACbHichVG7SgNBFD1ZXzE+Eh+FIEIwKFbhbiIoghCwsUyM8YGK7K5jXLIvdjcBDf6ArYWFWiiIiJ9h4w9Y5BNEsFGwsfBmsyAq6h1m5syZe+6cmVEdQ/d8okZEamvv6OyKdsd6evv644mBwRXPrrqaKGm2YbtrquIJQ7dEydd9Q6w5rlBM1RCramWhub9aE66n29ayv++ILVMpW/qurik+U+tOcj5J6Ux2ZjuRojQFkfwJ5BCkEEbeTlxjEzuwoaEKEwIWfMYGFHjcNiCD4DC3hTpzLiM92Bc4RIy1Vc4SnKEwW+GxzKuNkLV43azpBWqNTzG4u6xMYoIe6IZe6J5u6ZHef61VD2o0vezzrLa0wtmOH40U3/5VmTz72PtU/enZxy5mA686e3cCpnkLraWvHZy8FOeWJuqTdElP7P+CGnTHN7Bqr9pVQSydIsYfIH9/7p9gJZOWKS0XplO5bPgVUYxiHFP83jPIYRF5lPhcE8c4w3nkWRqWRqWxVqoUCTVD+BLS5AcDm4uo</latexit>

7.6<latexit sha1_base64="2BVktOrCSnUyvMksVbSIcs5rEhc=">AAACbHichVG7SgNBFD1ZXzG+4qMQghAMilW4GxVFEAI2lkk0PlCR3XWiS/bF7iYQgz9ga2GhFgoi4mfY+AMWfoIINgo2Ft5sFkRFvcPMnDlzz50zM6pj6J5P9BCRWlrb2juinbGu7p7evnj/wIpnV1xNFDXbsN01VfGEoVui6Ou+IdYcVyimaohVtbzQ2F+tCtfTbWvZrzliy1R2Lb2ka4rP1LqTnE9SOjOd2Y6nKE1BJH8COQQphJGz41fYxA5saKjAhIAFn7EBBR63DcggOMxtoc6cy0gP9gUOEGNthbMEZyjMlnnc5dVGyFq8btT0ArXGpxjcXVYmMUb3dE0vdEc39Ejvv9aqBzUaXmo8q02tcLb7DoeX3v5VmTz72PtU/enZRwmzgVedvTsB07iF1tRX949fluYKY/VxuqAn9n9OD3TLN7Cqr9plXhROEOMPkL8/90+wkknLlJbzU6nsZPgVUSQwigl+7xlksYgcinyuiSOc4izyLA1JCWmkmSpFQs0gvoQ0/gH9joul</latexit>

p = 0.252

Solid line: Good
Dotted line: Poor

7.5
7.4
7.3
0

20

40

60

80

100

120

140

160

180

200

Number of iteration
Fig. 3.3. Convergence behaviors of cost value for spatial model.

Cost value for source model

× 106
-4.1

-4.3

p = 0.084<latexit sha1_base64="h315RFK3ZZYKjKw3wVitgs3h2vY=">AAACbHichVHLSsNAFD2N7/qqj4VQhGKpuCo3WrAIguDGpW2tVVQkiWMN5kWSFrT4A25duFAXCiLiZ7jxB1z4CSK4qeDGhbdpQLSoN2TumTP33DkzozqG7vlETxGprb2js6u7J9rb1z8wGBsaXvXsiquJomYbtrumKp4wdEsUfd03xJrjCsVUDVFS9xcb66WqcD3dtlb8A0dsmUrZ0nd1TfGZWncS8wlKUzazHUtyDiLRCuQQJBHGsh27wSZ2YENDBSYELPiMDSjw+NuADILD3BZqzLmM9GBd4AhR1la4SnCFwuw+j2WebYSsxfNGTy9Qa7yLwb/LygRS9Ei3VKcHuqNn+vi1Vy3o0fBywFltaoWzPXg8Vnj/V2Vy9rH3pfrTs49dZAOvOnt3AqZxCq2prx6e1gtz+VRtkq7ohf1f0hPd8wms6pt2nRP5M0T5AeSf190KVqfTMqXlXCa5MBM+RTfimMAU3/csFrCEZRR5XxMnOMdF5FUaleLSeLNUioSaEXwLafITA5yLqA==</latexit>-4.5

Solid line: Good
Dotted line: Poorp = 0.067<latexit sha1_base64="pftxQm+3bUt8b7CyFJ9TLDQVurg=">AAACbHichVHLSsNAFD2N7/qqj4UgQrBYXJUbFRVBENy4bNVWRaUkcVqDeZGkBS3+gFsXLtSFgoj4GW78ARd+gghuKrhx4W0aEBX1hsw9c+aeO2dmNNc0/IDoMSY1Nbe0trV3xDu7unt6E339ed8pe7rI6Y7peOua6gvTsEUuMAJTrLueUC3NFGva3mJ9fa0iPN9w7NVg3xXbllqyjaKhqwFTG648L1OapmcKiSTnMOSfQIlAElFknMQ1trADBzrKsCBgI2BsQoXP3yYUEFzmtlFlzmNkhOsCh4iztsxVgitUZvd4LPFsM2Jtntd7+qFa511M/j1WyhijB7qhGt3TLT3R+6+9qmGPupd9zlpDK9xC79HQytu/KotzgN1P1Z+eAxQxG3o12LsbMvVT6A195eCktjK3PFZN0SU9s/8LeqQ7PoFdedWvsmL5FHF+AOX7df8E+Ym0QmklO5VcmIyeoh3DGMU43/cMFrCEDHK8r4VjnOE89iINSsPSSKNUikWaAXwJKfUBBZqLqQ==</latexit><latexit sha1_base64="GEz3X4q0vQMkGgORA2trQImZiJ0=">AAACbHichVHLSsNAFD2Nr1ofrY+FIEKxKK7KTVUUQSi4cdmqtRUVSeKooXmRpIVa/AG3LlyoCwUR8TPc+AMu/AQR3Ci4ceFtGhAV9YbMnDlzz50zc1XH0D2f6CEitbS2tXdEO2Nd3T298URf/6pnV1xNFDTbsN2SqnjC0C1R8HXfECXHFYqpGqKolhca+8WqcD3dtlb8miM2TWXX0nd0TfGZWnOS80lKy5nprUSK0hRE8ieQQ5BCGDk7cYUNbMOGhgpMCFjwGRtQ4PG3DhkEh7lN1JlzGenBvsABYqytcJbgDIXZMo+7vFoPWYvXjZpeoNb4FIN/l5VJjNE9XdML3dENPdL7r7XqQY2GlxrPalMrnK344dDy278qk2cfe5+qPz372MFs4FVn707ANG6hNfXV/eOX5bmlsfo4XdAT+z+nB7rlG1jVV+0yL5ZOEOMGyN+f+ydYzaRl7ld+KpWdDFsRxTBGMcHvPYMsFpFDgc81cYRTnEWepUFpWBpppkqRUDOALyGNfwD7iYuk</latexit>

p = 0.125-4.7<latexit sha1_base64="2BVktOrCSnUyvMksVbSIcs5rEhc=">AAACbHichVG7SgNBFD1ZXzG+4qMQghAMilW4GxVFEAI2lkk0PlCR3XWiS/bF7iYQgz9ga2GhFgoi4mfY+AMWfoIINgo2Ft5sFkRFvcPMnDlzz50zM6pj6J5P9BCRWlrb2juinbGu7p7evnj/wIpnV1xNFDXbsN01VfGEoVui6Ou+IdYcVyimaohVtbzQ2F+tCtfTbWvZrzliy1R2Lb2ka4rP1LqTnE9SOjOd2Y6nKE1BJH8COQQphJGz41fYxA5saKjAhIAFn7EBBR63DcggOMxtoc6cy0gP9gUOEGNthbMEZyjMlnnc5dVGyFq8btT0ArXGpxjcXVYmMUb3dE0vdEc39Ejvv9aqBzUaXmo8q02tcLb7DoeX3v5VmTz72PtU/enZRwmzgVedvTsB07iF1tRX949fluYKY/VxuqAn9n9OD3TLN7Cqr9plXhROEOMPkL8/90+wkknLlJbzU6nsZPgVUSQwigl+7xlksYgcinyuiSOc4izyLA1JCWmkmSpFQs0gvoQ0/gH9joul</latexit>

p = 0.252
p = 0.237<latexit sha1_base64="WBrZclWncV3CKMVRJoNQ2xnz/Ew=">AAACbHichVG7SgNBFD1ZXzE+Eh+FIEIwKFbhbiIoghCwsUyM8YGK7K5jXLIvdjcBDf6ArYWFWiiIiJ9h4w9Y5BNEsFGwsfBmsyAq6h1m5syZe+6cmVEdQ/d8okZEamvv6OyKdsd6evv644mBwRXPrrqaKGm2YbtrquIJQ7dEydd9Q6w5rlBM1RCramWhub9aE66n29ayv++ILVMpW/qurik+U+tOcj5J6Ux2ZjuRojQFkfwJ5BCkEEbeTlxjEzuwoaEKEwIWfMYGFHjcNiCD4DC3hTpzLiM92Bc4RIy1Vc4SnKEwW+GxzKuNkLV43azpBWqNTzG4u6xMYoIe6IZe6J5u6ZHef61VD2o0vezzrLa0wtmOH40U3/5VmTz72PtU/enZxy5mA686e3cCpnkLraWvHZy8FOeWJuqTdElP7P+CGnTHN7Bqr9pVQSydIsYfIH9/7p9gJZOWKS0XplO5bPgVUYxiHFP83jPIYRF5lPhcE8c4w3nkWRqWRqWxVqoUCTVD+BLS5AcDm4uo</latexit>

-4.9
-5.1
<latexit sha1_base64="YyHddSPBQw370O2Igz/aghJng5A=">AAACbHichVG7SgNBFD1Z3/EVH4UQhGBQrMJdH0QFQbCxNGoeEkV214ku2Re7m4AGf8DWwkItFETEz7DxByz8BBFsFGwsvNksiIp6h5k5c+aeO2dmVMfQPZ/oISI1Nbe0trV3RDu7unt6Y339Oc+uuJrIarZhuwVV8YShWyLr674hCo4rFFM1RF4tL9b381Xherptrfl7jtg0lR1LL+ma4jO17iTmE5RKz05vxZKUoiASP4EcgiTCWLZjV9jANmxoqMCEgAWfsQEFHrciZBAc5jZRY85lpAf7AgeIsrbCWYIzFGbLPO7wqhiyFq/rNb1ArfEpBneXlQmM0j1d0wvd0Q090vuvtWpBjbqXPZ7VhlY4W72HQ6tv/6pMnn3sfqr+9OyjhJnAq87enYCp30Jr6Kv7xy+rcyujtTG6oCf2f04PdMs3sKqv2mVGrJwgyh8gf3/unyA3kZIpJWemkguT4Ve0I44RjPN7p7GAJSwjy+eaOMIpziLP0qAUl4YbqVIk1AzgS0hjHxWri7E=</latexit>

p = 0.795<latexit sha1_base64="0zNLxpRlF+xbOcdTsyyOd6mi/Tg=">AAACbHichVG7SgNBFD1Z3/EVH4UQhMVgsAp3NWAQBMHG0iTGByqyu07i4r7Y3QQ0+AO2FhZqoSAifoaNP2DhJ4hgo2Bj4c1mQVTUO8zMmTP33Dkzo7mm4QdEDzGppbWtvaOzK97d09vXnxgYXPadqqeLku6Yjreqqb4wDVuUAiMwxarrCdXSTLGi7c439ldqwvMNx14K9lyxaakV2ygbuhowtebKszJlclllK5GiDIUh/wRKBFKIYtFJXGED23CgowoLAjYCxiZU+NzWoYDgMreJOnMeIyPcFzhAnLVVzhKcoTK7y2OFV+sRa/O6UdMP1TqfYnL3WCljnO7pml7ojm7okd5/rVUPazS87PGsNbXC3eo/HCm+/auyeA6w86n603OAMnKhV4O9uyHTuIXe1Nf2j1+KM4Xxepou6In9n9MD3fIN7NqrfpkXhRPE+QOU78/9EyxPZhTKKPlsam4q+opOJDGGCX7vacxhAYso8bkWjnCKs9izNCwlpdFmqhSLNEP4ElL6AwWoi6k=</latexit>

p = 0.841-5.3<latexit sha1_base64="WfS5qTIdfzyzXNoZB/aOi3PziVw=">AAACbHichVG7SgNBFD1ZXzE+Eh+FEIRgUKzCXRU0ghCwsUyi8YGK7K6jLtkXu5tADP6ArYWFWiiIiJ9h4w9Y+Aki2CjYWHizWRAV9Q4zc+bMPXfOzKiOoXs+0UNEamlta++Idsa6unt644m+/mXPrriaKGm2YburquIJQ7dEydd9Q6w6rlBM1RAranm+sb9SFa6n29aSX3PEpqnsWvqOrik+U2tOai5FmWyWthJpylAQqZ9ADkEaYeTtxBU2sA0bGiowIWDBZ2xAgcdtHTIIDnObqDPnMtKDfYEDxFhb4SzBGQqzZR53ebUeshavGzW9QK3xKQZ3l5UpjNI9XdML3dENPdL7r7XqQY2GlxrPalMrnK344dDi278qk2cfe5+qPz372MFM4FVn707ANG6hNfXV/eOXxdniaH2MLuiJ/Z/TA93yDazqq3ZZEMUTxPgD5O/P/RMsT2RkysiFqXRuMvyKKJIYwTi/9zRyWEAeJT7XxBFOcRZ5lgalpDTcTJUioWYAX0Ia+wAPr4uu</latexit>-5.5

p = 0.990
p = 0.941<latexit sha1_base64="OmKaC56YEywYE8Y7sDmEqhuioS4=">AAACbHichVG7SgNBFD1ZXzG+4qMQRFgMBqtwVwM+QAjYWCZqfKASdtdRF/fF7iYQgz9ga2GhFgoi4mfY+AMWfoIINgo2Ft5sFkRFvcPMnDlzz50zM5prGn5A9BCTmppbWtvi7YmOzq7unmRv37LvlD1dFHXHdLxVTfWFadiiGBiBKVZdT6iWZooVbW+uvr9SEZ5vOPZSUHXFpqXu2Ma2oasBU2uuPCtTZjqrlJIpylAY8k+gRCCFKPJO8gob2IIDHWVYELARMDahwue2DgUEl7lN1JjzGBnhvsABEqwtc5bgDJXZPR53eLUesTav6zX9UK3zKSZ3j5UyRumerumF7uiGHun911q1sEbdS5VnraEVbqnncHDx7V+VxXOA3U/Vn54DbGMq9Gqwdzdk6rfQG/rK/vHL4szCaC1NF/TE/s/pgW75BnblVb8siIUTJPgDlO/P/RMsj2cUyiiFbCo3EX1FHEMYwRi/9yRymEceRT7XwhFOcRZ7lgakIWm4kSrFIk0/voSU/gAHqouq</latexit>

0

20

40

<latexit sha1_base64="8wWn1K3k2hpi6PwP7aePo6jEWD8=">AAACbHichVG7SgNBFD1Z3/EVH4UQhMVgsAp3VXyBINhYxkeMEiXsrhNd3Be7m4AGf8DWwkItFETEz7DxByz8BBFsFGwsvNksiIp6h5k5c+aeO2dmNNc0/IDoISY1NDY1t7S2xds7Oru6Ez29q75T9nSR0x3T8dY01RemYYtcYASmWHM9oVqaKfLa7nxtP18Rnm849kqw54pNS922jZKhqwFT6648K1NmeoKKiRRlKAz5J1AikEIUWSdxhQ1swYGOMiwI2AgYm1DhcytAAcFlbhNV5jxGRrgvcIA4a8ucJThDZXaXx21eFSLW5nWtph+qdT7F5O6xUsYw3dM1vdAd3dAjvf9aqxrWqHnZ41mra4Vb7D4cWH77V2XxHGDnU/Wn5wAlTIVeDfbuhkztFnpdX9k/flmeWRqupumCntj/OT3QLd/Arrzql4ti6QRx/gDl+3P/BKujGYUyyuJ4am4s+opWJDGEEX7vScxhAVnk+FwLRzjFWexZ6peS0mA9VYpFmj58CSn9AQmsi6s=</latexit>

p = 0.960

60

80

100

120

140

160

Number of iterations
Fig. 3.4. Convergence behaviors of cost value for source model.

180

200

3.5 本章のまとめ

27

3.5 本章のまとめ
本章では初期値依存性により分離性能が低下する問題を回避するための実験を行った．まず，最適化速度を制御する指数パラメタ p と分離性能の関係を明らかにした．そして，分離性能が高いときと低いときの各モデルごとの目的関数の挙動を調べることで反復最適化の途中であっても分離の成否を判定できると言う知見を得た．次の 4 章ではこの知見を 2.9 節で述べた
インタラクティブ音源分離システムに拡張する．

28

第4章

インタラクティブ音源分離システム
への拡張
4.1 まえがき
本章では 3 章で得られた知見を元に 2.9 節で述べたインタラクティブ音源分離システムに拡張し，初期値頑健性を持つ音源分離を達成できるシステムの開発について述べる．まず，4.2
節ではインタラクティブ音源分離システムの問題点と 3 章で得られた知見の活用方法について述べる．そして，4.3 節では開発したシステムの解説を行う．

4.2 動機
従来のインタラクティブ音源分離システムにおいて，ユーザはスペクトログラムと分離音から分離失敗を判定，アルゴリズムにアノテーションを与えることで音声信号を分離するときに発生しやすいブロックパーミュテーション問題を回避している．しかし，実用で発生するブ
ロックパーミュテーションは Fig. 2.9 のように一見して判断することは，システムを初めて使うようなユーザにとっては幾分困難である．そしてユーザが誤ったアノテーションを与えた
場合，正しく分離できている周波数帯に悪影響を与え，分離性能がさらに低くなることが予想される．このことから，システムを初めて使うユーザであってもある程度分離の失敗を指摘できるようなシステムの開発が必要であると言える．そこで，3 章で得た知見を元に，各モデルの目的関数の挙動をユーザに提示することで，音源分離の性能がパラメタの初期値に依存しない，より初期値頑健性の強いシステムの開発を目指す．

4.3 開発システムの解説
Fig. 4.1 に拡張した開発システムの一部を示す．既存システムである Fig. 2.11 と比較すると，ダウンロードする分離音を選択する部分と目的関数のグラフを追加した．なお，図には示していないが，ページ下部には空間モデルの目的関数だけでなく，音源モデルの目的関数及び

4.3 開発システムの解説

29

Fig. 4.1. UI of proposed interactive audio source separation system.

式 (2.34) で表される全体の目的関数を表示している．拡張したシステムでは分離がある程度進んだ状況（Fig. 4.1 では 80 回）でユーザにスペクトログラムと空間モデル，音源モデル及び全体の目的関数を示す．このとき，ユーザは分離音，スペクトログラム及び三つの目的関数

30

第4章

インタラクティブ音源分離システムへの拡張

値の収束の挙動から分離の成否を判断する．以下に示す挙動が目的関数値のグラフで見られた
場合，分離失敗の可能性が高い．

• ある程度分離が進んだときに，空間モデルの目的関数値が増加傾向にない• 反復回数が 3 回程度のときの空間モデルの目的関数のスパイクが大きい• 音源モデルの目的関数が 40 回程度の反復で収束し，以後ほとんど減少しない
もし分離失敗とユーザが判断した場合，ユーザは従来システムと同様にブロックパーミュテー
ションが発生している周波数帯を指定するか，特定音源のみが発音している時間を指定し再分離を行う．そして，再び分離の成否を判断する．本システムでは最初の分離音に加えて最大 2
回アノテーションを与えた 3 種類の音源を出力することができる．
拡張した部分の詳細を説明する．まず，Fig. 4.2 に UI の出力音源を選択する部分を示す．
出力音源の選択は “Separated”，“Annotation(1st)” 及び “Annotation(2nd)” の三つのラジオボタンになっており，それぞれ最初の分離音，一度アノテーションを与えた再分離音及び二度アノテーションを与えた再分離音になっている．よってユーザは三つの分離音から実際に結果として出力する音源を選択することができる．
次に，Fig. 4.3 に UI の目的関数表示部を示す．表示する目的関数は上から空間モデル，音源モデル及び全体の目的関数となっている．アノテーションを与えて再分離が終了した後に空間モデルの目的関数のグラフ右上に配置してある “Reload” のボタンをクリックすることで目的関数の変更が反映される．

Fig. 4.2. Selection part of output source.

4.3 開発システムの解説

Fig. 4.3. Example of cost function behaviors.

31

32

第4章

インタラクティブ音源分離システムへの拡張

4.4 実験
拡張したインタラクティブ音源分離システムの性能を調査するために，分離途中でユーザにスペクトログラムを提示し，アノテーションを与えた場合と与えずに分離を継続した場合のSDR 改善量を比較する．

4.4.1 実験条件比較のための信号には SiSEC2011 の UND タスクの 6 信号を用いる．Table 4.1 に信号名を示す．また，実験条件を Table 4.2 に示す．実験では通常の ILRMA を 160 回反復した結果と，通常の ILRMA を 80 回反復したタイミングでユーザからのアノテーション情報を与えて残り 80 回反復した結果を比較する．
Table 4.1. Sources used in experiment
Mixture
No. 1
No. 2
No. 3

Source signals
dev1 female3 synthconv 130ms 5cm sim 1
dev1 female3 synthconv 130ms 5cm sim 2
dev1 male3 synthconv 130ms 5cm sim 1
dev1 male3 synthconv 130ms 5cm sim 2
dev1 male3 synthconv 130ms 5cm sim 1
dev1 female3 synthconv 130ms 5cm sim 2

Table 4.2. Experimental conditions

Parameter

Value

Sampling frequency

16000 HzFFT length

128 ms (2048 samples)

Shift length

64 ms (1024 samples)

Number of bases K in source model

3

Small value ε

10−15

4.4 実験33

4.4.2 実験結果
Fig. 4.4 から Fig. 4.6 はそれぞれ信号 nos. 1–3 について周波数の指定による SDR 改善量の推移を示したものである．黒の破線はアノテーションを与えずに 160 回反復したとき，赤の実線はブロックパーミュテーション問題が発生している周波数帯を直接指定したときの SDR
改善量をそれぞれ示す．SDR 改善量の推移を見ると，全ての音源においてアノテーションを与えなかった場合の ILRMA に対してアノテーションを与えた場合は，SDR 改善量が 2 dB以上増加している．特に，Fig. 4.5 の no. 2 については SDR 改善量が約 10 dB の大きな増加が見られる．

Fig. 4.7 から Fig. 4.9 はそれぞれ信号 nos. 1–3 について沈黙時間の指定による SDR 改善
量の推移を示したものである．黒の破線はアノテーションを与えずに 160 回反復したとき，赤の実線は 2.10.2 節で示した方法による時間アノテーション処理を行ったとき，青の実線は2.10.3 節で示した方法による時間アノテーション処理をおこなったときをそれぞれ示す．(a)及び (b) の両手法ともアノテーションを与えなかった場合と比較して SDR 改善量は大きくなっている．また，(a) と比較して (b) の方が SDR 改善量の増加量は大きい傾向にある．これは (b) の手法の方がより多くのパラメタをリセットしているためと考えられる．
これらの結果は，分離失敗している場合でも ILRMA に対してアノテーションを与えること
で分離性能を向上させられることを示している．つまり，ILRMA の初期値依存性を回避し，音源分離性能が変数の乱数初期値に影響されない初期値頑健性を持っていると言える．このよ
うに，拡張したインタラクティブ音源分離システムでも従来のインタラクティブ音源分離シス
テムと同様に，ILRMA の分離失敗に対してユーザがアノテーションを与えることで，初期値
頑健性を持つ音源分離が実現できる．

第4章

インタラクティブ音源分離システムへの拡張

Simple ILRMAILRMA w/ proposed freq. annotation
14

SDR improvement [dB]

12
10
8
6
4
2
0
-2
-4
-6

0

20

40

60

80

100

120

140

160

Iteration
Fig. 4.4. SDR improvements by frequency annotation for no. 1 data.

Simple ILRMAILRMA w/ proposed freq. annotation
14
12

SDR improvement [dB]

34

10
8
6
4
2
0
-2
-4
-6

0

20

40

60

80

100

120

140

Iteration
Fig. 4.5. SDR improvements by frequency annotation for no. 2 data.

160

4.4 実験

Simple ILRMAILRMA w/ proposed freq. annotation
14

SDR improvement [dB]

12
10
8
6
4
2
0
-2
-4
-6

0

20

40

60

80

100

120

140

160

Iteration
Fig. 4.6. SDR improvements by frequency annotation for no. 3 data.

SDR improvement [dB]

Simple ILRMAILRMA w/ time annotation(a)ILRMA w/ time annotation(b)
14
12
10
8
6
4
2
0
-2
-4
-6

0

20

40

60

80

100

120

140

Iteration
Fig. 4.7. SDR improvements by time annotation for no. 1 data.

160

35

第4章

インタラクティブ音源分離システムへの拡張

SDR improvement [dB]

Simple ILRMAILRMA w/ time annotation(a)ILRMA w/ time annotation(b)
14
12
10
8
6
4
2
0
-2
-4
-6

0

20

40

60

80

100

120

140

160

Iteration
Fig. 4.8. SDR improvements by time annotation for no. 2 data.

Simple ILRMAILRMA w/ time annotation(a)ILRMA w/ time annotation(b)SDR improvement [dB]

36

14
12
10
8
6
4
2
0
-2
-4
-6

0

20

40

60

80

100

120

140

Iteration
Fig. 4.9. SDR improvements by time annotation for no. 3 data.

160

4.5 本章のまとめ

37

4.5 本章のまとめ
本章では，前章で得られた知見による拡張を施した音源分離システムの開発について説明した．また，分離した音源を出力するインターフェースを実装し，実験を通して拡張したインタ
ラクティブ音源分離システムが強い初期値頑健性を持っていることを示した．

38

第5章

結論
本論文では，頑健な音源分離が達成できる ILRMA のパラメタについて調査した．また，そこで得られた知見を元に音源分離システムを拡張した．

1 章では，音源分離技術の近年の動向と手法の概説を行なった．
2 章では，BSS の定式化，既存の ICA を発展させた BSS 手法の解説及びインタラクティブ
音源分離システムについて述べた．

3 章では，分離性能及び最適化速度の相関を調査し，空間モデルと音源モデルの目的関数の挙動から最適化途中でも分離性能が予想できることを明らかにした．

4 章では，3 章で得られた知見をインタラクティブ音源分離システムに活用することで，より強い初期値頑健性を持つ音源分離が達成できるシステムを構築した．
最後に今後の課題を述べる．4 章で拡張したシステムはユーザが正しくアノテーションを与える新たな指標を導入したが，与えたアノテーションがアルゴリズムにとって有益であったかどうかの定量的な評価が必要であると考える．特にアノテーションを与えて再分離した後に分離性能が低下した場合の原因を明らかにするべきである．

39

謝辞
本論文は，香川高等専門学校電気情報工学科北村研究室にて行われた研究に基づくものです．
まず，本研究を進めるにあたり，ご多忙のところ熱心にご指導くださいました指導教員の北村大地助教に心より感謝申し上げます．また，専攻科入学時にに本研究室へ迎えていただいた
だき，音響信号処理分野の研究ができたことは自分の人生において大きな糧となりました．心
よりありがたくお礼申し上げます．
本論の副査である重田和弘教授と柿元健准教授には，論文の構成や記述に関して大変有益な助言を頂き，大変お世話になりました．ここに厚く御礼申し上げます．
また，北村研究室同期の山地氏にはシステムの実装やプログラミングに際して多くの助言を頂き，後輩の岩瀬氏，大藪氏，渡辺氏にはゼミや日頃のディスカッションのほか，2 年に亘る研究室生活を様々な面で支えていただきました．ここに感謝申し上げます．
最後になりますが，現在に至るまで私の学生生活を金銭的に支え，暖かく見守って下さった
家族には感謝の念に堪えません．これまで本当にありがとうございました．

40

参考文献
[1] https://www.izotope.jp/products/rx-8/[2] https://research.deezer.com/projects/spleeter.html[3] https://github.com/deezer/spleeter[4] D. D. Lee and H. S. Seung, “Learning the parts of objects by non-negative matrix
factorization,” Nature, vol. 401, no. 6755, pp. 788–791, 1999.
[5] P. Smaragdis, B. Raj, and M. Shashanka, “Supervised and semi-supervised separation of sounds from single-channel mixtures,” Proc. International Conference on
Independent Component Analysis and Signal Separation, no. 1, 2007, pp. 414–421.
[6] D. Kitamura, H. Saruwatari, Y. Kosuke, K. Shikano, Y. Takahashi, and K. Kondo,“Music signal separation based on supervised nonnegative matrix factorization withorthogonality and maximum-divergence penalties,” IEICE Trans. Fundamentals, vol.
97-A, no. 5, pp. 1113–1118, 2014.
[7] A. Ozerov and C. Févotte, “Multichannel nonnegative matrix factorization in convolutive mixtures for audio source separation,” IEEE Trans. Audio, Speech, andLanguage Processing, vol. 18, no. 3, pp. 550–563, 2010.
[8] H. Sawada, N. Ono, H. Kameoka, D. Kitamura, and H. Saruwatari, “A review ofblind source separation methods: Two converging routes to ILRMA originating from
ICA and NMF,” APSIPA Trans. Signal and Information Processing, vol. 8, no. e12,pp. 1–14, 2019.
[9] P. Comon, “Independent component analysis, a new concept?,” Signal Processing,vol. 36, no. 3, pp. 287–314, 1994.
[10] D. Kitamura, N. Ono, H. Sawada, H. Kameoka, and H. Saruwatari, “Determinedblind source separation unifying independent vector analysis and nonnegative matrix
factorization,” IEE/ACM Trans. Audio, Speech, and Language Processing, vol. 24,
no. 9, pp. 1626–1641, 2016.
[11] D. Kitamura, N. Ono, H. Sawada, H. Kameoka, and H. Saruwatari, “Determinedblind source separation with independent low-rank matrix analysis,” Audio Source
Separation, S. Makino, Ed., pp. 125–155. Springer, Cham, 2018.
[12] P. Smaragdis, “Blind separation of convolved mixtures in the frequency domain,”

参考文献

41

Neurocomputing, vol. 22, pp. 21–34, 1998.
[13] T. Kim, H. T. Attias, S.-Y. Lee, and T.-W. Lee, “Blind source separation exploiting
higher-order frequency dependencies,” IEEE Trans. Audio, Speech, and Language
Processing, vol. 15, no. 1, pp. 70–79, 2007.
[14] N. Ono and S. Miyabe, “Auxiliary-function-based independent component analysis for super-Gaussian sources,” Proc. International Conference on Latent Variable
Analysis and Signal Separation, pp.165–172, 2010.
[15] K. Matsuoka and S. Nakashima, “Minimal distortion principle for blind source separation,” Proc. SICE Annual Conference, pp. 722–727, 2001.
[16] N. Ono, “Stable and fast update rules for independent vector analysis based on auxiliary function technique,” Proc. IEEE Workshop on Applications of Signal Processing
to Audio and Acoustics, pp.189–192, 2011.
[17] S. Eguchi and Y. Kano, “Robustiﬁng maximum likelihood estimation by psi- divergence,” ISM Research Memorandum, 2001.
[18] A. Cichocki, S. Amari, R. Zdunek, R. Kompass, G. Hori, and Z. He, “Extended
SMART algorithms for non-negative matrix factorization,” Proc. International Conference on Artiﬁcial Intelligence and Soft Computing, pp. 548–562, 2006.
[19] D. Kitamura, N. Ono, H. Saruwatari, Y. Takahashi, and K. Kondo, “Eﬀective basis
learning for sound source separation by semi-supervised nonnegative matrix factorization,” IEICE Technical Report, EA2015–130, vol. 115, no. 521, pp. 355–360, 2016.
[20] C. Févotte, N. Bertin, J.-L. Durrieu, “Nonnegative matrix factorization with the
Itakura-Saito divergence. With application to music analysis.” Neural Computation,
vol. 21, 793–830, 2009[21] M. Nakano, H. Kameoka, J. Le Roux, Y. Kitano, N. Ono, S. Sagayama, “Convergenceguaranteed multiplicative algorithms for nonnegative matrix factorization with betadivergence,” Proc. IEEE International Workshop on Machine Learning for Signal
Processing, 2010, pp. 283–288.
[22] D. R. Hunter and K. Lange, “A tutorial on MM algorithms,” The American Statistician, vol. 58, no. 1, pp. 30-–37, 2004.
[23] Y. Mitsui, D. Kitamura, N. Takamune, H. Saruwatari, Y. Saruwatari andK. Kondo, “Independent low-rank matrix analysis based on parametric majorizationequalization algorithm,” Proc. IEEE International Workshop on Computational Advances in Multi-Sensor Adaptive Processing, pp. 98–102, 2017.
[24] C. Févotte and J. Idier, “Algorithms for nonnegative matrix factorization with the
β-divergence,” Neural Computation, vol. 23, no. 9, pp. 2421–2456, 2011.
[25] 大島風雅, 中野将生, 北村大地, “ユーザーからの補助情報を用いる独立低ランク行列分
析” 日本音響学会 2020 年秋季研究発表会講演論文集, pp. 269–272, 2020.

[26] E. Vincent, R. Gribonval, and C. Févotte, “Performance measurement in blind audio

42

参考文献

source separation,” IEEE Trans. Audio, Speech, and Language Processing, vol. 14,
no. 4, pp. 1462–1469, 2006.
[27] S. Araki, A. Ozerov, V. Gowreesunker, H. Sawada, F. Theis, G. Nolte, D. Lutter,and N. Q. K. Duong, “The 2010 signal separation evaluation campaign (SiSEC2010):
Audio source separation,” Proc. International Conference on Latent Variable Analysis
and Signal Separation, 2010, pp. 114–122.
[28] S. Nakamura, K. Hiyane, F. Asano, T. Nishiura, and T. Yamada, “Acoustical sounddatabase in real environments for sound scene understanding and hands-free speech
recognition,” Proc. International Conference on Language Resources and Evaluation,
2000, pp. 965–968.

修了予定者の研究実績一覧
創造工学専攻
著者名

論

文

名

ユーザーからの補助情報を用いる独立低ランク行列分析
大島 風雅（Fuga Oshima）

発 表 機 関発表年月

日本音響学会2020年秋季研究発表会講演論
文集，2-R1-6, pp. 269-272, 2020

2020.9