(57)【特許請求の範囲】
【請求項１】
係数初期化部が、線形予測係数を初期化する係数初期化過程と、
残差算出部が、入力信号とその時点の線形予測係数から残差ベクトルを算出する残差算出過程と、
補助変数算出部が、前記残差算出過程で算出された残差ベクトルの要素の絶対値和として表した第１符号量関数、ないし、前記第１符号量関数に漸近する台形関数に基づいて設計した第２符号量関数、ないし、前記第１符号量関数または前記第２符号量関数を不連続点のない滑らかな関数で近似した近似関数のいずれかである目的関数と、線形予測係数及び補助変数をパラメータとして前記目的関数に接する２次曲線であって前記目的関数と等しいか又は大きくなる補助関数とが略等しくなる補助変数を算出する補助変数算出過程と、
係数算出部が、補助変数算出過程で算出された補助変数で、補助関数を略最小とする線形予測係数を算出する係数算出過程と、
判定部が、補助変数算出過程及び係数算出過程の繰り返しが所定の条件を満たすか否かを判定し、満たしていない場合には残差算出過程、補助変数算出過程及び係数算出過程を行わせる判定過程と
を含み、
前記補助変数算出部が、前記目的関数が微分不能な点を有する場合に、該目的関数の微分不能な点の前後の点で滑らかに接する接点を有し、これら２つの接点区間で単調増加又は単調減少する関数により目的関数の接点区間を置き換えた関数を、目的関数とする
ことを特徴とする線形予測係数算出方法。
【請求項２】
線形予測係数を初期化する係数初期化手段と、
入力信号とその時点の線形予測係数から残差ベクトルを算出する残差算出手段と、
前記残差算出手段で算出された残差ベクトルの要素の絶対値和として表した第１符号量関数、ないし、前記第１符号量関数に漸近する台形関数に基づいて設計した第２符号量関数、ないし、前記第１符号量関数または前記第２符号量関数を不連続点のない滑らかな関数で近似した近似関数のいずれかである目的関数と、線形予測係数及び補助変数をパラメータとして前記目的関数に接する２次曲線であって前記目的関数と等しいか又は大きくなる補助関数とが略等しくなる補助変数を算出する補助変数算出手段と、
補助変数算出手段で算出された補助変数で、補助関数を略最小とする線形予測係数を算出する係数算出手段と、
補助変数算出手段による補助変数の算出及び係数算出手段による線形予測係数の算出の繰り返しが所定の条件を満たすか否かを判定し、満たしていない場合には残差算出手段、補助変数算出手段及び係数算出手段による各算出を行わせる判定手段と
を具備し、
前記補助変数算出手段が、前記目的関数が微分不能な点を有する場合に、該目的関数の微分不能な点の前後の点で滑らかに接する接点を有し、これら２つの接点区間で単調増加又は単調減少する関数により目的関数の接点区間を置き換えた関数を、目的関数とする
ことを特徴とする線形予測係数算出装置。
【請求項３】
コンピュータを、
線形予測係数を初期化する係数初期化手段と、
入力信号とその時点の線形予測係数から残差ベクトルを算出する残差算出手段と、
前記残差算出手段で算出された残差ベクトルの要素の絶対値和として表した第１符号量関数、ないし、前記第１符号量関数に漸近する台形関数に基づいて設計した第２符号量関数、ないし、前記第１符号量関数または前記第２符号量関数を不連続点のない滑らかな関数で近似した近似関数のいずれかである目的関数と、線形予測係数及び補助変数をパラメータとして前記目的関数に接する２次曲線であって前記目的関数と等しいか又は大きくなる補助関数とが略等しくなる補助変数を算出し、前記目的関数が微分不能な点を有する場合に、該目的関数の微分不能な点の前後の点で滑らかに接する接点を有し、これら２つの接点区間で単調増加又は単調減少する関数により目的関数の接点区間を置き換えた関数を、目的関数とする補助変数算出手段と、
前記補助変数算出手段で算出された補助変数で、補助関数を略最小とする線形予測係数を算出する係数算出手段と、
前記補助変数算出手段による前記補助変数の算出及び前記係数算出手段による前記線形予測係数の算出の繰り返しが所定の条件を満たすか否かを判定し、満たしていない場合には前記残差算出手段、前記補助変数算出手段及び前記係数算出手段による各算出を行わせる判定手段と
として機能させるためのプログラム。
【請求項４】
コンピュータを、
線形予測係数を初期化する係数初期化手段と、
入力信号とその時点の線形予測係数から残差ベクトルを算出する残差算出手段と、
前記残差算出手段で算出された残差ベクトルの要素の絶対値和として表した第１符号量関数、ないし、前記第１符号量関数に漸近する台形関数に基づいて設計した第２符号量関数、ないし、前記第１符号量関数または前記第２符号量関数を不連続点のない滑らかな関数で近似した近似関数のいずれかである目的関数と、線形予測係数及び補助変数をパラメータとして前記目的関数に接する２次曲線であって前記目的関数と等しいか又は大きくなる補助関数とが略等しくなる補助変数を算出し、前記目的関数が微分不能な点を有する場合に、該目的関数の微分不能な点の前後の点で滑らかに接する接点を有し、これら２つの接点区間で単調増加又は単調減少する関数により目的関数の接点区間を置き換えた関数を、目的関数とする補助変数算出手段と、
前記補助変数算出手段で算出された補助変数で、補助関数を略最小とする線形予測係数を算出する係数算出手段と、
前記補助変数算出手段による前記補助変数の算出及び前記係数算出手段による前記線形予測係数の算出の繰り返しが所定の条件を満たすか否かを判定し、満たしていない場合には前記残差算出手段、前記補助変数算出手段及び前記係数算出手段による各算出を行わせる判定手段と
として機能させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、線形回帰モデルの予測係数算出方法に係り、たとえば線形予測分析技術を利用して音声音響信号などの時系列信号の分析や符号化を行う音声予測符号化装置などに用いて好適な、線形予測係数算出方法、装置、プログラム及び記録媒体に関する。
【背景技術】
【０００２】
従来から線形予測分析手法のひとつとして自己相関法や共分散法がよく知られている。いずれも予測残差のエネルギー（残差の振幅値の二乗積分）を最小とすることを目的としている。この線形予測分析手法を音声音響信号に利用した一例として、音声予測符号化装置130を図１０に示し、その動作を説明する。
【０００３】
音声予測符号化装置130は、入力端子132から入力される離散的時系列ディジタル信号ｘi（i：整数、以降、ディジタル信号ｘiあるいは入力信号ｘiと称す）を、所定サンプル数Ｎごとのフレームに分割するフレーム分割部134と、フレーム毎にディジタル信号ｘiの線形予測分析を行いｐ個の線形予測係数αj，（ｊ＝0，…，ｐ）を計算して線形予測残差（あるいは線形予測誤差）信号ｄiを出力する線形予測分析部136と、線形予測部136が出力する線形予測残差信号を符号化する残差符号化部138と、線形予測部136が出力する線形予測係数αjを符号化する係数符号化部140とから構成される。
【０００４】
線形予測分析部136は、全極型（自己回帰型前方予測）であり、線形予測残差信号ｄiのエネルギー（二乗和）を最小にするｐ個の線形予測係数αjを計算する線形予測係数算出部136aと線形予測係数算出部136aで計算された線形予測係数αjとディジタル信号ｘiとから予測値を計算する線形予測部136bと、ディジタル信号ｘiから予測値を減算して線形予測残差信号ｄiを生成する減算部136cとで構成される。
【０００５】
線形予測分析136は、ディジタル信号ｘiに対し、ｐ個の線形予測係数αjにより式（1）に示すようにして線形予測残差信号を求める。
【０００６】
【数１】
0004870635.tif 000002
【０００７】
線形予測残差信号系列をベクトル形式で書くと式（2）のようになる。
【０００８】
【数２】
0004870635.tif 000003
【０００９】
ただし、Ｄは線形予測残差信号系列のＮ次元の列ベクトル（式（3））、Ａは線形予測係数列のｐ次元の列ベクトル（式（4））、Ｘはディジタル信号列のＮ次元の列ベクトル（式（5））である。それぞれを転置で示す。また、ＹはＮ行ｐ列の行列である（式（6））。
【００１０】
【数３】
0004870635.tif 000004
【００１１】
【数４】
0004870635.tif 000005
【００１２】
【数５】
0004870635.tif 000006
【００１３】
【数６】
0004870635.tif 000007
【００１４】
線形予測係数算出部136aは、式（7）に示す線形予測残差信号ｄiの二乗和Ｊを最小にする線形予測係数αjを計算する。
【００１５】
【数７】
0004870635.tif 000008
【００１６】
Ｊを最小にするには、ＪについてＡに関する偏微分を0と置いて解けばよい（式（8））。つまりｐ個の連立方程式を解く。
【００１７】
【数８】
0004870635.tif 000009
【００１８】
この連立方程式の解は、式（6）に示すＮ行ｐ列の行列Ｙと線形予測係数列Ａとで表された正規方程式（式（9））の解として与えられる。
【００１９】
【数９】
0004870635.tif 000010
【００２０】
正規方程式（式（9））より得られる最小二乗解である線形予測係数列Ａは式（10）で求めることができる。
【００２１】
【数１０】
0004870635.tif 000011
【００２２】
線形予測部136bは、このようにして求められた線形予測係数αjと、ディジタル信号ｘiとで式（11）に示す畳み込み演算で予測値＾ｘiを計算する。
【００２３】
【数１１】
0004870635.tif 000012
【００２４】
減算部136cは、ディジタル信号ｘiから整数に四捨五入された予測値＾ｘiを減算して線形予測残差信号ｄiを生成する。
【００２５】
減算部136cで生成された線形予測残差信号ｄiは、残差符号化部138において、例えばライス符号化やハフマン符号化などでエントロピー符号化され、線形予測残差符号として出力される。
【００２６】
線形予測係数算出部136aで算出された線形予測係数αjも、係数符号化部140で符号化されて出力される。
【００２７】
符号化された線形予測残差符号と線形予測係数符号は、図示しない復号器に伝送され、復号器において式（12）に示す計算（式（11）と同じ整数への四捨五入を含む。今後、特に整数化についてはことわらない）が行われ、ディジタル信号ｘiが再生される。
【００２８】
【数１２】
0004870635.tif 000013
【００２９】
【非特許文献１】中田和男、改定音声、1994年、コロナ社、53頁付録4.2
【非特許文献２】守谷健弘、音声符号化、1998年、電子情報通信学会、12〜13頁
【発明の開示】
【発明が解決しようとする課題】
【００３０】
しかしながら従来の線形予測係数算出方式は、残差振幅の二乗和を最小化するよう予測係数を求めるというように、残差符号量を直接的に最小化する規準での最適化方法となっていない。従って、予測係数の算出方法には符号量削減の余地が少なからず残されている。よく知られているようにエントロピー符号化は、発生頻度の対数に符号長を比例させるものである。つまり、発生頻度の大きな入力に、ビット数の少ない符号を割り当てることで、全体の符号量を減らす方法である。通常の音声の圧縮では、符号長が振幅にほぼ比例するゴロム・ライス符号（以後、ライス符号）が使われ、残差振幅値ｄに対して割り当てられる符号量ｇ（ｄ）は
【００３１】
【数１３】
0004870635.tif 000014
【００３２】
で表すことができる。ただし、Ｌ・」は、数値・を小数点以下を切捨てて整数値化する整数化演算子を表す。また、ｒをライスパラメータと呼ぶ。ｒ＝4のときの残差振幅値ｄと符号量ｇ（ｄ）の関係式をグラフに表すと図１１のようになる。残差振幅をｄi（ｉ＝1，…，Ｎ）とすると、残差振幅符号に必要な全符号量は
【００３３】
【数１４】
0004870635.tif 000015
【００３４】
と表され、二乗残差を最小とする関係から得られた線形予測残差信号ｄiでは、明らかに全符号量Ｌ（Ａ）を最小化することができない。直接的にＬ（Ａ）を最小にする線形予測係数ベクトルＡを求めるのは大変難しいが、Ｌ（Ａ）の代わりに、例えば、残差振幅ｄi（ｉ＝1，…，Ｎ）の絶対値和（残差ベクトルＤのＬ1ノルム（Ｌ1ノルムはマンハッタン距離とも呼ばれる。））
【００３５】
【数１５】
0004870635.tif 000016
【００３６】
を最小にする線形予測係数αjは、従来の二乗残差を最小とする関係から得られた線形予測残差信号ｄiよりも、符号量を小さくできる可能性がある。このように、ｇ（ｄ）を近似した関数を設計することを、「符号量をモデル化する」と言うことにし、近似関数ｇn（ｄ）を「符号量モデル」と呼ぶ。また、同様に、Ｌ0（Ａ）を「全符号量モデル」と呼ぶ。すなわち、ｎ＝0の場合、符号量モデルは絶対値関数をさし、全符号量モデルはDのＬ1ノルムをさすということである。
【００３７】
線形予測分析を含む一般の線形回帰分析（線形予測分析は線形回帰分析の特殊例に相当する。）において、特に、残差ベクトル（線形予測分析における線形予測残差信号に対応）の要素の絶対値和を最小化する回帰係数の解法は古くから検討されている。その中でも代表的なのが、シンプレックス法（線形計画法）に基づくものであり、上記の、残差振幅の絶対値和最小化規準での線形予測分析の解法になりうる。しかしながら、この方式は、線形回帰モデルの説明変数行列および回帰係数ベクトルのサイズが大きくなる場合には計算量が膨大となるという特徴があり、即時性が求められる圧縮符号化への応用には必ずしも適していないという問題があった。一方、線形回帰モデルにおいてＬ1ノルムを最小化する回帰係数ベクトルを効率的に得るための方法として、反復的再重みつき最小二乗法（以後、IRLS法）がGreenによって提案されている。ただし、IRLS法は、残差ベクトルＤのＬ1ノルムを含むある特定条件を満たす目的関数に対しては収束性が保証されるものの、一般に収束性が保証されないという問題がある。
【００３８】
さて、ｒ＝1の場合にはたしかに残差ベクトルＤのＬ1ノルムは符号量にまさに適合した目的関数となっているが、実際のところｒ＞1と設定することが多く、ｇ（ｄ）は図１１のように階段形の関数となる。図１１において注目すべきは、ｄ＝0周辺の一定範囲内の値（ｒ＝4の場合はｄ＝-8，…，+7）には等しい符号量が割り当てられる点であり、このことは、残差振幅の絶対値をできるだけ小さくすることだけに専念するよりも、残差振幅に適度な「遊び」を持たせ、その自由度の分だけ極端な外れ値を少なくする方が全体の符号量をより小さくできることを示している。残差振幅が通常0付近に集中する点を考慮すると、符号量関数をモデル化する際、ｄ＝0周辺のｇ（ｄ）を良く近似したものであった方がより好ましいはずである。
【００３９】
本発明は、以上の問題意識に基づきなされたもので、従来に比べて線形回帰分析における残差符号量を小さくすることができる線形予測係数算出方法、装置、プログラム及び記憶媒体を提供することを目的とするものである。より具体的には、たとえば残差ベクトルＤのＬ1ノルムおよび、それよりも式（13）を良く近似した符号量モデルｇn（ｄ）（ｎ＝1，2，3）に基づいて設計される目的関数Ｌn（Ａ）を最小化する線形予測係数を、収束性の保証された反復計算により効率良く算出することができる線形予測係数算出方法、装置、プログラム及び記憶媒体を提供することを目的とする。
【課題を解決するための手段】
【００４０】
上記課題を解決するため、本願発明の線形予測係数算出方法は、係数初期化部が、線形予測係数を初期化する係数初期化過程と、残差算出部が、入力信号とその時点の線形予測係数から残差ベクトルを算出する残差算出過程と、補助変数算出部が、前記残差算出過程で算出された残差ベクトルの要素の絶対値和として表した第１符号量関数、ないし、前記第１符号量関数に漸近する台形関数に基づいて設計した第２符号量関数、ないし、前記第１符号量関数または前記第２符号量関数を不連続点のない滑らかな関数で近似した近似関数のいずれかである目的関数と、線形予測係数及び補助変数をパラメータとして前記目的関数に接する２次曲線であって前記目的関数と等しいか又は大きくなる補助関数とが略等しくなる補助変数を算出する補助変数算出過程と、係数算出部が、補助変数算出過程で算出された補助変数で、補助関数を略最小とする線形予測係数を算出する係数算出過程と、判定部が、補助変数算出過程及び係数算出過程の繰り返しが所定の条件を満たすか否かを判定し、満たしていない場合には残差算出過程、補助変数算出過程及び係数算出過程を行わせる判定過程とを含み、前記補助変数算出部が、前記目的関数が微分不能な点を有する場合に、該目的関数の微分不能な点の前後の点で滑らかに接する接点を有し、これら２つの接点区間で単調増加又は単調減少する関数により目的関数の接点区間を置き換えた関数を、目的関数とすることを特徴とする。
【００４３】
また、本願発明の線形予測係数算出装置は、線形予測係数を初期化する係数初期化手段と、入力信号とその時点の線形予測係数から残差ベクトルを算出する残差算出手段と、前記残差算出手段で算出された残差ベクトルの要素の絶対値和として表した第１符号量関数、ないし、前記第１符号量関数に漸近する台形関数に基づいて設計した第２符号量関数、ないし、前記第１符号量関数または前記第２符号量関数を不連続点のない滑らかな関数で近似した近似関数のいずれかである目的関数と、線形予測係数及び補助変数をパラメータとして前記目的関数に接する２次曲線であって前記目的関数と等しいか又は大きくなる補助関数とが略等しくなる補助変数を算出する補助変数算出手段と、補助変数算出手段で算出された補助変数で、補助関数を略最小とする線形予測係数を算出する係数算出手段と、補助変数算出手段による補助変数の算出及び係数算出手段による線形予測係数の算出の繰り返しが所定の条件を満たすか否かを判定し、満たしていない場合には残差算出手段、補助変数算出手段及び係数算出手段による各算出を行わせる判定手段とを具備し、前記補助変数算出手段が、前記目的関数が微分不能な点を有する場合に、該目的関数の微分不能な点の前後の点で滑らかに接する接点を有し、これら２つの接点区間で単調増加又は単調減少する関数により目的関数の接点区間を置き換えた関数を、目的関数とすることを特徴とする。
【００４６】
また、本願発明のプログラムは、コンピュータを、
線形予測係数を初期化する係数初期化手段と、
入力信号とその時点の線形予測係数から残差ベクトルを算出する残差算出手段と、前記残差算出手段で算出された残差ベクトルの要素の絶対値和として表した第１符号量関数、ないし、前記第１符号量関数に漸近する台形関数に基づいて設計した第２符号量関数、ないし、前記第１符号量関数または前記第２符号量関数を不連続点のない滑らかな関数で近似した近似関数のいずれかである目的関数と、線形予測係数及び補助変数をパラメータとして前記目的関数に接する２次曲線であって前記目的関数と等しいか又は大きくなる補助関数とが略等しくなる補助変数を算出し、前記目的関数が微分不能な点を有する場合に、該目的関数の微分不能な点の前後の点で滑らかに接する接点を有し、これら２つの接点区間で単調増加又は単調減少する関数により目的関数の接点区間を置き換えた関数を、目的関数とする補助変数算出手段と、前記補助変数算出手段で算出された補助変数で、補助関数を略最小とする線形予測係数を算出する係数算出手段と、前記補助変数算出手段による前記補助変数の算出及び前記係数算出手段による前記線形予測係数の算出の繰り返しが所定の条件を満たすか否かを判定し、満たしていない場合には前記残差算出手段、前記補助変数算出手段及び前記係数算出手段による各算出を行わせる判定手段として機能させるためのプログラムである。
【００４７】
また、本願発明の記録媒体は、コンピュータを、線形予測係数を初期化する係数初期化手段と、入力信号とその時点の線形予測係数から残差ベクトルを算出する残差算出手段と、前記残差算出手段で算出された残差ベクトルの要素の絶対値和として表した第１符号量関数、ないし、前記第１符号量関数に漸近する台形関数に基づいて設計した第２符号量関数、ないし、前記第１符号量関数または前記第２符号量関数を不連続点のない滑らかな関数で近似した近似関数のいずれかである目的関数と、線形予測係数及び補助変数をパラメータとして前記目的関数に接する２次曲線であって前記目的関数と等しいか又は大きくなる補助関数とが略等しくなる補助変数を算出し、前記目的関数が微分不能な点を有する場合に、該目的関数の微分不能な点の前後の点で滑らかに接する接点を有し、これら２つの接点区間で単調増加又は単調減少する関数により目的関数の接点区間を置き換えた関数を、目的関数とする補助変数算出手段と、前記補助変数算出手段で算出された補助変数で、補助関数を略最小とする線形予測係数を算出する係数算出手段と、前記補助変数算出手段による前記補助変数の算出及び前記係数算出手段による前記線形予測係数の算出の繰り返しが所定の条件を満たすか否かを判定し、満たしていない場合には前記残差算出手段、前記補助変数算出手段及び前記係数算出手段による各算出を行わせる判定手段として機能させるためのプログラムを記録している。
【発明の効果】
【００４８】
本発明によれば、残差ベクトルを用いて、その時点の線形予測係数で、線形予測係数をパラメータとして残差符号量を表す目的関数と、線形予測係数及び補助変数をパラメータとして目的関数と等しいか又は大きくなる補助関数とが略等しくなる補助変数を算出する補助変数算出過程と、補助変数算出過程で算出された補助変数で、補助関数を略最小とする線形予測係数を算出する係数算出過程と、補助変数算出過程及び係数算出過程の繰り返しが所定の条件を満たすか否かを判定し、満たしていない場合には残差算出過程、補助変数算出過程及び係数算出過程を行わせる判定過程とを含んでいるので、目的関数及び補助関数を適切に設計することで、二乗残差を基準としたものなどの従来のものに比べて線形回帰分析における残差符号量を小さくすることが可能となる。
【発明を実施するための最良の形態】
【００４９】
以下、図面を参照して本発明の実施の形態について説明する。図１は、本発明の実施の形態の構成を示すブロック図であり、図２は、その動作を説明するためのフローチャートである。
【００５０】
図１に示す線形予測係数算出装置は、残差算出部1、係数初期化部2、補助変数算出部3、係数算出部4および繰り返し回数判定部5から構成されている。図１に示す各構成は、たとえばコンピュータおよびその周辺装置とコンピュータによって実行されるプログラムとから構成されている。また、各部は、図示していない中央処理装置によって制御されているものとする。
【００５１】
残差算出部1は、ディジタル信号列のＮ次元の列ベクトルＸ（式（5）参照）を受け取るとともに、係数初期化部2からｐ次元の列ベクトルＡ（線形予測係数）（式（4）参照）を受け取って、式（2）によって、線形予測残差信号系列のＮ次元の列ベクトルＤ（残差ベクトル）（式（3））を算出して出力する。一方、係数初期化部2は、線形予測係数Ａを所定の値に初期化して出力する。
【００５２】
補助変数算出部3は、残差算出部1で算出された残差ベクトルＤの各要素の値とその時点の線形予測係数Ａとに基づいて、目的関数と補助関数とが等しくなるような補助変数を解析的に算出する。目的関数は、線形予測係数Ａをパラメータとして残差振幅符号に必要な全符号量である残差符号量を表す関数であり、補助関数は、線形予測係数Ａと補助変数Ｂとをパラメータとして目的関数と等しいか又は大きくなる関数である。すなわち、目的関数と補助関数には、目的関数≦補助関数という関係が成立する。ただし、実際には誤差を含むので目的関数と補助関数とがほぼ等しくなるように補助変数が算出される。
【００５３】
なお、目的関数と補助関数については後で詳細に説明する。
【００５４】
係数算出部4は、補助変数算出部3で算出された補助変数Ｂに基づいて、補助関数をほぼ最小とする線形予測係数Ａを解析的に算出する。繰り返し回数判定部5は、補助変数算出部3による補助変数Ｂの算出および係数算出部4による線形予測係数Ａの算出の繰り返し回数が所定の回数を越えている否かを判定し、この判定条件が満たされている場合（越えている場合）には係数Ａを出力し、この判定条件が満たされていない場合には残差算出部1、補助変数算出部3および係数算出部4に対して再度、各算出を行わせる。
【００５５】
次に、図２を参照して、図１に示す線形予測係数算出装置の動作について説明する。
線形予測係数Ａおよび補助変数Ｂは、複数回算出されることになるが、ｋ回目に算出された線形予測係数および補助変数をそれぞれ線形予測係数Ａkおよび補助変数Ｂkで表すこととする。
【００５６】
線形予測係数Ａの算出処理は、まず、図１の各部1〜5を制御する図示していない中央処理装置によって、算出処理の繰り返し回数ｋを「0」に初期化する処理から開始される（ステップS11）。次に、ｋが「0」に等しいかが判定される（ステップS12）。ｋが「0」に等しい場合（ステップS12で「Ｙ」）、係数初期化部2によって線形予測係数Ａ0が所定の値に初期化される（ステップS13）。一方、ｋが「0」に等しくない場合（ステップS12で「Ｎ」）と、ステップS13で線形予測係数Ａ0が所定の値に初期化された場合、ｋが１増やされる（ステップS14）。
【００５７】
次に、残差算出部1によって、入力信号Ｘと線形予測係数Ａk−１から残差ベクトルＤが算出される（ステップS15）。次に、補助変数算出部3によって、線形予測係数Ａk−１で目的関数と補助関数がほぼ等しくなる補助変数Ｂkが算出される（ステップS16）。
【００５８】
次に、係数算出部4によって、ステップS16で算出された補助変数Ｂkで、補助関数をほぼ最小とする線形予測係数Ａkが算出される（ステップS17）。ここで、線形予測係数Ａkは線形予測係数Ａkの次の算出結果である。
【００５９】
次に、繰り返し回数ｋが繰り返し回数設定値Ｈを越えたかが判定される（ステップS18）。ｋがＨを越えていない場合（ステップS18で「Ｎ」）、ステップS12へ戻り、以降の処理が上述したようにして再び実行される。他方、ｋがＨを越えていた場合（ステップS18で「Ｙ」）、線形予測係数Ａk-1が出力されて（ステップS19）、処理が終了する。
【００６０】
次に、図３を参照して、本実施の形態で用いる目的関数と補助関数についてまず定性的に説明する。
【００６１】
パラメータΘ＝（Θ1，…ΘJ）に関して最小化したい目的関数をΦ（Θ）とすると、
【００６２】
【数１６】
0004870635.tif 000017
【００６３】
を満たすとき、Φ+（Θ，ｍ）を目的関数Φ（Θ）の補助関数、ｍ＝（ｍ1，…，ｍL）を補助変数と定義する。上式の右辺は、ｍを変数とするΘおよびｍに対するΦ+（Θ，ｍ）の下限を意味し、記号「＋」はΦ+がΦの閉包であることを表している。
【００６４】
上記の定義から、目的関数と補助関数との間には下式（Ｆ1）の不等式が成立する。したがって、図３に示すように、通常、目的関数Φ（Θ(i)）は補助関数Φ+（Θ(i)，ｍ(i)）よりも小さくなる。なお、図３は、目的関数Φ（Θ）と補助関数Φ+（Θ，ｍ）が矢印の向きと反対の方向に向かって小さくなることを示している。また、変数ｉは、パラメータ更新回数を表し、たとえばｉ＋１はｉの１回後のパラメータ更新を示すものである。
【００６５】
【数１７】
0004870635.tif 000018
【００６６】
補助関数Φ+（Θ(i)，ｍ(i)）を最小化するように補助変数ｍを更新すると、パラメータ更新後の補助関数Φ+（Θ(i)，ｍ(i+1)）と目的関数Φ（Θ(i)）との間には等号が成立する。ここで補助関数Φ+（Θ(i)，ｍ(i+1)）を最小化するようにパラメータΘを更新した場合、パラメータΘの変化にともなって目的関数Φ（Θ(i)）も変化することになる。ただし、更新後の補助関数Φ+（Θ(i+1)，ｍ(i+1)）と目的関数Φ（Θ(i+1)）の間には不等式（Ｆ1）が成立するので、目的関数Φ（Θ(i+1)）は、補助関数Φ+（Θ(i+1)，ｍ(i+1)）よりも小さくなる、すなわちパラメータ更新にともなって自動的に降下することになる。
【００６７】
以上の更新を繰り返せば目的関数Φ（Θ）を間接的に小さくしていくことができる。この本実施の形態の最適化アルゴリズムは反復最適化法の一つである。なお、反復最適化法の他の例としてはたとえばＥＭアルゴリズム（Expectation Maximization アルゴリズム）がある。
【００６８】
なお、上記の目的関数と補助関数の関係を満たした補助関数を設計する上での要件はつぎのとおりである。（1）目的関数≦補助関数となるように補助関数を設計する。（2）等号が成立するときの補助変数が解析的に得られるようにする。（3）補助関数を最小化するΘが解析的に得られるようにする。
【００６９】
次に、この補助関数を用いた反復最適化法を本実施の形態に適用する際の具体的構成について説明する。入力信号Ｘおよび線形予測係数ＡをそれぞれＮ次元およびＰ次元ベクトル、ＹをＮ行Ｐ列の行列とし、次のような線形回帰モデル
【００７０】
【数１８】
0004870635.tif 000019
【００７１】
を考える。ただし、Ｄは雑音を表す確率ベクトル（残差（誤差）ベクトル）である。このもとで、線形予測係数Ａの最尤推定値を求める問題を考える。もし残差ベクトルＤの要素が独立なガウス性雑音であれば、この問題はＬ2ノルム（残差ベクトルＤの要素の二乗和（Ｌ2ノルムはユークリッド距離とも呼ばれる。））
【００７２】
【数１９】
0004870635.tif 000020
【００７３】
を線形予測係数Ａに関して最小化する問題であり、Ｎ≧ｐならば
【００７４】
【数２０】
0004870635.tif 000021
【００７５】
が線形予測係数Ａの最適解となる。
【００７６】
これに対し、まず考えるのは、残差ベクトルＤの各要素の絶対値和を最小化する線形予測係数Ａを求める問題である。すなわち、符号量モデルｇ0（ｄ）をｄの絶対値関数｜ｄ｜と置き、全符号量モデルを
【００７７】
【数２１】
0004870635.tif 000022
【００７８】
とし、これを最小化する線形予測係数Ａを求めたい。
【００７９】
式（16）が示す線形回帰モデルの特殊ケースの例として線形予測モデルがある。線形予測モデルとは、あるディジタル信号の時刻ｉにおけるサンプルｘiを、時刻ｉ−１から過去ｐ個のサンプルｘi-1，ｘi-2，…，ｘi-pの線形結合で表現するモデル
【００８０】
【数２２】
0004870635.tif 000023
【００８１】
のことであり、自己回帰モデルとも呼ばれる。上記のモデルのもとで、Ｎ個の連続するサンプル系列ｘ1，ｘ2，…，ｘNを最も良く表す線形予測モデルのｐ個の線形予測係数（要素）αjを推定する問題を線形予測分析と呼ぶ。式（16）に対応させると、線形予測モデルは、
【００８２】
【数２３】
0004870635.tif 000024
【００８３】
と置いたことに相当する。
【００８４】
本実施の形態が特徴とする点は、補助関数を用いた効率的な反復推定アルゴリズム（以降、補助関数法と称す）によって、各種全符号量モデルを最小化する方法である。そこで、まず、補助関数法の原理（補助関数法の原理自体は既存のものである。）を本実施の形態に即して以下に示し、そののちに、まず、式（19）の最小化を補助関数法によって行う方法について述べる。
【００８５】
線形予測係数Ａをパラメータとする目的関数Ｌn（Ａ）に対し、Ｌn（Ａ）≦Ｌn+（Ａ，Ｂ）が成り立つとき、Ｌn+（Ａ，Ｂ）のことをＬn（Ａ）の補助関数と呼び、Ｂのことを補助変数と呼ぶ。
【００８６】
以上の定義から、次の定理が成り立つ。
【００８７】
定理１：目的関数Ｌn（Ａ）は、補助関数Ｌn+（Ａ，Ｂ）をＡに関して最小化するステップと、Ｌn（Ａ）＝Ｌn+（Ａ，Ｂ）となるＢを求めるステップを繰り返すことで単調減少させていくことができる。
【００８８】
証明：Ｌn（Ａ0）＝Ｌn+（Ａ0，Ｂ）となるＢ、すなわち目的関数と補助関数とが等しくなるＢを＾Ｂとし、
【００８９】
【数２４】
0004870635.tif 000025
【００９０】
とする。すなわち、補助関数Ｌn+（Ａ，Ｂ）を最小化するＡを＾Ａとする。
【００９１】
定理１が示すＡとＢのそれぞれの更新が、目的関数Ｌn（Ａ）を減少させることを示すために、Ａ＝Ａ0、Ｂ＝Ｂ0からＡ＝＾Ａ、Ｂ＝＾Ｂに変更したときに、Ｌn（Ａ）が非増加であることを確認する。
【００９２】
明らかにＬn（Ａ0）＝Ｌn+（Ａ0，＾Ｂ）であり、Ｌn+（Ａ0，＾Ｂ）≧Ｌn+（＾Ａ，＾Ｂ）であり、さらに定義より、Ｌn+（＾Ａ，＾Ｂ）≧Ｌn（＾Ａ）なのだから、結局、Ｌn（Ａ0）≧Ｌn（＾Ａ）である（証明終わり）。
【００９３】
補助関数法をある最適化問題に応用するにあたり、鍵となるのは、以下の点を満たす補助関数が設計できるか否かである。
【００９４】
要件１：Ｌn（Ａ）＝Ｌn+（Ａ，Ｂ）となるＢが解析的に求められる。
要件２：補助関数Ｌn+（Ａ，Ｂ）を最小化するＡが解析的に求められる。
【００９５】
この点を肯定的に満たすことができれば、最適化問題への応用の有効性が大である。全符号量モデルの最小化問題において以上の性質を満たす補助関数を設計するにあたり、符号量モデル（目的関数）より決して小さくなることがなく（補助関数の定義より）、かつ、符号量モデルに接する（要件１より）２次関数（要件２より）の中で、２次の係数が最小となるものを見つけることが補助関数設計の基本的方針となる。
【００９６】
以下、目的関数及び補助関数設計の具体例について説明する。
【００９７】
［第１の実施例］
この実施例では目的関数Ｌ（Ａ）を絶対値関数｜ｄ｜からなる関数ｇ0（ｄ）として、補助関数Ｌ0+（Ａ，Ｂ）を目的関数と（ｂ，ｇ0（ｂ））で接する２次関数（放物線）としている。
【００９８】
式（22）に示されるような絶対値関数で表される符号量モデルをｇ0（ｄ）
【００９９】
【数２５】
0004870635.tif 000026
【０１００】
とし、ｇ0（ｄ）より小さくなることがなく、点（ｂ，ｇ0（ｂ））で接する２次関数の中で２次の係数が最小となるのは
【０１０１】
【数２６】
0004870635.tif 000027
【０１０２】
であり、∀ｄで、ｇ0（ｄ）≦ｈ0（ｄ，ｂ）が成り立つ。ｇ0（ｄ）およびｂ＝0.1，3，5のときのｈ0（ｄ，ｂ）を図４に示す。線形予測残差信号ｄiを（Ｘ）i−（ＹＡ）iに対応させると、
【０１０３】
【数２７】
0004870635.tif 000028
【０１０４】
のような不等式が立てられる。行列ＭとベクトルＷをまとめて補助変数Ｂと表記することにし、上記不等式右辺をＬ0+（Ａ，Ｂ）と置く。なお、行列Ｍは補助関数の２次の項の係数を表し、ベクトルＷは中心位置を表すものである（以下、同様。）。ただし、
【０１０５】
【数２８】
0004870635.tif 000029
【０１０６】
【数２９】
0004870635.tif 000030
【０１０７】
である。式（24）より、
【０１０８】
【数３０】
0004870635.tif 000031
【０１０９】
であるため、Ｌ0+（Ａ，Ｂ）は補助関数の定義を満たす。
【０１１０】
上記の補助関数を用い、定理１の２つのステップを具体的に示す。まず、Ｂを固定したときに、Ｌ0+（Ａ，Ｂ）を最小化するＡを求める。
【０１１１】
【数３１】
0004870635.tif 000032
【０１１２】
を解くと、
【０１１３】
【数３２】
0004870635.tif 000033
【０１１４】
を得る。ＹTＭＹは正定値対称行列となるので、（ＹTＭＹ）-1はコレスキー分解で求めるのが好適である。次に、Ｌ0（Ａ）＝Ｌ0+（Ａ，Ｂ）となる補助変数Ｂは、
【０１１５】
【数３３】
0004870635.tif 000034
【０１１６】
である。
【０１１７】
以上をまとめると、Ａの初期値を適当に設定し、式（29）と式（30）を繰り返し計算していけば、Ｌ0（Ａ）を単調減少させていくことができる。この最適化問題は凸計画問題、すなわち凸集合の上で凸関数を最小化する問題なので、収束解は大域最適解に一致するはずである。
【０１１８】
［第２の実施例］
この実施例では目的関数Ｌ1（Ａ）を、絶対値関数｜ｄ｜を３つの区間（たとえば区間ａ1、ａ2、ａ3）に分割し、絶対値関数｜ｄ｜の微分不能な点（ｚ＝0）を含む区間をａ2としたときに、区間ａ1および区間ａ3は絶対値関数｜ｄ｜をそのまま使用し、区間ａ2は、区間ａ1とａ2の分割点および区間ａ2とａ3の分割点で接する２次曲線（放物線：但し区間は｜Ｚ｜＜ε）とする関数ｇ1（ｄ）とする。そして、補助関数Ｌ1+（Ａ，Ｂ）を目的関数と（ｂ，ｇ1（ｂ））で接する２次関数（放物線）としている。
【０１１９】
すなわち、本実施例では、符号量モデルとして、絶対値関数を式（31）に示されるように線形予測残差信号ｄ＝0付近で２次曲線に置き換えた関数ｇ1（ｄ）を考える。
【０１２０】
【数３４】
0004870635.tif 000035
【０１２１】
ただし、ｃ＞0である。すなわち、全符号量モデルを
【０１２２】
【数３５】
0004870635.tif 000036
【０１２３】
と置いたことに相当する。ここでは、これを最小にするＡを求める方法について述べる。
【０１２４】
ｇ1（ｄ）より決して小さくなることがなく点（ｂ，ｇ1（ｂ））で接する２次関数の中で２次の係数が最小となるのは、
【０１２５】
【数３６】
0004870635.tif 000037
【０１２６】
であり、∀ｄで、ｇ1（ｄ）≦ｈ1（ｄ，ｂ）が成り立つ。線形予測残差信号ｄiを（Ｘ）i−（ＹＡ）iに対応させると、
【０１２７】
【数３７】
0004870635.tif 000038
【０１２８】
のような不等式が立てられる。行列ＭとベクトルＷをまとめて補助変数Ｂと表記することにし、上不等式右辺をＬ1+（Ａ，Ｂ）と置く。ただし、
【０１２９】
【数３８】
0004870635.tif 000039
【０１３０】
である。式（34）より、
【０１３１】
【数３９】
0004870635.tif 000040
【０１３２】
であるため、Ｌ1+（Ａ，Ｂ）はＬ1（Ａ）の補助関数の定義を満たす。
【０１３３】
上記の補助関数を用い、定理１の２つのステップを具体的に示す。まず、Ｂを固定したときに、Ｌ1+（Ａ，Ｂ）を最小化するＡを求める。
【０１３４】
【数４０】
0004870635.tif 000041
【０１３５】
を解くと、
【０１３６】
【数４１】
0004870635.tif 000042
【０１３７】
を得る。ＹTＭＹは正定値対称行列なので、（ＹTＭＹ）-1はコレスキー分解で求めるのが好適である。次に、Ｌ1（Ａ）＝Ｌ1+（Ａ，Ｂ）となる補助変数Ｂは、
【０１３８】
【数４２】
0004870635.tif 000043
【０１３９】
である。
【０１４０】
以上をまとめると、線形予測係数Ａの初期値を適当に設定し、式（38）と式（39）を繰り返し計算していけば、式（32）で与えられる全符号量モデルＬ1（Ａ）を単調減少させていくことができる。
【０１４１】
［第３の実施例］
この実施例では目的関数Ｌ2（Ａ）を、絶対値関数｜ｄ｜に漸近する双曲線を表す関数ｇ2（ｄ）とする。そして、補助関数Ｌ2+（Ａ，Ｂ）を目的関数と（ｂ，ｇ2（ｂ））で接する２次関数（放物線）としている。
【０１４２】
すなわち、符号量モデルとして、式（40）に示されるような関数ｇ2（ｄ）を考える。絶対値関数ｇ0（ｄ）と双曲線関数ｇ2（ｄ）(ｃ＝1)のグラフを併せて図５に示す。
【０１４３】
【数４３】
0004870635.tif 000044
【０１４４】
すなわち、全符号量モデルを
【０１４５】
【数４４】
0004870635.tif 000045
【０１４６】
と置いたことに相当する。ここでは、これを最小にするＡを求める方法について述べる。
【０１４７】
ｇ2（ｄ）より決して小さくなることがなく、点（ｂ，ｇ2（ｂ））で接する２次関数の中で２次の係数が最小となるのは
【０１４８】
【数４５】
0004870635.tif 000046
【０１４９】
であり、∀ｄで、ｇ2（ｄ）≦ｈ2（ｄ，ｂ）が成り立つ。ｇ2（ｄ）とｂ＝0，3，5のときのｈ2（ｄ，ｂ）を図６に示す。線形予測残差信号ｄiを（Ｘ）i−（ＹＡ）iに対応させると、
【０１５０】
【数４６】
0004870635.tif 000047
【０１５１】
のような不等式が立てられる。行列ＭとベクトルＷをまとめて補助変数Ｂと表記することにし、上不等式右辺をＬ2+（Ａ，Ｂ）と置く。ただし、
【０１５２】
【数４７】
0004870635.tif 000048
【０１５３】
である。式（43）より、
【０１５４】
【数４８】
0004870635.tif 000049
【０１５５】
であるため、Ｌ2+（Ａ，Ｂ）はＬ2（Ａ）の補助関数の定義を満たす。
【０１５６】
上記の補助関数を用い、定理１の２つのステップを具体的に示す。まず、補助変数Ｂを固定したときに、Ｌ2+（Ａ，Ｂ）を最小化するＡを求める。
【０１５７】
【数４９】
0004870635.tif 000050
【０１５８】
を解くと、
【０１５９】
【数５０】
0004870635.tif 000051
【０１６０】
を得る。ＹTＭＹは正定値対称行列なので、（ＹTＭＹ）-1はコレスキー分解で求めるのが好適である。次に、Ｌ2（Ａ）＝Ｌ2+（Ａ，Ｂ）となる補助変数Ｂは、
【０１６１】
【数５１】
0004870635.tif 000052
【０１６２】
である。
【０１６３】
以上をまとめると、線形予測係数Aの初期値を適当に設定し、式（47）と式（48）を繰り返し計算していけば、式（41）で与えられる全符号量モデルＬ2（Ａ）を単調減少させていくことができる。
【０１６４】
なお、上記で示した補助関数法による反復アルゴリズムの効率を上げるには、Ａの初期値は、式（18）で求まった値とするのが望ましい選択の一つである。
【０１６５】
［第４の実施例］
この実施例では目的関数Ｌ3（Ａ）を、複数の線分で構成される微分不可能な点に着目して複数の区間に分割し、微分不可能な点を含む区間を前後の区間との境界で接する２次曲線（放物線）を表す関数ｇ3（ｄ）とする。そして、補助関数Ｌ3+（Ａ，Ｂ）を目的関数と（ｂ，ｇ3（ｂ））で接する２次関数（放物線）としている。
【０１６６】
すなわち、符号量モデルとして、式（49）に示されるような区分的に0次、1次、2次関数が滑らかに接続する区分関数ｇ3（ｄ）を考える。
【０１６７】
【数５２】
0004870635.tif 000053
【０１６８】
ただし、ｃは0＜ｃ≦βを満たす範囲で自由に定めてよい定数であり、ｃ→0でｇ3（ｄ）はｇ0（ｄ）＝｜ｄ｜に漸近する。微分不可能な点に着目する線分の例を図７に、関数ｇ3（ｄ）の概形を図８に示す。以上の符号量モデルより、全符号量モデルは
【０１６９】
【数５３】
0004870635.tif 000054
【０１７０】
で与えられる。ｇ3（ｄ）より決して小さくなることがなく、点（ｂ，ｇ3（ｂ））で接する２次関数の中で２次の係数が最小となるのは
【０１７１】
【数５４】
0004870635.tif 000055
【０１７２】
であり、∀ｄで、ｇ3（ｄ）≦ｈ3（ｄ，ｂ）が成り立つ（証明略）。この不等式と、式（49）、式（50）、式（51）より、
【０１７３】
【数５５】
0004870635.tif 000056
【０１７４】
のような不等式が立てられる。上記の実施例と同様に、行列ＭとベクトルＷはいずれもＮ個の補助変数ｂi（ｉ＝1，…，Ｎ）に依存するもので、これらをまとめて補助変数Ｂと表記することにし、上不等式右辺をＬ3+（Ａ，Ｂ）と置く。ただし、
【０１７５】
【数５６】
0004870635.tif 000057
【０１７６】
である。式（52）より、
【０１７７】
【数５７】
0004870635.tif 000058
【０１７８】
であるため、Ｌ3+（Ａ，Ｂ）はＬ3（Ａ）の補助関数の定義を満たす。
【０１７９】
上記の補助関数を用い、定理１の２つのステップを具体的に示す。まず、補助変数Ｂを固定したときに、Ｌ3+（Ａ，Ｂ）を最小化するＡを求める。
【０１８０】
【数５８】
0004870635.tif 000059
【０１８１】
を解くと、
【０１８２】
【数５９】
0004870635.tif 000060
【０１８３】
を得る。ＹTＭＹは正定値対称行列なので、（ＹTＭＹ）-1はコレスキー分解で求めるのが好適である。次に、Ｌ3（Ａ）＝Ｌ3+（Ａ，Ｂ）となる補助変数Ｂは、式（57）のように、前段で求まったＡにより得られる残差（Ｘ）i−（ＹＡ）iをｂiに代入して行列ＭとベクトルＷを計算することで得られる。
【０１８４】
【数６０】
0004870635.tif 000061
【０１８５】
以上より、Ａの初期値を設定し、式（56）と式（57）を繰り返し計算していけば、式（50）で与えられる全符号量モデルＬ3（Ａ）を単調減少させていくことができる。実施例では、一例として目的関数の不連続点の前後に接する曲線として２次曲線により説明したが、２つの接点間で単調増加または、単調減少する関数であれば２次曲線以外の曲線を用いても本願発明は実施可能である。すなわち、目的関数が微分不能な点を有する場合に、その目的関数の微分不能な点の前後の点で滑らかに接する接点を有し、これら２つの接点区間で単調増加または単調減少する関数により目的関数の接点区間を置き換えた関数を、目的関数とすることが可能である。
【０１８６】
［発明によって生じる効果］
本発明による手法を用いると、線形回帰モデルにおいて誤差ベクトルの要素が独立にラプラス分布に従うという仮定のもとでの回帰係数ベクトルの最尤解（残差（誤差）ベクトルの要素の絶対値和を最小化する回帰係数ベクトル）ないしその近似解を効率良く求めることができる。この発明が特に効果を発揮する応用場面は、シンプレックス法では計算量が非現実的に膨大となってしまう大規模な（説明変数行列や回帰係数ベクトルのサイズが大きい）線形回帰分析の問題においてである。このような応用場面に直接的に当てはまる具体例は、上記「発明が解決しようとする課題」で示したとおり、線形予測分析に基づく無歪（ロスレス）圧縮符号化である。
【０１８７】
この他に考えられるのは、音声スパース性に基づく多チャンネルブラインド音源分離、スパースコーディング、スパース非負行列因子分解など、スパース性を最適性の尺度として導入した問題等である（何らかのベクトルないし行列の要素のうち少数を除きすべてがほぼ0であるとき、そのベクトルないし行列は「スパースである」という。）。スパースコーディング、および、スパース非負行列因子分解は、スパースな係数ベクトルによる基底の線形結合（出来るだけ少ない基底だけ）で観測信号を良く表そうとする方法論であり、画像認識や音楽の音高認識など多方面の分野に応用されている。ベクトルのスパース性は、Ｌ1ノルムにより測ることができる（行列のスパース性に関しては、行列の各列ベクトルのＬ1ノルムの総和をとったものにより測ることができる）ことから、本発明が上記応用においても効果を発揮することが予想される。
【０１８８】
［本発明のポイント］
本発明は、線形予測分析において予測誤差信号の符号量を小さくする予測係数の算出方法についてなされたものであり、振幅値に対するライス符号の符号量の関数を良く似せた関数を用いて目的関数を設計し、これを最小化する予測係数を効率良く求めるための方法である。この方法において、
１．補助関数法を用いているという点（上述した補助関数設計の基本的方針によって補助関数は目的関数に接する２次関数（２次曲線）に基づいて設計することができる）、
２．目的関数（最適化の規準となる尺度）を、
（ア）予測誤差ベクトルの要素の絶対値和として表した符号量関数、ないし、
（イ）台形関数に基づいて設計した符号量関数（式（46））、ないし、
（ウ）目的関数が微分不能な点を有する場合に、その目的関数の微分不能な点の前後の点で滑らかに接する接点を有し、これら２つの接点区間で単調増加または単調減少する関数により目的関数の接点区間を置き換えた関数を目的関数とする点、
具体例としては、
（ウ−１）絶対値関数を良く近似したものでありかつ不連続点のない滑らかな関数に基づいて設計した（ア）の近似関数、
（ウ−２）台形関数を良く近似したものでありかつ不連続点のない滑らかな関数に基づいて設計した（イ）の近似関数などがあり、
３．上記（ウ−１）のようにした場合に、絶対値関数を近似する滑らかな関数として、絶対値関数の不連続点付近だけを２次曲線に置き換えた関数（式（28））や、双曲線関数（式（37））などを採用する点、
４．上記（ウ−２）のようにした場合に、台形関数を近似する滑らかな関数として、0次、1次、2次関数が滑らかに接続する区分関数（式（48））などを採用する点、
５．補助関数を、上記（ア）〜（ウ）の関数に接する２次曲線に基づいて設計しているという点、
が本発明の主たるポイントである。
【０１８９】
［評価実験結果］
本発明の提案法の効果を確認するため、音響信号を対象として圧縮性能の評価実験を行った。本実験の目的は、提案法の原理を実証することだけでなく、LPC（Linear Predictive Coding − 線形予測符号化）に基づく可逆圧縮符号化において残差の符号量削減の余地がどの程度残されているのかを見極めることである。評価実験用に、サンプリング周波数44.1kHz、16ビットで収録されたステレオの音楽ファイル10個を実験データ（合計約432MB）として用いた。LPC分析フレーム長は2048サンプルとした。
【０１９０】
Ｌ2ノルムを規準としたLPCをLevinson-Durbinアルゴリズムにより行う従来の方式を従来法、従来法で得られた予測係数を初期値として、Ｌ2（A）およびＬ3（Ａ）を規準としたLPCを提案する反復最適化アルゴリズムにより行う方式をそれぞれ提案法1、提案法
2と略称する。提案法1および提案法2の反復計算回数は10とした。なお、各方式ではいずれもチャネル間相関に基づく圧縮は行っていない。また、LPCの予測次数（式（21）におけるｐは固定とした。
【０１９１】
Ｌ2（Ａ）はＬ2ノルムに比べてRice符号量に則した目的関数となっているため、従来法に比べ、提案法1の圧縮率は向上するものと予想される。一方、Ｌ3（Ａ）はＬ2（Ａ）に比べてよりRice符号量に則した目的関数となっているため、提案法1に比べ、提案法2の圧縮率は若干向上するものと予想される。
【０１９２】
従来法、提案法1、提案法2それぞれについての、予測次数が7，15，31の場合の圧縮率を図９に示す。圧縮率は、次のように算出した。圧縮率（％）＝圧縮後のファイルサイズ／元のファイルサイズ×100。図９から、予想通り、提案法2による圧縮率が最も高く、次いで提案法1による圧縮率が高いことが確認された。
【０１９３】
なお、本発明の実施の形態は、上記のものに限定されず、音声予測符号化における線形予測算出に限らず線形回帰モデル全般で利用可能であり、また、たとえば図１の各部を統合したり、あるいはさらに分割したりして構成することや、繰り返し回数判定部5の判定内容を、算出の繰り返し回数や算出結果に基づいて所定の条件を満たすか否かの判定を行うものに変更することなどが可能である。また、本発明の線形予測係数算出装置は、コンピュータとコンピュータで実行されるプログラムとを用いて構成することができるが、その場合のプログラムは、コンピュータ読み取り可能な記録媒体または通信回線を介して頒布することが可能である。
【図面の簡単な説明】
【０１９４】
【図１】本発明の線形予測係数算出装置の構成例を示すブロック図である。
【図２】図１の構成の動作を説明するためのフローチャートである。
【図３】図１の構成において利用する目的関数と補助関数を説明するための図である。
【図４】本発明の第１の実施例における補助関数法を説明するための図である。
【図５】本発明の第３の実施例における補助関数法を説明するための図である。
【図６】本発明の第３の実施例における補助関数法を説明するための図である。
【図７】本発明の第４の実施例における補助関数法を説明するための図である。
【図８】本発明の第４の実施例における補助関数法を説明するための図である。
【図９】本発明と従来法との符号量の比較を示す図である
【図１０】従来の音声予測符号化装置の構成を示す図である。
【図１１】ライス符号で振幅値ｄに対して割り当てられる符号量ｇ（ｄ）を示す図である。
【符号の説明】
【０１９５】
１  残差算出部
２  係数初期化部
３  補助変数算出部
４  係数算出部
５  繰り返し回数判定部
【図１】
0004870635.tif 000062
【図２】
0004870635.tif 000063
【図３】
0004870635.tif 000064
【図４】
0004870635.tif 000065
【図５】
0004870635.tif 000066
【図６】
0004870635.tif 000067
【図７】
0004870635.tif 000068
【図８】
0004870635.tif 000069
【図９】
0004870635.tif 000070
【図１０】
0004870635.tif 000071
【図１１】
0004870635.tif 000072