線型回帰数列

数学において、p}}-階の線型回帰数列とは、各項がある可換体 K}}に値をとる数列であって、体 K}} の p}} 個のスカラー //a//sub が存在して、任意の //n// ≥ //n//sub に対して、p}}-階の線型漸化式 を満たすものの総称である。より一般には、係数 asub は n}} の函数とすることもできるが、本項においては基本的に定数係数の場合を扱う。このような数列は、最初の p}} 項が決まれば、残りの項は漸化式に従ってすべて一意に決定される。この数列または漸化式が安定であるとは、任意の初期値集合に対して n}} を無限大に飛ばした極限が存在するときに言う。

高階の線型回帰列を調べることは線型代数学に属する問題である。そのような列の一般項は、列に付随する特性多項式と呼ばれる多項式の根が求まれば、それらによって記述することができる。上記の漸化式を満たす列に付随する特性多項式は で与えられ、特性多項式の根は特性根と呼ばれる。特性多項式の次数は漸化式の階数に等しい。特に二階の回帰列の場合には、特性多項式の次数も 2}} であり、その根の様子は判別式を用いて知ることができる。故に、二階線型回帰列は最初の二項の値のみから初等的な算術演算と正弦・余弦函数を用いて記述することができる。この種の数列の例には、よく知られたフィボナッチ数列があり、その各項は黄金比の冪を使って書くことができる。

一般に差分方程式は様々な文脈で用いられ、例えば経済学において、国内総生産やインフレ率、為替レートなどの時間発展する変数をモデル化する。差分方程式をそのような時系列のモデル化に用いるのは、それら変数の値が離散的間隔でのみ測られるからである。そのような応用において、線型差分方程式は自己回帰モデル  や AR とその他の特徴を組み合わせたベクトル自己回帰  および自己回帰移動平均モデル  など、推計学的な言葉でモデル付けられる。

1. 定義と簡単な事実
-----------

一般に体 K}} 上のp}}-階線型差分方程式 ch. 17}}ch. 10}} あるいは線型漸化式  とは、数列 (//fsub に関する漸化式で、//n// ≥ //p//}} なるとき//

の形に書けるものを言う。ここに、各係数函数 asub および函数 b}} は、自然数 n}} を変数とする K}}-値函数である。すべての asub が n}} に依らない一定の値をとるとき、漸化式は定数係数であるという。

//n// ≥ //p//}} なる全ての n}} に対して、上記の漸化式を満足する数列 (//fsub をこの差分方程式の解と呼ぶ。解は明らかに最初の p}} 項の値によって特徴付けられる。//

任意の n}} に対して 1=//b// = 0}} のとき、差分方程式は斉次  であるといい、そうでないとき非斉次  と言う。任意の n}} に対して 1=//fsub となる数列は明らかに斉次方程式を満たし、斉次方程式の自明解と呼ばれる。//

一般性を失うことなく 1=//a//sub として、別な表現 を与えることができる。これは fsub が直前の p}} 項から決定されるという形になっている。

F, G}} が同じ斉次方程式の解ならば、//αF// + //βG// }} も同じ斉次方程式の解である
F, G}} が同じ非斉次方程式の解ならば、//F// − //G//}} は付随する斉次方程式の解になる。
非斉次方程式の解の一つ F}} が既知ならば、非斉次方程式の他の解は付随する斉次方程式の一般解 G}} との和として書ける。

2. 斉次形への帰着
----------

//b// ≠ 0}} として非斉次の定数係数方程式 を解くには、斉次形に変形するのが便利である。そのためにはまず、n}} を無限大に飛ばしたときの定常値 y*}}を求めることが必要である。これは上記の方程式における任意の ysub を y*}} と置いて解けば と得られる。

定常値がわかれば、上記の差分方程式は定常値からの各項の偏差に関する方程式 に書き直せて、これは非斉次項を持たない。1=//xsub と置けばより簡潔に となる。//

定常でない場合には、方程式 と添字を一つずらした方程式 から b}} を消去すれば が、もとの方程式より階数が一つ大きいものの斉次方程式として得ることができる。

3. 一階線型回帰列
----------

一階の斉次線型漸化式 の解は幾何数列と呼ばれる。その一般項は で与えられる。
非斉次一階線型漸化式 1=//u//sub の解は算術幾何数列である。

4. 二階線型回帰列
----------

係数体 K}} の二つのスカラー a}} および //b// ≠ 0}} を固定して、線型漸化式 を満たす列の一般項が、K}} における特性多項式の根の値に従って、以下のように与えられることが示される。

また、λ}} と μ}} は列の最初の二項によって決まる, 初期パラメータである。

前者についてはさらに、多項式 //X//sup の二根 //r//sub が互いに共軛な複素数 ρesup であるとき、数列の一般項を

と書くことができる。ただし、//A//, //B// ∈ K}} は数列の最初の二項から決まるパラメータである。

ここまで数列はある番号 //n//sub から始まるものとして扱ったが、以下、一般性を失うことなく数列は自然数全体の成す集合 N}} 上で定義されるものと仮定してよい。実際、数列 (//usub が //n//sub からしか定義されていないとき、N}} 上で定義される数列 (//vsub を 1=//vsub によって定めることができる。//

基本的な考え方は線型漸化式  を満たす幾何数列を求めること、即ち数列  を満たすようなスカラー r}} を見つけることである。そうするとこの問題が、二次方程式 1=//r//sup を解くことと等価であることが容易に理解される。多項式 //r//exp はこの数列の特性方程式と呼ばれ、その判別式は 1=Δ = //a//exp で与えられる。特性多項式の根の数によって、いくつかの場合が区別されねばならない。//

4.1. 相異なる二根を持つ場合
----------------

//r//sub と //r//sub が相異なる二根であるとき、数列  を満たすから、漸化式の線型性から同様に、一般項が subsup の数列もすべて  を満たす。ここから  を満足する数列を全て決定するには、そのような数列が初期条件 //u//sub によって完全に決まることから、λ, μ}} に関する次の方程式系

を解けば十分である。しかし、この系の行列式 //r//sub は常に 0}} ではないから、 を満たす数列は常に (subsup および (subsup の線型結合として表される。このような状況は、数列が実数値で Δ > 0}} のときや、数列が複素数値で判別式が 0}} でないときに起きる。

4.2. 二重根を持つ場合
-------------

判別式が 0}} のときは、根が //r//sub 一つしかなく、 を満たす幾何数列が  を満足するような数列 (//λsub を見つければよい。これは「定数変化法」と呼ばれる手法である。まずは、//r//sub が 0}} でない限り (//λsub が存在することを確かめよう。(//usub に対する漸化式は (//λsub に関する漸化式

に書き直すことができる。1=//a//exp と 1=//r//sub となる事実を用いれば、算術数列の定義式

が得られるから、従って数列 (//λsub は一般項が 1=//λsub の算術数列になる。

故に、 を満たす数列 (//usub の一般項は//

となる。この結果は、数列が実数値でも複素数値でも特性多項式の判別式が 0}} ならば適用できる。

4.3. 異なる二根が特に共軛の場合
------------------

特性多項式が実係数で、その判別式が真に負であるとき、この二次方程式の二つの根は相異なり、C}} において共軛である。それを

とすると、これは上記の二つの場合の前者であるから、 を満足する任意の複素数列は一般項が λ, μ}} を複素パラメータとして //λρesup の形に書ける。パラメータを 1=//A// = //λ// + //μ//, //B// = //i//}} に取り換えて、一般項を 1=//usub と書き直すこともできる。

従って、 を満足する実数列の場合にも一般項を

と書くことができる。実際、パラメータ A, B}} が実数ならば、数列も実数値となるし、逆に、1=//u//sub で //ρθ//⋅sin ≠ 0}} に気を付ければ、//u//sub が実数ならば A, B}} もそうであることがわかる。

5. p}}-階の回帰列
------------

5.1. p}}-階回帰列の成す p}}-次元部分空間
---------------------------

p}}-階の線型漸化式 を満たす K}}-値数列全体の成す集合 //E//sub は K}}-値数列全体の成すベクトル空間の線型部分空間となることが、漸化式の線型性から従う。

さらにこの部分空間が p}}-次元となることもわかる。実際、//E//sub と Ksup との間のベクトル空間の同型が、//E//sub の元  を満たす p}} 個の線型独立な列が得られれば、//E//sub がそれら p}} 個の線型独立系から生成されることがわかる。//

5.2. 一般項の導出
-----------

一般項を求めるために、p}}-階回帰列を Ksup に値をとる数列に読み替える。即ち、各数列 (//usub に対し、Ksup-値数列 (//Usub を

によって与える。すると、 は (//Usub に対する一階の線型漸化式 1=//U//sub に帰着される。ただし A}} は

なる行列である。故に数列 (//Usub の一般項は 1=//Usub で与えられる。

これで問題は解決したようにも思えるが、現実的には A}} の冪 Asup, … の計算が容易でないことがしばしばあり、むしろ直接に //E//sub の基底を求めたほうがよいこともある。

5.3. 基底の決定
----------

行列 A}} の特性多項式は

で、これは  を満たす数列 (//usub の特性多項式に他ならない。//

数列  を満たすという条件は、1=//P////u// = 0}} と書き直せるから、空間 //E//sub は線型写像 //P//}} の核に一致する。多項式 P}} が K}} で可約なとき、k}} 個の根 //r//sub と k}} 個の冪指数 //α//sub を用いて

と書けているとすると、//P//}} の核は (//f// − //rsub の核の直和に表される。従って、//E//sub の基底を決定するには、これらの核それぞれの基底を知れば十分である。//

多項式 Q}} の次数が αsub より真に小さいとき、一般項が //Q//⋅subsup であるような任意の数列が ⋅subsup を一般項とする数列の和として表される。//

5.4. 二階の場合の再考
-------------

特性多項式が一次式の積 (//X// − //r//sub に書けるなら、前節の多項式 Q}} は次数 math であり、//E//sub の任意の元は一般項が //λ//sub の数列となる。

特性多項式の因数分解が (//X// − //r//sub なら、前節の多項式 Q}} の次数は 1}} であり、//E//sub の任意の元は一般項が (subsup の数列となる。

6. 安定性
------

線型回帰数列 において、実根に対応する一つの項が n}} を無限大に飛ばす極限で 0}} に収束するのは、その実特性根の絶対値が 1}} より小さいときである。絶対値が 1}} に等しいときは、特性根が +1}} ならば n}} の増加に伴って一定であり、−1}} のときは二つの値を行き来する。絶対値が 1}} より大きい特性根の項は n}} とともに発散する。同様に、互いに複素共軛な特性根に対応する二項は、それら根の絶対値が 1}} より小さいとき、減衰振動しながら 0}} に収束する。絶対値が 1}} に等しいときは一定振幅で振動し、また絶対値が 1}} より大きければ際限なく大きくなりつつ振動する。

したがって、この数列 xsub が n}} の増加に伴って 0}} に収束するのは、全ての特性根の絶対値が 1}} より小さいことである。

最大の根が絶対値 math ならば、0}} に収束することも無限大に発散することもない。絶対値 math の根がすべて正の実根ならば、xsub はそのような根に対応する係数 csub の和に収束する。安定の場合と異なり、この収束値は初期条件に依存し、始点が異なれば長い時間の後異なる点へ導かれる。何れかの根が –1}} のときは、それに対応する項は永続的に二値間の振動として寄与する。絶対値 math の複素根があれば、xsub は定振幅の変動を続ける。

最後に、何れかの特性根が 1}} より大きい絶対値を持てば xsub は無限大に発散するか、絶対値を大きくしながら正の値と負の値の間を振動する。

イサイ・シューアの定理が述べるところによれば、任意の根の絶対値が 1}} より小さいことの必要十分条件は、行列式の特定の並びが全て正となることである

非斉次の線型差分方程式を上で述べたように斉次化したならば、もとの非斉次方程式の安定性と循環性は斉次化した方程式でも同じで、安定の場合の収束先は 0}} でなく定常値 y*}} になる。

7. 参考文献
-------

L. Berg: //Lineare Gleichungssysteme mit Bandstruktur.// Carl Hanser, München/Wien 1986.
Ian Jaques: //Mathematics for Economics and Business.// Fifth Edition, Prentice Hall, 2006 .

8. 外部リンク
--------

[1] at Brilliant Math & Science Wiki