計量経済学
パラメーターは以下のようにして求められる。まず条件付確率の定義より
P ( θ | y ) = P ( θ , y ) P ( y ) {\displaystyle P(\theta |y)={\frac {P(\theta ,y)}{P(y)}}}
を得る。右辺の分子に再度、条件付確率の定義を適用して
P ( θ | y ) = P ( θ ) P ( y | θ ) P ( y ) {\displaystyle P(\theta |y)={\frac {P(\theta )P(y|\theta )}{P(y)}}}
ここで右辺の分母は所与のデータの確率を表しているので、定数と見なして差し支えない。したがってベイズの定理として以下の式を得ることができる。
P ( θ | y ) ∝ P ( θ ) P ( y | θ ) ∝ P ( θ ) l ( y | θ ) {\displaystyle P(\theta |y)\propto P(\theta )P(y|\theta )\propto P(\theta )l(y|\theta )}
ここで ∝ {\displaystyle \propto } は比例関係を表している。
最後の式は次のように解釈する。左辺はデータが与えられた下でのパラメーターの従う確率、すなわち事後確率を表しており、右辺はデータが与えられる前の事前確率にパラメーターに関する尤度をかけたものに比例している。つまり何も情報が与えられていない事前確率に尤度を掛けることによって、事後確率を得るという情報のアップデートを、このベイズの定理は表していることになる。
原系列に問題が出た場合の対処方法の1つにダミー変数(Dummy variable)を用いる方法がある。
ダミー変数には大きく分けて以下4通りある。 異常値ダミー異常値については、異常値ダミーを用いる。 季節ダミー季節変化については、季節ダミーを用いる。例えば4半期毎のダミーを入れる場合がある。 構造変化構造変化についても、ダミーを用いる。構造変化はChow検定(英語版)で検定する。 グループ分けグループ分けについても、ダミーを用いる。グループ分けの例として男女間で分けるなどがある。
自然共役事前分布と違い、こちらは事前分布にまつわる情報が何もない、いわば白旗を揚げている状態をさす。こういう場合には、例えばパラメーターの事前分布としてパラメーター空間において全ての値が均一の確率を有していると仮定するのが自然であろう。したがって、無条件事前分布の候補の一つとして一様分布が挙げられる。
また、ジェフリーズによる無条件事前分布というものがある。これはフィッシャーの情報行列の平方根を事前分布として用いるものである。
ところで、一様分布を事前分布に用いる場合、結果として古典的計量分析における最尤法と同じ結果を得ることができる。古典的計量分析における最尤法をベイジアンで解釈すれば、事前分布に一様分布を仮定し、事後分布のモード(最頻値)を求めていることと同じになる。
共役とは、共役複素数という言葉からも分かるように、基本的に同じ構造を持ち合わせていることを意味する。ベイズの定理における共役とは、事前確率と事後確率とが同じような分布に従うことをいう。
統計学においては分布族 (distribution family) という概念がある。数理的構造が同じである場合、同じ分布族に従うという。例として指数型分布族が挙げられる。
先のベイズの定理において、尤度と事前確率とが共に正規分布に従っている場合、事後確率も正規分布に従うことが簡単に分かる(分布の再生性による)。ほかにも事前分布が逆ガンマ分布に、尤度が正規分布に従っている場合も、事後分布は逆ガンマ分布に従うことが導出される。
分析の容易性という観点からは、自然共役事前確率を用いることが望ましい。しかしながらいつでも(都合のよい)事前確率を想定することはできない。この場合、次の無条件事前分布を用いることになる。
1960年代まで、古典的計量分析において時系列データを用いた回帰分析では、データそのものに対する考察はほとんどなく、そのまま最小二乗法などが適用されていた。主にマクロ計量分析では、高い決定係数を示す分析結果が多く、それは結果の妥当性を示すものと認識されていた。
これに対し1970年代に入ると、Grangerが無関係なランダム・ウォークに従う変数同士を回帰させた場合、無関係にもかかわらず、回帰係数の値が統計的に0でない値になり、高い決定係数を示し、同時に低いDurbin-Watson統計量を示すことをモンテカルロ分析から明らかにした。この結果の意味することは、1970年代以前に計量経済学で検証されてきた様々な経済モデルが統計的には全く意味がない可能性があるということである。この画期的な論文を発表する前は、計量経済学者および統計学者からはあまり評判がよくなかったが、彼らも実際に分析したところ、同様の結果を得たことから次第にデータそのものに対する考察が進められてきた。
1970年代から急速に研究が進み、1980年代に入るとP.C.B.Phillipsが金字塔とも言えるべき論文をEconometricaに掲載する。同じ号の次の論文が、Grangerがノーベル賞を取る理由の1つとなった共和分に関する論文であった。これらの論文により、単位根および共和分の検定が普及することとなる。