重回帰分析
中学生を対象に調査を行いその結果を重回帰分析したところ下の式が得られたとする。
t C × 3 + t S J × 5 + 20 = n {\displaystyle t_{C}\times 3+t_{SJ}\times 5+20=n}
この場合、Aさんが中学で 100 {\displaystyle 100} 時間、小学生時代 20 {\displaystyle 20} 時間勉強していたら 100 × 3 + 20 × 5 + 20 = 420 {\displaystyle 100\times 3+20\times 5+20=420} 語を知っているという計算になる。中学で1時間勉強すると平均的には3単語を覚えているという解釈ができる。
ここでは × 3 {\displaystyle \times 3} や × 5 {\displaystyle \times 5} という数値を重回帰分析で計算・算出するが、あくまで平均的な値であり個々のサンプルにおいてその通りに一致するとは限らない。例えば、Aさんの英単語数は 420 {\displaystyle 420} 語ではなく、実際には 450 {\displaystyle 450} 語かもしれない。全体の平均を取ると、3や5という値を取ると全体が最もうまく説明できデータによく適合するということから出てきた数値になる。
また英単語数を決めるのが勉強時間だという関係は、分析者が自分で決めるため絶対的なものではない。あくまで勉強時間が独立変数(説明変数)だと仮定した上で分析している。そのため、予測を行うことはできてもその方向に因果関係があることは保証されない。
回帰分析
分散分析 - 重回帰モデルの有意性の検定に用いられる
数量化I類 - ダミー変数を用いた回帰分析の別名
ロジスティック回帰 - 目的変数は名義尺度、ロジスティック関数に基づく予測
プロビット分析 - 目的変数は名義尺度、正規累積関数に基づく予測
正準相関分析 - 変数群の一方が一変数のみであれば、重回帰分析と同様
パス解析 - 古典的なパス解析は、複雑なモデルについて重回帰分析の繰り返しから個々の係数を推定
共分散構造分析(構造方程式モデリング) - 重回帰モデルに対し、適合度統計量等の算出が可能