相関係数
相関係数(そうかんけいすう、correlation coefficient)とは、2つのデータまたは確率変数の間にある線形な関係の強弱を測る指標である。相関係数は無次元量で、−1以上1以下の実数に値をとる。相関係数が正のとき確率変数には正の相関が、負のとき確率変数には負の相関があるという。また相関係数が0のとき確率変数は無相関であるという。
たとえば、先進諸国の失業率と実質経済成長率は強い負の相関関係にあり、相関係数を求めれば−1に近い数字になる。
相関係数が ±1 に値をとることは、2つのデータ(確率変数)が線形の関係にあるときに限る。また2つの確率変数が互いに独立ならば相関係数は 0 となるが、逆は成り立たない。
普通、単に相関係数といえばピアソンの積率相関係数を指す。ピアソン積率相関係数の検定は偏差の正規分布を仮定する(パラメトリック)方法であるが、他にこのような仮定を置かないノンパラメトリックな方法として、スピアマンの順位相関係数、ケンドールの順位相関係数なども一般に用いられる。
日本産業規格では、相関(そうかん:correlation)を、「二つの確率変数の分布法則の関係。多くの場合,線形関係の程度を指す。」と定義している。
正の分散を持つ確率変数 X, Y が与えられたとき、共分散を \operatorname{cov} [X,Y]、標準偏差を σX, σY とおく。このとき
\rho = \frac{\operatorname{cov} [X,Y]}{\sigma_X \sigma_Y}
を確率変数 X と Y の相関係数という。これは期待値を E[…] で表せば
\rho = \frac{E \left[ \left( X-E \left[ X \right] \right) \left( Y-E \left[ Y \right] \right) \right]}{\sqrt{E \left[ \left( X- E \left[ X \right] \right)^2 \right] E \left[ \left( Y-E \left[ Y \right] \right)^2 \right]}
と書き直すこともできる。
大きさの同じ2個のデータ (x1, x2, …, xn), (y1, y2, …, yn) に対して、標本共分散を sxy、標本標準偏差をそれぞれ sx, sy とおく。このとき
r:= \frac{s_{xy}{s_x s_y} = \frac{\sum\limits_{i=1}^n \left( x_i-\overline{x} \right) \left( y_i-\overline{y} \right)}{\sqrt{\sum\limits_{i=1}^n (x_i-\overline{x})^2 \sum\limits_{i=1}^n (y_i-\overline{y})^2}
を標本相関係数 (sample correlation coefficient) あるいはピアソンの積率相関係数という。ただし、x, y はそれぞれデータ (x1, x2, …, xn), (y1, y2, …, yn) の平均値で、\overline{x} = \frac{1}{n} \textstyle\sum\limits_{i=1}^n x_i, \overline{y} = \frac{1}{n} \textstyle\sum\limits_{i=1}^n y_i である。
相関係数は、幾何学的には次のような意味になる。
データ (x1, x2, …, xn), (y1, y2, …, yn) をそれぞれ n 次の列ベクトル x  [x1 x2 ... xn]., y  [y1 y2 ... yn]. と考えると、x, y の偏差ベクトルはそれぞれ以下のようになる。
\boldsymbol{x}-\overline{x}\,\boldsymbol{1}=\begin{bmatrix}
x_1-\overline{x} \\
x_2-\overline{x} \\
\vdots \\
x_n-\overline{x}
\end{bmatrix}, \; \boldsymbol{y}-\overline{y}\,\boldsymbol{1}=\begin{bmatrix}
y_1-\overline{y} \\
y_2-\overline{y} \\
\vdots \\
y_n-\overline{y}
\end{bmatrix}
ただし、1 は全ての成分が1である n 次の列ベクトルで、1  [1 1 ... 1]. である。このとき、x, y の偏差ベクトル x − x 1, y − y 1 のなす角を θ としたときの
\cos \theta =\frac{\langle \boldsymbol{x}-\overline{x}\,\boldsymbol{1},\;\boldsymbol{y}-\overline{y}\,\boldsymbol{1} \rangle}{\| \boldsymbol{x}-\overline{x}\,\boldsymbol{1} \| \| \boldsymbol{y}-\overline{y}\,\boldsymbol{1} \〕
が標本相関係数 r である。ここで、●, ● は内積を表す。
データ (x1, x2, …, xn), (y1, y2, ..., yn) が2次元正規分布からの標本のとき、標本相関係数 r は母集団相関係数 ρ の最尤推定量ではあるが、不偏推定量ではなく(絶対値で見ると)小さめに見積もりがちである。また外れ値に大きく影響してしまう。
相関係数は、あくまでも確率変数の間にある線形な関係の尺度に過ぎない。また、確率変数間の因果関係を説明するものでもない。相関係数は順序尺度であり比尺度ではないので、例えば「相関係数が0.2と0.4であることから、後者は前者より2倍の相関がある」などと言うことはできない。
しばしば、相関があるという表現が、あたかも因果関係を示しているかのように誤解あるいは誤用される。
2つの変数(A,B)間に相関が見られる場合、偶然による相関を除けば、次の3つの可能性が想定される(相関と因果の違いに関する誤解・誤用において目立つのは、3番目の場合である)。
第3の変数CがAとBを発生させる(この場合、AとBの間に因果関係はなく擬似相関と呼ばれる)
因果的な効果の推定ににあたっては、単に相関を見るだけでは分からない。ジューディア・パールやドナルド・ルービンなどによってまとめられてきた統計的因果推論などに則った調査研究を実施する必要がある。
相関分析とは2変数の間に線形関係があるかどうか、およびその強さについての分析であり、2つの変数の間に質的な区別を仮定しない。それに対し回帰分析とは、変数の間にどのような関係があるか(具体的な関数の形)についての分析であり、また説明変数によって目的変数を予測するのを目的としている。
初学者によく見られる勘違いとして、相関係数と回帰係数が取り違えて理解されることが多い。
また、回帰式を作ることは、あくまで予測モデルを立てることに過ぎず、回帰分析によって因果関係の推定が直接的にできるわけではない。
また、多数のデータを比較したときに、たまたま相関係数が強く出た組み合わせの結果をもとに、事前の仮説を訂正して論文を書き上げる行為は、HARKingと呼ばれる。探索的研究としてではなく、仮説検証型の研究としてHARKingを行った論文を公表することは、偶然の結果を、あたかも強い意味がある結果であるかのように誤認させ、第一種や第二種の過誤をしてしまう可能性が高いため、研究の手続きとして大きな問題がある。