平均への回帰
X {\displaystyle X} と Y {\displaystyle Y} をいずれも標準正規分布(平均は 0 {\displaystyle 0} 、分散は 1 {\displaystyle 1} )に従うランダム変数とし、これらの相関係数を r {\displaystyle r} とする。 | r | ≤ 1 {\displaystyle \left|r\right|\leq 1} である。正規分布の性質から、 X {\displaystyle X} の値が決まっている場合の Y {\displaystyle Y} の期待値は X {\displaystyle X} に比例する、すなわち E [ Y | X ] = r X {\displaystyle E[Y|X]=rX} である。ここで | r | < 1 {\displaystyle \left|r\right|<1} であるから、 Y {\displaystyle Y} の期待値は X {\displaystyle X} の観察値よりも 0 {\displaystyle 0} に近い。一般の確率分布についても同様の結果が得られる。
これは、2変数の相関が小さくなる( | r | {\displaystyle \left|r\right|} が小さくなる)ほど、平均への回帰は顕著になる、ということを示している。つまり現在、相関を分析する方法として回帰分析、線形回帰などという言葉が用いられるが、元来の意味での「回帰」は、むしろ「相関が低い」ことを表している。