平均への回帰
回帰とは元来、生物データから見出された現象であり、その最初はフランシス・ゴルトンにより1877年に発表された種子の重量に関する結果である。ゴルトンは7組のスイートピーの種子(種子の重量は組により異なるが、組の中では同じにした)を栽培し比較したところ、以下のことを見出した:
子世代の種子重量は親世代と同じく正規分布に従い、また子世代種子の平均直径を親の平均直径に対してプロットすると直線に近い関係がある(現在でいう線形回帰が適用できる)。
しかし、子の平均直径は親の直径と比較すると、より全体の平均直径に近づく傾向がある(回帰)。
彼は初めこの直線の勾配を「復帰係数」と呼んだ(いわゆる先祖帰りのような生物的現象と考えた)。その後この効果は生物的なものでなくデータの扱いの結果であることを発見し、その名を「回帰係数」と変更した。この結果は「有利な形質をもつ個体が生存して子孫を残し、代を重ねるごとにその形質は顕著になる」という当時の進化に関する考えと矛盾するように見えて注目された。実際にはこの種子の大きさは遺伝による部分より偶然的変動が大きかったということである。彼はさらに研究を重ね、1888年に「相関」という言葉を使い、これを表す定数(相関係数)に r {\displaystyle r} という字を用いた。
また、このような研究をヒトにも適用し、たとえば様々な分野の天才を調べ、彼らの子はほとんど常に親より平均に近くなることを見出した。さらに定量的で客観的な方法として、父親と息子の身長を比較し、やはり特別に高身長の父親でも、特別に低身長の父親でも、息子たちの身長は父親たちの身長より平均に近くなることを見出した。