相関係数
ただし、1 は全ての成分が1である n 次の列ベクトルで、1 = [1 1 ... 1] である。このとき、x, y の偏差ベクトル x − x 1, y − y 1 のなす角を θ としたときの
cos  θ = ⟨ x − x ̄ 1 , y − y ̄ 1 ⟩ ‖ x − x ̄ 1 ‖ ‖ y − y ̄ 1 ‖ {\displaystyle \cos \theta ={\frac {\langle {\boldsymbol {x}}-{\overline {x}}\,{\boldsymbol {1}},\;{\boldsymbol {y}}-{\overline {y}}\,{\boldsymbol {1}}\rangle }{\|{\boldsymbol {x}}-{\overline {x}}\,{\boldsymbol {1}}\|\|{\boldsymbol {y}}-{\overline {y}}\,{\boldsymbol {1}}\|}}}
が標本相関係数 r である。ここで、⟨●, ●⟩ は内積を表す。
データ (x1, x2, ..., xn), (y1, y2, ..., yn) が2次元正規分布からの標本のとき、標本相関係数 r は母集団相関係数 ρ の最尤推定量ではあるが、不偏推定量ではなく(絶対値で見ると)小さめに見積もりがちである。また外れ値に大きく影響してしまう。