目录:

【把握大方向】变量间的关系分析函数关系相关关系平行关系——相关分析依存关系——回归分析【概念定义】简单相关分析计算两个连续变量之间的线性相关系数协方差定义、柯西-施瓦尔兹不等式——为什么
的值域是[-1, 1]?计算 Pearson 相关系数(R语言/Python)相关系数的假设检验(R语言)
的检验显著性检验的解读——
代表什么?容易被忽略的假象——显著性与样本量
有关系?【深度探讨】纯探讨向——
是什么情况【实战经验】我工作中的相关性分析案例经验:常用于分析指标间的相关性
ps. 均附上 R语言 / Python 的双版本代码和示例

一、变量间的关系分析

变量之间的关系可分为两类:
存在完全确定的关系——称为函数关系不存在完全确定的关系——虽然变量间有着十分密切的关系,但是不能由一个或多各变量值精确地求出另一个变量的值,称为相关关系,存在相关关系的变量称为相关变量
相关变量的关系也可分为两种:
两个及以上变量间相互影响——平行关系一个变量变化受另一个变量的影响——依存关系
它们对应的分析方法:
相关分析是研究呈平行关系的相关变量之间的关系回归分析是研究呈依存关系的相关变量之间的关系
回归分析和相关分析都是研究变量之间关系的统计学课题,两种分析方法相互结合和渗透
《多元统计分析及R语言》第四版王斌会 P46

二、简单相关分析

相关分析:就是通过对大量数字资料的观察,消除偶然因素的影响,探求现象之间相关关系的密切程度和表现形式
主要研究内容:现象之间是否相关、相关的方向、密切程度等,不区分自变量与因变量,也不关心各变量的构成形式
主要分析方法:绘制相关图、计算相关系数、检验相关系数
这里挑最常用的Pearson相关系数来讲解

1、 计算两变量之间的线性相关系数

所有相关分析中最简单的就是两个变量间的线性相关,一变量数值发生变动,另一变量数值会随之发生大致均等的变动,各点的分布在平面图上大概表现为一直线。
二元总体X与Y散点图
线性相关分析,就是用线性相关系数来衡量两变量的相关关系和密切程度
给定二元总体
总体相关系数用
来表示:
为
的总体方差,
是
的总体方差,
是
与
的协方差。
【补充知识】什么是协方差?
设
是二维随机变量,若
存在,
则称
,叫
与
的协方差,也叫
与
的相关(中心)矩
即
的偏差
与
的偏差
乘积的期望。
解读:
当
的偏差
跟
的偏差
,有同时增加或同时减少的倾向,又由于
和
都是常数,所以就能够等价于
与
有同时增加或者减少的倾向,称
与
正相关当
,
的偏差
跟
的偏差
,有
增加
减少的倾向,或
增加
减少的倾向,称
与
负相关当
,称
与
不相关,这时可能是“
与
取值毫无关联”,也可能是“有某种特殊的非线性关系”
根据柯西-施瓦尔兹不等式(Cauchy–Schwarz inequality):
变形得
在区间
是没有单位的,因为分子协方差的量纲除以了分母的与分子相同的量纲
两变量线性相关性越密切,
接近于
两变量线性相关性越低,
接近于
的情况跟上面
情况一样
协方差与相关系数的关系,就像绝对数与相对数的关系。
Pearson相关系数(样本线性相关系数)
但是,学过统计的都知道,我们一般用样本线性相关系数来估计总体线性相关系数
设
是二元总体,简单随机抽样
,
,......,
样本均值
和
:
,
样本方差
和
:
,
样本协方差
:
样本相关系数:
为
的离差平方和,
为
的离差平方和,
为
与
离差乘积之和(可正可负)
实际计算可按下面简化:
例子:研究身高与体重的关系(R语言)
> xyplot(x,y) > lxylxy(x,x) [1] 556.9167 > lxy(y,y) [1] 813 > lxy(x,y) [1] 645.5 > rr [1] 0.9593031 # 也能直接用cor() > cor(x,y) [1] 0.9593031
这里的
至于
是否显著,就要看下面的显著性检验了。
Python版本的代码如下:
>>>importnumpyasnp>>>importmatplotlib.pyplotasplt>>>x=np.array([171,175,159,155,152,158,154,164,168,166,159,164])>>>y=np.array([57,64,41,38,35,44,41,51,57,49,47,46])>>>np.corrcoef(x,y)array([[1.,0.95930314],[0.95930314,1.]])>>>plt.scatter(x,y)>>>plt.show()

2、相关系数的假设检验

引入假设检验的原因:
与其他统计指标一样,也会有抽样误差。