線性回歸

title: 简介.
title: 理论模型.
content: 给一个随机样本formula_5,一个线性回归模型假设回归子formula_6和回归量formula_7之间的关系是除了X的影响以外,还有其他的变量存在。我们加入一个误差项formula_8(也是一个随机变量)来捕获除了formula_9之外任何对formula_6的影响。所以一个多变量线性回归模型表示为以下的形式: 其他的模型可能被认定成非线性模型。一个线性回归模型不需要是自变量的线性函数。线性在这里表示formula_6的条件均值在参数formula_13里是线性的。例如:模型formula_14在formula_15和formula_16里是线性的,但在formula_17里是非线性的,它是formula_18的非线性函数。
title: 数据和估计.
content: 区分随机变量和这些变量的观测值是很重要的。通常来说,观测值或数据(以小写字母表记)包括了"n"个值 formula_19.  我们有formula_20个参数formula_21需要决定,为了估计这些参数,使用矩阵表记是很有用的。  其中"Y"是一个包括了观测值formula_23的列向量,formula_24包括了未观测的随机成分formula_25以及回归量的观测值矩阵formula_26:  "X"通常包括一个常数项。  如果"X"列之间存在线性相关,那么参数向量formula_13就不能以最小二乘法估计除非formula_13被限制,比如要求它的一些元素之和为0。  这些假设意味着残差项不依赖自变量的值,所以formula_8和自变量X(预测变量)之间是相互独立的。
title: 古典假设.
content: 在这些假设下,建立一个显式线性回归作为条件预期模型的简单线性回归,可以表示为:
title: 最小二乘法分析.
title: 最小二乘法估计.
content: 回归分析的最初目的是估计模型的参数以便达到对数据的最佳拟合。在决定一个最佳拟合的不同标准之中,最小二乘法是非常优越的。这种估计可以表示为:
title: 回归推论.
content: 对于每一个formula_33,我们用formula_34代表误差项formula_24的方差。一个无偏误的估计是: 其中formula_37是误差平方和(残差平方和)。估计值和实际值之间的关系是: 其中formula_39服从卡方分布,自由度是formula_40  对普通方程的解可以冩为: 这表示估计项是因变量的线性组合。进一步地说,如果所观察的误差服从正态分布。参数的估计值将服从联合正态分布。在当前的假设之下,估计的参数向量是精确分布的。 其中formula_43表示多变量正态分布。  参数估计值的标准差是:  参数formula_45的formula_46置信区间可以用以下式子来计算:  误差项可以表示为:
title: 单变量线性回归.
content: 单变量线性回归,又称简单线性回归(simple linear regression, SLR),是最简单但用途很广的回归模型。其回归式为:  为了从一组样本formula_50(其中formula_51)之中估计最合适(误差最小)的formula_52和formula_53,通常采用最小二乘法,其计算目标为最小化残差平方和:  使用微分法求极值:将上式分别对formula_55和formula_13做一阶偏微分,并令其等于0:  此二元一次线性方程组可用克莱姆法则求解,得解formula_58:  协方差矩阵是:  平均响应置信区间为:  预报响应置信区间为:
title: 方差分析.
content: 在方差分析(ANOVA)中,总平方和分解为两个或更多部分。  总平方和SST (sum of squares for total) 是:  同等地:  回归平方和SSReg (sum of squares for regression。也可写做模型平方和,SSM,sum of squares for model) 是:  残差平方和SSE (sum of squares for error) 是:  总平方和SST又可写做SSReg和SSE的和:  回归系数R是:
title: 其他方法.
title: 广义最小二乘法.
content: 广义最小二乘法可以用在当观测误差具有异方差或者自相关的情况下。
title: 总体最小二乘法.
content: 总体最小二乘法用于当自变量有误时。
title: 广义线性模式.
content: 广义线性模式应用在当误差分布函数不是正态分布时。比如指数分布,伽玛分布,逆高斯分布,泊松分布,二项式分布等。
title: 稳健回归.
content: 将平均绝对误差最小化,不同于在线性回归中是将均方误差最小化。
title: 线性回归的应用.
title: 趋势线.
content: 一条趋势线代表着时间序列数据的长期走势。它告诉我们一组特定数据(如GDP、石油价格和股票价格)是否在一段时期内增长或下降。虽然我们可以用肉眼观察数据点在坐标系的位置大体画出趋势线,更恰当的方法是利用线性回归计算出趋势线的位置和斜率。
title: 流行病学.
content: 有关吸烟对死亡率和发病率影响的早期证据来自采用了回归分析的观察性研究。为了在分析观测数据时减少伪相关,除最感兴趣的变量之外,通常研究人员还会在他们的回归模型里包括一些额外变量。例如,假设我们有一个回归模型,在这个回归模型中吸烟行为是我们最感兴趣的独立变量,其相关变量是经数年观察得到的吸烟者寿命。研究人员可能将社会经济地位当成一个额外的独立变量,已确保任何经观察所得的吸烟对寿命的影响不是由于教育或收入差异引起的。然而,我们不可能把所有可能混淆结果的变量都加入到实证分析中。例如,某种不存在的基因可能会增加人死亡的几率,还会让人的吸烟量增加。因此,比起采用观察数据的回归分析得出的结论,随机对照试验常能产生更令人信服的因果关系证据。当可控实验不可行时,回归分析的衍生,如工具变量回归,可尝试用来估计观测数据的因果关系。
title: 金融.
content: 资本资产定价模型利用线性回归以及Beta系数的概念分析和计算投资的系统风险。这是从联系投资回报和所有风险性资产回报的模型Beta系数直接得出的。
title: 经济学.
content: 线性回归是经济学的主要实证工具。例如,它是用来预测消费支出,固定投资支出,存货投资,一国出口产品的购买,进口支出,要求持有流动性资产,劳动力需求、劳动力供给。

Summary: 在统计学中,线性回归(英语:linear regression)是利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。这种函数是一个或多个称为回归系数的模型参数的线性组合。只有一个自变量的情况称为简单回归,大于一个自变量情况的叫做多元回归(英语:multivariable linear regression)。

Linear regression: In statistics, linear regression is a linear approach to modeling the relationship between a scalar response (or dependent variable) and one or more explanatory variables (or independent variables). The case of one explanatory variable is called simple linear regression. For more than one explanatory variable, the process is called multiple linear regression. This term is distinct from multivariate linear regression, where multiple correlated dependent variables are predicted, rather than a single scalar variable.