|  |
| --- |
| 统计学系列条目 |
| 迴歸分析 |
|  |
| 
模型 |
| * 線性回歸
* 简单线性回归（英语：）
* （OLS）
* 多项式回归
* 一般线性模型
 |
| * 廣義線性模式
* 离散选择（英语：）
* 对数几率回归
* 多项罗吉特（英语：）
* 混合罗吉特
* 波比（英语：）
* 多项式波比（英语：）
* 排序性模型（英语：）
* 有序波比（英语：）
* 泊松回归
 |
| * 等级线性模型
* 固定效应（英语：）
* 随机效应（英语：）
* 混合模型（英语：）
 |
| * 非线性回归
* 非
* 半
* 稳健
* 分位数迴歸
* 保序回归
* 主成分
* 最小角
* 局部（英语：）
* 分段
 |
| * 含误差变量（英语：）
 |
| 
估计 |
| * 
* 
* 线性
* 偏最小二乘回归
* （英语：）
* 广义
* 加权
* 非线性
* 非负（英语：）
* 重复再加权（英语：）
* 脊迴歸（嶺迴歸）
* LASSO
 |
| * 最小绝对值导数法（英语：）
* 贝叶斯（英语：）
* 贝叶斯多元（英语：）
 |
| 
背景 |
| * 回归模型检验（英语：）
* 平均响应和预测响应（英语：）
* 误差和残差
* 拟合优度
* 学生化残差（英语：）
* 
 |
| * 概率与统计主题
 |
| * 
* 论
* 编
 |

统计学中，**半参数回归**包括结合了参数模型和非参数模型的回归模型。它们通常用于完全非参数模型可能表现不佳的情况，或者研究人员希望使用参数模型，但与回归子集有关的函数形式或误差密度不为人知的情况。半参数回归模型是半参数建模的一种特殊类型。半参数模型包含参数成分，依赖于参数假设，可能会出现规范误差与不一致的情况。

方法
--

目前已有许多不同的半参数回归方法。最流行的方法是部分线性模型、指数模型和变系数模型。

### 部分线性模型

部分线性模型如下

{\displaystyle Y\_{i}=X'\_{i}\beta +g\left(Z\_{i}\right)+u\_{i},\,\quad i=1,\ldots ,n,\,}
其中{\displaystyle Y\_{i}}是因变量，{\displaystyle X\_{i}}是解释变量的{\displaystyle p\times 1}向量，\beta 是未知参数的{\displaystyle p\times 1}向量，{\displaystyle Z\_{i}\in \operatorname {R} ^{q}}。部分线性模型的参数部分由参数向量\beta 给出，而非参数部分是未知函数{\displaystyle g\left(Z\_{i}\right)}。假设数据与{\displaystyle E\left(u\_{i}|X\_{i},Z\_{i}\right)=0}独立同分布，模型允许未知形式的条件异方差误差过程{\displaystyle E\left(u\_{i}^{2}|x,z\right)=\sigma ^{2}\left(x,z\right)}。这类模型由Robinson (1988)提出，并由Racine & Li (2007)扩展到处理分类协变量。

这种方法先获得\beta 的{\displaystyle {\sqrt {n}}}一致估计量，然后用适当的非参数回归方法，从{\displaystyle Y\_{i}-X'\_{i}{\hat {\beta }}}对{\displaystyle z}的非参数回归中推出{\displaystyle g\left(Z\_{i}\right)}的估计量。

### 指数模型

单一指数模型的形式是

{\displaystyle Y=g\left(X'\beta \_{0}\right)+u,\,}
其中Y、X、{\displaystyle \beta \_{0}}的定义与上文相同，误差项 u 满足{\displaystyle E\left(u|X\right)=0}。单一指数模型得名于模型的参数部分{\displaystyle x'\beta }，是标量单指数。非参数部分是未知函数{\displaystyle g\left(\cdot \right)}。

#### 市村法

市村(1993)提出的单一指数模型法如下。考虑 y 连续情形，给定函数{\displaystyle g\left(\cdot \right)}的已知形式，{\displaystyle \beta \_{0}}可用非线性最小二乘法估计，使函数

{\displaystyle \sum \_{i=1}\left(Y\_{i}-g\left(X'\_{i}\beta \right)\right)^{2}.}
最小化。{\displaystyle g\left(\cdot \right)}的函数形式未知，需要估计。对给定\beta 值，函数估计值可用核密度估计得到，为

{\displaystyle G\left(X'\_{i}\beta \right)=E\left(Y\_{i}|X'\_{i}\beta \right)=E\left[g\left(X'\_{i}\beta \_{o}\right)|X'\_{i}\beta \right]}
市村(1993)建议用下式估计{\displaystyle g\left(X'\_{i}\beta \right)}：

{\displaystyle {\hat {G}}\_{-i}\left(X'\_{i}\beta \right),\,}
为{\displaystyle G\left(X'\_{i}\beta \right)}的留一非参数核估计量.

#### Klein与Spady估计量

Klein & Spady (1993)提出，若因变量 y 是二元的，并假设{\displaystyle X\_{i}}、{\displaystyle u\_{i}}独立，则可用最大似然估计法估计\beta 。对数似然函数为

{\displaystyle L\left(\beta \right)=\sum \_{i}\left(1-Y\_{i}\right)\ln \left(1-{\hat {g}}\_{-i}\left(X'\_{i}\beta \right)\right)+\sum \_{i}Y\_{i}\ln \left({\hat {g}}\_{-i}\left(X'\_{i}\beta \right)\right),}
其中{\displaystyle {\hat {g}}\_{-i}\left(X'\_{i}\beta \right)}是留一估计量。

### 平滑系数/变系数模型

Hastie & Tibshirani (1993)提出了一种平滑系数模型

{\displaystyle Y\_{i}=\alpha \left(Z\_{i}\right)+X'\_{i}\beta \left(Z\_{i}\right)+u\_{i}=\left(1+X'\_{i}\right)\left({\begin{array}{c}\alpha \left(Z\_{i}\right)\\\beta \left(Z\_{i}\right)\end{array}}\right)+u\_{i}=W'\_{i}\gamma \left(Z\_{i}\right)+u\_{i},}
其中{\displaystyle X\_{i}}是{\displaystyle k\times 1}向量，{\displaystyle \beta \left(z\right)}是{\displaystyle z}的未定平滑函数向量。

{\displaystyle \gamma \left(\cdot \right)}可表为

{\displaystyle \gamma \left(Z\_{i}\right)=\left(E\left[W\_{i}W'\_{i}|Z\_{i}\right]\right)^{-1}E\left[W\_{i}Y\_{i}|Z\_{i}\right].}

另见
--

* 非参数回归

参考文献
----

* Robinson, P.M.. Econometrica (The Econometric Society). 1988, **56** (4): 931–954. JSTOR 1912705. doi:10.2307/1912705.
* Li, Qi; Racine, Jeffrey S.. Princeton University Press. 2007. ISBN 978-0-691-12161-1.
* Racine, J.S.; Qui, L.. Unpublished Manuscript, Mcmaster University. 2007.
* Ichimura, H.. Journal of Econometrics. 1993, **58** (1–2): 71–120. doi:10.1016/0304-4076(93)90114-K.
* Klein, R. W.; R. H. Spady.. Econometrica (The Econometric Society). 1993, **61** (2): 387–421. CiteSeerX 10.1.1.318.4925 可免费查阅. JSTOR 2951556. doi:10.2307/2951556.
* Hastie, T.; R. Tibshirani.. Journal of the Royal Statistical Society, Series B. 1993, **55**: 757–796.

|  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |  |
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- |
| 

| * 
* 论
* 编
统计学 |
| --- |
|  |
| 描述统计学 | 

|  |  |  |  |  |  |  |  |  |  |
| --- | --- | --- | --- | --- | --- | --- | --- | --- | --- |
|  | 

|  |  |
| --- | --- |
| 集中趋势 | 
* 平均数
	+ 平方
	+ 算術
	+ 幾何
	+ 調和
	+ 算术-几何
	+ 几何-调和
	+ 希羅／平均数不等式
* 中位數
* 眾數

 |
|  |
| 离散程度 | 
* 全距
* 变异系数
* 百分位數
* 四分位距
* 四分位数
* 標準差
* 
* 平均差
* 標準分數
* 
* 

 |
|  |
| 分布形态（英语：） | 
* 中心极限定理
* + 偏態
	+ 峰態

 |

 |
|  |
|  | 
* 次數（英语：）
* · 列聯表（英语：）

 |

 |  |
|  |
| 推論統計學和假說檢定 | 

|  |  |
| --- | --- |
| 推論統計學 | 
* 
* 區間估計（英语：）
* 显著性差异
* 元分析
* 

 |
|  |
| 实验设计 | 
* 
* 抽樣
* 重抽样
	+ 刀切法
	+ 自助法
	+ 交叉驗證
* 重复（英语：）
* 阻碍
* 靈敏度和特異度
* 區集（英语：）
* 缺失数据

 |
|  |
| 样本量（英语：） | 
* 標準誤
* 
* 
* 
* 
* 效应值

 |
|  |
| 常规估计 | 
* 
* 區間估計（英语：）
* 
* 最小距離估計（英语：）
* 估计
* 最大间距

 |
|  |
|  | 
* Z檢驗
* 
* F檢定
* 卡方检验
* Wald檢定（英语：）
* 曼-惠特尼檢定（英语：）
* 秩和检验

 |
|  |
| 生存分析 | 
* 生存函数
* 乘積極限估計量
* 對數秩和檢定
* 失效率
* 危險比例模式

 |

 |
|  |
| 相關及迴歸分析 | 

|  |  |
| --- | --- |
| 相关性 | 
* 干擾因素
* 積相關係數
* 等級相關（英语：） (斯皮尔曼等级相关系数
* 肯德等級相關係數（英语：）)
* 自由度
* 误差和残差

 |
|  |
| 線性回歸 | 
* 線性模型（英语：）
* 一般线性模型
* 廣義線性模型
* 简单线性回归
* 普通最小二乘法
* 贝叶斯回归（英语：）
* 分析
* 分析（英语：）

 |
|  |
| 非线性回归 | 
* 非参数回归模型（英语：）
* 半参数回归模型（英语：）
* 邏輯斯諦迴歸

 |

 |
|  |
| 统计图形 | 
* 
* 
* 双标图
* 箱形圖
* 管制圖
* 森林圖（英语：）
* 
* 分位圖
* 趋势图
* 
* 莖葉圖
* 雷达图（英语：）
* 示意地圖

 |
|  |
| 其他 | 
* 统计类型（維基數據所列：）
* 回應過程效度
* 統計誤用

 |
|  |
| 
* 分类**分类**
* 主题**主题**
* 共享资源页面**共享资源**
* 专题 **专题**

 |

 |