半参数回归

统计学中，半参数回归包括结合了参数模型和非参数模型的回归模型。它们通常用于完全非参数模型可能表现不佳的情况，或者研究人员希望使用参数模型，但与回归子集有关的函数形式或误差密度不为人知的情况。半参数回归模型是半参数建模的一种特殊类型。半参数模型包含参数成分，依赖于参数假设，可能会出现规范误差与不一致的情况。

方法 
目前已有许多不同的半参数回归方法。最流行的方法是部分线性模型、指数模型和变系数模型。

部分线性模型 
部分线性模型如下

 

其中是因变量，是解释变量的向量，是未知参数的向量，。部分线性模型的参数部分由参数向量给出，而非参数部分是未知函数。假设数据与独立同分布，模型允许未知形式的条件异方差误差过程。这类模型由Robinson (1988)提出，并由Racine & Li (2007)扩展到处理分类协变量。

这种方法先获得的一致估计量，然后用适当的非参数回归方法，从对的非参数回归中推出的估计量。

指数模型 
单一指数模型的形式是

 

其中、、的定义与上文相同，误差项满足。单一指数模型得名于模型的参数部分，是标量单指数。非参数部分是未知函数。

市村法 
市村(1993)提出的单一指数模型法如下。考虑连续情形，给定函数的已知形式，可用非线性最小二乘法估计，使函数

 

最小化。的函数形式未知，需要估计。对给定值，函数估计值可用核密度估计得到，为

 

市村(1993)建议用下式估计：

 

为的留一非参数核估计量.

Klein与Spady估计量 
Klein & Spady (1993)提出，若因变量是二元的，并假设、独立，则可用最大似然估计法估计。对数似然函数为

 

其中是留一估计量。

平滑系数/变系数模型 
Hastie & Tibshirani (1993)提出了一种平滑系数模型

 

其中是向量，是的未定平滑函数向量。

可表为

另见 
 非参数回归

注释

参考文献 
 
 
 
 
 
 

非参数统计