最小二乘法公式的多种推导方法最小二乘法是统计学中用来求两个线性相关变量的回归直线方程的一种方法,因其推 导方法比较复杂,高中数学《必修 3》简单介绍了最小二乘法的思想,直接给出了回归直线 斜率a 和截距b 的计算公式,省略了公式的推导过程。中学数学教师没有引起足够的重视。 在文[1]中作者的困惑之一就是“公式推导,教不教?”,为了加强学生学习能力的培养和数 学思想方法的渗透,让师生更好的了解数学发展的价值,公式推导,不仅要教,而且要好好 的教。下面给出几种公式推导的方法,供教学参考。 给出一组具有线性相关关系的数据(x1,y1),(x2,y2),„,(xn,yn),且实数xi 全相等,求回归直线y=ax+b的斜率a 和截距b,使得所有点相对于该直线的偏差平方和达到 最小。 设实数xi 不全相等,所求直线方程为 y=ax+b 要确定a,b,使函数f(a,b)=ni=1(axi+b-yi)2 最小。 方法1[2]由于 f(a,b)=ni=1[yi-axi-(-a)+(-a)-b]2=ni=1{[yi-axi-(-a)]2+2[yi-axi- (-a)][(-a)-b]+[(-a)-b]2}=ni=1[yi-axi-(-a)]2+2ni=1[yi-axi-(-a)][(-a) 注意到ni=1[yi-axi-(-a)][(-a)-b]=(-a-b)ni=1[yi-axi-(-a)]=(-a-b) [ni=1yi-ani=1xi-n(-a)]=(-a-b)[n-na-n(-a)]=0, 因此 f(a,b)=ni=1[yi-axi-(-a)]2+n[(-a)-b]2=a2ni=1(xi-)2-2ani=1(xi-) (yi-)+ni=1(yi-)2+n(-a-b)2=n(-a-b)2+ni=1(xi-)2[a-ni=1(xi-)(yi-) ni=1(xi-)2]2-[ni=1(xi-)(yi-)]2ni=1(xi-)2+ni=1(yi-)2 在上式中,后 无关,而前两项为非负数,因此要使f取得最小值,当且仅当前两项的值均为0, a=ni=1(xi-)(yi-)ni=1(xi-)2,b=-a(其中x=1nni=1xi,y=1nni=1yi,(x,y)称为样本点的中心。) 这正是我们所要推导的公式。 方法2 由于f(a,b)=ni=1(axi+b-yi)2 是二次多项式,所以 f(a+h,b+k)-f(a,b)=ni=1[(a+h)xi+(b+k)-yi]2-ni=1(axi+b-yi) 2=ni=1{[(axi+b-yi)+(hxi+k)]2-(axi+b-yi)2}=ni=1[2(axi+b-yi)(hxi+k)+ (hxi+k)2]=2(ani=1x2i+bni=1xi-ni=1xiyi)h+2(ani=1xi+nb-ni=1yi)k+ni=1 (hxi+k)2。(1) (ni=1x2i)h2+2(ni=1xi)h+n>0,-