由于上式中间两项互为转置关系,而相乘的结果是一个标量,原矩阵与其转置相同。
可以对上式的
求偏导,使其偏导数为0即可得到最小残差和平方
其中第二项为一次项,矩阵导数和标量的导数相同,第三项为常数项不参与求导,直接去掉。故上式化简为:
——不能直接套用标量的链式法则到矩阵求导中,不过这里的恰巧结果是对的——
根据矩阵的求导法则:
故
—————————————————————————————————
比较笨的方法是将
拆成标量再求导。
令
,
,则:
分别对上式的各个元素求偏导,即标量的偏导
因此:
因此残差平方
和对各阶系数
的偏导写为:
化简后,我们得到高阶函数各项系数的最优取值