大似然估计是相同的。最小平方法也能从动差法得出。以下讨论大多是以线性函数形式来表示，但对于更广泛的函数族，最小平方法也是有效和实用的。此外，迭代地将局部的二次近似应用于或然性（借由费雪信息），最小平方法可用于拟合广义线性模型。最小平方法通常归功于高斯（Carl Friedrich Gauss，1795），但最小平方法是由阿德里安-马里·勒让德（Adrien-Marie Legendre）首先发表的。
简介.
历史背景.最小平方法发展于天文学和大地测量学