Question

普通最小二乘法的原理及推导

Answer 1

普通最小二乘法的原理及推导如下：

最小二乘法是统计学中十分重要的一种方法，而普通最小二乘法 (ordinary least squares,OLS)是其中最基础也是最常用的一种,其主要思想是每个点到拟合模型的距离最短 (残差最小)时的模型为最优。

但是如果使用距离直接计算则会出现正负相抵的情况，而使用绝对值进行计算则会使计算变得十分繁琐，故采用距离的平方和进行计算，故最小二乘法实际上可翻译为最小平方和法。

最小二乘法是统计学中十分重要的一种方法，而普通最小二乘法(ordinary least squares,OLS)是其中最基础也是最常用的一种,其主要思想是每个点到拟合模型的距离最短(残差最小)时的模型为最优。

但是如果使用距离直接计算则会出现正负相抵的情况，而使用绝对值进行计算则会使计算变得十分繁琐，故采用距离的平方和进行计算，故最小二乘法实际上可翻译为最小平方和法。

后人对其进行了考证，最终认为的确是Gauss先发现了最小二乘法，但是在当时并没有引起太大的反响，人们并没有认识到这一方法的重要性，直到Legendre的研究结果问世以及Gauss通过最小二乘法帮助天文学家成功预测了谷神星的轨道。

人们才真正认识到最小二乘法的重要意义。虽然Gauss最先发现了最小二乘法，但Legendre最先较为系统的总结了这一方法并引起了数学界的注意，两位数学家同样值得人们尊敬。