Question

什么是最小二乘法回归分析?

Answer 1

最小二乘法（又称最小平方法）是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。

对于一元线性回归模型, 假设从总体中获取了n组观察值（X1，Y1），（X2，Y2）， …，（Xn，Yn）。对于平面中的这n个点，可以使用无数条曲线来拟合。要求样本回归函数尽可能好地拟合这组值。综合起来看，这条直线处于样本数据的中心位置最合理。 选择最佳拟合曲线的标准可以确定为：使总的拟合误差（即总残差）达到最小。有以下三个标准可以选择：

（1）用“残差和最小”确定直线位置是一个途径。但很快发现计算“残差和”存在相互抵消的问题。

（2）用“残差绝对值和最小”确定直线位置也是一个途径。但绝对值的计算比较麻烦。

（3）最小二乘法的原则是以“残差平方和最小”确定直线位置。用最小二乘法除了计算比较方便外，得到的估计量还具有优良特性。这种方法对异常值非常敏感。

Answer 2

所谓回归分析实际上就是根据统计数据建立一个方程，
用这个方程来描述不同变量之间的关系，
而这个关系又无法做到想像函数关系那样准确，
因为即使你重复全部控制条件，结果也还有区别，
这时通过让回归方程计算值和试验点结果间差值的平方和最小来建立
回归方程的办法就是最小二乘法，二乘的意思就是平方。
最小二乘就是指回归方程计算值和实验值差的平方和最小。