Question

最小二乘法的基本原理是什么？

Answer 1

最小二乘法：

总离差不能用n个离差之和

来表示，通常是用离差的平方和，即

作为总离差，并使之达到最小，这样回归直线就是所有直线中Q取最小值的那一条，这种使“离差平方和最小”的方法，叫做最小二乘法：

由于绝对值使得计算不变，在实际应用中人们更喜欢用：Q=（y1-bx1-a）²+（y2-bx-a²）+。。。+（yn-bxn-a）²

这样，问题就归结于：当a，b取什么值时Q最小，即到点直线y=bx+a的“整体距离”最小。

用最小二乘法求回归直线方程中的a,b有下面的公式