一元线性回归模型到一元回归方程的推导?
1个回答
关注
展开全部
您好,很高兴为您解答。推导过程如下:
下面是一元线性回归的详细求解过程。
假设一元线性回归的最佳直线方程为:
(1)
对于一个样本点 ,有预测值为:
(2)
这个样本点的真值为 ,要想获得最佳拟合方程,就需要使真值 和 预测值 之间的差值最小,为了后面方便求极值,使用两个值差的平方:
(3)
当把所有样本考虑进来时,上式则为:
(4)
得到上式后,现在的目标就是使上式尽可能的小,将式(2)代入上式,可得:
(5)
此时的目标是找到a和b,使得式(5)尽可能的小,这就转化成了最优化问题:
(6)
要求上式的最小值,其实就是求该式的极值,需要对上式进行求导,导数为0的位置就是极值的位置,分别对a和b求导:
(7)
从式(6)可以看出,括号里,a的系数是,b的系数是-1,明显对b求导更简单,这里先对b求导:
(8)
对式(8)化简,去掉其中的-2,得:
(9)
将式(9)的括号去掉,得:
(10)
式(10)的第三项其实就是mb,可写为:
(11)
将式(11)的mb拿到一侧,得:
(12)
式(12)的等式两边同时除以m,得:
(13)
式(13),第一项中所有的和除以m其实就是的平均值,第二项中所有的和除以m就是的平均值,所以,式(13)可写为:
(14)
式(14)就是b的结果,然后基于式(6)再对a进行求导:
(15)
式(15)可化简
咨询记录 · 回答于2021-11-05
一元线性回归模型到一元回归方程的推导?
您好,很高兴为您解答。推导过程如下:
下面是一元线性回归的详细求解过程。
假设一元线性回归的最佳直线方程为:
(1)
对于一个样本点 ,有预测值为:
(2)
这个样本点的真值为 ,要想获得最佳拟合方程,就需要使真值 和 预测值 之间的差值最小,为了后面方便求极值,使用两个值差的平方:
(3)
当把所有样本考虑进来时,上式则为:
(4)
得到上式后,现在的目标就是使上式尽可能的小,将式(2)代入上式,可得:
(5)
此时的目标是找到a和b,使得式(5)尽可能的小,这就转化成了最优化问题:
(6)
要求上式的最小值,其实就是求该式的极值,需要对上式进行求导,导数为0的位置就是极值的位置,分别对a和b求导:
(7)
从式(6)可以看出,括号里,a的系数是,b的系数是-1,明显对b求导更简单,这里先对b求导:
(8)
对式(8)化简,去掉其中的-2,得:
(9)
将式(9)的括号去掉,得:
(10)
式(10)的第三项其实就是mb,可写为:
(11)
将式(11)的mb拿到一侧,得:
(12)
式(12)的等式两边同时除以m,得:
(13)
式(13),第一项中所有的和除以m其实就是的平均值,第二项中所有的和除以m就是的平均值,所以,式(13)可写为:
(14)
式(14)就是b的结果,然后基于式(6)再对a进行求导:
(15)
式(15)可化简
您好,这个问题我不会,非常抱歉,请您去找别人吧,谢谢