BP神经网络中初始权值随机生成与给定确定数对最后连接权值有什么不同的影响?最后获得的连接权值会不会改变
2个回答
展开全部
BP网络多次训练得到的结果是不同的,原因就是权值的伪随机生成.权值给定值和伪随机数有可能产生不同影响,最终得到的权值可能会改变.
原因是这样的,BP神经网络权值的迭代是局部寻优,往往找到的是极小值.给一个初值以后,如果恰好收敛的极小值是最小值,效果就好一些,反之,效果就差一些.当然,权值向量的分量并非独立,他们的关系非常非常复杂,我的那种说法是一个简单的比喻.
BP网络的很多优化算法就是专门针对权值的初值整定的.
原因是这样的,BP神经网络权值的迭代是局部寻优,往往找到的是极小值.给一个初值以后,如果恰好收敛的极小值是最小值,效果就好一些,反之,效果就差一些.当然,权值向量的分量并非独立,他们的关系非常非常复杂,我的那种说法是一个简单的比喻.
BP网络的很多优化算法就是专门针对权值的初值整定的.
追问
那我可以把初始权值确定为具体的值么?如果可以,对最后结果有什么影响?
追答
当然可以设为具体的值.你可以理解为mse(对于回归)或者分类正确率(对于分类)是关于权值初值向量的分段函数.假如有6个权值,那么在7维空间中,以权值初值和mse(分类正确率)为坐标轴,mse(分类正确率)的值对应于权值初值围成的不同区域内取不同的值.
一般情况下实用的bp网络都是根据案例求出来或者迭代出来权值初值,然后把它设为固定.
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询