Question

bp神经网络提高泛化能力？有几种方法？

Answer 1

常规的几种增强泛化能力的方法，罗列如下：1、较多的输入样本可以提高泛化能力；
但不是太多，过多的样本导致过度拟合，泛化能力不佳；样本包括至少一次的转折点数据。
2、隐含层神经元数量的选择，不影响性能的前提下，尽量选择小一点的神经元数量。隐含层节点太多，造成泛化能力下降，造火箭也只要几十个到几百个神经元，拟合几百几千个数据何必要那么多神经元？
3、误差小，则泛化能力好；误差太小，则会过度拟合，泛化能力反而不佳。
4、学习率的选择，特别是权值学习率，对网络性能有很大影响，太小则收敛速度很慢，且容易陷入局部极小化；太大则，收敛速度快，但易出现摆动，误差难以缩小；一般权值学习率比要求误差稍微稍大一点点；另外可以使用变动的学习率，在误差大的时候增大学习率，等误差小了再减小学习率，这样可以收敛更快，学习效果更好，不易陷入局部极小化。
5、训练时可以采用随时终止法，即是误差达到要求即终止训练，以免过度拟合；可以调整局部权值，使局部未收敛的加快收敛。