Question

在神经网络的训练过程中，是应当追求训练准确率，还是应当追求测试准确率

本人在学习神经网络的时候，遇到了这么一个问题，希望大家帮帮忙，不胜感激！问题如下：
在神经网络的训练过程中，我们是应当追求训练准确率的最高呢还是应当追求：在训练准确率高于测试准确率的前提下，保证测试准确率最高，即使训练准确率尽量接近测试准确率。？希望各位打下帮忙啦！谢谢，不胜感激！！！

Answer 1

我的经验是训练准确率尽量接近测试准确率或者训练误差与测试误差均低,单纯追求训练准确率的最高不一定可取,有可能出现overlearning的情况,有时训练准确率高是因为a network might improve the error rating on a number of already correctly-classified cases at the expense of misclassifying an additional case.