Question

bp神经网络为什么要采用非线性函数来进行预测？

Answer 1

提问：bp神经网络为什么要采用非线性函数来进行预测？
回答：简单的讲，主要是复杂的bp神经网络的行为动态及神经元之间的相互作用是无法用简单的线性函数来描述的！
一般来讲，用数学函数模拟一个系统输入与输出的关系（系统函数）时，设其函数为f(x),则它可以表征为一个输入变量x的多项式，即
f(x)=∑an*x^n ∣n=0 ->∞.; 当n≥2时，f(x)就成为非线性函数了。
an是每个x高次项的系数。可以用具体的实际实验数据来确定。

Answer 2

假设神经网络的函数如下：
y=f(g(h(x)))
如果f、g、h都是线性函数函数，那么y=f(g(h(x)))也是线性函数。所以，如果激活函数都是线性函数，那么神经网络也是线性函数，也就失去了高度高拟合度。