
神经网络传递函数选取不同会有特别大差别嘛?
2个回答
展开全部
只是最后一层,但前面层是非线性,那么可能存在区别不大的情况。
线性函数f(a*input)=af(input), 一般来说,input为向量,最简化情况下,可以假设input的各个维度,a1=a2=a3。。。意味着你线性层只是简单的对输入做了scale~而神经网络能起作用的原因,在于通过足够复杂的非线性函数,来模拟任何的分布。所以,神经网络必须要用非线性函数。理论上,任意连续可导的函数(不要求处处可导)
线性函数f(a*input)=af(input), 一般来说,input为向量,最简化情况下,可以假设input的各个维度,a1=a2=a3。。。意味着你线性层只是简单的对输入做了scale~而神经网络能起作用的原因,在于通过足够复杂的非线性函数,来模拟任何的分布。所以,神经网络必须要用非线性函数。理论上,任意连续可导的函数(不要求处处可导)
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询