Question

神经网络激励函数的作用形象的解释是什么？





Answer 1

神经网络中的每个节点接受输入值，并将输入值传递给下一层，输入节点会将输入属性值直接传递给下一层（隐层或输出层）。在神经网络中，隐层和输出层节点的输入和输出之间具有函数关系，这个函数称为激励函数。常见的激励函数有：线性激励函数、阈值或阶跃激励函数、S形激励函数、双曲正切激励函数和高斯激励函数等。求取激励函数逆函数积分和的目的是为了配合所设计的能量函数的数值计算，但是该值得求取具有以下困难：逆函数无法用数学解析表达；要对逆函数积分并不容易；即使可以积分，也会很浪费时间，不适宜在算法迭代中直接使用。为了解决上述问题，这里将以64QAM信号的激励函数为例来阐述求取改该值的方法：利用正函数，求关于逆函数的积分；利用Cumtrapz求在区间段的积分采样值；利用多项式进行最小二乘回归，获得回归函数的回归拟合曲线。只要预先获得激励函数的逆函数积分和，就可以很容易地构造出对应的搜索表，然后在迭代中直接采用查表方法获得相应的值，或者可以根据拟合回归函数进行近似计算逆函数积分和的值。求取激励函数逆函数积分和的目的是为了配合所设计的能量函数的数值计算，但是该值得求取具有以下困难：逆函数无法用数学解析表达；要对逆函数积分并不容易；即使可以积分，也会很浪费时间，不适宜在算法迭代中直接使用。