卷积神经网络的三个思想根源包括:局部性、____、 ____。
卷积神经网络的三个思想根源,分别是局部感受野、权值共享和池化。
1、局部感受野:这个思想是基于生物学视觉系统的工作原理,即视网膜上的每个神经元只能感受到有限的区域,这个感受区域被称为局部感受野。在卷积神经网络中,同样也采用了这个思想,每个卷积核只对输入数据的一个特定区域进行卷积操作,这样可以提取局部的特征。
2、权值共享:权值共享是指卷积神经网络中,每个卷积核在输入数据的不同位置都使用相同的权值,这样可以减少网络的参数量,同时也可以避免过拟合现象。这个思想的启发来自于人类视觉系统中视觉神经元的工作方式,即每个神经元对不同的视觉输入都使用相同的权重。
3、池或滚化:池化是卷积神经网络中的一种降维技术,它可以在不影响特征图中主要信息的情况下,将特征图的尺寸和参数量减少。常见的池化方式有最大池化和平均池化,它们分别取输入区域中的最大值和平均值作为输出。这个思想的起源也是来自于生物学视觉系统,即人类视网膜中的视觉神经元会对局部的视觉输入做最大化。
卷积神经网络的特点
1、局部感知性:CNN中的每个神经元只对输入图像的局部区域进行处理,这种局部感知性使得CNN能够自动捕捉图像的局部特征。这个特性也使得CNN比起衫缺余传统的神经网络更加适合处理图像等数据类扮哗型。
2、参数共享:CNN中的多个神经元共享一组权重参数,这种参数共享的机制使得CNN的模型参数大大减少,从而在避免了过拟合的同时,提高了模型的训练速度和效果。
3、池化:CNN中的池化层可以对卷积之后的特征图进行降维处理,减少模型的参数量和计算量,同时在一定程度上可以防止过拟合。
4、多层结构:CNN可以有多个卷积层和池化层,每个卷积层和池化层都是对前一层的输出进行处理,最终得到的特征图形象地描述了输入图像的特征信息。
5、逐层提取特征:CNN采用了一种图像特征的“分层提取”思路,即先通过一个简单的卷积层来提取最基本的特征,然后逐渐深入到后续的卷积层中提取更加复杂和抽象的特征信息。