Question

神经网络与深度神经网络有什么区别

Answer 1

神经网络可以指向两种，一个是生物神经网络，一个是人工神经网络。
深度神经网络指的是微软推出了一新款语音识别软件，其工作原理是模仿人脑思考方式，从而使该软件的语音识别速度更快，识别准确率也更高。

Answer 2

深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。
　　多层神经网络是指单计算层感知器只能解决线性可分问题，而大量的分类问题是线性不可分的。克服单计算层感知器这一局限性的有效办法是，在输入层与输出层之间引入隐层（隐层个数可以大于或等于1）作为输入模式“的内部表示”　，单计算层感知器变成多（计算）层感知器。
　　补充：
　　深度学习的概念由Hinton等人于2006年提出。基于深信度网(DBN)提出非监督贪心逐层训练算法，为解决深层结构相关的优化难题带来希望，随后提出多层自动编码器深层结构。此外Lecun等人提出的卷积神经网络是第一个真正多层结构学习算法，它利用空间相对关系减少参数数目以提高训练性能。
　　深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据，例如图像，声音和文本。

Answer 3

深度神经络就像一个的产线，把输原材料（数据集）放在传送带上，每个网络层会提取不同层次的特征。如果络是来识别某种物体，第层可能是分析像素的亮度。然后，下层基于线的相似像素来识别图像中的边缘，再下层识别纹理和形状等等。在到达第四层或第五层时，络会建复杂的特征检测器，它可以识别出某些特定图像元素（如对眼睛）。然后根据提供的输出标签，使反向传播来逐步修正过程中的错误。训练好后的络模型可以完成物体识别的分类任务。
循环神经⽹络（Recurrent Neural Network，RNN）是⼀种⽤于处理序列数据的神经⽹络。相⽐⼀般的神经⽹络来说，他能够处理序列变化的数据。⽐如某个单词的意思会因为上⽂提到的内容不同⽽有不同的含义，RNN就能够很好地解决这类问题。⻓短期记忆（Long short-term memory, LSTM）是⼀种特殊的RNN，主要是为了解决⻓序列训练过程中的梯度消失和梯度爆炸问题。简单来说，就是相⽐普通的 RNN，LSTM 能够在更⻓的序列中有更好的表现。LSTM 通过⻔控状态来控制传输状态，记住需要⻓时间记忆的，忘记不重要的信息；⽽不像普通的RNN那样只能有⼀种记忆叠加⽅式。