神经网络的本质是非线性映射,那么深度学习中讨论的线性和非线性到底是什么?
神经网络的本质是非线性映射，那么深度学习中讨论的线性和非线性是两个变量之间的关系是一次函数关系的图像是直线，这样的两个变量之间的关系就是“线性关系”；如果不是一次函数关系的图像不是直线，就是“非线性关系”。
线性与非线性的区别：
线性与非线性，常用于区别函数y=f（x）对自变量x的依赖关系。线性函数即一次函数，其图像为一条直线。其他函数则为非线性函数，其图像是除直线以外的图像。
线性与非线性的共性：
非线性关系虽然千变万化，但还是具有某些不同于线性关系的共性。线性关系是互不相干的独立关系，而非线性则是相互作用，正是这种相互作用，使得整体不再是简单地全部等于部分之和，而可能出现不同于线性叠加的增益或亏损。
激光的生成就是非线性的，当外加电压较小时，激光器犹如普通电灯，光向四面八方散射；而当外加电压达到某一定值时，会突然出现一种全新现象。
迄今为止，对非线性的概念、非线性的性质，并没有清晰的、完整的认识，对其哲学意义也没有充分的开掘。
人工神经网络：
1、简介：
人工神经网络是一种应用类似于大脑神经突触连接的结构进行信息处理的数学模型。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型，由大量的节点（或称神经元）和之间相互连接构成。每个节点代表一种特定的输出函数，称为激励函数。
每两个节点之间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。
2、特点：
具有自学习功能。例如实现图像识别时，只在先把许多不同的图像样板和对应的应识别的结果输入人工神经网络，网络就会通过自学习功能，慢慢学会识别类似的图像。自学习功能对于预测有特别重要的意义。
