吴恩达深度学习——神经网络介绍

文章内容来自BV11H4y1F7uH，仅为个人学习所用。

什么是神经网络

引入

已经有六个房子的数据集，横轴为房子大小，纵轴为房子价格，关系如图：

现在想要找到一个函数，能够根据房子面积预测房价。
可以画出如图的直线来表示函数。该函数由两部分组成：函数值为0的区域和房子面积关于房价的函数。

神经网络

上述的房价加一个拟合函数，可以看成是一个非常简单的神经网络。

神经元

神经元通常以节点的形式存在，多个神经元相互连接构成网络，神经元包括输入层神经元、隐藏层神经元和输出层神经元等所有在神经网络结构中参与信息处理和传递的单元。下图是一个单神经元网络。

房子大小（面积）看作$x$，通过一个圆圈（表示一个神经元），输出房价$y$。这个神经元要做的就是输入面积，完成线性运算，最后得到函数值。

大型的神经网络通过一个个神经元组合起来。

激活函数ReLU

上述的函数图像为
被称为ReLU函数。R指的是修正，取不小于0的值。

激活函数引入了非线性因素，使神经网络能够学习和模拟各种复杂的非线性关系。如果没有激活函数，神经网络将只能表示线性函数，其表达能力和学习能力将非常有限，无法处理现实世界中的大多数复杂问题，如图像识别、语音识别中的高度非线性模式。

隐藏单元

下面看一个更复杂的神经网络：房价的影响不仅仅是房子大小，还有比如卧室数量、邮编（相当于地段）财富因素。房子面积和卧室数量影响一家住几口人；邮编（地段）影响出行的便利程度；邮编和财富影响周围学校的质量，这些都影响着房价。

图中每一个圆圈代表着一个ReLU或者不是线性的其他函数。图中$x$是左边的4个影响因素，$y$是右边的房价，中间的部分是神经元组成的网络。有了该神经网络，不如输入怎样的$x$，都可以通过该神经网络输出$y$。

中间部分的神经元也被称为隐藏单元，位于神经网络输入层和输出层之间，是神经元的一个子集。

用神经网络进行监督学习

监督学习与无监督学习

监督学习是指从有标记的训练数据中学习模型的机器学习任务。在监督学习中，每个训练样本都有对应的输入特征和已知的输出标签（或目标值），模型通过学习这些输入与输出之间的映射关系，从而能够对新的、未见过的输入数据进行预测或分类。

无监督学习是在无标记的数据上进行学习，数据集中仅包含输入特征，没有给定的明确输出标签或目标值，模型旨在发现数据中的内在结构、模式或规律。

举例

上述图片展示了三种不同的神经网络，分别是标准神经网络、卷积神经网络、循环神经网络。这些在后面介绍。