深度学习笔记——线性回归的从0开始实现

记录学习到的知识：

语义分割是将标签或类别与图片的每个像素关联的一种深度学习算法。 它用来识别构成可区分类别的像素集合。

图像分割是一个端到端图像分析过程，它将数字图像分成多个片段，并对每个区域中包含的信息进行分类。三种图像分割任务（语义、实例和全景分割）为图像中的各个像素分配标签，以标记图像中不同对象和区域的特定边界和形状，并使用颜色、对比度、图像中的位置和其他属性等信息对它们进行分类。语义分割按语义类标记图像中包含的每个像素，而实例分割和全景分割则用于不同的分类任务。实例分割模型仅关注图像中包含的可以计算的语义类：人物、动物、树木、汽车或消防栓等实体和对象。它可以检测任何单个对象或实例，然后为每个对象或实例输出一个分割掩码和特定的标识符标签。全景分割模型需要两种信息：它们执行语义分割并检测和分割各个对象实例，通过为每个像素分配语义标签和（在适当情况下）唯一实例标识符来提供更完整的图像分析。

残差神经网络（Residual Neural Network，简称ResNet）属于深度学习模型的一种，其核心在于让网络的每一层不直接学习预期输出，而是学习与输入之间的残差关系。

CUDA是一种协助“CPU任务分发+GPU并行处理”的编程模型/平台，用于加速GPU和CPU之间的计算。也就是说CUDA通过CPU任务分发和GPU并行处理的方式，把计算任务通过CPU分发给GPU进行并行计算加速。而GPU并行计算的能力需要CUDA借助其自带的编程接口和工具，比如C/C++语言来编写并行计算程序，并通过CUDA编译器将程序转化为可以在英NVIDIA GPU上执行的机器码快速运行。

CPU 即中央处理单元，是一种硬件组件，它是服务器的核心计算单元。它负责处理操作系统和应用程序运行所需的各类计算任务。图形处理单元（GPU），是一种与 CPU 类似，但更专业的硬件组件。与普通 CPU 相比，它可以更高效地处理并行运行的复杂数学运算。最初的 GPU 专用于处理游戏和动画中的图形渲染任务，不过现在它们的用途已远超于此。

损失函数（Loss Function）是机器学习和深度学习中的一个重要概念，用于衡量模型预测结果与真实结果之间的差异或误差。它是一个数值评估指标，通过对模型输出和真实标签之间的比较，提供了对模型性能的度量。

在机器学习中，超参数（英语：Hyperparameter）是事先给定的，用来控制学习过程的参数。而其他参数（例如节点权重）的值是通过训练得出的。在深度学习中，超参数有：学习速率，迭代次数，层数，每层神经元的个数等等。

参数就是模型可以根据数据可以自动学习出的变量，应该就是参数。比如，深度学习的权重，偏差等。

线性回归模型由一个权重向量和一个偏置项组成，可以表示为：y=wx+b，其中y是预测值，w是权重，x是输入特征，b是偏置。

使用pytorch结束时要手动把梯度设成零。

训练代码示例：

lr：学习速率，太小损失会变大，太大也会出错

num_epochs:迭代次数

net:模型

loss：损失函数