15 从 MLP 到 LeNet：PyTorch 网络代码为什么总像模板？

PyTorch 网络代码为什么总像模板很多人第一次看 PyTorch 网络代码时都会有一种很熟悉的感觉代码不长每一行单独看也认识但合在一起就完全不知道这个网络到底是怎么搭出来的尤其是下面这几个东西最容易让人越看越晕nn.Module到底是什么为什么网络一定要写成一个类__init__()明明已经写了层为什么forward()里还要再写一遍model(x)为什么一调用PyTorch 就知道该去跑哪里很多人以为自己卡在“卷积太难”“LeNet 太复杂”其实真正的问题往往更早不是先看不懂网络结构而是先看不懂 PyTorch 里网络代码到底是怎么组织起来的。这篇文章就不讲训练、不讲优化器也不讲复杂模型只解决一个很核心的问题PyTorch 里的神经网络到底是怎么被定义出来的只要这个问题理顺了后面再去看卷积网络、看 LeNet代码就不会再像黑盒了。后面 LeNet 的代码本质上也还是这一套网络通常继承nn.Module在__init__()里定义层在forward()里定义数据流 。一、为什么很多人能抄 PyTorch 代码却看不懂网络是怎么定义出来的这不是因为 PyTorch 特别难而是因为很多人一开始接触网络代码时看到的是“完整成品”而不是“最小骨架”。比如下面这种写法你大概率见过很多次classMyNet(nn.Module):def__init__(self):super().__init__()self.fc1nn.Linear(...)self.fc2nn.Linear(...)defforward(self,x):xself.fc1(x)xself.fc2(x)returnx问题就在于这段代码长得像模板能抄但不一定能解释如果让你自己从零写可能又会卡住所以真正要搞清楚的不是“这几行代码怎么背”而是下面这几个问题为什么网络要写成一个类为什么要继承nn.Module为什么层定义在__init__()里为什么数据流定义在forward()里把这几个问题理顺后面你再看 LeNet 代码会顺很多。二、为什么 PyTorch 里的网络非要写成一个类不能直接写函数吗这是很多人一开始都会问的问题。表面上看一个神经网络好像就是“若干层算一下”那为什么不能直接写成普通函数原因很简单一个神经网络不是单个公式而是一组层和一条数据流。比如最简单的网络通常也会包含输入一层或多层隐藏层激活函数输出层这些东西不是散着存在的它们有明确的结构和顺序。而写成一个类的好处就在于它能把两件事放在一起这个网络里有哪些层数据怎么流过这些层所以类不是“故意写复杂”而是为了让网络更容易组织、更容易扩展、更容易读。你可以先把“网络类”理解成把一个神经网络的结构和流程装进一个统一壳子里。三、nn.Module到底是什么为什么几乎所有网络代码都离不开它如果你刚接触 PyTorch可以先把nn.Module理解成PyTorch 里所有神经网络模块的统一基类。这个说法看起来有点官方但你现在可以先把它想简单一点只要你想写一个像样的网络模块让 PyTorch 能识别它里面有哪些层、有哪些参数、前向传播怎么走那通常就要放进nn.Module这个体系里所以我们最常见的写法就是importtorch.nnasnnclassMyNet(nn.Module):...意思其实很简单MyNet是你定义的网络它继承了 PyTorch 的网络模块能力你现在可以先粗暴但有效地记住一句话nn.Module就是 PyTorch 里“网络类的标准外壳”。以后不管你写的是最小全连接网络、卷积网络还是 LeNet这个外壳基本都不会变 。四、init()和forward()到底谁负责什么为什么它们总让人分不清这是整篇最核心的部分。很多人第一次看 PyTorch 网络代码时最大的困惑就集中在这里__init__()里写了一堆层forward()里又写了一遍数据流为什么不能只写一个地方你可以先用一句特别重要的话记住__init__()负责搭网络forward()负责跑数据。这两个角色一定要分清。1__init__()先把“网络里要用的层”准备好比如self.fc1nn.Linear(4,8)self.relunn.ReLU()self.fc2nn.Linear(8,2)这些代码的意思不是“现在就开始算了”而是在说这个网络里要有第一层全连接要有一个激活函数要有第二层全连接也就是说__init__()更像是在定义这个网络的结构把模块先准备好。2forward()再规定“数据到底怎么走”比如xself.fc1(x)xself.relu(x)xself.fc2(x)returnx这时候才是在说输入x先过第一层再过激活函数再过第二层最后把结果返回所以forward()更像是在定义输入数据在网络里的流动路径。一句话再总结一遍__init__()网络里有什么forward()这些东西按什么顺序用只要这件事分清楚后面再看 LeNet 的代码就不会那么乱。五、先写一个最小网络把“网络类”先看懂光讲概念还是容易飘下面直接写一个最简单的两层全连接网络。importtorchimporttorch.nnasnnclassSimpleNet(nn.Module):def__init__(self):super().__init__()# 定义网络里要用到的层self.fc1nn.Linear(4,8)# 第一层4维输入 - 8维输出self.relunn.ReLU()# 激活函数self.fc2nn.Linear(8,2)# 第二层8维输入 - 2维输出defforward(self,x):# 定义数据在网络中的流动顺序xself.fc1(x)xself.relu(x)xself.fc2(x)returnx这段代码很短但已经把 PyTorch 网络类最基本的骨架都放进来了。你现在先不要急着“记”先把它当成一个结构图去看。六、先别急着跑逐行看看这段代码到底在干嘛1先继承nn.ModuleclassSimpleNet(nn.Module):这句话的意思是我现在定义的是一个网络类它属于 PyTorch 的模块体系2super().__init__()是什么意思super().__init__()很多人第一次看这句会直接跳过。你现在可以先不用深究 Python 面向对象细节只要先理解成既然你继承了nn.Module那它自己的初始化工作也要先执行。简单点说就是把“父类该准备好的东西”先准备好。3这一段是在定义层self.fc1nn.Linear(4,8)self.relunn.ReLU()self.fc2nn.Linear(8,2)这几句并不是在真正计算而是在告诉 PyTorch这个网络里有第一层全连接有一个激活函数有第二层全连接也就是说这部分是在“搭结构”。4这一段是在定义数据怎么流defforward(self,x):xself.fc1(x)xself.relu(x)xself.fc2(x)returnx这部分才是在说输入先过哪一层再过哪一层最后输出什么这就是网络真正的前向传播过程。七、为什么层要定义在前面计算却要放到forward()里这是初学者最容易混的点之一。很多人会问为什么不能把所有东西写在一个地方因为“层是什么”和“数据怎么走”本来就是两件不同的事。层是什么这是结构问题。比如这个网络有几层每层输入输出维度是多少有没有激活函数有没有卷积层这些属于“网络结构定义”所以放在__init__()。数据怎么走这是流程问题。比如输入先过哪一层激活函数放在哪某一层后面接什么最后怎么输出这些属于“数据流定义”所以放在forward()。为什么这样分开更好因为这样你以后看代码时会特别清楚想看结构就看__init__()想看流程就看forward()网络一复杂这种分法会非常有用。到了 LeNet你会看到卷积层、池化层、flatten、全连接层如果全混在一起代码会很快变乱。八、为什么model(x)一调用PyTorch 就知道该去跑forward()这也是初学者特别常见的疑问。很多人看到下面这种写法modelSimpleNet()ymodel(x)第一反应是我明明没手动写model.forward(x)为什么它自己就跑了你现在先不用去看底层源码只要先记住一个直觉就够了PyTorch 已经帮你把调用逻辑封装好了model(x)本质上就是在调用forward()。也就是说在入门阶段你完全可以先把ymodel(x)理解成ymodel.forward(x)真正底层当然还有额外机制但现在先这样理解已经足够看懂绝大多数网络代码了。九、把这个最小网络真正跑一次光看定义还不够下面我们真的生成一个输入跑一遍这个网络。importtorch modelSimpleNet()xtorch.randn(3,4)# 3个样本每个样本4维ymodel(x)print(输入 shape:,x.shape)print(输出 shape:,y.shape)print(输出结果)print(y)你会看到输入 shape 是(3, 4)输出 shape 是(3, 2)这说明一共有 3 个样本每个样本原来 4 维经过网络后每个样本最后变成了 2 维输出虽然这个例子很简单但它已经足够说明一个网络类不只是“定义了几层”而是真的能让数据按你写好的路径流过去。而且这里还有一个非常重要的习惯先做前向验证再考虑训练。很多人一上来就急着写训练循环但结构没搞清训练只会更乱。更合理的顺序其实是先定义网络先跑通前向再考虑训练十、再看一遍完整代码这次不要只抄要能读懂把前面的代码完整放在一起importtorchimporttorch.nnasnnclassSimpleNet(nn.Module):def__init__(self):super().__init__()self.fc1nn.Linear(4,8)self.relunn.ReLU()self.fc2nn.Linear(8,2)defforward(self,x):xself.fc1(x)xself.relu(x)xself.fc2(x)returnx modelSimpleNet()xtorch.randn(3,4)ymodel(x)print(输入 shape:,x.shape)print(输出 shape:,y.shape)print(y)如果你现在已经能自己解释下面这些问题就说明这篇最核心的内容你已经掌握了为什么要继承nn.Module__init__()在定义什么forward()在定义什么为什么model(x)会自动跑forward()数据在这段代码里是怎么流动的十一、很多人第一次看 PyTorch 网络代码时最容易误会什么1以为init里已经写了层网络就开始算了不是。__init__()只是定义网络里有哪些模块真正的数据流动是在forward()里发生的。2以为forward()只是“再写一遍代码”不是。它不是重复定义层而是在定义输入到底怎么经过这些层。3以为model(x)是某种“魔法调用”其实你可以先把它理解成PyTorch 已经帮你封装好了model(x)最终会去跑forward()。4以为不训练就没必要先写网络不是。很多时候先把网络结构和前向传播跑通比一上来就写训练循环更重要。因为如果结构没理顺训练阶段的问题只会更多。十二、如果只记 4 句话这篇最重要的内容是什么如果把这篇压缩成最核心的 4 句话可以记住下面这些PyTorch 里的网络通常继承nn.Module。__init__()负责定义网络里有哪些层。forward()负责定义输入数据怎样流过这些层。后面 LeNet 的代码本质上也是同样的套路。十三、写到这里LeNet 的代码外壳其实已经不神秘了到这里你其实已经拿到了后面 LeNet 实战最关键的第一块积木。因为后面不管网络结构变复杂多少最基本的代码组织方式都还是这一套继承nn.Module在__init__()里定义层在forward()里定义数据流所以这篇文章的目标不是让你现在立刻会写复杂网络而是让你先把一件事看清楚神经网络在 PyTorch 里到底是怎么“搭出来”的。