YOLO系列算法改进 | 主干改进篇 | 替换IdentityFormer恒等映射视觉Transformer网络 | 通过极简架构突破推理瓶颈，在移动端和边缘设备上实现精度与 | TPAMI 2024

0. 前言本文介绍IdentityFormer恒等映射视觉Transformer网络，并将其集成到ultralytics最新发布的YOLO26目标检测算法中，替换原有Backbone网络。IdentityFormer是MetaFormer架构体系下的一个极致轻量化变体，通过采用恒等映射作为最基本的Token Mixer，首次证明了无需复杂的令牌混合机制也能在视觉任务中取得优异性能。将IdentityFormer作为YOLO26的新主干网络，能够显著降低模型的计算冗余和内存访问成本，特别适合部署在移动终端、无人机载板、嵌入式设备等计算资源受限的边缘场景，在保持实时检测帧率的同时，有效解决小目标特征在深层网络中被稀释丢失的痛点，尤其适用于智慧安防巡检、移动机器人视觉、低功耗物联网设备等对能效比要求严苛的应用领域。专栏链接：YOLO系列算法改进专栏链接专栏文章：YOLO26改进系列 | 卷积篇、轻量化、注意力、损失函数、Backbone、SPPF、C2PSA、Neck、检测头全方面保姆级优化合集 | 同样适配YOLOv11改进！！！目录0. 前言1.IdentityFormer网络简介2.IdentityFormer网络原理与创新点🧠IdentityFormer网络基本原理🎯IdentityFormer网络创新点3.具体改进步骤🍀🍀步骤1：创建IdentityFormer.py文件🍀🍀步骤2：tasks.py文件修改⚡1.IdentityFormer网络导入⚡2.IdentityFormer网络注册⚡3. 其他修改1（Ctrl+F搜索定位一下）⚡4. 其他修改2（Ctrl+F搜索定位一下）⚡5. 其他修改3（_predict_once函数修改）🍀🍀步骤3：创建YAML配置文件🍀🍀步骤4：新建train.py文件训练模型🍀🍀步骤5：模型结构打印结果1.IdentityFormer网络简介MetaFormer（Transformer的抽象架构）已被发现在实现竞争性能方面发挥着重要作用。本文通过将研究焦点从Token Mixer设计上移开，进一步探索MetaFormer的能力：我们引入了几个基于MetaFormer的基线模型，使用最基本或最常见的混合器，并展示了它们令人满意的性能。我们的观察总结如下：1）MetaFormer确保了坚实的性能下限：仅采用恒等映射作为Token Mixer，MetaFormer模型（称为IdentityFormer）在ImageNet-1K上达到80%的准确率。2）MetaFormer与任意Token Mixer都能良好协作：即使将Token Mixer指定为随机矩阵来混合令牌，所得模型RandFormer仍能达到81%的准确率，优于IdentityFormer。3）MetaFormer轻松提供最先进的结果：仅使用五年前的传统Token Mixer，从MetaFormer实例化的模型已经击败了最先进的技术。4）ConvFormer优于ConvNeXt：采用常见的深度可分离卷积作为Token Mixer，称为ConvFormer的模型（可视为纯CNN）优于强大的CNN模型ConvNeXt。5）CAFormer