当前位置： 首页 > article >正文

深度学习05 ResNet残差网络

article 2026/4/15 10:45:33

目录

传统卷积神经网络存在的问题

如何解决

批量归一化BatchNormalization, BN

残差连接方式

​残差结构

ResNet网络

ResNet 网络是在 2015年 由微软实验室中的何凯明等几位大神提出，斩获当年ImageNet竞赛中分类任务第一名，目标检测第一名。获得COCO数据集中目标检测第一名，图像分割第一名。

传统卷积神经网络存在的问题

神经网络都是通过卷积层和池化层的叠加组成的。 在实际的试验中发现，随着卷积层和池化层的叠加，学习效果不会逐渐变好，反而出现2个问题： 1、梯度消失和梯度爆炸 梯度消失：若每一层的误差梯度小于1，反向传播时，网络越深，梯度越趋近于0 梯度爆炸：若每一层的误差梯度大于1，反向传播时，网络越深，梯度越来越大 2、退化问题

如何解决

  1. 为了解决梯度消失或梯度爆炸问题

    通过数据的预处理以及在网络中使用 BN（Batch Normalization）层来解决。

  2. 为了解决深层网络中的退化问题

    人为地让神经网络某些层跳过下一层神经元的连接，隔层相连，弱化每层之间的强联系。

如图可以看到层数越多错误率越低

批量归一化BatchNormalization, BN

Batch Normalization目的：使所有的feature map满足均值为0，方差为1的分布规律

对每个传入的图片进行归一化后，将其传入卷积神经层进行处理后得到特征图，然后再对这个特征图进行归一化处理，处理完再次进入卷积层处理，输出的特征图再次进行归一化。

残差连接方式

residual结构使用了一种shortcut的连接方式，也可理解为捷径。让特征矩阵隔层相加，注意F(X)和X形状要相同，所谓相加是特征矩阵相同位置上的数字进行相加。

残差结构

ResNet一共有5种残差网络结构，18层、34层、50层、101层、152层

相关文章：

深度学习05 ResNet残差网络

目录 传统卷积神经网络存在的问题 如何解决 批量归一化BatchNormalization, BN 残差连接方式 ​残差结构 ResNet网络 ResNet 网络是在 2015年 由微软实验室中的何凯明等几位大神提出，斩获当年ImageNet竞赛中分类任务第一名，目标检测第一名。获得CO…...

编程日记 2026/4/6 7:15:48

Java零基础入门笔记：(4)方法

前言 本笔记是学习狂神的java教程，建议配合视频，学习体验更佳。 【狂神说Java】Java零基础学习视频通俗易懂_哔哩哔哩_bilibili 第1-2章：Java零基础入门笔记：(1-2)入门（简介、基础知识）-CSDN博客 第3章…...

编程日记 2026/4/11 17:01:02

DeepSeek 和 ChatGPT 在特定任务中的表现：逻辑推理与创意生成

🎁个人主页：我们的五年 🔍系列专栏：Linux网络编程 🌷追光的人，终会万丈光芒 🎉欢迎大家点赞👍评论📝收藏⭐文章 ​ Linux网络编程笔记： https://blog.cs…...

编程日记 2026/4/8 2:09:40

BS5852英国家具防火安全条款主要包括哪几个方面呢？

什么是BS5852检测？ BS5852是英国针对家用家具的强制性安全要求，主要测试家具在受到燃烧香烟和火柴等火源时的可燃性。这个标准通常分为四个部分进行测试，但实际应用中主要测试第一部分和第二部分，包括烟头测试和利用乙炔火焰模拟…...

编程日记 2025/6/12 21:16:43

VSCode本地python包“无法解析导入”

问题现象 在使用 VSCode 编写 Python 代码时，虽然程序能正常运行，但遇到“无法解析导入”的问题，导致代码无法高亮。 解决方法 配置 python.autoComplete.extraPaths 打开 VSCode 设置（CtrlShiftP -> Preferences: Open Wo…...

编程日记 2026/4/5 8:19:18

本地使用docker部署DeepSeek大模型

1、相关技术介绍 1.1、RAG RAG（Retrieval Augmented Generation），即“检索，增强，生成”，用于提升自然语言处理任务的性能。其核心思想是通过检索相关信息来增强生成模型的能力，具体步骤如下&am…...

编程日记 2026/4/11 5:48:13

Java 不可变集合

1.不可变集合 在 Java 中，不可变集合（Immutable Collections）是指在创建之后无法修改的集合。这些集合不允许添加、删除或修改元素，一旦创建后，内容就不能改变。Java 提供了一些内置的方式来创建不可变集合&#xff0…...

编程日记 2025/11/14 17:00:37

【全栈】SprintBoot+vue3迷你商城-细节解析（1）：Token、Jwt令牌、Redis、ThreadLocal变量

【全栈】SprintBootvue3迷你商城-细节解析（1）：Token、Jwt令牌、Redis、ThreadLocal变量 往期的文章都在这里啦，大家有兴趣可以看一下 后端部分： 【全栈】SprintBootvue3迷你商城（1） 【全栈】…...

编程日记 2025/11/15 18:43:17

统计5分钟nginx访问日志的数据并设置阈值告警

1.脚本统计生成deny_ip文件 #!/usr/bin/bash#Tate:2022.3.30 #Author:Yingjian #function: 统计5分钟之内的访问ip #env#脚本存放的目录 workdircd $(dirname $0);pwdif [ $# -eq 0 ];then echo "Usage: $0 {统计几分钟内的ip}" exit 2 filogfile/var/log/nginx/acc…...

编程日记 2026/4/9 0:32:35

用什么办法能实现ubuntu里面运行的自己开发的python程序能自动升级。

要实现Ubuntu中自己开发的Python程序自动升级，可以通过以下几种方式： 1. 使用 Git 仓库 定时任务 如果你的Python程序托管在Git仓库中，可以通过定时拉取最新代码来实现自动升级。 步骤： 确保Python程序在Git仓库中。在Ubuntu上…...

编程日记 2025/6/14 13:34:45

day12_调度和可视化

文章目录 day12_调度和可视化一、任务调度1、开启进程2、登入UI界面3、配置租户4、创建项目5、创建工作流5.1 HiveSQL部署（掌握）5.2 SparkDSL部署（掌握）5.3 SparkSQL部署（熟悉）5.4 SeaTunnel部署&#xff0…...

编程日记 2026/4/6 0:55:30

力扣第4题 寻找两个正序数组的中位数

力扣第4题 给定两个大小分别为 m 和 n 的正序（从小到大）数组 nums1 和 nums2。请你找出并返回这两个正序数组的 中位数 。 算法的时间复杂度应该为 O(log (mn)) 。 示例 1： 输入：nums1 [1,3], nums2 [2] 输出：2.0000…...

编程日记 2026/3/8 22:21:38

DC-6靶机渗透测试全过程

目录 前期准备 一、渗透测试 1.IP地址查询 2.端口信息搜寻 3.网页信息搜集 wappalyzer WPScan 反弹shell graham用户 反弹出jens的shell nmap提权 二、总结 前期准备 攻击机： kali windows11 靶机：DC-6靶机（调至NAT模式&#xff0…...

编程日记 2026/4/7 6:11:49

Win11 远程 连接 Ubuntu20.04(局域网）

Win11 远程 连接 Ubuntu20.04(局域网） 0. Ubuntu 开启共享1. Ubuntu系统中安装RDP服务器2.windows中连接使用方式1：远程桌面连接(winr: mstsc)方式2：mobaXterm 3 问题远程连接后出现黑屏 参考文献: 0. Ubuntu 开启共享 在ubunt设置中&#x…...

编程日记 2026/4/9 1:59:06

探索Hugging Face：开源AI社区的核心工具与应用实践

引言：AI民主化的先锋 在自然语言处理（NLP）领域，Hugging Face已成为开源社区的代名词。这个成立于2016年的平台，通过提供易用的工具和丰富的预训练模型库，彻底改变了开发者使用和部署AI模型的方式。截至202…...

编程日记 2025/11/27 16:01:26

文件分片上传 python

服务端功能 上传分片保存 app.route(/upload_filesliceprocess, methods[POST]) def upload_filesliceprocess(): file request.files[file] name_index request.form[name_index] complete request.form[complete] process request.form[process] c…...

编程日记 2025/11/17 2:53:03

外汇掉期（FX Swap）：全球企业管理外汇风险的关键工具（中英双语）

外汇掉期（FX Swap）：全球企业管理外汇风险的关键工具 引言 在全球化经济环境下，跨国公司、银行和金融机构经常面临外汇风险，因为它们的业务涉及多种货币。例如，一家中国公司可能需要欧元支付欧洲供应商&am…...

编程日记 2026/3/25 20:22:54

Visual Studio Code支持WSL，直接修改linux/ubuntu中的文件

步骤1 开始通过 WSL 使用 VS Code | Microsoft Learn 点击远程开发扩展包。 步骤2 Remote Development - Visual Studio Marketplace 点击install， 允许打开Visual Studio Code。 步骤3 共有4项，一齐安装。 步骤4 在WSL Linux(Ubuntu)中&#xf…...

编程日记 2026/4/6 6:29:22

网络安全“挂图作战“及其场景

文章目录 一、网络安全挂图作战来源与定义1、网络安全挂图作战的来源2、网络安全挂图作战的定义 二、挂图作战关键技术三、挂图作战与传统态势感知的差异四、挂图作战主要场景五、未来趋势结语 一、网络安全挂图作战来源与定义 1、网络安全挂图作战的来源 网络安全挂图作战的…...

编程日记 2025/6/1 4:45:01

开源在线考试系统开源在线考试系统：支持数学公式的前后端分离解决方案

开源在线考试系统：支持数学公式的前后端分离解决方案 项目介绍项目概述：技术栈：版本要求主要功能：特色亮点 项目仓库地址演示地址GiteeGitHub 系统效果展示教师端系统部分功能截图学生端系统部分功能截图 结语 项目介绍 项目概述…...

编程日记 2026/4/7 12:39:39

解决 ssh connect to host github.com port 22 Connection timed out

一、问题描述 本地 pull/push 推送代码到 github 项目报 22 端口连接超时，测试连接也是 22 端口连接超时 ssh 密钥没问题、也开了 Watt Toolkit 网络是通的，因此可以强制将端口切换为 443 二、解决方案 1、测试连接 ssh -T gitgithub.com意味着无法通…...

编程日记 2026/4/14 5:19:55

分享8款AI生成PPT的工具！含测评

随着人工智能技术的飞速进步，制作PPT变得愈发便捷，仅需输入主题指令，便能在瞬间获得一份完整的演示文稿。尤其在制作篇幅较长的PPT时，手动编写每一页内容并设计格式和排版，不仅效率低下，而且耗时耗力。 本…...

编程日记 2026/4/11 13:26:02

Java 设计模式总结

文章目录 Java 设计模式总结创建型模式（5种）结构型模式（7种）行为型模式（11种） Java 设计模式总结 设计模式（Design Patterns）是软件工程中解决常见问题的经典解决方案。它们提供了一…...

编程日记 2025/9/28 10:12:06

Spring Boot Actuator 监控✨

Spring Boot Actuator 是 Spring Boot 提供的一个强大的监控和管理工具，它可以帮助你深入了解和监控你的应用程序的运行状态。通过 Actuator，你可以获取应用程序的健康状况、内存使用情况、线程信息、HTTP 请求跟踪等。🚀 核心知识点 &#…...

编程日记 2026/4/2 13:33:55

解锁原型模式：Java 中的高效对象创建之道

系列文章目录 后续补充~~~ 文章目录 一、引言1.1 软件开发中的对象创建困境1.2 原型模式的登场 二、原型模式的核心概念2.1 定义与概念2.2 工作原理剖析2.3 与其他创建型模式的差异 三、原型模式的结构与角色3.1 抽象原型角色3.2 具体原型角色3.3 客户端角色3.4 原型管理器角色…...

编程日记 2025/9/27 3:08:25

23种设计模式 - 责任链

模式定义 责任链模式（Chain of Responsibility Pattern）是一种行为型设计模式，允许多个对象按链式顺序处理请求，直到其中一个对象处理为止。该模式将请求的发送者和接收者解耦，使多个对象都有机会处理请求。 模式结构…...

编程日记 2026/2/17 23:58:19

【Linux-命令】

Linux-命令 ■ ls■ cd■ pwd■ tree■ mkdir■ rm■ mv■ cp■ chmod■ chattr 文件的特殊属性■ cat■ 日期■ 关机■ find■ 查看文件内容■ cat■ ln■ mount 挂载一个文件系统■ uname■ 用户和组■ 打包和压缩■ zip■ gzip■ rar■ tar ■ 包■ rpm 包■ yum 软件包升级…...

编程日记 2026/1/6 6:42:38

豪越科技：消防安全重点单位一体化安全管控

在当今数字化高速发展的时代，消防安全的重要性日益凸显。豪越科技以其卓越的技术实力和创新精神，将物联网、大数据、人工智能等先进技术深度融合，打造出了功能强大的消防安全重点单位一体化安全管控平台，为消防安全管理带来了全新…...

编程日记 2026/4/9 2:11:19

LabVIEW无刷电机控制器检测系统

开发了一种基于LabVIEW的无刷电机控制器检测系统。由于无刷电机具有高效率、低能耗等优点，在电动领域有取代传统电机的趋势，而无刷电机的核心部件无刷电机控制器产量也在不断增长。然而，无刷电机控制器的出厂检测仍处于半自动化状态&#xff…...

编程日记 2026/4/11 20:25:35

EXCEL解决IF函数“您已为此函数输入太多个参数”的报错

IF函数的基本结构是IF(条件, 值为真时的结果, 值为假时的结果)，所以标准的IF函数最多只能有三个参数。当用户输入的参数超过三个时，Excel就会报这个错误。比如多个IF语句叠加，但可能在嵌套的过程中没有正确关闭每个IF函数的括号，导…...

编程日记 2026/4/9 21:24:03