当前位置：首页 > news >正文

深度学习记录--Batch Norm

news 2025/7/5 18:43:02

Batch Norm

与Input Norm对输入层进行归化不同，Batch Norm是对隐藏层进行归化

实现

$\mu = \frac{1}{m}\sum_{i=1}^{m}z^{(i)}$

$\sigma^2=\frac{1}{m}\sum_{i=1}^{m}(z_{i}-\mu)^2$

$z^{(i)}_{norm}=\frac{z^{(i)}-\mu}{\sqrt{\sigma^2+\varepsilon}}$

$\tilde{z}^{(i)}=\gamma z^{(i)}_{norm}+\beta$ ，其中 $\gamma$ 、 $\beta$ 调节均值和方差

$if: \gamma=\sqrt{\sigma^2+\varepsilon},\beta=\mu$ ， $then :\tilde{z}^{(i)}=z^{(i)}$

深度学习记录--Batch Norm

Batch Norm 与Input Norm对输入层进行归化不同，Batch Norm是对隐藏层进行归化实现 ，其中、调节均值和方差 ，...

编程日记 2024/1/27 7:07:04

svn和git的本质区别是什么

参考： https://blog.csdn.net/feiying0canglang/article/details/126550676 上边图中，跨越了区的箭头，它中间的区数据都会同步。例如：git checkout ，它是将本地仓库数据更新到暂存区和工作区的。\ 理解 gitlab和svn都…...

编程日记 2024/1/27 7:01:58

Redis面试

1.说说什么事redis Redis是一种基于键值对的NoSql数据库。 Redis中的value支持string（字符串）、hahs（哈希）、list、set、zset（有序集合）、bitmaps（位图），HyperLoglog等数…...

编程日记 2024/1/27 6:59:56

贪吃蛇（C）

游戏背景：贪吃蛇是久负盛名的游戏，它也和俄罗斯⽅块，扫雷等游戏位列经典游戏的⾏列。总：游戏设计大纲：使⽤C语⾔在Windows环境的控制台中模拟实现经典⼩游戏贪吃蛇。实现的基本功能： 1、贪吃蛇地图绘制。 2、蛇吃⻝物的功能（上、下、左、右⽅向键控制蛇的动作）。 …...

编程日记 2024/1/27 6:56:54

【云原生】Docker基于Dockerfile多级构建，实现缩小镜像体积

目录一、基于上次的nginx的Dockerfile做多级构建二、基于上次的php的Dockerfile修改做多级构建三、基于上次的mysql的Dockerfile修改做多级构建基于以上三个镜像构建四、镜像体积是不是越小越好？为什么要缩减镜像体积？ 五、缩小镜像体积的方法…...

编程日记 2024/1/27 6:55:53

第七十一周周报

学习目标： 一、实验二、小程序学习时间： 2024.1.20-2024.1.26 学习产出： 一、小程序这周花了两天根据陈勇和纪行之的代码优化了小程序的代码二、实验根据stylegan2仓库的redeme文件重新跑了stylegan2和diffusion-stylegan2 DV…...

编程日记 2024/1/27 6:54:52

绿色制造的行业标杆OEKO-TEX STeP认证

STeP是“OEKO-TEX国际环保纺织协会”推出的一个独立的第三方认证体系。STeP全称Sustainable Textile & Leather Production（可持续纺织和皮革生产），是面向纺织和皮革供应链中环保且负有社会责任的生产工厂推出的透明认证体系。 STeP认证的…...

编程日记 2024/1/27 6:53:51

第3章：Python 的函数和模块（基于最新版 Python3.12 编写）

文章目录 3.1 函数：编写你的代码乐曲3.1.1 什么是函数？3.1.2 如何定义函数？3.1.3 如何调用函数？3.1.4 函数的返回值3.1.5 函数的文档字符串3.1.6 默认参数值3.1.7 可变数量的参数3.1.8 局部变量和全局变量3.1.9 递归函数 3.2 模块…...

编程日记 2024/1/27 6:48:46

网络安全产品之认识漏洞扫描设备

文章目录一、什么是漏洞扫描设备二、漏洞扫描设备的主要功能三、漏洞扫描设备的主要技术四、漏洞扫描设备的主要类型五、漏洞扫描设备的使用方式六、漏洞扫描设备如何与其他安全设备联动七、漏洞扫描设备的应用场景漏洞是指在硬件、软件、协议的具体实现或系统安全策略上存在…...

编程日记 2024/1/27 6:44:43

Hadoop增加新节点环境配置（自用）

完成Hadoop集群增添一个新的节点配置（文中命名为）Hadoop106，没有进行继续为该节点分配身份职能的步骤 1.在VMware中安装CentOS 7 新建虚拟机 1.⾸先我们创建⼀个新的虚拟机，也可以点⽂件-新建虚拟机。 2.选择⾃定义&#xff0c…...

编程日记 2024/1/27 6:41:40

Apache Shiro 安全框架

前言 Apache Shiro 是一个强大且容易使用的Java安全矿建，执行身份验证，授权，密码和会话管理。使用Shiro的易于理解的API您可以快速轻松的获得任何应用程序直到大的项目。一丶什么是Shiro 1.Shiro是什么 Apache Shiro是一个强大且易于使用…...

编程日记 2024/1/27 6:37:37

防火墙的NAT

目录 1. NAT 概念解析 2. 配置NAT策略： 1. NAT 概念解析静态NAT --- 一对一动态NAT --- 多对多 NAPT --- 一对多的NAPT --- easy ip --- 多对多的NAPT 服务器映射源NAT --- 基于源IP地址进行转换。我们之前接过的静态NAT，动态NAT，NAPT都属…...

编程日记 2024/1/27 6:34:34

Java基础进阶03-注解和单元测试

目录一、注解 1.概述 2.作用 3.自定义注解 （1）格式 （2）使用 （3）练习 4.元注解 （1）概述 （2）常见元注解 （3）Target &#x…...

编程日记 2024/1/27 6:33:33

Mac+Android Studio配置 Flutter环境

Fluttrer中文下载官网 Flutter下载官网 1、环境变量 .zshrc #Flutter export PUB_HOSTED_URL"https://pub.flutter-io.cn" export FLUTTER_STORAGE_BASE_URL"https://storage.flutter-io.cn" export FLUTTER_HOME/Users/leon/Flutter/flutter_3_10_4/f…...

编程日记 2024/1/27 6:30:31

架构整洁之道-设计原则

4 设计原则通常来说，要想构建一个好的软件系统，应该从写整洁的代码开始做起。这就是SOLID设计原则所要解决的问题。 SOLID原则的主要作用就是告诉我们如何将数据和函数组织成为类，以及如何将这些类链接起来成为程序。请注意，这里…...

编程日记 2024/1/27 6:27:28

数据结构(队列)

一.什么是队列 1.队列定义队列是一种特殊的线性表，特殊之处在于他只允许在表的前端(front)进行删除操作，而在表的后端(rear)进行插入操作。和栈一样，队列也是一种操作受限制的线性表。进行插入操作的一端称为队尾，进行删除操作的…...

编程日记 2024/1/27 6:26:27

docker容器启动后修改或添加端口 nacos容器版本2.x需要额外开放9848、9849

1.输入docker ps -a查看需要修改的容器ID: 记录下、 docker ps -a 2.停止docker systemctl stop docker 3.进入docker 容器文件夹，找到对应容器的位置： docker的默认文件夹应该是/var/lib/docker 如果不是root用户查看的话，可能会出现权限…...

编程日记 2024/1/27 6:25:26

C语言实现归并排序算法（附带源代码）

归并排序把数据分为两段，从两段中逐个选最小的元素移入新数据段的末尾。可从上到下或从下到上进行。动态效果过程演示： 归并排序（Merge Sort）是一种分治算法，它将一个数组分为两个子数组，分别对这两个…...

编程日记 2024/1/27 6:24:25

考研C语言刷题基础篇之分支循环结构基础（二）

目录第一题分数求和第二题：求10 个整数中最大值第三题：在屏幕上输出9*9乘法口诀表第四题：写一个代码：打印100~200之间的素数第五题：求斐波那契数的第N个数斐波那契数的概念：前两个数相加等于第三…...

编程日记 2024/1/27 6:22:23

Scala基础知识

scala 1、scala简介 scala是运行在JVM上的多范式编程语言，同时支持面向对象和面向函数式编程。 2、scala解释器要启动scala解释器，只需要以下几步： 按住windows键 r输入scala即可在scala命令提示窗口中执行:quit，即可退…...

编程日记 2024/1/27 6:21:21

[特殊字符] 智能合约中的数据是如何在区块链中保持一致的？

🧠 智能合约中的数据是如何在区块链中保持一致的？ 为什么所有区块链节点都能得出相同结果？合约调用这么复杂，状态真能保持一致吗？本篇带你从底层视角理解“状态一致性”的真相。一、智能合约的数据存储在哪里&#xf…...

编程新知 2025/6/21 14:52:47

1.3 VSCode安装与环境配置

进入网址Visual Studio Code - Code Editing. Redefined下载.deb文件，然后打开终端，进入下载文件夹，键入命令 sudo dpkg -i code_1.100.3-1748872405_amd64.deb 在终端键入命令code即启动vscode 需要安装插件列表 1.Chinese简化 2.ros …...

编程新知 2025/7/4 20:06:41

苍穹外卖--缓存菜品

1.问题说明用户端小程序展示的菜品数据都是通过查询数据库获得，如果用户端访问量比较大，数据库访问压力随之增大 2.实现思路通过Redis来缓存菜品数据，减少数据库查询操作。缓存逻辑分析： ①每个分类下的菜品保持一份缓存数据…...

编程新知 2025/7/5 12:06:21

分布式增量爬虫实现方案

之前我们在讨论的是分布式爬虫如何实现增量爬取。增量爬虫的目标是只爬取新产生或发生变化的页面，避免重复抓取，以节省资源和时间。在分布式环境下，增量爬虫的实现需要考虑多个爬虫节点之间的协调和去重。另一种思路：将增量判…...

编程新知 2025/7/4 15:34:29

sipsak：SIP瑞士军刀！全参数详细教程！Kali Linux教程！

简介 sipsak 是一个面向会话初始协议 (SIP) 应用程序开发人员和管理员的小型命令行工具。它可以用于对 SIP 应用程序和设备进行一些简单的测试。 sipsak 是一款 SIP 压力和诊断实用程序。它通过 sip-uri 向服务器发送 SIP 请求，并检查收到的响应。它以以下模式之一…...

编程新知 2025/7/5 15:06:40

【笔记】WSL 中 Rust 安装与测试完整记录

#工作记录 WSL 中 Rust 安装与测试完整记录 1. 运行环境系统：Ubuntu 24.04 LTS (WSL2)架构：x86_64 (GNU/Linux)Rust 版本：rustc 1.87.0 (2025-05-09)Cargo 版本：cargo 1.87.0 (2025-05-06) 2. 安装 Rust 2.1 使用 Rust 官方安…...

编程新知 2025/7/4 13:20:56

华为OD机考-机房布局

import java.util.*;public class DemoTest5 {public static void main(String[] args) {Scanner in new Scanner(System.in);// 注意 hasNext 和 hasNextLine 的区别while (in.hasNextLine()) { // 注意 while 处理多个 caseSystem.out.println(solve(in.nextLine()));}}priv…...

编程新知 2025/7/2 15:38:04

（一）单例模式

一、前言单例模式属于六大创建型模式，即在软件设计过程中，主要关注创建对象的结果，并不关心创建对象的过程及细节。创建型设计模式将类对象的实例化过程进行抽象化接口设计，从而隐藏了类对象的实例是如何被创建的，封装了软件系统使用的具体对象类型。六大创建型模式包括…...

编程新知 2025/7/5 11:59:36

Chromium 136 编译指南 Windows篇：depot_tools 配置与源码获取（二）

引言工欲善其事，必先利其器。在完成了 Visual Studio 2022 和 Windows SDK 的安装后，我们即将接触到 Chromium 开发生态中最核心的工具——depot_tools。这个由 Google 精心打造的工具集，就像是连接开发者与 Chromium 庞大代码库的智能桥梁…...

编程新知 2025/7/4 15:32:57

9-Oracle 23 ai Vector Search 特性知识准备

很多小伙伴是不是参加了免费认证课程（限时至2025/5/15） Oracle AI Vector Search 1Z0-184-25考试，都顺利拿到certified了没。各行各业的AI 大模型的到来，传统的数据库中的SQL还能不能打，结构化和非结构的话数据如何和…...

编程新知 2025/7/4 7:11:17

Batch Norm

实现

相关文章：