当前位置： 首页 > news >正文

深度学习好文记录，反复学习

news 2025/9/18 17:50:13

recent update time：2023.12.2

深度学习入门 - 知乎、这本书也很好，作者写的专栏不错。

机器学习，深度学习一些好文_一只菜得不行的鸟的博客-CSDN博客

卷积神经网络学习路线（五）| 卷积神经网络参数设置，提高泛化能力？_"eval_type\":\"pr"-CSDN博客

一文读懂官方给出torch.nn.RNN API的参数及手写RNN API复现_nn.rnn参数-CSDN博客

关于BN折叠的问题

使用Batch Normalization折叠来加速模型推理-CSDN博客

BN层和前一层（Conv，Linear）

通常，在batch normalization层之前的层中是没有bias的，因为这是无用的，也是对参数的浪费，因为任何常数都会被batch normalization抵消掉。

在深度神经网络中，有时在 Batch Normalization 层之前的线性层（例如全连接层或卷积层）会被设计为没有偏置（bias）。这样的设计是有一些原因的，尤其是在使用 Batch Normalization 时：

Batch Normalization的效果： Batch Normalization 在其操作中包含了均值的减去和方差的除以等操作，这些操作本身具有平移和缩放的效果。如果在 Batch Normalization 层之前加上了偏置，它的作用在某种程度上会被 Batch Normalization 的操作所抵消，从而可能减弱 Batch Normalization 的效果。

BN

标准化与归一化_标准化和归一化_Weber77的博客-CSDN博客

ML领域更常使用标准化，如果数据不为稳定，存在极端的最大最小值，不要用归一化。z值归一化=标准化

BN可以省去dropout，L1, L2等正则化处理方法.

这人写的都不错：

Transformer 相关理解（上）_向量内积 相似性-CSDN博客

相关文章：

深度学习好文记录，反复学习

recent update time：2023.12.2 深度学习入门 - 知乎、这本书也很好，作者写的专栏不错。 机器学习，深度学习一些好文_一只菜得不行的鸟的博客-CSDN博客 卷积神经网络学习路线（五）| 卷积神经网络参数设置，提…...

编程日记 2023/12/3 11:04:49

CSS浅谈动画性能

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 目的一、举个栗子二、性能分析1.从图层分析2.性能分析 总结 目的 为了探究使用动画时，『transform』和『width、height、margin等』的差异 一、举个栗子…...

编程日记 2023/12/3 11:03:48

万能的视频格式播放器

今天博主给大家带来一款“万能”的视频播放器——VLC Media Player，支持的文件格式非常多，大家快来一起看看吧！ VLC Media Player 是一款可播放大多数格式，而无需安装编解码器包的媒体播放器。可以播放 MPEG-1、MPEG-2、MPEG-4、D…...

编程日记 2023/12/3 11:02:47

设计模式---第五篇

系列文章目录 文章目录 系列文章目录前言一、知道观察者模式吗？前言 前些天发现了一个巨牛的人工智能学习网站，通俗易懂，风趣幽默，忍不住分享一下给大家。点击跳转到网站，这篇文章男女通用，看懂了就去分享给你的码吧。 一、知道观察者模式吗？ 答：观察者模式是定义对…...

编程日记 2023/12/3 11:01:46

.NET8构建统计Extreme Optimization Numerical Libraries

为 .NET 8 构建统计应用程序 Extreme Optimization Numerical Libraries for .NET V8.1.22 添加了对 .NET 8 的支持，使您可以使用最新版本的 Microsoft 平台。 Extreme Optimization Numerical Libraries for .NET 是通用数学和统计类的集合，为技术和统计…...

编程日记 2023/12/3 11:00:45

07-原型模式-C语言实现

原型模式： Specify the kinds of objects to create using a prototypical instance,and create new objects by copying this prototype.（用原型实例指定创建对象的种类， 并且通过拷贝这些原型创建新的对象。 ） UML图&#xff1…...

编程日记 2023/12/3 10:57:43

深度学习与深度迁移学习有什么区别？

深度学习包含深度迁移学习，它们都利用了深层神经网络（Deep Neural Network，DNN）来处理数据，并从中学习特征。但是，它们也有一些区别。 深度学习是一种机器学习方法，它通过多层神经网络来自动学…...

编程日记 2023/12/3 10:56:42

创建Asp.net MVC项目Ajax实现视图页面数据与后端Json传值显示

简述回顾 继上篇文章创建的mvc传值这里说明一下Json传值。在mvc框架中，不可避免地会遇到前台传值到后台，前台接收后台的值的情况（前台指view，后台指controller），有时只需要从控制器中返回一个处理的结果&a…...

编程日记 2023/12/3 10:55:41

1089 Insert or Merge （插入排序，相邻归并排序，附模拟实现）

注意点1：判断插入排序不能从头开始判断是否为目标数组， 比如：初始为1 2 3 4 3，目标数组也为1 2 3 4 3，则如果是从头开始推的，则下一步会变成1 2 3 4 3，而下一步应该是 1 2 3 3 4。所以我们应该…...

编程日记 2023/12/3 10:53:40

基于算能的国产AI边缘计算盒子8核心A53丨17.6Tops算力

边缘计算盒子 8核心A53丨17.6Tops算力 ● 可提供17.6TOPS（INT8）的峰值计算能力、2.2TFLOPS（FP32）的高精度算力，单芯片最高支持32路H.264 & H.265的实时解码能力。 ● 适配Caffe/TensorFlow/MxNet/PyTorch/ ONNX/…...

编程日记 2023/12/3 10:52:39

Eaxyx 让圆球跟随鼠标移动

如果出现2023，代表配置成功: 进入Eaxy官方网站，点击文档： 选择 函数->绘图函数->initgraph: 可以看见initgraph（）函数有如下三个参数: 现在我们想生成一个1280*720大小的窗口： 我们需写如下代码: 但…...

编程日记 2023/12/3 10:50:37

Node.js 事件循环：定时任务、延迟任务和 I/O 事件的艺术

🤍 前端开发工程师（主业）、技术博主（副业）、已过CET6 🍨 阿珊和她的猫_CSDN个人主页 🕠 牛客高级专题作者、在牛客打造高质量专栏《前端面试必备》 🍚 蓝桥云课签约作者、已在蓝桥云…...

编程日记 2023/12/3 10:49:36

陪诊系统：基于自然语言处理的患者沟通创新

医疗领域的数字化转型正日益引入创新技术，其中基于自然语言处理（NLP）的陪诊系统成为提升患者沟通的一项关键技术。本文将深入研究这一领域，介绍陪诊系统如何借助NLP实现患者沟通的创新，并提供一个简单的Python代码示例…...

编程日记 2023/12/3 10:47:35

实用攻略——SD-WAN网络配置步骤详解

SD-WAN（软件定义广域网）作为一种新兴的网络技术，被广泛应用于构建高效、可靠的企业组网。 本文将详细介绍企业组网中SD-WAN涉及的配置过程，并提供一些配置技巧，以帮助企业快速了解企业组网的配置。通过使用SD-WAN技术&…...

编程日记 2023/12/3 10:45:33

​无人机摄影测量

无人机摄影测量技术是传统航空摄影测量手段的有力补充，具有机动灵活、高效快速、精细准确、作业成本低、生产周期短、影像获取空间分辨率高、高危地区探测等优势。无人机与航空摄影测量相结合使得“无人机数字低空遥感”成为航空遥感领域的一个崭新发展方向。无人机…...

编程日记 2023/12/3 10:44:32

对el-select封装成组件使用

效果与直接使用el-select一样&#xff0c;多处用el-select显得代码冗余就进行了封装 效果图&#xff1a; el-select封装&#xff1a; <template><div class"my-select"><el-selectv-model"person.modelValue":placeholder"placehold…...

编程日记 2023/12/3 10:42:31

pytorch 多卡并行训练

目录 设置参数&#xff1a; 训练时参数&#xff1a; 调用命令&#xff1a; 设置参数&#xff1a; import argparseparser argparse.ArgumentParser()parser.add_argument(--batch_size, typeint, default64, helpBatch size for training)parser.add_argument(--local_rank…...

编程日记 2023/12/3 10:39:28

C# Bin、XML、Json的序列化和反序列化

1&#xff09;序列化前的准备 声明类&#xff1a; [Serializable]public class BandItem{//JsonIgnore&#xff1a;当不想把某字段值序列化到Json时使用//[JsonIgnore]public string Name { get; set; }public string MusicStyle { get; set; }public string Masterpiece { ge…...

编程日记 2023/12/3 10:38:28

mediapipe+opencv实现保存图像中的人脸，抹去其他信息

mediapipeopencv MediaPipe本身不提供图像处理功能&#xff0c;它主要用于检测和跟踪人脸、手势、姿势等。如果您想要从图像中仅提取人脸主要信息并去除其他信息. # codingutf-8 """project: teatAuthor&#xff1a;念卿 刘file&#xff1a; test.pydate&…...

编程日记 2023/12/3 10:37:27

clickhouse的向量化执行

背景 clickhouse快的很大一部分原因来源于数据的向量化执行&#xff0c;本文就来看一下向量化执行和正常标量执行的区别 SIMD的向量化执行 从上图可知&#xff0c;clickhouse通过SIMD指令可以做到一个cpu周期操作两个向量的运算操作&#xff0c;比起普通的cpu指令效率提高了N…...

编程日记 2023/12/3 10:35:25

大话软工笔记—需求分析概述

需求分析&#xff0c;就是要对需求调研收集到的资料信息逐个地进行拆分、研究&#xff0c;从大量的不确定“需求”中确定出哪些需求最终要转换为确定的“功能需求”。 需求分析的作用非常重要&#xff0c;后续设计的依据主要来自于需求分析的成果&#xff0c;包括: 项目的目的…...

编程新知 2025/9/17 3:19:40

【JVM】- 内存结构

引言 JVM&#xff1a;Java Virtual Machine 定义&#xff1a;Java虚拟机&#xff0c;Java二进制字节码的运行环境好处&#xff1a; 一次编写&#xff0c;到处运行自动内存管理&#xff0c;垃圾回收的功能数组下标越界检查&#xff08;会抛异常&#xff0c;不会覆盖到其他代码…...

编程新知 2025/9/9 14:49:12

Linux简单的操作

ls ls 查看当前目录 ll 查看详细内容 ls -a 查看所有的内容 ls --help 查看方法文档 pwd pwd 查看当前路径 cd cd 转路径 cd .. 转上一级路径 cd 名 转换路径 …...

编程新知 2025/9/11 13:56:27

C++ 求圆面积的程序（Program to find area of a circle）

给定半径r&#xff0c;求圆的面积。圆的面积应精确到小数点后5位。 例子&#xff1a; 输入&#xff1a;r 5 输出&#xff1a;78.53982 解释&#xff1a;由于面积 PI * r * r 3.14159265358979323846 * 5 * 5 78.53982&#xff0c;因为我们只保留小数点后 5 位数字。 输…...

编程新知 2025/9/13 0:44:14

CRMEB 框架中 PHP 上传扩展开发：涵盖本地上传及阿里云 OSS、腾讯云 COS、七牛云

目前已有本地上传、阿里云OSS上传、腾讯云COS上传、七牛云上传扩展 扩展入口文件 文件目录 crmeb\services\upload\Upload.php namespace crmeb\services\upload;use crmeb\basic\BaseManager; use think\facade\Config;/*** Class Upload* package crmeb\services\upload* …...

编程新知 2025/8/9 13:14:15

爬虫基础学习day2

# 爬虫设计领域 工商&#xff1a;企查查、天眼查短视频&#xff1a;抖音、快手、西瓜 ---> 飞瓜电商&#xff1a;京东、淘宝、聚美优品、亚马逊 ---> 分析店铺经营决策标题、排名航空&#xff1a;抓取所有航空公司价格 ---> 去哪儿自媒体&#xff1a;采集自媒体数据进…...

编程新知 2025/8/27 21:28:45

重启Eureka集群中的节点，对已经注册的服务有什么影响

先看答案&#xff0c;如果正确地操作&#xff0c;重启Eureka集群中的节点&#xff0c;对已经注册的服务影响非常小&#xff0c;甚至可以做到无感知。 但如果操作不当&#xff0c;可能会引发短暂的服务发现问题。 下面我们从Eureka的核心工作原理来详细分析这个问题。 Eureka的…...

编程新知 2025/8/13 21:32:37

管理学院权限管理系统开发总结

文章目录 &#x1f393; 管理学院权限管理系统开发总结 - 现代化Web应用实践之路&#x1f4dd; 项目概述&#x1f3d7;️ 技术架构设计后端技术栈前端技术栈 &#x1f4a1; 核心功能特性1. 用户管理模块2. 权限管理系统3. 统计报表功能4. 用户体验优化 &#x1f5c4;️ 数据库设…...

编程新知 2025/7/26 23:29:41

【VLNs篇】07：NavRL—在动态环境中学习安全飞行

项目内容论文标题NavRL: 在动态环境中学习安全飞行 (NavRL: Learning Safe Flight in Dynamic Environments)核心问题解决无人机在包含静态和动态障碍物的复杂环境中进行安全、高效自主导航的挑战&#xff0c;克服传统方法和现有强化学习方法的局限性。核心算法基于近端策略优化…...

编程新知 2025/9/14 8:49:01

消息队列系统设计与实践全解析

文章目录 &#x1f680; 消息队列系统设计与实践全解析&#x1f50d; 一、消息队列选型1.1 业务场景匹配矩阵1.2 吞吐量/延迟/可靠性权衡&#x1f4a1; 权衡决策框架 1.3 运维复杂度评估&#x1f527; 运维成本降低策略 &#x1f3d7;️ 二、典型架构设计2.1 分布式事务最终一致…...

编程新知 2025/9/7 8:48:53