当前位置： 首页 > news >正文

NCNN Conv量化详解1

news 2026/2/9 12:39:19

1. NCNN的Conv量化计算流程

正常的fp32计算中，一个Conv的计算流程如下：
在这里插入图片描述
在NCNN Conv进行Int8计算时，计算流程如下：
在这里插入图片描述
NCNN首先将输入(bottom_blob)和权重(weight_blob)量化成INT8，在INT8下计算卷积，然后反量化到fp32，再和未量化的bias相加，得到输出(top_blob)

输入和权重的量化公式：
在这里插入图片描述
由于weight_blob(int8)和bottom_blob(int8)是相乘的：
在这里插入图片描述
反量化的目的是将int8映射回原来的fp32，范围要保持一致；所以为了实现一个反映射，量化反量化的scale应该为：

相关文章：

NCNN Conv量化详解1

1. NCNN的Conv量化计算流程 正常的fp32计算中，一个Conv的计算流程如下： 在NCNN Conv进行Int8计算时，计算流程如下： NCNN首先将输入(bottom_blob)和权重(weight_blob)量化成INT8，在INT8下计算卷积，然后反量化到fp32，再和未量化的bias相加，得到输出(top_blob) 输入和…...

编程日记 2023/2/26 4:30:54

Redis大key多key拆分方案

业务场景中经常会有各种大key多key的情况， 比如：1：单个简单的key存储的value很大2：hash， set，zset，list 中存储过多的元素（以万为单位）3：一个集群存储了上亿的…...

编程日记 2023/2/26 4:29:38

python的类如何使用？兔c同学一篇关于python类的博文概述

本章内容如目录 所示： 文章目录1. 创建和使用类1.1 创建第一个python 类1.2 版本差异1.3 根据类创建实例1. 访问属性2. 调用方法3. 创建多个实例2. 使用类和实例2.1 给属性指定默认值2.2 修改属性的值3. 继承3.1 子类的 __init __()3.2 给子类定义属性和方法3.3 重写…...

编程日记 2023/2/26 4:28:20

Day60 动态规划总结

647. 回文子串 回文的做法注定我们得从里面入手，逐渐扩散到边界 初始化：准备一个ans，找到一个回文子串加一个 dp [[0] * n for _ in range(n)]ans 0 遍历公式： 当s[i]s[j]的时候，只要里面还是回文串，就能…...

编程日记 2023/2/26 4:27:05

UVM仿真环境搭建

环境 本实验使用环境为： Win10平台下的Modelsim SE-64 2019.2 代码 dut代码： module dut(clk,rst_n, rxd,rx_dv,txd,tx_en); input clk; input rst_n; input[7:0] rxd; input rx_dv; output [7:0] txd; output tx_en;reg[7:0] txd; reg tx_en;always…...

编程日记 2023/2/26 4:25:49

Azure AI基础到实战（C#2022）-认知服务（1）

目录 Azure 认知服务概述计算机视觉概述数据隐私和安全性计算机视觉快速入门光学字符识别 (OCR)OCR APIOCR 常用功能Azure 门户准备两种部署方式OCR项目实战之车牌识别Azure 认知服务概述 Azure 认知服务是基于云的人工智能 (AI) 服务，可帮助开发人员在不具备直接的 AI 或数据…...

编程日记 2023/2/26 4:24:36

光栅化Triangles（笔记）

field of view (可见区域) 该角度越大,需要透视投影的角度越大,成像显示的内容越多 有Y值,则可得出成像范围 屏幕: 典型的光栅处理设备所有像素都被表示为x,y坐标轴形式 3D方块成像步骤: 先将其所在平面化为 与屏幕等长等宽的形式: 如何将一个三角形拆成像素？采样…...

编程日记 2023/2/26 4:23:19

【Oarcle】如何显示日本年号的日期格式 ？

语句大于一切，还需要语言吗？ 1. SELECT TO_CHAR(SYSDATE,EEYY/MM/DD,NLS_CALENDAR JAPANESE IMPERIAL) from dual;结果是： 令和05/02/25 Oracle SQL文中，年月日的显示，一定要使用双引号括起来，如 select…...

编程日记 2023/2/26 4:20:50

57_Pandas中的json_normalize将字典列表转换为DataFrame

57_Pandas中的json_normalize将字典列表转换为DataFrame 可以使用 pandas.json_normalize() 将具有公共键的字典列表转换为 pandas.DataFrame。 由于它是一种常用的JSON格式，可以通过Web API获取，所以能够将其转换为pandas.DataFrame是非常方便的。 在…...

编程日记 2023/2/26 4:19:33

OpenAPI SDK组件之javassist字节码

javassist介绍 Javassist是一个开源的分析、编辑和创建Java字节码的类库，主要优点是简单，不需要了解虚拟机指令，就能动态改变类的结构，或者动态生成类。 apisdk应用javassist 在apisdk中主要依靠javassist增强开发者声明的开放…...

编程日记 2023/2/26 4:18:16

【LeetCode】1247. 交换字符使得字符串相同(超级简单的算法，击败100%)

有两个长度相同的字符串 s1 和 s2，且它们其中 只含有 字符 "x" 和 "y"，你需要通过「交换字符」的方式使这两个字符串相同。 每次「交换字符」的时候，你都可以在两个字符串中各选一个字符进行交换。 交换只能发生在两个…...

编程日记 2023/2/26 4:16:55

23. 合并K个升序链表

解题思路：两种解法，一种优先级队列，一种分治优先级队列解法：以节点中存储的值进行排序依次遍历所有的链表，把链表中的节点加入到优先级队列中依次从优先级队列的弹出并删除最小的元素加入到新的链表中，直到…...

编程日记 2023/2/26 4:15:38

软中断与tasklet简介

一、软中断 1.1 何为软中断？ ​ Linux 系统为了解决中断处理程序执行过长的问题，将中断过程分成了两个阶段，分别是「上半部（Top Half）和下半部分（Bottom Half）」。 上半部用来快速处理中断。一…...

编程日记 2023/2/26 4:14:00

JUC 之 线程阻塞工具 LockSupport

——LockSupport 与 线程中断 线程中断机制 一个线程不应该由其他线程来强制中断或停止，而是应该由线程自己自行停止，所以，Thread.stop，Thread.suspend，Thread.resume 都已经被废弃 在 Java 中没有办法立即停止一条线…...

编程日记 2023/2/26 4:11:05

常用数据结构总结-Java版

常用数据结构总结（Java版） C/Java/Python 数据结构大比较 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Dokzp1HQ-1677329125447)(assets/image-20220116142815859.png)] array 同一种类型数据的集合，其实数组…...

编程日记 2023/2/26 4:09:47

【基础算法】二分例题（我在哪？）

🌹作者:云小逸 📝个人主页:云小逸的主页 📝Github:云小逸的Github 🤟motto:要敢于一个人默默的面对自己，强大自己才是核心。不要等到什么都没有了，才下定决心去做。种一颗树，最好的时间是十年前…...

编程日记 2023/2/26 4:06:39

怕上当？来看这份网络钓鱼和诈骗技术趋势

网络钓鱼和诈骗：当前的欺诈类型 网络钓鱼 钓鱼者可以攻击任何在线服务——银行、社交网络、政府门户网站、在线商店、邮件服务、快递公司等——中的证书。但是，顶级品牌的客户往往面临更大风险，因为相比小品牌，人们更喜欢使用和…...

编程日记 2023/2/26 4:05:24

2023年全国最新保安员精选真题及答案6

百分百题库提供保安员考试试题、保安职业资格考试预测题、保安员考试真题、保安职业资格证考试题库等，提供在线做题刷题，在线模拟考试，助你考试轻松过关。 61.关于保安员职业资格条件说法正确的是（）。 A:必须考试合格…...

编程日记 2023/2/26 4:01:33

unity热更新新方案，ILRuntime

ILRuntime 是一个独立的、跨平台的 .NET Runtime，可用于在 Unity 中实现热更功能。使用 ILRuntime，您可以在游戏运行时加载和执行 C# 脚本，而不需要重新编译整个项目。 以下是一些使用 ILRuntime 的基本步骤： 在 Unity Asset St…...

编程日记 2023/2/26 4:00:15

【J1】【队列】报数游戏

题目描述 有 n 个小朋友围成一圈玩游戏，小朋友从 1 至 n 编号，2 号小朋友坐在 1 号小朋友的顺时针方向，3 号小朋友坐在 2 号小朋友的顺时针方向，……，1 号小朋友坐在 n 号小朋友的顺时针方向。 游戏开始，…...

编程日记 2023/2/26 3:58:53

模型参数、模型存储精度、参数与显存

模型参数量衡量单位 M：百万（Million） B：十亿（Billion） 1 B 1000 M 1B 1000M 1B1000M 参数存储精度 模型参数是固定的，但是一个参数所表示多少字节不一定，需要看这个参数以什么…...

编程新知 2025/12/20 12:32:08

遍历 Map 类型集合的方法汇总

1 方法一 先用方法 keySet() 获取集合中的所有键。再通过 gey(key) 方法用对应键获取值 import java.util.HashMap; import java.util.Set;public class Test {public static void main(String[] args) {HashMap hashMap new HashMap();hashMap.put("语文",99);has…...

编程新知 2026/1/24 15:08:45

IGP（Interior Gateway Protocol，内部网关协议）

IGP（Interior Gateway Protocol，内部网关协议） 是一种用于在一个自治系统（AS）内部传递路由信息的路由协议，主要用于在一个组织或机构的内部网络中决定数据包的最佳路径。与用于自治系统之间通信的 EGP&…...

编程新知 2025/10/12 11:54:26

【python异步多线程】异步多线程爬虫代码示例

claude生成的python多线程、异步代码示例，模拟20个网页的爬取，每个网页假设要0.5-2秒完成。 代码 Python多线程爬虫教程 核心概念 多线程：允许程序同时执行多个任务，提高IO密集型任务（如网络请求）的效率…...

编程新知 2025/12/16 18:04:55

根据万维钢·精英日课6的内容，使用AI（2025）可以参考以下方法：

根据万维钢精英日课6的内容，使用AI（2025）可以参考以下方法： 四个洞见 模型已经比人聪明：以ChatGPT o3为代表的AI非常强大，能运用高级理论解释道理、引用最新学术论文，生成对顶尖科学家都有用的…...

编程新知 2026/1/10 1:08:51

Java 二维码

Java 二维码 **技术&#xff1a;**谷歌 ZXing 实现 首先添加依赖 <!-- 二维码依赖 --><dependency><groupId>com.google.zxing</groupId><artifactId>core</artifactId><version>3.5.1</version></dependency><de…...

编程新知 2025/9/6 16:22:45

【7色560页】职场可视化逻辑图高级数据分析PPT模版

7种色调职场工作汇报PPT&#xff0c;橙蓝、黑红、红蓝、蓝橙灰、浅蓝、浅绿、深蓝七种色调模版 【7色560页】职场可视化逻辑图高级数据分析PPT模版&#xff1a;职场可视化逻辑图分析PPT模版https://pan.quark.cn/s/78aeabbd92d1...

编程新知 2026/1/23 12:22:14

IP如何挑？2025年海外专线IP如何购买？

你花了时间和预算买了IP&#xff0c;结果IP质量不佳&#xff0c;项目效率低下不说&#xff0c;还可能带来莫名的网络问题&#xff0c;是不是太闹心了&#xff1f;尤其是在面对海外专线IP时&#xff0c;到底怎么才能买到适合自己的呢&#xff1f;所以&#xff0c;挑IP绝对是个技…...

编程新知 2026/1/28 3:04:35

现有的 Redis 分布式锁库（如 Redisson）提供了哪些便利？

现有的 Redis 分布式锁库&#xff08;如 Redisson&#xff09;相比于开发者自己基于 Redis 命令&#xff08;如 SETNX, EXPIRE, DEL&#xff09;手动实现分布式锁&#xff0c;提供了巨大的便利性和健壮性。主要体现在以下几个方面&#xff1a; 原子性保证 (Atomicity)&#xff…...

编程新知 2025/9/23 11:26:04

uniapp 字符包含的相关方法

在uniapp中&#xff0c;如果你想检查一个字符串是否包含另一个子字符串&#xff0c;你可以使用JavaScript中的includes()方法或者indexOf()方法。这两种方法都可以达到目的&#xff0c;但它们在处理方式和返回值上有所不同。 使用includes()方法 includes()方法用于判断一个字…...

编程新知 2025/9/28 19:00:18