当前位置： 首页 > news >正文

chatglm-6b量化推理指标记录

news 2026/4/2 8:33:38

chatglm量化推理指标对比，单卡显存32G, 保持batchsize为64不变。通过不同的量化可以节省显存进而提升提升batch size，加快全量数据的推理速度。当然通过量化可以降低大模型的显存使用门槛。
在这里插入图片描述

相关文章：

chatglm-6b量化推理指标记录

chatglm量化推理指标对比，单卡显存32G, 保持batchsize为64不变。通过不同的量化可以节省显存进而提升提升batch size，加快全量数据的推理速度。当然通过量化可以降低大模型的显存使用门槛。...

编程日记 2023/7/29 16:46:31

Android kotlin系列讲解之最佳的UI体验 - Material Design 实战

目录 一、什么是Material Design二、Toolbar三、滑动菜单1、DrawerLayout2、NavigationView 四、悬浮按钮和可交互提示1、FloatingActionButton2、Snackbar3、CoordinatorLayout 五、卡片式布局1、MaterialCardView2、AppBarLayout 六、可折叠式标题栏1、CollapsingToolbarLayo…...

编程日记 2023/7/29 16:45:30

链表基础知识

一、什么是链表 链表是一种物理存储结构上非连续，非顺序的存储结构，数据元素的逻辑顺序是通过链表中的指针链接次序实现的。 链表的结构是多式多样的，当时通常用的也就是两种： （1）第一种是无头非循环单向…...

编程日记 2023/7/29 16:44:29

process.env.npm_config_argv的值3个参数remain、cooked、original什么含义

在使用Webpack进行打包时，判断process.env.npm_config_argv的值通常是为了根据命令行参数来决定打包的行为。process.env.npm_config_argv是一个环境变量，保存了当前运行的npm命令和其参数。 具体而言，process.env.npm_config_argv的值是一个…...

编程日记 2023/7/29 16:43:26

【飞书】飞书导出md文档 | 飞书markdown文档导出 | 解决飞书只能导出pdf word

一、飞书导出markdown github地址：https://github.com/Wsine/feishu2md 这是一个下载飞书文档为 Markdown 文件的工具，使用 Go 语言实现。 请看这里：招募有需求和有兴趣的开发者，共同探讨开发维护，有兴趣请联系。 二、…...

编程日记 2023/7/29 16:42:26

零信任网络架构与实现技术的研究与思考

目前，国外已有较多有关零信任网络的研究与实践，包括谷歌的 BeyondCorp、BeyondProd，软件定义边界（Software Defined Perimeter，SDP） 及盖特提出的“持续自适应风险与信任评估”等。国内也有不少安全厂商积极…...

编程日记 2023/7/29 16:41:24

Unity 性能优化二：内存问题

目录 策略导致的内存问题 GFX内存 纹理资源 压缩格式 Mipmap 网格资源 Read/Write 顶点数据 骨骼 静态合批 Shader资源 Reserved Memory RenderTexture 动画资源 音频资源 字体资源 粒子系统资源 Mono堆内存 策略导致的内存问题 1. Assetbundle 打包的时候…...

编程日记 2023/7/29 16:40:22

JavaScript与TypeScript的区别

JavaScript和TypeScript是两种不同的编程语言，在一些方面有一些区别。 1. 类型系统：JavaScript是一种动态类型语言，变量的类型是在运行时确定的，并且可以随时更改。而TypeScript引入了静态类型系统，可以在编译时检查代…...

编程日记 2023/7/29 16:39:21

【NetCore】05-使用Autofac增强容器能力

文章目录 1.什么情况下需要引入第三方容器组件2.如何集成Autoface 1.什么情况下需要引入第三方容器组件 基于名称的注入属性注入子容器基于动态代理的AOP 核心扩展点：IServiceProviderFactory 第三方注入容器均使用这个类作为扩展点，将其注入到框架中…...

编程日记 2023/7/29 16:38:20

sparksql参数

Spark参数场景配置 参数类型 参数 参数说明 平台默认值 场景与建议 资源申请 spark.executor.memory Executor Java进程的堆内存大小 即Executor Java进程的Xmx值 2g 默认设置,或者同时等比例增大,最高不超过默认值的3倍,超过的单独拿出来看下 (注意作业是否数据倾斜&…...

编程日记 2023/7/29 16:37:16

STM32读写内部Flash

参考：https://blog.csdn.net/Caramel_biscuit/article/details/131925715 参考：https://blog.csdn.net/qq_36075612/article/details/124087574?spm1001.2014.3001.5502 目录 内存映射内部Flash的构成对内部Flash的写入过程查看工程内存的分布ROM加载空…...

编程日记 2023/7/29 16:36:14

golang文件锁，目录锁，syscall包的使用

先说结论 1. golang提供了syscall包来实现文件/目录的加锁，解锁 2. syscall包属于文件锁，是比较底层的技术，并不能在所有操作系统上完全实现，linux上实现了，windows下面就没有 3. 加锁时调用syscall.Flock(fd&#…...

编程日记 2023/7/29 16:35:12

数据库数据恢复-Syabse数据库存储页底层数据杂乱的数据恢复案例

数据库恢复环境： Sybase版本：SQL Anywhere 8.0。 数据库故障： 数据库所在的设备意外断电后，数据库无法启动。 错误提示： 使用Sybase Central连接后报错： 数据库故障分析： 经过北亚企安数据恢复…...

编程日记 2023/7/29 16:34:10

移远通信推出新一代高算力智能模组SG885G-WF，为工业和消费级IoT应用带来全新性能标杆

2023年7月24日，全球领先的物联网整体解决方案供应商移远通信宣布，正式推出其新一代旗舰级安卓智能模组SG885G-WF。该智能模组具有高达48 TOPS 的AI综合算力、强大性能及丰富的多媒体功能，非常适用于需要高处理能力和多媒体功能的工业和消费者…...

编程日记 2023/7/29 16:33:09

微信小程序开发，小程序类目符合，线上版本无权限申请wx.getLocation接口

我开发 的小程序类目符合wx.getLocation接口的申请标准 但是却还是显示无权限申请 后来研究好久才发现，小程序需要在发布线上版本时提交用户隐私保护指引 如未设置也可以在 设置-服务内容声明-用户隐私保护指引-声明处理用户信息项并补充填写后提交用户隐私协议审核…...

编程日记 2023/7/29 16:32:06

vue2企业级项目（五）

vue2企业级项目（五） 页面适配、主题切换 1、适配 项目下载插件 npm install --save-dev style-resources-loader vue-cli-plugin-style-resources-loader修改vue.config.js部分内容 const path require("path");module.exports {pluginOpt…...

编程日记 2023/7/29 16:31:05

【HTML5】拖放详解及实现案例

文章目录 效果预览代码实现 效果预览 代码实现 <!DOCTYPE html> <html><head><meta charset"utf-8"><title>一颗不甘坠落的流星</title><style>#div1,#div2 {float: left;width: 100px;height: 27px;margin: 10px;paddin…...

编程日记 2023/7/29 16:30:04

Codeforces Round 888 (Div. 3)（视频讲解全部题目）

[TOC](Codeforces Round 888 (Div. 3)&#xff08;视频讲解全部题目&#xff09;) Codeforces Round 888 (Div. 3)&#xff08;A–G&#xff09;全部题目详解 A Escalator Conversations #include<bits/stdc.h> #define endl \n #define INF 0x3f3f3f3f using namesp…...

编程日记 2023/7/29 16:29:03

MySQL之深入InnoDB存储引擎——物理文件

文章目录 一、参数文件二、日志文件三、表结构定义文件四、InnoDB 存储引擎文件1、表空间文件2、重做日志文件 一、参数文件 当 MySQL 实例启动时&#xff0c;数据库会先去读一个配置参数文件&#xff0c;用来寻找数据库的各种文件所在位置以及指定某些初始化参数。在默认情况…...

编程日记 2023/7/29 16:28:02

Jquery操作html常用函数

1. text() 获取元素的文本内容&#xff1a;$("#element").text(); 设置元素的文本内容&#xff1a;$("#element").text("New Text"); 2. html() 获取元素的 HTML 内容&#xff1a;$("#element").html(); 设置元素的 HTML 内容&am…...

编程日记 2023/7/29 16:27:01

Java互联网大厂求职面试实录：Spring Boot、微服务与全栈技术深度解析

Java互联网大厂求职面试实录&#xff1a;Spring Boot、微服务与全栈技术深度解析 面试场景介绍 本文以互联网大厂面试为背景&#xff0c;通过严肃的面试官与搞笑的水货程序员“谢飞机”的对话&#xff0c;深入探讨Java求职者面试中常见的技术问题。涵盖Java SE、Jakarta EE、Sp…...

编程新知 2026/4/2 6:54:46

OpenClaw+Qwen3-14b_int4_awq自动化写作：从资料收集到排版发布

OpenClawQwen3-14b_int4_awq自动化写作&#xff1a;从资料收集到排版发布 1. 为什么需要自动化写作工作流 作为一个技术博主&#xff0c;我经常面临这样的困境&#xff1a;明明有大量想分享的内容&#xff0c;却总被繁琐的写作流程拖累。从资料收集、大纲梳理到内容生成和格式…...

编程新知 2026/4/2 6:04:16

Java车载HMI卡顿问题终极解析，GPU渲染线程阻塞+Binder调用链路断点调试（附AS+ADB定制脚本）

第一章&#xff1a;Java车载HMI卡顿问题的系统性认知车载人机交互界面&#xff08;HMI&#xff09;作为智能座舱的核心入口&#xff0c;其响应流畅度直接影响用户安全与体验。当基于Java&#xff08;如Android Automotive OS或定制JVM嵌入式框架&#xff09;构建的HMI出现卡顿&…...

编程新知 2026/4/2 5:41:50

如何使用4个经过验证的技巧将Android联系人备份到Mac

联系人无疑是我们智能手机上最重要的数据。一旦失去联系&#xff0c;我们就会与这个世界上最亲爱的人失去联系&#xff1b;也许他们是家人、爱人、朋友、同学、同事、学生等。因此&#xff0c;联系人备份对我们来说非常重要。与将iPhone联系人备份到Mac相对容易不同&#xff0c…...

编程新知 2026/4/2 5:01:41

Git误操作急救手册（1）：为什么我们需要一本Git急救手册？——理解版本控制的‘事故现场’

Git误操作急救手册（1）：为什么我们需要一本Git急救手册？——理解版本控制的‘事故现场’ 上周三凌晨两点，我盯着终端里那行 git push --force 的历史记录，后背一阵发凉。 屏幕上的红色错误提示像急诊室的监护仪在闪烁——远程分支已经和本地彻底分道扬镳，三个同事当天提交…...

编程新知 2026/4/2 4:25:18

【数据结构与算法】第19篇：树与二叉树的基础概念

一、什么是树1.1 树的定义树是 n&#xff08;n ≥ 0&#xff09;个节点的有限集合。当 n 0 时称为空树。任意非空树满足&#xff1a;有且仅有一个根节点其余节点可分为 m 个互不相交的子树现实中的例子&#xff1a;文件系统、公司组织架构、网页DOM树。1.2 树的术语画一棵树来…...

编程新知 2026/4/2 3:52:33

STM32环境检测系统设计与物联网应用

1. 项目概述这个基于STM32的环境检测系统是我去年为一个工业客户开发的解决方案&#xff0c;经过3个月的迭代优化已经稳定运行了半年多。系统通过多种传感器实时监测环境参数&#xff0c;并将数据上传至OneNet云平台&#xff0c;实现了本地和远程的双重监控。提示&#xff1a;项…...

编程新知 2026/4/2 0:26:58

28-模块四-AI代码审核实战 第28讲-代码质量评分体系 - 可维护性 可读性 可测试性的量化指标

本讲目标：理解「量化指标」如何把主观感受变成可治理信号；掌握从 Python AST 计算圈复杂度与认知复杂度的基本方法；实现可配置权重的 QualityScorer、历史趋势与团队基准对比接口；输出 JSON 与 Markdown 双语报告，嵌入 CodeSentinel 审核结论。本讲强调可解释：每个分数都…...

编程新知 2026/4/1 23:32:19

Pspice仿真新手避坑大全：为什么你的TL431仿真总报错？可能是模型库没加对

Pspice仿真新手避坑大全&#xff1a;为什么你的TL431仿真总报错&#xff1f; 刚接触Pspice的工程师们&#xff0c;是否经常遇到这样的场景&#xff1a;精心设计的TL431电路图明明检查了无数遍&#xff0c;点击仿真按钮后却弹出一堆令人困惑的错误提示&#xff1f;这就像拼好了乐…...

编程新知 2026/4/1 22:45:34

探索GetQzonehistory：永久保存QQ空间记忆的数字时光机

探索GetQzonehistory&#xff1a;永久保存QQ空间记忆的数字时光机 【免费下载链接】GetQzonehistory 获取QQ空间发布的历史说说 项目地址: https://gitcode.com/GitHub_Trending/ge/GetQzonehistory 在数字时代&#xff0c;我们的记忆分散在各个社交平台&#xff0c;而Q…...

编程新知 2026/4/1 22:39:31