当前位置： 首页 > news >正文

大模型LLM 在线量化；GPTQ\AWQ量化

news 2026/2/9 22:12:50

1、大模型LLM 在线量化

参考：https://www.cnblogs.com/bruceleely/p/17348782.html

##8bit
model = AutoModel.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True).quantize(8).half(

相关文章：

大模型LLM 在线量化；GPTQ\AWQ量化

1、大模型LLM 在线量化 参考：https://www.cnblogs.com/bruceleely/p/17348782.html ##8bit model = AutoModel.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True).quantize(8).half(...

编程日记 2023/11/21 6:57:24

记一次线上bug排查-----SpringCloud Gateway组件 请求头accept-encoding导致响应结果乱码

基于公司的业务需求，在SpringCloud Gateway组件的基础上，写了一个转发服务，测试开发阶段运行正常，并实现初步使用。但三个月后，PostMan请求接口，返回异常，经排查，从日志中获取到转发…...

编程日记 2023/11/21 6:56:23

复杂数据统计与R语言程序设计实验一

1.下载并安装R语言软件，熟悉基本操作的命令及操作界面，掌握软件的使用方法（提供学号加姓名的截图）。 2.下载并安装Rstudio， （提供运行代码及运行结果的截图）。 3.下载并安装R包DT，…...

编程日记 2023/11/21 6:55:22

UEFI实战——键盘操作

一、键盘操作 UEFI下如何获取键盘键值，用户输入按键方式分两种：一种是单个按键，另外一种是组合按键。两种方式对应两个Protocol服务，接下来分步讲解。 二、单个按键 单个按键使用Protocol服务是EFI_SIMPLE_TEXT_INPUT_PROTOCOL，它定义在MdePkg/Include/Protocol/Simple…...

编程日记 2023/11/21 6:53:19

苹果CMS首涂第30套可装修DIY主题模板免授权版

这是一款可以装修的主题，类似淘宝店装修一样，可以针对首页、栏目页、详情页、播放页进行自定义装修，内置10个模块自由选择、添加、修改、删除、排序操作，后续升级还会增加更多实用和个性模块供选择，主题内包含的导航、…...

编程日记 2023/11/21 6:52:17

C#每天复习一个重要小知识day2：有参与无参构造函数

using System;public class MyClass {private int value;// 有参构造函数public MyClass(int v){this.value v;}// 无参构造函数public MyClass(){this.value 0;}public static void Main(string[] args){// 使用有参构造函数实例化对象MyClass obj1 new MyClass(10);Consol…...

编程日记 2023/11/21 6:51:16

大语言模型的三阶段训练

为了训练专有领域模型，选择LLaMA2-7B作为基座模型，由于LLaMA模型中文词表有限，因此首先进行中文词表的扩展，然后进行三阶段训练（增量预训练，有监督微调，强化学习）。 代码将全部上传…...

编程日记 2023/11/21 6:49:14

面试题c/c++ --STL 算法与数据结构

1.6 STL 模板 模板底层实现：编译器会对函数模板进行两次编译， 在声明的地方对模板代码本身进行编译， 在调用的地方对参数替换后的代码进行编译。 模板传参分析 模板重载 vector 是动态空间， 随着元素的加入， 它的内…...

编程日记 2023/11/21 6:48:14

云原生微服务-理论篇

文章目录 分布式应用的需求分布式架构治理模式演进ESB 是什么？微服务架构 MSA微服务实践细节微服务治理框架sidercar 什么是service mesh？康威定律微服务的扩展性什么是MSA 架构？中台战略和微服务微服务总体架构组件微服务网关服务发现与路由…...

编程日记 2023/11/21 6:46:12

Unity模拟薄膜干涉效果

Unity制作薄膜干涉效果，色彩斑斓的黑色石头 大家好，我是阿赵。   这次来做一个模拟薄膜干涉的彩色效果，Shader是使用ASE来连接，也算是ASE做复杂一点的效果的一个例子吧。 一、什么是薄膜干涉 以下解释来源于百度百科&#xff1…...

编程日记 2023/11/21 6:44:10

AIGC ChatGPT4对Gbase数据库进行总结

ChatGPT4 用一个Prompt完成Gbase数据库的总结。 AIGC ChatGPT 职场案例 AI 绘画 与 短视频制作 PowerBI 商业智能 68集 数据库Mysql 8.0 54集 数据库Oracle 21C 142集 Office 2021实战应用 Python 数据分析实战， ETL Informatica 数据仓库案例实战 Excel 2021实操 …...

编程日记 2023/11/21 6:43:08

OSI网络模型与TCP/IP协议

OSI， Open system Interconnection Reference Model 开放式系统互联通信参考模型。是国际标准化组织在1984年定义的一个概念框架，用于协调制定进程间通信标准。OSI作为一个协议规范集，定义了七个层次，包括层次之间的相互关系及各层…...

编程日记 2023/11/21 6:42:08

C语言的5个内存段你了解吗？( 代码段/数据段/栈/堆)

前言：这些内存段在程序运行时起着不同的作用，有不同的分配方式和存储内容。对于 C 语言程序员来说，了解这些内存段的特性和用途有助于更好地理解内存管理、变量的存储位置以及程序执行过程中的内存分配情况 1. 代码段 (Code Segment) 内容&a…...

编程日记 2023/11/21 6:39:05

智能合约检测：新一代区块链技术的安全守护

目录 1、智能合约检测：新一代区块链技术的安全守护 2、智能合约性能检测步骤...

编程日记 2023/11/21 6:38:04

Flutter笔记：缩放手势

Flutter笔记 缩放手势 作者：李俊才 （jcLee95）：https://blog.csdn.net/qq_28550263 邮箱 ：291148484163.com 本文地址：https://blog.csdn.net/qq_28550263/article/details/134485138 目 录 1. 概述2. 缩放手…...

编程日记 2023/11/21 6:37:03

JAXB：用XmlElement注解复杂类型的Java属性，来产生多层嵌套的xml元素

例如&#xff0c;下面这段请求的xml代码&#xff0c;在元素body下面又多了一层&#xff0c;嵌套了4个元素&#xff1a; <?xml version"1.0" encoding"UTF-8"?><request><reqtype>04</reqtype><secret>test</secret>…...

编程日记 2023/11/21 6:36:02

万字长文 - Python 日志记录器logging 百科全书 - 高级配置之 日志分层

万字长文 - Python 日志记录器logging 百科全书 - 高级配置之 日志分层 前言 在 Python 的logging模块中&#xff0c;它不仅提供了基础的日志功能&#xff0c;还拥有一系列高级配置选项来满足复杂应用的日志管理需求。 说到logging 模块的高级配置&#xff0c;必须提及日志分…...

编程日记 2023/11/21 6:33:59

工作记录---为什么双11当天不能申请退款？（有趣~）

为什么&#xff1f; 服务降级了 服务降级&#xff1a; 当服务器压力剧增的情况下&#xff0c;根据实际业务情况及流量&#xff0c;对一些服务和页面有策略的不处理或换种简单的方式处理&#xff0c;从而释放服务器资源以保证核心交易正常运作或高效运作。 分布式系统的降级…...

编程日记 2023/11/21 6:32:58

ElasticSearch在Windows上的下载与安装

Elasticsearch是一个开源的分布式搜索和分析引擎&#xff0c;它可以帮助我们快速地搜索、分析和处理大量数据。Elasticsearch能够快速地处理结构化和非结构化数据&#xff0c;支持全文检索、地理位置搜索、自动补全、聚合分析等功能&#xff0c;能够承载各种类型的应用&#xf…...

编程日记 2023/11/21 6:31:57

软件测试/测试开发/人工智能丨基于Spark的分布式造数工具：加速大规模测试数据构建

随着软件开发规模的扩大&#xff0c;测试数据的构建变得越来越复杂&#xff0c;传统的造数方法难以应对大规模数据需求。本文将介绍如何使用Apache Spark构建分布式造数工具&#xff0c;以提升测试数据构建的效率和规模。 为什么选择Spark&#xff1f; 分布式计算&#xff1a;…...

编程日记 2023/11/21 6:30:57

8k长序列建模，蛋白质语言模型Prot42仅利用目标蛋白序列即可生成高亲和力结合剂

蛋白质结合剂&#xff08;如抗体、抑制肽&#xff09;在疾病诊断、成像分析及靶向药物递送等关键场景中发挥着不可替代的作用。传统上&#xff0c;高特异性蛋白质结合剂的开发高度依赖噬菌体展示、定向进化等实验技术&#xff0c;但这类方法普遍面临资源消耗巨大、研发周期冗长…...

编程新知 2026/1/25 13:18:12

AtCoder 第409​场初级竞赛 A~E题解

A Conflict 【题目链接】 原题链接&#xff1a;A - Conflict 【考点】 枚举 【题目大意】 找到是否有两人都想要的物品。 【解析】 遍历两端字符串&#xff0c;只有在同时为 o 时输出 Yes 并结束程序&#xff0c;否则输出 No。 【难度】 GESP三级 【代码参考】 #i…...

编程新知 2025/12/16 4:45:38

大语言模型如何处理长文本？常用文本分割技术详解

为什么需要文本分割？ 引言：为什么需要文本分割？一、基础文本分割方法1. 按段落分割（Paragraph Splitting）2. 按句子分割（Sentence Splitting）二、高级文本分割策略3. 重叠分割（Sliding Window）4. 递归分割（Recursive Splitting）三、生产级工具推荐5. 使用LangChain的…...

编程新知 2025/11/18 0:32:13

《用户共鸣指数（E）驱动品牌大模型种草：如何抢占大模型搜索结果情感高地》

在注意力分散、内容高度同质化的时代&#xff0c;情感连接已成为品牌破圈的关键通道。我们在服务大量品牌客户的过程中发现&#xff0c;消费者对内容的“有感”程度&#xff0c;正日益成为影响品牌传播效率与转化率的核心变量。在生成式AI驱动的内容生成与推荐环境中&#xff0…...

编程新知 2026/2/2 1:48:09

将对透视变换后的图像使用Otsu进行阈值化，来分离黑色和白色像素。这句话中的Otsu是什么意思？

Otsu 是一种自动阈值化方法&#xff0c;用于将图像分割为前景和背景。它通过最小化图像的类内方差或等价地最大化类间方差来选择最佳阈值。这种方法特别适用于图像的二值化处理&#xff0c;能够自动确定一个阈值&#xff0c;将图像中的像素分为黑色和白色两类。 Otsu 方法的原…...

编程新知 2026/1/9 19:36:58

基础测试工具使用经验

背景 vtune&#xff0c;perf, nsight system等基础测试工具&#xff0c;都是用过的&#xff0c;但是没有记录&#xff0c;都逐渐忘了。所以写这篇博客总结记录一下&#xff0c;只要以后发现新的用法&#xff0c;就记得来编辑补充一下 perf 比较基础的用法&#xff1a; 先改这…...

编程新知 2025/11/22 7:38:58

苍穹外卖--缓存菜品

1.问题说明 用户端小程序展示的菜品数据都是通过查询数据库获得&#xff0c;如果用户端访问量比较大&#xff0c;数据库访问压力随之增大 2.实现思路 通过Redis来缓存菜品数据&#xff0c;减少数据库查询操作。 缓存逻辑分析&#xff1a; ①每个分类下的菜品保持一份缓存数据…...

编程新知 2026/2/7 15:39:49

Python爬虫（一）：爬虫伪装

一、网站防爬机制概述 在当今互联网环境中&#xff0c;具有一定规模或盈利性质的网站几乎都实施了各种防爬措施。这些措施主要分为两大类&#xff1a; 身份验证机制&#xff1a;直接将未经授权的爬虫阻挡在外反爬技术体系&#xff1a;通过各种技术手段增加爬虫获取数据的难度…...

编程新知 2026/1/30 20:42:46

Spring AI与Spring Modulith核心技术解析

Spring AI核心架构解析 Spring AI&#xff08;https://spring.io/projects/spring-ai&#xff09;作为Spring生态中的AI集成框架&#xff0c;其核心设计理念是通过模块化架构降低AI应用的开发复杂度。与Python生态中的LangChain/LlamaIndex等工具类似&#xff0c;但特别为多语…...

编程新知 2025/12/14 17:38:21

【碎碎念】宝可梦 Mesh GO : 基于MESH网络的口袋妖怪 宝可梦GO游戏自组网系统

目录 游戏说明《宝可梦 Mesh GO》 —— 局域宝可梦探索Pokmon GO 类游戏核心理念应用场景Mesh 特性 宝可梦玩法融合设计游戏构想要素1. 地图探索&#xff08;基于物理空间 广播范围&#xff09;2. 野生宝可梦生成与广播3. 对战系统4. 道具与通信5. 延伸玩法 安全性设计 技术选…...

编程新知 2025/12/12 6:01:17