当前位置： 首页 > news >正文

NEFTune，SFT训练阶段给Embedding加噪音

news 2026/3/26 20:04:22

仿照CV里，数据增强的思路（给图像做旋转、反转、改变亮度等）；NLP里，SFT训练数据较少时，也可往embedding上加噪音，来增加训练数据的丰富程度。进而提升最终训练效果。

前提假设：Embedding向量，其附近的向量，是语义相似的。

效果：

能提升10%左右。

实现：

相关文章：

NEFTune，SFT训练阶段给Embedding加噪音

仿照CV里，数据增强的思路（给图像做旋转、反转、改变亮度等）；NLP里，SFT训练数据较少时，也可往embedding上加噪音，来增加训练数据的丰富程度。进而提升最终训练效果。 前提假设：Embed…...

编程日记 2024/12/12 4:07:40

uniapp -- 实现页面滚动触底加载数据

效果 首选，是在pages.json配置开启下拉刷新 {"path": "pages/my/document/officialDocument","style": {"navigationStyle":</...

编程日记 2024/12/12 4:06:38

L22.【LeetCode笔记】相交链表(新版)

目录 1.题目 代码模板 2.分析 ​编辑 算法误区 正确方法1 但不能通过所有的测试用例 修改后 提交结果 正确方法2 节省代码的技巧 1.题目 https://leetcode.cn/problems/3u1WK4/description/ 给定两个单链表的头节点 headA 和 headB &#xff0c;请找出并返回两个单…...

编程日记 2024/12/12 4:03:36

智能时代网络空间认知安全新观察

文章目录 前言一、历史上的四次认知革命二、人工智能革命掀起认知安全新浪潮三、人工智能技术塑造认知安全新范式四、人工智能治理应对认知安全新思考 前言 12月5日&#xff0c;在2024第三届北外滩网络安全论坛上以“智能时代网络空间认知安全新观察”为主题作主旨演讲&#x…...

编程日记 2024/12/12 4:02:34

游戏如何应对模拟器作弊

模拟器是指能在PC端模拟出安卓手机系统的软件&#xff0c;市面上比较常见的安卓模拟器有&#xff1a;雷电模拟器、MuMu模拟器、夜神模拟器等。 市面上常见的模拟器 模拟器既可以节省手机内存空间&#xff0c;避免长时间玩游戏手机发烫发热的尴尬&#xff0c;也可以用键盘鼠标对…...

编程日记 2024/12/12 3:58:28

c++ 判断一个 IP 地址（可能是 IPv6 或 IPv4）是否属于特定范围

在 C 中&#xff0c;判断一个 IP 地址&#xff08;可能是 IPv6 或 IPv4&#xff09;是否属于特定范围时&#xff0c;需要考虑两种不同的地址格式和它们的范围比较。IPv6 和 IPv4 地址结构完全不同&#xff0c;因此需要分别处理这两种地址类型。 实现思路&#xff1a; 识别 IP…...

编程日记 2024/12/12 3:45:18

计算机视觉——相机标定(Camera Calibration)

文章目录 1. 简介2. 原理3. 相机模型3.1 四大坐标系3.2 坐标系间的转换关系3.2.1 世界坐标系到相机坐标系3.2.2 相机坐标系到图像坐标系3.2.3 像素坐标系转换为图像坐标系3.2.4 世界坐标转换为像素坐标 3.3 畸变3.3.1 畸变类型3.3.1.1 径向畸变&#xff08;Radial Distortion&a…...

编程日记 2024/12/12 3:44:16

【qt环境配置】windows下的qt与vs工具集安装\版本对应关系

vs工具集安装通过vs的在线安装器勾选工具集即可 工具包下载路径&#xff1a;https://www.microsoft.com/zh-cn/download/details.aspx?id40784 配置工具集在qt中可以自动扫描到 《正确在 Windows 上配置 MSVC(2019) 作为 Qt 编译器》https://b3logfile.com/pdf/article/15922…...

编程日记 2024/12/12 3:41:14

GitHub使用

太久不用GitHub发现自己又有些不会了&#xff0c;突发奇想为何不把每次看到的有指导意义的博客收录一下以便下次查阅呢 如何上传文件夹到GitHub上&#xff08;配图详解&#xff09;&#xff1f;_github上傳資料夾-CSDN博客 github上如何删除自己的仓库_github删除仓库-CSDN博…...

编程日记 2024/12/12 3:40:13

元宇宙时代的社交平台：Facebook的愿景与实践

随着科技的不断进步&#xff0c;元宇宙&#xff08;Metaverse&#xff09;这一概念逐渐走进了人们的视野。作为全球最大的社交平台之一&#xff0c;Facebook&#xff08;现Meta&#xff09;在这场元宇宙革命中扮演着重要角色。Meta不仅在不断扩展其社交平台的边界&#xff0c;还…...

编程日记 2024/12/12 3:38:11

vue2中各种钩子函数的总结以及使用场景

在 Vue 2 中&#xff0c;生命周期钩子函数是 Vue 实例在不同阶段自动调用的函数。这些钩子允许开发者在组件的创建、更新和销毁的特定时刻插入自定义逻辑。以下是 Vue 2 中的各种生命周期钩子函数的总结及其使用场景。 生命周期钩子函数总结 1、beforeCreate 调用时机&#…...

编程日记 2024/12/12 3:37:09

软件架构：从传统单体到现代微服务的技术演变

1.引言 在软件开发中&#xff0c;架构设计不仅仅是程序员的技术任务&#xff0c;它更是一个项目成功的关键。无论是小型应用还是大型分布式系统&#xff0c;软件架构都直接影响着系统的可维护性、可扩展性、性能和稳定性。理解软件架构的必要性&#xff0c;能够帮助开发人员做…...

编程日记 2024/12/12 3:36:08

git新建远程分支后，无法切换

git remote # 列出所有远程主机 git remote update origin --prune # 更新远程主机origin 整理分支 git branch -r # 列出远程分支 git branch -vv # 查看本地分支和远程分支对应关系 git checkout -b gpf origin/gpf # 新建本地分支gpf与远程gpf分支相关…...

编程日记 2024/12/12 3:34:07

【SpringBoot】31 Session + Redis 实战

Gitee https://gitee.com/Lin_DH/system 介绍 【SpringBoot】30 Cookie、Session、Token https://blog.csdn.net/weixin_44088274/article/details/144241595 背景 Spring Session 是 Spring 的一个子项目&#xff0c;它提供了一种管理用户会话信息的方法&#xff0c;无论…...

编程日记 2024/12/12 3:31:04

在Windows环境下的rknn-toolkit环境搭建

首先安装好conda&#xff0c;我是用的是anaconda&#xff0c;miniconda也可以。 下载rknn_toolkit的轮子。可以直接在瑞芯微的git仓库中下载&#xff0c;地址为&#xff1a;github.com/rockchip-linux/rknn-toolkit/releases。我这里下载的是1.7.5版本的。选择rknn-toolkit-v1.…...

编程日记 2024/12/12 3:30:02

Facebook广告突然无消耗？原因解析与解决方案。

在Facebook广告投放中&#xff0c;广告突然无消耗是很多广告主都会遇到的难题。这种情况不仅浪费时间&#xff0c;还可能导致营销活动停滞&#xff0c;影响业务发展。那么&#xff0c;广告无消耗的原因是什么&#xff1f;又该如何解决呢&#xff1f; 一、Facebook广告无消耗的…...

编程日记 2024/12/12 3:23:56

Rabbitmq 镜像队列

RabbitMQ 支持高可用性队列&#xff08;HA Queues&#xff09;&#xff0c;可以在多个节点之间复制队列&#xff0c;确保即使某个节点失败&#xff0c;消息仍然可用。将 RabbitMQ 部署为集群&#xff0c;确保高可用性和负载均衡。 RabbitMQ 的镜像队列集群&#xff08;Mirrore…...

编程日记 2024/12/12 3:21:53

TensorBoard

1、TensorFlow的TensorBoard TensorBoard是TensorFlow的一个组件&#xff0c;它提供了一个交互式的界面&#xff0c;用于可视化TensorFlow程序的训练过程和模型结构。 使用TensorBoard&#xff0c;你可以&#xff1a; 可视化训练过程中的各种指标&#xff0c;如损失函数、准…...

编程日记 2024/12/12 3:20:52

运维实战：K8s 上的 Doris 高可用集群最佳实践

今天我们将深入探讨&#xff1a;&#xff1a;如何在 K8s 集群上部署 Compute storage coupled&#xff08;存算耦合&#xff09; 模式的 Doris 高可用集群&#xff1f; 本文&#xff0c;我将为您提供一份全面的实战指南&#xff0c;逐步引导您完成以下关键任务&#xff1a; 配…...

编程日记 2024/12/12 3:19:51

2024.12.5——攻防世界Training-WWW-Robots攻防世界baby_web

2024.12.5—攻防世界Training-WWW-Robots 知识点&#xff1a;robots协议 dirsearch工具 本题与第一道Robots协议十分类似&#xff0c;不做wp解析 大致步骤&#xff1a; step 1 打开靶机&#xff0c;发现是robots协议相关 step 2 用dirsearch进行扫描目录 step 3 url传参r…...

编程日记 2024/12/12 3:16:49

像素时装锻造坊应用场景：AR滤镜开发中像素化虚拟服装贴图生成流程

像素时装锻造坊应用场景&#xff1a;AR滤镜开发中像素化虚拟服装贴图生成流程 1. 项目背景与核心价值 像素时装锻造坊&#xff08;Pixel Fashion Atelier&#xff09;是一款基于Stable Diffusion与Anything-v5的图像生成工作站&#xff0c;专为AR滤镜开发中的虚拟服装贴图生成…...

编程新知 2026/3/26 19:59:33

Kali 2023最新版安装Fluxion避坑指南：从git clone到镜像源全流程

Kali 2023最新版安装Fluxion避坑指南&#xff1a;从git clone到镜像源全流程 如果你正在学习网络安全渗透测试&#xff0c;Fluxion绝对是一个值得掌握的Wi-Fi安全审计工具。作为Kali Linux生态中最受欢迎的无线网络测试套件之一&#xff0c;它通过智能化的交互界面让复杂的攻击…...

编程新知 2026/3/26 18:28:29

N_m3u8DL-RE流媒体下载器终极指南：5分钟掌握加密视频下载与直播录制

N_m3u8DL-RE流媒体下载器终极指南&#xff1a;5分钟掌握加密视频下载与直播录制 【免费下载链接】N_m3u8DL-RE 跨平台、现代且功能强大的流媒体下载器&#xff0c;支持MPD/M3U8/ISM格式。支持英语、简体中文和繁体中文。 项目地址: https://gitcode.com/GitHub_Trending/nm3/…...

编程新知 2026/3/26 17:45:48

ConcurrentHashMap讲解

在 Java 并发编程中&#xff0c;ConcurrentHashMap 是高频使用的线程安全 Map 实现&#xff0c;也是面试中几乎必问的核心知识点。它完美解决了 HashMap 线程不安全、Hashtable 性能极差的痛点&#xff0c;在高并发场景下实现了安全与性能的平衡。本文将从设计背景、JDK1.7/JDK…...

编程新知 2026/3/26 15:34:12

React篇——第一章 React的基础知识(上篇)

目录 1. React简介 1.1 什么是React 1.2 React的核心优势 组件化开发 虚拟DOM 丰富的生态系统 跨平台支持 1.3 React的市场地位 2. 开发环境搭建 2.1 使用create-react-app创建项目 2.2 其他创建React项目的方式 3. JSX基础 3.1 什么是JSX 3.2 JSX的优势 3.3 JS…...

编程新知 2026/3/26 13:12:56

终极Illusion游戏Mod管理指南：用KKManager告别插件混乱

终极Illusion游戏Mod管理指南&#xff1a;用KKManager告别插件混乱 【免费下载链接】KKManager Mod, plugin and card manager for games by Illusion that use BepInEx 项目地址: https://gitcode.com/gh_mirrors/kk/KKManager 你是否曾经因为Mod冲突导致游戏崩溃而烦恼…...

编程新知 2026/3/26 12:38:39

当服务器内存足够大时：为什么我建议你在CentOS 8上彻底禁用Swap？

大内存时代&#xff1a;CentOS 8禁用Swap的云原生性能优化实践 在云计算与容器化技术席卷全球的今天&#xff0c;服务器硬件配置正经历着革命性变化。128GB、256GB甚至TB级内存已成为现代服务器的标配&#xff0c;而传统Linux内存管理机制中的Swap分区在这种新硬件环境下是否还…...

编程新知 2026/3/26 12:00:01

LeetCode 3548. 等和矩阵分割2 详细题解（前缀和+二分+连通性分析）

LeetCode 3548. 等和矩阵分割2 详细题解&#xff08;前缀和二分连通性分析&#xff09; &#x1f3f7;️ 标签&#xff1a;前缀和、二分查找、连通性、哈希表、矩阵、周赛难题 &#x1f4ca; 难度&#xff1a;中等 | &#x1f4dd; 题目编号&#xff1a;3548 | &#x1f5c2;️…...

编程新知 2026/3/26 11:58:00

突破PDF文字识别困境：Umi-OCR开源工具的全流程解决方案

突破PDF文字识别困境&#xff1a;Umi-OCR开源工具的全流程解决方案 【免费下载链接】Umi-OCR Umi-OCR: 这是一个免费、开源、可批量处理的离线OCR软件&#xff0c;适用于Windows系统&#xff0c;支持截图OCR、批量OCR、二维码识别等功能。 项目地址: https://gitcode.com/Git…...

编程新知 2026/3/26 10:49:27

前端开发必备：fnm取代nvm，Node版本管理又快又稳

几乎前端都用过node版本管理工具nvm&#xff0c;但可能你没听说过fnm&#xff0c; fnm全称是 Fast Node Manager&#xff0c;就是一款用来管理电脑上 Node.js 版本的工具&#xff0c;简单说就是帮你在不同 Node 版本之间快速切换&#xff0c;解决项目依赖版本冲突的问题&#x…...

编程新知 2026/3/26 10:05:10