当前位置： 首页 > article >正文

大模型---模型的后训练

article 2026/4/14 7:39:23
目录1.继续训练2.SFT3.对齐训练这篇文章会讲三种不同的后训练方式：继续训练，SFT，对齐训练，这里先总体说一下。Don't Stop Pretraining把继续训练定义为多阶段自适应预训练，并证明在目标领域语料和任务相关无标注语料上继续预训练，通常能提升下游表现；SFT在对齐训练之前，即让模型先学会按指令做答；对齐训练则是进一步把偏好对齐写成更直接的偏好优化目标。1.继续训练继续训练解决的问题是模型不熟这个行业的术语，模型不熟这类文档的表达方式，模型面对目标领域语料时理解不够自然，或者下游任务的文本分布和通用预训练差异太大。参考论文：[2004.10964] Don't Stop Pretraining: Adapt Language Models to Domains and TasksDon't Stop Pretraining这篇论文，讲到两个，一是DAPT（Domain-Adaptive Pretraining），二是TAPT（Task-Adaptive Pretraining）。DAPT是在一个更大的、同领域语料库上继续预训练。比如医学、法律、金融、科研论文；TAPT是在与你最终任务更贴近的无标注语料上继续预训练。比如某个分类任务对应的数据集文本本身。继

相关文章：

大模型---模型的后训练

目录 1.继续训练 2.SFT 3.对齐训练 这篇文章会讲三种不同的后训练方式：继续训练，SFT，对齐训练，这里先总体说一下。Dont Stop Pretraining把继续训练定义为多阶段自适应预训练，并证明在目标领域语料和任务相关无标注语料上继续预训练，通常能提升下游表现；SFT在对齐训练…...

编程日记 2026/4/14 7:39:23

零基础玩转Pi0具身智能：3步完成部署，可视化生成机器人动作轨迹

零基础玩转Pi0具身智能：3步完成部署，可视化生成机器人动作轨迹 1. 引言：具身智能的平民化时代 想象一下，你正在厨房准备早餐，想让机器人助手帮你从烤面包机里取出吐司。传统方法需要专业的机器人编程知识&#xff0c…...

编程日记 2026/4/14 7:37:22

Qwen3智能字幕对齐系统与Dify平台集成实践

Qwen3智能字幕对齐系统与Dify平台集成实践 如何将专业的字幕对齐能力快速转化为可用的AI应用 1. 项目背景与价值 视频内容创作者经常面临一个痛点：人工添加字幕耗时耗力，特别是需要处理大量视频内容时。传统的字幕制作流程需要反复听写、校对、时间轴对…...

编程日记 2026/4/14 7:37:22

如何高效下载B站视频：5个DownKyi实用技巧完全指南

如何高效下载B站视频：5个DownKyi实用技巧完全指南 【免费下载链接】downkyi 哔哩下载姬downkyi，哔哩哔哩网站视频下载工具，支持批量下载，支持8K、HDR、杜比视界，提供工具箱（音视频提取、去水印等&#xff0…...

编程日记 2026/4/14 7:37:22

Qwen3.5-9B惊艳案例：古籍扫描图上传→OCR文字识别→繁体转简体→语义注释

Qwen3.5-9B惊艳案例：古籍扫描图上传→OCR文字识别→繁体转简体→语义注释 1. 古籍数字化全流程展示 1.1 案例背景与价值 古籍数字化是文化传承的重要工作，但传统流程需要经过扫描、OCR识别、文字转换、语义标注等多个环节，耗时耗力。Qwen3…...

编程日记 2026/4/14 7:37:22

Qwen3-14B API服务教程：Postman调用+JSON Schema参数校验示例

Qwen3-14B API服务教程：Postman调用JSON Schema参数校验示例 1. 准备工作与环境检查 在开始调用Qwen3-14B API服务前，我们需要确保环境已经正确部署并运行。以下是准备工作清单： 1.1 确认API服务已启动 首先检查API服务是否正常运行&…...

编程日记 2026/4/14 7:37:22

精简GVCP与GVSP：FPGA实现GigE Vision相机高效采集的工程实践

1. 为什么需要精简GigE Vision协议？ 第一次接触GigE Vision相机时，我被它复杂的协议栈吓了一跳。完整的GigE Vision协议包含几十种功能模块，光是协议文档就有上千页。但在实际工业视觉项目中，我们往往只需要最基础的三个功能&…...

编程日记 2026/4/14 7:35:21

Gemma-3-12B-IT开源镜像免配置优势：内置vLLM推理引擎，吞吐量提升3.2倍实测

Gemma-3-12B-IT开源镜像免配置优势：内置vLLM推理引擎，吞吐量提升3.2倍实测 1. 引言：当大模型部署不再“劝退” 如果你尝试过自己部署一个开源大语言模型，大概率经历过这样的“劝退”时刻：花半天时间安装CUDA、PyTorc…...

编程日记 2026/4/14 7:35:21

RMBG-2.0新手教程：暗黑动漫UI交互逻辑全图解，零基础5分钟上手

RMBG-2.0新手教程：暗黑动漫UI交互逻辑全图解，零基础5分钟上手 你是不是经常为了给照片抠图而头疼？用传统的工具，要么边缘抠不干净，要么头发丝处理得一塌糊涂，费时费力效果还不好。 今天，我要带…...

编程日记 2026/4/14 7:35:21

华为云MindSpore实战：动态学习率与Batch Size调参，让你的鸢尾花模型收敛快一倍

华为云MindSpore实战：动态学习率与Batch Size调参，让你的鸢尾花模型收敛快一倍 鸢尾花分类是机器学习入门的经典案例，但很多开发者在实际训练中常遇到模型收敛慢、效果不稳定等问题。本文将聚焦华为云MindSpore框架下的两个关键调参技巧——动…...

编程日记 2026/4/14 7:35:21

Advanced Computing 正式启航，聚焦计算机科学全领域，现已开放投稿！

Advanced Computing 是一本聚焦计算机科学全领域的开放获取期刊，从理论基础、软件工程到人工智能、计算机视觉及新兴技术等方向，都属于其发表范畴。内容范围包括但不限于以下领域： 理论计算机科学与算法：包括算法设计与分析、计算…...

编程日记 2026/4/14 7:35:21

用Harness实现Agent请求的熔断与降级

用Harness实现Agent请求的熔断与降级：从入门到生产级分布式容错方案 摘要/引言 开门见山的痛点场景 各位开发微服务、分布式AI Agent集群、云原生中间件代理的技术同学们，有没有遇到过这种令人崩溃的凌晨两点告警噩梦连环套？ 你负责的核心…...

编程日记 2026/4/14 7:33:21

Go语言的runtime.SetBlockProfile集成

Go语言作为一门高效、简洁的并发编程语言，其强大的运行时系统为开发者提供了丰富的性能分析工具。其中，runtime.SetBlockProfile是一个关键的功能，它能够帮助开发者捕获和分析程序中的阻塞事件，从而优化并发性能。本文将围绕这一功…...

编程日记 2026/4/14 7:33:21

Pi0效果展示：看视觉-语言-动作流模型如何精准控制机器人

Pi0效果展示：看视觉-语言-动作流模型如何精准控制机器人 1. 项目概述 Pi0是一个创新的视觉-语言-动作流模型，专为通用机器人控制而设计。这个项目提供了一个直观的Web演示界面，让用户能够体验最先进的机器人控制技术。 2. 核心能力展示 2…...

编程日记 2026/4/14 7:33:21

Rust的匹配中的常量折叠

Rust的匹配中的常量折叠：高效模式匹配的幕后功臣 Rust以其出色的性能和安全性闻名，而模式匹配（match）是其核心特性之一。在编译阶段，Rust通过常量折叠（Constant Folding）优化匹配逻辑&#xff…...

编程日记 2026/4/14 7:33:21

别再让上电火花吓到你！手把手教你用分立器件搞定12V电源缓启动（附完整BOM清单）

12V电源缓启动电路实战指南：从原理到BOM的完整解决方案 每次插拔12V电源时那刺眼的火花和随之而来的系统复位，是否让你感到头疼？这背后隐藏的浪涌电流问题，不仅可能损坏精密元器件，还会缩短连接器寿命。本文将带你深入…...

编程日记 2026/4/14 7:33:21

Phi-4-mini-reasoning在软件测试中的应用：自动生成测试用例与缺陷分析

Phi-4-mini-reasoning在软件测试中的应用：自动生成测试用例与缺陷分析 1. 软件测试的痛点与机遇 测试工程师们每天都在重复着相似的工作：阅读需求文档、设计测试用例、执行测试、分析失败日志、编写缺陷报告。这个过程不仅耗时耗力，还容易因…...

编程日记 2026/4/14 7:31:21

74HC595芯片组成测试工具_流水灯

74HC595芯片组成测试工具_流水灯PCB布局部分芯片手册说明芯片工作原理74HC595级联说明电路原理图部分代码部分595驱动核心部分全部代码使用环境是由于我公司生产的运动控制卡需要连接光电传感器，PCBA出来后需要检测，运动控制卡内部是由光电隔离再连接到单…...

编程日记 2026/4/14 7:31:21

Qwen3-ASR-1.7B模型在MobaXterm远程会话中的语音控制应用

Qwen3-ASR-1.7B模型在MobaXterm远程会话中的语音控制应用 1. 引言 想象一下这样的场景：你正在通过MobaXterm远程连接到服务器，双手忙着敲代码的同时，突然需要执行一个复杂的系统命令。传统方式需要你停下来输入命令，但如果有种方…...

编程日记 2026/4/14 7:31:21

Qwen-Image-2512-Pixel-Art-LoRA 安全加固：防范针对图像生成API的网络安全攻击

Qwen-Image-2512-Pixel-Art-LoRA 安全加固：防范针对图像生成API的网络安全攻击 最近在帮一个游戏开发团队部署他们的像素艺术风格生成服务，他们把基于Qwen-Image-2512的Pixel-Art-LoRA模型封装成了API，准备开放给社区里的独立开发者使用。本…...

编程日记 2026/4/14 7:31:21

用KeyShot工具渲染PCB图过程

用KeyShot工具渲染PCB图过程 在文件的导出选项我们选择PDF3D然后保存为点obj格式按照以下图进行勾选。在KeyShot 11 界面–选择-导入对话框导入AD输出的OBJ文件 按照以下选择。先对PCB的顶层阻焊层进行设置点击软件左下角的云库。将下载好的PCB板材拖拽到core处，可看…...

编程日记 2026/4/14 7:31:21

像素心智情绪解码器：用游戏化界面轻松实现高精度情绪识别与分析

像素心智情绪解码器：用游戏化界面轻松实现高精度情绪识别与分析 1. 情绪识别的新范式 传统情绪识别工具往往给人冰冷、机械的印象，操作界面复杂且缺乏趣味性。像素心智情绪解码器(Pixel Mind Decoder)彻底改变了这一现状，将专业级情绪分析技…...

编程日记 2026/4/14 7:29:21

每天花2小时找文件，我的团队正在被‘版本混乱‘慢慢杀死

上周三，晚上11点，我接到甲方电话。 “为什么交付的是V2.3，但需求文档是V2.5？你们内部管理这么乱的吗？” 我当场社死。 挂掉电话，我在会议室坐了整整20分钟，一句话说不出来。不是因为委屈&#x…...

编程日记 2026/4/14 7:29:21

无人机航拍深度估计：LingBot-Depth处理大尺度室外场景实战

无人机航拍深度估计：LingBot-Depth处理大尺度室外场景实战 1. 为什么无人机航拍需要深度估计？ 当你操控无人机飞越城市或自然景观时，获取准确的深度信息至关重要。传统方法依赖立体视觉或LiDAR，但这些方案要么计算复杂&#xff…...

编程日记 2026/4/14 7:29:21

Z-Image-Turbo-rinaiqiao-huiyewunv 开发环境配置：使用Visual Studio Code进行高效调试

Z-Image-Turbo-rinaiqiao-huiyewunv 开发环境配置：使用Visual Studio Code进行高效调试 如果你正在折腾Z-Image-Turbo-rinaiqiao-huiyewunv这个模型，想用它来生成图片，但发现代码跑起来总是不太顺手，或者想深入看看模型内部是怎么…...

编程日记 2026/4/14 7:29:20

测试驱动开发中的测试先行与快速反馈

测试驱动开发中的测试先行与快速反馈 在软件开发领域，测试驱动开发（TDD）因其独特的开发模式广受推崇。其核心理念是“测试先行”与“快速反馈”，通过编写测试用例驱动代码实现，确保软件质量与设计灵活性。这种开发方式…...

编程日记 2026/4/14 7:29:20

Selfie性能优化技巧：从基础编译到高级调优

Selfie性能优化技巧：从基础编译到高级调优 【免费下载链接】selfie An educational software system of a tiny self-compiling C compiler, a tiny self-executing RISC-V emulator, and a tiny self-hosting RISC-V hypervisor. 项目地址: https://gitcode.com/…...

编程日记 2026/4/14 7:27:20

小白友好！TensorFlow-v2.15镜像10步搭建标准化机器学习教学环境

小白友好！TensorFlow-v2.15镜像10步搭建标准化机器学习教学环境 1. 为什么需要标准化教学环境？ 想象一下，你第一次学习机器学习时，是不是花了大量时间在环境配置上？不同操作系统、Python版本、CUDA驱动之间的兼容性问…...

编程日记 2026/4/14 7:27:20

如何快速提升AutoTrain Advanced文本摘要的ROUGE分数：5个实用优化技巧

如何快速提升AutoTrain Advanced文本摘要的ROUGE分数：5个实用优化技巧 【免费下载链接】autotrain-advanced 🤗 AutoTrain Advanced 项目地址: https://gitcode.com/gh_mirrors/au/autotrain-advanced AutoTrain Advanced是一款强大的文本摘要工具…...

编程日记 2026/4/14 7:27:20

哔哩下载姬DownKyi：如何轻松下载B站8K视频和批量管理资源

哔哩下载姬DownKyi：如何轻松下载B站8K视频和批量管理资源 【免费下载链接】downkyi 哔哩下载姬downkyi，哔哩哔哩网站视频下载工具，支持批量下载，支持8K、HDR、杜比视界，提供工具箱（音视频提取、去水印等&am…...

编程日记 2026/4/14 7:27:20