当前位置： 首页 > news >正文

什么是语料清洗、预训练、指令微调、强化学习、内容安全； 什么是megatron，deepspeed，vllm推理加速框架

news 2025/11/29 22:48:35

什么是语料清洗、预训练、指令微调、强化学习、内容安全

目录

    • 什么是语料清洗、预训练、指令微调、强化学习、内容安全
      • 语料清洗
      • 预训练
      • 指令微调
      • 强化学习
      • 内容安全
    • 什么是megatron，deepspeed，vllm推理加速框架

语料清洗

语料清洗是对原始文本数据进行处理的过程，旨在去除数据中的噪声、错误和不相关信息，提升数据质量。比如剔除包含大量乱码、格式错误、广告垃圾信息的文本，以及与目标任务无关的内容等。高质量的语料能显著提高模型训练效果和性能。

预训练

预训练是在大规模通用数据上对模型进行训练的阶段，让模型学习到通用的语言模式、语义理解等知识。例如GPT - 3在海量的互联网文本上进行预训练，使模型具备强大的语言理解和生成能力基础，后续可基于特定任务进行微调。

指令微调

指令微调是在预训练模型基础上，使用特定任务相关的指令 - 回答数据对模型进行进一步训练，使其更好地适应具体任务。比如针对问答任务，输入各种问题指令以及对应的正确答案进行微调，让模型在该类任务上表现更优。

强化学习

强化学习是一种机器学习方法，模型在环境中通过执行动作获得奖励反馈，不断调整策略以最大化长期奖励。在大模型训练中，可用于优化模型的生成策略&#

相关文章：

什么是语料清洗、预训练、指令微调、强化学习、内容安全； 什么是megatron，deepspeed，vllm推理加速框架

什么是语料清洗、预训练、指令微调、强化学习、内容安全 目录 什么是语料清洗、预训练、指令微调、强化学习、内容安全语料清洗预训练指令微调强化学习内容安全什么是megatron，deepspeed，vllm推理加速框架语料清洗 语料清洗是对原始文本数据进行处理的过程，旨在去除数据中的…...

编程日记 2025/2/20 2:00:17

HTTP的“对话”逻辑：请求与响应如何构建数据桥梁？

一、前言 作为现代互联网通信的基石，HTTP协议定义了客户端与服务器之间的“对话规则”。每一次网页加载、API调用或文件传输的背后，都离不开精心构造的HTTP请求与响应。请求中封装了用户的意图——从请求方法、资源路径到提交的数据；响应则承…...

编程日记 2025/2/20 1:54:10

【深度学习】预训练和微调概述

预训练和微调概述 1. 预训练和微调的介绍1.1 预训练（Pretraining）1.2 微调（Fine-Tuning） 2. 预训练和微调的区别 预训练和微调是现代深度学习模型训练中的两个关键步骤，它们通常是一个 预训练-微调 (Pretrain-Finetune…...

编程日记 2025/2/20 1:48:03

自动化测试框架搭建-单次接口执行-三部曲

目的 判断接口返回值和提前设置的预期是否一致，从而判断本次测试是否通过 代码步骤设计 第一步：前端调用后端已经写好的POST接口，并传递参数 第二步：后端接收到参数，组装并请求指定接口，保存返回 第三…...

编程日记 2025/2/20 1:47:01

【阮一峰】2.数组

数组 简介 所有成员的类型必须相同，但是成员数量是不确定的。 由于成员数量可以动态变化，所以 TypeScript 不会对数组边界进行检查，越界访问数组并不会报错。 第一种写法： let arr: (number | string)[];第二种写法&#xff…...

编程日记 2025/2/20 1:43:57

DeepSeek 接入PyCharm实现AI编程！（支持本地部署DeepSeek及官方DeepSeek接入）

前言 在当今数字化时代，AI编程助手已成为提升开发效率的利器。DeepSeek作为一款强大的AI模型，凭借其出色的性能和开源免费的优势，成为许多开发者的首选。今天，就让我们一起探索如何将DeepSeek接入PyCharm，实现高效、智…...

编程日记 2025/2/20 1:41:54

【Java Card】Applet 使用Shareable进行数据分享以及部分问题处理

文章目录 前言一、定义接口二、server端实现三、client端实现四、遇到的问题 前言 在进行开发时，可能会将业务放到不同的applet中，这时常常会需要进行数据的分享。 比如在一个applet中存储了密钥，而在另一个业务applet中需要进行签名时&…...

编程日记 2025/2/20 1:38:51

国产FPGA开发板选择

FPGA开发板是学习和开发FPGA的重要工具，选择合适的开发板对学习效果和开发效率至关重要。随着国产FPGA的发展，淘宝上的许多FPGA开发板店铺也开始进行国产FPGA的设计和销售，本文将对国产FPGA和相关店铺做个简单梳理，帮助有需要使用…...

编程日记 2025/2/20 1:36:46

com.typesafe.config

com.typesafe.config 是 Typesafe Config 库的核心包，主要用于 统一、灵活地管理应用程序配置，支持从多种格式（如 HOCON、JSON、Java Properties）加载配置，并提供类型安全的访问接口。以下是其核心功能的详细解析&…...

编程日记 2025/2/20 1:31:41

Ubuntu学习备忘

1. 打开Terminal快捷键 ctrl alt t 2.Ubuntu22.04的root没有默认初始密码， 为root设置密码，下面链接的step1, How to allow GUI root login on Ubuntu 22.04 Jammy Jellyfish Linux - LinuxConfig...

编程日记 2025/2/20 1:26:35

【C++】— 掌握STL vector 类：“Vector简介：动态数组的高效应用”

文章目录 1.vector的介绍和使用1.1vector的介绍1.2 vector的特点1.3vector的使用1.3.1vector的定义1.3.2vector iterator的使用1.3.3vector 的空间增长问题1.3.4 vector 的增删查改1.3.5vector 迭代器失效问题 1.vector的介绍和使用 1.1vector的介绍 vector是一个顺序容器&am…...

编程日记 2025/2/20 1:23:31

Docker__持续更新......

Docker 1. 基本知识1.1 为什么有Docker?1.2 Docker架构与容器化 画图解释 画图解释2. 项目实战 1. 基本知识 1.1 为什么有Docker? 用一行命令跨平台安装项目，在不同平台上运行项目。把项目打包分享运行应用。 1.2 Docker架构与容器化 准备机器，在机…...

编程日记 2025/2/20 1:22:30

【R语言】主成分分析与因子分析

一、主成分分析 主成分分析（Principal Component Analysis, PCA）是一种常用的无监督数据降维技术，广泛应用于统计学、数据科学和机器学习等领域。它通过正交化线性变换将（高维）原始数据投影到一个新的坐标系&#xff…...

编程日记 2025/2/20 1:21:29

ROS-相机话题-获取图像-颜色目标识别与定位-目标跟随-人脸检测

文章目录 相机话题获取图像颜色目标识别与定位目标跟随人脸检测 相机话题 启动仿真 roslaunch wpr_simulation wpb_stage_robocup.launch rostopic hz /kinect2/qhd/image_color_rect/camera/image_raw：原始的、未经处理的图像数据。 /camera/image_rect&#xff…...

编程日记 2025/2/20 1:13:18

STM32 如何使用DMA和获取ADC

目录 背景 ‌摇杆的原理 程序 端口配置 ADC 配置 DMA配置 背景 DMA是一种计算机技术，允许某些硬件子系统直接访问系统内存，而不需要中央处理器（CPU）的介入，从而减轻CPU的负担。我们可以通过DMA来从外设&#xf…...

编程日记 2025/2/20 1:08:10

【JAVA实战】JAVA实现Excel模板下载并填充模板下拉选项数据

背景 有这样一个场景：前端下载Excel模板，进行数据导入，这个下载模板过程需要经过后端接口去数据库查询数据进行某些列的下拉数据填充，下拉填充的数据过程中会出现错误String literals in formulas can’t be bigger than 255 cha…...

编程日记 2025/2/20 1:05:06

java面试笔记(一)

1. 一万个string类型的数据，设计一个算法如何按照String长度来排序 以使用 Arrays.sort() 方法，并结合一个自定义的比较器。以下是实现的示例代码: public class StringLengthSort {public static void main(String[] args) {// 定义一万个字符串的示例…...

编程日记 2025/2/20 1:03:04

【C++】36.C++IO流

文章目录 1. C语言的输入与输出2. 流是什么3. CIO流3.1 C标准IO流3.2 C文件IO流 4. stringstream的简单介绍 1. C语言的输入与输出 C语言中我们用到的最频繁的输入输出方式就是scanf ()与printf()。 scanf(): 从标准输入设备(键盘)读取数据，并将值存放在变量中。pri…...

编程日记 2025/2/20 1:01:01

Qt5开发入门指南：从零开始掌握跨平台开发

目录 Qt框架概述 开发环境搭建 基础语法与核心机制 第一个Qt窗口程序 常见问题解答 一、Qt框架概述 1.1 什么是Qt？ Qt是一个1995年由挪威Trolltech公司开发的跨平台C图形用户界面应用程序框架。最新Qt5版本主要包含： GUI模块：支持Wind…...

编程日记 2025/2/20 0:52:48

Rook-ceph(1.92最新版)

安装前准备 #确认安装lvm2 yum install lvm2 -y #启用rbd模块 modprobe rbd cat > /etc/rc.sysinit << EOF #!/bin/bash for file in /etc/sysconfig/modules/*.modules do[ -x \$file ] && \$file done EOF cat > /etc/sysconfig/modules/rbd.modules &l…...

编程日记 2025/2/20 0:51:47

在软件开发中正确使用MySQL日期时间类型的深度解析

在日常软件开发场景中&#xff0c;时间信息的存储是底层且核心的需求。从金融交易的精确记账时间、用户操作的行为日志&#xff0c;到供应链系统的物流节点时间戳&#xff0c;时间数据的准确性直接决定业务逻辑的可靠性。MySQL作为主流关系型数据库&#xff0c;其日期时间类型的…...

编程新知 2025/10/16 13:22:06

业务系统对接大模型的基础方案：架构设计与关键步骤

业务系统对接大模型&#xff1a;架构设计与关键步骤 在当今数字化转型的浪潮中&#xff0c;大语言模型&#xff08;LLM&#xff09;已成为企业提升业务效率和创新能力的关键技术之一。将大模型集成到业务系统中&#xff0c;不仅可以优化用户体验&#xff0c;还能为业务决策提供…...

编程新知 2025/11/27 20:12:54

Cursor实现用excel数据填充word模版的方法

cursor主页&#xff1a;https://www.cursor.com/ 任务目标&#xff1a;把excel格式的数据里的单元格&#xff0c;按照某一个固定模版填充到word中 文章目录 注意事项逐步生成程序1. 确定格式2. 调试程序 注意事项 直接给一个excel文件和最终呈现的word文件的示例&#xff0c;…...

编程新知 2025/8/23 5:46:26

工业安全零事故的智能守护者：一体化AI智能安防平台

前言&#xff1a; 通过AI视觉技术&#xff0c;为船厂提供全面的安全监控解决方案&#xff0c;涵盖交通违规检测、起重机轨道安全、非法入侵检测、盗窃防范、安全规范执行监控等多个方面&#xff0c;能够实现对应负责人反馈机制&#xff0c;并最终实现数据的统计报表。提升船厂…...

编程新知 2025/11/23 15:31:33

【Java_EE】Spring MVC

目录 Spring Web MVC ​编辑注解 RestController RequestMapping RequestParam RequestParam RequestBody PathVariable RequestPart 参数传递 注意事项 ​编辑参数重命名 RequestParam ​编辑​编辑传递集合 RequestParam 传递JSON数据 ​编辑RequestBody ​…...

编程新知 2025/11/20 6:47:00

NLP学习路线图（二十三）：长短期记忆网络（LSTM）

在自然语言处理（NLP）领域，我们时刻面临着处理序列数据的核心挑战。无论是理解句子的结构、分析文本的情感，还是实现语言的翻译，都需要模型能够捕捉词语之间依时序产生的复杂依赖关系。传统的神经网络结构在处理这种序列依赖时显得力不从心，而循环神经网络（RNN） 曾被视为…...

编程新知 2025/11/20 21:35:20

【OSG学习笔记】Day 16: 骨骼动画与蒙皮（osgAnimation）

骨骼动画基础 骨骼动画是 3D 计算机图形中常用的技术&#xff0c;它通过以下两个主要组件实现角色动画。 骨骼系统 (Skeleton)&#xff1a;由层级结构的骨头组成&#xff0c;类似于人体骨骼蒙皮 (Mesh Skinning)&#xff1a;将模型网格顶点绑定到骨骼上&#xff0c;使骨骼移动…...

编程新知 2025/11/16 22:28:00

使用Matplotlib创建炫酷的3D散点图：数据可视化的新维度

文章目录 基础实现代码代码解析进阶技巧1. 自定义点的大小和颜色2. 添加图例和样式美化3. 真实数据应用示例实用技巧与注意事项完整示例（带样式）应用场景在数据科学和可视化领域，三维图形能为我们提供更丰富的数据洞察。本文将手把手教你如何使用Python的Matplotlib库创建引…...

编程新知 2025/10/4 3:01:43

算法：模拟

1.替换所有的问号 1576. 替换所有的问号 - 力扣&#xff08;LeetCode&#xff09; ​遍历字符串​&#xff1a;通过外层循环逐一检查每个字符。​遇到 ? 时处理​&#xff1a; 内层循环遍历小写字母&#xff08;a 到 z&#xff09;。对每个字母检查是否满足&#xff1a; ​与…...

编程新知 2025/11/26 21:11:59

免费PDF转图片工具

免费PDF转图片工具 一款简单易用的PDF转图片工具&#xff0c;可以将PDF文件快速转换为高质量PNG图片。无需安装复杂的软件&#xff0c;也不需要在线上传文件&#xff0c;保护您的隐私。 工具截图 主要特点 &#x1f680; 快速转换&#xff1a;本地转换&#xff0c;无需等待上…...

编程新知 2025/11/27 23:45:46