当前位置： 首页 > news >正文

什么是语料清洗、预训练、指令微调、强化学习、内容安全； 什么是megatron，deepspeed，vllm推理加速框架

news 2026/2/10 5:26:51

什么是语料清洗、预训练、指令微调、强化学习、内容安全

目录

    • 什么是语料清洗、预训练、指令微调、强化学习、内容安全
      • 语料清洗
      • 预训练
      • 指令微调
      • 强化学习
      • 内容安全
    • 什么是megatron，deepspeed，vllm推理加速框架

语料清洗

语料清洗是对原始文本数据进行处理的过程，旨在去除数据中的噪声、错误和不相关信息，提升数据质量。比如剔除包含大量乱码、格式错误、广告垃圾信息的文本，以及与目标任务无关的内容等。高质量的语料能显著提高模型训练效果和性能。

预训练

预训练是在大规模通用数据上对模型进行训练的阶段，让模型学习到通用的语言模式、语义理解等知识。例如GPT - 3在海量的互联网文本上进行预训练，使模型具备强大的语言理解和生成能力基础，后续可基于特定任务进行微调。

指令微调

指令微调是在预训练模型基础上，使用特定任务相关的指令 - 回答数据对模型进行进一步训练，使其更好地适应具体任务。比如针对问答任务，输入各种问题指令以及对应的正确答案进行微调，让模型在该类任务上表现更优。

强化学习

强化学习是一种机器学习方法，模型在环境中通过执行动作获得奖励反馈，不断调整策略以最大化长期奖励。在大模型训练中，可用于优化模型的生成策略&#

相关文章：

什么是语料清洗、预训练、指令微调、强化学习、内容安全； 什么是megatron，deepspeed，vllm推理加速框架

什么是语料清洗、预训练、指令微调、强化学习、内容安全 目录 什么是语料清洗、预训练、指令微调、强化学习、内容安全语料清洗预训练指令微调强化学习内容安全什么是megatron，deepspeed，vllm推理加速框架语料清洗 语料清洗是对原始文本数据进行处理的过程，旨在去除数据中的…...

编程日记 2025/2/20 2:00:17

HTTP的“对话”逻辑：请求与响应如何构建数据桥梁？

一、前言 作为现代互联网通信的基石，HTTP协议定义了客户端与服务器之间的“对话规则”。每一次网页加载、API调用或文件传输的背后，都离不开精心构造的HTTP请求与响应。请求中封装了用户的意图——从请求方法、资源路径到提交的数据；响应则承…...

编程日记 2025/2/20 1:54:10

【深度学习】预训练和微调概述

预训练和微调概述 1. 预训练和微调的介绍1.1 预训练（Pretraining）1.2 微调（Fine-Tuning） 2. 预训练和微调的区别 预训练和微调是现代深度学习模型训练中的两个关键步骤，它们通常是一个 预训练-微调 (Pretrain-Finetune…...

编程日记 2025/2/20 1:48:03

自动化测试框架搭建-单次接口执行-三部曲

目的 判断接口返回值和提前设置的预期是否一致，从而判断本次测试是否通过 代码步骤设计 第一步：前端调用后端已经写好的POST接口，并传递参数 第二步：后端接收到参数，组装并请求指定接口，保存返回 第三…...

编程日记 2025/2/20 1:47:01

【阮一峰】2.数组

数组 简介 所有成员的类型必须相同，但是成员数量是不确定的。 由于成员数量可以动态变化，所以 TypeScript 不会对数组边界进行检查，越界访问数组并不会报错。 第一种写法： let arr: (number | string)[];第二种写法&#xff…...

编程日记 2025/2/20 1:43:57

DeepSeek 接入PyCharm实现AI编程！（支持本地部署DeepSeek及官方DeepSeek接入）

前言 在当今数字化时代，AI编程助手已成为提升开发效率的利器。DeepSeek作为一款强大的AI模型，凭借其出色的性能和开源免费的优势，成为许多开发者的首选。今天，就让我们一起探索如何将DeepSeek接入PyCharm，实现高效、智…...

编程日记 2025/2/20 1:41:54

【Java Card】Applet 使用Shareable进行数据分享以及部分问题处理

文章目录 前言一、定义接口二、server端实现三、client端实现四、遇到的问题 前言 在进行开发时，可能会将业务放到不同的applet中，这时常常会需要进行数据的分享。 比如在一个applet中存储了密钥，而在另一个业务applet中需要进行签名时&…...

编程日记 2025/2/20 1:38:51

国产FPGA开发板选择

FPGA开发板是学习和开发FPGA的重要工具，选择合适的开发板对学习效果和开发效率至关重要。随着国产FPGA的发展，淘宝上的许多FPGA开发板店铺也开始进行国产FPGA的设计和销售，本文将对国产FPGA和相关店铺做个简单梳理，帮助有需要使用…...

编程日记 2025/2/20 1:36:46

com.typesafe.config

com.typesafe.config 是 Typesafe Config 库的核心包，主要用于 统一、灵活地管理应用程序配置，支持从多种格式（如 HOCON、JSON、Java Properties）加载配置，并提供类型安全的访问接口。以下是其核心功能的详细解析&…...

编程日记 2025/2/20 1:31:41

Ubuntu学习备忘

1. 打开Terminal快捷键 ctrl alt t 2.Ubuntu22.04的root没有默认初始密码， 为root设置密码，下面链接的step1, How to allow GUI root login on Ubuntu 22.04 Jammy Jellyfish Linux - LinuxConfig...

编程日记 2025/2/20 1:26:35

【C++】— 掌握STL vector 类：“Vector简介：动态数组的高效应用”

文章目录 1.vector的介绍和使用1.1vector的介绍1.2 vector的特点1.3vector的使用1.3.1vector的定义1.3.2vector iterator的使用1.3.3vector 的空间增长问题1.3.4 vector 的增删查改1.3.5vector 迭代器失效问题 1.vector的介绍和使用 1.1vector的介绍 vector是一个顺序容器&am…...

编程日记 2025/2/20 1:23:31

Docker__持续更新......

Docker 1. 基本知识1.1 为什么有Docker?1.2 Docker架构与容器化 画图解释 画图解释2. 项目实战 1. 基本知识 1.1 为什么有Docker? 用一行命令跨平台安装项目，在不同平台上运行项目。把项目打包分享运行应用。 1.2 Docker架构与容器化 准备机器，在机…...

编程日记 2025/2/20 1:22:30

【R语言】主成分分析与因子分析

一、主成分分析 主成分分析（Principal Component Analysis, PCA）是一种常用的无监督数据降维技术，广泛应用于统计学、数据科学和机器学习等领域。它通过正交化线性变换将（高维）原始数据投影到一个新的坐标系&#xff…...

编程日记 2025/2/20 1:21:29

ROS-相机话题-获取图像-颜色目标识别与定位-目标跟随-人脸检测

文章目录 相机话题获取图像颜色目标识别与定位目标跟随人脸检测 相机话题 启动仿真 roslaunch wpr_simulation wpb_stage_robocup.launch rostopic hz /kinect2/qhd/image_color_rect/camera/image_raw：原始的、未经处理的图像数据。 /camera/image_rect&#xff…...

编程日记 2025/2/20 1:13:18

STM32 如何使用DMA和获取ADC

目录 背景 ‌摇杆的原理 程序 端口配置 ADC 配置 DMA配置 背景 DMA是一种计算机技术，允许某些硬件子系统直接访问系统内存，而不需要中央处理器（CPU）的介入，从而减轻CPU的负担。我们可以通过DMA来从外设&#xf…...

编程日记 2025/2/20 1:08:10

【JAVA实战】JAVA实现Excel模板下载并填充模板下拉选项数据

背景 有这样一个场景：前端下载Excel模板，进行数据导入，这个下载模板过程需要经过后端接口去数据库查询数据进行某些列的下拉数据填充，下拉填充的数据过程中会出现错误String literals in formulas can’t be bigger than 255 cha…...

编程日记 2025/2/20 1:05:06

java面试笔记(一)

1. 一万个string类型的数据，设计一个算法如何按照String长度来排序 以使用 Arrays.sort() 方法，并结合一个自定义的比较器。以下是实现的示例代码: public class StringLengthSort {public static void main(String[] args) {// 定义一万个字符串的示例…...

编程日记 2025/2/20 1:03:04

【C++】36.C++IO流

文章目录 1. C语言的输入与输出2. 流是什么3. CIO流3.1 C标准IO流3.2 C文件IO流 4. stringstream的简单介绍 1. C语言的输入与输出 C语言中我们用到的最频繁的输入输出方式就是scanf ()与printf()。 scanf(): 从标准输入设备(键盘)读取数据，并将值存放在变量中。pri…...

编程日记 2025/2/20 1:01:01

Qt5开发入门指南：从零开始掌握跨平台开发

目录 Qt框架概述 开发环境搭建 基础语法与核心机制 第一个Qt窗口程序 常见问题解答 一、Qt框架概述 1.1 什么是Qt？ Qt是一个1995年由挪威Trolltech公司开发的跨平台C图形用户界面应用程序框架。最新Qt5版本主要包含： GUI模块：支持Wind…...

编程日记 2025/2/20 0:52:48

Rook-ceph(1.92最新版)

安装前准备 #确认安装lvm2 yum install lvm2 -y #启用rbd模块 modprobe rbd cat > /etc/rc.sysinit << EOF #!/bin/bash for file in /etc/sysconfig/modules/*.modules do[ -x \$file ] && \$file done EOF cat > /etc/sysconfig/modules/rbd.modules &l…...

编程日记 2025/2/20 0:51:47

云计算——弹性云计算器（ECS）

弹性云服务器&#xff1a;ECS 概述 云计算重构了ICT系统&#xff0c;云计算平台厂商推出使得厂家能够主要关注应用管理而非平台管理的云平台&#xff0c;包含如下主要概念。 ECS&#xff08;Elastic Cloud Server&#xff09;&#xff1a;即弹性云服务器&#xff0c;是云计算…...

编程新知 2025/8/16 21:50:27

【OSG学习笔记】Day 18: 碰撞检测与物理交互

物理引擎&#xff08;Physics Engine&#xff09; 物理引擎 是一种通过计算机模拟物理规律&#xff08;如力学、碰撞、重力、流体动力学等&#xff09;的软件工具或库。 它的核心目标是在虚拟环境中逼真地模拟物体的运动和交互&#xff0c;广泛应用于 游戏开发、动画制作、虚…...

编程新知 2026/2/4 2:08:30

【人工智能】神经网络的优化器optimizer（二）：Adagrad自适应学习率优化器

一.自适应梯度算法Adagrad概述 Adagrad&#xff08;Adaptive Gradient Algorithm&#xff09;是一种自适应学习率的优化算法&#xff0c;由Duchi等人在2011年提出。其核心思想是针对不同参数自动调整学习率&#xff0c;适合处理稀疏数据和不同参数梯度差异较大的场景。Adagrad通…...

编程新知 2026/2/8 14:57:14

vscode（仍待补充）

写于2025 6.9 主包将加入vscode这个更权威的圈子 vscode的基本使用 侧边栏 vscode还能连接ssh&#xff1f; debug时使用的launch文件 1.task.json {"tasks": [{"type": "cppbuild","label": "C/C: gcc.exe 生成活动文件"…...

编程新知 2026/1/24 13:04:10

Python爬虫（一）：爬虫伪装

一、网站防爬机制概述 在当今互联网环境中&#xff0c;具有一定规模或盈利性质的网站几乎都实施了各种防爬措施。这些措施主要分为两大类&#xff1a; 身份验证机制&#xff1a;直接将未经授权的爬虫阻挡在外反爬技术体系&#xff1a;通过各种技术手段增加爬虫获取数据的难度…...

编程新知 2026/1/30 20:42:46

C++中string流知识详解和示例

一、概览与类体系 C 提供三种基于内存字符串的流&#xff0c;定义在 <sstream> 中&#xff1a; std::istringstream&#xff1a;输入流&#xff0c;从已有字符串中读取并解析。std::ostringstream&#xff1a;输出流&#xff0c;向内部缓冲区写入内容&#xff0c;最终取…...

编程新知 2025/11/30 11:30:47

学习STC51单片机32（芯片为STC89C52RCRC）OLED显示屏2

每日一言 今天的每一份坚持&#xff0c;都是在为未来积攒底气。 案例&#xff1a;OLED显示一个A 这边观察到一个点&#xff0c;怎么雪花了就是都是乱七八糟的占满了屏幕。。 解释 &#xff1a; 如果代码里信号切换太快&#xff08;比如 SDA 刚变&#xff0c;SCL 立刻变&#…...

编程新知 2026/2/6 0:50:24

Maven 概述、安装、配置、仓库、私服详解

目录 1、Maven 概述 1.1 Maven 的定义 1.2 Maven 解决的问题 1.3 Maven 的核心特性与优势 2、Maven 安装 2.1 下载 Maven 2.2 安装配置 Maven 2.3 测试安装 2.4 修改 Maven 本地仓库的默认路径 3、Maven 配置 3.1 配置本地仓库 3.2 配置 JDK 3.3 IDEA 配置本地 Ma…...

编程新知 2026/2/8 1:58:01

让回归模型不再被异常值“带跑偏“，MSE和Cauchy损失函数在噪声数据环境下的实战对比

在机器学习的回归分析中&#xff0c;损失函数的选择对模型性能具有决定性影响。均方误差&#xff08;MSE&#xff09;作为经典的损失函数&#xff0c;在处理干净数据时表现优异&#xff0c;但在面对包含异常值的噪声数据时&#xff0c;其对大误差的二次惩罚机制往往导致模型参数…...

编程新知 2026/1/28 2:18:46

JVM 内存结构 详解

内存结构 运行时数据区&#xff1a; Java虚拟机在运行Java程序过程中管理的内存区域。 程序计数器&#xff1a; ​ 线程私有&#xff0c;程序控制流的指示器&#xff0c;分支、循环、跳转、异常处理、线程恢复等基础功能都依赖这个计数器完成。 ​ 每个线程都有一个程序计数…...

编程新知 2026/2/6 3:24:58