当前位置： 首页 > news >正文

[论文笔记] chatgpt系列 2.6 DeepSpeed-chat 数据集

news 2025/9/13 22:02:54

一、FT数据集 & Reward model数据集

Deepspeed-chat 源代码的数据集：

  1. Dahoas/rm-static: 这是一个用于强化学习的静态环境数据集，包含了一个机器人在一个固定环境中的运动轨迹。该数据集旨在用于评估强化学习算法在静态环境下的表现。

  2. Dahoas/full-hh-rlhf: 这是一个用于深度强化学习的数据集，包含了一个机器人在一个动态环境中的运动轨迹。该数据集旨在用于评估深度强化学习算法在动态环境下的表现。

  3. 多轮对话数据集 Dahoas/synthetic-instruct-gptj-pairwise: 这是一个用于自然语言处理的数据集，包含了两个人之间的对话。该数据集旨在用于评估自然语言处理模型在对话生成任务中的表现。     

  4. yitingxie/rlhf-reward-datasets: 这是一个用于强化学习的数据集，包含了多个机器人在不同环境中的运动轨迹和奖励信号。该数据集旨在用于评估强化学习算法在多智能体系统中的表现。

 二、换成自定义数据集

wikitext2、ptb、c4

相关文章：

[论文笔记] chatgpt系列 2.6 DeepSpeed-chat 数据集

一、FT数据集 & Reward model数据集 Deepspeed-chat 源代码的数据集： Dahoas/rm-static: 这是一个用于强化学习的静态环境数据集，包含了一个机器人在一个固定环境中的运动轨迹。该数据集旨在用于评估强化学习算法在静态环境下的表现。 Dahoas/full-hh-rlhf: 这是一个用于…...

编程日记 2023/8/1 22:19:40

探究SAM和眼球追踪技术在自动医学图像分割的应用（2023+GazeSAM: What You See is What You Segment）

摘要： 本研究探讨眼动追踪技术与SAM的潜力，以设计一个协同的人机交互系统，自动化医学图像分割。提出了GazeSAM系统，使放射科医生能够在图像诊断过程中通过简单地查看感兴趣的区域来收集分割掩模。该系统跟踪放射科医生的眼球运动…...

编程日记 2023/8/1 22:18:39

excle中的条件求和SUMIF

问题：将每一行中红色文字的前一个值累计求和到境外总数这一列 使用的公式 自制单元格的格式计算公式：ctrlf3打开格式管理，创建如下公式，其中24是表示获取文字颜色 由于sumif只能直接与第二参数条件比较，所以先使用IF(公…...

编程日记 2023/8/1 22:17:37

python-网络爬虫.Request

Request python中requests库使用方法详解： 一简介： Requests 是Python语言编写，基于urllib， 采用Apache2 Licensed开源协议的 HTTP 库。 与urllib相比，Requests更加方便，处理URL资源特别流畅。 可以节约我…...

编程日记 2023/8/1 22:16:36

时序预测 | MATLAB实现GRNN广义回归神经网络时间序列预测（多指标，多图）

时序预测 | MATLAB实现GRNN广义回归神经网络时间序列预测（多指标，多图） 目录 时序预测 | MATLAB实现GRNN广义回归神经网络时间序列预测（多指标，多图）效果一览基本介绍程序设计参考资料效果一览 基本介绍 1.MATLAB实现GRNN广义回归神经网络时间序列预测（完整源码和数据) …...

编程日记 2023/8/1 22:15:34

如何看待低级爬虫与高级爬虫？

爬虫之所以分为高级和低级，主要是基于其功能、复杂性和灵活性的差异。根据我总结大概有下面几点原因： 功能和复杂性：高级爬虫通常提供更多功能和扩展性，包括处理复杂页面结构、模拟用户操作、解析和清洗数据等。它们解决了开发者…...

编程日记 2023/8/1 22:14:27

3.分支与循环

一、分支结构 1.概念 一个 CPP 程序默认是按照代码书写顺序，从上到下依次执行下来的。但是，有时我们需要选择性的执行某些语句，来实现更加复杂的逻辑，这时候就需要分支结构语句的功能来实现。选择合适的分支语句可以显著提高程序…...

编程日记 2023/8/1 22:13:26

面试之多线程案例（四）

1.单例模式 单例模式是指在内存中只会创建且仅创建一次对象的设计模式。在程序中多次使用同一个对象且作用相同时，为了防止频繁地创建对象使得内存飙升，单例模式可以让程序仅在内存中创建一个对象，让所有需要调用的地方都共享这一单例对象。…...

编程日记 2023/8/1 22:12:24

抄写Linux源码(Day1：获取并运行 Linux0.11)

Day1：获取并运行 Linux0.11 参考资料：https://zhuanlan.zhihu.com/p/438577225 这是我参考的一个别人写的 Linux0.11 解读：https://github.com/dibingfa/flash-linux0.11-talk 我获取 Linux-0.11 源码的链接：https://github.com/…...

编程日记 2023/8/1 22:11:21

大数据_Hadoop_Parquet数据格式详解

之前有面试官问到了parquet的数据格式，下面对这种格式做一个详细的解读。 参考链接 ： 列存储格式Parquet浅析 - 简书 Parquet 文件结构与优势_parquet文件_KK架构的博客-CSDN博客 Parquet文件格式解析_parquet.block.size_davidfantasy的博客-CSDN博…...

编程日记 2023/8/1 22:10:20

Docker的安装和部署

目录 一、Docker的安装部署 （1）关闭防火墙 （2）关闭selinux （3）安装docker引擎 （4）启动docker （5）设置docker自启动 （6）测试doc…...

编程日记 2023/8/1 22:09:19

FPGA项目实现：秒表设计

文章目录 项目要求项目设计 项目要求 设计一个时钟秒表，共六个数码管，前两位显示分钟，中间两位显示时间秒，后两位显示毫秒的高两位，可以通过按键来开始、暂停以及重新开始秒表的计数。 项目设计 为完成此项目共设计…...

编程日记 2023/8/1 22:08:17

Postgresql源码（109）并行框架实例与分析

1 PostgreSQL并行参数 系统参数 系统总worker限制：max_worker_processes 默认8 系统总并发限制：max_parallel_workers 默认8 单Query限制：max_parallel_workers_per_gather 默认2 表参数限制：parallel_workers alter table tbl …...

编程日记 2023/8/1 22:07:16

ES派生类的prototype方法中，不能访问super的解决方案

1 下面的B.prototype.compile方法中，无法访问super class A {compile() {console.log(A)} }class B extends A {compile() {super.compile()console.log(B)} }B.prototype.compile function() {super.compile() // 报错，不可以在此处使用superconsole.…...

编程日记 2023/8/1 22:06:15

使用adb通过电脑给安卓设备安装apk文件

最近碰到要在开发板上安装软件的问题，由于是开发板上的安卓系统没有解析apk文件的工具，所以无法通过直接打开apk文件来安装软件。因此查询各种资料后发现可以使用adb工具，这样一来可以在电脑上给安卓设备安装软件。 ADB 就是连接 Android 手…...

编程日记 2023/8/1 22:05:13

113、单例Bean是单例模式吗？

单例Bean是单例模式吗？ 通常来说，单例模式是指在一个JVM中，一个类只能构造出来一个对象，有很多方法来实现单例模式，比如懒汉模式，但是我们通常讲的单例模式有一个前提条件就是规定在一个JVM中，那如果要在两个JVM中保证单例呢？那可能就要用分布式锁这些技术，这里的重点…...

编程日记 2023/8/1 22:04:13

RabbitMQ 集群部署

RabbiMQ 是用 Erlang 开发的，集群非常方便，因为 Erlang 天生就是一门分布式语言，但其本身并不支持负载均衡。 RabbitMQ 的集群节点包括内存节点、磁盘节点。RabbitMQ 支持消息的持久化，也就是数据写在磁盘上，最合适的方案就是既有内存节点，又有磁盘节点。 RabbitMQ 模式大…...

编程日记 2023/8/1 22:03:08

2023年【零声教育】13代C/C++Linux服务器开发高级架构师课程体系分析

对于零声教育的C/CLinux服务器高级架构师的课程到2022目前已经迭代到13代了，像之前小编也总结过，但是课程每期都有做一定的更新，也是为了更好的完善课程跟上目前互联网大厂的岗位技术需求，之前课程里面也包含了一些小的分支&#…...

编程日记 2023/8/1 22:02:05

iOS开发-实现热门话题标签tag显示控件

iOS开发-实现热门话题标签tag显示控件 话题标签tag显示非常常见，如选择你的兴趣，选择关注的群，超话，话题等等。 一、效果图 二、实现代码 由于显示的是在列表中，这里整体控件是放在UITableViewCell中的。 2.1 标签…...

编程日记 2023/8/1 22:01:04

linux系统磁盘性能监视工具iostat

目录 一、iostat介绍 二、命令格式 三、命令参数 四、参考命令：iostat -c -x -k -d 1 （一）输出CPU 属性值 （二）CPU参数分析 （三）磁盘每一列的含义 （四）磁盘参数分…...

编程日记 2023/8/1 22:00:03

观成科技：隐蔽隧道工具Ligolo-ng加密流量分析

1.工具介绍 Ligolo-ng是一款由go编写的高效隧道工具，该工具基于TUN接口实现其功能，利用反向TCP/TLS连接建立一条隐蔽的通信信道，支持使用Let’s Encrypt自动生成证书。Ligolo-ng的通信隐蔽性体现在其支持多种连接方式，适应复杂网…...

编程新知 2025/9/13 15:47:16

智慧医疗能源事业线深度画像分析（上）

引言 医疗行业作为现代社会的关键基础设施，其能源消耗与环境影响正日益受到关注。随着全球"双碳"目标的推进和可持续发展理念的深入，智慧医疗能源事业线应运而生，致力于通过创新技术与管理方案，重构医疗领域的能源使用模式。这一事业线融合了能源管理、可持续发…...

编程新知 2025/9/9 10:33:27

安宝特方案丨XRSOP人员作业标准化管理平台：AR智慧点检验收套件

在选煤厂、化工厂、钢铁厂等过程生产型企业，其生产设备的运行效率和非计划停机对工业制造效益有较大影响。 随着企业自动化和智能化建设的推进，需提前预防假检、错检、漏检，推动智慧生产运维系统数据的流动和现场赋能应用。同时，…...

编程新知 2025/9/6 15:44:23

Cinnamon修改面板小工具图标

Cinnamon开始菜单-CSDN博客 设置模块都是做好的，比GNOME简单得多！ 在 applet.js 里增加 const Settings imports.ui.settings;this.settings new Settings.AppletSettings(this, HTYMenusonichy, instance_id); this.settings.bind(menu-icon, menu…...

编程新知 2025/8/14 2:06:45

Springcloud：Eureka 高可用集群搭建实战（服务注册与发现的底层原理与避坑指南）

引言：为什么 Eureka 依然是存量系统的核心？ 尽管 Nacos 等新注册中心崛起，但金融、电力等保守行业仍有大量系统运行在 Eureka 上。理解其高可用设计与自我保护机制，是保障分布式系统稳定的必修课。本文将手把手带你搭建生产级 Eur…...

编程新知 2025/8/16 12:53:56

从零实现STL哈希容器：unordered_map/unordered_set封装详解

本篇文章是对C学习的STL哈希容器自主实现部分的学习分享 希望也能为你带来些帮助~ 那咱们废话不多说&#xff0c;直接开始吧&#xff01; 一、源码结构分析 1. SGISTL30实现剖析 // hash_set核心结构 template <class Value, class HashFcn, ...> class hash_set {ty…...

编程新知 2025/8/25 21:03:32

04-初识css

一、css样式引入 1.1.内部样式 <div style"width: 100px;"></div>1.2.外部样式 1.2.1.外部样式1 <style>.aa {width: 100px;} </style> <div class"aa"></div>1.2.2.外部样式2 <!-- rel内表面引入的是style样…...

编程新知 2025/8/25 16:43:44

大模型多显卡多服务器并行计算方法与实践指南

一、分布式训练概述 大规模语言模型的训练通常需要分布式计算技术，以解决单机资源不足的问题。分布式训练主要分为两种模式： 数据并行：将数据分片到不同设备，每个设备拥有完整的模型副本 模型并行：将模型分割到不同设备，每个设备处理部分模型计算 现代大模型训练通常结合…...

编程新知 2025/7/23 19:14:14

如何理解 IP 数据报中的 TTL？

目录 前言理解 前言 面试灵魂一问&#xff1a;说说对 IP 数据报中 TTL 的理解&#xff1f;我们都知道&#xff0c;IP 数据报由首部和数据两部分组成&#xff0c;首部又分为两部分&#xff1a;固定部分和可变部分&#xff0c;共占 20 字节&#xff0c;而即将讨论的 TTL 就位于首…...

编程新知 2025/9/13 0:08:53

是否存在路径（FIFOBB算法）

题目描述 一个具有 n 个顶点e条边的无向图&#xff0c;该图顶点的编号依次为0到n-1且不存在顶点与自身相连的边。请使用FIFOBB算法编写程序&#xff0c;确定是否存在从顶点 source到顶点 destination的路径。 输入 第一行两个整数&#xff0c;分别表示n 和 e 的值&#xff08;1…...

编程新知 2025/8/30 5:01:00