当前位置： 首页 > news >正文

[论文笔记] chatgpt系列 2.6 DeepSpeed-chat 数据集

news 2025/7/8 14:17:53

一、FT数据集 & Reward model数据集

Deepspeed-chat 源代码的数据集：

  1. Dahoas/rm-static: 这是一个用于强化学习的静态环境数据集，包含了一个机器人在一个固定环境中的运动轨迹。该数据集旨在用于评估强化学习算法在静态环境下的表现。

  2. Dahoas/full-hh-rlhf: 这是一个用于深度强化学习的数据集，包含了一个机器人在一个动态环境中的运动轨迹。该数据集旨在用于评估深度强化学习算法在动态环境下的表现。

  3. 多轮对话数据集 Dahoas/synthetic-instruct-gptj-pairwise: 这是一个用于自然语言处理的数据集，包含了两个人之间的对话。该数据集旨在用于评估自然语言处理模型在对话生成任务中的表现。     

  4. yitingxie/rlhf-reward-datasets: 这是一个用于强化学习的数据集，包含了多个机器人在不同环境中的运动轨迹和奖励信号。该数据集旨在用于评估强化学习算法在多智能体系统中的表现。

 二、换成自定义数据集

wikitext2、ptb、c4

相关文章：

[论文笔记] chatgpt系列 2.6 DeepSpeed-chat 数据集

一、FT数据集 & Reward model数据集 Deepspeed-chat 源代码的数据集： Dahoas/rm-static: 这是一个用于强化学习的静态环境数据集，包含了一个机器人在一个固定环境中的运动轨迹。该数据集旨在用于评估强化学习算法在静态环境下的表现。 Dahoas/full-hh-rlhf: 这是一个用于…...

编程日记 2023/8/1 22:19:40

探究SAM和眼球追踪技术在自动医学图像分割的应用（2023+GazeSAM: What You See is What You Segment）

摘要： 本研究探讨眼动追踪技术与SAM的潜力，以设计一个协同的人机交互系统，自动化医学图像分割。提出了GazeSAM系统，使放射科医生能够在图像诊断过程中通过简单地查看感兴趣的区域来收集分割掩模。该系统跟踪放射科医生的眼球运动…...

编程日记 2023/8/1 22:18:39

excle中的条件求和SUMIF

问题：将每一行中红色文字的前一个值累计求和到境外总数这一列 使用的公式 自制单元格的格式计算公式：ctrlf3打开格式管理，创建如下公式，其中24是表示获取文字颜色 由于sumif只能直接与第二参数条件比较，所以先使用IF(公…...

编程日记 2023/8/1 22:17:37

python-网络爬虫.Request

Request python中requests库使用方法详解： 一简介： Requests 是Python语言编写，基于urllib， 采用Apache2 Licensed开源协议的 HTTP 库。 与urllib相比，Requests更加方便，处理URL资源特别流畅。 可以节约我…...

编程日记 2023/8/1 22:16:36

时序预测 | MATLAB实现GRNN广义回归神经网络时间序列预测（多指标，多图）

时序预测 | MATLAB实现GRNN广义回归神经网络时间序列预测（多指标，多图） 目录 时序预测 | MATLAB实现GRNN广义回归神经网络时间序列预测（多指标，多图）效果一览基本介绍程序设计参考资料效果一览 基本介绍 1.MATLAB实现GRNN广义回归神经网络时间序列预测（完整源码和数据) …...

编程日记 2023/8/1 22:15:34

如何看待低级爬虫与高级爬虫？

爬虫之所以分为高级和低级，主要是基于其功能、复杂性和灵活性的差异。根据我总结大概有下面几点原因： 功能和复杂性：高级爬虫通常提供更多功能和扩展性，包括处理复杂页面结构、模拟用户操作、解析和清洗数据等。它们解决了开发者…...

编程日记 2023/8/1 22:14:27

3.分支与循环

一、分支结构 1.概念 一个 CPP 程序默认是按照代码书写顺序，从上到下依次执行下来的。但是，有时我们需要选择性的执行某些语句，来实现更加复杂的逻辑，这时候就需要分支结构语句的功能来实现。选择合适的分支语句可以显著提高程序…...

编程日记 2023/8/1 22:13:26

面试之多线程案例（四）

1.单例模式 单例模式是指在内存中只会创建且仅创建一次对象的设计模式。在程序中多次使用同一个对象且作用相同时，为了防止频繁地创建对象使得内存飙升，单例模式可以让程序仅在内存中创建一个对象，让所有需要调用的地方都共享这一单例对象。…...

编程日记 2023/8/1 22:12:24

抄写Linux源码(Day1：获取并运行 Linux0.11)

Day1：获取并运行 Linux0.11 参考资料：https://zhuanlan.zhihu.com/p/438577225 这是我参考的一个别人写的 Linux0.11 解读：https://github.com/dibingfa/flash-linux0.11-talk 我获取 Linux-0.11 源码的链接：https://github.com/…...

编程日记 2023/8/1 22:11:21

大数据_Hadoop_Parquet数据格式详解

之前有面试官问到了parquet的数据格式，下面对这种格式做一个详细的解读。 参考链接 ： 列存储格式Parquet浅析 - 简书 Parquet 文件结构与优势_parquet文件_KK架构的博客-CSDN博客 Parquet文件格式解析_parquet.block.size_davidfantasy的博客-CSDN博…...

编程日记 2023/8/1 22:10:20

Docker的安装和部署

目录 一、Docker的安装部署 （1）关闭防火墙 （2）关闭selinux （3）安装docker引擎 （4）启动docker （5）设置docker自启动 （6）测试doc…...

编程日记 2023/8/1 22:09:19

FPGA项目实现：秒表设计

文章目录 项目要求项目设计 项目要求 设计一个时钟秒表，共六个数码管，前两位显示分钟，中间两位显示时间秒，后两位显示毫秒的高两位，可以通过按键来开始、暂停以及重新开始秒表的计数。 项目设计 为完成此项目共设计…...

编程日记 2023/8/1 22:08:17

Postgresql源码（109）并行框架实例与分析

1 PostgreSQL并行参数 系统参数 系统总worker限制：max_worker_processes 默认8 系统总并发限制：max_parallel_workers 默认8 单Query限制：max_parallel_workers_per_gather 默认2 表参数限制：parallel_workers alter table tbl …...

编程日记 2023/8/1 22:07:16

ES派生类的prototype方法中，不能访问super的解决方案

1 下面的B.prototype.compile方法中，无法访问super class A {compile() {console.log(A)} }class B extends A {compile() {super.compile()console.log(B)} }B.prototype.compile function() {super.compile() // 报错，不可以在此处使用superconsole.…...

编程日记 2023/8/1 22:06:15

使用adb通过电脑给安卓设备安装apk文件

最近碰到要在开发板上安装软件的问题，由于是开发板上的安卓系统没有解析apk文件的工具，所以无法通过直接打开apk文件来安装软件。因此查询各种资料后发现可以使用adb工具，这样一来可以在电脑上给安卓设备安装软件。 ADB 就是连接 Android 手…...

编程日记 2023/8/1 22:05:13

113、单例Bean是单例模式吗？

单例Bean是单例模式吗？ 通常来说，单例模式是指在一个JVM中，一个类只能构造出来一个对象，有很多方法来实现单例模式，比如懒汉模式，但是我们通常讲的单例模式有一个前提条件就是规定在一个JVM中，那如果要在两个JVM中保证单例呢？那可能就要用分布式锁这些技术，这里的重点…...

编程日记 2023/8/1 22:04:13

RabbitMQ 集群部署

RabbiMQ 是用 Erlang 开发的，集群非常方便，因为 Erlang 天生就是一门分布式语言，但其本身并不支持负载均衡。 RabbitMQ 的集群节点包括内存节点、磁盘节点。RabbitMQ 支持消息的持久化，也就是数据写在磁盘上，最合适的方案就是既有内存节点，又有磁盘节点。 RabbitMQ 模式大…...

编程日记 2023/8/1 22:03:08

2023年【零声教育】13代C/C++Linux服务器开发高级架构师课程体系分析

对于零声教育的C/CLinux服务器高级架构师的课程到2022目前已经迭代到13代了，像之前小编也总结过，但是课程每期都有做一定的更新，也是为了更好的完善课程跟上目前互联网大厂的岗位技术需求，之前课程里面也包含了一些小的分支&#…...

编程日记 2023/8/1 22:02:05

iOS开发-实现热门话题标签tag显示控件

iOS开发-实现热门话题标签tag显示控件 话题标签tag显示非常常见，如选择你的兴趣，选择关注的群，超话，话题等等。 一、效果图 二、实现代码 由于显示的是在列表中，这里整体控件是放在UITableViewCell中的。 2.1 标签…...

编程日记 2023/8/1 22:01:04

linux系统磁盘性能监视工具iostat

目录 一、iostat介绍 二、命令格式 三、命令参数 四、参考命令：iostat -c -x -k -d 1 （一）输出CPU 属性值 （二）CPU参数分析 （三）磁盘每一列的含义 （四）磁盘参数分…...

编程日记 2023/8/1 22:00:03

3.3.1_1 检错编码（奇偶校验码）

从这节课开始，我们会探讨数据链路层的差错控制功能，差错控制功能的主要目标是要发现并且解决一个帧内部的位错误，我们需要使用特殊的编码技术去发现帧内部的位错误，当我们发现位错误之后，通常来说有两种解决方案。第一…...

编程新知 2025/7/8 2:39:45

vue3 字体颜色设置的多种方式

在Vue 3中设置字体颜色可以通过多种方式实现&#xff0c;这取决于你是想在组件内部直接设置&#xff0c;还是在CSS/SCSS/LESS等样式文件中定义。以下是几种常见的方法&#xff1a; 1. 内联样式 你可以直接在模板中使用style绑定来设置字体颜色。 <template><div :s…...

编程新知 2025/7/4 14:40:43

VTK如何让部分单位不可见

最近遇到一个需求&#xff0c;需要让一个vtkDataSet中的部分单元不可见&#xff0c;查阅了一些资料大概有以下几种方式 1.通过颜色映射表来进行&#xff0c;是最正规的做法 vtkNew<vtkLookupTable> lut; //值为0不显示&#xff0c;主要是最后一个参数&#xff0c;透明度…...

编程新知 2025/7/6 3:09:48

鸿蒙中用HarmonyOS SDK应用服务 HarmonyOS5开发一个生活电费的缴纳和查询小程序

一、项目初始化与配置 1. 创建项目 ohpm init harmony/utility-payment-app 2. 配置权限 // module.json5 {"requestPermissions": [{"name": "ohos.permission.INTERNET"},{"name": "ohos.permission.GET_NETWORK_INFO"…...

编程新知 2025/7/5 1:17:25

大数据学习（132）-HIve数据分析

​​​​&#x1f34b;&#x1f34b;大数据学习&#x1f34b;&#x1f34b; &#x1f525;系列专栏&#xff1a; &#x1f451;哲学语录: 用力所能及&#xff0c;改变世界。 &#x1f496;如果觉得博主的文章还不错的话&#xff0c;请点赞&#x1f44d;收藏⭐️留言&#x1f4…...

编程新知 2025/6/25 7:35:04

【C++特殊工具与技术】优化内存分配(一)：C++中的内存分配

目录 一、C 内存的基本概念​ 1.1 内存的物理与逻辑结构​ 1.2 C 程序的内存区域划分​ 二、栈内存分配​ 2.1 栈内存的特点​ 2.2 栈内存分配示例​ 三、堆内存分配​ 3.1 new和delete操作符​ 4.2 内存泄漏与悬空指针问题​ 4.3 new和delete的重载​ 四、智能指针…...

编程新知 2025/7/8 7:24:52

[大语言模型]在个人电脑上部署ollama 并进行管理,最后配置AI程序开发助手.

ollama官网: 下载 https://ollama.com/ 安装 查看可以使用的模型 https://ollama.com/search 例如 https://ollama.com/library/deepseek-r1/tags # deepseek-r1:7bollama pull deepseek-r1:7b改token数量为409622 16384 ollama命令说明 ollama serve #&#xff1a…...

编程新知 2025/7/8 12:16:37

深度学习之模型压缩三驾马车：模型剪枝、模型量化、知识蒸馏

一、引言 在深度学习中&#xff0c;我们训练出的神经网络往往非常庞大&#xff08;比如像 ResNet、YOLOv8、Vision Transformer&#xff09;&#xff0c;虽然精度很高&#xff0c;但“太重”了&#xff0c;运行起来很慢&#xff0c;占用内存大&#xff0c;不适合部署到手机、摄…...

编程新知 2025/7/7 12:08:55

stm32wle5 lpuart DMA数据不接收

配置波特率9600时&#xff0c;需要使用外部低速晶振...

编程新知 2025/7/6 22:23:17

ubuntu中安装conda的后遗症

缘由: 在编译rk3588的sdk时&#xff0c;遇到编译buildroot失败&#xff0c;提示如下&#xff1a; 提示缺失expect&#xff0c;但是实测相关工具是在的&#xff0c;如下显示&#xff1a; 然后查找借助各个ai工具&#xff0c;重新安装相关的工具&#xff0c;依然无解。 解决&am…...

编程新知 2025/7/7 15:04:35