开发大语言模型需要数据？算法？算力？
开发大语言模型的关键是什么。最近看到不少文章为了流量，甚至连 5G 通讯都说成了是开发大语言模型的关键
其实从前面的原理介绍，不难看出，大语言模型的其中一个关键点是数据。
关键一：数据
训练数据主要是所谓的语料库。今天的很多语言模型的语料库主要有以下几种：
- Books：BookCorpus 是之前小语言模型如 GPT-2 常用的数据集，包括超过 11000 本电子书。主要包括小说和传记，最近更新时间是 2015 年 12 月。大一点的书籍语料库是 Gutenberg，它有 70000 本书，包括小说、散文、戏剧等作品，是目前最大的开源书籍语料库之一，最近更新时间是 2021 年 12 月。
- CommonCrawl：这个是目前最大的开源网络爬虫数据库，不过这个数据包含了大量脏数据，所以目前常用的四个数据库是 C4、CC-Stories、CC-News 和 RealNews。另外还有两个基于 CommonCrawl 提取的新闻语料库 REALNEWS 和 CC-News。
- Reddit Links：简单理解 Reddit 就是外国版本的百度贴吧 + 知乎。目前开源的数据库有 OpenWebText 和 PushShift.io。
- Wikipedia：维基百科是目前大模型广泛使用的语料库。
- Code：一般包含 GitHub 上的开源公共代码库，或者是
相关文章：
开发大语言模型需要数据？算法？算力？
开发大语言模型的关键是什么。最近看到不少文章为了流量，甚至连 5G 通讯都说成了是开发大语言模型的关键 其实从前面的原理介绍，不难看出，大语言模型的其中一个关键点是数据。 关键一：数据 训练数据主要是所谓的语料库。今天的很多语言模型的语料库主要有以下几种： …...
CSS选择器的常见用法
目录 1、CSS编写方式 2.CSS选择器 1.标签选择器 2.类选择器 3.id选择器 4.后代选择器 3.CSS属性 CSS叫做"层叠样式表",作用就是装饰网页.类似于我们平时所说的化妆。 字体、大小、间距、颜色、位置、边框、背景等等统称为样式，用来描述一个网页。 …...
Oracle EBS修改密码
FNDCPASS修改密码 用户名必须出现在FND_USER或FND_ORACLE_USERID表中。FNDCPASS实用程序和ALLRACLE功能是为应用程序用户/模式设计的。 对于FND_USER或FND_ORACLE_USERID中不存在的用户，可以使用alter命令更改密码。 查询用户是否存在FND_USER或FND_ORACLE_USERI…...
《花雕学AI》33：如何用XMind制作AI思维导图、鱼骨图和组织结构图
思维导图是一种有效的思维工具，它可以帮助我们整理信息，激发创意，提高效率。思维导图是一种以中心主题为核心，以分支结构为形式，以关键词和图像为内容的图形表示法。它可以让我们一目了然地看到知识的层次和逻辑&#…...
【rust】| 06——语言特性 | 所有权
系列文章目录 【rust】| 00——开发环境搭建 【rust】| 01——编译并运行第一个rust程序 【rust】| 02——语法基础 | 变量(不可变?)和常量 【rust】| 03——语法基础 | 数据类型 【rust】| 04——语法基础 | 函数 【rust】| 05——语法基础 | 流程控制 【rust】| 06——语言特…...
AUTOSAR入门
简介 AUTOSAR（AUTomotive Open System ARchitecture）是一种汽车软件架构标准，由德国大陆、博世、宝马等汽车及零部件制造商共同发起，拥有广泛的行业参与。其目标是为了解决汽车电子和软件系统日益复杂的问题，提高可重…...
运维高可用架构的 6 大常规方案
在介绍高可用架构的方案之前，先说一下什么是高可用架构，高可用架构应具备但不限于以下特征： 主从切换 很好理解，当其中一台机器的服务宕机后，对于服务调用者来说，能够迅速的切换到其他可用服务，…...
Java设计模式-桥接模式
简介 桥接模式（Bridge Pattern）是一种结构性设计模式，它的主要作用是将抽象部分和实现部分解耦，使它们可以独立变化而不会互相影响。桥接模式最早由GoF（Gang of Four）提出，在《设计模式》一书中…...
计及N-k安全约束的含光热电站电力系统优化调度模型【IEEE14节点、118节点】（Matlab代码实现）
💥💥💞💞欢迎来到本博客❤️❤️💥💥 🏆博主优势：🌞🌞🌞博客内容尽量做到思维缜密，逻辑清晰，为了方便读者。 ⛳️座右铭&a…...
欧拉函数详解
文章目录 欧拉函数定义性质计算公式求某个数欧拉函数值线性筛求区域内欧拉函数 欧拉函数 定义 在[1,n]的范围内所有与n互质的数字的个数。 我们用 φ ( n ) \varphi(n) φ(n)来表示数字n的欧拉函数的值，例如： φ ( 4 ) 2 \varphi(4)2 φ(4)2…...
手把手教你如何将安卓手机数据导入iPhone！【详解】
案例：安卓数据导入苹果手机 【大神们，刚换了新的苹果手机，原本的安卓手机数据怎么导入新手机？】 想要换用iPhone，但是又不想丢失安卓手机里的重要数据怎么办？如何将安卓手机数据导入iphone？本文…...
怎么轻松地搞定Win11系统备份任务？
“我是一个电脑小白，不是很懂电脑的一些操作。我刚买了一台新电脑，它装的是Win11系统，我害怕它出现什么问题，听朋友说可以通过备份的方法保护系统，这是真的吗？有谁知道该怎么进行Win11系统备份吗࿱…...
MySQL集群
目录 主从复制 主从复制流程： 为什么要有relay log中继日志？ 为什么要有主从复制，好处？ 实际生产环境中。如果对MySQL数据库的读写都在一台数据库服务器中操作，无论是再安全性、高可用性，还是高并发性等…...
关于Kerberos认证的一些攻击手法学习总结
Kerberos认证流程 前言 本文主要分享最近学习的关于域内Kerberos认证的一些攻击手法，以自我的理解为主，从原理理解切入到基本工具利用来阐述，个人的理解分析较为啰嗦，嫌太兀长的可以跳着看就好，还请各位谅解。如有错误…...
STL-deque容器
双端数组，可以对头端进行插入删除操作 deque 容器和 vecotr 容器有很多相似之处，比如： deque 容器也擅长在序列尾部添加或删除元素（时间复杂度为O(1)），而不擅长在序列中间添加或删除元素。deque 容器也可…...
❤ go语言和java语言的优缺点
❤ go语言和java语言的优缺点对比 对比GOJAVA介绍Java是一种流行的面向对象的编程语言，它的语法类似于C，并且具有丰富的类库和工具。Java的可移植性很好，可以在多种平台上运行。Go是一种新兴的编程语言，它比Java更加简洁和易学&a…...
安全成就未来｜Fortinet Accelerate 2023·中国区巡展首站启幕
Fortinet Accelerate 2023中国区巡展 年度网络安全盛会 Fortinet Accelerate 2023中国区巡展，昨日在深圳拉开帷幕，开启15城巡展的“首城之站”。本年度巡展主题“安全成就未来”，Fortinet与中企通信、亚马逊云科技等生态合作伙伴，…...
输入URL到显示界面的整个过程
以如下这个比较简单的网络拓扑模型作为例子，探究中间发生的整个过程： 1 HTTP 浏览器做的第一步工作就是要对 URL 进行解析，从而生成发送给 Web 服务器的请求信息。下图展示了一条长长的URL里各个元素代表什么： 所以整个长长的URL…...
BetaFlight飞控启动运行过程简介
BetaFlight飞控启动&运行过程简介 1. 源由2. 启动过程2.1 main（主程序）2.2 init （初始化）2.3 run 3. 任务调度3.1 任务定义3.2 scheduler (调度器) 4. 总结5. 参考资料6. 附录 -- 问题汇总6.1 Why desiredPeriodCycles is so …...
智能汽车实验二(视觉传感器标定)
实验二 视觉传感器标定（实验报告） 【实验目的】 1、了解开源图像处理库OpenCV的结构，掌握OpenCV的基本使用方法。 2、了解开源图像处理库OpenCV的基本模块功能，掌握常用图像处理方法。 3、掌握摄像机标定算法，学会使用…...
别再只测accuracy！DeepSeek集成测试必须监控的5个隐性指标（P99首token延迟、context bleed率、tool-call schema漂移）
更多请点击： https://intelliparadigm.com 第一章：DeepSeek集成测试的核心范式演进 DeepSeek大模型的工程化落地对集成测试提出了全新挑战：传统基于接口响应码与字段校验的测试范式已难以覆盖语义一致性、推理链鲁棒性、上下文敏感度等高阶质…...
ROS Noetic实战：从bag包里‘抠’出雷达点云和IMU数据的保姆级教程（Ubuntu 20.04）
ROS Noetic实战：从bag包里提取雷达点云和IMU数据的完整指南（Ubuntu 20.04）在机器人开发中，ROS bag文件就像是一个装满珍贵数据的宝箱，而雷达点云和IMU数据则是其中最闪亮的宝石。作为一名长期与ROS打交道的开发者&…...
为什么92%的团队用DeepSeek生成方案仍需人工重写？揭秘缺失的2个元认知层与1套校验协议
更多请点击： https://intelliparadigm.com 第一章：为什么92%的团队用DeepSeek生成方案仍需人工重写？揭秘缺失的2个元认知层与1套校验协议 当团队将DeepSeek-R1或DeepSeek-VL模型用于技术方案生成时，表面看响应迅速、逻辑连贯&…...
JWT弱密钥爆破实战：从HS256签名原理到CTF权限提升
1. 这不是密码学考试，而是一场“密钥猜谜”实战JWT（JSON Web Token）在现代Web系统中早已不是可选项，而是默认配置。登录成功后返回一串形如eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJ1c2VyX2lkIjoxMjMsIm5hbWUiOiLnlKjliYkiLCJpYX…...
Unity塔防底层架构：ScriptableObject驱动的数据契约设计
1. 这不是“又一个塔防模板”，而是塔防开发的底层操作系统我第一次在Asset Store点开Tower Defense Toolkit 4（TDTK-4）的预览图时，下意识划走了——界面太“干净”了，没有炫酷的粒子特效演示，没有满屏飞舞的…...
Awoo Installer：让Switch游戏安装变得简单高效的终极解决方案
Awoo Installer：让Switch游戏安装变得简单高效的终极解决方案 【免费下载链接】Awoo-Installer A No-Bullshit NSP, NSZ, XCI, and XCZ Installer for Nintendo Switch 项目地址: https://gitcode.com/gh_mirrors/aw/Awoo-Installer 厌倦了繁琐的Switch游戏安…...
5分钟免费搞定HS2汉化：Honey Select 2完整中文补丁终极教程
5分钟免费搞定HS2汉化：Honey Select 2完整中文补丁终极教程 【免费下载链接】HS2-HF_Patch Automatically translate, uncensor and update HoneySelect2! 项目地址: https://gitcode.com/gh_mirrors/hs/HS2-HF_Patch 还在为Honey Select 2的日文界面而烦恼吗…...
暗黑破坏神2存档编辑器：d2s-editor免费可视化编辑终极指南
暗黑破坏神2存档编辑器：d2s-editor免费可视化编辑终极指南 【免费下载链接】d2s-editor 项目地址: https://gitcode.com/gh_mirrors/d2/d2s-editor 想要轻松修改暗黑破坏神2存档却不懂十六进制？d2s-editor是你的完美解决方案！这款基于…...
【独家披露】DeepSeek灰度发布SLI/SLO基线标准：99.95%可用性背后的4层验证漏斗
更多请点击： https://codechina.net 第一章：DeepSeek灰度发布策略全景图 DeepSeek模型服务的灰度发布并非简单的流量切分，而是一套融合可观测性、渐进式验证与多维熔断机制的工程化闭环体系。其核心目标是在保障线上推理稳定性的同时&#x…...
FM广播高精度预加重模块设计：解决传统电路缺陷，提升音质与信噪比
1. 项目概述：为什么FM广播需要高精度预加重？如果你玩过FM广播发射，或者对音频处理链路有点研究，大概率听说过“预加重”这个词。简单说，它就是在发射端人为提升高频信号电平的一个处理环节。欧洲标准是50微秒ÿ…...