当前位置: 首页 > news >正文

[AI概念域] AI 大模型是如何被训练出来的?(通俗解读)

说明:这里使用 学生成长五部曲 比喻带你理解大模型如何从零开始学会思考。

AI大模型的训练过程可分为四个核心阶段:

  1. 首先进行海量数据收集与清洗,如同为“学生”准备涵盖各领域知识的教材库;
  2. 接着通过预训练让模型完成“填空题”,使其掌握基础语言规律和常识(例如学习“春天常与花开关联”),这相当于基础教育阶段;
  3. 随后进入专项微调,用人工编写的问答范例教会模型理解指令与执行任务(如区分写诗与写代码的需求),类似大学生选择专业深造;
  4. 最后通过强化学习引入人类反馈,像导师批改作业般优化回答质量,确保答案准确且符合伦理。

整个过程需消耗巨大算力(数千块GPU运行数月)和电力(相当于数万家庭年用电量),最终模型虽能流畅对话却缺乏真实理解,可能编造错误信息或放大数据偏见,这种基于统计规律而非认知能力的特性,既是AI的魔力所在,也是技术应用的潜在风险边界。


1 AI大模型的训练过程形象解读(学生成长五部曲)

1.1 预备阶段(建立知识库)

就像学生开学前准备教材和文具

  1. 数据收集买课本:从互联网收集数万亿字的文本(书籍、网页、论文等),相当于读完全球图书馆所有藏书的100倍,例如ChatGPT的训练数据包含:维基百科全文+290万篇学术论文+400亿网页内容。
  2. 数据清洗划重点做笔记:删除重复内容(如转载文章),过滤低质量信息(如广告、错别字),标注关键特征(如标记"春天"属于季节类词汇)。

1.2 训练阶段

1.2.1 基础教育阶段(预训练

像学生从幼儿园到高中系统学习

  1. 学习方式:做填空题练习:把句子挖空让模型预测缺失词:"西安电子科技大学的___季樱花非常著名" → 填"春"。每次答对获得奖励,答错调整思路。

  2. 核心能力培养

    • 语言逻辑:掌握主谓宾等语法结构
    • 常识积累:记住"水在0℃结冰"等知识点
    • 知识关联:建立"春天→花开→赏樱"的联想链
  3. 成果输出

    • 获得基础大模型(如GPT-3)
    • 能续写简单文本,但不会回答问题

1.2.2 专项提升阶段(微调训练)

像大学生选择专业进行深度学习

  1. 监督学习(SFT)做题家模式

    • 人工编写50万组问答范例:问:"西电的樱花何时开?" → 答:"三月下旬至四月初"
    • 模型通过模仿学习掌握任务解决能力
  2. 核心突破

    • 指令理解:区分"写诗"和"写代码"的需求
    • 场景适配:对医疗/法律等专业问题给出规范回答
    • 道德约束:拒绝回答如何制作危险物品
  3. 典型成果

    • 模型升级为Instruct版本(如GPT-3.5)
    • 能够理解并执行复杂指令

1.2.3 实战优化阶段(强化学习)

像研究生在导师指导下改进论文

  1. 人类反馈(RLHF)模拟答辩

    • 生成多个答案让人类评分:
      A答案:"西电樱花四月开"(3星)
      B答案:"西安电子科技大学樱花季为3-4月,最佳观赏期在清明前后"(5星)
    • 建立奖励模型,让高分答案获得更大权重
  2. 迭代优化

    • 质量提升:答案更准确详细
    • 风格优化:语气更自然友好
    • 安全加固:过滤99.7%的违规内容
  3. 最终成果

    • 产出对话优化版模型(如ChatGPT)
    • 具备多轮对话和上下文理解能力

1.3 评估阶段(领域适配)

像职场新人接受岗前培训,不合格继续训练,直到合格。

  1. 垂直训练考专业证书

    • 医疗领域:用300万份病历+医学文献训练
    • 法律领域:学习5000部法律法规+判例
  2. 混合训练培养通才

    • 同时输入文本+图片+音频数据
    • 实现多模态能力(如描述图片内容)
  3. 终身学习定期进修

    • 每月更新知识库(如新增2024年大事件)
    • 增量训练保持信息时效性

以上就是AI整个训练的一个完整描述了,对比了人类幼仔到工作上岗的整个过程,是不是更好理解了。接下来我们对训练过程中的其他部分内容进行总结。

2 总结 & 说明

2.1 技术本质总结

训练阶段人类类比技术本质耗时占比
预训练基础教育无监督语言模式学习80%
微调训练专业教育有监督任务适配15%
强化学习社会实践人类偏好对齐5%

2.2 训练成本揭秘说明

  • 硬件投入:需要数千块顶级GPU组成计算集群,相当于同时运行50万台高性能电脑
  • 能源消耗:训练GPT-4耗电1.3亿度,相当于1.5万个家庭全年用电量。
  • 时间成本:基础训练需3-6个月,全程优化迭代可能长达2年。

2.3 局限性说明

  1. 知识幻觉:可能编造看似合理但错误的内容(如虚构历史事件)
  2. 道德风险:训练数据中的偏见可能被放大(如性别歧视表述)
  3. 理解局限:不懂"樱花香气"的实际感受,仅描述文本特征

2.4 未来发展方向说明

  • 降低门槛:模型压缩技术让手机也能运行大模型,自动化训练工具让企业可定制专属AI。
  • 突破瓶颈:液态神经网络实现动态结构调整,量子计算加速千倍训练速度。
  • 认知跃迁:世界模型理解物理规律(如重力作用),神经符号系统实现逻辑推理。

通过这个训练流程,AI大模型最终成为一个基于统计规律的超级语言艺术家——它能写出媲美人类的诗句,却不知樱花飘落的美感;能解答复杂数学题,却不理解数字的真实意义。这种特性既是当前AI的魔力所在,也是人类需要谨慎对待的技术边界 。

相关文章:

[AI概念域] AI 大模型是如何被训练出来的?(通俗解读)

说明:这里使用 学生成长五部曲 比喻带你理解大模型如何从零开始学会思考。 AI大模型的训练过程可分为四个核心阶段: 首先进行海量数据收集与清洗,如同为“学生”准备涵盖各领域知识的教材库;接着通过预训练让模型完成“填空题”…...

Mellanox的LAG全称是什么?网卡的创建机制如何?(Link Aggregation Group 链路聚合组)

背景 对于双端口的网卡,有时候有将链路聚合的需求。在Mellanox网卡上通过LAG提供。对于RoCE的报文在Mellanox上也可以通过LAG来完成报文收发,叫做RoCE over LAG。但是仅仅适用于双端口卡。 关键点 LAG: Link Aggregation Group (LAG) 链路…...

【最大通过数——二分】

题目 代码 #include<bits/stdc.h> using namespace std; using ll long long;const int N 2e510;int n, m, k; ll a[N], b[N];bool check(int mid) {for(int i 0; i < mid; i){if(i > n) break;if(mid-i > m) continue;if(a[i] b[mid-i] < k) return tr…...

Liunx系统中FTP与NFS

目录 一、FTP文件传输协议 1.1、FTP工作原理 1.2、FTP状态码 1.3、FTP用户类型 1.4、FTP软件vsftpd 1.4.1、安装vsftpd 1.4.2、vsftpd配置文件 二、NFS网络文件系统 2.1、NFS工作原理 2.2、NFS软件 2.3、NFS共享配置文件格式 2.4、NFS相关命令 2.4.1、exportfs 2.…...

uniapp 测试 IPA 包安装到测试 iPhone

将uniapp测试IPA包安装到测试iPhone有以下几种方法&#xff1a; 使用Xcode安装 确保计算机上安装了Xcode&#xff0c;并将iOS设备通过数据线连接到计算机。打开Xcode&#xff0c;在菜单栏中选择Window->Devices and Simulators&#xff0c;在设备列表中找到要安装的iPhone…...

结构体指针传递给函数注意事项

在 C 语言中&#xff0c;传递结构体指针给函数是一种常见且高效的编程方式。不过&#xff0c;在实际操作时&#xff0c;有一些重要的注意事项需要留意&#xff0c;下面为你详细介绍&#xff1a; 1. 避免空指针引用 在函数内部使用结构体指针前&#xff0c;要先检查该指针是否为…...

mfy学习笔记

创建表并导入数据 CREATE TABLE sales (id INT,salesperson STRING,region STRING,sales_amount INT,sale_date DATE );INSERT INTO sales (id, salesperson, region, sales_amount, sale_date) VALUES (1, Alice, North, 1000, 2023-01-01), (2, Bob, South, 1500, 2023-01-0…...

C语言--文件操作

第16讲&#xff1a;文件操作 1. 为什么使用文件&#xff1f; 如果没有文件&#xff0c;我们写的程序的数据是存储在电脑的内存中&#xff0c;如果程序退出&#xff0c;内存回收&#xff0c;数据就丢失了&#xff0c;等再次运行程序&#xff0c;是看不到上次程序的数据的&…...

网络安全内参

在我的IT职业生涯的早期&#xff0c;Sun Microsystems被认为是一个计算机梦想家。Sun很早就创造了一个有趣的公司口号:“The network is the computer.”这是什么意思&#xff1f;这意味着IT基础设施以松散耦合的体系结构连接在一起&#xff0c;通过以太网电缆和TCP/IP协议等网…...

C++大整数类的设计与实现

1. 简介 我们知道现代的计算机大多数都是64位的&#xff0c;因此能处理最大整数为 2 64 − 1 2^{64}-1 264−1。那如果是超过了这个数怎么办呢&#xff0c;那就需要我们自己手动模拟数的加减乘除了。 2. 思路 我们可以用一个数组来存储大数&#xff0c;数组中的每一个位置表…...

在 macOS 系统上安装 kubectl

在 macOS 系统上安装 kubectl 官网&#xff1a;https://kubernetes.io/zh-cn/docs/tasks/tools/install-kubectl-macos/ 用 Homebrew 在 macOS 系统上安装 如果你是 macOS 系统&#xff0c;且用的是 Homebrew 包管理工具&#xff0c; 则可以用 Homebrew 安装 kubectl。 运行…...

【人工智能】蓝耘智算平台盛大发布DeepSeek满血版:开创AI推理体验新纪元

&#x1f4dd;个人主页&#x1f339;&#xff1a;Eternity._ &#x1f339;&#x1f339;期待您的关注 &#x1f339;&#x1f339; ❀ 蓝耘智算平台 蓝耘智算平台核心技术与突破元生代推理引擎快速入门&#xff1a;三步调用大模型接口&#xff0c;OpenAI SDK无缝兼容实战用例文…...

构建数据治理闭环:DAMA视角下的全流程实践与价值变现

随着数字经济的迅速发展&#xff0c;数据已成为企业核心资产&#xff0c;高效的数据治理体系正变得至关重要。本文基于DAMA理论&#xff0c;从数据资产入表、分类分级、确权登记到元数据管理、数据质量监控&#xff0c;再到数据集成、互操作及主数据管理&#xff0c;全流程构建…...

《深度剖析:AI与姿态估计技术在元宇宙VR交互中的应用困境》

在元宇宙的宏大版图里&#xff0c;虚拟现实&#xff08;VR&#xff09;交互是构建沉浸式体验的关键支柱&#xff0c;而人工智能&#xff08;AI&#xff09;与姿态估计技术的融合&#xff0c;本应成为提升交互体验的强大引擎。但在实际应用中&#xff0c;它们面临着诸多复杂且棘…...

【Python LeetCode】面试经典 150 题

数组 / 字符串快慢指针&#xff08;双指针&#xff09;总结88. 合并两个有序数组27. 移除元素26. 删除有序数组中的重复项80. 删除有序数组中的重复项 II Boyer-Moore 投票算法169. 多数元素扩展&#xff1a;寻找 n/3 多数元素 翻转法189. 轮转数组 贪心121. 买卖股票的最佳时机…...

2011-2019年各省乡镇综合文化站机构数数据

2011-2019年各省乡镇综合文化站机构数数据 1、时间&#xff1a;2011-2019年 2、来源&#xff1a;国家统计局、统计年鉴 3、指标&#xff1a;行政区划代码、地区、年份、乡镇综合文化站机构数 4、范围&#xff1a;31省 5、指标解释&#xff1a;乡镇综合文化站是中国基层文化…...

LeetCode 热题100 226. 翻转二叉树

LeetCode 热题100 | 226. 翻转二叉树 大家好&#xff0c;今天我们来解决一道经典的算法题——翻转二叉树。这道题在 LeetCode 上被标记为简单难度&#xff0c;要求我们翻转一棵二叉树&#xff0c;并返回其根节点。下面我将详细讲解解题思路&#xff0c;并附上 Python 代码实现…...

mysql 拼接多行合并为一行

如图所示&#xff0c;在variety相同的前提下拼接rating为ratingList&#xff0c;year_term为yearTermList sql如下&#xff1a; SELECT variety,GROUP_CONCAT(rating ORDER BY rating SEPARATOR ,) AS ratingList,GROUP_CONCAT(year_term ORDER BY year_term SEPARATOR…...

【Java项目】基于Spring Boot的论坛管理系统

【Java项目】基于Spring Boot的论坛管理系统 技术简介&#xff1a;采用Java技术、Spring Boot框架、MySQL数据库等实现。 系统简介&#xff1a;论坛管理系统是一个基于Web的在线平台&#xff0c;主要分为前台和后台两大功能模块。前台功能模块包括&#xff08;1&#xff09;首…...

unity学习54:图片+精灵+遮罩mask,旧版文本 text 和新的TMP文本

目录 1 图片 image 1.1 如果直接导入image 1.2 图片 image 和精灵 sprite 1.2.1 继续修改上面的格式 texture type 是default 1.2.2 再次关联到UI的 image 物体上就可以了 1.3 图片和遮罩 mask 1.3.1 创建1个父物体和1个子物体&#xff0c;分别都是image 1.3.2 如果父…...

【Java学习笔记】Arrays类

Arrays 类 1. 导入包&#xff1a;import java.util.Arrays 2. 常用方法一览表 方法描述Arrays.toString()返回数组的字符串形式Arrays.sort()排序&#xff08;自然排序和定制排序&#xff09;Arrays.binarySearch()通过二分搜索法进行查找&#xff08;前提&#xff1a;数组是…...

深入浅出:JavaScript 中的 `window.crypto.getRandomValues()` 方法

深入浅出&#xff1a;JavaScript 中的 window.crypto.getRandomValues() 方法 在现代 Web 开发中&#xff0c;随机数的生成看似简单&#xff0c;却隐藏着许多玄机。无论是生成密码、加密密钥&#xff0c;还是创建安全令牌&#xff0c;随机数的质量直接关系到系统的安全性。Jav…...

测试markdown--肇兴

day1&#xff1a; 1、去程&#xff1a;7:04 --11:32高铁 高铁右转上售票大厅2楼&#xff0c;穿过候车厅下一楼&#xff0c;上大巴车 &#xffe5;10/人 **2、到达&#xff1a;**12点多到达寨子&#xff0c;买门票&#xff0c;美团/抖音&#xff1a;&#xffe5;78人 3、中饭&a…...

基于当前项目通过npm包形式暴露公共组件

1.package.sjon文件配置 其中xh-flowable就是暴露出去的npm包名 2.创建tpyes文件夹&#xff0c;并新增内容 3.创建package文件夹...

在四层代理中还原真实客户端ngx_stream_realip_module

一、模块原理与价值 PROXY Protocol 回溯 第三方负载均衡&#xff08;如 HAProxy、AWS NLB、阿里 SLB&#xff09;发起上游连接时&#xff0c;将真实客户端 IP/Port 写入 PROXY Protocol v1/v2 头。Stream 层接收到头部后&#xff0c;ngx_stream_realip_module 从中提取原始信息…...

对WWDC 2025 Keynote 内容的预测

借助我们以往对苹果公司发展路径的深入研究经验&#xff0c;以及大语言模型的分析能力&#xff0c;我们系统梳理了多年来苹果 WWDC 主题演讲的规律。在 WWDC 2025 即将揭幕之际&#xff0c;我们让 ChatGPT 对今年的 Keynote 内容进行了一个初步预测&#xff0c;聊作存档。等到明…...

CRMEB 框架中 PHP 上传扩展开发:涵盖本地上传及阿里云 OSS、腾讯云 COS、七牛云

目前已有本地上传、阿里云OSS上传、腾讯云COS上传、七牛云上传扩展 扩展入口文件 文件目录 crmeb\services\upload\Upload.php namespace crmeb\services\upload;use crmeb\basic\BaseManager; use think\facade\Config;/*** Class Upload* package crmeb\services\upload* …...

UR 协作机器人「三剑客」:精密轻量担当(UR7e)、全能协作主力(UR12e)、重型任务专家(UR15)

UR协作机器人正以其卓越性能在现代制造业自动化中扮演重要角色。UR7e、UR12e和UR15通过创新技术和精准设计满足了不同行业的多样化需求。其中&#xff0c;UR15以其速度、精度及人工智能准备能力成为自动化领域的重要突破。UR7e和UR12e则在负载规格和市场定位上不断优化&#xf…...

云原生玩法三问:构建自定义开发环境

云原生玩法三问&#xff1a;构建自定义开发环境 引言 临时运维一个古董项目&#xff0c;无文档&#xff0c;无环境&#xff0c;无交接人&#xff0c;俗称三无。 运行设备的环境老&#xff0c;本地环境版本高&#xff0c;ssh不过去。正好最近对 腾讯出品的云原生 cnb 感兴趣&…...

html css js网页制作成品——HTML+CSS榴莲商城网页设计(4页)附源码

目录 一、&#x1f468;‍&#x1f393;网站题目 二、✍️网站描述 三、&#x1f4da;网站介绍 四、&#x1f310;网站效果 五、&#x1fa93; 代码实现 &#x1f9f1;HTML 六、&#x1f947; 如何让学习不再盲目 七、&#x1f381;更多干货 一、&#x1f468;‍&#x1f…...