当前位置：首页 > news >正文

李宏毅生成式AI课程笔记（持续更新

news 2026/3/29 10:18:52

01 ChatGPT在做的事情

02 预训练（Pre-train）

ChatGPT

G-Generative

P-Pre-trained

T-Transformer

GPT3 ----> InstructGPT（经过预训练的GPT3）

生成式学习的两种策略

我们在使用ChatGPT的时候会注意到，网站上的回答几乎是一个字一个字给出来的，这里就是生成式学习的两种策略：

“逐个击破”（文字）与“一次到位”（影像）

三种结构数据：文本（由token构成）、影像（像素点）、语音（采样频率）

中文的token -----> 字
英文的token -----> word piece，如unbreakable ----> un break able

Finetuning 与 Prompting

Adapter，不修改模型本身参数，插入一个额外的模组

上图包括了几种Adapter：Bitfit、Houlsby、AdapterBias、Prefix-tuning、LoRA

思维链

Chain of Thought(COT) Prompting

思维链可以大大提高模型的准确率

上图是在要求大语言模型按步骤输出答案和直接要求其输出答案的准确率区别。

03 大模型+大资料

大模型的顿悟

在某个参数量之前，增加参数量不会提高模型的正确率，当提高参数规模到一定程度，会出现准确率突然变高的情况（如下图）

同理，也只有在参数量达到一定程度的时候，思维链和微调才能起作用，如下图：

模型是否知道自己在胡说八道，在参数量足够大的时候，模型才拥有这个能力，如下图：

模型与资料的平衡

足够大的时候，模型才拥有这个能力，如下图：

[外链图片转存中…(img-MTYfwvWJ-1697377074486)]

模型与资料的平衡

李宏毅生成式AI课程笔记（持续更新

01 ChatGPT在做的事情 02 预训练（Pre-train） ChatGPT G-Generative P-Pre-trained T-Transformer GPT3 ----> InstructGPT（经过预训练的GPT3） 生成式学习的两种策略我们在使用ChatGPT的时候会注意到，网站上…...

编程日记 2023/10/16 2:56:42

nodejs+vue+elementui酒店客房服务系统mysql带商家

视图层其实质就是vue页面，通过编写vue页面从而展示在浏览器中，编写完成的vue页面要能够和控制器类进行交互，从而使得用户在点击网页进行操作时能够正常。简单的说 Node.js 就是运行在服务端的 JavaScript。前端技术：nodejsvueel…...

编程日记 2023/10/16 2:54:38

【网络协议】聊聊网络分层

常用的网络协议首先我们输入www.taobao.com，会先经过DNS进行域名解析，转换为59.82.122.115的公网IP地址。然后就会发起请求，一般来说非加密的使用http，加密的使用https。上面是在应用层做的处理，那么接下来就是到传输…...

编程日记 2023/10/16 2:52:36

[开源]基于Vue+ElementUI+G2Plot+Echarts的仪表盘设计器

一、开源项目简介基于SpringBoot、MyBatisPlus、ElementUI、G2Plot、Echarts等技术栈的仪表盘设计器，具备仪表盘目录管理、仪表盘设计、仪表盘预览能力，支持MySQL、Oracle、PostgreSQL、MSSQL、JSON等数据集接入，对于复杂数据处理还可以使用…...

编程日记 2023/10/16 2:51:35

html设置前端加载动画

主体思路参考： 前端实现页面加载动画_边城仔的博客-CSDN博客 JS图片显示与隐藏案例_js控制图片显示隐藏-CSDN博客 1、编写load.css /* 显示加载场景 */ .loadBackGround{position: absolute;top: 0px;text-align: center;width: 100%;height: 100vh;background-c…...

编程日记 2023/10/16 2:50:34

【git的使用方法】——上传文件到gitlab仓库

先进入到你克隆下来的仓库的目录里面比如：我的仓库名字为zhuox 然后将需要上传推送的文件拷贝到你的克隆仓库下这里的话我需要拷贝的项目是t3 输入命令ls，就可以查看该文件目录下的所有文件信息然后输入git add 文件名我这边输入的是 &#x…...

编程日记 2023/10/16 2:49:33

Kafka 开启SASL/SCRAM认证及 ACL授权（二）ACL

Kafka 开启SASL/SCRAM认证及 ACL授权（二）ACL。官网地址：https://kafka.apache.org/ kafka authentorization：https://docs.confluent.io/platform/current/kafka/authorization.html 一、开启ZK ACL（可选，内网环境，用户无机器访问权限时）给kafka meta都加上zk的ac…...

编程日记 2023/10/16 2:48:32

Java8 新特性之Stream（三）-- Stream的终结操作

目录 1.forEach(Consumer) 2.reduce(BinaryOperator) 3.max([Comparator]) 4.min([Comparator]) 5.count() 6.findFirst() 7.findAny() 拓展：...

编程日记 2023/10/16 2:46:29

【Vue面试题二十八】、vue要做权限管理该怎么做？如果控制到按钮级别的权限怎么做？

文章底部有个人公众号：热爱技术的小郑。主要分享开发知识、学习资料、毕业设计指导等。有兴趣的可以关注一下。为何分享？ 踩过的坑没必要让别人在再踩，自己复盘也能加深记忆。利己利人、所谓双赢。面试官：vue要做权限管理该怎么做…...

编程日记 2023/10/16 2:45:27

1、验证1101序列（Moore）

题目要求： 用Moore型状态机验证1101序列。题目描述： 用使用状态机验证1101序列，注意：允许重复子序列。如图端口描述： module moore_1101(input clk,//时钟信号input clr,//reset复位信号，高电平有效in…...

编程日记 2023/10/16 2:44:26

Java基础面试-BeanFactroy和ApplicationContext

ApplicationContext是BeanFactory的子接口 ApplicationContext提供了更完整的功能: 继承MessageSource，因此支持国际化。统一的资源文件访问方式。提供在监听器中注册bean的事件。同时加载多个配置文件。载入多个(有继承关系)上下文，使得每一个上下文都…...

编程日记 2023/10/16 2:43:24

js的入口函数

JavaScript的入口函数是指在HTML页面加载完毕后，JavaScript代码开始执行的函数。这个函数一般被称为onload函数，它的作用是在页面加载完成后执行一些初始化操作，或者对页面进行动态修改。在HTML页面中，可以通过以下方式设置入口…...

编程日记 2023/10/16 2:42:23

[cpp primer随笔] 10. 函数重载与重载决议

本篇将介绍C函数重载的概念，及重载决议规则。一、函数重载同一作用域内，函数名相同，而形参列表不同的函数称之为重载函数(overloaded function)。需要特别注意：以下情况看似形参列表不同，实则等价，无法…...

编程日记 2023/10/16 2:41:22

java_Stream API

文章目录一、Stream API vs 集合二、Stream 使用的执行流程2.1、创建Stream2.1、中间操作2.1.1. filter2.1.2. limit2.1.3. skip2.1.4. distinct2.1.5. map2.1.6. sorted 一、Stream API vs 集合 Stream API 关注的是多个数据的计算（排序、查找、过滤、映射、遍历…...

编程日记 2023/10/16 2:40:21

红队专题-工具Fscan

红队专题招募六边形战士队员简介主要功能 ubuntu 安装windows 安装常用命令：项目框架源文件common目录Plugins目录Webscan目录爆破插件common.Scantype Webtitle函数webpoc扫描类型指纹识别免杀源码特征参考链接招募六边形战士队员一起学习代码审计、安全开发…...

编程日记 2023/10/16 2:39:20

【宏实现二进制奇偶位交换】

文章目录一. 二进制奇偶位交换说明意思？二. 解题思路三. 代码验证四. 总结一. 二进制奇偶位交换说明意思？ 就是一个int类型的整数在操作系统下是32位二进制01序列，第一位和第二位交换，第二位和第三位交换，依次类推。…...

编程日记 2023/10/16 2:38:19

【Java零基础入门到就业】第一天：java简介和cmd窗口的一些常见命令

1、java简介 Java是一种基于类的、面向对象的编程语言，它被设计成具有尽可能少的实现依赖。它旨在让应用程序开发人员编写一次，并在任何地方运行(WORA)，这意味着编译后的Java代码可以在所有支持Java的平台上运行，而无需重新编译。…...

编程日记 2023/10/16 2:37:18

ubuntu下yolov5 tensorrt模型部署

文章目录 ubuntu下yolov5 tensorrt模型部署一、Ubuntu18.04环境配置1.1 安装工具链和opencv1.2 安装Nvidia相关库1.2.1 安装Nvidia显卡驱动1.2.2 安装 cuda11.31.2.3 安装 cudnn8.21.2.4 下载 tensorrt8.4.2.41.2.5 下载仓库TensorRT-Alpha并设置二、从yolov5源码中导出onnx文…...

编程日记 2023/10/16 2:36:17

windows Vscode 连接虚拟机，超详细，含免密免ip配置以 linux 虚拟机为例

我们这里使用 ssh 进行连接，不了解 ssh 的也没关系，感兴趣的可以自己了解一下。我的虚拟机是 Ubuntu20.04，如果出现与 Centos 不一样的操作可以自行替换。 （应该不会有？？） 一 . 登录虚拟机~&a…...

编程日记 2023/10/16 2:35:15

【Unity】VR基础开发2项目准备-VR基本场景构建（OpenXR方向）

【文字内容】稍等一会儿，编辑器界面就出现了。有可能你的界面布局会有所不同，可以在右上角点击布局，选择Tall，布局切换后在来到左边窗口的左上角，将Game选项卡拖放到下方Dock，这样就可以得到和我一样的布局了。简单介绍一下。场景面板是对游戏进行可视化编辑的地方…...

编程日记 2023/10/16 2:34:14

高速下载革命：直链解析技术如何重构网盘使用体验

高速下载革命：直链解析技术如何重构网盘使用体验【免费下载链接】Online-disk-direct-link-download-assistant 可以获取网盘文件真实下载地址。基于【网盘直链下载助手】修改（改自6.1.4版本） ，自用，去推广&#xff0…...

编程新知 2026/3/29 10:16:20

隐马尔科夫模型（HMM）实战：从天气预测到股票市场分析

1. 隐马尔科夫模型入门：从天气预报说起第一次听说隐马尔科夫模型(HMM)时，我正盯着手机上的天气预报发呆。为什么明明显示"晴天"，下午却突然下起暴雨？这让我开始思考天气预测背后的数学模型。HMM正是解决这类问题的利器…...

编程新知 2026/3/29 9:50:11

深入ProtoBuf编译：从Google.Protobuf.dll到Protoc.exe的完整实践指南

1. ProtoBuf基础与编译环境搭建 Protocol Buffers（简称ProtoBuf）是Google开发的一种高效数据序列化工具。我第一次接触ProtoBuf是在处理微服务通信时，当时被它比JSON快3-5倍的序列化速度震惊了。简单来说，ProtoBuf就像是个智能的数…...

编程新知 2026/3/29 9:48:10

Youtu-Parsing开源模型实战：ONNX导出+TensorRT加速部署全流程

Youtu-Parsing开源模型实战：ONNX导出TensorRT加速部署全流程 1. 引言如果你处理过大量的扫描文档、PDF文件或者图片资料，一定遇到过这样的烦恼：想把图片里的文字、表格、公式提取出来，手动操作不仅费时费力，还容易出…...

编程新知 2026/3/29 7:45:30

从零封装Vue版JSMpeg播放器：支持截图/录制/旋转的直播流组件开发指南

从零封装Vue版JSMpeg播放器：支持截图/录制/旋转的直播流组件开发指南 1. 技术选型与架构设计在Web端实现低延迟视频直播需要解决三个核心问题：编解码效率、传输协议选择和渲染性能。基于JSMpeg的方案优势在于： 超低延迟（可达50ms…...

编程新知 2026/3/29 7:13:22

【PyCon 2024闭门报告首发】：基于237个微基准测试的Python 3.14 JIT编译策略矩阵分析

第一章：PyCon 2024闭门报告核心结论与JIT演进全景核心共识：CPython JIT不再追求“全量即时编译” PyCon 2024闭门技术委员会明确指出，CPython 3.13 的JIT策略已从早期“通用LLVM后端”转向聚焦于“热点字节码的增量式优化”。其目标并非替代C…...

编程新知 2026/3/29 6:55:17

3个高效功能让Maccy成为macOS必备剪贴板管理器

3个高效功能让Maccy成为macOS必备剪贴板管理器【免费下载链接】Maccy Lightweight clipboard manager for macOS 项目地址: https://gitcode.com/gh_mirrors/ma/Maccy Maccy是一款专为macOS设计的轻量级剪贴板管理器，能够记录复制历史，让用户轻松…...

编程新知 2026/3/29 6:34:27

Mac清理工具Pearcleaner：残留文件处理与系统优化完全指南

Mac清理工具Pearcleaner：残留文件处理与系统优化完全指南【免费下载链接】Pearcleaner Open-source mac app cleaner 项目地址: https://gitcode.com/gh_mirrors/pe/Pearcleaner Pearcleaner是一款免费开源的Mac应用清理工具，专为彻底卸载应用程…...

编程新知 2026/3/29 5:36:01