当前位置： 首页 > news >正文

大模型基础架构

news 2026/3/30 17:46:04

Transformer

设计者：Google
特点：最流行，几乎所有大模型都用它
代码：https://github.com/openai/finetune-transformer-lm/blob/master/train.py

RWKV

设计者：PENG Bo
特点：可并行训练，推理性能极强，适合在端侧使用
代码：https://github.com/BlinkDL/RWKV-LM/tree/main/RWKV-v5
https://www.rwkv.com/

Mamba

设计者：CMU&Princeton University
特点：性能更佳，尤其适合长文本生成
代码：https://github.com/state-spaces/mamba

相关文章：

大模型基础架构

Transformer 设计者：Google 特点：最流行，几乎所有大模型都用它 代码：https://github.com/openai/finetune-transformer-lm/blob/master/train.py RWKV 设计者：PENG Bo 特点：可并行训练，推理性…...

编程日记 2024/10/8 14:42:33

MySQL 实验 10：数据查询（3）—— 聚合函数与分组查询

MySQL 实验 10：数据查询（3）—— 聚合函数与分组查询 目录 MySQL 实验 10：数据查询（3）—— 聚合函数与分组查询一、聚合函数1、计数函数（COUNT）2、求和函数（SUM&#xff0…...

编程日记 2024/10/8 14:40:30

感知机学习算法

感知机 一、感知机简介二、感知机模型2.1 感知机的基本组成2.2 求和函数2.2.1 时间总合2.2.2 空间总合 2.3 激活函数2.4 学习算法2.4.1 赫布学习规则2.4.2 Delta学习规则 三、 结论参考文献 一、感知机简介 M-P神经元模型因其对生物神经元激发过程的极大简化而成为神经网络研究…...

编程日记 2024/10/8 14:39:29

2024年双十一有什么好物推荐？双十一必买清单大汇总

随着科技的飞速发展，数码产品已成为我们生活中不可或缺的伙伴。2024年双十一购物狂欢节即将来临，众多消费者早已摩拳擦掌，准备在这个年度盛事中淘到心仪的数码好物。在这个信息爆炸的时代，如何从琳琅满目的商品中挑选出性价比高、…...

编程日记 2024/10/8 14:38:27

C语言贪吃蛇

#只讲逻辑不讲一些基础，基础大概过一遍就行# project-one: 无 (gitee.com)仓库里面有原代码 一、基础工作 1、先将你的编译器换成32位环境，也就是x86， 如果是控制台主机窗口则管，若不是需要改为控制台主机窗口 打开运行窗口后点…...

编程日记 2024/10/8 14:35:23

SpringBoot宠物咖啡馆平台：创新设计与高效实现

1系统概述 1.1 研究背景 随着计算机技术的发展以及计算机网络的逐渐普及，互联网成为人们查找信息的重要场所，二十一世纪是信息的时代，所以信息的管理显得特别重要。因此，使用计算机来管理基于Spring Boot的宠物咖啡馆平台的设计与…...

编程日记 2024/10/8 14:30:17

李宏毅深度学习-梯度下降和Batch Normalization批量归一化

Gradient Descent梯度下降 ▽ -> 梯度gradient -> vector向量 -> 下图中的红色箭头（loss等高线的法线方向） Tip1: Tuning your learning rates Adaptive Learning Rates自适应lr 通常lr会越来越小 Adaptive Learning Rates中每个参数都给它不…...

编程日记 2024/10/8 14:29:16

java集合框架都有哪些

Java集合框架（Java Collections Framework）是Java提供的一套设计良好的支持对一组对象进行操作的接口和类。这些接口和类定义了如何添加、删除、遍历和搜索集合中的元素。Java集合框架主要包括以下几个部分： 接口： Collection&…...

编程日记 2024/10/8 14:28:15

笔记整理—linux进程部分（8）线程与进程

前面用了高级IO去实现鼠标和键盘的读取&#xff0c;也说过要用多进程方式进行该操作&#xff1a; int mian(void) {int ret-1;int fd-1;char bug[100]{0};retfork();if(0ret){//子进程&#xff0c;读鼠标}if(0<ret){//父进程&#xff0c;读键盘}else{perror("fork&quo…...

编程日记 2024/10/8 14:26:12

使用 Python 实现遗传算法进行无人机路径规划

目录 使用 Python 实现遗传算法进行无人机路径规划引言1. 遗传算法概述1.1 定义1.2 基本步骤1.3 遗传算法的特点 2. 使用 Python 实现遗传算法2.1 安装必要的库2.2 定义类2.2.1 无人机模型类2.2.2 遗传算法类 2.3 示例程序 3. 遗传算法的优缺点3.1 优点3.2 缺点 4. 改进方向5. …...

编程日记 2024/10/8 14:25:10

JAVA基础： synchronized 和 lock的区别、synchronized锁机制与升级

1 synchronized 和 lock的区别 synchronized是一个关键字&#xff0c; lock是一个接口&#xff0c;实际使用的是实现类 synchronized通过触发的是系统级别的锁机制&#xff0c; lock是API级别的锁机制 synchronized自动获得锁&#xff0c;自动释放锁。 lock需要通过方法获得锁…...

编程日记 2024/10/8 14:24:08

自动驾驶 车道检测实用算法

自动驾驶 | 车道检测实用算法 车道识别是自动驾驶领域的一个重要问题&#xff0c;今天介绍一个利用摄像头图像进行车道识别的实用算法。该算法利用了OpenCV库和Udacity自动驾驶汽车数据库的相关内容。 该算法包含以下步骤&#xff1a; 摄像头校准&#xff0c;以移除镜头畸变&…...

编程日记 2024/10/8 14:22:05

22.第二阶段x86游戏实战2-背包遍历REP指令详解

免责声明&#xff1a;内容仅供学习参考&#xff0c;请合法利用知识&#xff0c;禁止进行违法犯罪活动&#xff01; 本次游戏没法给 内容参考于&#xff1a;微尘网络安全 本人写的内容纯属胡编乱造&#xff0c;全都是合成造假&#xff0c;仅仅只是为了娱乐&#xff0c;请不要…...

编程日记 2024/10/8 14:21:03

java 的三种IO模型（BIO、NIO、AIO）

java 的三种IO模型&#xff08;BIO、NIO、AIO&#xff09; 一、BIO 阻塞式 IO&#xff08;Blocking IO&#xff09;1.1、BIO 工作机制1.2、BIO 实现单发单收1.3、BIO 实现多发多收1.4、BIO 实现客户端服务端多对一1.5、BIO 模式下的端口转发思想 二、NIO 同步非阻塞式 IO&#…...

编程日记 2024/10/8 14:18:58

低级语言和高级语言、大小写敏感、静态语言和动态语言、链接

低级语言和高级语言 一般而言&#xff0c;更接近硬件的语言被称为低级语言&#xff0c;反之&#xff0c;更远离硬件被称为高级语言。C语言既有低级语言的特点&#xff0c;又有高级语言的特点&#xff0c;又被称为系统语言。Java/Python一般被称为高级语言。 大小写敏感 DOS/Win…...

编程日记 2024/10/8 14:16:53

P3197 [HNOI2008] 越狱

题目传送门 题面 [HNOI2008] 越狱 题目描述 监狱有 n n n 个房间&#xff0c;每个房间关押一个犯人&#xff0c;有 m m m 种宗教&#xff0c;每个犯人会信仰其中一种。如果相邻房间的犯人的宗教相同&#xff0c;就可能发生越狱&#xff0c;求有多少种状态可能发生越狱。 …...

编程日记 2024/10/8 14:14:50

会声会影导出视频mp4格式哪个最高清，会声会影输出格式哪个清晰

调高分辨率后&#xff0c;mp4视频还是不清晰。哪怕全部使用4K级素材&#xff0c;仍然剪不出理想中的高画质作品。不是你的操作有问题&#xff0c;而是剪辑软件没选对。Corel公司拥有全球顶尖的图像处理技术&#xff0c;该公司研发的会声会影视频剪辑软件&#xff0c;在过去的20…...

编程日记 2024/10/8 14:11:47

Linux：进程调度算法和进程地址空间

✨✨✨学习的道路很枯燥&#xff0c;希望我们能并肩走下来! 文章目录 目录 文章目录 前言 一 进程调度算法 1.1 进程队列数据结构 1.2 优先级 ​编辑 1.3 活动队列 ​编辑 1.4 过期队列 1.5 active指针和expired指针 1.6 进程连接 二 进程地址空间 2.1 …...

编程日记 2024/10/8 14:10:46

TCP ---滑动窗口以及拥塞窗口

序言 在上一篇文章中我们介绍了 TCP 中的协议段格式&#xff0c;以及保证其可靠传输的重传机制&#xff0c;着重介绍了三次握手建立连接&#xff0c;四次挥手断开连接的过程(&#x1f449;点击查看)。  这只是 TCP 保证通信可信策略的一部分&#xff0c;现在让我们继续深入吧&…...

编程日记 2024/10/8 14:09:44

第十二章--- fixed 和 setprecision 函数、round 函数、进制转换及底层逻辑

1. 保留几位小数 在C中&#xff0c;如果你想要控制输出的小数点后的位数&#xff0c;可以使用<iomanip>头文件提供的fixed和setprecision函数。这里的fixed用于设置浮点数的输出格式为定点表示法&#xff0c;而setprecision(n)则用来指定小数点后保留的位数。具体用法如…...

编程日记 2024/10/8 14:06:41

索尼相机隐藏功能完全解锁指南：OpenMemories-Tweak终极教程

索尼相机隐藏功能完全解锁指南&#xff1a;OpenMemories-Tweak终极教程 【免费下载链接】OpenMemories-Tweak Unlock your Sony cameras settings 项目地址: https://gitcode.com/gh_mirrors/op/OpenMemories-Tweak 还在为索尼相机的30分钟录制限制而烦恼吗&#xff1f;…...

编程新知 2026/3/30 17:01:49

Linux文件IO编程实战：用GEC6818开发板上的C程序玩转open/read/write/lseek

Linux文件IO编程实战&#xff1a;GEC6818开发板上的C语言文件操作精要 在嵌入式Linux开发中&#xff0c;文件操作是最基础也是最重要的技能之一。GEC6818作为一款广泛应用于教学和工业场景的开发板&#xff0c;其Linux系统编程能力尤为关键。本文将带你深入理解Linux"一切…...

编程新知 2026/3/30 16:49:37

PySpur工作流追踪终极指南：实时监控AI代理执行过程的10个技巧

PySpur工作流追踪终极指南&#xff1a;实时监控AI代理执行过程的10个技巧 【免费下载链接】pyspur Minimalist AI Agent Graph UI 项目地址: https://gitcode.com/gh_mirrors/py/pyspur PySpur是一个极简主义的AI代理图形化界面工具&#xff0c;专为构建和监控复杂AI工作…...

编程新知 2026/3/30 16:21:13

从WiFi4到WiFi7：一张表格看懂所有代际的真实网速差距（附选购建议）

从WiFi4到WiFi7&#xff1a;四代协议性能全景对比与智能组网决策指南 当你在电商平台搜索"WiFi6路由器"时&#xff0c;超过200款不同价位的设备会瞬间涌入视野。从299元的入门款到4999元的旗舰机型&#xff0c;商家宣传的"AX3000"、"BE6500"等参…...

编程新知 2026/3/30 15:58:58

iOS折叠动画终极指南：用Popping打造惊艳视觉效果

iOS折叠动画终极指南&#xff1a;用Popping打造惊艳视觉效果 【免费下载链接】popping A collection of animation examples for iOS apps. 项目地址: https://gitcode.com/gh_mirrors/po/popping 想要为你的iOS应用添加令人惊艳的折叠动画效果吗&#xff1f;Popping项目…...

编程新知 2026/3/30 15:54:55

Windows环境下Jaeger全链路监控系统搭建指南

1. 为什么需要全链路监控系统 在微服务架构中&#xff0c;一个用户请求可能会经过多个服务的处理。想象一下&#xff0c;你在电商网站下单时&#xff0c;这个操作会触发订单服务、支付服务、库存服务等多个系统的协同工作。当出现问题时&#xff0c;传统的日志排查就像在迷宫里…...

编程新知 2026/3/30 14:36:17

MOOTDX终极指南：Python通达信数据接口让量化分析变得简单高效

MOOTDX终极指南&#xff1a;Python通达信数据接口让量化分析变得简单高效 【免费下载链接】mootdx 通达信数据读取的一个简便使用封装 项目地址: https://gitcode.com/GitHub_Trending/mo/mootdx 你是否曾为获取股票数据而烦恼&#xff1f;面对复杂的API接口和繁琐的数据…...

编程新知 2026/3/30 14:05:26

手把手教你配置：用微型纵向加密搞定IEC-104协议的风光数据安全上传

新能源场站IEC-104协议安全传输实战&#xff1a;微型纵向加密配置全指南 在新能源场站的自动化系统中&#xff0c;IEC-104协议作为电力行业标准通信规约&#xff0c;承担着风机、光伏逆变器与升压站之间关键运行数据传输的重任。然而&#xff0c;传统光纤环网中的明文传输方式存…...

编程新知 2026/3/30 13:00:24

Meta2d.js终极指南：从零构建专业级Web SCADA与数字孪生应用

Meta2d.js终极指南&#xff1a;从零构建专业级Web SCADA与数字孪生应用 【免费下载链接】meta2d.js The meta2d.js is real-time data exchange and interactive web 2D engine. Developers are able to build Web SCADA, IoT, Digital twins and so on. Meta2d.js是一个实时数…...

编程新知 2026/3/30 12:58:23

试盘Z之主力操盘线

试盘K&#xff0c;以满足特定条件后对该K线标注为试盘字样方便查看。同时通达对9日最低值与9日最高值进行EMA移动平均&#xff0c;得出主力操盘线&#xff01;试盘Z源码:X_1:REF(EMA((HLC)/3,9),1);X_2:EMA(HHV(HIGH,9),3);X_3:EMA(LLV(LOW,9),3);主力操盘线:EMA(X_1*2-X_3,5),…...

编程新知 2026/3/30 12:12:10