当前位置：首页 > news >正文

从零实现诗词GPT大模型：实现多头自注意力

news 2026/4/1 8:58:13

专栏规划: https://qibin.blog.csdn.net/article/details/137728228

在上一篇文章的最后，我们已经介绍了为什么要使用多头注意力了，本篇文章我们主要来实现多头自注意力，然后综合我们之前实现的FFN和TransformerBlock其实就差不多完成了整个GPT模型的实现了。

在开始实现之前，我们还是把整个SelfAttention的公式再贴一遍，方面我们后面实现代码时参考。

从零实现诗词GPT大模型：实现多头自注意力

专栏规划: https://qibin.blog.csdn.net/article/details/137728228 在上一篇文章的最后，我们已经介绍了为什么要使用多头注意力了，本篇文章我们主要来实现多头自注意力，然后综合我们之前实现的FFN和TransformerBlock其实就差不多完成了整个GPT模型的实现了。在开始实现之…...

编程日记 2024/9/8 20:23:58

使用以下命令查看声卡，可以看到目前有三个声卡 cat /proc/asound/cards 修改设备树 diff --git a/kernel/arch/arm64/boot/dts/rockchip/rk3399-jw-d039.dts b/kernel/arch/arm64/boot/dts/rockchip/rk3399-jw-d039.dtsindex 515334c127..5b592a852f 100755--- a/…...

编程日记 2024/9/8 20:21:57

项目实战 ---- 商用落地视频搜索系统（7）---预处理二次优化

目录背景要解决的问题技术理念与落地思路完整代码另外的问题与解决优化运行效果 log 效果图背景作为商用落地系统，我们当然希望搜索视频的关联度或者说准确性与我们希望查询的视频相关度越高越好。为此，除了在query 层面上优化，我们还需要注重我们的录入数…...

编程日记 2024/9/8 20:20:56

【干货分享】央企国企的群面、半结构面试复习方法和经验总结

目录 0.前言1.个人背景介绍2.行业选择心路历程3.求职历程3.1 网申如何准备？3.2 笔试考什么？如何准备3.2.1 笔试考什么？3.2.2 笔试如何准备4.面试如何准备？敲黑板！重点！4.1 面试题收集来源、我的准备方法4.…...

编程日记 2024/9/8 20:19:54

前端HTML基础笔记

HTML（HyperText Markup Language，超文本标记语言）是一种用于创建网页的标准标记语言。它通过一系列的元素（或称为标签）来定义网页的结构和内容。HTML文档由一系列的元素组成，这些元素可以包含文本、图片、链…...

编程日记 2024/9/8 20:18:53

用三极管搭建简易电流源

目录一、三极管搭建电流源设计思路二、实例及搭建仿真1.电阻分压偏置 2.齐纳二极管偏置 3.串联二极管偏置一、三极管搭建电流源设计思路设计思路：利用分压电路，可用多种方式给基极提供偏压，使三极管处于放大区，VB保持稳定电压&…...

编程日记 2024/9/8 20:17:53

MiniGPT-3D, 首个高效的3D点云大语言模型，仅需一张RTX3090显卡，训练一天时间，已开源

项目主页：https://tangyuan96.github.io/minigpt_3d_project_page/ 代码：https://github.com/TangYuan96/MiniGPT-3D 论文：https://arxiv.org/pdf/2405.01413 MiniGPT-3D在多个任务上取得了SoTA，被ACM MM2024接收，只拥…...

编程日记 2024/9/8 20:15:51

Android Google Maps

Android 谷歌地图前言正文一、设置Google Cloud 项目二、项目配置① 设置SDK② 配置API密钥③ 配置AndroidManifest.xml 三、添加地图四、定位当前① 请求定位权限② 我的位置控件③ 获取当前位置五、配置地图① xml配置地图② 代码配置地图③ 地图点击事件④ 管理Marker 六、…...

编程日记 2024/9/8 20:13:49

Linux——进程概念

什么是操作系统操作系统管理各种计算机硬件、为应用程序提供基础、并且充当计算机硬件与用户之间的中介。冯诺依曼体系这里的存储器指的是内存不考虑缓存情况，这里的CPU能且只能对内存进行读写，不能访问外设(输入或输出设备)外设(输入或输出设备)要…...

编程日记 2024/9/8 20:12:48

【H2O2|全栈】关于HTML（1）认识HTML

HTML相关知识目录前言准备工作 WEB前端是什么？ HTML是什么？ 如何运行HTML文件？ 标签概念分类双标签和单标签行内标签和块标签 HTML文档结构预告和回顾 UI设计相关 Markdown | Md文档相关项目合作管理相关后话前…...

编程日记 2024/9/8 20:11:47

Oracle（111）如何使用RMAN备份数据库？

使用 RMAN（Recovery Manager）备份 Oracle 数据库是确保数据安全和可恢复性的关键步骤。下面是详细的指导和代码示例，展示如何使用 RMAN 进行数据库备份。 1. 准备工作在开始备份之前，需要确保以下几点： 已安装并配…...

编程日记 2024/9/8 20:05:40

linux字符设备驱动程序

字符设备驱动程序简介  linux系统中万物皆文件，驱动程序加载后会在/dev目录下生成一个对应的文件，如/dev/led。应用程序就是先用open打开该文件， 用write控制led的亮灭，用read读取led的亮灭，用完之后用close 关闭该…...

编程日记 2024/9/8 20:01:36

【pyhton】python如何实现将word等文档中的文字转换成语音

✨✨ 欢迎大家来到景天科技苑✨✨ 🎈🎈 养成好习惯，先赞后看哦~🎈🎈 🏆 作者简介：景天科技苑 🏆《头衔》：大厂架构师，华为云开发者社区专家博主，…...

编程日记 2024/9/8 19:58:33

Claude Enterprise推出计划

每周跟踪AI热点新闻动向和震撼发展想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领…...

编程日记 2024/9/8 19:57:32

【前端】CSS控制style样式失效

在CSS中，可以通过几种方式控制或禁用特定的style样式。使用all: unset来重置所有可继承的属性，并清除所有的样式： .element {all: unset;} 使用inherit值来使属性获取其父元素的值： .element {color: inherit;font-size: inh…...

编程日记 2024/9/8 19:55:30

How can I load the openai api configuration through js in html?

题意：怎样在HTML中通过JavaScript加载OpenAI API配置问题背景： I am trying to send a request through js in my html so that openai analyzes it and sends a response, but if in the js I put the following: 我正在尝试通过HTML中的JavaScript发…...

编程日记 2024/9/8 19:54:29

Pipeline流水线通过git拉取Jenkinsfile报错 error: RPC failed； result=22, HTTP code = 404

Pipeline流水线通过git拉取Jenkinsfile报错 error: RPC failed; result22, HTTP code 404 在学习共享库时使用通过git拉取jenkinsfile时，报错在排查gitlab服务状态，网络通讯，防火墙规则以及Jenkins凭据均可以正常使用，最后发现的…...

编程日记 2024/9/8 19:53:28

【与C++的邂逅】--- string容器使用

Welcome to 9ilks Code World (๑•́ ₃ •̀๑) 个人主页: 9ilk (๑•́ ₃ •̀๑) 文章专栏： 与C的邂逅本篇博客我们将来了解string容器本身以及接口的使用。 string是串，本质是一个字符数组，可以对其进行增删查改。 &am…...

编程日记 2024/9/8 19:51:26

1-18 平滑处理——高斯滤波 opencv树莓派4B 入门系列笔记

目录一、提前准备二、代码详解 cv2.GaussianBlur函数用于对图像进行高斯滤波。高斯滤波是一种平滑图像的技术，用于减少噪声和细节。函数的三个参数如下： 三、运行结果四、完整工程贴出一、提前准备 1、树莓派4B 及 64位系统 2、提前安装opencv库…...

编程日记 2024/9/8 19:49:23

小爱打工，你躺平！让「微信AI小助理」接管你的文件处理，一个字：爽！

前两天，搞了个微信 AI 小助理-小爱(AI)，爸妈玩的不亦乐乎。零风险！零费用！我把AI接入微信群，爸妈玩嗨了，附教程（下） 最近一直在迭代中，挖掘小爱的无限潜力: 链接丢给…...

编程日记 2024/9/8 19:45:20

终极分屏游戏解决方案：Nucleus Co-Op 让单机游戏变身多人派对

终极分屏游戏解决方案：Nucleus Co-Op 让单机游戏变身多人派对【免费下载链接】nucleuscoop Starts multiple instances of a game for split-screen multiplayer gaming! 项目地址: https://gitcode.com/gh_mirrors/nu/nucleuscoop 还在为单机游戏无法本地多…...

编程新知 2026/4/1 8:44:59