当前位置： 首页 > news >正文

【机器学习基础】Transformer学习

news 2026/5/12 4:14:24

Transformer学习

  • 梯度消失
  • FeedForward层

激活函数的主要作用是在网络中加入非线性变换

梯度消失

梯度爆炸

FeedForward层

Transformer结构：
Transformer结构主要分为两大部分：

  • 一是Encoder层结构：Encoder 的输入由 Input Embedding 和 Positional Embedding 求和输入Multi-Head-Attention，然后又做了一个ADD&Norm，再通过Feed Forward进行输出
  • 另一个则是Decoder层结构

在这里插入图片描述
FeedForward的输入:是Multi-Head Attention的输出做了残差连接和Norm之后得数据，然后FeedForward做了两次线性线性变换，为的是更加深入的提取特征。
在这里插入图片描述
它由两个线性变换组成，中间有一个 ReLU 激活
在Multi-Head Attention中，主要是进行矩阵乘法，即都是线性变换，而线性变换的学习能力不如非线性变换的学习能力强，FeedForward的计算公式如下：max相当于Relu

相关文章：

【机器学习基础】Transformer学习

Transformer学习 梯度消失FeedForward层激活函数的主要作用是在网络中加入非线性变换 梯度消失 梯度爆炸 FeedForward层 Transformer结构： Transformer结构主要分为两大部分： 一是Encoder层结构：Encoder 的输入由 Input Embedding 和 Positional Embedding 求和输入Multi…...

编程日记 2024/10/1 11:35:46

mysql如何不使用窗口函数，去统计出入库情况

mysql如何不使用窗口函数，去统计出入库情况 你把这个表看做 进出库表，每个物料把时间正序后 依次累加数量 ，看这个物料的时间线上 是否会出现负数，1号进货5个 2号出库3个 3号你不能出库3个 最多俩个 不然就是负库存，…...

编程日记 2024/10/1 11:31:41

uni-app canvas文本自动换行

封装 支持单行文本超出换行。多行文本顺位排版 // 填充自动换行的文本function fillFeedText({ctx, text, x, y, maxWidth, lineHeight, color, size}) {// 文本配置ctx.setFontSize(size);ctx.setFillStyle(color);// 计算文本换行宽高，换行逻辑const words text…...

编程日记 2024/10/1 11:30:40

【设计模式-职责链】

定义 职责链模式是一种行为设计模式，**它通过将请求发送给链上的多个处理者来避免请求发送者与处理者之间的紧密耦合。每个处理者可以选择处理请求或将其传递给链中的下一个处理者。**这样，可以将处理请求的责任链式组织，从而实现更灵活的请…...

编程日记 2024/10/1 11:29:39

Prompt：在AI时代，提问比答案更有价值

你好，我是三桥君 随着AI技术的飞速发展，我们进入了一个信息爆炸的时代。在这个时代，只要你会提问，AI就能为你提供满意的答案。这种现象让很多人开始思考：在这个答案触手可及的时代，答案的价值是否还像以前…...

编程日记 2024/10/1 11:26:36

whatis命令：关于命令的简短描述

一、命令简介 ​whatis​ 命令用于查询命令、函数、文件等的基本用途，查询结果只是一句简短的描述。 例如 $ whatis ls ls (1) - list directory contents返回关于 ls 命令的简短描述。这个结果实质是来自于man手册的一个章节，在较新的L…...

编程日记 2024/10/1 11:25:35

ICM20948 DMP代码详解（54）

接前一篇文章：ICM20948 DMP代码详解（53） 上一回解析了inv_icm20948_compass_dmp_cal函数的大部分代码，本回继续讲解inv_icm20948_compass_dmp_cal函数的余下内容。为了便于理解和回顾，再次贴出inv_icm20948_compass_dmp_cal函数代码，在EMD-Core\sources\Invn\Devices\Dri…...

编程日记 2024/10/1 11:23:33

RabbitMQ的应用问题

一、幂等性保障 幂等性是数学和计算机科学中某些运算的性质, 它们可以被多次应⽤, ⽽不会改变初始应⽤的结果 数学上的幂等性： f(x)f(f(x)) |x| 数据库操作幂等性： 数据库的 select 操作. 不同时间两次查询的结果可能不同, 但是这个操作是符合幂等性…...

编程日记 2024/10/1 11:21:31

C++14：通过make_index_sequence实现将tuple转换为array

如何将vector转换为array呢 #include <iostream> #include <tuple> #include <array> using namespace std;template <typename V, typename... Types, size_t... I> constexpr auto do_tuple_to_array(tuple<V, Types...>&& tuple, in…...

编程日记 2024/10/1 11:20:30

Linux中修改MySQL密码

Linux中MySQL的密码操作 1、给用户设置/更新密码 mysqladmin -u用户名 -p原密码 password "新密码"该命令在终端直接执行&#xff0c;不需要进入mysql视图 该命令适用于以下情况&#xff1a; 用户的密码为空&#xff0c;为用户设置密码用户密码需要更新&#xff0c…...

编程日记 2024/10/1 11:19:29

华为OD真题机试-英文输入法（Java）

华为OD机试真题中的“英文输入法”题目主要考察的是字符串处理、单词提取、以及基于前缀的单词联想功能。以下是对该题目的详细解析&#xff1a; 题目描述 主管期望你来实现英文输入法单词联想功能。具体需求如下&#xff1a; 依据用户输入的单词前缀&#xff0c;从已输入的…...

编程日记 2024/10/1 11:18:28

【React 】入门Day01 —— 从基础概念到实战应用

目录 一、React 概述 二、开发环境创建 三、JSX 基础 四、React 的事件绑定 五、React 组件基础使用 六、组件状态管理 - useState 七、组件的基础样式处理 快速入门 – React 中文文档 一、React 概述 React 是什么 由 Meta 公司开发&#xff0c;是用于构建 Web 和原生…...

编程日记 2024/10/1 11:17:27

2024年9月总结及随笔之丢卡

1. 回头看 日更坚持了639天。 读《软件开发安全之道&#xff1a;概率、设计与实施》更新完成读《软件设计的要素》开更并更新完成读《构建可扩展分布式系统&#xff1a;方法与实践》开更并更新完成读《数据湖仓》开更并持续更新 2023年至2024年9月底累计码字1555996字&#…...

编程日记 2024/10/1 11:15:25

sql语法学习 sql各种语法 sql增删改查 数据库各种操作 数据库指令

sql语法学习 sql各种语法 sql增删改查 数据库各种操作 数据库指令 学习SQL语法时&#xff0c;理解其基本结构和用法是关键。下面是SQL语法的详细学习指南&#xff0c;涵盖了SQL的主要部分&#xff0c;包括查询、插入、更新、删除、表操作等。 1. 基本查询语法 SQL 的查询语句…...

编程日记 2024/10/1 11:13:22

鸡兔同笼，但是线性代数

灵感来自&#xff1a;bilibili&#xff0c;巨佬&#xff01; 我们有 14 14 14 个头&#xff0c; 32 32 32 只脚&#xff0c;所有鸡和兔都没有变异&#xff0c;头和脚都完整&#xff0c;没有数错。还有什么 Bug 吗 小学奥数 假设全是鸡&#xff0c;则有 14 2 28 14 \time…...

编程日记 2024/10/1 11:11:21

01---java面试八股文——springboot---10题

01-你是怎么理解Spring Boot 的约定优于配置 约定优于配置是一种软件设计的范式&#xff0c;它的核心思想是减少软件开发人员对于配置项的维护&#xff0c;从而让开发人员更加聚焦在业务逻辑上。Spring Boot 就是约定优于配置这一理念下的产物&#xff0c;它类似于 Spring 框架…...

编程日记 2024/10/1 11:10:20

计算机毕业设计 二手图书交易系统的设计与实现 Java实战项目 附源码+文档+视频讲解

博主介绍&#xff1a;✌从事软件开发10年之余&#xff0c;专注于Java技术领域、Python人工智能及数据挖掘、小程序项目开发和Android项目开发等。CSDN、掘金、华为云、InfoQ、阿里云等平台优质作者✌ &#x1f345;文末获取源码联系&#x1f345; &#x1f447;&#x1f3fb; 精…...

编程日记 2024/10/1 11:09:19

【进阶OpenCV】 （3）--SIFT特征提取

文章目录 sift特征提取一、基本原理二、特点三、代码实现1. 函数方法2. 检测图像中的关键点3. 绘制关键点4. 计算关键点描述符5. 输出特征坐标点 总结 sift特征提取 SIFT&#xff08;Scale-Invariant Feature Transform&#xff0c;尺度不变特征变换&#xff09;特征检测是一种…...

编程日记 2024/10/1 11:08:18

HarmonyOS/OpenHarmony Audio 实现音频录制及播放功能

关键词&#xff1a;audio、音频录制、音频播放、权限申请、文件管理 在app的开发过程中时常会遇见一些需要播放一段音频或进行语音录制的场景&#xff0c;那么本期将介绍如何利用鸿蒙 audio 模块实现音频写入和播放的功能。本次依赖的是 ohos.multimedia.audio 音频管理模块&am…...

编程日记 2024/10/1 11:07:17

css 中 ~ 符号、text-indent、ellipsis、ellipsis-2、text-overflow: ellipsis、::before的使用

1、~的使用直接看代码 <script setup> </script><template><div class"container"><p><a href"javascript:;">纪检委</a><a href"javascript:;">中介为</a><a href"javascript:…...

编程日记 2024/10/1 11:03:14

003、TinyML与传统ML、边缘AI的区别与联系

TinyML与传统ML、边缘AI的区别与联系 从一次“模型跑死”的现场说起 上周帮一个做智能门锁的团队调模型，他们用MobileNetV2在STM32F4上做人脸检测。板子一上电，串口疯狂打印“HardFault”，复位后连RTOS都起不来。我一看代码，好家伙，直接把一个4MB的TFLite模型塞进了256K…...

编程新知 2026/5/12 3:45:40

晶体功率测试原理与MAX9485音频时钟应用实践

1. 晶体功率测试的背景与意义在音频时钟系统设计中&#xff0c;晶体振荡器的功率控制是个容易被忽视却至关重要的参数。以我们常用的MAX9485音频时钟发生器为例&#xff0c;其核心的VCXO&#xff08;压控晶体振荡器&#xff09;模块直接决定了整个系统的时钟精度。记得2013年参…...

编程新知 2026/5/12 3:38:43

嵌入式系统调试技术：从JTAG到多核同步的实战指南

1. 嵌入式系统调试技术概述在嵌入式系统开发过程中&#xff0c;调试环节往往占据整个开发周期的40%-60%时间。与通用计算机系统不同&#xff0c;嵌入式系统通常运行在资源受限的环境中&#xff0c;缺乏标准输入输出设备&#xff0c;这使得调试工作更具挑战性。我曾参与过多个工…...

编程新知 2026/5/12 1:33:50

DeepSeek API Gateway与大模型推理服务深度协同：如何实现Token级流控、异步响应封装、Streaming SSE自动保活？

更多请点击&#xff1a; https://intelliparadigm.com 第一章&#xff1a;DeepSeek API Gateway架构全景与核心定位 DeepSeek API Gateway 是面向大模型服务的高性能、可扩展网关系统&#xff0c;承担请求路由、认证鉴权、流量控制、协议转换与可观测性聚合等关键职责。它并非…...

编程新知 2026/5/12 1:25:42

从‘能用’到‘优雅’：Python函数设计的3个坏味道与5个重构技巧（附代码对比）

从‘能用’到‘优雅’&#xff1a;Python函数设计的3个坏味道与5个重构技巧&#xff08;附代码对比&#xff09; 在Python开发中&#xff0c;函数是最基本的代码组织单元。许多开发者能够快速实现功能&#xff0c;却往往忽视了函数设计的质量。本文将揭示三种典型的函数设计&qu…...

编程新知 2026/5/11 23:49:50

从仿真到论文图表：手把手教你用FDTD参数扫描和Matlab处理WO3薄膜光学数据

从仿真到论文图表&#xff1a;FDTD参数扫描与Matlab数据可视化全流程解析 在光电材料研究中&#xff0c;WO₃薄膜因其优异的电致变色特性备受关注。当我们需要系统研究薄膜厚度对光学性能的影响时&#xff0c;FDTD Solutions的参数扫描功能配合Matlab的数据处理能力&#xff0c…...

编程新知 2026/5/11 21:10:24

Simulink进阶：用S-Function Builder封装你的C语言电机控制算法（以MTPA为例）

Simulink进阶&#xff1a;用S-Function Builder封装C语言电机控制算法实战指南 在电机控制领域&#xff0c;算法验证环节常常面临一个关键矛盾&#xff1a;DSP嵌入式代码的高效性与Simulink系统级仿真的可视化优势如何兼得&#xff1f;我曾参与过一个永磁同步电机控制项目&…...

编程新知 2026/5/11 20:42:33

2026届学术党必备的降重复率平台横评

Ai论文网站排名&#xff08;开题报告、文献综述、降aigc率、降重综合对比&#xff09; TOP1. 千笔AI TOP2. aipasspaper TOP3. 清北论文 TOP4. 豆包 TOP5. kimi TOP6. deepseek 1. 在学术写作这个特定领域里&#xff0c;合理运用AI工具能切实有效提升文献检索、大纲构建…...

编程新知 2026/5/11 17:35:41

Visual C++运行库智能修复技术方案：高效解决Windows软件依赖问题的终极指南

Visual C运行库智能修复技术方案&#xff1a;高效解决Windows软件依赖问题的终极指南 【免费下载链接】vcredist AIO Repack for latest Microsoft Visual C Redistributable Runtimes 项目地址: https://gitcode.com/gh_mirrors/vc/vcredist Visual C Redistributable运…...

编程新知 2026/5/11 16:14:11

大模型入门必看：收藏这份工业大模型学习指南，小白也能轻松入门

本文介绍了工业大模型的概念、体系架构和构建方法&#xff0c;分析了工业大模型在制造业中的应用潜力。文章指出&#xff0c;工业大模型并非通用大模型在工业领域的简单应用&#xff0c;而是一套全新的理论与技术体系。工业大模型通过融合工业数据和机理知识&#xff0c;具备智…...

编程新知 2026/5/11 16:12:08