当前位置： 首页 > news >正文

15 Transformer 框架概述

news 2026/4/15 6:07:38

整体框架

img

机器翻译流程（Transformer）

通过机器翻译来做解释

给一个输入，给出一个输出（输出是输入的翻译的结果）

“我是一个学生” --》（通过 Transformer） I am a student

流程 1

img

编码器和解码器

编码器：把输入变成一个词向量（Self-Attetion）

解码器：得到编码器输出的词向量后，生成翻译的结果

流程 2

img

Nx 的意思是，编码器里面又有 N 个小编码器（默认 N=6）

通过 6 个编码器，对词向量一步又一步的强化（增强）

流程 3

img

说了这么多，了解 Transformer 就是了解 Transformer 里的小的编码器（Encoder）和小的解码器（Decoder）

FFN（Feed Forward）：w2(（w1x+b1）)+b2

流程 4

img

相关文章：

15 Transformer 框架概述

整体框架 机器翻译流程（Transformer） 通过机器翻译来做解释 给一个输入，给出一个输出（输出是输入的翻译的结果） “我是一个学生” --》（通过 Transformer） I am a student 流程 1 编码器和解…...

编程日记 2023/10/23 7:32:43

[架构之路-241]：目标系统 - 纵向分层 - 企业信息化与企业信息系统（多台企业应用单机组成的企业信息网络）

目录 前言： 一、什么是信息系统：计算机软件硬件系统 1.1 什么是信息 1.2 什么是信息系统 1.3 什么是信息技术 1.4 什么是信息化与信息化转型 1.5 什么是数字化与数字化转型（信息化的前提） 1.6 数字化与信息化的比较 1.7 …...

编程日记 2023/10/23 7:31:42

flink中使用异步函数的几个注意事项

背景 在flink系统中，我们为了补充某个流事件成一个完整的记录，经常需要调用外部接口获取一些配置数据，流事件结合这些配置数据就可以组合成一条完整的记录，然而如果同步调用外部系统接口来实现，那么会有很大的性能瓶颈…...

编程日记 2023/10/23 7:29:39

QML之Repeater 控件使用

Repeater 控件是 重复作用 根据 model中的index 数量进行重复 废话不说 直接看如何用 当model 为数字时 Rectangle{height: 1200width: 500visible: trueanchors.fill: parentColumn{spacing: 20Repeater{model: 10delegate: Rectangle{width: 60height: 20color: index%2 …...

编程日记 2023/10/23 7:28:38

哈希树讲解

哈希树(HashTree)是哈希(Hash)算法的一种延续。传统数据结构中对如何避免哈希冲突都有一定的描述和解释，但是这些描述和解释都是泛泛而谈，并没有提出比较好的解决方案。这里所提到的哈希树(HashTree)算法就是要提供一种在理论上和实际应用中均能有效地处…...

编程日记 2023/10/23 7:27:37

vue 项目启动后一直不断的刷新停不下来

新建的vue 项目，配置了代理后项目一直刷新，停不下来，各种查找最后发现是vue.config.js 中的热更新配置项目开启的原因 const {defineConfig } require(vue/cli-service) const AutoImport require(unplugin-auto-import/webpack) const Co…...

编程日记 2023/10/23 7:26:36

makesense在线yolov5标注

文章目录 一、创建图片文件夹和label.txt二、在线标注数据 参考文章博主：风吹落叶花飘荡 一、创建图片文件夹和label.txt 创建一个放置图片的文件夹images，存放需要标注的图片（图片最好重命名为1,2,3…避免后面混淆） 创建label.t…...

编程日记 2023/10/23 7:25:34

python 之 矩阵相关操作

文章目录 1. **创建矩阵**：2. **矩阵加法**：3. **矩阵乘法**：4. **矩阵转置**：5. **元素级操作**：6. **汇总统计**：7. **逻辑操作**： 理解你的需求，我将为每个功能写一个单独的代码块…...

编程日记 2023/10/23 7:24:33

敢问路在何方

从2022年进入软件行业到现在，二十二年眨眼之间过去了，依然奋斗在编码第一线，挣扎在第一线，借此程序员佳节之际回顾一下这许多年的历程。 由于本人混得实在不好，工作过的地方都用某单位某公司来代替实际的，到…...

编程日记 2023/10/23 7:23:31

复习mysql中的事务

一个事务的开始和结尾必须是 start transaction | commit; rollback 事务特性 1.原子性：多个操作打包成一个整体，要么全部执行，要么一个都不执行。 不过这里的“一个都不执行”并不是真正的全不执行，只是看起来与没执行一样。…...

编程日记 2023/10/23 7:22:30

力扣刷题 day52：10-22

1.数组拆分 给定长度为 2n 的整数数组 nums ，你的任务是将这些数分成 n 对, 例如 (a1, b1), (a2, b2), ..., (an, bn) ，使得从 1 到 n 的 min(ai, bi) 总和最大。 返回该 最大总和 。 方法一：排序 #方法一：排序 def arrayPai…...

编程日记 2023/10/23 7:21:30

ELK概述部署和Filebeat 分布式日志管理平台部署

ELK概述部署、Filebeat 分布式日志管理平台部署 一、ELK 简介二、ELK部署2.1、部署准备2.2、优化elasticsearch用户拥有的内存权限2.3、启动elasticsearch是否成功开启2.4、浏览器查看节点信息2.5、安装 Elasticsearch-head 插件2.6、ELK Logstash 部署（在 Apache 节…...

编程日记 2023/10/23 7:20:28

分享一下我家网络机柜，家庭网络设备推荐

家里网络机柜搞了几天终于搞好了，非专业的，走线有点乱，勿喷。 从上到下的设备分别是： 无线路由器（当ap用）:TL-XDR6088 插排：德木pdu机柜插排 硬盘录像机：TL-NVR6108-L8P 第二排左边…...

编程日记 2023/10/23 7:19:28

uboot移植之mx6ull_alientek_nand.h文件详解三

一. 简介 mx6ull_alientek_nand.h文件是 开发板的 uboot的一个配置文件。每个开发板都有一个 .h的配置文件。 mx6ull_alientek_nand.h 文件其实是 之前针对正点原子ALPHA开发板移植的 Uboot配置文件。 本文继上一篇文章的学习，地址如下：uboot移植之m…...

编程日记 2023/10/23 7:18:27

[Docker]一.Docker 简介与安装

一、Docker简介与为什么要用 Docker 1.1、Docker 介绍 Docker 是一个跨平台的开源的 应用容器引擎 ，诞生于 2013 年初，基于 Go语言 并遵从 Apache2.0 协议开源, Docker 可以把它理解成虚拟机，但是 Docker 和传统虚拟化方式 有所不同 …...

编程日记 2023/10/23 7:17:26

计算机网络-计算机网络体系结构-传输层

目录 一、UDP 二、TCP 特点 首部格式 连接管理 可靠传输 流量控制(点对点) 拥塞控制(全局) 三、拥塞控制算法 慢开始&拥塞避免 快重传&快恢复 功能一：提供进程与进程之间的逻辑通信 功能二：复用和分用 功能三：对收到的报…...

编程日记 2023/10/23 7:16:26

buuctf[HCTF 2018]WarmUp 1

题目环境&#xff1a; 发现除了表情包&#xff0c;再无其他F12试试发现source.php文件访问这个文件&#xff0c;格式如下&#xff1a;url/source.php回显如下&#xff1a;PHP代码审计&#xff1a; <?php highlight_file(__FILE__); class emmm {public static function ch…...

编程日记 2023/10/23 7:15:24

开源博客项目Blog .NET Core源码学习（4：生成验证码）

开源博客项目Blog中的后台管理登录界面中支持输入验证码&#xff08;如下图所示&#xff09;&#xff0c;本文学习并记录项目中验证码的生成及调用方式。   博客项目中调用VerifyCode类生成验证码&#xff0c;该类位于App.Framwork项目中&#xff0c;命名空间为App.Framwork…...

编程日记 2023/10/23 7:14:23

gin框架39--重构 BasicAuth 中间件

gin框架39--重构 BasicAuth 中间件 介绍gin BasicAuth 解析自定义newAuth实现基础认证注意事项说明 介绍 每当我们打开一个网址的时候&#xff0c;会自动弹出一个认证界面&#xff0c;要求我们输入用户名和密码&#xff0c;这种BasicAuth是最基础、最常见的认证方式&#xff0…...

编程日记 2023/10/23 7:12:21

编译pycaffe过程中遇到的问题及解决

pycaffe是python调用caffe的方式&#xff0c;编译它就是要得到一个so库_pycaffe.so。 如题&#xff0c;在caffe的源码目录下&#xff0c;执行make pycaffe&#xff0c;跳出来一个错误: $ make pycaffe CXX/LD -o python/caffe/_caffe.so python/caffe/_caffe.cpp /usr/bin/ld…...

编程日记 2023/10/23 7:11:20

构建可泛化多模态底座的48小时攻坚实录：含23个真实标注冲突案例与自动修复脚本（限前500名领取）

第一章&#xff1a;多模态大模型训练数据构建策略的范式演进 2026奇点智能技术大会(https://ml-summit.org) 多模态大模型的数据构建已从早期人工标注与规则驱动&#xff0c;跃迁至以自监督对齐、跨模态蒸馏和合成反馈闭环为核心的协同演化范式。这一演进不仅反映在数据规模的…...

编程新知 2026/4/15 5:22:55

PowerBI进阶技巧：利用SVG打造动态数据标签与进度条

1. 为什么需要SVG动态数据标签与进度条 在PowerBI报表设计中&#xff0c;表格是最常用的数据展示形式之一。但传统表格有个致命问题&#xff1a;当数据量较大时&#xff0c;关键信息容易被淹没在海量数据中。想象一下&#xff0c;你给领导展示的销售报表有20列数据&#xff0c;…...

编程新知 2026/4/15 5:12:13

如何在AMD RX590上高效运行DeepSeek R1 32B大模型？

1. AMD RX590运行DeepSeek R1 32B的可行性分析 用一张2018年发布的千元级显卡跑动320亿参数的大模型&#xff1f;这听起来像是天方夜谭&#xff0c;但实测证明完全可行。我的迪兰恒进RX590恶魔版&#xff08;8GB显存&#xff09;在降频至1170MHz的状态下&#xff0c;成功跑起了…...

编程新知 2026/4/15 4:41:04

配置 PyCharm（汉化版操作指南）

本文详细介绍了PyCharm汉化版配置Python 3.13.13环境的完整步骤。首先通过"文件→设置→Python解释器"路径进入配置界面&#xff0c;选择"添加本地解释器"并创建Virtualenv虚拟环境&#xff0c;指定Python3.13.13安装路径中的python.exe作为基础解释器。重…...

编程新知 2026/4/15 4:36:57

Docker 和 Kubernetes 部署 Java 应用最佳实践：构建现代化容器化系统

Docker 和 Kubernetes 部署 Java 应用最佳实践&#xff1a;构建现代化容器化系统别叫我大神&#xff0c;叫我 Alex 就好。今天我们来聊聊 Docker 和 Kubernetes 部署 Java 应用的最佳实践&#xff0c;这些实践可以帮助我们更高效地管理和运行容器化应用。一、引言 容器化技术已…...

编程新知 2026/4/15 2:53:58

tools video、PDFka

链接&#xff1a;https://pan.quark.cn/s/e4446a9373c6网上在线工具五花八门&#xff0c;不少要么广告弹窗满天飞&#xff0c;要么藏着付费套路&#xff0c;实际体验大打折扣。今天给大家挖到 3 个亲测好用的宝藏工具&#xff0c;免费无套路&#xff0c;功能拉满&#xff0c;用…...

编程新知 2026/4/15 2:35:45

团队协作最小的良性开发闭环

问题陈述 现状&#xff1a;团队成员个人能力不差&#xff0c;但在「一起开发同一套系统」时&#xff0c;整体效率偏低、质量不稳&#xff1b;产品需求更新频繁、节奏快&#xff0c;且缺少前置规划与边界。 表层问题&#xff1a;产品、开发、测试对同一功能在「做什么、做到什么…...

编程新知 2026/4/15 2:21:35

逆向实战：药监局瑞数6vmp算法解析与突破

1. 瑞数6vmp算法初探 第一次接触药监局网站的瑞数6vmp防护时&#xff0c;我整个人都是懵的。打开开发者工具&#xff0c;熟悉的debugger断点就像机关枪一样疯狂弹出&#xff0c;控制台还时不时跳出"禁止输出"的警告。这种体验就像试图拆解一个会咬人的俄罗斯套娃&…...

编程新知 2026/4/15 2:03:07

Godot Open RPG UI设计最佳实践：创建专业级游戏界面

Godot Open RPG UI设计最佳实践&#xff1a;创建专业级游戏界面 【免费下载链接】godot-open-rpg Learn to create turn-based combat with this Open Source RPG demo ⚔ 项目地址: https://gitcode.com/gh_mirrors/go/godot-open-rpg Godot Open RPG是一款开源的回合制…...

编程新知 2026/4/14 21:33:06

Linux内核OOM Killer机制深度解析：从配置到实战

1. 为什么你的进程突然消失了&#xff1f;认识OOM Killer 你有没有遇到过这种情况&#xff1a;服务器上跑得好好的程序突然消失了&#xff0c;查看日志只留下一句"Killed"&#xff1f;这很可能就是Linux内核的OOM Killer&#xff08;Out-Of-Memory Killer&#xff09…...

编程新知 2026/4/14 17:16:17