当前位置： 首页 > news >正文

self-attention、transformer、bert理解

news 2025/12/17 11:57:18

参考李宏毅老师的视频 https://www.bilibili.com/video/BV1LP411b7zS?p=2&spm_id_from=pageDriver&vd_source=c67a2725ac3ca01c38eb3916d221e708
在这里插入图片描述
一个输入，一个输出，未考虑输入之间的关系！！！
在这里插入图片描述
在这里插入图片描述

self-attention考虑输入之间的关系，关于a1的输出b1的计算方法如上图所示，如此类推计算b2，b3，b4，合并考虑整体计算公式如下图所示，就是找出Wq，Wk和Wv。
在这里插入图片描述
multi-head attention：
在这里插入图片描述
transformer：
在这里插入图片描述
在这里插入图片描述
cross attention：
在这里插入图片描述

相关文章：

self-attention、transformer、bert理解

参考李宏毅老师的视频 https://www.bilibili.com/video/BV1LP411b7zS?p2&spm_id_frompageDriver&vd_sourcec67a2725ac3ca01c38eb3916d221e708 一个输入，一个输出，未考虑输入之间的关系！！！ self-attention…...

编程日记 2023/10/4 6:16:20

junit @ExcludePackages排除多个包

在JUnit中，可以使用ExcludePackages注解来排除多个包。该注解可以用在测试类或测试方法上。 如果要排除多个包，可以在ExcludePackages注解的value属性中使用数组来指定要排除的包名。例如，要排除包com.example.package1和com.example.packag…...

编程日记 2023/10/4 6:15:19

Explain执行计划字段解释说明---select_type、table、patitions字段说明

1、select_type的类型有哪些 2、select_type的查询类型说明 1、SIMPLE 简单的 select 查询,查询中不包含子查询或者UNION 2、PRIMARY 查询中若包含任何复杂的子部分，最外层查询则被标记为Primary 3、DERIVED 在FROM列表中包含的子查询被标记为DERIVED(衍生)&…...

编程日记 2023/10/4 6:14:18

云原生微服务 第六章 Spring Cloud Netflix Eureka集成远程调用、负载均衡组件OpenFeign

系列文章目录 第一章 Java线程池技术应用 第二章 CountDownLatch和Semaphone的应用 第三章 Spring Cloud 简介 第四章 Spring Cloud Netflix 之 Eureka 第五章 Spring Cloud Netflix 之 Ribbon 第六章 Spring Cloud 之 OpenFeign 文章目录 系列文章目录前言1、OpenFeign的实现…...

编程日记 2023/10/4 6:13:17

四、2023.9.30.C++面向对象end.4

文章目录 49、 简述一下什么是常函数，有什么作用？50、 说说什么是虚继承，解决什么问题，如何实现？51、简述一下虚函数和纯虚函数，以及实现原理？52、说说纯虚函数能实例化吗，为什么&am…...

编程日记 2023/10/4 6:12:16

【Java】包

package 包（package）:其实就是文件夹。 作用：对类进行分类管理。 包的定义格式 格式：package 包名（多级包用 . 分开） 范例：package com.mayikt.demo01 带包的Java类编译和执行 1. 手动建包 安装…...

编程日记 2023/10/4 6:11:15

Hive【Hive（二）DML】

启动 hive 命令行： hive DML 数据操作 1、数据导入 1.1、向表中装载数据（load） 语法： hive> load data [local] inpath 数据的path [overwrite] into table student [partition (partcol1val1,…)];（1&#x…...

编程日记 2023/10/4 6:08:12

HTTP的请求方法，空行，body,介绍请求报头的内部以及粘包问题

目录 一、GET与POST简介 二、空行和body 三、初识请求报头以及粘包问题 四、认识请求报头剩余部分 一、GET与POST简介 GET https://www.sogou.com/HTTP/1.1 请求报文中的方法，是最常规的方法（获取资源） POST：传输实体主体的方法…...

编程日记 2023/10/4 6:05:08

win10 ip设置

百度安全验证...

编程日记 2023/10/4 6:03:07

alibaba dragonwell jdk

阿里巴巴Dragonwell8快速指南 dragonwell-project/dragonwell8 Wiki GitHub 阿里巴巴Dragonwell8用户指南 dragonwell-project/dragonwell8 Wiki GitHub 阿里巴巴Dragonwell8常见问题 dragonwell-project/dragonwell8 Wiki GitHub...

编程日记 2023/10/4 6:00:03

jvm内存分配与回收策略

自动内存管理 解决两个问题 自动给对象分配内存 对象一般堆上分配（而实际上也有可能经过即时编译后被拆散为标量类型并间接地在栈上分配） 新生对象通常会分配在新生代，少数情况下（例如对象大小超过一定阈值）也可能…...

编程日记 2023/10/4 5:59:02

【Vue2和Vue3的双向绑定区别】

Vue2和Vue3的双向绑定区别 vue2 双向绑定原理vue3 双向绑定原理Vue2和Vue3的双向绑定存在以下区别： vue2 双向绑定原理 Vue2 双向绑定的实现主要依赖于 Object.defineProperty() 方法和观察者模式，其中 Object.defineProperty() 方法用于定义属性的 get…...

编程日记 2023/10/4 5:58:02

【再识C进阶3(下)】详细地认识字符分类函数，字符转换函数和内存函数

前言 💓作者简介： 加油，旭杏，目前大二，正在学习C，数据结构等👀 💓作者主页：加油，旭杏的主页👀 ⏩本文收录在：再识C进阶的专栏&#x1…...

编程日记 2023/10/4 5:56:00

windows WSL配置cuda，pytorch和jupyter notebook

机器配置 GPU: NVIDIA Quadro K2000 与 NVIDIA 驱动程序捆绑的CUDA版本 但按照维基百科的描述，我的GPU对应的compute capability3.0，允许安装的CUDA最高只支持10.2，如下所示。 为什么本地会显示11.4呢？对此，GPT是这…...

编程日记 2023/10/4 5:53:58

回调地狱的产生=＞Promise链式调用解决

常见的异步任务包括网络请求、文件读写、定时器等。当多个异步任务之间存在依赖关系，需要按照一定的顺序执行时，就容易出现回调地狱的情况。例如，当一个网络请求的结果返回后，需要根据返回的数据进行下一步的操作，这时…...

编程日记 2023/10/4 5:51:56

【设计模式】六、建造者模式

文章目录 需求介绍角色应用实例建造者模式在 JDK 的应用和源码分析java.lang.StringBuilder 中的建造者模式 建造者模式的注意事项和细节 需求 需要建房子：这一过程为打桩、砌墙、封顶房子有各种各样的，比如普通房，高楼，别墅&…...

编程日记 2023/10/4 5:50:55

SpringBoot 可以同时处理多少请求

一、前言 首先，在Spring Boot应用中，我们可以使用 Tomcat、Jetty、Undertow 等嵌入式 Web 服务器作为应用程序的运行容器。这些服务器都支持并发请求处理的能力。另外，Spring Boot 还提供了一些配置参数，可以对 Web 服务器进行调…...

编程日记 2023/10/4 5:49:55

嵌入式Linux应用开发-驱动大全-第一章同步与互斥②

嵌入式Linux应用开发-驱动大全-第一章同步与互斥② 第一章 同步与互斥②1.3 原子操作的实现原理与使用1.3.1 原子变量的内核操作函数1.3.2 原子变量的内核实现1.3.2.1 ATOMIC_OP在 UP系统中的实现1.3.2.2 ATOMIC_OP在 SMP系统中的实现 1.3.3 原子变量使用案例1.3.4 原子位介绍1…...

编程日记 2023/10/4 5:48:54

EasyExcel的源码流程（导入Excel）

1. 入口 2. EasyExcel类继承了EasyExcelFactory类，EasyExcel自动拥有EasyExcelFactory父类的所有方法，如read()，readSheet()，write()，writerSheet()等等。 3. 进入.read()方法，需要传入三个参数(文件路径…...

编程日记 2023/10/4 5:47:52

基于 jasypt 实现spring boot 配置文件脱敏

前言 在项目构建过程中，保护敏感信息的安全性至关重要，为了提高系统的安全性能，我们采用了Jasypt来对配置文件中的敏感信息进行加密处理，以确保系统的机密信息不被轻易泄露。 步骤 添加Maven依赖 首先，我们需要添加…...

编程日记 2023/10/4 5:44:49

使用VSCode开发Django指南

使用VSCode开发Django指南 一、概述 Django 是一个高级 Python 框架，专为快速、安全和可扩展的 Web 开发而设计。Django 包含对 URL 路由、页面模板和数据处理的丰富支持。 本文将创建一个简单的 Django 应用，其中包含三个使用通用基本模板的页面。在此…...

编程新知 2025/12/15 20:06:13

盘古信息PCB行业解决方案：以全域场景重构，激活智造新未来

一、破局：PCB行业的时代之问 在数字经济蓬勃发展的浪潮中，PCB（印制电路板）作为 “电子产品之母”，其重要性愈发凸显。随着 5G、人工智能等新兴技术的加速渗透，PCB行业面临着前所未有的挑战与机遇。产品迭代…...

编程新知 2025/12/17 10:24:59

Caliper 配置文件解析：config.yaml

Caliper 是一个区块链性能基准测试工具，用于评估不同区块链平台的性能。下面我将详细解释你提供的 fisco-bcos.json 文件结构，并说明它与 config.yaml 文件的关系。 fisco-bcos.json 文件解析 这个文件是针对 FISCO-BCOS 区块链网络的 Caliper 配置文件，主要包含以下几个部…...

编程新知 2025/8/13 13:40:18

均衡后的SNRSINR

本文主要摘自参考文献中的前两篇，相关文献中经常会出现MIMO检测后的SINR不过一直没有找到相关数学推到过程，其中文献[1]中给出了相关原理在此仅做记录。 1. 系统模型 复信道模型 n t n_t nt​ 根发送天线， n r n_r nr​ 根接收天线的 MIMO 系…...

编程新知 2025/12/9 19:30:18

CRMEB 中 PHP 短信扩展开发：涵盖一号通、阿里云、腾讯云、创蓝

目前已有一号通短信、阿里云短信、腾讯云短信扩展 扩展入口文件 文件目录 crmeb\services\sms\Sms.php 默认驱动类型为：一号通 namespace crmeb\services\sms;use crmeb\basic\BaseManager; use crmeb\services\AccessTokenServeService; use crmeb\services\sms\…...

编程新知 2025/10/5 5:38:24

DiscuzX3.5发帖json api

参考文章：PHP实现独立Discuz站外发帖(直连操作数据库)_discuz 发帖api-CSDN博客 简单改造了一下，适配我自己的需求 有一个站点存在多个采集站，我想通过主站拿标题，采集站拿内容 使用到的sql如下 CREATE TABLE pre_forum_post_…...

编程新知 2025/11/25 17:20:50

【Linux】Linux安装并配置RabbitMQ

目录 1. 安装 Erlang 2. 安装 RabbitMQ 2.1.添加 RabbitMQ 仓库 2.2.安装 RabbitMQ 3.配置 3.1.启动和管理服务 4. 访问管理界面 5.安装问题 6.修改密码 7.修改端口 7.1.找到文件 7.2.修改文件 1. 安装 Erlang 由于 RabbitMQ 是用 Erlang 编写的，需要先安…...

编程新知 2025/12/6 7:19:48

CppCon 2015 学习:Reactive Stream Processing in Industrial IoT using DDS and Rx

“Reactive Stream Processing in Industrial IoT using DDS and Rx” 是指在工业物联网（IIoT）场景中，结合 DDS（Data Distribution Service） 和 Rx（Reactive Extensions） 技术，实现 …...

编程新知 2025/11/8 23:40:56

未授权访问事件频发，我们应当如何应对？

在当下，数据已成为企业和组织的核心资产，是推动业务发展、决策制定以及创新的关键驱动力。然而，未授权访问这一隐匿的安全威胁，正如同高悬的达摩克利斯之剑，时刻威胁着数据的安全，一旦触发，便可…...

编程新知 2025/12/14 16:02:09

基于 HTTP 的单向流式通信协议SSE详解

SSE（Server-Sent Events）详解 🧠 什么是 SSE？ SSE（Server-Sent Events） 是 HTML5 标准中定义的一种通信机制，它允许服务器主动将事件推送给客户端（浏览器）。与传统的 H…...

编程新知 2025/10/28 10:54:22