深度学习算法bert
bert 属于自监督学习的一种（输入x的部分作为label）
1. bert是 transformer 中的 encoder ，不同的bert在encoder层数、注意力头数、隐藏单元数不同
2. 假设我们有一个模型 m ，首先我们为某种任务使用大规模的语料库预训练模型 m 。现在来了一个新任务，并有一个新模型，我们使用已经训练过的模型(预训练的模型) m 的参数来初始化新的模型，而不是使用随机参数来初始化新模型。然后根据新任务调整(微调)新模型的参数
3. bert（预训练做两个任务，一是填空（预测被屏蔽掉的词）二是 NSP 判断是否下一句（预测CLS）），但接下来可以做其他任务，又叫微调（需要一些标注数据）
4. 输入到bert模型之前需要编码
token embedding + segment embedding + position embedding
相关文章：
深度学习算法bert
bert 属于自监督学习的一种（输入x的部分作为label） 1. bert是 transformer 中的 encoder ，不同的bert在encoder层数、注意力头数、隐藏单元数不同 2. 假设我们有一个模型 m ，首先我们为某种任务使用大规模的语料库预训练模型 m …...
PyTorch - 神经网络基础
神经网络的主要原理包括一组基本元素，即人工神经元或感知器。它包括几个基本输入，例如 x1、x2… xn ，如果总和大于激活电位，则会产生二进制输出。 样本神经元的示意图如下所述。 产生的输出可以被认为是具有激活电位或偏差的加权…...
docker-compose搭建minio对象存储服务器
docker-compose搭建minio对象存储服务器 最近想使用oss对象存储进行用户图片上传的管理，了解了一下例如aliyun或者腾讯云的oss对象存储服务，但是呢涉及到对象存储以及经费有限的缘故，决定自己手动搭建一个oss对象存储服务器； 首先…...
vue3使用pinia中的actions，需要调用接口的话
actions，需要调用接口的话，假如页面想要调用actions中的方法获取数据， 必须使用try catch async await 进行包裹，详情看下面代码 import {defineStore} from pinia import {reqCode,reqUserLogin} from ../../api/hospital/i…...
Python酷库之旅-第三方库Pandas(003)
目录 一、用法精讲 4、pandas.read_csv函数 4-1、语法 4-2、参数 4-3、功能 4-4、返回值 4-5、说明 4-6、用法 4-6-1、创建csv文件 4-6-2、代码示例 4-6-3、结果输出 二、推荐阅读 1、Python筑基之旅 2、Python函数之旅 3、Python算法之旅 4、Python魔法之旅 …...
社交电商中的裂变营销利器，二级分销模式，美妆家具成功案例分享
二级分销返佣模式是一种帮助商家迅速扩大市场覆盖的有效营销策略，不仅能降低营销成本，还能提升品牌知名度。下面通过两个具体的案例来说明这种模式的好处和优势。 某知名美妆品牌在市场竞争日益激烈的情况下，决定采用二级分销返佣模式进行市场…...
【国产开源可视化引擎Meta2d.js】图层
独立图层 每个图元都有先后绘画顺序，即每个图元拥有一个独立图层，即meta2d.data().pens的数组索引。 可以通过meta2d.top/bottom/up/down等函数改变独立图层顺序。 分组图层 通过标签可以标识一个分组图层，通过meta2d.find(图层标签)获取…...
基于Redisson实现分布式锁
基于redisson实现分布式锁 之前背过分布式锁几种实现方案的八股文，但是并没有真正自己实操过。现在对AOP有了更深一点的理解，就自己来实现一遍。 1、分布式锁的基础知识 分布式锁是相对于普通的锁的。普通的锁在具体的方法层面去锁，单体应…...
Android Studio下载Gradle特别慢，甚至超时，失败。。。解决方法
使用Android studio下载或更新gradle时超级慢怎么办？ 切换服务器，立马解决。打开gradle配置文件 修改服务器路径 distributionUrlhttps\://mirrors.cloud.tencent.com/gradle/gradle-7.3.3-bin.zip 最后，同步，下载，速…...
leetcode--二叉树中的最长交错路径
leetcode地址：二叉树中的最长交错路径 给你一棵以 root 为根的二叉树，二叉树中的交错路径定义如下： 选择二叉树中 任意 节点和一个方向（左或者右）。 如果前进方向为右，那么移动到当前节点的的右子节点&…...
c++ primer plus 第15章友，异常和其他：15.1.3 其他友元关系
c primer plus 第15章友，异常和其他：15.1.3 其他友元关系 提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加 15.1.3 其他友元关系 提示：写完文章后，目录可以自动生成，如何生成可…...
uniapp+vue3页面跳转和传参
页面跳转： uni.navigateTo({url: /pages/index}) 返回上一层： uni.navigateBack ({delta: 1 }) 页面跳转时传参： 跳转前的页面： uni.navigateTo({url: "/pages/index?id123"}) 跳转后的页面： onLoa…...
硬链接和软链接
在Linux系统中，链接（Link）是一种特殊的文件，它指向另一个文件或目录。链接分为两种类型：硬链接（Hard Link）和软链接（也称为符号链接，Symbolic Link）。 1. 硬…...
属性描述符初探——Vue实现数据劫持的基础
目录 属性描述符——Vue实现数据劫持的基础 一、属性描述符是什么？ 编辑 1.1、属性描述符示例 1.2、用属性描述符定义属性及获取对象的属性描述符 1.3、带有读取器和设置器的属性描述符 二、使用属性描述符的情景 2.1、封装和数据隐藏 使用getter和setter…...
字节也没余粮了？天底下没有永远免费的GPT-4；AI产品用订阅制就不合理！让用户掏钱的N种定价技巧嘿嘿 | ShowMeAI日报
👀日报&周刊合集 | 🎡ShowMeAI官网 | 🧡 点赞关注评论拜托啦！ 1. 当 Coze 也开始收费：天底下没有「永远」免费的 GPT-4 注：这里 Coze 指海外版。国内版 扣子 还是免费。 Coze (海外版) 官网链接 → htt…...
【Matlab 路径优化】基于蚁群算法的XX市旅游景点线路优化系统
基于蚁群算法的XX市旅游景点线路优化系统 （一）客户需求： ①考虑旅游景点的空间分布、游客偏好等因素，实现了旅游线路的智能规划 ②游客选择一景点出发经过所要游览的所有景点只一次，最后回到出发点的前提下…...
我关于Excel使用点滴的笔记
本篇笔记是我关于Excel使用点滴的学习笔记，摘要和地址链接列表。临时暂挂，后面可能在不需要时删除。 (笔记模板由python脚本于2024年06月28日 12:23:32创建，本篇笔记适合初通Python，熟悉六大基本数据(str字符串、int整型、float浮…...
【Java安装】windows10+JDK21+IDEA
文章目录 一、JDK安装1. 下载完成后按照自己需要的位置安装2. 配置环境变量2.1 JAVA_HOME变量2.2 PATH配置 3. 验证4. helloworld 二、IDEA安装三、IDEA-HelloWorld 一、JDK安装 JDK安装链接 1. 下载完成后按照自己需要的位置安装 2. 配置环境变量 2.1 JAVA_HOME变量 安装…...
《简历宝典》01 - 一文带你学会如何写一份糟糕透顶的简历
我们每个人几乎都会面对找工作这件事，而找工作或者说求职首先就是要写一份简历。今天狗哥将以一个不同的视角带你写一份无与伦比，糟糕透顶的求职简历，说实话，其实几年前，我就是这么写的。 目录 1. 文件名 2. 基本信…...
多链路聚合通信路由在应急救援活动中的重要性及解决方案
在应急救援指挥活动中，多链路聚合通信设备如同一座坚固的桥梁，将信息快速、准确地传递至每一个角落。面对复杂多变的救援现场，这类设备展现了其卓越的适应性和稳定性。 想象一下，当灾害突然降临，信息的传递变得至关重…...
＜6＞-MySQL表的增删查改
目录 一，create（创建表） 二，retrieve（查询表） 1，select列 2，where条件 三，update（更新表） 四，delete（删除表…...
VB.net复制Ntag213卡写入UID
本示例使用的发卡器：https://item.taobao.com/item.htm?ftt&id615391857885 一、读取旧Ntag卡的UID和数据 Private Sub Button15_Click(sender As Object, e As EventArgs) Handles Button15.Click轻松读卡技术支持:网站:Dim i, j As IntegerDim cardidhex, …...
在HarmonyOS ArkTS ArkUI-X 5.0及以上版本中，手势开发全攻略：
在 HarmonyOS 应用开发中，手势交互是连接用户与设备的核心纽带。ArkTS 框架提供了丰富的手势处理能力，既支持点击、长按、拖拽等基础单一手势的精细控制，也能通过多种绑定策略解决父子组件的手势竞争问题。本文将结合官方开发文档，…...
鸿蒙中用HarmonyOS SDK应用服务 HarmonyOS5开发一个生活电费的缴纳和查询小程序
一、项目初始化与配置 1. 创建项目 ohpm init harmony/utility-payment-app 2. 配置权限 // module.json5 {"requestPermissions": [{"name": "ohos.permission.INTERNET"},{"name": "ohos.permission.GET_NETWORK_INFO"…...
tree 树组件大数据卡顿问题优化
问题背景 项目中有用到树组件用来做文件目录，但是由于这个树组件的节点越来越多，导致页面在滚动这个树组件的时候浏览器就很容易卡死。这种问题基本上都是因为dom节点太多，导致的浏览器卡顿，这里很明显就需要用到虚拟列表的技术&…...
Python 包管理器 uv 介绍
Python 包管理器 uv 全面介绍 uv 是由 Astral（热门工具 Ruff 的开发者）推出的下一代高性能 Python 包管理器和构建工具，用 Rust 编写。它旨在解决传统工具（如 pip、virtualenv、pip-tools）的性能瓶颈，同时…...
C++：多态机制详解
目录 一. 多态的概念 1.静态多态（编译时多态） 二.动态多态的定义及实现 1.多态的构成条件 2.虚函数 3.虚函数的重写/覆盖 4.虚函数重写的一些其他问题 1）.协变 2）.析构函数的重写 5.override 和 final关键字 1&#…...
【p2p、分布式，区块链笔记 MESH】Bluetooth蓝牙通信 BLE Mesh协议的拓扑结构 定向转发机制
目录 节点的功能承载层（GATT/Adv）局限性： 拓扑关系定向转发机制定向转发意义 CG 节点的功能 节点的功能由节点支持的特性和功能决定。所有节点都能够发送和接收网格消息。节点还可以选择支持一个或多个附加功能，如 Configuration …...
SQL Server 触发器调用存储过程实现发送 HTTP 请求
文章目录 需求分析解决第 1 步：前置条件，启用 OLE 自动化方式 1：使用 SQL 实现启用 OLE 自动化方式 2：Sql Server 2005启动OLE自动化方式 3：Sql Server 2008启动OLE自动化第 2 步：创建存储过程第 3 步：创建触发器扩展 - 如何调试？第 1 步：登录 SQL Server 2008第 2 步…...
6个月Python学习计划 Day 16 - 面向对象编程（OOP）基础
第三周 Day 3 🎯 今日目标 理解类（class）和对象（object）的关系学会定义类的属性、方法和构造函数（init）掌握对象的创建与使用初识封装、继承和多态的基本概念（预告） &a…...